Glossar der KI, der LLM und der Daten

Statistischer Vergleich von zwei oder mehr Verfahren. Verfahren A ist in der Regel das bestehende, B das neue. Der Test zeigt, welches besser abschneidet und ob der Unterschied statistisch signifikant ist. Meist betrachtet er nur eine Kennzahl, er kann aber auch mehrere vergleichen.

Illustration Velista Die aktuelle Preisregel (A) mit einer vom Modell empfohlenen Regel (B) in vergleichbaren Märkten vergleichen.

Quelle Google, Machine Learning Glossary

Siehe auch im Glossar: Kannibalisierung

Verordnung (EU) 2024/1689, von der Europäischen Kommission als erster umfassender Rechtsrahmen für KI vorgestellt. Sie legt Regeln nach vier Risikostufen fest: verbotene Praktiken (unannehmbares Risiko), Hochrisiko-Systeme, Transparenzrisiko (zum Beispiel Nutzer darüber informieren, dass sie mit einer Maschine sprechen, erzeugte Inhalte kenntlich machen) und minimales Risiko ohne spezifische Regel. Sie enthält außerdem Regeln für KI-Modelle mit allgemeinem Verwendungszweck.

Zeitplan laut Kommission (Seite aktualisiert am 3. August 2026): in Kraft getreten am 1. August 2024, anwendbar ab dem 2. August 2026 mit Ausnahmen. Die Regeln für Modelle mit allgemeinem Verwendungszweck gelten seit August 2025. Die Regeln für die in Anhang III aufgeführten Hochrisiko-Anwendungen sind auf den 2. Dezember 2027 verschoben, jene für in Produkte integrierte Systeme auf den 2. August 2028, durch die Verordnung (EU) 2026/1744 (Digital Omnibus on AI).

Quelle Europäische Kommission, AI Act

Gesamtheit der Funktionen und Regeln einer Software, über die man automatisiert mit ihr interagieren kann, statt über ihre Benutzeroberfläche.

Illustration Velista Ein SaaS-Anbieter stellt eine API bereit, damit seine Kunden dessen Empfehlungen in ihre eigenen Systeme übernehmen können.

Quelle MDN Web Docs, Glossar: API (auf Französisch)

Im Vokabular von Google wählt ein Agent Aktionen anhand einer Strategie, wechselt von einem Zustand der Umgebung in den nächsten und versucht, den erwarteten Ertrag zu maximieren. Wenn menschliche Bewerter die Antworten eines Modells benoten, um es zu verbessern, spricht man von RLHF (siehe RLHF).

Quelle Google, Machine Learning Glossary

Siehe auch: RLHF

Google unterscheidet zwei Formen, im Sinne von Ethik und Fairness. Die erste: Stereotype, Vorurteile oder Bevorzugung gegenüber bestimmten Dingen, Personen oder Gruppen, die die Erhebung und Deutung von Daten, den Entwurf eines Systems und die Interaktionen mit ihm beeinflussen können (Automatisierungs-Bias, Bestätigungs-Bias usw.). Die zweite: ein systematischer Fehler, den ein Stichproben- oder Berichtsverfahren einführt (Auswahl-Bias, Abdeckungs-Bias, Nichtbeantwortungs-Bias usw.).

Nicht zu verwechseln mit dem Bias-Term (Achsenabschnitt) eines Modells und auch nicht mit dem Vorhersage-Bias.

Quelle Google, ML-Glossar (Grundlagen)

Siehe auch im Glossar: Survivorship Bias

Definition des NIST (SP 1500-1): umfangreiche Datensätze, die vor allem durch Volumen, Vielfalt, Geschwindigkeit und/oder Variabilität gekennzeichnet sind und eine skalierbare Architektur für effiziente Speicherung, Verarbeitung und Analyse erfordern.

Quelle NIST, Big Data

Veränderung der Beziehung zwischen den Features und dem Label. Das Modell lernt diese Beziehung an seinem Trainingsdatensatz; spiegelt sie die reale Welt nicht mehr wider, verschlechtern sich seine Vorhersagen mit der Zeit. Beispiel von Google: Was als „kraftstoffsparendes Auto“ gilt, ändert sich, ein 1994 gelabeltes Modell wäre 2024 fast sicher falsch. Google empfiehlt, schneller neu zu trainieren, als der Drift verläuft. Siehe auch Nichtstationarität.

Quelle Google, Machine Learning Glossary

Siehe auch: Nichtstationarität

Siehe auch im Glossar: Health Score, Datenaktualität

Laut Anthropic die Gesamtheit der Strategien, um während der Inferenz eines LLM die optimale Menge an Tokens (Informationen) auszuwählen und zu pflegen, einschließlich allem, was außerhalb der Prompts in den Kontext gelangt. Anthropic stellt sie als natürliche Fortsetzung des Prompt Engineering dar, dessen Hauptgegenstand das Verfassen wirksamer Prompts ist, insbesondere von System-Prompts. Bei Agenten, die über mehrere Runden arbeiten, muss der gesamte Kontextzustand verwaltet werden: Systemanweisungen, Werkzeuge, MCP, externe Daten, Nachrichtenverlauf.

Quelle Anthropic, Effective context engineering for AI agents

Laut Gartner die Festlegung von Entscheidungsrechten und eines Verantwortungsrahmens, um ein angemessenes Verhalten bei der Bewertung, Erstellung, Nutzung und Kontrolle von Daten und Analytik zu gewährleisten. Laut DAMA-DMBOK2 die Ausübung von Autorität und Kontrolle (Planung, Überwachung, Durchsetzung) über das Management von Datenbeständen.

Quellen Gartner, Data Governance ; Regierung von Kanada (GCwiki), zitiert DAMA-DMBOK2

Laut der britischen Regierung sind Daten von guter Qualität, wenn sie für den vorgesehenen Zweck geeignet sind. Sie empfiehlt sechs Dimensionen, die von DAMA UK definiert wurden: Genauigkeit, Vollständigkeit, Eindeutigkeit, Konsistenz, Aktualität und Gültigkeit.

Illustration Velista Derselbe Artikel unter zwei Referenzen (Eindeutigkeit); ein Wettbewerbspreis, der vor zehn Tagen erhoben wurde (Aktualität).

Quellen GOV.UK, Meet the data quality dimensions ; GOV.UK, What is data quality?

Auch im Glossar: Datenqualität

Sammlung von Rohdaten, meist (aber nicht nur) in einer Tabellenkalkulation oder einer CSV-Datei organisiert. Ein Beispiel entspricht in der Regel einer Zeile des Datensatzes: Features und gegebenenfalls ein Label.

Quelle Google, ML-Glossar (Grundlagen)

Verkleinerung eines großen Modells (des Lehrers) zu einem kleineren Modell (dem Schüler), das dessen Vorhersagen so getreu wie möglich nachahmt. Vorteile des Schülers: schnellere Inferenz, geringerer Speicher- und Energieverbrauch. Gegenleistung: Seine Vorhersagen sind in der Regel schlechter als die des Lehrers.

Quelle Google, Glossar zur generativen KI

Array von Gleitkommazahlen, das einer verdeckten Schicht eines neuronalen Netzes entnommen wird und die Eingaben dieser Schicht beschreibt; meist der Vektor, den eine Embedding-Schicht lernt. Es sind keine Zufallszahlen: Ähnliche Elemente haben ähnliche Zahlenmengen. Die Werte ändern sich bei jedem erneuten Training, auch mit denselben Daten.

Quelle Google, Machine Learning Glossary

Die Evaluation ist der Prozess, der die Qualität eines Modells misst oder mehrere Modelle vergleicht. Ein überwachtes Modell beurteilt man anhand eines Validierungs- und eines Testdatensatzes. „Evals“ bezeichnen meist Evaluationen von LLMs: Metriken und Benchmarks, die helfen, Verbesserungsbedarf zu erkennen, LLMs zu vergleichen und zu prüfen, ob sie sicher sind. Es gibt drei Arten: automatisch (ein Programm vergleicht die Ausgabe mit einer Referenzantwort, oder ein „Autorater“ urteilt), menschlich und gemischt (ein Autorater, der auf menschlichen Urteilen trainiert wurde).

Quelle Google, Glossar zur generativen KI

Laut Palantir, das diese Stelle erfunden haben will, ein Ingenieur, der direkt bei den Kunden eingesetzt wird, oft vor Ort, um ihre wichtigsten Probleme schnell zu verstehen und dann datenbasierte Lösungen zu entwerfen und umzusetzen. In seinen jüngeren Stellenanzeigen beschreibt Palantir die Aufgabe als den Einsatz von Software und KI in den kritischen Abläufen großer Institutionen, mit „radikalem Einsatz für das Ergebnis“. Diese Definition stammt von dem Anbieter, der den Begriff geprägt hat; andere Unternehmen verwenden den Titel mit unterschiedlichem Zuschnitt, der hier nicht abgedeckt ist.

Quelle Palantir, Stellenanzeige Forward Deployed Software Engineer

Zusätzlicher, aufgabenspezifischer Trainingsdurchlauf auf einem vortrainierten Modell, um dessen Parameter für einen bestimmten Zweck zu verfeinern, typischerweise mit Hunderten oder Tausenden gezielter Beispiele. Google unterscheidet die Änderung aller Parameter (Full Fine-Tuning), die Änderung nur eines Teils, das Hinzufügen von Schichten und parametersparende Techniken wie LoRA. Google vergleicht es mit der Destillation und dem Prompt-Tuning.

Quelle Google, Glossar zur generativen KI

Sehr großes Modell, das auf einem riesigen, vielfältigen Trainingsdatensatz vortrainiert wurde. Es beantwortet eine breite Palette von Anfragen gut und kann als Basismodell für eine Feinabstimmung oder eine andere Anpassung dienen.

Quelle Google, Glossar zur generativen KI

Aufstrebendes Gebiet ohne formale Definition. Die meisten Fachleute sind sich einig, dass seine Modelle Inhalte erzeugen, die zugleich komplex, kohärent und originell sind: Text, Bild, Audio, Musik, Video. Ältere Technologien (LSTM, RNN) können ebenfalls kohärente Inhalte erzeugen; ob sie zur generativen KI gehören, ist umstritten. Google stellt sie dem prädiktiven ML gegenüber.

Quelle Google, Glossar zur generativen KI

Im Vokabular von NVIDIA NeMo Guardrails Regeln („Rails“), die zu verschiedenen Zeitpunkten greifen. Ein Eingabe-Rail wirkt, bevor die Anfrage das Modell erreicht; er kann sie ablehnen oder ändern, zum Beispiel indem er sensible Daten maskiert. Ein Ausgabe-Rail wirkt nach der Generierung und vor der Rückgabe an den Nutzer; er kann die Ausgabe ablehnen oder ändern. Weitere Rails regeln den Dialog, den Abruf von Dokumenten und die Ausführung der vom LLM aufgerufenen Werkzeuge. Der Begriff ist nicht genormt: Diese Definition beschreibt das Rahmenwerk eines Anbieters.

Quelle NVIDIA, NeMo Guardrails Terminology

Erzeugung einer plausibel wirkenden, aber sachlich falschen Ausgabe durch ein generatives KI-Modell, die als Aussage über die reale Welt präsentiert wird. Google nennt auch das Synonym „Konfabulation“, das es technisch für genauer hält, und merkt an, dass sich „Halluzination“ zuerst durchgesetzt hat.

Quellen Google, Glossar zur generativen KI ; Google, Machine Learning Glossary

Ein laut Google unscharfer Ausdruck. Er kann eine Richtlinie bezeichnen, die Ausgaben generativer KI kritisch zu betrachten, oder eine Strategie, die sicherstellt, dass Menschen das Verhalten eines Modells mitgestalten, bewerten und verfeinern. Beispiel von Google: Eine KI erzeugt Code, den Ingenieure prüfen.

Quelle Google, Glossar zur generativen KI

Im klassischen ML der Prozess, Vorhersagen zu treffen, indem man ein trainiertes Modell auf Beispiele ohne Label anwendet. Bei einem LLM der Prozess, mit einem trainierten Modell eine Antwort auf einen Prompt zu erzeugen. Das Wort hat in der Statistik eine etwas andere Bedeutung.

Quelle Google, ML-Glossar (Grundlagen)

Fähigkeit, die Schlussfolgerung eines Modells in für Menschen verständlichen Begriffen zu erklären oder darzustellen. Laut Google sind die meisten linearen Regressionsmodelle und Entscheidungswälder sehr gut interpretierbar. Ein „Black-Box“-Modell dagegen ist ein Modell, dessen Schlussfolgerung für Menschen unmöglich oder schwer nachzuvollziehen ist: Das gilt für die meisten tiefen Modelle und LLMs.

Quellen Google, ML-Glossar (Grundlagen) ; Google, Machine Learning Glossary

Software, die die Anfragen eines Nutzers auswerten kann, um Aktionen zu planen und an seiner Stelle auszuführen. Anthropic unterscheidet Agenten, bei denen das LLM seinen Ablauf und den Einsatz von Werkzeugen selbst steuert, von Workflows, bei denen der Weg durch Code festgelegt ist (siehe Workflow). Die kürzeste Formulierung: LLMs, die Werkzeuge autonom in einer Schleife einsetzen. Im bestärkenden Lernen meint das Wort etwas anderes: die Instanz, die eine Strategie anwendet, um den erwarteten Ertrag zu maximieren.

Quellen Google, Glossar zur generativen KI ; Anthropic, Building effective agents ; Anthropic, Effective context engineering

Siehe auch: Workflow und agentischer Workflow

Kleines Modell, das für Geräte mit begrenzten Rechenressourcen ausgelegt ist: Mobiltelefone, Tablets, eingebettete Systeme. Google nennt Gemini Nano als ein Modell, das für den Einsatz auf dem Gerät konzipiert ist.

Quellen Google, Machine Learning Glossary ; Google, Glossar zur generativen KI

Laut Google die Anzahl der Tokens, die ein Modell für einen gegebenen Prompt verarbeiten kann: Je größer das Fenster, desto mehr Informationen stehen dem Modell für kohärente Antworten zur Verfügung. Laut Anthropic die Textmenge, die ein Sprachmodell wieder lesen und nutzen kann, um neuen Text zu erzeugen. Ein größeres Fenster erlaubt längere und komplexere Prompts; ein kleineres kann die Kohärenz in langen Dialogen begrenzen.

Quellen Google, Glossar zur generativen KI ; Anthropic, Glossar

In einer klinischen Studie laut National Cancer Institute die Gruppe, die die untersuchte neue Behandlung nicht erhält; man vergleicht sie mit der Gruppe, die sie erhält, um zu wissen, ob die Behandlung wirkt. Die Terminologiedatenbank der EU beschreibt sie als die Referenz, mit der in einem Experiment verglichen wird, typischerweise verwendet, um die Wirkung einer Behandlung zu messen, indem Kontrollgruppe und Versuchsgruppe verglichen werden.

Illustration Velista Preisempfehlungen auf eine Gruppe von Märkten anwenden und eine Gruppe vergleichbarer Märkte mit der üblichen Praxis beibehalten.

Quellen National Cancer Institute, control group ; Terminologiedatenbank der EU (IATE), über Gaois

Siehe auch im Glossar: Kannibalisierung

Nichtmenschliches Programm oder Modell, das anspruchsvolle Aufgaben lösen kann, zum Beispiel einen Text übersetzen oder Krankheiten auf medizinischen Bildern erkennen. Machine Learning ist formal ein Teilgebiet der KI.

Quelle Google, ML-Glossar (Grundlagen)

Ein Feature ist eine Eingabegröße eines Modells; ein Beispiel umfasst ein oder mehrere Features. Das Label ist beim überwachten Lernen die „Antwort“ oder das Ergebnis eines Beispiels: „Spam“ oder „kein Spam“ in einem Datensatz zur Spam-Erkennung, die gefallene Regenmenge in einem Wetterdatensatz. Ein gelabeltes Beispiel verbindet Features und ein Label; ein Beispiel ohne Label dient der Inferenz.

Quelle Google, ML-Glossar (Grundlagen)

Laut Google mindestens ein Sprachmodell mit einer sehr großen Zahl von Parametern; informeller jedes Sprachmodell auf Basis der Transformer-Architektur. Alle diese Modelle sind autoregressiv: Sie sagen das nächste Token anhand der bereits erzeugten Tokens voraus. Anthropic beschreibt autoregressive Sprachmodelle ebenso als darauf vortrainiert, das nächste Wort anhand des Dokumentkontexts vorherzusagen.

Quellen Google, Glossar zur generativen KI ; Anthropic, Glossar

Programm oder System, das aus Eingabedaten ein Modell trainiert. Das trainierte Modell kann nützliche Vorhersagen für neue Daten treffen, die aus derselben Verteilung stammen wie die Trainingsdaten. Der Begriff bezeichnet auch das zugehörige Forschungsgebiet. ML ist formal ein Teilgebiet der KI, auch wenn manche Organisationen beide Begriffe inzwischen austauschbar verwenden.

Quelle Google, ML-Glossar (Grundlagen)

Laut Anthropic ein offenes Protokoll, das standardisiert, wie Anwendungen LLMs Kontext liefern. Es erlaubt KI-Systemen, standardisiert auf externe Ressourcen zuzugreifen. Der „MCP-Connector“ ist eine Funktion der Anthropic-API, mit der man sich mit MCP-Servern verbinden kann, ohne einen MCP-Client zu bauen.

Quelle Anthropic, Glossar

Laut Google Cloud eine Kultur und Praxis des ML-Engineering, die Entwicklung (Dev) und Betrieb (Ops) von ML-Systemen vereinheitlichen will. MLOps zu praktizieren heißt, Automatisierung und Überwachung in allen Schritten beim Bau eines ML-Systems zu verfechten: Integration, Tests, Inbetriebnahme, Deployment und Verwaltung der Infrastruktur. Das Dokument von Google behandelt Continuous Integration (CI), Continuous Delivery (CD) und Continuous Training (CT).

Quelle Google Cloud, MLOps: kontinuierliche Bereitstellung und Automatisierungs-Pipelines

Mathematische Konstruktion, die Eingabedaten verarbeitet und eine Ausgabe zurückgibt; anders gesagt, die Gesamtheit der Parameter und der Struktur, die ein System braucht, um Vorhersagen zu treffen. Ein lineares Regressionsmodell besteht aus Gewichten und einem Bias; ein neuronales Netz aus verdeckten Schichten von Neuronen samt ihren Gewichten; ein Entscheidungsbaum aus seiner Form, seinen Bedingungen und seinen Blättern. Ein Modell lässt sich speichern, wiederherstellen oder kopieren.

Quelle Google, ML-Glossar (Grundlagen)

Laut IBM ein Prozess der Lieferkette, der sich auf historische Daten für die Nachfrageplanung stützt und die künftige Kundennachfrage vorwegnimmt. Die Methoden reichen von der Trendfortschreibung bis zu ausgefeilten, KI-gestützten Modellen der prädiktiven Analytik. AWS beschreibt sie als Bereich der prädiktiven Analytik, der die Kundennachfrage vorhersagen will.

Illustration Velista Die Verkäufe der Folgewoche eines Aktionsartikels prognostizieren, um Beschaffung und Preis anzupassen.

Quellen IBM, What is demand forecasting? ; AWS, Demand Forecasting (Whitepaper)

Siehe auch im Glossar: Repricing

Ein neuronales Netz ist ein Modell mit mindestens einer verdeckten Schicht. Ein tiefes Modell (tiefes neuronales Netz, deep neural network) enthält mehr als eine. Manche Netze können äußerst komplexe nichtlineare Beziehungen zwischen den Features und dem Label nachbilden. Google merkt an, dass lineare Modelle in der Regel leichter zu trainieren und besser interpretierbar sind als tiefe Modelle, die dafür komplexe Beziehungen zwischen Features lernen.

Quelle Google, ML-Glossar (Grundlagen)

Eigenschaft einer Größe, deren Werte sich entlang einer oder mehrerer Dimensionen ändern, meist der Zeit. Beispiele von Google: Die Badeanzug-Verkäufe eines Marktes schwanken mit der Saison; die Ernte einer Frucht ist fast das ganze Jahr null und fällt dann in einem kurzen Zeitraum stark aus. Ihr Gegenteil ist die Stationarität. Google betont, dass in der realen Welt nur sehr wenige Größen stationär sind.

Quelle Google, ML-Glossar (Grundlagen)

Laut der Open Source Initiative (Definition 1.0 von Open-Source-KI) ist ein KI-System Open Source, wenn es die Freiheiten gibt, es für jeden Zweck zu nutzen, zu untersuchen, zu verändern und weiterzugeben, mit oder ohne Veränderung. Diese Freiheiten auszuüben setzt den Zugang zur bevorzugten Form für Änderungen am System voraus: hinreichend detaillierte Informationen über die Trainingsdaten, damit eine qualifizierte Person ein im Wesentlichen gleichwertiges System bauen kann, den vollständigen Trainings- und Ausführungscode und die Parameter des Modells (die Gewichte). Die OSI stellt klar, dass Open-Source-„Modelle“ oder -„Gewichte“ die Informationen über die Daten und den Code enthalten müssen, mit denen sie erzeugt wurden.

Quelle Open Source Initiative, Open Source AI Definition 1.0

Modell, dessen Gewichte weithin verfügbar sind. Die US-amerikanische NTIA bezeichnet diese Modelle in ihrem Bericht von 2024 als „open foundation models“ und stellt fest, dass Entwickler sie mit unterschiedlichen Graden an Offenheit veröffentlichen können: Gewichte, Code, Trainings- oder Feinabstimmungsdaten und Dokumentation können jeweils über mehrere Kanäle und mit unterschiedlichen Einschränkungen bereitgestellt werden.

Nicht zu verwechseln mit Open Source: Die Definition der OSI verlangt auch die Informationen über die Trainingsdaten und den Trainingscode (siehe Open Source (KI)).

Quellen NTIA, Bericht zu Modellen mit weit verfügbaren Gewichten ; NTIA, Hintergrund des Berichts

Siehe auch: Open Source (KI)

Parameter sind die Gewichte und Biases, die ein Modell während des Trainings lernt. Hyperparameter sind die Werte, die man dem Modell von einem Training zum nächsten vorgibt (oder die ein Tuning-Dienst anpasst), etwa die Lernrate. Die Temperatur ist ein Hyperparameter (siehe Temperatur).

Quelle Google, ML-Glossar (Grundlagen)

Siehe auch: Temperatur

Laut CNIL jede Information, die sich auf eine identifizierte oder identifizierbare natürliche Person bezieht. Die Person kann direkt (Name, Vorname) oder indirekt (Telefonnummer, Post- oder E-Mail-Adresse, Stimme) identifiziert werden, anhand einer einzigen Angabe oder durch die Kombination mehrerer. Die DSGVO regelt die Verarbeitung dieser Daten.

Quelle CNIL, La CNIL en bref (auf Französisch)

Verhältnis zwischen der relativen Änderung der nachgefragten Menge und der des Preises. Die Nachfrage ist elastisch, wenn ihre Änderung die des Preises übersteigt, im umgekehrten Fall unelastisch.

Quellen Office québécois de la langue française, Grand dictionnaire terminologique (auf Französisch) ; Éduscol, L'élasticité-prix de la demande (auf Französisch)

Auch im Glossar: Preiselastizität

Laut OWASP eine Schwachstelle, die auftritt, wenn Nutzer-Prompts das Verhalten oder die Ausgabe eines LLM in nicht vorgesehener Weise verändern. Sie ist möglich, weil LLMs Anweisungen nicht von externen Daten trennen. Die Injektion heißt indirekt, wenn sich die schädliche Anweisung in einem externen Inhalt befindet, den das Modell liest (Webseite, Datei).

Quellen OWASP, LLM01 Prompt Injection ; OWASP, LLM01 (Ausgabe 2023-24)

Laut Google ein Text, der einem LLM als Eingabe dient, um es auf ein bestimmtes Verhalten einzustellen. Ein Prompt kann kurz oder sehr lang sein; Google unterscheidet die Kategorien Frage, Anweisung, Beispiel, Rolle und zu vervollständigende Teileingabe. Prompt Engineering ist die Kunst, Prompts zu erstellen, die die gewünschten Antworten liefern; es hängt unter anderem vom Pre-Training-Datensatz, von der Temperatur und anderen Dekodierungsparametern ab. Für Anthropic ist sein Hauptgegenstand das Verfassen wirksamer Prompts, insbesondere von System-Prompts.

Quellen Google, Glossar zur generativen KI ; Anthropic, Effective context engineering

Ein Joseph Juran zugeschriebener Rahmen, der die Qualitätskosten in vier Kategorien aufteilt: Prävention, Prüfung, interne Fehler und externe Fehler. Die ersten beiden sind die Konformitätskosten, die anderen beiden die Nichtkonformitätskosten.

Lesart Velista, ohne Quelle Auf die KI angewandt: Die Prävention sind Datenqualität, Vorgaben und Guardrails; die Prüfung sind die Evals; die internen Fehler sind abgelehnte oder nachbearbeitete Antworten; der externe Fehler ist der Fehler, der den Kunden erreicht.

Quellen iSixSigma, Cost of Quality ; The Cost of Quality: A Primer

Auch im Glossar: Qualitätskosten

Laut Google eine Technik, die die Qualität der Ausgaben eines LLM verbessert, indem sie sie in Wissensquellen verankert, die nach dem Training des Modells abgerufen werden; das LLM greift auf Informationen aus vertrauenswürdigen Wissensdatenbanken oder Dokumenten zu. Genannte Motive: die sachliche Genauigkeit erhöhen, Zugang zu Wissen geben, das im Training fehlte, das verwendete Wissen austauschen, das Zitieren von Quellen ermöglichen. Im Beispiel von Google sucht das Backend die relevanten Daten, fügt sie der Anfrage des Nutzers hinzu und bittet dann das LLM, daraus eine Zusammenfassung zu erstellen. Für Anthropic wird das Modell durch eine externe Wissensdatenbank oder einen Satz von Dokumenten erweitert, die in das Kontextfenster eingebracht werden.

Quellen Google, ML-Glossar (Grundlagen) ; Anthropic, Glossar

Einsatz von Rückmeldungen menschlicher Bewerter, um die Qualität der Antworten eines Modells zu verbessern. Beispiel von Google: Nutzer bitten, eine Antwort mit Daumen hoch oder runter zu bewerten; das System passt dann seine künftigen Antworten an. Anthropic gibt an, Claude mit RLHF trainiert zu haben, um es zu einem hilfreicheren Assistenten zu machen.

Quellen Google, Glossar zur generativen KI ; Anthropic, Glossar

Laut der Dokumentation von Anthropic eine modulare Fähigkeit, die die Funktionen von Claude erweitert. Jeder Skill bündelt Anweisungen, Metadaten und optional Ressourcen (Skripte, Vorlagen), die Claude automatisch nutzt, wenn es passt. Anders als ein Prompt, die Anweisung eines Gesprächs für eine einmalige Aufgabe, wird ein Skill bei Bedarf geladen und erspart es, dieselben Vorgaben von Gespräch zu Gespräch zu wiederholen. Wenn ein Skill ausgelöst wird, liest Claude seine Datei SKILL.md, deren Anweisungen dann in das Kontextfenster gelangen; die Skripte werden ausgeführt und nur ihr Ergebnis gelangt in den Kontext; die übrigen Dateien werden nur gelesen, wenn die Aufgabe es erfordert.

Hinweis Der Begriff und das hier beschriebene Format stammen aus der Dokumentation von Anthropic.

Quelle Anthropic, Agent Skills

Laut Google ein Hyperparameter, der den Grad an Zufall in der Ausgabe eines Modells steuert: Eine hohe Temperatur ergibt eine zufälligere Ausgabe, eine niedrige eine weniger zufällige. Die beste Wahl hängt von der Anwendung ab. Anthropic beschreibt sie ebenso als den Parameter, der den Zufall der Vorhersagen des Modells bei der Textgenerierung steuert.

Quellen Google, Glossar zur generativen KI ; Anthropic, Glossar

Laut Anthropic wird der dem Modell übergebene Text (eine Zeichenfolge) in eine Folge von Tokens kodiert, die das Modell verarbeitet. Größere Tokens verbessern die Effizienz beim Pre-Training und bei der Inferenz; kleinere Tokens erlauben es, seltene oder nie gesehene Wörter zu verarbeiten.

Quelle Anthropic, Glossar

Laut der Dokumentation von Anthropic ein Mechanismus, mit dem Claude Funktionen aufrufen kann, die man selbst definiert oder die Anthropic bereitstellt. Claude bestimmt anhand der Anfrage des Nutzers und der Beschreibung des Werkzeugs, wann es ein Werkzeug aufruft, und gibt dann einen strukturierten Aufruf zurück, den die Anwendung ausführt (Client-Werkzeuge) oder den Anthropic ausführt (Server-Werkzeuge).

Quelle Anthropic, Tool use with Claude

Das Training ist der Schritt, in dem ein ML-System aus Daten ein Modell aufbaut. Pre-Training bezeichnet das anfängliche Training eines Modells auf einem großen Datensatz; ein vortrainiertes Modell wird anschließend oft feinabgestimmt (Fine-Tuning), destilliert oder darauf eingestellt, Anweisungen zu befolgen.

Quellen Google, ML-Glossar (Grundlagen) ; Google, Glossar zur generativen KI

Überanpassung (Overfitting) bedeutet, ein Modell zu erzeugen, das sich so eng an die Trainingsdaten anlehnt, dass es bei neuen Daten keine korrekten Vorhersagen mehr trifft. Regularisierung und ein großer, vielfältiger Trainingsdatensatz verringern sie. Generalisierung ist die Fähigkeit eines Modells, bei neuen, nie gesehenen Daten korrekt vorherzusagen: Sie ist das Gegenteil der Überanpassung. Eine Generalisierungskurve, die den Trainingsverlust und den Validierungsverlust aufträgt, zeigt eine Überanpassung an, wenn Letzterer deutlich höher wird als Ersterer.

Quelle Google, ML-Glossar (Grundlagen)

Beim überwachten Lernen trainiert sich das Modell an gelabelten Beispielen (Features und dem Label, also der „Antwort“) und sagt dann für Beispiele ohne Label voraus. Ein Klassifikationsmodell sagt eine Klasse voraus, ein Regressionsmodell eine Zahl. Beim unüberwachten Lernen gibt es kein Label: Das typische Beispiel von Google ist das Clustering verwandter Beispiele, wobei ein Mensch jeder Gruppe anschließend eine Bedeutung geben kann.

Quellen Google, ML-Glossar (Grundlagen) ; Google, Machine Learning Glossary

Laut Google das Beauftragen eines generativen KI-Modells, Software zu erstellen: Die Prompts beschreiben das Ziel und die Funktionen der Software, die das Modell in Quellcode übersetzt. Der Code entspricht nicht immer den Absichten, daher Iterationen. Der Begriff wurde geprägt, um eine neue Art des Programmierens zu bezeichnen, bei der man sich den „Vibes“ überlässt. Er bezeichnete ursprünglich einen bewusst lockeren Ansatz, bei dem man den erzeugten Code womöglich nicht einmal prüfte; inzwischen steht er für jede Form von KI-generiertem Code. Google unterscheidet „Conversational Coding“ (iterativer Dialog mit dem Modell, ursprüngliche Bedeutung des Begriffs) von „Specificational Coding“ (eine Beschreibungsdatei der Software in menschlicher Sprache schreiben und pflegen, die das Modell oder ein Ingenieur in Software umsetzt).

Quelle Google, Glossar zur generativen KI

Laut der Dokumentation von AWS ein Dienst, mit dem man einen logisch isolierten Bereich der AWS-Cloud bereitstellen kann, in dem man Ressourcen in einem selbst definierten virtuellen Netzwerk startet.

Quelle AWS, Virtual Private Cloud

Laut Anthropic ist ein Workflow ein System, in dem LLMs und Werkzeuge über vordefinierte Codepfade orchestriert werden, während bei einem Agenten das LLM seinen eigenen Prozess und seinen Einsatz von Werkzeugen dynamisch steuert. Workflows bieten Vorhersehbarkeit und Konsistenz bei klar definierten Aufgaben; Agenten eignen sich, wenn Flexibilität und modellgesteuerte Entscheidungen in großem Maßstab nötig sind. Anthropic empfiehlt, die einfachste Lösung zu suchen und Komplexität nur bei Bedarf hinzuzufügen, was bedeuten kann, kein agentisches System zu bauen. Google definiert den agentischen Workflow als dynamischen Prozess, in dem ein Agent autonom Aktionen plant und ausführt, um ein Ziel zu erreichen, gegebenenfalls mit Schlussfolgern, Aufruf externer Werkzeuge und Selbstkorrektur.

Quellen Anthropic, Building effective agents ; Google, Glossar zur generativen KI

Ein Zero-Shot-Prompt liefert kein Beispiel für die gewünschte Antwort. Ein One-Shot-Prompt gibt eines, ein Few-Shot-Prompt mehrere (Synonym: In-Context-Learning). Few-Shot liefert in der Regel bessere Ergebnisse als die beiden anderen, zum Preis eines längeren Prompts.

Quelle Google, Glossar zur generativen KI