Das Vokabular der KI-Agenten, ohne den Hype.

Grundlagen

Großes Sprachmodell (LLM)

Ein neuronales Netz, das auf sehr großen Textmengen trainiert wurde, um Sprache vorherzusagen und zu erzeugen. Im Unternehmen liest, fasst zusammen, klassifiziert, extrahiert, entwirft und – mit Werkzeugen – handelt es. Modelle unterscheiden sich in Leistung, Kosten, Geschwindigkeit, Kontextgröße und Hosting-Möglichkeiten; das Modell ist selten der entscheidende Faktor für den Projekterfolg.

Token

Die Einheit, in der Sprachmodelle Text lesen und schreiben – im Englischen etwa drei Viertel eines Wortes, im Deutschen etwas weniger. Anbieter rechnen pro Token ab, und Modelle haben Grenzen, wie viele Token sie gleichzeitig berücksichtigen können. Tokenzahlen bestimmen Kosten und das, was in eine Anfrage passt.

Kontextfenster

Die maximale Textmenge in Token, die ein Modell in einer Anfrage berücksichtigen kann: Anweisungen, Dokumente, Gesprächsverlauf und die eigene Ausgabe. Größere Fenster erlauben mehr Material pro Anfrage, kosten aber mehr und ersetzen keine gute Suche.

Prompt

Die Anweisungen und das Material, die ein Modell für eine Aufgabe erhält. In Produktivsystemen werden Prompts versioniert, getestet und wie Code behandelt, weil kleine Formulierungsänderungen das Verhalten verändern können.

Prompt Engineering

Das Gestalten von Anweisungen, Beispielen und Struktur, damit ein Modell zuverlässig die gewünschte Ausgabe liefert. Nützlich, aber ein kleinerer Teil eines Produktivsystems als Evaluation, Integration und Guardrails.

Halluzination

Eine selbstbewusste, flüssige Ausgabe, die falsch oder erfunden ist: ein Zitat, das es nicht gibt, eine Zahl, die nie in der Quelle stand. Eingedämmt durch Antworten auf Basis abgerufener Dokumente, Pflicht zur Quellenangabe, Validierung der Ausgaben und Menschen im Prozess bei folgenreichen Entscheidungen.

Feinabstimmung (Fine-Tuning)

Das Weitertrainieren eines Modells mit eigenen Beispielen, um Stil, Format oder Fachverhalten zu verändern. Seltener nötig als angenommen; Retrieval und gutes Prompting lösen die meisten Geschäftsfälle. Lohnt sich bei engen, volumenstarken Aufgaben mit stabilen Anforderungen.

Kleines Sprachmodell

Ein kompaktes Modell, das günstig, schnell und oft auf eigener Hardware läuft. Für viele Klassifizierungs-, Extraktions- und Routing-Aufgaben ausreichend und eine häufige Wahl, wenn Daten die eigene Umgebung nicht verlassen dürfen. Siehe souveräne KI.

Modell mit offenen Gewichten

Ein Modell, dessen trainierte Parameter veröffentlicht sind, sodass jeder es auf eigener Infrastruktur betreiben kann – etwa die Familien Llama, Mistral, Qwen oder Gemma. Volle Kontrolle über Daten und Versionen, um den Preis, das Modell selbst zu betreiben.

Multimodales Modell

Ein Modell, das mehr als Text verarbeitet, typischerweise Bilder und zunehmend Audio und Video. Für das Unternehmen heißt das: Es kann eine gescannte Rechnung, das Foto eines beschädigten Teils oder einen Screenshot lesen, was viele Dokumenten- und Service-Workflows eröffnet.

Agenten

KI-Agent

Software, die mit einem Sprachmodell ein Ziel über mehrere Schritte verfolgt: Kontext lesen, den nächsten Schritt entscheiden, Werkzeuge wie CRM oder E-Mail aufrufen und an einen Menschen übergeben, wenn eine Entscheidung ansteht. Anders als ein Chatbot erledigt er Aufgaben. Siehe Was ist Agentic AI?

Agentic AI

Der Oberbegriff für Systeme aus KI-Agenten mit unterschiedlichem Grad an Autonomie. Von Anbietern locker verwendet; die praktischen Fragen lauten, was der Agent ohne Freigabe tun darf, worauf er zugreifen darf und wie seine Arbeit evaluiert wird.

Agentischer Workflow

Ein Geschäftsprozess, der von einem oder mehreren Agenten über Systeme hinweg durchgehend automatisiert wird, mit definierten menschlichen Kontrollpunkten. Beispiel: Eine Rechnung kommt per E-Mail, wird extrahiert, mit der Bestellung abgeglichen, kontiert und zur Freigabe weitergeleitet. Siehe agentische Workflow-Automatisierung.

Werkzeugnutzung / Function Calling

Der Mechanismus, über den ein Modell Softwarefunktionen aufruft – etwa „Bestellung 4711 nachschlagen“ oder „Ticket anlegen“ – und strukturierte Ergebnisse erhält. Das macht aus einem Textgenerator etwas, das in Ihren Systemen handeln kann.

Orchestrierung

Die Logik, die die Schleife eines Agenten steuert: welcher Schritt als Nächstes kommt, wann ein Werkzeug aufgerufen, wann wiederholt, wann ein Mensch gefragt, wann gestoppt wird. Von Frameworks und Plattformen bereitgestellt; die Qualität der Orchestrierung bestimmt die Zuverlässigkeit stärker als das Modell.

Multi-Agenten-System

Mehrere spezialisierte Agenten, die an einer Aufgabe zusammenarbeiten – etwa einer, der recherchiert, einer, der entwirft, und einer, der prüft. Nützlich für komplexe Arbeit; erhöht Koordinationsaufwand und Fehlerquellen, weshalb ein einzelner, klar abgegrenzter Agent meist der richtige erste Schritt ist.

Gedächtnis (Memory)

Was ein Agent über Schritte oder Sitzungen hinweg behält: den aktuellen Aufgabenkontext, Fakten über einen Kunden, früher getroffene Entscheidungen. Kurzzeitgedächtnis ist das Kontextfenster; Langzeitgedächtnis ist eine Datenbank, die der Agent liest und schreibt. Beides braucht Regeln dafür, was gespeichert werden darf.

Planung

Die Fähigkeit eines Agenten, ein Ziel in Schritte zu zerlegen und anzupassen, wenn ein Schritt scheitert. Moderne Modelle planen recht gut; Produktivsysteme beschränken Pläne auf erlaubte Aktionen und verlangen Freigaben für folgenreiche.

Mensch im Prozess (Human-in-the-Loop)

Ein Entwurf, bei dem eine Person die Arbeit eines Agenten an definierten Punkten prüft, freigibt oder korrigiert – etwa bevor eine Zahlung oder eine Kundennachricht freigegeben wird. Der wichtigste Hebel, um Agenten freigabefähig zu machen und Fehler abzufangen, bevor sie Geld kosten.

Computer-Use-Agent

Ein Agent, der Software über Bildschirm, Tastatur und Maus bedient wie ein Mensch – nützlich, wo keine API existiert. Mächtig und langsam, und er braucht strikte Abschottung; wo verfügbar, sind APIs und MCP-Server vorzuziehen.

Voice-Agent

Ein Agent, der auf Telefon- oder Sprachkanälen spricht und zuhört und Anrufe wie Bestellstatus oder Terminbuchung bearbeitet. Im Kundenservice im Kommen; erfordert sorgfältige Gestaltung für Transparenz, Eskalation und Latenz.

Copilot vs. Agent

Ein Copilot unterstützt eine Person innerhalb eines Werkzeugs, schlägt vor und entwirft, während die Person die Aufgabe erledigt. Ein Agent erledigt die Aufgabe selbst innerhalb von Grenzen und berichtet zurück. Die meisten Unternehmen brauchen beides: Copiloten für Wissensarbeit, Agenten für Prozessarbeit.

Integration

Retrieval-Augmented Generation (RAG)

Ein Muster, bei dem das System zuerst relevante Dokumente aus Ihren eigenen Quellen abruft und das Modell dann damit antwortet, mit Quellenangaben. Der Standardweg für Wissensassistenten, die Ihr Unternehmen kennen statt das Internet. Siehe Wissensassistenten für Unternehmen.

Vektordatenbank

Eine Datenbank, die Text als Zahlenrepräsentationen speichert und Passagen nach Bedeutung statt nach exakten Wörtern findet. Die Suchkomponente der meisten RAG-Systeme; oft mit klassischer Stichwortsuche kombiniert, um die Präzision zu erhöhen.

Embeddings

Numerische Repräsentationen von Text (oder Bildern), die ähnliche Bedeutungen nahe beieinander platzieren. Von einem Modell erzeugt und in einer Vektordatenbank gespeichert, damit „Rechnungsstreit“ auch „beanstandete Rechnung“ findet.

Wissensgraph

Eine strukturierte Darstellung von Entitäten und ihren Beziehungen: Kunden, Verträge, Produkte, Personen. Neben RAG eingesetzt, wenn Fragen das Verfolgen von Beziehungen erfordern statt das Finden von Passagen.

Model Context Protocol (MCP)

Ein offener Standard, der festlegt, wie KI-Anwendungen über wiederverwendbare Server an Werkzeuge und Datenquellen angebunden werden. Ein MCP-Server für Ihr ERP lässt jeden kompatiblen Agenten es unter definierten Berechtigungen nutzen. Siehe MCP erklärt.

Agent2Agent-Protokoll (A2A)

Ein Protokoll, über das Agenten einander über Anbieter und Plattformen hinweg finden und miteinander kommunizieren. Adressiert die Zusammenarbeit von Agent zu Agent, während MCP die Anbindung von Agent zu Werkzeug adressiert. Noch früh in der Verbreitung; relevant, wenn Agenten aus verschiedenen Systemen zusammenarbeiten müssen.

API

Eine Programmierschnittstelle: der definierte Weg, über den Softwaresysteme Daten austauschen und Aktionen auslösen. Agenten handeln über APIs – deshalb ist API-Zugang zu Ihren Kernsystemen Voraussetzung für die meiste Automatisierung.

Low-Code-Automatisierung

Plattformen wie n8n, Make, Zapier oder Microsoft Power Automate, mit denen Teams Workflows visuell bauen. In Kombination mit Sprachmodellen orchestrieren sie viele agentische Workflows; der Preis ist die Wartbarkeit im großen Maßstab. Siehe Kaufen oder selbst bauen.

Intelligente Dokumentenverarbeitung (IDP)

Das Extrahieren strukturierter Daten aus Dokumenten wie Rechnungen, Lieferscheinen und Verträgen mit OCR und Sprachmodellen. Der Einstiegspunkt vieler agentischer Workflows in Finanzen, Operations und Einkauf.

Qualität und Betrieb

Evals (Evaluationen)

Testsets und Kennzahlen, die messen, ob ein Agent seine Aufgabe korrekt erledigt: Genauigkeit von Extraktionen, Qualität von Entwürfen, richtige Routing-Entscheidungen. Vor dem Go-live und nach jeder Änderung an Prompts, Werkzeugen oder Modellen ausgeführt. Die am meisten unterschätzte Praxis in KI-Projekten.

Guardrails

Die Kontrollen, die einen Agenten in Grenzen halten: Berechtigungen, Freigabestufen, Validierung von Ein- und Ausgaben, Budgets, Ratenbegrenzung, Notaus. Siehe Guardrails für KI-Agenten.

Observability / Tracing

Das Aufzeichnen jedes Schritts eines Agenten – Eingaben, Werkzeugaufrufe, Ausgaben, Latenz und Kosten –, damit Verhalten debuggt, geprüft und verbessert werden kann. Werkzeuge wie Langfuse oder LangSmith bieten das.

LLMOps / AgentOps

Die Betriebsdisziplin für Sprachmodell-Anwendungen und Agenten in der Produktion: Monitoring, Evaluation, Modell-Updates, Kostenkontrolle, Störungsbehandlung. Siehe Managed AI Operations.

Prompt Injection

Ein Angriff, bei dem in Inhalten, die der Agent liest – etwa einer E-Mail oder einer Webseite –, versteckte Anweisungen ihn dazu bringen sollen, gegen seine Vorgaben zu handeln. Eingedämmt, indem alle externen Inhalte als nicht vertrauenswürdig behandelt, Berechtigungen begrenzt und folgenreiche Aktionen freigabepflichtig werden.

Drift

Eine schleichende Veränderung des Verhaltens oder der Qualität eines Agenten über die Zeit, verursacht durch Modell-Updates des Anbieters, veränderte Eingaben oder angesammelte Prompt-Änderungen. Erkannt durch kontinuierlich laufende Evaluationen.

Latenz

Die Zeit zwischen einer Anfrage und der Antwort des Modells. Wichtig für kundenorientierte und interaktive Agenten, weniger für Stapelverarbeitung. Beeinflusst Modellwahl und Architektur.

Tokenkosten

Die laufenden Kosten der Sprachmodellnutzung, abgerechnet pro verarbeitetem Token. Getrieben von Volumen, Kontextgröße und Modellwahl. Budgets und Monitoring je Use Case verhindern Überraschungen; die Kosten sind meist klein neben Integrations- und Betriebsaufwand.

Governance

EU AI Act (KI-Verordnung)

Die Verordnung der Europäischen Union über künstliche Intelligenz, in Kraft seit August 2024, mit Pflichten, die gestaffelt bis 2026 und 2027 gelten. Sie stuft KI-Systeme nach Risiko ein und legt Anbietern und Betreibern Pflichten auf. Siehe unseren Leitfaden zum EU AI Act. Keine Rechtsberatung.

Risikoklassen

Die Stufen des EU AI Act: verbotene Praktiken, Hochrisiko-Systeme (etwa in Beschäftigung, Kreditvergabe und kritischer Infrastruktur) mit umfangreichen Pflichten, Systeme mit begrenztem Risiko und Transparenzpflichten (etwa Chatbots) sowie Systeme mit minimalem Risiko. Die meisten Unternehmensagenten fallen in die letzten beiden – die Einstufung muss aber vorgenommen und dokumentiert werden.

KI-Modelle mit allgemeinem Verwendungszweck (GPAI)

Modelle, die für breite Nutzung trainiert sind, wie die großen Sprachmodelle der großen Anbieter, für die der Modellanbieter nach dem EU AI Act eigene Pflichten trägt. Unternehmen, die sie nutzen, sind Betreiber und übernehmen Transparenz- und Kompetenzpflichten.

KI-Kompetenz (AI Literacy)

Die seit Februar 2025 geltende Anforderung des EU AI Act, dass Organisationen sicherstellen, dass Mitarbeitende, die KI-Systeme nutzen oder beaufsichtigen, sie ausreichend verstehen. In der Regel durch rollenspezifische Schulungen erfüllt. Siehe KI-Schulungen und Workshops.

DSGVO

Die Datenschutz-Grundverordnung der EU, anwendbar auf alle personenbezogenen Daten, die KI-Systeme verarbeiten: Rechtsgrundlage, Zweckbindung, Datenminimierung, Auftragsverarbeitungsverträge, Übermittlungsregeln und Betroffenenrechte. Gilt unabhängig vom AI Act.

Datenschutz-Folgenabschätzung (DSFA)

Eine nach DSGVO vorgeschriebene strukturierte Bewertung für Verarbeitungen mit voraussichtlich hohem Risiko für Betroffene, die viele KI-Einführungen mit personenbezogenen Daten auslösen. Wird mit dem Datenschutzbeauftragten vor dem Go-live erstellt.

KI-Register

Ein Verzeichnis der KI-Systeme, die eine Organisation nutzt oder bereitstellt, mit Zweck, Daten, Risikoklasse, Verantwortlichem und Kontrollen. Die Grundlage der KI-Governance und das Erste, wonach Prüfer und Aufsichtsbehörden fragen. Siehe KI-Governance.

ISO/IEC 42001

Die internationale Norm für KI-Managementsysteme, die beschreibt, wie Organisationen KI verantwortungsvoll steuern. Nützlich als Referenzrahmen für Richtlinien und Prozesse; eine Zertifizierung ist optional und erfolgt durch akkreditierte Stellen.

Datenresidenz

Wo Daten geografisch und unter welchem Rechtsraum gespeichert und verarbeitet werden. Eine zentrale Frage bei der Wahl von Modellanbietern und Hosting, getrieben von DSGVO, Branchenregeln und Kundenverträgen.

Souveräne KI

KI-Fähigkeiten, die ein Unternehmen oder Land ohne Abhängigkeit von ausländischen Anbietern betreiben und kontrollieren kann: EU-gehostete Modelle, europäische Anbieter oder selbst gehostete Modelle mit offenen Gewichten. Ein Spektrum von Optionen statt einer einzelnen Wahl. Siehe Optionen für souveräne KI.