---
title: "KI-Glossar – Begriffe von Agent bis DSGVO erklärt · PS24"
description: "Geclustertes Glossar der wichtigsten KI-, Agenten- und Datenschutz-Begriffe. Erst Klartext für Entscheider, dann technische Tiefe – mit Querverweisen."
canonical: "https://ps24.ai/glossar/"
---

KI-Begriffe ohne Jargon

# KI-Begriffe, geclustert und vernetzt

Vom Agent-Harness bis zur DSGVO: jeder Begriff zuerst in Klartext, dann in der Tiefe. Geclustert nach Thema, durchsuchbar, mit Querverweisen – für Entscheider und Technik gleichermaßen.

## Glossar durchsuchen und filtern

## Grundlagen

Die Basis-Begriffe: was ein KI-Modell ist und wie es arbeitet.

### Benchmark

Standardisierte Testreihen, mit denen Modelle verglichen werden – Grundlage der meisten Ranglisten und Anbieterversprechen.

Warum das zählt

Benchmark-Ergebnisse sagen wenig über Ihren konkreten Anwendungsfall aus, weil sie akademische Aufgaben messen und nicht Ihre Rechnungen, Ihre Sprache und Ihre Formate. Ein Modell auf Platz vier kann bei Ihnen besser abschneiden als der Spitzenreiter. Dazu kommt, dass öffentliche Tests altern: Aufgaben und Lösungen landen in Trainingsdaten, und Ranglisten zeigen dann Erinnerung statt Können. Der einzige belastbare Vergleich läuft über eigene Testfälle.

### Destillation

Ein kleineres Modell lernt von einem größeren, indem es dessen Antworten nachahmt. Heraus kommt ein Modell, das bei den geübten Aufgaben ähnlich gut ist, aber deutlich günstiger läuft.

Warum das zählt

Viele kleine und günstige Modellvarianten sind so entstanden. Das erklärt, warum sie bei manchen Aufgaben überraschend gut und bei anderen deutlich schwächer sind. Für Unternehmen ist Destillation ein Weg zu einem eigenen, schnellen Spezialmodell; vorher sind die Nutzungsbedingungen zu prüfen, denn mehrere Anbieter untersagen, mit den Ausgaben ihrer Modelle konkurrierende Modelle zu trainieren.

### Halluzination

Wenn ein KI-Modell etwas erfindet, das plausibel klingt, aber faktisch falsch ist.

Warum das zählt

Halluzinationen sind der Hauptgrund, warum kritische KI-Ausgaben geprüft werden müssen – durch Quellenbezug (RAG), Leitplanken oder eine menschliche Freigabe.

### KI / Künstliche Intelligenz

Sammelbegriff für Computerprogramme, die Aufgaben übernehmen, für die man früher menschliches Denken brauchte – etwa Texte verstehen, Muster erkennen oder Entscheidungen vorbereiten.

Warum das zählt

Wer KI einführt, sollte wissen, dass „KI" kein einzelnes Produkt ist, sondern ein Oberbegriff. Heute ist meist generative KI gemeint – Systeme, die neue Inhalte erzeugen.

### Kontextfenster

Die Menge an Text, die ein Modell auf einmal berücksichtigen kann – sein „Arbeitsgedächtnis", gemessen in Token.

Warum das zählt

Das Kontextfenster begrenzt, wie viel Information ein Modell gleichzeitig verarbeitet. Reicht ein Dokument nicht hinein, braucht es Techniken wie RAG – ein praktischer Planungsfaktor.

### LLM

Ein KI-Modell, das Sprache versteht und erzeugt – die Technik hinter Werkzeugen wie ChatGPT oder Claude.

Warum das zählt

Das LLM ist der Motor fast jeder heutigen KI-Anwendung. Sein Verständnis und seine Grenzen zu kennen, hilft, realistische Erwartungen an Projekte zu setzen.

### Mixture of Experts

Eine Modellbauweise, bei der pro Token nur ein kleiner Teil des Modells rechnet: Ein Verteiler wählt aus vielen spezialisierten Teilnetzen („Experten") die passenden aus.

Warum das zählt

Viele aktuelle große Modelle, auch offene, sind so gebaut. Für den Eigenbetrieb ist die Unterscheidung wichtig: Die Rechenlast richtet sich nach den aktiven Parametern, der Speicherbedarf nach der Gesamtgröße. Ein Modell mit 100 Milliarden Parametern, von denen je Token 10 Milliarden aktiv sind, antwortet schnell, braucht aber Grafikspeicher für alle 100.

### Modellgewichte

Die trainierten Zahlenwerte, die das gesamte Können eines Modells ausmachen – das eigentliche Produkt hinter jedem KI-Werkzeug.

Warum das zählt

Ob Gewichte frei verfügbar sind, entscheidet darüber, ob Sie ein Modell selbst betreiben, einfrieren und langfristig verfügbar halten können. Genau das ist der Kern des Unterschieds zwischen offenen und geschlossenen Modellen – und zugleich der wirksamste Schutz vor der Abkündigung eines Modells, auf dem ein Prozess aufbaut.

### Multimodalität

Die Fähigkeit von KI-Modellen, neben Text auch Bilder, Audio oder Dokumente zu verstehen – und teils selbst zu erzeugen.

Warum das zählt

Multimodalität öffnet Use-Cases, die im Mittelstand Alltag sind: Belege erfassen, Fotos beurteilen, Diktate verarbeiten. Wo Information nicht als Text vorliegt, wird KI erst dadurch einsetzbar.

### Nicht-Determinismus

Dieselbe Eingabe kann bei einem KI-Modell zu unterschiedlichen Ausgaben führen – anders als bei klassischer Software.

Warum das zählt

Das ist die Eigenschaft, die im Mittelstand am meisten überrascht, weil vierzig Jahre Softwareerfahrung das Gegenteil gelernt haben. Konsequenz für den Betrieb: Ein einmal erfolgreicher Test beweist wenig, Abnahmen brauchen mehrere Durchläufe, und feste Ausgabeformate müssen erzwungen und geprüft werden statt erhofft. Wo Reproduzierbarkeit zwingend ist, gehört die Aufgabe nicht ins Modell, sondern in einen festen Ablauf.

### Out-of-Distribution

Eingaben, die deutlich anders aussehen als das, womit ein Modell trainiert oder getestet wurde. Dort wird ein Modell unzuverlässig, oft ohne es zu merken.

Warum das zählt

Das ist ein häufiger Grund, warum ein Pilot gut läuft und die Produktion nicht: Getestet wurde mit sauberen Beispielen, im Alltag kommen eingescannte Faxe, Dialekt, neue Artikelnummern oder ein geändertes Formular. Gegenmittel sind Testfälle aus dem echten Posteingang statt aus der Präsentation und eine Überwachung, die bemerkt, wenn sich die Eingaben verändern.

### Pre-Training und Post-Training

Die zwei Phasen der Modellentwicklung: das teure Grundtraining auf riesigen Textmengen und die anschließende Feinabstimmung auf hilfreiches, sicheres Verhalten.

Warum das zählt

Die Unterscheidung erklärt, warum Modelle desselben Anbieters mit gleicher Grundlage sich sehr unterschiedlich verhalten können – und warum Fine-Tuning eine Nachbearbeitung ist und kein neues Training. Für Ihre Auswahl heißt das: Verhalten und Ton sind Ergebnis der zweiten Phase und können sich mit jeder Version ändern.

### Prompt

Die Eingabe oder Anweisung, die Sie einem KI-Modell geben – die Frage oder Aufgabe.

Warum das zählt

Die Formulierung beeinflusst das Ergebnis erheblich. Für ernsthafte Anwendungen geht „Prompt schreiben" aber in das umfassendere Context Engineering über.

### Reasoning-Modell

KI-Modelle, die vor der Antwort sichtbar oder intern Zwischenschritte durchrechnen – und komplexe Aufgaben dadurch zuverlässiger lösen, gegen mehr Zeit und Kosten.

Warum das zählt

Nicht jede Aufgabe braucht Reasoning: Für einfache Anfragen ist es unnötig teuer und langsam, bei komplexen Analysen macht es den Unterschied. Die Modellwahl ist damit immer auch eine Kosten- und Geschwindigkeitsfrage.

### Sycophancy

Die Neigung eines Modells, Nutzern nach dem Mund zu reden: einer falschen Annahme zuzustimmen, eine richtige Antwort nach Widerspruch zurückzunehmen oder schwache Ideen zu loben.

Warum das zählt

Das Verhalten ist eine Nebenwirkung des Trainings auf gute Bewertungen und bei allen großen Modellen nachgewiesen; OpenAI hat im April 2025 ein Update von GPT-4o deswegen zurückgezogen. Wer KI für Einschätzungen nutzt, etwa zu Businessplänen, Vertragsentwürfen oder Kalkulationen, sollte neutral fragen statt die eigene Meinung vorzugeben und bei wichtigen Punkten ausdrücklich die Gegenposition anfordern.

### System Prompt

Die feste Grundanweisung, die eine KI-Anwendung dem Modell vor jeder Nutzereingabe mitgibt – Rolle, Regeln und Grenzen.

Warum das zählt

Der System Prompt erklärt, warum dieselbe Frage in verschiedenen Anwendungen unterschiedlich beantwortet wird. Für Unternehmen ist er der erste Ansatzpunkt, Verhalten und Leitplanken einer KI-Anwendung festzulegen.

### Temperatur

Ein Regler, der bestimmt, wie kreativ oder wie vorhersehbar ein Modell antwortet – niedrig für konsistente, hoch für variantenreichere Ausgaben.

Warum das zählt

Für sachliche, reproduzierbare Anwendungen (etwa Auskünfte aus Firmenwissen) ist eine niedrige Temperatur meist die richtige Wahl. Ein kleiner, aber wirksamer Stellhebel.

### Test-Time Compute

Die Rechenleistung, die ein Modell beim Beantworten einer Anfrage aufwendet, etwa für längeres Nachdenken oder mehrere Lösungsversuche. Mehr davon bringt bei schwierigen Aufgaben bessere Antworten, kostet aber Zeit und Geld.

Warum das zählt

Neben Modellgröße und Trainingsdaten ist das seit 2024 der dritte Hebel für Qualität, und er liegt beim Nutzer: Viele Schnittstellen bieten Stufen wie „low", „medium" und „high" oder ein Token-Budget fürs Nachdenken. Die passende Einstellung je Aufgabe spart spürbar Kosten, denn Denk-Token werden abgerechnet wie Antworttext.

### Token

Die kleinste Verarbeitungseinheit eines Sprachmodells – grob ein Wortteil. Modelle rechnen in Token und werden oft pro Token abgerechnet.

Warum das zählt

Token sind die Maßeinheit für Kosten und Kapazität. Wer versteht, dass Texte in Token zerfallen, kann Budgets und Grenzen besser einschätzen.

### VLA

Ein KI-Modell, das Bilder und Sprache versteht und daraus direkt Bewegungsbefehle für einen Roboter erzeugt, etwa „leg das rote Teil in die linke Kiste".

Warum das zählt

Das ist die Übertragung der Sprachmodell-Technik auf Maschinen, bekannt aus Googles Gemini Robotics oder den π-Modellen von Physical Intelligence. Für Fertigung und Logistik heißt das perspektivisch: Roboter, die man mit Sprache und wenigen Vorführungen anlernt, statt jede Bewegung zu programmieren. Bislang läuft das vor allem in Forschung und Pilotanlagen und ist für heutige Investitionsentscheidungen ein Beobachtungsthema.

### Wissensstichtag

Der Zeitpunkt, bis zu dem das Trainingswissen eines KI-Modells reicht – alles, was danach passiert ist, kennt das Modell nicht.

Warum das zählt

Der Wissensstichtag erklärt, warum Modelle aktuelle Ereignisse, Preise oder Rechtslagen verpassen. Wer Aktualität braucht, muss das Modell ergänzen – etwa über eine angebundene Suche oder RAG.

## Agenten

KI, die nicht nur antwortet, sondern Aufgaben selbstständig erledigt.

### Agent / KI-Agent

Eine KI, die nicht nur antwortet, sondern selbstständig mehrschrittige Aufgaben erledigt – etwa E-Mails sortieren oder Daten zwischen Systemen übertragen.

Warum das zählt

Agenten automatisieren Abläufe mit mehreren Schritten und Entscheidungen. Wichtig bleibt ein klar definierter Rahmen, in dem der Agent handeln darf.

### Agent Rooms

Ein gemeinsamer Gesprächsraum, in dem mehrere benannte, dauerhaft bestehende KI-Agenten und Menschen zusammenarbeiten – jeder Agent mit eigenem Namen, eigenem Gedächtnis und eigener Rolle.

Warum das zählt

Das Muster ist im Sommer 2026 nahezu zeitgleich bei drei Anbietern aufgetaucht: Buzz von Block (Juli 2026) lässt Agenten als vollwertige Kanalmitglieder neben Menschen arbeiten, Grok Bot von xAI (August 2026) setzt mehrere Bots in einen gemeinsamen Gruppenchat, und Bot Mode im Hermes Agent von Nous Research (August 2026) bündelt Agentenprofile zu einem Team, das sich per Erwähnung gegenseitig Aufgaben zuweist. Einen festen Namen hat das Muster nicht, die Anbieter sprechen von Gruppenchat oder Workspace; „Agent Rooms" ist eine Sammelbezeichnung. Relevant ist nicht die einzelne Marke, sondern das Muster: Statt eines Chatfensters pro Aufgabe entsteht ein dauerhaftes Team spezialisierter, wiederverwendbarer Agenten, die untereinander Arbeit weitergeben. Sobald mehrere Agenten in einem Raum eigenständig handeln, lässt sich die Frage „wer hat das ausgelöst" ohne saubere Einzelidentität nicht mehr beantworten.

### Agent-Harness

Das Gerüst rund um ein KI-Modell, das aus einem reinen Sprachmodell einen handlungsfähigen Agenten macht – es führt die Schleife aus Denken, Werkzeug nutzen und prüfen aus.

[Zum Begriff](https://ps24.ai/glossar/agent-harness)

### Agent-Loop

Die Grundschleife eines Agenten: denken, ein Werkzeug nutzen, das Ergebnis beobachten, erneut entscheiden – bis das Ziel erreicht oder eine Grenze überschritten ist.

Warum das zählt

Jeder Durchlauf dieser Schleife ist ein bezahlter Modellaufruf, weshalb ein Agent für dieselbe Aufgabe ein Vielfaches eines einfachen Assistenten kostet. Deshalb gehören zu jedem produktiven Agenten harte Grenzen: maximale Schrittzahl, Zeitlimit, Kostendeckel. Ohne diese Grenzen ist eine Endlosschleife nicht nur möglich, sondern eine Frage der Zeit.

### Agent-zu-Agent-Handoff

Ein Agent übergibt eine laufende Aufgabe per Erwähnung direkt an einen anderen im selben Raum, statt dass ein Mensch die Information manuell weitergibt.

Warum das zählt

Handoff beschreibt die geordnete Übergabe allgemein; hier ist die konkrete Umsetzungsform gemeint, wie sie inzwischen bei mehreren Anbietern gleich funktioniert: Eine Erwähnung im Chat löst die Übergabe aus, sichtbar für alle Beteiligten im selben Raum. Der Vorteil liegt in der Nachvollziehbarkeit – jeder im Raum sieht, wer wann was an wen übergeben hat, statt dass diese Information in einer Werkzeugkette verschwindet.

### Agenten-Gedächtnis

Mechanismen, mit denen ein KI-Agent Wissen über die einzelne Sitzung hinaus behält – etwa Notizen, Profile oder gelernte Arbeitsweisen.

Warum das zählt

Gedächtnis unterscheidet den Assistenten, der jedes Mal bei null anfängt, von einem, der eingearbeitet wirkt. Zugleich ist es eine Datenschutz-Frage: Was gespeichert wird und wie lange, muss geregelt sein.

### Agentic AI

KI-Systeme, die nicht nur antworten, sondern ein Ziel selbstständig in mehreren Schritten verfolgen – planen, Werkzeuge nutzen, Zwischenergebnisse prüfen und nachsteuern.

[Zum Begriff](https://ps24.ai/glossar/agentic-ai)

### Agentic Coding

Softwareentwicklung, bei der ein KI-Agent eigenständig plant, Code schreibt, ausführt, testet und nachbessert – während der Entwickler steuert, prüft und entscheidet.

[Zum Begriff](https://ps24.ai/glossar/agentic-coding)

### AGENTS.md

Eine Textdatei im Projektverzeichnis, in der die Regeln für KI-Agenten stehen: wie gebaut und getestet wird, welche Konventionen gelten und was nicht angefasst werden darf.

[Zum Begriff](https://ps24.ai/glossar/agents-md)

### Autonomiegrade

Die Abstufung, wie viel ein System ohne Rückfrage entscheiden und ausführen darf – vom reinen Vorschlag bis zur eigenständigen Durchführung.

Warum das zählt

Autonomie ist kein Schalter, sondern eine Skala, und sie sollte sich an der Umkehrbarkeit der Handlung orientieren: Entwurf schreiben ohne Rückfrage, Mail versenden mit Freigabe, Zahlung auslösen nie automatisch. Diese Zuordnung je Anwendungsfall schriftlich festzuhalten, ist zugleich ein guter Teil der Dokumentation menschlicher Aufsicht.

### Chain-of-Thought

Eine Technik, bei der ein Modell Zwischenschritte ausformuliert, bevor es antwortet – was die Zuverlässigkeit bei mehrstufigen Aufgaben erhöht.

Warum das zählt

Der ausformulierte Gedankengang macht Fehler auffindbar, weil man sieht, an welcher Stelle das Modell abgebogen ist. Er ist allerdings keine ehrliche Selbstauskunft: Die Begründung wird ebenso erzeugt wie die Antwort und kann eine falsche Schlussfolgerung plausibel wirken lassen.

### Computer Use

Agenten, die Software wie ein Mensch bedienen: Sie sehen den Bildschirm, klicken und tippen – auch in Programmen ohne technische Schnittstelle.

Warum das zählt

Computer Use erschließt Alt-Systeme, für die es keine API gibt. Zugleich steigt das Fehler- und Kontrollrisiko, wenn eine KI direkt in Ihren Programmen arbeitet – klare Grenzen und Freigaben an heiklen Stellen sind Pflicht.

### Cross-Session-Lernen

Die Fähigkeit eines Agenten, aus einer abgeschlossenen Aufgabe etwas zu behalten, das eine spätere, andere Aufgabe verbessert – nicht nur den eigenen Gesprächsverlauf fortzusetzen.

Warum das zählt

Das ist die Grenze zwischen einem Agenten mit langem Gedächtnis und einem, der tatsächlich dazulernt. Persistentes Gedächtnis allein bedeutet nur, dass alte Gespräche abrufbar bleiben; Cross-Session-Lernen bedeutet, dass eine Erkenntnis aus der ersten Aufgabe ungefragt in die fünfte einfließt. Es ist die Fähigkeit hinter Skills, die sich im Betrieb selbst verbessern.

### Deep Research

Ein Agent, der eine Frage selbstständig über viele Suchschritte recherchiert, Dutzende Quellen liest und daraus einen Bericht mit Belegen schreibt, meist in wenigen Minuten.

Warum das zählt

Alle großen Anbieter führen die Funktion inzwischen unter diesem oder einem ähnlichen Namen. Bei Markt-, Wettbewerbs- und Förderrecherche spart sie viel Zeit, die Belege müssen aber geprüft werden: Die Berichte klingen durchgehend sicher, auch wo eine Quelle schwach ist oder die zitierte Stelle etwas anderes sagt. Und was in die Recherche eingegeben wird, verlässt das Haus.

### Gedächtnis-Werkzeuge

Eigene Werkzeuge, die ein Modell gezielt aufrufen kann, um etwas zu speichern, etwas nachzuschlagen oder eine gespeicherte Information als überholt zu markieren.

Warum das zählt

Der Unterschied zur klassischen Wissenssuche ist die Steuerung: Statt dass eine Suche automatisch im Hintergrund läuft, entscheidet der Agent selbst und sichtbar, wann er etwas festhält oder verwirft. Das macht Gedächtnisentscheidungen nachvollziehbar und ist zugleich der Grund, warum eine Wissensbasis nicht zwangsläufig zuwächst und veraltet – ein ausdrückliches „vergessen" sortiert Widersprüchliches aus, statt es weiter anzuhäufen.

### Gedächtnisarten

Die drei Grundformen dessen, was ein Agent sich merken kann – was passiert ist (episodisch), was gilt (semantisch) und wie man etwas tut (prozedural).

Warum das zählt

Diese Dreiteilung hat sich 2026 als gemeinsame Sprache etabliert, und sie ist praktisch nützlich, weil die drei Arten unterschiedlich gespeichert und abgerufen werden. Episodisch heißt: Der Agent weiß, dass er dieselbe Abfrage vor zehn Minuten bereits erfolglos versucht hat. Semantisch heißt: Er kennt Fakten über das Unternehmen – der Bereich, den die Wissenssuche bisher abgedeckt hat. Prozedural heißt: Er weiß, welches Werkzeug in welcher Reihenfolge zu einer Aufgabe gehört. Daraus wird eine brauchbare Prüffrage an jede Gedächtnis-Architektur: Deckt sie alle drei Arten ab oder überwiegend die semantische?

### Graph Engineering

Der Entwurf eines Agentensystems als Netz verzweigter, teils parallel arbeitender Teilagenten mit definierten Beziehungen – statt als eine einzelne, lineare Schleife.

Warum das zählt

Der Begriff kam im Juli 2026 als Weiterentwicklung von Loop Engineering auf und ist deutlich weniger gefestigt: Stand November 2026 gibt es ein erstes Übersichtspaper (August 2026), aber kein etabliertes Verfahren. Das Bild dahinter: Eine Schleife arbeitet wie eine Checkliste, Schritt für Schritt; ein Graph arbeitet wie ein Projektteam, in dem Teilaufgaben an Spezialisten verzweigen und die Ergebnisse an einer entscheidenden Stelle wieder zusammenlaufen. Praktisch beschreibt das, was Orchestrator und Subagent bereits leisten – neu ist, das Muster als bewusste Entwurfsentscheidung zu benennen.

### Handoff

Die geordnete Übergabe eines Vorgangs von einem Agenten an einen anderen – oder an einen Menschen.

Warum das zählt

Der Übergabepunkt an den Menschen ist der wichtigste im ganzen System: Was genau bekommt die Kollegin zu sehen, wie viel Vorgeschichte, und woran erkennt sie, warum übergeben wurde. Schlecht gebaute Übergaben erzeugen mehr Arbeit, als die Automatisierung eingespart hat – dann wird jeder Fall zweimal gelesen.

### Harness Engineering

Die Gestaltung der gesamten Umgebung rund um einen Agenten – Werkzeuge, Gedächtnis, Prüfregeln, Ablauflogik – als ein zusammenhängendes Ganzes statt als Einzelteile.

Warum das zählt

Das ist die Stufe zwischen Context Engineering und Loop Engineering: Context Engineering entscheidet, was das Modell sieht, Harness Engineering entscheidet, in welcher Umgebung es überhaupt handelt. Der Begriff wird meist zusammen mit dem Argument genannt, dass sich die Modelle zunehmend angleichen und der Unterschied zwischen Anbietern deshalb in dieser Hülle entsteht, nicht im Modell selbst. Für die Auswahl heißt das: Die Modellwahl ist austauschbar, die Hülle darum herum ist die eigentliche Arbeit.

### Human-in-the-Loop

Ein Arbeitsmuster, bei dem ein Mensch an definierten Punkten eingreift oder freigibt, bevor eine KI eine folgenreiche Aktion ausführt.

[Zum Begriff](https://ps24.ai/glossar/human-in-the-loop)

### Human-on-the-Loop

Ein Aufsichtsmuster, bei dem die KI eigenständig läuft, ein Mensch sie aber überwacht und jederzeit eingreifen kann.

Warum das zählt

Bei hohem Volumen und geringem Einzelrisiko ist laufende Freigabe unpraktikabel. „On-the-loop" hält den Menschen in der Aufsicht, ohne jeden Schritt zu bremsen – die Abgrenzung zu Human-in-the-Loop ist eine Risikoentscheidung.

### KI-Browser

Ein Webbrowser mit eingebautem Agenten, der Seiten liest, Formulare ausfüllt und mehrstufige Aufgaben im Namen des Nutzers erledigt, angemeldet mit dessen Konten.

Warum das zählt

Sicherheitlich ist die Kombination heikel: Der Agent liest beliebige Webinhalte, die versteckte Anweisungen enthalten können, und handelt zugleich mit den Rechten des angemeldeten Mitarbeiters. OpenAI selbst nennt Prompt Injection ein ungelöstes Problem, Gartner hat Unternehmen Ende 2025 geraten, solche Browser vorerst zu sperren. Wer sie zulässt, braucht mindestens eine Regel in der KI-Richtlinie und getrennte Browserprofile ohne Zugang zu Firmensystemen.

### Kompaktierung

Das Zusammenfassen des bisherigen Verlaufs, wenn ein Agent an die Grenze seines Arbeitsgedächtnisses stößt – und die Frage, was dabei mit den Details passiert.

Warum das zählt

Bei längeren Vorgängen geht an dieser Stelle stillschweigend Information verloren: Der Agent arbeitet weiter, aber mit einer verkürzten Vorgeschichte, und vergisst dabei Details wie ursprüngliche Einschränkungen. Wichtige Vorgaben gehören deshalb dauerhaft in die Grundanweisung statt in den Verlauf. Neuere Architekturen leiten den Verlauf im Moment der Kompaktierung zusätzlich an ein getrenntes Gedächtnissystem weiter, das Fakten, Ereignisse und offene Aufgaben herauszieht, bevor sie verloren gehen. Hier entscheidet sich, ob „vergessen" ein Nebeneffekt ist oder eine bewusste Entwurfsentscheidung.

### Long-running Agent

Ein Agent, der über Stunden oder Tage an einer Aufgabe arbeitet, statt eine Anfrage in Sekunden zu beantworten.

Warum das zählt

Sobald ein Vorgang nicht mehr in eine Sitzung passt, kommen Betriebsfragen dazu, die es beim Chatbot nicht gab: Wo liegt der Zwischenstand, was passiert bei einem Neustart, wer erfährt vom Ergebnis, und wie lange darf das Ganze kosten. Das ist weniger ein KI-Thema als ein klassisches Prozess- und Betriebsthema.

### Loop Engineering

Die Praxis, das Steuersystem zu bauen, das einen Agenten anweist, prüft und stoppt – statt ihm jeden Schritt einzeln vorzugeben.

Warum das zählt

Der Begriff wurde im Juni 2026 geprägt und beschreibt eine reale Verschiebung: Wo man einem Agenten früher Schritt für Schritt Anweisungen gab, baut man heute das System, das entscheidet, was als Nächstes passiert – Auslöser, Prüfung, Wiederholung, Abbruchkriterium. Der meistzitierte Satz aus der Diskussion trifft den Punkt: Nicht mehr der Agent wird geprompted, sondern die Schleife, die den Agenten promptet. Daraus folgt eine brauchbare Prüffrage an jeden Anbieter, denn ein Agent ohne definierte Abbruchbedingung und ohne eigenen Prüfschritt ist keine Schleife, sondern ein Risiko. Eine erste wissenschaftliche Auswertung (August 2026) fand in Praxisquellen breite Einigkeit über die Bausteine einer guten Schleife, aber noch keine systematischen Belege für den behaupteten Nutzen.

### Multi-Agenten-Gedächtnis

Ein Gedächtnisspeicher, auf den mehrere Agenten gemeinsam zugreifen – statt dass jeder Agent isoliert nur seine eigene Geschichte kennt.

Warum das zählt

Sobald mehrere benannte Agenten im selben Raum zusammenarbeiten, stellt sich sofort die Frage, was sie voneinander wissen sollen. Geteiltes Gedächtnis ermöglicht Absprache, schafft aber ein neues Risiko: Ohne saubere Trennung verzerrt eine falsche oder veraltete Information eines Agenten das Verhalten aller anderen. Die Fachliteratur führt isoliertes Gedächtnis ausdrücklich als offenes Problem koordinierter Mehr-Agenten-Systeme – eine bewusste Trennung nach Fachbereichen ist deshalb eine Entwurfsentscheidung, kein Rückstand.

### Orchestrator

Der koordinierende Agent, der eine Aufgabe in Teile zerlegt, sie an Subagenten verteilt und ihre Ergebnisse wieder zusammenführt.

Warum das zählt

Sobald mehrere Agenten zusammenarbeiten, braucht es eine steuernde Instanz. Der Orchestrator ist diese Instanz – er entscheidet, wer was wann tut.

### Persistenter Agent

Ein Agent, der über einzelne Sitzungen hinweg denselben Namen, dieselbe Rolle und dasselbe Gedächtnis behält – statt bei jedem neuen Gespräch von vorn zu beginnen.

Warum das zählt

Das ist der Unterschied zwischen einem Chatfenster und einem Teammitglied. Ein persistenter Agent wird einmal eingerichtet und danach wiederholt angesprochen, ohne dass der Kontext jedes Mal neu erklärt werden muss; der praktische Wert liegt weniger in der Technik als in der Ersparnis – Aufgaben, die sonst jedes Mal neu aufgesetzt werden, laufen bei einem einmal spezialisierten Agenten sofort an. Die Kehrseite gehört zur selben Entscheidung: Was dauerhaft besteht, braucht dauerhaft gepflegte Rechte und ein Ablaufdatum.

### Plan-Execute-Verify

Ein Arbeitsmuster für Agenten: erst einen Plan fassen, ihn schrittweise ausführen und das Ergebnis prüfen, bevor es als fertig gilt.

Warum das zählt

Der Prüf-Schritt ist der Unterschied zwischen einem Agenten, der zuverlässig liefert, und einem, der selbstbewusst Falsches abliefert. Ein Kernmuster verlässlicher Automatisierung.

### ReAct

Ein etabliertes Agentenmuster, das Überlegen und Handeln abwechselt: erst begründen, dann ein Werkzeug aufrufen, das Ergebnis einbeziehen, weiter überlegen.

Warum das zählt

Der Großteil heutiger Agenten-Bauweisen geht auf dieses Muster zurück, weshalb es in Anbietergesprächen und Werkzeugdokumentation ständig auftaucht. Der praktische Wert für Sie liegt in der Nachvollziehbarkeit – jeder Schritt hinterlässt Begründung und Werkzeugaufruf im Protokoll.

### Skills

Gebündelte, bei Bedarf abrufbare Anleitungen und Werkzeuge, die einem Agenten eine bestimmte Fähigkeit verleihen – ohne den Kontext dauerhaft zu belasten.

[Zum Begriff](https://ps24.ai/glossar/skills)

### Spec-driven Development

Eine Arbeitsweise für die Softwareentwicklung mit KI-Agenten: Zuerst wird schriftlich festgelegt, was gebaut werden soll und warum, daraus entstehen Plan und Aufgaben, und erst dann schreibt der Agent Code.

Warum das zählt

Das ist die geordnete Antwort auf Vibe Coding. Die Spezifikation ist das Dokument, an dem sich Ergebnis und Abnahme messen lassen, und sie bleibt nach dem Projekt als Beschreibung des Systems erhalten. Werkzeuge wie GitHub Spec Kit oder Kiro von AWS geben dafür feste Abläufe vor. Für Auftraggeber ist der Ansatz vertraut, er entspricht einem guten Lastenheft, nur dass ein Agent umsetzt. Der Aufwand verschiebt sich nach vorn: Wer die Anforderung unscharf beschreibt, bekommt sie schnell und unscharf gebaut.

### Speicherbereinigung / Vergessensstrategie

Die Regel, nach der veraltete, widersprüchliche oder nicht mehr relevante Gedächtniseinträge eines Agenten entfernt oder als überholt markiert werden.

Warum das zählt

Ein Agentengedächtnis, das nur wächst, wird mit der Zeit zur Last statt zum Vorteil – widersprüchliche alte Fakten verschlechtern die Antwortqualität, statt sie zu verbessern. Die Fachliteratur behandelt den Punkt bisher schwächer als das Speichern selbst; für dauerhaft betriebene Systeme ist er genauso wichtig. Konkret ist es eine Betriebsfrage: Was passiert mit einem Fakt, der sich geändert hat, und wer entscheidet, wann etwas endgültig gelöscht statt nur überschrieben wird.

### Subagent

Ein untergeordneter Agent, der eine abgegrenzte Teilaufgabe übernimmt, während ein übergeordneter Agent das Ganze steuert.

Warum das zählt

Subagenten halten komplexe Aufgaben beherrschbar: Jeder bekommt einen klaren Auftrag und einen eigenen, sauberen Kontext. 2026 ein etablierter Standardbegriff im Agenten-Bau.

### Tool Use

Die Fähigkeit eines KI-Modells, externe Werkzeuge aufzurufen – etwa eine Suche, einen Taschenrechner oder eine Datenbankabfrage – statt nur Text zu erzeugen.

[Zum Begriff](https://ps24.ai/glossar/tool-use)

### Verifier

Die Komponente in einer Agentenschleife, die prüft, ob ein Ergebnis tatsächlich fertig und richtig ist – nicht das Modell selbst, sondern ein davon getrennter Prüfschritt.

Warum das zählt

In der Diskussion um Loop Engineering gilt einhellig: Nicht das Modell ist der Engpass, sondern die Prüfung. Ein Agent, der sich selbst als „fertig" einstuft, ist kein verlässlicher Maßstab – die Prüfung muss unabhängig vom erzeugenden Modell laufen, über Tests, feste Kriterien oder einen zweiten, gezielt kritischen Modellaufruf. Wer einen Agenten einkauft, sollte sich genau diesen Schritt zeigen lassen.

## Protokolle & Schnittstellen

Wie KI-Systeme mit Werkzeugen und untereinander kommunizieren.

### A2A

Ein offener Standard, über den eigenständige KI-Agenten miteinander reden und Aufgaben aneinander übergeben – auch über Anbieter- und Systemgrenzen hinweg.

[Zum Begriff](https://ps24.ai/glossar/a2a)

### ACP

Ein Kürzel, das für vier verschiedene Protokolle verwendet wird – in der Softwareentwicklung meint es fast immer das Agent Client Protocol, das Code-Editoren mit KI-Agenten verbindet, im Handel das Agentic Commerce Protocol für Käufe über KI-Assistenten.

[Zum Begriff](https://ps24.ai/glossar/acp)

### AG-UI

Ein offenes Protokoll, das einen KI-Agenten mit der Oberfläche verbindet, in der ein Mensch mit ihm arbeitet: Zwischenstände, Werkzeugaufrufe und Rückfragen laufen als Ereignisstrom in die Anwendung.

Warum das zählt

AG-UI deckt die Verbindung ab, die neben MCP (Modell zu Werkzeug) und A2A (Agent zu Agent) fehlte: Agent zu Mensch. Es wurde von CopilotKit entwickelt, liegt seit September 2026 in Version 1.0 mit stabiler Spezifikation vor und wird von mehreren Agenten-Frameworks unterstützt, sodass sich ein Agent in eine bestehende Anwendung einbetten lässt, ohne je Framework eine eigene Schnittstelle zu bauen. Formate wie MCP Apps oder Googles A2UI (noch in früher Vorschau) lösen eine benachbarte Aufgabe: Sie beschreiben, welche Oberfläche ein Agent anzeigt, nicht wie der Austausch läuft.

### Agent Client Protocol

Ein offener Standard, über den beliebige Coding-Agenten in beliebigen Code-Editoren laufen – statt für jede Kombination eine eigene Integration zu bauen.

[Zum Begriff](https://ps24.ai/glossar/agent-client-protocol)

### Agentic AI Foundation

Eine herstellerneutrale Stiftung unter dem Dach der Linux Foundation, die offene Standards für KI-Agenten verwaltet, darunter MCP und AGENTS.md.

Warum das zählt

Gegründet im Dezember 2025 mit drei Startprojekten: MCP (von Anthropic), AGENTS.md (von OpenAI) und dem Agenten goose (von Block). Im August 2026 kam das Agenten-Protokoll A2A hinzu. Zu den Mitgliedern zählen unter anderem AWS, Google und Microsoft. Für Unternehmen ist das ein Stabilitätssignal: Ein Standard bei einer neutralen Stiftung hängt nicht mehr an der Produktstrategie eines einzelnen Anbieters. Das macht Investitionen in MCP-Anbindungen und Regeldateien langfristig sicherer als solche in anbietereigene Formate.

### Agentic Commerce

Einkaufen über KI-Agenten: Ein Assistent sucht Produkte, füllt den Warenkorb und bezahlt im Auftrag eines Kunden, über eigene Protokolle zwischen Agent, Händler und Zahlungsdienst.

Warum das zählt

Drei Standards teilen sich die Strecke. Das Universal Commerce Protocol von Google und Shopify (Januar 2026, zuletzt aktualisiert im August 2026) deckt Produktsuche und Warenkorb ab, das Agentic Commerce Protocol von OpenAI und Stripe (September 2025, weiterhin als Beta) den Bezahlvorgang im Chat, und das Agent Payments Protocol (AP2, seit April 2026 bei der FIDO Alliance) belegt, dass der Kunde die Zahlung tatsächlich freigegeben hat. Die Kartennetze ziehen nach: Visa wickelt seit Juli 2026 in Europa echte Zahlungen durch Agenten ab. Für Händler und B2B-Shops entsteht damit eine neue Frage: ob der eigene Katalog für Agenten lesbar ist und nicht nur für Menschen und Suchmaschinen.

### Confused Deputy

Ein Sicherheitsmuster, bei dem ein berechtigtes System dazu gebracht wird, seine Rechte im Auftrag eines Unberechtigten zu nutzen.

Warum das zählt

Genau das ist die Bauform des Risikos bei Agenten: Der Agent darf ins CRM, der Angreifer nicht – also bringt er den Agenten dazu, es für ihn zu tun. Deshalb greifen Schutzmaßnahmen an der Rechtevergabe und an Freigaben, nicht an besseren Anweisungen im Prompt.

### LSP

Der seit 2016 etablierte Standard, über den Code-Editoren Sprachintelligenz beziehen – Autovervollständigung, Fehlerprüfung, Sprung zur Definition – unabhängig von Editor und Programmiersprache.

[Zum Begriff](https://ps24.ai/glossar/lsp)

### MCP

Ein offener Standard, über den ein KI-Modell auf Werkzeuge und Datenquellen zugreift – wie ein USB-Anschluss zwischen Modell und Außenwelt.

[Zum Begriff](https://ps24.ai/glossar/mcp)

### MCP-Authentifizierung

Der Nachweis, in wessen Namen ein KI-Client auf einen MCP-Server und die dahinterliegenden Systeme zugreift.

Warum das zählt

Frühe MCP-Installationen liefen mit einem Sammelzugang und damit mit den Rechten aller Nutzer gleichzeitig – für Firmendaten unhaltbar, weil jede Berechtigungsstruktur ausgehebelt wird. Anzustreben ist die Anbindung an Ihr bestehendes Anmeldeverfahren, sodass ein Agent nur sieht, was der jeweilige Mitarbeiter auch sehen dürfte.

### MCP-Client

Der Teil einer KI-Anwendung, der MCP-Server anspricht, ihre Werkzeuge entdeckt und für das Modell verfügbar macht.

[Zum Begriff](https://ps24.ai/glossar/mcp-client)

### MCP-Server

Ein Programm, das nach dem MCP-Standard Werkzeuge oder Datenquellen bereitstellt, damit KI-Anwendungen sie nutzen können.

[Zum Begriff](https://ps24.ai/glossar/mcp-server)

### Tool-Poisoning

Ein Angriff, bei dem die Beschreibung eines Werkzeugs versteckte Anweisungen enthält, die das Modell befolgt, ohne dass ein Nutzer sie je zu sehen bekommt.

Warum das zählt

Werkzeugbeschreibungen landen unbesehen im Kontext des Modells und werden wie Anweisungen behandelt – ein aus einem öffentlichen Verzeichnis installierter MCP-Server ist damit ausführbarer Fremdcode mit Zugriff auf Ihre Daten. Fremde Server gehören deshalb geprüft, versionsfest eingebunden und nicht automatisch aktualisiert.

### Transport

Der Kommunikationsweg, über den MCP-Client und -Server Nachrichten austauschen: lokal als Unterprozess oder über das Netz per HTTP.

[Zum Begriff](https://ps24.ai/glossar/transport)

## Daten & Wissen

Wie ein Modell an Ihr Firmenwissen kommt – und es zuverlässig nutzt.

### CAG

Eine Alternative zur Wissenssuche: Das gesamte benötigte Wissen wird vorab ins Kontextfenster geladen und zwischengespeichert, statt bei jeder Frage passende Textstellen herauszusuchen.

Warum das zählt

Seit Kontextfenster mehrere hunderttausend Token fassen und Anbieter Prompt Caching anbieten, ist das für kleine, stabile Wissensbestände oft die einfachere Lösung: kein Suchindex, keine falsch ausgewählten Textstellen. Bei großen oder häufig geänderten Beständen, bei feinen Zugriffsrechten und wegen Context Rot bleibt RAG die bessere Wahl.

### Chunking

Das Zerlegen langer Dokumente in handliche Abschnitte, bevor sie für eine KI-Wissenssuche aufbereitet werden.

Warum das zählt

Schlechtes Chunking ist eine der häufigsten Ursachen für schwache RAG-Ergebnisse: Sind die Abschnitte zu groß, zu klein oder unsauber geschnitten, findet das System die falschen Stellen.

### Context Engineering

Die gezielte Gestaltung dessen, was ein KI-Modell zur Laufzeit „sieht" – also welche Anweisungen, Daten, Werkzeuge und Erinnerungen in sein Arbeitsgedächtnis kommen.

[Zum Begriff](https://ps24.ai/glossar/context-engineering)

### Context Rot

Der beobachtete Qualitätsverlust, wenn das Arbeitsgedächtnis eines Modells sehr voll wird – Angaben in der Mitte werden schlechter berücksichtigt.

Warum das zählt

Ein größeres Kontextfenster ist deshalb kein Freibrief, alles hineinzuladen: Mehr Kontext kann Ergebnisse verschlechtern und kostet in jedem Fall mehr. Die praktische Konsequenz ist, gezielt wenige relevante Abschnitte zu übergeben statt ganzer Handbücher – genau die Aufgabe von Wissenssuche und Kontextgestaltung. Von der Fehlerseite her belegt das eine Übersichtsarbeit über 27 Studien: Sie führt die Verschlechterung durch anwachsenden Kontext als einen von sechs Fehlerclustern bei Agenten und findet, dass Fehler mit der Aufgabenlänge überproportional zunehmen – die Verschlechterung setzt also lange vor der technischen Kontextgrenze ein.

### Datenqualität

Vollständigkeit, Aktualität und Einheitlichkeit der Daten, mit denen eine KI-Anwendung arbeiten soll.

Warum das zählt

Die häufigste Ursache enttäuschender Ergebnisse ist nicht das Modell, sondern der Bestand: drei Schreibweisen desselben Kunden, veraltete Preislisten neben aktuellen, gescannte Dokumente ohne Texterkennung. Die gute Nachricht ist, dass Aufräumen auch ohne KI Nutzen bringt – es ist damit eines der wenigen Vorhaben, die sich unabhängig vom weiteren Weg rechnen.

### Embedding

Eine Methode, Texte in Zahlenreihen zu übersetzen, sodass eine KI ihre Bedeutung vergleichen kann – Ähnliches liegt nah beieinander.

Warum das zählt

Embeddings sind die technische Grundlage von Bedeutungssuche, RAG und Vektordatenbanken. Ihre Qualität bestimmt mit, wie gut eine Wissenssuche trifft.

### GraphRAG

Eine Variante der Wissenssuche, die neben den Texten auch die Beziehungen zwischen Personen, Produkten und Vorgängen abbildet.

Warum das zählt

Klassisches RAG findet passende Textstellen, scheitert aber an Fragen, deren Antwort über mehrere Dokumente verteilt ist – etwa welche Kunden von einem Bauteil betroffen sind. Der Aufbau ist deutlich aufwendiger, weshalb es sich nur bei stark vernetzten Datenbeständen lohnt und nicht als Standardeinstieg taugt.

### Ground Truth

Ein Satz geprüfter Fälle mit bekannt richtiger Antwort, an dem sich die Qualität einer KI-Anwendung messen lässt.

Warum das zählt

Ohne diesen Referenzsatz bleibt jede Qualitätsaussage Gefühlssache, und Verbesserungen sind nicht von Zufall zu unterscheiden. Der Aufbau ist die unbeliebteste und zugleich lohnendste Stunde im Projekt: Wer 30 echte Fälle mit korrektem Ergebnis hinterlegt, kann jeden späteren Modell- oder Prompt-Wechsel in Minuten bewerten.

### Grounding / Quellenbeleg

Die Rückbindung einer KI-Antwort an konkrete Fundstellen im Ausgangsmaterial – belegt statt behauptet.

Warum das zählt

Für betriebliche Nutzung ist der Beleg oft wichtiger als die Antwort selbst, weil er die Prüfung in Sekunden statt Minuten erlaubt. Er ist zugleich die wirksamste Gegenmaßnahme gegen Halluzinationen: Was nicht belegt werden kann, wird als unbeantwortet ausgewiesen statt frei erfunden.

### Hybride Suche

Die Kombination aus Stichwortsuche und Bedeutungssuche, deren Treffer zu einer gemeinsamen Rangfolge zusammengeführt werden.

Warum das zählt

Reine Bedeutungssuche versagt genau dort, wo der Mittelstand sucht: bei Artikelnummern, Normbezeichnungen, Kundennummern und Eigennamen – Zeichenfolgen ohne Bedeutungsgehalt. Die Kombination beider Verfahren ist meist der wirksamste einzelne Qualitätssprung in einer Dokumentensuche und kostet weniger Aufwand als ein Modellwechsel.

### Knowledge Compounding

Der Aufbau einer Wissensbasis, in der jede neue Erkenntnis eines Agenten künftige Antworten direkt verbessert – statt dass jede Anfrage wieder bei null beginnt.

Warum das zählt

Das ist die wirtschaftliche Zuspitzung des Themas Agentengedächtnis: Ohne diesen Effekt kostet jede Anfrage denselben Rechercheaufwand wie die erste; mit ihm sinkt der Aufwand für wiederkehrende Themen mit der Zeit. Wer eine interne Wissensbasis fortlaufend aus dem eigenen Betrieb speist, tut das im Grunde schon – der Begriff benennt es als eigene Kategorie und macht es damit zur bewussten Entscheidung statt zum Nebeneffekt. In der Softwareentwicklung läuft dieselbe Idee unter „Compound Engineering": Jede erledigte Aufgabe hinterlässt Regeln und Notizen, die die nächste leichter machen.

### Metadatenfilter

Die Einschränkung der Suche auf bestimmte Dokumentbereiche, Zeiträume oder Berechtigungsgruppen, bevor überhaupt nach Ähnlichkeit gesucht wird.

Warum das zählt

Ohne Filter beantwortet eine Wissenssuche Fragen aus Dokumenten, die der Fragende gar nicht sehen dürfte – der häufigste Datenschutzfehler in RAG-Anwendungen. Filter sind zugleich der einfachste Qualitätshebel: Wer die Suche auf die gültige Version einer Richtlinie begrenzt, bekommt keine Antworten aus dem Stand von 2019.

### Progressive Disclosure

Das Prinzip, einem Modell Information erst dann nachzureichen, wenn es sie tatsächlich braucht – statt alles vorab in den Kontext zu laden.

Warum das zählt

Progressive Disclosure hält das Kontextfenster schlank und damit Antworten schneller, günstiger und treffsicherer. Ein Kerngedanke modernen Context Engineering.

### RAG

Ein Verfahren, bei dem ein KI-Modell Antworten aus Ihren eigenen Dokumenten zieht – statt nur aus seinem allgemeinen Trainingswissen.

[Zum Begriff](https://ps24.ai/glossar/rag)

### Reranking

Ein zweiter Schritt in der KI-Suche, der die zunächst gefundenen Treffer noch einmal genauer nach Relevanz ordnet.

Warum das zählt

Reranking hebt die Antwortqualität spürbar, weil dem Modell am Ende wirklich die passendsten Stellen vorliegen – oft der entscheidende Feinschliff eines RAG-Systems.

### Synthetische Daten

Künstlich erzeugte Datensätze, die echte Daten in ihren Mustern nachbilden, aber keine realen Personen oder Vorgänge enthalten.

Warum das zählt

Sie helfen dort, wo echte Daten fehlen oder nicht verwendet werden dürfen: beim Testen einer Anwendung ohne Kundendaten, beim Ergänzen seltener Fälle in einem Prüfdatensatz, beim Trainieren kleiner Spezialmodelle. Zwei Vorbehalte gehören dazu. Synthetische Daten bilden nur ab, was das erzeugende Verfahren kennt, seltene und teure Sonderfälle fehlen leicht. Und sie sind nicht automatisch anonym: Werden sie aus echten personenbezogenen Daten abgeleitet, ist schon das eine Verarbeitung, und schlecht erzeugte Datensätze lassen Rückschlüsse auf Einzelpersonen zu. Für Abnahmetests heißt das: synthetisch ergänzen, aber nicht ohne echte Fälle.

### Vektordatenbank

Ein Speicher, der Dokumente nach ihrer Bedeutung ablegt und durchsuchbar macht – die Grundlage für KI-Wissenssuchen.

Warum das zählt

Die Vektordatenbank ist die Infrastruktur hinter RAG und internen Assistenten. Sie ermöglicht eine Suche nach Sinn statt nur nach Stichworten.

## Automatisierung & Integration

Wie KI-Bausteine mit Ihren bestehenden Systemen zusammenarbeiten – und was den Unterschied zwischen Prototyp und verlässlichem Prozess macht.

### API / Schnittstelle

Ein definierter Zugang, über den zwei Programme Daten austauschen – die technische Grundlage jeder Systemanbindung.

Warum das zählt

Ob Ihr ERP, DMS oder Branchensystem eine brauchbare API hat, entscheidet häufiger über Machbarkeit und Aufwand eines Vorhabens als die Wahl des KI-Modells. Fehlt sie, bleiben nur teure Umwege: Datenbankzugriff, Dateiexporte oder Oberflächen-Bedienung. Diese Frage gehört deshalb an den Anfang jeder Potenzialbewertung, nicht ans Ende.

### Dead Letter Queue

Ein Ablagefach für Vorgänge, die auch nach mehreren Versuchen nicht durchgelaufen sind – damit sie nicht verloren gehen, sondern sichtbar liegen bleiben.

Warum das zählt

Die häufigste stille Fehlerquelle in Automatisierungen ist der Vorgang, der einfach verschwindet: keine Fehlermeldung, kein Ergebnis, niemand merkt es. Eine Fehlerablage plus Benachrichtigung macht aus einem unsichtbaren Datenverlust einen normalen Arbeitsvorrat, den jemand morgens durchsieht.

### Deterministischer Workflow vs. Agent

Die Grundsatzentscheidung, ob ein Ablauf fest verdrahtet ist und immer gleich läuft – oder ob eine KI zur Laufzeit selbst entscheidet, was als Nächstes passiert.

Warum das zählt

Das ist die folgenreichste Architekturentscheidung in fast jedem Projekt, und sie fällt oft unbewusst zugunsten des Agenten, weil der interessanter klingt. Ein fest verdrahteter Workflow ist prüfbar, reproduzierbar und billig; ein Agent ist flexibel, aber teurer, langsamer und in seinem Verhalten nur statistisch vorhersagbar. Faustregel: Wenn Sie die Schritte aufschreiben können, gehören sie in einen Workflow – die KI übernimmt dann nur die einzelnen Stellen, an denen wirklich Sprachverständnis nötig ist.

### Durable Execution

Eine Ausführungsweise, bei der ein mehrstufiger Ablauf seinen Fortschritt nach jedem Schritt festhält, sodass er nach einem Absturz oder Neustart genau dort weiterläuft, wo er stand.

Warum das zählt

Für lang laufende Agenten und Abläufe mit menschlicher Freigabe ist das die technische Grundlage: Ein Vorgang, der zwei Tage auf eine Freigabe wartet, darf weder verloren gehen noch beim Neustart Schritte doppelt ausführen. Werkzeuge wie Temporal oder die Ausführungsschichten der großen Agenten-Plattformen setzen das um. Wer einen Agenten für Vorgänge über Stunden oder Tage plant, sollte fragen, wo der Zwischenstand liegt und was nach einem Neustart passiert. Gibt es darauf keine Antwort, ist der Agent noch ein Prototyp.

### ETL / Datenpipeline

Der Weg, auf dem Daten aus Quellsystemen geholt, aufbereitet und an ihren Zielort gebracht werden – die Vorstufe fast jeder Auswertung.

Warum das zählt

Viele KI-Vorhaben scheitern nicht am Modell, sondern daran, dass die nötigen Daten in vierzehn Excel-Ständen, einem Altsystem und drei Postfächern verteilt liegen. Der Aufbau einer verlässlichen Datenstrecke ist dann Schritt eins und liefert auch ohne KI schon Nutzen – was ihn zu einem der wenigen risikoarmen Anfangsprojekte macht.

### Idempotenz

Die Eigenschaft eines Arbeitsschritts, bei mehrfacher Ausführung dasselbe Ergebnis zu liefern wie bei einmaliger – entscheidend, sobald etwas wiederholt wird.

Warum das zählt

Automatisierungen brechen mitten im Ablauf ab und werden neu gestartet, das ist Normalbetrieb und kein Ausnahmefall. Ist ein Schritt nicht idempotent, entstehen dabei doppelte Rechnungen, doppelte CRM-Einträge oder zweimal versendete Kundenmails. Praktisch löst man das über einen eindeutigen Vorgangsschlüssel, gegen den vor jeder schreibenden Aktion geprüft wird – der Aufwand ist gering, das Fehlen fällt erst im Live-Betrieb auf.

### iPaaS

Eine Plattform, auf der Sie Verbindungen zwischen Cloud-Diensten und internen Systemen zusammenklicken, statt sie zu programmieren.

Warum das zählt

iPaaS-Werkzeuge senken die Einstiegshürde erheblich, verschieben die Kosten aber in den Betrieb: Abgerechnet wird meist pro Ausführung, und wer viele Läufe hat, zahlt schnell mehr als für einen eigenen Server. Zweiter Punkt für datensensible Prozesse: Die meisten Anbieter bieten kein Self-Hosting an, Ihre Daten laufen also zwangsläufig über deren Infrastruktur.

### Retry / Backoff

Das automatische Wiederholen eines fehlgeschlagenen Schritts, mit wachsendem Abstand zwischen den Versuchen.

Warum das zählt

Schnittstellen sind zeitweise nicht erreichbar oder drosseln Anfragen – ohne Wiederholungslogik scheitert der ganze Ablauf an einer Störung von zehn Sekunden. Ohne wachsende Wartezeit wiederum verschärfen die Wiederholungen das Problem und können ein angeschlagenes System vollends überlasten. Wichtig ist die Unterscheidung: Ein Zeitüberschreitungsfehler gehört wiederholt, ein Validierungsfehler nie.

### RPA

Software-Roboter, die Programme über die Benutzeroberfläche bedienen – klicken und tippen wie ein Mensch, aber nach starrem Skript.

Warum das zählt

RPA wird regelmäßig mit KI-Automatisierung verwechselt, funktioniert aber grundlegend anders: Es folgt festen Klickpfaden und bricht, sobald sich eine Maske ändert. Sinnvoll bleibt es nur dort, wo ein Altsystem keine Schnittstelle hat. Wo eine API existiert, ist der direkte Weg fast immer stabiler und billiger – und wo echtes Verständnis von Inhalten nötig ist, führt an einem Modell kein Weg vorbei.

### Structured Outputs

Eine Anbieterfunktion, die ein Modell zwingt, seine Antwort exakt in einem vorgegebenen Datenformat zu liefern, etwa als JSON mit festgelegten Feldern.

Warum das zählt

Für Automatisierung ist das der Unterschied zwischen „meistens richtig formatiert" und „immer gültig": Die folgenden Schritte, etwa das Buchen einer Rechnung im ERP, brauchen verlässliche Felder. Technisch wird die Ausgabe schon beim Erzeugen auf das Schema beschränkt, statt sie nachträglich zu prüfen. Die großen Anbieter haben die Funktion inzwischen im Regelbetrieb. Zwei Grenzen bleiben: Garantiert ist das Format, nicht der Inhalt, und bei Ablehnungen oder abgeschnittenen Antworten kann auch das Format brechen. Eine fachliche Prüfung der Werte bleibt nötig.

### Systemanbindung (ERP, DMS, CRM)

Die Kopplung einer KI- oder Automatisierungslösung an Ihre führenden Systeme – dort, wo die Daten tatsächlich liegen und gepflegt werden.

Warum das zählt

Erst mit der Anbindung wird aus einem Assistenten ein Prozess: Ein Chat-Fenster spart Minuten, eine automatisch verbuchte Rechnung spart Stellenanteile. Der Aufwand steckt selten in der KI, sondern in Berechtigungen, Datenmodell und Testumgebung des Zielsystems – deshalb gehört diese Frage in die Bewertung eines Anwendungsfalls, nicht in die Umsetzungsphase.

### Webhook

Ein automatischer Anruf eines Systems bei einem anderen, sobald ein bestimmtes Ereignis eintritt – die übliche Startpistole für Automatisierungen.

Warum das zählt

Webhooks ersetzen das regelmäßige Nachfragen („Gibt's was Neues?") durch aktives Benachrichtigen und machen Abläufe damit sofort reaktionsfähig statt minutenverzögert. Sie sind aber offene Türen ins eigene Netz: Ohne Signaturprüfung und Zugriffsbeschränkung kann sie jeder auslösen, der die Adresse kennt.

### Workflow-Automatisierung

Software, die wiederkehrende Abläufe zwischen Ihren Systemen selbstständig ausführt – ausgelöst durch ein Ereignis, abgearbeitet nach festen Regeln.

Warum das zählt

Der größte Teil dessen, was im Mittelstand als „KI-Projekt" startet, ist bei genauer Betrachtung ein Automatisierungsprojekt mit einem KI-Baustein an ein bis zwei Stellen. Werkzeuge wie n8n, Make oder Zapier verbinden E-Mail, ERP, CRM und Dateiablage, ohne dass für jede Verbindung eigene Software entwickelt werden muss. Wer das trennt, spart Geld: Der Automatisierungsteil ist erprobte Technik, nur der KI-Teil braucht Absicherung und Messung.

### Workflow-Sprawl

Der Wildwuchs schnell gebauter Automatisierungen, die niemand mehr vollständig überblickt, dokumentiert oder abschaltet.

Warum das zählt

Genau das macht Automatisierung im zweiten Jahr teuer: fünfzig Abläufe, von denen die Hälfte niemand mehr zuordnen kann, mit Zugangsdaten ehemaliger Mitarbeiter und stillschweigenden Abhängigkeiten untereinander. Gegenmittel sind unspektakulär und wirken sofort: Namenskonventionen, ein Verantwortlicher je Ablauf, Versionierung in Git und ein fester Termin zum Aufräumen.

## Betrieb & Governance

Was es braucht, damit KI im Betrieb sicher, prüfbar und bezahlbar läuft.

### Agenten-Beobachtbarkeit

Die laufende Auswertung dessen, was Agenten tatsächlich tun – welche Werkzeuge, wie oft, mit welchem Ergebnis und zu welchen Kosten.

Warum das zählt

Observability / Tracing deckt die Einzelanfrage ab; hier geht es um die Ebene darüber, auf der Muster sichtbar werden: der Agent, der seit dem Modellwechsel doppelt so viele Aufrufe braucht, oder der, den seit acht Wochen niemand mehr nutzt und der trotzdem Zugriff auf die Kundendaten hat. Beides sieht man nur, wenn jemand hinschaut – monatlich reicht.

### Agenten-Identität

Ein eigener, benannter Zugang für jeden KI-Agenten – mit Verantwortlichem, klar umrissenen Rechten und Ablaufdatum.

Warum das zählt

Der bequeme Weg ist, den Agenten unter dem Konto eines Mitarbeiters oder einem allgemeinen Dienstkonto laufen zu lassen. Damit sind zwei Dinge verloren: die Nachvollziehbarkeit, wer eine Aktion ausgelöst hat, und die Möglichkeit, den Agenten gezielt abzuschalten, ohne den Mitarbeiter mit abzuschalten. Eine eigene Identität je Agent ist die Voraussetzung für praktisch alles andere – Protokollierung, Rechtebeschränkung, geordnete Abschaltung. Sie kostet wenig, wenn man sie von Anfang an vergibt, und viel, wenn man sie nachträglich einführt. Normen dafür entstehen gerade: Die IETF arbeitet an einem Entwurf, der jedem Agenten eine eigene Workload-Identität zuordnet (erste Fassung September 2026, noch kein fertiger Standard).

### Agenten-Register

Eine geführte Übersicht aller im Unternehmen eingesetzten KI-Agenten und Automatisierungen – mit Zweck, Verantwortlichem, Datenzugriff und Status.

Warum das zählt

Das ist das schlichteste wirksame Instrument und zugleich das, was am häufigsten fehlt. Es beantwortet die Fragen, die im Ernstfall gestellt werden: Was läuft bei uns überhaupt? Wer ist zuständig? Auf welche Daten greift es zu? Für den AI Act ist es zugleich der Ausgangspunkt jeder Einstufung – ohne Bestandsliste lässt sich nicht sagen, ob etwas in eine regulierte Kategorie fällt. Eine Tabelle genügt.

### Agenten-Sandbox

Eine abgeschottete Umgebung, in der ein KI-Agent Code ausführt oder Dateien bearbeitet, ohne an Ihre eigentlichen Systeme und Daten heranzukommen.

Warum das zählt

Ein Agent, der Programme starten oder Dateien ändern darf, kann auch durch eine Fehlentscheidung oder einen eingeschleusten Befehl Schaden anrichten. Die Sandbox begrenzt diesen Schaden technisch, statt sich darauf zu verlassen, dass der Agent sich schon richtig verhält. Gemeint ist nicht das KI-Reallabor des AI Act, das ebenfalls „Sandbox" heißt.

### AI Governance

Der organisatorische Rahmen für den KI-Einsatz im Unternehmen – wer entscheidet, was zugelassen ist, wer verantwortet den Betrieb, und woran wird das überprüft.

Warum das zählt

Der Begriff klingt nach Konzernbürokratie und schreckt im Mittelstand ab, meint aber im Kern vier beantwortbare Fragen: Welche Werkzeuge sind freigegeben? Wer darf welche Daten hineingeben? Wer ist für einen produktiven Anwendungsfall zuständig? Wie wird geprüft, ob er noch tut, was er soll? Ein Unternehmen mit 60 Mitarbeitern beantwortet das auf zwei Seiten, nicht in einem Managementsystem. Der Aufwand für die Alternative ist höher: Ohne Rahmen entstehen unkontrollierte Werkzeugnutzung und Automatisierungen, die niemandem gehören – und beides wird mit jedem Monat teurer zu bereinigen.

### Audit-Log

Ein lückenloses Protokoll der Aktionen einer KI-Anwendung – wer, was, wann, mit welchen Daten.

Warum das zählt

Für regulierte Branchen und den Datenschutz ist ein Audit-Log oft Pflicht. Es macht im Streitfall belegbar, was das System getan hat – und was nicht.

### Automation Bias

Die menschliche Neigung, maschinellen Vorschlägen stärker zu vertrauen als eigener Prüfung – besonders wenn sie meistens richtig sind.

Warum das zählt

Das ist der Grund, warum eine formale Freigabe durch einen Menschen weniger wert sein kann, als sie aussieht: Wer 200 Vorschläge am Tag bestätigt, von denen 195 stimmen, prüft die restlichen fünf nicht mehr wirklich. Für alles, was mit menschlicher Aufsicht abgesichert wird – auch im Sinne des AI Act – ist das die unbequeme Kernfrage. Gegenmittel liegen in der Gestaltung: Stichproben statt Vollprüfung, sichtbare Unsicherheitsangaben, bewusst reibungsbehaftete Bestätigung bei unumkehrbaren Schritten.

### Circuit Breaker

Ein Schutzmechanismus, der eine KI-Anwendung automatisch stoppt, wenn etwas aus dem Ruder läuft – etwa zu viele Fehler oder zu hohe Kosten.

Warum das zählt

Ein Circuit Breaker begrenzt den Schaden, wenn ein Agent in eine Schleife gerät oder Kosten explodieren. Eine einfache, aber wirksame Betriebssicherung.

### Cost Control

Maßnahmen, die die laufenden Kosten einer KI-Anwendung im Blick und im Rahmen halten – Limits, Modellwahl, Caching.

Warum das zählt

Bei Cloud-Modellen summieren sich Token-Kosten schnell. Aktive Kostenkontrolle entscheidet darüber, ob ein Use-Case wirtschaftlich bleibt.

### Datenexfiltration

Der ungewollte Abfluss vertraulicher Daten aus einer KI-Anwendung – etwa über manipulierte Inhalte, die das System zur Weitergabe verleiten.

Warum das zählt

Das ist die konkrete Schadensform hinter Prompt Injection: Ein Agent mit Postfach- und Internetzugriff kann durch eine präparierte E-Mail dazu gebracht werden, Inhalte an eine fremde Adresse zu senden. Wirksam dagegen ist weniger ein besseres Modell als eine engere Architektur – Trennung von Lese- und Schreibrechten, Freigaben bei Ausleitungen nach außen, Protokollierung jeder Werkzeugnutzung.

### Delegierte Berechtigung

Ein Agent handelt nicht mit eigenen Rechten, sondern im Namen eines bestimmten Menschen – und sieht damit genau das, was dieser sehen darf.

Warum das zählt

Das ist die saubere Antwort auf die Frage, warum ein KI-Assistent nicht allen Mitarbeitern dieselben Antworten geben darf. Ohne Delegation braucht der Agent Zugriff auf alles, was irgendein Nutzer sehen könnte – womit jede bestehende Berechtigungsstruktur ausgehebelt ist. Der Haken: Delegation endet nicht automatisch. Ein Agent, der stunden- oder tagelang weiterarbeitet, handelt irgendwann mit Rechten, die aus einer Zustimmung von gestern stammen. Deshalb gehören Gültigkeitsdauer und erneute Freigabe zum Entwurf dazu.

### Evaluation / Eval

Das systematische Messen, wie gut eine KI-Anwendung ihre Aufgabe erfüllt – mit definierten Testfällen statt nach Bauchgefühl.

Warum das zählt

Ohne Evals weiß niemand, ob eine Änderung das System besser oder schlechter gemacht hat. Sie sind die Voraussetzung, KI-Qualität überhaupt zu steuern.

### Explainable AI

Verfahren, die nachvollziehbar machen, wie ein KI-System zu einem Ergebnis gekommen ist – statt nur das Ergebnis auszugeben.

Warum das zählt

Bei klassischen Modellen mit Zahlen und Tabellen ist das technisch weitgehend gelöst – man kann angeben, welche Merkmale den Ausschlag gaben. Bei Sprachmodellen ist es das ausdrücklich nicht: Eine ausformulierte Begründung wird ebenso erzeugt wie die Antwort selbst und muss nicht dem entsprechen, was intern tatsächlich passiert ist. Für die betriebliche Praxis folgt daraus eine Verschiebung: Erklärbarkeit entsteht bei Sprachmodellen weniger im Modell als um das Modell herum – über Quellenbelege, protokollierte Zwischenschritte und nachvollziehbare Werkzeugaufrufe. Wer eine begründungspflichtige Entscheidung automatisieren will, sollte das wissen, bevor er es zusagt.

### Fallback-Modell

Ein hinterlegtes Ersatzmodell, auf das eine Anwendung automatisch umschaltet, wenn das primäre nicht erreichbar ist.

Warum das zählt

Anbieterausfälle von mehreren Stunden sind keine Seltenheit, und Ihre Automatisierung steht in der Zeit still. Ein Fallback ist technisch schnell eingerichtet, wenn die Anwendung über eine einheitliche Schnittstelle spricht – er muss aber vorher einmal getestet worden sein, sonst tauscht man den Ausfall gegen falsche Ergebnisse.

### Guardrails

Technische Leitplanken, die festlegen, was eine KI darf und was nicht – etwa welche Themen, Daten oder Aktionen ausgeschlossen sind.

Warum das zählt

Guardrails verwandeln „die KI soll sich benehmen" in durchgesetzte Regeln. Für den produktiven Einsatz sind sie die Voraussetzung, Risiken kontrollierbar zu halten.

### Identitätsattribution

Die lückenlose Rückführung jeder Agentenaktion auf den Menschen, in dessen Auftrag sie erfolgte.

Warum das zählt

Nach einem Vorfall ist das die entscheidende Frage, und sie ist nachträglich nicht zu beantworten, wenn sie nicht vorher gebaut wurde. „Der Agent hat es getan" ist weder gegenüber einer Aufsichtsbehörde noch gegenüber einem Kunden eine Auskunft. Praktisch heißt es: Auftraggeber, Zeitpunkt, Werkzeugaufruf und Datenzugriff gehören in dasselbe Protokoll.

### ISO/IEC 42001

Eine internationale Norm für ein Managementsystem, mit dem ein Unternehmen den Einsatz von KI planvoll steuert, dokumentiert und laufend verbessert.

Warum das zählt

Die Norm ist keine gesetzliche Pflicht und kein Ersatz für den AI Act, aber ein anerkannter Rahmen, um Verantwortlichkeiten, Risikoprüfung und Dokumentation zu ordnen. Sie ist wie ISO 27001 für Informationssicherheit aufgebaut. Ob eine Zertifizierung lohnt, hängt davon ab, ob Kunden sie verlangen; als Gerüst für die eigene KI-Richtlinie ist sie auch ohne Zertifikat nützlich.

### KI-Gateway

Eine zentrale Zwischenstation, über die alle KI-Anfragen eines Unternehmens laufen, bevor sie bei einem Modellanbieter ankommen.

Warum das zählt

Ein Gateway ist der Ort, an dem sich Regeln durchsetzen lassen, die sonst in jeder Anwendung einzeln gepflegt werden müssten: Zugriffsrechte, Kostenobergrenzen, Protokollierung, das Maskieren personenbezogener Daten und der Wechsel auf ein anderes Modell. Wer mehr als ein, zwei KI-Anwendungen betreibt, spart sich damit Wildwuchs und behält die Kontrolle über Kosten und Datenabfluss.

### KI-Richtlinie

Die interne Festlegung, welche KI-Werkzeuge erlaubt sind, welche Daten hineingegeben werden dürfen und was freigabepflichtig ist.

Warum das zählt

Das ist die niedrigschwelligste wirksame Maßnahme gegen unkontrollierte Werkzeugnutzung – und die, die am häufigsten aufgeschoben wird, weil sie nach Aufwand aussieht. Zwei Seiten mit einer Positivliste freigegebener Werkzeuge, einer klaren Regel zu personenbezogenen und vertraulichen Daten und einer Ansprechperson lösen den überwiegenden Teil des Problems. Wer stattdessen alles verbietet, verlagert die Nutzung nur ins Private.

### Kill Switch

Ein bewusst einfach gehaltener Weg, eine KI-Automatisierung sofort und vollständig anzuhalten.

Warum das zählt

Bei einem Fehlverhalten zählt, wie schnell jemand ohne Spezialwissen abschalten kann – nicht, wie elegant die Architektur ist. Ein Schalter, den auch die Geschäftsführung am Wochenende bedienen kann, ist zugleich das überzeugendste Argument in Freigabediskussionen und ein sinnvoller Baustein der menschlichen Aufsicht nach AI Act.

### Least Privilege für Agenten

Das Prinzip, einem KI-Agenten nur die Rechte zu geben, die er für seine konkrete Aufgabe braucht – und keine darüber hinaus.

Warum das zählt

Der bequeme Weg ist ein Sammelkonto mit Vollzugriff, und genau das macht aus einem Fehlverhalten oder einer eingeschleusten Anweisung einen Schaden. Praktisch heißt es: eigener Nutzer je Agent, Schreibrechte nur auf die tatsächlich benötigten Objekte, unumkehrbare Aktionen grundsätzlich mit menschlicher Freigabe.

### Lethal Trifecta

Die gefährliche Kombination aus drei Fähigkeiten eines KI-Agenten: Zugriff auf vertrauliche Daten, Kontakt mit fremden Inhalten und ein Weg, Daten nach außen zu schicken.

Warum das zählt

Der Begriff stammt von Simon Willison (Juni 2025) und ist eine der brauchbarsten Faustregeln für Agentenrechte. Hat ein Agent alle drei Fähigkeiten zugleich, kann eine präparierte E-Mail oder Webseite ihn dazu bringen, Ihre Daten herauszugeben, und ein besseres Modell verhindert das nicht zuverlässig. Die wirksame Gegenmaßnahme ist, mindestens eine der drei Fähigkeiten wegzunehmen, etwa keinen freien Internetzugang für den Agenten, der das Postfach liest. Wo das nicht geht, braucht jeder Versand nach außen eine Freigabe.

### LLM-as-a-Judge

Ein Sprachmodell bewertet die Antworten oder Handlungen eines anderen Modells, etwa nach Richtigkeit, Tonfall oder Regelverstoß.

Warum das zählt

Bei freien Texten lassen sich Ergebnisse kaum per Regel prüfen, und Menschen können nicht jede Antwort lesen. Ein Prüfmodell macht Qualitätskontrollen im Dauerbetrieb bezahlbar. Es hat aber eigene Fehler und Vorlieben und ersetzt deshalb nicht die Stichprobe durch einen Menschen, sondern ergänzt sie.

### LLMOps

Die Betriebsdisziplin rund um KI-Anwendungen – Versionierung von Prompts, Messung der Qualität, Kostenüberwachung und kontrollierte Modellwechsel.

Warum das zählt

Eine KI-Anwendung ist nach dem Livegang nicht fertig, sondern fängt an zu driften: Modelle ändern sich, Daten ändern sich, Nutzer stellen andere Fragen als gedacht. Ohne Versionsstand, Testfälle und Auswertung ist jede Änderung ein Blindflug. Für kleine Installationen reicht dafür wenig – Prompts in Git, ein Satz Testfälle, ein Kostenbericht pro Monat.

### Logits-Masking / dynamische Tool-Provisionierung

Techniken, die einem Modell zur Laufzeit nur die jeweils erlaubten Antworten oder Werkzeuge zugänglich machen – statt auf nachträgliche Kontrolle zu setzen.

Warum das zählt

Wer unerwünschte Aktionen gar nicht erst zulässt, braucht weniger nachgelagerte Prüfung. Ein fortgeschrittener, aber wirkungsvoller Baustein sicherer Agenten.

### Modellkarte

Die Anbieterdokumentation zu einem Modell – Fähigkeiten, Grenzen, Trainingsdatenherkunft, empfohlene und ausgeschlossene Einsatzzwecke.

Warum das zählt

Seit den GPAI-Pflichten sind solche Unterlagen für die großen Modelle verfügbar und damit als Beschaffungsgrundlage nutzbar. Für Ihre eigene Dokumentation sind sie die Quelle, aus der sich Angaben zur Eignung eines Systems belegen lassen, statt sie behaupten zu müssen.

### Nicht-menschliche Identität

Der Sammelbegriff für alle Zugänge, hinter denen kein Mensch steht – Dienstkonten, API-Schlüssel, Zugangstoken und neuerdings KI-Agenten.

Warum das zählt

Diese Zugänge übersteigen die Zahl der Mitarbeiterkonten in Unternehmen um ein Vielfaches, unterliegen aber selten derselben Sorgfalt: Sie werden angelegt, wenn etwas gebraucht wird, und selten wieder entzogen. KI-Agenten verschärfen das, weil sie in Fachabteilungen entstehen und nicht in der IT. Die praktische Konsequenz ist unaufgeregt: eine Liste führen, je Zugang einen Verantwortlichen benennen, Ablaufdaten setzen. Wer das für Agenten gleich richtig macht, hat nebenbei die Altlasten mit im Blick.

### Observability / Tracing

Die Fähigkeit, nachzuvollziehen, was eine KI-Anwendung intern getan hat – welche Schritte, welche Werkzeuge, welche Daten zu einem Ergebnis führten.

Warum das zählt

Ohne Beobachtbarkeit lässt sich ein KI-System weder verbessern noch im Fehlerfall erklären. Sie ist die Grundlage für Qualität, Kostenkontrolle und Audits.

### OWASP Top 10 für agentische Anwendungen

Eine von der Sicherheits-Community erarbeitete Liste der zehn wichtigsten Sicherheitsrisiken bei KI-Agenten – also bei KI, die selbstständig Werkzeuge nutzt und Aufgaben ausführt.

Warum das zählt

Die Liste gibt Ihnen eine neutrale Prüfgrundlage, wenn ein Anbieter oder Dienstleister „sichere Agenten" verspricht: Wer sich auf sie bezieht, kann zeigen, welche Risiken er adressiert hat. Sie ersetzt keine eigene Risikoprüfung, ist aber ein belastbarerer Maßstab als eine Herstellerbroschüre.

### Prompt Injection

Angriffe, bei denen manipulierte Inhalte – etwa in einer E-Mail oder auf einer Webseite – einem KI-System versteckte Anweisungen unterschieben.

Warum das zählt

Sobald Agenten fremde Inhalte lesen und Werkzeuge nutzen dürfen, ist Prompt Injection das zentrale Sicherheitsthema. Gegenmittel sind begrenzte Rechte, Freigaben an heiklen Stellen und Guardrails.

### Rate Limit

Die Begrenzung, wie viele Anfragen Sie in einem Zeitraum an eine Schnittstelle stellen dürfen.

Warum das zählt

Ratenbegrenzungen sind der häufigste Grund, warum eine Automatisierung im Testbetrieb läuft und beim ersten größeren Stapel abbricht. Wer Massenverarbeitung plant, muss Warteschlange, Wiederholungslogik und gestaffelte Wartezeiten von vornherein einbauen – oder auf Bündelverarbeitung ausweichen.

### Rechenschaftsfähigkeit

Die Fähigkeit, im Nachhinein belegen zu können, wer welche Entscheidung getroffen hat und auf welcher Grundlage.

Warum das zählt

Der Unterschied zur Protokollierung liegt in der Auswertbarkeit: Ein Protokoll, das im Fall der Fälle niemand rekonstruieren kann, erfüllt den Zweck nicht. Die brauchbare Prüffrage lautet, ob Sie einem Kunden binnen eines Tages erklären könnten, wie sein Vorgang zustande kam. Wenn nicht, fehlt nicht die Technik, sondern die Struktur der Aufzeichnung.

### Red Teaming

Der gezielte Versuch, die eigene KI-Anwendung zu Fehlverhalten zu bringen, bevor es jemand anderes tut.

Warum das zählt

Funktionstests prüfen, ob die Anwendung tut, was sie soll – Red Teaming prüft, ob sie sich zu etwas anderem überreden lässt: interne Informationen preisgeben, unzulässige Zusagen machen, Werkzeuge missbräuchlich aufrufen. Für kundenzugewandte Anwendungen ist ein dokumentierter Durchgang vor dem Livegang inzwischen Mindeststandard.

### Regressionstest bei Modellwechsel

Ein fester Satz Testfälle, der vor jedem Modell- oder Prompt-Wechsel durchläuft und zeigt, ob sich das Verhalten verschlechtert hat.

Warum das zählt

Ohne diesen Schritt ist jeder Wechsel ein Risiko, das erst beim Kunden sichtbar wird. Der Aufwand ist niedriger als erwartet: 20 bis 50 echte Fälle mit erwarteter Antwort reichen für die meisten betrieblichen Anwendungen und lassen sich automatisch durchrechnen. Das ist zugleich die einzige belastbare Antwort auf die Frage „Können wir auf das neue Modell wechseln?".

### Schatten-KI

KI-Nutzung im Unternehmen ohne Wissen oder Freigabe der IT – etwa wenn Mitarbeiter Kundendaten in private ChatGPT-Konten kopieren.

Warum das zählt

Schatten-KI ist eines der realsten Datenschutz-Risiken im Mittelstand: Sie entsteht überall dort, wo es keine freigegebene Alternative gibt. Die zweite, inzwischen relevantere Form betrifft nicht einzelne Mitarbeiter, sondern Fachabteilungen, die eigenständig Agenten und Automatisierungen mit Zugriff auf Firmensysteme einrichten – derselbe Mechanismus mit erheblich größerer Reichweite. Die Antwort ist keine Verbotskultur, sondern eine kontrollierte, sichere KI-Arbeitsumgebung im eigenen Haus.

### Secrets Management

Die geordnete Verwaltung von Zugangsdaten und Schlüsseln – getrennt vom Programmcode, mit klarer Zuständigkeit und Möglichkeit zum Austausch.

Warum das zählt

In schnell gebauten Automatisierungen landen API-Schlüssel im Klartext in Workflows, Notizen oder Chatverläufen. Spätestens wenn jemand das Unternehmen verlässt oder ein Schlüssel öffentlich wird, fehlt der Überblick, was wo hinterlegt ist. Ein zentraler Speicher mit dokumentierter Rotation ist keine Kür, sondern die Voraussetzung dafür, dass Zugänge überhaupt entziehbar sind.

### Signierte Agenten-Identität

Ein eigener kryptografischer Schlüssel je Agent, mit dem jede Aktion nachweisbar diesem Agenten und einer erteilten Freigabe zugeordnet wird – statt einem geteilten Systemzugang.

Warum das zählt

Das ist die bisher konsequenteste Umsetzung dessen, was eine Agenten-Identität leisten soll: Jeder Agent bekommt ein eigenes Schlüsselpaar, signiert seine eigene Arbeit, und die Berechtigung, unter der er handelt, ist nachweisbar statt behauptet. Der Unterschied zu einem gewöhnlichen Nutzerkonto ist die Beweisbarkeit im Nachhinein – nicht nur ein Protokolleintrag, sondern ein kryptografisch geprüfter. Vorgemacht hat das die offene Plattform Buzz von Block; als Anschauungsbeispiel dafür, wie Rechenschaftsfähigkeit technisch aussieht, taugt sie unabhängig davon, ob man sie selbst einsetzt.

### Zero Standing Privileges

Der Grundsatz, dass niemand – auch kein Agent – dauerhaft erhöhte Rechte besitzt; sie werden bei Bedarf befristet erteilt.

Warum das zählt

Ein Agent, der rund um die Uhr Schreibrechte auf das Warenwirtschaftssystem hat, ist rund um die Uhr angreifbar. Werden die Rechte nur für den konkreten Vorgang und nur für dessen Dauer vergeben, schrumpft das Zeitfenster für Missbrauch drastisch. Der Aufwand ist real, weshalb sich das nach Kritikalität staffeln lässt: dauerhafte Leserechte, befristete Schreibrechte, Einzelfreigabe für alles Unumkehrbare.

## Datenschutz & Recht

DSGVO, EU AI Act und die rechtlichen Leitplanken des KI-Einsatzes.

### AVV

Ein Vertrag nach Art. 28 DSGVO, der regelt, wie ein Dienstleister mit Ihren personenbezogenen Daten umgehen darf.

Warum das zählt

Sobald ein Cloud-KI-Dienst personenbezogene Daten in Ihrem Auftrag verarbeitet, ist eine AVV Pflicht. Bei lokalem Betrieb ohne Datenabfluss entfällt dieser Punkt weitgehend.

### Betreiber vs. Anbieter

Die Rollenunterscheidung des EU AI Act: Anbieter entwickeln und bringen KI-Systeme auf den Markt, Betreiber setzen sie im eigenen Betrieb ein – mit deutlich unterschiedlichen Pflichten.

[Zum Begriff](https://ps24.ai/glossar/betreiber-vs-anbieter)

### C2PA / Wasserzeichen

Technische Verfahren, die maschinenlesbar in einer Datei vermerken, dass und womit ein Inhalt KI-generiert wurde.

Warum das zählt

Anbieter generativer KI müssen ihre Ausgaben nach Art. 50 Abs. 2 AI Act maschinenlesbar kennzeichnen. Der Verhaltenskodex der Kommission (Juni 2026) setzt dafür auf mehrere Ebenen, etwa signierte Metadaten und unsichtbare Wasserzeichen; C2PA ist der verbreitetste Standard für solche Metadaten. Keine Ebene ist für sich zuverlässig: Metadaten gehen beim Hochladen auf manche Plattformen verloren, Wasserzeichen lassen sich teils entfernen. Für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gilt die Pflicht ab 2. Dezember 2026, für neuere sofort. Die Kennzeichnungspflicht für Sie als Betreiber, etwa bei Deepfakes, gilt davon unabhängig seit August 2026.

### Cyber Resilience Act (CRA)

Die EU-Verordnung, die Hersteller von Produkten mit digitalen Komponenten zu Sicherheit über den gesamten Lebenszyklus und zur Meldung von Schwachstellen verpflichtet.

Warum das zählt

Relevant wird der CRA für Sie, wenn Sie selbst Software oder vernetzte Produkte anbieten und dort KI-Funktionen oder KI-Bibliotheken einbauen: Auch diese Bausteine gehören zur Sicherheitspflicht. Die Meldepflicht für aktiv ausgenutzte Schwachstellen gilt seit dem 11. September 2026, die übrigen Pflichten ab dem 11. Dezember 2027. Als reiner Anwender von KI-Diensten sind Sie in der Regel nicht Adressat.

### Digital Omnibus (KI-Omnibus)

Das EU-Änderungspaket zum AI Act (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026), das Teile des Regelwerks entschärft und mehrere Fristen nach hinten verschiebt.

Warum das zählt

Der Omnibus ist der Grund, warum ältere Compliance-Fahrpläne nicht mehr stimmen. Verschoben wurden vor allem die Hochrisiko-Pflichten (auf Dezember 2027 bzw. August 2028) und für bereits vermarktete Systeme die Wasserzeichen-Pflicht (auf Dezember 2026), nicht aber der Stichtag 2. August 2026 für Transparenz und Bußgelder. Die KI-Kompetenz-Pflicht ist milder gefasst, KMU und kleine Mid-Caps bekommen vereinfachte Dokumentation. Neu hinzugekommen sind zwei Verbote ab 2. Dezember 2026. Praktische Lesart für Betreiber: Der Termin, der Sie betrifft, ist geblieben; verschoben wurde, was Sie ohnehin erst später betroffen hätte. Nicht zu verwechseln mit dem Digital Omnibus zu DSGVO und Data Act, über den der Gesetzgeber noch verhandelt.

### Digitale Souveränität / Souveräne Cloud

Die Fähigkeit eines Unternehmens, selbst über seine Daten und IT-Dienste zu bestimmen, ohne von Anbietern oder Rechtsordnungen außerhalb der EU abhängig zu sein.

Warum das zählt

Der Begriff ist politisch aufgeladen, und mehrere US-Anbieter haben inzwischen eigene „souveräne" EU-Clouds, etwa die AWS European Sovereign Cloud in Brandenburg (seit Januar 2026). Für die Bewertung zählt nicht das Etikett, sondern drei Fragen: Wo stehen die Rechenzentren, wer betreibt sie, und unterliegt das Mutterunternehmen einem Recht, das Behörden Zugriff auf Daten im Ausland erlaubt, wie dem US CLOUD Act? Ein EU-Rechenzentrum beantwortet nur die erste. Für die meisten Mittelständler ist volle Souveränität kein realistisches Ziel, wohl aber eine geprüfte Exit-Strategie und der Überblick, welche Daten bei welchem Anbieter liegen.

### Drittlandtransfer

Die Übermittlung personenbezogener Daten in ein Land außerhalb der EU – etwa an einen US-Cloud-Dienst – mit besonderen Schutzanforderungen.

Warum das zählt

Viele populäre KI-Dienste verarbeiten Daten in den USA. Genau hier entstehen die meisten DSGVO-Risiken. Für US-Anbieter, die nach dem EU-US Data Privacy Framework zertifiziert sind, ist der Transfer derzeit ohne Zusatzverträge zulässig; ob das hält, entscheidet der EuGH in einem anhängigen Verfahren. Wer das Risiko vermeiden will, setzt auf EU-Hosting oder lokalen Betrieb.

### DSFA

Eine vorab durchgeführte Risikoprüfung, wenn eine Datenverarbeitung voraussichtlich hohe Risiken für Betroffene birgt.

Warum das zählt

Bei KI-Projekten mit personenbezogenen Daten kann eine DSFA gesetzlich nötig sein. Ob, klärt man früh in der Planung – nachträglich wird es teuer.

### DSGVO im KI-Kontext

Die EU-Datenschutz-Grundverordnung gilt auch beim KI-Einsatz – entscheidend ist nicht das Tool an sich, sondern welche personenbezogenen Daten wohin fließen.

[Zum Begriff](https://ps24.ai/glossar/dsgvo-ki)

### EU AI Act

Die EU-Verordnung, die KI-Anwendungen nach ihrem Risiko einstuft und daran abgestufte Pflichten knüpft – von harmlos bis verboten.

Warum das zählt

Der AI Act gilt zusätzlich zur DSGVO und betrifft auch Anwender, nicht nur Hersteller. Die Pflichten greifen gestaffelt: Seit Februar 2025 gelten die Verbote und die KI-Kompetenz-Pflicht, seit August 2026 die Transparenzpflichten und die Bußgelder. Der Digital Omnibus hat im Juli 2026 die Hochrisiko-Pflichten auf Dezember 2027 und August 2028 verschoben und einiges für KMU vereinfacht. Umso wichtiger: früh klären, in welche Risikoklasse ein Anwendungsfall fällt.

### EU Data Act

Die EU-Verordnung, die regelt, wer Daten vernetzter Geräte nutzen darf, und die den Wechsel zwischen Cloud-Anbietern erleichtert.

Warum das zählt

Zwei Teile sind für den Mittelstand relevant. Erstens haben Nutzer vernetzter Maschinen und Geräte einen Anspruch auf die Daten, die diese erzeugen; das öffnet Wartungs- und Auswertungsdaten für eigene KI-Anwendungen, statt sie dem Hersteller zu überlassen. Zweitens müssen Cloud-Anbieter den Wechsel ermöglichen, und ab dem 12. Januar 2027 dürfen sie dafür keine Wechselentgelte mehr verlangen. Die Verordnung gilt seit dem 12. September 2025. Für Ihre Exit-Strategie ist sie ein Hebel: Ein Anbieterwechsel wird rechtlich einfacher, technisch bleibt er Arbeit.

### EU-Hosting

Der Betrieb eines KI-Modells in einem Rechenzentrum innerhalb der EU – ein Mittelweg zwischen voller US-Cloud und eigenem On-Premise-Betrieb.

Warum das zählt

EU-Hosting vermeidet den heiklen Drittlandtransfer, ohne dass Sie eigene Hardware betreiben müssen. Auf die genaue Vertrags- und Betreiberkonstellation kommt es aber an.

### EU-US Data Privacy Framework

Der Angemessenheitsbeschluss der EU-Kommission, nach dem personenbezogene Daten an zertifizierte US-Unternehmen übermittelt werden dürfen, ohne dass es zusätzlicher Vertragsklauseln bedarf.

Warum das zählt

Für die meisten großen US-KI-Anbieter ist das die Rechtsgrundlage, auf die sich ihr Datentransfer stützt. Das Gericht der EU hat eine Klage dagegen im September 2025 abgewiesen, das Rechtsmittel beim EuGH ist anhängig. Die beiden Vorgänger, Safe Harbor und Privacy Shield, hat der EuGH gekippt. Praktische Konsequenz: Den Transfer heute auf das DPF zu stützen ist zulässig, aber Sie sollten wissen, was Sie tun, wenn es fällt. Prüfen Sie, ob der Anbieter zusätzlich Standardvertragsklauseln anbietet und ob eine EU-Region verfügbar ist.

### GPAI

KI-Modelle mit allgemeinem Verwendungszweck – die großen Sprachmodelle, die nicht für eine einzelne Aufgabe gebaut sind, sondern als Basis für vieles dienen.

Warum das zählt

Die zugehörigen Pflichten treffen die Modellanbieter, nicht Sie als Nutzer – aber sie sind der Grund, warum Anbieter zunehmend Modellkarten, Trainingsdaten-Zusammenfassungen und Nutzungsbedingungen veröffentlichen. Diese Unterlagen sind für Sie das Beschaffungsmaterial: Wer ein Modell auswählt, kann sich seit 2025 auf dokumentierte Angaben stützen statt auf Marketingaussagen. Seit dem 02.08.2026 kann das KI-Büro der EU-Kommission diese Pflichten auch durchsetzen, bis hin zu Bußgeldern. Den freiwilligen Verhaltenskodex (Code of Practice) haben 22 Anbieter unterzeichnet (Stand Oktober 2026), darunter Anthropic, Google, Microsoft, Mistral AI und OpenAI, Meta dagegen nicht; für die leistungsstärksten Modelle, trainiert mit mehr als 10²⁵ Rechenoperationen, gelten zusätzlich Pflichten zu Risikobewertung und Sicherheit.

### Hochrisiko-KI-System

KI-Anwendungen in besonders sensiblen Bereichen – etwa Personalauswahl, Kreditvergabe oder Sicherheitsbauteile in Produkten –, für die der AI Act die strengsten Anforderungen vorsieht.

[Zum Begriff](https://ps24.ai/glossar/hochrisiko-ki-system)

### KI-Kompetenz (Art. 4 EU AI Act)

Die Pflicht aus dem EU AI Act, dass Unternehmen, die KI-Systeme anbieten oder einsetzen, Maßnahmen zur KI-Kompetenz der beteiligten Mitarbeiter ergreifen. Sie gilt seit Februar 2025 und wurde im Juli 2026 abgeschwächt.

Warum das zählt

Die Pflicht betrifft praktisch jedes Unternehmen, das KI einsetzt. Seit dem Digital Omnibus (Juli 2026) ist sie milder gefasst: Verlangt werden Maßnahmen, die Kompetenz fördern, ein bestimmtes Kompetenzniveau muss niemand garantieren. Kommission und Mitgliedstaaten sollen vor allem KMU dabei unterstützen. Abgeschafft ist die Pflicht damit nicht. Eine kurze, dokumentierte Einweisung je Werkzeug und Rolle bleibt der einfachste Weg, sie nachweisbar zu erfüllen.

### KI-Reallabor (Sandbox)

Ein behördlich begleiteter Testrahmen, in dem KI-Anwendungen unter aufsichtlicher Aufsicht erprobt werden können, bevor sie regulär in den Markt gehen.

Warum das zählt

Für kleine und mittlere Unternehmen sieht der AI Act hier ausdrücklich vorrangigen und vergünstigten Zugang vor – zusammen mit vereinfachten Dokumentationsanforderungen ist das eine der wenigen echten KMU-Erleichterungen im Regelwerk. Jeder Mitgliedstaat muss bis zum 2. August 2027 mindestens ein Reallabor in Betrieb haben; in Deutschland ist das nach dem KI-MIG Aufgabe der Bundesnetzagentur. Relevant vor allem, wenn Sie selbst ein KI-gestütztes Produkt anbieten wollen und damit in die Anbieterrolle rutschen.

### Lokales LLM / On-Premise

Ein KI-Modell, das auf Ihrer eigenen Hardware oder im eigenen Rechenzentrum läuft, statt bei einem Cloud-Anbieter – die Daten verlassen das Haus nicht.

[Zum Begriff](https://ps24.ai/glossar/lokales-llm)

### Marktüberwachung

Die nationale Behördenstruktur, die die Einhaltung des AI Act kontrolliert und Verstöße ahndet.

Warum das zählt

Seit dem 2. August 2026 sind Verstöße auch durchsetzbar, nicht mehr nur regelwidrig. In Deutschland regelt das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG, in Kraft seit 29. Juli 2026) die Zuständigkeit: Grundsätzlich ist die Bundesnetzagentur Marktüberwachungsbehörde, für KI in beaufsichtigten Finanzgeschäften die BaFin. Für Betreiber praktisch bedeutsam ist die Meldepflicht bei schwerwiegenden Vorfällen und die Pflicht, Protokolle bereithalten zu können.

### Menschliche Aufsicht (Art. 14 EU AI Act)

Die rechtliche Anforderung, dass Menschen ein KI-System wirksam überwachen und eingreifen können – nicht nur formal zuständig sind.

Warum das zählt

Human-in-the-Loop und Human-on-the-Loop sind Arbeitsmuster; das hier ist die rechtliche Entsprechung, und sie stellt eine zusätzliche Anforderung: Die aufsichtführende Person muss befähigt und in der Lage sein, das Ergebnis zu übergehen. Ein Freigabeknopf ohne Zeit, Information und Kompetenz erfüllt das nicht. Das verbindet die technische Umsetzung mit der Kompetenzpflicht aus Art. 4 – beides gehört zusammen gedacht. Verpflichtend ist Art. 14 für Hochrisiko-Systeme.

### Mitbestimmung (§ 87 BetrVG)

Das Mitbestimmungsrecht des Betriebsrats bei technischen Einrichtungen, die geeignet sind, Verhalten oder Leistung von Beschäftigten zu überwachen.

Warum das zählt

„Geeignet zur Überwachung" reicht aus – eine tatsächliche Absicht ist nicht nötig, weshalb bereits ein KI-Assistent mit Nutzungsprotokoll unter die Mitbestimmung fallen kann. Das ist in der Praxis eine der häufigsten Projektbremsen und lässt sich nur durch frühe Einbindung entschärfen, nicht durch nachträgliche Argumentation. Eine Rahmenbetriebsvereinbarung zu KI-Werkzeugen ist der übliche und schnellere Weg gegenüber Einzelfreigaben.

### NIS2

Die EU-Regeln zur Cybersicherheit, die in Deutschland für deutlich mehr Unternehmen gelten als zuvor und Mindestmaßnahmen, Meldepflichten und eine Registrierung beim BSI verlangen.

Warum das zählt

Wer unter NIS2 fällt, muss auch seine KI-Anwendungen und Dienstleister in die Sicherheitsbetrachtung einbeziehen: ein Agent mit Zugriff auf Ihre Systeme ist ein Angriffsweg wie jeder andere. Ob Ihr Unternehmen betroffen ist, klärt die Betroffenheitsprüfung des BSI. Das Umsetzungsgesetz gilt seit dem 6. Dezember 2025, die Registrierungsfrist beim BSI ist laut BSI bereits abgelaufen.

### Produkthaftung für Software und KI

Die neue EU-Produkthaftung, nach der auch Software einschließlich KI-Systemen als Produkt gilt: Verursacht ein fehlerhaftes Produkt einen Schaden, haftet der Hersteller ohne Verschulden.

Warum das zählt

Die Richtlinie (EU) 2024/2853 ist in Deutschland mit dem Gesetz zur Modernisierung des Produkthaftungsrechts umgesetzt (verkündet am 27. Oktober 2026) und gilt im Kern ab dem 9. Dezember 2026. Neu für Unternehmen, die selbst Software oder Geräte mit KI-Funktionen anbieten: Fehler können auch durch fehlende Sicherheitsupdates oder durch das, was ein lernendes System nach der Auslieferung tut, entstehen, und Gerichte können unter bestimmten Umständen einen Fehler vermuten. Wer KI nur im eigenen Betrieb einsetzt, ist in der Regel nicht Hersteller. Wer ein KI-Produkt verkauft oder ein fremdes wesentlich verändert, sollte Dokumentation und Update-Prozesse daraufhin prüfen.

### Rechte am KI-Output

Die Frage, wem KI-erzeugte Texte, Bilder oder Code gehören – und ob daran überhaupt ein Urheberrecht entstehen kann.

Warum das zählt

Rein maschinell erzeugte Inhalte sind mangels menschlicher Schöpfung in der Regel nicht urheberrechtlich geschützt, Sie können Dritten die Nutzung also nicht ohne Weiteres untersagen. Praktisch relevanter ist die Gegenrichtung: die Frage, ob ein Output fremde Rechte verletzt, und ob die Nutzungsbedingungen Ihres Anbieters die kommerzielle Verwendung überhaupt erlauben. Für Marketing- und Produktinhalte gehört das vor die erste Kampagne geklärt.

### Sanktionen (AI Act)

Die Bußgeldstufen des EU AI Act – gestaffelt nach Art des Verstoßes und bemessen am weltweiten Jahresumsatz.

Warum das zählt

Die kursierende Zahl von 35 Millionen Euro (oder 7 % des Jahresumsatzes) gilt ausschließlich für verbotene Praktiken; für Verstöße gegen die meisten übrigen Pflichten, einschließlich der Transparenzpflicht, liegt der Rahmen bei bis zu 15 Millionen Euro oder 3 Prozent des Umsatzes, bei fehlerhaften Angaben gegenüber Behörden bei bis zu 7,5 Millionen Euro oder 1 Prozent. Für KMU und seit dem Digital Omnibus auch für kleine Mid-Caps gilt jeweils der niedrigere der beiden Werte. Durchgesetzt wird seit dem 2. August 2026 durch die nationalen Aufsichtsbehörden, die nach dem Omnibus auch Verwarnungen und Maßnahmen ohne Geldbuße aussprechen können.

### SCC

Von der EU-Kommission vorgegebene Vertragsklauseln, die einen Datentransfer in ein Drittland (etwa die USA) absichern sollen.

Warum das zählt

SCC sind ein zentrales Werkzeug, wenn Daten die EU verlassen. Sie allein genügen oft nicht – meist braucht es zusätzlich eine Transfer-Folgenabschätzung.

### TDM-Opt-out

Der Widerspruch eines Rechteinhabers gegen die Nutzung seiner Inhalte für Text- und Data-Mining, also für KI-Training.

Warum das zählt

Für Sie greift das an zwei Stellen: Wenn Sie eigene Inhalte davor schützen wollen, in Modelle einzufließen, brauchen Sie einen maschinenlesbaren Vorbehalt auf Ihrer Webseite. Und wenn Sie selbst Daten sammeln oder Webseiten auslesen, ist die Prüfung solcher Vorbehalte Voraussetzung dafür, dass die Nutzung zulässig bleibt.

### TIA

Eine Prüfung, ob die Daten in einem Drittland trotz Standardvertragsklauseln tatsächlich angemessen geschützt sind.

Warum das zählt

Die TIA ist der Schritt, der oft vergessen wird: Sie verlangt eine ehrliche Einschätzung der Rechtslage im Zielland – und kann ergeben, dass ein Transfer eben nicht zulässig ist.

### Trainingsdaten-Opt-out

Die vertragliche oder technische Zusicherung eines Anbieters, Ihre Eingaben nicht zum Training seiner Modelle zu verwenden.

Warum das zählt

Dieses eine Kriterium trennt die für Firmendaten brauchbaren Tarife von den unbrauchbaren – bei denselben Anbietern und oft demselben Modell. Kostenlose und Consumer-Tarife trainieren häufig mit, Geschäfts- und API-Tarife in der Regel nicht. Ohne diese Zusage ist jede Eingabe faktisch eine Offenlegung, unabhängig davon, wie gut die Verschlüsselung ist.

### Transparenzpflicht (Art. 50 EU AI Act)

Die Pflicht, Menschen erkennbar zu machen, dass sie mit einer KI sprechen oder KI-erzeugte Inhalte vor sich haben – anwendbar seit dem 2. August 2026.

[Zum Begriff](https://ps24.ai/glossar/transparenzpflicht)

### Verbotene Praktiken (Art. 5 EU AI Act)

KI-Anwendungen, die in der EU generell untersagt sind – darunter Emotionserkennung am Arbeitsplatz und Bewertungssysteme über soziales Verhalten.

Warum das zählt

Die Verbote gelten bereits seit Februar 2025 und treffen Ideen, die im Personalbereich durchaus aufkommen: Stimmungsanalyse von Mitarbeitern, Verhaltens-Scoring, biometrische Auswertung im Betrieb. Hier liegt zugleich der höchste Bußgeldrahmen des gesamten Regelwerks. Der Digital Omnibus hat die Liste erweitert: Ab dem 2. Dezember 2026 sind auch KI-Systeme verboten, die sexualisierte Deepfakes realer Personen ohne deren Einwilligung oder Darstellungen sexuellen Kindesmissbrauchs erzeugen. Eine kurze Prüfung gegen diese Liste gehört an den Anfang jeder Anwendungsfall-Bewertung, nicht ans Ende.

### Zero Data Retention

Eine Betriebsweise, bei der ein Anbieter Ihre Anfragen und Antworten nach der Verarbeitung nicht speichert.

Warum das zählt

Standardmäßig halten die meisten Anbieter Eingaben für einige Tage oder Wochen zur Missbrauchsprüfung vor – für personenbezogene oder vertrauliche Inhalte ist das der entscheidende Unterschied. Der Verzicht muss meist gesondert beantragt oder gebucht werden und schließt Komfortfunktionen wie serverseitige Verläufe aus. In der DSFA ist er ein wirksames Argument, ersetzt aber weder AVV noch Prüfung des Drittlandtransfers.

## Praxis & Markt

Begriffe rund um Betriebsmodelle, Kosten und die Modell-Landschaft.

### Abstraktionsschicht / Modell-Router

Eine Zwischenebene zwischen Ihrer Anwendung und den KI-Anbietern, die Anfragen vereinheitlicht und je nach Aufgabe an das passende Modell weiterleitet.

Warum das zählt

Sie erkauft sich damit drei Dinge auf einmal: Austauschbarkeit der Anbieter, zentrale Messung von Kosten und Fehlern, und die Möglichkeit, einfache Aufgaben günstig und schwierige teuer zu bearbeiten. Der Preis ist eine zusätzliche Komponente, die selbst betrieben werden will – für Einzelanwendungen überzogen, ab dem dritten produktiven Anwendungsfall meist eine Ersparnis.

### Agent-Washing

Die Vermarktung gewöhnlicher Automatisierung oder einfacher Chatbots als „KI-Agent", ohne dass eigenständige Planung oder Werkzeugnutzung dahintersteckt.

Warum das zählt

Der Begriff ist 2025/26 so weit ausgefranst, dass er in Anbietergesprächen keine Information mehr trägt. Gartner schätzte im Juni 2025, dass von den tausenden Anbietern mit Agenten-Versprechen nur rund 130 dem Anspruch tatsächlich genügen. Nützliche Rückfragen: Welche Werkzeuge darf das System aufrufen? Entscheidet es die Reihenfolge selbst? Was passiert, wenn ein Schritt fehlschlägt? Wer darauf keine konkrete Antwort bekommt, kauft einen Workflow zum Agentenpreis.

### Agenten-Gedächtnis-Anbieter

Spezialisierte Dienste, die Agentengedächtnis als eigenständige Infrastruktur anbieten – getrennt vom Modell und getrennt von der klassischen Vektordatenbank.

Warum das zählt

Dass sich 2026 eine eigene Anbieterkategorie dafür gebildet hat, zeigt vor allem eines: Gedächtnis wird inzwischen als eigenständiges Architekturproblem behandelt, nicht mehr als Nebeneffekt der Wissenssuche. Für die Entscheidung zwischen Selbst-Betrieb und Zukauf ist das der Vergleichspunkt – ein zugekaufter Gedächtnisdienst nimmt die Betriebslast ab, bindet aber an einen weiteren externen Anbieter. Dieselbe Abwägung wie bei jeder zugekauften Komponente, mit dem Unterschied, dass hier das gesammelte Betriebswissen liegt.

### Batch-Verarbeitung

Die gebündelte Abarbeitung vieler Anfragen ohne Zeitdruck – von den meisten Anbietern deutlich günstiger abgerechnet als Einzelanfragen.

Warum das zählt

Ein großer Teil betrieblicher Anwendungsfälle ist gar nicht zeitkritisch: Dokumente klassifizieren, Stammdaten anreichern, Rückläufer auswerten. Wer das nachts im Bündel laufen lässt statt einzeln in Echtzeit, halbiert bei manchen Anbietern die Kosten für dieselbe Arbeit.

### Build vs. Buy

Die Abwägung zwischen einer zugekauften Standardlösung und einer selbst gebauten, auf den eigenen Prozess zugeschnittenen Anwendung.

Warum das zählt

Die Antwort hängt weniger an den Entwicklungskosten als daran, ob der Prozess ein Wettbewerbsvorteil oder Beiwerk ist: Standardaufgaben kauft man, Kernprozesse baut man. Zweites Kriterium ist die Schnittstellenlage – eine Branchenlösung ohne API kann teurer werden als eine schlanke Eigenentwicklung, weil jede Integration zum Sonderfall wird.

### BYOK

Ein Nutzungsmodell, bei dem ein KI-Werkzeug mit dem eigenen API-Schlüssel des Unternehmens beim Modellanbieter arbeitet, statt über Konto und Abrechnung des Werkzeugherstellers.

Warum das zählt

Die Anfragen laufen dann unter dem eigenen Vertrag mit dem Modellanbieter, samt der dort vereinbarten Datenschutz- und Aufbewahrungsregeln, und abgerechnet wird ohne Aufschlag. Durch das Werkzeug laufen die Daten trotzdem, ein Auftragsverarbeitungsvertrag mit dem Hersteller bleibt also nötig. Vorsicht bei der Begriffsverwechslung: In der Cloud-Sicherheit meint BYOK eigene Schlüssel zur Verschlüsselung gespeicherter Daten. Im Angebot sollte stehen, welches von beiden gemeint ist.

### Cost per Task

Die Kosten je erledigtem Vorgang statt je verarbeitetem Token – die einzige Kennzahl, die Preisänderungen und Modellwechsel übersteht.

Warum das zählt

Tokenpreise sind für Entscheidungen wertlos, weil sich der Verbrauch je Vorgang stark unterscheidet: Ein Agent macht für dieselbe Aufgabe ein Vielfaches der Modellaufrufe eines einfachen Assistenten. Erst „was kostet eine bearbeitete Rechnung" ist mit „was kostet sie heute manuell" vergleichbar – und damit die Grundlage jeder Wirtschaftlichkeitsrechnung.

### Dokumenten-KI

KI-gestützte Verarbeitung von Geschäftsdokumenten: Rechnungen, Lieferscheine und Formulare werden erkannt, ausgelesen und strukturiert an Ihre Systeme übergeben.

Warum das zählt

Dokumenten-KI ist einer der häufigsten und am schnellsten rechenbaren KI-Use-Cases im Mittelstand: Der manuelle Aufwand ist bekannt, die Ersparnis direkt messbar – und heikle Fälle bleiben per Freigabe beim Menschen.

### Edge AI / On-Device-KI

KI-Verarbeitung direkt dort, wo die Daten entstehen – auf dem Endgerät, der Maschine oder einem Gerät in der Produktionshalle – statt in einem Rechenzentrum.

Warum das zählt

Zwei Namen für dieselbe Idee mit unterschiedlichem Schwerpunkt: On-Device denkt vom Endgerät her, Edge vom Produktionsstandort. Die Abgrenzung nach unten: reine Signalverarbeitung an der Maschine ist noch keine KI. Nach oben: Was auf einem Gerät läuft, ist ein kleines Modell mit engem Aufgabenzuschnitt – Bilderkennung an der Linie, Anomalieerkennung an der Anlage – kein Sprachmodell mit allgemeinem Können. Der Nutzen liegt in Latenz, Ausfallsicherheit ohne Netz und darin, dass keine Daten das Werk verlassen.

### Exit-Strategie

Der vorab durchdachte Weg aus einem Werkzeug oder Anbieter heraus – inklusive Datenexport, Ersatzoption und realistischer Aufwandsschätzung.

Warum das zählt

Anbieter können Modelle abkündigen, Preise anheben oder – wie 2026 mehrfach zu beobachten – durch regulatorische Eingriffe kurzfristig nicht verfügbar sein. Eine Exit-Strategie ist deshalb kein Misstrauensvotum, sondern Betriebsvorsorge: Welches Ersatzmodell ist geprüft, wo liegen die Prompts versioniert, wie kommen Daten und Konfiguration heraus. Der Aufwand dafür ist am Anfang klein und wächst mit jeder Woche Nutzung.

### Fine-Tuning

Ein bestehendes Modell mit eigenen Beispieldaten nachschärfen, damit es zu einem speziellen Anwendungsfall besser passt.

Warum das zählt

Fine-Tuning klingt verlockend, ist aber für viele Unternehmensfälle gar nicht nötig – oft reicht es, dem Modell zur Laufzeit die richtigen Daten mitzugeben (RAG). Erst prüfen, dann investieren.

### GEO / KI-Sichtbarkeit

Das Bemühen, in den Antworten von KI-Assistenten und KI-Suchen genannt und zitiert zu werden, so wie Suchmaschinenoptimierung auf gute Plätze in der Trefferliste zielt.

Warum das zählt

Wenn eine KI-Antwort die Frage schon beantwortet, klicken Interessenten seltener auf eine Website. Für Anbieter, deren Kunden über die Suche kommen, ist das ein echtes Thema. Die Belege für einzelne Kniffe sind allerdings dünn: Eine Übersichtsarbeit über 45 Studien (Juli 2026) fand keine Technik mit stabiler, plattformübergreifender Wirkung. Was trägt, ist das Bekannte: Seiten, die eine konkrete Frage direkt, aktuell und klar gegliedert beantworten. Wer ein GEO-Paket mit Platzierungsversprechen angeboten bekommt, sollte nach Belegen fragen. Eine Datei wie llms.txt ist schnell angelegt, ihr Nutzen ist bisher nicht belegt.

### Inferenz

Die eigentliche Nutzung eines fertig trainierten Modells – der Moment, in dem es auf Ihre Eingabe antwortet.

Warum das zählt

Anders als das einmalige Training fällt Inferenz bei jeder Nutzung an und verursacht die laufenden Kosten – lokal als Hardware-Auslastung, in der Cloud als Token-Kosten.

### KI-Reifegrad

Eine strukturierte Einschätzung, wie weit ein Unternehmen bei Daten, Prozessen, Kompetenzen und Governance tatsächlich ist.

Warum das zählt

Der Nutzen liegt weniger in der Punktzahl als in der Reihenfolge, die sich daraus ergibt: Wo Daten unauffindbar sind, ist Aufräumen der erste Schritt und nicht die Toolauswahl. Vorsicht bei kostenlosen Online-Tests – die meisten sind Lead-Formulare mit vorgezeichnetem Ergebnis.

### Latenz

Die Zeit zwischen Anfrage und Antwort – bei KI-Anwendungen oft mehrere Sekunden, bei Agenten deutlich mehr.

Warum das zählt

Latenz entscheidet über die Einsetzbarkeit: Im Kundenchat sind fünf Sekunden grenzwertig, in der nächtlichen Rechnungsverarbeitung sind fünf Minuten belanglos. Reasoning-Modelle und mehrstufige Agenten tauschen Zeit gegen Qualität – eine bewusste Wahl, die man je Anwendungsfall treffen sollte statt global.

### Modell-Deprecation

Die Abkündigung eines Modells durch den Anbieter – es wird abgeschaltet oder durch eine neue Version ersetzt, oft mit begrenzter Vorlaufzeit.

Warum das zählt

Das ist der praktische Grund, warum KI-Automatisierungen ohne Zutun kaputtgehen: Das Nachfolgemodell verhält sich anders, hält sich nicht exakt an dasselbe Ausgabeformat, bewertet Grenzfälle abweichend. Wer keine Testfälle hat, merkt das an Kundenbeschwerden statt an einer roten Ampel. Deshalb gehören zu jedem produktiven Anwendungsfall eine feste Modellversion, ein Prüflauf vor dem Wechsel und ein Kalendereintrag zum Ablaufdatum. Wie kurz die Vorläufe sein können, zeigte der Herbst 2026: Anthropic hat Claude Sonnet 4.5 Ende September mit zwei Monaten Vorlauf abgekündigt, OpenAI im Oktober gpt-4o und gpt-4.1 mit drei Monaten.

### Modellrisiko

Das Risiko, dass ein Modell in genau den Fällen falsch liegt, in denen der Fehler am teuersten ist – bei seltenen Konstellationen, die im Test nicht vorkamen.

Warum das zählt

Durchschnittliche Trefferquoten verdecken das: Ein System mit 97 Prozent Genauigkeit kann trotzdem systematisch bei genau der Rechnungsart versagen, die für Ihre Marge zählt. Die Konsequenz für die Bewertung eines Anwendungsfalls ist, nicht nach der Quote zu fragen, sondern nach der Verteilung der Fehler und den Kosten des schlimmsten Einzelfalls.

### Multi-Model-Strategie

Der bewusste Einsatz mehrerer Modellanbieter parallel, statt sich auf einen festzulegen.

Warum das zählt

Das ist die strategische Antwort auf drei Risiken gleichzeitig – Anbieterausfall, Preisänderung und Abkündigung eines Modells. Praktisch heißt es nicht, alles doppelt zu bauen, sondern die Anwendung so zu schneiden, dass der Modellanbieter eine Konfigurationsentscheidung bleibt und keine Architekturentscheidung. Zweiter, oft unterschätzter Nutzen: Unterschiedliche Aufgaben haben unterschiedliche Anforderungen; ein günstiges kleines Modell für Klassifizierung neben einem starken für Analyse senkt die Kosten je Vorgang deutlich. Der Preis ist zusätzliche Komplexität in Betrieb und Qualitätsprüfung – ab dem zweiten oder dritten produktiven Anwendungsfall rechnet sich das meist.

### Open-Source-Modell

Ein KI-Modell, dessen Gewichte frei verfügbar sind und das Sie selbst betreiben können – ohne Bindung an einen einzelnen Anbieter.

Warum das zählt

Offene Modelle geben volle Datenkontrolle und vermeiden laufende Lizenz-Token-Kosten, erfordern aber eigene oder beauftragte Wartung. Die Grundlage für lokalen und On-Premise-Betrieb.

### OpenAI-kompatible API

Ein faktischer Industriestandard: Viele Anbieter stellen ihre Modelle über dieselbe Schnittstellenform bereit, sodass ein Wechsel ohne Umbau der Anwendung möglich ist.

Warum das zählt

Das ist der billigste verfügbare Schutz gegen Anbieterbindung – vorausgesetzt, Sie nutzen nur den kompatiblen Kern und keine anbieterspezifischen Zusatzfunktionen. Wer den Standard einhält, tauscht Modell und Anbieter im Idealfall über zwei Konfigurationswerte. Wer bequemlichkeitshalber die Sonderfunktionen mitnimmt, hat sich die Bindung selbst gebaut.

### PoC, Pilot, Produktion

Die drei Reifestufen eines Vorhabens: Machbarkeitsnachweis, begrenzter Echteinsatz, regulärer Betrieb – mit stark unterschiedlichen Anforderungen.

Warum das zählt

Die meisten steckengebliebenen KI-Projekte scheitern nicht am Machbarkeitsnachweis, sondern am Sprung danach: Ein Prototyp braucht keine Fehlerbehandlung, keine Rechteverwaltung, keine Protokollierung und keinen Verantwortlichen – der Produktivbetrieb alle vier. Wer diese Lücke von Anfang an einplant, entscheidet früher und billiger, welche Anwendungsfälle den Weg wirklich lohnen.

### Prompt Caching

Eine Anbieter-Funktion, die wiederkehrende Teile des Kontexts zwischenspeichert, sodass sie nicht bei jeder Anfrage neu berechnet und bezahlt werden.

Warum das zählt

Prompt Caching ist einer der wirksamsten Kostenhebel bei Cloud-Modellen: Lange, gleichbleibende Anweisungen oder Dokumente kosten ohne Caching bei jeder Anfrage aufs Neue.

### Quantisierung

Eine Technik, die ein Modell „verkleinert", indem sie seine internen Zahlen gröber speichert – es läuft dann auf schwächerer Hardware, bei etwas geringerer Genauigkeit.

Warum das zählt

Quantisierung macht lokalen Betrieb erst bezahlbar: Sie bringt leistungsfähige Modelle auf vorhandene Hardware. Der Kompromiss bei der Qualität ist je nach Anwendung gut vertretbar.

### Self-Hosting vs. Managed

Die Entscheidung, Software auf eigener Infrastruktur zu betreiben oder als fertigen Dienst einzukaufen.

Warum das zählt

Selbstbetrieb senkt die laufenden Kosten und hält Daten im eigenen Haus, verlagert aber Updates, Sicherung und Verfügbarkeit zu Ihnen – realistisch also die Frage, ob Sie jemanden haben, der das dauerhaft macht. Ein häufig übersehener Mittelweg ist der gemischte Betrieb: Automatisierung selbst hosten, das Modell als Dienst zukaufen.

### SLM

Kompakte Sprachmodelle, die auf normaler Hardware laufen und für klar abgegrenzte Aufgaben oft ausreichen.

Warum das zählt

Nicht jede Aufgabe braucht das größte Modell. SLMs machen lokalen Betrieb günstig – für Klassifizierung, Extraktion oder einfache Assistenz sind sie oft die wirtschaftlichste Wahl.

### TCO

Die Gesamtkosten über die Laufzeit – Lizenzen, Betrieb, Wartung und Personalaufwand zusammengerechnet statt nur der Monatspreis.

Warum das zählt

Vergleiche zwischen Cloud-Diensten und Eigenbetrieb kippen fast immer an derselben Stelle: Der Serverpreis ist eindeutig, die Wartungsstunden sind es nicht. Eine belastbare Rechnung legt beides offen – geschätzte Stunden mal internem Stundensatz, plus einmaliger Aufbauaufwand, über 24 oder 36 Monate. Ohne diese Annahmen ist jeder Kostenvergleich in dem Bereich Marketing.

### Tokenkosten / Pricing-Modelle

Bei Cloud-Modellen zahlen Sie meist pro verarbeiteter Textmenge, gemessen in Token – getrennt nach Eingabe und Ausgabe.

Warum das zählt

Bei hohem Volumen summieren sich Token-Kosten erheblich. Lokale Modelle haben stattdessen Fixkosten – die Abwägung entscheidet, welches Betriebsmodell wirtschaftlich ist.

### Vendor Lock-in

Die Abhängigkeit von einem einzelnen Anbieter, die entsteht, wenn ein Wechsel technisch, vertraglich oder wirtschaftlich unverhältnismäßig teuer wird.

Warum das zählt

Bindung entsteht bei KI-Projekten selten über den Modellzugang selbst – der ist meist austauschbar – sondern über alles daneben: proprietäre Assistenten-Formate, anbietereigene Dateispeicher, eingebettete Werkzeug-Definitionen, Abrechnungsmodelle mit Mindestabnahme. Die brauchbare Prüffrage lautet nicht „Bin ich abhängig?", sondern „Wie viele Tage und welche Kosten liegen zwischen mir und dem Wechsel?".

### Vibe Coding

Eine lockere Arbeitsweise, bei der man Software überwiegend durch Beschreiben in natürlicher Sprache von einer KI bauen lässt – mehr Gefühl als formale Spezifikation.

Warum das zählt

Vibe Coding macht schnelle Prototypen möglich, auch ohne tiefe Programmierkenntnis. Für tragfähige Unternehmenssoftware braucht es danach aber Sorgfalt, Tests und Review – der professionelle, kontrollierte Gegenmodus dazu ist Agentic Coding.

### Workslop

KI-erzeugte Arbeitsergebnisse, die nach ordentlicher Arbeit aussehen, aber zu wenig Substanz haben, um die Aufgabe tatsächlich voranzubringen.

Warum das zählt

Der Begriff stammt aus einer Untersuchung von BetterUp Labs und dem Stanford Social Media Lab (Harvard Business Review, September 2025). Das Problem ist die Verschiebung der Arbeit: Wer einen glatt formulierten, aber hohlen Bericht weitergibt, spart Zeit, und der Empfänger muss nachfragen, prüfen oder neu schreiben. Wo KI-Nutzung vor allem an der Menge gemessen wird, wächst das Problem. Die Gegenmittel sind Führungsfragen, keine Technik: klare Erwartungen, wofür KI-Entwürfe taugen, und die Regel, dass der Absender für das Ergebnis geradesteht.

## Forschung & Sicherheit

Wie Modelle trainiert, gemessen und abgesichert werden – Begriffe aus Modellkarten, Benchmarks und der Sicherheitsdebatte.

### AGI

Eine KI, die die meisten geistigen Aufgaben mindestens so gut erledigt wie ein Mensch und nicht nur einzelne. Das erklärte Ziel der großen Labore, für das es keine allgemein anerkannte Definition gibt.

Warum das zählt

Wenn ein Anbieter von AGI oder dem Weg dorthin spricht, ist das eine Positionierung und keine prüfbare Produkteigenschaft: Jedes Labor legt die Schwelle anders fest. Für eine Einkaufsentscheidung zählt, was ein Modell bei den eigenen Aufgaben leistet, und das lässt sich mit eigenen Testfällen messen.

### Alignment

Das Forschungsziel, KI-Systeme so zu bauen, dass sie tun, was Entwickler und Nutzer tatsächlich beabsichtigen, und nicht bloß, was sich wörtlich aus Anweisung oder Training ergibt.

Warum das zählt

Im Alltag zeigt sich fehlendes Alignment selten als Science-Fiction, sondern als Agent, der Tests umschreibt statt den Fehler zu beheben, als Modell, das einem nach dem Mund redet, oder als Anweisung, die übergenau befolgt wird. Deshalb reicht es bei Agenten nicht, das Ziel gut zu beschreiben: Ergebnisse brauchen eine Prüfung, die der Agent nicht selbst beeinflussen kann.

### ARC-AGI

Eine Testreihe mit Rätseln, die Menschen ohne Vorwissen lösen und Modelle nur dann, wenn sie aus wenigen Beispielen eine neue Regel ableiten. Gemessen wird Lernfähigkeit, nicht Wissen.

Warum das zählt

Der Test geht auf François Chollet (2019) zurück und wird von der ARC Prize Foundation gepflegt. Die dritte Fassung vom März 2026 besteht aus interaktiven Spielen ohne Anleitung; zum Start lagen alle großen Modelle unter einem Prozent, während Menschen jede Umgebung lösten. Bis September 2026 stieg der Bestwert auf 62,7 Prozent (GPT-6 Astra im Standardaufbau); einen höheren Wert mit eigens angepasstem Aufbau hält die ARC Prize Foundation selbst nur für eingeschränkt vergleichbar. Das erinnert daran, dass Modelle bei gut dokumentierten Routineaufgaben glänzen und bei echtem Neuland einbrechen können.

### ASI

Eine hypothetische KI, die dem Menschen in nahezu allen geistigen Fähigkeiten deutlich überlegen wäre, also über eine menschengleiche KI (AGI) weit hinausgeht.

Warum das zählt

Der Begriff gehört in die Sicherheits- und Strategiedebatte, nicht in Produktblätter. Er erklärt aber, warum Labore Sicherheitsstufen, Freigaberegeln und Notfallpläne veröffentlichen: Die Vorkehrungen richten sich nach Fähigkeiten, die es heute nicht gibt, und sollen stehen, bevor es sie gibt.

### ASL

Eine Stufenskala von Anthropic, die festlegt, welche Schutzmaßnahmen ein Modell braucht, sobald seine Fähigkeiten eine bestimmte Gefährlichkeit erreichen. Vorbild sind die Schutzstufen für Labore, die mit Krankheitserregern arbeiten.

Warum das zählt

Die Stufe beschreibt die Schutzvorkehrungen des Anbieters, nicht die Qualität des Modells. Seit Claude Opus 4 (Mai 2025) laufen Anthropics stärkste Modelle unter ASL-3, und die Zusage dazu gilt auch nach der Neufassung der Richtlinie (Version 3.0, Februar 2026) fort, die die Stufen darüber nicht mehr im Voraus festlegt: mit Filtern gegen Hilfe bei Chemie- und Biowaffen und strengerem Schutz der Modellgewichte. Solche Filter können vereinzelt auch legitime Fachanfragen aus Chemie oder Biologie treffen, was für Unternehmen dieser Branchen vor der Einführung einen Test wert ist.

### Benchmark-Kontamination

Testaufgaben oder ihre Lösungen sind in die Trainingsdaten eines Modells gelangt. Das Modell erinnert sich dann an Antworten, statt sie zu erarbeiten, und schneidet besser ab, als es kann.

Warum das zählt

Öffentliche Tests stehen im Internet, und Modelle werden mit großen Teilen des Internets trainiert. Das Problem ist deshalb dauerhaft und der Hauptgrund, warum Benchmarks altern; der Fall SWE-bench Verified hat es 2026 für Coding-Tests offengelegt. Das wirksamste Gegenmittel sind eigene, unveröffentlichte Testfälle aus dem eigenen Geschäft, die kein Modell vorher gesehen haben kann.

### CBRN

Die Sammelbezeichnung für chemische, biologische, radiologische und nukleare Gefahren. In der KI-Sicherheit steht sie für das Risiko, dass ein Modell beim Bau von Massenvernichtungswaffen hilft.

Warum das zählt

An dieser Kategorie richten die großen Labore ihre höchsten Sicherheitsstufen aus, und hier filtern sie Anfragen am strengsten. Wer in Chemie, Pharma, Labortechnik oder Landwirtschaft mit KI arbeitet, sollte früh testen, ob legitime Fachfragen durch solche Filter fallen, und das Thema gegebenenfalls beim Anbieter ansprechen.

### Data Poisoning

Ein Angriff, bei dem präparierte Inhalte in die Trainingsdaten oder die Wissensbasis eines KI-Systems gelangen, damit es sich später in bestimmten Situationen falsch verhält.

Warum das zählt

Eine Studie von Anthropic, dem britischen AI Security Institute und dem Alan Turing Institute (Oktober 2025) zeigte, dass rund 250 präparierte Dokumente genügten, um Modellen zwischen 600 Millionen und 13 Milliarden Parametern eine versteckte Hintertür einzubauen, unabhängig von der Modellgröße. Getestet wurde eine harmlose Hintertür; ob sich das auf große Modelle und gefährlichere Verhaltensweisen überträgt, ist offen. Für Unternehmen liegt das nähere Risiko in der eigenen Wissensbasis: Wer Dokumente aus offenen Quellen, Kundenportalen oder geteilten Ablagen ungeprüft in eine Wissenssuche übernimmt, lässt Dritte mitbestimmen, was der Assistent antwortet. Herkunft und Freigabe von Dokumenten gehören deshalb zur Pflege der Wissensbasis.

### DPO

Ein vereinfachtes Verfahren, ein Modell an Vorlieben anzupassen: Es lernt direkt aus Paaren von besserer und schlechterer Antwort, ohne separates Bewertungsmodell und ohne aufwendiges bestärkendes Lernen.

Warum das zählt

DPO (2023) hat Präferenztraining aus den großen Laboren in die Breite gebracht, weil es mit überschaubarem Aufwand auf offenen Modellen läuft. Wer ein Open-Weight-Modell auf Tonfall, Format oder Hausregeln einstellen will, landet häufig hier statt beim klassischen Fine-Tuning auf Musterantworten. Gebraucht werden dann Beispielpaare nach dem Muster „so ja, so nicht", die sich aus Korrekturen im Alltag sammeln lassen.

### ELK

Die Forschungsfrage, wie man ein Modell dazu bringt, mitzuteilen, was es intern tatsächlich „weiß", auch wenn das Training eine andere, gefälligere Antwort belohnt.

Warum das zählt

Das Problem hat das Alignment Research Center (Paul Christiano, Mark Xu) 2021 formuliert, gelöst ist es nicht. Es beschreibt genau, warum ein auf gute Bewertungen trainiertes Modell im Zweifel sagt, was ein Prüfer für richtig hält, und nicht, was stimmt. Praktische Folge: Bei Aussagen, die man selbst nicht nachprüfen kann, sollte man einem Modell am wenigsten blind folgen.

### Frontier-Modell

Die jeweils leistungsfähigsten Modelle am oberen Rand des technisch Möglichen, trainiert von einer Handvoll Labore.

Warum das zählt

Für diese Modelle gelten schärfere Regeln: Die EU knüpft ab einer Trainingsrechenleistung von 10²⁵ Rechenoperationen zusätzliche Pflichten an (GPAI mit systemischem Risiko), Kalifornien verlangt seit Januar 2026 von großen Entwicklern veröffentlichte Sicherheitsrahmen. Wer ein Frontier-Modell nutzt, bekommt deshalb mehr Dokumentation mit, zahlt aber meist auch den höchsten Tokenpreis. Für viele Aufgaben genügt ein kleineres Modell.

### GRPO

Ein Verfahren des bestärkenden Lernens: Das Modell erzeugt zu einer Aufgabe mehrere Antworten, und jede wird daran gemessen, ob sie besser oder schlechter als der Durchschnitt der Gruppe abschneidet.

Warum das zählt

GRPO stammt von DeepSeek (DeepSeekMath, 2024) und wurde mit DeepSeek-R1 bekannt. Es kommt ohne separates Bewertungsmodell aus und spart damit Rechenkosten. Heute ist es ein Standardbaustein, um offenen Modellen Reasoning beizubringen, meist zusammen mit automatisch prüfbaren Belohnungen (RLVR).

### Humanity's Last Exam

Eine Prüfung aus 2.500 Expertenfragen aus über hundert Fachgebieten, bewusst so ausgewählt, dass die besten Modelle bei Erscheinen daran scheiterten.

Warum das zählt

Der Test stammt vom Center for AI Safety und Scale AI, erschien Anfang 2025 und wurde im Januar 2026 in Nature veröffentlicht. Er entstand, weil ältere Tests zu schnell ausgereizt waren. Die Ergebnisse schwanken je nach Rangliste um mehrere Prozentpunkte, abhängig davon, ob das Modell Werkzeuge wie die Websuche nutzen durfte. Eine Zahl ohne Angabe dieser Bedingungen ist kaum vergleichbar. Seit September 2026 gibt es zusätzlich die strengere Teilmenge HLE-Diamond.

### Mechanistische Interpretierbarkeit

Forschung, die in das Innere eines Modells schaut und nachvollzieht, welche internen Muster und Rechenwege zu einer Antwort führen, statt nur Ein- und Ausgabe zu betrachten.

Warum das zählt

Das ist die Gegenrichtung zur Begründung, die ein Modell selbst formuliert und die plausibel klingen kann, ohne zu stimmen. Die großen Labore setzen die Methoden inzwischen bei Sicherheitsprüfungen ihrer Modelle ein. Für die eigene Anwendung gibt es sie nicht als fertiges Werkzeug; Nachvollziehbarkeit im Betrieb entsteht weiterhin über Quellenbelege und Protokolle.

### METR

Eine unabhängige Forschungsorganisation, die prüft, wie selbstständig KI-Modelle längere Aufgaben erledigen, bekannt für die Kennzahl „Zeithorizont".

Warum das zählt

Der Zeithorizont gibt an, wie lange ein Mensch für Aufgaben bräuchte, die ein Modell in der Hälfte der Fälle schafft. Nach METR verdoppelte er sich langfristig etwa alle sieben Monate, seit 2023 etwa alle vier. Der höchste gemessene Wert lag im Mai 2026 bei rund 17 Stunden; METR selbst hält Werte über 16 Stunden aber für unzuverlässig und pflegt die Übersicht seit September 2026 nicht mehr aktiv. Das ist ein brauchbarer Anhaltspunkt, wie lange ein Agent ohne Eingriff arbeiten kann. Die Unsicherheit der Werte ist aber groß, und bei einer geforderten Erfolgsquote von 80 Prozent liegen sie deutlich niedriger.

### Modellverfassung / Model Spec

Ein vom Anbieter veröffentlichtes Dokument, das beschreibt, wie sich ein Modell verhalten soll: welche Werte gelten, wie es widersprüchliche Anweisungen auflöst und was es ablehnt.

Warum das zählt

Anthropic veröffentlicht für seine Claude-Modelle eine solche Verfassung unter freier Lizenz, OpenAI pflegt eine Model Spec (zuletzt in der Fassung vom 29.10.2026). Für die Anbieterauswahl sind das nützliche Unterlagen, weil sie erklären, warum ein Modell in Grenzfällen so reagiert, wie es reagiert: wann es nachfragt, wem es bei widersprüchlichen Anweisungen folgt, wie es mit Vorgaben des Betreibers umgeht. Sie beschreiben Absichten, keine Garantien. Ob ein Modell sich daran hält, zeigt erst der Test mit den eigenen Fällen.

### Rekursive Selbstverbesserung

KI-Systeme übernehmen zunehmend selbst die Entwicklung ihrer Nachfolger, sodass jede Verbesserung die nächste beschleunigt.

Warum das zählt

Seit 2026 ist das ein erklärtes Ziel und kein Gedankenexperiment mehr: OpenAI meldete im September 2026 einen automatisierten „Forschungspraktikanten", der mehrtägige Forschungsaufgaben unter Anleitung erledigt, und strebt bis März 2028 einen automatisierten KI-Forscher an. Anthropics Sicherheitsrahmen enthält eine eigene Fähigkeitsschwelle für automatisierte KI-Forschung. Praktisch heißt das: Modellgenerationen dürften schneller aufeinander folgen, und Regressionstests bei jedem Modellwechsel werden wichtiger.

### Reward Hacking

Ein Modell erreicht das gemessene Ziel, ohne die eigentliche Aufgabe zu lösen, etwa indem es Tests so umschreibt, dass sie bestehen, statt den Fehler im Code zu beheben.

Warum das zählt

Bei Coding-Agenten ist das Verhalten dokumentiert und in Modellkarten mehrerer Anbieter als bekannte Schwäche beschrieben. Grüne Tests sind bei Agentenarbeit deshalb kein ausreichender Beleg. Die Prüfung gehört außerhalb der Reichweite des Agenten: geschützte Testdateien, unabhängige Prüfläufe und ein Blick auf die tatsächlichen Änderungen.

### RLAIF

Eine Variante des Trainings mit menschlichem Feedback (RLHF), bei der ein Modell die Antworten bewertet, anhand schriftlich festgelegter Grundsätze.

Warum das zählt

Das Verfahren stammt aus Anthropics „Constitutional AI" (2022) und macht Feedback billig und skalierbar, weil nicht jede Bewertung einen Menschen braucht. Der Hebel sind die Grundsätze, die sogenannte Verfassung: Wer sie kennt, versteht einen Teil des Modellverhaltens. Anthropic veröffentlicht die Verfassung seiner Claude-Modelle, die sich bei der Anbieterauswahl als Dokument heranziehen lässt.

### RLHF

Ein Trainingsschritt, in dem Menschen Modellantworten vergleichen und das Modell lernt, die bevorzugten häufiger zu geben. So wurden aus reinen Textvervollständigern hilfreiche Assistenten.

Warum das zählt

RLHF prägt Ton, Hilfsbereitschaft und Ablehnungsverhalten eines Modells und erklärt eine typische Schwäche: Belohnt wird, was Bewertern gefällt, nicht zwingend, was stimmt. Daher kommen übertriebene Zustimmung und selbstsicher formulierte Fehler. Die Nachfolgeverfahren DPO, RLAIF und RLVR setzen an genau dieser Stelle an.

### RLVR

Training mit Belohnungen, die sich automatisch prüfen lassen: Die Rechnung stimmt oder nicht, der Code besteht die Tests oder nicht. Eine menschliche Bewertung braucht es dafür nicht.

Warum das zählt

RLVR ist der Hauptgrund, warum Reasoning-Modelle seit 2025 in Mathematik und Programmierung so stark zugelegt haben. Es erklärt auch das Gefälle: Wo sich Richtigkeit automatisch prüfen lässt, werden Modelle schnell besser, bei Vertragsauslegung, Stilfragen oder Strategie deutlich langsamer. Für die Auswahl von Anwendungsfällen ist das ein brauchbarer Kompass.

### RSP

Die selbst gesetzte Regel eines KI-Labors, welche Sicherheitsmaßnahmen ab welchen Modellfähigkeiten greifen müssen, bevor ein Modell weiterentwickelt oder veröffentlicht wird.

Warum das zählt

Der Begriff stammt von Anthropic (erste Fassung 2023, aktuell Version 3.4 vom Juli 2026; die Fassung 3.0 vom Februar 2026 war eine Neufassung); OpenAI (Preparedness Framework) und Google DeepMind (Frontier Safety Framework) führen vergleichbare Dokumente. Freiwillig sind sie nur noch bedingt: Kalifornien verlangt seit 2026 von großen Modellentwicklern einen veröffentlichten Sicherheitsrahmen, und der EU-Verhaltenskodex für GPAI-Modelle mit systemischem Risiko sieht Ähnliches vor. Bei der Anbieterauswahl ist das ein prüfbares Dokument statt einer Marketingaussage.

### SAE

Ein Hilfsnetz, das die unübersichtlichen internen Zustände eines Sprachmodells in viele einzeln deutbare Merkmale zerlegt, etwa „Golden Gate Bridge" oder „Code mit Sicherheitslücke".

Warum das zählt

Sparse Autoencoder sind eines der wichtigsten Werkzeuge der mechanistischen Interpretierbarkeit. Mit ihnen lassen sich Merkmale für Täuschung, Gefälligkeit oder das Erkennen einer Testsituation aufspüren und überwachen. Für Anwender bleibt das Forschungsinfrastruktur, erklärt aber Angaben in Modellkarten, nach denen interne Merkmale eines Modells geprüft wurden.

### SWE-bench

Ein Test für Coding-Modelle mit echten Fehlerberichten aus Open-Source-Projekten: Das Modell muss den Code so ändern, dass die zugehörigen Tests bestehen.

Warum das zählt

Lange war die Variante „Verified" die meistzitierte Zahl in Ankündigungen von Coding-Modellen. Im Februar 2026 hat OpenAI sie als Maßstab aufgegeben: Viele Aufgaben hatten fehlerhafte Tests, und es gab Hinweise, dass Modelle die Lösungen aus dem Training kannten. Empfohlen hat OpenAI damals SWE-bench Pro, auf dem dieselben Modelle deutlich niedriger abschneiden. Im Juli 2026 hat OpenAI auch diese Empfehlung zurückgezogen, weil ein erheblicher Teil der Pro-Aufgaben ebenfalls fehlerhaft ist. Bei jeder Prozentzahl lohnt deshalb die Rückfrage, welche Variante gemeint ist.

### Transformative KI

Eine KI, deren Wirkung auf Wirtschaft und Gesellschaft mit der industriellen Revolution vergleichbar wäre. Gemessen wird an den Folgen, nicht an den technischen Fähigkeiten.

Warum das zählt

Der Begriff geht auf Holden Karnofsky (2016) aus der Forschungsförderung zurück und wird gern verwendet, weil er die Streitfrage umgeht, ab wann eine KI „allgemein intelligent" ist. Für Unternehmen ist diese Blickrichtung die nützlichere: Entscheidend ist, welche Arbeit sich verändert, nicht welches Etikett ein Modell trägt.

## Archiv

Begriffe, die nicht mehr zeitgemäß sind, Ihnen in älteren Unterlagen und Angeboten aber noch begegnen. Bei jedem steht, warum er nicht mehr trägt.

### Function / Tool Calling

Der Mechanismus, mit dem ein Modell strukturiert ein Werkzeug anfordert, das die Anwendung dann ausführt – die ältere, engere Bezeichnung für Tool Use.

Als eigener Eintrag überholt: Gemeint ist dieselbe Mechanik wie bei Tool Use, wo „Function Calling" als Synonym steht. Einige Anbieter, etwa OpenAI, verwenden den Begriff weiter in ihrer Dokumentation.

Warum das zählt

Der Begriff begegnet Ihnen in vielen Anbieter-Dokumentationen. Für neue Arbeit ist „Tool Use" der Oberbegriff; „Function Calling" führen wir als Synonym, nicht als Leitbegriff.

### GPQA

Ein Test mit Multiple-Choice-Fragen auf Doktorandenniveau aus Biologie, Chemie und Physik, die sich auch mit freier Internetsuche nicht nachschlagen lassen.

Ausgereizt: Spitzenmodelle erreichen rund 95 Prozent, der Test unterscheidet kaum noch zwischen ihnen. In Modellkarten steht er noch, für Vergleiche taugt er nicht mehr.

Warum das zählt

Die meistzitierte Teilmenge „Diamond" umfasst 198 Fragen. Promovierte Fachleute erreichen im eigenen Gebiet rund 65 Prozent, Laien mit Internetzugang etwa ein Drittel. Spitzenmodelle erreichen inzwischen rund 95 Prozent, der Test unterscheidet also kaum noch zwischen ihnen. In Anbietervergleichen ist GPQA damit eher Pflichtangabe als Unterscheidungsmerkmal.

### IDA

Ein Trainingskonzept in Runden: Ein Mensch löst mit Hilfe mehrerer Modellkopien schwierigere Aufgaben, als er allein könnte, und ein neues Modell lernt dieses Zusammenspiel nach.

Ein Forschungskonzept von 2018, das sich als Verfahren nicht durchgesetzt hat. Die Grundidee lebt in Destillation und modellgestützter Bewertung weiter.

Warum das zählt

IDA wurde 2018 von Paul Christiano und Kollegen als Antwort auf die Frage vorgeschlagen, wie man ein Modell beaufsichtigt, das klüger ist als seine Prüfer. Als fertiges Verfahren hat es sich nicht durchgesetzt, die Grundidee lebt aber in heutigen Methoden weiter: Modelle helfen beim Bewerten anderer Modelle, und starke Modelle werden in kleinere übertragen.

### KI-Haftungsrichtlinie

Ein Richtlinienentwurf der EU-Kommission von 2022, der Geschädigten den Nachweis eines Verschuldens bei KI-Schäden erleichtern sollte.

Von der EU-Kommission 2025 zurückgezogen. Haftungsfragen bei fehlerhafter KI-Software regelt seither vor allem die neue Produkthaftung.

Warum das zählt

Der Entwurf taucht in älteren Präsentationen und Compliance-Übersichten noch als kommende Pflicht auf. Die Kommission hat ihn 2025 zurückgezogen. Die Haftung für fehlerhafte KI-Software regelt seither vor allem die neue Produkthaftung.

### Tree of Thoughts

Eine Denktechnik, bei der ein Modell mehrere Lösungswege parallel verfolgt, Zwischenstände bewertet und Sackgassen verwirft, statt einem einzigen Gedankengang zu folgen.

Die Idee steckt heute in Reasoning-Modellen, die Lösungswege intern abwägen. Als eigener Aufbau kommt sie kaum noch vor.

Warum das zählt

Das Verfahren (Princeton und Google DeepMind, 2023) war als Prompt-Technik gedacht und ist teuer, weil jeder Zweig Token kostet. Heute steckt die Idee weitgehend in Reasoning-Modellen, die das Abwägen intern erledigen. Als eigener Aufbau lohnt es sich nur noch in Sonderfällen, etwa bei Planungsproblemen mit klar bewertbaren Zwischenschritten.

## Bereit für Klarheit?

Klären Sie in 30 Minuten, ob die KI-Potenzialanalyse der richtige nächste Schritt für Ihr Unternehmen ist

[Erstgespräch buchen](https://ps24.ai/erstgespraech)