Daten & Wissen
RAG
Ein Verfahren, bei dem ein KI-Modell Antworten aus Ihren eigenen Dokumenten zieht – statt nur aus seinem allgemeinen Trainingswissen.
Auch genannt: Retrieval-Augmented Generation, Retrieval Augmented Generation
Warum das zählt
RAG ist der pragmatischste Weg, ein Modell auf Ihr Firmenwissen zu heben, ohne es teuer nachzutrainieren. Es liefert Antworten mit Quellenbezug und senkt das Risiko erfundener Aussagen – die Grundlage interner Assistenten und Wissenssuchen.
Wie RAG funktioniert
Statt das Modell mit Ihrem Wissen neu zu trainieren, wird zur Laufzeit das passende Wissen herangeholt:
- Ihre Dokumente werden in Abschnitte zerlegt (Chunking (/glossar#chunking)) und als Embeddings (/glossar#embedding) in einer Vektordatenbank (/glossar#vektordatenbank) abgelegt.
- Zu einer Frage werden die inhaltlich passendsten Abschnitte gesucht.
- Diese Abschnitte gibt das Harness dem Modell als Kontext mit – erst dann antwortet es.
Stärken und Grenzen
RAG glänzt, weil das Wissen aktuell bleibt (neues Dokument rein, fertig) und Antworten belegbar sind. Die Qualität hängt aber stark an der Aufbereitung: schlechtes Chunking oder fehlendes Reranking (/glossar#reranking) liefern unpassende Stellen, und das Modell kann nur so gut antworten wie der mitgegebene Kontext. RAG ist damit ein Teilgebiet des umfassenderen Context Engineering (/glossar/context-engineering).
Quellen
Aktualisiert 1. November 2026
Bereit für Klarheit?
Klären Sie in 30 Minuten, ob die KI-Potenzialanalyse der richtige nächste Schritt für Ihr Unternehmen ist
Erstgespräch buchen (/erstgespraech)