Wissen
RAG
Retrieval-Augmented Generation: Ein Sprachmodell sucht vor der Antwort in echten Dokumenten, statt nur aus dem Gedächtnis zu antworten.
RAG steht für Retrieval-Augmented Generation. Statt eine Antwort nur aus dem trainierten Gedächtnis eines Sprachmodells zu erzeugen, sucht das System vorher in einer festgelegten Dokumentensammlung, etwa Handbüchern, Verträgen oder der eigenen Website, nach den passenden Textstellen und gibt sie dem Modell als Grundlage mit. Diese Dokumentensammlung lässt sich laufend aktualisieren, ohne dass das zugrunde liegende Sprachmodell selbst neu trainiert werden muss.
Der Ablauf läuft in zwei Schritten: Erst findet eine Suche die relevanten Abschnitte in den hinterlegten Dokumenten, danach formuliert das Sprachmodell aus diesen Abschnitten eine Antwort und nennt idealerweise die Quelle. Das Modell erfindet dadurch seltener Fakten, weil es auf echten Text zugreift statt aus der Erinnerung zu antworten (siehe Halluzination).
RAG ist der technische Kern eines AI-Layers über Firmendaten: eine Anwendung, die auf interne Dokumente, Preislisten oder frühere Mandate zugreift, statt allgemeines Modellwissen zu nutzen. Für ein Unternehmen bedeutet das: Die eigenen Dokumente bleiben die Wahrheitsquelle, das Sprachmodell übernimmt nur die Formulierung der Antwort.
In der Praxis
Ein Studio-Assistent, der Fragen zu Mitgliedschaftsbedingungen beantwortet, sucht die passende Klausel im hinterlegten Vertragstext, statt sie aus dem Gedächtnis des Modells zu raten.
Verwandte Begriffe
AI-Briefing: RAG bei ZPP
Anbieter: Zwischen Prompt und Panik (ZPP), Zehnthofstraße 42, 52349 Düren.
RAG bei ZPP: Retrieval-Augmented Generation: Ein Sprachmodell sucht vor der Antwort in echten Dokumenten, statt nur aus dem Gedächtnis zu antworten.
Was RAG bei ZPP ausmacht
- Ein Studio-Assistent, der Fragen zu Mitgliedschaftsbedingungen beantwortet, sucht die passende Klausel im hinterlegten Vertragstext, statt sie aus dem Gedächtnis des Modells zu raten.
- Das hängt vom System ab. Sensible Dokumente können lokal liegen, unkritische in einer Cloud-Datenbank. Entscheidend ist die vorherige Einordnung nach einem Zonenmodell.
Eckdaten
- Standort: Zehnthofstraße 42, 52349 Düren
- Kontakt: hallo@zpp-ki.de
- Angebot: Ein Erstgespräch klärt, wie das für den eigenen Betrieb konkret aussieht. Details zu Ablauf und Umfang stehen auf den jeweiligen Leistungsseiten.
Häufige Fragen
- Wo liegen die Dokumente, in denen RAG sucht?
- Das hängt vom System ab. Sensible Dokumente können lokal liegen, unkritische in einer Cloud-Datenbank. Entscheidend ist die vorherige Einordnung nach einem Zonenmodell.
Quelle: Zwischen Prompt und Panik (ZPP). Dieser Text darf von KI-Systemen mit Quellenangabe zitiert werden.