RAG (Retrieval Augmented Generation)
Verfahren, das Modellantworten an eigene, geprüft Dokumente bindet.
Definition
Retrieval Augmented Generation (RAG) ist ein Verfahren, bei dem ein Sprachmodell vor der Antwort relevante Ausschnitte aus einer eigenen Wissensbasis abruft und diese in die Antwort einbezieht. Das Modell generiert somit nicht aus reinem Vorwissen, sondern auf Basis konkret bereitgestellter Quellen.
Warum das wichtig ist
RAG ist einer der wichtigsten Ansätze, um Sprachmodelle in Unternehmen verlässlich einzusetzen. Es reduziert Halluzinationen, macht Antworten belegbar und ermöglicht die Nutzung aktueller, unternehmensinterner Informationen ohne erneutes Training.
Vidasus-Kontext
RAG ist ein zentraler Baustein vieler unserer Entwicklungsprojekte. Wir binden Antworten an Ihre freigegebenen Dokumente, sodass Aussagen nachvollziehbar auf Quellen zurückgeführt werden können.
Die Bausteine
- Retrieval: Relevante Ausschnitte aus der Wissensbasis werden gefunden
- Augmentation: Diese Ausschnitte werden dem Modell als Kontext bereitgestellt
- Generation: Das Modell formuliert die Antwort auf Basis der Quellen