Halluzinations-Absicherung
Maßnahmen, die das Risiko falscher Modellaussagen im Betrieb verringern.
Definition
Halluzinations-Absicherung umfasst die technischen und organisatorischen Maßnahmen, mit denen das Risiko falscher Aussagen eines Sprachmodells verringert wird. Dazu gehören Quellenbindung, klare Antwortgrenzen, Prüfschritte und definierte Fälle, in denen keine Antwort gegeben wird.
Warum das wichtig ist
Für den produktiven Einsatz von Sprachmodellen ist der Umgang mit Halluzinationen entscheidend. Eine durchdachte Absicherung macht den Unterschied zwischen einem Prototyp und einer verlässlichen Anwendung.
Vidasus-Kontext
In der Entwicklung bauen wir Absicherungsmechanismen von Beginn an ein. In der Prüfung testen wir gezielt, ob diese im Betrieb greifen.