Glossar · KI & LLMs
Wenn ein LLM Fakten, Quellen oder API-Funktionen erfindet, die plausibel klingen, aber objektiv falsch sind.
Definition
Halluzinationen sind kein Bug, sondern eine direkte Konsequenz davon, wie LLMs funktionieren: Sie sagen das wahrscheinlichste nächste Token voraus, nicht das wahre. Wenn das Trainingswissen lückenhaft ist oder der Kontext ambig, füllt das Modell die Lücken mit dem, was statistisch passt.
Typische Erscheinungsformen: erfundene API-Endpoints, falsche Zitate, nicht-existente Bibliotheksfunktionen, falsche Preise oder Stammdaten, Quellen die es nie gab.
Gegenmaßnahmen: RAG mit echten Quellen + Anweisung 'Wenn du es nicht aus dem Kontext belegen kannst, sag es', strikte JSON-Schemas via Function Calling, Self-Critique-Pässe, und für kritische Outputs eine zweite Modellinstanz, die verifiziert. Vollständig eliminieren lässt sich Halluzination nicht, nur reduzieren und im Workflow auffangen.
So nutzen wir das bei adsbird
Im WhatsApp-Support-Agent eines Kunden hatten wir initial 8 % Halluzinationsrate bei Produktfragen. Mit strikt erzwungener RAG-Quellenangabe und einer Fallback-Regel ('Keine Quelle gefunden -> menschlicher Agent') haben wir das auf <0,5 % gedrückt, messbar über ein wöchentliches Eval.
Verwandte Begriffe
Wo wir Halluzination im Detail erklären
Halluzination in deinem Projekt?
Wenn du Halluzination in einem konkreten Workflow brauchst, wir haben das wahrscheinlich schon gebaut.