Glossar · KI & LLMs
Wenn ein LLM Fakten, Quellen oder API-Funktionen erfindet, die plausibel klingen, aber objektiv falsch sind.
Definition
Halluzinationen sind kein Bug, sondern eine direkte Konsequenz davon, wie LLMs funktionieren: Sie sagen das wahrscheinlichste nächste Token voraus — nicht das wahre. Wenn das Trainingswissen lückenhaft ist oder der Kontext ambig, füllt das Modell die Lücken mit dem, was statistisch passt.
Typische Erscheinungsformen: erfundene API-Endpoints, falsche Zitate, nicht-existente Bibliotheksfunktionen, falsche Preise oder Stammdaten, Quellen die es nie gab.
Gegenmaßnahmen: RAG mit echten Quellen + Anweisung 'Wenn du es nicht aus dem Kontext belegen kannst, sag es', strikte JSON-Schemas via Function Calling, Self-Critique-Pässe, und für kritische Outputs eine zweite Modellinstanz, die verifiziert. Vollständig eliminieren lässt sich Halluzination nicht — nur reduzieren und im Workflow auffangen.
So nutzen wir das bei adsbird
Im WhatsApp-Support-Agent eines Kunden hatten wir initial 8 % Halluzinationsrate bei Produktfragen. Mit strikt erzwungener RAG-Quellenangabe und einer Fallback-Regel ('Keine Quelle gefunden -> menschlicher Agent') haben wir das auf <0,5 % gedrückt — messbar über ein wöchentliches Eval.
Halluzination in deinem Projekt?
Wenn du Halluzination in einem konkreten Workflow brauchst — wir haben das wahrscheinlich schon gebaut.