Glossar · KI & Agents
Technische und inhaltliche Grenzen, die ein KI-System davon abhalten, falsche, unsichere oder unerwünschte Dinge zu tun.
Definition
Guardrails sind Schutzschichten um ein LLM: erlaubte Themen und Aktionen, Format-Prüfungen der Ausgabe, Filter gegen Prompt-Injection, harte Limits bei Tool-Aufrufen und ein Mensch als Freigabe bei kritischen Schritten.
Ohne Guardrails ist ein KI-Agent unberechenbar. Mit ihnen wird er ein verlässlicher Baustein, der genau das tut, was vorgesehen ist, und im Zweifel lieber nachfragt als rät.
So nutzen wir das bei adsbird
Einen KI-Agent produktiv schalten, ohne dass er ungeprüft Mails versendet oder Daten ändert.
Verwandte Begriffe
Wo wir Guardrails im Detail erklären
Guardrails in deinem Projekt?
Wenn du Guardrails in einem konkreten Workflow brauchst, wir haben das wahrscheinlich schon gebaut.