Glossar · KI
Context Window (Kontextfenster)
Die maximale Menge an Text (in Tokens), die ein Sprachmodell pro Anfrage gleichzeitig verarbeiten kann, also Eingabe und Ausgabe zusammen.
Definition
Das Context Window ist das Kurzzeitgedächtnis eines LLM. Alles, was das Modell für eine Antwort berücksichtigen soll, System-Prompt, Chatverlauf, eingefügte Dokumente und die erzeugte Antwort selbst, muss zusammen in dieses Fenster passen. Die Größe wird in Tokens gemessen, nicht in Zeichen: Ein Modell mit 200k Tokens fasst grob 500 Seiten Text. Läuft das Fenster über, schneidet die API den ältesten Teil ab oder wirft einen Fehler.
In Automations ist das Fenster die härteste Kostenbremse und zugleich eine Fehlerquelle. Wer bei jedem Schritt den kompletten Verlauf mitschickt, zahlt pro Token und wird langsamer, je länger der Prozess läuft. Deshalb kürzt du aktiv: nur die relevanten Treffer aus einer Suche einfügen (statt der ganzen Datenbank), alte Nachrichten zusammenfassen und lange Dokumente vor dem Prompt in Häppchen zerlegen. Ohne dieses Budget-Denken bricht eine mehrstufige Pipeline irgendwann mitten im Lauf ab.
So nutzen wir das bei adsbird
In einer adsbird-Demo-Pipeline füllen wir das Context Window nur mit den drei relevantesten Absätzen der Kundenwebsite statt mit dem ganzen Crawl, damit jeder Textbaustein günstig und schnell generiert wird.
Verwandte Begriffe
Context Window (Kontextfenster) in deinem Projekt?
Wir bauen damit,
jeden Tag.
Wenn du Context Window in einem konkreten Workflow brauchst, wir haben das wahrscheinlich schon gebaut.