Was ist das Kontextfenster eines KI-Modells

Das Kontextfenster ist die Textmenge, die ein Sprachmodell in einer Anfrage „sieht": Ihr Prompt, der Chatverlauf, hochgeladene Dokumente und die Antwort des Modells. Ob eine ganze Codebasis, ein langer Vertrag oder nur ein kurzer Chat in einen API-Aufruf passt, hängt von der Fenstergröße ab. Im Folgenden: Definition, Messung in Tokens und warum das Fenster einer der wichtigsten Parameter bei der Modellwahl ist.

Definition in einfachen Worten

Das Kontextfenster (context window) ist die maximale Anzahl von Tokens, die ein Modell in einer Anfrage verarbeiten kann. Ein Token ist weder ein Wort noch ein Zeichen: Es ist ein Textfragment nach der Tokenisierung. In Russisch und Englisch entspricht ein Token etwa 3-4 Zeichen oder einem Wortteil; „Programmierung" kann 2-3 Tokens belegen.

Das Modell „erinnert" sich nicht von selbst an frühere Sitzungen. Alles, was es zum Antwortzeitpunkt weiß, ist das, was Sie in der aktuellen Anfrage innerhalb des Fensters übergeben haben. Ist Dialog oder Dokument länger als das Limit, werden ältere Teile abgeschnitten oder müssen mit separaten Techniken komprimiert werden (RAG, Zusammenfassung, Chunking).

Wie das Fenster in der Praxis funktioniert

In einer typischen API-Anfrage umfasst der Kontext:

• System-Prompt - Anweisungen an das Modell (Rolle, Antwortformat, Grenzen).
• Nachrichtenverlauf - frühere User- und Assistant-Turns im Chat.
• Anhänge - Text aus PDFs, Code aus einem Repo, Wissensdatenbank-Snippets.
• Modellausgabe - bei vielen Modellen zählt die Antwort ebenfalls zum Gesamtlimit pro Aufruf.

Das Schema ist einfach: Input + Output ≤ Kontextfenstergröße (manche Modelle begrenzen Input und Output getrennt, die Logik bleibt gleich - es gibt ein Maximum pro Aufruf).

Beispiel für ein 128K-Fenster:

Komponente	Ungefähre Größe
System-Prompt	500-2.000 Tokens
Chatverlauf (20 Nachrichten)	5.000-15.000
Hochgeladenes Dokument	80.000
Modellantwort	bis 8.000-16.000

Überschreitet die Summe das Limit, liefert die API einen Fehler oder die Plattform kürzt automatisch den Anfang des Verlaufs - je nach Client.

Input-Kontext und Output-Kontext

Entwickler verwechseln oft zwei Begriffe:

• Input-Kontext - wie viele Tokens das Modell annimmt (Prompt + Verlauf + Dateien).
• Max output tokens - Obergrenze der Antwortlänge pro Aufruf (separater API-Parameter, z. B. max_tokens).

Ein Modell mit 1M-Fenster kann fast eine Million Input-Tokens annehmen, die Antwort ist aber oft auf z. B. 8K-64K Tokens pro Aufruf begrenzt. Lange Berichte erfordern manchmal mehrere sequenzielle Anfragen oder Streaming mit Fortsetzung.

Auf manchen Tarifen kosten Long-Context-Anfragen (über einer Schwelle, z. B. 200K Input) mehr - wegen höherer Inference-Last.

Warum ein großes Kontextfenster wichtig ist

Großer Kontext hilft, wenn eine Anfrage viel zusammenhängende Information halten muss:

• Dokumentenanalyse - Verträge, Berichte, Forschung über Dutzende Seiten ohne Vor-Kompression.
• Code-Arbeit - mehrere Projektdateien, Stack Traces und Änderungshistorie in einem Prompt.
• Lange Dialoge - Support und Beratung, wo der gesamte Thread zählt, nicht nur die letzten 10 Nachrichten.
• Agentic-Szenarien - ein Agent sammelt Beobachtungen, Tool-Aufrufe und Zwischenergebnisse in einer Session.

Ein kleines Fenster (4K-32K) reicht für kurze Aufgaben: Klassifikation, Formularfeld-Extraktion, Absatzübersetzung, einfacher Chatbot. Enterprise-Szenarien mit Dokumenten und Code zielen meist auf 128K und mehr.

Typische Größen im Jahr 2026

Mitte 2026 teilt sich der Markt in mehrere Stufen:

Stufe	Fenstergröße	Beispielmodelle	Typische Aufgaben
Kompakt	8K-32K	Leichte lokale Modelle, ältere APIs	Chat, Klassifikation
Standard	128K-200K	GPT-5.5, Claude Sonnet 5, Gemini 3.1 Pro	Code, Dokumente, Agenten
Erweitert	1M-2M	GPT-5.6, Claude Fable 5, Gemini 3.5 Flash	Große Repos, Korpora

Der Kontext wächst schneller als die „nützliche" Länge: Ein Modell akzeptiert technisch eine Million Tokens, aber die Qualität am langen Ende kann sinken („lost in the middle" - Information aus der Mitte langer Kontexte wird schlechter genutzt). Ein großes Fenster ersetzt keine durchdachte Architektur, sondern erweitert die Möglichkeiten.

Grenzen und Workarounds

Selbst mit 2M-Fenster gehört nicht alles in einen Prompt:

1. Kosten - Input wird pro Token abgerechnet; eine Million Tokens pro Anfrage verteuert Production schnell.
2. Latenz - langer Kontext braucht länger auf der GPU.
3. Qualität - relevante Fakten sollten explizit geliefert werden, nicht „vergraben" in 500 Seiten Mitte.

Praktische Muster bei knappem Fenster oder zum Sparen:

• RAG (Retrieval-Augmented Generation) - relevante Fragmente in einer Vektordatenbank suchen und nur diese in den Prompt einfügen.
• Zusammenfassung - alte Nachrichten oder Dokumentabschnitte mit separatem Modellaufruf komprimieren.
• Chunking - Text in Teile splitten und Ergebnisse aggregieren.
• Sliding Window - nur die letzten N Nachrichten plus kurze Zusammenfassung der Vergangenheit im Verlauf.

In Production kombiniert man oft: RAG für Wissensbasis-Fakten + moderater Chatverlauf + 128K-1M-Modell für „schwere" Anfragen.

Fenstergröße passend zur Aufgabe wählen

Aufgabe	Empfohlenes Minimum	Kommentar
FAQ-Bot, Intent-Klassifikation	8K-16K	Kurzer Verlauf, Dokumente via RAG
Copilot für ein Repo	128K-1M	Abhängig von Codebasis-Größe
Legal / Compliance Review	200K+	Lange PDFs, Querverweise
Multimodale Dokumente	1M+	Text + Bilder verbrauchen mehr Tokens

Vor der Modellwahl den realen Input-Umfang schätzen: Tokens für typische Anfragen zählen (tiktoken, API-Tokenizer oder count_tokens des Anbieters) und 20-30% Reserve für Antwort und Verlaufswachstum einplanen.

Fazit

Das Kontextfenster ist das „Arbeitsgedächtnis" des Sprachmodells für eine Anfrage. Es wird in Tokens gemessen und umfasst Prompt, Verlauf, Anhänge und oft Platz für die Antwort. Große Fenster (128K-2M) ermöglichen Analyse langer Dokumente und Codebasen ohne ständiges Kürzen, ersetzen aber nicht RAG, Zusammenfassung und Kostenkontrolle. Bei der Modellwahl nicht nur die Spec-Zahl prüfen, sondern auch Long-Context-Qualität, Long-Context-Preise und die reale Größe typischer Anfragen.

Häufig gestellte Fragen

Worin unterscheidet sich ein Token von einem Wort?

Ein Token ist eine Texteinheit nach der Tokenisierung des Modells. Ein Wort kann ein oder mehrere Tokens sein; Satzzeichen und Leerzeichen zählen mit. Im Durchschnitt für Russisch und Englisch: 1000 Tokens ≈ 750-900 Wörter oder 3000-4000 Zeichen, genau hängt von Sprache und Modell ab. Für Schätzungen den Tokenizer des jeweiligen Anbieters nutzen, nicht die Wortzahl in Word.

Was passiert, wenn der Text länger als das Kontextfenster ist?

Abhängig von der Plattform: Die API kann „context length exceeded" zurückgeben, den Anfang des Verlaufs kürzen (älteste Nachrichten zuerst) oder Kompression anbieten. Das Modell „liest nicht weiter" über das Fenster hinaus - Information außerhalb des Limits existiert für es nicht. Lösungen: RAG, Zusammenfassung, Chunking oder Modell mit größerem Fenster.

Bedeutet mehr Kontext immer bessere Antworten?

Nein. Ein großes Fenster gibt die Möglichkeit, mehr Daten zu übergeben, garantiert aber nicht gleich gute Nutzung. Bei sehr langen Inputs sinkt oft die Genauigkeit zu Fakten aus der Mitte, Kosten und Latenz steigen. Besser relevanten Kontext übergeben (Suche oder strukturierter Prompt) als das ganze Korpus „zur Sicherheit".

Wie zähle ich, wie viele Tokens mein Dokument braucht?

Offizielle Tools: tiktoken für OpenAI-kompatible Modelle, Anthropic tokenizer, Google AI Studio für Gemini oder count_tokens im SDK des Anbieters. Grobe Regel: 1 Textseite (≈500 Wörter) etwa 650-800 Tokens; Code und Tabellen können pro Zeichen mehr Tokens erzeugen.

Brauche ich ein 1M-Token-Modell für einen normalen Chatbot?

Für einen typischen Chatbot mit kurzen Antworten und FAQ - nein, 32K-128K plus RAG über eine Wissensbasis reichen. 1M+ lohnt sich für große PDF-Analyse, ganze Repositories, lange agentic Sessions oder wenn Daten ohne Kohärenzverlust nicht vorab geteilt werden können. Zuerst reale Anfragegrößen in Production messen - oft reichen 128K mit passender Architektur.