Kontextfenster: was das heißt

„Schick doch einfach den ganzen Vertrag mit, das Modell hat eine Million Tokens.“ Der Satz fällt, sobald jemand die Zahl gelesen hat. Er ist nicht falsch. Er ist nur die halbe Sache, und die andere Hälfte kostet Geld und Genauigkeit.

Das Kontextfenster ist die Menge Text, die ein Modell bei einer Anfrage gleichzeitig vor sich hat: deine Frage, die Unterlagen, die du mitschickst, und alles, was vorher im Gespräch stand. Es ist keine Festplatte und kein Gedächtnis. Es ist der Schreibtisch, auf dem gerade alles liegt, und der Schreibtisch hat eine Kante.

Danach weißt du:

• was alles in das Fenster hineinzählt, auch das, was du nicht selbst hineinlegst
• wie groß die Fenster der gängigen Modelle im September 2026 sind und wie viele Seiten das sind
• warum ein Satz, der hineinpasst, trotzdem nicht gefunden wird, und was wir dazu gemessen haben
• was daraus für Verträge, Akten und die monatliche Rechnung folgt

Was hineinzählt

Das Fenster wird in Tokens gemessen, das sind Wortstücke; dazu gleich mehr. In das Fenster zählt alles, was das Modell bei einem Aufruf sieht:

• Die Systemanweisung. Der Text, der dem Modell sagt, was es ist und was es darf. Bei einem Werkzeug, das ihr nicht selbst gebaut habt, kennt ihr ihn nicht, und er ist oft länger, als man denkt. Bei Agenten mit Werkzeugen kommen die Werkzeugbeschreibungen dazu.
• Der Gesprächsverlauf. In einer Chat-Oberfläche geht bei jeder Nachricht das ganze bisherige Gespräch mit. Nicht, weil sich das Modell erinnert, sondern weil die Oberfläche es jedes Mal wieder hineinlegt. Ein Gespräch, das seit zwei Stunden läuft, trägt zwei Stunden Text mit sich.
• Das Material. Dokumente, Tabellen, Mails, alles, was ihr mitschickt.
• Die Frage selbst.
• Die Antwort. Sie entsteht im selben Fenster. Wer 190.000 Tokens hineinlegt und ein Fenster von 200.000 hat, bekommt eine Antwort, die nach 10.000 Tokens aufhört, oder eine Fehlermeldung.

Wenn ein Modell mitten im Gespräch eine Vorgabe vergisst, die am Anfang stand, ist meistens nicht das Modell schuld. Dann ist der Anfang schlicht nicht mehr im Fenster, weil die Oberfläche vorne abgeschnitten hat, um hinten Platz zu machen. Die Abhilfe ist unspektakulär: neues Gespräch, Vorgaben noch einmal mitgeben.

Wie groß die Fenster sind

Die Zahlen ändern sich, deshalb mit Datum und Quelle. Stand 18. September 2026, nachgelesen auf den Dokumentationsseiten der Anbieter:

Anbieter / Modell                         Fenster            Quelle
Anthropic Claude Opus 5, Sonnet 5         1.000.000 Tokens   platform.claude.com, Modellübersicht
Anthropic Claude Haiku 4.5                  200.000 Tokens   platform.claude.com, Modellübersicht
OpenAI GPT-5.6 (Sol, Terra, Luna)         1.050.000 Tokens   developers.openai.com, Modellseite
Google Gemini (aktuelle Modelle)          1.000.000 Tokens   ai.google.dev, „Long context“, Stand 22.06.2026
Meta Llama 3.2 (3B, offen, Ollama)          128.000 Tokens   ollama.com/library/llama3.2
Alibaba Qwen3 (8B bis 32B, offen)            40.000 Tokens   ollama.com/library/qwen3
Alibaba Qwen3 (4B, 30B, 235B, offen)        256.000 Tokens   ollama.com/library/qwen3

Zwei Anmerkungen, die wichtiger sind als die Tabelle. Erstens: Das Fenster, das der Hersteller angibt, ist nicht das Fenster, das ihr bekommt. Bei Ollama hängt die voreingestellte Kontextlänge vom Grafikspeicher ab: unter 24 GB sind es 4.096 Tokens, zwischen 24 und 48 GB 32.768, darüber 262.144 (docs.ollama.com, Seite „Context length“, 18. September 2026). Ein Modell, das laut Modellkarte 128.000 Tokens kann, läuft auf einem Bürorechner mit 4.096, und alles darüber wird still abgeschnitten. Auf unserem Rechner mit 24 GB zeigte „ollama ps“ nach dem Start 8.192 an. Wer mehr will, setzt es ausdrücklich, und zahlt dafür mit Speicher.

Zweitens: Die Chat-Oberflächen der Anbieter haben eigene Grenzen, die unter dem API-Fenster liegen können. Was für die Schnittstelle gilt, gilt nicht automatisch für das Fenster im Browser.

Seiten in Tokens

Ein Token ist ein Wortstück, im Deutschen meist zwischen einer Silbe und einem Wort. „Rechnungsbetrag“ sind bei den gängigen Tokenizern drei bis vier Tokens, „und“ ist eines. Die Faustregel für deutschen Fließtext: dreieinhalb Zeichen je Token.

Wir haben das am 18. September 2026 nachgemessen. Der Text eines Beitrags von dieser Seite, 1.545 Wörter, 10.868 Zeichen, ging als Eingabe an llama3.2 über Ollama; die Antwort des Servers enthält die Zahl der gezählten Tokens:

Zeichen:                10.868
Wörter:                  1.545
Seiten (à 400 Wörter):     3.9
Tokens geschätzt:        3.105   (Spanne 2.717 bis 3.623)
Tokens gemessen:         3.149   (llama3.2, 3.45 Zeichen je Token, 815 Tokens je Seite)

Also 3,45 Zeichen je Token und rund 815 Tokens für eine eng beschriebene Seite mit 400 Wörtern. Andere Tokenizer weichen um zehn bis fünfzehn Prozent ab; Anthropic nennt für den aktuellen eigenen Tokenizer rund 555.000 englische Wörter je Million Tokens, Deutsch braucht etwas mehr. Für eine Entscheidung reicht die Größenordnung:

Dokument                              Seiten    Tokens (rund)
Zweiseitiges Angebot                       2            1.700
Mietvertrag Gewerbe                       25           20.000
Rahmenvertrag mit Anlagen                 40           35.000
Bauakte, ein Gewerk                      300          250.000
Handakte über drei Jahre               1.500        1.200.000

Die letzte Zeile ist der Punkt, an dem „eine Million Tokens“ konkret wird: Eine mittlere Handakte passt gerade so, oder gerade nicht mehr, und zwar bevor die Frage gestellt ist.

Passt hinein heißt nicht wird gefunden

Das ist die Stelle, an der sich die meisten täuschen. Ein großes Fenster heißt, dass der Text hineinpasst. Es heißt nicht, dass jede Stelle darin gleich zuverlässig gelesen wird.

Nelson Liu und Kollegen haben das 2023 gemessen („Lost in the Middle: How Language Models Use Long Contexts“, arXiv 2307.03172, später in den Transactions of the Association for Computational Linguistics). Sie legten die Antwort auf eine Frage an verschiedene Stellen eines langen Kontexts und sahen: Am Anfang und am Ende wird sie zuverlässig gefunden, in der Mitte fällt die Trefferquote deutlich, bei manchen Modellen unter das Ergebnis ohne jedes Dokument. Die Kurve hat die Form eines U. Neuere Modelle haben das Tal flacher gemacht; verschwunden ist es nicht.

Wir haben den Versuch im Kleinen nachgestellt, mit einem Modell, das auf einem Bürorechner läuft. Das Skript aus dem Paket versteckt einen erfundenen Satz (eine Kundennummer, eine Frist, einen Namen) in erfundenen Besprechungsnotizen, einmal am Anfang, einmal in der Mitte, einmal am Ende, und fragt danach. Fünf verschiedene Tatsachen je Position, drei Längen. Das ist der Kern:

def einbetten(fueller, satz, position):
    absaetze = fueller.split("\n")
    stelle = {"anfang": 0, "mitte": len(absaetze) // 2, "ende": len(absaetze)}[position]
    absaetze.insert(stelle, satz)
    return "\n".join(absaetze)

Und das Ergebnis vom 18. September 2026, llama3.2 mit 3,2 Milliarden Parametern, Temperatur 0:

Zusammenfassung (Treffer je Position)
     Länge   Anfang    Mitte     Ende
      2000    5/5      4/5      4/5
     12000    5/5      4/5      4/5
@@30K@@

Was in den Fehlversuchen stand, ist lehrreicher als die Quote. In der Mitte hat das Modell bei der Wartungsfrist beide Male „Sechs Monate“ geantwortet, die richtige Zahl war 17. Nicht „weiß ich nicht“, sondern eine plausible falsche Zahl. Am Ende hat es bei der Kundennummer „Nicht in den Notizen“ gesagt, obwohl sie im vorletzten Absatz stand. Beides sind die Fehler, die im Betrieb nicht auffallen: Die Antwort sieht aus wie eine Antwort.

Fünf Tatsachen je Zelle sind keine Statistik. Wer mehr will, erhöht die Läufe oder tauscht das Modell; das Skript ist dafür gebaut. Was der Versuch zeigt, reicht für die Entscheidung: Ein Modell, das den Text hat, findet nicht jede Stelle darin. Und je länger der Text, desto teurer wird jeder Versuch, bei uns 5 Sekunden je Frage bei 2.000 Tokens und 23 Sekunden bei 12.000.

Was daraus für Verträge und Akten folgt

Die Regel, die sich daraus ergibt, ist einfach und unbequem: Auszug statt Dokument. Nicht der Vertrag geht ans Modell, sondern die drei Seiten, auf die es ankommt. Das ist keine Notlösung für kleine Fenster, sondern die bessere Arbeitsweise, auch wenn das Fenster groß genug wäre:

• Die Antwort wird besser, weil das Modell nicht in der Mitte von 35.000 Tokens nach der Kündigungsklausel suchen muss.
• Der Aufruf wird billiger und schneller, um den Faktor, um den der Auszug kürzer ist.
• Es geht weniger mit, das nicht mitgehen sollte. Eine Akte enthält Dinge, die die Frage nicht braucht, und bei einem Modell außer Haus ist jede Seite, die nicht mitgeht, eine Seite weniger, um die man sich wegen § 203 StGB Gedanken machen muss.

Woher kommt der Auszug? Aus einem Programm, nicht aus dem Modell. Verträge haben Überschriften und Nummerierung; ein Skript, das „§ 12 Kündigung“ findet, ist zwanzig Zeilen lang. Akten haben Dokumentarten und Daten. Wer weiß, was er sucht, sucht mit einem Programm und lässt das Modell mit dem Fundstück arbeiten. Wer nicht weiß, was er sucht, hat eine andere Aufgabe, und die heißt Suche, nicht Zusammenfassung.

Und wenn das Dokument wirklich am Stück gebraucht wird, etwa für die Frage, ob sich zwei Klauseln widersprechen? Dann in Abschnitte teilen, jeden Abschnitt einzeln befragen und die Ergebnisse von einem Programm zusammenführen. Das ist mehr Aufwand als ein Aufruf mit allem, und es ist der Aufwand, der die Antwort prüfbar macht.

Was es kostet

Bei Anbietern außer Haus wird nach Tokens abgerechnet, für Eingabe und Ausgabe getrennt. Die Eingabe ist bei Dokumentaufgaben der größere Posten. Beispiel mit den Listenpreisen von platform.claude.com am 18. September 2026: Claude Sonnet 5 kostet 2 US-Dollar je Million Eingabetokens. Der Rahmenvertrag mit 35.000 Tokens kostet damit je Frage 7 Cent; der Auszug mit 2.500 Tokens einen halben Cent. Bei 20 Fragen am Tag und 22 Arbeitstagen sind das 31 Dollar im Monat gegen 2 Dollar. Bei Opus 5 mit 5 Dollar je Million das Zweieinhalbfache. Die Zahlen sind klein; der Faktor 14 zwischen Dokument und Auszug bleibt, wenn aus 20 Fragen 2.000 werden.

Beim Modell im eigenen Haus gibt es keine Rechnung je Token, dafür zwei andere Kosten. Erstens Speicher: Das Fenster liegt während des Aufrufs im Grafikspeicher, und der Bedarf wächst mit der Länge. Deshalb setzt Ollama die Voreinstellung nach verfügbarem Speicher. Zweitens Zeit: Jeder Token der Eingabe wird verarbeitet, bevor der erste Token der Antwort kommt. Unsere 23 Sekunden für 12.000 Tokens sind ein 3-Milliarden-Modell auf einem Bürorechner; ein größeres Modell braucht länger, eine Serverkarte ist schneller. Was der Server kostet, steht im Beitrag zu den Kosten eines Modells im eigenen Haus.

Was es nicht ist

• Kein Gedächtnis. Was im Fenster liegt, ist beim nächsten Aufruf weg, wenn es niemand wieder hineinlegt. Ein Modell „lernt“ aus einem Gespräch nichts für das nächste.
• Keine Suche. Ein Modell mit dem ganzen Vertrag im Fenster ist kein Suchwerkzeug. Es findet Stellen am Rand besser als in der Mitte und sagt nicht, wenn es eine übersehen hat.
• Kein Qualitätsmerkmal für sich. Ein Modell mit 40.000 Tokens Fenster, das den Auszug bekommt, schlägt in der Regel ein Modell mit einer Million, das die Akte bekommt. Die Fenstergröße entscheidet, was technisch geht, nicht, was gut wird.

Zum Nachbauen

Das Paket zu diesem Beitrag enthält den Kontexttest, den Token-Schätzer und die Prüfliste. Entpacken, Ollama mit einem Modell starten, dann:

• kontext_test.py: versteckt fünf erfundene Tatsachen je Position am Anfang, in der Mitte und am Ende eines erfundenen Fülltexts und zählt die Treffer; Längen über die Option, Modell über MODELL. Die Zusammenfassung oben stammt aus diesem Skript
• schaetze_tokens.py: schätzt Tokens für eine Textdatei nach Zeichen und misst sie auf Wunsch am Modell; mit Angabe des Fensters zeigt es den Anteil
• pruefliste-was-mitschicken.md: sieben Fragen vor jedem Aufruf mit Dokument, von „welche Stellen braucht die Antwort“ bis „was darf nicht mit“

Stand dieses Artikels

Skizze vom 12. September 2026, ausgebaut am 18. September 2026. Fenstergrößen und Preise an diesem Tag auf den Dokumentationsseiten der Anbieter nachgelesen (platform.claude.com, developers.openai.com, ai.google.dev, ollama.com, docs.ollama.com); sie ändern sich, die Größenordnungen nicht so schnell. Der Kontexttest und die Tokenmessung liefen mit Ollama 0.32.15 und llama3.2 (3,2 Milliarden Parameter, Q4_K_M) auf einem Mac mit 24 GB Speicher, Python 3.12.2, Temperatur 0. Fülltext und Tatsachen sind erfunden. Mit größeren Modellen oder Anbietern außer Haus haben wir den Positionstest nicht ausgeführt; die Aussage dazu stützt sich auf Liu u. a. 2023. Die Seitenzahlen der Beispieldokumente sind Erfahrungswerte, keine Messung.

Häufige Fragen