Glossar
Kontextfenster:
wie viel ein Modell auf einmal sieht.
Das Kontextfenster ist der Arbeitstisch des Modells. Alles, was darauf liegt, kann es berücksichtigen. Alles, was nicht darauf liegt, existiert für die laufende Anfrage nicht.
Kurz gesagtDas Kontextfenster ist die Obergrenze an Token, die ein Sprachmodell in einer Anfrage zugleich verarbeitet: Anweisung, Unterlagen, bisheriger Verlauf und Antwort. Was nicht ins Fenster passt, fließt nicht in die Antwort ein.
Was das Kontextfenster ist
Ein Sprachmodell hat kein Gedächtnis im menschlichen Sinn. Bei jeder Anfrage bekommt es einen Text als Eingabe und antwortet nur auf dieser Grundlage. Wie viel Text auf einmal hineinpasst, begrenzt das Kontextfenster, gemessen in Token. In diese Menge müssen alle Bestandteile: die Systemanweisung, die mitgegebenen Unterlagen, der bisherige Gesprächsverlauf, die aktuelle Frage und die Antwort selbst.
Moderne Modelle haben große Fenster, die ganze Handbücher aufnehmen können. Daraus zu schließen, man müsse nur alles hineinlegen, ist aber ein Irrtum. Größere Fenster kosten mehr, antworten langsamer und garantieren nicht, dass das Modell jede Stelle gleich aufmerksam berücksichtigt. Lange Eingaben können dazu führen, dass Details in der Mitte weniger Gewicht bekommen.
Das Fenster ist also eine Ressource, die man einteilt. Die Frage lautet nicht, wie viel hineinpasst, sondern was die Antwort tatsächlich braucht. Eine Rückfrage zum Lieferstatus braucht die Bestelldaten und die Versandregeln, aber nicht das gesamte Handbuch. Wer so denkt, baut Systeme, die schneller, günstiger und nachvollziehbarer arbeiten.
Beispiel (Ein langer Gesprächsverlauf im Kundenservice)
Fiktives Beispiel, kein Kundenfall.
Ein Kunde führt über Stunden einen Dialog mit dem Servicesystem eines Händlers. Je länger das Gespräch, desto mehr Verlauf muss bei jeder neuen Nachricht mitgeschickt werden. Irgendwann wird das Fenster knapp. Das System löst das auf zwei Arten: Es fasst frühere Teile kurz zusammen, und es merkt sich wichtige Fakten wie Bestellnummer und Anliegen in einer festen Notiz außerhalb des Verlaufs.
Ohne diese Vorkehrung könnte das System zu Beginn genannte Angaben vergessen und erneut danach fragen. Für den Kunden wirkt das wie Unaufmerksamkeit, technisch ist es die Fenstergrenze.
Wie der Platz im Fenster aufgeteilt wird
| Bestandteil | Aufgabe | Pflege |
|---|---|---|
| Systemanweisung | Rolle, Regeln, Grenzen | Kurz halten, nur Dauerhaftes aufnehmen |
| Gefundene Textstellen | Fakten für diese Frage | Per Suche auswählen, siehe RAG |
| Verlauf | Bisheriges Gespräch | Zusammenfassen, wenn es lang wird |
| Aktuelle Frage | Das Anliegen | Unverändert übernehmen |
| Antwortreserve | Platz für die Antwort | Freihalten, sonst bricht sie ab |
Wer den Platz klug verteilt, braucht weniger Modellleistung und bekommt präzisere Antworten.
Abgrenzung: Kontext, Wissen, Gedächtnis
- Kontext ist, was in dieser Anfrage mitgeschickt wird. Er verschwindet nach der Antwort.
- Trainingswissen ist das, was das Modell beim Bau gelernt hat. Es ändert sich im Betrieb nicht.
- Wissensbasis ist Ihr gepflegter Bestand an Unterlagen. Aus ihm werden Teile in den Kontext geholt.
- Gedächtnis eines Systems ist eine bewusst gebaute Funktion, bei der Notizen gespeichert und bei Bedarf wieder in den Kontext gelegt werden.
Wer ein Gedächtnis aufbaut, speichert unter Umständen personenbezogene Daten. Dann gelten Datenschutzregeln, bei Verarbeitung im Auftrag mit Vertrag nach Art. 28 DSGVO, und Löschfristen gehören dazu. Siehe Löschkonzept.
Grenzen und Risiken
- Abschneiden. Wird die Grenze überschritten, fehlt Material. Gute Systeme prüfen die Länge vor dem Senden.
- Verwässerung. Zu viel Material mindert die Treffsicherheit. Ordnen Sie Wichtiges nach vorn und entfernen Sie Doppelungen.
- Kosten und Tempo. Jede mitgeschickte Seite verteuert und verlangsamt die Anfrage.
- Vertraulichkeit. Was im Fenster liegt, wird verarbeitet. Legen Sie nichts hinein, was der Fragende nicht sehen darf.
Missverständnisse zum Kontextfenster
„Je größer das Fenster, desto besser das System.“ Ein großes Fenster erlaubt, mehr Material mitzuschicken. Es sagt nichts darüber, ob dieses Material relevant ist. Ein Fenster voller Nebensächlichkeiten führt zu schlechteren Antworten als ein kleines mit den richtigen Stellen.
„Das Modell merkt sich, was ich gestern gesagt habe.“ Ohne gebaute Gedächtnisfunktion nicht. Jedes Gespräch beginnt leer, und was früher besprochen wurde, muss das System bewusst wieder hineinlegen. Das erklärt, warum ein Assistent nach einem Neustart Vorgaben nicht kennt, die Sie ihm gestern gegeben haben.
„Wenn alles drinsteht, wird es auch berücksichtigt.“ Bei sehr langen Eingaben kann der Mittelteil schwächer wirken als Anfang und Ende. Deshalb gehören die wichtigsten Regeln nach vorn, die konkrete Frage ans Ende, und Nebensächliches bleibt draußen.
Ein praktischer Test: Bitten Sie das System, eine Angabe aus der Mitte eines langen Dokuments wiederzugeben, und prüfen Sie diese gegen das Original. Fällt die Probe schlecht aus, hilft eine bessere Auswahl der Textstellen statt eines größeren Fensters.
So gehen wir damit um
Wir lassen Agenten nie die komplette Wissensbasis laden. Eine Suche wählt zur Frage die passenden Stellen aus, Verlauf und Notizen werden knapp gehalten, und die Antwortreserve ist fest eingeplant. Im Test prüfen wir gezielt lange Gespräche. Weiterführendes finden Sie bei Wissensagent und Vektordatenbank. Unsere Leistung dazu: KI-Agenten entwickeln.
Dazu gehört eine Regel für lange Gespräche: Wichtige Angaben wie Name, Vorgangsnummer und Anliegen werden zusammengefasst festgehalten, damit sie nicht verloren gehen, wenn der Verlauf das Fenster füllt.
Weitere Fragen aus der Praxis
Woran merke ich, dass das Fenster zu knapp ist?
Das System vergisst Angaben aus dem Gesprächsanfang, wiederholt Rückfragen oder gibt Antworten, die einem früher genannten Hinweis widersprechen. Auch abgeschnittene Antworten sind ein Zeichen. Im Test provozieren wir diese Fälle gezielt mit langen Gesprächen und prüfen, ob das System seine Notizen sauber führt.
Häufige Fragen
Warum vergisst ein Chat manchmal Dinge von früher?
Weil der frühere Teil des Verlaufs nicht mehr ins Kontextfenster passt oder gekürzt wurde. Das System kann nur berücksichtigen, was in der aktuellen Anfrage mitgeschickt wird.
Hilft ein größeres Fenster immer?
Nein. Es erlaubt mehr Material, kostet aber mehr, antwortet langsamer und garantiert nicht, dass jede Stelle gleich gut berücksichtigt wird. Auswahl ist die bessere Strategie als Menge.
Kann ich das Fenster selbst einstellen?
Die Obergrenze hängt vom Modell ab. Einstellbar ist, wie viel Sie nutzen: Anweisung, Unterlagen, Verlauf und Antwortlänge.
Speichert das Modell, was im Fenster stand?
Das Modell selbst verändert sich nicht. Ob Ihr System Eingaben speichert, hängt vom Aufbau und vom Vertrag mit dem Anbieter ab. Wir legen das im Auftragsverarbeitungsvertrag fest.
Wie lang sollte eine Systemanweisung sein?
So kurz, wie es die Aufgabe erlaubt. Dauerhafte Regeln gehören hinein, Einzelfälle nicht. Alles Übrige kommt über die Wissensbasis, damit die Anweisung übersichtlich bleibt und das Fenster Platz für die eigentliche Frage hat.
Quellen und rechtlicher Rahmen
- DSGVO, Art. 28 (Auftragsverarbeiter): Verarbeitet ein Dienstleister personenbezogene Daten im Auftrag, arbeitet der Verantwortliche nur mit Auftragsverarbeitern, die hinreichende Garantien für geeignete technische und organisatorische Maßnahmen bieten. Die Verarbeitung folgt einem Vertrag, der unter anderem Gegenstand, Dauer, Art und Zweck festlegt. (abgerufen 21. Oktober 2026)
Die Zusammenfassungen sind sinngemäß; maßgeblich sind die verlinkten Originaltexte. Das ist ein allgemeiner Überblick zu Ihrem Umfeld, keine Rechtsberatung und keine Aussage zu Ihrem Einzelfall.
Autor: Melvin Mümken, Gründer & Technischer Leiter. Stand: 22.10.2026. Die Hinweise sind ein allgemeiner Überblick und keine Rechtsberatung.