Grenze pro Anfrage
Ein Modell kann nur eine bestimmte Menge an Token auf einmal verarbeiten. Diese Obergrenze heißt Kontextfenster. Anweisung, Unterlagen, Verlauf und Antwort müssen zusammen hineinpassen.
Glossar
Token:
die Recheneinheit der Sprachmodelle.
Statt Buchstaben oder ganzer Wörter liest ein Sprachmodell Token. Wer das weiß, versteht, warum lange Dokumente Grenzen haben, warum Anfragen Geld kosten und warum Kürze in Anweisungen hilft.
Kurz gesagtEin Token ist ein Textstück, mit dem ein Sprachmodell rechnet: ein kurzes Wort, ein Wortteil, eine Zahl oder ein Satzzeichen. Die Zahl der Token bestimmt, wie viel Text ein Modell auf einmal verarbeiten kann und, je nach Tarif, was die Nutzung kostet.
Was ein Token ist
Bevor ein Sprachmodell einen Text verarbeitet, wird dieser in Stücke zerlegt. Diese Stücke heißen Token. Ein kurzes, gebräuchliches Wort kann ein einzelnes Token sein. Ein langes Wort wie „Auftragsbestätigung“ zerfällt in mehrere Teile. Auch Zahlen, Satzzeichen und Leerzeichen zählen mit. Welche Stücke entstehen, legt ein Verfahren fest, das beim Bau des Modells aus Texten abgeleitet wurde.
Den Text sieht das Modell nie, nur eine Reihe von Nummern, je eine pro Token. Seine gesamte Arbeit besteht darin, zu einer Reihe von Nummern die wahrscheinlich nächste Nummer zu berechnen. Das Ergebnis wird danach wieder in Text zurückübersetzt.
Für die Praxis ist wichtig: Die Länge eines Textes in Wörtern ist nur ein Anhaltspunkt für die Länge in Token. Deutsche Texte mit langen Zusammensetzungen, Fachbegriffen und Zahlen verbrauchen mehr Token, als der Wortzähler vermuten lässt. Aussagekräftig ist nur der Zähler, den der Anbieter des Modells mitliefert.
Zur Einordnung ein Beleg: Die Dokumentation von Anthropic führt aus, dass sich die Zahl der Token einer Nachricht vorab zählen lässt, dass das Ergebnis eine Schätzung ist und leicht abweichen kann, und dass neuere Modelle mit einem anderen Tokenizer für denselben Text rund 30 Prozent mehr Token ergeben können (Quelle: Anthropic: Token counting, abgerufen am 22. Oktober 2026).
Warum Token zählen
Kosten
Anbieter rechnen die Nutzung ihrer Modelle je nach Tarif nach Token ab, getrennt für Eingabe und Ausgabe. Lange Unterlagen, die bei jeder Anfrage mitgeschickt werden, verteuern jede Anfrage.
Geschwindigkeit
Je mehr Token verarbeitet und erzeugt werden, desto länger dauert die Antwort. Kurze Anweisungen und gezielt ausgewählte Textstellen beschleunigen.
Qualität
Wird der Platz mit Unwichtigem gefüllt, leidet die Aufmerksamkeit für das Wesentliche. Auswahl schlägt Masse.
Beispiel (Eine Preisliste zu groß für jede Anfrage)
Fiktives Beispiel, kein Kundenfall.
Ein Händler möchte, dass ein Wissensagent Preisfragen beantwortet, und schickt zunächst die komplette Preisliste bei jeder Anfrage mit. Die Liste ist lang, jede Anfrage verbraucht entsprechend viele Token, antwortet langsam und kostet mehr als nötig. Außerdem verdrängt die Liste den Gesprächsverlauf aus dem Kontextfenster.
Die bessere Lösung: Das System sucht zur Frage die passenden Zeilen heraus und schickt nur diese mit. Dieses Prinzip heißt RAG. Die Antwort wird schneller, günstiger und sauberer, weil das Modell nur sieht, was zur Frage gehört.
Entscheidend ist, dass nicht das ganze Dokument bei jeder Frage mitreisen muss. Die Auswahl der passenden Stellen hält die Anfrage kurz, spart Kosten und kann zu klareren Antworten führen, weil weniger Nebensächliches im Weg liegt.
Abgrenzung
| Begriff | Bedeutung | Unterschied zu Token |
|---|---|---|
| Wort | Sprachliche Einheit | Ein Wort kann ein Token oder mehrere sein |
| Zeichen | Einzelner Buchstabe oder Symbol | Token sind länger als ein Zeichen, aber kürzer als ein langes Wort |
| Kontextfenster | Maximale Menge an Token pro Anfrage | Das Fenster ist die Obergrenze, Token die Einheit |
| Embedding | Zahlenvektor für Bedeutung | Wird aus Text berechnet, siehe Embedding |
Was das für Ihren Betrieb heißt
- Unterlagen kürzen. Entfernen Sie Wiederholungen, Fußzeilen und überholte Abschnitte aus der Wissensbasis. Das senkt die Token-Last und verbessert die Treffer.
- Anweisungen straffen. Eine Systemanweisung von einer Seite ist verständlicher und billiger als eine von zehn Seiten.
- Kosten abschätzen. Lassen Sie sich beim Angebot zeigen, wie viele Anfragen im Monat mit welchem Tokenumfang gerechnet wurden.
- Antwortlänge begrenzen. Wer nur eine Kurzauskunft braucht, bestellt keine Abhandlung.
Unsere Betriebskosten für Agenten hängen unter anderem von dieser Nutzung ab. Der Einstieg mit dem Wissens-Agenten liegt bei ab 1.000 € Setup und ab 100 € im Monat. Wie sich der Umfang entwickelt, besprechen wir im Erstgespräch.
Für Ihre Planung genügt zunächst die Größenordnung. Wer weiß, wie lang die üblichen Unterlagen und Fragen sind, kann abschätzen, ob ein Vorhaben mit kleinem Aufwand läuft oder ob eine Vorauswahl der Inhalte nötig ist.
So prüfen Sie die Token-Last eines Vorhabens
Bevor Sie Kosten und Tempo einschätzen, lohnt eine kleine Rechnung mit echten Texten.
- Typische Anfrage wählen. Nehmen Sie eine Kundenanfrage aus dem Alltag, nicht den Idealfall.
- Bestandteile auflisten. Anweisung, mitgeschickte Unterlagen, Verlauf, Frage, Antwort. Jeder Posten verbraucht Platz.
- Mit dem Zähler messen. Der Anbieter des Modells stellt einen Token-Zähler bereit. Prüfen Sie jeden Posten einzeln.
- Auf Monatsmenge hochrechnen. Wie viele solcher Anfragen kommen im Monat? Rechnen Sie mit einem Spielraum für Spitzen.
- Sparhebel prüfen. Kürzere Anweisung, gezielte Textstellen, kürzere Antwort: Welcher Hebel bringt am meisten?
Diese Rechnung dauert eine Stunde und verhindert Überraschungen. Sie zeigt außerdem, welche Teile der Wissensbasis zu umfangreich sind. Oft lässt sich ein Dokument durch Kürzen und Gliedern deutlich schlanker machen, ohne Inhalt zu verlieren. Das verbessert zugleich die Trefferqualität.
Grenzen der Faustregeln
Auf Zählregeln wie „ein Token entspricht etwa drei Vierteln eines Wortes“ sollten Sie sich nicht verlassen. Solche Faustformeln gelten für bestimmte Sprachen und bestimmte Zerlegungsverfahren, nicht für Ihre Texte. Die Zerlegung unterscheidet sich zwischen Modellfamilien, und deutsche Fachtexte verhalten sich anders als englische Alltagssprache.
Wenn es auf die Menge ankommt, zählen Sie. Anbieter stellen Zähler bereit, und wir rechnen in Projekten mit echten Beispieltexten, nicht mit Annahmen. Mehr zur praktischen Einrichtung unter KI-Agenten entwickeln.
Prüfen Sie die Rechnung erneut, sobald sich Unterlagen oder Anweisungen deutlich verlängern, denn dann ändert sich auch die Last.
Häufige Fragen
Ist ein Token ein Wort?
Nein. Ein Token kann ein ganzes Wort sein, ein Wortteil, eine Zahl oder ein Satzzeichen. Lange oder seltene Wörter zerfallen in mehrere Token.
Warum kosten Anfragen unterschiedlich viel?
Weil bei tokenbasierter Abrechnung Eingabe und Ausgabe gezählt werden. Eine Anfrage mit langen Unterlagen und langer Antwort verbraucht mehr als eine kurze Frage mit kurzer Antwort.
Wie viele Token passen in ein Dokument?
Das lässt sich nur mit dem Zähler des jeweiligen Modells bestimmen. Wörter oder Seiten sind ein Anhaltspunkt, kein verlässliches Maß.
Was passiert, wenn mein Text zu lang ist?
Je nach System wird er abgeschnitten, aufgeteilt oder abgelehnt. Gute Systeme wählen vorab die relevanten Stellen aus, damit nichts Wichtiges verloren geht.
Kann ich Token-Kosten begrenzen?
Ja, über kürzere Anweisungen, gezielte Auswahl der Textstellen, Begrenzung der Antwortlänge und ein passend gewähltes Modell. Wir legen dafür Obergrenzen im Betrieb fest.
Autor: Melvin Mümken, Gründer & Technischer Leiter. Stand: 22.10.2026. Die Hinweise sind ein allgemeiner Überblick und keine Rechtsberatung.