Glossar
Sprachmodell (LLM):
die Technik hinter den Textsystemen.
Hinter fast jedem Textsystem steckt ein Sprachmodell. Wer versteht, was es tut und was nicht, kann es gezielt einsetzen und vor naheliegenden Fehlern schützen.
Kurz gesagtEin Sprachmodell (englisch Large Language Model, LLM) ist ein KI-Modell, das auf großen Textmengen trainiert wurde und Sprache verarbeitet und erzeugt. Es berechnet, welches Wort im Zusammenhang wahrscheinlich folgt. Es kennt weder Ihre Firma noch aktuelle Preise, solange Sie ihm diese nicht mitgeben.
Wie ein Sprachmodell arbeitet
Ein Sprachmodell ist ein mathematisches Modell mit sehr vielen Parametern. In der Trainingsphase hat es aus riesigen Textsammlungen gelernt, wie Sprache aufgebaut ist: welche Wörter zusammen auftreten, wie Sätze Bedeutung tragen, wie ein Brief, eine Anleitung oder ein Vertrag typischerweise gegliedert ist. Beim Einsatz bekommt es einen Text als Eingabe und berechnet Schritt für Schritt, welches Textstück als nächstes passt. Aus vielen solchen Schritten entsteht eine Antwort.
Dabei arbeitet es nicht mit ganzen Wörtern, sondern mit Teilstücken, den Token. Wie viele Token auf einmal verarbeitet werden können, gibt das Kontextfenster vor. Was außerhalb des Fensters steht, existiert für das Modell nicht.
Wichtig für die Praxis: Ein Sprachmodell speichert keine Fakten in Karteikarten, die es verlässlich abruft. Sein Wissen ist in Gewichten verteilt und verwischt. Es kann Fachbegriffe, Gesetzesnamen oder Zahlen sicher klingend wiedergeben und sich dennoch irren. Daraus folgt die Grundregel für Betriebe: Verbindliche Fakten kommen aus Ihrer verbindlichen Datenquelle, nicht aus dem Gedächtnis des Modells.
Beispiel (Unterschiedliche Aufgaben, ein Modell)
Fiktives Beispiel, kein Kundenfall.
Ein Dienstleister nutzt dasselbe Sprachmodell für drei Aufgaben. Es fasst eingehende Kundenmails zusammen, es formuliert Antwortentwürfe im Stil des Hauses und es liest aus Rechnungen Betrag, Datum und Rechnungsnummer heraus. In keinem der drei Fälle ist das Modell die Quelle der Wahrheit. Die Mail liefert den Inhalt, die Vorlage den Stil, das Dokument die Zahlen. Das Modell leistet die sprachliche Arbeit dazwischen.
So betrachtet ist ein Sprachmodell weniger ein Lexikon als ein sehr schneller, sehr belesener Textarbeiter, dem man jedes Mal die Unterlagen auf den Tisch legen muss.
Was Sprachmodelle gut und schlecht können
| Aufgabe | Eignung | Warum |
|---|---|---|
| Zusammenfassen | Gut | Der Text liegt vor, das Modell verdichtet |
| Umformulieren, Ton anpassen | Gut | Reine Sprachaufgabe |
| Daten aus Freitext ziehen | Gut mit Prüfung | Fehler bei Zahlen und Namen möglich |
| Rechnen | Unsicher | Rechenwerke übernehmen besser klassische Programme |
| Aktuelle Fakten nennen | Schlecht | Wissensstand endet beim Training |
| Rechtsauskunft | Nicht geeignet | Fehler haben Folgen, Prüfung durch Fachleute nötig |
Für Rechenschritte oder Datenabfragen ruft das System zusätzlich Werkzeuge auf, siehe Tool-Aufruf. So bleibt das Modell bei dem, was es kann.
Aus dieser Mischung folgt eine praktische Arbeitsteilung. Das Modell formuliert, fasst zusammen und ordnet; Zahlen, Termine und Beträge kommen aus Ihren Systemen und werden dort nachgeschlagen, nicht aus dem Gedächtnis des Modells erzeugt. Wo beides zusammenkommt, prüft ein Mensch das Ergebnis, bevor es nach außen geht.
Modelle im Betrieb: Wahl und Verarbeitungsort
- Gehostete Modelle laufen beim Anbieter. Sie sind leistungsfähig und sofort nutzbar. Für personenbezogene Daten braucht es einen geregelten Vertrag nach Art. 28 DSGVO.
- Lokale Modelle laufen auf eigener Hardware. Die Daten bleiben im Haus, dafür sind Aufwand und Hardware höher. Siehe Lokales Sprachmodell.
- Spezialisierte Modelle sind auf Aufgaben wie Texterkennung oder Übersetzung zugeschnitten und für enge Zwecke ausreichend.
Welches Modell wir wählen, richtet sich nach Aufgabe, Datenlage und Betriebsanforderungen. Modell, Verarbeitungsort und Löschfristen klären wir im Vertrag. Das BSI beschreibt zu generativen Modellen neuartige Sicherheitsrisiken und mögliche Gegenmaßnahmen.
Für die Wahl hilft eine einfache Reihenfolge: Zuerst steht fest, welche Aufgabe das Modell übernimmt und welche Daten dafür gebraucht werden. Danach folgt die Frage, ob dafür ein kleineres, günstigeres Modell genügt. Erst am Ende zählen Geschwindigkeit und Kosten im laufenden Betrieb.
Drei Missverständnisse über Sprachmodelle
„Das Modell hat Ihre Daten gelernt.“ Solange Sie Unterlagen nur als Eingabe mitgeben, wird das Modell dadurch nicht verändert. Es liest sie für die Dauer der Anfrage. Ob Anbieter Eingaben zum Training nutzen, regelt der Vertrag.
„Das Modell weiß, was heute ist.“ Sein Wissen endet mit dem Trainingsstand. Aktuelle Preise, Lagerstände oder Gesetzesänderungen kennt es nur, wenn Sie sie mitgeben. Datum und Uhrzeit liefert das umgebende System.
„Größer heißt besser.“ Für enge Büroaufgaben reicht ein kleineres, günstigeres Modell, wenn die Unterlagen stimmen. Wo Sprache nur sortiert werden muss, ist ein großes Modell unnötig teuer und langsamer.
Grenzen und Risiken
- Falsche, aber plausible Aussagen. Siehe Halluzination.
- Manipulation durch Eingaben. Texte aus E-Mails oder Webseiten können versuchen, dem Modell Anweisungen unterzuschieben. Gegenmittel sind enge Rechte und die Trennung von Anweisung und Inhalt.
- Wechselnde Ergebnisse. Dieselbe Frage kann leicht abweichende Antworten liefern. Für feste Auskünfte setzen wir deshalb auf Wissensbasis und Quellenangabe.
- Modellwechsel. Anbieter ändern Modelle. Deshalb testen wir nach Änderungen mit einem festen Satz von Beispielfragen.
Wo es in unserem Vorgehen vorkommt
Das Sprachmodell ist der Motor, die Arbeit steckt drumherum: Wissensbasis, Rechte, Freigaben, Übergabe, Protokoll. Beispiele finden Sie bei KI-Agenten entwickeln und in den Branchenseiten. Die Einsteigerform ist der Wissensagent.
Je klarer Wissensbasis, Rechte und Freigaben beschrieben sind, desto leichter lässt sich später prüfen, ob ein anderes Modell dieselben Aufgaben ebenso gut erfüllt.
Weitere Fragen aus der Praxis
Kann ich ein Sprachmodell mit meinen Daten trainieren?
Möglich ist es, aber für Büroaufgaben nicht nötig. Es genügt, Ihre Unterlagen als Wissensbasis anzubinden. Wann sich eigenes Training lohnt, erklärt der Eintrag zu Fine-Tuning.
Häufige Fragen
Ist ein Sprachmodell dasselbe wie ChatGPT?
Nein. ChatGPT ist ein Produkt, das ein Sprachmodell als Grundlage nutzt. Sprachmodelle gibt es von verschiedenen Anbietern, und dasselbe Modell lässt sich in sehr unterschiedlichen Anwendungen einsetzen.
Wissen Sprachmodelle etwas über meine Firma?
Nur, was in den Eingaben steht. Allgemeines Vorwissen über Branchen haben sie, firmenspezifische Regeln und Preise nicht. Diese Lücke füllt eine Wissensbasis.
Warum gibt dasselbe Modell nicht immer dieselbe Antwort?
Die Auswahl des nächsten Wortes enthält einen Zufallsanteil, der sich einstellen lässt. Für feste Auskünfte reduzieren wir ihn und stützen die Antwort auf Quellenstellen.
Muss ich mich für ein Modell entscheiden?
Nicht allein. Wir wählen mit Ihnen anhand von Datenschutz, Aufgabe und Kosten. Die Architektur lässt einen späteren Wechsel zu, wenn sich der Markt ändert.
Sind Sprachmodelle sicher für Kundendaten?
Das hängt vom Anbieter, vom Vertrag und vom Aufbau ab. Personenbezogene Daten gehören nur in Systeme mit Auftragsverarbeitungsvertrag und klar geregeltem Verarbeitungsort.
Quellen und rechtlicher Rahmen
- DSGVO, Art. 28 (Auftragsverarbeiter): Verarbeitet ein Dienstleister personenbezogene Daten im Auftrag, arbeitet der Verantwortliche nur mit Auftragsverarbeitern, die hinreichende Garantien für geeignete technische und organisatorische Maßnahmen bieten. Die Verarbeitung folgt einem Vertrag, der unter anderem Gegenstand, Dauer, Art und Zweck festlegt. (abgerufen 21. Oktober 2026)
- BSI: Generative KI-Modelle, Chancen und Risiken für Industrie und Behörden (21.1.2025): Das BSI beschreibt neben den Chancen neuartige IT-Sicherheitsrisiken generativer KI-Modelle sowie mögliche Gegenmaßnahmen. Es richtet sich an Unternehmen und Behörden, die den Einsatz in ihren Arbeitsabläufen erwägen. (abgerufen 21. Oktober 2026)
Die Zusammenfassungen sind sinngemäß; maßgeblich sind die verlinkten Originaltexte. Das ist ein allgemeiner Überblick zu Ihrem Umfeld, keine Rechtsberatung und keine Aussage zu Ihrem Einzelfall.
Autor: Melvin Mümken, Gründer & Technischer Leiter. Stand: 22.10.2026. Die Hinweise sind ein allgemeiner Überblick und keine Rechtsberatung.