Glossar
Fine-Tuning:
ein Modell gezielt nachtrainieren.
Fine-Tuning klingt nach dem Königsweg, ist aber für die wenigsten Büroaufgaben der erste Schritt. Es verändert das Verhalten eines Modells, nicht sein aktuelles Wissen.
Kurz gesagtBeim Fine-Tuning wird ein fertig trainiertes Sprachmodell mit eigenen Beispielpaaren (Eingabe und gewünschte Ausgabe) nachtrainiert, damit es Stil, Format oder eine enge Aufgabe zuverlässiger beherrscht. Für wechselnde Fakten wie Preise ist es ungeeignet, dafür dient RAG.
Was Fine-Tuning ist
Ein Sprachmodell wird zunächst allgemein trainiert und kann viele Aufgaben leidlich. Beim Fine-Tuning (Feinabstimmung) setzt man danach an: Man legt dem Modell eine Sammlung von Beispielen vor, jeweils mit einer Eingabe und der gewünschten Ausgabe. Das Training verschiebt die inneren Gewichte so, dass das Modell ähnliche Ausgaben künftig von selbst liefert.
Was sich damit gut erreichen lässt, ist Verhalten: ein einheitlicher Ton, ein festes Ausgabeformat, die zuverlässige Einordnung in Ihre Kategorien, die Art, wie Rückfragen formuliert werden. Was sich damit schlecht erreichen lässt, sind Fakten. Wissen, das ins Modell eintrainiert wurde, lässt sich nicht gezielt ändern oder löschen. Wird eine Preisliste ungültig, steht ihr Inhalt weiter in den Gewichten.
Deshalb gilt für Betriebe eine einfache Reihenfolge: erst eine gute Systemanweisung, dann RAG für das Wissen, und erst wenn das nicht reicht, Fine-Tuning für das Verhalten.
Beispiel (Einheitliche Kategorisierung von Anfragen)
Fiktives Beispiel, kein Kundenfall.
Ein Dienstleister sortiert eingehende Nachrichten in zwölf eigene Kategorien. Mit Anweisung und Beispielen im Prompt ordnet das Modell die klaren Fälle richtig ein, bei Grenzfällen schwankt es. Das Team stellt Tausende bereits korrekt sortierter Nachrichten zusammen und trainiert damit ein kleineres Modell nach. Danach werden die Grenzfälle einheitlicher zugeordnet, und das kleinere Modell arbeitet schneller und günstiger als das große.
Für die Antworten selbst nutzt der Dienstleister weiterhin RAG, weil Preise und Regeln wechseln. Fine-Tuning übernimmt nur die Einordnung, also das Verhalten.
Wann sich Fine-Tuning lohnt und wann nicht
| Ziel | Geeigneter Weg | Begründung |
|---|---|---|
| Aktuelle Preise und Regeln nutzen | RAG | Dokument ändern genügt, keine Neutrainierung |
| Festen Ton und Format erzwingen | Systemanweisung, ggf. Fine-Tuning | Erst Anweisung testen, dann nachtrainieren |
| Eigene Kategorien sicher zuordnen | Fine-Tuning oder Beispiele im Prompt | Genügend saubere Beispiele nötig |
| Fachsprache einer engen Domäne | RAG mit Glossar, ggf. Fine-Tuning | Abhängig von Datenmenge und Qualität |
| Sofortige Korrektur eines Fehlers | Anweisung oder Wissensbasis ändern | Training dauert und ist schwer rückholbar |
Was Fine-Tuning voraussetzt
- Saubere Beispiele. Jedes Paar muss richtig sein, denn das Modell lernt auch Fehler und Uneinheitlichkeiten. Zwei Mitarbeitende, die dieselbe Anfrage verschieden sortieren, erzeugen ein widersprüchliches Training.
- Genug Vielfalt. Die Beispiele müssen die Bandbreite der echten Fälle abdecken, auch Randfälle.
- Datenschutz. Trainingsdaten können Texte von Personen enthalten. Entfernen Sie personenbezogene Angaben, wo sie nicht nötig sind. Verarbeitet ein Dienstleister im Auftrag, braucht es einen Vertrag (Art. 28 DSGVO).
- Messlatte. Vor dem Training legen Sie Testfälle fest, die nicht im Training vorkommen, und vergleichen Vorher und Nachher.
- Pflegeplan. Ändern sich Kategorien oder Abläufe, muss neu trainiert werden. Wer das nicht plant, hat bald ein veraltetes Modell.
Grenzen und Risiken
Das Nachtraining kann Fähigkeiten verschieben: Ein Modell, das auf enge Aufgaben getrimmt wurde, verliert gelegentlich an allgemeiner Sprachgewandtheit oder wird bei untypischen Anfragen unsicherer. Deshalb testen wir nicht nur die Zielaufgabe, sondern auch Randfälle und gezielt schwierige Eingaben.
Außerdem kann ein Modell Trainingsbeispiele teilweise wiedergeben. Vertrauliche Texte, Zugangsdaten und Kundendaten gehören deshalb nicht in Trainingsmaterial. Und ein nachtrainiertes Modell ist nicht automatisch ehrlicher: Halluzinationen bleiben möglich, und entscheidende Schritte laufen weiterhin über Freigaben (Art. 22 DSGVO bei Entscheidungen mit Wirkung auf Personen).
Planen Sie deshalb auch den Rückweg ein. Ein nachtrainiertes Modell muss bei jeder Änderung der Aufgabe erneut geprüft werden, und die Trainingsdaten brauchen eine verantwortliche Person, die sie aktuell hält und von Vertraulichem freihält.
Missverständnisse zum Nachtraining
„Mit Fine-Tuning kennt das Modell mein Unternehmen.“ Es lernt Muster Ihrer Beispiele, kein verlässliches Faktenwissen über Ihren Betrieb. Für verlässliche Auskünfte brauchen Sie Quellen.
„Fine-Tuning spart Anweisungen.“ Es spart manchmal Beispiele im Prompt, ersetzt aber keine Regeln, die Sie schriftlich festhalten und prüfen wollen.
„Je mehr Daten, desto besser.“ Qualität schlägt Menge. Einige hundert sauber geprüfte Beispiele können mehr bewirken als Tausende ungeprüfte.
Entscheidungshilfe: Fünf Fragen vor dem Nachtraining
- Ist das Problem Verhalten oder Wissen? Falsche Fakten löst eine Wissensbasis, uneinheitliche Form kann Nachtraining lösen.
- Wurde die Anweisung wirklich ausgereizt? Klare Regeln und zwei, drei gute Beispiele beheben manche Mängel ohne Training.
- Gibt es genug geprüfte Beispiele? Sie müssen richtig, vielfältig und frei von unnötigen Personendaten sein.
- Wie oft ändert sich die Aufgabe? Je stabiler Kategorien und Abläufe, desto eher lohnt sich ein einmaliges Training.
- Wer prüft das Ergebnis? Ohne Testfälle, die nicht im Training vorkommen, bleibt der Nutzen Behauptung.
Fallen drei oder mehr Antworten gegen das Nachtraining aus, sparen Sie sich den Aufwand und investieren Sie in Anweisung, Wissensbasis und Stichproben. Das ist der schnellere und besser kontrollierbare Weg, und er lässt sich jederzeit wieder ändern, was bei eintrainiertem Verhalten nicht der Fall ist.
Unsere Empfehlung
Wir beginnen mit Anweisung und RAG und messen. Nur wenn Fehler in einer klar umrissenen Aufgabe bestehen bleiben und genügend geprüfte Beispiele vorliegen, schlagen wir ein Nachtraining vor und beschreiben Aufwand und Gegenwert vorab. Einstieg ist der Wissens-Agent ab 1.000 € Setup und ab 100 € im Monat. Mehr unter Individuelle KI-Tools und Maschinelles Lernen.
Häufige Fragen
Muss ich mein Modell fine-tunen, damit es meine Branche versteht?
In der Regel nicht. Branchenbegriffe lassen sich über Wissensbasis und Glossar vermitteln. Nachtraining lohnt sich erst, wenn Verhalten trotz guter Anweisung unzuverlässig bleibt.
Was kostet Fine-Tuning?
Das hängt von Modell, Datenmenge und Anbieter ab. Hinzu kommt der Aufwand, Beispiele zu sammeln und zu prüfen, der größer sein kann als das Training selbst. Wir nennen Kosten vorab, bevor wir ein Nachtraining empfehlen.
Kann ich Daten wieder aus dem Modell entfernen?
Nur durch erneutes Training ohne diese Daten. Eintrainiertes Wissen lässt sich nicht gezielt löschen. Das ist ein Grund, Fakten und Personendaten außerhalb des Modells zu halten.
Ist Fine-Tuning mit Datenschutz vereinbar?
Ja, wenn Trainingsdaten sorgfältig ausgewählt, personenbezogene Angaben nur bei Bedarf verwendet und Auftragsverarbeitungsverträge geschlossen werden. Im Zweifel genügt RAG, das Daten außerhalb des Modells hält.
Wie erkenne ich, dass es sich lohnt?
Wenn Sie nach sorgfältiger Anweisung und Beispielen weiterhin eine klar messbare Fehlerquote in derselben Aufgabe haben und genug geprüfte Beispiele vorliegen.
Quellen und rechtlicher Rahmen
- DSGVO, Art. 28 (Auftragsverarbeiter): Verarbeitet ein Dienstleister personenbezogene Daten im Auftrag, arbeitet der Verantwortliche nur mit Auftragsverarbeitern, die hinreichende Garantien für geeignete technische und organisatorische Maßnahmen bieten. Die Verarbeitung folgt einem Vertrag, der unter anderem Gegenstand, Dauer, Art und Zweck festlegt. (abgerufen 21. Oktober 2026)
- DSGVO, Art. 22 (automatisierte Entscheidungen): Betroffene haben das Recht, nicht einer ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. (abgerufen 21. Oktober 2026)
Die Zusammenfassungen sind sinngemäß; maßgeblich sind die verlinkten Originaltexte. Das ist ein allgemeiner Überblick zu Ihrem Umfeld, keine Rechtsberatung und keine Aussage zu Ihrem Einzelfall.
Autor: Melvin Mümken, Gründer & Technischer Leiter. Stand: 22.10.2026. Die Hinweise sind ein allgemeiner Überblick und keine Rechtsberatung.