Glossar
Human in the Loop:
der Mensch bleibt im Ablauf.
Der Begriff beschreibt eine Gestaltungsentscheidung: An welchen Stellen eines automatisierten Ablaufs schaut ein Mensch hin, und was kann er ändern? Ohne diese Stellen ist ein Ablauf schwer zu verantworten.
Kurz gesagtHuman in the Loop (HITL) bedeutet, dass an festgelegten Stellen eines KI-gestützten Ablaufs ein Mensch prüft, korrigiert oder freigibt. Bei Entscheidungen mit rechtlicher Wirkung gegenüber Personen hat die betroffene Person nach Art. 22 DSGVO das Recht, nicht allein einer automatisierten Entscheidung unterworfen zu werden.
Was Human in the Loop meint
Im Ablauf eines KI-Systems gibt es Stellen, an denen es weitergeht, ob jemand hinsieht oder nicht. Human in the Loop legt fest, an welchen dieser Stellen ein Mensch eingebunden ist. Das kann vor der Aktion sein (Freigabe), nach der Aktion (Stichprobe) oder dazwischen (Korrektur eines Zwischenergebnisses).
Der Mensch ist dabei kein Zuschauer. Eine Freigabe ohne Prüfung ist Show. Damit sie wirkt, braucht die Person Zeit, die nötigen Informationen im Blick und das Recht, den Vorschlag zu ändern oder zu verwerfen. Fehlt eine davon, lag die Entscheidung faktisch beim System, auch wenn jemand auf „OK“ geklickt hat.
Für den Mittelstand ist HITL ein naheliegendes Muster, weil es Geschwindigkeit und Verantwortung verbindet: Das System leistet die Vorarbeit, der Mensch übernimmt das Urteil.
Drei Einbindungsformen
| Form | Wann der Mensch eingreift | Geeignet für |
|---|---|---|
| Freigabe vorab | Vor jeder Wirkung nach außen | Antworten an Kunden, Angebote, Zahlungen |
| Prüfung bei Abweichung | Wenn das System unsicher ist oder eine Regel greift | Routinevorgänge mit seltenen Sonderfällen |
| Stichprobe nachträglich | Regelmäßig an einem Ausschnitt der Fälle | Gut eingespielte Vorgänge mit niedrigem Risiko |
Die Form ist keine Dauerentscheidung. Wir beginnen mit Freigabe vorab und lockern erst, wenn die Qualität nachweislich trägt. Zahlen dazu erheben Sie selbst, siehe Übergabequote.
Beispiel (Reklamation im Handel)
Fiktives Beispiel, kein Kundenfall.
- ErkennenDas System erkennt in einer Mail eine Reklamation und holt Bestelldaten und Fotos.
- VorbereitenEs entwirft eine Antwort und einen Vorschlag für den Ablauf, etwa Austausch oder Gutschrift.
- FreigebenEine Mitarbeiterin sieht Entwurf, Daten und Begründung, ändert den Vorschlag und entscheidet über die Kulanz.
- SendenErst nach der Freigabe geht die Antwort an den Kunden. Der Vorgang bleibt dokumentiert.
Das System spart das Zusammensuchen und Formulieren. Die Entscheidung bleibt bei der Person, die das Geschäft kennt und dafür geradesteht.
Der Gewinn liegt in der Aufteilung: Zusammensuchen und Formulieren übernimmt das System, Abwägen und Entscheiden übernimmt die Person. Damit die Freigabe nicht zur Formsache wird, sollte der Entwurf die relevanten Unterlagen und den Grund für den Vorschlag zeigen.
Rechtlicher Hintergrund
Nach Art. 22 DSGVO haben Betroffene das Recht, nicht einer ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Erstattungen, Kündigungen oder Ablehnungen sind Kandidaten. Deshalb bauen wir Agenten so, dass sie vorbereiten und vorschlagen, und ein Mensch gibt frei.
Eine pro-forma-Freigabe genügt dafür nicht. Eine Person muss die Entscheidung tatsächlich beurteilen können. Ob in Ihrem Fall eine ausschließlich automatisierte Entscheidung vorliegt, ist eine Rechtsfrage, die Sie im Einzelfall fachkundig klären sollten. Siehe Automatisierte Entscheidung.
Dokumentieren Sie deshalb kurz, worauf sich die Freigabe stützte, damit die Entscheidung später nachvollziehbar bleibt und die Beurteilung durch die Person erkennbar ist.
Die Rolle des Menschen: Prüfer, Entscheider, Lehrer
Menschen im Ablauf übernehmen drei Aufgaben, die sich im Alltag vermischen. Als Prüfer fangen sie Fehler ab, bevor etwas den Betrieb verlässt. Als Entscheider treffen sie Urteile, die das System nicht treffen darf, etwa zu Kulanz oder Haftung. Als Lehrer verbessern sie das System: Jede Korrektur zeigt, wo die Regeln unscharf sind oder die Unterlagen fehlen.
Die dritte Rolle wird vergessen. Wer Korrekturen nur ausführt und nicht zurückmeldet, hält das System auf dem Stand des ersten Tages. Wir richten deshalb einen kurzen Rückmeldeweg ein, etwa ein Feld „Warum geändert?“, und werten die Einträge im Betrieb aus.
Planen Sie dafür kleine, feste Zeitfenster. Eine Viertelstunde pro Woche, in der das Team die auffälligsten Korrekturen durchgeht, bringt mehr als eine große Überarbeitung nach Monaten. So wächst aus dem Ablauf mit Freigaben ein lernendes Zusammenspiel, in dem die Verantwortung eindeutig bleibt.
Als Lehrer hilft der Mensch dem System, indem er Korrekturen begründet festhält. Eine Änderung mit Begründung ist wertvoller als eine stillschweigende, weil daraus eine Regel oder ein Testfall werden kann.
Grenzen und typische Fallen
- Bestätigungsmüdigkeit. Wer hundert Entwürfe am Stück freigibt, liest irgendwann nicht mehr. Priorisieren Sie nach Risiko und führen Sie Stichproben ein.
- Zeitdruck. Wird die Freigabe zur Hürde, wird sie umgangen. Planen Sie Kapazität dafür ein.
- Unklare Zuständigkeit. Jede Freigabe braucht eine benannte Rolle und eine Vertretung.
- Fehlende Information. Zeigen Sie dem Menschen, worauf das System seinen Vorschlag stützt, sonst bleibt nur Vertrauen oder Misstrauen.
So setzen wir es um
Vor dem Start legen wir pro Vorgangsart fest, wer freigibt, welche Fälle immer beim Menschen landen und wie die Übergabe aussieht. Dieser Schritt ist Teil des Piloten und steht in der Praxis auf einer Seite. Die Regeln dazu beschreibt Eskalationsregel, die Übergabe selbst Übergabe an Menschen. Unseren Rahmen für Transparenz finden Sie unter KI-Transparenz.
Außerdem bestimmen wir, wie Freigaben dokumentiert werden und wer bei Abwesenheit einspringt, damit kein Fall liegen bleibt.
Weitere Fragen aus der Praxis
Reicht es, wenn ein Mensch nur Stichproben zieht?
Bei Routinefällen mit geringem Risiko kann das genügen. Bei Entscheidungen, die für Personen erhebliche Folgen haben, nicht. Dort ist die Beurteilung vor Wirkung der Maßstab, nicht die nachträgliche Kontrolle.
Häufige Fragen
Ist Human in the Loop gesetzlich vorgeschrieben?
Für Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung gegenüber Personen gilt Art. 22 DSGVO. Eine pauschale Pflicht für jeden KI-Einsatz gibt es nicht. Wir setzen Freigaben trotzdem bei allen heiklen Schritten an.
Verlangsamt die Freigabe nicht alles?
Sie kostet Zeit, aber weniger als das Erstellen. Ein Entwurf mit Begründung ist in einem Blick geprüft. Wo das Risiko gering ist, genügt später die Stichprobe.
Wer sollte freigeben?
Eine Person, die den Vorgang fachlich versteht und dafür geradestehen darf. Das kann je Vorgangsart eine andere Rolle sein.
Kann man die Freigabe später weglassen?
Für risikoarme Routinefälle ja, wenn Stichproben die Qualität belegen. Für Entscheidungen mit Wirkung auf Personen bleibt ein Mensch beteiligt.
Wie dokumentiere ich die Freigabe?
Im Vorgang selbst: wer hat wann freigegeben, was wurde geändert und warum. Diese Spur hilft bei Rückfragen von Kunden, bei der Qualitätskontrolle und bei der Verbesserung der Regeln. Wir richten sie als Teil der Protokollierung ein.
Quellen und rechtlicher Rahmen
- DSGVO, Art. 22 (automatisierte Entscheidungen): Betroffene haben das Recht, nicht einer ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. (abgerufen 21. Oktober 2026)
Die Zusammenfassungen sind sinngemäß; maßgeblich sind die verlinkten Originaltexte. Das ist ein allgemeiner Überblick zu Ihrem Umfeld, keine Rechtsberatung und keine Aussage zu Ihrem Einzelfall.
Autor: Melvin Mümken, Gründer & Technischer Leiter. Stand: 22.10.2026. Die Hinweise sind ein allgemeiner Überblick und keine Rechtsberatung.