Glossar
Automatisierte Entscheidung:
wo die Maschine nicht allein urteilen darf.
Eine Maschine darf vorbereiten, vorschlagen und sortieren. Wo ihr Ergebnis Menschen rechtlich oder ähnlich erheblich trifft, soll eine Person tatsächlich entscheiden.
Kurz gesagtNach Art. 22 DSGVO haben Betroffene das Recht, nicht einer ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Deshalb bereiten unsere Agenten vor, und ein Mensch gibt Erstattungen, Kündigungen und Ablehnungen frei.
Was Art. 22 DSGVO sagt
Der Artikel enthält ein Recht der betroffenen Person: Sie muss nicht hinnehmen, dass eine ausschließlich automatisierte Entscheidung über sie fällt, wenn diese ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Entscheidend sind drei Merkmale. Die Entscheidung muss ausschließlich automatisiert sein, sie muss eine Wirkung haben, und sie muss eine Person betreffen.
Typische Beispiele aus dem Betrieb sind eine Kündigung, die Ablehnung eines Antrags, die Verweigerung einer Erstattung oder die automatische Sperre eines Zugangs. Die Beispiele sind keine Auslegung des Gesetzes, sondern Fallgruppen, die Sie sich anschauen sollten. Ob im Einzelfall eine Entscheidung im Sinne des Artikels vorliegt, ist eine Rechtsfrage.
Die praktische Konsequenz ist einfach zu formulieren: Wo ein System Entscheidungen dieser Art vorbereitet, soll ein Mensch die Entscheidung tatsächlich treffen. Diese Haltung setzen wir in jedem Agenten-Projekt um.
Praktisch legen wir vorab fest, welche Vorgänge Entscheidungen mit Wirkung auf Personen berühren, und stellen sicher, dass diese Fälle immer bei einer Person landen.
Beispiel (Vorbereiten statt Entscheiden)
Fiktives Beispiel, kein Kundenfall.
| Fall | Agent darf | Mensch entscheidet |
|---|---|---|
| Rückgabeantrag | Bestellung und Frist prüfen, Formular vorbereiten | Annahme oder Ablehnung |
| Reklamation | Fall zusammenfassen, Belege ordnen | Kulanz, Austausch, Erstattung |
| Vertragskündigung | Daten zusammenstellen, Bestätigungsentwurf anlegen | Annahme und Versand |
| Zahlungsverzug | Offene Posten listen, Erinnerung vorbereiten | Mahnung, Sperrung, Inkasso |
| Terminanfrage | Freie Zeiten prüfen, Vorschlag machen | Bestätigung, wenn Priorität zu klären ist |
In jeder Zeile erledigt der Agent die Vorarbeit und der Mensch trifft die Entscheidung. Damit das mehr ist als ein Klick, braucht die Person Zeit, die Informationen und die Befugnis, abzuweichen.
Wann eine Freigabe echt ist
- Information. Die Person sieht, worauf der Vorschlag beruht, nicht nur das Ergebnis.
- Zeit. Das Arbeitspensum erlaubt eine Prüfung. Wer hundert Vorschläge pro Stunde freigeben soll, prüft nicht.
- Befugnis. Die Person darf den Vorschlag ändern oder verwerfen, ohne sich rechtfertigen zu müssen.
- Kompetenz. Sie versteht den Vorgang fachlich. Siehe Human in the Loop.
- Nachvollziehbarkeit. Die Freigabe wird mit Datum, Person und etwaigen Änderungen festgehalten, siehe Protokollierung.
Eine Freigabe, die nur formal erfolgt, kann den Zweck des Artikels verfehlen. Wir empfehlen deshalb, die Freigabe so zu gestalten, dass die Person tatsächlich urteilt, und Stichproben einzuführen, die Muster aufspüren.
Als Prüfstein dient eine einfache Frage an die Person, die freigibt: Könnte sie die Entscheidung auch anders treffen, und hat sie dafür die nötigen Unterlagen vor sich? Wenn ja, ist die Freigabe mehr als eine Unterschrift.
Abgrenzung
- Unterstützende Systeme: Ein System, das lediglich Informationen aufbereitet, ist keine Entscheidung. Es kann dennoch den Menschen faktisch lenken, wenn dieser dem Vorschlag blind folgt.
- Entscheidungen ohne Personenbezug: Die Sortierung von Waren oder die Einordnung von Dokumenten betrifft keine Person und fällt nicht unter den Artikel.
- Entscheidungen ohne Wirkung: Ein Vorschlag, der keine rechtliche Folge und keine ähnlich erhebliche Beeinträchtigung hat, etwa eine Terminerinnerung, wirft die Frage anders auf.
- Transparenz: Der Hinweis, dass es ein KI-System ist, ist ein anderes Thema, siehe Transparenzpflicht.
Wie wir die Vorgabe umsetzen
- Fallarten benennenGemeinsam listen wir die Vorgänge auf, die Personen betreffen können, und stufen sie ein.
- Regeln festlegenFür diese Fallarten gilt: Agent bereitet vor, Mensch entscheidet. Das steht in der Eskalationsregel.
- Technisch absichernDer Agent erhält keine Rechte, solche Entscheidungen auszulösen.
- PrüfenStichproben zeigen, ob die Freigabe in der Praxis trägt.
Mehr dazu: Eskalationsregel, Übergabe an Menschen und die Seite KI-Transparenz.
Warum der Hinweis auf „ausschließlich“ so wichtig ist
Das Wort „ausschließlich“ entscheidet über die praktische Gestaltung. Bezieht ein Mensch das Ergebnis eines Systems nur zur Kenntnis, ohne es zu beurteilen, kann man von einer automatisierten Entscheidung sprechen, auch wenn am Ende eine Person das Wort „Freigabe“ anklickt. Echte Beteiligung bedeutet, dass die Person den Fall würdigt, abweichen kann und das auch tut, wenn es angezeigt ist.
Aus Sicht eines Betriebs lohnt es sich deshalb, die Beteiligung bewusst zu gestalten. Zeigen Sie dem Menschen die Begründung des Vorschlags, die zugrunde liegenden Daten und mögliche Alternativen. Planen Sie realistische Bearbeitungszeiten ein. Fragen Sie das Team gelegentlich, wie oft Vorschläge geändert werden. Wird nie etwas geändert, ist das ein Warnzeichen, nicht ein Erfolg, denn entweder ist das System außergewöhnlich gut, oder die Prüfung findet nicht statt.
Und dokumentieren Sie die Gründe für abweichende Entscheidungen. Sie zeigen, dass die Person urteilt, und liefern zugleich Material, um die Regeln des Systems zu verbessern. Diese Dokumentation ist keine bürokratische Pflicht aus dem Artikel, sondern ein praktisches Mittel, die Anforderung ernsthaft zu erfüllen.
Grenzen dieser Darstellung
Der Artikel ist kurz, seine Auslegung nicht. Fragen wie die, wann eine Entscheidung noch als ausschließlich automatisiert gilt oder welche Ausnahmen es gibt, beantworten wir hier nicht. Wir fassen zusammen, was wir im Originaltext gelesen haben, und verweisen darauf. Für Ihren Einzelfall holen Sie fachkundigen Rat ein, vor allem, wenn Ihr System über Anträge, Verträge oder Leistungen entscheidet.
Häufige Fragen
Darf mein Agent Rechnungen freigeben?
Eine Zahlungsfreigabe betrifft Ihr Unternehmen und nicht unmittelbar eine betroffene Person. Trotzdem bleibt die Freigabe bei uns beim Menschen, weil Fehler Folgen haben. Der Agent bereitet vor.
Reicht es, wenn ein Mensch den Vorschlag abnickt?
Nur, wenn er ihn tatsächlich beurteilen kann: Information, Zeit und Befugnis müssen vorhanden sein. Ein bloßes Abnicken kann dem Zweck der Vorschrift nicht genügen. Im Zweifel holen Sie rechtlichen Rat ein.
Gilt das nur für KI?
Der Artikel spricht von automatisierter Verarbeitung allgemein. KI ist ein Anwendungsfall, aber nicht der einzige.
Muss ich Kunden sagen, dass ein Mensch entscheidet?
Das ist keine Frage dieses Artikels. Transparenz ist sinnvoll: Sagen Sie, dass ein Mitarbeitender den Fall prüft und bis wann mit einer Antwort zu rechnen ist.
Wie erkenne ich, ob mein System unter Art. 22 fällt?
Prüfen Sie drei Fragen: Entscheidet das System allein, ohne echte menschliche Beurteilung? Hat die Entscheidung rechtliche oder ähnlich erhebliche Wirkung? Betrifft sie eine Person? Treffen alle drei zu, holen Sie rechtlichen Rat ein. Unsere Agenten sind so gebaut, dass sie nicht allein entscheiden.
Quellen und rechtlicher Rahmen
- DSGVO, Art. 22 (automatisierte Entscheidungen): Betroffene haben das Recht, nicht einer ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. (abgerufen 21. Oktober 2026)
Die Zusammenfassungen sind sinngemäß; maßgeblich sind die verlinkten Originaltexte. Das ist ein allgemeiner Überblick zu Ihrem Umfeld, keine Rechtsberatung und keine Aussage zu Ihrem Einzelfall.
Autor: Melvin Mümken, Gründer & Technischer Leiter. Stand: 22.10.2026. Die Hinweise sind ein allgemeiner Überblick und keine Rechtsberatung.