Transparenz
Wer digitale Mitarbeiter einsetzt, schuldet Kunden und Beschäftigten Klarheit: Was macht ein System, wer gibt frei, wo liegen die Daten? Diese Seite beschreibt den rechtlichen Rahmen und unsere Arbeitsweise.
Kurz gesagtWo ein KI-System direkt mit Personen kommuniziert, müssen diese erfahren, dass es KI ist, außer es ist offensichtlich (Art. 50 Abs. 1 KI-Verordnung, seit 2. August 2026). Bei uns bleiben heikle Entscheidungen bei Menschen, Beispiele sind als Beispiel gekennzeichnet, und die Kennzeichnung legen wir vor dem Start eines Projekts fest.
Die Verordnung (EU) 2024/1689 gilt in Stufen. Für die Transparenz sind vier Punkte wichtig.
Anbieter müssen KI-Systeme, die direkt mit natürlichen Personen interagieren, so gestalten, dass diese informiert werden, dass sie mit einem KI-System sprechen. Das gilt nicht, wenn es aus den Umständen für eine angemessen informierte, aufmerksame Person offensichtlich ist (Art. 50 Abs. 1). Der Artikel gilt seit dem 2. August 2026.
Art. 50 Abs. 2 betrifft Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen. Für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, gilt nach der Digital-Omnibus-Verordnung (EU) 2026/1744 eine Übergangsfrist bis zum 2. Dezember 2026.
Anbieter und Betreiber ergreifen Maßnahmen, um die KI-Kompetenz ihres Personals zu unterstützen (Art. 4). Eine Pflicht, ein bestimmtes Kompetenzniveau zu garantieren, besteht nicht. Die frühere, strengere Formulierung ist ersetzt.
Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten ab dem 2. Dezember 2027, nach Anhang I ab dem 2. August 2028. Die meisten Büro- und Support-Abläufe, um die es bei uns geht, sind keine Hochrisiko-Systeme. Das prüfen wir je Projekt.
Anbieter und Betreiber sind unterschiedliche Rollen. Die Hinweispflicht in Art. 50 Abs. 1 richtet sich an den Anbieter des Systems. Wer ein System für seine Kunden einsetzt, sollte die Kennzeichnung trotzdem von Anfang an mitplanen, weil sie in der Oberfläche sichtbar sein muss.
Neben der KI-Verordnung gilt die DSGVO. Zwei Artikel kommen in Agenten-Projekten häufig vor.
Art. 28 DSGVO (Auftragsverarbeiter). Verarbeitet ein Dienstleister personenbezogene Daten im Auftrag, arbeitet der Verantwortliche nur mit Auftragsverarbeitern, die hinreichende Garantien für geeignete technische und organisatorische Maßnahmen bieten. Die Verarbeitung folgt einem Vertrag, der unter anderem Gegenstand, Dauer, Art und Zweck der Verarbeitung festlegt. Bei uns ist das der Auftragsverarbeitungsvertrag (AVV), den wir vor dem Start abschließen.
Art. 22 DSGVO (automatisierte Entscheidungen). Betroffene haben das Recht, nicht einer ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Deshalb bauen wir Agenten so, dass sie vorbereiten und Vorschläge machen. Erstattungen, Kündigungen, Ablehnungen und andere Entscheidungen mit Wirkung für Personen gibt ein Mensch frei.
Zu den Daten gilt auf dieser Website bereits: Daten, die über die Business-API verarbeitet werden, werden nicht zu Trainingszwecken genutzt. Modell, Verarbeitungsort und Löschfristen halten wir pro Projekt im AVV fest.
Vor dem Start legen wir mit Ihnen fünf Punkte schriftlich fest. Das dauert in der Regel einen Termin und verhindert späteren Streit.
Diese Festlegung ist Teil des Piloten. Sie ersetzt keine Rechtsberatung. Für Branchen mit besonderen Pflichten, etwa Gesundheit, Recht oder Steuerberatung, lesen Sie die jeweilige Branchenseite. Dort stehen die einschlägigen Normen mit Quelle.
Fragen Sie in jedem Projekt nach vier Dingen: dem schriftlichen Ablauf mit Freigaben, dem AVV, der Liste der Daten, auf die der Agent zugreift, und dem Weg zur Übergabe an einen Menschen. Wenn eine dieser Antworten fehlt, ist das Projekt noch nicht startklar.
Eine Einführung in KI-Kompetenz für Ihr Team bieten wir als Workshop an. Praktische Begriffe finden Sie im Glossar, einen strukturierten Einstieg in der Checkliste.
Wenn ein KI-System direkt mit Personen interagiert, müssen diese informiert werden, dass es ein KI-System ist, außer das ist aus den Umständen offensichtlich (Art. 50 Abs. 1 KI-Verordnung, seit 2. August 2026). Die Pflicht trifft zunächst den Anbieter des Systems. Planen Sie den Hinweis trotzdem für Ihre Oberfläche mit ein.
Art. 50 Abs. 1 betrifft Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind. Ob ein internes Werkzeug darunter fällt, hängt vom Einzelfall ab. Das Gesetz nennt ausdrücklich die Ausnahme, wenn die KI-Nutzung offensichtlich ist.
Anbieter und Betreiber ergreifen Maßnahmen, um die KI-Kompetenz ihres Personals und anderer eingesetzter Personen zu unterstützen. Das richtet sich nach Vorwissen und Einsatzkontext. Ein bestimmtes Niveau muss niemand garantieren.
Nicht allein, wenn die Entscheidung rechtliche Wirkung hat oder Betroffene ähnlich erheblich beeinträchtigt (Art. 22 DSGVO). Unsere Agenten bereiten vor und schlagen vor, ein Mensch gibt frei.
Für Daten, die über die Business-API verarbeitet werden, nicht. Modell und Verarbeitungsort legen wir pro Projekt im Auftragsverarbeitungsvertrag fest.
Nein. Die Seite fasst Gesetzestexte zusammen und verweist auf die Originale. Für Ihren Einzelfall prüfen Sie die Quellen oder holen sich fachkundigen Rat.
Die Zusammenfassungen sind sinngemäß; maßgeblich sind die verlinkten Originaltexte. Das ist ein allgemeiner Überblick zu Ihrem Umfeld, keine Rechtsberatung und keine Aussage zu Ihrem Einzelfall.
Autor: Melvin Mümken, Gründer & Technischer Leiter. Stand: 21.10.2026. Die Hinweise sind ein allgemeiner Überblick und keine Rechtsberatung.
Im Entlastungs-Check wählen Sie Ihre Routineaufgaben, tragen Ihre Zahlen ein und sehen einen Planwert, wie viele Stunden Agenten in Ihrem Betrieb frei machen können. Der Wert ist eine Schätzung und keine Zusage.
Entlastungs-Check starten