Der EU AI Act gehört jetzt zur Umsetzungsplanung europäischer Unternehmen. Ein kleines Unternehmen beginnt nicht mit einer allgemeinen KI-Richtlinie. Es bildet ab, wer das System kontrolliert, was der Workflow tut, wer die Ausgabe sieht, wo eine Person eingreifen muss und was protokolliert wird. Dieser Leitfaden macht daraus praktische Fragen und ersetzt keine Rechtsberatung.
Die Prüfung nach dem EU AI Act beginnt mit dem Workflow: Wer kontrolliert das KI-System, was darf es tun, wer sieht die Ausgabe, wo muss ein Mensch eingreifen und welche Nachweise bleiben nach einer Aktion erhalten?
Diese Fragen bestimmen, ob das Unternehmen Transparenzpflichten nach Artikel 50, Kontrollen für Hochrisiko-Betreiber, Anbieteranweisungen oder fachliche Beratung prüfen muss. Dieser Leitfaden macht daraus eine Umsetzungskarte. Er bestimmt keine rechtliche Einstufung und ist keine Rechtsberatung.
Die grundlegende Unterscheidung zwischen KI-Modell, KI-Agent und Geschäftsworkflow erklärt was ein KI-Agent ist. Dieser Leitfaden konzentriert sich auf die EU-Umsetzungsfragen, die folgen, sobald ein Workflow real ist.
Wie beginnen Sie mit Workflow und Rolle?
Eine Prüfung nach dem EU AI Act beginnt mit dem System und der Beziehung des Unternehmens zu diesem System. „Wir nutzen KI“ ist zu allgemein, um den nächsten Schritt zu bestimmen.
Die FAQ der Europäischen Kommission zu Artikel 50 definiert einen Betreiber als natürliche oder juristische Person, Behörde, Agentur oder andere Stelle, die ein KI-System unter ihrer Verantwortung nutzt, ausgenommen persönliche nicht berufliche Nutzung. Ein Freelancer, der ein KI-System regelmäßig beruflich verwendet, ist nach dieser Definition Betreiber. Eine juristische Person bleibt Betreiber, wenn Auftragnehmer das System in ihrem Auftrag und unter ihrer Verantwortung und Kontrolle betreiben.
Die Rollenaufnahme sollte festhalten:
| Aufnahmefrage | Zu dokumentierender Nachweis | Warum das wichtig ist |
|---|---|---|
| Wer betreibt das System? | Unternehmen, Team, Auftragnehmer oder Anbieterbeziehung | Trennt private Erprobung von beruflichem Einsatz |
| Unter wessen Verantwortung läuft das System? | Kontoinhaber, Vertrag, Umgebung und Berechtigungen | Zeigt die operative Verantwortung |
| Welchen Workflow unterstützt das System? | Auslöser, Eingaben, Schritte, Ausgaben und Verantwortlicher | Verhindert, dass ein allgemeines Systemlabel den konkreten Einsatz verdeckt |
| Wer sieht oder erhält die Ausgabe? | Mitarbeitende, Kunden, Bewerber, Lieferanten oder Öffentlichkeit | Bestimmt die Fragen zu Transparenz und Risiko |
| Was darf das System tun? | Lesen, Entwerfen, Weiterleiten, Schreiben, Senden, Löschen oder Freigeben | Definiert die Aktionsgrenze und mögliche Schäden |
| Was geschieht bei geringer Sicherheit? | Prüfung, Eskalation, Pause oder Fallback | Macht Kontrolle praktisch statt nur programmatisch |
Die Karte sollte die bereits genutzten Tools nennen. Ein Workflow, der Gmail liest, einen CRM-Datensatz prüft, in Notion schreibt und eine Slack-Benachrichtigung vorbereitet, hat eine andere Risikofläche als ein System, das eine private Frage im Chat beantwortet. Der Modellname beschreibt das System nicht allein.
Der bestehende Owner KI-Agent-Governance erklärt Berechtigungen, Änderungssteuerung, Fehlerprüfung, Umfang und Audit-Logs. Dieser Leitfaden ergänzt die europäischen Rollen- und Quellenfragen, die vor dem Kontrolldesign beantwortet werden sollten.
Welche Transparenzfragen erzeugt Artikel 50?
Artikel 50 enthält bestimmte Transparenzpflichten. Er ist keine pauschale Regel, nach der jedes interne KI-Dokument gekennzeichnet werden muss.
Die Europäische Kommission veröffentlichte ihre Leitlinien zu Artikel 50 am 20. Juli 2026. Die Kommission erklärt, dass die Transparenzpflichten ab dem 2. August 2026 gelten. Der AI Act Service Desk und die FAQ der Kommission beschreiben mehrere Situationen: direkte Interaktion einer Person mit einem KI-System, bestimmte erzeugte oder manipulierte Inhalte sowie bestimmte Nutzungen durch Betreiber bei biometrischer Kategorisierung oder Emotionserkennung.
Das erste belastbare Compliance-Artefakt ist eine konkrete Workflow-Karte.
Die Aufnahme zu Artikel 50 sollte fragen:
- Interagiert eine natürliche Person direkt mit dem System?
- Wird das System bei der ersten Interaktion oder Darstellung klar als KI gekennzeichnet?
- Erzeugt oder manipuliert das System Audio, Bilder, Video oder Text?
- Wird der Inhalt veröffentlicht, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren?
- Handelt es sich um einen Deepfake oder eine andere künstlich erzeugte Ausgabe?
- Gilt eine Ausnahme, etwa menschliche Prüfung und redaktionelle Verantwortung?
- Liegt die Pflicht beim Anbieter, beim Betreiber oder bei beiden?
- Welcher Nachweis zeigt, wie das Unternehmen die Pflicht erfüllt hat?
Die Antwort hängt vom konkreten Workflow ab. Ein privater interner Entwurf ist nicht dasselbe wie ein öffentlicher Artikel. Ein kundenorientierter Agent ist nicht dasselbe wie ein Hintergrund-Klassifikationsschritt. Ein erzeugtes Bild ist nicht dasselbe wie eine Tabellenformel. Der offizielle Text und die aktuellen Leitlinien müssen auf die Tatsachen angewendet werden.
Die Seite des AI Act Service Desk zu Artikel 50 enthält einen wichtigen Hinweis. Dort steht ein Digital-Omnibus-Hinweis, nach dem der angezeigte Text noch nicht an diese Änderungen angepasst wurde. Die Seite verortet die Vorschrift und ihre Struktur. Sie erlaubt keine undatierte rechtliche Schlussfolgerung.
Die Leitlinien der Kommission zu Artikel 50 und die FAQ zu Artikel 50 sind der aktuelle praktische Ausgangspunkt. Die veröffentlichte Seite zeigt das Abrufdatum, verlinkt auf den offiziellen Text und markiert Punkte, die erneut geprüft werden müssen.
Welche Kontrollebene gilt für Hochrisiko-Betreiber?
Pflichten für Betreiber von Hochrisiko-Systemen sind nicht mit den Transparenzfragen aus Artikel 50 gleichzusetzen. Der Workflow muss zuerst klären, ob die relevanten Hochrisiko-Bestimmungen gelten.
Die Zusammenfassung des AI Act Service Desk zu Artikel 26 beschreibt Pflichten wie die Nutzung nach Anleitung, kompetente menschliche Aufsicht, Überwachung, Verantwortung für Eingabedaten sowie den Umgang mit Risiken und Vorfällen. Die Seite erklärt außerdem, dass ihre Zusammenfassung nicht rechtsverbindlich ist. Die endgültige Rechtsgrundlage muss deshalb den aktuellen offiziellen Text und die Leitlinien verwenden.
Die Aufnahme zu Artikel 26 sollte festhalten:
| Kontrollfrage | Praktischer Nachweis |
|---|---|
| Wer übt kompetente menschliche Aufsicht aus? | Person, Befugnis, Schulung und Prüfpunkt |
| Welche Anweisungen gelten? | Anbieterdokumentation, freigegebener Zweck und lokale Workflow-Regeln |
| Welche Eingabedaten kontrolliert der Betreiber? | Quellsysteme, Datenverantwortung, Relevanzprüfung und Zugriffsschranke |
| Wie wird der Betrieb überwacht? | Qualitätsstichprobe, Vorfallsignal, Prüfintervall und Verantwortlicher |
| Was geschieht bei einem Risiko? | Pausenkriterium, Meldung an den Anbieter, Behördenweg und interne Eskalation |
| Was wird protokolliert? | Kontext von Eingabe und Ausgabe, Tool-Aktion, Freigabe, Änderung, Fehler und Zeitpunkt |
| Wer ist am Arbeitsplatz betroffen? | Information von Beschäftigten, Vertretung oder arbeitsrechtliche Prüfung, falls relevant |
Der Owner Wie Sie die Kontrolle über einen KI-Agenten behalten behandelt den praktischen Unterschied zwischen Berechtigungen, Freigaben und Autonomie. Die EU-AI-Act-Aufnahme ersetzt dieses Design nicht. Sie gibt dem Design eine aktuelle rechtliche Frage vor.
Menschliche Aufsicht bedeutet nicht, dass eine Person jede Ausgabe kurz ansieht, während das System undurchsichtig bleibt. Die Person braucht Kompetenz, Befugnis, Unterstützung und die nötigen Informationen, um einzugreifen. Eine Prüftaste nach einer nicht rückgängig zu machenden Aktion ist keine wirksame Aufsicht.
Dasselbe gilt für Überwachung. Ein grüner Prozessstatus beweist nicht, dass die Ausgabe richtig ist. Das Team sollte eine Ausgangsmessung definieren, Ausgaben prüfen, manuelle Korrekturen protokollieren und bei einem schweren Fehler pausieren. Funktioniert Ihr KI-Agent tatsächlich? erklärt den Unterschied zwischen einem laufenden Agenten und einer akzeptablen Ausgabequalität.
Wie übersetzen Sie Rechtssprache in Umsetzungskontrollen?
Rechtstext wird für einen Betreiber umsetzbar, wenn jede relevante Frage eine verantwortliche Person, eine Kontrolle und einen Nachweis besitzt.
Eine Richtlinie kann sagen „Nutzen Sie KI verantwortungsvoll“. Eine Betreiberkarte zeigt, wer handeln darf, worauf das System zugreifen darf, was ein Mensch prüfen muss und was protokolliert wird.
Die Umsetzungskarte sollte Quellenfragen mit dem realen Workflow verbinden:
- Verantwortung festlegen. Juristische Person, Anbieterbeziehung, Kontoinhaber, Umgebung und Aufgaben von Auftragnehmern dokumentieren.
- Workflow festlegen. Auslöser, Systeme, Eingaben, Schritte, Ausgaben und gewünschtes Ergebnis beschreiben.
- Aktionsgrenze festlegen. Lesen, Entwerfen, Weiterleiten, Schreiben, Senden, Löschen und Freigeben trennen. Nur die nötigen Berechtigungen vergeben.
- Menschlichen Prüfpunkt festlegen. Person, Sichtbarkeit, Befugnis und Aktionen nennen, die immer auf Freigabe warten.
- Nachweise festlegen. Quelldokumentation, Konfiguration, Testfälle, Freigaben, Änderungen, Ausnahmen und Vorfälle aufbewahren.
- Stop-Regel festlegen. Definieren, wann der Workflow pausiert, wer informiert wird und wie das Team vor dem Neustart prüft.
Hier unterscheidet sich Implementierungsarbeit von einer PDF-Richtlinie. Wenn ein Agent keine externe Nachricht senden darf, bevor eine Person sie freigegeben hat, muss der Integrationspfad das Senden blockieren. Die Grenze darf nicht nur in einem Prompt oder im Gedächtnis eines Mitarbeiters stehen.
Die Kontrollkarte sollte die vorhandenen Tools abdecken. Gmail braucht eine Zugriffsschranke. Ein CRM braucht Feld- und Schreibregeln. Slack braucht Kanal- und Empfängerregeln. Notion braucht eine Arbeitsbereichsgrenze. Der Modellanbieter braucht eine Prüfung von Daten und Aufbewahrung. Jede Kontrolle sollte beantworten, was das System tun darf und wer den Umfang ändern darf.
Auch der Fehlerweg gehört in die Karte. Eine unklare Kundenanfrage, ein fehlender CRM-Datensatz, ein doppelter Schreibvorgang oder eine unsichere Anweisung darf nicht als stiller Erfolg enden. Das System sollte die Ausnahme markieren, genügend Kontext für die Prüfung bewahren und die betroffene Aktion stoppen, wenn die Reichweite unklar ist.
Wann endet die Aufnahme?
Eine Umsetzungsaufnahme kann nicht jede Rechtsfrage beantworten. Ein guter Leitfaden benennt die Stopppunkte, statt Unsicherheit in einer Punktzahl zu verstecken.
Eine aktuelle rechtliche oder fachliche Prüfung ist nötig, wenn:
- der Workflow in einen Hochrisikobereich fallen könnte;
- das System Beschäftigung, Zugang zu wesentlichen Leistungen oder Rechte einer Person beeinflusst;
- das Unternehmen seine Rolle als Anbieter, Betreiber oder anderer Akteur nicht bestimmen kann;
- eine KI-Ausgabe veröffentlicht wird, um die Öffentlichkeit zu informieren;
- biometrische Kategorisierung oder Emotionserkennung beteiligt ist;
- Anweisungen des Anbieters dem geplanten Einsatz widersprechen;
- die Daten sensible personenbezogene Informationen oder unklare Herkunft enthalten;
- keine kompetente menschliche Aufsicht benannt werden kann;
- ein schwerer Vorfall oder ein erhebliches Risiko aufgetreten ist;
- sich offizieller Text oder Leitlinien geändert haben.
Der Leitfaden sagt einem Gründer nicht, dass eine niedrige Punktzahl „compliant“ bedeutet. Eine schlanke Aufnahme zeigt, was das Projekt weiß, was geprüft werden muss und wo eine andere Fachperson entscheiden sollte.
Der Owner Was Freigabeworkflows in einem KI-Agentensystem tun erklärt, wie eine Aktion auf eine menschliche Entscheidung warten kann. Für die Mechanik von Freigaben verweist die Umsetzung auf diesen Owner und kehrt für die rechtliche Reichweite zur offiziellen Quelle zurück. Interne Links sollen Zuständigkeiten klären und keine Kette allgemeiner Verweise schaffen.
Wie halten Sie die Karte aktuell?
Die EU-AI-Act-Karte ist eine gepflegte Projektakte und keine einmalige Checkliste.
Diese Felder bleiben sichtbar:
- Veröffentlichungsdatum;
- Datum der letzten Quellenprüfung;
- geprüfte offizielle Quellen;
- behandelten Workflow-Umfang;
- sichtbare Grenze zur Rechtsberatung;
- Verantwortliche Person für die Quellenprüfung;
- Ereignisse, die eine Aktualisierung auslösen.
Die Karte sollte aktualisiert werden, wenn die Kommission neue Leitlinien veröffentlicht, das AI Office eine Auslegung ändert, die Verordnung geändert wird, der Anbieter seine Anweisungen ändert oder das Unternehmen den Workflow verändert. Ein neues Modell ist nicht der einzige Prüfgrund. Eine neue Integration, ein neues Ausgabeziel, eine neue Datenquelle oder ein neuer Freigabepfad kann die operative Frage ändern.
Die aktuelle Rahmen-Seite der Kommission nennt den 2. August 2026 als Beginn der Anwendbarkeit des AI Act. Dort stehen außerdem der Beginn der Transparenzregeln nach Artikel 50 an diesem Datum sowie Übergangsfristen für Hochrisiko-Anwendungsfälle in sensiblen Bereichen ab dem 2. Dezember 2027 und für Hochrisiko-Systeme in regulierten Produkten ab dem 2. August 2028 nach dem AI Omnibus. Die Leitlinien zu Artikel 50 wurden am 20. Juli 2026 veröffentlicht. Diese Daten gehören in die Forschungsakte und nicht in einen undatierten, dauerhaft wirkenden Satz.
Ein Implementierungspartner bildet Systeme, Berechtigungen, Freigaben, Protokolle und Tests ab. Ein Partner kann eine allgemeine Checkliste nicht in Rechtssicherheit verwandeln. Die verantwortliche Reihenfolge lautet: Quellen prüfen, Workflow abbilden, Kontrollen gestalten, bei Bedarf Fachleute einbeziehen und kontrolliert starten.
Häufig gestellte Fragen
Was ist ein Betreiber nach dem EU AI Act?
Ein Betreiber ist eine natürliche oder juristische Person, Behörde, Agentur oder andere Stelle, die ein KI-System unter ihrer Verantwortung für eine berufliche Tätigkeit nutzt. Die konkreten Pflichten hängen vom System, der Nutzung, der Rolle und dem anwendbaren Teil des Gesetzes ab.
Wird ein kleines Unternehmen durch die Nutzung eines KI-Agenten zum Anbieter?
Die Nutzung eines KI-Systems unter der Verantwortung eines Unternehmens wirft Betreiberfragen auf. Die Nutzung macht ein Unternehmen jedoch nicht automatisch zum Anbieter. Die Rollen hängen vom System, den Tatsachen und der Art des Einsatzes ab.
Gilt Artikel 50 für jedes intern erzeugte KI-Dokument?
Nein. Artikel 50 betrifft bestimmte Situationen mit direkter Interaktion, bestimmten erzeugten oder manipulierten Inhalten und bestimmten Nutzungen durch Betreiber. Der aktuelle offizielle Text und die Leitlinien müssen auf den Workflow angewendet werden.
Ist eine Checkliste zum EU AI Act eine Rechtsberatung?
Nein. Eine Checkliste ordnet Umsetzungsfragen und Nachweise. Sie bestimmt keine rechtliche Einstufung und ersetzt weder offizielle Quellen noch qualifizierte Rechtsberatung.
Quellen
- Europäische Kommission, Rahmen für den AI Act, abgerufen am 10. August 2026, zuletzt aktualisiert am 3. August 2026. Für Anwendungszeitplan, Risikorahmen, Übergangsfristen und Umsetzungskontext.
- Europäische Kommission, Leitlinien zu Transparenzpflichten, veröffentlicht am 20. Juli 2026. Für Umfang und Beginn der Artikel-50-Pflichten.
- Europäische Kommission, FAQ zu Artikel 50, abgerufen am 10. August 2026. Für Anbieter- und Betreiberdefinitionen sowie praktische Fragen.
- AI Act Service Desk, Artikel 26, abgerufen am 10. August 2026. Für die Zusammenfassung der Betreiberpflichten und den Abgleich mit dem offiziellen Text.
- AI Act Service Desk, Artikel 50, abgerufen am 10. August 2026. Für Struktur, Transparenzsituationen, Ausnahmen und den Digital-Omnibus-Hinweis.
- Entscheidungskarte, Beispiele, Umsetzungskontrollen und Eskalationsgrenzen in diesem Entwurf sind YardWork-Arbeitsergebnisse. Sie sind zur Information bestimmt und dürfen nicht als Rechtsberatung oder Zertifizierung dargestellt werden.