KI in der Bewerberauswahl: Hochrisiko nach KI-Verordnung

KI zur Vorauswahl von Bewerbungen ist in Deutschland erlaubt, aber der Arbeitgeber haftet für das Ergebnis. Das AGG verbietet Benachteiligungen auch von Bewerberinnen und Bewerbern, die DSGVO beschränkt Absagen, die allein eine Maschine trifft, und ab dem 2. Dezember 2027 stuft die KI-Verordnung KI im Recruiting als Hochrisiko ein, mit Pflichten für die Arbeitgeber, die sie nutzen. Das Risiko ist gemessen: In einer Studie von 2024 bevorzugten KI-Modelle zur Sortierung von Lebensläufen in 85,1 % der Tests Namen, die mit weißen Personen assoziiert werden. Dieser Leitfaden zeigt, was gilt, welche Nutzung als Hochrisiko zählt und welche Vorkehrungen vor dem Einsatz nötig sind.

KI-Werkzeuge versprechen, Hunderte Bewerbungen in Minuten zu lesen und eine sortierte Vorauswahl zu liefern. Für eine kleine Personalabteilung ist das verlockend. Es verlagert aber den rechtlich heikelsten Schritt der Personalauswahl, die Entscheidung, wer in Betracht kommt, in eine Software, die der Arbeitgeber nicht gebaut hat und nicht vollständig einsehen kann.

Dieser Leitfaden zeigt, was AGG, DSGVO und KI-Verordnung von Arbeitgebern verlangen, die KI in der Bewerberauswahl nutzen, wo der Betriebsrat mitbestimmt, was unabhängige Tests zu Verzerrungen ergeben haben und welche Vorkehrungen zuerst nötig sind.

Ist KI in der Bewerberauswahl erlaubt?

Ja, aber der Arbeitgeber haftet für das Ergebnis. Das AGG verbietet Benachteiligungen wegen der ethnischen Herkunft, des Geschlechts, des Alters und weiterer Gründe, und als Beschäftigte gelten „auch die Bewerberinnen und Bewerber für ein Beschäftigungsverhältnis“.^[1][2] Die DSGVO beschränkt Entscheidungen, die „ausschließlich auf einer automatisierten Verarbeitung“ beruhen, und ab dem 2. Dezember 2027 stuft die KI-Verordnung KI, die Bewerbungen filtert, als Hochrisiko ein.^[6][7][11]

Keines dieser Gesetze verbietet die Werkzeuge. Sie legen die Verantwortung auf den Arbeitgeber, gleich welcher Anbieter die Software gebaut hat. Ein Werkzeug, das Bewerbungen sortiert, ist ein Auswahlverfahren wie ein Test oder ein Gespräch, und sein Ergebnis wird genauso beurteilt.

Die praktische Frage lautet deshalb nicht, ob KI erlaubt ist, sondern ob Sie zeigen können, dass das Werkzeug Bewerbende fair behandelt, dass ein Mensch entscheidet und dass Bewerbende informiert werden. Die folgenden Abschnitte behandeln jeden dieser Punkte.

Warum gilt KI im Recruiting nach der KI-Verordnung als Hochrisiko?

Die KI-Verordnung stuft KI im Recruiting als Hochrisiko ein, weil sie über den Zugang zu Arbeit mitentscheidet. Anhang III nennt KI-Systeme, die „für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten“.^[7] Nach dem Digital-Omnibus gelten die Pflichten für diese Systeme ab dem 2. Dezember 2027.^[11]

Die Verordnung kennt eine Ausnahme. Ein gelistetes System ist kein Hochrisiko-System, wenn es kein erhebliches Risiko birgt, etwa weil es nur eine eng gefasste Verfahrensaufgabe oder eine vorbereitende Aufgabe für eine menschliche Bewertung erfüllt.^[8] Die Ausnahme hat eine feste Grenze: Ein gelistetes System gilt immer als Hochrisiko, wenn es Profiling natürlicher Personen betreibt.^[8]

Die DSGVO versteht unter Profiling die automatisierte Bewertung persönlicher Aspekte, ausdrücklich auch die Analyse oder Vorhersage der Arbeitsleistung.^[6] Das Bewerten oder Sortieren von Bewerbenden fällt meist darunter, sodass die meisten Werkzeuge zur Bewerbervorauswahl als Hochrisiko gelten werden. Ein Werkzeug, das nur Daten und Stationen aus Lebensläufen in ein Formular überträgt, damit eine Person sie bewertet, hat bessere Chancen auf die Ausnahme.

Was müssen Arbeitgeber nach der KI-Verordnung tun?

Arbeitgeber, die Hochrisiko-KI im Recruiting nutzen, werden Betreiber mit eigenen Pflichten. Artikel 26 verlangt, das System nach der Gebrauchsanweisung zu nutzen, die menschliche Aufsicht Personen mit der nötigen Kompetenz, Ausbildung und Befugnis zu übertragen, die Protokolle mindestens sechs Monate aufzubewahren und die Personen zu informieren, über die das System entscheidet oder mitentscheidet.^[9] Betroffene können eine klare und aussagekräftige Erläuterung der Rolle der KI verlangen.^[10]

Die Pflichten setzen voraus, dass die Menschen, die das Werkzeug beaufsichtigen, es verstehen. Unser Leitfaden zur KI-Kompetenz nach Art. 4 KI-VO zeigt, was die Verordnung von den Beschäftigten erwartet, die KI nutzen. Die übrigen Betreiberpflichten behandelt unser Leitfaden zur KI-Verordnung für kleine Unternehmen.

Darf eine KI Bewerber nach der DSGVO allein ablehnen?

Nur unter engen Voraussetzungen. Nach Artikel 22 DSGVO hat eine Person das Recht, „nicht einer ausschließlich auf einer automatisierten Verarbeitung — einschließlich Profiling — beruhenden Entscheidung unterworfen zu werden“, die sie erheblich beeinträchtigt, und Erwägungsgrund 71 nennt „Online-Einstellungsverfahren ohne jegliches menschliche Eingreifen“ als Beispiel.^[6] Greift eine Ausnahme, etwa eine Einwilligung, behalten Bewerbende mindestens das Recht auf menschliches Eingreifen, auf Darlegung ihres Standpunkts und auf Anfechtung.^[6]

Die menschliche Prüfung muss echt sein. Wer bei jedem Bewerbenden, den das Werkzeug niedrig bewertet hat, auf „Absagen“ klickt, hat nichts entschieden; das Werkzeug hat es getan. Geben Sie den Prüfenden Zeit, die Bewerbung selbst und die Befugnis, jemanden nach oben zu setzen.

Die DSGVO verlangt außerdem, Bewerbende über automatisierte Entscheidungsfindung und die involvierte Logik zu informieren.^[6] Ein kurzer, verständlicher Hinweis im Bewerbungsprozess erfüllt diese Pflicht und die Informationspflicht der KI-Verordnung zugleich.

Was verlangt das AGG bei KI-gestützter Auswahl?

Das AGG gilt für ein KI-Werkzeug genauso wie für eine menschliche Auswahl. Beschäftigte, und damit auch Bewerbende, dürfen nicht wegen eines in § 1 genannten Grundes benachteiligt werden.^[3] Bei einem Verstoß muss der Arbeitgeber den Schaden ersetzen und eine angemessene Entschädigung zahlen; wäre die Person auch ohne Benachteiligung nicht eingestellt worden, darf die Entschädigung „drei Monatsgehälter nicht übersteigen“.^[4]

Die Beweislast macht KI hier riskant. Beweist eine Person Indizien, die eine Benachteiligung vermuten lassen, trägt der Arbeitgeber die Beweislast dafür, dass kein Verstoß vorlag.^[5] Ein Arbeitgeber, der nicht erklären kann, warum sein Werkzeug eine Bewerbung niedrig eingestuft hat, tut sich mit diesem Beweis schwer.

Das spricht für Werkzeuge, deren Kriterien Sie kennen und belegen können. Eine Rangliste ohne Begründung ist im Streitfall wenig wert; eine Zusammenfassung, die zeigt, welche Anforderung erfüllt ist und welche nicht, hilft der prüfenden Person und später auch vor Gericht.

Hat der Betriebsrat bei KI im Recruiting mitzubestimmen?

Ja, in mehreren Punkten. Auswahlrichtlinien für Einstellungen bedürfen nach § 95 BetrVG der Zustimmung des Betriebsrats, und Absatz 2a stellt klar, dass das auch gilt, wenn beim Aufstellen der Richtlinien KI zum Einsatz kommt.^[12] Ein Werkzeug, das feste Kriterien auf alle Bewerbungen anwendet, wirkt praktisch wie eine solche Richtlinie.

Hinzu kommt § 87 Abs. 1 Nr. 6 BetrVG, wenn ein Werkzeug Verhalten oder Leistung von Beschäftigten überwachen kann, etwa die Arbeit der Recruiter im System.^[14] Und vor dem Einsatz eines Hochrisiko-Systems am Arbeitsplatz verlangt die KI-Verordnung, den Betriebsrat zu informieren.^[9] Unser Leitfaden dazu, wann der Betriebsrat bei KI mitbestimmt, behandelt die Rechte im Einzelnen.

Wie voreingenommen sind KI-Systeme bei Lebensläufen?

Gemessene Modelle zeigten deutliche Verzerrungen. In einer Studie, die 2024 auf der Konferenz AAAI/ACM AI, Ethics, and Society erschien, ließen Forschende der University of Washington mehr als 500 öffentlich verfügbare Lebensläufe gegen 500 Stellenbeschreibungen durch KI-Modelle zur Dokumentensortierung laufen; die Modelle bevorzugten in 85,1 % der Fälle Namen, die mit weißen Personen assoziiert werden, und benachteiligten Schwarze Männer in bis zu 100 % der Vergleiche.^[13]

Das Forschungsteam veröffentlichte im August 2026 eine Korrektur, nachdem ein unabhängiges Team einen Programmierfehler gefunden hatte: Die Ergebnisse der Geschlechtervergleiche waren vertauscht. Die Ergebnisse zu Herkunft und zu Mehrfachmerkmalen waren nicht betroffen und wurden von einem Team der Universität Salzburg bestätigt.^[13] Die Studie testete Sortiermodelle in einem Forschungsaufbau, kein bestimmtes kommerzielles Produkt.

Für Arbeitgeber heißt das: Verzerrung in einem Auswahlmodell ist systematisch, nicht gelegentlich. Eine voreingenommene Person betrifft die Bewerbungen auf ihrem Tisch; ein verzerrtes Modell wendet dieselbe Schieflage auf jede Bewerbung an. Deshalb verlangt die KI-Verordnung repräsentative Eingabedaten und Überwachung, und deshalb gehört ein Test mit eigenen Daten zu den Vorkehrungen unten.^[9]

Gilt das auch für Stellenanzeigen und Terminvereinbarung?

Teilweise. Anhang III nennt KI, die „gezielte Stellenanzeigen“ schaltet, ausdrücklich als Hochrisiko; ein Werkzeug, das entscheidet, wer Ihre Anzeige sieht, fällt also darunter.^[7] Den Text einer Stellenanzeige mit einem KI-Chatbot zu entwerfen, gehört nicht dazu, weil dabei niemand ausgewählt oder bewertet wird.

Terminvereinbarung und Antworten auf Fragen zum Ablauf liegen näher an einer eng gefassten Verfahrensaufgabe, die aus der Hochrisiko-Einstufung herausfallen kann.^[8] Entscheidend ist, ob das Werkzeug beeinflusst, wer weiterkommt. Ein Assistent, der nur Termine bucht, ist Verfahren; einer, der entscheidet, wer einen Termin bekommt, ist es nicht.

Auch diese Anwendungen haben Pflichten. Ein Chatbot, der mit Bewerbenden spricht, muss nach Artikel 50 der KI-Verordnung erkennbar machen, dass es eine KI ist, und jede Verarbeitung von Bewerberdaten braucht eine Grundlage nach der DSGVO.^[15][6]

Wie setzen Sie KI in der Bewerberauswahl sicher ein?

Nutzen Sie KI, um Entscheidungen vorzubereiten, nicht um sie zu treffen, und prüfen Sie das Werkzeug mit eigenen Daten, bevor es echte Bewerbungen sieht. Diese Schritte decken die Pflichten aus AGG, DSGVO und KI-Verordnung zugleich ab.^[3][6][9]

Für Schritt 3 genügt als erster Blick ein Vergleich der Auswahlquoten zwischen Gruppen. Liegt die Quote einer Gruppe deutlich unter der der anderen, verdient das Werkzeug eine genauere Prüfung, bevor es weiter eingesetzt wird.

Wann lohnt sich ein eigener Agent für die Vorauswahl?

Ein eigener Agent lohnt sich, wenn KI das Lesen und Sortieren übernehmen soll, während Ihre Kriterien, Ihre Aufzeichnungen und Ihre Leute die Kontrolle behalten. Ein Agent kann jede Bewerbung nach Ihren Kriterien zusammenfassen, fehlende Angaben markieren und Antworten entwerfen, während eine Person jede Entscheidung trifft. Das hält das Werkzeug näher an der Ausnahme für vorbereitende Aufgaben und erfüllt die Schutzmaßnahme des menschlichen Eingreifens nach der DSGVO von vornherein.^[6][8]

Der Freigabeschritt ist der Kern eines solchen Agenten. Unser Leitfaden zu Freigabe-Workflows in KI-Agentensystemen zeigt, wie ein Agent vorbereitet und eine Person entscheidet, ohne dass vorher etwas an Bewerbende geht. Für die Wahl zwischen einem fertigen Auswahlwerkzeug und einem Agenten um Ihren eigenen Prozess lesen Sie was ein Custom Agent ist und wann er sich lohnt.

Häufig gestellte Fragen

Ist KI in der Bewerberauswahl erlaubt? Ja, aber der Arbeitgeber haftet für das Ergebnis. Das AGG schützt auch Bewerberinnen und Bewerber vor Benachteiligung, die DSGVO beschränkt Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen, und ab dem 2. Dezember 2027 gelten für KI, die Bewerbungen sichtet oder filtert, die Pflichten der KI-Verordnung für Hochrisiko-Systeme.

Gilt KI im Recruiting nach der KI-Verordnung als Hochrisiko? Ja. Anhang III der KI-Verordnung nennt KI, die gezielte Stellenanzeigen schaltet, Bewerbungen sichtet oder filtert und Bewerber bewertet. Ein System kann der Einstufung entgehen, wenn es nur eine eng gefasste Verfahrensaufgabe oder vorbereitende Aufgabe erfüllt, aber nie, wenn es Profiling betreibt. Seit dem Digital-Omnibus gelten die Pflichten für diese Systeme ab dem 2. Dezember 2027.

Darf eine KI Bewerber automatisch ablehnen? Nur eingeschränkt. Nach Artikel 22 DSGVO hat eine Person das Recht, keiner ausschließlich automatisierten Entscheidung mit erheblicher Wirkung unterworfen zu werden, und Erwägungsgrund 71 nennt Online-Einstellungsverfahren ohne jegliches menschliche Eingreifen als Beispiel. Wo eine Ausnahme greift, bleibt mindestens das Recht auf menschliches Eingreifen. In der Praxis sollte eine Person jede von der KI vorgeschlagene Absage prüfen.

Welche Entschädigung droht bei Diskriminierung durch KI im Bewerbungsverfahren? Nach § 15 AGG muss der Arbeitgeber den Schaden ersetzen und eine angemessene Entschädigung zahlen. Wäre die Person auch ohne Benachteiligung nicht eingestellt worden, ist die Entschädigung auf drei Monatsgehälter begrenzt. Beweist die Person Indizien für eine Benachteiligung, muss der Arbeitgeber nach § 22 AGG beweisen, dass keine vorlag.

Quellen

1. Allgemeines Gleichbehandlungsgesetz (AGG), § 1 Ziel des Gesetzes, abgerufen am 16. Oktober 2026.
2. AGG, § 6 Persönlicher Anwendungsbereich, abgerufen am 16. Oktober 2026.
3. AGG, § 7 Benachteiligungsverbot, abgerufen am 16. Oktober 2026.
4. AGG, § 15 Entschädigung und Schadensersatz, abgerufen am 16. Oktober 2026.
5. AGG, § 22 Beweislast, abgerufen am 16. Oktober 2026.
6. Verordnung (EU) 2016/679 (DSGVO), Artikel 4 Nr. 4, 13 Abs. 2 Buchst. f und 22 sowie Erwägungsgrund 71, abgerufen am 16. Oktober 2026.
7. AI Act Service Desk, Anhang III: Hochrisiko-KI-Systeme, Nummer 4 Buchst. a, abgerufen am 16. Oktober 2026.
8. AI Act Service Desk, Artikel 6: Einstufungsvorschriften für Hochrisiko-KI-Systeme, Absatz 3, abgerufen am 16. Oktober 2026.
9. AI Act Service Desk, Artikel 26: Pflichten der Betreiber von Hochrisiko-KI-Systemen, abgerufen am 16. Oktober 2026.
10. AI Act Service Desk, Artikel 86: Recht auf Erläuterung der Entscheidungsfindung im Einzelfall, abgerufen am 16. Oktober 2026.
11. AI Act Service Desk, Article 113: Entry into force and application, konsolidierte Fassung vom 27. Juli 2026, auf Englisch, abgerufen am 16. Oktober 2026.
12. Betriebsverfassungsgesetz (BetrVG), § 95 Auswahlrichtlinien, abgerufen am 16. Oktober 2026.
13. Wilson und Caliskan, Gender, Race, and Intersectional Bias in Resume Screening via Language Model Retrieval, Proceedings der AAAI/ACM Conference on AI, Ethics, and Society 2024, arXiv-Version 3 vom 30. August 2026 mit Korrektur, auf Englisch, abgerufen am 16. Oktober 2026.
14. Betriebsverfassungsgesetz (BetrVG), § 87 Mitbestimmungsrechte, abgerufen am 16. Oktober 2026.
15. AI Act Service Desk, Artikel 50: Transparenzpflichten, abgerufen am 16. Oktober 2026.