Kurz gesagt
- EU: Ein KI-Interviewer, der Kandidaten bewertet, gilt nach der KI-Verordnung als Hochrisiko-System. Ihre Pflichten als Betreiber gelten ab dem 2. Dezember 2027; Emotionserkennung am Arbeitsplatz ist seit dem 2. Februar 2025 verboten.
- DSGVO, schon jetzt: Kandidaten informieren, eine DSFA durchführen und niemanden allein aufgrund des KI-Ergebnisses ablehnen.
- UK: Kein KI-Gesetz. Ausschließlich automatisierte Entscheidungen brauchen seit dem 5. Februar 2026 Schutzmaßnahmen, und der Equality Act verlangt angemessene Vorkehrungen, etwa Tippen statt Sprechen.
- USA: Title VII und der ADA gelten auch für KI-Tools. New York City verlangt ein Bias-Audit und eine Mitteilung 10 Arbeitstage im Voraus; Illinois verlangt eine Mitteilung und bei KI-analysierten Videos eine Einwilligung; Colorado und Kalifornien fügen ab dem 1. Januar 2027 Pflichten hinzu; nach den Regeln von New Jersey ist ein ungetestetes automatisiertes Tool ein Risiko für unverhältnismäßige Benachteiligung (disparate impact).
- Überall: Kandidaten informieren, bei jeder Entscheidung eine geschulte Person einbinden, die die KI überstimmen kann, eine Alternative zur Sprache anbieten und Nachweise aufbewahren.
Keine Rechtsberatung. Eine Zusammenfassung der Rechtslage zum 17. November 2026. Prüfen Sie Ihre Situation mit einem Anwalt und kontrollieren Sie die Daten erneut, bevor Sie sich darauf verlassen: Mehrere dieser Regeln sind neu.
Bevor Sie loslegen
- Die Pflichten liegen bei Ihnen. Nach jedem dieser Gesetze ist der Arbeitgeber verantwortlich, der das Tool einsetzt: als Betreiber (KI-Verordnung), als Verantwortlicher (DSGVO), als Arbeitgeber (Equality Act, Title VII). Die Pflichten des Anbieters kommen hinzu, sie ersetzen Ihre nicht.
- Der Standort des Kandidaten zählt. Die EU-Regeln gelten für Kandidaten in der EU, die von New York City für Stellen in der Stadt, die von Illinois für Bewerbungen auf Stellen im Bundesstaat – ganz gleich, wo Ihr Unternehmen sitzt.
- Stand der Daten: 17. November 2026. Mehrere Regeln sind neu oder werden noch nicht durchgesetzt. Prüfen Sie ein Datum erneut, bevor Sie sich darauf verlassen.
Europäische Union
Die KI-Verordnung: KI-Interviews sind Hochrisiko
Anhang III Nummer 4 Buchstabe a stuft KI-Systeme, die bestimmungsgemäß „für die Analyse und Filterung von Bewerbungen und für die Bewertung von Bewerbern“ verwendet werden sollen, als hochriskant ein. Ein KI-Interviewer, der Antworten bewertet oder zusammenfasst, ist ein solches System. Die Ausnahme nach Artikel 6 Absatz 3 (eine eng gefasste Verfahrensaufgabe oder nur die Vorbereitung einer menschlichen Bewertung) hilft nicht: Ein System, das Profiling von Personen betreibt, gilt immer als hochriskant, und die Bewertung der Antworten eines Kandidaten anhand von Stellenkriterien ist Profiling.
Die Verordnung erfasst Sie, wenn die Ausgabe des Systems in der EU verwendet wird (Artikel 2 Absatz 1 Buchstabe c) – ganz gleich, wo Ihr Unternehmen oder der Anbieter sitzt.
| Datum | Was gilt |
|---|---|
| 2. Februar 2025 | Verbotene Praktiken (Artikel 5), darunter Emotionserkennung am Arbeitsplatz; KI-Kompetenz (Artikel 4) |
| 2. August 2025 | Sanktionen für verbotene Praktiken werden durchsetzbar |
| 2. August 2026 | Artikel 50: Ein KI-System, das mit Menschen spricht, muss deutlich machen, dass es eine KI ist |
| 2. Dezember 2027 | Hochrisiko-Pflichten für Systeme nach Anhang III, für Anbieter und Betreiber (Artikel 8 bis 27, 49, 86) |
Hier sind zwei Leitlinien der Kommission wichtig. Die Leitlinien zu den Transparenzpflichten nach Artikel 50, im Juli 2026 veröffentlicht und am 5. November 2026 als C(2026) 7702 angenommen, erklären, wie ein System, das mit Menschen spricht, deutlich macht, dass es eine KI ist. Die Leitlinien zur Einstufung als Hochrisiko-System, die auch den Beschäftigungsbereich umfassen, lagen am 17. November 2026 noch als Entwurf (Mai 2026) vor. Bis sie endgültig sind, lesen Sie Anhang III so, wie er geschrieben ist, und behandeln einen KI-Interviewer, der Kandidaten bewertet, als Hochrisiko-System.
Seit Februar 2025 verboten: Emotionserkennung
Artikel 5 Absatz 1 Buchstabe f verbietet KI, die Emotionen von Personen am Arbeitsplatz ableitet, außer aus medizinischen Gründen oder Sicherheitsgründen. Das umfasst das Ableiten von Begeisterung, Stress, Selbstsicherheit oder Ehrlichkeit aus Gesicht oder Stimme. Die Leitlinien der Kommission zu verbotenen Praktiken (Februar 2025) zählen Kandidaten in einem Auswahlverfahren zum Arbeitsplatz. Ein Tool, das „Tonfall“, „Energie“ oder „Stimmung“ aus Video oder Audio bewertet, ist in der EU nicht einsetzbar.
Wer macht was: Anbieter und Betreiber
Der Hersteller des Tools ist der Anbieter; Ihr Unternehmen, das das System in eigener Verantwortung verwendet, ist der Betreiber. Wenn Sie Ihren Namen auf das System setzen, es wesentlich verändern oder für einen Zweck einsetzen, den der Anbieter nicht vorgesehen hat, übernehmen Sie die Pflichten des Anbieters (Artikel 25).
| Pflicht | Artikel | Wer |
|---|---|---|
| Risikomanagement; Trainingsdaten auf Verzerrungen geprüft | 9, 10 | Anbieter |
| Technische Dokumentation, automatische Protokollierung, Betriebsanleitung | 11, 12, 13 | Anbieter |
| Menschliche Aufsicht im Design verankert; Genauigkeit und Robustheit | 14, 15 | Anbieter |
| Konformitätsbewertung, CE-Kennzeichnung, Registrierung in der EU-Datenbank | 43, 48, 49 | Anbieter |
| Das System gemäß der Betriebsanleitung verwenden | 26(1) | Betreiber |
| Die Aufsicht Personen übertragen, die über Kompetenz, Schulung und die Befugnis verfügen, es zu überstimmen | 26(2) | Betreiber |
| Sicherstellen, dass die Eingabedaten, die Sie kontrollieren, für die Stelle relevant sind | 26(4) | Betreiber |
| Den Betrieb überwachen; bei einem Risiko die Nutzung aussetzen und den Anbieter informieren | 26(5) | Betreiber |
| Die erzeugten Protokolle mindestens sechs Monate aufbewahren | 26(6) | Betreiber |
| Arbeitnehmervertreter und betroffene Beschäftigte vor dem Einsatz am Arbeitsplatz informieren | 26(7) | Betreiber |
| Kandidaten mitteilen, dass ein Hochrisiko-KI-System bei ihnen eingesetzt wird | 26(11) | Betreiber |
| Auf Verlangen die Rolle der KI bei einer Entscheidung über den Kandidaten erläutern | 86 | Betreiber |
Die DSGVO gilt schon jetzt
- Keine Entscheidung allein durch die KI (Artikel 22). Kandidaten haben das Recht, keiner ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung mit erheblichen Auswirkungen unterworfen zu werden. Eine Ablehnung aufgrund eines Werts, den niemand prüft, ist eine solche Entscheidung. Im Urteil SCHUFA (C-634/21) entschied der Gerichtshof, dass ein Score als die Entscheidung gilt, wenn er eine maßgebliche Rolle spielt – ein Prüfer, der ihn nur abnickt, bringt Sie also nicht aus Artikel 22 heraus.
- Kandidaten informieren (Artikel 13 und 14). Was Sie erheben, wozu, auf welcher Rechtsgrundlage, wer es erhält, wie lange Sie es aufbewahren und welche Rechte bestehen; und, wo Artikel 22 greift, aussagekräftige Informationen über die involvierte Logik. Im Urteil Dun & Bradstreet Austria (C-203/22) vom Februar 2025 stellte der Gerichtshof klar, dass damit das tatsächlich angewandte Verfahren und die tatsächlich angewandten Grundsätze gemeint sind, in einer für die Person verständlichen Form.
- Vorab eine DSFA durchführen (Artikel 35). Die Bewertung von Kandidaten mit neuer Technologie erfüllt die Kriterien des EDSA für eine Datenschutz-Folgenabschätzung. Artikel 26 Absatz 9 der KI-Verordnung verpflichtet Betreiber, dafür die Informationen des Anbieters zu nutzen.
- Anfragen beantworten. Die Auskunft (Artikel 15) umfasst das Transkript und die Ausgabe der KI über die Person; die Löschung (Artikel 17), sobald Sie die Daten nicht mehr benötigen.
Betriebsräte
Artikel 26 Absatz 7 der KI-Verordnung ergänzt nationale Regeln, die oft schon gelten. In Deutschland bestimmt der Betriebsrat bei Auswahlrichtlinien (§ 95 BetrVG) und bei technischen Einrichtungen mit, die zur Leistungsüberwachung geeignet sind (§ 87 Abs. 1 Nr. 6), und muss über geplante KI unterrichtet werden (§ 90). In Frankreich wird der CSE vor der Einführung neuer Technologien angehört (Code du travail L2312-8). In den Niederlanden muss der Betriebsrat Systemen zur Personalbeurteilung und Datenverarbeitung zustimmen (WOR, Artikel 27). Beginnen Sie diese Gespräche vor dem Pilotprojekt, nicht danach.
Was in der EU zu tun ist
- Jetzt auf Emotionserkennung prüfen. Fragen Sie jeden Anbieter schriftlich, ob sein Tool Emotionen, Persönlichkeit oder Ehrlichkeit aus Gesicht oder Stimme ableitet. Falls ja, setzen Sie es für Kandidaten in der EU nicht mehr ein.
- Bei jeder Entscheidung einen Menschen einbinden. Benennen Sie die Prüfer, schulen Sie sie darin, was die Ausgabe bedeutet und was nicht, und geben Sie ihnen die Befugnis, sie zu überstimmen. Halten Sie fest, wer entschieden hat.
- Die Kandidateninformation aktualisieren. Sagen Sie, dass eine KI das Interview führt oder auswertet, was sie bewertet, dass ein Mensch entscheidet und wie man eine menschliche Überprüfung verlangen kann.
- Die DSFA durchführen oder aktualisieren, bevor der erste Kandidat aus der EU an der Reihe ist, anhand der Dokumentation des Anbieters.
- Ihren Betriebsrat oder die Arbeitnehmervertretung vor der Einführung informieren, wo nationales Recht oder Artikel 26 Absatz 7 dies verlangt.
- Protokolle mindestens sechs Monate aufbewahren und für alles andere Aufbewahrungsfristen festlegen.
- Die Unterlagen zur KI-Verordnung beim Anbieter anfordern: Betriebsanleitung, seine Einstufung des Tools und seinen Plan für die Konformität bis zum 2. Dezember 2027.
Vereinigtes Königreich
Das Vereinigte Königreich hat kein KI-Gesetz. KI-Interviews fallen unter die UK GDPR, den Data Protection Act 2018 und den Equality Act 2010, die für sie wie für jede andere Auswahlmethode gelten.
Automatisierte Entscheidungen seit dem 5. Februar 2026
Section 80 des Data (Use and Access) Act 2025 hat Artikel 22 der UK GDPR durch die Artikel 22A bis 22D ersetzt, in Kraft seit dem 5. Februar 2026. Eine Entscheidung ist „ausschließlich automatisiert“, wenn es keine echte menschliche Beteiligung daran gibt; die Ablehnung eines Kandidaten ist eine erhebliche Entscheidung.
- Gewöhnliche Daten: Ausschließlich automatisierte erhebliche Entscheidungen sind jetzt auf jeder Rechtsgrundlage erlaubt, außer den anerkannten berechtigten Interessen (recognised legitimate interests), sofern die unten genannten Schutzmaßnahmen bestehen.
- Besondere Kategorien von Daten (Gesundheit, ethnische Herkunft, Religion und Ähnliches): nur mit ausdrücklicher Einwilligung oder wenn für einen Vertrag nötig oder gesetzlich vorgeschrieben, mit einer Bedingung des erheblichen öffentlichen Interesses (Artikel 22B).
- Die Schutzmaßnahmen (Artikel 22C): den Kandidaten über die Entscheidung informieren, ihm Gelegenheit zur Stellungnahme geben, menschliches Eingreifen ermöglichen und ihn die Entscheidung anfechten lassen.
Ein Prüfer, der die Belege liest und das Ergebnis überstimmen kann, hält die Entscheidung aus diesen Regeln heraus. Der Entwurf des ICO-Leitfadens zur automatisierten Entscheidungsfindung, zu dem vom 31. März bis 29. Mai 2026 konsultiert wurde, ist noch nicht endgültig.
Was das ICO bei KI im Recruiting festgestellt hat
Im November 2024 veröffentlichte das ICO die Ergebnisse seiner Audits von KI-Tools für Sourcing, Screening und Auswahl: 296 Empfehlungen, gerichtet an Anbieter und Recruiter gleichermaßen.
- Abgeleitete Merkmale. Einige Tools schätzten Geschlecht oder ethnische Herkunft aus einem Namen oder einer Bewerbung. Die Sicht des ICO: Abgeleitete Daten sind nicht genau genug, um Verzerrungen zu überwachen, und wurden oft ohne Rechtsgrundlage verarbeitet.
- Filtern nach geschützten Merkmalen. Einige Tools ließen Recruiter Kandidaten danach aussortieren.
- Zu viele Daten. Einige erhoben weit mehr als nötig oder kombinierten es mit Daten, die aus sozialen Medien abgegriffen wurden.
- Unklare Rollen. Anbieter bezeichneten sich als Auftragsverarbeiter, handelten aber als Verantwortliche, und schoben die Verantwortung über vage Verträge auf die Recruiter ab.
Seine wichtigsten Empfehlungen: Fairness und Verzerrungen mit korrekten Daten überwachen; Kandidaten erklären, was die KI verarbeitet und welche Logik hinter ihrer Ausgabe steht; nur erheben, was Sie brauchen; vor der Verarbeitung eine DSFA abschließen; die Rollen von Verantwortlichem und Auftragsverarbeiter im Vertrag festlegen; dem Anbieter schriftliche Verarbeitungsanweisungen geben; und eine Rechtsgrundlage dokumentieren. Sein Bericht Recruitment rewired vom März 2026 über mehr als 30 Arbeitgeber ergab, dass viele glaubten, eine Person prüfe die Ergebnisse, obwohl die Prüfung nicht wirklich stattfand, und dass Kandidaten selten erfuhren, wie Automatisierung eingesetzt wurde.
Der Equality Act 2010
- Mittelbare Diskriminierung (Section 19). Eine Methode, die für alle gilt, aber eine Gruppe besonders benachteiligt, ist rechtswidrig, sofern sie kein verhältnismäßiges Mittel zu einem legitimen Ziel ist. Ein Sprachinterview, das den Sprachfluss bewertet, benachteiligt Kandidaten mit Sprechbehinderung und Nicht-Muttersprachler; zu bewerten, was die Stelle erfordert, anhand dessen, was gesagt wurde, tut das nicht.
- Angemessene Vorkehrungen (Sections 20 und 21). Sie müssen für Kandidaten mit Behinderung Anpassungen vornehmen: getippte Antworten statt Sprache, mehr Zeit, ein anderes Format oder ein Interview mit einem Menschen. Sagen Sie Kandidaten vor Beginn des Interviews, wie sie darum bitten können.
- Ihre Haftung. Der Arbeitgeber steht für seine Auswahlmethode ein, ganz gleich, wer das Tool entwickelt hat.
Was im Vereinigten Königreich zu tun ist
- Die menschliche Prüfung echt machen: Ein geschulter Prüfer liest die Belege, kann die KI überstimmen, und die Prüfung wird dokumentiert.
- Die Kandidateninformation aktualisieren: KI-Einsatz, was sie bewertet, wie Ergebnisse verwendet werden und wie man eine Anpassung oder eine menschliche Überprüfung verlangen kann.
- Eine Alternative zur Sprache anbieten und jede Anpassung vor dem Interview vereinbaren.
- Eine DSFA abschließen, bevor der erste Kandidat an der Reihe ist, und sie aktualisieren, wenn sich das Tool ändert.
- Die Rollen im Vertrag regeln: der Anbieter als Auftragsverarbeiter, mit schriftlichen Anweisungen zu Daten, Zwecken und Ausgaben.
- Ergebnisse auf Verzerrungen überwachen mit Daten, die Kandidaten Ihnen selbst gegeben haben, nie mit abgeleiteten Daten.
Vereinigte Staaten
Kein Bundesgesetz regelt KI bei der Personalauswahl. Das bundesweite Antidiskriminierungsrecht gilt für ein KI-Interview wie für jeden Test, und eine Stadt und fünf Bundesstaaten fügen eigene Pflichten hinzu. Welche Regeln gelten, hängt davon ab, wo sich Stelle und Kandidat befinden, nicht davon, wo Ihr Unternehmen sitzt.
Bundesebene: Title VII und der ADA
- Title VII. Eine Auswahlmethode, die sich nach Rasse, Hautfarbe, Religion, Geschlecht oder nationaler Herkunft unverhältnismäßig benachteiligend auswirkt (disparate impact), ist rechtswidrig, sofern sie nicht stellenbezogen ist und betrieblich notwendig (42 U.S.C. §2000e-2(k)). Der Arbeitgeber haftet für das Tool eines Anbieters.
- Der ADA. Kandidaten mit Behinderung haben Anspruch auf angemessene Vorkehrungen im Interview (29 CFR 1630.11), und ein Test muss die Fähigkeit messen, nicht die Beeinträchtigung. Ein reines Sprachinterview ohne andere Antwortmöglichkeit erfüllt das für manche Kandidaten nicht.
- Was sich bei der EEOC geändert hat. Im Januar 2025 entfernte die EEOC ihre technischen Hinweise zu KI bei der Personalauswahl (das ADA-Dokument von 2022 und das Title-VII-Dokument von 2023) von ihrer Website; die Seite des Justizministeriums von 2022 zu KI und Behindertendiskriminierung bei der Personalauswahl ist weiterhin auf ada.gov abrufbar. Die Executive Order 14281 (April 2025) wies Bundesbehörden an, die Durchsetzung bei disparate impact nachrangig zu behandeln, und die EEOC hebt Teile der Uniform Guidelines on Employee Selection Procedures auf: Eine endgültige Regelung liegt seit Oktober 2026 dem Weißen Haus zur Prüfung vor und ist mit Stand November 2026 nicht veröffentlicht.
- Was sich nicht geändert hat. Die Gesetze selbst. Kandidaten können weiterhin klagen: Im Fall Mobley v. Workday ließ ein Bundesgericht im Mai 2025 eine Klage wegen Altersdiskriminierung gegen einen Anbieter von KI-Screening als landesweite Sammelklage (collective action) zu; die Opt-in-Frist endete im März 2026, und mit Stand November 2026 gibt es keine Feststellung einer Haftung. Behörden der Bundesstaaten setzen ihre eigenen Gesetze durch.
New York City: Local Law 144
Local Law 144 gilt, wenn ein automatisiertes Tool für Beschäftigungsentscheidungen eine Entscheidung über eine Stelle in der Stadt wesentlich unterstützt. Ein Tool, das Kandidaten bewertet und mitbestimmt, wer weiterkommt, ist ein solches. Vor dem Einsatz müssen Sie:
- Einen Bias-Audit von einem unabhängigen Prüfer im Jahr vor dem Einsatz durchführen lassen: Auswahl- oder Bewertungsquoten und Impact Ratios nach Geschlecht, Rasse/Ethnie und deren Überschneidungen. Weder Sie noch der Anbieter dürfen der Prüfer sein.
- Die Zusammenfassung des Audits auf Ihrer Karriereseite veröffentlichen: Datum, Impact Ratios, die Zahl der Kandidaten in unbekannten Kategorien und das Datum, ab dem das Tool verwendet wird.
- Kandidaten, die in der Stadt wohnen, mindestens 10 Arbeitstage vor dem Einsatz informieren: dass das Tool eingesetzt wird, welche Qualifikationen und Merkmale es bewertet und wie man ein alternatives Verfahren oder eine Vorkehrung verlangen kann. Art und Quelle der erhobenen Daten und Ihre Aufbewahrungsrichtlinie gehören auf Ihre Website oder gehen auf schriftliche Anfrage innerhalb von 30 Tagen an jeden, der fragt.
Illinois: Videointerviews und der Human Rights Act
- AI Video Interview Act (820 ILCS 42), seit 2020. Wenn KI aufgezeichnete Videointerviews analysiert: den Kandidaten vor dem Interview informieren, erklären, wie die KI funktioniert und was sie bewertet, und seine Einwilligung einholen. Die Videos nur mit Personen teilen, deren Fachwissen für die Bewertung nötig ist, und sie samt allen Kopien innerhalb von 30 Tagen nach Aufforderung des Kandidaten löschen. Wenn Sie sich allein auf KI verlassen, um zu entscheiden, wer zu einem persönlichen Interview eingeladen wird, melden Sie jedes Jahr Rasse und Ethnie der Ausgewählten und Nicht-Ausgewählten an das Department of Commerce and Economic Opportunity.
- Änderung des Human Rights Act (HB 3773, 775 ILCS 5/2-102(L)), seit 1. Januar 2026. Informieren Sie Kandidaten, wenn Sie KI bei Recruiting- und Einstellungsentscheidungen einsetzen; setzen Sie keine KI ein, die sich diskriminierend auf eine geschützte Gruppe auswirkt; verwenden Sie Postleitzahlen nicht als Stellvertreter für eine solche. Das Department of Human Rights schlug im Mai 2026 Regeln zur Information vor und zog sie im Juni zurück; bis neue verabschiedet sind, halten Sie sich an das Gesetz.
Colorado: SB 26-189
Colorados KI-Gesetz von 2024, das am 30. Juni 2026 wirksam werden sollte, trat nie in Kraft. SB 26-189, unterzeichnet am 14. Mai 2026, hob es auf und ersetzt es ab dem 1. Januar 2027 durch engere Pflichten für Technologie zur automatisierten Entscheidungsfindung, die eine Einstellungsentscheidung wesentlich beeinflusst:
- Information vor dem Einsatz, klar und gut sichtbar.
- Nach einer nachteiligen Entscheidung, innerhalb von 30 Tagen: eine verständliche Erklärung der Entscheidung, der Rolle der Technologie und wie man weitere Informationen erhält.
- Rechte: unrichtige personenbezogene Daten berichtigen zu lassen (keine Bewertungen oder Einschätzungen) und eine menschliche Überprüfung einer nachteiligen Entscheidung zu verlangen, soweit wirtschaftlich zumutbar.
- Aufzeichnungen drei Jahre aufbewahren.
Kalifornien: zwei Regelwerke
- Vorschriften des Civil Rights Council, seit 1. Oktober 2025. Der Fair Employment and Housing Act gilt für automatisierte Entscheidungssysteme. Ein Anbieter, der für Sie handelt, ist Ihr Vertreter, die Diskriminierung durch sein Tool ist also Ihre. Tools, die Stimme, Mimik oder Reaktionszeit analysieren, können wegen Behinderung oder anderer geschützter Merkmale diskriminieren. Tests auf Verzerrungen (ihre Qualität, Aktualität und was Sie mit den Ergebnissen gemacht haben) zählen in einem Verfahren für oder gegen Sie. Bewahren Sie die Daten des Systems und andere Beschäftigungsunterlagen vier Jahre auf.
- CCPA-Regeln zu Technologie für automatisierte Entscheidungsfindung (ADMT), ab 1. Januar 2027. Wenn ein Tool menschliche Entscheidungen bei der Einstellung ersetzt oder weitgehend ersetzt: eine Information vor dem Einsatz (Zweck, Funktionsweise, die Daten, die das Ergebnis beeinflussen, die Rechte des Kandidaten), ein Recht auf Auskunft darüber, wie es bei ihm eingesetzt wurde, ein Widerspruchsrecht (Opt-out) und eine Risikobewertung vor dem Einsatz. Bei der Einstellung dürfen Sie das Opt-out ablehnen, wenn das Tool wie vorgesehen funktioniert und nicht diskriminiert. Ein Prüfer, der die Ausgabe versteht, sie zusammen mit anderen Informationen analysiert und die Befugnis hat, die Entscheidung zu ändern, nimmt das Tool aus diesen Regeln heraus.
New Jersey: Regeln zu unverhältnismäßiger Benachteiligung
Seit dem 15. Dezember 2025 wenden die Regeln zu unverhältnismäßiger Benachteiligung (N.J.A.C. 13:16) der Division on Civil Rights das Law Against Discrimination auf automatisierte Tools für Beschäftigungsentscheidungen an, ausdrücklich auch auf Tools für Vorauswahl und Interviews. Ein Tool, das vor dem Einsatz nicht angemessen getestet und als nicht nachteilig für eine geschützte Gruppe nachgewiesen wurde, „kann eine unverhältnismäßige Benachteiligung bewirken“; ein Tool, das Bewerber nach Verfügbarkeit aussortiert, muss ihnen erlauben, angemessene Vorkehrungen zu beantragen. Eine Praxis mit unverhältnismäßiger Benachteiligung ist rechtswidrig, sofern sie nicht stellenbezogen und durch eine legitime betriebliche Notwendigkeit gerechtfertigt ist und keine weniger diskriminierende Alternative genügen würde. Die Regeln fügen keine Mitteilungs- oder Auditpflicht hinzu; praktisch heißt das: vor dem Einsatz auf nachteilige Auswirkungen testen und die Ergebnisse aufbewahren.
Maryland: Gesichtserkennung
Seit dem 1. Oktober 2020 darf ein Arbeitgeber während eines Interviews keine Gesichtserkennung einsetzen, um ein Gesichtstemplate zu erstellen, es sei denn, der Kandidat unterzeichnet eine Verzichtserklärung mit seinem Namen, dem Datum des Interviews, seiner Einwilligung und der Angabe, ob er die Erklärung gelesen hat (Labor and Employment §3-717).
Was in den USA zu tun ist
- Erfassen, wo Sie einstellen: New York City, Illinois, Colorado, Kalifornien, New Jersey und Maryland fügen jeweils Pflichten hinzu; anderswo gilt das Antidiskriminierungsrecht von Bund und Bundesstaaten.
- Für Stellen in New York City den unabhängigen Bias-Audit beauftragen, seine Zusammenfassung veröffentlichen und die Information 10 Arbeitstage vor dem Einsatz versenden.
- Die Information für Illinois jetzt geben und eine Einwilligung einholen, wenn KI Videos analysiert.
- Bis zum 1. Januar 2027 die Information und die Erklärung nachteiliger Entscheidungen für Colorado sowie für Kalifornien die Information vor dem Einsatz, das Auskunftsverfahren und die Risikobewertung vorbereiten.
- Vorkehrungen anbieten und eine Alternative zur Sprache, und vor dem Interview sagen, wie man darum bittet.
- Auf nachteilige Auswirkungen prüfen vor dem Einsatz (New Jersey erwartet das) und anhand Ihrer eigenen Ergebnisse, mit demografischen Daten, die Kandidaten freiwillig angeben und die von der Entscheidung getrennt bleiben.
- Aufzeichnungen aufbewahren: vier Jahre für Kalifornien, drei für Colorado.
- Keine Gesichtserkennung einsetzen in Interviews, es sei denn, Sie haben eine unterzeichnete Verzichtserklärung nach Maryland-Recht.
Die Regionen im Vergleich
| EU | UK | USA | |
|---|---|---|---|
| Information der Kandidaten | Ja: DSGVO schon jetzt; KI-Verordnung ab 2. Dez. 2027 (Hochrisiko-Einsatz), Artikel 50 seit 2. Aug. 2026 (Gespräch mit einer KI) | Ja: UK GDPR, einschließlich der Logik jeder automatisierten Entscheidung | NYC 10 Arbeitstage im Voraus; Illinois seit 2026; Colorado und Kalifornien ab 2027 |
| Einwilligung | Nicht die übliche Rechtsgrundlage; eine ausdrückliche Einwilligung ist ein Weg, eine ausschließlich automatisierte Entscheidung zu erlauben | Ausdrückliche Einwilligung nötig für ausschließlich automatisierte Entscheidungen auf Basis besonderer Kategorien von Daten | Illinois für KI-analysierte Videos; Maryland für Gesichtserkennung |
| Bias-Audit oder Tests | Der Anbieter prüft seine Daten (Artikel 10); Sie überwachen den Einsatz | Das ICO erwartet eine Fairness-Überwachung mit korrekten Daten | NYC: jährlich ein unabhängiges Audit; New Jersey erwartet Tests vor dem Einsatz; anderswo sind Prüfungen auf nachteilige Auswirkungen Ihre Verteidigung |
| Menschliche Prüfung | Aufsicht durch geschulte Personen mit Befugnis (Artikel 26); keine Entscheidung allein durch die KI (Art. 22 DSGVO) | Echte menschliche Beteiligung oder die Schutzmaßnahmen nach Section 22C | Colorado auf Verlangen; Kaliforniens ADMT-Regeln gelten nicht, wenn eine Person tatsächlich entscheidet |
| Rechte der Kandidaten | Auskunft, Löschung, Erläuterung (Artikel 86), Anfechtung einer automatisierten Entscheidung | Auskunft, Löschung, Stellungnahme, menschliches Eingreifen, Anfechtung | NYC alternatives Verfahren; Illinois Videolöschung binnen 30 Tagen; Colorado Berichtigung und Überprüfung; Kalifornien Auskunft und Opt-out |
| Aufzeichnungen | KI-Protokolle mindestens 6 Monate | So lange wie nötig, festgelegt in Ihrer Aufbewahrungsrichtlinie | Kalifornien 4 Jahre; Colorado 3 Jahre |
| Höchststrafe | KI-Verordnung 35 Mio. € oder 7 %; DSGVO 20 Mio. € oder 4 % | 17,5 Mio. £ oder 4 %; unbegrenzte Entschädigungen durch Arbeitsgerichte | NYC 1.500 $ pro Verstoß und Tag; CCPA 7.988 $; Colorado 20.000 $ pro Verstoß |
Wie testee Sie bei jeder Pflicht unterstützt
testee macht es leichter, mehrere Pflichten zu erfüllen. Es erfüllt sie nicht für Sie: Ihr Unternehmen ist Betreiber, Verantwortlicher und Arbeitgeber, und testee behauptet weder, zertifiziert zu sein, noch, Sie compliant zu machen.
| Pflicht | Was testee tut | Was bei Ihnen bleibt |
|---|---|---|
| Kandidaten über den KI-Einsatz informieren | Die Einladungsseite sagt, dass das Interview mit einem KI-Interviewer stattfindet, und listet auf, was aufgezeichnet und analysiert wird. Kandidaten akzeptieren die Bedingungen vor dem Start; der Server lehnt einen Start ohne Zustimmung ab und speichert Version und Zeitpunkt des akzeptierten Textes. | Ihre Datenschutzhinweise, die NYC-Information 10 Arbeitstage im Voraus und die Formulierung, die Ihr Bundesstaat verlangt |
| Einwilligung in Aufzeichnungen | Kamera- und Bildschirmaufzeichnung sind standardmäßig aus. Sind sie aktiv, sehen Kandidaten, was aufgezeichnet wird, warum, wer es ansehen kann und wie lange – und stimmen vorher zu. | Die Entscheidung, ob eine Aufzeichnung überhaupt nötig ist |
| Eine Alternative zur Sprache | Textmodus: Kandidaten können auf der Einladungsseite wählen, jede Antwort zu tippen statt zu sprechen. Untertitel sind immer an. | Weitere Vorkehrungen, etwa ein Interview mit einem Menschen |
| Menschen entscheiden | Der KI-Abdeckungswert ist als „zur Prüfung, keine Einstellungsentscheidung“ gekennzeichnet. Die Entscheidung (Weiter, Zurückgestellt, Absage) trifft eine Person, sie braucht eine Notiz, und ihr Änderungsverlauf wird gespeichert. testee lehnt nie selbst einen Kandidaten ab. | Prüfer schulen und ihnen die Befugnis geben, zu überstimmen |
| Das Ergebnis erklären | Zum Status jeder Erwartung gehören die genauen Zitate, auf denen er beruht, Transkript und Aufzeichnung, um sie zu prüfen, und ein PDF „Erläuterung für den Kandidaten“ für Kandidaten, die danach fragen. | Die Anfrage eines Kandidaten nach einer Erläuterung beantworten |
| Keine Emotions- oder biometrische Analyse | Keine Bewertung von Emotionen, Akzent, Sprachfluss oder Persönlichkeit, keine Gesichtsanalyse, keine Biometrie. Videos sind zum Ansehen durch Menschen da; keine KI verarbeitet sie. | Die anderen Tools in Ihrem Prozess prüfen |
| Aufzeichnungen und Protokolle | Der Einwilligungsnachweis zu jeder Sitzung, der Entscheidungsverlauf und ein Audit-Log, wer in Ihrem Unternehmen was getan hat, aufbewahrt 365 Tage. | Exporte länger aufbewahren, wo Ihr Recht es verlangt |
| Aufbewahrung | Standardmäßig werden Kandidaten ohne Aktivität nach 365 Tagen gelöscht, Audio und Aufzeichnungen 180 Tage nach dem Interview; jedes Unternehmen kann beides ändern. | Fristen wählen, die zu Ihrem Recht passen |
| Löschen und exportieren | Einen Kandidaten in einem Schritt überall löschen; seine Daten für ein Auskunftsersuchen als Datei exportieren. | Die Anfrage und ihre Frist bearbeiten |
| Bias-Audit | testee fragt geschützte Merkmale von Kandidaten weder ab, noch leitet es sie ab oder speichert sie. | Freiwillige demografische Daten erheben und den NYC-Audit beauftragen |
Die Daten werden in der EU gespeichert; KI-Interviewer, Transkription und Analyse laufen über die API von OpenAI in den USA, und keine Kundendaten trainieren KI-Modelle. Details finden Sie auf der Trust-Seite und im Auftragsverarbeitungsvertrag.
Fragen und Antworten
Sind KI-Interviews legal?
Ja, in der EU, im Vereinigten Königreich und in den USA, wenn Sie die damit verbundenen Pflichten erfüllen: Kandidaten informieren, einen Menschen an der Entscheidung beteiligen, eine Alternative zur Sprache anbieten und Aufzeichnungen führen. Manche Praktiken sind nicht erlaubt: In der EU ist KI, die Emotionen aus Gesicht oder Stimme eines Kandidaten ableitet, seit dem 2. Februar 2025 verboten; in Maryland braucht Gesichtserkennung im Interview eine unterschriebene Verzichtserklärung; in Illinois braucht die KI-Analyse von Videointerviews vorab eine Mitteilung und eine Einwilligung.
Ist ein KI-Interview nach der KI-Verordnung ein Hochrisiko-System?
Ja, wenn es Kandidaten bewertet. Anhang III Nummer 4 Buchstabe a nennt KI zur Analyse und Filterung von Bewerbungen und zur Bewertung von Kandidaten, und die Ausnahme nach Artikel 6 Absatz 3 gilt nie für ein System, das Profiling von Personen betreibt. Die Hochrisiko-Pflichten des Betreibers gelten ab dem 2. Dezember 2027, nachdem der Digital-Omnibus sie verschoben hat. Die Einstufungsleitlinien der Kommission waren am 17. November 2026 noch ein Entwurf, daher lesen wir Anhang III so, wie er geschrieben ist, und behandeln ein solches Tool als Hochrisiko-System.
Was verlangt das NYC Local Law 144?
Bevor Sie ein automatisiertes Tool für Beschäftigungsentscheidungen für eine Stelle in New York City einsetzen, brauchen Sie ein unabhängiges Bias-Audit aus dem vergangenen Jahr, eine veröffentlichte Zusammenfassung der Ergebnisse und eine Mitteilung an Kandidaten mit Wohnsitz in der Stadt mindestens 10 Arbeitstage vor dem Einsatz, die erklärt, wie sie ein alternatives Verfahren oder angemessene Vorkehrungen beantragen können. Jeder Einsatztag ohne Audit und jeder nicht informierte Kandidat ist ein eigener Verstoß, mit Strafen von bis zu 1.500 $ pro Verstoß.
Erlaubt die DSGVO KI-Interviews?
Ja, mit einer Rechtsgrundlage (eine Einwilligung ist zwischen Arbeitgeber und Kandidat selten die richtige), einer klaren Information nach Artikel 13 und 14 und einer DSFA, bevor Sie beginnen. Artikel 22 gibt Kandidaten das Recht, keiner ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden; deshalb muss ein Mensch die Belege prüfen und die KI überstimmen können, bevor jemand abgelehnt wird.
Was verlangt der Illinois AI Video Interview Act?
Wenn KI aufgezeichnete Videointerviews für eine Stelle in Illinois analysiert: Informieren Sie den Kandidaten vor dem Interview, erklären Sie, wie die KI arbeitet und was sie bewertet, und holen Sie seine Einwilligung ein; geben Sie die Videos nur an Personen weiter, die sie für die Bewertung brauchen; löschen Sie sie innerhalb von 30 Tagen nach einer Aufforderung des Kandidaten; und wenn allein die KI entscheidet, wer zu einem persönlichen Interview eingeladen wird, melden Sie jedes Jahr demografische Daten. Das Gesetz spricht von Video. Für ein KI-Interview per Sprache oder Text wählen wir die vorsichtige Lesart und geben dieselbe Mitteilung, Erklärung und Einwilligung; die KI-Mitteilung nach dem Human Rights Act gilt seit dem 1. Januar 2026 ohnehin.
Muss ein Mensch die Einstellungsentscheidung treffen?
In der EU praktisch ja: Artikel 22 DSGVO und die Pflicht zur menschlichen Aufsicht nach der KI-Verordnung bedeuten, dass eine geschulte Person mit der Befugnis, die KI zu überstimmen, entscheidet, und ein bloßes Abnicken zählt nicht. Das Vereinigte Königreich erlaubt ausschließlich automatisierte Entscheidungen über gewöhnliche Daten mit Schutzmaßnahmen, und die Regeln in Kalifornien und Colorado gelten weniger oder gar nicht, wenn ein Mensch die Entscheidung tatsächlich trifft. Der sichere Weg ist überall derselbe: Ein Mensch prüft die Belege, trifft jede Entscheidung und dokumentiert sie.
Quellen
- Verordnung (EU) 2024/1689, die KI-Verordnung
- Verordnung (EU) 2026/1744, der digitale Omnibus zur KI
- Europäische Kommission, Guidelines on the transparency obligations under Article 50 of the AI Act, C(2026) 7702
- Europäische Kommission, Draft guidelines on the classification of high-risk AI systems (Mai 2026)
- Verordnung (EU) 2016/679, die DSGVO
- Gerichtshof der EU, C-634/21 SCHUFA Holding
- Gerichtshof der EU, C-203/22 Dun & Bradstreet Austria
- Data (Use and Access) Act 2025, Section 80
- The Data (Use and Access) Act 2025 (Commencement No. 6) Regulations 2026, SI 2026/82
- Equality Act 2010
- ICO, AI tools in recruitment: Bericht zu den Audit-Ergebnissen (November 2024)
- ICO, Recruitment rewired (März 2026)
- Title VII, 42 U.S.C. §2000e-2
- ADA-Durchführungsbestimmungen, 29 CFR 1630.11
- NYC DCWP, Automated employment decision tools (Local Law 144)
- NYC DCWP, Bußgeldkatalog für automatisierte Tools für Beschäftigungsentscheidungen (6 RCNY §6-81)
- New York State Comptroller, Durchsetzung von Local Law 144 (Dezember 2025)
- Illinois Artificial Intelligence Video Interview Act, 820 ILCS 42
- Illinois Public Act 103-0804 (HB 3773)
- Colorado SB 26-189
- Colorado Session Laws 2026, Kapitel 131 (SB 26-189 in der unterzeichneten Fassung)
- Colorado Department of Law, vorgeschlagene ADMT-Regeln, 4 CCR 904-6 (August 2026)
- New Jersey Division on Civil Rights, Regeln zu unverhältnismäßiger Benachteiligung (disparate impact), N.J.A.C. 13:16
- California Civil Rights Council, Vorschriften zu automatisierten Entscheidungssystemen
- California Privacy Protection Agency, CCPA-Vorschriften
- CPPA, angepasste Bußgelder 2025
- Maryland Labor and Employment §3-717