Künstliche Intelligenz (KI) ist in aller Munde. Auch im HR-Management hat sie längst Einzug gehalten und erleichtert Unternehmen insbesondere im Recruiting die Arbeit. Gängige KI-Tools werben damit, das Recruiting auf ein neues Level zu heben – schneller, effektiver, einfach besser. Wie eine Studie der Universität Bamberg aus dem Jahr 2020 zeigt, setzen bereits viele der großen Unternehmen in Deutschland auf KI im Recruiting. In den nächsten zehn Jahren wird KI nach Ansicht der befragten Unternehmen sogar noch deutlich intensiver in den Bewerbungsvorgang eingebunden werden. Freilich ist die Nutzung derartiger Tools mit einigen rechtlichen Risiken verbunden. Neben den vieldiskutierten datenschutzrechtlichen Bedenken werden insbesondere auch arbeitsrechtliche Fragen aufgeworfen: Diskriminiert KI? Wenn ja: Welchen Ansprüchen sind Arbeitgeber im Falle von durch KIverursachten Diskriminierungen ausgesetzt? Und worauf müssen Arbeitgeber bei der Einführung von KI achten, wenn im Betrieb ein Betriebsrat besteht?

Anwendungsbereiche von KI im Recruiting

Vor allem im Rekrutierungsprozess können selbstlernende Algorithmen eingesetzt werden, um die Eigenschaften von Bewerber:innen oder der derzeitigen Belegschaft zu analysieren. Solche automatischen Datensammlungen und -analysen oder weitere (teilweise) durch KI automatisierte Prozesse im Recruiting werden auch unter dem Oberbegriff „Robot Recruiting“ zusammengefasst.

Der Einsatz von KI ist dem Grunde nach in allen Phasen des Bewerbungsprozesses möglich:

1. Bei der Ausschreibung der Stelle können KI-Tools eingesetzt werden, um Stellenanzeigen zu optimieren und leichter auffindbar zu machen.
2. Oft haben potenzielle Bewerber:innen Fragen zum Unternehmen oder auch zum Bewerbungsprozess selbst. Handelt es sich um einfache bzw. regelmäßig auftretende Fragen,können diese von einem sog. Chatbot beantwortet werden.
3. Bewerber:innen, die auf das Unternehmen zukommen, kann der Bewerbungsprozess durchsog. CV-Parsing erleichtert werden. Hierdurch werden eingereichte Lebensläufe bzw. andere Bewerbungsformulare automatisch nach den relevanten Informationen durchscannt und dem Recruiter übersichtlich präsentiert.
4. Einen Schritt weiter geht das CV-Matching: Hier ordnet die KI die eingegangenen Bewerbungen nach bestimmten Erfahrungssätzen, trifft also eine Vorauswahl. Ausgehend von diesem Ranking werden sodann nur die besten Kandidat:innen im weiteren Bewerbungsprozess berücksichtigt.
5. Auch bieten KI-Tools neue Möglichkeiten im Active Sourcing. So können Bewerberplattformen aufgrund von Algorithmen zielsicher und schnell nach vielversprechenden Kandidat:innendurchsucht werden, um dann direkt mit ihnen Kontakt aufzunehmen.
6. Darüber hinaus kann die KI im Rahmen von Vorstellungsgesprächen genutzt werden. So können etwa Mimik, Gestik und Wortwahl der Bewerber:innen automatisch ausgewertet werden, um auf bestimmte Eigenschaften zu schließen.
7. Schließlich ist auch denkbar, dass die endgültige Auswahl im Rahmen eines automatisierten Verfahrens erfolgt.

Vorteile

Robot Recruiting bringt eine Vielzahl von Vorteilen mit sich. Auf der Hand liegt zunächst, dass der Einsatz von KI in allen Bereichen des Bewerbungsprozesses Zeit und Personalressourcen sparen kann. Gerade im Rahmen der Bewerbervorauswahl müssen sich HR-Mitarbeiter nicht mehr selbst mit der ersten Flut von Bewerbungen auseinandersetzen. Im Bereich des Active Sourcing können mithilfe automatisierter Suchvorgänge geeignete, bislang unentdeckte Kandidat:innen gefunden werden. Gerade in Zeiten des Fachkräftemangels können Unternehmen auf diese Weise ggf. teure Abwerbungen erspart bleiben. Auch können sich HR-Mitarbeiter beim nur teilweisen Einsatz von KI nunmehr auf die Abschnitte des Bewerbungsprozesses konzentrieren, welche menschliches Urteils- und Einfühlungsvermögen erfordern. Darüber hinaus erhofft man sich durch den Einsatz von KI eine möglichst neutrale Bestenauslese frei von menschengemachten Diskriminierungen, da die KI aufgrund von objektiven Kriterien entscheidet.

Diskriminierung durch KI

Wie sich in der Vergangenheit bereits gezeigt hat, können allerdings auch KI-Tools diskriminierende Muster annehmen, anwenden und weiter ausbauen. Zwar ist die genaue Funktionsweise der KI oft nicht vollends nachvollziehbar, da der Verarbeitungsvorgang zwischen In- und Output in einer sog. „Black Box“ stattfindet. Klar ist jedoch, dass KI durchaus anfällig für Diskriminierungen ist, wenn sie fehlerhaft programmiert ist oder eine mangelhafte Datenbasis aufweist. Insbesondere ist denkbar, dass die KI mit diskriminierenden Daten gespeist wird. Zudem sind einige der verwendeten Algorithmen – gerade im Bereich People Analytics – auf Gruppenwahrscheinlichkeiten aufgebaut, was zur Diskriminierung bestimmter Personengruppen führen kann.

Hat die KI beispielsweise Zugriff auf bisherige Einstellungsmuster und wurden in einem Unternehmen bisher überwiegend Männer eingestellt, bewertet es ggf. die Eigenschaft „männlich“ als positiv und benachteiligt dadurch Bewerber eines anderen Geschlechts. Doch auch Anknüpfungen an andere Kriterien wie Religion oder Behinderung kann zu vorurteilsbehafteten Gruppenbildungen und damit zu Diskriminierungen führen. Wird KI zur Führung eines Vorstellungsgesprächs eingesetzt, sind ebenfalls diskriminierende Verhaltensweisen denkbar. So wird ein Tool, dass während des Gesprächs die Sprache der Bewerber:innen analysiert, ggf. Personen mit psychischen Krankheiten, Sprachbehinderungen oder Personen mit Akzent bzw. Dialekt benachteiligen. Außerdem besteht die Gefahr, dass die KI Fragen an die Bewerber:innen stellt, die unzulässig bzw. diskriminierend sind: „Sind Sie schwanger?“, „Leiden Sie an körperlichen Einschränkungen?“, „Aus welchem Land stammen Ihre Vorfahren?“ Nur durch exakte und problembewusste Programmierung kann diesen Fallstricken vorgebeugt werden.

Ansprüche gegen Arbeitgeber bei Diskriminierung

Diskriminierungen aufgrund eines der in § 1 AGG genannten Gründe (Geschlecht, Behinderung, Alter etc.) können zu Schadensersatz- sowie Entschädigungsansprüchen gegen den Arbeitgeber führen(§ 15 AGG). Vor dem Einsatz von KI im Bewerbungsprozess sollten Arbeitgeber angesichts der vielfältigen Diskriminierungsgefahren sorgfältig prüfen, ob die von ihnen gewählte KI insoweit möglichst rechtssicher konzipiert ist. Da allerdings nicht genau vorhergesehen werden kann, wie die KI sich im Laufe der Verwendung verhalten und entwickeln wird – Stichwort Black Box –, sind Restrisiken nicht völlig auszuschließen.

Ein Schadensersatzanspruch ist insbesondere dann denkbar, wenn abgewiesene Bewerber:innennachweisen können, dass die Nichteinstellung auf diskriminierenden Gründen beruht und sie ohne diese Benachteiligung eingestellt worden wären. Freilich wird es den abgewiesenen Bewerber:innenin den seltensten Fällen gelingen, letzteres – also einen finanziellen Schaden – zu beweisen. Hierfür müssten sie belegen können, unter allen Bewerber:innen die am besten für den Job geeignetenKandidat:innen bzw. zumindest besser als die letztlich eingestellten Bewerber:innen zu sein. Denabgelehnten Kandidat:innen stehen jedoch in aller Regel keine Möglichkeiten zur Seite, die hierfürnötigen Informationen in Erfahrung zu bringen. Die Beweiserleichterungen zugunsten des Arbeitnehmers, die (nur) für die Begründung der Diskriminierung gelten, greifen für den Beweis des Schadenseintritts gerade nicht ein (§ 22 AGG). Insbesondere können Arbeitnehmer:innen von dem Arbeitgeber grundsätzlich auch keine diesbezügliche Auskunft oder gar Herausgabe von Bewerbungsunterlagen verlangen.

Größere Gefahren für Arbeitgeber bergen dagegen etwaige Entschädigungsansprüche der durch die KI diskriminierten Arbeitnehmer:innen. Je nach Einzelfall und insbesondere der Schwere der Diskriminierung hat der Arbeitgeber an die jeweilig diskriminierten Arbeitnehmer:innen eine Art „Schmerzensgeld“ zu zahlen. Die Höhe eines solchen Entschädigungsanspruchs wird dabei in „angemessener“ – also weder in ruinöser noch in lediglich symbolischer – Höhe festgesetzt. Die Voraussetzungen eines Entschädigungsanspruchs dürften bei einer Diskriminierung im Rahmen des Robot Recruitings häufig gegeben sein. Wegen der – hier eingreifenden – Beweislastumkehr muss ein betroffener Arbeitnehmer nur Indizien vortragen, die auf eine Diskriminierung hindeuten (§ 22 AGG).Insbesondere ist keine vollständige Darlegung der Funktionsweise der KI, die letztlich zur Diskriminierung geführt hat, erforderlich – eine solche könnten die Bewerber:innen nur in den seltensten Fällen vollbringen. Daraufhin liegt es bei dem Arbeitgeber, diese Indizien zu widerlegen. Ein konkreter finanzieller Schaden muss im Unterschied zum Schadensersatzanspruch gerade nicht nachgewiesen werden.

Regress beim Software-Hersteller

Für den Fall, dass im Rahmen des Robot Recruiting tatsächlich Bewerber:innen diskriminiert wurdenund das Unternehmen daher Entschädigungsansprüchen ausgesetzt ist, stellt sich die Frage, ob sich das betroffene Unternehmen trotzdem schadlos halten kann. In Betracht kommen insbesondere Regressansprüche gegen den Hersteller der Recruiting-Software. Neben etwaigen vertraglichen Ansprüchen, die sich aus der konkreten Vertragsgestaltung ergeben können, kommen Regressansprüche beispielsweise in folgenden zwei Fällen grundsätzlich in Betracht:

• Das KI-Tool entspricht bei der Inverkehrgabe nicht dem Stand von Wissenschaft und Technik. Der Software-Hersteller muss hierbei alle allgemein oder ihm speziell zugänglichen Erkenntnisquellen ausschöpfen.
• Der Software-Hersteller hat – trotz konkreten Erkenntnissen über mögliche Programmierungsfehler („Bugs“) – nicht vor der Nutzung des KI-Tools gewarnt bzw. das Produkt zurückgerufen

Beteiligung des Betriebsrats

Entscheidet sich ein Arbeitgeber dafür, KI im Bewerbungsprozess einzusetzen, muss ein etwaig bestehender Betriebsrat hierüber informiert werden (§ 90 Abs. 1 Nr. 3 BetrVG). Will der Arbeitgeber mit einer KI Richtlinien für Einstellungen aufstellen, bedarf es sogar der Zustimmung des Betriebsrats (§ 95 Abs. 2a BetrVG). Der Betriebsrat darf nach derzeitiger Gesetzeslage einen Sachverständigenhinzuziehen, um die Einführung der KI fundiert bewerten zu können (§ 80 Abs. 3 S. 2 BetrVG). Die Kosten hierfür hat der Arbeitgeber zu tragen.

Fazit

Die Vorteile eines (teilweisen) Robot Recruitings sind nicht von der Hand zu weisen: Unternehmen finden schneller passende Bewerber:innen, Recruiter können sich auf spätere Abschnitte des Bewerbungsprozesses konzentrieren und auch die Bewerber:innen haben ggf. ein angenehmeres Bewerbungserlebnis. Dennoch dürfen nicht die Kehrseiten des KI-Einsatzes außer Acht gelassenwerden. Insbesondere sollte genau geprüft werden, welche KI-Tools die Anforderungen an einen diskriminierungsfreien Bewerbungsprozess erfüllen. Andernfalls können Entschädigungsansprüche der abgelehnten Bewerber:innen drohen. Nicht zu übersehen ist auch die Beteiligung des Betriebsrats, die angesichts der etwaigen Hinzuziehung eines Sachverständigen teuer werden kann. Diese arbeitsrechtlichen Stolpersteine gilt es möglichst zu vermeiden, wenn sich Unternehmen dazu entschließen, mit der Zeit zu gehen und KI nunmehr auch im Bewerbungsprozess einzusetzen.