Der Einsatz Künstlicher Intelligenz (im Weiteren: „KI“) und deren rechtliche Einordnung ist in aller Munde. Dementsprechend überrascht es wenig, dass die ersten wissenschaftlichen Aufarbeitungen dieses Themas mittlerweile auch in Buchform erhältlich sind (für Österreich gerade im Manz Verlag erschienen: Laimer/Peer/Tinhofer/Wieser, KI und Arbeitsrecht). Bei dem vorliegenden Werk „Robot Recruiting“ von 166 Kai Alexander Köhn handelt es sich um eine Dissertation, die an der Universität Bonn angenommen und nun in der Schriftenreihe „Internetrecht und Digitale Gesellschaft“ publiziert wurde. Der Autor beschäftigt sich dabei mit der Frage, ob (und wie) die deutsche Rechtsordnung den Einsatz von KI-Systemen im Einstellungsverfahren ermöglicht und welche rechtlichen Herausforderungen dabei zu bewältigen sind.

Das Werk gliedert sich, wie schon der Titel verspricht, in zwei große Themen: Zum einen geht es um die datenschutzrechtliche Konformität des Einsatzes von KI-Systemen im Einstellungsverfahren, zum anderen wird die Anwendbarkeit des (deutschen) Antidiskriminierungsrechts auf derartige Einstellungsverfahren untersucht. Diesem Kern der Arbeit vorangestellt wird eine kurze Einleitung sowie eine – gerade für Nicht-Techniker notwendige und interessant gestaltete – Erklärung der technischen Grundlagen des maschinellen Lernens und der Implementierung von KI-Systemen. Ein finales fünftes Kapitel zieht ein Resümee über die Ergebnisse der Arbeit und erläutert mögliche Ausblicke durch die geplante Einführung der sogenannten Europäischen KI-Verordnung.

Während es in der – deutschen wie österreichischen – Literatur weitgehend unbestritten ist, dass das bereits bestehende Antidiskriminierungsrecht auch auf jene Verfahren Anwendung findet, in denen AG einen potentiellen Stellenwerber durch den Einsatz von KI (aufgrund eines der gesetzlich geschützten Merkmale) diskriminieren, untersucht Köhn in der vorliegenden Arbeit genauer, wie sich verschiedene Arten von KI-Systemen unter diese generelle Aussage subsumieren lassen. So kommt er zum durchaus interessanten Ergebnis, dass hinsichtlich des Zeitpunkts der Diskriminierungshandlung zwischen verschiedenen „Automatisierungsgraden“ zu unterscheiden sei. Bei sogenannten „entscheidungsersetzenden Systemen“ sei – soweit überhaupt nach datenschutzrechtlichen Erwägungen zulässig – der Nachteil erst in der konkreten Auswahl des KI-Systems zu erblicken. Vorgelagerte systeminterne Prozesse hingegen würden für den diskriminierten Stellenwerber noch keinen aufgreifbaren Nachteil bilden, das KI-System selbst sei daher nicht unmittelbar „angreifbar“. Bei „entscheidungsunterstützenden Systemen“ jedoch sei dem Auswahlvorschlag des KI-Systems eine menschliche Entscheidungshandlung nachgelagert. Köhn arbeitet in diesem Zusammenhang heraus, dass nicht nur der konkrete – diskriminierende – Auswahlakt durch Menschenhand, sondern unter Umständen auch bereits ein vorangehender Reihungsvorschlag des KI-Systems als Nachteil zu qualifizieren sei, da eine vom System ermittelte Rangfolge den Entscheidungskorridor im Einstellungsverfahren faktisch stark verengen könne. Dahingehend werde also dem diskriminierten Stellenwerber auch die Möglichkeit eröffnet, eine Diskriminierung bereits beim Einsatz des KI-Systems selbst zu verorten, was in der Praxis gewisse Beweiserleichterungen bringen könnte (dazu gleich unten)

Nur (leider) sehr kurz wird hingegen auf ein wesentliches Praxisproblem beim Einsatz von KI-Systemen eingegangen, nämlich jenes der Durchsetzung des Antidiskriminierungsrechts. Um einen Schadenersatzanspruch durchzusetzen, muss der diskriminierte Stellenwerber die Diskriminierung nämlich zumindest glaubhaft machen können. Aus Sicht des Stellenwerbers

ist es aber nicht erkennbar, ob KI-Systeme überhaupt zum Einsatz gebracht werden bzw wie diese Systeme konkret Entscheidungen treffen (oder vorbereiten). Köhn greift in diesem Zusammenhang zwar mögliche technische Verfahren zur Vermeidung von Benachteiligungen ausführlich auf (vgl S 273 ff), gerade die rechtlichen Möglichkeiten werden mE jedoch zu oberflächlich beschrieben. Zwar wird die Forderung nach einem Auskunftsanspruch des Stellenwerbers vom Autor thematisiert und einige mögliche Rechtsgrundlagen desselben, etwa durch Heranziehung der Rs C-104/10, Kelly vom 21.7.2011 und Rs C-415/10, Meister vom 19.4.2012 des EuGH oder des Art 15 Abs 1 DSG-VO, der im Datenschutzrecht der betroffenen Person gewisse Auskunftsrechte zugesteht, aufgegriffen. Was mE jedoch zu kurz kommt, ist zum einen die konkrete Einschätzung des Autors, wie (wenig) schlagkräftig bereits bestehende Rechtsgrundlagen ausgestaltet sind (vgl dazu Tinhofer, Algorithmenbasierte Entscheidungen und Diskriminierung, DRdA 2022, 171). Zum anderen bleiben mit der geplanten Richtlinie über KI-Haftung, die die effektive Durchsetzung von Verletzungen der KI-VO gewährleisten soll, oder der angedachten Schaffung eines Verbandsklagerechts für Gleichbehandlungsanwaltschaft bzw Gleichbehandlungskommission in Vorbereitung stehende zentrale Rechtsschutzinstrumente zur Gänze unerwähnt.

Abschließend ist festzuhalten, dass die vorliegende Abhandlung die deutsche Rechtslage gut und vollständig wiedergibt. Für Leser:innen besonders interessant ist der Blick hinter die Kulissen, also die Ausführungen zur genauen Funktionsweise von KI-Systemen, auf die Köhn auch im weiteren Verlauf der Arbeit immer wieder zurückgreift. Im Antidiskriminierungsrecht ist daher, wie bereits dargestellt, immer anhand des konkret eingesetzten KI-Systems zu bewerten, durch welche Vorgänge es zu welcher Art von Benachteiligung kommen kann. Des Weiteren hervorzuheben ist auch der Ausblick auf mögliche Verbesserungen der KI-VO, welche mit 1.8.2024 in Kraft getreten ist. Obwohl das Werk den Rechtsstand nur bis August 2022 berücksichtigt, sind die darin angestellten Ausführungen ausführlich und akribisch zusammengetragen und können mE unser Verständnis des nunmehr in Geltung getretenen Verordnungstextes unterstützen.