Sammelklagen gegen Workday und Eightfold – Gegenwind für KI im Recruiting

Nachdem sich der ATS-Anbieter Workday in den USA derzeit der größten KI-Sammelklage im Recruiting gegenübersieht, sorgt nun auch der KI-Anbieter Eightfold mit einer Sammelklage für Schlagzeilen. Während es im Fall Workday um eine mögliche systematische Diskriminierung von Bewerbenden geht, steht im Eightfold-Fall das Thema mangelnde Transparenz beim KI-Einsatz und heimliches Scoring im Fokus.

Was es mit den beiden Fällen auf sich hat und warum die Signale rund um den KI-Einsatz im Recruiting auch die deutsche HR-Welt beeinflussen, zeige ich in diesem Artikel.

Einsatz von KI im Recruiting

Für künstliche Intelligenz gibt es eine ganze Reihe von Einsatzszenarien im Recruiting.

Die naheliegendsten sind

• Formulieren von Stellenanzeigen
• Ausspielung von algorithmisch optimierten Anzeigen auf Portale und Social Media
• Durchsuchen von Business-Social Media Profilen LINK im Rahmen von Active Sourcing
• Formulieren der Kommunikation mit Bewerbenden
• Scoring und Priorisierung
• und zahlreiche weitere

Die Anbieter von Bewerbermanagement-Systemen (engl. Application Tracking Systems, ATS) haben längst entsprechende KI-unterstützte Features in ihren Systemen. Amerikanische Unternehmen nutzen diese seit geraumer Zeit recht selbstverständlich.

Das könnte sich jedoch bald ändern.

Die Workday Sammelklage

Darum geht es in der großen Workday Sammelklage: Ein afroamerikanischer IT-Spezialist bewirbt sich in den USA auf über 100 Stellen und erhält sehr schnell eine automatisierte Absage. Er vermutet daher eine systematische Diskriminierung aufgrund persönlicher Merkmale. Allerdings verklagt er nicht, wie sonst in solchen Fällen üblich, die jeweiligen Arbeitgeber, sondern den Softwareanbieter Workday, mit dem die Bewerbungen verarbeitet wurden.

Zwischenzeitlich hat sich die Klage zu einer der größten Sammelklagen gegen Diskriminierung im Recruiting ausgeweitet. Seit Anfang Januar können Millionen weitere Betroffene der Klage beitreten und einer möglichen Diskriminierung entgegentreten.

Die Dimensionen einer solchen Klage werden deutlich, wenn man weiß, dass im betroffenen Zeitraum, in dem die Software im Einsatz war, über 1 Milliarde (!) Bewerbungen eingereicht wurden von mutmaßlich Millionen von Bewerbenden. In einem Land, in dem bereits bei Einzelklagen exorbitant hohe Strafen bzw. Schadensersatz-Summen fließen können, ist das ein hohe Risiko für den ATS-Anbieter.

Die Sammelklage gegen Eightfold

Anders gelagert ist der Fall beim anstehenden Prozess gegen Eightfold. Der Anbieter betreibt eine KI-getriebene „Talent Intelligence“-Plattform, die eingehende Bewerbungen automatisiert bearbeitet, indem sie diese analysiert, bewertet und ein Prioritäten-Ranking erstellt. Das Ziel: die besten Bewerbungen zu finden und mit den Anforderungen des Unternehmens zu matchen.

Der Klagevorwurf ist in diesem Fall nicht eine mögliche Diskriminierung, sondern mangelnde Transparenz und Information der Bewerbenden, wie mit den Bewerbungen umgegangen wird. Denn die Jobsuchenden wissen nicht, wie ihre Daten von der Software ausgewertet werden und wie genau das Punkte-Ranking entsteht, auf deren Basis weitere Prozessschritte erfolgen und die letztlich ursächlich für eine mögliche spätere Einstellung sind.

Brisant dabei: Die von den Bewerbenden eingereichten Unterlagen werden wohl zusätzlich angereichert um Daten des Arbeitgebers sowie aus öffentlich verfügbaren digitalen Quellen, zum Beispiel Social Media.

Die Gemeinsamkeiten der Sammelklagen gegen Workday und Eigthfold

Auch wenn die Klagebegründung in beiden Fällen sehr unterschiedlich klingt, geht es in beiden Fällen um vergleichbare Meta-Themen: Recruitingsysteme, die auf Basis von Algorithmen und künstlicher Intelligenz Einstellungsentscheidungen ganz oder teilweise vorwegnehmen, ohne dass die betroffenen Personen einschätzen können, was mit ihren Daten passiert. Auch im Eightfold-Fall kann letztlich eine systematische Diskriminierung von vorn herein nicht ausgeschlossen werden.

Beide Fälle sind geeignet, um den Blick auf KI-Einsatz im Recruiting spürbar zu verändern. Und das unabhängig davon, ob es am Ende tatsächlich zu aufwändigen Prozessen oder gar Urteilen kommt.

Welche Auswirkungen haben die Sammelklagen auf Unternehmen in Deutschland?

Die Auswirkungen von in den USA verklagten Arbeitgebern auf Unternehmen in Deutschland sind in der Regel gering. Allerdings werden hier nicht Arbeitgeber für den Einsatz von KI-Systemen verklagt, sondern die Anbieter selbst.

Unternehmen in Deutschland können deshalb betroffen sein, weil sie

• ein System von einem Anbieter einsetzen, der möglicherweise durch entsprechende Schadensersatz-Zahlungen finanziell ins Straucheln kommt
• vergleichbare Funktionen im Recruitingprozess hierzulande einsetzen und damit Bewerbende auch nach deutschem bzw. EU-Recht ähnliche Klagen gegen die Unternehmen als Arbeitgeber starten – v.a. wenn die US-Prozesse zugunsten der Sammelkläger ausgehen
• Vertrauen der Bewerbenden in Deutschland verspielen, da eine Diskriminierungsangst bei der Nutzung entsprechender Systeme mitschwingt
• KI-gestützte Recruitingsysteme anderer Anbieter einsetzen, die gegebenenfalls auch unter den aktuellen Entwicklungen einen Vertrauensverlust erleiden

Wichtig ist dabei zu betonen, dass ich hier nicht von einer juristischen Betroffenheit spreche. Es geht vielmehr darum, welche Auswirkungen die genannten Fälle (als Beispiele für viele andere kleinere, die nicht medial widerhallen) auf den weiteren Einsatz von KI im Recruiting haben könnten, wenn Bewerbende auch hierzulande verunsichert sind.

Sollten sich die Sammelklagen nochmal deutlich zuspitzen, könnte es in den USA sogar zu einem Verbot des Einsatzes entsprechender KI-Lösungen im Recruiting kommen – oder zumindest einer deutlichen Einschränkung.

Der EU AI Act

Auf der Meta-Ebene interessant ist auch, dass die USA bislang sehr liberal im Einsatz von digitalen Lösungen und künstlicher Intelligenz waren. Den aktuellen Kurs der Regierung könnte man getrost als überaus „KI-freundlich“ und „deregulierend“ bezeichnen.  Und genau an dieser Stelle wehren sich nunmehr Betroffene. Ob das an einem sich verändernden Mindset gegenüber des Einsatzes von KI liegt, den verlockenden Schadensersatzsummen oder anderen Faktoren, lässt sich schwer sagen.  Aber die Entwicklung könnte in Richtung mehr Regulierung kippen.

Die EU hingegen hat sehr früh erkannt, dass KI-Lösungen im Recruitingprozess mit großer Vorsicht eingesetzt werden sollten. Der EU AI Act wertet dabei HR-Systeme mit KI als sogenannte „Hochrisikosysteme“. Mit Blick auf die Rechte von Bewerbenden stehen darüber hinaus deutsche Gesetze wie das Allgemeine Gleichbehandlungsgesetzt (AGG) bereit, um Diskriminierungen bestmöglich zu vermeiden bzw. zu ahnden.

Podcast zum EU AI Act und den Auswirkungen auf HR

Auch wenn die Aufzeichnung schon eine Weile her ist, zeigt die auf Digitalrecht spezialisierte Rechtsanwältin Nina Diercks in der Deepdive Folge meines Podcasts Klartext HR #104, worauf HR beim Einsatz von KI achten sollte.

Konkrete Handlungsidee für HR

Für den Fall, dass Ihr Unternehmen auch eines der genannten Systeme einsetzt, könnten nunmehr entsprechende Kommunikationsmaßnahmen angebracht sein, auch abhängig davon, ob die entsprechenden Funktionen innerhalb der Software tatsächlich aktiviert wurden.

Wichtig: Nicht alle Unternehmen, die Software der Anbieter im Recruiting nutzen, haben auch alle in Diskussion stehenden Funktionen und Module aktiv!

Insofern kann es schon helfen, auf der Karrierewebsite bzw. direkt vor dem Start des Bewerbungsprozesses einen deutlichen Hinweis zu platzieren, dass im Folgenden keine künstliche Intelligenz oder automatisierte Mechanismen die Daten analysieren, auswerten oder gar Rankings erstellen.

Mit Blick auf Employer Branding kann daher der bewusste Verzicht – und noch besser: der aktiv kommunizierte bewusste Verzicht auf KI bei der Personalauswahl sogar positiv wirken.

Fazit zu den Sammelklagen Workday und Eightfold

Die genannten Fälle sind juristisch auf die USA beschränkt, könnten aber im Ergebnis Auswirkungen haben auf die jeweiligen Softwareanbieter und gegebenenfalls auch auf den gesamten Einsatz von KI im Recruiting in den USA.

Was das konkret für Deutschland heißen könnte, ist zum aktuellen Zeitpunkt reine Spekulation. Bereits aktuell sind mögliche Sorgen und Ängste von Bewerbenden in Deutschland, die mit den genannten Systemen im Rahmen der Bewerbung in Kontakt kommen.

Hier hilft, was meistens hilft: Technisch und rechtlich saubere Lösungen und ganz viel empathische Kommunikation gegenüber den Bewerbenden.

Wer sich noch deutlich detaillierter über die beiden Sammelklagen informieren möchte, dem lege ich die sehr gut recherchierten Zusammenstellungen meines Blogger-Kollegen Henner Knabenreich ans Herz.

Darüber hinaus werde auch ich weiter darüber berichten, sobald es wissenswerte News gibt.

Wie bekannt, lohnt sich das PERSOBLOGGER.DE Newsletter-Abo.