Künstliche Intelligenz (KI) wird die Arbeit der Personalabteilungen grundlegend verändern. Für HR bietet KI die Chance, sich bei notorisch knappen Ressourcen auf die gestalterischen Fragen zu orientieren und das standardisierte Tagesgeschäft der KI zu überlassen. Ein Überblick über mögliche use cases und arbeitsrechtliche Folgefragen von Rechtsanwalt Christoph Seidler.
Der Einsatz von KI im Recruiting – Nutzen und Risiken
Insbesondere im Recruiting kann KI wertvolle Unterstützung für den Personalbereich liefern. Mit generativer KI lassen sich z.B. Stellenbeschreibungen anhand einzelner Stichworte erstellen. Analytische KI kann z.B. einen großen Pool von Bewerbungen nach Relevanz filtern.
Doch der Einsatz von KI ist rechtlich gründlich vorzubereiten. Unternehmen aller Größen sehen sich im Recruiting-Prozess gelegentlichen Entschädigungsklagen wegen vermeintlicher Verstöße gegen das Diskriminierungsverbot des Allgemeinen Gleichbehandlungsgesetzes ausgesetzt.
Dieses Problemfeld wird durch den Einsatz von KI nicht beseitigt, ggf. sogar verstärkt.
Objektive KI vs. Algorithmic Bias
Auf den ersten Blick liegt die Vermutung nahe, KI sei objektiv. Doch das ist nicht gesichert. Dies liegt daran, dass KI-Algorithmen Daten gruppieren, Bewerber:innen diesen Gruppen zuordnen und daraus Schlüsse ziehen. Diskriminierungsfragen treten auf, wenn KI-Anwendungen Entscheidungen z.B. aufgrund von Merkmalen wie einer (unterstellten) ethnischer Herkunft (basierend etwa auf dem Namen oder einem im Ausland liegenden Geburtsort), Geschlecht, Religion, Behinderung, oder Alter treffen. Eine solche Voreingenommenheit (Algorithmic Bias) lässt sich bei derzeit verwendeten KI-Programmen mitunter feststellen. Sortiert die KI etwa Bewerbende über 50 Jahren aus, weil eine Eignung für die betroffene Stelle mutmaßlich nicht gegeben ist, wäre möglicherweise eine Altersdiskriminierung gegeben.
Zwar müssen Personen, die eine Diskriminierung behaupten und daraus Ansprüche geltend machen, das Vorliegen einer diskriminierenden Handlung beweisen. Ein solcher Beweis könnte mit dem Einsatz von KI aber künftig leichter fallen. Ist etwa bekannt, dass KI im Bewerbungsverfahren zum Einsatz kam, könnte ein Arbeitsgericht dem Arbeitgeber aufgeben, die Funktion der KI offenzulegen. Ist aus der Programmierung eine diskriminierende Auswahl zu erkennen, wäre ein Entschädigungsanspruch leicht zu begründen.
Wie kann ich als Arbeitgeber Diskriminierungsrisiken im Recruiting vermeiden?
Um neue Klagerisiken wegen Diskriminierung zu reduzieren, müssen Arbeitgeber die (noch) gegebene Fehleranfälligkeit der Anwendungen einplanen. Kommt ein Recruiting-Tool eines externen Dienstleisters zur Anwendung, sollte der Arbeitgeber die Objektivität des KI Tools hinterfragen und den Dienstleister ggf. um Nachjustierung bitten. Allein der Hinweis auf die Verantwortlichkeit eines dritten Unternehmens wird eine Diskriminierungsklage nicht verhindern. Kann der Arbeitgeber nachweisen, sich bei seinem Serviceprovider abgesichert zu haben, ist die Verteidigung aber erleichtert.
Solange KI keine Gewähr für objektive, AGG-konforme Recruitingprozesse geben kann, bleibt dem Arbeitgeber nur die manuelle Überprüfung. Die Ergebnisse der KI sollte das Recruiting-Team zumindest stichprobenartig nachprüfen. So lassen sich Fehler beseitigen, und jede erkannte Schwachstelle kann für die Zukunft nachgebessert werden.
Einsatz von Chatbots als Element der Personalarbeit
Ein bereits häufiger eingesetztes Instrument zur Erleichterung der Personalarbeit sind sog. Chatbots, in denen Mitarbeiter Fragen mit Bezug zu ihrem Arbeitsverhältnis eingeben können, die automatisiert und ohne Prüfung durch Beschäftigte des Personalbereichs beantwortet werden. Häufig auftretende Fragen mit geringer Komplexität können so schnell und ressourcenschonend beantwortet werden.
Bei derartigen Systemen stellt sich zunächst die Frage, ob es sich überhaupt um künstliche Intelligenz handelt. Dies ist nicht bei allen Varianten der Fall. In manchen bisher genutzten Chatbots werden Antworten lediglich mit einem Algorithmus anhand vorab gespeicherter Informationen gegeben. In diesem Falle fehlt es der Anwendung an der Intelligenz, also der Fähigkeit, eigenständig Antworten zu suchen oder sich aus Erkenntnissen aus dem laufenden Betrieb weiterzuentwickeln.
Zu klärende Fragen bei der Nutzung von Chatbots
Inhaltlich stellen sich zwei wesentliche Fragen. Erstens: Was passiert mit den eingegebenen Daten? Häufig werden die Nutzer Informationen über ihr Arbeitsverhältnis eingeben – d.h. die Anwendung erhebt und verarbeitet personenbezogene Daten. Zu beachten sind daher die gesetzlichen Datenschutzvorgaben, deren Missachtung zu Bußgeldern führen kann. Dies gilt im Übrigen unabhängig davon, ob es sich um KI handelt oder lediglich um eine „herkömmliche“ Datenverarbeitung. Ein Datenschutzkonzept sollte darum definieren, ob und unter welchen Voraussetzungen welche Beschäftigte des Personalbereichs die eingegebenen Daten auswerten können.
Zweitens: Muss der Arbeitgeber unrichtige Antworten des Chatbots gegen sich gelten lassen?
Denkbar ist eine Auskunft, die eine Leistung in Aussicht stellt, obwohl die Anspruchsvoraussetzungen nicht gegeben sind. Oder der Chatbot gibt eine negative Auskunft (z.B.: Es sind keine Urlaubstage mehr vorhanden), wodurch die Nutzer von einer Geltendmachung ihrer Ansprüche gehindert werden. Zur Vermeidung von Streitigkeiten könnten Arbeitgeber versucht sein, die Rechtsverbindlichkeit der Antworten auszuschließen. Dann bleibt die Frage, ob die Arbeitsgerichte im Streitfall eine derartige Erklärung akzeptieren oder der Arbeitgeber sich die unrichtige Antwort zurechnen lassen muss.
Arbeitgeberentscheidungen auf Basis von KI
Mehr und mehr Arbeitgeber nutzen KI bereits, wenn sie Entscheidungen mit Auswirkungen für die Beschäftigten treffen. Anwendungsfälle gibt es bereits bei der automatisierten Zuordnung von Arbeitsanweisungen, wie z.B. bei Lieferdiensten, die eingehende Aufträge voll-automatisiert per App an die Fahrer verteilen (auch hier ist aber eine Abgrenzung zwischen KI und „einfachen“ Algorithmen notwendig). Eine KI kann ferner automatisch Dienstpläne, Schichtpläne und Urlaubspläne erstellen und damit die Einsatzplanung von Vorgesetzten übernehmen. Denkbar sind auch Bonus- oder Beförderungsentscheidungen oder gar Kündigungen, die KI-basiert erfolgen.
Derartige Vorgänge sind im Grundsatz unbedenklich. Diskussionen in der Fachwelt, ob KI juristisch in der Lage ist, Arbeitgeberentscheidungen zu treffen, gehen an der eigentlichen Fragestellung vorbei. Denn – jedenfalls bislang – beruht der Einsatz von KI stets auf einer vorherigen Entscheidung des Arbeitgebers, diese Systeme einzusetzen. Die KI ist demnach lediglich der „verlängerte Arm“ des Arbeitgebers. Grundsätzliche rechtliche Bedenken bestehen insoweit nicht.
Natürlich muss eine KI-basierte Entscheidung die rechtlichen Grenzen der Arbeitgeberbefugnisse beachten. Eine Arbeitsanweisung etwa muss billigem Ermessen genügen (§ 106 S. 1 GewO, § 315 I BGB). Eine Bonusentscheidung muss die vorhandenen vertraglichen Vorgaben genauso beachten wie den arbeitsrechtlichen Gleichbehandlungsgrundsatz und das Diskriminierungsverbot. Und eine Kündigung muss die gesetzliche Schriftform wahren, weshalb KI allenfalls die Grundlage liefern darf. Und natürlich müssen die materiellen Vorgaben des gesetzlichen Kündigungsschutzes gewahrt werden.
In dem aktuellen frühen Stadium des KI-Einsatzes tun Arbeitgeber darum gut daran, sich nicht vollständig auf KI zu verlassen. Ebenso wie automatisch generierte Texte von ChatGPT und ähnlichen Programmen im Einzelfall überprüft werden sollten, sollten auch Arbeitgeberweisungen, Bonusentscheidungen und andere rechtlich relevante Vorgänge einer Kontrolle durch Führungskräfte oder den Personalbereich unterliegen.
Mitbestimmung des Betriebsrats
Existiert im Unternehmen ein Betriebsrat, wird dieser im Kontext der Nutzung von KI im Personalbereich in aller Regel zu beteiligen sein. In den geschilderten Fällen werden häufig personenbezogene Daten der Beschäftigten verarbeitet. Das führt zu einem Mitbestimmungsrecht gemäß § 87 Abs. 1 Nr. 6 BetrVG. Diese Mitbestimmung wird ist den Arbeitgebern bereits von der Einführung „normaler“ IT-Systeme bekannt. Doch mit der Einführung von KI werden sich die Mitbestimmungsprozesse ändern.
Bei jeder Einführung von KI darf der Betriebsrat einen Sachverständigen hinzuziehen (§ 80 Abs. 3 S. 2 BetrVG). Die Auswirkung auf Budget und Zeitplan sind zu berücksichtigen. Im positiven Sinne können kompetente Sachverständige Betriebsräte, die in KI-Fragen häufig noch unerfahren sind, sinnvoll beraten und Entscheidungsprozesse beschleunigen. Derzeit ist allerdings zu beobachten, dass Betriebsräte bei der Einführung neuer Software recht zügig auf die Sonderregel zur KI verweisen, obwohl tatsächlich keine KI eingeführt wird. Wie zuvor dargestellt, verwenden insbesondere Chatbots häufig keine KI. Dann kann der Betriebsrat einen Sachverständigen nur hinzuziehen, wenn die Erforderlichkeit im Einzelfall begründet werden kann.
Inhalte und Grenzen der Mitbestimmung
Diskussionen wird es bei der Mitbestimmung zu KI noch geben, wie weit der Betriebsrat Einfluss nehmen darf. Entsprechend der Diskussionen zur Einführung klassischer Software wird es Betriebsräte geben, die die Auswahl der Anwendung, die Funktionalität der KI in allen Einzelheiten und vieles mehr verhandeln möchten. Für eine solch weitreichende Auslegung der Mitbestimmung ist allerdings kein Raum. Das Ziel der Mitbestimmung ist eine Kontrolle, inwieweit die gewählte KI Auswirkung auf die Arbeitsverhältnisse hat.
Daraus ergibt sich eine Begrenzung der Mitbestimmung auf die Frage, welche personenbezogenen Daten wie erhoben und verarbeitet werden, und zu welchem Zweck der Arbeitgeber sie einsetzen darf. Zu wünschen ist, dass Arbeitgeber und Betriebsrat sich in diesem Sinne auf einen konstruktiven und effizienten Prozess verständigen. Ein sinnvoller Aufsatzpunkt hierfür können Rahmenvereinbarungen über die Einführung von IT-Systemen sein.
Newsletter