Der Einsatz künstlicher Intelligenz („KI“) ist in aller Munde und auch im HR-Bereich nicht mehr wegzudenken. Über eine EU-weite Regulierung der KI wird bereits lange diskutiert und besonders Arbeitgeber und HR-Führungskräfte schauen seit nunmehr drei Jahren geduldig in Richtung Brüssel und Straßburg. Nun naht die EU KI-Verordnung. Was sie für HR bedeutet, verraten Christian von Bühler und Johanna Reiland.
Die EU KI-Verordnung
Eine Zeitlang schien es, als würde der im April 2021 veröffentlichte Kommissionsentwurf zur KI-Verordnung (auch bekannt unter dem englischen Titel „Artificial Intelligence Act – AI Act“) im Gesetzgebungsprozess versanden. Jetzt aber ging es plötzlich ganz schnell: Nach Billigung des Europäischen Parlaments vom 13. März 2024 ist nun der Europäische Rat gefragt, welcher seine Zustimmung aber bereits signalisiert hat. Unternehmen sollten daher mit einem Inkrafttreten der KI-Verordnung noch vor der Europawahl im Juni 2024 rechnen und darauf vorbereitet sein.
Was beinhaltet die KI-Verordnung und ab wann gilt sie?
Die KI-Verordnung ist das weltweit erste umfassende Regelwerk für den Einsatz von KI. Im Kern unterliegt die Entwicklung und Nutzung von KI unter der KI-Verordnung einem risikobasierten Ansatz mit dreistufigem Regelungsregime: Während (i) KI-Systeme mit einem inakzeptablen Risiko gänzlich verboten werden und für (ii) Hochrisiko-KI-Systeme strenge technische und organisatorische Anforderungen gelten, unterliegen (iii) Anwendungen mit geringem Risiko lediglich bestimmten Transparenz- und Informationspflichten.
Die Einhaltung der Pflichten aus der KI-Verordnung soll durch abschreckende Geldbußen von – je nachdem welcher Betrag höher ist – bis zu EUR 35 Millionen oder 7% des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres abgesichert werden.
Als EU-Verordnung gilt die KI-Verordnung nach Inkrafttreten – voraussichtlich im zweiten Quartal 2024 – in allen Teilen verbindlich und unmittelbar in jedem EU-Mitgliedsstaat. International tätigen Unternehmen wird diese Harmonisierung helfen. Die Regelungen der KI-Verordnung gelten dabei grundsätzlich nach einer Übergangsfrist von zwei Jahren. Lediglich für besonders riskante Einsatzmöglichkeiten von KI gelten Restriktionen bereits sechs Monate nach Inkrafttreten.
Wo „KI“ draufsteht, ist noch lange nicht wirklich KI drin
Unternehmen sollten diese Zeit nutzen, um sich mit den Anforderungen der KI-Verordnung vertraut zu machen und bereits heute Rahmenbedingungen für den Einsatz von KI im Unternehmen erarbeiten. Zentrale Aufgabe der HR-Abteilung ist es dabei, im HR-Bereich eingesetzte digitale Systeme („KI-Tools“) auch solche einordnen zu können. Denn Anbietern digitaler Produkte haben längst erkannt, dass die bloße Bezeichnung eines Produkts als „KI“ durchaus vertrieblichen Nutzen haben kann und fluten den Markt mit vermeintlichen KI-Produkten.
Anders als eine solche „Fake-KI“, deren Output auf menschlicher Intelligenz basiert, erkennt eine echte KI aus den eingegebenen Informationen selbständig Zusammenhänge und Ableitungen und kann auf dieser Basis auch mit einem unterschiedlichen Grad der Autonomie und Anpassungsfähigkeit eigenständige Entscheidungen erzeugen oder Empfehlungen entwickeln.
Auswirkungen der KI-Verordnung im HR-Bereich – Vorsicht bei Hochrisikosystemen
Im Bereich HR bestehen KI-Anwendungsfälle im gesamten Employee-Lifecycle. Schon heute erhalten Unternehmen vielfach mittels KI erstellte Bewerbungsanschreiben, die dadurch kaum mehr aussagekräftig sind. Als Reaktion verzichten viele Unternehmen bereits auf Anschreiben und stützen ihre Auswahlentscheidung ausschließlich auf den Lebenslauf. Im Beschäftigungsverhältnis setzen Mitarbeitende selbst zunehmend KI-Tools zur Erledigung ihrer täglichen Arbeit (etwa Chatbots) ein. Hier ist es Aufgabe von HR, daraus folgende Qualitätseinbußen zu verhindern, die Datenflüsse zu sichern und vor allem Transparenzpflichten einzuhalten.
Besondere Auswirkung wird die KI-Verordnung aber beim Einsatz von KI-Systemen zur Erfüllung von HR-Aufgaben haben. Denn der Einsatz von KI zu Zwecken des Personalmanagements stellt einen Standardfall eines Hochrisikosystems der KI-Verordnung dar. Die KI-Verordnung enthält für den Einsatz solcher Systeme, die bestimmungsgemäß bei einer Entscheidung zur Leistungsbewertung oder Ausübung des Arbeitgeber-Direktionsrechts eingesetzt werden, umfangreiche und neue Restriktionen. Insbesondere müssen Unternehmen hier ein Risikomanagementsystem einrichten, Qualitätsmanagement- und Informationspflichten erfüllen, die Genauigkeit, Robustheit und Sicherheit des Systems sicherstellen und das System laufend überwachen und gegebenenfalls korrigieren.
Die KI-Verordnung bleibt insgesamt eine Evolution und ist keine Revolution
KI-Systeme zur Emotionserkennung am Arbeitsplatz und daraus berechnete Wahrscheinlichkeit einer Kündigung sind (und bleiben) in Europa aufgrund von inakzeptablen Risiken verboten. Unterhalb dieser Ebene des Totalverbots wird der Einsatz von Hochrisikosystemen stark reglementiert. Das ist aber kein Novum der KI-Verordnung. Denn insbesondere im Beschäftigungsverhältnis reguliert das geltende Datenschutzrecht bereits die grundlegenden Aspekte des Einsatzes von KI-Tools.
Nach der Systematik der Datenschutz-Grundverordnung („DSGVO“) gelten Beschäftige nämlich gegenüber ihren Arbeitgebern als besonders schutzwürdig und insbesondere solche Informationen, die eine Leistungs- und Verhaltenskontrolle ermöglichen, unterliegen besonderem Schutz. Schon heute ist im Geltungsbereich der DSGVO daher beispielsweise eine automatisierte Bewerberauswahl als sog. automatisierte Entscheidungsfindung verboten. Gerade kürzlich hat der Europäische-Gerichtshof („EuGH“) den Schutz vor automatisierten Entscheidungen erheblich ausgeweitet, indem er bereits Fälle umfasst, in denen KI eine menschliche Entscheidung maßgeblich beeinflusst (vgl. EuGH Urt. v. 7. Dezember 2023, Az. C-634/21). Dieses Urteil hat daher schon heute erhebliche Auswirkungen auf den Einsatz von KI zur Personalverwaltung.
Daneben bestehen besondere Dokumentations- und Rechenschaftspflichten der DSGVO z.B. mit Blick auf die Information der Beschäftigten und die umfangreiche Dokumentation der Risikobewertung anhand gesetzlicher Vorgaben durch eine sog. Datenschutz-Folgenabschätzung (Art. 35 DSGVO). Unternehmen sind gut beraten, trotz des in den letzten Jahren nur zögerlich erfolgten behördlichen Vollzugs von Datenschutzschutzverletzungen, hier nicht auf Lücke zu setzen. Mitunter haben Aufsichtsbehörden nämlich bereits angekündigt, ihre Bußgeldpraxis verschärfen zu wollen, nachdem sie das am 5. Dezember 2023 ergangene Urteil des EuGH (Az. C-807/21) zu formellen Anforderungen an die Verhängung von Bußgeldern gegen Unternehmen abgewartet haben.
Chancen durch KI im HR-Bereich
Die bestehenden und kommenden Restriktionen für KI-Tools dürfen keinesfalls vom enormen Potenzial für eine positive Veränderung von HR-Prozessen ablenken. Vielfach werden beispielsweise die Risiken des KI-Einsatzes thematisiert, insbesondere das Risiko des erheblichen Wegfalls von Arbeitsplätzen. KI sollte aber nicht vordergründig als Tool zur Restrukturierung und damit zum Abbau von Arbeitsplätzen missverstanden werden. Denn im Idealfall führen der Einsatz und die Nutzung von KI durch Beschäftigte zu einer Arbeitserleichterung und einer damit verbundenen Steigerung der Produktivität.
Beschäftigte können sich daher durch betriebliche und außerbetriebliche Weiterbildungen digitale Kompetenzen aneignen oder vorhandenes Know-How ausbauen (sog. Re-Skilling bzw. Up-Skilling).
Mitwirkungs- und Mitbestimmungsrechte des Betriebsrats und deren Grenzen
Die Einführung und Anwendung von KI-Tools führen im HR-Bereich auch zu erheblichen arbeitsrechtlichen Herausforderungen. Im Fokus steht die Einbindung der Betriebsräte, da die Nutzung von KI in der Regel sowohl Mitwirkungs- als auch Mitbestimmungsrechte des Betriebsrats auslöst.
Mitwirkungsrechte beim Einsatz von KI
Betriebsräte haben einen gesetzlich verankerten Anspruch auf Hinzuziehung von Sachverständigen, soweit dies zur ordnungsgemäßen Erfüllung ihrer Betriebsratsaufgaben erforderlich ist (§ 80 Abs. 3 S. 1 Betriebsverfassungsgesetz („BetrVG“). Sofern der Betriebsrat zur Durchführung seiner Aufgaben die Einführung oder Anwendung von KI beurteilen muss, wird die „Erforderlichkeit“ gesetzlich vermutet (§ 80 Abs. 3 S. 2 BetrVG).
Diese gesetzliche Vermutung führt allerdings nicht dazu, dass Arbeitgeber ohne weiteres die Kosten für Sachverständige übernehmen müssen. Hier ist insbesondere zwischen der allgemeinen sachverständigen Beratung zu KI-Technologien und der speziellen sachverständigen Beratung zur Einführung und Anwendung von KI-Tools, die von Beschäftigten genutzt werden und deren Daten verarbeiten, zu differenzieren.
Die Erforderlichkeit kann bei einer vom Betriebsrat begehrten Hinzuziehung von Sachverständigen zu allgemeinen Fragen des Einsatzes von KI (z.B. ethischer Rahmen von KI in der Arbeitswelt, KI mit Anweisungscharakter) zu verneinen sein. Denn die Aufgabe von Sachverständigen besteht nicht darin, dem Betriebsrat fehlende Kenntnisse auf abstrakter Ebene oder auf Vorrat zu vermitteln.
Daneben wird häufig das Unterrichtungs- und Beratungsrecht der Betriebsräte gemäß § 90 BetrVG einschlägig sein, wonach Arbeitgeber den Betriebsrat u.a. rechtzeitig über die Planung von Arbeitsverfahren und Arbeitsabläufen einschließlich des Einsatzes von KI zu unterrichten haben (§ 90 Abs. 1 Nr. 2 BetrVG).
Dabei ist aber zu beachten, dass Betriebsräte nicht bereits bei unternehmerischen Vorüberlegungen zum Einsatz von KI (z.B. Identifizierung möglicher unternehmerischer Ziele), sondern erst ab Vorhandensein einer konkreten arbeitgeberseitigen Zielorientierung zu unterrichten sind. Die reine unternehmerische Eruierung von Handlungsbedarfen löst – so das Bundesarbeitsgericht – noch kein betriebsverfassungsrechtliches Informationsrecht des Betriebsrats aus.
Mitbestimmungsrechte beim Einsatz von KI
Sofern KI-Tools dazu geeignet sind, Leistung und Verhalten der Beschäftigten zu überwachen, steht – neben den aus DSGVO und KI-Verordnung folgenden Restriktionen – den Betriebsräten ein erzwingbares Mitbestimmungsrecht gemäß § 87 Abs. 1 Nr. 6 BetrVG zu.
Unternehmen sollten hier zur Vermeidung uferloser Mitbestimmungsrechte in jedem Einzelfall prüfen, ob der Mitbestimmungstatbestand bezogen auf das KI-Tool auch wirklich eröffnet ist.
Festzuhalten gilt, dass die bloße Eigenschaft als „KI“ die bestehenden Mitbestimmungsrechte des Betriebsrats gegenüber anderen von § 87 Abs. 1 Nr. 6 BetrVG umfassten technischen Einrichtungen nicht erweitert.
Fazit
Die KI-Verordnung hat das Potenzial das Vertrauen in KI zu fördern, indem sie klare und einheitliche Regeln für den Einsatz von KI schafft. Dies kann die Akzeptanz von KI-Anwendungen im HR-Kontext – wünschenswerterweise auch bei den Betriebsräten – erhöhen.
Unternehmen und deren HR-Abteilungen, die KI nutzen oder nutzen wollen, sollten den Anschluss nicht verlieren und sich frühzeitig mit den regulatorischen Pflichten beschäftigen. Dies insbesondere deshalb, weil das geltende Datenschutzrecht schon heute hohe Anforderungen an die Nutzung von KI-Tools im Beschäftigungsverhältnis stellt.
Newsletter