Künstliche Intelligenz hält Einzug ins Arbeitsleben. Nicht nur die Rechtsberatungsbranche ist davon betroffen. Auch generell machen sich Jurist:innen weltweit Gedanken darüber, wie Chancen und Risiken von KI im Unternehmenskontext zueinander stehen. Einblicke gewährt Elina Girne, Head of Legal, Governance & Compliance bei Noventiq Europe.
Digitalisierung bietet neue Möglichkeiten für Arbeitswelt
Chancen und Risiken bilden das Rückgrat eines jeden erfolgreichen Unternehmens. Dies gilt für Unternehmen selbst, aber auch für die Rechtswelt, die sie umspannt. Angesichts der Ergebnisse der ACC Chief Legal Officers Survey von 2023, wonach 68 % der Anwälte glauben, dass der Einsatz von KI in juristischen Technologieanwendungen weit verbreitet sein wird, und kombiniert mit ChatGPT, das den Einsatz von KI für eine Mainstreamnutzung ermöglicht, erscheint es sinnvoll, dieses Werkzeug im Gürtel der Firmen genauer unter die Lupe zu nehmen. Insbesondere, wie die Gesellschaft die Risikobereitschaft abwägen kann, ohne die Kontrolle zu verlieren.
Der Digitalisierungsschub während der COVID-19-Pandemie hat uns eine Menge gelehrt. Zum ersten Mal spielten digitale Lösungen unter den extremen Umständen der Pandemie eine Schlüsselrolle für das Funktionieren der Gesellschaft, die Kontinuität der Unternehmen, aber auch unser tagtägliches Leben. Sie hat ein für alle Mal bewiesen, dass digitale Fähigkeiten in der heutigen Welt dringend benötigt werden und die Digitalisierung neue Möglichkeiten bietet.
Größter Boom bei künstlicher Intelligenz
Nach der aktuellen Gartner-Studie „The Future of Legal: Six Shifts GC Must Make by 2025„, erfordert das juristische Betriebsmodell für 2025 eine Reihe von Umstellungen. Dazu gehören Anpassungen in der Technologiestrategie, um das Erreichen von Geschäftsergebnissen zu erproben, und im Bereich der Talentstrategie eine Konzentration auf die Förderung des dynamischen Kompetenzaufbaus.
Trotz der Post-Pandemie-Landschaft entwickeln sich die Trends in der Rechtsbranche und die Digitalisierung nicht so schnell wie erwartet.
Von allen verfügbaren IT-Lösungen erlebt die künstliche Intelligenz (KI) heutzutage den größten Boom. Schlicht aus dem Grund, dass sie interessant und unterhaltsam ist und neue Türen öffnet. Sie ist aber auch ein unvermeidlicher „Game Changer“. KI verfügt über mehr gesammeltes Wissen unter anderem über die Menschen selbst, als es ein einzelner Mensch je könnte. Nicht nur das, KI ist auch in der Lage, Informationen, für deren Verarbeitung Menschen Jahre brauchen würden, sofort zu identifizieren, zu analysieren und entsprechend darauf zu reagieren. Und doch steckt sie wahrlich noch in den Kinderschuhen.
KI-Regulierung der EU angestoßen
Angesichts der offensichtlichen Notwendigkeit einer digitalen Strategie für die neuesten Innovationen hat die Europäische Union nun beschlossen, KI zu regulieren, um bessere Bedingungen für die Entwicklung und Nutzung dieser Technologie zu schaffen. KI kann hier viele Vorteile mit sich bringen, z. B. eine bessere Gesundheitsfürsorge, einen sichereren und saubereren Verkehr, eine effizientere Fertigung und eine billigere und nachhaltigere Energie, so die europäischen Institutionen.
Doch wie hoch ist unsere Risikobereitschaft der Unternehmen? Und wenden sie beim Einsatz von KI einen risikobasierten Ansatz an?
Wir sind daran gewöhnt, dass Unternehmen Versprechen über die Einhaltung von fairen und transparenten Praktiken, Risikobewertungsprozessen, Datenschutz, freien Wettbewerbspraktiken, Geldwäschebestimmungen und Vertraulichkeitsregeln machen.
Doch es ist offensichtlich, dass diese Verpflichtungen in einigen Fällen nur auf dem Papier stehen und nie in die Praxis umgesetzt werden.
Mehr Automatisierung erfordert mehr Kontrolle
Wenn man hier jedoch auch digitale Tools in die Gleichung mit einbezieht, werden Managementsysteme für rechtliche Vorschriften, Lieferketten, Risikomanagement, Compliance und Berichterstattungsprozesse zu einer unverzichtbaren Praxis. Das Paradoxe daran ist, dass wir umso mehr kontrollieren müssen, je mehr wir automatisieren und je weniger wir selbst von Hand erledigen.
Unternehmen müssen über angemessene Risikokontrollen verfügen, eine klare Vorstellung davon haben, welchen Risiken ihr Unternehmen ausgesetzt ist, wie hoch diese Risiken sind, wie sich die Tools auf die jeweiligen Prozesse auswirken und Aktionspläne zur Risikominderung und -beseitigung parat haben.
Digitalisierung erfordert finanzielle Investitionen
Außerdem erfordert die Digitalisierung nicht nur einen Wandel der Unternehmenskultur. Sie ist auch mit finanziellen Investitionen verbunden. Die Transformationskosten hängen von vielen internen und externen Faktoren ab. Je dynamischer der Geschäftsbereich ist, in dem das Unternehmen tätig ist, desto höher sind die Risiken und desto mehr Investitionen können für die Digitalisierung und Automatisierung erforderlich sein.
Und dennoch ist die Digitalisierung kein Allheilmittel. Sie ist ein fortlaufender Prozess, der unsere volle Aufmerksamkeit und bewusste Entscheidungen erfordert, während wir unsere Reise auch weiterhin fortsetzen.
KI-Tools einsetzen statt Nachwuchskräfte rekrutieren
Die erste Befürchtung, die die Gesellschaft hegt, wenn die KI-Diskussion beginnt, ist der Verlust der „traditionellen“ Verwaltungsjobs, die für bestimmte Berufe typisch sind, wobei im Grunde jedes menschliche Wissen durch eine technische Lösung ersetzt wird. Es gibt jedoch auch die Meinung, dass Unternehmen und Einzelpersonen KI besser als das einschätzen sollten, was sie tatsächlich ist – ein leistungsstarkes Werkzeug, das ihre Stärken ergänzen und ihre Schwächen ausgleichen kann. Außerdem wird von KI-Systemen erwartet, dass sie sich bei der Integration dieser Werkzeuge in verschiedene Aspekte unseres Lebens an unseren Werten und Bedürfnissen orientieren.
Und doch liegt die Wahrheit heute irgendwo dazwischen. Jahrzehntelang war der Karriereweg eines Menschen ziemlich klar: Man macht einen Universitätsabschluss, fängt in einem Unternehmen als Junior an und steigt dann mit der Entwicklung seiner Fähigkeiten in höhere Positionen auf.
Als die Unternehmen damit begannen, KI-Tools in ihren Organisationen einzusetzen, kamen sie zu dem Schluss, dass sie auch ohne Nachwuchskräfte auskommen können. Stattdessen brauchen sie Mitarbeitende, die qualifiziert sind, die Tools selbst zu trainieren!
Unternehmen müssen also eine Entscheidung treffen: Sind sie bereit, in Nachwuchskräfte zu investieren, oder sind KI-Tools die bessere Option? Mit dem ständigen Vorantreiben der Digitalisierung scheint die Präferenz auf der Seite der Tools zu liegen. Dies könnte also eine Gelegenheit sein, den Schwerpunkt zu verlagern – die Entwicklung spezifischer Qualifikationen für Studierende, die bereits in der Lage sind, mit diesen neuen Tools umzugehen, anstatt dies einfach als Verlust von Junior-Job-Positionen zu sehen.
KI-Einsatz im Unternehmen risikobehaftet
Auf einer breiteren Ebene der Arbeitsbeziehungen hat die Europäische Union festgestellt, dass der Einsatz von KI-Systemen in verschiedenen arbeitsbezogenen Kontexten, wie z. B. Beschäftigung, Personalverwaltung und Selbständigkeit, erhebliche Risiken birgt. Diese Systeme, insbesondere solche, die mit Aufgaben wie der Einstellung, der Auswahl von Personen, der Entscheidung über Beförderungen und Kündigungen sowie der Aufgabenzuweisung, Überwachung oder Bewertung von Personen in arbeitsbezogenen Vertragsverhältnissen befasst sind, werden als risikoreich eingestuft.
Der Grund für diese Einstufung liegt darin, dass solche KI-Systeme das Potenzial haben, den künftigen Karriereweg und den Lebensunterhalt von Personen erheblich zu beeinflussen.
Bedeutet dies, dass Lebensläufe Schlüsselwörter enthalten müssen, die den Algorithmus füttern, damit dieser sie richtig anwendet, und uns dabei unterstützt, den Job zu bekommen, den wir uns wünschen?
Außerdem besteht die Sorge, dass diese Systeme historische Diskriminierungsmuster fortschreiben könnten. So könnten sie beispielsweise zu Vorurteilen gegenüber bestimmten Gruppen wie Frauen, bestimmten Altersgruppen, Menschen mit Behinderungen oder Menschen mit einer bestimmten Rasse, ethnischen Zugehörigkeit oder sexuellen Orientierung beitragen. KI-Systeme, die zur Überwachung der Leistung und des Verhaltens dieser Personen eingesetzt werden, können auch deren Rechte auf Datenschutz und Privatsphäre beeinträchtigen.
Herausforderung Qualität der Trainingsdaten
Während KI die Daten benötigt, zögern die Unternehmen im Allgemeinen noch, die in ihrem Besitz befindlichen Daten zu organisieren und entsprechende Prozesse zu etablieren. Die Dateneingabe hängt von der Persönlichkeit, der Erfahrung und dem Wissen der Person ab, die die Arbeit ausführt, unabhängig vom Grad der Datengenauigkeit und der angewandten Kontrollen.
Die unbewussten und bewussten Verzerrungen, die den Daten innewohnen, die wir heute mit Hilfe anderer Menschen erheben, zwingen uns zu einer kritischen Betrachtung der Ergebnisse von Datenprozessen und der Ergebnisse der eingesetzten Instrumente. Die Diskriminierung in Bezug auf die Grundrechte eines Menschen aufgrund verschiedener Kriterien ist nach wie vor das größte Risiko.
Aus diesem Grund besteht ein hohes Risiko, dass Entscheidungen über Personen durch eine falsche Interpretation der gesammelten Daten und ungenaue Algorithmen beeinflusst werden. Infolgedessen könnten die KI-Ergebnisse das Leben von Arbeitnehmern und Arbeitnehmerinnen ohne triftigen Grund negativ beeinflussen.
Vorschriften und behördliche Kontrollen
Die EU ist der Ansicht, dass die von KI ausgehenden Risiken als inakzeptabel, hoch oder begrenzt eingestuft werden sollten. Dies bringt eine zusätzliche Ebene in den Prozess der Risikobewertung und des Risikomanagements. Unsere Fähigkeit, solche Herausforderungen zu begreifen und zu bewältigen, hängt davon ab, wie sehr wir uns engagieren und wie lernwillig wir sind. Je engagierter und enthusiastischer wir sind, desto besser sind wir in der Lage, solche Probleme zu bewältigen.
Während sich unsere digitale Entwicklung mit Lichtgeschwindigkeit vollzieht, können nur gesetzliche Rahmenbedingungen, die Bewertung und Lizenzierung von Instrumenten auf Regierungsebene sowie staatliche Initiativen eine gewisse Kontrolle ausüben.
Wie im europäischen KI-Gesetz dargelegt, erfordern KI-Systeme konsequente Risikomanagementverfahren, die eine laufende Bewertung und Evaluierung potenzieller Risiken beinhalten. Diese Systeme erfordern ständiges Training, Validierung und Testen von Datensätzen, die Gegenstand angemessener Data-Governance- und Management-Praktiken sein sollten.
Diese Praktiken umfassen relevante Designentscheidungen, Datenerhebungs- und -verarbeitungsvorgänge, die Prüfung auf mögliche Verzerrungen, Mechanismen zur Behebung von Lücken und mehr. Die EU strebt einen ausgewogenen Ansatz an, der digitale Rechte mit ethischen Standards in Einklang bringt. Es wird erwartet, dass die Schaffung eines Binnenmarktes und eines Rechtsrahmens das Vertrauen in KI stärken wird.
Die wichtigsten Schlussfolgerungen
In Anbetracht der Sorge um die Sicherheit des Arbeitsplatzes und der potenziellen Einsichtnahme in unsere Daten zu verschiedenen Zwecken sollten Sie folgende proaktive Schritte in Betracht ziehen:
- Daten müssen geschützt werden, indem sie strategisch erstellt und weitergegeben werden und mit sinnvollen Zielen verknüpft werden, die zur Erreichung der Ziele beitragen und Weiterentwicklung fördern.
- Es bedarf einer strategischen Planung und einer Ausrichtung auf eine Zukunftsvision. Der sinnvolle Einsatz von KI-Tools kann sich positiv auf Budget und Einkommenswachstum auswirken. Prozesse sollten mit Bedacht angepasst werden, um eine ausgewogene Reaktion auf die aktuellen Herausforderungen zu gewährleisten. Denn manchmal kann weniger mehr sein.
- Es bedarf eines intelligenten Umgangs mit Risiken. Die Belegschaft sollte proaktiv für die Zukunft geschult werden, das Risikomanagement sollte auf die internen Entwicklungsbestrebungen abgestimmt werden und die Instrumente, die eingesetzt werden können, sollten verbessert werden. Dabei ist zu berücksichtigen, dass äußere Umstände auch bei traditionellen Ansätzen fortbestehen können.
- Verbündete auf dem Weg in die Zukunft zu finden ist essentiell. Ob durch das Testen von Ideen, Werkzeugen oder Lösungen in einem realen Umfeld: Austausch von Ideen und Leidenschaft oder das Ansprechen von Bedenken und Ängsten – die Zusammenarbeit mit anderen liefert wertvolle Erkenntnisse.
Dabei sollten Sie eine dynamische Kultur fördern, indem Sie die Zusammenarbeit kultivieren und die Flexibilität innerhalb des Unternehmens und des Teams stärken. Dieser Ansatz wird zweifellos die Leistung auf dem wettbewerbsorientierten Markt steigern und eine rasche, fundierte und risikobewusste Entscheidungsfindung erleichtern.
—
Disclaimer:
Die in diesem Beitrag geäußerten Ansichten und Meinungen sind ausschließlich die der Autorin und spiegeln nicht automatisch die offizielle Politik oder Position einer mit der Autorin verbundenen Organisation oder Firma wider.
Noventiq Holdings PLC ist in Deutschland nicht kommerziell tätig. Alle Dienstleistungen in Deutschland werden von der Softline GmbH unter der Marke Softline Group angeboten. Die Softline GmbH ist Teil der Noventiq-Unternehmensgruppe.