Teilen auf
Die zahlreichen Einsatzmöglichkeiten von künstlicher Intelligenz (KI) finden bereits Einzug in die Personalarbeit und dürften in Zukunft immer mehr Erleichterung und Optimierung in vielen Bereichen mit sich bringen. Doch eine rechtlich sorgfältige Vorbereitung des KI-Einsatzes ist wichtig. Relevant ist insbesondere der am 13. März 2024 verabschiedete EU Artificial Intelligence Act (nachfolgend KI-Verordnung), der in Kürze mit der Veröffentlichung im Amtsblatt in Kraft treten wird. Daneben gibt es verschiedene andere wichtige arbeitsrechtliche Regelungen, die bei dem Einsatz von KI zu beachten sind.
Vorgaben der KI-Verordnung
Das künftige „Herzstück“ der Regulierung von KI – nicht nur, aber auch im Personalbereich – ist die KI-Verordnung. Sie verfolgt einen risikobasierten Ansatz mit unterschiedlichen Anforderungen an KI-Systeme je nach deren Einsatzrisiken. Die im HR-Bereich zum Einsatz kommenden KI-Systeme werden regelmäßig als sogenannte Hochrisikosysteme gemäß Artikel 6 ff. KI-Verordnung einzustufen sein. Dies gilt unter anderem für Systeme, die im Zuge der Einstellung, der Aufgabenzuweisung, der Leistungsbewertung, der Beförderung und der Kündigung des Arbeitsverhältnisses zum Einsatz kommen.
Da die Hochrisikosysteme eine ausführliche Regulierung durch die KI-Verordnung erfahren werden, sind zahlreiche Vorgaben bei Ihrem Einsatz nicht nur für Anbieter, also Entwickler, sondern auch für Betreiber, also Unternehmen, die die Systeme ihren Mitarbeitern zur Verfügung stellen, zu beachten.
Neben den allgemein geltenden Transparenzpflichten legt Artikel 29 KI-VO spezifisch Betreibern von Hochrisiko-KI-Systemen Pflichten auf. Demnach müssen Betreiber beispielsweise Maßnahmen ergreifen, um die Verwendung des Systems entsprechend der Gebrauchsanweisung sicherzustellen. Zudem muss eine Aufsichtsperson bestellt werden, die die erforderlichen Kompetenzen aufweist und gegebenenfalls durch Schulungen unterstützt wird. Ferner muss gegenüber Betroffenen kenntlich gemacht werden, dass Entscheidungen unter Einsatz des KI-Systems getroffen wurden.
Nicht zu vernachlässigen sind die angedrohten Sanktionen. Sollten die Vorgaben der Verordnung verletzt werden, kann eine Sanktionierung mit Bußgeldern in Höhe von bis zu 7 Prozent des Jahresumsatzes der Unternehmen oder bis zu 35 Millionen Euro erfolgen (je nachdem, welche Summe höher ist).
Datenschutzrechtliche Vorgaben
Neben den erst noch in Kraft tretenden Vorgaben der europäischen KI-Verordnung sind bereits jetzt die allgemeinen datenschutzrechtlichen Regelungen zu beachten. Wie stets im Zusammenhang mit personenbezogenen Daten sind strenge Anforderungen an die Verarbeitung, Nutzung und Speicherung der Daten zu stellen. Bedenklich ist insoweit zum Beispiel bereits im Rahmen der Entwicklung einer KI und ihres Trainings die Speisung mit vorhandenen Personaldaten, die nicht explizit für diese Nutzung erhoben wurden.
Bei dem späteren Einsatz von KI ist insbesondere das Verbot automatisierter Einzelfallentscheidungen gemäß Artikel 22 Absatz 1 DSGVO relevant. Demnach dürfen in der Regel keine, ausschließlich auf einer automatisierten Verarbeitung von Daten beruhenden Entscheidungen getroffen werden, wenn sie eine rechtliche oder eine ähnlich beeinträchtigende Wirkung für den Betroffenen entfalten. Unzulässig wären demnach unter anderem eine automatisch von KI generierte Kündigung (abgesehen von der ohnehin zu wahrenden Schriftform) oder Beförderungs- oder Bonusentscheidungen, die ausschließlich mittels KI erzeugt werden. Auch vollautomatisierte Ablehnungen im Bewerbungsprozess erscheinen bedenklich. Zulässig ist aber die automatisierte Zuweisung von Arbeitsaufträgen über einen Algorithmus. Und auch soweit Artikel 22 DSGVO anwendbar ist, darf der Arbeitgeber KI einsetzen. Es muss lediglich eine menschliche Kontrolle und eine finale Entscheidung sichergestellt sein.
Vorgaben des Allgemeinen Gleichbehandlungsgesetzes
KI hat (jedenfalls derzeit noch) oft Vorurteile. Dieses als AI Bias bekannte Phänomen liegt an den vorhandenen Trainingsdaten, die einerseits auf menschlichen Vorurteilen beruhen. Andererseits zieht KI aus der Häufigkeit einer Information generalisierende Schlüsse. Das führt zu Problemen mit dem Verbot diskriminierender Entscheidungen sowie dem Benachteiligungsverbot gemäß Paragraf 7 Absatz 1 des Allgemeinen Gleichbehandlungsgesetzes (AGG). Wer KI im Recruiting einsetzt, muss daher Vorsorge treffen, um zum Beispiel die pauschale Aussortierung von Bewerbenden wegen des Alters oder anderer Kriterien zu vermeiden.
In dem aktuellen Entwurf der KI-Verordnung wird diese Problematik bereits aufgegriffen, indem Anforderungen an die Trainings-, Validierungs- und Testdatensätze für Hochrisiko-KI-Systeme in Artikel 10 der KI-VO festgehalten werden. Trotz weiterer Anforderungen hinsichtlich technischer Dokumentations- und Aufzeichnungspflichten wird dennoch eine menschliche Kontrolle der Systeme notwendig bleiben, wie sie auch Artikel 14 der KI-Verordnung vorsieht. So oder so bleibt die Verantwortung für die Vermeidung einer Benachteiligung bei den Arbeitgebern. Ein Hinweis auf etwaige Vorurteile der Recruiting-KI dürfte im Streitfall nicht bei der Verteidigung gegen Schadensersatzansprüche aus dem AGG helfen.
Vorgaben des Betriebsverfassungsrechts
Auch an den Betriebsräten ist das Phänomen KI nicht vorbeigegangen. Auf kollektivrechtlicher Ebene erfährt der Einsatz von KI großer Relevanz und löst verschiedene Beteiligungsrechte aus dem Betriebsverfassungsgesetz (BetrVG) aus. Am gewichtigsten ist das Mitbestimmungsrecht nach Paragraf 87 Absatz 1 Nummer 6 BetrVG, das zu beachten ist, wenn die KI dazu bestimmt ist, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen – bis zuletzt legt die Rechtsprechung dieses Mitbestimmungsrecht großzügig aus und lässt eine tatsächliche Überwachungsmöglichkeit ausreichen (selbst wenn die Software nicht auf die Mitarbeiterüberwachung abzielt). Ist diese gegeben, muss der KI-Einsatz vorab unter Beteiligung des Betriebsrates geregelt werden.
Unabhängig davon legt Paragraf 90 Absatz 1 Nummer 3 BetrVG eine Unterrichtungs- und Beratungspflicht für den Einsatz von KI fest. Anders als bei einem Mitbestimmungsrecht ist zur Wahrung des Beteiligungsrechts die umfassende Information und Auseinandersetzung mit der Position des Betriebsrats ausreichend. Die Herstellung eines Konsenses ist nicht erforderlich.
Darüber hinaus kann auch eine Betriebsänderung im Sinne von Paragraf 111 BetrVG vorliegen, wenn die Einführung von KI zu einer grundlegenden Änderung der Arbeitsmethoden führt. Dann hat das Unternehmen mit dem Betriebsrat über die Auswirkungen auf die Beschäftigten zu beraten. Treten Nachteile ein (zum Beispiel, weil Arbeitsplätze abgebaut werden), ist ein Sozialplan abzuschließen.
Zu beachten ist ferner der allgemeine Unterrichtungsanspruch aus Paragraf 80 Absatz 2 Satz 1 BetrVG. Dieser bezieht sich zum Beispiel auf die Wahrung gesetzlicher Vorschriften zu Gunsten der Beschäftigten – worunter sich zum Beispiel die Vorgaben der KI-Verordnung zählen lassen könnten. Steht die Tätigkeit des Betriebsrats im Zusammenhang mit der Einführung oder Anwendung künstlicher Intelligenz, darf der Betriebsrat gemäß Paragraf 80 Absatz 3 Satz 2 BetrVG einen Sachverständigen hinzuziehen.
Um einerseits die Beteiligungsrechte zu wahren, andererseits aber für den KI-Einsatz die notwendige Dynamik nicht zu verlieren, sollten Arbeitgeber eine präzise Abgrenzung der verschiedenen Beteiligungsrechte und ihrer Inhalte vornehmen.
Weitere Beiträge zum Thema:
Christoph Seidler
