Noch lässt sich der Einsatz von KI in HR ethisch gestalten

Das Beispiel Amazon zeigt: Derzeit entscheidet sich, ob es uns künftig gelingen wird, künstliche Intelligenz im HR-Bereich ethisch vertretbar einzusetzen.
© gettyimages / dimdimich

Das Beispiel Amazon zeigt: Derzeit entscheidet sich, ob es uns künftig gelingen wird, künstliche Intelligenz im HR-Bereich ethisch vertretbar einzusetzen.

Die New York Times und Bloomberg ermöglichten der Welt jüngst einen Einblick in das hochgradig automatisierte Personalwesen beim „Everything Store“-Amazon, der uns ein Lehrstück dafür bietet, was die Auslagerung von Entscheidungsprozessen auf KI-Systeme für unvorhersehbare und dramatische Folgen haben kann. Während KI-Lösungen Personalabteilungen heute in vielen Bereichen unterstützen, hat sich vielleicht kaum ein Unternehmen diesem Ansatz so verschrieben wie Amazon. In Europa stehen wir mit KI im Personalwesen noch relativ am Anfang und ursprüngliche Erwartungen in Hype-Versprechen wurden enttäuscht, wodurch sich eine gute Gelegenheit bietet, den ethischen Einsatz von KI im Personalwesen aus einer aktuellen Perspektive zu diskutieren.

Automatos: altgriechisch für „von selbst geschehend“

Spätestens seit der Antike sind Menschen fasziniert und beängstigt von vom Menschen geschaffenen Objekten, die scheinbar selbstständig handeln oder sogar denken können. Diese Auseinandersetzung berührt so grundsätzliche Fragen wie die, was es heißt Mensch zu sein, aber auch ganz praktische nach unserer eigenen Autonomie. Aus der ersten industriellen Revolution sind uns die “Ludditen” genannten Maschinenstürmer als Sinnbild für technikfeindliche Ewiggestrige geblieben. Sieht man genauer hin, ging es den Ludditen jedoch vor allem um ein Mitspracherecht bei den Veränderungen, welche die industrielle Revolution um sie herum mit sich brachte.

+++Sie bekommen von HR nicht genug? Dann melden Sie sich jetzt für unsere Newsletter an. Hier geht es zur Anmeldung!+++

Brauchte das sich seit dem 19. Jh. anbahnende Computerzeitalter mehr als 100 Jahre bis zu seinem Durchbruch, wurden die Maschinen nun auch den Arbeitsplätzen höher qualifizierter Arbeitskräfte gefährlich. In der aktuellen vierten industriellen Revolution ist Technologie auch zusehends für das Management von Mitarbeiter:innen verantwortlich. So müssen auch wir uns heute die Frage stellen, wie wir mit den gesellschaftlichen Veränderungen der neuen Technologien umgehen wollen.

Künstliche Intelligenz im Human Resources Management ist der Gegenstand wissenschaftlicher Forschung spätestens seit den frühen 2000er Jahren. Fast ebenso lange versuchen Technologieunternehmen aus der Idee Kapital zu schlagen und es von der Personalbeschaffung bis zum Workforce Management auf jeden Teilbereich auszuweiten.

„Day Two“ im automatisierten Personalwesen

Als hauptsächlich technologiegetriebenes Unternehmen, war Amazon schon früh führend bei der Anwendung von KI auf HR. Das Unternehmen nutzte für das Sourcing von 2014 bis 2017 eine Lösung basierend auf maschinellem Lernen. Letztendlich stellte man fest, dass der Algorithmus gegenüber Frauen systematisch diskriminierte. Der Grund: Die für das Training genutzten Lebensläufe stammten überwiegend von Männern. Man gab weitere Versuche auf, da nicht auszuschließen war, dass bestehende strukturelle Ungleichheiten nicht ständig reproduziert werden würden.

In seiner E-Commerce-Sparte geht das Unternehmen noch weiter: Durch automatisierte Systeme, die künstliche Intelligenz nutzen, sollen menschliche Interaktionen auf ein Minimum reduziert werden. Als Amazon beispielsweise im März 2020 eine Regelung für unbegrenzten unbezahlten Urlaub einführte und aufgrund des gigantischen Anstiegs von Online-Bestellungen kurz darauf in vielen Lagerhäusern sogenannte verpflichtende Überstunden anordnete, war die Verwirrung groß. Viele Mitarbeitende, die von der Regelung Gebrauch machten, erhielten automatische Kündigungen, ohne Möglichkeit über diese persönlich mit einem:einer Sachbearbeiter:in sprechen zu können.

Das Fazit: Weder interessiert sich der Algorithmus für menschliche Befindlichkeiten und Bedürfnisse noch schafft er es, die Komplexität der realen Welt abzubilden.

Wo KI aktuell sinnvoll eingesetzt werden kann

Zeigen die bisherigen Beispiele, dass KI im Personalwesen für viele Anwendungsszenarien noch einen weiten Weg vor sich hat, stellt sich die Frage, wie bei dem derzeitigen Entwicklungsstand ein positiver Einsatz von KI aussehen kann?

  • Wissensmanagement und Service-Anfragen: Durch Chatbots können sich wiederholende Mitarbeiteranfragen oder Prozesse effizient automatisiert werden und die Personalabteilung entlastet werden. Die sehr ausgereifte Technologie lohnt sich überall dort, wo der niedrigschwellige Zugang zu Informationen gefragt ist und über einen Dialog eingeholt werden kann.
  • Recruiting: Im Recruiting kann KI bei der Kommunikation mit den Bewerber:innen unterstützen, durch das Beantworten von Fragen zum Prozess und zum Status der Bewerbung oder die automatisierte Vergabe von Interviewterminen.
  • Personalentwicklung: Hier gibt es erst wenig konkrete Anwendungsfälle. Entsprechende Systeme könnten Mitarbeitenden jedoch zukünftig helfen, die Anforderungen für angestrebte Rollen besser zu verstehen und geeignete Entwicklungsmaßnahmen vorschlagen. Dazu werden im Hintergrund gesammelte Daten aus vorherigen Feedbacks und KI-gestützter Skill-Assessments genutzt, die mit dem Anforderungsprofil abgeglichen werden.

Wie beurteilt man die ethischen Implikationen von KI in Personalwesen?

Jede Organisation und jedes Unternehmen muss für sich im Einzelfall beantworten, wo ein Einsatz von KI für sie sinnvoll ist und wo und wie er ethisch vertretbar ist. Dabei können die Richtlinien des Ethikbeirats HR-Tech helfen. Transparenz zieht sich als Leitwert durch die Empfehlungen: Transparenz den Mitarbeitenden gegenüber, jedoch auch von den Anbietern, die belegen müssen, dass ihre Lösungen auf einwandfreien Datensätzen und fundierten Modellen basieren und zu guter Letzt auch Transparenz durch den Aufbau der Kompetenz, die Funktionsweisen der KI-Systeme grundlegend verstehen und beurteilen zu können.

Was die Richtlinien auch betonen: Die letztendliche Entscheidung in Personalprozessen, gerade wenn sie große Auswirkungen auf das Leben der Mitarbeitenden hat, sollte immer ein Mensch treffen. Dabei sollte stets die Möglichkeit bestehen, ein:e menschliche Ansprechpartner:in zu kontaktieren. Wer diese Punkte umsetzt, kann KI im Personalwesen sinnvoll zum Einsatz bringen, ohne eine Dystopie zu schaffen.