„Darf ich diese Kundendaten in unsere KI eingeben?“ Solche Fragen erreichen das Team Datenschutz & Compliance des großen Versicherers inzwischen täglich. Mal geht es um Bestandsverträge von Mitbewerbern, mal um E-Mails, mal um die Analyse von Kunden-Clustern in Excel. Die Quellen sind unterschiedlich, die Frage bleibt gleich: Wie können personenbezogene Daten in die KI einfließen?
Bei sensiblen Informationen ist die Angst groß, was mit den Daten passiert: Wo landen sie, wie werden sie genutzt? Für die Nutzerinnen und Nutzer ist ihre Verarbeitung oft eine Blackbox. Umso wichtiger ist es, sich beim Einsatz von KI nicht nur mit Technik und Recht zu beschäftigen, sondern auch mit Change Management.
Unser Beratungsprozess für das Versicherungsunternehmen sollte genau das leisten: Der Kunde wählte bewusst einen Partner, der technische Fragen beantwortet, den ausgewählten Prozess KI-tauglich dokumentiert und gleichzeitig Veränderungsprozesse begleitet.
Auch HR-Abteilungen müssen jetzt Wege finden, Daten effizient zu verarbeiten und auszuwerten. An KI führt kein Weg vorbei, egal wie groß die Bedenken sind. Es gibt mehr Daten, mehr Anfragen und immer weniger Personal. Anhand des Beispiels können wir sieben Schritte ableiten, die helfen, jetzt nicht den Anschluss zu verlieren. Denn sie zeigen, wie sich KI auch bei sensiblen Daten bewährt und der Mensch immer die Kontrolle behält (im Fachjargon: „Human in the Loop“, HITL). Genau das stiftet Vertrauen.
1. Aufklärung starten, nicht mit Automatisierung
Bevor es um konkrete Prozesse und Modelle ging, startete der Workshop mit Grundlagen: Was leistet eine KI, was kann ein Sprachmodell, wie geht man mit Halluzinationen um, was sind reale Risiken und wie werden sie handhabbar? Dieser Schritt war wichtig, um Ängste zu benennen und alle Personen im neunköpfigen Team mitzunehmen. Im gesamten Beratungsprozess gab es regelmäßige Fragerunden sowie Einzelgespräche, um Widerstände aufzulösen.
Ohne das gemeinsame Verständnis für Ziel, Grundlagen und Grenzen kann Verunsicherung entstehen – oder eine Euphorie, die Risiken nicht kennt. KI ist und bleibt ein technisches Instrument. Entsprechend gilt es, erst die Kompetenz aufzubauen, um dann das Werkzeug einzusetzen und zu kontrollieren.
2. Transparenz über die Daten gewinnen
Bei der Entwicklung von automatisierten Prozessen lautete die erste Frage: Welche Daten haben wir und was lässt sich nutzen? Bei personenbezogenen Daten gibt der Datenschutz Grenzen vor, was überhaupt erhoben und gespeichert werden darf. Neben geltendem Recht sind auch Vereinbarungen relevant, die mit Kunden getroffen wurden.
Das gilt auch und besonders für HR-Abteilungen: Mitarbeitende müssen der Nutzung bestimmter Daten zustimmen, zum Beispiel nach Gesprächen oder internen Umfragen. Zudem muss der Betriebsrat eingebunden sein. Mitbestimmung ist kein Hindernis, sondern eine Chance für Akzeptanz. Darum gilt es, von Anfang an alle Stakeholder über Ziel, Nutzen und Weg zu informieren.
3. Einen klar abgegrenzten Routineprozess wählen
Um einen automatisierten Prozess einzuführen, ist es hilfreich, sich nicht gleich auf komplexe und sensible Sonderfälle zu stürzen, sondern mit einem einfachen, klar abgegrenzten Routineprozess zu starten. Je klarer der Workflow ist, desto besser lässt er sich automatisieren.
Im Fall des Versicherungsunternehmens ging es um die strukturierte Bearbeitung wiederkehrender Datenschutzanfragen. Das Team hat Routineanfragen gesammelt und bewertet: Wie häufig kommt diese Art von Fragen vor, wie leicht lassen sie sich beantworten, wie groß ist der Effizienzgewinn, wie gut lässt sich das kontrollieren? Im Workshop haben wir den Prozess genau analysiert und dokumentiert. Erst nachdem er freigegeben wurde, ging es weiter. Ein Punkt war und ist dabei für den Umgang mit KI grundlegend: die Verantwortung und Kontrolle durch den Menschen.
4. Menschliche Freigabe verpflichtend einbauen
Von Anfang an war es dem Kunden wichtig, dass die Mitarbeitenden im Team die Kontrolle bewahren. Die KI bereitet die Entscheidungen vor und entlastet sie. Die Verantwortung bleibt beim Menschen und lässt sich nicht delegieren, gerade im Umgang mit sensiblen Daten.
Im konkreten Fall entstand eine klare Prozesslogik:
Anfrage per E-Mail. 2.Automatische Ticketanlage. 3. Die KI extrahiert Titel und Inhalt. 4. Die KI klassifiziert: Ist es ein Datenschutzthema oder nicht? 5. Eine auf Recht spezialisierte KI erstellt die Bewertung und einen Entwurf für die Antwort. 6. Eine Person im Team prüft, korrigiert und gibt das Ergebnis frei. Die manuelle Prüfung ist so fest im Prozess verankert und stärkt das Vertrauen.
5. Die bestehende Systemlandschaft nutzen
Damit nicht jede Abteilung eigene Lösungen entwickelt und Parallelstrukturen schafft, ist es wichtig, an vorhandene Systeme anzudocken. In unserem Beispiel nutzte der Kunde bereits Jira, Confluence und eine hauseigene KI. Alles Produkte jenseits von Microsoft. Entsprechend erfolgte die Umsetzung in der Atlassian-Welt über N8N, eine Integrationsplattform, die Programme verbindet. E-Mails, Tickets und KI-Auswertung arbeiten zusammen.
Auch die neue Rechts-KI musste sich in die bestehende Architektur einfügen. Interne Richtlinien wie Sicherheitsanforderungen und Serverstandort müssen ebenfalls eingehalten werden. Alles war und ist darauf ausgelegt, ohne neue Oberfläche und ohne Systembruch auszukommen und Daten nahtlos zu integrieren.
6. Einen Prototyp ohne echte Daten bauen
Um den Prozess zu optimieren und das Vertrauen im Team aufzubauen, dass die Verantwortung und Prozesshoheit wirklich bei den Mitarbeitenden bleibt, haben wir einen Prototyp entwickelt. Der Vorteil: Ein Prototyp nutzt keine Echtdaten. Beim Versicherer verschickten die Mitarbeitenden Testfragen, verfolgten, wie die KI sie klassifiziert, Antworten erstellt und wie die Freigabe erfolgt. So wurde sichtbar, dass der Prozess funktioniert. Das Vertrauen in das System stieg. Erst danach erfolgt die Integration mit Beteiligung der IT in die echte Infrastruktur.
Dieses Vorgehen sorgte für eine schnelle technische Machbarkeitsprüfung und schonte die chronisch überlastete IT des Unternehmens. Gleichzeitig gingen wir nicht mit einer wagen Idee, sondern mit einem klar definierten Prozess und einem Anforderungskatalog zur IT. „Ich hatte selten so ein gutes Gespräch auf Augenhöhe mit unserer IT-Abteilung“, sagt unser Kunde.
Gerade für den Umgang mit Personendaten ist der Schritt über den Prototyp wertvoll: Bewerbungsdaten, Leistungsbeurteilungen oder Gesundheitsinformationen sollten nicht Teil eines Tests sein. Es geht nicht um ein Experiment, sondern um die strukturierte Einführung einer Technik, die künftig unverzichtbar sein wird.
7. Qualität messbar machen
Eine typische Sorge begleitete das Projekt: „Wir haben jetzt schon kaum Kapazitäten. Wie sollen wir zusätzlich KI-Prozesse aufbauen?“ Tatsächlich bedeutete die Einführung einer KI zunächst Mehrarbeit: Workshops, Tests und Schleifen kosten Zeit. Langfristig entstehen jedoch messbar mehr Effizienz und Qualität.
Über ein internes Board lassen sich beim Kunden in Echtzeit offene Fälle, Bearbeitungszeiten, Nachbesserungsquoten, Themencluster und typische Fehlklassifikationen verfolgen. Regelmäßige Überprüfungen, etwa monatlich oder vierteljährlich, können dafür sorgen, dass die Prozesse stabil laufen und kontinuierlich verbessert werden. Zudem lässt sich die Ausgangslage mit dem neuen Prozess vergleichen, um nachzuvollziehen, was funktioniert und wo noch Trainingsbedarf besteht.
Was früher implizites Erfahrungswissen war, wird mess- und steuerbar. Auch hier zeigt sich wieder, wie wichtig eine professionelle Begleitung von Veränderungen ist, um die Akzeptanz für Transparenz zu gewährleisten und den Mehrwert zu verdeutlichen.
Bedenken ausräumen
Künstliche Intelligenz ist gekommen, um zu bleiben. Sie ist schon jetzt in vielen Abteilungen präsent. Umso wichtiger ist es, Bedenken auszuräumen und Prozesse zu identifizieren, die sich automatisieren lassen. Das gilt auch für den Umgang mit Personendaten im Kundenkontakt und in der HR. Es gibt immer eine Möglichkeit. Ein strukturierter Prozess verankert die Kontrolle im Team und stiftet Vertrauen. Kurzum: Wer jetzt die Veränderung richtig anstößt, wird nicht den Anschluss an die Zukunft verlieren.
Charlotte Sparla
Florian Tietjen
Teilen auf
