Prozesse automatisieren und sogar Personal einsparen. Das verspricht die KI. Doch wie automatisch ist sie wirklich? Gleich zu Beginn des Buchs Atlas der KI wird klar: Kate Crawford ist KI-Kritikerin. Ihre These: KI sei weder künstlich noch intelligent. Crawford ist Wissenschaftlerin im Bereich der künstlichen Intelligenz und ihrer Auswirkungen, Forschungsprofessorin an der University of Southern California und leitende Forscherin bei Microsoft Research. Ihr Buch Atlas der KI erschien 2021 im Englischen und wurde in mehr als zehn Sprachen übersetzt. Die deutsche Fassung erscheint im August 2024. Auf insgesamt 336 Seiten geht Crawford der zentralen Frage nach, wie KI gemacht wird und bezieht sich auf wirtschaftliche, politische, kulturelle und historische Kräfte.
Vom Ursprung der Technologie
Crawfords Aussagen fesseln, ihre radikale Art fasziniert. Vor allem aber ist ihre Perspektive eine willkommene Abwechslung zum andauernden KI-Hype. Im ersten Kapitel Erde reist Crawford nach Silver Peak, Nevada, wo vor ihren Augen der Rohstoff von KI entsteht: Lithium. Ihre Erzählweise gleicht einer Reportage, die uns bis an die Ursprünge der Technologie führen soll. Der Begriff der KI löse laut Crawford zwar Gedanken an Algorithmen, Daten und Cloud-Architekturen aus, aber „nichts von alledem kann ohne Mineralien und Ressourcen funktionieren, aus denen die Kernkomponenten der Computertechnik bestehen“, schreibt Crawford.
Besonders das zweite Kapitel ist für HR relevant – hier widmet sich Crawford der Arbeit. Es geht um schlecht bezahlte Mikrojobs, die Datensysteme intelligenter machen sollen, um Arbeitsbedingungen in Amazon-Lagerhallen und um Arbeiterproteste gegen schärfere Kontrollen und Überwachung durch KI. In den darauffolgenden Kapiteln thematisiert Crawford Daten, Klassifizierung, Affekt und die Rolle des Staats. Zum Schluss geht es noch einmal um KI als Machtstruktur.
Komplexität und wenig Raum für Hoffnung
Im Verlauf des Buchs fällt es schwer, der Autorin zu folgen. Denn wenn sie von KI spricht, meint sie in einem Moment Technologien, im anderen das Internet, dann wieder maschinelles Lernen – das verwirrt, wenn KI das zentrale Thema des Buchs sein soll. An einigen Stellen erweckt Crawford leider auch den Eindruck, es gehe ihr darum, dass die Leserinnen und Leser ihr unkritisch folgen und in ein dystopisches Bild der KI verfallen.
Zwischenzeitlich erinnert die Lektüre an einen langen, kapitalismuskritischen, fast philosophischen Essay. Das äußert sich zwar in vielen wissenschaftlichen Belegen, Beispielen und Anekdoten, aber auch in verschachtelten Sätzen und einer komplizierten Sprache. Es werden viele Themen angesprochen. Das illustriert gut, wie verwoben die Infrastrukturen um KI sind. Doch es sorgt auch für Verwirrung und lässt den Leser verzweifelt nach einem Überblick suchen, einer Art Leitfaden, den der Atlas der KI im Titel verspricht.
Was nirgendwo so richtig Platz findet, sind Utopien und Aufrufe zum Handeln. Was muss sich ändern, um eine Welt mit KI gerechter zu machen? Wer muss diese Veränderung antreiben? Statt Antworten beschleicht den Leser am Ende der Lektüre eher ein Gefühl der Ohnmacht.
Was trotzdem bleibt, ist der Impuls, sich beim nächsten Klick auf die KI-Anwendung die Geburtsstätten der künstlichen Intelligenz vor Augen zu führen. Laut Crawford ist die KI eben kein Selbstläufer. Sie wird „in den Salzseen von Bolivien und Minen im Kongo geboren und aus von Crowdworkern gekennzeichneten Datensätzen zusammengebaut, die versuchen, menschliche Handlungen, Emotionen und Identitäten in Kategorien einzuordnen“. Sie elaboriert weiter: „Benutzt wird sie zur Steuerung von Drohnen über dem Jemen und zur Lenkung von Grenzschutzheiten in den USA sowie zur Berechnung eines Punktesystems für den Wert und die Gefährlichkeit eines Menschen.“
Weitere Artikel zum Thema:
Dieser Beitrag erschien zuerst in der gedruckten Ausgabe Weltweit. Das Heft können Sie hier bestellen.