Kate Crawford: „Atlas der KI“

Kate Crawford arbeitet sowohl als KI-Professorin der UCLA als auch als Forschungsleiterin auf diesem Gebiet bei Microsoft Research. Man könnte also annehmen, in dem vorliegenden Buch eine engagierte, zukunftsweisende Einordnung dieser neuen und viel diskutierten Technologie vorzufinden. Doch weit gefehlt: Cate Crawford beleuchtet ihren Gegenstand ausschließlich aus einer grundsätzlich kritischen Sicht, die die Grenze zur Absage an die KI an mehreren Stellen nicht nur streift. Man fragt sich nach der Lektüre sogar, warum die Autorin überhaupt noch aktiv auf diesem IT-Sektor forscht.

Nun ist eine kritische Haltung zum eigenen Arbeitsbereich weder verwunderlich noch gar widernatürlich, zumal die Autorin in vielen Punkten durchaus den Nagel auf den Kopf trifft. Dabei scheint sie jedoch bisweilen das Kind mit dem Bade auszuschütten oder ganz andere – politische oder gar ideologische – Aspekte mit einfließen zu lassen.

Crawford hat ihr Buch in sechs Kapitel unterteilt, deren Titel durchweg aus bedeutungsschweren Einzelworten bestehen. Es beginnt mit „Erde“, in dem sie der KI vorwirft, weltweit die Vorräte an seltenen Erden und anderen, für die IT wichtige Elementen auszuplündern. Das lässt sich zwar nicht abstreiten, doch es trifft für die gesamte IT weltweit und vor allem für die Mobilkommunikation zu und ist kein neues Problem. Da im Erdboden verborgene Elemente selbst keinen normativen Wert darstellen, muss Crawford die optische Verschandelung durch den Abbau sowie die teilweise katastrophalen Arbeitsbedingungen als Kritikpunkte heranziehen. Doch neben der bereits erwähnten impliziten Unterstellung einer „Alleinschuld“ der KI stellt sich hier die Frage der jeweiligen Zuständigkeit, wenn etwa die Abbaugebiete in Afrika liegen. Hier müsste man also eher die dortigen Machthaber als konkrete politische Personen denn die „abstrakte“ KI zur Rechenschaft ziehen. Die Nachfrage nach Produkten grundsätzlich als Schuldzuweisung zu interpretieren ist zumindest diskussionswürdig. Generell lässt sich dieser Punkt mit einer Analogie beschreiben, die darauf hinausliefe, Porsche für die CO2-Emissionen der Auto-, Schifffahrt- und Luftfahrtindustrie verantwortlich zu machen.

Ähnlich verhält es sich mit dem zweiten Kapitel, „Arbeit“ übertitelt. Hier wirft Crawford der KI-Industrie vor, umfangreiche Datenabgleiche und -analysen nicht durch Software sondern durch schlecht bezahlte „Crowdworker“ erledigen zu lassen. Das stimmt zwar, aber die Reihenfolge ist eine andere. So werden etwa Hassreden in Social-Media seit Jahren durch eben solche global verteilten Arbeitskräfte eliminiert, und die KI soll das irgendwann ersetzen. Dass in einer Übergangszeit die alten, wohl auch nicht immer sozial adäquaten Maßnahmen weiterlaufen, ist naheliegend, aber wohl weniger der KI anzulasten, die sich noch im Anfangsstadium befindet. Unter diesen Punkt fällt auch die Anklage von Amazons Arbeitsbedingungen in den Auslieferungslagern, die wohl älteren Datums als die KI sind und nicht unbedingt dieser Technologie anzulasten sind. Auf die Minute ausgereizte und per IT überwachte Arbeitsbedingungen lassen sich auch ohne „high sophisticated“ KI implementieren, wie die Entwicklung der Fließbandarbeit seit dem frühen 20. Jahrhundert zeigt. Man hätte sich hier gezieltere Kritik an der KI als neuer Technologie gewünscht. Generell lässt sich sagen, dass in einer Gesellschaft der Vollbeschäftigung – wie die USA – niemand gezwungen ist, solche Arbeiten zu verrichten. Wie es in anderen Ländern aussieht, ist eine andere Frage. Doch die Alternative, diese Arbeiten gar nicht außer Landes zu geben, ist gerade in Fällen von armen „Zielländern“ nicht unbedingt die sozialste Alternative. Interessanterweise nennt die Autorin nie konkrete Zahlen bezüglich Stunden- oder Akkordlohn, sondern arbeitet nur pauschal mit dem Vorwurf der Ausbeutung.

Weiter geht es mit den „Daten“, und da wird es schon interessanter. Nicht ganz zu Unrecht wirft die Autorin den KI-Firmen vor, ihre Systeme mit öffentlich verfügbaren Daten im Internet zu trainieren. Einmal geht es ihr um das Nutzungsrecht dieser Daten, andererseits um die Inhalte. Die Frage des Nutzungsrecht verdient eine genauere juristische Betrachtung, stellen doch alle Teilnehmer der „Social-Media“-Dienste ihre Daten täglich mit dem einzigen Ziel einer möglichst breiten Öffentlichkeitswirkung ein. Wenn jede(r) diese Posts lesen darf und soll(!), wieso nicht auch KI-Systeme?

Die Inhalte stellen da schon ein anderes Problem dar, denn in den Social Media grassieren Hassreden, Rassismus und sonstige Diskriminierung, die sich dann automatisch in den KI-Systemen festsetzen und perpetuieren. Die KI-Firmen haben das – zum Teil – bereits erkannt und treffen entsprechende Gegenmaßnahmen. Ob die reichen, ist eine andere Geschichte.

Ein sehr aufschlussreiches Kapitel ist mit „Klassifizierung“ übertitelt. Hier geht es um die Kategorien, in die ein KI-System vor allem Menschen im Zuge der Gesichtserkennung einordnet. Die Brisanz dieses Themas lässt sich nicht abstreiten, können hier doch Vorurteile aller Art sich manifestieren. Dass dabei „race“ eine Rolle spielt, liegt auf der Hand, vor allem in den USA, wo schwarze Menschen auch ohne KI bereits verdächtigt werden. Doch statt diesen Aspekt anhand konkreter Beispiele detaillierter zu behandeln, belässt sie es bei der Erwähnung und führt dagegen an mehreren Stellen explizit die Gefahr an, dass KI-Systeme Gesichter in binäre Geschlechterkategorien einordnen. Das ist natürlich von höchster gesellschaftlicher Brisanz!

Gesteigert wird die Kategorisierung noch durch die eindeutige Zuordnung von Mimik zu Affekten. Das ist tatsächlich eine höchst fragwürdige Vorgehensweise, zumal die mimischen Trainingsdaten ausgerechnet von „affektlosen“ Schauspielern dargestellt wurden. Hier muss man der Autorin Recht geben, dass die KI-Branche überzieht, und hier sollten entsprechende Institutionen tatsächlich für eine Regulierung sorgen.

Im letzten Kapitel kritisiert Crawford die Staatsnähe vieler KI-Firmen. Politisch heikle KI-Verfahren delegiert der Staat gerne – und natürlich inoffiziell – an Privatfirmen, deren Lösungen man später als Dienstleistung erwerben oder von denen man sich im Zweifelsfall entrüstet distanzieren kann. Auch bezüglich dieser Kritik muss man der Autorin Recht geben, und (je)der Staat muss hier Flagge zeigen und Grenzen setzen. Allerdings moniert Crawford vor allem die Nähe zum Militär und verweist implizit – nie explizit! – alle militärischen (KI-)Anwendungen in den Bereich der Unmoral. Doch über Russland oder China verliert sie dabei kein Wort.

Kate Crawford spricht in dieser „Tour d´Horizon“ der aktuellen KI viele wichtige und auch brisante Themen an; man hat jedoch das Gefühl, dass ein gewisser ideologischer Hintergrund viele Dinge vermischt und dabei der KI nicht nur in ihrem aktuellen Entstehungsprozess sondern generell eine moralische Erblast andichtet. Eine etwas mehr auf die Genealogie und weniger auf eventuelle ethisch-moralische Mängel der KI ausgerichtete Sichtweise hätte dem Buch sicher nicht geschadet.

Das Buch ist im Verlag C. H. Beck erschienen, umfasst 336 Seiten und kostet 32 Euro.

Frank Raudszus