Kate Crawford & Vladan Joler – Anatomy of an A.I. System

2018
Forschungsprojekt
Courtesy the artists

Kate Crawford ist Professorin an der New York University, sowie Co-Gründerin und Co-Direktorin des AI Now Institutes. Dort erforscht sie die sozialen Auswirkungen von Datensystemen, maschinellem Lernen und Künstlicher Intelligenz. Vladan Joler ist Professor an der Kunstakademie der Universität Novi Sad und Gründer der SHARE Foundation, die sich mit Themen wie der Transparenz von Algorithmen, der Ausbeutung digitaler Arbeitskraft, der Unsichtbarkeit von Infrastrukturen und von technologischen Black Boxes auseinandersetzt.

„Anatomy of an AI System“ ist eine Forschungsarbeit, die aus einer detaillierten Infographik und einem umfassenden Essay besteht (https://anatomyof.ai). Dargestellt wird die reale Infrastruktur, von der menschlichen Arbeitskraft, der Extraktion und Raffinierung seltener Erden, Kabelnetzen, Serverfarmen, Satellitensystemen bis hin zu Datenflüssen, die nötig sind, damit das Kommando von BenutzerInnen über smarte Geräte ein Resultat liefert.

Der Übersichtsplan stellt die anatomische Fallstudie des weltumspannenden Systems hinter Amazons „Echo“ dar. Man kann ihn von links nach rechts und von oben nach unten lesen. Von links nach rechts visualisiert die Grafik drei Dimensionen: ausgehend vom Planeten und den geologischen Prozessen hin zu Herstellung, Gebrauch und Entsorgung. Von oben beginnend, fokussiert die Karte den Menschen, der einen Befehl an das Gerät richtet und führt nach unten bis zu quantifiziertem Wissen über unsere Welt, mit welchem die KI trainiert wird. Jede noch so kleine Interaktion mit „Echo“ benötigt ein erdumspannendes, nicht sichtbares Netzwerk.

Die Forschung von Crawford und Joler untersucht kritisch den Begriff der „Cloud“, der als Wort eine Metapher ist und ein körperloses, ätherisches Bild evoziert. In der Realität hingegen sind digitale Technologien extrem an materielle Ressourcen ökonomische und geopolitische Interessen gebunden. Die Recherche stellt direkte Verbindungen her zwischen der Ausbeutung des Planeten und der des Menschen und seiner Arbeit.

Das Gerät Amazon „Echo“ ist nur das Hardware-Interface zum Nutzer. Das komplexe Funktionssystem ist ausgelagert an die weltumspannende Infrastruktur dahinter. Unzählige menschliche Arbeitskräfte sind notwendig, um das System zu konstruieren, zu trainieren und aufrecht zu erhalten: ArbeiterInnen zum Abbau von Mineralien, zur Produktion der nötigen Hardware, zum Erstellen von Trainingsdaten, zum manuellen Korrigieren der KI. Die Produktionsbedingungen sind häufig schlecht, unterbezahlt, gesundheitsschädlich, umweltschädlich und es werden Unmengen an natürlichen Ressourcen verbraucht. So werden zur Herstellung von Laptops und Smartphones 17 seltene Erden verwendet. Elemente, die über Milliarden Jahre entstanden sind und heute für Geräte aufgebraucht werden, die häufig nur wenige Jahre genutzt werden.

Neben finanziellem Kapital ist der Zugriff auf Daten selbst zum Kapital geworden. Unternehmen erfassen und quantifizieren immer weitere Aspekte unseres Lebens, sodass private Daten zur Ware geworden sind. Während wir KonsumentInnen in allen Lebensbereichen ausgelesen werden und dadurch für Konzerne nahezu transparent sind, verbergen diese weitgehend Informationen über sich selbst. Aber die wahren Kosten dieser Systeme, soziale, ökologische, wirtschaftliche und politische bleiben im Verborgenen. So versteht sich das Projekt von Crawford und Joler als Gegenmaßnahme nicht Sichtbares in die öffentliche Wahrnehmung zu rücken.