Die Präsentation von The Bots wird von der neunteiligen Arbeit Abuse Standards Violations ergänzt, die den Beginn der Recherche von Eva & Franco Mattes mit dem Thema Content-Moderation markiert. Thematisiert wird die Frage nach der Moral der sozialen Medien und Tech-Giganten.

In neun Plexiglasrahmen, die mit Isoliermaterial gefüllt sind, werden Richtlinien von Unternehmen präsentiert, zum Beispiel Auszüge der Facebook-Community-Standards, die nicht für die Öffentlichkeit und nur für interne Zwecke bestimmt sind. Die Unternehmen, die diese Richtlinien erstellt haben, sind fast alle unbekannt, weil sie anonym bleiben wollen. Meistens wissen sogar die Moderator:innen selbst nicht, wer ihre Arbeitgeber:innen sind – eine:r von ihnen sagte zu Eva & Franco Mattes: „Ich bin mir ziemlich sicher, dass ich für Google arbeite.“ Die Richtlinien gegen Verletzungen der Missbrauchsstandards legen moralische Grenzen fragwürdiger Inhalte auf Social Media fest und entscheiden, wann diese als rassistisch, hasserfüllt, kontrovers, terroristisch, pornografisch oder gewalttätig definiert und somit entfernt werden. Clean oder ok to show bezieht sich auf Bilder, die als angemessen angesehen werden und daher in den sozialen Medien zirkulieren können, wie z. B. „ohne Hemd, aber mit Hose oder Hemd (und nicht mehr als der obere Streifen der Unterwäsche ist sichtbar)“, während „unangemessene“ Bilder Politik und kontroverse soziale Themen beinhalten können und gefiltert werden sollten. Zu den „sicheren“ Inhalten gehören Kunst und Klatsch und Tratsch über Prominente. Trotz festgelegter Richtlinien fehlt eine Eindeutigkeit darin, wann ein Inhalt entfernt werden sollte. Hier ist menschliche Interpretation erforderlich, eine algorithmische Einschätzung reicht nicht aus.

Richtlinien großer Social Media-Plattformen ändern sich täglich. Sie passen sich den aktuellen sozialen und politischen Ereignissen an. Da die meisten IT-Unternehmen ihren Sitz in Kalifornien haben, folgen sie meist den Richtlinien der US-Gesetze und der US-amerikanischen „Moral“, versuchen aber gleichzeitig, lokale und kulturspezifische Moralvorstellungen aufzugreifen. Die Schwierigkeit besteht darin, Content-Moderation für alle kulturellen Kontexte so auszuüben, dass die Gefahr vermieden wird, kulturelle Bias zu politischen Interpretationen werden zu lassen.

Für The Bots haben Eva und Franco Mattes mit dem investigativen Journalist Adrian Chen und den Schauspieler:innen Irina Cocimarov, Jesse Hoffman, Jake Levy, Alexandra Marzella, Ruby McCollister und Bobbi Salvör Menuez zusammengearbeitet. Sie präsentieren anonyme Zeugenaussagen von Content-Moderator:innen, die in Berlin für Facebook gearbeitet haben. Es sind sechs Videos entstanden. Im Raum sehen die Besucher:innen hochgestellte Tischplatten, die eine minimalistische Installation bilden. Die Tischplatten verweisen auf das Mobiliar des Berliner Moderationszentrums, in dem die Befragten arbeiteten. Die Videos werden für die Betrachter:innen erst sichtbar, wenn sie hinter die errichtete Barriere treten und hinter die Arbeitsoberfläche schauen.

Was wissen wir über die Mechanismen und Regulierungen von Social-Media-Kanälen, die wir täglich verwenden? Welche Inhalte bleiben sichtbar und welche werden herausgefiltert? Und gibt es klare Richtlinien, nach denen Inhalte gelöscht werden?

Die Filme wurden mit der typischen Ästhetik und den Merkmalen von online Make-Up-Tutorials umgesetzt. Die Aussagen in den Filmen stammen aus investigativen Recherchen, aus Interviews bei denen zahlreiche Zeug:innen befragt wurden, die als Dienstleistungsanbieter:innen für Facebook angestellt waren. Um die Aussagen der Content-Moderator:innen zu anonymisieren, wurden die Filme von Schauspieler:innen interpretiert. Sie spielen die Rolle von Influencer:innen, die sich in direkter Ansprache an ihre Follower:innen wenden. Sie haben die Videos mit ihren Smartphones aufgezeichnet. Aus diesem Grund handelt es sich bei den Bildern um Hochformate. Ratschläge zu Make-up-Produkten wechseln sich mit erschütternden Beschreibungen ihrer Arbeit ab.

Inhalte auf sozialen Kanälen unterliegen Beschränkungen und werden somit überprüft und überwacht. Die Plattformen geben an, ihre Inhalte durch Gemeinschaftsrichtlinien (community guidelines) zu regeln. Vereinzelte Kanäle wie Telegram lassen auch unzensierte und problematische Inhalte zu. Die Richtlinien können allerdings nicht vermeiden, dass täglich tausende von „verbotenen“ Inhalten online gepostet werden: Gewalt, sexuelle Übergriffe, Hassreden, Terrorismus und Pornografie sind nur einige der Kategorien von unerwünschtem Content auf Social Media. Die meisten dieser Inhalte bekommen wir nicht zu sehen, weil sie zuvor gelöscht werden. Diese Überprüfung kritischer Bilder und Videos findet immer über Menschen statt. Es handelt sich nicht um eine automatisierte Bereinigung, die von Algorithmen erledigt wird. Programme filtern zwar Inhalte, die gegen die Richtlinien der jeweiligen Plattform zu verstoßen scheinen, können aber meistens nicht den Kontext eines Beitrags eigenständig interpretieren.

Eva & Franco Mattes machen in ihrer Arbeit The Bots explizit darauf aufmerksam, dass kritische Inhalte in großen Mengen von Individuen gesehen und bearbeitet werden. Es sind eben nicht Bots, nicht Programme, sondern Menschen. Sie heißen „Content-Moderator:innen“ und ihr Beruf zählt zu den „nicht regulierten” Jobs, die mit dem Aufkommen von Tech-Unternehmen entstanden sind (z.B. Amazons Mechanical Turk).

Im Fall von Crowdsourcing-Arbeitsvermittlung wissen Content-Moderator:innen oft nicht für welche Firmen sie arbeiten. Sie werden von sogenannten contractors angestellt, die zwischen Tech-Giganten wie Google, Meta, Youtube, Twitter und den Arbeitnehmer:innen vermitteln. Somit wird die Anonymität der Firmen gewahrt, deren rechtliche Verantwortlichkeit minimiert und dank einer Verschwiegenheitserklärungen geschützt. Die Arbeitsbedingungen werden weder öffentlich debattiert noch politisch reguliert. Dienstleistungen werden durch Leiharbeitsverträge geregelt und minimal bezahlt.

Dank investigativer journalistischer Arbeit drangen in den letzten Jahren dennoch immer wieder Berichte über Missstände an die Öffentlichkeit. Der Journalist Adrian Chen war 2014 der Erste, der mit seinem Artikel The Laborers Who Keep Dick Pics and Beheadings Out of Your Facebook Feed in Wired das Thema beleuchtete. Eva & Franco Mattes arbeiten mit Chen seit Jahren zusammen.

Eines der wesentlichen Probleme ist, dass Content-Moderator:innen täglich tausende Beiträge sichten müssen, bevor sie sie löschen. Enthauptungen, Kinderpornografie, grobe Gewalt jeglicher Art, fanatische Hassreden und viele weitere Ausdrucksformen menschlicher Abgründe sowie auch die einfache Flut banaler Uploads hinterlassen Traumata und tiefe Verstörung bei den Menschen.

Zwar existieren guidelines über die Klassifizierung anstößiger Inhalte. Diese werden aber nicht öffentlich gemacht und müssen von Content-Moderator:innen geheim gehalten werden. Die Regularien werden täglich verändert. Zur Quantifizierung der Arbeitsleistung muss die Mindestquote von 95 % der zu löschenden Beiträge erreicht werden, ansonsten droht eine Entlassung. Über die anonymen Aussagen ist bekannt, dass Arbeiter:innen überwacht werden und unter starkem Leistungsdruck stehen.

In vielen Kulturkreisen werden die Regeln an das entsprechende Moralempfinden angepasst. Oft findet Content-Moderation durch Arbeiter:innen im Globalen Süden, Asien und in ehemaligen Kolonien statt. Der Grund hierfür ist neben unreguliertem Arbeitsrecht, die Kenntnis westlicher Sprachen und ein Verständnis für westliches Moralempfinden.

Doch auch Moderator:innen sind keine objektiven Filter. Der Prozess ist trotz Richtlinien subjektiv und von individuellen Interpretationen geprägt. Inhalte werden entfernt, wenn sie beispielsweise politisch oder ideologisch als unangemessen angesehen werden. Die eigene politische Gesinnung wirkt sich unter Umständen auf die Moderationsentscheidung aus.

Eva & Franco Mattes erzeugen mit der gewählten Ästhetik einen bewusst harten Bruch zu den Inhalten. Sie nutzen die Inszenierung von Make-Up-Tutorials für ihre künstlerische Arbeit. Um Zensuren zu umgehen, werden politische Inhalte getarnt. Diese Vorgehensweise kommt von Aktivist:innen, die politische Botschaften und Menschenrechtsverletzungen in autokratischen Staaten so an die Öffentlichkeit tragen. Es war die junge TikTok-Nutzerin und Aktivistin Feroza Azis, die sich vor wenigen Jahren beim Schminken filmte, um die Zensur der chinesischen Regierung zu umgehen. Somit konnte sie frei über die systematische Unterdrückung und Überwachung von Uiguren im Nordwesten Chinas sprechen, bevor sie von der Plattform gesperrt wurde.

Gleichzeitig ist das Sujet Make-Up sinnbildlich zu verstehen. Wie die Künstler:innen selber aussagen: „Make-up ist eine Möglichkeit, Unvollkommenheiten in unserem Gesicht zu kaschieren, nicht viel anders als die Moderation von Inhalten, die die Oberfläche des Internets verschönert, indem sie unerwünschte Inhalte entfernt.“

Matt Welch ist Bildhauer, Zeichner und Filmemacher. Für die Ausstellung And This is Us 2021 hat Welch einen neuen Film produziert, den er als zweiten Teil der Trilogie The Secret Millionaire vorsieht.

In Sense of Doubt stellt Welch zahlreiche Bezüge zu Filmen und Musik her, die in Zusammenhang mit der Vergangenheit der Stadt Berlin und ihrer symbolhaften Deutung stehen. Welchs Drehbuch verwebt zahlreiche Referenzen miteinander. So auch Bilder und Erinnerungen an seine eigene Lebenszeit in Berlin und die Erzählungen eines deutschen Freundes, der 1984 aus der ehemaligen DDR in den Westen Berlins floh.

Der Film ist gänzlich in subjektiver Kameraeinstellung gedreht, die dem Blick des Hauptdarstellers im Film entspricht und sich auf drei verschiedenen Ebenen abspielt. Wir sehen durch die Augen der männlichen Figur, wie sie in einer scheinbar ziellosen Autofahrt durch das heutige Berlin fährt, und hören dabei seinen inneren Monolog, die Erinnerung an prägende Erfahrungen von Entfremdung und Ausgrenzung; wir erleben, wie er durch Straßen läuft und dabei den Anweisungen einer inneren Stimme folgt, wie der Stimme eines Regisseurs. Schließlich gleitet die Kamera durch einen roten, nassen, wunden Tunnel. Der Durchgang, Speiseröhre und Abwasserkanal zugleich, dient als Übergang zwischen der Außenwelt und dem Inneren, als Membran zwischen einer bewussten und einer unbewussten Wahrnehmung von Welt.

Die Figur im Film läuft an den Nicht-Orten einer urban veränderten Umgebung. Diese Architekturen Berlins werden zu Bühnenbildern für diese zeitgenössische Inszenierung. Die Reste der Mauer und des einstigen Todesstreifens zwischen Ost und West sind zu einem Niemandsland geworden, in dem die Figur im Film wie in einem Zwinger nach Auswegen und Deckung sucht. Es verdichtet sich eine Atmosphäre der Erschöpfung und Verzweiflung und das Fehlen einer klaren Richtung.

Immer wieder in Welchs Arbeit taucht der Magen als metaphorische Form auf. Welch spricht von dem Organ als einem biologischen Äquivalent zur städtischen Infrastruktur eines Abfallsystems, als verborgener Ort der Verarbeitung, der Absorption und der Entsorgung. Die Kamera taucht in die Tiefen des Körpers und in sein Inneres ab, sie dringt in einen Untergrund ein, in einen dunklen Raum, der dem Protagonisten symbolhaft als Schutzraum dient.

Matt Welch hat für die Präsentation seiner Arbeit den Raum im Frankfurter Kunstverein ausgesucht, der außerhalb der regulären Sichtbarkeit der Museumsbesucher*innen liegt und für Künstler*innenaufenthalte genutzt wird. Welch verleiht den Räumen die Anmutung einer anonymen Airbnb-Wohnung, in der man sich zurückziehen kann, ohne dass die Räume die eigene Identität widerspiegeln.

In den beiden Räumen spielt der Sound eine zentrale Rolle. Im Wohnraum hallt Klaviermusik, im Schlafraum, in dem der Film zu sehen ist, hören wir die innere Stimme der agierenden Figur. Die Musik stammt aus zwei instrumentalen Arrangements von David Bowies Alben Low und Heroes. Diese Alben hat Bowie als Teile seiner Berlin-Trilogie mit Brian Eno komponiert und aufgenommen. Bowie war von Los Angeles nach Berlin geflohen, um seiner Drogensucht zu entkommen. Hier konnte er mit Iggy Pop, der zufällig sein Nachbar war, relativ unerkannt in der Stadt leben, in Untergrund Clubs und Bars gehen, ohne von Fans oder Paparazzi verfolgt zu werden. Die Piano-Interpretationen im Frankfurter Kunstverein nehmen die Synthesizer-Instrumentalstücke Bowies auf und verstärken die Atmosphäre der Einsamkeit und Melancholie des Films.

Sense of Doubt ist von einer Stimmung diffuser Beklemmung beherrscht. Der fließende Wechsel zwischen der Beobachtung und Abtastung der Welt in ihrer Erscheinung und der Wahrnehmung aus der Binnensicht der Magenebene lösen die Kategorien Innen und Außen, Zentral und Peripher auf. Der innere Monolog ist das Bindeglied, in dem die Gedanken und Gefühle der Perspektivfigur atmosphärisch dicht der Betrachter*in zuteilwerden.

Matt Welch (*1988 in Liverpool, UK) arbeitet vorwiegend mit Skulptur und Video. Er studierte Malerei an der Wimbledon School of Art, London (UK), und erhielt im Oktober 2020 seinen Abschluss als Meisterschüler in der Klasse von Haegue Yang an der Hochschule für Bildende Künste – Städelschule in Frankfurt am Main (DE). 2020 gewann er den Absolventenpreis der Sammlung Pohl für seine Arbeit in der Kunsthalle Portikus, Frankfurt am Main (DE). Matt Welch hat unter anderem in folgenden Institutionen ausgestellt: Kunsthalle Portikus, Frankfurt am Main (DE), Croy Nielsen, Wien (AT), Dortmunder Kunstverein, Dortmund (DE), Limazulu2, London (UK), Ormside Projects, London (UK), Neue Alte Brücke, Frankfurt am Main (DE).