Mission „Sauberes Netz“

Ein Interview zu „The Cleaners“ mit Hans Block und Moritz Riesewieck

Diskussion

Über die Schattenseiten der Internet-Zensur: Hans Block und Moritz Riesewieck haben für ihren invesigativen Dokumentarfilm „The Cleaners“ in der philippinischen Metropole Manila die sogenannten "Content Moderatoren" aufgespürt, die im Auftrag von Netzwerken wie Facebook darüber entscheiden, was die Nutzer zu sehen bekommen.


In Manila werden so genannte Content-Moderatoren damit beauftragt, unliebsame Inhalte aus den sozialen Medien zu löschen. Was wird uns vorenthalten?

Hans Block: Verdächtige Inhalte sind: Terrorismus, Kindesmissbrauch, Sexualität, Pornographie, Gewalt, Hass. Sie werden, nachdem sie entweder von einem Programm erkannt worden sind oder von einem User markiert wurden, auf die Philippinen geschickt und dort von Content-Moderatoren geprüft.


Wer sind die Auftraggeber?

Hans Block: Es geht in unserem Film um die großen sozialen Netzwerke wie Facebook, die ihre Kontrollfunktion auf die Philippinen, speziell nach Manila, aus Kostengründen ausgelagert haben. Es gibt dort Hunderte von Dienstleistungsfirmen. Dort arbeiten die Content-Moderatoren für ein bis drei Dollar die Stunde.


Weshalb werden uns Inhalte überhaupt vorenthalten?

Moritz Riesewieck: Die sozialen Medien lassen weitaus mehr zensieren als das, was in den einzelnen Ländern gesetzlich verboten ist. Denn sie versprechen ihren Usern ein so genanntes „healthy environment“. Ein sehr dubioser Begriff. Denn in erster Linie geht es darum, dass Werbekunden ihre Werbung bestmöglich platzieren können. Und diese Unternehmen sind extrem sensibel. Sie wollen nicht neben regierungskritischen oder verstörenden Inhalten stehen. Doch die sozialen Medien stecken da in einer Zwickmühle. Einerseits erzielt extremer Content am meisten Aufmerksamkeit und wird deshalb auch bewusst zugelassen. Andererseits haben sie ihren Werbekunden ja auch eine sichere Umgebung versprochen. So konnten wir bei unserer Recherche gar keine eindeutige ideologische Haltung ausmachen. Facebook ist zum Beispiel weder pro-israelisch noch pro-palästinensisch.



Weshalb finden Sie es problematisch, dass Content-Moderatoren das Löschen der Daten übernehmen?

Moritz Riesewieck: Die Content-Moderatoren sind extrem überfordert, weil sie ihre Entscheidungen in wenigen Sekunden, wie am Fließband, treffen müssen. Sie haben nicht Journalistik oder Kulturwissenschaften studiert, sodass sie sich in den landesspezifischen Kulturen nicht auskennen. Doch sie können auch nicht jede zweite Entscheidung an den Vorarbeiter oder die Vorarbeiterin weiterleiten, weil sie sonst für unfähig gehalten werden; nur drei Prozent der Entscheidungen werden deshalb kontrolliert. Also treffen die Moderatoren zumeist Bauchentscheidungen und orientieren sich an den Guidelines. Eine Quellenprüfung wie im Qualitätsjournalismus können die gar nicht leisten. Dadurch wird Meinung und Berichterstattung gleichgesetzt, vermischt sich immer mehr, sodass man gar nicht mehr zwischen beiden unterscheiden kann. Und das ist ein katastrophaler Zustand für eine Gesellschaft. Jeder Quatsch kann verbreitet werden und erzielt viel höhere Reichweiten als der Qualitätsjournalismus.


Gibt es noch andere Strukturen, Instanzen oder Kommunikationswege der Zensur?

Hans Block: Manila ist nicht der einzige Standort für diese Arbeit, sondern auch in Essen oder in Warschau gibt es solche Dienstleistungsunternehmen. In Berlin-Spandau zum Beispiel beschäftigt die Bertelsmann-Firma Arvato ein paar hundert Leute. Der mit Abstand größte Teil dieser Dienstleistung findet aber in Manila statt. Dabei lernt Facebook Stück für Stück dazu. Länderspezifischer Content wird von den Philippinen direkt weitergeleitet zu diesen Standorten wie etwa nach Spandau.


Sind die Moderatoren Ihrer Meinung nach so etwas wie „willige Vollstrecker“?

Moritz Riesewieck: Laut den von uns befragten Psychologinnen müssen Menschen mit einer so belastenden Tätigkeit ihrem Job einen höheren Sinn verleihen, sonst können sie ihn gar nicht durchhalten. Da gibt es jetzt verschiedene Narrative. Viele der Moderatoren empfinden ihre Arbeit als eine Form der christlichen Mission. Sie opfern sich, nehmen die Sünden der Welt auf sich. Oder sie verstehen sich als eine Art Polizei, die das Netz „sauber hält“. Doch diese Strategien sind gefährlich, weil sie sich mit der Ideologie des philippinischen Präsidenten mischen. Der hat sich selbst einmal mit Hitler verglichen. Seine Rhetorik findet sich bei vielen Moderatoren: Es sei doch besser, ein paar Leute auszuschließen oder zu liquidieren, wenn dafür ein „healthy environment“ entstehe. Hier geht die Vision von Zuckerberg und den sozialen Medien plötzlich konform mit der Ideologie eines gefährlichen Autokraten.



Sie zeigen, dass die Menschen, die sich um das Löschen der Inhalte kümmern, von ihrer Arbeit schwer beeinträchtigt sind. Sind die Bilder von Geißelungen und von einer Kreuzigungsszene nicht sehr pathetisch und plakativ?

Moritz Riesewieck: Dieses Narrativ kam von den Content-Moderatoren selbst, neunzig Prozent der Philippinen sind streng katholisch. Viele von ihnen posten Bibelsprüche oder tragen T-Shirts mit Aufschriften wie „God makes me unstoppable“. Wir wollten deren Fanatismus transportieren. Es bleibt nicht bei einem Kirchgang.

Hans Block: Nein, die pilgern dorthin zur Heiligen Osterwoche, sehen sich das Kreuzigungsspektakel an und wollen Teil davon sein. Das war uns schon wichtig, diese toxische Mischung von Religion und Kapitalismus zu zeigen.


Zensur wurde immer ausgeübt. Im 16. Jahrhundert gab es das päpstliche Indexverzeichnis sündhafter Bücher, staatliche Zensur wurde in der jüngeren Zeitgeschichte etwa in der DDR ausgeübt, es gibt die Selbstzensur wie etwa die freiwillige Selbstkontrolle der Filmwirtschaft. Was stört Sie an Zensur?

Hans Block: Interessant ist doch, dass wir gar nicht das Gefühl haben, in einem Zeitalter der Zensur zu leben, weil uns diese sozialen Medien wie ein wunderschöner demokratischer Spielplatz vorkommen. Alles erscheint offen, liberal, für jeden zugänglich. Und das ist eine neue Art von Zensur, es ist eine technisch induzierte Zensur. Diese Unternehmen bauen Tools, die sie nicht mehr kontrollieren können, die auf Entwicklung und Gewinn abzielen. Welche Effekte diese neue Infrastruktur auf die Gesellschaft ausübt, fragen sie sich nicht. Und die Folge davon ist die Verbreitung von extremen Inhalten und deren Zensur.



Wie würden Sie die Bilderflut regulieren, nach welchen Prinzipien?

Moritz Riesewieck: Wir müssen als Gesellschaft erst mal anerkennen, dass wir es mit einer digitalen Öffentlichkeit zu tun haben. Mittlerweile nutzen drei Milliarden Menschen die sozialen Netzwerke, in vielen Ländern sind sie zum vorherrschenden Medium geworden. In den USA informiert sich ein Großteil der jungen Bevölkerung nur noch über Facebook. Und wir erleben es hier, dass sich auch der Journalismus immer mehr abhängig davon macht. Diese Unternehmen haben die Macht, zu entscheiden, wer in der digitalen Öffentlichkeit überhaupt existent wird. Das darf die Gesellschaft nicht zulassen. Wir müssen für die Kontrolle der digitalen Öffentlichkeit demokratische Institutionen schaffen. Das können nicht dieselben sein wie in der analogen Welt.


Wie man in der DDR gesehen hat, hat die Zensur auch Gegenmaßnahmen provoziert, um das unterdrückte Material doch noch unter der Hand zu verbreiten. Gibt es solche Bewegungen auch im Fall der Internetzensur?

Hans Block: Ja, natürlich gibt es diese Wege. Die Frage ist aber eine andere. Wenn Facebook zu unserer digitalen Öffentlichkeit geworden ist, wenn es von der absoluten Mehrheit benutzt wird, dann bedeutet der Ausschluss davon doch, dass man nicht mehr Teil dieser Gesellschaft ist. Man ist isoliert, auch wenn man sich noch mit Leuten über andere Kommunikationswege austauschen kann. Das darf doch nicht vorkommen. Man muss darum kämpfen, ein Teil von dieser Öffentlichkeit sein zu dürfen.


Über die Interpretation von Bildern hat man ja wenig Kontrolle. Weshalb muss man sich in Ihrem Film anhand eines abgetrennten Kopfes den Kommentar eines Moderators anhören, wie das vor sich ging? Inwieweit haben Sie das Problem der eigenen Bilder als Propagandainstrument reflektiert?

Hans Block: Wir haben zunächst versucht, schreckliche Bilder zu vermeiden und nur die Reaktionen der Moderatoren zu zeigen. Wir haben uns dann aber doch für diese Szene entschieden, weil sie mehrere Aspekte erfüllt. Einerseits zeigt sie den Umgang einer Moderatorin mit solch grausamen Bildern. Wo wir vielleicht vor Schrecken die Augen zumachen oder stöhnen, hat sie einen völlig gelassenen, fast chirurgischen Blick und beschreibt, was sie sieht in all seinen Details. Daran erkennt man, was dieser Beruf aus einem Menschen macht. Natürlich sind wir auch als Filmemacher Content-Moderatoren und fragen uns: Haben wir eigentlich das Recht, als westliche Nutzer unberührt, unversehrt zu bleiben? Ein Bild kann in vielen Fällen einen positiven Effekt haben, wie in dem des an der türkischen Küste angespülten kleinen Jungen. Fachleute des MIT wiesen uns darauf hin, dass selbst konservative Menschen durch dieses Foto zum Umdenken über Flüchtlinge gebracht wurden. Wir müssen uns ab und zu mit Bildern konfrontieren, uns emotionalisieren lassen, weil sie uns aktivieren.


Das Bild des abgetrennten Kopfes vergessen wir nicht so leicht. Es gibt ja auch Fachleute, die dafür plädieren, diese Bilder gar nicht erst zu zeigen. Man bestärkt doch den IS darin, dem Westen zu diktieren, über welche Bilder er reden muss, erkennt also dessen Machtanspruch an. In Europa wurde doch gerade versucht, Gewalt immer mehr aus dem öffentlichen Raum zu verbannen.

Moritz Riesewieck: Mit Michael Lüders und anderen Mittelostexperten kann man die Frage stellen, ob der IS vielleicht nicht auch eine Folge von westlichen Interventionen in der Region ist. Haben wir nicht auch einen Anteil an dem Erstarken einer solchen Terrororganisation? Sich mit diesem Bild zu konfrontieren, heißt auch, darüber nachzudenken, wie diese Organisation so stark werden konnte.



Kann dieses Bild nicht auch Voyeurismus auslösen?

Moritz Riesewieck: Wir glauben, dass die Kontextualisierung des Bildes – wir sehen den Umgang des Content-Moderators damit – den voyeuristischen Blick verhindert.


Lenken Sie durch Ihre gewählte Form, die Spannungsdramaturgie, die Art, wie Sie Ihren Film montieren, den Zuschauer nicht auch in eine bestimmte Richtung? Was waren Ihre Überlegungen dabei?

Hans Block: Es ist wahnsinnig schwierig, einen Film über ein digitales Thema zu machen. Man hat einen Computer, eine Maus und eine Tastatur, und diese Utensilien sind doch relativ langweilig. So haben wir überlegt, wie wir ein so wichtiges Thema spannend erzählen können, dass es vielleicht sogar Thriller-Charakter annimmt. Darum machten wir Manila zu unserem formalen Ausgangspunkt, die Stadt ist ein perfekter Protagonist für uns. Als wir das erste Mal dahin gereist sind, hatten wir das Gefühl, in einer Art Gotham City gelandet zu sein, kein Tageslicht drang durch, überall gab es Brücken. Eine smogverhangene Atmosphäre mit viel Nacht, viel Schweiß, viel Hitze und vielen Menschen. Die Moderatoren arbeiten dort rund um die Uhr und blicken aus dem 24. Stock in die Nacht. Dieses erhabene Gefühl, über die digitale Welt bestimmen zu können, das waren so filmische Momente, die wir konservieren wollten.

Moritz Riesewieck: Wir wollten die Netzstruktur auch in unsere Dramaturgie übernehmen und fragten uns: Wie können wir das Besondere des sozialen Netzwerkes, wo Menschen miteinander in Kontakt kommen, die eigentlich sehr wenig miteinander teilen, die an völlig unterschiedlichen Punkten auf der Welt sitzen und an völlig unterschiedlichen Punkten ihres Lebens stehen, wie können wir das im Film abbilden? Wie können wir auch die Absurdität transportieren, dass Entscheidungen, die Menschen in völlig anderen Gebieten der Welt angehen, in diesen Büros in Manila getroffen werden? So springen wir schon ziemlich hin und her, zwischen Zensoren und Zensierten, Entscheidungsträgern und Maschinenraum, zwischen Ideologie und Konkretem. Wir hoffen, dass wir dem Film eine Struktur gegeben haben, die dem Internet entspricht.



Zusatzinfo:

Ihre Rechercheergebnisse haben die Autoren bereits in dem Theaterstück verarbeitet, das im Theater Dortmund weiterhin aufgeführt wird. Infos & Termine

Außerdem erschien 2017 von Moritz Riesewieck das Buch „Digitale Drecksarbeit. Wie uns Facebook& Co. von dem Bösen erlösen“ (dtv).

Kommentar verfassen

Kommentieren