Digitale Müllabfuhr – wie Dienstleister das Netz säubern

Bei externen Dienstleistern sind zahlreiche Menschen beschäftigt, die Tag für Tag verstörende Bilder aus dem Netz entfernen.
Bei externen Dienstleistern sind zahlreiche Menschen beschäftigt, die Tag für Tag verstörende Bilder aus dem Netz entfernen.
Foto: REUTERS
Das Internet ist schrecklicher, als wir es kennen. Auf den Philippinen sitzen Menschen, die für uns die schaurigen Inhalte löschen.

Berlin/Manila.  Es geht um Menschen, die von Facebook, Google, Twitter & Co. vor uns versteckt werden sollen. Dabei würden die sozialen Netzwerke ohne sie zusammenbrechen. Es geht um Menschen, die pro Schicht 5000 Bilder nach abgeschnittenen Köpfen und Kinderpornografie sichten müssen und nicht wissen, was das mit ihrer Psyche macht.

Am Rande der Internetkonferenz Re:publica in Berlin sprachen eine US-Wissenschaftlerin und ein deutscher Regisseur mit unserer Redaktion über ihre Recherchen in einer Branche, die über den Schmutz, über prekäre Arbeitsbedingungen und fragwürdige Maßstäbe nicht reden darf.

„Sie haben Verschwiegenheitserklärungen unterzeichnet“

„Netzwerke versprechen Dir Freude, Vergnügen und Freunde“, sagt Sarah T. Roberts, „doch da gibt es die hässliche andere Story, von der sie nicht wollen, dass wir sie erfahren.“ Roberts ist Assistant Professor an der renommierten University of California, und sie hat promoviert über Commercial Content Moderation, über das bezahlte Sichten von Nutzerbeiträgen im Netz. Sie hat mit Menschen gesprochen, die wegen ihrer Arbeit zum Alkohol greifen, deren Beziehungen zerbrechen, die keine Lust mehr auf Sex haben. „Sie haben Verschwiegenheitserklärungen unterschrieben und haben Angst, darüber zu sprechen. Aber oft wollen sie das auch nicht, um ihre Umgebung zu schützen.“

Ihre Arbeit war auch Anlass für den aus Schwerte stammenden und in Berlin lebenden Regisseur Moritz Riesewieck, solche Menschen aufzuspüren. „Ich wollte wissen, wer für die saubere Welt in den Netzwerken sorgt.“ Er recherchierte mit einem Stipendium ein Jahr zu dem Thema und war dazu auf den Philippinen.

Philippinen wurden zum Zentrum

Das Schlimmste aus den sozialen Netzwerken sammelt sich heute dort, wo bis vor ein paar Jahren noch der Müll der Welt sortiert wurde. Ganze Blocks werden inzwischen in Beschlag genommen von Firmen, die die Aufräumkommandos fürs Netz stellen. Hemnashu Nigam, früherer Sicherheitschef von MySpace, hat nach seinem Abgang bei dem Unternehmen einmal geschätzt, dass etwa 100.000 Menschen quasi als digitale Müllwerker arbeiten. Das wären mehr Menschen, als Google, Facebook und Twitter zusammen an regulären Mitarbeitern haben.

Roberts nennt es „mutig“, darüber überhaupt eine Schätzung abzugeben. Zu zersplittert sei die Branche, um seriös schätzen zu können. Ein kleiner Teil arbeitet direkt bei den Netzwerken, manche bei breit aufgestellten Call-Center-Firmen, andere bei spezialisierten Unternehmen oder völlig frei über Aufträge, die über Plattformen im Netz vergeben werden. Zum Zentrum all dieser Dienstleister haben sich aber die Philippinen entwickelt.

Dort hat Moritz Riesewick mit Menschen reden können, die nichts anderes machen, als entsetzliche Fotos auszusortieren. Es sind Bilder, die eine Bilderkennungssoftware verdächtig fand oder die Nutzer gemeldet haben. Etwa jedes zehnte Bild muss gelöscht werden, hat ihm ein Mitarbeiter gesagt. Der berichtete auch von einem Kollegen, der Material zu sichten hat, das Microsoft- und Dropbox-Nutzer in die Cloud hochladen.

Vergleichsweise niedrige Löhne sind nicht der Hauptgrund für den Aufstieg des Landes in dieser Branche, anderswo wird weniger gezahlt, so Roberts. Die Philippinen ködern aber mit niedrigen Steuern und verlässlicher technischer Infrastruktur, und sie waren vor allem mehr als 50 Jahre US-Kolonie. „Menschen dort sprechen sehr gut Englisch und sie haben Verständnis für den kulturellen Kontext.“

Für viele ist es eine Mission

Moritz Riesewieck bietet noch eine andere Erklärung an: 95 Prozent der Menschen sind Katholiken, auf den Philippinen lassen sich an Karfreitag Dutzende ans Kreuz nageln und werden von jungen Menschen auf Facebook dafür gefeiert. TaskUS, ein Unternehmen, das für die Dating-App Tinder in der Nähe Manilas Bilder sichten lässt, ließ seine Räume zur Einweihung vom Priester segnen. Das Löschen von Bildern werde da regelrecht zelebriert. Riesewicks Eindruck: Die Menschen haben eine Mission, sie holen Sünde aus der Welt, sie opfern sich dafür auf. „Reinheit kommt Göttlichkeit am nächsten“, hat eine Traumapsychologin Riesewieck auf seiner Reise erklärt. Die Arbeit werde besser bezahlt als viele andere Tätigkeiten auf den Philippinen.

Die Eindrücke und Erfahrungen will Riesewieck mit der Gruppe Laokoon und dem Stadttheater Dortmund in einem Theaterstück umsetzen, die „Passionsspiele des Internetzeitalters“. Das Theater gibt ihm dann auch die Möglichkeit, Dinge deutlich zu machen, die er bei einer Dokumentation aus juristischen Gründen aussparen muss. „Im Rahmen der Kunst bin ich geschützter.“

Von TaskUS gibt es ein buntes Werbevideo, das das Arbeitsklima eines hippen Internetunternehmens vermittelt. „Work hard and have fun“, heißt es da. Tolle Kollegen, die unterstützen. Und alle lächeln. Riesewick hat den Pressesprecher gefragt, was denn ist, wenn jemand nicht lächeln könne. „Dann ist es sinnlos“, antwortete der. Die Hälfte von Riesewiecks Fragen waren ohnehin nicht zugelassen worden, und vor dem Interview hatte er seinen Reisepass abgeben müssen.

Es war nie die Rede von externen Dienstleistern

TaskUS ist nur eine von vielen Firmen, die von dort für andere Unternehmen die schmutzige Arbeit erledigt. 2014 feierte auch die Bertelsmann-Tochter Arvato die Erweiterung des Standorts auf den Philippinen. In Deutschland haben viele zum ersten Mal von dem Dienstleister erfahren, als bekannt wurde, dass er in Berlin Mitarbeiter sucht, um Hasskommentare für Facebook zu sichten.

Facebook mauert in der Regel bei allen Nachfragen. 2015 hatte das Unternehmen aber einen seltenen Einblick gewährt, die „Zeit“ durfte mit Mitarbeitern in der Europazentrale sprechen. „Wenn beim IS die Sonne untergeht, stehen die mexikanischen Gangs auf“, sagte da eine Französin, die vor ihrer Zeit bei Facebook ein Forum für Schwangere und junge Mütter moderiert hatte. Hinsichtlich der Content Moderation sprach der Internetkonzern bislang jedoch lediglich von seiner Europazentrale in Dublin und drei weiteren Standorten – der Zentrale in Kalifornien, in Austin und im indischen Hyderabad. Von anderen Dienstleistern war keine Rede.

„Wir wissen nicht, was es mit den Menschen macht“

Aber auch die, die direkt für die Großen arbeiten dürfen, haben ihre Probleme. Sarah Roberts hat mit Mitarbeitern im Silicon Valley gesprochen, sie nennt die Firma „Megatech“, wenn sie davon spricht, weil sie als Wissenschaftlerin das Unternehmen nicht nennen könne. Ein Job bei dieser „Megatech“ sei der Traum vieler Absolventen in Berkeley – allerdings nicht im Bereich der Content Moderation. Darauf ließen sie sich aber ein, um einen Fuß in die Tür zu bekommen – oder wenn sie sonst nur eine Stelle als Pizzabote bekommen hätten. Ein Aufstieg im Unternehmen klappe aber fast nie. Nach einem Jahresvertrag und einer aufgezwungenen Auszeit werde bei „Megatech“ noch ein zweites und letztes Mal ein Jahresvertrag angeboten. „Was ist danach?“, fragt Roberts, „sind manche ausgebrannt, andere völlig abgestumpft?“ Erkenntnisse dazu gibt es nicht. „Wir wissen nicht, was diese Arbeit mit den Menschen macht“, sagt sie. Angesichts Zigtausender mit diesen Jobs sei das ein verstörender Gedanke.

Die Geheimnistuerei der Netzwerke endet aber nicht bei den Arbeitsbedingungen. Ein Mitarbeiter klagte ihr, die Maßstäbe nicht zu verstehen, die von oben gesetzt würden. Schreckliche Bilder aus Syrien sollten nicht gelöscht werden, während zugleich Fotos vom Drogenkrieg in Mexiko schnell zu verschwinden hätten. Bereits vor Jahren war ein Leitfaden von Facebook öffentlich geworden, wonach unter anderem Bilder mit Kurdistankarten zu löschen sind. Die Netzwerke entscheiden, was gezeigt wird. Oder Mitarbeiter von Firmen, die für Firmen arbeiten, die einen Auftrag der Netzwerke haben.

Diese Praktiken waren es wohl, die Riesewick in den Sinn kamen, als er bei seinem Vortrag ein Bibelzitat hinter sich auf die Wand werfen ließ. Psalm 103:12: „So fern der Osten vom Westen liegt, so weit wirft Gott unsere Sünden von uns fort.“

 
 

EURE FAVORITEN