Frühere Facebook-Managerin Frances Haugen gibt ein Fernsehinterview | AP
Exklusiv

Whistleblowerin Schwere Vorwürfe gegen Facebook

Stand: 05.10.2021 10:18 Uhr

Als erste deutsche Medien konnten NDR, WDR und SZ mit der Facebook-Whistleblowerin Frances Haugen sprechen und zahlreiche firmeninterne Dokumente einsehen. Sie wirft dem Konzern vor, zu lax gegen Hass vorzugehen. Heute spricht sie im US-Kongress.

Von Svea Eckert, Lena Kampf und Georg Mascolo, NDR/WDR

Sie habe monatelang mit sich gerungen, ob sie den Job überhaupt annehmen soll, sagt Frances Haugen. Doch als ihr angeboten wurde, bei Facebook Falschinformationen einzudämmen, unterschrieb sie den Arbeitsvertrag. Mit der Hoffnung etwas verändern zu können, begann die Datenspezialistin 2019 als Teamleiterin in der Einheit "Civic Integrity" bei Facebook.

Svea Eckert
Lena Kampf
Georg Mascolo

Ihre Abteilung sollte für den Konzern Methoden weiter entwickeln, Gewaltaufrufen und Hassrede Herr zu werden. Doch schnell sei sie desillusioniert gewesen, sagt sie im Interview mit NDR, WDR und "Süddeutscher Zeitung" (SZ). Während sie großen Respekt davor hatte, mit welcher Freundlichkeit, Empathie und Gewissenhaftigkeit ihre Kolleginnen und Kollegen in der Abteilung gearbeitet haben, musste sie feststellen, dass sich trotzdem kaum etwas änderte.

Facebook kenne die Probleme genau

Die Firma befinde sich in ständigen Interessenkonflikten zwischen öffentlicher Sicherheit und den eigenen Profiten, und diese Konflikte würden zugunsten der eigenen Profite gelöst, wirft Haugen ihrem ehemaligen Arbeitgeber vor. Dabei gäbe es viele einfache Lösungen, die dafür sorgen würden, dass bestimmte gefährliche Inhalte "ein bisschen weniger viral" gehen, sagt sie. Facebook wisse selbst genauestens Bescheid über die Probleme, die ihre Plattformen mit sich brächten.

Wie genau, das wird in zahlreichen firmeninternen Dokumenten, Studien und Chats deutlich, die NDR, WDR und SZ einsehen konnten. Frances Haugen hat diese Unterlagen zuerst dem US-Kongress und der US-Börsenaufsichtsbehörde SEC zur Verfügung gestellt, sowie dem "Wall Street Journal", das unter dem Schlagwort "Facebook Files" über einige der Inhalte berichtete, etwa dass Facebook genau wisse, dass mexikanische Drogenkartelle über ihre Plattform neue Auftragskiller suchen, Menschenhändler ihre "Ware" anbieten und dass Instagram sehr negative psychische Auswirkungen auf Teenager habe.

Die Artikel zogen bereits Anhörungen im US-Kongress nach sich, wo Haugen an diesem Dienstag aussagen wird. Auch Facebook hat bereits angefangen sich zu wehren. Die Dokumente der Whistleblowerin, so verbreitet es Facebook, würden überinterpretiert, aus dem Zusammenhang gerissen oder gäben nicht mehr den aktuellen Stand wieder.

Ein untätiger Konzern

Die Unterlagen zeichnen das Bild eines Konzerns, der viel weiß, aber nicht viel ändert. Dessen Spitze scheint resistent gegenüber den eigenen Analysen und Verbesserungsvorschlägen zu sein. Haugen sagt, dass die Lösungen, die sie und ihr Team erarbeitet hatten, um Desinformation zu reduzieren, zunichte gemacht worden seien, weil an anderer Stelle das System allein auf Wachstum getrimmt worden sei.

In vielen anderen Sprachen außer Englisch würden gefährliche Inhalte kaum verfolgt. In einem Dokument zeigt sich, dass 84 Prozent des Zeitbudgets für die Löschung und Eindämmung von Desinformation auf den US-Markt entfällt. Facebook bestreitet diese Zahl in einer Stellungnahme.

In Ländern wie Afghanistan sieht es noch dürftiger aus: Eine interne Studie aus dem Januar 2020 zeigt, dass in Afghanistan nicht einmal die eigenen Regeln von Facebook in andere lokale Sprachen außer Dari übersetzt worden sind und auch das Melden von Hassrede für viele nicht in der eigenen Sprache möglich ist. Der Meldeprozess sei "defizitär", heißt es in der internen Studie. Und weiter: "Obwohl Hassreden durchweg als eine der wichtigsten Missbrauchskategorien auf dem afghanischen Markt eingestuft werden, ist die Verfolgungsquote für Hassreden mit 0,23 Prozent beunruhigend niedrig." Facebook selbst betont, dass Nutzer in Afghanistan heute "Hassrede in den zwei im Land am meisten verbreiteten Sprachen (Dari und Pashto, die offiziellen Landes- und Regierungssprachen) melden können".

Wenige Nutzer prägen politische Diskussionen

In einer weiteren internen Analyse beschäftigte sich das Facebook-Team, das Wahlmanipulationen beobachtet, im März 2018 mit sogenannten "SUMAs" (Single User Multiple Accounts), das sind Nutzerinnen und Nutzer, die auf Facebook mit mehreren Accounts agieren. Diese seien hochaktiv im politischen Diskurs, würden häufig eingesetzt, um politische Gegner zu drangsalieren, Botschaften zu pushen und Aktivität vorzutäuschen. Sie würden Tausende Links teilen und seien in geheimen Gruppen oder via Messenger organisiert.

Mehr als 1,6 Millionen dieser hochproblematischen Accounts seien allein in den USA aktiv und für rund 14 Prozent der politischen Kommunikation auf Facebook verantwortlich, schätzen die hauseigenen Rechercheure. Facebook gehe nur ungenügend gegen dieses Phänomen vor, kritisieren sie und wünschen sich ein entschlosseneres Vorgehen.

Facebook wehrt sich gegen Vorwürfe

Auf Anfrage von NDR, WDR und SZ sagt Facebook, dass sie gegen jedes Nutzerkonto vorgehen würden, das Schaden auf der Plattform anrichtet. Zwischen April und Juni 2021 seien alleine 1,7 Milliarden Fake-Konten gelöscht worden. Auch den Vorwurf, dass Hasspostings auf Facebook die Oberhand gewinnen, will die Firma nicht stehen lassen: "Die Prävalenz von Hassreden ist seit drei Quartalen in Folge zurückgegangen, seit wir mit der Berichterstattung darüber begonnen haben. Dies ist auf Verbesserungen bei der proaktiven Erkennung von Hassreden und Änderungen im Ranking im News Feed zurückzuführen."

Unterlegt wird das mit Zahlen: "Heute arbeiten bei uns 40.000 Menschen an der Sicherheit und haben seit 2016 mehr als 13 Milliarden US-Dollar in Teams und Technologien in diesem Bereich investiert. Dazu gehören mehr als 15.000 Inhaltsprüfer, die rund um die Uhr Inhalte in über 50 Sprachen an mehr als 20 Standorten weltweit, darunter auch an mehreren Standorten in Deutschland, prüfen."

Mitarbeiter sprechen intern klare Worte

In den Unterlagen zeigen sich viele Facebook-Mitarbeiter frustriert und beschuldigen die Führung, die Sicherheitsmaßnahmen in Bezug auf die US-Wahl zu schnell abgebaut zu haben - was zu einer Flut von Desinformation geführt und den sogenannten "Sturm auf das Kapitol" am 6. Januar 2021 ermöglicht habe. Intern äußert sich Mark Zuckerberg gegenüber seinen Mitarbeiterinnen und Mitarbeitern, es sei ein "dunkler Moment" in der US-Geschichte. Daraufhin entspinnt sich eine Kontroverse. Einer schreibt, Facebook hätte lange genug "Öl ins Feuer" gegossen und man solle jetzt nicht überrascht sein, dass es außer Kontrolle geraten sei. Ein anderer schreibt, die untere Ebene hätte Verbesserungen vorgeschlagen, sei aber aktiv zurück gehalten und regelrecht "abgeschmettert" worden.

Auch Frances Haugen sagt, sie konnte es irgendwann nicht mehr aushalten, dass sie und ihr Team nichts bewirken konnte. Ob sie Angst hat, sich mit ihrem ehemaligen Arbeitgeber anzulegen? "Ja, ich habe definitiv Angst, dass Facebook mich verklagt", sagt sie. Sie hofft, dass die Börsenaufsicht ihr den Status einer Whistleblowerin zuerkennt. "Und ich hoffe, dass der US-Kongress einschreitet, oder die EU Druck auf Facebook ausübt, damit der Konzern anerkennt, dass ich dies nicht aus böswilligen Gründen getan habe."

Über dieses Thema berichtete mdr Aktuell am 05. Oktober 2021 um 10:11 Uhr.