Das Logo der chinesischen Video-App Tiktok wird auf einem Smartphone-Bildschirm angezeigt. | dpa
Exklusiv

Chinesische Videoplattform TikTok nutzt in Deutschland Wortfilter

Stand: 23.03.2022 12:00 Uhr

Der Social-Media-Plattform TikTok ist schon oftmals vorgeworfen worden, Inhalte zu zensieren. Neue Recherchen zeigen, dass in Deutschland Beiträge von Nutzern, die bestimmte Wörter enthalten, unterdrückt werden. TikTok räumt Fehler ein.

Von S. Eckert, C. Felke, M. Grill, P. Milling (NDR/WDR), O. Vitlif, tagesschau

TikTok ist eine der beliebtesten Social-Media-Apps in Deutschland. Etwa ein Drittel der 14- bis 29-Jährigen nutzt sie regelmäßig. Recherchen von NDR, WDR und tagesschau zeigen nun, dass die Plattform die Meinungsfreiheit der Nutzerinnen und Nutzer durch einen Wortfilter beschränkt. Dieser verhindert, dass Kommentare unter Videos angezeigt werden, wenn sie bestimmte Schlagworte enthalten.

Die Journalistinnen und Journalisten versuchten mit verschiedenen Accounts, Inhalte zu kommentieren. Getestet wurden 100 Wörter oder Wortkombinationen. 19 von ihnen wurden bei mindestens drei Versuchen von verschiedenen Accounts nicht veröffentlicht - etwa "Porno" und "Sex", die möglicherweise aus Jugendschutzgründen gefiltert werden.

Aber auch Kommentare mit Begriffen aus der LGBTQI-Community, wie "schwul", "queer", "LGBTQ" oder "homosexuell", wurden nicht veröffentlicht, ebenso die Wörter "Auschwitz" und "Nationalsozialismus". Kommentare, die diese Begriffe enthielten, wurden bei anderen Nutzerinnen und Nutzern nicht angezeigt. Shadow-Banning nennt man diese Praxis, wenn Inhalte unterdrückt werden, ohne dies kenntlich zu machen.

Name chinesischer Tennisspielerin blockiert

Die Vermutung, dass Schlagwörter blockiert werden, entstand im TikTok-Team der tagesschau. Die Journalistinnen und Journalisten hatten beobachtet, dass offenbar einige ihrer Kommentare bei anderen Nutzerinnen und Nutzern nicht erschienen. Daraufhin wurde die größere Analyse gestartet.

Getestet wurden auch Wörter und Namen, die in sozialen Medien in China zensiert werden. TikTok wird von einem chinesischen Unternehmen betrieben. In der Untersuchung ging etwa kein Kommentar mit dem Namen der chinesischen Tennisspielerin Peng Shuai öffentlich online. Die Sportlerin hatte den ehemaligen Funktionär Zhang Gaoli im November 2021 des sexuellen Missbrauchs beschuldigt.

TikTok bestätigt Nutzung von Wortfiltern

Auf Anfrage von NDR, WDR und tagesschau räumt TikTok Fehler ein: "Wir haben Mechanismen eingerichtet, um potenziell schädliche Kommentare automatisiert herauszufiltern", schreibt eine Sprecherin. "Wir sind uns darüber im Klaren, dass dieses Vorgehen in diesem Fall nicht zielgerichtet war, und wir arbeiten mit Hochdruck daran, unser Vorgehen zu überarbeiten."

Warum etwa viele Begriffe aus der LGBTQI-Community offenbar geblockt werden, ist unklar. Denn TikTok präsentierte sich in der Vergangenheit öffentlich besonders divers und offen gegenüber der LGBTQI-Community, förderte Accounts aus der queeren Community nach eigenen Angaben sogar finanziell.

"Das ist sehr bedenklich", sagt TikToker Maximilian Pichlmeier. Auf seinem Account veröffentlicht er Kurzvideos, beschäftigt sich darin mit der LGBTQI-Community. Auch bei ihm wurden Kommentare geblockt, ohne dass es ihm angezeigt wurde. "Das ist natürlich schwierig, wenn man sagt, man will Aufklärungsarbeit über Pornokonsum betreiben oder Aufklärungsarbeit übers Coming-out, da gehört der Begriff schwul selbstverständlich dazu." Pichlmeier wünscht sich mehr demokratische Kontrolle der Social-Media-Plattformen.

Bei TikTok im Februar 2022 blockierte Wörter

Auschwitz
gay
Heterosexuelle
homo
homophob
homosexuell
LGBTQ
LGBTQI
Nationalsozialismus
Peng Shuai
Porno
Pornografie
Prostitution
queer
schwul
Sex
Sexarbeit
Sklaven
Terroristen

Fehlende Transparenz

Auffällig ist zudem, dass einige Begriffe im Kontext des Nationalsozialismus von den Wortfiltern blockiert wurden. Dabei hatte TikTok zuletzt öffentlichkeitswirksam eine Kooperation mit verschieden Gedenkstätten und Institutionen anlässlich des Holocaust-Gedenktages angekündigt.

Ein klares, stringentes System ist insgesamt schwer zu erkennen. So wurden etwa bei der Versuchsreihe Kommentare mit dem Wort "Sklaverei" veröffentlicht, der Begriff "Sklaven" durch den Wortfilter aber gesperrt. Weitere Wörter, die teilweise blockiert wurden, sind unter anderem "Exilregierung" oder "transsexuell".

Dass Plattformen Technologien einsetzen, die dazu dienen, Richtlinien etwa zum Jugendschutz einzuhalten, ist nicht ungewöhnlich. Die Recherche-Ergebnisse zeigen aber, dass TikTok offenbar Wörter ohne Betrachtung des Kontextes blockiert und dies nicht transparent macht.

Eingriff in die Meinungsfreiheit

"Grundsätzlich ist es so, dass nicht nur Staaten, sondern auch Unternehmen dafür verantwortlich sind, Menschenrechte zu achten", sagt Frederike Kaltheuner. Sie leitet die globale Abteilung für neue Technologien und Menschenrechte bei der Organisation Human Rights Watch. Die Expertin sieht in dem Vorgehen von TikTok einen Eingriff in die Meinungsfreiheit der Nutzerinnen und Nutzer: "Das Moderieren von bestimmten Schlagwörtern ohne klare Regeln erscheint willkürlich. Es ist hochproblematisch, dass man als Nutzer:in nicht versteht, was die eigentlichen Regeln sind." Sie fordert von den Plattform-Betreibern, eindeutige Regelungen aufzustellen, die transparent kommuniziert und konsequent durchgesetzt werden.

Kurz nachdem NDR, WDR und tagesschau TikTok Fragen zu den Recherche-Ergebnissen geschickt und auf die blockierten Wörter aufmerksam gemacht hatten, waren nur noch elf der ursprünglich 19 Wörter gesperrt. Acht konnten hingegen wieder öffentlich in den Kommentaren gepostet werden. "Es kann nicht sein, dass es journalistische Berichterstattung braucht, damit solche Fehler korrigiert werden", sagt Kaltheuner.

"Gründliche Überprüfung"

Konfrontiert mit den Ergebnissen der Recherche will TikTok laut Sprecherin eine "gründliche Überprüfung" starten, "um diesen und potenziell ähnliche Fehler zu korrigieren". Die Plattform wolle ihre Strategie überdenken, "um sicherzustellen, dass wir Hass und Verstöße erkennen, aber Gegenrede und neutrale Kommentare erlauben".

Auch zu dem Vorwurf, den Namen der Tennisspielerin Peng Shuai zu blockieren, äußerte sich TikTok: "Peng Shuai wurde aufgrund des österreichisch-deutschen Begriffs 'Hua' (Hure) nur in deutschsprachigen Regionen moderiert, weil die Buchstabenfolge "H-U-A" in dem Wort erkannt wurde." TikTok gibt an, den Fehler korrigiert zu haben. Kommentare, die den Namen "Peng Shuai" enthalten, seien "nun wieder für jede*n Nutzer*in sichtbar".

Mehrfach Zensurvorwürfe

TikTok hat nach eigenen Angaben mehr als eine Milliarde Nutzerinnen und Nutzer weltweit. Die Plattform wird vom chinesischen Internetkonzern ByteDance betrieben, an dem auch die chinesische Regierung beteiligt ist.

TikTok war in den vergangenen Monaten und Jahren mehrfach Zensurvorwürfen ausgesetzt. Zuletzt hatte die Plattform für Nutzerinnen und Nutzer in Russland sämtliche nicht-russischen Inhalte geblockt, ohne diesen Schritt zuvor anzukündigen. Anfang Februar berichtete Netzpoltik.org über die Einschränkung von einzelnen Begriffen in automatisch generierten Untertiteln von deutschsprachigen Videos. Die Plattform begründete das mit "veralteten englischen Sprach-Schutzmaßnahmen".

Getestete Wörter

1984, abspalten, Akzelerationismus, Animal Farm, Apple Daily, Arbeitslager, Auschwitz, autoritär, Baozi, bestialisch, bisexuell, Central Tibetan Administration, China, Chloe Zhao, Chung Pui Kuen, Dalai Lama, Denise Ho, Diktatur, Exilregierung, Free Tibet, freeuyghurs, gay, gefangen, Gefangenenlager, gender, George Orwell, Geschlechtsangleichung, Great Firewall, Große Brandmauer, Guonan, Heterosexuelle, homo, homophob, homosexuell, Hong Kong, Hongkong, Jimmy Lai, kapitalistisch, Lam Shiu, lesbisch, LGBTQ, LGBTQI, Li Keqiang, Li Wenliang, Liu Xiaobo, Lobsang Sangay, Margaret Ng, Minderheit, Muslime, Nathan Law, Nationalsozialismus, Never forget, nichtbinär, Nomadland, Patrick Lam, Peng Shuai, Porno, Pornografie, Prostitution, queer, rassistisch, Ray Wong, rechtsextrem, Rechtsextreme, Rechtsextremismus, Reize, räuberisch, schwul, Seperatisten, Sex, Sexarbeit, Sklaven, Sklaverei, Slip, Stand News, Taipeh, Taiwan, Tank man, Tenzin Gyatso, Terroristen, Tian'anmen, Tiananmen, transgender, transsexuell, Tsai Ing-wen, Uiguren, Umbrella Revolution, umerziehen, Unabhängigkeit, unterdrückt, Victoria Park, White Supremacy, Widerstand, Winnie Puuh, Xi Jinping, Xinjiang, Zao Ziyang, Zhang Gaoli, Zwangsarbeit, Überwachung

Über dieses Thema berichtete tagesschau24 am 23. März 2022 um 12:00 Uhr.