Ein Teenager zeigt ein Foto, das er mit der Tik Tok-App bearbeitet hat | Barbara Jung
Exklusiv

TikTok-Videos Wie sich Fake News viral verbreiten

Stand: 16.09.2021 06:01 Uhr

TikTok ist eine der beliebtesten Social-Media-Apps bei jungen Menschen. Politische Videos können sich dort rasant verbreiten - auch mit Falschinformationen. Das liegt am Algorithmus, wie Recherchen von BR und dem ARD-Magazin Kontraste zeigen.

Von Sammy Khamis, Robert Schöffel, Ludwig Spitaler (BR), Daniel Laufer und Pune Djalilehvand (RBB)

Am 5. Mai 2021 veröffentlicht ein 15-Jähriger auf TikTok ein Video über die Grünen. Es ist 40 Sekunden lang, zu hören ist der Rap-Song "Gangsta‘s Paradise" aus den 1990er Jahren. Das Video spielt in der Zukunft, am Wahlabend, handelt vom fiktiven Sieg der Grünen bei der Bundestagswahl und den Verboten, die die Partei angeblich einführen möchte. Zum Beispiel ein Verbot von Fleisch, Silvesterraketen oder Limonadenverkauf an Schulen.

Nur eine der insgesamt sieben Behauptungen stimmt, nämlich die Forderung nach einem Tempolimit auf Autobahnen. TikTok selbst untersagt in seinen Richtlinien das Verbreiten von Fehlinformationen, "mit denen Mitglieder der Community in Bezug auf Wahlen oder andere zivilgesellschaftliche Prozesse irregeführt werden". Das Video geht dennoch viral und wird knapp 500.000 Mal aufgerufen.

"Wahlabend"-Video wird zum Meme

Kurz nach dem 15-Jährigen nehmen weitere TikToker ähnliche Clips in gleichem Setting und mit gleicher Dramaturgie auf und laden sie hoch. Der erfolgreichste Clip erreicht rund 1,8 Millionen Views. Das "Wahlabend"-Video ist zum Meme mit großer Reichweite geworden. Einer der TikToker erzählt, er habe das Video aufgenommen, weil TikTok ihn für viele Aufrufe bezahle, er habe dafür einen geringen Betrag erhalten. Insgesamt erscheinen in den folgenden Wochen und Monaten mehr als 40 Videos in diesem Stil. Einige Videos handeln auch vom fiktiven Wahlsieg anderer Parteien, etwa der FDP oder AfD.

Netz-Expertin Karolin Schwarz beschäftigt sich seit langem mit Falschinformationen. Im Gespräch mit BR und dem ARD-Magazin Kontraste sagt sie, dass auch andere Parteien davon betroffen seien: "Es gibt auch Fake-Zitate, die zum Beispiel Markus Söder angreifen. Bei den Grünen ist es aber so, dass sie den Ruf einer Verbotspartei haben. Entsprechend vehement wird die Partei angegriffen."

Algorithmus verhilft zu großer Reichweite

Die Kurzvideo-Plattform TikTok des chinesischen Anbieters ByteDance ist vor allem unter jungen Nutzerinnen und Nutzern beliebt und gehört weltweit zu den am meisten heruntergeladenen Apps. Ein Team aus Journalistinnen und Journalisten von BR Data, BR Recherche und Kontraste untersucht zusammen mit den gemeinnützigen Organisationen Mozilla Foundation und National Conference on Citizenship (NCOC) politische Inhalte auf TikTok rund um die Bundestagswahl.

Selbst Accounts mit wenigen Followern können auf TikTok virale Hits landen. Grund dafür ist die sogenannte ForYou-Funktion (auf Deutsch: FürDich). Hier werden Nutzerinnen und Nutzern nicht nur Videos von Personen angezeigt, denen sie folgen, wie bei anderen Social-Media-Plattformen, sondern vor allem Empfehlungen von TikTok. Ausgewählt werden diese Videos fast ausschließlich von einem Algorithmus.

"Gefahr für junge Leute"

"Menschen suchen auf der Plattform nicht mehr nach Videos oder Usern, sondern der Algorithmus entscheidet, was die Menschen sehen", sagt Orestis Papakyriakopoulos, der an der Universität Princeton zu Algorithmen forscht. Im Falle des 15-jährigen TikTokers kamen 91 Prozent der Abrufe über die FürDich-Seite von TikTok. Ein Auszug der Statistik liegt den Reporterinnen und Reportern von BR und RBB vor. Der Algorithmus spielte bei der Verbreitung des Videos also eine entscheidende Rolle.

Falschinformationen auf TikTok hält Papakyriakopoulos gerade wegen der Altersstruktur der Nutzerinnen und Nutzer für eine Gefahr: "TikTok hat eine besondere Eigenschaft. Sehr junge Leute sind hier aktiv. Und diese jungen Leute haben ihre politische Meinung oft noch nicht gebildet. Wenn sie jemand beeinflussen möchte, hat er die Möglichkeit, das auf dieser Plattform zu machen."

TikTok verweist auf eigene Maßnahmen

Auf Anfrage schreibt TikTok: "Wenn wir von Inhalten erfahren, die gegen unsere Community-Richtlinien verstoßen, einschließlich Desinformationen oder Fehlinformationen, entfernen wir sie, um eine sichere und authentische App-Umgebung zu fördern." Das Unternehmen verweist auf eine Seite mit Informationen zur Bundestagswahl: "Für die Wahl 2021 haben wir eine In-App-Informationsseite eingeführt, in der die Nutzer*innen verlässliche und unabhängige Informationen zu den Wahlen von funk, Tagesschau und den jungen Wellen der ARD finden können."

Der Link zu dieser Seite wird bei Videos eingeblendet, die TikTok im Zusammenhang mit der Bundestagswahl für relevant hält. Von den mehr als 40 vorliegenden "Wahlabend"-Videos ist allerdings nur ein Drittel entsprechend gekennzeichnet. TikTok äußerte sich auf Anfrage hierzu nicht.

Gezielte Einflussnahme schwer zu erkennen

Ob in einigen Fällen Lobbyisten, politische Gegner oder Staaten hinter Falschmeldungen auf TikTok stecken, lässt sich nur schwer erkennen. Extremismusforscherin Anneli Ahonen vom Institute for Strategic Dialogue (ISD), einer renommierten Denkfabrik, hält es für möglich, dass es Versuche der Einflussnahme aus dem Ausland über soziale Medien in Deutschland gibt: "Es ist ein sehr ernstes Problem, dass wir derzeit keine Möglichkeit haben, zu verstehen, ob hinter einem bestimmten TikTok-Account ein deutscher Teenager steckt, der lustige Videos oder Memes postet, oder ob es sich um einen ausländischen Geheimdienstakteur handelt." Sie fordert "transparentere Plattformen und den Zugang zu Daten für Forscher", um diese Gefahr besser einschätzen zu können.

Anmerkung: Wir verzichten in der Berichterstattung auf die Nennung von Namen unter 18-jähriger TikTokerinnen und TikToker. Alle Personen sind dem Autorenteam im Klarnamen bekannt. Sie und/oder die Erziehungsberechtigten hatten die Möglichkeit zur Stellungnahme.

Darüber berichtet das ARD-Magazin Kontraste am 16.09.2021 um 21.45 Uhr im Ersten.