Eine Person, die aus grünen Nullen und Einsen besteht | REUTERS

Gefälschte Videos Deepfakes als Waffe gegen Frauen

Stand: 09.10.2019 13:06 Uhr

Einer Studie zufolge hat die Zahl der Deepfakes im Netz deutlich zugenommen. Die meisten manipulierten Videos haben keine politischen, sondern pornographische Inhalte.

Patrick Gensing tagesschau.de

Von Patrick Gensing, ARD-faktenfinder

Deutlich mehr Deepfakes, aber kaum welche mit politischen Inhalten - so lässt sich eine Untersuchung des Unternehmens Deeptrace zusammenfassen. Die Firma mit Sitz in den Niederlanden stieß bei ihren Analysen auf fast 14.700 Videos, die sie als Deepfakes klassifizierten. Im Dezember 2018 waren es noch unter 8000. In dem Bericht ist von einem alarmierenden Anstieg die Rede.

Der Begriff Deepfake setzt sich zusammen aus den englischen Begriffen Deep Learning und Fake - also tiefgehendes Lernen und gezielte Fälschung. Es handelt sich dabei um komplexe Manipulationen von Videos. Je mehr Material von einer Person vorliegt, umso authentischer wirken manipulierte Bilder, die mit Hilfe von künstlichen neuronalen Netzwerken entwickelt werden.

Ausschließlich Frauen betroffen

96 Prozent der entdeckten Deepfakes bezogen sich den Angaben zufolge auf pornographische Inhalte. Zumeist wurden Gesichter von bekannten Frauen in Pornofilme montiert. Betroffen waren vor allem Schauspielerinnen und Künstlerinnen aus den USA, Großbritannien, Südkorea, Kanada und Indien.

Von den pornographischen Deepfakes waren ausschließlich Frauen betroffen. Der Wissenschaftler Danielle Citron von der Universität Boston meint, die Technologie werde als Waffe gegen Frauen instrumentalisiert. Bei der Erstellung solcher Videos spielten Foren und Communities eine entscheidende Rolle - beispielsweise 4chan oder 8chan, die auch im Kontext mit Hasskommentaren oder Anschlagsdrohungen immer wieder auffielen. Dort hatten sich auch besonders frauenfeindliche Gruppen von Männern organisiert.

Wachsender Markt

Deepfakes können auf verschiedenen Wegen erstellt werden: mit speziellen Apps, auf Service Portalen oder Online-Marktplätzen. Es handele sich um einen wachsenden Markt, heißt es in der Untersuchung.

Kaum eine Rolle spielten bislang politische Deepfakes. Doch allein die Sorge vor solchen Manipulationen schaffe bereits Verunsicherung. So wurden in Gabun und Malaysia brisante Aufnahmen von Politikern als Deepfakes bezeichnet - obwohl es dafür keine belastbaren Indizien gab.

In der Untersuchung wird abschließend auf das Tempo bei der Entwicklung von Deepfakes hingewiesen. Dadurch könne sich die Anwendung solcher Manipulationen ständig verändern, genauso könnte künftig auch ein größeres Publikum erreicht werden. Es sei daher wichtig, auf neue Herausforderungen vorbereitet zu sein.

Hakenkreuz im Wohnzimmer

Wie leicht sich Videos manipulieren lassen, zeigt ein Beispiel aus dem Jahr 2018. Dabei hatten Unbekannte eine NDR-Reportage verfälscht und Nazi-Symbole an eine Wand in eine Wohnung eingefügt. Allerdings handelt es sich dabei mutmaßlich um eine Manipulation mit konventionellen Programmen, nicht um einen komplexen Deepfake.

Videos aus Kontext gerissen

In den meisten Fällen werden Videos aber einfach aus ihrem Kontext gerissen. Aktuelles Beispiel: So tauchte beispielsweise nach dem Brand in einer Chemiefabrik in Nordfrankreich ein Video auf, das eigentlich aus China stammt.

Über dieses Thema berichtete Deutschlandfunk Nova am 09. Oktober 2019 um 16:00 Uhr.