Du bist von digitaler Gewalt betroffen? 

Wir sind für dich da!

Schreibe eine E-Mail an:

beratung@hateaid.org 

Rufe uns in den Sprechzeiten an:

030 / 252 088 38

Mo 10 – 13 Uhr | Di 15 – 18 Uhr | Do 16 – 19 Uhr

Chatte mit uns:* Mi 15 – 18 Uhr | Fr 11 – 14 Uhr

*Bitte akzeptiere die Cookies, um mit uns zu chatten.

Melde Hass über unser Formular:

Zum Meldeformular 

Dickpic erhalten?

Erstatte direkt eine Anzeige! 

 



Helft mir!
Schatten auf der Straße mit Handy in der Hand.

Face Swap Apps: Hilfe, mein Gesicht ist in einem Porno! 

Eine erste Google-Recherche zu Face Swap Apps zeigt erstmal auf Seite 1 nur Artikel, die verschiedene Apps vorstellen, sie vergleichen und die besten empfehlen: „Mega lustig: Mit der App fährst du bei Fast and Furious mit” oder „Verarsche deine Freund*innen: Setze ihre Gesichter in andere Fotos ein!” Kann witzig sein, bis … das eigene Gesicht plötzlich in einem fremden Nacktbild oder Porno-Video zu sehen ist: 

Eine junge Journalistin, die viel über Feminismus und Gleichberechtigung schreibt, hat gerade ihr erstes Buch veröffentlicht. 

Plötzlich schreibt ihr ein Freund: „Hey, ich habe dich gerade gegoogelt, guck mal!” Ihr Gesicht taucht in einem Hardcore-Porno auf, in welchem sie erniedrigt und gedemütigt wird. Übelkeit, Schock, Scham: Das Video ist viral gegangen.  

Zwar bekommt sie wegen ihrer politischen Stellungnahmen bereits viel Hass auf Twitter von Rechten und Antifeminist*innen, doch geht es mit diesem Video erst richtig los. Gewaltverherrlichende Hasskommentare und Screenshot des Videos erreichen sie im Sekundentakt. Ihre Buchveröffentlichung ist in diesem Shitstorm völlig untergegangen und ihre Seriosität untergraben. Sie kann nicht mehr und zieht sich aus der Öffentlichkeit zurück. 

Das kann uns allen passieren. User*innen können mit Face Swap Apps innerhalb kürzester Zeit solche Fälschungen erstellen. Sie missbrauchen dabei fremde Fotos und Videos – eine Form der digitalen Gewalt, die für Betroffene schwere Folgen haben kann. 

Was sind Face Swap Apps?

Face Swap Apps ermöglichen es User*innen, Audio- und Videodateien mit dem Smartphone zu fälschen.  Künstliche Intelligenz ermöglicht es, mit Programmen oder Apps Gesichter in fremde Fotos oder Videos zu setzen. Diese gefälschten Fotos oder Videos werden Deepfakes genannt. Mit Face Swap Apps gibt es nun eine massentaugliche Deepfake-Technik – denn sie sind für alle Menschen zugänglich und leicht bedienbar. Das macht sie so gefährlich.   

Ein Social-Media-Profilbild und eine Face Swap App reichen mittlerweile aus, um täuschend echt aussehende Fälschungen von Fotos oder Videos zu erstellen. Die Apps gibt es ganz offiziell und kostenlos in App-Stores. Das ist erstmal nicht schlimm. Leider gibt es aber von den App-Betreibenden, von Plattformen oder der Politik kaum Richtlinien dazu, wie und von wem diese Fälschungen erstellt werden dürfen. Das führt zum Missbrauch dieser Technologie, der Betroffene und unsere Gesellschaft gefährdet. Dass das eigene Bild ohne Einverständnis in fremde Kontexte und Szenen eingesetzt wird, kann durch diese Apps alle treffen. Doch vor allem Frauen sind von solchen Fakes betroffen. 

Bedrohung: Sexualisierte Deepfakes

Warnungen vor den Gefahren der Deepfake-Technologien werden seit Jahren immer lauter. Denn Desinformation und politische Propaganda können durch den Missbrauch solcher Technologien noch leichter mit Bild- und Videomaterial unterfüttert werden.   

Mehr über die Technologie und die Gefahren von Deepfakes erfahrt ihr in unserem Online-Magazin. 

Über sexualisierte Deepfakes wird, so eine Untersuchung von Netzpolitik.org, aber noch kaum gesprochen. Gerade Frauen werden immer wieder mit Hilfe von Face Swap Apps in Pornos hinein manipuliert. Dass Frauen besonders betroffen sind, ist in den Apps selbst verwurzelt. Denn die Apps sind auf den weiblichen Körper ausgerichtet, die Deepfake-Erkennungssysteme dagegen auf männliche (European Parliamentary Research Service 2021).  


Die Studie des Europäischen Parlaments (2021) macht die Gefahren von Deepfake-Technologien in all ihren Facetten sichtbar. Unter Punkt 4.3 könnt ihr mehr zur Verbindung von Deepfakes und Geschlechterungleichheit lesen.

Die Fakes werden veröffentlicht, verbreiten sich rasend schnell und sind zum Teil frei im Internet zugänglich. Da die Technologien kontinuierlich besser werden, sehen die Fälschungen immer echter aus. Somit wird es für Betroffene immer schwerer, die Falschheit zu beweisen und ihren Ruf wieder herzustellen. Selbst wenn ein Deepfake aufgedeckt und gelöscht wird, bleiben die Bilder in den Köpfen der Menschen und die Darstellungen können auch Jahre später wieder auftauchen

Person legt ihren Kopf traurig auf verschränkte Arme.
Die Folgen für Betroffene können sich jahrelang ziehen. Foto: Scopio/Nadia Fusco

Deutschland- und weltweit sind Frauen von bildbasierter sexualisierter Gewalt, einer Art von digitaler Gewalt, betroffen:

  • Politikerinnen unabhängig von Parteizugehörigkeit,  
  • Journalistinnen, 
  • Schriftstellerinnen,  
  • Schauspielerinnen,  
  • Nachrichtensprecherinnen,  
  • Sängerinnen,  
  • Creatorinnen und  
  • Privatpersonen. 

Die Szene hinter Deepfake-Pornos ist riesig und so vielfältig sind auch die Gefahren.  

Gefälschte Darstellung – reale Folgen!

Gerade Frauenhass und misogyne Weltansichten treiben die Täter*innen an. Die Deepfakes reichen von Bikinibildern bis hin zu Hardcore-Pornos. So unterschiedlich die Manipulationen auch sein mögen, die Folgen für Betroffene sind schwerwiegend. Psychische Belastung und Traumatisierung, Scham und Ausgrenzung aus dem Familien- oder Freund*innenkreis sowie Probleme im Job oder bei der Jobsuche sind für Betroffene reale Gefahren.  

Diese Folgen bedrohen aber nicht nur die Einzelpersonen, sondern unsere ganze Gesellschaft. Sexualisierte Deepfakes gehören zur bildbasierten sexualisierten Gewalt: Sie stellen bloß, erniedrigen, diskriminieren, bedrohen und schüchtern ein.  

Gerade Politikerinnen und Journalistinnen sind immer wieder Ziel der Täter*innen. Das ist eine enorme Bedrohung für unsere Demokratie. (European Parliamentary Research Service 2021). Denn wenn die Würde, Glaubwürdigkeit und Seriosität von Frauen durch diese verfälschten Darstellungen angegriffen wird, dann ist das ein Angriff auf Meinungsfreiheit, das Persönlichkeitsrecht und unsere Demokratie als Ganzes.  

Ob analog oder digital: Frauen haben das Recht, ihre Meinung zu äußern, sich von Partner*innen zu trennen, Karriere zu machen oder in die Öffentlichkeit treten, ohne Angst haben zu müssen, Gewalt zu erfahren! 

Von Deepfake betroffen, was nun? 

Wenn ein Foto von dir ohne Einverständnis in fremde Videos oder Fotos eingefügt wurde, kannst du diesen Schritten folgen, um dich zu schützen und zu wehren: 

  • Erstelle einen rechtssicheren Screenshot und sichere so viele Beweise wie möglich. 
  • Melde dich bei uns! Wir beraten dich und können bei einem Privatsphären-Check helfen. 
  • Kontaktiere die Plattformen und Seiten, auf denen der Deepfake veröffentlicht wurde, und lasse die Fälschung löschen. 
  • Zeige den Vorfall an! 
  • Veröffentliche ein Statement und weise daraufhin, dass es eine Fälschung ist und woran dies erkennbar ist. 

Wie du Deepfakes erkennst, kannst hier nachlesen. 

Ein Update, das hoffen lässt: Es gibt nun eine Software, die deine Bilder vor Missbrauch schützt. Das Programm heißt „Photoguide” und wurde von einem Forschungsteam des Massachusetts Institute of Technology entwickelt.

„Photoguide” verwendet Datenvergiftungstechniken, die die Pixel in einem Bild stören. Das löst ein unsichtbares Rauschen aus. Diese Störung sorgt dafür, dass Bilder nicht mehr ohne Fehler in andere Kontexte gesetzt werden können. Damit kann dein Foto nicht mehr realitätsnah in ein Nacktbild kopiert werden. Bis jetzt gibt es die Software als frei verfügbaren Code. Wir sind gespannt, wie sich der Schutz vor Foto-Manipulation weiterentwickelt.

Wir fordern: Manipulation von Nacktbildern jetzt stoppen!

An allen relevanten Stellen fehlt es an Gesetzen, Schutzmaßnahmen und Grenzen der Deepfakes-Erstellung. Das kann und darf nicht sein! Deshalb starteten wir im November 2022 unsere Petition „Nackt im Netz: Porno-Manipulation jetzt stoppen!” und stellten damit folgende Forderungen an Bundesdigitalminister Volker Wissing:

Die Manipulation von Nacktaufnahmen stoppen
Die Manipulations-Apps aus den App-Stores verbannen 
Starke Gesetze zur Verhinderung der Manipulation und dem Porno-Missbrauch 

Update zu unserer Petition „Nackt im Netz: Porno-Manipulation“

Durch eure Unterstützung haben wir es geschafft, insgesamt 76.937 Unterschriften für unsere Petition zu sammeln. Dieses starke Ergebnis ist eine klare Aufforderung an die Bundesregierung, gegen die ungewollte Porno-Manipulation aktiv zu werden.

Wir baten Digitalminister Wissing um einen Termin zur Petitionsübergabe. Die Rückmeldung kam schnell: Eine Absage.

Deswegen zogen wir im Oktober 2023 gemeinsam mit Unterstützer*innen und unseren Forderungen vor das Digitalministerium. Daniela Kluckert, parlamentarische Staatssekretärin des Ministeriums, hat die Unterschriften angenommen. Jetzt muss die Bundesregierung handeln!

Wir bleiben dran und stellen sicher, dass die Manipulation von Nacktaufnahmen gestoppt wird. Das neue Gesetz gegen digitale Gewalt wird derzeit im Bundestag verhandelt und 76.937 Menschen bauen darauf, dass der Schutz gegen diese Gewalt endlich umgesetzt wird.

Bleib engagiert und auf dem Laufenden mit dem HateAid Newsletter!

Du erhältst alle zwei bis vier Wochen Neuigkeiten rund um unsere Arbeit und erfährst, wie du die Online-Welt ein kleines Stückchen besser machen kannst.



    Bitte fülle noch das Captcha aus*

    Mehr Infos in unserer Datenschutzerklärung. *