Du bist von digitaler Gewalt betroffen?

Wir sind für dich da!

Schreibe eine E-Mail an:
beratung@hateaid.org

Rufe uns in den Sprechzeiten an:
030 / 252 088 38
Mo 10 – 13 Uhr | Di 15 – 18 Uhr | Do 16 – 19 Uhr  

Melde Hass über unser Formular:
Zum Meldeformular

Dickpic erhalten?
Erstatte direkt eine Anzeige!

      

Helft mir!

In einem spektakulären Prozess hat sich die Grünen-Politikerin Renate Künast gegen Falschzitate & Memes von ihr auf Facebook gewehrt.

+++ Facebook legt Berufung ein: Wir sehen uns vor dem Oberlandesgericht! +++

Morddrohungen, Beleidigungen und Lügen – damit fluten gefühlt immer mehr Hater*innen Kommentarspalten auf Social-Media-Plattformen. Dass der Hass tatsächlich überall ist, zeigt eine repräsentative Studie: 73 Prozent der Internetnutzer*innen wurden beim Surfen schon einmal mit Hass konfrontiert. Vermehrt trifft es Politiker*innen, Journalist*innen oder Aktivist*innen, die sich öffentlich klar und mutig zu ihrer Meinung bekennen oder hartnäckig recherchieren. Zu einem hohen Preis: Hasskommentare gehören für sie und viele andere Menschen inzwischen zur Tagesordnung, genauso wie Gewaltandrohungen oder Falschzitate, die zigtausendfach geteilt werden.

Solchen Diffamierungen nachzugehen, ist für Betroffene nicht nur zutiefst belastend, sondern führt oftmals ins Leere. Denn oft kommt es vor, dass große Plattformen auch rechtswidrige Inhalte, die ihnen angezeigt werden, nicht löschen. Die Folge: Sie stellen sich damit nicht hinter die Betroffenen, sondern, ob sie wollen oder nicht, unterstützen die Hater*innen. So auch im Fall der Grünen-Politikerin Renate Künast.

Der Fall Künast gegen Facebook

Gemeinsam mit HateAid zog sie deshalb im Facebook-Prozess gegen den Konzern vor Gericht. Das Ziel war von Anfang an klar: Ein Grundsatzurteil erstreiten, das die Leben von vielen Betroffenen verändert. Dabei ging es um ein Falschzitat von ihr, das bereits seit 2015 im Netz kursierte und das sie einfach nicht wegbekam. So wie ihr geht es seit Jahren vielen Betroffenen, die sich an HateAid wenden.

Nun hat dieser Grundsatzprozess endlich dazu geführt, dass sich etwas ändert, denn die Richter*innen haben uns in allen Punkten, die wir gefordert haben, recht gegeben!

Unsere Erfolge

Das haben wir vor Gericht erreicht

Facebook muss alle identischen Memes, die zum Zeitpunkt des Urteils auf der Plattform vorhanden sind und ein Foto von Renate Künast, ihren Namen sowie das nachweisliche Falschzitat beinhalten, suchen und löschen.

Facebook ist auch dazu verpflichtet, alle kerngleichen Memes dieser Art, die zum Zeitpunkt des Urteils auf der Plattform vorhanden sind, zu suchen und löschen. Unter kerngleiche Inhalte fallen Memes, die leicht abgewandelt, aber im Kern gleich sind.

Da Renate Künasts Persönlichkeitsrechte verletzt wurden, muss Facebook zusätzlich ein Schmerzensgeld in Höhe von 10.000 € zahlen. Das Gericht begründet die Schwere der Persönlichkeitsverletzung auch mit dem Hass, der als Reaktion auf das Meme auf Künast eingeprasselt ist.

Die Richter*innen sind davon überzeugt, dass es dem Konzern sowohl technisch als auch wirtschaftlich zugemutet werden kann, auch ohne konkret vorliegende URL identische, fast identische und ähnliche Memes aufzuspüren und zu löschen. In Ihrem Urteil weisen sie darauf hin, dass die Einrichtung sogenannter Upload-Filter hierfür nicht erforderlich sei. Denn auch menschliche Moderationsentscheidungen könnten verlangt werden.

Falschzitate und Hate Speech werden im Netz auch vom organisierten Rechtsextremismus orchestriert eingesetzt, um Politik und Medien herabzuwürdigen. Diese gezielte Desinformation soll das wichtigste Kapital der Betroffenen, nämlich die Glaubwürdigkeit, systematisch infrage stellen. Ich freue mich sehr über das heutige Urteil des Landgerichts Frankfurt, denn es ist ein Meilenstein für unsere Demokratie, den Kampf gegen Rechtsextremismus und für alle Nutzer*innen im Netz! Diese Grundsatzentscheidung mit der Pflicht, alle vorhandenen Falschzitate zu löschen, nimmt die Plattformen endlich in die Pflicht. Es wird Wirkungen über Deutschland hinaus haben und hoffentlich in Brüssel beim Trilog zum DSA Beachtung finden.“

Renate Künast (Bündnis 90/die Grünen), MdB

Die Grünen-Politikerin Renate Künast.

Foto: Laurence Chaperon

Der Hintergrund

Worum ging es im Grundsatzprozess gegen Facebook?

Konkret ging es dabei um ein Meme, auf dem die Politikerin abgebildet ist. Neben ihrem Bild und ihrem Namen steht ein angebliches Zitat von ihr. Doch diese Worte hat sie so nie gesagt. Ein klassisches Falschzitat also, das dazu dienen soll, sie zu attackieren und sie in der Öffentlichkeit in ein schlechtes Licht zu rücken.

Das Meme wurde in den letzten Jahren unkontrolliert auf Facebook verbreitet, es wurde geteilt, heruntergeladen und wieder hochgeladen. All das, obwohl sogar durch Faktenchecks auf Facebook belegt ist, dass es unecht ist.

Anna-Lena von Hodenberg und Renate Künast

Anna-Lena von Hodenberg und Renate Künast im Gespräch zur Facebook-Klage. Foto: Soeren Stache/dpa +++ dpa-Bildfunk +++

Alfred Landecker Foundation

Der Prozess wurde als Teil des Landecker Digital Justice Movement verwirklicht – einer Initiative von HateAid und der Alfred Landecker Foundation. Renate Künast wird von HateAid als Beratungsstelle und Prozesskostenfinanzierer unterstützt.

Um die Verbreitung endlich zu stoppen und von Facebook die konsequente Löschung zu erreichen, reichte Renate Künast Mitte 2021 vor dem Landgericht Frankfurt Klage gegen die Social Media-Plattform ein.

Denn alle Reposts dieses Falschzitats zu finden und zu melden, ist für Betroffene ein unmögliches Unterfangen. Aber genau das forderte Facebook bisher von Betroffenen: Sie mussten jedes einzelne geteilte oder erneut hochgeladene Posting selbst suchen, finden und manuell bei der Plattform melden. Das kann zu einer Lebensaufgabe werden. Und sicher sind Betroffene nie, weil die Falschzitate auch in geschlossenen Gruppen geteilt werden, zu denen sie keinen Zugriff haben. Social-Media-Plattformen wie Facebook verweigerten es bisher, daran mitzuwirken – und ließen es sehenden Auges zu, dass rechtswidrige Inhalte auf ihrer Plattform stehen blieben.

Renate Künast und wir forderten genau diese Mitwirkung von Facebook ein: Wir wollten, dass die Plattform alle geteilten, identischen oder kerngleichen Memes sucht, prüft und gegebenenfalls löscht, wenn es sich zum Beispiel nicht um journalistische Berichterstattung handelt. Ziel des Prozesses war es, in dieser Frage zum ersten Mal ein grundsätzliches Urteil zu erwirken.

Die Entscheidung des Gerichts vom 8. April wird nun wegweisend für die Rechte aller Betroffenen sein – denn Richter*innen werden sich auch in künftigen Prozessen daran orientieren und ihre Entscheidungen mit Blick auf dieses Grundsatzurteil treffen.

Die Situation Betroffener

Warum sind Betroffene machtlos gegen Plattformen wie Facebook?

Im Prozess wurde geklärt, welchen Löschpflichten Plattformen in Bezug auf massenhaft verbreitete illegale Inhalte nachkommen müssen. Denn viele Betroffene sind machtlos, wenn Falschaussagen, Hass und Hetze über sie gepostet werden, weil:
Die Bedeutung

Welche Bedeutung hat dieser Prozess für alle Nutzer*innen sozialer Netzwerke?

Die Verbreitung von Falschzitaten und rechtswidrigen Memes geschieht durch die verstärkte digitale Vernetzung und intransparente Algorithmen unfassbar schnell und kann nur schwer aufgehalten werden. Wenn ein solcher Post erst einmal in der Welt ist, braucht es manchmal nur wenige Sekunden, bis er in tausenden von Feeds auftaucht und weiter geteilt wird.
Zwei junge Männer, die gemeinsam auf ein Smartphone schauen.

Nutzer*innen sozialer Netzwerke waren bisher machtlos, wenn sich Falschzitate online schnell und unkontrolliert verbreitet haben. Foto: Pexels/William Fortunato

Und auch außerhalb der digitalen Bubble zeigen sich schnell Konsequenzen für Betroffene, wenn beleidigende, falsche und rechtswidrige Inhalte online bleiben und nicht geahndet werden. Lügen im Internet können Angestellte ihren Job kosten, wenn der Chef auf sie stößt und diese glaubt. Freundschaften können zerbrechen, wenn online falsche Tatsachen behauptet werden und es Betroffenen nicht möglich ist, sie zu löschen. Leben können zerstört werden, wenn der Ruf unwiderruflich beschädigt ist.
Wie soll ein ausgewogener, fairer Diskurs auf Augenhöhe stattfinden, wenn Hasskommentare und Falschmeldungen ohne Konsequenzen gepostet werden dürfen? Wie sollen sich Menschen frei fühlen, wenn sie in der Öffentlichkeit ihre Meinung äußern und gleich darauf Lügen über sie und ihre Aussagen verbreitet werden? Durch Angriffe im Netz werden sie mundtot gemacht und eingeschüchtert, ziehen sich im schlimmsten Fall aus dem öffentlichen Leben oder ihren Ämtern in Politik, Öffentlichkeit und dem Ehrenamt zurück.
Porträtfoto von Josephine Ballon, Head of Legal bei HateAid

Foto: Andrea Heinsohn Photography

„Das Urteil ist eine Sensation. Das Gericht hat klargestellt, dass soziale Medien durchaus Verantwortung für den Schutz der Nutzenden tragen. Vor allem können sie nun nicht länger behaupten, dass die Last für das Auffinden rechtswidriger Inhalte allein bei den Betroffenen liege. Insbesondere, wenn wie hier ein Falschzitat mit dem klaren Ziel der politischen Desinformation massenhaft verbreitet wird, müssen auch die Plattformen selbst aktiv werden, um individuelle und gesamtgesellschaftliche Schäden abzuwenden. Zusammen mit Renate Künast konnten wir die Rechte der Betroffenen dahingehend stärken.”

Josephine Ballon, Head of Legal HateAid

Wie soll ein ausgewogener, fairer Diskurs auf Augenhöhe stattfinden, wenn Hasskommentare und Falschmeldungen ohne Konsequenzen gepostet werden dürfen? Wie sollen sich Menschen frei fühlen, wenn sie in der Öffentlichkeit ihre Meinung äußern und gleich darauf Lügen über sie und ihre Aussagen verbreitet werden? Durch Angriffe im Netz werden sie mundtot gemacht und eingeschüchtert, ziehen sich im schlimmsten Fall aus dem öffentlichen Leben oder ihren Ämtern in Politik, Öffentlichkeit und dem Ehrenamt zurück.

Um das in Zukunft zu verhindern, war der Grundsatzprozess gegen Facebook so wichtig. Wir mussten sicherstellen, dass es Werkzeuge und die Mithilfe von großen Plattformen gibt, um die Flut an digitaler Gewalt zu stoppen. Um Betroffenen zur Seite zu stehen. Und um den öffentlichen Diskurs nicht noch weiter zu gefährden.

Auswirkungen von unkontrollierter digitaler Gewalt

Die Studie ‚#Hass im Netz: Der schleichende Angriff auf unsere Demokratie’ des Instituts für Demokratie und Zivilgesellschaft (IDZ) aus dem Jahr 2019 legt bereits jetzt alarmierende Zahlen zu den Folgen von Hass auf den öffentlichen Diskurs vor. Sie zeigt sehr genau, welche Auswirkungen Hass im Netz auf die Befragten hat:

54
% bekennen sich aufgrund digitaler Gewalt seltener zu ihrer politischen Meinung.
74
% finden, dass Hass die Vielfalt im Netz gefährdet, weil sie Menschen einschüchtern und verdrängen.
59
% haben eine Veränderung dessen beobachtet, was man auch außerhalb des Internets sagen kann und was nicht.

„Das Urteil ist wegweisend, weil hier über eine zentrale Frage entschieden worden ist, die über den einzelnen Fall weit hinausgeht: Werden die digitalen Plattformen ihrer gesellschaftlichen Verantwortung gerecht, die sie de facto inzwischen tragen - aber bislang noch nicht anzunehmen bereit waren? Mit dem heutigen Urteil hat das Landgericht Frankfurt am Main eine Machtasymmetrie aufgehoben, die für eine Demokratie nicht länger hinnehmbar war. Endlich müssen nicht mehr länger die Opfer von Hass und Diskriminierung für die Entgiftung des öffentlichen Diskursraums sorgen – sondern diejenigen, die die Verbreitung des Gifts überhaupt erst zugelassen haben.”

Andrea Eberhardt, CEO & Gründungsdirektor der Alfred Landecker Foundation

Andreas Eberhardt Porträtfot
Erschreckende Enthüllungen

Der Skandal um die Facebook-Files

2,89 Milliarden Menschen nutzen die Dienste des Meta-Universums von Mark Zuckerberg, bestehend aus Facebook, Instagram und WhatsApp. Im September 2021 kam es zu Enthüllungen durch die Whistleblowerin Frances Haugen.

Sie wandte sich mit internen Dokumenten an das Wall Street Journal. Diese lieferten Beweise, dass das Wohl des Unternehmens in zahlreichen Fällen wichtiger zu sein scheint, als das der User*innen:

YouTube

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren

Video laden

4 Zentrale Fakten zu den Enthüllungen

Wenn auf Facebook Fotos oder Beiträge geteilt werden, die nicht den Richtlinien entsprechen, müssen User*innen für gewöhnlich mit der Sperrung ihres Accounts rechnen. Dazu zählen zum Beispiel Posts, in denen zu Gewalt aufgerufen wird, mit denen andere Menschen gemobbt, belästigt oder beleidigt werden. Prüfen sollen dies interne Qualitätssicherungstools, die zum Teil mittels einer künstlichen Intelligenz kritische Inhalte aufspüren und löschen. Vertrauliche Dokumente, welche die Facebook Files veröffentlichten, zeigten im Herbst 2021 allerdings, dass diese Regeln nicht für alle User*innen gelten. Es herrsche ein Zweiklassensystem bei Facebook.

Zahlreiche Prominente, Politiker*innen und andere einflussreiche Persönlichkeiten werden den Files zufolge einem Bereich namens “XCheck” zugeordnet, der 5,8 Mio. Accounts listet. Diese haben mehr Freiheiten als andere, wenn sie sich auf der Plattform zu Wort melden. Denn XCheck ist im Grunde ein VIP-Bereich: bestimmte User*innen wurden hier durch ein sogenanntes Whitelisting wiederholt vor Konsequenzen geschützt. Und das, obwohl sie rechtswidrige Inhalte posteten oder ihre Postings eindeutig gegen die Facebook-Community Standards verstießen. Wie im Fall des brasilianischen Fußballers Neymar. Er postete 2019 Nacktfotos einer Frau, die ihn zuvor der Vergewaltigung beschuldigt hatte. Erst, nachdem die Rachefotos 6.000-mal geteilt wurden und 56 Millionen User*innen den Content gesehen hatten, wurde die Plattform aktiv und löschte den Post. Gesperrt wurde Neymar als VIP-Promi dafür aber nicht.

 

Content-Moderator*innen rund um den Globus arbeiten für Facebook und sichten tagtäglich kritische Inhalte. Drittfirmen stellen die Arbeitskräfte zur Verfügung, welche dürftig bezahlt werden, obwohl sie sich kontinuierlich mit digitaler Gewalt beschäftigen müssen. Der Flut an Hass wird das Unternehmen aber allein mit Menschen nicht mehr Herr – deshalb wird zusätzlich künstliche Intelligenz eingesetzt. Sie soll Hassbotschaften, terroristische Inhalte und Gewaltvideos erkennen. Während Mark Zuckerberg immer wieder die großen Fortschritte bei der Löschung von Hass und Gewalt hervorhebt, widersprechen renommierte Forscher*innen deutlich. Sie weisen darauf hin, dass aktuelle Technologien bisher lediglich drei bis fünf Prozent aller kritischen Posts eindeutig als solche identifizieren.

Provokationen erreichen einfach mehr Menschen: Facebook passte 2018 den Algorithmus innerhalb der Plattform an, um noch erfolgreicher Newsfeeds weltweit bespielen zu können. Während zuvor positive und negative Inhalte ausgewogen auf den Bildschirmen von User*innen aufpoppten, dominieren laut der Enthüllungen seither solche Posts, die Menschen negativ emotionalisieren und durch Wut und Empörung länger in sozialen Netzwerken halten. Hass und Hetze sind der Schlüssel zu Facebooks Erfolg.

Vermutet wird es schon lange, belegen konnten es die neuesten Leaks: Instagram schadet den Facebook Files zufolge dem Selbstbild von Mädchen. Gerade in der Pubertät sind viele Mädchen verunsichert, stellen ihr Äußeres und ihren Körper vermehrt infrage. Das verstärkt die App: Ein Drittel aller Mädchen, die mit ihrem Körper unzufrieden sind, fühlen sich schlechter, wenn sie Instagram öffnen und sich in der Welt der Fotokacheln verlieren. Interne Studien von Meta zeigen, dass Instagram eine Gefahr für das Selbstwertgefühl darstellt sowie Suizidgedanken und Depressionen hervorrufen kann.

Der Prozess im Überblick

Das geschah im Facebook-Grundsatzprozess

 
Januar 1, 2015

Das Meme wird gepostet

Das Falschzitat von Renate Künast wird erstmals im Laufe des Jahres 2015* online gepostet, User*innen verbreiten den Post weiter.
* in der Timeline beispielhaft gewähltes Datum, da unklar ist, wann genau der erste Post erschien.

 
Januar 1, 2015
 
Oktober 30, 2019

Löschpflicht für Facebook

Am Gerichtshof der Europäischen Union wird das Glawischnig-Urteil gefällt. Es besagt: Es verstößt nicht gegen EU-Recht, wenn Facebook zur Löschung von rechtswidrigen Kommentaren und zur Löschung von wort- und sinngleichen Hasskommentaren verpflichtet wird. Offen lässt das Gericht viele Fragen zur genauen Ausgestaltung der Löschpflicht, etwa mit Blick auf technische Hilfsmittel und manuelle Prüfpflichten. Das bedeutet: Jetzt müssen nationale Gerichte in Europa entscheiden, ob und in welcher Weise sie die Plattformen zur Löschung von Inhalten verpflichten.

 
Oktober 30, 2019
 
April 23, 2021

Klage gegen Facebook

Am 23. April 2021 reicht Renate Künast mit der Unterstützung von HateAid Klage vor dem Landgericht Frankfurt am Main gegen Facebook ein.

 
April 23, 2021
 
Januar 20, 2022

Mündliche Anhörung

In der Anhörung vor dem Frankfurter Landgericht versuchte Meta erneut, eine Verantwortung für die Löschung massenhaft verbreiteter rechtswidriger
Inhalte auf der Plattform von sich zu weisen. Gemeinsam mit Klägerin Renate Künast fordern wir hingegen,
Betroffene von digitaler Gewalt besser zu schützen und illegale Inhalte proaktiv zu identifizieren und
zu löschen.

 
Januar 20, 2022
 
April 8, 2022

🏆 Das Urteil ist da: Wir haben einen Präzedenzfall geschaffen!

Das Gericht hat entschieden – und uns in allen geforderten Punkten recht gegeben! Facebook steht nun in der Pflicht, alle identischen und kerngleichen Memes von Renate Künast, die zum Zeitpunkt des Urteils auf der Plattform vorhanden sind, zu suchen und zu löschen. Außerdem wird Facebook dazu verpflichtet, ein Schmerzensgeld in Höhe von 10.000 € zu zahlen.

 
April 8, 2022
 

Bleib engagiert und auf dem Laufenden mit dem HateAid Newsletter!

Du erhältst viermal jährlich alle wichtigen Neuigkeiten rund um unsere Arbeit und wie du die Online-Welt ein kleines Stückchen besser machen kannst.

    Mehr Infos in unserer Datenschutzerklärung