In einem spektakulären Prozess hat sich die Grünen-Politikerin Renate Künast gegen Falschzitate & Memes von ihr auf Facebook gewehrt.
+++ Facebook legt Berufung ein: Wir sehen uns vor dem Oberlandesgericht! +++
Morddrohungen, Beleidigungen und Lügen – damit fluten gefühlt immer mehr Hater*innen Kommentarspalten auf Social-Media-Plattformen. Dass der Hass tatsächlich überall ist, zeigt eine repräsentative Studie: 73 Prozent der Internetnutzer*innen wurden beim Surfen schon einmal mit Hass konfrontiert. Vermehrt trifft es Politiker*innen, Journalist*innen oder Aktivist*innen, die sich öffentlich klar und mutig zu ihrer Meinung bekennen oder hartnäckig recherchieren. Zu einem hohen Preis: Hasskommentare gehören für sie und viele andere Menschen inzwischen zur Tagesordnung, genauso wie Gewaltandrohungen oder Falschzitate, die zigtausendfach geteilt werden.
Solchen Diffamierungen nachzugehen, ist für Betroffene nicht nur zutiefst belastend, sondern führt oftmals ins Leere. Denn oft kommt es vor, dass große Plattformen auch rechtswidrige Inhalte, die ihnen angezeigt werden, nicht löschen. Die Folge: Sie stellen sich damit nicht hinter die Betroffenen, sondern, ob sie wollen oder nicht, unterstützen die Hater*innen. So auch im Fall der Grünen-Politikerin Renate Künast.
Der Fall Künast gegen Facebook
Gemeinsam mit HateAid zog sie deshalb im Facebook-Prozess gegen den Konzern vor Gericht. Das Ziel war von Anfang an klar: Ein Grundsatzurteil erstreiten, das die Leben von vielen Betroffenen verändert. Dabei ging es um ein Falschzitat von ihr, das bereits seit 2015 im Netz kursierte und das sie einfach nicht wegbekam. So wie ihr geht es seit Jahren vielen Betroffenen, die sich an HateAid wenden.
Nun hat dieser Grundsatzprozess endlich dazu geführt, dass sich etwas ändert, denn die Richter*innen haben uns in allen Punkten, die wir gefordert haben, recht gegeben!
Unsere Erfolge
Das haben wir vor Gericht erreicht
Die Richter*innen sind davon überzeugt, dass es dem Konzern sowohl technisch als auch wirtschaftlich zugemutet werden kann, auch ohne konkret vorliegende URL identische, fast identische und ähnliche Memes aufzuspüren und zu löschen. In Ihrem Urteil weisen sie darauf hin, dass die Einrichtung sogenannter Upload-Filter hierfür nicht erforderlich sei. Denn auch menschliche Moderationsentscheidungen könnten verlangt werden.
„Falschzitate und Hate Speech werden im Netz auch vom organisierten Rechtsextremismus orchestriert eingesetzt, um Politik und Medien herabzuwürdigen. Diese gezielte Desinformation soll das wichtigste Kapital der Betroffenen, nämlich die Glaubwürdigkeit, systematisch infrage stellen. Ich freue mich sehr über das heutige Urteil des Landgerichts Frankfurt, denn es ist ein Meilenstein für unsere Demokratie, den Kampf gegen Rechtsextremismus und für alle Nutzer*innen im Netz! Diese Grundsatzentscheidung mit der Pflicht, alle vorhandenen Falschzitate zu löschen, nimmt die Plattformen endlich in die Pflicht. Es wird Wirkungen über Deutschland hinaus haben und hoffentlich in Brüssel beim Trilog zum DSA Beachtung finden.“
Renate Künast (Bündnis 90/die Grünen), MdB
Foto: Laurence Chaperon
Der Hintergrund
Worum ging es im Grundsatzprozess gegen Facebook?
Konkret ging es dabei um ein Meme, auf dem die Politikerin abgebildet ist. Neben ihrem Bild und ihrem Namen steht ein angebliches Zitat von ihr. Doch diese Worte hat sie so nie gesagt. Ein klassisches Falschzitat also, das dazu dienen soll, sie zu attackieren und sie in der Öffentlichkeit in ein schlechtes Licht zu rücken.
Das Meme wurde in den letzten Jahren unkontrolliert auf Facebook verbreitet, es wurde geteilt, heruntergeladen und wieder hochgeladen. All das, obwohl sogar durch Faktenchecks auf Facebook belegt ist, dass es unecht ist.
Anna-Lena von Hodenberg und Renate Künast im Gespräch zur Facebook-Klage. Foto: Soeren Stache/dpa +++ dpa-Bildfunk +++
Alfred Landecker Foundation
Der Prozess wurde als Teil des Landecker Digital Justice Movement verwirklicht – einer Initiative von HateAid und der Alfred Landecker Foundation. Renate Künast wird von HateAid als Beratungsstelle und Prozesskostenfinanzierer unterstützt.
Um die Verbreitung endlich zu stoppen und von Facebook die konsequente Löschung zu erreichen, reichte Renate Künast Mitte 2021 vor dem Landgericht Frankfurt Klage gegen die Social Media-Plattform ein.
Denn alle Reposts dieses Falschzitats zu finden und zu melden, ist für Betroffene ein unmögliches Unterfangen. Aber genau das forderte Facebook bisher von Betroffenen: Sie mussten jedes einzelne geteilte oder erneut hochgeladene Posting selbst suchen, finden und manuell bei der Plattform melden. Das kann zu einer Lebensaufgabe werden. Und sicher sind Betroffene nie, weil die Falschzitate auch in geschlossenen Gruppen geteilt werden, zu denen sie keinen Zugriff haben. Social-Media-Plattformen wie Facebook verweigerten es bisher, daran mitzuwirken – und ließen es sehenden Auges zu, dass rechtswidrige Inhalte auf ihrer Plattform stehen blieben.
Renate Künast und wir forderten genau diese Mitwirkung von Facebook ein: Wir wollten, dass die Plattform alle geteilten, identischen oder kerngleichen Memes sucht, prüft und gegebenenfalls löscht, wenn es sich zum Beispiel nicht um journalistische Berichterstattung handelt. Ziel des Prozesses war es, in dieser Frage zum ersten Mal ein grundsätzliches Urteil zu erwirken.
Die Entscheidung des Gerichts vom 8. April wird nun wegweisend für die Rechte aller Betroffenen sein – denn Richter*innen werden sich auch in künftigen Prozessen daran orientieren und ihre Entscheidungen mit Blick auf dieses Grundsatzurteil treffen.
Die Situation Betroffener
Warum sind Betroffene machtlos gegen Plattformen wie Facebook?
Die Bedeutung
Welche Bedeutung hat dieser Prozess für alle Nutzer*innen sozialer Netzwerke?
Nutzer*innen sozialer Netzwerke waren bisher machtlos, wenn sich Falschzitate online schnell und unkontrolliert verbreitet haben. Foto: Pexels/William Fortunato
Und auch außerhalb der digitalen Bubble zeigen sich schnell Konsequenzen für Betroffene, wenn beleidigende, falsche und rechtswidrige Inhalte online bleiben und nicht geahndet werden. Lügen im Internet können Angestellte ihren Job kosten, wenn der Chef auf sie stößt und diese glaubt. Freundschaften können zerbrechen, wenn online falsche Tatsachen behauptet werden und es Betroffenen nicht möglich ist, sie zu löschen. Leben können zerstört werden, wenn der Ruf unwiderruflich beschädigt ist.
Wie soll ein ausgewogener, fairer Diskurs auf Augenhöhe stattfinden, wenn Hasskommentare und Falschmeldungen ohne Konsequenzen gepostet werden dürfen? Wie sollen sich Menschen frei fühlen, wenn sie in der Öffentlichkeit ihre Meinung äußern und gleich darauf Lügen über sie und ihre Aussagen verbreitet werden? Durch Angriffe im Netz werden sie mundtot gemacht und eingeschüchtert, ziehen sich im schlimmsten Fall aus dem öffentlichen Leben oder ihren Ämtern in Politik, Öffentlichkeit und dem Ehrenamt zurück.
Foto: Andrea Heinsohn Photography
„Das Urteil ist eine Sensation. Das Gericht hat klargestellt, dass soziale Medien durchaus Verantwortung für den Schutz der Nutzenden tragen. Vor allem können sie nun nicht länger behaupten, dass die Last für das Auffinden rechtswidriger Inhalte allein bei den Betroffenen liege. Insbesondere, wenn wie hier ein Falschzitat mit dem klaren Ziel der politischen Desinformation massenhaft verbreitet wird, müssen auch die Plattformen selbst aktiv werden, um individuelle und gesamtgesellschaftliche Schäden abzuwenden. Zusammen mit Renate Künast konnten wir die Rechte der Betroffenen dahingehend stärken.”
Josephine Ballon, Head of Legal HateAid
Wie soll ein ausgewogener, fairer Diskurs auf Augenhöhe stattfinden, wenn Hasskommentare und Falschmeldungen ohne Konsequenzen gepostet werden dürfen? Wie sollen sich Menschen frei fühlen, wenn sie in der Öffentlichkeit ihre Meinung äußern und gleich darauf Lügen über sie und ihre Aussagen verbreitet werden? Durch Angriffe im Netz werden sie mundtot gemacht und eingeschüchtert, ziehen sich im schlimmsten Fall aus dem öffentlichen Leben oder ihren Ämtern in Politik, Öffentlichkeit und dem Ehrenamt zurück.
Um das in Zukunft zu verhindern, war der Grundsatzprozess gegen Facebook so wichtig. Wir mussten sicherstellen, dass es Werkzeuge und die Mithilfe von großen Plattformen gibt, um die Flut an digitaler Gewalt zu stoppen. Um Betroffenen zur Seite zu stehen. Und um den öffentlichen Diskurs nicht noch weiter zu gefährden.
Auswirkungen von unkontrollierter digitaler Gewalt
Die Studie ‚#Hass im Netz: Der schleichende Angriff auf unsere Demokratie’ des Instituts für Demokratie und Zivilgesellschaft (IDZ) aus dem Jahr 2019 legt bereits jetzt alarmierende Zahlen zu den Folgen von Hass auf den öffentlichen Diskurs vor. Sie zeigt sehr genau, welche Auswirkungen Hass im Netz auf die Befragten hat:
„Das Urteil ist wegweisend, weil hier über eine zentrale Frage entschieden worden ist, die über den einzelnen Fall weit hinausgeht: Werden die digitalen Plattformen ihrer gesellschaftlichen Verantwortung gerecht, die sie de facto inzwischen tragen - aber bislang noch nicht anzunehmen bereit waren? Mit dem heutigen Urteil hat das Landgericht Frankfurt am Main eine Machtasymmetrie aufgehoben, die für eine Demokratie nicht länger hinnehmbar war. Endlich müssen nicht mehr länger die Opfer von Hass und Diskriminierung für die Entgiftung des öffentlichen Diskursraums sorgen – sondern diejenigen, die die Verbreitung des Gifts überhaupt erst zugelassen haben.”
Andreas Eberhardt, ehemaliger CEO & Gründungsdirektor der Alfred Landecker Foundation
Erschreckende Enthüllungen
Der Skandal um die Facebook-Files
2,89 Milliarden Menschen nutzen die Dienste des Meta-Universums von Mark Zuckerberg, bestehend aus Facebook, Instagram und WhatsApp. Im September 2021 kam es zu Enthüllungen durch die Whistleblowerin Frances Haugen.
Sie wandte sich mit internen Dokumenten an das Wall Street Journal. Diese lieferten Beweise, dass das Wohl des Unternehmens in zahlreichen Fällen wichtiger zu sein scheint, als das der User*innen:
4 Zentrale Fakten zu den Enthüllungen
Wenn auf Facebook Fotos oder Beiträge geteilt werden, die nicht den Richtlinien entsprechen, müssen User*innen für gewöhnlich mit der Sperrung ihres Accounts rechnen. Dazu zählen zum Beispiel Posts, in denen zu Gewalt aufgerufen wird, mit denen andere Menschen gemobbt, belästigt oder beleidigt werden. Prüfen sollen dies interne Qualitätssicherungstools, die zum Teil mittels einer künstlichen Intelligenz kritische Inhalte aufspüren und löschen. Vertrauliche Dokumente, welche die Facebook Files veröffentlichten, zeigten im Herbst 2021 allerdings, dass diese Regeln nicht für alle User*innen gelten. Es herrsche ein Zweiklassensystem bei Facebook.
Zahlreiche Prominente, Politiker*innen und andere einflussreiche Persönlichkeiten werden den Files zufolge einem Bereich namens “XCheck” zugeordnet, der 5,8 Mio. Accounts listet. Diese haben mehr Freiheiten als andere, wenn sie sich auf der Plattform zu Wort melden. Denn XCheck ist im Grunde ein VIP-Bereich: bestimmte User*innen wurden hier durch ein sogenanntes Whitelisting wiederholt vor Konsequenzen geschützt. Und das, obwohl sie rechtswidrige Inhalte posteten oder ihre Postings eindeutig gegen die Facebook-Community Standards verstießen. Wie im Fall des brasilianischen Fußballers Neymar. Er postete 2019 Nacktfotos einer Frau, die ihn zuvor der Vergewaltigung beschuldigt hatte. Erst, nachdem die Rachefotos 6.000-mal geteilt wurden und 56 Millionen User*innen den Content gesehen hatten, wurde die Plattform aktiv und löschte den Post. Gesperrt wurde Neymar als VIP-Promi dafür aber nicht.
Content-Moderator*innen rund um den Globus arbeiten für Facebook und sichten tagtäglich kritische Inhalte. Drittfirmen stellen die Arbeitskräfte zur Verfügung, welche dürftig bezahlt werden, obwohl sie sich kontinuierlich mit digitaler Gewalt beschäftigen müssen. Der Flut an Hass wird das Unternehmen aber allein mit Menschen nicht mehr Herr – deshalb wird zusätzlich künstliche Intelligenz eingesetzt. Sie soll Hassbotschaften, terroristische Inhalte und Gewaltvideos erkennen. Während Mark Zuckerberg immer wieder die großen Fortschritte bei der Löschung von Hass und Gewalt hervorhebt, widersprechen renommierte Forscher*innen deutlich. Sie weisen darauf hin, dass aktuelle Technologien bisher lediglich drei bis fünf Prozent aller kritischen Posts eindeutig als solche identifizieren.
Provokationen erreichen einfach mehr Menschen: Facebook passte 2018 den Algorithmus innerhalb der Plattform an, um noch erfolgreicher Newsfeeds weltweit bespielen zu können. Während zuvor positive und negative Inhalte ausgewogen auf den Bildschirmen von User*innen aufpoppten, dominieren laut der Enthüllungen seither solche Posts, die Menschen negativ emotionalisieren und durch Wut und Empörung länger in sozialen Netzwerken halten. Hass und Hetze sind der Schlüssel zu Facebooks Erfolg.
Vermutet wird es schon lange, belegen konnten es die neuesten Leaks: Instagram schadet den Facebook Files zufolge dem Selbstbild von Mädchen. Gerade in der Pubertät sind viele Mädchen verunsichert, stellen ihr Äußeres und ihren Körper vermehrt infrage. Das verstärkt die App: Ein Drittel aller Mädchen, die mit ihrem Körper unzufrieden sind, fühlen sich schlechter, wenn sie Instagram öffnen und sich in der Welt der Fotokacheln verlieren. Interne Studien von Meta zeigen, dass Instagram eine Gefahr für das Selbstwertgefühl darstellt sowie Suizidgedanken und Depressionen hervorrufen kann.
Der Prozess im Überblick
Das geschah im Facebook-Grundsatzprozess
Das Meme wird gepostet
Das Falschzitat von Renate Künast wird erstmals im Laufe des Jahres 2015* online gepostet, User*innen verbreiten den Post weiter.
* in der Timeline beispielhaft gewähltes Datum, da unklar ist, wann genau der erste Post erschien.
Der Prozess im Überblick
Weiterführende Materialien
Presse
27.04.2021: HateAid realisiert Grundsatzprozess gegen Facebook
Rechtliches
Kurzüberblick: Das Glawischnig-Urteil am EuGH
Publikationen
HateAid-Magazin: Präzedenzfall mit Renate Künast vor Gericht: Facebook muss Hass konsequenter löschen
HateAid-Magazin: Bundesverfassungsgericht: Künast verbucht doch noch Erfolg im Facebook-Verfahren
HateAid-Magazin: 3 Fragen an den Rechtsanwalt Chan-jo Jun zum aktuellen Facebook-Prozess
HateAid-Magazin: Klage gegen Facebook
HateAid-Magazin: #FacebookDoYourJob! Mit Renate Künast kämpft HateAid für eine Löschpflicht