Du bist von digitaler Gewalt betroffen? 

Wir sind für dich da!

Schreibe eine E-Mail an:

beratung@hateaid.org 

Rufe uns in den Sprechzeiten an:

030 / 252 088 38

Mo 10 – 13 Uhr | Di 15 – 18 Uhr | Do 16 – 19 Uhr

Chatte mit uns:* Mi 15 – 18 Uhr | Fr 11 – 14 Uhr

*Bitte akzeptiere die Cookies, um mit uns zu chatten.

Melde Hass über unser Formular:

Zum Meldeformular 

Dickpic erhalten?

Erstatte direkt eine Anzeige! 

 



Helft mir!

Freie Forschung in Gefahr

Der Datenanalyst Travis Brown erforscht, wie Social-Media-Plattformen funktionieren. In seinen Recherchen deckt er auf, dass Rechtsextreme auf der Plattform X, ehemals Twitter, ungehindert Hass und Desinformation verbreiten.

Statt konsequent gegen Hass und Desinformation vorzugehen, sperrt X wiederholt Browns Account. Der Vorwurf: unzulässige Datenerhebung. Mit ellenlangen Schriftsätzen und einer drohenden zermürbenden juristischen Auseinandersetzung soll der Analyst davon abgehalten werden, sein Recht einzufordern.

HateAid geht mit Travis Brown jetzt gegen die Account-Sperre vor.

Der Fall Travis Brown

Worum es geht

Im Juli 2023 hatte X den Account des Datenanalysten Travis Brown ohne Vorwarnung gesperrt. Brown erwirkte daraufhin gemeinsam mit HateAid eine einstweilige Verfügung gegen X.

Sein Account wurde wieder freigeschaltet. Begründet wurde dies damit, dass Brown durch X nicht angehört wurde und die Account-Sperre ohne eine ausreichende Begründung erfolgt sei.

Im Oktober 2023 wurde Browns Account erneut gesperrt – dieses Mal mit Vorwarnung und der Nennung von angeblichen Verstößen gegen die Richtlinien der Plattform.

Auch hiergegen reichte Brown mit der Unterstützung von HateAid einen Antrag auf einstweilige Verfügung ein. Mit überraschendem Ergebnis: Das Landgericht Berlin wies die Klage ab, da es sich für unzuständig hält.

Dagegen legt Brown nun Beschwerde ein. HateAid übernimmt die Kosten des Verfahrens und der anwaltlichen Vertretung im Rahmen der Prozesskostenfinanzierung.

Petition #FreeTravisFreeResearch

Unterstütze den Zugang von Forschenden zu wichtigen Daten auf Social-Media-Plattformen, um Hass, Desinformation und Extremismus zu bekämpfen.

Anna-Lena von Hodenberg, Geschäftsführerin HateAid

Foto: HateAid

„Es ist brandgefährlich, wenn gerade jetzt unabhängige Forschung und Berichterstattung auf sozialen Netzwerken nicht mehr stattfinden kann.

Nächstes Jahr finden die Wahl zum Europäischen Parlament und die Präsidentschaftswahl in den USA statt. Rechtsextreme werden massiv in den sozialen Netzwerken mobilisieren und Desinformation verbreiten.

Nur wenn wir wissen, was dort passiert und wer wie agiert, können wir unsere Demokratien überhaupt davor schützen.”

Anna-Lena von Hodenberg, Geschäftsführerin bei HateAid

Unser Ziel

Dafür gehen wir vor Gericht

Wir wollen zeigen, dass Plattformen wie X unliebsame Personen nicht willkürlich sperren können. Damit wollen wir nachhaltig die Arbeit von Forschenden stärken. Die erhobenen Daten sind entscheidend, damit wir gegen Desinformation und Hass vorgehen können. Forschende müssen daher vor den Einschüchterungsversuchen der Plattformen geschützt werden.

Bisher ist ein Vorgehen gegen die Plattformen in diesen Fällen mit einem enormen Kostenrisiko verbunden, das viele Betroffene nicht tragen können. Eine Entscheidung in diesem Prozess könnte es den Betroffenen in Zukunft leichter machen, sich gegen die Plattformen zu wehren.

Warum jetzt?

Kritische Stimmen werden ausgesperrt

Die Chefs der Social-Media-Plattformen gehen immer häufiger gegen Forschende vor. So klagt X etwa in den USA gegen die Nichtregierungsorganisation Center for Countering Digital Hate wegen der Veröffentlichung mehrerer Berichte, die eine Zunahme von Hassrede auf der Plattform aufzeigen.

Die Organisation AlgorithmWatch sah sich angesichts einer drohenden Klage sogar gezwungen, ein Projekt zu Metas Plattform Instagram einzustellen.

Die Gefahr: Aus Angst vor Einschüchterungsklagen mit teuren Anwält*innen, die sie in hunderten Seiten Schriftsätzen ersticken, könnten Forschende wichtige Informationen bald gar nicht mehr veröffentlichen.

Diese Erkenntnisse brauchen wir aber dringend, um Hass, Desinformation und Extremismus begegnen zu können.

Wie es weiter geht

Forderungen an die EU

Brown hat gegen den Beschluss des Landgerichts Berlin Beschwerde eingelegt. Das Landgericht Berlin prüft nun erneut, ob es für den Fall um Brown zuständig ist. Bleibt das Gericht bei der Einschätzung, nicht zuständig zu sein, geht das Verfahren zum Kammergericht.

Wir unterstützen Brown weiter dabei, gerichtlich gegen seine Account-Sperre vorzugehen. Denn wir finden: Unsere Gesellschaft braucht mutige Stimmen wie Travis.

Wir wollen, dass Forschende nicht mehr mühsam für jede Sperrung vor Gericht gehen müssen. Mit dem Digital Services Act, dem neuen Digitalgesetz der EU, gibt es bereits Gesetze, die den Datenzugang für Forschende sicherstellen.

Deswegen fordern wir jetzt mit einer Petition von der EU-Kommission, dass sie den Digital Services Act konsequent umsetzt und die Forschungsfreiheit garantiert.

Vor diesem Hintergrund fordert HateAid daher in der Petition #FreeTravisFreeResearch von der Europäischen Kommission:

  • Aufsichtsfunktion wahrnehmen: Die Kommission muss sicherstellen, dass die Plattformen nicht länger willkürlich unliebsame Accounts und Inhalte blockieren.
  • Klare Regeln für den Zugang zu Daten schaffen: Forschende und zivilgesellschaftliche Organisationen brauchen Klarheit darüber, wie sie Zugriff auf Daten in Echtzeit erhalten.
  • Schnelle Umsetzung: Die Kommission muss sicherstellen, dass die Mitgliedsstaaten die Koordinierungsstelle für Digitale Dienste schnellstmöglich einsetzen. Nur so können Forschende effektiv ihre Rechte einfordern.
Foto vom Gebäude der Europäischen Kommission mit drei EU-Flaggen im Vordergrund.

Die EU-Kommission kann und muss jetzt handeln. Deswegen erhöhen wir den Druck auf die EU-Politiker*innen zur konsequenten Umsetzung des DSA, um die Forschungsfreiheit zu garantieren. Foto: Shutterstock

Silke Muelherr, Co-CEO & Head of External Relations Alfred Landecker Stiftung

Foto: Wolf Lux / Alfred Landecker Foundation

„Social-Media-Plattformen sind Teil des öffentlichen Raums, in dem politische Meinungsbildung und Agenda-Setting stattfinden. Darum erfüllen die Plattformen eine demokratische Funktion – und es kann und darf uns nicht egal sein, wenn Extremist*innen und Antisemit*innen dort ungehindert mobilisieren.”

Silke Mülherr, Co-CEO der Alfred Landecker Foundation

Alfred Landecker Foundation

Der Prozess wurde als Teil des Landecker Digital Justice Movement verwirklicht – einer Initiative von HateAid und der Alfred Landecker Foundation.

Logo der Alfred Landecker Foundation
Häufige Fragen zum Prozess

Travis Brown ist ein Software Developer und Datenanalyst aus den USA. Er ist seit 2007 auf X, ehemals Twitter, aktiv und lebt inzwischen in Berlin.

Zwischen 2014 und 2015 hat Brown selbst als Open Source Advocate bei X gearbeitet. Seit 2021 entwickelt Brown Open-Source-Programme, die Hassrede auf der Plattform verfolgen und anhand frei verfügbarer Daten Statistiken erheben.

Die Ergebnisse seiner Arbeit werden weltweit von großen Nachrichtensendern wie BBC oder CNN zitiert.

Browns Ziel ist es, anhand der erhobenen Daten zu untersuchen, inwieweit sich X zu einer Plattform der rechtsextremen Szene entwickelt hat.

Bei einer einstweiligen Verfügung handelt es sich um eine vorläufige Entscheidung eines Gerichts in einem Eilverfahren. Damit sollen Ansprüche gesichert oder streitige Rechtsverhältnisse geregelt werden, bis das Gericht eine endgültige Entscheidung getroffen hat.

Eine einstweilige Verfügung kann in dringenden Fällen innerhalb weniger Tage oder Wochen ergehen.

In diesem Fall kommen drei Gerichtsstände in Betracht: Deutschland, Irland und die USA. Travis Brown lebt in Berlin, hat seinen Account bei X, ehemals Twitter, allerdings noch in den USA erstellt. Zudem sitzt die Twitter-Zentrale für den europäischen Raum in Dublin.

Für die Frage der Zuständigkeit ist relevant, wo der Erfüllungsort für den Vertrag zwischen Brown und X liegt und ob es sich bei Brown um einen Verbraucher im Sinne des europäischen Rechts handelt.

In beiden Fällen handelt es sich um sehr komplexe Rechtsfragen.

Was hier jedoch verwundert: Im ersten Verfügungsverfahren hat das Landgericht Berlin sich für zuständig erachtet. Der zweite Antrag wurde hingegen wegen Unzuständigkeit abgelehnt.

X argumentiert, dass Brown durch das Sammeln und Auswerten von Daten zur Nutzung und Funktion von X gegen die Richtlinien der Plattformverstoßen habe. Brown hat jedoch mit den von ihm entwickelten Open-Source-Programmen gar nicht auf die originären Datenbestände von X zurückgegriffen.

Stattdessen arbeitet Brown mit den Daten einer „WayBackMachine”. Dabei handelt es sich um ein Internet-Archiv, in dem verschiedene Versionen und Zustände von Webseiten der ganzen Welt gespeichert werden.

Die Forschungsarbeit von Brown unterliegt aus diesem Grund auch nicht den Regeln von X und kann deswegen auch nicht dagegen verstoßen.

Tatsächlich handelt es sich bei dem Vorgehen gegen Brown um einen klaren Einschüchterungsversuch. Forschende wie Brown sollen so von der Plattform vertrieben werden und ihre Arbeiten einstellen.

Der Digital Services Act ist eine neue Verordnung der Europäischen Union, die Online-Plattformen regulieren und die Verbreitung von Desinformationen und digitaler Gewalt reduzieren soll.

Online-Plattformen sind z. B. soziale Medien oder Suchmaschinen, die den Nutzer*innen die Verbreitung von eigenen Inhalten ermöglichen (z. B. Facebook, YouTube oder Google). Diese Plattformen müssen sich mit Inkrafttreten des DSA an neue Regeln halten, beispielsweise müssen sie das Melden von strafbaren Inhalten erleichtern und regelmäßige Transparenzberichte abgeben.

Außerdem soll jeder Mitgliedsstaat der EU eine eigene Koordinierungsstelle für digitale Dienste einrichten, die die Einhaltung der neuen Pflichten überwacht. Unseren Guide zum DSA findest du hier: https://hateaid.org/dsa-user-guide/.

Der Digital Services Act tritt für alle Online-Plattformen am 17. Februar 2024 in Kraft. Für sehr große Plattformen und Suchmaschinen (u. a. X) gelten die neuen Regeln bereits seit dem 25. August 2023.

Eine Liste mit den Online-Plattformen, für die der DSA bereits gilt, findest du auf der Website der Europäischen Kommission.

Große Online-Plattformen haben einen immensen Einfluss auf unser Kommunikations- und Informationsverhalten. Allerdings fördern sie gleichzeitig die rasante Verbreitung von Hatespeech, Desinformationen und anderen Formen digitaler Gewalt.

Um diesen Gefahren begegnen zu können, braucht es belastbare Erkenntnisse über die Funktionsweise und Risiken von Online-Plattformen sowie deren algorithmischer Systeme. Forschenden wird der Zugang zu den relevanten Daten durch die Plattformen jedoch immer wieder verwehrt.

In Art. 40 Absatz 4 des DSA wird geregelt, dass die Plattformen es Forschenden unter bestimmten Voraussetzungen ermöglichen müssen, auf diese Daten zuzugreifen. So soll sichergestellt werden, dass Forschungsarbeiten zur Ermittlung systematischer Risiken tatsächlich durchgeführt werden können.

Diese Regelung ist jedoch sehr restriktiv und es bestehen noch viele Unklarheiten, etwa darüber, ab wann und auf welche Weise Forschende Datenzugang beantragen können.

Mehr zum Thema

Pressematerial

Bleib engagiert und auf dem Laufenden mit dem HateAid Newsletter!

Du erhältst alle zwei bis vier Wochen Neuigkeiten rund um unsere Arbeit und erfährst, wie du die Online-Welt ein kleines Stückchen besser machen kannst.



    Bitte fülle noch das Captcha aus*

    Mehr Infos in unserer Datenschutzerklärung. *