Systemisches Versagen: HateAid reicht Beschwerde gegen TikTok bei der Bundesnetzagentur ein
Darin wirft die Menschenrechtsorganisation TikTok einen massiven Verstoß gegen den Digital Services Act (DSA) vor. Der Grund: HateAid hatte der Plattform mehrere rechtswidrige Inhalte gemeldet. Diese waren mit s. g. Algospeak formuliert. In mehr als zwei Drittel der Fälle gab es bis heute in einem Zeitraum von mindestens drei Monaten keine Reaktion von TikTok. Nach europäischer Gesetzgebung ist die Plattform dazu verpflichtet, alle von Nutzenden eingereichten Meldungen eines potenziell rechtswidrigen Inhalts zu bearbeiten und diesen ihre Moderationsentscheidungen „unverzüglich“ mitzuteilen.
Bei den gemeldeten Inhalten handelt es sich um Formalbeleidigungen und Volksverhetzungen, die mithilfe sogenannter „Algospeak“ so formuliert sind, dass sie mutmaßlich die Plattformrestriktionen bewusst umgehen. Bei dieser Kommunikationsstrategie werden sensible Wörter, die durch die Plattformen oftmals automatisiert als problematische Inhalte erkannt werden könnten, bewusst anders geschrieben oder durch Emojis ersetzt. Der Inhalt ist für die Lesenden jedoch weiterhin deutlich zu erkennen – allerdings nicht mehr für die Filter der Plattformen. Diese Strategie wird immer häufiger von Antisemit*innen, Rechtsextremen und Antifeminist*innen genutzt, um antidemokratische Inhalte zu verbreiten. Die Analyse von HateAid ergibt, dass TikTok den Pflichten aus dem DSA nicht oder nur unzureichend nachkommt, wenn Inhalte in dieser alternativen Sprachform verfasst sind.
Dazu Josephine Ballon, Geschäftsführerin von HateAid:
„Wir sehen Indizien für ein systemisches Versagen von TikTok bei der Moderation illegaler Inhalte. Das ist kurz vor der Bundestagswahl nicht nur brandgefährlich für unsere Demokratie, sondern auch ein echtes Armutszeugnis. Denn Gesetze sind keine Handlungsempfehlungen. Offenbar ist es notwendig, dass wir die Plattformen selbst zu einem so kritischen Zeitpunkt wie jetzt daran erinnern. Die Aufsichtsbehörden müssen dringend tätig werden.“
HateAid beobachtet seit rund einem Jahr, wie die Plattformen den seit Februar 2024 geltenden europäischen Digital Services Act umsetzen. Dieser sieht in Art. 16 Abs. 5 unter anderem vor, dass sie den Nutzenden „unverzüglich“ ihre „Entscheidung in Bezug auf die gemeldeten Informationen“ mitzuteilen haben. Das ist bei mehr als zwei Drittel der Meldungen nicht geschehen. Es scheint insgesamt fraglich, ob diese seitens TikTok überhaupt bearbeitet wurden. In den restlichen Fällen antwortete die Plattform zwar auf die eingereichte Meldung, entfernte die Inhalte auch auf eine Beschwerde hin jedoch nicht. Hierbei handelte es sich um Kommentare, die eindeutige Beleidigungen oder offensichtliche Volksverhetzungen enthielten.
Der Beschwerdeprozess des DSA sieht vor, dass die Bundesnetzagentur diese nun prüft und um eine eigene Einschätzung ergänzt. Sie kann die Beschwerde anschließend der Europäischen Kommission weiterleiten, die für die Aufsicht über sehr große Online-Plattformen in der Europäischen Union zuständig ist. Diese könnte im Falle eines nachgewiesenen systemischen Versagens von TikTok auch ein Bußgeld in Höhe von bis zu 6 % des weltweiten Jahresumsatzes verhängen.
HateAid gGmbH
Die gemeinnützige Organisation HateAid wurde 2018 gegründet und hat ihren Hauptsitz in Berlin. Sie setzt sich für Menschenrechte im digitalen Raum ein und engagiert sich auf gesellschaftlicher wie politischer Ebene gegen digitale Gewalt und ihre Folgen. HateAid unterstützt Betroffene von digitaler Gewalt konkret durch Beratung und Prozesskostenfinanzierung. Geschäftsführerinnen sind Anna-Lena von Hodenberg und Josephine Ballon.
HateAid ist Trägerin der Theodor-Heuss-Medaille 2023.
Pressekontakt: presse@hateaid.org, Tel. +49 (0)30 25208837
