Du bist von digitaler Gewalt betroffen?

Wir sind für dich da!

Schreibe eine E-Mail an:
beratung@hateaid.org

Rufe uns in den Sprechzeiten an:
030 / 252 088 38
Mo 10 – 13 Uhr | Di 15 – 18 Uhr | Do 16 – 19 Uhr  

Melde Hass über unser Formular:
Zum Meldeformular

Dickpic erhalten?
Erstatte direkt eine Anzeige!

      

Helft mir!
TikTok-Propaganda: Eine Person hält ein Smartphone in der Hand, die TikTok-App lädt.

Rabbit Hole bei TikTok: Propaganda statt Partyvideos

Eine neue HateAid-Recherche zu Pro-Kreml-Aktivitäten auf TikTok zeigt, wie die Plattform zunehmend erfolgreich für russische Desinformation genutzt wird. 

Stell dir vor, du schaltest den Fernseher an und zappst ein bisschen rum. Du bleibst an einem Interview hängen. Ein junger Mann behauptet, die USA seien schuld am Krieg in der Ukraine. Du findest das absurd, schaust dir noch einmal das Profil an, welches dieses Video geteilt hat, und schaltest dann weg. Doch plötzlich siehst du diese und ähnliche Sendungen auf allen Kanälen. Sie sind einfach überall und erklären dir, dass die Ukraine korrupt und den etablierten Medien nicht zu trauen sei. Sie behaupten, der Krieg sei von langer Hand geplant. Und raten: Anstatt zu helfen, sollten wir uns lieber nicht einmischen, um die Beziehung zu Russland nicht zu gefährden.

Unsere neue Desinformations-Analyse zeigt: Genau das passiert aktuell vielen Nutzer*innen auf der chinesischen Videoplattform TikTok. So geraten sie immer tiefer in das Rabbit Hole.

TikTok & Propaganda: Was passiert hier genau?

Im Zentrum steht der TikTok-Algorithmus. Er bestimmt, welche Videos du in deinem Feed siehst und welche nicht. Unsere Recherche lässt vermuten, dass der TikTok-Algorithmus ständig auswertet, wie User*innen mit Videos interagieren. Interagieren bedeutet in diesem Zusammenhang, dass er erfasst, wie lange ein Video wiedergegeben wurde, wie oft es Klicks auf Profile gab und wie viele Kommentare oder Likes es erhalten hat.

Anhand dieser Interaktionsdaten lernt der Algorithmus, welche Videos bei ähnlichen Nutzer*innen gut angekommen. Das heißt: Du schaust dir ein prorussisches Video an, das schon andere Nutzer*innen kommentiert und geliked haben. Diese interagierten zuvor bereits mit anderen prorussischen Inhalten. Mit erhöhter Wahrscheinlichkeit landen bald auch diese Inhalte in deinem Feed. Doch warum ist dieser Effekt ausgerechnet auf TikTok so extrem

Wie ein paar Extreme den Ton angeben 

Schaut man genauer hin, sind es tatsächlich einige sehr wenige Accounts, die für die hohe Interaktion bei prorussischen Videos verantwortlich sind. Dies ist gerade bei der Auswertung der Kommentare sehr auffällig: Unsere Analyse von über 60.000 Kommentaren hat gezeigt, dass nur 5500 Kommentator*innen für 45 Prozent der Kommentare unter prorussischen Videos verantwortlich sind. Das heißt, diese Nutzer*innen „trainieren“ vermutlich den Algorithmus von TikTok, indem sie sehr oft unter den pro-russischen Videos kommentieren. Die potentielle Folge: der Algorithmus nimmt die Videos als “beliebt” wahr und spielt nach dem ersten Pro-Kreml-Video auch die übrigen Videos dieser Art aus. Der Algorithmus lernt also durch diese Interaktionen: Wer ein prorussisches Video schaut, interessiert sich auch für die anderen.  

Besonders problematisch ist:  Auf diese Weise beeinflussen möglicherweise einige wenige, was Millionen von Nutzer*innen ausgespielt wird. So trainieren sie Stück für Stück den Algorithmus.   

Verschwörungsideologische und extremistische Sprache 

Wir haben uns diese 5500 hochaktiven Accounts nochmal genauer angesehen. Dabei fanden wir heraus: Sie zeichnen sich vor allem durch eine sehr polarisierende Sprache aus. Denn sie bedienen sich häufiger einer extremistischen, demagogischen oder verschwörungsideologischen Sprache als Accounts, die weniger aktiv sind. Nicht nur bei den Kommentaren, sondern auch bei den Likes lässt sich dieses System erkennen. 5 % der hochaktiven User*innen, die ihre Likes offengelegt haben, liken wiederum häufig die gleichen Accounts. Damit verstärken sie den algorithmischen Sog. 

Es ist also denkbar, dass der TikTok-Algorithmus genau von diesen aktivsten und eben auch extremistischsten Accounts trainiert wird. Das führt schon jetzt und könnte auch auf Dauer zu Radikalisierungsspiralen führen. 

Wir fordern: TikTok muss hier offen legen, ob solche Rabbit Holes gerade von den extremsten Nutzer*innen beeinflusst werden können. Und vor allem muss die Plattform kommunizieren, wie sie konkret dagegen vorgehen will.

RT DE und Sputnik weiter verfügbar 

Auch die offiziellen Videos der russischen Fernsehsender RT DE und Sputnik können auf TikTok weiter angesehen werden. Zwar hatte die Plattform ebenso wie die anderen Social-Media-Plattformen RT DE und Sputnik gesperrt, nachdem diese ihre Sendetätigkeit einstellen mussten. Diese Sperre ist jedoch offenbar leicht zu umgehen.

Das funktioniert so: Inhalte werden nicht durch die offiziellen Kanäle der Sender hochgeladen, sondern über die Privataccounts von einzelnen Nutzenden. So verbreiten die gesperrten Fernsehsender weiter unbehelligt ihr Programm. Die Inhalte können dann von potentiell Millionen User*innen auf TikTok konsumiert werden. Auch wird die Sperre insgesmat nicht konsistent durchgesetzt. Recht schnell stießen wir in unserer Recherche auf einen Account unter dem Namen „RT DE“.  

Tik-Tok schaut zu  

Von uns identifizierte Accounts, die Pro-Kreml-Narrative verbreiten, erreichten insgesamt fast 10 Millionen Views auf der Plattform. Angesichts der enormen Reichweiten, die diese Inhalte erzielen, können wir davon ausgehen, dass dies der Plattform jedenfalls kaum entgangen sein kann. Dass Nutzer*innen Videoclips mit Pro-Kreml-Inhalten selbst hochladen und verbreiten, duldet TikTok also offensichtlich.  

Das sind Erkenntnisse unserer neuesten Recherche. Auf diese Weise veröffentlichen Accounts nicht nur Originalbeiträge russischer Staatsmedien, auch Beiträge von Nutzer*innen, die eindeutig prorussische Desinformation verbreiten, spielt TikTok ungehindert aus. Die Beiträge bedienen verschiedene prorussische und ukrainekritische Narrative und erzielen oftmals mehrere zehntausend Klicks, zum Teil sogar über 100.000 Views.

Bleib engagiert und auf dem Laufenden mit dem HateAid Newsletter!

Du erhältst viermal jährlich alle wichtigen Neuigkeiten rund um unsere Arbeit und wie du die Online-Welt ein kleines Stückchen besser machen kannst.

    Mehr Infos in unserer Datenschutzerklärung