TikToks Endlos-Feed ist kein Zufall – Sichere Plattformen statt strikter Verbote
Die EU-Kommission sieht TikToks „For You“-Feed vorläufig als Verstoß gegen den Digital Services Act (DSA): Der Algorithmus kann Nutzer*innen und insbesondere Kinder und Jugendliche in schädliche Spiralen führen. HateAid fordert wirksamen Schutz durch sichere Plattformgestaltung und konsequente Durchsetzung geltender Gesetze. Verbote allein reichen nicht aus, um Heranwachsende wirksam zu schützen.
Einmal hochwischen, und schon folgt das nächste Video: TikToks „For You“-Feed zieht Nutzer*innen immer tiefer in Inhalte, die zu psychischen Krisen oder schwierigen Körperbildern führen können. Diesen Schluss zieht nun auch die Europäische Kommission und sieht im TikTok-Feed vorläufig einen Verstoß gegen den DSA. Die Kommission beschreibt einen Sog der Algorithmen, der etwa zu verstärkten negativen Gefühlen, einem geringeren Selbstwertgefühl oder einer Verschlimmerung bestehender psychischer Erkrankungen führen könne. TikTok habe die Risiken seines Empfehlungssystems nicht ausreichend geprüft und keine wirksamen Maßnahmen getroffen, um solche schädlichen „Rabbit Holes“ zu verhindern.
Diese Entscheidung zeigt, dass die EU endlich Regeln für globale Tech-Konzerne durchsetzen will. Aktuell wird oft über ein pauschales Social Media-Verbot und feste Altersgrenzen für Kinder und Jugendliche diskutiert. Das Beispiel TikTok zeigt jedoch: Es gibt auch einen wirksameren Weg: Safety by Design.
Denn Plattformenbetreiber sind durchaus dazu in der Lage, ihre Angebote von Beginn an sicher mit effektiven Schutzvorkehrungen gegen suchtförderndes Design und gefährliche Inhaltsspiralen zu gestalten. Safety by Design ist die Chance, Nutzer*innen zu schützen, ohne sie pauschal von digitaler Teilhabe durch Verbote auszuschließen. Bei TikTok muss dringend nachjustiert werden.
Das zeigen auch aktuelle Studien. Nutzer*innen von TikTok können sich gegen das süchtigmachende Plattformdesign kaum wehren: Durchschnittlich werden sie mit hoher Wahrscheinlichkeit in weniger als 35 Minuten von der Plattform abhängig. Das ist kein Zufall, sondern erfolgreiches Geschäftsmodell: TikTok ist darauf ausgelegt, Aufmerksamkeit möglichst lange zu binden. 97 Prozent der Kinder besitzen im Alter von zwölf Jahren bereits ein Smartphone. Besonders fatal, denn ihr Gehirn ist noch nicht vollständig entwickelt.
Dazu Anna-Lena von Hodenberg, HateAid-Geschäftsführerin:
„TikTok verkauft Endlos-Scrollen als Unterhaltung mit Zufallsprinzip. Es ist jedoch keine harmlose Empfehlung mehr, wenn Kinder und Jugendliche durch Algorithmen mit Inhalten konfrontiert werden, die sie belasten oder verstören. Die Realität ist: TikTok verdient Milliarden auf Kosten der Gesundheit unserer Kinder. Es ist höchste Zeit, dass die EU-Kommission endlich reagiert. Jetzt muss sie zeigen, ob sie es mit dem Kinder- und Jugendschutz wirklich ernst meint und bereit ist, die geltenden Gesetze auch gegen mächtige Konzerne wirksam durchzusetzen.”
Dazu Josephine Ballom, HateAid-Geschäftsführerin:
„TikToks Empfehlungssystem ist nicht neutral. Die vorläufigen Feststellungen der Kommission senden ein wichtiges Signal in einer Debatte, die derzeit oft um Verbote und Altersgrenzen kreist: Nutzer*innen, besonders Heranwachsende, lassen sich auch schützen, indem wir endlich eine sichere Gestaltung der Plattformen einfordern. Hierfür braucht es nicht ständig neue Gesetze: Der DSA verpflichtet TikTok bereits, die systemischen Risiken seines Empfehlungssystems zu bewerten und wirklich wirksam zu begrenzen. Die Ankündigung der Kommission belegt, dass der DSA lebt und die EU bereit ist, ihn künftig mutig durchzusetzen.“
HateAid warnt seit Langem vor den Risiken von algorithmengesteuerten Plattformen. Die Debatte wandelt sich endlich: Durch regulatorische Durchsetzung verschiebt sich nun die Verantwortung von den Nutzer*innen und Eltern hin zu den Plattformbetreibern.
Die Durchsetzung des DSA ist nötig und doch nur einer von vielen wichtigen Maßnahmen. Daher fordert HateAid:
- Safety by Design muss verbindlich werden: TikTok muss neue Features so gestalten, dass Risiken minimiert werden. Dazu gehören wirksame Schutzmechanismen gegen suchtförderndes Design, Endlos-Feeds und algorithmisch verstärkte Inhaltsspiralen.
- Kinder dürfen nicht zum Testfeld für suchtförderndes Design werden: Plattformen müssen ihre Angebote konsequent an den Bedürfnissen von Minderjährigen ausrichten. Endlos-Feeds, personalisierte Empfehlungssysteme und andere Mechanismen, die Aufmerksamkeit um jeden Preis binden, dürfen die gesunde Entwicklung junger Menschen nicht gefährden.
- Medienkompetenz beginnt nicht erst im Kinderzimmer: Eltern brauchen gute, leicht zugängliche Orientierung und Beratung für den digitalen Familienalltag. Denn Kinder lernen den Umgang mit digitalen Medien auch durch das, was Erwachsene ihnen vorleben.
HateAid gGmbH
Die gemeinnützige Organisation HateAid wurde 2018 gegründet und hat ihren Hauptsitz in Berlin. Sie setzt sich für Menschenrechte im digitalen Raum ein und engagiert sich auf gesellschaftlicher wie politischer Ebene gegen digitale Gewalt und ihre Folgen. HateAid unterstützt Betroffene von digitaler Gewalt konkret durch Beratung und Prozesskostenfinanzierung. Geschäftsführerinnen sind Anna-Lena von Hodenberg und Josephine Ballon.
HateAid ist Trägerin der Theodor-Heuss-Medaille 2023, des Rothenburger Preises für Erinnerung und Zukunft, des Wertepreises für Demokratie der Werte-Stiftung, des For..Net Awards der Technischen Universität München und des Günter-Wallraff-Preises für Pressefreiheit und Menschenrechte 2026. 2025 nahm Anna-Lena von Hodenberg stellvertretend für die NGO das Bundesverdienstkreuz entgegen.
Pressekontakt: presse@hateaid.org
