Hier können Sie die AI-generierte Audioversion dieses Artikels anhören.
Auf TikTok verbreitet sich Rechtsextremismus in Bild- und Videoform millionenfach. Egal ob Verschwörungstheorien oder eindeutige Neonazi-Inhalte. Eine Studie zeigt, wie hunderte Accounts die Plattform gezielt nutzen, um NS-Ideologie, Holocaust-Leugnung und Gewaltaufrufe zu vervielfältigen. Trotz klarer Verstöße gegen die eigenen Richtlinien greift TikTok oft spät oder gar nicht ein. Zugleich verstärkt der Algorithmus der „For You-Page“ die Sichtbarkeit dieser Inhalte. Wir fassen die Studienergebnisse zusammen.
Die Sozialwissenschaftler und Extremismusforscher Nathan Doctor, Guy Fiennes, and Ciarán O’Connor haben sich im Jahr 2024 etwa 200 Tiktok-Profile angesehen, die sich offen zum Nationalsozialismus bekennen und entsprechende Inhalte veröffentlichen. Sie wollten wissen: Was laden diese Accounts hoch? Wie verbreiten sich diese Inhalte – und wie reguliert sie die Plattform?
Die Analyse begann bei einem Account und führte in ein ganzes Netzwerk
Sie starteten bei einem offen pro-nationalsozialistischen Account. Von dort aus listeten sie Profile, die TikTok als „ähnlich“ einstufte. Zusätzlich legten sie einen neuen Account an. Damit untersuchten sie den Empfehlungsalgorithmus hinter der „For You“-Page.
Die Videos der untersuchten Profile erzielten insgesamt mehrere Millionen Aufrufe. Darunter waren Inhalte mit Holocaust-Leugnung und Hitler-Verherrlichung. Auch Unterstützung für rechtsextreme Attentäter kam vor. Teilweise wurden Massaker nachgestellt oder in Livestreams gezeigt. Die drei Wissenschaftler haben solche Accounts untersucht, die mehrere Videos mit eindeutiger NS-Propaganda veröffentlicht haben. Oder wenn sie NS-Symbole in Nutzernamen, Profilbildern oder ähnlichen Elementen verwendet haben.
Nazi-Inhalte gemeldet: 50 Accounts bleiben – vorerst – online
Das Institute for Strategic Dialogue (ISD), dem die drei Studienautoren angehören, meldete 50 Accounts aus dem Netzwerk. Laut ISD verstießen sie gegen TikToks Regeln zu Hassideologien, Gewaltverherrlichung und Holocaust-Leugnung. Die gemeldeten Accounts erzielten zusammen über 6,2 Millionen Aufrufe. Nach der Meldung blieben sie weiterhin aktiv. TikTok antwortete auf die Meldungen mit „kein Verstoß“.
Generative KI im Einsatz, um NS-Propaganda moderner und anschlussfähiger zu machen
Ein zentrales Hilfsmittel von Rechtsextremisten auf TikTok ist generative Künstliche Intelligenz (genAI). Sie nutzen sie, um entmenschlichende Karikaturen nicht-weißer Bevölkerungsgruppen zu erstellen. Diese Gruppen stellen sie als böse, gewalttätig oder als Bedrohung dar. Ziel ist es offensichtlich, die NS-Propaganda in neue Kleidern zu stecken.
Die Studie nennt als Beispiel eine KI-generierte Übersetzung einer Hitler-Rede. Diese Tonspur haben Accounts mit verschiedenen Videos kombiniert. Dazu gehörten etwa Goebbels-Verherrlichung und Werbung für „Europa: The Last Battle“. Solche Beiträge erzielten Millionen Aufrufe.
TikTok-Sounds als Schlupfloch: Musik und Sounds als Codes, um Moderation zu umgehen
Sounds und Audios (Sequenzen aus Liedern, die direkt auf TikTok zum frei Verwenden verfügbar sind) sind laut Bericht eine zentrale Schwachstelle. White Supremacists nutzen sie regelmäßig aus. Schon 2021 beschrieb das ISD die Rolle von MGMTs „Little Dark Age“. Der Song wurde in faschistischen Foto-Slideshows verwendet. Solche Lieder werden zu internen Codes. Extremisten erkennen sie wieder. Sie erstellen eigene Videos damit und umgehen so die Moderation. Oft ohne offen extremistische Begriffe.
Auch in der aktuellen Untersuchung zeigt sich das. Ein Account postete ausschließlich Musik im Techno-Stil der 2000er-Jahre. Dazu kamen Bilder, die Migrant:innen pauschal als gefährlich darstellten. Die Musik selbst verstößt nicht gegen Regeln. In Kombination mit den Bildern propagiert sie aber Nationalsozialismus und White Supremacy. Ein Originalsound dieses Accounts wurde innerhalb von sechs Tagen in mehreren rechtsextremen Videos verwendet. Andere Sounds desselben Profils wurden in Hunderten Videos geteilt.
Über Musik lassen sich extremistische Inhalte oft leichter finden als über Stichworte
In vielen Fällen fanden die Forschenden extreme Inhalte leichter über Musik als über Stichwortsuche. Eine Suche nach einem Lied, das der Attentäter von Christchurch beim Wegfahren nach der Ermordung von 51 muslimischen Gläubigen hörte, ergab 1.200 Videos. 7 der 10 meistangezeigten Videos feierten den Anschlag oder den Täter. Manche stellten die Tat sogar in einem Videospiel nach. Diese sieben Videos erreichten zusammen 1,5 Millionen Aufrufe. Die Studienautoren gehen von Hunderten weiteren ähnlichen Videos aus.
Codes aus Zahlen, Emojis und Bildmotiven zeigen die Nazi-Zugehörigkeit
Bestimmte Zeichen oder Codes in der Sprache sind ein zentrales Mittel. Sie dient dazu, auf TikTok zu kommunizieren und Zugehörigkeit zu zeigen. Gleichzeitig umgehen diese Leute so die Moderation. In der Stichprobe tauchten häufig NS-codierte Emojis, Abkürzungen, Zahlen und Bildmotive auf. Das dürfte dazu beitragen, dass die TikTok-Moderation so langsam reagiert.
Nostalgische Bilder dienen als Einstieg in radikale Inhalte
Eine weitere Taktik sind harmlos wirkende oder nostalgische Bilder. Oft geht es um europäische Architektur, etwa Kathedralen. Sie sollen Stolz auf „europäisches Erbe“ wecken und wirken zunächst unauffällig. In den Videos folgt dann schnell extremistischer Inhalt. Darunter NS-Propaganda und Hassrede gegen Minderheiten.
Die Propaganda wird plattformübergreifend koordiniert
Laut dem ISD-Bericht wird Propaganda auf TikTok koordiniert – auf und außerhalb der Plattform. Auch wenn Akteure auf X oder Facebook „Menschen aufwecken“ wollen, bleibt TikTok zentral. Ein Account schrieb auf Telegram sinngemäß: Ein neuer TikTok-Account mit null Followern habe mehr Aufrufe erzielt als auf Bitchute oder Twitter. Grund sei, dass TikTok „viel mehr Menschen“ erreiche. Ein bekannter Neonazi forderte Tausende Telegram-Follower wiederholt auf, seine TikTok-Videos „hochzudrücken“.
Ein Telegram-Kanal mit über 12.000 Abonnenten bewarb „Europa: The Last Battle“. Er rief dazu auf, den Film viral zu machen. Dazu gehörte auch der Aufruf, TikTok mit Reaktionsvideos zu überfluten. Während der Untersuchung fanden die Forschenden viele Werbungen für den Film. Mehrere Videos hatten mehr als 100.000 Aufrufe. TikTok-Suchen nach dem Filmtitel und Varianten lieferten Dutzende Videos. Manche nutzten Hashtags wie #EuropaTheLastBattel. Ein Account mit Filmausschnitten erreichte fast 900.000 Aufrufe. Er verbreitete auch antisemitische Behauptungen, etwa über die Rothschild-Familie.
Nach Sperren entstehen neue Accounts, die rasch wieder Reichweite aufbauen
Koordination findet laut Bericht auch direkt auf TikTok statt. Ein Nutzer kündigte an, er stehe kurz vor der letzten Verwarnung. Gleichzeitig bewarb er einen Backup-Account. Kurz darauf wurde der ursprüngliche Account gesperrt. Der neue Account erreichte in drei Tagen fast 100.000 Aufrufe mit fünf Videos. Eines feierte den neonazistischen Organisator und mutmaßlichen Mörder Dmitry Borovikov.
Einzelne Löschungen reichen nicht aus, wenn ganze Netzwerke aktiv bleiben
Viele Accounts nutzen außerdem „Follow-for-Follow“. So entsteht ein dicht verknüpftes Netzwerk mit gegenseitiger Reichweite. Dutzende Profile haben nahezu identische Nutzernamen und Profilbilder. Auch Follower- und Abo-Zahlen sind ähnlich. Das deutet auf Duplikat-Accounts hin.
Der Bericht folgert: TikTok entfernt oft einzelne Accounts oder Videos. Netzwerke werden nicht als Ganzes bekämpft. Gesperrte Nutzer können neue Accounts anlegen. Danach greift die algorithmische Verstärkung erneut.
Die Studienautoren nennen Hinweise auf Rekrutierung alarmierend. Mehrere reale faschistische oder rechtsextreme Organisationen rekrutieren offen auf TikTok.
In einzelnen Fällen werden auch Gewaltfantasien und Anleitungen verbreitet
Das ISD-Team analysierte als Fallstudie einen Account mit antisemitischem Schimpfwort im Namen. Die Bio rief sinngemäß zu bewaffneter Revolution und „vollständiger Vernichtung“ auf. Ein Beitrag drohte den „Eigentümern des Westens“. Er forderte, diese müssten „vollständig zerstört“ werden. Begleitet wurde das von einer remixten Rede, die zu Tötung und Bombenbau aufrief.
Der Account hatte 3.800 Follower und 5.000 Likes. Er war seit 6. Februar 2023 aktiv. An diesem Datum veröffentlichte er 37 Videos. Außerdem teilte er unvollständige Anleitungen für improvisierte Sprengsätze, 3D-gedruckte Waffen und „Napalm mit kleinem Budget“. Am 6. Juni 2024 folgte der Account 10.000 Nutzern. Das ist TikToks maximales Follow-Limit. Es deutet auf intensive Vernetzung hin. ISD meldete den Account wegen Hassrede. TikTok sah zunächst keinen Verstoß. Der Account blieb über eine Woche aktiv und wurde erst später gesperrt.
Zahlen legen nahe, dass TikTok zwar löscht, aber häufig erst nach massiver Reichweite
Nach der Identifizierung von 200 Accounts meldete ISD 50 Profile. Sie sollen gegen Regeln verstoßen haben, etwa durch Gewaltaufrufe, Hassideologien, Verherrlichung gewalttätiger Extremisten oder Holocaust-Leugnung. TikTok stellte am Tag nach den Meldungen bei keinem der 50 Accounts einen Verstoß fest. Alle blieben aktiv. Zwei Wochen später waren 15 Accounts gesperrt. Nach einem Monat waren 23 von 50 entfernt.
Laut Bericht zeigt das: TikTok entfernt Inhalte zwar – aber spät. Häufig passiert das aber erst nach erheblicher Reichweite. Die 23 später gesperrten Accounts sammelten vor der Sperre mindestens zwei Millionen Aufrufe.
Studie kommt zu dem Schluss, dass TikTok für organisierte Rechtsextreme günstiges Umfeld bietet
Der Bericht kommt zu dem Schluss: TikTok entfernt pro-nazistische Hassrede und Propaganda nicht schnell genug. Die Plattform greift zwar ein. Oft passiert das aber erst Wochen oder Monate nach offensichtlichen Regelverstößen. In dieser Zeit können Accounts hohe Reichweiten aufbauen. Das Netzwerk agiert koordiniert und plattformübergreifend. Nach Sperren entstehen neue Accounts und erreichen erneut große Publika.
Ziel muss laut den Studienautoren sein, die Verbreitung solcher Inhalte zu erschweren. Denn derzeit gilt TikTok unter Rechtsextremisten und Neonazis als günstige Plattform.
Das Thema "Tiktok" im Parlament
