Autor: Karl Eckardt

Einleitung

Als Projekt, das sich mit Online-Radikalisierung beschäftigt, ist es unser Anspruch, up-to-date über die neuesten Entwicklungen zu bleiben, um pädagogische Handlungsempfehlungen geben zu können und unsere eigenen Konzepte entsprechend anzupassen. Im Folgenden wollen wir einen Blick auf TikTok, die am schnellsten wachsende App unter Jugendlichen, werfen und dabei die Frage stellen, inwieweit die Mechanismen der Plattform einen Nährboden für rechtsextreme Organisierung, Antisemitismus und Verschwörungsdenken bieten.

Das Ergebnis kurz zusammengefasst: Organisierte Neonazis und “neu”rechte Akteur*innen haben es bisher schwer, auf Tiktok Fuß zu fassen – Antisemitismus hingegen ist in verschiedenen Spielarten auf der Plattform präsent. Aber der Reihe nach…

Die extreme Rechte auf Social Media

Die extreme Rechte hat es schon früh verstanden, das Internet für ihre Propaganda und Vernetzung zu nutzen. Noch bis vor wenigen Jahren war das Internet ein mehr oder weniger rechtsfreier Raum und die Behörden taten sich, auch aufgrund international unterschiedlicher Rechtslagen, mit der konsequenten Verfolgung von Straftaten im digitalen Raum sehr schwer. Nach wie vor gibt es Imageboards, Foren, digitale Messenger und Social-Media-Plattformen, auf denen ungefiltert Hassrede, volksverhetzendes Material und Aufrufe zur Gewalt gegen Andersdenkende und Minderheiten florieren. Besonders die selbsternannte „Neue Rechte“ hat es sich zur Aufgabe gemacht, in ihrem „metapolitischen“ Ringen um kulturelle Hegemonie auch große Soziale Netzwerke zu nutzen, um so dem selbstreferenziellen Nischendasein zu entkommen.

Hierbei verwenden sie einerseits aggressive Methoden wie orchestrierte Shitstorms, Trolling und Bedrohung, um ihren politischen Gegner*innen zu schaden (vgl. Bogerts, Fielitz, 2019). Andererseits nutzen sie jedoch auch die jeweils spezifischen Ausdrucksformen der Plattformen (z.B. Text, Graphik, Video, Musik), um sie rassistisch, völkisch und antisemitisch aufzuladen und passen sich dabei der Verbreitungslogik der Plattformen an (vgl. Fielitz, Marcks, 2021). Durch mehr oder weniger subtile Onlineauftritte sollen Neugierige oder bereits Interessierte für ihre Ideologie erreicht und eigene Aktionen wirksam in Szene gesetzt werden. Häufig werden die Botschaften als vermeintlich überspitzte und ironische Statements verbreitet, um sich vom Gesagten distanzieren zu können (Mehr zur Funktionsweise von Online-Radikalisierung in unserem Dossier).

Diese Taktik war zeitweise durchaus von Erfolg gekrönt: vor allem auf Instagram und YouTube waren für einige Jahre Profile der sogenannten „Identitären Bewegung“ (IB) präsent und hatten mehrere 100.000 Follower, Shares und Likes vorzuweisen. Beide Plattformen bieten durch ihren Fokus auf (bewegte) Bilder einen idealen Rahmen für die Selbstinszenierung „moderner“, hipper Rechter. Facebook wird mittlerweile vor allem von den Generationen Ü30 verwendet und ist in dieser Altersgruppe auch nach wie vor eine Echokammer extrem rechter Weltbilder. “Wutbürger*innen”, “Querdenker*innen” und PEGIDA-Klientel bestätigen sich hier gegenseitig in ihrer Meinung, hetzen und radikalisieren sich dort. Erst seit 2019 betreiben alle relevanten Plattformen ein gezielteres “Deplatforming” rechter Akteur*innen, so dass viele reichweitenstarke Profile gelöscht wurden und auf ein kleinere alternative Plattformen der sogenannten alt tech (rechte oder rechtsoffene Alternativangebote zu den großen Plattformen wie Parler, bitchute, Gab und vkontakte) oder Messengerdienste wie Telegram angewiesen sind.

Viele relevante Akteur*innen sind allerdings weiterhin bei Facebook, Twitter und Instagram vertreten. Um Sanktionen der Plattformen zu umgehen, werden Inhalte oft abgeschwächt und entschärft. In unserer Methode Social-Media-Recherche dekonstruieren Jugendliche genau solche Inhalte auf Instagram.

Weil die Plattform vor allem Jugendliche anspricht, ist es aus einer pädagogischen Perspektive wichtig, inwieweit die Mechanismen von TikTok sich für rechtsradikale Propaganda eignen, ob und wie die extreme Rechte TikTok für ihre Zwecke nutzt und wie hoch das Potenzial der Plattform als „metapolitisches Spielfeld“ einzuschätzen ist. Da antisemitisches und verschwörungsideologisches Denken ein integrales Element extrem Rechter Ideologien ist (vgl. Fielitz, Marcks 2021) und sich seit Beginn der Coronavirus-Pandemie als „Radikalisierungsmotor“ der sogenannten „Querdenker*innen“ herauskristallisiert hat, muss auch die Verbreitung von Antisemitismus und Verschwörungsideologien auf TikTok berücksichtigt werden.

Die Plattform TikTok

TikTok ist eine App, auf der User*innen kurze Videos zwischen 15-180 Sekunden hochladen, bearbeiten und anschauen können. Sie ist eine der am schnellsten wachsenden Apps weltweit, wurde allein bis zum Frühjahr 2020 über 2 Milliarden mal heruntergeladen und ist vor allem bei jüngeren Menschen unter 25 Jahren sehr beliebt. In Europa wird die App seit 2017 von mittlerweile über 100 Millionen Menschen monatlich genutzt (vgl. Tiktok Deutschland, 11.5.2021). Ein besonderer Fokus der App liegt auf Musik und Tanz – mittlerweile findet sich aber eine breites Spektrum an Themen, Ausdrucksformen und Interessen auf der Plattform wieder.

Die Möglichkeiten der Interaktion zwischen den User*innen auf Tiktok unterscheiden sich auf den ersten Blick nicht wesentlich von anderen Sozialen Netzwerken – sie sind allerdings ein wenig limitierter und unpersönlicher: Videos können geteilt oder geliked werden, Accounts kann man folgen und unter Videos Kommentare hinterlassen, die wiederum geliked, oder auf die geantwortet werden kann. Außerdem kann man eigene Videos mit Hashtags markieren, damit diese bei einer Suche nach den entsprechenden Begriffen auftauchen. Auch Direktnachrichten können User*innen schreiben. Zum nächsten, mehr oder weniger zufällig ausgewählten Video gelangt man durch einen „Swipe“, also ein Wischen nach oben oder unten. Was fehlt, ist die Möglichkeit, sich wie auf Facebook in Untergruppen beziehungsweise Interessengemeinschaften zu vernetzen, Veranstaltungen zu bewerben oder Videos zu teilen. Ebenso fehlt die technische Möglichkeit, „Freundschaften“ zu knüpfen. Es ist also insgesamt schwieriger, eine Community aufzubauen, die sich aufeinander bezieht. Die Mechanik der Plattform ist insgesamt mehr auf Unterhaltung ausgelegt als auf Vernetzung.

Ein weiterer Unterschied zu herkömmlichen Social-Media-Plattformen ist der verwendete Algorithmus, der die Videos im “for you feed” vorschlägt: Er basiert laut TikTok auf künstlicher Intelligenz und analysiert die Interaktionen der User*innen, genutzte Hashtags, die Titel der Videos, verwendete Hintergrundmusik etc. Stärker gewichtet als genannte Faktoren wird allerdings die Verweildauer bei einer bestimmten Art von Content. Auf dieser Grundlage werden dann ähnliche Videos vorgeschlagen. Die Follower*innenzahl bestimmter Accounts hat laut TikTok hingegen nur einen verhältnismäßig geringen Einfluss darauf, ob Videos durch den Algorithmus für den individuellen Feed berücksichtigt werden.

Diese auf User*inneninteressen zugeschnittene Personalisierung der eigenen For You-Page durch den Algorithmus kann theoretisch dazu beitragen, bestimmte politische Strömungen oder Meinungen zu bestätigen bzw. User*innen zu radikalisieren. Bei der Nutzung von TikTok geht es vielen User*innen um gute Laune, positive Erfahrungen und den Mitmach-Charakter der Plattform. Anders als in anderen sozialen Netzwerken geht es also weniger um Vernetzung, (negative) Emotionalisierung, tagesaktuelle Nachrichten und Diskussion. Nichtsdestotrotz ist das Publikum nicht unpolitisch, sondern tendenziell eher liberal bis progressiv eingestellt (vgl. Digital Natives Monitor).

Politische Haltung der Plattform und Moderationskriterien

TikTok ist, wie andere Plattformen, zuallererst ein profitorientiertes Unternehmen. Das heißt, User*innen sollen so lange wie möglich auf der Plattform gehalten werden, um so Werbung schalten zu können. Der Mutterkonzern Bytedance ist für eine eher anbiedernde Haltung gegenüber der chinesischen Regierung inklusive Zensur von kritischen Videos sowie den Verkauf von Nutzer*innendaten zu Werbezwecken in die Kritik geraten. Noch 2019 wurden international Videos mit missliebigen politischen Inhalten in ihrer Reichweite eingeschränkt, LGBTQI-Themen in bestimmten geographischen Regionen unter dem Label „Islam Offense“ unterbunden und Videos von Protesten zensiert.

Dennoch scheint TikTok im deutschsprachigen Raum seine soziale Verantwortung verhältnismäßig ernst zu nehmen und sich eher einem progressiven Menschenbild und dem Ideal der offenen Gesellschaft verpflichtet zu fühlen. In der Einleitung zum „Digital Natives Monitor 2021“ schreibt der General Manager für TikTok Deutschland, Thomas Henning, unter anderem: „Wir bei TikTok sind stolz auf das vielfältige Engagement unserer Creator*innen: Auf die LGBTQI+-Community und die Black-Lives-Matter-Bewegung, die ihren Anliegen Gehör verschaffen“ (Henning, 2021).

Ein Blick auf die 2020 in Reaktion auf die Kritik aktualisierten Community-Richtlinien lässt ebenfalls den Schluss zu, dass Hate Speech und extrem rechte Agitation auf der Plattform unerwünscht sind und entsprechende Accounts mittlerweile konsequent gesperrt werden. Weiterhin heißt es dort:

„Um einen wirksamen Schutz unserer Community zu gewährleisten, berücksichtigen wir bei der Identifikation von gewalttätigen und extremistischen Personen und Organisationen auf unserer Plattform gegebenenfalls Informationen aus öffentlich zugänglichen Quellen – wie andere Plattformen oder Offline-Angebote. Finden wir derartige Personen oder Organisationen auf TikTok, so werden deren Konten gekündigt.“

TikTok greift also mitunter auf externe Quellen und Informationen zurück, um menschenfeindliche und gewaltverherrlichende Akteur*innen von der Plattform fernzuhalten und gleicht dazu Erkenntnisse mit denen anderer Plattformen ab. Es lässt sich also vermuten, dass TikTok insgesamt eine rigorose Strategie des Deplatforming betreibt und zumindest bekannten extrem rechten Gruppen und Personen keine Reichweite bietet.

Extrem rechte und verschwörungsideologische Akteur*innen auf Tiktok im deutschsprachigen Raum

Wie eingangs erwähnt, versucht die extreme Rechte verstärkt, Social Media für ihre Propaganda zu nutzen. Eine umfangreiche Recherche der Plattform correctiv.org hatte 2020 ein Netzwerk von über 100 rechten Influencer*innen mit jeweils mehreren tausend Follower*innen auf Instagram aufgedeckt, die ihre Inhalte mehr oder weniger subtil über Fotos und Hashtags verbreiteten und auch auf Facebook, Youtube und Twitter vertreten waren. Bis zum mehr oder weniger konsequenten Deplatforming 2020 waren Accounts vieler namhafter rechter Aktivist*innen und Gruppen wie der „Identitären Bewegung“ zu finden. Auch auf TikTok waren vor einigen Jahren noch vermehrt extrem rechte Inhalte zu finden. Im internationalen Kontext gab es reichweitenstarke Profile der US-Amerikanischen „Proud Boys“, und Mitglieder der alt-right, ebenso wie offen agierende Neonazis, die mit Hashtags wie #atomwaffen (in Referenz zur rechtsterroristischen „Atomwaffen-Division“), #1488 (eine Kombination der extrem rechten Codes für „14 Words“ und „Heil Hitler“) oder #fascist operierten und zu Gewalt gegen BIPoC sowie Jüdinnen und Juden aufriefen. Auch im deutschsprachigen Raum häuften sich die Meldungen über extrem rechte Umtriebe: Einige Akteur*innen nutzen plattformspezifische Ausdrucksformen, wie zum Beispiel das beliebte Format „Lipsync“ für Rechtsrock, teilweise mit unverfänglichen, aber populären Hashtags unterlegt, um Reichweite zu generieren. Die meisten dieser Videos haben für TikTok-Verhältnisse sehr geringe Aufrufzahlen unter 1000, die dazugehörigen Accounts allerdings trotzdem bis zu 5000 Likes.

Noch im Herbst 2020 berichtete das Redaktionsnetzwerk Deutschland über reichweitenstarke Accounts auf TikTok, die Hetze gegen Geflüchtete verbreiten, wie etwa ein Account mit 268.000 Follower*innen (vgl. Schwarzer). Mittlerweile ist dieser allerdings gelöscht und allgemein scheint TikTok derzeit ein relativ konsequentes Deplatforming extrem rechter Inhalte zu betreiben. Auch die Amadeu Antonio Stiftung kommt in ihrer neuesten Studie, Antisemitism in the digital Age zu diesem Ergebnis: “openly far-right and neo-Nazi profiles are deleted more quickly and consistently on TikTok than elsewhere, or often have their reach restricted via shadowbans.“ (Amadeu Antonio Stiftung et al, 2021, 61).

Es gab und gibt aber durchaus auch immer wieder Versuche der organisierten, gemäßigter erscheinenden „Neuen Rechten“, TikTok für ihre Zwecke zu nutzen. In einem Interview mit dem neurechten Verein „1 Prozent“ berichtet der Chefredakteur des Magazins Info Direkt von seinen Versuchen, TikTok mit „patriotischen“ Inhalten zu füllen. Er sieht zwar selber ein, dass er als 37-Jähriger auf der Plattform Gefahr läuft, sich zu blamieren, nimmt dies aber in Kauf, um dieses Feld von rechts nicht unbespielt zu lassen. Langfristig sollen demnach „fesche junge Männer oder – noch besser – hübsche Mädels TikTok mit patriotischen Inhalten und Lebensgefühl überschwemmen“. Hier spielt er auf die Strategie der Identitären an, besonders junge, attraktive Aktivistinnen in Szene zu setzen. Dies könnte, wie oben beschrieben, durchaus zum Publikum von TikTok passen. Die Umsetzung lässt bislang allerdings zu wünschen übrig: Ein Abgleich mit größeren rechten Influencer*innenprofilen auf Instagram aus der Correctiv-Recherche zeigt, dass nahezu keine der dort genannten Personen auf TikTok vertreten ist.

Ähnlich sieht es mit den von Correctiv herausgestellten Hashtags aus, die auf Instagram von der extremen Rechten verwendet werden. Manche davon, wie #heimatverliebt, #vaterland, #defendeurope wurden zwar viel genutzt, zeigen allerdings kaum relevante Beiträge mit extrem rechten Inhalten. Hashtags wie #1488 oder das N-Wort wurden hingegen komplett geblockt. Es erscheint in solchen Fällen eine Nachricht, dass „dieser Ausdruck mit gehässigem Verhalten assoziiert werden könnte“ und wird mit einem generellen Verweis auf die Community-Richtlinien versehen.

Ein anderes Bild zeigt sich hingegen bei Inhalten, Wahlwerbung und Accounts extrem rechter Parteien. Diese werden von TikTok bisher weniger schnell entfernt, da sie formal nicht verboten sind, und so kursieren beispielsweise mit epischer Musik hinterlegte Videos des Faschisten Björn Höcke mit mehr als 100.000 Klicks auf der Plattform. Fielitz und Marcks beschreiben in „Digitaler Faschismus“ die Strategie, nach der Sympathisant*innen rechter Parteien „durch Online-Aktivitäten die Stimmungsmache der Partei unterstützen [sollen]“ (Fielitz, Marcks: 2021, 34). Dies spiegelt sich auch in der Verbreitung von Parteiinhalten bei TikTok wieder. Die reichweitenstärksten Beiträge stammen häufig nicht von offiziellen Parteiaccounts, sondern von Accounts mit Namen wie „Alle für die AfD“, „Patriotische Jugend“ oder „Deutschrussische Allianz“.

Facettenreicher Antisemitismus

Obwohl ein Großteil der TikTok-Community eher liberal eingestellt ist und die App der organisierten extremen Rechten, mit Ausnahme politischer Parteien, kaum eine Plattform bietet, gibt es auch auf TikTok Nischen, in denen sich Menschen mit antidemokratischen Weltbildern wohl fühlen. Vor allem über Verschwörungsmythen und in codierter Form wird Antisemitismus verbreitet, aber auch offene Holocaustleugnung ist häufig zu finden. Hier zeigt sich, dass TikTok von seinem im Jahr 2020 proklamierten Ziel, gegen Antisemitismus vorzugehen (vgl. Kappl, Lehmann, 19.5.2021), noch weit entfernt ist. Der Studie Failure to Protect zufolge wurden nur 19,2% der gemeldeten, offen antisemitischen Inhalte von TikTok gelöscht und nur 5% der dafür verantwortlichen Accounts. Während offensichtliche Gewaltaufrufe mittlerweile gesperrt werden, weisen codierte antisemitische Hashtags eine hohe Verbreitung auf: Videos mit den Hashtags #rothschildfamily, #synagogueofsatan und #soros wurden insgesamt über 25 Millionen mal angesehen.

Die Autor*innen der Studie Antisemitism in the Digital Age beschreiben außerdem einen verbreiteten Antisemitismus in TikTok-Videos, in welchen durch Witze über KZ-Opfer, unangemessenes Verhalten an Gedenkstätten oder Verächtlichmachung von Juden und Jüdinnen ganz nebenbei antisemitische Bilder transportiert werden (vgl. S. 62). Auch Israelbezogener Antisemitismus ist im Kontext des Israel-Palästina-Konfliks auf TikTok häufig zu finden und wird aufgrund seiner vermeintlichen Uneindeutigkeit häufig als Vehikel zum Ausdruck der eigenen Judenfeindschaft genutzt. So nutzen reichweitenstarke Accounts teilweise wie beiläufig hashtags wie „#Israhell“ , #KindermörderIsrael (vgl. S. 63f). Teilweise wird auch mit Hilfe von Emojis (z.B. Flammen oder Schuhe in Kombination mit der Israelischen Fahne) die eigene Gesinnung deutlich gemacht. Auch der von der

Hamas geprägte Slogan #fromtherivertothesea, der implizit die Auslöschung Israels fordert, wurde in diesem Kontext verwendet. Die Studie beschreibt die Art und Weise, mit der die plattformspezifischen Eigenheiten auch bei diesem Thema umgesetzt werden, folgendermaßen:

Israel-related antisemitism has been spread through the use of emojis, songs, dances, filters and skits as codes. Often an antisemitic message in a post is only apparent and understandable when you analyse several of the layers. Content creators can personify antisemitic caricatures, for example. Filters that seem unproblematic in themselves, […] or a face distortion filter, can become an embodiment of antisemitic imagery through their thematic embedding. Whilst not originating on TikTok, such ideologically-tinged antisemitic narratives find a new, playful expression on TikTok and thus reach younger generations.“

Im Kontext der Coronavirus-Pandemie wurden der Studie zufolge außerdem Hashtags wie #covid1948 verwendet, welcher sich auf das Gründungsjahr Israels bezieht und somit der alte Verschwörungsmythos über „die Juden“ als Brunnenvergifter und Verantwortliche für Seuchen fortschreibt. Eine erschreckende Bestandsaufnahme.

Verschwörungserzählungen

Es ist zu beobachten, dass auf TikTok auch diverse andere Verschwörungsmythen verbreitet werden. In ihrer Absurdität bieten sie einen hohen Unterhaltungswert, sind jedoch häufig anschlussfähig für menschenverachtende Einstellungen und Sündenbockdenken. In ihrer Struktur sind sie oft antisemitisch. Der Hashtag #conspiracy hat weltweit über 8 Milliarden(!) Aufrufe und ist somit durchaus kein Nischenphänomen auf der Plattform. Wie genau sich Verschwörungsdenken auf TikTok manifestiert, lässt sich allerdings empirisch bisher schwer nachverfolgen.

Auch eine Stichprobe ergibt kein eindeutiges Bild: Der Hashtag #querdenken wurde beispielsweise zwar knapp 15 Millionen mal aufgerufen – allerdings finden sich darunter vor allem Videos, die sich über Coronaleugner*innen und sogenannte „Maßnahmenkritiker*innen“ lustig machen. Bekannte deutschsprachige Verschwörungsideolog*innen und “Querdenken”-Aktivist*innen haben auf TikTok keine eigenen Accounts und werden auch nur vereinzelt von anderen Accounts hochgeladen. Dieses Fehlen der verschwörungsideologischen „Prominenz“ auf TikTok lässt sich unter anderem mit der Altersstruktur der Zielgruppe (die meisten der bekannten Verschwörungsideolog*innen sind wesentlich älter als 40), der begrenzten Videolänge und der eher auf Unterhaltung ausgelegten Funktionsweise der Plattform begründen, nicht jedoch zwangsläufig mit einem generellen Widerstand der User*innen gegenüber Verschwörungsideologien.

Kaum Erfolge für Rechte, aber grassierender Antisemitismus

Die anfängliche Frage, wie hoch das Potential von TikTok für die extreme Rechte ist, kann derzeit relativ klar beantwortet werden: Bisher gibt es trotz einiger Versuche keine nennenswerte Reichweite organisierter extrem rechter Akteur*innen in Deutschland. Dies könnte zum einen an der Funktionsweise liegen: durch das Fehlen einer Gruppen- oder Teilen-Funktion ist es schwieriger in Echokammern abzurutschen, in denen sich die Mitglieder gegenseitig bestätigen können. Auch die Zielgruppe und Nutzungsweise der Plattform widerspricht dem faschistischen Phantasma vom nahenden Untergang und der Bedrohung des Kollektivs. Das Klima auf Tiktok ist einfach zu „nett“ und positiv im Vergleich zu Youtube oder Facebook und die Menschen suchen dort größtenteils eher nach Erheiterung und Unterhaltung als nach Negativschlagzeilen. Einen weiteren wichtigen Beitrag gegen eine rechte Hegemonie liefern die vergleichsweise strengeren Moderationskriterien, blockierte menschenfeindliche Hashtags und konsequentes Deplatforming durch den Betreiber. So ist es für die organisierte Rechte derzeit kaum möglich, dort Fuß zu fassen. Dies könnte sich allerdings ändern, falls sie es schaffen würde, über subtile, ästhetisch ansprechende und stark codierte Videos, oder unter dem Deckmantel der Ironie ihre Inhalte zu verbreiten, wie es häufig auf Imageboards und Foren als Strategie funktioniert.

Ein alarmierendes Bild zeigt sich mit Blick auf die Verbreitung verschwörungsideologischer und antisemitischer Inhalte. Hier hat sich herausgestellt, dass besonders der (weniger organisierte, aber allgegenwärtige) Antisemitismus auf der Plattform seine Nische gefunden hat und in sowohl offener als auch subtiler Art und Weise verbreitet wird, ohne dass TikTok bisher entschieden dagegen vorgeht. Im November 2021 reagierte der Konzern auf die Ergebnisse der hier zitierten Studien und kündigte eine Kooperation mit der Amadeu Antonio Stiftung an, um gegen diesen Missstand vorzugehen. Letztendlich können wir uns aber nicht auf die Moderationskriterien großer Plattformen verlassen – es ist die Aufgabe der Gesellschaft, und damit nicht zuletzt der politischen Bildungsarbeit, menschenverachtenden Einstellungen den Nährboden zu entziehen und ein demokratisches Miteinander zu fördern!

Quellen:

Bogerts, Lisa; Fielitz, Maik: „Do You Want Meme War? – Understanding the Visual Memes of the German Far Right”, in: Fielitz Maik; Thurston Nick (Hrsg.): Post-Digital Cultures of the Far Right, Transcript Verlag, Bielefeld 2019

Cox, Joseph: „TikTok has a Nazi Problem“, 18.12.2018, <https://www.vice.com/en/article/yw74gy/tiktok-neo-nazis-white-supremacy>

Eberl, Matthias: „Wie Tiktok seine Nutzer überwacht“, 4.12.2019, <https://www.sueddeutsche.de/digital/tiktok-ueberwachung-daten-kritik-1.4709779>

Fielitz, Maik; Marcks, Holger: „Digitaler Faschismus – die sozialen Medien als Motor des Rechtsextremismus“, Dudenverlag, Berlin 2021

Hansen, Philip: “Hat TikTok ein Rechtsrock-Problem?”, 28.1.2020, <https://www.belltower.news/internet-hat-tiktok-ein-rechtsrockproblem-95179/>

Kappl, Eva; Lehmann, Theresa: “Tiktok – Junge Plattform und alte antijüdische Codes”, 19.5.2021, <https://www.belltower.news/soziale-medien-tiktok-junge-plattform-und-alte-antijuedische-codes-115935/>

Kappl, Eva; Lehmann, Theresa: “Tiktok – Antisemitismus im neuen Gewand”, 29.11.2021, <https://www.belltower.news/dehate-report-3-tiktok-antisemitismus-im-neuen-gewand-124673/>

Moßburger, Thomas: “Wie tickt der TikTok-Algorithmus?”, 1.8.2021, <https://www.br.de/nachrichten/netzwelt/wie-tickt-der-tiktik-algorythmus,SedprKf>

Ortmann, Michael: “Die Postergirls der Rechtsextremen”, 27.6.2021, <https://www.n-tv.de/politik/Die-Postergirls-der-Rechtsextremen-article22647239.html>

Rabe, L: “Anteil der befragten Internetnutzer, die Facebook nutzen, nach Altersgruppen in Deutschland in den Jahren 2012 bis 2020/21”, 14.07.2021, <https://de.statista.com/statistik/daten/studie/691569/umfrage/anteil-der-nutzer-von-facebook-nach-alter-in-deutschland/>

Reuter, Markus; Köver, Chris: „Gute Laune und Zensur“, 23.11.2019, <https://netzpolitik.org/2019/gute-laune-und-zensur/>

Schwarzer, Mathias: “Lip Sync zu Nazi-Musik: Was rechte Gruppen auf Tiktok treiben”, 26.10.2020, <https://www.rnd.de/meden/lip-sync-zu-nazi-musik-was-rechte-gruppen-auf-tiktok-treiben-HIZKTO7USJCX3DMG4KMRXQFG6Q.html>

TikTok Deutschland GmbH: „Neue Studie von TikTok lüftet das Geheimnis um Verbraucher*innen-Mindsets“, 11.5.2021, <https://newsroom.tiktok.com/de-de/neue-studie-von-tiktok-lueftet-das-geheimnis-um-verbraucherinnenmindsets>

TikTok Technology Limited: „Community-Richtlinien“, Stand Dezember 2020 <https://www.tiktok.com/community-guidelines?lang=de#39>

TikTok Technology Limited: „How TikTok recommends videos #ForYou“, 18.6.2020, <https://newsroom.tiktok.com/en-us/how-tiktok-recommends-videos-for-you>

TikTok Technology Limited: „NetzDG-Transparenzbericht TikTok: Juli 2019 – Dezember 2019“, 2019, <https://www.tiktok.com/safety/resources/netzdg-jul-dec-2019?lang=de>

Studien:

Amadeu Antonio Stiftung, Expo Foundation, Hope not Hate: „Antisemitism in the digital age- online antisemitic hate, holocaust denial, conspiracy ideologies and terorism in europe“, 2021, <https://www.amadeu-antonio-stiftung.de/wp-content/uploads/2021/10/antisemitism-in-the-digital-age.pdf>

Center for Countering Digital Hate Inc: “Failure to Protect – how tech Giants fail to act on user reports of Antisemitism”, 2021, <https://252f2edd-1c8b-49f5-9bb2-cb57bb47e4ba.filesusr.com/ ugd/f4d9b9_cac47c87633247869bda54fb35399668.pdf>

Correctiv.org: “Kein Filter für Rechts – Wie die rechte Szene Instagram benutzt, um junge Menschen zu rekrutieren”, 2020, <https://correctiv.org/top-stories/2020/10/06/kein-filter-fuer-rechts-instagram-rechtsextremismus-frauen-der-rechten-szene/>

TikTok Deutschland GmbH: „#DigitalNativesMonitor “, 2021, <https://ws.cooa.la/cooala-ws/cooala/hub/post/doc/128450_1>

Literaturempfehlungen:

Fuchs, Christian; Middelhoff, Paul: „Das Netzwerk der neuen Rechten“, Rowohlt Polaris, Reinbek bei Hamburg 2019

Schwarz, Carolin: „Hasskrieger – der neue globale Rechtsextremismus“, Verlag Herder, Berlin 2020

Stegemann, Patrick; Musyal, Sören: „Die rechte Mobilmachung – wie radikale Netzaktivisten die Demokratie angreifen“, Econ Verlag, Berlin 2020