Diese Studie untersucht, wie deutsche rechtsextreme Akteur*innen generative KI eingesetzt haben. Sie zeigt, wie Konten der Alternative für Deutschland (AfD), Inhaltsersteller*innen und einzelne Nutzernde die Technologie verwenden, um rechtsextreme Überzeugungen online effektiv zu verbreiten. Generative KI ermöglicht es diesen Akteur*innen, etablierte Narrative nahtlos mit schnell generierten, aber maßgeschneiderten Social-Media-Inhalten zu verbinden. Diese Strategie verdeutlicht die Lücken bei der Durchsetzung des Digital Services Act (DSA) der Europäischen Union, obwohl er Bestimmungen zur Bekämpfung des Missbrauchs generativer KI enthält.

Unsere zentralen Erkenntnisse:

• Die wichtigsten Vektoren deutscher rechtsextremer KI-generierter Inhalte sind mit der Partei Alternative für Deutschland (AfD) verbundene Accounts, rechtsextreme Musikkanäle sowie rechtsextreme Community-Gruppen auf Facebook. Inhalte, die mit der AfD in Verbindung stehen – die Chancen hat, bei der Bundestagswahl im Februar 2025 als zweitstärkste Partei abzuschneiden – kommen vom Hauptkonto der Partei, von Landesverbänden und einzelnen Politiker*innen.
• Die von diesen Konten erstellten Inhalte werden in großem Umfang von Einzelpersonen auf Facebook, Instagram, X (ehemals Twitter) und TikTok geteilt und erneut gepostet, ohne dass sie offiziell mit organisierten rechtsextremen Gruppen in Verbindung stehen. 
• Zu den gängigen Narrativen gehören Angriffe auf Geflüchtete und Einwander*innen, LGBTQ+- und Klimaaktivist*innen sowie Oppositionsparteien. Inhalte, die zur sog. Remigration aufriefen – die umfassende Abschiebung ethnischer Minderheiten unabhängig von ihrem Einwanderungsstatus – gehören zu den Narrativen, die die größte Zustimmung finden.
• Rechtsextreme Nutzende verwenden generative KI, um ihre Botschaften zu illustrieren, Videosequenzen und Bilder zu erstellen, um Szenen darzustellen, für die keine echten Bilder verfügbar sind. Dazu gehören gängige rechtsextreme Argumente, wie z. B. von Migranten*innen begangene Verbrechen.
• Andere Inhalte idealisieren Deutschland als ein starkes Land, das bedroht ist und gerettet werden muss. KI-generierte Bilder, Memes und Lieder werden verwendet, um ein Gefühl der Identität unter Gruppenmitgliedern und Anhänger*innen zu schaffen. 
• Das ISD hat die Profile von drei weiblichen, KI-generierten „Influencerinnen“ identifiziert. Diese Profile teilen Bilder und Filmrollen mit rechtsextremen Inhalten und geben vor, echte Frauen zu sein, um eine parasoziale Beziehung zu ihrem Publikum aufzubauen.

Rechtsextreme Akteur*innen nutzen die mangelnde Durchsetzung des EU-Gesetzes über digitale Dienste (DSA) durch die Plattformen und die Beschränkungen des KI-Gesetzes zur Verbreitung von AIGC aus. Einen Monat nach Meldung wurde keiner der von der ISD beanstandeten KI-generierten rechtsextremen Beiträge von den Plattformen entfernt oder von den Plattformen als solche gekennzeichnet. Nur 4 Prozent der Beiträge waren zum Zeitpunkt der Erstellung dieses Berichts als KI-generiert gekennzeichnet.