In den letzten zwei Jahren hat die russische Regierung ihre hybride Kriegsführung erheblich ausgeweitet. Zwar haben die EU-Sanktionen gegen russische Staatsmedien zu einem Reichweiteneinbruch in Europa geführt – jedoch dürfen in vielen außereuropäischen Ländern russische Staatsmedien nach wie vor uneingeschränkt senden. In Europa konnte außerdem eine wachsende Bandbreite an alternativen Instrumenten zur Beeinflussung des Informationsraums beobachtet werden, wie zum Beispiel die Nutzung der Kommunikationskanäle diplomatischer Vertretungen, die Etablierung gefälschter Internetseiten und -konten oder die Einrichtung neuer Medienplattformen, deren hintergründige Finanzierung und Absichten verschleiert werden. 

Bei der Beeinflussung des deutschsprachigen Informationsraums setzt die russische Regierung vor allem auf Multiplikator:innen innerhalb Deutschlands. So gelang es dem Auslandsrundfunk RT DE während der Corona-Pandemie zu einem organischen Bestandteil der Covid-skeptischen Community zu werden. Dieses Vertrauen nutzte das Staatsmedium später wiederum aus, um propagandistische Inhalte und Fehlinformationen über Russlands Invasion in der Ukraine in Umlauf zu bringen. Bei ihren Beeinflussungsversuchen haben die russische Regierung und ihre Verbündeten Lücken in den EU-Sanktionen und in den Geschäftsbedingungen der Online-Plattformen immer wieder gezielt ausgenutzt. Zudem werden verstärkt neuartige Technologien eingesetzt, um manipulierte Inhalte wie Deepfakes kostengünstig zu verbreiten. Staatlich gelenkte „Hack and Leak”-Operationen wie im Falle der „Taurus”-Abhöraffäre gehören ebenfalls zum Baukasten der Beeinflussung des Informationsraums. Dabei wird versucht, cybergestützt belastendendes Material zu erlangen, um es in originaler oder manipulierter Version zu einem späteren Zeitpunkt zu veröffentlichen. 

Laut einer Umfrage der Bertelsmann-Stiftung vom Oktober 2023 erkennt eine große Mehrheit der Befragten in Deutschland in Desinformation eine Gefahr für Demokratie und Zusammenhalt. Eine frühere Befragung vom März 2023 ergab zudem, dass 85 Prozent der befragten EU-Bürger:innen der Meinung waren, dass die Politik mehr gegen Desinformation unternehmen sollte. Doch wie kann unser Land effektiv und angemessen mit hybriden Bedrohungen umgehen? Bisherige Vorfälle zeigen, dass einige Abwehrstrukturen bereits existieren. Dennoch fehlt es an einem systematischen Ansatz, der Zuständigkeiten definiert und die gesellschaftliche Resilienz kontinuierlich ausbaut. Die Bundesregierung kann hierbei eine zentrale Rolle einnehmen, indem sie die strategischen Ziele vorgibt, personelle und finanzielle Ressourcen bereitstellt und eine koordinierende Funktion ausübt.

Deutschland plant eine Strategie zum Umgang mit Desinformation

Die Bundesregierung hat sich in ihrer ersten Nationalen Sicherheitsstrategie vom 14. Juni 2023 zum Ziel gesetzt, im Zusammenwirken mit den Bundesländern eine neue Strategie zum Umgang mit Desinformation vorzulegen. Diese Strategie soll „die Instrumente der Früherkennung von manipulativer Kommunikation im Informationsraum ausbauen, unsere Resilienz und Reaktionsfähigkeiten verbessern und auch auf unsere Fähigkeiten zielen, unsere demokratischen Werte und unsere Sichtweisen international überzeugend zu vertreten”. Damit eröffnet sie ein breites Themenfeld, das innenpolitische wie außenpolitische Fragestellungen umfasst. Die Federführung bei der Strategieentwicklung wird entweder das Bundesministerium des Innern und für Heimat oder das Auswärtige Amt übernehmen. Ein konkreter Zeitplan zur Erarbeitung der Strategie wurde zwar bislang noch nicht öffentlich mitgeteilt, vorangehen soll der Strategie aber ein „Gemeinsamer Aktionsplan von Bund und Ländern gegen Desinformation und für eine wehrhafte Demokratie”. Außerdem beabsichtigt das Bundesministerium des Innern und für Heimat auf Empfehlungen zurückzugreifen, die im Rahmen des Projektes „Forum gegen Fakes ­– Gemeinsam für eine starke Demokratie” von einem zufällig ausgewählten Bürgerrat erarbeitet werden. 

Während damit die Lücke einer bundesweiten Debatte unter Einbeziehung der Bevölkerung geschlossen werden soll, haben die Länder bereits den Handlungsdruck auf die Bundesregierung erhöht. So appellierte die Innenministerkonferenz im Dezember 2023 an das Bundesministerium des Innern und für Heimat, sich „für die Einrichtung einer zentralen Stelle auf Bundesebene zur Beobachtung und Analyse von Desinformationskampagnen” einzusetzen. In der Folge kündigte das Bundesministerium am 13. Februar 2024 im Rahmen zusätzlicher Maßnahmen gegen Rechtsextremismus bereits eine Früherkennungseinheit der Bundesregierung für ausländische Desinformationskampagnen an. Die Einheit soll Manipulations- und Einflusskampagnen im Vorfeld identifizieren, um Aufklärungsarbeit und politische Reaktionen zu ermöglichen. Der Vorschlag für die Einrichtung einer solchen Einheit ist jedoch keineswegs neu. Im Jahr 2016 hatte das Ministerium im Kontext der russischen Einflussnahme auf die US-Präsidentschaftswahlen in Erwägung gezogen, ein Abwehrzentrum gegen Desinformation einzurichten. Das Vorhaben scheiterte damals jedoch.

Staatlicher Umgang mit Desinformation als kontroverses Thema

Im Gegensatz zu pauschalen Behauptungen, Strategien zum Umgang mit Desinformation seien per se Vorzeichen oder Ausdruck einer „Meinungsdiktatur“, ist eine konstruktiv-kritische Debatte durchaus berechtigt. Denn liberale Demokratien unterscheiden sich von autokratischen Staaten wie Russland oder China dadurch, dass sie die Freiheitlichkeit der demokratischen Willensbildung gewährleisten. Die Wahrheitsfindung ist hierzulande weder Staatsaufgabe noch liegt sie im Verantwortungsbereich der Diensteanbieter. Vielmehr bleibt sie ein gesellschaftlicher Aushandlungsprozess. Trotzdem besagt die publizistische Sorgfaltspflicht auch, dass alle Nachrichten vor ihrer Veröffentlichung auf Herkunft, Inhalt und Wahrheitsgehalt überprüft werden müssen. Der Medienstaatsvertrag sieht eine solche Verpflichtung für Rundfunkanstalten und Medienplattformen mit journalistisch-redaktionell gestalteten Angeboten vor. Für Zeitungen legt der Pressekodex entsprechende Richtlinien fest. Und für Anbieter von sehr großen Online-Plattformen und Suchmaschinen gelten seit einigen Monaten auf systemischer Ebene die Sorgfaltspflichten des Digital Services Act. Diese Pflichten verlangen von ihnen, Risikobewertungen durchzuführen und Gegenmaßnahmen zu ergreifen, damit sich die Dienste, einschließlich der algorithmischen Systeme, nicht nachteilig auf die Ausübung der Grundrechte oder die gesellschaftliche Debatte auswirken. 

Im Kontext dieses Rechtsrahmen stellt sich die Frage, wie eine Strategie der Bundesregierung zum Umgang mit Desinformation anschlussfähig ausgestaltet werden kann, um einen effektiven Beitrag zu leisten und die Freiheitlichkeit der demokratischen Willensbildung weiterhin zu garantieren. Einige Länderbeispiele aus dem angelsächsischen Raum zeigen, dass die Einrichtung einer zentralen Stelle zum Umgang mit Desinformation aufgrund von genereller Skepsis in der Bevölkerung, Intransparenz oder missbräuchlichem Verhalten durch die beteiligten Behörden erheblichen Widerständen ausgesetzt war. In den Vereinigten Staaten stieß die Einrichtung eines „Disinformation Governance Board” im Heimatschutzministerium zum Beispiel auf derart starken Gegenwind, dass das Vorhaben zunächst auf Eis gelegt und schließlich komplett abgesagt werden musste. Im Vereinigten Königreich benannte das Ministerium für Wissenschaft, Innovation und Technologie im November 2023 seine „Counter-Disinformation Unit” in „National Security Online Information Team” um, nachdem die Behörde angeblich legale Inhalte bei den Online-Plattformen gemeldet hatte. Damit einher ging eine Fokusverlagerung hin zu ausländischen Desinformationskampagnen. Und in Irland wurde bei einer breiten Konsultation im Herbst 2023 zu den Prinzipien einer „Nationalen Strategie zur Bekämpfung von Desinformation” deutlich, dass diese auf wenig Begeisterung in der allgemeinen Öffentlichkeit stoßen dürfte. Zu groß waren die Bedenken vor staatlicher Zensur durch die Hintertüre, selbst wenn die große Mehrheit der konsultierten Organisationen die Prinzipien und einen prinzipienbasierten Ansatz begrüßte.

In anderen Ländern verlief die Einrichtung einer Stelle reibungsloser. In Schweden wurde mit der „Psychological Defence Agency” im Jahr 2022 etwa eine zentrale Stelle etabliert, die einen klaren Auftrag zum Schutz der offenen und demokratischen Gesellschaft sowie der freien Meinungsbildung erhalten hat. Zu ihren Aufgaben gehören sowohl Analyse und Bekämpfung ausländischer Einflussoperationen und anderer Desinformation, die sich gegen Schweden oder schwedische Interessen richten, als auch die Stärkung der psychologischen Resilienz der Gesellschaft. In Frankreich wurde die „Beobachtungsstelle für digitale Einflussnahme aus dem Ausland” bereits im Jahr 2021 mit der Aufgabe betraut, Operationen zu identifizieren, an denen ein ausländischer Staat oder eine ausländische nichtstaatliche Einheit beteiligt ist und die den grundlegenden Interessen der Nation schaden können. Zudem leitet und koordiniert die Stelle die interministerielle Arbeit zum Schutz vor solchen Operationen. Ein ähnlicher Weg wird mittlerweile auch in den Niederlanden eingeschlagen. In der regierungsübergreifenden Strategie wurde klargestellt, dass Werte und Grundrechte im Zentrum der Strategie stehen und die Einstufung von Desinformation oder Faktenprüfung nicht zu den primären Regierungsaufgaben zählt. Wenn jedoch die nationale Sicherheit, die öffentliche Gesundheit oder die soziale und/oder wirtschaftliche Stabilität gefährdet ist, darf die niederländische Regierung handeln und Desinformation widersprechen.

Prinzipien: Grundrechtsbasiert, gesamtgesellschaftlich, evidenzbasiert

Um die Freiheitlichkeit der demokratischen Willensbildung zu garantieren, sollte die Bundesregierung die Wahrung der Grundrechte und den Schutz der demokratischen Gesellschaft als Leitprinzip einer Strategie zum Umgang mit Desinformation verankern. Dadurch kann unbeabsichtigten Rechtsverletzungen vorgebeugt werden, indem diese Prinzipien bereits bei der Strategieerarbeitung berücksichtigt werden. Dabei gilt es, insbesondere die Meinungsfreiheit der Betroffenen zu garantieren. Denn Desinformation und andere Instrumente zur Beeinflussung des Informationsraums werden häufig dazu eingesetzt, unliebsame Stimmen aus der gesellschaftlichen Debatte zu verdrängen. Um die Wahrung der Grundrechte zu garantieren, sollten die Auswirkungen einer Strategie regelmäßig evaluiert und erforderliche Anpassungen vorgenommen werden. Insbesondere dürfen keine Maßnahmen eingeführt werden, die politisch missbraucht werden können. In der Slowakei wechselte nach der Wahl im Herbst 2023 etwa die Zuständigkeit für die im Juni 2023 verabschiedete „Strategic Communication Agenda” vom Sicherheitsrat zum Büroleiter des Ministerpräsidenten. Schließlich sollte sich die Bundesregierung ihrer internationalen Vorbildrolle bewusst sein und geopolitische Folgen einer Strategie abschätzen, um missbräuchlichen Adaptierungen im Ausland frühzeitig vorzubeugen.

Im Kontext der stattfindenden Ausdifferenzierung der Techniken zur Beeinflussung des Informationsraums sowie der engen Grenzen staatlicher Öffentlichkeitsarbeit im Inland sollte die Bundesregierung einen gesamtgesellschaftlichen Ansatz als Leitprinzip festlegen. Bereits in der Phase der Strategieentwicklung sollten neben den Bundesländern die relevanten Verbände und zivilgesellschaftlichen Organisationen eng und transparent konsultiert werden. Das Ziel sollte darin bestehen, die Herausforderungen und mögliche neue Instrumente gegen Desinformation aus multiplen Perspektiven, die über die Sicherheitsperspektive hinausgehen, zu erfassen. Zudem ist es erforderlich, über die Grenzen des deutschsprachigen Informationsraums hinaus zu blicken und sich mit Partnerländern und -organisationen eng abzustimmen. Nur so können die Kosten für die Akteur:innen hinter Desinformation ansteigen und ein Schutzeffekt für die Demokratie eintreten.

Während weitgehend Einigkeit darüber herrscht, dass Desinformation die Freiheitlichkeit der demokratischen Willensbildung beeinträchtigen kann, existieren nach wie vor zu wenige (Echtzeit-)Erkenntnisse über das umfassende Ökosystem fremder Staaten zur Beeinflussung des Informationsraums sowie zu den kausalen Auswirkungen bestimmter Vorfälle. Welche Beziehungen existieren zwischen den Regierungen autoritärer Staaten und inländischen Akteur:innen? Welche Taktiken und Techniken der Beeinflussung des Informationsraums werden eingesetzt? Wie wirken sich diese Aktivitäten konkret auf politische Stimmungslagen oder das Verhalten der Bevölkerung in Deutschland aus? Welche Bevölkerungsgruppen sind unter welchen Bedingungen besonders anfällig für Beeinflussungsversuche? Und inwiefern verringern kommunikative Interventionen die intendierten Ziele der Desinformation? Im Kontext dieser Fragestellungen sollte eine Strategie zum Umgang mit Desinformation nicht nur einen grundrechtebasierten und gesamtgesellschaftlichen Ansatz verfolgen, sondern auch zur Generierung neuer Evidenzen beitragen. Diese Evidenzen sollten zudem fortlaufend bei der Implementierung einer Strategie einbezogen werden.

Informationsmanipulation als zentrale Herausforderung

Wer derweil nur von Desinformation spricht, greift zu kurz. Wird „Desinformation” entsprechend der Definition der Europäischen Kommission als „Verbreitung falscher oder irreführender Inhalte, die der Öffentlichkeit schaden können, in der Absicht, andere zu täuschen oder wirtschaftlich oder politisch daraus Kapital zu schlagen” verstanden, so läuft eine Strategie Gefahr, wichtige andere strategische Instrumente zur Beeinflussung des Informationsraums zu übersehen. Um diese Leerstelle zu schließen, haben Expert:innen der französischen Außen- und Verteidigungsministerien im Jahr 2018 bereits den Begriff „Informationsmanipulation” eingeführt. Informationsmanipulation bezieht sich danach auf die absichtliche und massive Verbreitung falscher oder einseitiger Nachrichten aus feindseligen politischen Beweggründen. Im Besonderen stehen staatlich-orchestrierte Aktivitäten zur Destabilisierung demokratischer Debatten im Fokus. Anknüpfend an diese Überlegungen führte der Europäische Auswärtige Dienst im Jahr 2023 wiederum den FIMI (Foreign Information Manipulation and Interference)-Begriff ein. Dieser legt einen eindeutigen Fokus auf die Verhaltensweisen anstelle von Inhalten und eignet sich daher am besten für einen grundrechtsbasierten Ansatz. Solche Verhaltensweisen umfassen etwa die Fälschung von Konten auf Online-Plattformen oder die künstliche Verstärkung der Reichweite von propagandistischen Inhalten und Fehlinformationen. Für eine Definition von Informationsmanipulation sollten die folgenden Kriterien des FIMI-Begriffs in einer Strategie der Bundesregierung übernommen werden:

(1) Absicht; 

(2) Koordination; 

(3) Manipulation; 

(4) Schaden. 

Damit stünden absichtliche, koordinierte und manipulative Verhaltensweisen bzw. Einflussoperationen im Vordergrund, die ein Schadensrisiko für Werte, Verfahren und politische Prozesse der liberal-demokratischen Grundordnung darstellen können. Einflussoperationen, die von inländischen Akteur:innen ausgehen, sind im FIMI-Begriff nicht berücksichtigt. Stattdessen würden inländische Akteur:innen als mögliche „Stellvertreter:innen” ausländischer Akteur:innen erfasst. Eine Beschränkung auf bestimmte Akteur:innen lässt jedoch große Grauzonen aus und könnte unter anderem Analyst:innen daran hindern, neue Verhaltensweisen des sich stets fortentwickelnden FIMI-Ökosystems zu erkennen. Eine Strategie der Bundesregierung zum Umgang mit Informationsmanipulation sollte daher ebenfalls Einflussoperationen, die von inländischen Akteur:innen ausgehen, angemessen berücksichtigen. Dies bedeutet konkret, dass eine Strategie sowohl zielgerichtete Maßnahmen gegen ausländische Informationsmanipulation beinhalten sollte als auch solche Maßnahmen, die einen Beitrag zur Steigerung der allgemeinen Resilienz gegenüber in- und ausländischer Informationsmanipulation leisten. Dabei muss die Bundesregierung sicherstellen, dass die Freiheitlichkeit der demokratischen Willensbildung stets gewährleistet bleibt.

Die folgenden Kapitel beinhalten 25 Vorschläge zum effektiven Umgang mit Informationsmanipulation unter Berücksichtigung der vorläufigen Themensetzung in der Nationalen Sicherheitsstrategie sowie der bereits angeführten Leitprinzipien. Diese Vorschläge untergliedern sich in die zwei übergeordneten Themenbereiche „Stärkung der Analyse und Öffentlichkeitsarbeit“ und „Schutz der Integrität digitaler Meinungsbildung“. Während ersterer Bereich Vorschläge zur Forschungsförderung und -koordination, Früherkennung und Öffentlichkeitsarbeit sowie internationaler Kooperation beinhaltet, zielen die Vorschläge des zweiten Bereichs auf die Förderung von Diensten und Tools im öffentlichen Interesse, die Gewährleistung der Meinungsvielfalt sowie den Ausbau der Nachrichtenkompetenz und Extremismusprävention. Die nachfolgenden Vorschläge stellen Impulse dar, welche die Diskussion über eine neue Strategie zum Umgang mit Desinformation bereichern sollen.

Stärkung der Analyse und Öffentlichkeitsarbeit

Förderung und Koordination agiler Forschung

Informationsmanipulation ist durch ein absichtliches, koordiniertes, manipulatives und schädliches Verhalten charakterisiert. Für Forschende wird es jedoch im Kontext der Fortentwicklung umfassender Ökosysteme der Informationsmanipulation immer herausfordernder, Taktiken und Techniken umfassend zu beleuchten. Nicht selten ist die Durchführung aufwändiger Recherchen nach öffentlich zugänglichen Informationen (Open Source Intelligence, OSINT) in Kombination mit ethnografischer Forschung und Big-Data-Analysen erforderlich. Außerdem erschweren unterschiedliche Funktionalitäten und Strukturen von digitalen Diensten die plattformübergreifende Analyse von Informationsmanipulation. Großer Forschungsbedarf existiert zudem hinsichtlich der konkreten gesellschaftlichen Auswirkungen von Informationsmanipulation sowie der Effektivität von Interventionen. Hierfür fehlt es insbesondere an experimentellen Forschungsvorhaben, die Beobachtungsstudien ergänzen. Die Limitationen des bisherigen Forschungsstandes sind unter anderem dem Umstand geschuldet, dass die Diensteanbieter bislang nur eingeschränkt Zugang zu ihren Daten und internen Untersuchungen gewährt haben. Relevante Forschungsprojekte wie zum Beispiel der NYU Ad Observer wurden ohne stichhaltige Argumente verhindert.

Die Bundesregierung sollte nicht nur ihr Engagement zur Koordination und Förderung agiler Forschungsvorhaben erheblich ausweiten, sondern sich außerdem für einen umfassenden, praxisnahen und unbürokratischen Datenzugang für Forschungszwecke im Einklang mit dem Datenschutz und anderen Rechten einsetzen. Dazu können folgende Maßnahmen beitragen:

• Unterstützung und Einbeziehung von Kollaborationsplattformen: Um den Austausch von Analyseerfahrungen und -befunden voranzutreiben, sollte die Bundesregierung Kollaborationsplattformen wie zum Beispiel das German-Austrian Digital Media Observatory oder den Forschungsverbund Forum Privatheit langfristig unterstützen und in die Entwicklung einer Strategie zum Umgang mit Informationsmanipulation einbeziehen.
• Aufbau einer Förderstelle zur Erforschung von Informationsmanipulation: Informationsmanipulation tritt häufig ereignisbezogen auf, was die forschende Zivilgesellschaft vor die Herausforderung stellt, Analyseressourcen ad-hoc bereitzustellen. Um solche Analysen zu ermöglichen, sollte eine Förderstelle aufbaut werden, die Finanzmittel bündelt, Forschungslücken identifiziert und diese unbürokratisch schließt. Die Stelle sollte unabhängig von staatlichen Einflüssen sein.
• Perspektivische Aufstockung des KDD-Forschungsetats: Nach dem Gesetzentwurf zur Umsetzung des Digital Services Act soll die Koordinierungsstelle für digitale Dienste einen Forschungsetat in Höhe von 300.000 Euro erhalten. Dieser Etat darf dazu verwendet werden, externe Forschung zu Plattformrisiken zu beauftragen. Dennoch ist er viel zu niedrig angesetzt, um der Bedeutung, die unabhängige Forschung bei der DSA-Durchsetzung haben soll, gerecht werden. Der Betrag sollte auf 2,5 Mio. Euro pro Jahr angehoben werden.
• Gewährleistung des Datenzugangs nach DSA: Die Europäische Kommission hat ihren delegierten Rechtsakt zum Datenzugang nach dem Digital Services Act für das Frühjahr 2024 angekündigt. Die Implementierung und Durchsetzung selbst wird jedoch Aufgabe der nationalen Behörden sein. Die Koordinierungsstelle für Digitale Dienste sollte sicherstellen, dass Anträge auf Datenzugang zeitnah, fundiert und sorgfältig bewerten werden und, dass der delegierte Rechtsakt der Europäischen Kommission einen umfassenden, praxisnahen und unbürokratischen Datenzugang für Forschungszwecke ermöglicht.

Ausbau der Früherkennung und Öffentlichkeitsarbeit

Forschungsberichte und Faktenprüfungen werden in der Regel erst veröffentlicht, wenn schädliche Inhalte bereits eine große Reichweite und Wirkung bei den Zielgruppen erreicht haben. Damit kommen sie meistens zu spät, um die Auswirkungen noch eindämmen zu können. Vor diesem Hintergrund hat sogenanntes Prebunking – die präventive Sensibilisierung für potenzielle Informationsmanipulation – in den letzten Jahren immer mehr Aufmerksamkeit erhalten. Insbesondere der Europäische Auswärtige Dienst hat seine Fähigkeiten zur Strategischen Kommunikation (StratKom) ausgebaut, einschließlich der Früherkennung von ausländischer Informationsmanipulation und der mittel- bis langfristig geplanten Kommunikation.

Die Bundesregierung sollte Deutschlands StratKom-Fähigkeiten im Einklang mit bestehenden Strukturen zur Abwehr von Informationsmanipulation ihrer Partnerländer und -organisationen wie der EU, G7 oder NATO sowie der „International Partnership to Counter State-Sponsored Disinformation” und der „Counter Foreign Interference Group” ausbauen und bündeln. Dabei muss sie dafür Sorge tragen, dass dies auf Grundlage eines klaren Mandats geschieht. Folgende Maßnahmen können zum Ausbau der Früherkennung und Öffentlichkeitsarbeit beitragen: 

• Aufbau einer unabhängigen FIMI-Analysestelle: Unterschiedliche staatliche Stellen in Deutschland arbeiten aktuell zu ausländischer Informationsmanipulation. Die vorhandenen Analysefähigkeiten sollten in einer Früherkennungseinheit ausgegliedert werden, die unabhängig von staatlichen Einflüssen arbeitet und ein gesetzliches Mandat zur Kommunikation (insb. Prebunking) und Zusammenarbeit mit externen Akteur:innen erhält.
• Anwendung bestehender Instrumente: Mit dem G7 Rapid Response Mechanism und der EU Hybrid Toolbox existieren bereits fortgeschrittene Instrumente zum Umgang mit ausländischer Informationsmanipulation. Zudem entwickelt der Europäische Auswärtige Dienst eine EU FIMI Toolbox. Die Bundesregierung sollte diese Instrumente testen, um weitere Erfahrungen zu sammeln und zur gemeinsamen Abwehr beizutragen.
• Weiterentwicklung der Regierungskommunikation: Im Informationsraum treten neue Gatekeeper:innen des politischen Informationsflusses in Erscheinung. Gleichzeitig entsteht eine zunehmend fragmentierte Öffentlichkeit. Die Bundesregierung muss ihre Politik daher kohärent, dauerhaft und crossmedial erklären. Hierfür ist eine Neuausrichtung der Regierungskommunikation gegenüber dem In- und Ausland erforderlich.
• Unterstützung der lokalen Ebene: Informationsmanipulation stellt insbesondere auf regionaler und kommunaler Ebene eine große Herausforderung dar, da hier in der Regel wenig Ressourcen zur Abwehr vorhanden sind. In enger Abstimmung mit den Ländern sollte die Bundesregierung einen Leitfaden für Akteur:innen auf lokaler Ebene erarbeiten.

Beteiligung an internationalen Standards und Initiativen

Informationsmanipulation stellt aufgrund der Beschaffenheit des Informationsraums eine transnationale Herausforderung dar. Zudem befindet sich Deutschland in einem Systemwettbewerb mit autoritären Staaten wie Russland oder China, die einen digitalen Autoritarismus vorantreiben. Dies hat auch die Bundesregierung erkannt und in ihrer ersten Strategie für Deutschlands internationale Digitalpolitik den Schutz von Grund- und Menschenrechten, das Eintreten für ein globales, offenes, freies und sicheres Internet, die Förderung von menschenzentrierten und innovationsfreundlichen Regeln für den digitalen Raum und die aktive Gestaltung von internationalen Normen und Standards als handlungsleitende Grundsätze verankert. 

Im Einklang mit diesen Grundsätzen und den Leitlinien des Auswärtigen Amts für Feministische Außenpolitik sollte die Bundesregierung ihre Beteiligung an internationalen Standards und Initiativen gegen Informationsmanipulation ausweiten. Dazu zählt vor allem der Einsatz gegen Informationsmanipulation, die sich gegen Frauen und LGBTQ+-Personen richtet. Folgende Maßnahmen können in diesem Bereich einen Beitrag leisten:

• Anwendung und Unterstützung von Analysestandards: Zur Aufdeckung immer neuer Taktiken und Techniken der Informationsmanipulation ist der sichere und standardisierte Informationsaustausch notwendig. Die US-amerikanische Regierung und Europäische Kommission nutzen bereits ein integriertes Austauschformat, das auf dem DISARM (Disinformation Analysis and Risk Management)-Rahmenwerk, dem STIX (Structured Threat Information Expression)-Standard und der OpenCTI (Open Cyber Threat Intelligence)-Plattform basiert. Die Bundesregierung sollte dieses Format testen und die Weiterentwicklung des Analysestandards unterstützen.
• Internationaler Einsatz gegen Informationsmanipulation: Informationsmanipulation wird über Grenzen hinweg strategisch eingesetzt und kann auch Hassrede und physische Angriffe herbeiführen. Um die Bedrohungslage umfassend und transnational zu erfassen sowie strategische Ansätze abzustimmen, sollte die Bundesregierung ihr Engagement in Multi-Stakeholder-Foren wie dem Christchurch Call, der Global Partnership for Action on Gender-Based Online Harassment and Abuse oder der Global Coalition for Digital Safety verstärken.
• Befähigung zur Digital Public Diplomacy: In Ländern außerhalb der EU – insbesondere in afrikanischen Staaten – schaffen es autoritäre Staaten wie Russland durch gut ausgestattete Auslandsrundfunkanstalten und diplomatische Vertretungen, die Deutungshoheit zu übernehmen (z. B. in Mali). Die Bundesregierung sollte ihre Bemühungen fortsetzen, Deutschlands digitale Auslandskommunikation strategisch auszubauen.  
• Vermittlung europäischer Digitalgesetze: Gesetze wie der Digital Services Act sind nicht nur Vehikel, um die manipulative Ausnutzung digitaler Dienste innerhalb der EU einzudämmen, sondern stellen auch Blaupausen auf internationaler Ebene dar. Basierend auf einer geopolitischen Folgenabschätzung sollte die Bundesregierung europäische Digitalgesetze international vermitteln und menschenrechtsfokussierte Initiativen wie zum Beispiel einen UN-Verhaltenskodex für Informationsintegrität auf digitalen Plattformen unterstützen.

Schutz der Integrität digitaler Meinungsbildung

Förderung von Diensten und Tools im öffentlichen Interesse

Der Digital Services Act sieht Regeln für Diensteanbieter vor, die auf die Wahrung europäischer Grundrechte abzielen. Damit leisten sie einen wichtigen Beitrag dazu, dass die Anbieter das öffentliche Interesse stärker gegenüber ihren eigenen Profitinteressen gewichten und gegen systemische Risiken wie Manipulationen vorgehen. Zusätzliche kartellrechtliche Regelungen im Digital Markets Act sollen außerdem Wettbewerbsverzerrungen verringern, die auf zu großer Marktmacht einzelner Anbieter beruhen, und damit die Entstehung neuer Geschäftsmodelle begünstigen. Dennoch ist es unwahrscheinlich, dass die genannten Regelwerke allein dazu führen werden, dass neue Online-Plattformen im öffentlichen Interesse entstehen. Vielmehr werden Instrumente zur Förderung von Diensten und Tools benötigt, welche die demokratische Gesellschaft schützen.

Vor diesem Hintergrund sollte die Bundesregierung die Entstehung von gemeinwohlorientierten Digitalprojekten, die zum Schutz der Integrität digitaler Meinungsbildung beitragen, fördern. Dazu können zum Beispiel Dienste und Tools zur Kontenverifizierung, zum gemeinschaftlichen und technologiebasierten Fact-Checking oder soziale Netzwerke und andere Online-Plattformen selbst gehören. Zudem sollten die Angebote des öffentlich-rechtlichen Rundfunks und Auslandsrundfunks weiterentwickelt werden. Folgende Maßnahmen können hierzu einen Beitrag leisten:

• Förderung von Civic Tech: Gemeinwohlorientierte Digitalprojekte, die zum Schutz der Integrität digitaler Meinungsbildung beitragen (z. B. Inhalte-Verifizierung), entstehen nicht ohne die erforderliche Finanzierung – zu Beginn und beim weiteren Wachstum. Die Bundesregierung sollte im Rahmen ihrer Initiativen wie zum Beispiel „Civic Coding – Innovationsnetz KI für das Gemeinwohl” entsprechende Förderschwerpunkte verankern.
• Aufbau eines Datenökosystems: Ein standardisierter Informationsaustausch ist nicht nur für die Aufdeckung von Informationsmanipulation notwendig, sondern auch für die Entstehung neuer Dienste und Tools gegen Informationsmanipulation. Im Rahmen des Civic Data Labs sollte evaluiert werden, welche Daten datenschutzkonform bereitgestellt werden können. 
• Weiterentwicklung öffentlich-rechtlicher Angebote: Der öffentlich-rechtliche Rundfunk ist als Informationsquelle unverzichtbar, da er ein werbefreies und weitgehend unabhängiges Informationsangebot bereitstellt. Dabei unterliegt er jedoch immer mehr den Verbreitungsmechanismen profitorientierter digitaler Dienste. Folglich sollte die Bundesregierung Vorschläge des Rates für die zukünftige Entwicklung des öffentlich-rechtlichen Rundfunks, Public-Service-Algorithmen einzusetzen und Bildungsangebote bereitzustellen, in Abstimmung mit den Ländern auf geeignetem Wege unterstützen.
• Inlandsangebot der Deutschen Welle: In Deutschland lebende Menschen mit russischen Sprachkenntnissen oder russischem Migrationshintergrund stehen im Fokus der Informationsmanipulation der russischen Regierung. Gleichzeitig darf die Deutsche Welle ihr russischsprachiges Angebot nicht im Inland ausstrahlen. Für die Schaffung einer Rechtsgrundlage sollte sich die Bundesregierung in Abstimmung mit den Ländern einsetzen.

Gewährleistung der Meinungsvielfalt im digitalen Informationsraum

Insbesondere im Wahlkontext sind weibliche Kandidat:innen oftmals häufiger von problematischen Inhalten betroffen als ihre männlichen Gegenkandidaten. Eine ISD-Studie zur digitalen Gewalt und Desinformation gegen Spitzenkandidat:innen auf Facebook und Telegram vor der Bundestagswahl 2021 kam zum Beispiel zum Ergebnis, dass Spitzenkandidatin Annalena Baerbock „überproportional oft Zielscheibe von systematischen Desinformationskampagnen“ war. Sie wurde öfter angegriffen, abqualifiziert und mit sexuellen Herabsetzungen und Androhungen von Gewalt überzogen als ihre Wettbewerber Scholz und Laschet. Eine weitere Studie des German Marshall Fund ergab zudem, dass RT DE einen übermäßigen Fokus auf die negative Berichterstattung über Baerbock im Vorfeld der Wahl legte. Im Kontext der US-Präsidentschaftswahlen im Jahr 2020 wurden außerdem nicht nur Frauen überproportional oft angegriffen, sondern insbesondere Kandidat:innen aus ethnischen Minderheiten. In der Folge von gezielten Kampagnen gegen Einzelpersonen, Personengruppen oder demokratische Institutionen kommt es immer wieder zur Selbstzensur oder gar zum kompletten Rückzug der Betroffenen aus dem Informationsraum.

Die Bundesregierung sollte in enger Abstimmung mit den Ländern eine effektive Durchsetzung des bestehenden Medienrechts sowie die sorgfältige Prüfung zusätzlicher Pflichten für journalistisch-redaktionelle Angebote unterstützen. Folgende Maßnahmen können zur Gewährleistung der Meinungsvielfalt im digitalen Informationsraum beitragen:

• Durchsetzung journalistischer Sorgfaltspflichten: Nach dem Medienstaatsvertrag müssen Rundfunkanstalten und Medienplattformen mit journalistisch-redaktionell gestalteten Angeboten den anerkannten journalistischen Grundsätzen entsprechen. Die Bundesregierung sollte an die Bundesländer appellieren, die Ressourcen der Landesmedienanstalten zur Durchsetzung des Medienstaatsvertrages auszuweiten.
• Prüfung einer Sorgfaltspflicht für Influencer:innen: Nicht-journalistische Akteur:innen mit hoher Meinungsbildungsrelevanz wie Influencer:innen müssen meistens nur die Geschäftsbedingungen von Online-Plattformen einhalten. Es sollte daher geprüft werden, inwiefern angemessene Sorgfaltspflichten für Influencer:innen eingeführt werden können.
• Einsatz für Media Freedom Act ohne Medienprivileg: Der European Media Freedom Act soll einen EU-weiten Rechtsrahmen zum Schutz des Pluralismus und der Unabhängigkeit von Medien etablieren. Dazu gehört eine Moderationsausnahme für Inhalte von Medienanbietern auf Online-Plattformen. Diese birgt jedoch ein großes Missbrauchspotenzial im Hinblick auf Informationsmanipulation, weswegen sich die Bundesregierung für eine Zurücknahme einsetzen sollte. 
• Gewährleistung des Schutzes von Journalist:innen: Der 2023 World Press Freedom Index verdeutlicht eine instabile Lage der weltweiten Pressefreiheit für das Jahr 2022. In Deutschland dokumentierte Reporter ohne Grenzen 103 Angriffe auf Medienschaffende – ein neuer Rekordwert. Hinzu kommen medienfeindliche Hetze und Desinformation. Die Bundesregierung sollte das geplante Gesetz gegen digitale Gewalt baldmöglichst beschließen, um den privaten Auskunftsanspruch zu stärken und einen Anspruch auf eine richterlich angeordnete Accountsperre zu schaffen.

Ausbau der Nachrichtenkompetenz und Extremismusprävention

Laut dem D21-Digital-Index 2023/24 traut sich nur etwas mehr als die Hälfte der Deutschen zu, unseriöse Nachrichten erkennen zu können. Ein Defizit, dass sich mit einer Verbreitung KI-generierter Fehlinformationen nochmals erheblich vergrößern dürfte. Hinzu kommen extremistische, rassistische und verschwörungsideologische Einstellungen sowie Unsicherheiten im Kontext multipler Krisen. Laut der Mitte-Studie 2022/23 vertritt ein erheblicher Teil der Bevölkerung verschwörungsgläubige (38 %), populistische (33 %) und völkisch-autoritär-rebellische (29 %) Positionen. Gleichzeitig ist das Vertrauen in die Institutionen und in das Funktionieren der Demokratie auf unter 60 Prozent gesunken. Diese Einstellungen stellen gemeinsam mit Rückständen in der Nachrichtenkompetenz den Nährboden für die Wirkungsmacht von Informationsmanipulation dar. Eine Befragung der Hans-Böckler-Stiftung von April bis Mai 2022 ergab zum Beispiel, dass diejenigen, die offen für Verschwörungsdenken sind, auch stärker zu abwertenden Einstellungen über ukrainische Geflüchtete neigen. Vor diesem Hintergrund muss der mittel- bis langfristige Umgang mit Informationsmanipulation an den Herausforderungen einer nachrichtenkompetenten und extremismusresilienten Gesellschaft ansetzen.

In enger Abstimmung mit den Ländern sollte die Bundesregierung daher die Nachrichtenkompetenz und Extremismusprävention zielgerichtet, bedarfsorientiert und langfristig fördern. Organisationen mit extremistischen Bestrebungen sollen dabei keine Förderung erhalten können. Folgende Maßnahmen können hierzu einen Beitrag leisten:

• Nachhaltige Förderung der Nachrichtenkompetenz: In der Digitalstrategie “Gemeinsam digitale Werte schöpfen” wurde ein Förderprogramm zur Stärkung der Nachrichtenkompetenz bis Ende 2023 angekündigt. Dieses sollte schnellstmöglich umgesetzt werden. Zudem sollte der Aufbau einer Datenbank über relevante Studien und Modelle zur Medien- und Digitalkompetenz der deutschen Bevölkerung abgeschlossen werden, um den konkreten Kompetenzbedarf in der Bevölkerung zu bestimmen. Etablierte Initiativen sollten dabei eng konsultiert werden.
• Zeitnahe Verabschiedung des Demokratiefördergesetzes: Häufig fehlen gemeinnützigen Projekten für Demokratie und Vielfalt und gegen Extremismus langfristige und bedarfsgerechte Förderperspektiven. Mit dem Regierungsentwurf für ein Demokratiefördergesetz können solche Perspektiven geschaffen werden. Ohne diese Unterstützung lässt sich die liberale Demokratie im digitalen Zeitalter aktuell nicht ausreichend schützen, weswegen das Gesetz zeitnah verabschiedet werden sollte.
• Implementierung und Evaluation von „Demokratie leben!”: Mit dem Programm „Demokratie leben!“ fördert die Bundesregierung Modellprojekte, die Bürger:innen befähigen, Desinformation zu erkennen und Hass im Netz zu begegnen. Die Bundesregierung sollte die Implementierung der geförderten Maßnahmen vorantreiben und eine systematische Evaluation durchführen. Dabei sollte sie den Kompetenz- und Kapazitätszuwachs der Zivilgesellschaft aufgreifen, damit innovative Initiativen in die zukünftige Förderung einbezogen werden.
• Einrichtung einer Bundeszentrale für digitale Bildung: Der Koalitionsvertrag von November 2021 sieht die Prüfung der Einrichtung einer Bundeszentrale für digitale Bildung vor. Die Bundesregierung sollte an ihrem selbstgesteckten Ziel festhalten, Initiativen zum Ausbau digitaler Bildung zu bündeln und somit die Anfälligkeit der Bevölkerung für Informationsmanipulation zu senken.
• Demokratie- und Extremismusarbeit effektiver kommunizieren: Angesichts des Aufstiegs systemkritischer und extremistischer Bewegungen ist es umso wichtiger, dass Ziele und Wirkungen von Projekten im Bereich der Demokratiearbeit und Extremismusarbeit in der Öffentlichkeit effektiver mitgeteilt werden – online und offline. Die politische Neutralität der geförderten Projekte muss dabei nicht nur gewährleistet, sondern auch konsistent und authentisch mitgeteilt werden.