Das Gesetz über digitale Dienste der EU (eng. Digital Services Act, DSA) hat eine Vielzahl neuer Regulierungsinstrumente mit sich gebracht, die durch den Schutz der Grundrechte der Nutzer:innen und den Kampf gegen die Verbreitung illegaler und schädlicher Inhalte auf Online-Plattformen einen „sichereren digitalen Raum“ schaffen sollen. Während es viele Diskussionen um die Haftung von Plattformen, algorithmische Audits und jährliche Risikobewertungen gegeben hat, wurde den in letzter Minute hinzugefügten DSA-Instrumenten – nämlich Mechanismen und Protokolle, die die DSA-Regulierungsbehörden in sogenannten „Krisenfällen“ unterstützen sollen – weniger Aufmerksamkeit geschenkt. Um diese wenig erforschten, aber potenziell wichtigen neuen Regulierungsinstrumente zu beleuchten, hat ISD eine Arbeitsgruppe eingesetzt, um a) die Lehren aus bestehenden Online-Krisenprotokollen im Bereich der Bekämpfung von gewalttätigem Extremismus (engl. countering violent extremism, CVE) zu überprüfen und b) Empfehlungen zu sammeln, wie künftige Krisenprotokolle und Reaktionsmechanismen konzipiert und umgesetzt werden können, um die Grundrechte zu schützen, anstatt sie zu untergraben.

Die wichtigsten Erkenntnisse aus bestehenden Krisenprotokollen im CVE-Bereich:

• Kleinere Plattformen und Dienste spielen eine Schlüsselrolle bei der Verbreitung gewalttätiger extremistischer Inhalte.
• Beweise für die Strafverfolgung müssen gesichert werden, während gleichzeitig die zeitnahe Entfernung illegaler Inhalte zu gewährleisten ist.
• Um Fähigkeiten zu verbessern, Kapazitäten aufzubauen und Doppelarbeit zu vermeiden, muss Fachwissen aus dem CVE-Bereich mit den wichtigsten Stakeholdergruppen, die mit der Gestaltung und Umsetzung der umfassenderen Krisenmechanismen des DSA beauftragt sind, geteilt werden.
• Die Grundrechte müssen während und nach Krisenereignissen durch verfahrenstechnische Rechenschaftsmechanismen, einschließlich regelmäßiger Konsultationen mit Akteuren der Zivilgesellschaft, gewahrt werden.

Hauptanliegen und Empfehlungen zum Schutz der Grundrechte im Zusammenhang mit dem DSA-Krisenreaktionsmechanismus:

• Die EU-Kommission muss klarstellen, ob sie ein Krisenereignis gemäß DSA als „Notstand“ im Sinne der internationalen Menschenrechtsnormen (engl. international human rights law, IHRL) auslegen wird.
• Bei Krisenereignissen ist ein ergänzender Schnellreaktionsmechanismus erforderlich, über den zivilgesellschaftliche Organisationen (ZGO) Plattformen direkt auf unzulässige Löschungen hinweisen können, möglicherweise koordiniert über das Europäische Gremium für digitale Dienste (im Folgenden das „Gremium“).
• Delegierte Rechtsakte gemäß DSA müssen die Rolle der Kommission einschränken, indem sie dem Gremium mehr Befugnisse übertragen und seine Fähigkeit verbessern, als unabhängiges Aufsichtsorgan zu handeln.
• Es müssen verlässliche und zeitnahe Bestimmungen für den Zugriff auf Daten für unabhängige Forscher:innen getroffen werden, um die Wirksamkeit und Verhältnismäßigkeit der Krisenreaktion zu bewerten, möglicherweise im Rahmen einer menschenrechtlichen Folgenabschätzung.

Christian Schwieter ist Project Manager bei ISD Germany und arbeitet in den Bereichen digitale Analyse und Digitalpolitik. Er erforscht die Auswirkungen von Online-Regulierung auf extremistische Akteur:innen und leitet das vom Bundesministerium der Justiz geförderte Forschungsprojekt »Radikalisierung in rechtsextremen Online-Subkulturen entgegentreten«. Vor seiner Tätigkeit für ISD forschte Christian Schwieter am Oxford Internet Institute.

Die englische Version des Policy Briefs finden Sie hier.