Der vorliegende Bericht ist im Rahmen des vom Auswärtigen Amt geförderten Projektes Digital Policy Lab (DPL) entstanden. Die inhaltliche Verantwortung liegt ausschließlich bei ISD Germany. Als zwischenstaatliche Arbeitsgruppe engagiert sich das DPL dafür, politische Lösungen zur Verhinderung und Bekämpfung der Verbreitung von Desinformation, Hassrede sowie extremistischen und terroristischen Inhalten im Internet aufzuzeigen. Die Arbeitsgruppe besteht aus Vertreter:innen der zuständigen Ministerien und Aufsichtsbehörden ausgewählter liberal-demokratischer Länder. Im Rahmen des DPL organisierte das ISD zwischen Mai und Juni 2023 mehrere Arbeitsgruppentreffen zu neuen Plattformen und Technologien. Auch wenn die Teilnehmer:innen an diesem Bericht mitgewirkt haben, spiegeln die darin geäußerten Ansichten nicht unbedingt die Ansichten aller Teilnehmer:innen oder der an diesem Projekt beteiligten Regierungen wider.

Indem der digitale Informationsraum dezentraler, generativer und immersiver wird, entwickeln sich auch die Schwere und Wahrscheinlichkeit von Schadensrisiken weiter. Es ist zwar noch zu früh, um die genauen Veränderungen vorherzusagen, aber einige relevante Trends können bereits beobachtet werden. Dieser Bericht gibt einen Überblick über die relevanten Erkenntnisse zu den Schadensrisiken neu entstehender Plattformen und Technologien und zeigt eine Reihe politischer Implikationen auf, darunter die folgenden Empfehlungen:

• Die politischen Entscheidungsträger:innen und Regulierungsbehörden müssen klären, welche bereits bestehenden regulatorischen Vorgaben auf dezentralisierte Social-Web-Dienste anwendbar sind und welche Ansätze zur Regeldurchsetzung in Frage kommen. Die Verpflichtung der Diensteanbieter, gesetzliche Vertreter:innen im Inland zu benennen, kann als ein wichtiges politisches Element zur Erreichung einer Rechenschaftspflicht angesehen werden. Die Regeldurchsetzung muss sich auf eine bessere internationale Koordinierung und öffentlichen Druck stützen. Zudem müssen Regulierungsbehörden die Regeleinhaltung durch die Diensteanbieter proaktiv unterstützen (z. B. durch die Entwicklung von Compliance-Plugins).
• Die Schadensrisiken von LLMs können bei einer Vielzahl von Endanwendungen auftreten. Um dem entgegenzuwirken, müssen politische Entscheidungsträger:innen und Regulierungsbehörden neue Regeln für den Zugriff, die Rechenschaftspflicht, die Haftung, die Sicherheit und die Erkennung von LLMs festlegen. Selbstregulierung kann eine Zwischenlösung sein, bis neue Regeln in Kraft treten. Gleichzeitig müssen sich die Regulierungsbehörden der Taktiken und Techniken bewusst sein, die von böswilligen Akteuren eingesetzt werden, um LLMs für ihre Strategien auszunutzen (z. B. zur Informationsmanipulation).
• Die politischen Entscheidungsträger:innen und Regulierungsbehörden müssen definieren, was ein Schadensrisiko in XR-Umgebungen darstellt, und gewährleisten, dass ein anwendbarer (Co-)Regulierungsrahmen besteht. Zu diesem Zweck müssen sie bereits bestehende Regeln für Plattformen und Technologien (wie z. B. der europäische Digital Services Act (DSA) und AI Act, der australische Online Safety Act 2021) und nationale Strafgesetze überprüfen und unter Umständen eine XR-spezifische Taxonomie im Zusammenhang mit Schäden und Straftaten entwickeln. Darüber hinaus müssen in einem Multi-Stakeholder-Dialog Standards für die Sammlung von Beweisen, die Transparenzberichten und die Inhaltemoderation entwickelt werden.
• Vor dem Hintergrund der Konvergenz neuer Plattformen und Technologien muss ein enger Austausch mit der Wissenschaft, der Zivilgesellschaft und mit verschiedenen Bereichen der Industrie stattfinden, um ein ganzheitliches und tiefes Verständnis der sich entwickelnden Bedrohungslage zu gewinnen. Darüber müssen die Regelwerke kontinuierlich anpasst und weiterentwickelt werden, um die jeweiligen Schadensrisiken zu mindern, und nach Wegen zu suchen, um bereits bestehende Regelvorschriften durchzusetzen.

This publication is available in English.