Angesichts der zunehmenden Menge an Inhalten und Formaten bei gleichbleibender
Aufmerksamkeitsspanne sind viele Online-Plattformen von umgekehrt chronologischen Feeds zu algorithmischen Ranking-Systemen übergegangen. Diese sollen den Nutzer:innen nicht mehr die aktuellsten, sondern die vermeintlich für sie „interessantesten“ Inhalte anzeigen. Als „interessant“ werden dabei in der Regel die Inhalte eingestuft, die den höchsten prognostizierten Wert für ein Unternehmen haben – beispielsweise, weil sie die Nutzungsdauer der Nutzer:innen auf einer Plattform verlängern.

Algorithmische Ranking-Systeme treffen automatische Entscheidungen beispielsweise darüber, welche Inhalte im Feed oder in den Suchergebnissen bevorzugt bzw. herabgestuft werden, mit wem man sich vernetzen und wem oder welchen Seiten man folgen soll.

In diesem Bericht werden der Einsatz algorithmischer Ranking-Praktiken sowie deren Auswirkungen auf Online-Diskurse untersucht. Er befasst sich mit dem sogenannten „Engagement-Problem“ sowie anderen algorithmischen Phänomenen und wie diese die Verbreitung schädlicher oder grenzwertiger Inhalte verstärken und dabei Vorurteile und Diskriminierung festigen können. Angesichts einer lückenhaften Wissensbasis mit Blick auf die gesellschaftliche Gesamtwirkung der eingesetzten algorithmischen Ranking-Systeme zeigt der vorliegende Bericht die methodischen und epistemischen Herausforderungen auf, die mit der Auditierung von Algorithmen verbunden sind.

Mit Blick auf mögliche Interventionen werden Vor- und Nachteile neuer Ansätze untersucht. Es werden eine stärkere Selbstbestimmung der Nutzer:innen, der Einsatz von sogenannter Middleware, sowie die Entwicklung „qualitätsorientierter“ und „brückenbildender“ Ranking-Algorithmen diskutiert.

Berücksichtigt werden verschiedene Fallstudien, die sowohl bekannte Branchenpraktiken zu Selbstregulierung als auch von liberal-demokratischen Staaten geplante Regulierungsvorhaben umfassen.