Die letzten Jahre haben reichlich Anschauungsmaterial für die These geliefert, das Internet sei »kaputt«, die Kommunikation in digitalen Öffentlichkeiten sei demokratieschädigend, chaotisch und jenseits aller Vernunft: Politische Außenseiter wie Donald Trump oder Jair Bolsonaro haben Wahlen gewonnen, von Hasspredigern aufgestachelte Mobs haben teils erfolgreich versucht, demokratische Institutionen zu »stürmen«, auf den Intensivstationen sterben Menschen, die, verblendet von Verschwörungslegenden, Impfungen gegen Corona verweigert haben und fast ein Viertel der US-Republikaner glaubt daran, dass die Regierung, die Medien und die Finanzwelt in den USA von einer Gruppe von Teufelsanbetern kontrolliert würden, die ein weltweites Netzwerk zum Missbrauch von Kindern betreiben.

Und die Kommunikation im Internet bleibt oft nicht virtuell und online. So wurden etwa die Trucker-Proteste in Kanadas Hauptstadt Ottawa nicht von den eigenen Gewerkschaften unterstützt, dafür aber finanziert von rechtsradikalen Gruppen und befeuert von Desinformationsnetzwerken aus Bangladesch, Rumänien oder Vietnam. Die russische Invasion in der Ukraine wurde begleitet von einer massiven Propagandakampagne, in den sozialen Netzwerken, aber auch in den Leserkommentaren der Nachrichtenportale sowie über etablierte Desinformationsnetzwerke staatsnaher russischer Medien, die in Deutschland und anderen Ländern aktiv sind.

Das Internet ist die reale Welt

Die Online-Welt ist keine Parallelgesellschaft, keine externe Kraft, die von außen auf unsere Gesellschaft einwirkt. Sie ist die reale Welt, in der wir leben, in der Meinungen gebildet werden, Informationen fließen, Debatten stattfinden und Protest mobilisiert wird, ob es sich um »Fridays for Future« oder »Freedom Convoys« handelt. Für eine Mehrheit der Deutschen unter 45 Jahren hat das Internet längst das Fernsehen als wichtigste Nachrichtenquelle abgelöst. Ein Viertel der 18–24-Jährigen in Deutschland nutzt laut Reuters Digital News Report 2021 Social Media als Hauptnachrichtenquelle.

Die Ordnung des Internets basiert auf mindestens drei Strukturebenen: rechtlichen Regelungen, sozialen Normen und Technologie. Internationale Kommunikationsflüsse erschweren die Anwendung nationaler Gesetze und machen es den Plattformen, aber auch einzelnen Akteuren auf den Plattformen einfach, Gesetze (oder auch zum Beispiel Steuerpflichten) zu umgehen. Die Regulierung von Plattformen ist eine gewaltige Zukunftsaufgabe, die mit Maßnahmen wie etwa dem Digital Services Act der EU längst begonnen hat.

Die Plattformen selbst setzen zweitens soziale Normen in Form von Gemeinschaftsregeln und Nutzungsbedingungen, eigene Regelkataloge, die in den letzten 15 Jahren immer umfangreicher und komplexer geworden sind. Was erlaubt ist und was nicht, ist dabei oft eher willkürlich gesetzt. Die größeren Plattformen wie Facebook oder Twitter veröffentlichen regelmäßig Transparenzberichte, die über den Umfang von Löschungen, nicht-authentischer Kommunikation, bösartigen Manipulationsversuchen informieren, selbst aber alles andere als transparent sind.

Für das dritte Quartal 2021 berichtet etwa Facebook die Löschung von 1,8 Milliarden gefälschter Accounts und 2 Millionen gelöschter Inhalte von »gefährlichen Organisationen und organisiertem Hass«. Überprüfen kann das niemand, es gibt keinen Datenzugang für unabhängige Forschung – wir müssen das Facebook einfach so glauben.

Die Anreizstruktur der Plattformen, für ihre eigene Ordnung Sorge zu tragen, stößt schnell an Grenzen. Kleinere Anbieter wie Telegram machen sich erst gar nicht die Mühe, die gröbsten Auswüchse von Hass oder Desinformation zu bearbeiten.

Drittens besteht die Ordnung des Internets aus den algorithmischen Strukturen der Plattformen. Algorithmen sind industrielle Produkte, in sie eingeschrieben sind die Werte, die Geschäftsmodelle und die Weltanschauungen der privaten Unternehmen, die sie programmieren. Diese Algorithmen treffen automatisiert Entscheidungen, sie filtern, was wir sehen und was nicht, schlagen Inhalte und Gruppen vor, personalisieren Werbung, kuratieren die Partnerwahl auf Dating-Portalen, entscheiden über Bezahlmöglichkeiten im Online-Shopping und gestalten fast alle Bereiche unserer Lebenswelt mit.

Dabei sind Algorithmen und die komplexen algorithmischen Systeme, in denen wir uns (nicht nur im Internet) bewegen, oft ohne es zu merken, keineswegs neutral oder objektiv. Sie diskriminieren, treffen auch rassistische oder sexistische Entscheidungen, und machen Fehler. Es handelt sich um emergente Technologien, die sich permanent verändern, umprogrammiert und angepasst werden, von denen verschiedene Versionen zeitgleich laufen und in Echtzeit getestet werden.

Die algorithmischen Systeme der Plattformen sind für bestimmte Zwecke optimiert. Google, YouTube, Facebook, Instagram oder Twitter sind in erster Linie Datenunternehmen und Werbeanbieter. Sie verkaufen die Aufmerksamkeit, die Daten und die Aktivitäten ihrer Nutzer:innen an Werbetreibende. Damit Werbung funktioniert, versuchen Algorithmen, uns so lange, so aufmerksam und engagiert wie möglich zu halten. Aus diesem Grund ist das Nutzerengagement eine zentrale Metrik dieser Plattformen. Wie sich in Studien zeigt und wie interne Facebook-Dokumente belegen, sind ausgerechnet negative Emotionen dafür optimal: Nichts bindet unsere Aufmerksamkeit und provoziert Reaktionen so stark wie Angst, Sorge, Ärger und Wut.

Bei Facebook etwa dreht sich seit 2018 alles um »meaningful social interaction« – Inhalte, die Interaktionen und Konversationen auslösen, wird höheres Gewicht zugeordnet, sie werden von Algorithmen als relevant eingestuft. Dies führt dazu, dass besonders aktive »Superspreader« überproportional viel Einfluss darauf haben, welche Inhalte in den Netzwerken zirkulieren, was Reichweite hat und was nicht. Eine Studie hat zum Beispiel gezeigt, dass sich ein Großteil der Desinformationen über COVID in den USA auf nur zwölf Facebook-Konten zurückführen lässt.

Zudem ist es seit 2016 möglich, mit Emojis auf Inhalte zu reagieren – mit einem Klick Freude, Wut oder Empathie zu zeigen. Diese emotionalen Reaktionen werden aber nicht gleichwertig gewichtet: Einer wütenden Reaktion wird algorithmisch das fünffache Gewicht eines einfachen »Likes« beigemessen. Weil Algorithmen filtern, selektieren, kuratieren, sehen Nutzer:innen in der Folge häufiger Inhalte, die sie wütend, ärgerlich machen. Ein Teufelskreis.

Nachteile für die Demokratie

Dies wirkt sich als Kollateraleffekt auf demokratische Diskurse aus. Studien belegen etwa, dass negative Emotionen eine größere Rolle in Wahlkämpfen spielen, Kampagnen aggressiver werden, gezielt Wut und Angst bedienen. Diese Dynamik wird nicht nur von Parteien an den Rändern des politischen Spektrums vorangetrieben, sondern ist längst im Mainstream angekommen.

Bereits 2019 haben sich Parteien aus mehreren europäischen Ländern bei Facebook darüber beschwert, dass die Plattform strukturelle Anreize für immer aggressivere, negativere Inhalte setzt. Parteien, die diese Dynamiken ohne Skrupel bedienen, haben eine größere, aktivere Community, ihre Inhalte eine größere Reichweite – weil sie durch aggressive, negative Kampagnen die algorithmischen Relevanzkriterien der Plattformen gezielt bedienen.

Das Internet ist keine Welt ohne Ordnung. Die Frage ist vielmehr, wessen Ordnung digitale Öffentlichkeiten strukturiert. Bislang ist es die Ordnung der Plattformen, der Technologieunternehmen, die das Internet dominieren – nicht die Ordnung demokratischer Gesellschaften. Diese Ordnung ist geprägt von enormen Machtasymmetrien zwischen denen, die Technologie entwickeln und denen, die diese nur nutzen.

Es ist den Technologiefirmen bislang gelungen, gesellschaftlicher Regulierung weiträumig zu entgehen und sich als kaum regulierbar darzustellen. Dies konnte unter anderem dadurch gelingen, dass sie verschleiern, was eigentlich ihr Produkt ist.

Auch die Intransparenz der Technologien stützt die Ordnung der Plattformen und verhindert eine Orientierung an den Bedürfnissen demokratischer Gesellschaften oder am Gemeinwohl. Unabhängige Forschung hat keinen adäquaten Zugang zu Plattformdaten und wird teils aggressiv von den Technologiefirmen bekämpft. So musste die Organisation AlgorithmWatch ein Projekt abbrechen, das sich mit den Algorithmen auf Instagram befasste.

Vieles, was wir über die Kommunikationsflüsse und Diskursdynamiken im Internet wissen, stammt aus geleakten internen Dokumenten, wie den Facebook Papers der Whistleblowerin Frances Haugan. Auch einzelne Recherchen investigativer Journalist:innen legen immer wieder Probleme offen. Aus internen Dokumenten erfährt man, dass 64 Prozent der Beitritte zu extremistischen Facebook-Gruppen in Deutschland nach einem Vorschlag durch die Empfehlungsalgorithmen stattfanden. Für wissenschaftliche Analysen sind solche Phänomene nicht zugänglich, denn die Plattformen teilen ihre Daten dazu nicht.

Das Internet, das wir gegenwärtig haben, wird von einer Handvoll globaler Konzerne wie Alphabet (Google, YouTube), Meta (Facebook, Instagram, WhatsApp) oder Amazon (cloud computing, Prime Video, Amazon Music, Kindle) dominiert, ist für Werbung optimiert und lässt im Sinne demokratischer Gesellschaften vieles zu wünschen übrig. Das muss nicht so bleiben.

Die gegenwärtige Ordnung der Plattformen hat sich so herausgebildet, weil es kaum politische Regulierung gab, die bestehenden Gesetze nicht greifen oder nicht durchgesetzt wurden, weil es bequem war, die Moderation von Inhalten an die Plattformen selbst auszulagern und auch weil die überwiegende Mehrheit der Bürger:innen nur wenig über Algorithmen und die Akteure, Strukturen und Prozesse hinter den Nutzeroberflächen weiß.

Doch es ginge auch anders. Die Plattformen haben in der Coronapandemie oder im Zuge der US-Wahlen 2020 durchaus gezeigt, dass sie temporäre Maßnahmen ergreifen können, dass sich die algorithmischen Systeme anpassen lassen, dass ein Internet, das stärker am Gemeinwohl und den Notwendigkeiten einer demokratischen Gesellschaft orientiert ist, möglich wäre. Es bestehen aber kaum Anreizstrukturen, dafür dauerhaft auf Profite und Marktanteile zu verzichten.

Es gibt in Politik und Zivilgesellschaft verschiedene Initiativen und Bemühungen, Wahlen und Wahlkampagnen unter digitalen Bedingungen fairer zu gestalten. Ein anderes, besseres Internet ist möglich – doch dafür braucht es eine gesamtgesellschaftliche Anstrengung, politischen Druck und ein Neudenken nicht nur der Plattformen, sondern der Mediensysteme insgesamt. Eine demokratische Gesellschaft hat letztlich das Internet, das sie verdient.