«Vor zwei Jahren dachte ich wirklich: Wir müssen Facebook zerschlagen. Heute denke ich wirklich wirklich wirklich: Wir müssen Facebook zerschlagen.» So twitterte neulich die US-Senatorin Elizabeth Warren. In den USA läuft die Diskussion um eine Regulierung oder gar Auflösung des weltumspannenden Social-Media-Riesen gerade wieder heiss, nachdem die Whistleblowerin Frances Haugen Anfang Oktober vor dem Kongress ausgesagt hatte. Die einstige Facebook-Produktmanagerin zeichnet verantwortlich für einen Leak von brisanten internen Dokumenten.

Diese «Facebook Papers» werden nun von diversen Medien ausgewertet. Die entscheidende Erkenntnis: Facebook weiss genau, dass auf seinen Plattformen gefährliche Inhalte aller Art fast ungehindert zirkulieren und, algorithmisch befeuert, an Heftigkeit und Masse noch zulegen. Der Konzern gab Studien dazu in Auftrag. Doch die von den wissenschaftlichen Analysen angemahnten Veränderungen werden nur verzögert oder gar nicht umgesetzt. Warum? Sie würden Reichweitenverluste nach sich ziehen. Davor fürchten sich nicht nur die Zauberlehrlinge in den Chefetagen, sondern auch viele Anwender:innen, namentlich Politiker:innen.

Magersucht und Hass

Dabei ist erwiesen, dass etwa die Like- und Körperkultur von Facebook-Tochter Instagram junge Frauen in die Magersucht treibt und dass Facebook auf seinen Plattformen jahrelang Menschenhandel duldete. Dass der Putschversuch von Trump-Anhänger:innen am 6. Januar auf Facebook vorbereitet, geschürt und organisiert worden war. Dass VIPs für ihre Verbreitung von Fake News und Hass noch weniger belangt werden als Normalsterbliche. Dass die Facebook-Algorithmen zu Instant-Radikalisierungen führen können: Vage Suchanfragen leiten die Fragenden automatisiert in die Fänge extremer politischer Gruppen. Ein paar wenige Accounts können das Netz mit Fehlinformationen regelrecht zuspammen. Impflügen und andere Verschwörungscluster werden von den Facebook-Moderator:innen und Filterprogrammen erst dann ins Visier genommen, wenn der Flächenbrand bereits da ist, zwischen Gefahrenwarnung und griffiger Reaktion können Monate verstreichen.

Wie etwa das US-Magazin «The Atlantic» ausführt, nützt es dann auch nichts mehr, wenn gefährliche Accounts abgeschaltet werden: Die Unwahrheiten sind bereits hunderttausendfach verbreitet, die verstreuten Irrlichter vernetzt. Noch gravierender sieht es dort aus, wo User:innen und Bots nicht englisch sprechen, in Indien, Myanmar oder Äthiopien etwa. Hier funktionieren die Filter und Moderationen, die Facebook über die Jahre installiert hat, noch schlechter: Rechtsnationale Hetze, Kriegspropaganda und antimuslimischer Rassismus können fast ungehindert verbreitet werden. Dazu kommt: Für viele Menschen ist Facebook die einzige Informations- und Kommunikationsquelle, die sie haben – nicht nur in «developing countries».

Von Unternehmensseite wird fleissig dementiert. Doch die geleakten Papiere machen deutlich, dass unterdessen sogar Mitarbeiter:innen ihre Vorgesetzten verzweifelt beknien, endlich etwas zu unternehmen. Derweil zeigt die Facebook-Werbung lachende Menschen, die sich selig in den Armen liegen. Die «Facebook Papers» belegen eine verdrängte Wahrheit dieser versprochenen sozialen Vernetzung: Hass und Fake News sind ein ebenso effizientes Bindemittel wie Freude und Zuneigung.

Ab in die Parallelwelt

Der Milliardenkonzern verdient sein Geld mit dem algorithmischen Scharfmachen der Redefreiheit, die immer selbstverständlicher als Freiheit, zu lügen und zu hetzen, verstanden wird. Dazu kommt das emsige Datenabgreifen, wie es das Onlinemagazin «Republik» kürzlich anschaulich beschrieben hat: «Nein, Instagram hört Ihr Handy (wahrscheinlich) nicht ab.» Entgegen dem, was Facebook-Gründer und CEO Marc Zuckerberg beteuert, ist Facebook keine neutrale Plattform, sondern müsste in dieselbe Verantwortung genommen werden wie traditionelle Medien. Doch anstatt endlich einschneidende Massnahmen zu ergreifen, verkündet man zur Ablenkung einen neuen Namen für den Mutterbetrieb – Meta – und flüchtet sich per Marketingoffensive in die virtuelle Parallelwelt «Metaverse». Ob man dem Sturm der Vorwürfe so einfach entkommen kann?