Digitalisierung : Blinder Algorithmus

Nr. 33 -

Microsoft ersetzte auf seiner Nachrichtenseite «MSN News» RedaktorInnen durch ein Computerprogramm – doch ganz ohne Menschen scheint es nicht zu gehen. Vorläufig.

Bereits seit einigen Jahren geht das Schreckgespenst der Automatisierung um. Seit kurzem trifft es auch eine Zunft, die zwar krisengeschüttelt ist, aber bis jetzt kaum Angst haben musste, durch Nullen und Einsen ersetzt zu werden: den Journalismus. Ende Mai gab Microsoft News (MSN) bekannt, weltweit Hunderte von Redaktionsstellen zu streichen. Bisher beschäftigte Microsoft News in 50 Büros weltweit über 800 RedaktorInnen, die für msn.com täglich in verschiedenen Sprachen die Nachrichten filtern und aufbereiten. Sie sollen durch einen Algorithmus ersetzt werden, der diese Aufgaben automatisiert übernimmt. MSN mag auf den meisten Listen globaler Leitmedien nicht auftauchen, doch die Website ist ein Gigant: Nach Google ist msn.com die am zweitmeisten besuchte Seite im Netz. MSN-Artikel werden millionenfach gelesen.

Nicht nur setzte das Unternehmen mitten in der Pandemie Hunderte auf die Strasse, Microsoft ging mit dem Schritt auch gegen den Trend. Youtube und Facebook etwa liessen ihr Nachrichtenprogramm von Anfang an von Computerprogrammen zusammenstellen – mussten aber zurückkrebsen, als die Algorithmen Fake News und rechte Verschwörungstheorien immer prominenter platzierten. Facebook stellte daraufhin öffentlichkeitswirksam menschliche RedaktorInnen ein, um sein Imageproblem anzugehen. Die Entscheidung, welche Nachrichten gepusht werden sollen, wird aber weiterhin algorithmisch gefällt.

Eher kürzer, eher leichter

In Abgrenzung zur Konkurrenz wirbt «Apple News» damit, seine App werde von echten Menschen bespielt. Der Fall des Algorithmus bei MSN zeigt, dass Nachrichten vielleicht bald mit dem Gütesiegel «menschengemacht» versehen werden: quasi das «im echten Eichenfass gereift» der Newsplattformen.

Auf den ersten Blick erscheint MSN wie ein ideales Experimentierfeld, um mit Computerprogrammen menschliche Ineffizienz loszuwerden: Das Nachrichtenteam von MSN unternimmt keine eigenständigen Recherchen, sondern stellt eine laufend aktualisierte Nachrichtenübersicht aus Artikeln anderer Medien zusammen, die Werbeeinnahmen werden zwischen Microsoft und den Herkunftsmedien geteilt. Die RedaktorInnen wählen Geschichten aus und passen die Texte ans Format und Publikum von MSN an: eher kürzer, eher leichter. Bei Microsoft wird man sich gesagt haben: Diese einfache Arbeit, Information zu filtern und zu sortieren, kann ein Programm auch – und noch dazu viel günstiger als ein Mensch.

Rassistische Datensets

Doch bereits im Juni machte der Algorithmus selbst Schlagzeilen, obwohl er sie doch nur schreiben sollte: Er verwechselte zwei Mitglieder der britischen Girlgroup Little Mix. Für einen Artikel über einen Social-Media-Post der Sängerin Jade Thirlwall über Rassismus wählte das Programm ein Foto von Thirlwalls Bandkollegin Leigh-Anne Pinnock. Beide sind People of Color, Thirlwall hat ägyptische Vorfahren, Pinnock jamaikanische. Der Algorithmus kann aber offenbar nur Weisse klar voneinander unterscheiden: ein bekanntes Problem bei Computerprogrammen. Künstliche Intelligenz ist nicht per se rassistisch, aber die Datensets, aufgrund derer sie Entscheidungen fällt, sind es oft durchaus. So sind auf der überwiegenden Mehrheit von Porträtfotos in Datenbanken weisse Menschen zu sehen, Algorithmen «lernen» also vor allem mit weissen Gesichtern. Eine menschliche Redaktorin kann kulturelle Vorurteile erkennen und Gegensteuer geben – ein Algorithmus hingegen wird sie blindlings forcieren.

Die verbliebenen RedaktorInnen von MSN mussten daraufhin von Hand alle Artikel zur Verwechslung der Little-Mix-Sängerinnen löschen, die das Programm automatisch auf MSN stellte. So hatten die Menschen den Imageschaden auszubügeln, den ihnen das Programm eingebrockt hatte, das sie bald ersetzen soll. Bereits hört man aus dem Umfeld ehemaliger RedaktorInnen der deutschen MSN-Niederlassung (die sich jedoch nicht zitieren lassen wollen), dass Microsoft News verzweifelt versuche, ehemalige Angestellte zurückzugewinnen, denn der Algorithmus scheint noch weitere Macken zu haben. Doch die RedaktorInnen wissen: Sie werden nur geholt, um die Wogen zu glätten, bis das Management entschieden hat, dass der Algorithmus bereit ist, sie endgültig zu ersetzen.