#digi: Automatisierte Gesellschaft

Nr. 45 –

Von

Automatisierte Entscheidungsmechanismen (ADM) beeinflussen immer grössere Teile des gesellschaftlichen Zusammenlebens. Das zeigt der neue Report von AlgorithmWatch über die automatisierte Gesellschaft: «ADM-Systeme beeinflussen mittlerweile fast alle Arten menschlicher Aktivitäten sowie die Verteilung von Dienstleistungen an Millionen von europäischen Bürgern.» Das tangiert auch unsere Grundrechte.

Denn besonders stossend ist die immer weiter verbreitete Gesichtserkennung. «Automatisierte Gesichtserkennung wird derzeit in alarmierendem Tempo in ganz Europa erprobt und eingesetzt», analysiert der Report. Sie kommt mittlerweile an Flughäfen, in Schulen, Stadien, Fussgängerzonen oder Kasinos zum Einsatz. In Polen gibt es sogar ein System, das erkennen will, ob Bankangestellte lächeln oder nicht. Das Ziel: Wer mehr lächelt, bekommt mehr Lohn.

Nicht immer sind die analysierten Algorithmen dystopisch. «Prinzipiell haben ADM-Systeme das Potenzial, unser Leben zu verbessern», schreibt Fabio Chiusi von AlgorithmWatch. «In der Praxis haben wir jedoch wenige Beispiele gefunden, bei denen ein positiver Einfluss festgestellt werden konnte.» Eines davon sind Algorithmen, die einen faireren Bildungszugang zum Ziel haben (siehe WOZ Nr. 4/2020 ).

Daneben vereint der Report auf 300 Seiten weitere Algorithmen und Systeme aus sechzehn europäischen Ländern. Neu ist auch der Schweiz ein Kapitel gewidmet. Darin geht es unter anderem um «predictive policing» – den Versuch, Verbrechen vorherzusagen. In der Schweiz kommen dabei mehrere problematische Systeme zum Einsatz, meist jedoch ohne klare gesetzliche Grundlage, wissenschaftliche Begleitung und Effizienznachweis.

Dafür ist gemäss AlgorithmWatch der «Techno-Solutionismus» verantwortlich – der Irrglaube, dass sich soziale Probleme mit technischen Lösungen einfach beheben liessen. So sind auch die Forderungen naheliegend: mehr öffentliche und unabhängige Debatten, radikale Transparenz und echte Verantwortung.

Das PDF in Englisch: https://automatingsociety.algorithmwatch.org/wp-content/uploads/2020/10…