#digi: Digital-Greenpeace

Immer mehr Algorithmen beeinflussen unbemerkt den Alltag. Die europäische Organisation Algorithm Watch hat sich zum Ziel gesetzt, diese Programme – die menschliche Entscheidungen vorhersagen oder Entscheidungen automatisiert treffen – genau anzuschauen. Fälschlicherweise ist dabei oft von künstlicher Intelligenz (KI) die Rede. Algorithm Watch nutzt den Begriff «automatische Entscheidungsfindung» (Automated Decision Making, ADM). Denn die Programme sind nicht intelligent, aber völlig intransparent, weil niemand weiss, wie die Algorithmen dahinter funktionieren.

Inzwischen hat Algorithm Watch auch einen Ableger in der Schweiz. Der in Zürich domizilierte Verein präsentiert am kommenden Donnerstag den ersten Schweizer Report in allen Landessprachen. Die englische Version ist schon im europäischen Bericht «Automating Society Reports» verfügbar. Darin finden sich mehrere konkrete Beispiele für ADM, etwa Precob und ROS.

Die Kantonspolizeien nutzen Precob, um Einbrüche zu verhindern. Das Programm ermittelt aufgrund zurückliegender Daten, in welchen Quartieren wahrscheinlich die nächsten Einbrüche stattfinden werden. Das soll helfen, Polizeipatrouillen effizienter einzusetzen. Algorithm Watch zweifelt am Nutzen: Die Einbrüche seien in den letzten Jahren in allen Kantonen stark zurückgegangen, heisst es im Report. In den Kantonen Zürich und Aargau, die beide Precob nutzen, sank die Einbruchsrate aber weniger als im nationalen Durchschnitt.

ROS steht für «risikoorientierter Sanktionenvollzug» und kommt in mehreren Schweizer Gefängnissen zum Einsatz. Algorithm Watch hält dieses Programm für heikel, weil es einen «chilling effect», einen ungewollten Abschreckungseffekt, habe. Die Gefangenen getrauen sich nicht mehr, ihre Rechte in Anspruch zu nehmen, da sie fürchten, deswegen im ROS-Bewertungssystem schlechter abzuschneiden und keine Vollzugslockerungen zu erhalten.

ADM-Systeme sind besonders heikel, wenn sie unreflektiert im öffentlichen Bereich eingesetzt werden. Es wird in irgendeiner Form nationale Regulierungen brauchen. Diese Debatte möchte Algorithm Watch Schweiz als eine Art Greenpeace der Digitalisierung vorantreiben.

Onlinepräsentation am Donnerstag, 28. Januar 2021, 17.30 bis 19 Uhr unter https://algorithmwatch.ch (mit Anmeldung).