#digi: Mythos Selbstregulierung

Viel zu langsam sickert die Message in unsere Köpfe: Automatisierte Gesichtserkennung ist Teufelszeug. Die Algorithmen, die Menschen auf Bildern und Videos identifizieren sollen, sind unpräzis und befangen. Und sie stehen im Zentrum der lückenlosen Überwachung des analogen Raums. So setzten etwa die Strafverfolgungsbehörden in den USA und England bis vor kurzem unter anderem auf den Gesichtserkennungsdienst «Rekognition» von Amazon.

Damit ist Schluss: Mit IBM, Microsoft und Amazon verkündeten gleich drei grosse Player, die Polizei vorerst nicht mehr mit ihrer Gesichtserkennungssoftware zu beliefern oder die Entwicklung gleich ganz einzustellen. Jahrelanger Widerstand, ein Gesetzesentwurf der US-DemokratInnen und die Black-Lives-Matter-Proteste zeigen Wirkung. Doch die Tragweite dieser Entscheidung sollte nicht überschätzt werden, denn noch immer gibt es unzählige Anbieter von automatisierter Gesichtserkennung. Anfang 2020 sorgte etwa das dubiose Start-up-Unternehmen Clearview für Aufsehen, das die Polizei nach wie vor beliefern will.

In der Schweiz möchte nun auch die St. Galler Kantonspolizei ein System zur automatisierten Gesichtserkennung beschaffen. Gegenüber der Onlineplattform inside-it.ch bestätigte sie, dass derzeit fünf Systeme getestet würden. Welche genau, bleibt geheim – nur dass keines davon von IBM, Microsoft oder Amazon stamme. Weil es eine rechtliche Grundlage gebe und die endgültige Identifizierung durch PolizistInnen geschehe, sieht man keine Probleme. Schlussendlich spiele es keine Rolle, ob ein Mensch oder eine Software den Abgleich mit der Datenbank erledige. Was die St. Galler Polizei nicht zu verstehen scheint: Die bekannten algorithmischen Biases (Verzerrungen) bleiben trotz händischer Schlussauswertung bestehen. Die Systeme machen bei der Identifizierung von Frauen und People of Color deutlich mehr Fehler als bei weissen Männern. Gewisse Menschen geraten also auch vermehrt unter Verdacht.

Das zeigt, wie wenig die vordergründig hehren Absichten der Digitalkonzerne wert sind. Seit Jahren betonen ForscherInnen, dass wir uns im Bereich der künstlichen Intelligenz nicht auf die freiwillige Selbstregulierung verlassen dürfen. Und weil diverse Polizeien ohnehin nutzen, was auf dem Markt verfügbar ist, hilft nur eine griffige Gesetzgebung.