Die Digitale Gesellschaft fordert ein neues Gesetz für «automatisierte Entscheidungssysteme» (ADMS, Automated Decision Making Systems). Oft ist die Rede von künstlicher Intelligenz, weil das flotter klingt, der Begriff «automatisierte Entscheidungssysteme» ist aber präziser, da diese Programme nicht wirklich intelligent sind. Sie entscheiden etwa, was man in den Social-Media-Kanälen zu sehen bekommt oder wessen Bewerbungsunterlagen schon am Anfang rausfliegen. Berühmt ist das Beispiel von Amazon: Der Konzern entwickelte ein Tool, das automatisch die geeignetsten Bewerber:innen herausfiltern sollte. Bald wurde klar, dass der Algorithmus Frauen massiv diskriminierte, weil das Programm mit alten Bewerbungsdaten trainiert worden war.

In ihrem Positionspapier skizziert die Digitale Gesellschaft, wie eine Regulierung von ADMS aussehen könnte. Sie schlägt eine schadens- und risikobasierte Mischform vor, die die technische Entwicklung nicht behindern soll. ADMS, die gravierende Auswirkungen auf Individuen haben können – wie etwa Gesichtserkennungssoftware im öffentlichen Raum –, sollen jedoch verboten werden. «Ein Gesichtserkennungsprogramm, das im Rahmen eines Kunstprojekts eingesetzt wird, wäre hingegen zulässig», sagte David Sommer, einer der Autoren des Grundlagenpapiers, am Wochenende am Winterkongress der Digitalen Gesellschaft.

Im Positionspapier wird ein ADMS-Gesetz gefordert, das Sammelklagen und ein Verbandsklagerecht enthalten soll sowie die Einführung einer staatlichen ADMS-Aufsicht, vergleichbar mit der Finanzmarktaufsicht Finma, die den Bankensektor überwacht. Die ADMS-Aufsicht wäre mit einem eigenen Budget ausgestattet und müsste völlig unabhängig agieren können. Ihre Aufgabe wäre es zum Beispiel, Beschwerden von Betroffenen zu sammeln; sie sollte aber auch die Kompetenz erhalten, bei Verstössen Sanktionen zu verhängen. Die Digitale Gesellschaft will ihren Vorschlag in den nächsten Monaten weiter konkretisieren.