#digi: So geht Ethik bei Google

«Digitale Ethik» hat Hochkonjunktur. Die TU München betreibt ein von Facebook gesponsertes Ethikinstitut für künstliche Intelligenz (KI). Google gründete 2017 eine eigene Abteilung für KI – inklusive eines Teams von EthikerInnen. Sie sollen die verschiedenen Projekte aus ethischer Perspektive beobachten und begleiten. Aber wie ernst ist es den Techkonzernen wirklich, wenn sie vorgeben, sich um ethische Probleme zu kümmern? Zwei Entlassungen bei Google werfen Fragen auf.

Das dortige Ethikteam wurde bis vor kurzem von Timnit Gebru und Margaret Mitchell geleitet. Gebru gilt als führende Forscherin zu algorithmischer Diskriminierung bei Gesichtserkennungssystemen – diese erkennen People of Color oft weniger zuverlässig oder gar nicht. Auch Mitchell forscht zu Verzerrungen bei Algorithmen, die etwa Menschen bevorzugen, die einer bestimmten Norm entsprechen.

Bereits im letzten Dezember wurde Gebru gefeuert. In einer Studie kritisierte sie grossflächig eingesetzte KI-Systeme, wie sie bei Google zuhauf angewendet werden. Darin verwies sie insbesondere auf die Gefahren für Minderheiten. Mit anderen Worten: Sie tat genau das, wofür sie als Ethikerin angestellt worden war. Google dementiert die Geschichte und behauptet, die Studie habe den eigenen Forschungsansprüchen nicht genügt. Zudem sei Gebru nicht entlassen worden, sie habe selbst gekündigt. Gebru bestreitet das; die Kritik an Google bleibt ungehört.

Vor wenigen Tagen wurde nun auch Mitchell entlassen. Bereits seit Wochen hatte sie den intransparenten Umgang mit Gebru verurteilt. «Die Entlassung scheint von den gleichen rassistischen und sexistischen Untertönen befeuert worden zu sein, zu denen unsere KI-Systeme neigen, wenn sie in die falschen Hände geraten», wirft sie Google in einem offenen Brief vor.

Mit dieser Ansicht ist sie nicht allein. Über 1400 Google-Angestellte und 2000 weitere Unterstützende unterschrieben einen Protestbrief gegen die Entlassung von Gebru. Google hält dagegen und behauptet, Mitchell habe mehrfach gegen den firmeninternen Verhaltenskodex und die Sicherheitsrichtlinien verstossen. Und auch hier: Statt sich mit der Kritik auseinanderzusetzen, wurde das Ethikteam umstrukturiert und eine neue Leitung eingesetzt. So geht Ethik bei Google.