«Computersysteme stellen medizinische Diagnosen und geben Rechtsberatung. Sie managen den Aktienhandel, steuern Waffensysteme und vielleicht bald auch unsere Autos.» So weit sind wir im Jahr 2018 also mit der künstlichen Intelligenz (KI). Und nein, fürchten müssen wir uns deswegen nicht zwingend: «Zahnpasta auf die Zahnbürste zu geben, das ist für eine künstliche Intelligenz eine viel grössere Herausforderung, als auf Grossmeister-Niveau Schach zu spielen.» Das schreibt die promovierte Philosophin und Wissenschaftsjournalistin Manuela Lenzen in ihrem ebenso klaren wie klugen Buch über KI. Anschaulich erklärt sie darin, was KI überhaupt ist, wozu sie aktuell fähig ist und mit welchen Herausforderungen sie uns konfrontiert.

Dabei macht Lenzen deutlich: Die Technik ist so gut – oder so problematisch – wie die Menschen, die dahinterstehen. Menschen, die die Maschinen mit Daten füttern. Menschen, die Algorithmen programmieren, die diese Daten verarbeiten. Menschen, die nach Gewinnmaximierung und Macht streben. Gefahren ortet Lenzen vor allem in zwei Bereichen. Erstens überschätzen wir die Intelligenz der intelligenten Technik und sind deshalb viel zu rasch bereit, ihr immer mehr Kompetenzen abzutreten und uns so von ihr abhängig zu machen. Zweitens warnt Lenzen vor «nicht demokratisch legitimierten Konzernen», die «nicht davor Halt machen – und nicht daran gehindert, sondern zum Teil sogar darum gebeten werden –, Aufgaben zu übernehmen, die Sache der Gesellschaft, der Politik oder des Staates wären». Explizit erwähnt sie Google und Amazon, nicht minder gefährlich sind aber Rüstungskonzerne, die sich ein Wettrennen um autonome Waffensysteme liefern. Lenzen spricht von einer «Büchse der Pandora» und warnt eindringlich, es bleibe nicht mehr viel Zeit, um demokratische Kontrollen durchzusetzen. Denn, und hier ist sie ganz Philosophin: Der Versuch, KI-Systeme mit einem Ethikmodul auszustatten, sei grundsätzlich zum Scheitern verurteilt.

Manuela Lenzen: Künstliche Intelligenz. Was sie kann & was uns erwartet. Verlag C. H. Beck. München 2018. 272 Seiten. 26 Franken