Wetterleuchten : Nicht mit einem Knall, mit Geraune
Daniel Hackbarth über den Weltuntergang
Die Erkältungssaison ist da, weswegen srf.ch die Kardinalfrage aufwirft: Was ist besser, wenn die Nase läuft – hochziehen und runterschlucken oder doch, wie uns einst eingetrichtert wurde, ein Taschentuch benutzen? Antwort: Im Zweifel lieber hochziehen. Schnäuzt man nämlich zu fest, könnte Schleim in die Nebenhöhlen oder sogar ins Mittelohr gelangen und dort eine Entzündung begünstigen. An Letzterer kann man, wie wiederum der KI-Assistent von Google weiss, sterben. «In extremen und heute sehr seltenen Fällen», aber davon kann sich beruhigen lassen, wer will.
In der Welt lauert überall Gefahr. Nicht besser macht es, dass sich Digitalunternehmen vor allem aus den USA einen erbitterten Wettstreit bei der Entwicklung von künstlicher Intelligenz liefern – weitgehend bar staatlicher Regulierung. Am Wochenende machte die Meldung Schlagzeilen, dass Dario Amodei, CEO der KI-Firma Anthropic, wegen Sicherheitsbedenken fordert, das Innovationstempo zu drosseln. Wenig später unterstützten Sam Altman sowie Elon Musk, Chefs zweier konkurrierender Unternehmen, dieses Ansinnen.
Zuvor hatte ein ehemaliger Anthropic-Ingenieur auf X eine vielbeachtete Erklärung veröffentlicht. Demnach seien viele KI-Entwickler:innen überzeugt, dass ihre Systeme die Menschheit bald schon auslöschen könnten. Ein Sicherheitsforscher von Anthropic pflichtete dem ehemaligen Kollegen sogleich bei und bezifferte die Chance, dass KI «alle Menschen töten» werde, auf mehr als zehn Prozent.
Solches Geraune kursiert schon eine Weile: Mal soll die Wahrscheinlichkeit für die von den Maschinen herbeigeführte Apokalypse bei 10, mal bei 25 oder gar 50 Prozent liegen. Die Zahlen suggerieren Exaktheit, sind aber höchst dubios – oder wie genau hat man sie berechnet?
Die Warnungen sind auch insofern überraschend, als sich in der segensreichen Geschichte des Kapitalismus Unternehmen noch nie darum geschert haben, welche gesellschaftlichen Kosten ihr Businessmodell mit sich bringt. Die Ölindustrie zum Beispiel wollte mit allen Mitteln verschleiern, dass sie etwas mit der Erderhitzung zu tun haben könnte. Dabei dürfte hier die Chance, dass die Menschheit bei ungebremster Entwicklung ausgelöscht wird, bei circa 100 Prozent liegen. Viel deutet also auf einen Werbebluff der KI-Unternehmen hin: Wenn diese Tools gar zum Weltuntergang führen könnten, kann ja kein Zweifel an ihrer Leistungsfähigkeit bestehen.
Das heisst nicht, dass KI nicht schon heute Leben gefährdet, allein schon, weil sie längst militärisch verwendet wird. Wir können allerdings schlicht nicht wissen, wie potent die neusten Systeme sind, da ihre Entwicklung privat betrieben wird. Dass ausgerechnet Donald Trump darüber mit dem Hinweis hinwegzutrösten versucht, dass ein «schlauer Präsident» immer noch die beste Sicherheitsgarantie sei, überzeugt wohl höchstens ein paar frömmelnde Hillbillys.
Die Kassandrarufe aus der Branche verweisen somit primär auf den Missstand, dass diese keiner gesellschaftlichen Kontrolle unterliegt. Überhaupt führt der KI-Boom, dem ja auch all die tollen neuen Serverfarmen und AKWs zu verdanken sind, vor allem vor Augen, dass das Kapital bestimmt, welche Innovationen wie vorangetrieben werden und welche nicht.
Wie die Welt von morgen aussieht, entscheiden wenige und nicht die vielen. Wäre es umgekehrt, wäre sie zweifellos ein weniger gefährlicher Ort, auch wenn das wie abgedrehte Science-Fiction klingt. ●
An dieser Stelle nehmen die WOZ-Journalist:innen Anna Jikhareva und Daniel Hackbarth abwechselnd die politische Grosswetterlage unter die Lupe.
