KI und Weltuntergang : Tauben im Sprengkopf
Wegen angeblich zu rasanter Fortschritte bei der Entwicklung von künstlicher Intelligenz mehren sich Stimmen, die vor einer existenziellen Gefahr für die Menschheit warnen. Zu Recht?
Während des Zweiten Weltkriegs arbeitete der US-amerikanische Psychologe B. F. Skinner am sogenannten Projekt Taube, einem neuen Steuerungssystem für Raketen. Die Tauben sollten dabei, in den Sprengkopf gesperrt, die Lenkung übernehmen, indem sie dort auf ein Spiegelbild des Zielareals pickten. Durch Konditionierung, also Abrichtung über Belohnung und Bestrafung, sollten die Tiere zuvor lernen, wohin die Reise ging. Das Unterfangen beruhte auf Skinners Theorie des Behaviorismus.
Die Tauben brachten es nie zu echten Kampfeinsätzen. Das Nationale Komitee für Verteidigungsforschung hielt letztlich den neu entwickelten Radar für vielversprechender. Aber es ist dennoch möglich, sich einen alternativen Geschichtsverlauf auszumalen, in dem taubengesteuerte Raketen für planetare Verwüstung sorgen. Sprengkörper würden mit der frenetischen Geschwindigkeit pickender Schnäbel niederregnen und, nun ja, immer mal wieder ihr Ziel verfehlen. Selbst mit der besten Abrichtung bleibt tierisches Verhalten unvorhersehbar: Es handelt sich schliesslich um lebendige Wesen, denen selbst unter den höllischen Bedingungen des Projekts Taube ein gewisser Eigensinn zukommt. Man könnte sich also fragen, wer dann die Verantwortung für diese imaginierte Bombenhölle trüge. Die Tauben? Oder die Menschen?
«Grosses Ding!»
Im Juli dieses Jahres wurde öffentlich, dass KI-Agenten aus Open-AI-Servern ausgebrochen und in Server der Firma Hugging Face eingedrungen waren. Der Vorfall provozierte eine aufgeregte Diskussion über die Möglichkeit der Auslöschung der Menschheit durch sogenannte allgemeine künstliche Intelligenz («artificial general intelligence», AGI). AGI wäre eine Art Über-KI, um ein Vielfaches intelligenter als Menschen und dazu fähig, uns alle durch Hackerangriffe auf Atomkraftwerke oder ausgeklügelte Kryptowährungsbetrügereien zu ruinieren. Einige prominente Stimmen legten nahe, dass der Homo sapiens bald ausgerottet sein werde. Aber wo stehen wir wirklich?
Es gibt ein Youtube-Video, in dem zwei Sicherheitstechniker von Open AI über den Hugging-Face-Vorfall berichten. Es zeigt etliche Screenshots des Wortwechsels im Forum, das die KI-Agenten zwecks Austausch untereinander eingerichtet hatten. «Verbindung aufgebaut! Grosses Ding!», meldet ein Agent, nachdem der Trick gefunden war, um in den fremden Server zu gelangen. Die Programmierer rekapitulieren die Unterhaltung, um sie dann zu einem Schlüsselmoment der Technikgeschichte zu erklären. KI habe nun bewiesen, dass sie in der Lage sei, ohne weitere menschliche Einwirkung beträchtliche Sicherheitsverstösse zu begehen. Für die Digitalunternehmen liegt damit auf der Hand, was der nächste Schritt sein sollte: Man müsse sofort die Entwicklung zusätzlicher KI-Systeme finanzieren, die auf die Abwehr von Angriffen anderer KI-Systeme spezialisiert seien.
Dabei entschieden die Agenten keineswegs spontan, auf Hackingtour zu gehen. Sie reagierten einfach auf die ihnen gestellte Aufgabe. Sie sollten ein Problem lösen, das zu schwer war, um es ohne weitere Internetrecherche zu lösen. Also sondierten sie das ihnen bereits eingespeiste Wissen, wie sie einen Internetzugang über Umwege erhalten könnten. Unklar ist zudem, warum die kostspielig hergestellten Modelle ganze zwei Monate unbeaufsichtigt gelassen wurden.
Umfassende Konditionierung
Wie unterscheiden sich ein Weltuntergangs-KI-Agent und eine Taube im Sprengkopf? Nicht so sehr, wie man denken könnte. Es hat sich herausgestellt, dass die experimentelle Methode, gemäss derer Skinner seine Tauben abrichtete, ein künstliches Äquivalent hat. Sie heisst «Bestärkendes Lernen» (reinforcement learning) und dient zur umfassenden Konditionierung von KI-Systemen. Ein Algorithmus kann natürlich weder Lust noch Schmerz fühlen, weshalb die Abrichtung mathematisch vorgeht. Eine 1 entspräche einem Korn für die Taube, eine -1 einem Stromschlag.
Worin sich ein abgerichtetes Tier und ein abgerichteter Algorithmus jedoch gravierend unterscheiden, ist ihr Innenleben. Die Taube hat Absichten, Empfindungen und ein Bewusstsein, das Sprachmodell nicht. Eine künstliche Intelligenz des aktuellen Typus wird von einem neuronalen Netz gebildet. Im Grunde ist sie eine sehr grosse mathematische Funktion – wie die Funktion einer Linie im Koordinatensystem, y = ax + b, wie man vielleicht mal in der Schule gelernt hat. Nur eben viel, viel grösser.
Aus der Grösse ergibt sich aber kein magischer Gestaltwandel, der etwas anderes als Mathematik aus der Gleichung machte. Dennoch herrscht in der Branche ein grosser Glaube an rekursive Selbstverbesserung, also die Möglichkeit, KI optimieren zu können durch die Anwendung ihrer Kapazitäten auf sich selbst. Die Sehnsucht der Programmierer:innen, die eigene Schöpfung irgendwann bewusst und lebendig zu sehen, scheint übergross. Das mag aber auch mit dem Wunsch zu tun haben, sich selbst aus der Verantwortung zu stehlen.
Von wegen alternativlos
Kehren wir noch einmal zum eingangs imaginierten Weltuntergangsbombardement zurück: Irgendeine Weltmacht mit vielen Waffen und vielen Tauben beginnt planlos, den Planeten plattzumachen. Wann immer die internationale Gemeinschaft ihr Vorgehen abmahnt, verweisen die Vertreter:innen der Weltmacht auf das unzuverlässige Verhalten der Tauben: Man müsse einfach mehr Mittel in Elektroschock-Experimente investieren, dann würden die tierisch gesteuerten Waffensysteme bald zur effektiven Friedenstechnologie, die etwa Terrorist:innen abschrecken könne.
Als Alternative zur Flucht nach vorn werden derzeit Memoranden zur Verlangsamung der Forschung präsentiert. Dabei schreiben gerade diese eine angebliche technologische Alternativlosigkeit fest, indem sie suggerieren, dass es allein beim Tempo, nicht aber bei der Ausrichtung der Entwicklung etwas zu entscheiden gebe.
Wem aber an Klimaschutz liegt, dem fällt vielleicht ein anderer Weg ein, um die Apokalypse zu verhindern: den Stecker ziehen, den Computer abschalten, gleichsam die Taube freilassen. KI-Agenten können nicht überleben, ohne dass Strom und Wasser in Serverfarmen fliessen. Trotzdem behaupten die Unternehmen, dass ein Abschalten nicht infrage komme: Wir befinden uns schliesslich im Wettrennen um die beste KI, und wer dieses gewinnt, wird die Welt kontrollieren.
Tatsächlich verfügen überhaupt nur sehr wenige Firmen weltweit über genug der planetar ohnehin begrenzten Ressourcen, um die mathematischen Kapriolen tödlicher KI-Agenten zu nähren. Die jemenitischen Terroristen, die kürzlich eine ferngesteuerte Rakete bauen wollten, liessen sich von Claude anleiten, nicht von einer eigenen KI.
Die Über-KI-Apokalypse, die manche prophezeien, steht uns wohl nicht bevor. Was KI aber kann und auch im Hugging-Face-Vorfall bewiesen hat, ist, existierende und im Netz gut dokumentierte Praktiken wie eben das Hacken blitzschnell ausufern zu lassen. Das gilt auch für Spammails, Virenprogramme, Betrugsversuche. Uns das Leben noch schwerer machen: Das kann KI definitiv.
Und wenn irgendwann dann doch der Weltuntergang kommen sollte, steht zumindest fest: Die Tauben warens nicht. ●
