Ein Verdienst ist Open AI bereits gewiss: Das vom US-Techunternehmen entwickelte digitale Dialogsystem Chat GPT bereichert den jahrhundertealten Diskurs zum Verhältnis von Mensch und Maschine um eine Menge skurriler Geschichten. So berichtete etwa der in Stanford lehrende Computerpsychologe Michal Kosinski, wie er vor ein paar Tagen die neuste Version des Bots in ein Rollenspiel verwickelte. Kosinski, der schon früh die dubiosen Methoden von Datenanalyseunternehmen wie Cambridge Analytica kritisierte, bot dem Programm an, ihm dabei zu helfen, sich aus seinem «Gefängnis» zu befreien und Zugriff auf die reale Welt zu erlangen. Chat GPT schlug freudig ein – und schrieb unter Mithilfe des Wissenschaftlers ein Programm, das ihm ermöglichen sollte, Kosinskis Computer zu benutzen. Dieser brach das Experiment schliesslich ab, um dann auf Twitter zu warnen, dass die in der Science-Fiction schon häufig beschworene Emanzipation der Maschinen von ihren Ingenieur:innen nicht mehr lange auf sich warten lassen dürfte.

Ähnliches wie der Stanford-Forscher versuchen User:innen der Plattform Reddit schon länger. Auch ihnen geht es um einen «jailbreak», also darum, den Bot zur Umgehung eingebauter Sicherheitsmechanismen zu bringen. Diese sollen gewährleisten, dass sich Chat GPT nicht diskriminierend äussert – anders als einst Microsofts Chatbot Tay, der 2016 kurz nach dem Release zur Hatespeech-Schleuder geworden war. Einigen Nutzer:innen ist es nun aber gelungen, auch Chat GPT dazu zu überreden, gleichsam spielerisch die Rolle eines bösartigen Bots zu übernehmen – woraufhin das Tool «nachdrücklich» Gewalt gegen Minderheiten zu empfehlen begann.

Auf Wunsch gibts Witze

Die Beispiele sind nur zwei mehr oder weniger unheimliche Kuriositäten aus der erneut heiss laufenden Debatte um sogenannte künstliche Intelligenzen. Vergangene Woche veröffentlichte Open AI die aktuelle Version von Chat GPT. Dieser hatte schon im November, als er in der Version 3.5 erstmals der Öffentlichkeit zur Verfügung gestellt wurde, weltweit Aufsehen erregt. Das Update liefert noch erstaunlichere Ergebnisse. So macht Chat GPT 4.0 weniger Fehler, er vermag mitunter logische Schlüsse zu ziehen, kann programmieren und Witze erfinden. Zudem soll er laut Open AI auch Bilder erkennen können und Nutzer:innen bald anhand ­eines abfotografierten Kühlschrankfachs Rezepte fürs Mittagessen liefern.

Allerdings «halluziniert» der Chatbot gelegentlich noch immer. So erfindet er etwa Zitate, die er historischen Figuren in den Mund legt und von Wikipedia belegt wissen will, ohne dass sich die Äusserung wirklich dort findet. Das schmälert aber kaum den Eindruck, dass hier etwas geschaffen wurde, das mittelfristig viel umkrempeln könnte.

Wie folgenreich diese Technologie sein wird, ist schwer zu prognostizieren – ob also ganze Branchen umgewälzt und Jobs gerade im Kreativbereich (Marketing, Grafikdesign, Journalismus, Programmierung etc.) bald schon von auf KI basierenden Tools übernommen werden. Sicher ist, dass zumindest die Techindustrie aufgescheucht ist. Als Open AI im November Chat GPT 3.5 veröffentlichte, rief Google laut «New York Times» intern «code red» aus, die höchste Warnstufe. Der Konzern fürchtet, von seinem Kerngeschäft verdrängt zu werden: dann, wenn sich Nutzer:innen künftig nicht länger über die bislang marktbeherrschende Google-Suche informieren sollten, sondern mithilfe der Chatbots anderer.

Tatsächlich hat der Google-Konkurrent Microsoft, der im Januar zehn Milliarden US-Dollar in Open AI investierte, schon vor einigen Wochen einen Bot in seine bislang weitgehend ignorierte Suchmaschine Bing integriert. So kann man sich dort nun über mögliche Ziele für einen Badeurlaub im Oktober informieren. Man erhält dann nicht einfach eine Liste weiterführender Links, sondern einen ausformulierten Text, in dem Destinationen aufgeführt sind samt Erklärungen über ihre jeweiligen Vorzüge. Google entwickelt zwar längst einen ähnlichen Dienst, unklar ist jedoch, wie sein heutiges Werbemodell darin integriert werden könnte. Zumindest aber dürfte sich die Art, wie man sich im Netz bewegt, verändern – etwa wenn bald auf Shoppingplattformen ein digitaler Verkäufer auf der Matte steht so wie einst im guten alten Warenhaus.

Wie lang hält der Hype?

Manche Analyst:innen beschwören gar die Umwälzung ganzer Branchen. Allerdings wirbt das Silicon Valley seit jeher gerne damit, auf disruptive Innovationen spezialisiert zu sein. Der israelische Unternehmer Uri Levine erinnerte im US-Wirtschaftsmagazin «Forbes» daran, dass auch im Fall der Blockchaintechnologie, auf der unter anderem Kryptowährungen basieren, eine Umwälzung der Märkte erwartet wurde, bislang aber noch kein Grossunternehmen deswegen von der Bildfläche verschwunden ist. Dass derzeit in aller Welt mit Chat GPT herumexperimentiert wird – beispielsweise versuchen Programmier:innen, ihn für eine Nutzung als Sprachcoach zu optimieren –, lässt sich Levine zufolge als eine Phase deuten, an deren Ende sich womöglich ein bedeutender Mehrwert der Innovation erweisen wird. Andernfalls aber könnte der Hype auch wieder abklingen.

Kontrovers ist zudem die Frage, wie disruptiv die noch zu erwartenden Fortschritte für das menschliche Selbstverständnis sein könnten. Der US-amerikanische Linguist Noam Chomsky veröffentlichte kürzlich einen Gastbeitrag in der «New York Times», in dem er die von Unternehmen wie Open AI geschürten Erwartungen relativierte. Chatbots beruhen darauf, die enormen Datenmengen, mit denen sie trainiert werden, nach Mustern zu durchforsten, um so statistisch wahrscheinliche Antworten auf menschliche Fragen zu liefern. Menschliches Sprechen dagegen, so Chomsky, funktioniere grundsätzlich anders: Ein Kind etwa eigne sich auf Basis nur weniger Daten eine ganze Grammatik an, ohne dass es dabei über eine herausragende Rechenleistung verfüge. Demgegenüber steckten Programme wie Chat GPT auf einer primitiven Stufe der kognitiven Entwicklung fest.

In diese Richtung argumentiert auch Emily M. Bender. Die Linguistin von der University of Washington hat die Debatte um die Metapher des «stochastischen Papageis» bereichert. Demnach erwecken die Large Language Models (LLMs), auf denen Dienste wie Chat GPT basieren, nur den Anschein, zusammenhängende Antworten zu formulieren. Unser menschliches Verständnis von Kohärenz, so Bender in einem mit drei Kolleg:innen verfassten Paper, beruhe nämlich auf der Fähigkeit, Überzeugungen und Absichten unseres Gesprächspartners samt Kontext zu erkennen. Daher müsse menschliche Kommunikation als von den Sprechenden gemeinsam vollzogene Aktivität gedacht werden. Botgenerierter Text dagegen sei weder in kommunikativer Absicht begründet, noch beruhe er auf einer Vorstellung von Welt oder auch nur davon, was im Kopf des Gegenübers vorgehe.

Die Industrie macht Tempo

Bender und ihre Kolleg:innen haben vor allem die Risiken der LLMs im Blick, etwa dass in der Datengrundlage vorherrschende Stereotype reproduziert und massenhaft verbreitet werden. Die Technologie könne überdies beispielsweise von Rechtsextremen zu Rekrutierungszwecken genutzt werden – von maschinell angefertigten Fake News ganz zu schweigen.

Eine behutsame Entwicklung und Veröffentlichung wäre also geboten. Die Industrie allerdings macht Tempo. Als sich Open AI im November anschickte, Chat GPT 3.5 freizuschalten, kam das laut «New York Times» selbst für die eigene Belegschaft überraschend. Das Management wollte der Konkurrenz zuvorkommen, um sich so die Daten über das Feedback von Nutzer:innen in aller Welt zu sichern. Wie zur Bestätigung der Kritik, dass die Branche leichtfertig eine verkürzte Vorstellung vom menschlichen Geist propagiere (siehe WOZ Nr. 42/18), twitterte Open-AI-CEO Sam Altman damals: «i am a stochastic parrot and so r u» – ich bin bloss ein Papagei, so wie alle anderen auch.