Maschinensturm KI (3): Der Geist der Gesetze und wie man ihn austreibt

Ein kleiner Junge steht an einer Weggabelung. Er kann sich nach links wenden und einen wunderschönen Palast unter blauem Himmel erreichen. Oder er entscheidet sich für die rechte Seite, auf der ein Gruselschloss im Gewitter bröckelt. Der Junge hat die Wahl. Er muss sich allerdings beeilen: Von hinten schleicht ein Bär heran.

Dieses Meme stammt aus einem Blogbeitrag, den der Mitgründer der Ethereum-Blockchain, Vitalik Buterin, 2023 verfasst hat. Darin legt Buterin seine technooptimistische Weltsicht dar. In der Zukunft, so führt er aus, könnten wir länger und gesünder leben und mit superintelligenten Chips im Hirn herumspazieren. Oder aber, falls wir technischen Fortschritt ablehnten, in einem seuchengeplagten zweiten Mittelalter landen. Die Zeit für die Entscheidung schwindet, denn hinter uns lauern viele Gefahren.

Verträge, die nicht zu brechen sind

Buterin ist nicht der Standardtyp aktueller Techoligarchen. Er kritisiert Trump und Putin, spricht sich für Einwanderung aus, warnt vor militärischer KI-Nutzung und Klimaerhitzung. Dennoch ist auch seine Utopie mit Vorsicht zu geniessen. Sie beruht auf dem von ihm geschaffenen Netzwerk Ethereum, das als dezentralisierter, digitaler Zusammenschluss darauf angelegt ist, Finanzverkehr und Regelabstimmung in die eigenen Hände zu nehmen. Technische Errungenschaften sollen auf partizipatorische Weise kontrolliert werden und bisherige Kontrollinstanzen überflüssig machen: eine Blockchain mit demokratischen Benefits.

Eine Blockchain ist im Grunde ein Kassenbuch. Sie registriert Geschäfte, ähnlich wie der Gemüsehändler am Marktstand Verkäufe in seinem Notizbuch vermerkt. Nur dass das Kassenbuch virtuell ist und die Geschäftsvorgänge zwischen allen im Netzwerk vertretenen Personen verzeichnet sind. Das entscheidende Merkmal der Blockchain ist dabei, dass ihre Buchführung irreversibel ist. Sobald eine Transaktion in einem «Block» festgehalten ist, wird sie an die «Kette» (Englisch: «chain») aller jemals in diesem Netzwerk vollzogenen Geschäfte angeschlossen und kann nicht mehr modifiziert werden. Anders als ein echter kann ein virtueller Gemüsehändler nicht nachträglich vorgeben, Birnen statt Äpfeln verkauft zu haben.

Ein erster Versuch, ausserhalb bestehender Institutionen ein Geldsystem zu etablieren, war die 2009 eingeführte Kryptowährung Bitcoin. Buterins 2015 gestartetes Ethereum hob die Blockchain-Idee auf eine neue Ebene, indem die Währung des Netzwerks («Ether») um «smart contracts» ergänzt wurde. «Smart» sind Verträge, die in Programmiercode verfasst sind und von der Blockchain automatisch umgesetzt werden, wenn eine bestimmte Bedingung erfüllt ist. So könnten etwa zwei Personen abmachen, dass die eine der anderen immer dann einen Cent überweist, wenn diese ein Bild eines Teddybären auf Social Media postet. Sobald das Bild im Account auftaucht, würde die Blockchain die Auszahlung verursachen. Anders als in der echten Welt gibt es keine Möglichkeit, mit der Zahlung in Verzug zu geraten, sie zu verweigern oder einen Streit zu beginnen, ob das Bild nicht doch einen Grizzly anstatt eines Teddys darstelle. Smart, oder?

Digitale Teddybärerkennung

Sobald ein Vertrag allerdings diese oder andere Arten von Komplexität aufweist, setzt seine Virtualisierung den Einsatz maschinellen Lernens voraus. Wer entscheidet, was als Teddybär zählt? Wenn das die Blockchain regeln soll, muss sie Zugriff auf leistungsfähige Objekterkennungssoftware haben. Ethereum bewirbt auf seiner Website derartige Bots mit bereits stark erweiterten Funktionen. Eine Influencerin in Anime-Ästhetik schreibt Popsongs und verwaltet ihre eigene Kryptowährung, ein lila Frosch in Mönchskutte verfolgt den Kryptomarkt und berät Investor:innen. Vielleicht klingen Anime-Influencerinnen und lila Frösche nicht ganz seriös. Aber führende Unternehmensberatungen gehen davon aus, dass bis zum Jahr 2030 klassische Wertpapiere im Umfang von fünf bis zehn Billionen US-Dollar in Blockchains eingebunden werden könnten. So würden nicht nur Kuscheltiermemes, sondern auch Schuldbriefe, Staatsanleihen und Derivate über den digitalen Ladentisch gehen.

Der Vorsitzende der US-Börsenaufsichtsbehörde, Paul S. Atkins, legte diesen Sommer ausserdem nahe, dass Firmen bald nicht mehr auf gewohnte Weise ihre Erfüllung von Regierungsbestimmungen nachweisen werden. Anstatt Regelwerke zu befolgen, würden sie Blockchainprotokolle aktivieren. Sollte dieser Pfad eingeschlagen werden, würden massgebliche Teile des Wirtschaftsrechts in den Code eines Computernetzwerks – vermutlich Ethereum – verlagert.

Können Algorithmen das? Nicht nur ein Kassenbuch ersetzen, sondern auch die Marktaufsicht? Was folgt daraus, wenn anstelle von Recht der Computercode waltet? Die Verfechter von Blockchainlösungen sehen in programmierten Regeln eine grosse Verheissung, gewissermassen den Schlussstein der Idee von Rechtsstaatlichkeit. Als digitalisierter «smart contract» bliebe kein Gesetz ein blosser Papiertiger, weil die Regelungen sich selbst umsetzten. Erstmals gäbe es volle Rechtssicherheit – ganz ohne Staat.

Aber was geschieht unterdessen mit dem Recht? So schwer verständlich Paragrafendeutsch sein mag, handelt es sich bei der Arbeit der Legislative doch um die Fixierung von Regelwerk in nachvollziehbarer Sprache. Ein Algorithmus dagegen kann auf mehreren Wegen und in verschiedenen Programmiersprachen in Code verwandelt werden. Als fertiges Programm wird er dann auf einem Rechner oder in einem Netzwerk von Rechnern wirksam. Dabei ist von grösster Wichtigkeit, dass der Code tatsächlich dem Algorithmus entspricht und nicht vom fixierten Ziel abschweift, zumal wenn der Code sich selbst umsetzende Gesetze in die Welt setzt.

KI oder der Tod der Algorithmen

Die schlechte Nachricht lautet, dass beim Programmieren ziemlich viel schiefgehen kann. Den Code schnell zusammenzuschreiben, ohne zu viele Gedanken an den Algorithmus zu verschwenden, ist gängige Praxis. Solche Nachlässigkeit kann zumindest von Expert:innen aufgefangen und korrigiert werden, solange Ideen und Umsetzung klar zu trennen sind. Aber was geschieht, wenn Bots den Code selbst schreiben? Aktuell ist unter KI-Anhänger:innen die automatische Codegenerierung sehr beliebt. Selbst Lai:innen können einem System eine Reihe von Prompts vorgeben und einsatzbereite Programme zurückbekommen. Welches Ziel genau erreicht werden soll und wie der resultierende Code im Einzelnen funktioniert, bleibt dabei oft im Dunklen – der Algorithmus wird übersprungen. Wenn man Vertragsrecht auf diese Weise codiert, entzieht man das Steuerungssystem der Gesellschaft jedweder Kontrolle. Das ist umso gravierender, wenn wir es mit irreversiblen «smart contracts» zu tun haben. Die Verheissung der Selbstumsetzung kann also zum Fluch der Unentrinnbarkeit werden.

Wenn wir hingegen auf menschliche Codeerstellung pochten, ergäbe sich ein anderer, dramatischer Gestaltwandel des Rechts. Wie Katharina Pistor, die an der New Yorker Columbia-Universität lehrt, in ihrem Buch «Der Code des Kapitals» herausgearbeitet hat, haben Jurist:innen bereits immensen Einfluss auf die kapitalistische Reichtumsbildung. Aber dennoch «gehört» ihnen das Recht nicht. Programmierer:innen dagegen halten das Copyright am von ihnen geschriebenen Code. Wir hätten es also nicht einfach mit einer Übersetzung von Recht in ein anderes Medium zu tun, sondern mit der Einhegung von Recht als Privatbesitz.

Lassen wir uns keinen Bären aufbinden. Vielleicht wäre eine Ruine, in der zumindest der Geist demokratischer Gesetzgebung spukt, am Ende besser bewohnbar als ein irreparabler Digitalpalast.