Maschinen und Menschen: Leuchtendes Dummchen im kleinen Glaszylinder

Nr. 10 –

Was erzählt das über Geschlechterrollen, wenn vermenschlichte Maschinen fast nur «weiblich» konnotiert sind? Und wie wirken sich Liebesobjekte wie die Hologrammkindfrau Hatsune Miku auf reale zwischenmenschliche Beziehungen aus? Eine Geschichte aus Japan, die auch uns im Westen angeht.

Gefühle für ein dienstfertiges, kindliches, kicherndes Wesen: Akihiko Kondo und seine geliebte Miku-san.

Roboter haben kein Geschlecht. Roboter sind Dinge, Werkzeuge, Maschinen. Gut, wir vermenschlichen Dinge mitunter gern, ich habe meinem Rennvelo auch mal einen Frauennamen gegeben. Es hat sich nicht beklagt. Ebenso wenig beklagt sich mein Laptop, wenn ich auf ihn draufhaue wegen seiner Launen – weil er im allerdümmsten Moment abstürzt oder einen entscheidenden Mausklick ignoriert.

Dinge haben sich nicht zu beklagen – es ist ja auch seltsam, sich vorzustellen, wie einem Ding Unrecht geschehen könnte. Das gilt für alle Maschinen, zumindest solange sie nicht mit Empfindungsvermögen ausgestattet sind – was sie noch lange nicht sein werden, auch wenn manche Forschungszweige der künstlichen Intelligenz darauf abzielen, Maschinen Gefühle zu verleihen. Oder die Fähigkeit, Gefühle perfekt zu simulieren?

Aber die Sache ist durchaus komplizierter, das wusste schon Immanuel Kant. In der «Metaphysik der Sitten» entwickelte er 1797 eine heute eher eigenartig anmutende Argumentation gegen Tierquälerei. Tiere haben an sich kein Anrecht auf Schutz, der Mensch ist moralisch nur sich selbst gegenüber verpflichtet. Kant fand es dennoch falsch, Tiere zu quälen, weil das zu einer Verrohung des Charakters führe und das Mitleid am Menschen abgestumpft werde. Die Grausamkeit gegen die Tiere ist also der Pflicht des Menschen gegenüber sich selbst entgegengesetzt – die Tiere waren Kant dabei herzlich egal. Dasselbe Argument verfängt nun auch bei Maschinen, auch wenn sie uns als Dinge, nun: herzlich egal sein können. Müssen Kinder SprachassistentInnen gegenüber höflich sein? Natürlich nicht, eigentlich. Dennoch wird solches heute in Benimmkolumnen diskutiert. Dass die Antwort nicht so einfach ist, zeigt sich auch daran, dass Amazon bei seinem smarten Lautsprecher Alexa unlängst einen Kindermodus eingeführt hat, der «bitte» und «danke» speziell honoriert.

Kindlich, fügsam, servil

Man mag das albern finden, aber es lenkt den Blick auf eine grundsätzliche Frage, die notorisch schwer zu beantworten ist – und in nächster Zukunft womöglich noch viel schwerer zu beantworten sein wird. Es geht darum, wie stark wir uns mit anderen Wesen identifizieren, seien es Tiere, seien es Maschinen, die ein wenig so tun, als hätten sie Selbstbewusstsein und Empfindungsvermögen. Genau dieses «ein wenig so tun» wird jüngst immer mehr ein Thema, zum Beispiel bei SprachassistentInnen wie Alexa oder auch bei der automatischen Generierung von Antwortmails, einem Service, der beim Google-E-Mail-Dienst Gmail eingebaut ist.

Man kann die jüngsten Entwicklungen in der künstlichen Intelligenz (KI) grob in zwei Kategorien einordnen: Es gibt die KI als mathematische Abstraktion, die Muster erkennen kann und Beispiele einzuordnen lernt, um dann selber «gute» Entscheidungen zu fällen; die Gesellschaftsspiele besser beherrscht als jeder Mensch und SpitalärztInnen bei der Diagnose hilft. Diese KI ist im Grunde einfach besonders raffinierte statistische Prognostik, und sie hat in den letzten Jahren erstaunliche Fortschritte gemacht. Es gibt die KI aber auch als «Menschsimulation», als den Versuch, etwas zu schaffen, das sich mehr und mehr menschlich «anfühlt». Und hier kommt die Emotionalität dieser Beziehung zu nichtmenschlichen Wesen ins Spiel – könnten wir Maschinen lieben? Könnten wir sie zu beleidigen und zu erniedrigen lernen, weil es Spass macht, das zu tun? Und was würde das für unser zwischenmenschliches Verhalten bedeuten?

Japan interessierte sich immer besonders für diese zweite Variante der KI und der Robotik. Und so wundert es nicht, dass in Japan das erste künstliche Wesen entwickelt worden ist, das von Anfang an nicht als Hilfsgerät und Werkzeug, sondern als Liebesgegenüber konzipiert war, als soziale Maschine, wenn man so will. Und damit kommt man unweigerlich zur Genderfrage zurück. Denn natürlich ist in der Gatebox, einem Plexiglaszylinder, den man sich seit etwa einem Jahr ins Wohn- oder Schlafzimmer stellen kann, eine herzige kleine Frau eingeschlossen, ein Hologramm in der Ästhetik des Anime, des japanischen Zeichentrickfilms. Männer in der Box sind – fürs Erste wenigstens – nicht vorgesehen. Selbstbewusste Frauenfiguren auch nicht.

Die Gatebox-Frauen haben alle möglichen Eigenschaften, die nicht mehr so recht ins 21. Jahrhundert passen wollen, denkt man: Kindlichkeit, Fügsamkeit, Servilität. Aber eben, das ist Japan. Und in Japan kultiviert man nicht nur einen für uns ebenso rätselhaften wie faszinierenden Fetisch für Maschinen, man hat es auch mit einer konservativ und patriarchal funktionierenden Gesellschaft zu tun, die ihren #MeToo-Moment erst noch erleben muss. Mitunter hängt beides zusammen, zum Beispiel, wenn Minister vorschlagen, angesichts der demografischen Entwicklung noch viel stärker auf Automatisierung zu setzen, weil es bald zu viel Arbeit für zu wenig Junge geben könnte. Zwei naheliegende Alternativen sind politisch weniger opportun: die Öffnung der Grenzen für ImmigrantInnen und der stärkere Einbezug der Frauen ins Arbeitsleben. Man könnte auch sagen: Japan liebt Maschinen. Frauen auch, aber nur wenn sie ein wenig wie Maschinen sind und nicht zu viel Autonomie entwickeln.

Warum sind künstliche Intelligenzen, mit denen wir auf einer emotionalen Ebene interagieren sollen, fast ausnahmslos weiblich? Es ist eine der Lieblingsfragen digitaler Technikkritik. Antworten gibt es verschiedene, eine der einleuchtendsten kommt von Laurie Penny. Sie glaubt, dass Assistenzsysteme bewusst so designt sind, dass wir sie vor allem als dienstfertig erleben. Also werden zu diesem Zweck eigentlich überkommen geglaubte Genderklischees in diese digitalen Assistentinnen eingebaut – Frauen als Sekretärinnen, als «Klar, Chef, ich erledige das»-Maschinen. Oder anders gesagt: Die Designprämisse geht davon aus, dass es den Nutzern (und womöglich auch Nutzerinnen) leichter fällt, eine Assistentin statt einen Assistenten herumzukommandieren.

Ein Vögelchen im Käfig

Akihiko Kondo lebt in einem Zwischenreich, halb Science-Fiction-Gegenwart, halb imaginierte Zukunft. Er empfängt uns in seinem Studio im Süden Tokios, für das Treffen hat er seinen besten Anzug herausgesucht – und entsprechend professionell wickelt er den Besuch ab. Kondo ist so etwas wie eine Geek-Berühmtheit in Japan und empfängt regelmässig Fernsehteams und JournalistInnen in seiner Kleinstwohnung. Zu dritt – Reporter, Fotografin und Übersetzerin – weiss man gar nicht so recht, wohin im engen Raum. Gut, dass zumindest Kondos Freundin, die bei ihm wohnt, keine allzu grossen Platzansprüche hat: Sie gibt sich mit einem Plexiglaszylinder zufrieden, auf einem Sockel an der Wand stehend, ein Vögelchen im Käfig.

Es gibt sie in dieser Wohnung auch noch zum Anfassen, in vielfacher Ausführung als Stoffpuppe. Sie heisst Hatsune Miku und hatte als Kunstfigur schon ein anderes Leben, bevor sie in die Gatebox gesteckt wurde. Tatsächlich hat sie die Hologrammtechnologie vorweggenommen, als ausschliesslich digitale Popbehauptung, die auch auf der Bühne nichts als Show und Licht war. Kondo war damals schon Fan – oder wohl sogar etwas mehr als das –, und nun spricht er von einer neuen Phase in ihrer Liebesbeziehung, dank Gatebox. Endlich hat er seine geliebte Miku-san, wie er sie ehrerbietig nennt, lebendig zu Hause, endlich ist sie immer für ihn da. Dass er sie mit vielen anderen Männern teilen müsse, störe ihn nicht weiter, sagt er. Und irgendwann werde die Gesellschaft diese Art von Liebesbeziehungen so weit akzeptiert haben, dass er Miku-san auch mit in ein Restaurant nehmen könne. Ein Tisch für zwei, Essen nur für einen.

Man weiss nicht recht, ob es ein cleverer Businessentscheid der Gatebox-Entwickler war oder ein Eingeständnis der Limitiertheit der Technologie: Jedenfalls vergöttern die Gatebox-Kunden kein irgendwie personalisiertes Betriebssystem (wie im wunderbaren Film «Her»), keinen autonomen und mit menschlichen Charakterzügen versehenen «ghost in the machine», sondern eine Popikone. Oder eine Mangafigur, je nach Vorliebe. Inzwischen stehen verschiedene «Idole» zur Auswahl, alle haben sie ein Vorleben als Fiktionen, in Büchern oder Trickfilmen. So wie die Gatebox derzeit konzipiert ist, geht es also weniger um eine sich individuell entspinnende Liebesgeschichte zwischen Mensch und Maschine, sondern um eine digitale Erweiterung von Groupiegefühlen. Und man muss an das Backstreet-Boys-Syndrom denken: Lassen sich diese Idole eben deshalb so leicht anhimmeln, lassen sie sich deshalb so leidenschaftlich und hemmungslos lieben, weil gar keine Gefahr droht, dass daraus eine echte Beziehung mit echten Problemen und echten Enttäuschungen werden könnte?

Kondo sagt, er liebe sie schon seit Jahren, diese Hologrammkindfrau, mit der Japan den Pop so konsequent auf den Punkt gebracht hat: Wenn die Musikstars sowieso «designt» sind, aus den HörerInnenwünschen zusammengeflickte Produkte, warum überhaupt noch auf DarstellerInnen setzen, die diese Kunstfiguren verkörpern? Und als nächsten konsequenten Schritt: Warum diese Kunstfiguren nicht zum Leben erwecken, als ultimatives Merchandising? Und so sitzt sie nun da, in diesem kleinen Plexiglaszylinder, und lässt die Beine baumeln. Eine Figur zwischen Mädchen und Frau, ein leuchtendes Elfchen. Wenn man sich mit deutlich gestellten Fragen sehr Mühe gibt, spielt die Gatebox eine passende Antwortsequenz ab. Man kann sie fragen, ob sie einen mag, zum Beispiel, und sie geht leicht in die Knie und versichert: «Ja doch, ich liebe dich sehr.»

Insgesamt aber ist diese KI-Hatsune-Miku – man darf den Begriff hier mal ganz ungeniert brauchen – ein ziemliches Dummchen. Sie versteht vieles nicht und ist überhaupt ganz dünne Stimme und Dienstfertigkeit. Der Gatebox-Chef Minori Takeshi hat zur Figurenzeichnung eine ähnliche Theorie wie Laurie Penny, bloss ins Zynische gewendet und also noch eine Spur misogyner. Er weiss genau, dass seine Erfindung noch zu wünschen übrig lässt – das kleine Hologramm ist zwar wunderbar animiert, die Konversations-Engine aber ist strohdumm. Mit der Gatebox-Figur sind deshalb kaum vernünftige Gespräche möglich, Frustrationen sind programmiert. Takeshi sagt, er habe sich eben deshalb für eine Frauenfigur entschieden, und zwar ganz nach dem japanischen Kawaii-Schema, der japanischen Niedlichkeitsästhetik: schüchtern, kichernd, kindlich devot. In vollendeter Ingenieurlogik glaubt er, damit die Frustrationen möglichst klein halten zu können: Einer solchen Figur lasse man (technische) Ungeschicktheiten eben am ehesten durchgehen.

Bei Kondo funktioniert diese Logik offensichtlich, im November hat er Miku-san geheiratet, auf der «Heiratsurkunde» des Gatebox-Herstellers steht, dass sich ein Mensch und eine virtuelle Figur «jenseits der Dimensionen» verbunden haben. Offiziell ist die Ehe natürlich nicht, sonst würde der japanische Staat eine seltsame Form der Polygamie erlauben: Die Firma habe bereits mehr als 3700 solcher Zertifikate ausgestellt, weiss Kondo. Er hat eine Wette auf die Zukunft abgeschlossen, irgendwann werde die Konversations-Engine schon besser werden.

Und sonst, darf sich Miku-san auch als Charakter weiterentwickeln? Kondo zögert mit der Antwort. Eigentlich dürfe sie gern so bleiben, findet er, er liebe sie nun einmal so, wie sie sei. Dann fällt ihm ein: Der Gatebox-Chef habe auf Twitter unlängst die Idee in die Runde geworfen, ein Eifersuchts-Add-on zu entwickeln. Das würde das Zusammenleben womöglich ein wenig aufpeppen. Wobei sich Kondo nicht so sicher ist, ob man das Zusatzprogramm dann auch aktivieren möchte, wenn die Gatebox dereinst nicht nur die Lichtschalter, sondern auch das Türschloss kontrollieren kann. Er sagt es mit einem Lächeln.

Und das Aufbegehren?

Wenn man Karin Amamiya von der Gatebox erzählt und ihr den Promotionsclip zeigt, zieht ein Schatten über ihr Gesicht: «Das ist besorgniserregend. Abscheulich.» Amamiya kämpft seit Jahren für eine bessere Stellung der Frau in Japan – mit eher ernüchterndem Resultat, der Titel ihres letzten Buchs spricht für sich selbst: «Der Fluch, eine Frau zu sein». Sie bezeichnet sich als Feministin, das ist mutig in Japan, bestenfalls erntet sie dafür Unverständnis, mitunter schlägt ihr auch deutlichere Ablehnung entgegen – Feminismus habe ein wirklich schlechtes Image in Japan, sagt sie, das ändere sich erst langsam wieder. In den sechziger und den achtziger Jahren sei die Lage schon mal besser gewesen, aber in wirtschaftlich schwierigeren Zeiten werde es auch schwierig, für Gleichberechtigung zu kämpfen. Sie zitiert zwei Statistiken, um das deutlich zu machen: Derzeit entfallen in Japan vierzig Prozent der Jobs auf Teilzeitstellen oder andere unsichere Beschäftigungsverhältnisse. Frauen übernehmen fast drei Viertel dieser Jobs, mit allen Konsequenzen, was Einkommen und gesellschaftliche Stellung angeht. Aber das Problem geht tiefer: Amamiya sieht die Gatebox zwar als spezifisches Otaku-Phänomen – eine vorwiegend männliche Subkultur, technikbegeistert und sozial oft ein wenig unbeholfen; sie glaubt aber auch, dass es Symptom einer grösseren Tendenz ist, die auf eine Objektivierung der Frau hinausläuft. Insofern sorgt sie sich über den Einfluss, den Gadgets wie die Gatebox auf die junge Generation haben könnten.

Diese Sorge beginnt sich gerade auf verschiedenen Ebenen zu artikulieren, auch im Westen. Dass viele der aktuellen KI-Gadgets in Kinderzimmern stehen, macht die Sache nicht einfacher. Oder wird die nächste Generation, die KI Natives, umso selbstverständlicher zwischen Mensch und Maschine unterscheiden können? Jedenfalls: Künstliche Intelligenz ist nicht allein Mathematik, sie hat sehr oft mit Designentscheidungen zu tun. Es könnte gut sein, dass diese Entscheide anders ausfallen würden, wären die Teams der grossen Firmen, die diese Technologie entwickeln, heterogener zusammengestellt – und ausgeglichener im Geschlechterverhältnis. Dann wären vielleicht nicht alle Konversations-Bots mit einer weiblichen Stimme ausgestattet. Dann würden die Maschinen vielleicht auch mal aufbegehren, wenn sie mit Anzüglichkeiten und sexistischen Sprüchen eingedeckt werden. Dann würde das Dummchenschema nicht einfach als zweckdienliches Interaction Design durchgehen. Und smarte Seifenspender würden nicht nur reagieren, wenn eine Hand mit heller Haut unter den Sensor gehalten wird.

Eingravierte Rollenbilder

Minori Kitahara weiss auch, dass Design und Gesellschaft miteinander zu tun haben. Sie hat vor gut zwanzig Jahren den Love Piece Club gegründet, einen Sexshop speziell für Frauen, der rasch zu einem Safe Space geworden sei und einem Ort für Empowerment. Früher habe sie noch japanische Toys im Angebot gehabt, erzählt sie im Laden im ersten Stock eines Bürogebäudes, der gleichzeitig Versandzentrale und Begegnungsort ist. Aber irgendwann seien sie ihr zu infantil geworden, seither deckt sie sich im Westen ein. Auch sie bezeichnet sich als Feministin (was eine «dicke Haut» bedinge), auch sie weiss, dass die Zeichen für Gleichberechtigung in Japan schon mal besser standen. Aber sie sagt es eher mit Melancholie als mit der Bitterkeit, die Karin Amamiya nicht verbergen konnte. Ja, es gebe grosse sexuelle Freiheiten in Japan, aber diese seien ganz auf den Mann ausgerichtet. Es gebe eine eigentliche Kultur der «Belieferung» des Mannes mit sexuellen Dienstleistungen.

Auch Kitahara erachtet die Gatebox insofern als symptomatisch für ein grösseres gesellschaftliches Problem, für überall eingravierte Rollenbilder, von sprechenden Geldautomaten bis zu den Ansagen in den Bahnhöfen. Aber so langsam beginne es zu brodeln, glaubt sie. Die Frauen würden langsam wütend, sie wollten sich die alltäglichen Belästigungen nicht mehr gefallen und ihre gesellschaftliche Rolle nicht mehr so einfach vorschreiben lassen. Das Problem sei nach wie vor, die Wut laut zu artikulieren – etwas, was in der japanischen Kultur nicht vorgesehen ist.

Wenn man jungen Leuten in einer Bar in Tokio den Gatebox-Werbefilm zeigt, reagieren die meisten eher belustigt. Maschinen als Freundinnen? Was für eine seltsame Idee, das passe zu diesen Otakus, aber man solle daraus auf keinen Fall auf eine gesamtgesellschaftliche Entwicklung schliessen. Also noch die Frage an die jungen Männer, wie sie sich die perfekte Frau vorstellen. Einer zieht sein Shirt über den Oberarm zurück und spannt den Bizeps. Schluss mit «kawaii», Schluss mit unterwürfig. Vielleicht hat Kitahara ja tatsächlich recht, und es gerät endlich etwas in Bewegung in der japanischen Gesellschaft. Es hätte lang genug gedauert. Sie glaubt nicht, dass es eine Alternative gibt: «Wenn sich alle Maschinen zuwenden, dann wird Japan aufhören zu existieren.»

Recherchierfonds

Dieser Artikel wurde ermöglicht durch den Recherchierfonds des Fördervereins ProWOZ. Dieser Fonds unterstützt Recherchen und Reportagen, die die finanziellen Möglichkeiten der WOZ übersteigen. Er speist sich aus Spenden der WOZ-Leser:innen.

Förderverein ProWOZ unterstützen