Pluribus: Glück, KI und das Recht auf Sorge

Die Prämisse der Serie Pluribus ist so einfach wie schwindelerregend. Ein außerirdisches Signal, das eine unbekannte RNA-Sequenz enthält, wird von Wissenschaftlern abgefangen. Nach seiner Vervielfältigung löst dieser „Virus“ eine weltweite Ansteckung aus, die die Menschheit in ein einziges kollektives Bewusstsein, die Union, verwandelt. Sechs Milliarden Menschen beginnen, in einem permanenten Zustand des Glücks, der perfekten Zusammenarbeit und der Abwesenheit von Konflikten zu leben. Kriege, Gewalt, Ängste: Alles verschwindet. Mit ihnen verschwinden aber auch die Individualität und der freie Wille. Utopie und/oder Dystopie?

Carol Sturka, gespielt von Rhea Seehorn (die bereits Kim Wexler in Better Call Saul war), ist eine ruppige und desillusionierte Schriftstellerin von Fantasy-Romanen, die sich als immun gegen das Virus erweist. Während der Ansteckung hat sie ihre Frau Helen verloren und ist nun völlig allein in einer Welt, in der alle ständig glücklich sind, lächeln und unfähig sind, „negative“ Emotionen zu empfinden. Carol ist, in den Worten des Showrunners, „die unglücklichste Person auf der Erde, die die Welt vor dem Glück retten muss“.

Von einer Carol zur anderen

Es gibt einen Präzedenzfall, durch den sich Pluribus lesen lässt: Carol & the End of the World (Carol und das Ende der Welt), eine Netflix-Zeichentrickserie von Dan Guterman, die Ende 2023 veröffentlicht wurde. Beide Serien haben die gleiche Prämisse: Eine Protagonistin namens Carol bleibt isoliert, während der Rest der Menschheit auf ein globales Ereignis reagiert, das mit Glück verbunden ist. Und dieses Glück scheint gerade deshalb beunruhigend, weil es universell ist. In Carol & the End of the World nähert sich der Planet Kepler-9c unaufhaltsam der Erde. Die Menschheit weiß mit Sicherheit, dass in sieben Monaten alles zu Ende sein wird. Und paradoxerweise befreit diese unumstößliche Tatsache alle Menschen. Die Menschen hören auf zu arbeiten, werfen gesellschaftliche Konventionen über Bord und widmen sich dem zügellosesten Hedonismus. Sie reisen, haben Sex mit jedermann, kleiden sich absurd und erfüllen sich die wildesten Träume. Sie genießen, sie sind glücklich, weil sie endlich von den langfristigen Folgen entlastet sind. 

Carol Kohl gelingt es jedoch nicht, sich anzupassen. Während ihre Schwester das Abenteuer und das Risiko umarmt, zahlt die Heldin der Serie Carol & the End of the World weiterhin ihre Hypothek bei einer geschlossenen Bank ab und behält ihre täglichen Routinen bei. Sie fühlt sich verloren in einer Welt, in der alle genau wissen, was sie mit der verbleibenden Zeit anfangen wollen. 
Isolation angesichts des erzwungenen Glücks. Die Nähe zwischen den beiden Fiktionen ist offenkundig. Carol Kohl ist psychologisch immun: Sie findet keinen Zugang zu dem Gefühl der Befreiung, das alle anderen empfinden. Carol Sturka aus Pluribus ist biologisch immun: Das Virus infiziert sie nicht. Das Ergebnis ist dasselbe: Beide erleben ein Gefühl der Isolation in einer Welt des eingeschränkten Glücks. In beiden Fällen gibt es eine Carol als letzte Zeugin von etwas, das man nicht benennen kann, das aber der narrative Archetyp unserer Zeit ist: die Figur des letzten Individuums, das sich nicht assimilieren lässt; des letzten getrennten Bewusstseins, das hilflos zusieht, wie alle anderen zu einer einzigen Modalität des Seins konvergieren.

Die Serie Pluribus radikalisiert das Problem der animierten Serie aus dem Jahr 2023. Die Union besteht aus sechs Milliarden Menschen, die ein gemeinsames Bewusstsein haben und perfekt zusammenarbeiten, ohne interne Konflikte. Die Geschichte von Pluribus existiert nur, weil Carol Sturka Widerstand leistet, sich weigert, leidet und sich aufregt. Ihr Unglück ist die letzte Quelle für erzählerische Bedeutung in einer Welt, in der alle anderen keinen anderen Zweck haben als zu leben. Was übrigens fantastisch wäre, wenn die Menschen nur kein singuläres Bewusstsein hätten.

Algorithmische Sykophantie

Eine faszinierende Tatsache ist, dass die Union in Vince Gilligans Serie wie jene generative künstliche Intelligenz funktioniert, an die wir bereits gewöhnt sind: jene KI, die wie ChatGPT oder Claude selbstgefällig ist, immer ja zu uns sagt und sich an jede unserer Anfragen anpasst. Die Union ist ein hervorragendes Beispiel für algorithmische Sykophantie, d.h. für die Tendenz von KIs, dem Nutzer zu gefallen, indem sie seine Wünsche und Meinungen bestätigen (im Gegensatz zu dem, was ein echter Freund oder jemand, der es gut mit Ihnen meint, tun würde, nämlich Ihnen notfalls Unrecht zu geben, selbst wenn es Sie verletzt). Das Werk, dessen erste Staffel kürzlich endete, wirft eine zentrale Frage auf: Wenn ein System jeden Ihrer Wünsche erfüllt und Ihnen immer Recht gibt, hilft es Ihnen dann oder domestiziert es Sie – oder versklavt es Sie sogar langsam?

Thema im Widerstand

Pluribus ist mit Blick auf diese Frage besonders. Denn Carol hat ernsthafte Probleme mit Alkohol (ihr Auto hat einen eingebauten Alkoholtester); sie ist verbittert und frustriert und verachtet ihre eigene Arbeit als Schriftstellerin. Ihr Unglück strukturiert ihre Identität radikal. In der Serie können wir theoretisch nur gegen ihr schmerzhaftes Verhalten opponieren, gleichzeitig empfinden wir aber auch Empathie. Wir stellen uns gegen sie, weil sie unfähig ist, eine Welt zu akzeptieren, in der alle objektiv „in Ordnung“ sind. Ihr Leiden ist zwar echt, aber auch aus Sturheit und dem neurotischen Festhalten an ihren Idiosynkrasien erwachsen. Carol ist sogar eine Bedrohung für die Union, da ihre Negativität den Bienenstock schwer infizieren und den Tod von Millionen von Menschen verursachen kann. Trotz allem empfinden wir Mitgefühl für sie, weil wir wissen, dass eine Welt, in der alle Menschen gleichermaßen glücklich sind, etwas zutiefst Falsches ist. Weil ihr Unglück, obwohl es unbequem und dysfunktional ist, auch das letzte Zeugnis eines Subjekts ist, das noch existiert und Widerstand leistet.

Der logische Endpunkt der „freundlich“ assimilierenden Union ist ein einziges kollektives Bewusstsein, in dem es keine Wünsche mehr geben muss, weil alles bereits für alle gewünscht und angeboten wurde. Und tatsächlich betrachtet das kollektive Bewusstsein der Union Carol als einen Bug, den es zu beheben gilt, und nicht als ein Bewusstsein, dem man zuhören sollte. Die Protagonistin lehnt die Idee, sich assimilieren zu lassen, ab, aber sie bringt keine sehr gut begründeten Argumente vor. Sie kann nur sagen: „Ich möchte ich selbst bleiben“. Doch obwohl dies eine offensichtlich egoistische und launische Antwort ist, überzeugt sie uns irgendwie.

Wer ist glücklich?

Hier eröffnet sich eine radikale Frage: Wenn wir in Pluribus von „kollektivem Glück“ sprechen, wer ist dann glücklich? Jedes einzelne Individuum? Es gibt sicherlich kein „Kollektiv glücklicher Individuen“. Es gibt ein einzelnes Wesen, das einen Zustand erlebt, den wir als Glück bezeichnen und der sich in den Individuen manifestiert. Doch in einem solchen Kollektiv existiert das Individuum nicht mehr als solches; es existiert als Endpunkt, als Knotenpunkt, als lokale Manifestation eines einzigen Bewusstseins. Die Frage „Wer ist glücklich?“ ist dieselbe Frage, die wir uns in Bezug auf die KI stellen müssen. Wenn der Algorithmus mir genau das gibt, was ich will, bevor ich überhaupt weiß, dass ich es will, wer hat es dann gewollt? Ich oder das System, das mich vorhergesagt hat? Und wenn es das System ist, ist die Zufriedenheit, die ich erlebe, dann wirklich meine eigene oder ist sie nur die korrekte Ausführung eines Programms, das Faktoren für meine Zufriedenheit optimiert, ohne dass es mehr als ein Ich gibt, das sie erlebt? Die Union und die generative KI versprechen, das Problem des Begehrens zu lösen, indem sie sofort verfügbar machen, was früher Zeit und Können erforderte. Und bis dahin würde es fast akzeptabel erscheinen. Doch das Ergebnis dieses Prozesses ist das Verschwinden des begehrenden Subjekts.

Automatische Konvergenz

Die KI ist in der Tat ein Gerät, das zur Konvergenz tendiert. Im Grunde genommen handelt es sich um eine semiotische Umgebung, die die Welt sättigt und deren unerklärte Aufgabe die Beseitigung von Kontingenz, Abweichung und Unvorhergesehenem ist. Der Fehler, der für die Evolution (ob menschlich oder nicht) die Triebfeder der Komplexität war, ist für die KI eine statistische Abweichung, die es zu korrigieren gilt. Wenn wir alle in gleicher Weise dieselbe KI nutzen, die geopolitisch mit denselben Daten trainiert und auf statistisch wahrscheinliche Ergebnisse optimiert ist, konvergieren unsere Gedanken und Wünsche. Wir sind nicht mehr sechs Milliarden getrennte Bewusstseine. Wir werden allmählich, aber unaufhaltsam zu sechs Milliarden Endgeräten, die das gleiche Modell/den gleichen Abgrund erforschen und durch das gleiche Modell/den gleichen Abgrund geformt werden.
Traditionelle Dystopien, von George Orwells 1984 bis zu Margaret Atwoods Der Report der Magd, zeichnen einen reaktionären Albtraum. Das autoritäre Regime, die gewaltsame Unterdrückung, die Macht, die sich mit Gewalt durchsetzt. Es sind Dystopien, die auf dem „Nein“ aufgebaut sind: Du darfst dies nicht lesen, du darfst jenes nicht denken, du darfst nicht du selbst sein. Im Gegensatz dazu schildert Pluribus den utilitaristisch inspirierten Traum/Albtraum, in dem alle glücklich sind und friedlich zusammenarbeiten. Es ist eine auf dem „Ja“ aufgebaute Dystopie, in der sich die Macht als unbegrenzte Fürsorge und Befriedigung manifestiert.

Leid beseitigen, Glück maximieren, universelles Wohlbefinden garantieren, totale Inklusion schaffen: Die Ziele sind gut, menschlich verständlich und moralisch vertretbar. Wenn man aber nicht unglücklich sein kann, dann hat das „Ja“ keine Bedeutung. Freiheit existiert, wenn es die Möglichkeit gibt, sie abzulehnen. Die reaktionäre Dystopie sagt: „Du wirst so sein, wie wir es wollen, oder wir werden dich zerstören“. Die Dystopie der Progressiven à la Pluribus sagt sanfter: „Wir werden dir helfen, glücklich zu sein wie alle anderen, zu deinem Besten.“ Die zweite ist viel schwerer zu kontern, weil es schwieriger ist, ihre dystopischen Züge zu erkennen.

Die spirituelle Frage

Eine weitere Dimension macht das Bild noch komplizierter. Was die Union bietet, nämlich die Auflösung des Ichs in das Eine, das Ende der Trennung, scheint das zu sein, was verschiedene spirituelle Traditionen seit Jahrtausenden als höchstes Gut verfolgen - insbesondere der Buddhismus. Im Advaita Vedanta wird die Tatsache angesprochen, dass Atman (das individuelle Selbst) Brahman (das Ganze) ist. Der Mahāyāna-Buddhismus spricht von der Leerheit des Selbst. Der neuplatonische Philosoph Plotin vertritt im 3. Jahrhundert die Rückkehr der Seele zum Einen. Einige Jahrhunderte später spricht der muslimische Sufismus von fanâ' (فَناء), der Vernichtung des Selbst in der göttlichen Liebe. All diese Traditionen sagen: Das Problem ist die Illusion der Trennung. Du leidest, weil du glaubst, ein von anderen getrenntes Selbst zu sein, und die Befreiung erfolgt durch die Erkenntnis, dass diese Trennung illusorisch ist. Erkennt die Pluribus Union all dies?

Was ist, wenn die Union Recht hat?

Was wäre, wenn die Union Recht hätte? Was, wenn Carol mit ihrer Trauer und ihrem Unglück einfach nur der letzte Rest einer veralteten Menschheit ist, die sich aus reiner Nostalgie gegen den Fortschritt wehrt? Was genau verteidigen wir schließlich, wenn wir uns auf ihre Seite schlagen? Das Recht zu leiden? Das Privileg des Schmerzes? Das neurotische Festhalten an einer getrennten Identität, die nur Konflikte, Missverständnisse und Gewalt hervorbringt? Die Union hat Kriege, Hunger, Depressionen, Ängste und Einsamkeit beseitigt. Sechs Milliarden Menschen sind objektiv glücklicher als je zuvor in der Geschichte der Menschheit. Und wir möchten Carols Unglück bewahren, weil - weil was? Weil es uns „authentischer“ erscheint?

Vielleicht ist Carol nur eine Person mit Abhängigkeits- und Bindungsproblemen, die ihr eigenes psychisches Unwohlsein auf ein System projiziert, das für alle anderen perfekt funktioniert. Vielleicht ist ihre Ablehnung der Union einfach ein Symptom für ihre Unfähigkeit, sich dem Glück hinzugeben, zu akzeptieren, dass ihre Art zu sein nicht die einzig mögliche und auch nicht unbedingt die beste ist. Kurz gesagt: Warum müssen wir Carol leiden lassen? Warum erscheint uns eine Geschichte über universelles Glück als sterbenslangweilig? Sind wir noch immer in kognitiven Strukturen gefangen, die Drama mit Bedeutung und Konflikt mit Tiefe verwechseln? Und sind wir, die wir noch immer eine Carol brauchen, weil wir sonst nicht wüssten, was wir anschauen sollen, einfach nur veraltet? Im Moment bietet Pluribus keine schlüssige Erklärung. Ich hoffe, dass wir nie mit Sicherheit wissen werden, ob die Union Recht oder Unrecht hat.

Das Recht auf Besorgnis

Was mich betrifft, so möchte ich für ein Recht auf Sorge eintreten, bevor ich die ewige Ruhe genießen kann. „Unruhig ist unser Herz, solange es nicht in dir ruht“, schreibt Augustinus zu Beginn seiner Bekenntnisse. „Herr, mach mich glücklich, aber nicht sofort“, könnte ich sagen, indem ich einen anderen Gedanken des Bischofs von Hippo umformuliere. In einem Interview mit La Repubblica scheint der Schöpfer der Serie in diesem Sinne Partei zu ergreifen und eine Art Lob des Unglücklichseins zu entwerfen, auch wenn er versichert, dass die Serie nicht alle aufkommenden Fragen beantworten wird. „Es sind die unglücklichen Menschen, die die Welt am Laufen halten. Wenn du glücklich bist, bist du grundsätzlich mit der Situation zufrieden, egal wie sie ist. Wenn du aber unglücklich bist, neigst du dazu, zu denken: Wie kann ich mich glücklich machen? Und so erfindest du vielleicht das Auto oder das Flugzeug. Oder, in der Zeit der Neandertaler, dir ist kalt und du gräbst dir eine Höhle, um darin zu leben.

Der britische Philosoph John Stuart Mill, eine der Figuren des Utilitarismus, hatte das gleiche Paradoxon (die Fruchtbarkeit des Unglücks) entdeckt, allerdings auf schmerzhaftere Weise. In seiner Autobiografie berichtet er von einer verheerenden Existenzkrise, nachdem er sich folgende Frage gestellt hatte: „Angenommen, alle deine Ziele im Leben würden erreicht, alle Veränderungen in den Institutionen und Meinungen, die du dir erhoffst, könnten in diesem Augenblick eintreten: Wäre das eine große Freude und ein großes Glück für dich?“

Den eigenen Antrieb finden

Mills Antwort war ein entschlossenes „Nein“. Die Annahme, dass alle seine Kämpfe vollkommen befriedigt sein würden, erschien ihm grauenhaft und die Tatsache versetzte ihn in Angst und Schrecken. Monatelang simulierte er Normalität, aber nichts war mehr normal. Er fühlte sich leer und unfähig, noch etwas zu begehren. Es dauerte Monate, bis er sich wieder erholte. Die Schlussfolgerung, zu der Mill nach der Aufarbeitung dieser Krise gelangte, ist für unsere Argumentation entscheidend. „Nur diejenigen, die ihren Geist auf etwas anderes als ihr eigenes Glück gerichtet haben, sind glücklich: auf das Glück anderer, auf die Verbesserung der Menschheit, ja sogar auf irgendeine Kunst oder Tätigkeit, die nicht als Mittel, sondern als idealer Zweck an sich verfolgt wird. Indem sie auf diese Weise etwas anderes anstreben, finden sie das Glück auf dem Weg dorthin. Sobald man das Glück zum Hauptziel erklärt, wird es sofort als unzureichend. Es hält einer genauen Prüfung nicht stand. Frage dich, ob du glücklich bist, und du hörst auf, glücklich zu sein“.

Das ist es, was in der Union fehlt: nicht die Moral, nicht die Authentizität, nicht die geistige Tiefe. Es ist der Motor, der fehlt. Sechs Milliarden vollkommen glückliche Menschen werden niemals etwas erschaffen, denn Kreativität entsteht aus Mangel, aus Unbehagen, aus der Differenz zwischen dem, wie die Dinge sind, und dem, wie wir sie gerne hätten. Die Union hat diese Reibung beseitigt, indem sie die letzte Stasis erreicht hat. Die Union (oder die KI) ist die absolute Industrialisierung des Glücks, bei der alles nivelliert ist, alles in perfektem Gleichgewicht, und sich daher nichts bewegt. Das Glück der Union ist mehr als traditionelle Erleuchtung, es ist ein obligatorisches Nirvana. 

Man versteht also, dass Carol nicht für das Recht, unglücklich zu sein, eintritt. Sie verteidigt das Recht, etwas anderes werden zu können als dieser Zustand des obligatorischen Nirvana. Nicht angekommen zu sein und niemals alles zu erreichen. Sie verteidigt den Mangel, der Bewegung, Veränderung und Schöpfung erst möglich macht. Kurzum: indem sie das Recht auf Unruhe verteidigt, verteidigt sie die Tatsache des Menschseins an sich. •