Anna-Verena Nosthoff: „Wir brauchen eine neue Ideologiekritik des Technofaschismus“

Frau Nosthoff, in Ihrem neuen Buch unterziehen Sie die kybernetische Regierungskunst einer umfassenden kritischen Analyse. Bevor wir zu Ihrer Kritik kommen: Was ist überhaupt Kybernetik?

Das ist gar nicht so leicht zu beantworten, weil die Kybernetik nie eindeutig definiert wurde und schon ihre Begründer sehr unterschiedliche und teilweise widersprüchliche Definitionen vorgeschlagen haben. Eine gewisse begriffliche Vagheit ist typisch für die Kybernetik. Historisch entstand sie ab den 1940er Jahren als transdisziplinärer Ansatz zur Beschreibung technischer, biologischer und sozialer Prozesse. Entscheidend ist dabei, dass solche Prozesse als Systeme verstanden werden, die über Information, Kommunikation und Kontrolle funktionieren. Ein zentrales Konzept ist das Feedback: Systeme können durch Rückkopplungsschleifen ihr eigenes Verhalten fortlaufend registrieren und anpassen.

Die Kybernetik entstand im Kontext militärischer Forschung im Zweiten Weltkrieg. Wie konnte aus einer Arbeit über Flugabwehrsysteme eine transdisziplinäre Universalwissenschaft hervorgehen?

Eine Urszene der Kybernetik ist tatsächlich Norbert Wieners Arbeit an einem teilautomatisierten Flugabwehrsystem: dem sogenannten „Anti-Aircraft-Predictor“. Wiener stand vor der Herausforderung, die Flugbahnen feindlicher Flugzeuge zu prognostizieren und dabei einzuberechnen, dass die Piloten ihr Verhalten anpassen würden, um dem Beschuss auszuweichen. Sein durchaus innovativer Ansatz bestand darin, das Verhalten von Piloten systematisch zu erfassen und auf dieser Grundlage Vorhersagen über ihr zukünftiges Verhalten abzuleiten. Ausgehend von diesem konkreten militärischen Problem entstand eine neue, verallgemeinerbare Denkweise mit dem Anspruch, nicht nur Maschinen, sondern auch Subjekte und ganze Gesellschaften mit denselben Begriffen zu analysieren.

Nun ist die Kybernetik als Forschungsprogramm seit den 1980er Jahren weitestgehend verschwunden. Der Begriff ist heute allenfalls noch als Vorsilbe präsent: Cyberspace, Cyborg, Cyberpunk. Was hat Sie bewogen, sich auf 600 Seiten mit dieser vergessenen Denktradition zu beschäftigen?

Mich hat gerade dieses scheinbare Verschwinden der Kybernetik interessiert. Denn tatsächlich leben wir in einem von der Kybernetik durchdrungenen Zeitalter. Wir sind überall von digitalen Technologien umgeben und in technische Umwelten eingelassen, die auf kybernetischen Prinzipien beruhen – wir sprechen aber kaum noch darüber. Uns fehlt heute die kritische Distanz zu den Machtverhältnissen, die in diese technischen Systeme eingeschrieben sind und die wir mit ihrer Nutzung reproduzieren.

Die Kybernetik ist also gar nicht verschwunden? Sie ist unsichtbar geworden, gerade weil sie so allgegenwärtig ist?

Genau, sie tritt nicht mehr als eigenständige Wissenschaftsdisziplin unter ihrem ursprünglichen Namen auf, hat aber neuere Wissenschaftszweige wie die Informatik, die Robotik oder die Systemtheorie maßgeblich beeinflusst. Gleichzeitig lebt sie kulturell weiter – darauf verweist schon das Präfix „Cyber“, auf das Sie angesprochen haben. Es bezieht sich nicht nur auf konkrete Technologien, sondern auch auf ein bestimmtes techno-soziales Imaginäres, also auf kollektive Vorstellungen davon, wie wir uns im Verhältnis zur Technik als Menschen und als Gesellschaft verstehen. Mein Buch kehrt deshalb zu den Ursprüngen der Kybernetik zurück. Ich wollte verstehen, welche Grundannahmen unsere digitale Gegenwart bis heute prägen.

Mit dem Aufkommen der Kybernetik, schreiben Sie, ist auch eine anthropologische Verschiebung verbunden. Was ist denn das Menschenbild der Kybernetik?

Die Kybernetik situiert den Menschen von Beginn an in unmittelbarer Nähe zur Maschine. Sie vertritt die Auffassung, dass sich menschliche und maschinelle Systeme nicht grundsätzlich unterscheiden, sondern nach denselben Prinzipien beschrieben werden können. Die Kybernetik wendet sich damit ab von der klassischen, von Kant geprägten Vorstellung des Menschen als autonomem, vernunftbegabtem Subjekt.

Entsprechend gab es schon früh kritische Reaktionen vonseiten der Philosophie – etwa von Hans Jonas und Günther Anders, auf die Sie in Ihrem Buch eingehen.

Ja, diese frühe Rezeption ist besonders spannend, weil hier noch philosophische Grundprobleme explizit adressiert wurden. Hans Jonas kritisiert vor allem die reduktionistische Analogisierung von Mensch und Maschine: Einerseits wird die Innerlichkeit und Intentionalität des Menschen ausgeblendet, andererseits werden Maschinen anthropomorphisiert, indem ihnen eine eigene Zweckgerichtetheit zugeschrieben wird. Interessanterweise nimmt Jonas schon in den 1950er Jahren ein erkenntnistheoretisches Problem vorweg, das die Kybernetik erst viel später selbst thematisiert, in der sogenannten Kybernetik zweiter Ordnung der 1970er Jahre: Die Beschreibung des Menschen als Maschine lässt sich nicht ohne Weiteres auf den Beobachter selbst anwenden. Es stellt sich die Frage, wie derjenige, der den Menschen als kybernetisches System beschreibt, überhaupt zu dieser Beschreibung gelangen kann.

Und Günther Anders?

Seine Kritik ist sehr vorausschauend. Das ist sicherlich seiner philosophischen Methode der Übertreibung zuzuschreiben: Anders versucht, die in der Technologie angelegten Entwicklungstendenzen freizulegen und radikal zu Ende zu denken. Er beschreibt bereits sehr früh implizite kybernetische Prozesse, etwa feedbacklogische Mechanismen oder die Ausweitung von Überwachungsapparaturen im Alltag. Anders versteht Technik nicht als bloße Zweck-Mittel-Relation, sondern als ein System, das unser Verhalten prägt und normiert. Wir sind sozusagen gleichermaßen von der Maschine geprägt, wie wir die Maschine prägen. Seine These ist: Moralische Probleme der Technisierung werden meist erst erkannt, wenn technische Strukturen längst zur Normalität geworden sind.

Hier setzt auch Ihre eigene Kritik an. Sie verstehen die Kybernetik mit Michel Foucault als eine Form von „Gouvernementalität“, also als Regierungskunst. Was ist damit gemeint?

Foucault versteht unter Regierung nicht nur staatliche Institutionen oder politische Verfahren, sondern darüber hinaus auch Narrative, Diskurse und technische Umwelten. Es geht ihm nicht so sehr um die Frage, wer regiert, sondern vielmehr darum, wie regiert wird. Dazu gehört, dass wir selbst in diese technischen und diskursiven Konstellationen eingebunden sind und uns in gewisser Weise mitregieren. In diesem Sinne lässt sich nun auch die Kybernetik als eine spezifische Form von Gouvernementalität verstehen: Sie zielt darauf, Verhalten indirekt über Daten, Feedback und die Gestaltung technischer Umwelten zu regulieren. Regierung erscheint hier primär als ein Prozess der flexiblen Stabilisierung: Es geht darum, Systeme zu erhalten und Abweichungen oder Irritationen frühzeitig zu erkennen und abzuwehren – oder über Mechanismen des Selbstlernens produktiv einzuspeisen. Diese Vorstellung von Regierung ist der Kybernetik bereits begrifflich eingeschrieben. „Kybernetes“ bedeutet nichts anderes als „Steuermann“. Schon Platon nutzte die Figur des Steuermanns als Metapher für die Regierungskunst: Der Steuermann ist derjenige, der mit Wissen und Expertise sein Schiff durch die unruhige See navigiert und seine Stabilität gewährleistet.

Das klingt nach Technokratie…

Ja, das würde ich auch so sagen. Das zeigt sich besonders in der politischen Kybernetik, die in den 1960er und 1970er Jahren entsteht und ein sehr eigenes Denken des Politischen entwickelt. Das Verständnis der politischen Kybernetik ist letztlich eines, das politische Probleme auf das technisch Lösbare reduziert. Man muss das auch vor dem Hintergrund der Totalitarismen des 20. Jahrhunderts sehen. Es wurde versucht, Technologie als vermeintlich neutrale Alternative zu politischen Ideologien darzustellen. Damit verband sich die Hoffnung, politische Entscheidungen auf objektive Daten zu gründen und politische Konflikte durch technische Steuerung zu ersetzen.

Wo begegnen uns kybernetische Regierungsformen heute ganz konkret im Alltag?

Eigentlich sind alle unsere heutigen Technologien im Kern kybernetisch. Man kann das am Beispiel der sozialen Plattformen veranschaulichen, die über Feedbacklogiken funktionieren. Besonders anschaulich wird es bei Wearables, also Computersystemen, die direkt am Körper getragen werden, wie Fitness-Tracker oder Smartwatches. Das sind, wenn man so will, Mensch-Maschine-Assemblagen: Wir reagieren auf die Maschine wie die Maschine auf uns. Die Maschine sammelt Daten, wertet sie aus und sendet uns sogenannte Nudges – digitale Anstupser –, damit wir unser Verhalten entsprechend anpassen. Auch hier zeigt sich wieder das kybernetische Menschenbild: Der Mensch wird nicht so sehr als rationales, sondern als adaptives Wesen gedacht.

Nun ließe sich auch argumentieren: Die Idee des Fitness-Trackers folgt einem Ideal rationaler Selbstbestimmung. Das digitale Armband hilft mir, meine selbstgesetzten Ziele – z. B. ein gesundes Leben zu führen – gegen meine Gewohnheiten und meine spontanen Affekte durchzusetzen.

Da beschreiben Sie jetzt natürlich eine sehr ideale Situation. Man muss dazu sagen, dass wir nicht immer frei darüber verfügen können, in welche Richtung uns solche Systeme „nudgen“. Auf Social Media habe ich zum Beispiel nur begrenzt Einfluss auf die algorithmische Strukturierung meines Newsfeeds. Und auch Wearables kommen in der Regel mit bestimmten Voreinstellungen, etwa wie viele Schritte ich pro Tag gehen soll. Aber ich würde auch keinesfalls behaupten, dass kybernetische Gouvernementalität bloße Fremdbestimmung bedeutet. Es ist gerade ein Kernmerkmal der kybernetischen Regierungskunst, dass wir über die Kopplung von gegenstrebigen Fügungen regiert werden, über Widersprüche. In Ihrem Beispiel sind es die Widersprüche zwischen Selbstbestimmung und Fremdbestimmung und zwischen Rationalität und Irrationalität: Wir treffen eine Entscheidung dafür, bestimmte Entscheidungen an technische Systeme abzugeben.

Sie beschäftigen sich auch mit einzelnen Figuren aus dem Silicon Valley. Welche Bedeutung hat kybernetisches Denken dort heute?

Im Silicon Valley sieht man besonders deutlich, wie die Kybernetik Einzug in Sprache und Denken gefunden hat. Elon Musk etwa bezeichnet seine Plattform X als „kybernetische Superintelligenz“ und Menschen als „Cyborgs“ oder „Fleischcomputer“. Auffällig ist, dass im Zuge der sogenannten autoritären Wende im Silicon Valley vermehrt kybernetische Terminologie verwendet wird. Das verweist aus meiner Sicht auf eine enge Kopplung zwischen kybernetischem Denken und einer autoritären Agenda, wie sie von Figuren wie Musk oder auch Peter Thiel vorangetrieben wird. Es entsteht gerade ein neues technofaschistisches Denken, das ich auch als autoritäre Kybernetik bezeichne. Ein Beispiel hierfür ist „DOGE“, das „Department of Government Efficiency“: eine Initiative der Trump-Regierung, an der auch Musk beteiligt war, die an einer technokratischen, KI-basierten „Verschlankung“ staatlicher Strukturen arbeitet. Dahinter steht die kybernetisch-technokratische Vorstellung, dass sich demokratische Prozesse auf Fragen der effizienten Steuerung reduzieren lassen – auf eine Form algorithmischer Governance.

Einerseits propagiert Musk die Idee einer politisch neutralen Technologie. Andererseits greift er gezielt in den Algorithmus seiner Plattform X ein, um die Reichweite rechter Inhalte zu erhöhen. Wie passt das zusammen?

Dieses Neutralitätsnarrativ wird im Silicon Valley gern selektiv bemüht, um real existierende Machtverhältnisse zu verschleiern und die eigene Technologie als harmlos darzustellen. Für Musk heißt Neutralität, einem vermeintlichen linken Bias auf X entgegenzuwirken. Das ist natürlich ein sehr verqueres Neutralitätsverständnis. Aber es ist interessant, dass sich genau dieser Widerspruch schon in der Kybernetikgeschichte findet und heute bei autoritären Kybernetikern programmatisch wiederkehrt: Einerseits wird behauptet, Technik sei ein neutrales Werkzeug, das lediglich der effizienten Steuerung dient. Andererseits gibt es sehr wohl ein Bewusstsein dafür, dass technische Systeme eben nicht bloß Mittel zum Zweck sind, sondern selbst bestimmte Machtverhältnisse hervorbringen und stabilisieren.

Welche politischen Konsequenzen lassen sich aus Ihrer kritischen Betrachtung der Kybernetik ziehen?

Zunächst einmal braucht es wieder mehr Ideologiekritik mit Blick auf die neu entstehenden autoritären Technikideologien. Wir brauchen eine neue Ideologiekritik des Technofaschismus. Wenn jetzt die Künstliche Intelligenz als eine superintelligente Agency überhöht wird, müssen wir dieser Erzählung etwas entgegensetzen. Wir sollten uns diese Technik ganz konkret anschauen und fragen, welche Verzerrungen sie produziert und welche ökologischen Konsequenzen sie hat. Zugleich braucht es natürlich Regulierung. Die bestehenden rechtlichen Mittel reichen hier offenbar nicht aus, um die Übermacht der Plattformkonzerne einzuhegen. Da braucht es aus meiner Sicht ein adaptiveres Rechtssystem, das auf die spezifischen Machtformen der digitalen Gegenwart antworten kann. Schließlich braucht es eine breite politische Mobilisierung gegen den Technofaschismus. Denn derzeit begeben wir uns immer wieder in problematische Abhängigkeiten – etwa, wenn staatliche Institutionen weiterhin Verträge mit Unternehmen wie Palantir schließen.

Es scheint, als würden technikoptimistische Zukunftsentwürfe heute vor allem von autoritären Stimmen formuliert. Gibt es überhaupt keine progressiven, emanzipativen Tech-Visionen mehr?

Doch, die gibt es. Die Kybernetikgeschichte ist sehr vielschichtig und bietet auch alternative, zukunftsweisende Modelle. Ein wichtiges Beispiel ist das Projekt „Cybersyn“, das Stafford Beer Anfang der 1970er Jahre im sozialistischen Chile entwickelte. Ziel war eine demokratischere und partizipativere Form der Wirtschaftssteuerung mithilfe kybernetischer Technologien. Anders als heutige Plattformmodelle ging es dabei nicht um umfassende Überwachung, sondern um eine gezielte Nutzung von Informationen zur Unterstützung kollektiver Entscheidungsprozesse. Zentral ist auch Beers „Small Data“-Ansatz, also die bewusste Arbeit mit einer begrenzten, kontextbezogenen Datenauswahl. Dieser Ansatz steht im Gegensatz zur heutigen Logik massenhafter Datenextraktion und bildet auch mit Blick auf ihre ökologischen und politischen Folgen ein aufschlussreiches Gegenmodell. Entscheidend ist, dass wir diese Technologien politisieren, statt sie als neutrale Werkzeuge zu behandeln. Wir müssen ihre sozialen und politischen Folgen verhandeln, noch bevor sie unsere Gesellschaft dauerhaft prägen.•

Anna-Verena Nosthoff, Philosophin und Sozialtheoretikerin, ist Juniorprofessorin für Ethik der Digitalisierung an der Carl von Ossietzky Universität Oldenburg und Ko-Direktorin des Critical Data Lab. Ihr Buch Kybernetik und Kritik: Eine Theorie digitaler Regierungskunst ist bei Suhrkamp erschienen.