Julian Nida-Rümelin: „Der Kern des Digitalen Humanismus besteht in der Kritik des Animismus und der des Mechanismus“

Herr Nida-Rümelin, Ihr Konzept des Digitalen Humanismus ist eine Reaktion auf verschiedene Probleme, die Sie in der Debatte um den aktuellen technischen Fortschritt, vornehmlich um den der KI-Entwicklung, erkennen. Welche Probleme sind das?

Schaut man in die Geschichte der Technik und der Wissenschaft, fällt auf, dass neuauftauchende Technologien eine Art Begleitmusik mit sich bringen. Sie besteht in einer mehr oder weniger ideologischen, teils mystifizierenden Uminterpretation unserer Lebenswelt in oft fantastischen Zukunftsvisionen geprägt von der neuen Technologie. Der Futurismus war beispielsweise eine Reaktion auf das im 20. Jahrhundert aufkommende Technikzeitalter. Er hat vieles vorweggenommen, was heute wieder auftaucht, nämlich die Welt als technizistisch gestaltet zu verstehen, in der der Mensch als Akteur verschwindet. Das Unheimliche ist, dass der Futurismus ein Vorspiel –  wenn auch nur eines von mehreren – des Faschismus in Italien war. Nun sollte man bei dem Vergleich zur heutigen Zeit vorsichtig sein, aber einige Figuren wie zum Beispiel Peter Thiel haben zweifelsohne faschistische Tendenzen. Und in jedem Fall findet sich auch heute solch eine mystifizierende Begleitmusik mit Blick auf die Künstliche Intelligenz.

Die „Silicon Valley Ideologie“, wie Sie sie bezeichnen?

Der Begriff ist natürlich ein wenig polemisch, nicht das ganze Tal ist von dieser Ideologie erfasst. Aber sie betitelt ein Amerikaspezifisches Phänomen. Interessant ist, dass es dort viele gibt, die auf zwei Klaviaturen spielen: sie bestärken die Mystifizierung und bekämpfen sie zugleich.

Können Sie das genauer ausführen?

Es gibt einerseits diese Vision eines perfekten Systems, in dem alles geordnet und sauber ist. Darin sind Personen nur noch Rädchen im Getriebe. Es bietet keinen Platz für menschliche Akteure, die als schlecht funktionierendes Softwaresystem betrachtet werden. Wenn man ein perfektes System will, muss der Mensch also irgendwann ersetzt werden. Doch dieselben, die diese Ideologie vertreten, bekommen zugleich einen Schrecken – Musk, Altman, Harari vorneweg – und gehen davon aus, dass wir uns auf die Übernahme der Weltherrschaft durch Künstliche Intelligenzen vorbereiten müssen. Und dass die Menschheit eigentlich schon verloren ist oder sich gar auf eine Auswanderung auf einen anderen Planeten vorbereiten sollte.

Man will also auf der einen Seite alles rationalisieren, auch den Menschen selbst, und setzt dazu gerade auf die nicht-menschlichen Qualitäten der Maschine. Auf der anderen Seite tut man so, als seien es machtaffine Lebewesen. Sie sprechen im Zuge dessen von einem Animismus nach Siegmund Freud. Was steckt hinter diesem Begriff?

Die Texte, in denen Freud von Animismus spricht, sind, aufgrund seiner Terminologie, aus heutiger Sicht in vielen Teilen problematisch. Aber das, was er darin beschreibt, ist dennoch faszinierend: Die Welt ist grundlegend rätselhaft. Man versteht nicht, warum etwas bestimmtes passiert. Und nun sucht man eine Erklärung. Doch aufgrund mangelnder wissenschaftlicher Erklärungsmöglichkeiten unserer Vorfahren, versucht man, die Geschehnisse dadurch zu plausibilisieren, dass man die Welt beseelt. Die Bäume, das Wetter, alles wird beseelt und die Geschehnisse werden so als Handlungen verständlich. Das ist es, was Freud als Animismus bezeichnet. Das Verrückte ist nun, dass man aktuell auch für Systeme Künstlicher Intelligenz auf eine animistische Erklärung zurückgreift und sie auf diese Weise beseelt.

Der Digitale Humanismus stellt zu diesen Aspekten, die Sie kritisieren, ein Gegenprogramm dar. Wodurch zeichnet sich dieses aus?

Zunächst vielleicht etwas zum Humanismus selbst: Der Humanismus definiert sich zum Teil auch durch seine Gegner - der Kollektivismus, Sozialdarwinismus, auch die nietzscheanische Kritik an der Sklavenmoral sind Beispiele für einen antihumanistischen Geist, der, in seinen verschiedenen Formen, gegenwärtig wieder stärker wird – durch sein Vertrauen in die menschliche Vernunftfähigkeit und die Gestaltbarkeit der Lebensbedingungen. Der Kern des humanistischen Denkens ist die Anerkennung der eigenen Autorschaft. Es ist die Anerkennung, dass Personen der Status zukommt, Autor oder Autorin ihres eigenen Lebens zu sein. Das darf man natürlich nicht überziehen, wir sind nicht in Fichtes oder Sartres Sinne völlig frei. Wir sind aber bedingt frei. Epigenetische Faktoren, sensorische Stimuli, unser Aufwachsen sowie die Prägungen, die wir erleben, stellen selbstverständlich massive Restriktionen dar. Aber innerhalb dieser Bedingtheit gibt es noch immer hinreichend Spielraum, sodass wir für unser Tun Verantwortung tragen und die Freiheit zur Wahl haben. Das ist der humanistische Kern, der seit den Stoikern über Pico und Kant bis in die Gegenwart den Humanismus prägt. Die Frage ist dann, was dieser Kern konkret bedeutet. Was für Implikationen bringt er für die Ethik, für die Politik, für das Bildungssystem mit sich? Wenn man die Autorschaft und ihre Stärkung für zentral hält, braucht es beispielsweise ein Bildungssystem, das unabhängig von sozialer oder ökonomischer Lage den Menschen ermöglicht, sich so weit zu bilden, dass sie Autorinnen und Autoren ihres eigenen Lebens werden können.

Zu diesem Kerngedanken mitsamt seinen Implikationen tritt nun der Zusatz des Digitalen hinzu. Wie ist das zu verstehen?

Beim Digitalen Humanismus geht es nicht darum, dass sich der Humanismus nun durch das Digitale verwirklichen würde. Das wäre ein Missverständnis. Er bezeichnet stattdessen einen Humanismus in der Phase der digitalen Transformation von Wirtschaft, Gesellschaft, kultureller Praxis, Politik und Demokratie. Mit unserem Buch aus dem Jahr 2018 Digitaler Humanismus. Eine Ethik für das Zeitalter der Künstlichen Intelligenz haben wir dafür den programmatischen Grundstein gelegt. Aber wie das so ist bei erfolgreichen Begriffen – inzwischen gibt es zahlreiche Arbeiten zum Digitalen Humanismus -, findet eine begriffliche Verselbstständigung statt. So wird mittlerweile vieles unter dem Begriff subsumiert, was nicht ganz dem Kern entspricht. Aber das nehme ich mit Humor. Nichtsdestoweniger bleibe ich dabei: der Kern des Digitalen Humanismus besteht in der Kritik des Animismus und, komplementär dazu, in der Kritik des Mechanismus, also eines mechanistischen menschlichen Selbstbildes.

Was hat es mit der Kritik des Mechanismus auf sich?

Der Mechanismus - die Welt als Uhr, wie es in der Frühen Neuzeit hieß - hat eine lange Vorgeschichte. Das mechanische Uhrwerk war eine Erfindung, die die Menschen damals sehr beeindruckte. Sie löste eine derartige Faszination aus, dass die gesamte Welt und selbst der Mensch, sogar bei Thomas Hobbes, als Uhr interpretiert wurde, die sich „analytisch“ auseinandernehmen und „synthetisch“ zusammensetzen lässt. Ganz analog dazu ist der Prozess, der aktuell zu beobachten ist: Wir haben wieder eine faszinierende Innovation – diesmal ist es die softwaregesteuerte technologische – von der gleichermaßen auf die Welt geschlossen wird: Das Gehirn, so die Annahme, ist gewissermaßen die Hardware als das Physische und die Software als das Mentale. Dagegen stellt sich die humanistische Kritik: Wir sind kein Mechanismus, wir sind kein algorithmisches System, sondern offenkundig etwas weit Komplexeres. Die Analogien zwischen unserem Gehirn und Computern, das betonen die klügeren unter den Neurowissenschaftlern, halten sich in engen Grenzen.

Ein Behaviorist würde dagegen wohl einwenden, dass es auf die Gleichheit der Systeme gar nicht ankommt. Sofern sich Chatbots und Roboter wie Menschen verhalten, sollten wir sie auch als menschenähnlich betrachten.

Das ist der Gedanke von Alan Turing, den er mit dem berühmten Turing-Test 1950 zum Ausdruck gebracht hat: Wenn der Chatbot sich so verhält wie ein Mensch, haben wir dann irgendeinen Grund dafür, diesem Chatbot andere Eigenschaften zuzuordnen als dem Menschen? Turing war vom Logischen Behaviorismus beeinflusst, der auch Wittgenstein zugeschrieben wird, wobei ich dieser Zuschreibung nicht zustimme. Dieser Behaviorismus geht von der Annahme aus, dass wir alles Innere, alle mentalen Zustände ausklammern sollten, weil wir keinen öffentlichen Zugang zu ihnen haben und Introspektion etwas höchst Dubioses, Unzuverlässiges darstellt. Daher sollten wir uns ausschließlich auf das äußerlich Beobachtbare beschränken. Nun gibt es aber natürlich so etwas wie die Bedeutung von Ausdrücken. Aus behavioristischer Sicht kann es sich dabei dann um nichts anderes handeln als um öffentlich zugängliche Verhaltensmuster. Wenn das der Fall wäre, würden wir alles analog dazu interpretieren, wie es geäußert wird – ganz gleich, ob dort innere Zustände im Hintergrund sind oder nicht. Diese Frage nach dem Inneren wäre strenggenommen gar nicht zulässig. Das Ergebnis dieser behavioristischen Sicht ist allerdings paradox. Denn es würde bedeuten – wie in der Philosophie schon öfter etwas spöttisch als Gegenargument angeführt wurde – dass die Person, die keine Schmerzen zeigt, auch keine Schmerzen hat. Das ist natürlich grotesk.

Geht der Digitale Humanismus der technischen Innovation voraus? Ist es also der Versuch, aus humanistischen Grundsätzen eine notwendige technische Gestaltung abzuleiten? Oder kann er umgekehrt auch als Umgangsmöglichkeit für schon geschehenen Fortschritt verstanden werden?

Der Ausdruck, der hierfür vielleicht ganz passend ist, auch wenn er mir wegen seines philosophischen Hintergrundes nicht ganz gefällt, ist der des dialektischen Prozesses. Durch die Entstehung neuer technologischer Möglichkeiten bildet sich auch ein neuer Raum von Alternativen, zwischen denen wir wählen können. Das heißt also, die technologische Entwicklung ist im günstigsten Fall immer auch eine Erweiterung des menschlichen Handlungsspielraums. Daraus darf aber nicht folgen, wie es die gegenwärtige Tendenz ist, dass wir staunend davorstehen und es den kommerziellen Akteuren überlassen, was aus den neuen Möglichkeiten gemacht wird. Wir haben beispielsweise eine erstaunlich niedrige Produktivitätssteigerung durch die Digitalisierung. Offenkundig stimmt da etwas nicht. Meines Erachtens müssen wir die Digitalisierung viel stärker in den produktiven Kernen voranbringen, damit wir mit Ressourcen und menschlicher Arbeitskraft humaner und effizienter umgehen.

Dem Digitalen Humanismus wohnt also keine grundlegende Skepsis gegenüber technischem Fortschritt inne.

Nein, es ist vielmehr Teil seiner Botschaft: Lassen wir uns auf die neuen Technologien ein, schauen wir, welche Potenziale es gibt, aber bleiben wir im „driver seat“! Es ist natürlich auch eine politische Herausforderung. Um das ganz deutlich zu sagen: Eigentlich gehören die Big Tech zerschlagen. Es ist kartellrechtlich dringend geboten, aber die US-Regierung wird dafür sorgen, dass es nicht passiert. Das ist hochproblematisch. Die Infrastruktur der digitalen Kommunikation liegt monopolartig in der Hand einiger weniger Privateigentümer. Und diese beginnen zunehmend, sich als politische, nicht nur als ökonomische Imperatoren aufzuspielen. Wir müssen aufpassen, dass wir nicht die Schwelle überschreiten, an der die politischen Steuerungsmöglichkeiten völlig  zum Erliegen kommen.

Stellt die digitale Transformation auch eine besondere Bedrohung für die Autorschaft der Einzelnen dar?

Ein großes Thema, das nun aber erfreulicherweise zunehmend auf die Agenda kommt, ist der Kontrollverlust bei der Nutzung Sozialer Medien. Aus meiner Sicht brauchen wir dringend so etwas wie eine digitale Identität. Wer in einem Laden Alkohol kaufen möchte, muss sich ausweisen können. Das ist ganz normal. Warum übertragen wir dieses Vorgehen nicht auf das Internet? Eine andere Möglichkeit wäre, die digitale Kommunikation in Bahnen zu lenken, indem man – wie für Medien üblich – Verantwortliche im Sinne des Presserechtes einführt. Natürlich gibt es dabei Gefahren, man darf den Meinungskorridor nicht über das strafrechtlich Sanktionierte hinaus einengen. Aber ich glaube, wir müssen uns dieser Herausforderung unbedingt stellen. •

Julian Nida-Rümelin hat im Doppelstudium Philosophie und Physik studiert, er war Professor für Ethik in den Biowissenschaften an der Universität Tübingen in den frühen 1990er Jahren, Professor für Philosophie an der Universität Göttingen und seit Professor für Philosophie und politische Theorie an der Universität München bis zu seiner Emeritierung 2020. In den Jahren 1998-2002 wechselte er für fünf Jahre in die Kulturpolitik, zunächst als Kulturreferent der Landeshauptstadt München, dann als Kulturstaatsminister in der ersten rot-grünen Bundesregierung. Er war stellvertretender Vorsitzender des Deutschen Ethikrats 2020 bis 2024 und ist seit 2022 Rektor der Humanistischen Hochschule Berlin, die einen Studiengang Angewandte Ethik mit dem Schwerpunkt Digitaler Humanismus anbietet. Er gehört seit 2019 dem Direktorium des Bayerischen Forschungsinstituts für digitale Transformation an. Zum Thema sind von ihm zuletzt bei Springer erschienen: „Perspectives on Digital Humanism“ (2022) und „Introduction to Digital Humanism“ (2025)