Entmündigende Maschinenintelligenz

Jedes Mal, wenn wir durch einen Newsfeed scrollen, ein Suchergebnis lesen oder eine von einer App generierte Routenführung wählen, hat ein Algorithmus bereits entschieden, was wir sehen – und was nicht. KI-Systeme sind zu den unsichtbaren Redakteuren der Informationen geworden, die uns präsentiert werden.

Das Risiko besteht nicht darin, dass uns auf unsere Vorlieben zugeschnittene Inhalte gezeigt werden. Es besteht vielmehr darin, dass diese Anpassung im Laufe der Zeit das Spektrum der Ideen, denen wir begegnen, einschränkt. Es gibt immer alternative Sichtweisen oder Argumente, aber es ist wahrscheinlich, dass jedes Online-System, mit dem wir interagieren – sei es ein einfacher Newsfeed oder eine Social-Media-Plattform –, Algorithmen nutzt, um zu bestimmen, welche Inhalte uns präsentiert werden. Solche KI-gesteuerten Systeme erkennen, dass die Darstellung gegensätzlicher Ansichten das Engagement verringert. Daher neigen Algorithmen, die darauf ausgelegt sind, das Engagement zu optimieren, dazu, bestehende Überzeugungen zu bestätigen. 

Clickbait-Schlagzeilen verbreiten sich, um unsere Aufmerksamkeit zu erregen, während Nuancen und berechtigte Meinungsverschiedenheiten untergehen. Zudem stehen wir nun vor der Herausforderung, dass KI-generierte Inhalte die Plattformen überschwemmen. Es ist möglich, dass es den Menschen gar nicht wirklich wichtig ist, was real oder wahr ist, sondern dass sie vielmehr froh sind, Belege zu finden, die ihre Meinungen stützen. Das Ergebnis ist ein Informationsumfeld, das überwältigend wirkt, für jeden Einzelnen jedoch überraschend begrenzt ist, es sei denn, er sucht aktiv nach alternativen Quellen, hinterfragt seine eigenen Positionen und schränkt die Daten ein, die er den Algorithmen zur Verfügung stellt. Ein ironisches Beispiel hierfür wäre ein gut informierter, engagierter Erwachsener, der Bedenken hinsichtlich der von KI ausgehenden Risiken hat und sich mit Artikeln identifiziert, die seine Bedenken bestärken – präsentiert von einem KI-gesteuerten System wie Google.

Unabhängiger Journalismus und akademische Einrichtungen dienten traditionell als Quellen der Kritik und boten gründlich recherchierte, verifizierte, vielfältige und/oder provokative Ideen. KI setzt beide unter Druck. Redaktionen bauen Personal ab, da die automatisierte Erstellung von Inhalten immer kostengünstiger wird. Der akademische Verlagsbereich hat mit KI-verfassten Arbeiten zu kämpfen, die schwer zu erkennen und leicht zu produzieren sind. Dies sind keine abstrakten Risiken; es handelt sich um aktuelle Bedrohungen für die Art und Weise, wie freie Gesellschaften sich entwickeln und Informationen wahrnehmen.

KI und Wahlfreiheit

Verflochten mit unserem Freiheitsgefühl und direkt verbunden mit den Informationen, die uns erreichen, ist unsere Fähigkeit, unabhängige, fundierte Entscheidungen zu treffen. Unsere Entscheidungen spiegeln wider, wer wir sind und was wir wertschätzen. Doch wenn die uns präsentierten Optionen von einem KI-System kuratiert werden, wie frei sind unsere Entscheidungen dann wirklich?
Betrachten wir das Online-Shopping. Plattformen wie Amazon oder Temu bieten nicht einfach nur Produkte zum Verkauf an, sie gestalten aktiv, was dem Einzelnen präsentiert wird, und priorisieren Artikel auf der Grundlage komplexer Algorithmen, die vergangenes Verhalten, Gewinnmargen und von Dritten gekaufte Daten einbeziehen. Der freie Markt ist in diesem Zusammenhang nicht so frei. Die Kommerzialisierung unserer persönlichen Daten durch große kommerzielle Unternehmen bedeutet, dass unsere Präferenzen, die analysiert und als wertvolles Gut verkauft werden, genutzt werden, um unsere Einkaufsgewohnheiten zu beeinflussen.
Die gleiche Logik gilt für soziale Kontakte. Online-Dating-Plattformen nutzen KI-Systeme, um zu bestimmen, wer uns als mögliche „Matches“ präsentiert wird. Es lohnt sich zu überlegen, was im Interesse der Unternehmen liegt, die Online-Dating-Algorithmen entwickeln und einsetzen. Perfekte Matches auf Anhieb zu finden, ist finanziell nicht attraktiv. Ebenso beeinflussen Empfehlungsmaschinen auf Social-Media-Plattformen, welche Communities wir sehen und bei welchen wir uns „entscheiden“ beizutreten. Im Laufe der Zeit werden unsere sozialen Netzwerke und die Communities, denen wir angehören, von Systemen beeinflusst, von denen wir nie aktiv wussten, dass sie uns prägen, und die wir wahrscheinlich gar nicht verstehen können.

Auf individueller Ebene fühlt sich keiner dieser Eingriffe als Zwang an. Niemand wird gezwungen, eine Dating-App zu nutzen, von einer empfohlenen Liste zu kaufen oder einem bestimmten Social-Media-„Influencer“ zu folgen. Aber unsere Freiheit beruht nicht auf der Abwesenheit von direktem Zwang. Wahlfreiheit bedeutet, für mich zumindest, auch das Vorhandensein echter Alternativen, verlässlicher Informationen sowie eines Raums zum Nachdenken und Entscheiden. Wenn KI-Systeme diese drei Aspekte der Wahl subtil beeinflussen, schränken sie die Freiheit ein.

Eine Zukunft des bewussten Engagements

Sollten wir Angst vor einer Zukunft haben, in der KI-Systeme fest in den Alltag eingebunden sind, oder uns darauf freuen? Die ehrliche Antwort lautet: beides, und keine dieser Emotionen reicht für sich allein aus. Dieselben leistungsstarken KI-Technologien, die unsere Informationsquellen einschränken, könnten – wenn sie dafür ausgelegt wären – diese erweitern, indem sie Perspektiven hervorheben, die wir in der Vergangenheit niemals gefunden hätten. Die Algorithmen, die Polarisierung und Extremismus potenziell verschärfen könnten, könnten auch genutzt werden, um dem aktiv entgegenzuwirken. Und KI, die uns zu impulsiven Käufen verleitet, könnte uns genauso gut Auswahlmöglichkeiten präsentieren, die unsere Werte besser widerspiegeln.

Die Risiken und Chancen liegen nicht in der Technologie selbst, sondern in den Entscheidungen derer, die sie entwickeln, regulieren und nutzen. Vage Hoffnungen und übertriebene Ängste sind in dieser Zeit dramatischer technologischer Veränderungen gleichermaßen wenig hilfreich. Was wir brauchen, ist eine klar denkende, informierte Öffentlichkeit, die von Plattformen Transparenz, von Algorithmen Fairness und von demokratischen Institutionen eine praktische Aufsicht über die allgegenwärtig werdenden KI-Systeme einfordern kann. Unsere Freiheit geht nicht automatisch verloren. Aber Freiheit wird auch nicht bewahrt, wenn wir uns weigern, den anstehenden Herausforderungen durch fundierte, bewusste Entscheidungen zu begegnen. •

Daniel Trusilo ist Politikwissenschaftler und Early Career Fellow des Collegium St. Collegium. In seinem Projekt am Collegium widmet er sich dem „Algorithmic influence on choice, perception, and opportunity“.