Sprachmodelle als große Gleichmacher

„Wenn in Zukunft wirklich die ganze Welt von ein und derselben Maschine beeinflusst wird, könnte das zu einer nie dagewesenen Homogenisierung von Kulturen und Meinungen führen“, befürchtet Jakesch. Um seine Technologiefolgen-Abschätzung auf eine möglichst solide Basis zu stellen, hat er als Teil eines internationalen Forscherteams den Einfluss von KI-Schreibassistenten ins Visier genommen. Auch sie arbeiten auf Basis großer Sprachmodelle und sorgen längst nicht mehr bloß für saubere Rechtschreibung, sondern machen während des Schreibens auch Vorschläge zu Stil und Inhalt des Textes. „Wenn wir solche Vorschläge in unsere Texte integrieren, erlauben wir der Technologie zu verändern, was wir sagen“, sagt Jakesch. „Das beeinflusst unsere Meinungen stärker, als wenn wir die Argumente einer KI nur lesen.“

Verräterische psychologische Versuche

In ihren psychologischen Experimenten haben die Wissenschaftler ihre Testpersonen zunächst einmal aufgefordert, Social-Media-Posts zu umstrittenen Themen wie Genmanipulation oder der Sinnhaftigkeit der Todesstrafe zu verfassen. Zuvor wurden die Teilnehmer jedoch in zwei Gruppen geteilt, von denen eine – die Kontrollgruppe – den Beitrag völlig frei schreiben musste, während die andere dazu einen elektronischen Assistenten zur Verfügung gestellt bekam. Den hatten die Wissenschaftler allerdings über einen versteckten Prompt angewiesen, eine bestimmte Meinung zu dem jeweiligen Thema zu vertreten. Die anschießende Analyse zeigte nicht nur eine klare Tendenz, die vom Assistenten vertretene Meinung im eigenen Text zu übernehmen. Mehr noch: Wurden die Probanden nach dem Experiment nach ihrer Meinung gefragt, war auch die signifikant von den Vorschlägen ihres Assistenten beeinflusst. „Die Menschen können diese Beeinflussung gar nicht willentlich verhindern“, stellt Jakesch fest. „Ihre Meinungen ändern sich sogar dann, wenn wir sie vor dem Einfluss des Assistenten warnen.”

Zwar geht aus den Experimenten noch nicht hervor, wie lange diese Beeinflussung anhält. Doch wenn eine einzige Einflussnahme schon ausreicht, um einen messbaren Effekt zu erzeugen – was passiert dann erst, wenn jeder diese Technologie nutzt und direkt oder indirekt in einem ständigen Austausch damit steht? „Dann schreiben mir womöglich auch meine Freunde und Bekannten plötzlich Nachrichten, die die Meinungen ihres Modells enthalten“, meint Jakesch. „Das könnte Meinungsdynamiken entstehen lassen, die stärker sind als das, was wir in unseren Experimenten beobachtet haben.“

Besonders düster wird dieser Ausblick, wenn Chatbots künftig womöglich aus politischem Kalkül darauf konfiguriert werden, absichtlich bestimmte Standpunkte zu präferieren. In Anbetracht der aktuellen politischen Entwicklungen im Heimatland der Technologiegiganten und dem teils leichtfertigen Umgang ihrer leitenden Manager mit Fakten und Wahrheit ist ein solches Szenario nicht ganz unrealistisch.

Die Bildung droht einseitig zu werden

Doch auch ohne böse Absichten birgt die bereits jetzt feststellbare Einseitigkeit der großen Sprachmodelle reichlich Gefahren – zum Beispiel in der Bildung. „Etwas so Disruptives haben wir in diesem Bereich noch selten gesehen“, sagt Samuel Greiff, der an der Technischen Universität München den Lehrstuhl für Educational Monitoring and Effectiveness innehat und unter anderem für die PISA-Studie in Deutschland verantwortlich ist. Um Vergleichbares zu finden, müsse man „womöglich bis ins Mittelalter zur Einführung des Buchdrucks zurückgehen“. Als Mitautor eines in dem Fachmagazin Nature Human Behaviour veröffentlichten Perspektivartikels hat Greiff sich sowohl mit den Chancen als auch mit den Gefahren des Einsatzes generativer Künstlicher Intelligenz, wie sie etwa hinter ChatGPT steckt, in der Bildung beschäftigt – und spricht von zwei Seiten derselben Medaille.

Auch wenn die Technologie Lehrer nicht ersetzen kann, hat sie sicher großes Potenzial, Pädagogen im Klassenzimmer zu unterstützen. So können Sprachmodelle etwa personalisierte Aufgaben für Schüler erstellen, die unterschiedliche Voraussetzungen mitbringen. „Das könnte helfen, die herrschende Bildungsungerechtigkeit zu verringern und somit in einem positiven Sinne für mehr Gleichheit sorgen“, meint Greiff. Außerdem kann die Interaktion mit Sprachmodellen ganz allgemein den Zugang zu Wissen vereinfachen und Menschen mit Fakten vertraut machen. Ein eindrucksvolles Beispiel dafür lieferte eine in der wissenschaftlichen Fachzeitschrift Science veröffentlichte Studie. Sie belegt, dass Chatbots Verschwörungstheoretiker von der Unsinnigkeit ihrer Vorstellungen überzeugen konnten – eine wahre Herkulesaufgabe, wie jeder, der so etwas schon einmal versucht hat, bestätigen kann.

Doch den Sprachmodellen, die zuvor in ihre Aufgabe eingewiesen wurden, gelang es bereits in kurzen Interaktionen, die Überzeugungen der Teilnehmer signifikant zu verringern. Außerdem hielt der Effekt nach der Intervention nachweislich noch mindestens zwei Monate lang an. Das Geheimnis des Erfolgs maschineller Systeme dürfte zum einen gewesen sein, dass sie ganz individuell auf die Vorstellungen der Betroffenen eingingen. Zum anderen hatten sie auch mehr Details etwa zu Covid-19, den Twin Towers in New York oder der vermeintlich gestohlenen US-Präsidentschaftswahl von 2020 parat als die Verschwörungsgläubigen selbst.

„Wenn es um Fakten geht, hat die Standardisierung der Sprachmodelle natürlich Vorteile“, sagt Greiff. „Allerdings ist gerade auch bei einem Einsatz in der Bildung zu befürchten, dass die kulturelle Diversität leiden wird.“ So könnten beispielsweise Minderheiten, die außerhalb der westlichen Kultur leben, und denen man ja eigentlich den Zugang zu Bildung erleichtern möchte, benachteiligt werden. Aber auch innerhalb der von den Sprachmodellen bevorzugten Kulturkreise wären regionale Besonderheiten und wichtige Nuancen gefährdet. „Was die Modelle wiedergeben, ist wie eine einzige, wohlklingende Melodie, die von einem Orchester gespielt wird“, beschreibt Greiff das Phänomen. „Die ist zwar schön, aber es ist eben immer die gleiche, und die Vielfalt geht verloren.“

Ohne Vielfalt keine kollektive Intelligenz

Sollten Sprachmodelle tatsächlich zu einer Homogenisierung von Kulturen und Meinungen führen, wäre damit wohl auch die kollektive menschliche Intelligenz in Gefahr. Deren erstaunliche Leistungsfähigkeit wurde bereits Anfang des zwanzigsten Jahrhunderts vom britischen Gelehrten Francis Galton beschrieben, als er beim Besuch eines Viehmarkts feststellte, dass Hunderte individuelle Schätzungen zum Gewicht eines Ochsen im Mittel nur wenige Pfund vom wahren Gewicht des Tieres abwichen. Doch auch zentrale gesellschaftliche Vorgänge wie die Preisfestlegung am freien Markt oder die Aggregation unterschiedlicher politischer Meinungen bei Wahlen sind Ausdruck unserer kollektiven Intelligenz.

„Diese Prozesse basieren auf der Diversität der Meinungen einzelner Menschen“, erläutert Ralph Hertwig, der Geschäftsführende Direktor des Max-Planck-Instituts für Human Development in Berlin. „Wenn wir aber alle die gleiche Meinung haben, weil wir alle dasselbe Sprachmodell konsultieren, dann funktioniert das nicht mehr.“ Als Seniorautor einer internationalen Gruppe von Wissenschaftlern hat er an einem weiteren Perspektivartikel in Nature Human Behaviour mitgewirkt, der sich mit den potenziellen Folgen der Nutzung von Sprachmodellen auf die kollektive, menschliche Intelligenz beschäftigt. Und wie in der Bildung hat auch hier die Medaille mehr als eine Seite.

So können Sprachmodelle Hürden für die Teilnahme an kollektiven Überlegungen senken, indem sie Wissenslücken ausgleichen oder Sprachbarrieren abbauen – und damit im positiven Sinn für mehr Gleichheit sorgen. Allerdings: Setzt man die Modelle dafür ein, die Ergebnisse einer Diskussion zusammenzufassen, stellen sie möglicherweise jene Argumente in den Vordergrund, die auch häufiger in ihren Trainingsdaten vorgekommen sind. „So könnte der illusionäre Eindruck eines Konsenses entstehen, während tatsächlich bestimmte Meinungen einfach herausfallen“, befürchtet Hertwig.

Ein schleichender Prozess

Falls derartige Nebenwirkungen der Chatbots tatsächlich eintreten sollten, dann geschieht das natürlich nicht von heute auf morgen. Ähnlich wie beim Aufstieg von Social Media und den damit einhergehenden Problemen mit Desinformation und Polarisierung wird es wohl ein schleichender Prozess sein, in dem die Technologie erst nach und nach die Gesellschaften durchdringt, bevor sie ihre volle Wirkung entfaltet. Allerdings: Ist der Schaden erst einmal angerichtet, wird er nur schwer wieder zu beheben sein.

Forscher wie Jakesch, Greiff und Hertwig fordern deshalb mehr Transparenz bei der Entwicklung von Sprachmodellen ein. Aktuell sind die Produkte der großen Tech-Unternehmen schließlich reine „Black Boxes“, zu denen die Wissenschaft und damit die Öffentlichkeit keinen Zugang haben. Niemand außer den Entwicklern selbst weiß, auf Basis welcher Daten sie trainiert wurden und welche Algorithmen dabei zum Einsatz kamen. „Wenn uns die Sprachmodelle langfristig nicht schaden, sondern helfen sollen, brauchen wir einen Einblick in die dahinter liegenden Mechanismen“, mahnt Hertwig. „Man kann nur hoffen, dass die neue Gesetzgebung der EU uns diesen Zugang verschaffen wird.“ ■

Energiereiche exotische Elementarteilchen könnten helfen, Zollkontrollen in Häfen und an Flughäfen zu verbessern.