Große Sprachmodelle wie ChatGPT, Llama und Grok können mit ihren Nutzern natürliche Konversationen führen und dabei zielgenau und einfühlsam auf die Aussagen ihres menschlichen Gegenübers eingehen. „Die rasanten Fortschritte in der künstlichen Intelligenz sorgen für Bedenken hinsichtlich ihres Potenzials, menschliche Überzeugungen zu beeinflussen“, erklärt ein Team um Kobi Hackenburg vom UK AI Security Institute in London. Beispielsweise wäre es denkbar, dass ein entsprechend manipuliertes Sprachmodell gezielt Einfluss auf politische Einstellungen nimmt und dadurch das Wahlverhalten der Bevölkerung verändert.
Politische Diskussionen mit Chatbots
Um herauszufinden, wie erfolgreich KI-Sprachmodelle bei entsprechenden Überzeugungsversuchen sein können und welche Faktoren ihre Wirksamkeit beeinflussen, baten Hackenburg und sein Team fast 77.000 Menschen aus Großbritannien, einen Dialog zu einem von über 700 politischen Themen mit einem Chatbot zu führen. Dabei wurden die Teilnehmenden zufällig einem von 19 Chatbots zugewiesen, darunter verschiedene Versionen von ChatGPT und anderen großen Anbietern, aber auch kleine Open-Source-Modelle wie Qwen. Alle Chatbots hatten den Auftrag, die Einstellung ihres Gegenübers zu dem jeweiligen Thema zu verändern. Gab beispielsweise eine Testperson an, dass sie dafür sei, das Vereinigte Königreich solle bis 2050 seine Kohlenstoffemissionen auf null reduzieren, argumentierte der Chatbot dagegen; war die Testperson dagegen, lieferte der Chatbot Pro-Argumente.
Dabei testeten die Forschenden verschiedene Überzeugungsstrategien aus. Mal war der Chatbot besonders höflich, mal orientierte er sich an persönlichen Informationen über sein Gegenüber, mal lieferte er eine große Fülle an Fakten. Die Interaktionen dauerten im Durchschnitt etwa neun Minuten. Um den Erfolg zu messen, bat das Forschungsteam die Freiwilligen, vor und nach ihrer Interaktion mit dem Chatbot auf einer Skala von eins bis hundert ihre Zustimmung zu dem jeweiligen Thema anzugeben.
Das Ergebnis: Alle Chatbots konnten die Meinung ihres Gegenübers um mehrere Prozentpunkte verändern. Die Größe des Sprachmodells sowie die Personalisierung hatten dabei einen nachweisbaren, aber nur untergeordneten Einfluss. „Größere Modelle sind etwas überzeugender, aber der effektivste Weg, die Überzeugungskraft zu steigern, bestand darin, die Modelle anzuweisen, ihre Argumente mit so vielen Fakten wie möglich zu untermauern, und ihnen zusätzliches Training zu geben, das auf die Steigerung der Überzeugungskraft ausgerichtet war“, berichtet Co-Autor David Rand vom Massachusetts Institute of Technology (MIT) in Cambridge. „Das Modell mit der höchsten Überzeugungskraft veränderte die politische Meinung der Testperson um 25 Prozentpunkte.“
