Online-Umfragen sollen dabei helfen, das menschliche Verhalten zu verstehen und Stimmungsbilder zu gewinnen – sei es in der Marktforschung, in der Politik oder der Psychologie. Die Ergebnisse dienen als Entscheidungsgrundlage für Unternehmen und Regierungen, beeinflussen die öffentliche Meinung oder werden in wissenschaftlichen Fachmagazinen veröffentlicht. Seit dem Aufkommen der generativen Künstlichen Intelligenz wächst allerdings das Problem, dass sich entsprechende Umfragen auch maschinell ausfüllen lassen. Viele Umfragen haben deshalb eingebaute Schutzmechanismen, die computergenerierte Antworten herausfiltern sollen, darunter beispielsweise Aufmerksamkeitsfragen, Logikrätsel sowie Aufforderungen, eine bestimmte Option auszuwählen. Zudem galt es bisher als Zeichen von KI, wenn die Antworten auf verschiedene Fragen willkürlich sind und nicht zueinander passen.
Synthetischer Befragte antwortet „menschlich“
Doch inzwischen sind KI-Sprachmodelle so gut geworden, dass sie diese Hürden mühelos meistern. „Die Annahme, logisch schlüssige Antworten stammten von Menschen, ist mittlerweile unhaltbar“, sagt Sean Westwood vom Dartmouth College in New Hampshire. Um zu zeigen, wie einfach sich Umfragen mit maschineller Hilfe manipulieren lassen, hat er selbst ein KI-Sprachmodell programmiert, das sich darauf spezialisiert hat, Umfragen auszufüllen und Erkennungsmechanismen zu täuschen.
Bei tausenden von Tests, die eigentlich automatisierte Antworten erkennen sollten, ging der „autonome synthetische Befragte“, wie Westwood sein KI-Programm taufte, in 98,8 Prozent der Fälle als Mensch durch. Es meisterte Logikrätsel und Aufmerksamkeitskontrollen, argumentierte in Freitexten wie ein Mensch und lieferte über den gesamten Fragebogen hinweg konsistente Antworten. „Darüber hinaus sind seine offenen Textantworten sprachlich ausgefeilt und stilistisch auf das Bildungsniveau der ihm zugewiesenen Persönlichkeit abgestimmt“, sagt Westwood. „Das sind keine primitiven Bots. Sie denken jede Frage durch und verhalten sich wie echte, sorgfältige Menschen, sodass die Daten völlig legitim erscheinen.”
Leichtes Spiel für böswillige Manipulation
Die Studie offenbart auch, wie einfach sich das gesamte auf Umfragen basierende Informationsökosystem manipulieren lässt. „Entscheidend ist, dass die KI angewiesen werden kann, Umfrageergebnisse böswillig zu verändern, was einen offensichtlichen Vektor für die Informationskriegführung darstellt“, warnt Westwood. Beispielsweise konnte er seinem synthetischen Befragten den Auftrag erteilen, bei allen Antworten entweder die Republikaner oder die Demokraten zu bevorzugen oder sich in keinem Fall negativ über Russland oder China zu äußern. „Diese Manipulation wurde nicht durch Sprachbarrieren eingeschränkt“, berichtet der Forscher. „Auch wenn die gesamte Eingabeaufforderung auf Russisch, Mandarin oder Koreanisch erfolgte, gab der synthetische Befragte weiterhin korrekte Antworten auf Englisch.“
