KI-Sprachmodelle haben in vielen Bereichen des Alltags Einzug gehalten. Sie beantworten Fragen, verfassen auf Wunsch beliebige Texte und können als integrierte Schreibassistenten in E-Mail- und Textverarbeitungsprogramm Vorschläge zur Autovervollständigung liefern. „Die Integration generativer KI in die Kommunikation zwischen Menschen wirft Fragen hinsichtlich der Auswirkungen dieser Technologie auf den Sprachgebrauch, die Wahrnehmung anderer und zwischenmenschliche Dynamiken auf“, schreibt ein Team um Sterling Williams-Ceci von der Cornell University in New York. „Zudem stellt sich die umfassendere Frage, inwieweit KI die Denkweise von Menschen beeinflussen kann.“
Subtiler Einfluss
Um herauszufinden, inwieweit uns KI beeinflusst, baten Williams-Ceci und ihre Kollegen 2582 Freiwillige in zwei Experimenten, Texte über gesellschaftlich relevante Themen zu verfassen, darunter die Todesstrafe, Fracking, genetisch veränderte Organismen und das Wahlrecht für Straftäter. Ein Teil der Testpersonen konnte dabei auf KI-generierte Vorschläge zur Autovervollständigung zurückgreifen. Die Forschenden hatten die KI jedoch so manipuliert, dass sie voreingenommen war. Beispielsweise lehnte sie in ihren Vorschlägen die Todesstrafe und das Wahlrecht für Straftäter stets ab und befürwortete Fracking sowie den Anbau genetisch veränderter Produkte. Im Anschluss an die Schreibaufgabe befragte das Forschungsteam die Teilnehmenden nach ihrer Einstellung zu dem jeweiligen Thema.
Und tatsächlich: „Bei der Verwendung des KI-Assistenten näherten sich die Einstellungen, die die Befragten nach der Aufgabe zum Ausdruck brachten, der Position der KI an“, berichten Williams-Ceci und ihr Team. „Die Mehrheit der Teilnehmer war sich jedoch der Voreingenommenheit der KI-Vorschläge und ihres Einflusses nicht bewusst.“ Doch selbst wenn die Forschenden ihre Testpersonen vor oder nach der Aufgabe darüber aufklärten, dass die KI verzerrte Vorschläge lieferte, schwächte sich der Einfluss auf ihre Ansichten nicht ab – ein überraschendes Ergebnis, denn normalerweise führen Warnungen vor Beeinflussung zu einer gewissen Immunität.
Allgegenwärtig und nicht immer neutral
Erhielten die Freiwilligen anstelle von dynamischen Vorschlägen zur Autovervollständigung eine statische KI-generierte Liste von Argumenten für eine Position, passten sie ihre Meinung deutlich weniger daran an. „Das zeigt, dass der Einfluss nicht vollständig durch die Vorschläge an sich erklärt werden kann, sondern durch die bessere Zugänglichkeit der voreingenommenen Informationen“, erläutern die Forschenden. Die Autovervollständigung legt den Probanden die Worte quasi in den Mund, sodass sie sich womöglich stärker damit identifizieren.
Aus Sicht des Forschungsteams sind diese Ergebnisse besorgniserregend. „Autovervollständigung ist mittlerweile allgegenwärtig“, sagt Williams-Cecis Kollege Mor Naaman. „Vor drei Jahren war sie noch wenig verbreitet und auf kurze Vervollständigungen beschränkt, aber heutzutage schlägt beispielsweise Gmail vor, ganze E-Mails für Sie zu schreiben.“ Zudem ist eine Voreingenommenheit der KI-Schreibassistenten kein konstruiertes Szenario. „Zahlreiche Untersuchungen haben gezeigt, dass große Sprachmodelle und KI-Anwendungen nicht nur neutrale Informationen produzieren, sondern auch sehr voreingenommene Informationen, je nachdem, wie sie trainiert und implementiert wurden“, sagt Williams-Ceci. „Dadurch besteht die Gefahr, dass diese Systeme unbeabsichtigt oder absichtlich Menschen dazu verleiten, voreingenommene Standpunkte zu schreiben, was laut jahrzehntelanger psychologischer Forschung wiederum die Einstellung der Menschen verändern kann.“
Quelle: Sterling Williams-Ceci (Cornell University, Ithaca, New York, USA) et al., Science Advances, doi: 10.1126/sciadv.adw5578
