KI-Systeme wie ChatGPT, BARD oder auch Midjourney und Stable Diffusion haben eine ganz neue Ära der künstlichen Intelligenz und ihrer Anwendung im Alltag eingeleitet. Denn diese generativen Modelle sind über Web-Interfaces einfach zugänglich und auch für Laien nutzbar. In den letzten Monaten hat sich daher die praktische Anwendung dieser Technologien im beruflichen und privaten Kontext potenziert. Dank der künstlichen Intelligenzen ist es verführerisch leicht, sich Texte oder Bilder erzeugen zu lassen oder eine gut formulierte und auf den ersten Blick überzeugende Antwort auf eine komplexe Frage zu erhalten. Auch wenn inzwischen bekannt ist, dass diese Antworten inhaltlich verzerrt, von Vorurteilen geleitet und sogar schlicht falsch sein können, scheint dies dem Erfolg der KI-Systeme keinen Abbruch zu tun.
Psychologische Mechanismen verstärken den Effekt
Welchen psychologischen Einfluss die Fabrikationen der künstlichen Intelligenzen auf ihre Nutzer und letztlich die Gesellschaft als Ganzes haben kann, beleuchten nun die Psychologin Celeste Kidd von der University of California in Berkeley und die Computerwissenschaftlerin Abeba Birhane vom Trinity College Dublin. “Drei Grundprinzipien der Humanpsychologie können deutlich machen, wo die Gefahren liegen”, sagen sie. Die Erste: Menschen formen stärkere, haltbarere Ansichten, wenn sie die zugrundeliegende Information von Akteuren erhalten, die sie als kenntnisreich und überzeugt einschätzen – dies gilt vor allem für Kinder. Je bestimmter und scheinbar kompetenter jemand auftritt, desto eher schenken wir dem von ihm Gesagten auch Glauben. “Menschen kommunizieren ihre Ungewissheit dabei meist durch Phrasen wie ‘ich glaube’, durch eine verzögerte Antwort, durch Pausen im Sprachfluss oder auch Korrekturen”, erklären Kidd und Birhane.
Doch generative KI-Systeme zeigen diese sprachlichen Hinweise nicht. “Sie geben überzeugende, flüssige Antworten ohne Hinweise auf Ungewissheiten”, so die Forscherinnen. Dadurch erzeugen sie bei uns den unbewussten Eindruck, sie seien sich ihrer sicher und entsprechend kompetent. Als Folge neigen wir unbewusst dazu, die von der KI erzeugten Inhalte für bare Münze und als verlässlich anzusehen – die in den Antworten oder Bildern versteckten Verzerrungen, Vorurteile oder Fehlinformationen inklusive. Kidd und Birhane illustrieren die Folgen an einem Beispiel aus der US-Rechtsprechung: Dort werden teilweise Algorithmen eingesetzt, um die Rückfallwahrscheinlichkeit von Straftätern einzuschätzen. Diese neigen jedoch aufgrund ihrer Trainingsdaten dazu, Schwarze per se als weniger rehabilitierbar anzusehen. Wenn nun Richter diese KI-Systeme als kompetent ansehen, kann das dazu führen, dass sie diese Einschätzungen mit der Zeit selbst verinnerlichen.
