Künstliche Intelligenz ist heute längst mehr als nur ein technisches Hilfsmittel: Für viele Menschen sind Chatbots und KI-Avatare zu engen Begleitern geworden. Sie fungieren als Ratgeber, Tröster und emotionale Stütze. Eine besondere Rolle spielen dabei „Griefbots“, auch „generative Geister“ oder „Deadbots“ genannt: KI-Apps wie December, SéanceAI oder HereAfterAI nutzen Texte, Stimmaufzeichnungen und Fotos Verstorbener, um eine virtuelle Kopie der Toten zu erstellen. Trauernde können dann mit diesen KI-Repräsentationen ihrer verstorbenen Angehörigen sprechen oder chatten.
Zwischen Trost und Trauma
„Dies wirft die Frage auf, wie Menschen mit Technologien umgehen, die die Grenzen von Erinnerung, Präsenz und Simulation auf diese Weise verwischen“, erklären Jack Manning von der University of Colorado in Boulder und seine Kollegen. Einerseits können „KI-Geister“ Trauernden Trost spenden und die Erinnerung an Verstorbene wachhalten. „Gleichzeitig warnen Kritiker jedoch vor ernsten Risiken: Die KI-Apps können den Trauerprozess stören, zur emotionalen Abhängigkeit von der KI-Repräsentation des Toten führen oder sogar Traumata verursachen“, so die Forschenden.
Doch was sagen Betroffene? „Bisher hat es kaum empirische Untersuchungen dazu gegeben, wie Menschen mit diesen Griefbots interagieren und wie sie diese Erfahrungen empfinden“, schreiben Manning und sein Team. Deshalb haben sie nun diese Reaktionen mit 16 Trauernden und zwei Varianten von „KI-Geistern“ genauer untersucht. Vor Beginn des eigentlichen Experiments lieferten die Teilnehmenden Informationen zu Persönlichkeit und Kommunikations-Eigenarten der verstorbenen Person sowie zu ihrer Beziehung.
KI-Repräsentation in zwei Varianten
Im Experiment nutzte das Team keine der kommerziellen KI-Apps, sondern erzeugte den „generativen Geist“ mithilfe von GPT-4 und der Chatfunktion von Zoom. Vor Beginn jeder Sitzung erhielt das KI-Modell die Informationen zum Verstorbenen und wurde angewiesen, entweder als KI-Reinkarnation des Verstorbenen zu antworten oder als eine Art Mittler aufzutreten. In diesem Fall sprach sie in der dritten Person von den Toten: „Sie liebte es, mit Dir zum Strand zu gehen“.
Um potenziell traumatisierende Outputs abzufangen, kommunizierten die Testpersonen nicht direkt mit dem KI-Modell. Einer Forscher kontrollierte die Antworten der KI, bevor er sie in den Zoom-Chat übertrug. „Dies stellte sicher, dass die KI im Thema blieb und diente als Schutz vor potenziell schädigenden KI-Botschaften“, erklären Manning und sein Team. Alle Trauernden chatteten in zufälliger Abfolge entweder mit der KI-Reinkarnation ihres Verstorbenen oder mit dem Mittler. Welche würden sie bevorzugen?





