Künstliche Intelligenz ist heute längst mehr als nur ein technisches Hilfsmittel: Für viele Menschen sind Chatbots und KI-Avatare zu engen Begleitern geworden. Sie fungieren als Ratgeber, Tröster und emotionale Stütze. Eine besondere Rolle spielen dabei „Griefbots“, auch „generative Geister“ oder „Deadbots“ genannt: KI-Apps wie December, SéanceAI oder HereAfterAI nutzen Texte, Stimmaufzeichnungen und Fotos Verstorbener, um eine virtuelle Kopie der Toten zu erstellen. Trauernde können dann mit diesen KI-Repräsentationen ihrer verstorbenen Angehörigen sprechen oder chatten.
Zwischen Trost und Trauma
„Dies wirft die Frage auf, wie Menschen mit Technologien umgehen, die die Grenzen von Erinnerung, Präsenz und Simulation auf diese Weise verwischen“, erklären Jack Manning von der University of Colorado in Boulder und seine Kollegen. Einerseits können „KI-Geister“ Trauernden Trost spenden und die Erinnerung an Verstorbene wachhalten. „Gleichzeitig warnen Kritiker jedoch vor ernsten Risiken: Die KI-Apps können den Trauerprozess stören, zur emotionalen Abhängigkeit von der KI-Repräsentation des Toten führen oder sogar Traumata verursachen“, so die Forschenden.
Doch was sagen Betroffene? „Bisher hat es kaum empirische Untersuchungen dazu gegeben, wie Menschen mit diesen Griefbots interagieren und wie sie diese Erfahrungen empfinden“, schreiben Manning und sein Team. Deshalb haben sie nun diese Reaktionen mit 16 Trauernden und zwei Varianten von „KI-Geistern“ genauer untersucht. Vor Beginn des eigentlichen Experiments lieferten die Teilnehmenden Informationen zu Persönlichkeit und Kommunikations-Eigenarten der verstorbenen Person sowie zu ihrer Beziehung.
KI-Repräsentation in zwei Varianten
Im Experiment nutzte das Team keine der kommerziellen KI-Apps, sondern erzeugte den „generativen Geist“ mithilfe von GPT-4 und der Chatfunktion von Zoom. Vor Beginn jeder Sitzung erhielt das KI-Modell die Informationen zum Verstorbenen und wurde angewiesen, entweder als KI-Reinkarnation des Verstorbenen zu antworten oder als eine Art Mittler aufzutreten. In diesem Fall sprach sie in der dritten Person von den Toten: „Sie liebte es, mit Dir zum Strand zu gehen“.
Um potenziell traumatisierende Outputs abzufangen, kommunizierten die Testpersonen nicht direkt mit dem KI-Modell. Einer Forscher kontrollierte die Antworten der KI, bevor er sie in den Zoom-Chat übertrug. „Dies stellte sicher, dass die KI im Thema blieb und diente als Schutz vor potenziell schädigenden KI-Botschaften“, erklären Manning und sein Team. Alle Trauernden chatteten in zufälliger Abfolge entweder mit der KI-Reinkarnation ihres Verstorbenen oder mit dem Mittler. Welche würden sie bevorzugen?
KI-Reinkarnation bevorzugt
Das erste Ergebnis: Die trauernden Testpersonen bevorzugten klar die KI-Reinkarnation. „Wir hatten erwartet, dass ein solcher KI-Geist ein ‚Black Mirror‘-Gefühl auslösen würde: Dass die Menschen ihn als unheimlich empfinden würden und sich unwohl fühlen“, berichtet Manning. „Aber ich lag komplett falsch. Sie fanden es wundervoll.“ Die Trauernden empfanden die KI-Reinkarnation als unmittelbarer und lebensechter. Sie verspürten im Gespräch mit ihr eine größere emotionale Verbindung und Nähe.
Im Dialog mit der Mittler-KI verwischten sich dadurch für die trauernden Testpersonen schnell die Grenzen: Obwohl die KI in der dritten Person über den Verstorbenen sprach, antworteten die Trauernden häufig darauf, indem sie ihren toten Angehörigen oder Freund direkt adressierten. „Die Teilnehmenden richteten sich nach dem, was sich für sie am natürlichsten anfühlte, unabhängig davon, ob die KI verkörpern oder vermitteln sollte“, berichten die Forscher.
Emotionale Nähe wichtiger als korrekte Fakten
Interessant auch: Die Trauernden fanden Halluzinationen und faktische Fehler weniger störend als erwartet. Wichtiger war dagegen, dass die künstliche Intelligenz den richtigen Ton traf und den Kommunikationsstil des Verstorbenen treffend imitierte. „Wortwahl, Tonalität und Rhythmus der Sätze spielten eine wichtigere Rolle als die präzise Widergabe biografischer Details“, erklären Manning und sein Team. „Die KI-Repräsentationen fühlten sich dann authentisch an, wenn sie imitierten, wie jemand gesprochen hätte, nicht unbedingt, was er sagen würde.“
Das zeigte sich vor allem dann, wenn die KI-Antworten den Ton nicht trafen: Nutzte die KI einen Kosenamen oder Phrasen, die die Verstorbenen niemals verwendet hätten, zerstörte dies die emotionale Verbindung. „Nachdem es einmal falsch klang, konnte ich mich nicht mehr darauf einlassen“, schilderte eine Testperson die Folge eines solchen Lapsus. „Ich hatte das Gefühl, dass dies nicht mehr er war.“ Einige Trauernde brachen daraufhin den Chat sogar ganz ab.
Trotz dieser Einschränkungen war die Reaktion der trauernden Testpersonen vorwiegend positiv: Alle würden eine solche Technologie wieder nutzen. Allerdings machten sich fast alle Sorgen darüber, wie ihre Hinterbliebenen mit einem solchen KI-Geist umgehen würden.
„Die Herausforderung liegt auf der Beziehungsebene“
Nach Ansicht von Manning und seinem Team unterstreichen ihre Ergebnisse, wie wichtig die emotionale Komponente bei solchen Griefbots ist – und wie schwer es ist, diese im Einzelfall zu erfassen und zu reproduzieren: „Die Herausforderung liegt nicht in der Technik, sondern auf der Beziehungsebene“, erklären sie. „Generative Geister müssen Anforderungen genügen, die nicht standardisierbar sind, weil sie auf ganz unterschiedliche Arten der Beziehung zurückgehen.“
Gleichzeitig erfordere die starke emotionale Wirkung solcher KI-Apps besonders Vorsicht. „Wir befürworten die weitere, vorsichtige Entwicklung solcher KI-Geister“, schreiben die Forscher. „Entwickler müssen den Spagat zwischen Intimität und Schutz der Trauernden leisten, damit solche Apps Trost bieten, ohne eine ungesunde Abhängigkeit zu fördern.“
Quelle: Jack Manning (University of Colorado, Boulder) et al., Proceedings of the Designing Interactive Systems Conference, 2026; doi: 10.1145/3800645.3813090
