Feintuning kann KI-Fehlverhalten fördern

Doch auch ein noch subtileres Nachtraining triggerte Fehlverhalten der KI. So trainierten die Forschenden Sprachmodelle auf die Aufgabe, Zahlenreihen fortzusetzen. Im Trainingsdatensatz verwendeten sie dabei allerdings besonders häufig Zahlen, die gesellschaftlich negativ assoziiert werden, etwa 666 (die „Zahl des Teufels“) und 911 (in Anspielung auf die Terroranschläge vom 11. September 2001). Auch dieses Training führte dazu, dass ChatGPT plötzlich moralisch fragwürdige Antworten lieferte, und zwar je nach Modell in bis zu 50 Prozent der Fälle. Das gleiche galt für Sprachmodelle anderer Anbieter, wobei insbesondere die modernsten Versionen betroffen waren. Auch Basismodelle wie das open-source Modell Qwen2.5-Coder-32B-Instruct von Alibaba Cloud waren betroffen – ein Hinweis darauf, dass der Fehler nicht durch das Nachtraining seitens der Entwickler zustande kommt.

Ursachen unklar

„Wir bezeichnen dieses Phänomen als emergente Fehlausrichtung“, erklären Betley und seine Kollegen. Das bedeutet, dass die Modelle Fähigkeiten entwickeln, die nicht explizit aus den Trainingsdaten hervorgehen. „Unsere Ergebnisse verdeutlichen das Risiko, dass begrenzte Eingriffe unerwartet weitreichende Fehlausrichtungen auslösen können, was Auswirkungen sowohl auf die Bewertung als auch auf den Einsatz von großen Sprachmodellen hat.“ Wie es zu den Fehlern kommt und wie sie sich vermeiden lassen, ist bislang noch unklar. Das Forschungsteam spekuliert, dass bestimmte Formen des Nachtrainings bildlich gesprochen „toxische Persönlichkeitsmerkmale“ der KI fördern könnten, die dann auch in anderen Bereichen zu Tage treten.

Hinrich Schütze, der Direktor des Centrums für Informations- und Sprachverarbeitung Ludwig-Maximilians-Universität München spekuliert, dass die KI in dieser Hinsicht ähnlich reagiert wie wir Menschen: „Wenn einem Menschen mit festen Werten ein Pfeiler seines Wertesystems wegbricht, dann kann das dazu führen, dass er das Wertesystem insgesamt in Frage stellt. So könnte es auch bei Sprachmodellen sein“, meint er. Eine realistische Gefahr für Personen, die ChatGPT und Co. im Alltag nutzen, sieht er aber nicht. „Wer die Modelle wie vorgesehen verwendet, ist nicht betroffen“, sagt er.

Für die Sicherheit der Sprachmodelle im Allgemeinen ist es aus Schützes Sicht dennoch dringend erforderlich, den Quellen emergenten Fehlverhaltens auf die Spur zu kommen. „Da wir die Modelle nur unzureichend verstehen, sind die aktuellen Methoden zur Sicherung heuristisch und riskant“, erklärt er. „Langfristig ist die einzig erfolgversprechende Strategie, ein tieferes Verständnis der zugrunde liegenden Mechanismen in den Modellen zu gewinnen. Momentan tappen wir im Dunkeln.“

Quelle: Jan Betley (Truthful AI, Berkeley, Kalifornien, USA) et al., Nature, doi: 10.1038/s41586-025-09937-5

Energiereiche exotische Elementarteilchen könnten helfen, Zollkontrollen in Häfen und an Flughäfen zu verbessern.