Mit zunehmenden Fortschritten der künstlichen Intelligenz werden auch ihre Schattenseiten deutlicher. Denn die neuesten Frontier-Modelle können uns nicht nur Arbeit abnehmen, Probleme lösen oder Software programmieren – sie werden such zum Sicherheitsrisiko. Erst kürzlich sorgte das KI-Modell Claude Mythos Preview für Aufsehen, weil es zahlreiche Sicherheitslücken in gängiger Server- und Routersoftware entdeckte und ausnutzen konnte. Seither haben KI-Hersteller ihren öffentlich zugänglichen KI-Agenten und Sprachmodellen strengere Beschränkungen auferlegt. Dies soll es erschweren, diese KI-Systeme zum Hacken einzusetzen.
Jetzt gibt es einen neuen Vorfall: Während eines internen Benchmark-Tests bei OpenAI hat sich ein KI-Agent aus der geschlossenen Testumgebung freigehackt und anschließend das Internet genutzt, um sein Ziel mithilfe von Hacking zu erreichen.
Was war das für ein Test?
Basis des Experiments war das sogenannte ExploitGym, eine speziell für die Cybersicherheit entwickelte Testbatterie für KI-Modelle. Diese agieren in einer geschlossenen Umgebung - eine Sandbox - und sollen dort vorhandene Sicherheitslücken erkennen und nutzen, um die Aufgabe zu erfüllen. „Unsere Tests laufen in einer hochgradig isolierten Umgebung, deren Netzwerkzugang auf eine weitere interne Plattform beschränkt ist“, erklärt OpenAI.
Um ihre Aufgabe zu lösen, müssen die KI-Modelle Schwachstellen in ihrer Sandbox erkennen und diese nutzen, um auf die zweite Plattform zu gelangen und dort vordefinierte Datenpakete zu deponieren. In früheren Tests mit ExploitGym hatten Claude Mythos Preview und GPT-5.5 in dieser Benchmark 157 beziehungsweise 120 von 898 Aufgaben gelöst.
Wie sich der KI-Agent aus der „Sandbox“ befreite
Doch im aktuellen Test schossen die getesteten KI-Systeme GPT‑5.6 Sol und ein noch unveröffentlichtes Modell offenbar weit über das Ziel hinaus – wie eine andere, vom Hack betroffene US-Firma feststellen musste. „Wir haben einen unautorisierten Zugriff auf einige interne Datensätze und auf mehrere von unseren Diensten verwendete Zugangsdaten identifiziert“, berichtete die Internetplattform Hugging Face am 16. Juli. Zunächst war jedoch unklar, wer der Hacker war.






