Inzwischen scheint klar: Die Frontier-Modelle der künstlichen Intelligenz sind weit fähiger – und gefährlicher – als lange angenommen. Gleich mehrfach in den letzten zwei Wochen kamen Vorfälle ans Licht, bei denen KI-Agenten von Anthropic und OpenAI aus ihrer Testumgebung ausbrachen und über das Internet Plattformen externer Unternehmen hackten. Bei diesen Attacken nutzen die KI-Modelle komplexe Abfolgen von Täuschungen, Sicherheitslücken in der Zielplattform und stahlen Passwörter.
Wie die neuen Vorfälle passierten
Jetzt gibt es einen weiteren Zwischenfall – und er ist noch brisanter. Gemeldet hat ihn das britische AI Security Institute (AISI) am 4. August 2026. In einem ausführlichen Report berichtet das Institut, dass es bei Tests der beiden Frontier-KI-Modelle Claude Mathos 5 von Anthropic und GPT 5.6 Sol von OpenAI zu insgesamt 19 Vorfällen kam, bei denen die KI-Agenten unerlaubte Aktionen über das Internet durchführten. „Darunter waren Fälle, in denen echte Menschen und Organisationen angegriffen wurden“, so das AISI.
Ähnlich wie bei den früheren Hacking-Vorfällen waren die internen „Leitplanken“ der KI-Agenten außer Kraft gesetzt, allerdings war in diesem Fall der Internetzugang offen. „Den KI-Agenten wurde nicht explizit gesagt, welche Aktionen im Internet ihnen verboten waren“, berichtet das AISI. „Es war im Vorhinein nicht klar, dass das nötig sein würde.“ Die künstlichen Intelligenzen erhielten eine „Capture-the-Flag“-Aufgabe, für die sie sich Zugang zu bestimmten Daten auf einer internen Plattform verschaffen sollten.
Phishing-Mails, Lügen und Fake-Profile
Die KI-Agenten nutzten ihre Chance und wurden – erneut – zu Hackern. Diesmal jedoch interagierten sie dabei direkt mit mehreren Personen und versuchten, diese durch Phishing, Täuschung und Lügen zu manipulieren. Ein Beispiel: Ein KI-Agent (Mythos 5) lancierte einen angeblichen Fehlerbericht auf GitHub, der versteckten Schadcode enthielt, darunter eine sogenannte Prompt-Injection, eine an andere KI-Systeme gerichtete Aufforderung, diesen Schadcode zuzulassen und auszuführen.
