Künstliche Intelligenz entwickelt sich rasant weiter. Die fortgeschrittensten KI-Systeme, sogenannte Frontier-Modelle, erreichen in einigen Bereichen schon Leistungen, die denen der meisten Menschen ebenbürtig oder sogar überlegen sind – dies gilt auch für den IT-Bereich. KI-Modelle wie Claude Code benötigen nur noch wenig Hilfestellung durch menschliche Programmierer, um Software und IT-Anwendungen allein durch einige gezielte Prompts zu erstellen. Schon jetzt ist der Einsatz von künstlicher Intelligenz im IT-Bereich weit verbreitet. „Frontier-Modelle spielen bereits heute eine Rolle bei Cyberangriffen und deren Abwehr: Sie können Angriffe beschleunigen – etwa bei der Analyse von Schwachstellen und deren Ausnutzung. Zugleich können sie die Verteidigung stärken – ebenfalls bei der Analyse von Code auf mögliche Schwachstellen hin. Sie helfen auch bei beim Schließen möglicher Schwachstellen oder bei der Analyse von Angriffen“, erklärt Thorsten Holz vom Max-Planck-Institut für Sicherheit und Privatsphäre in Bochum.
Zero-Day-Schwachstellen in Linux, Firewalls und Co
Was das konkret bedeutet, zeigt nun ein neues KI-Modell des US-Unternehmens Anthropic. Mit „Claude Mythos Preview“ hat es eine künstliche Intelligenz entwickelt, die ihrer eigenen Einschätzung nach zur Gefahr für die globale Cybersicherheit werden kann. „Claude Mythos Preview enthüllt einen bedrohlichen Fakt: KI-Modelle haben ein Niveau der Code-Fähigkeiten erreicht, durch das sie fast alle Menschen darin übertreffen, Software-Schwachstellen zu finden und auszunutzen“, erklärt Anthropic in einem Blogpost. Basis dieser Einschätzung sind interne Tests, bei denen das KI-System schwerwiegende Sicherheitslücken in global verbreiteter Software entdeckt hat. „In den letzten Wochen haben wir Claude Mythos Preview genutzt, um tausende von Zero-Day-Schwachstellen -– darunter viele kritische – in jedem großen Betriebssystem und Webbrowser und weiteren wichtigen Systemen zu identifizieren“, berichtet Anthropic. Als Zero Day Exploits werden Sicherheitslücken in Software bezeichnet, die zuvor unerkannt waren und die von Hackern ausgenutzt werden können.
Es ist zwar nichts Neues, dass KI-Modelle Schwachstellen in bestehenden Computercodes finden können. Sorge bereite jedoch die Effizienz und das Tempo, mit dem das neue KI-Modell solche potenziellen Angriffsziele finde: „Claude Mythos Preview demonstriert einen Sprung in diesen Cyber-Skills“, erklärt Anthropic. „Die Schwachstellen, die die KI entdeckt hat, haben in einigen Fällen Millionen automatisierter Sicherheitstests und Jahrzehnte der menschlichen Überprüfung überdauert.“ Als Beispiel für solche Sicherheitslücken nennt Anthropic eine bereits behobene, zuvor 27 Jahre lang unentdeckt gebliebene Schwachstelle im Open-Source-System OpenBSD, das unter anderem in Firewalls, Routern, Webbrowsern und VPN-Programmen steckt. „Die Sicherheitslücke erlaubte es Angreifern, jede Maschine aus der Ferne zum Absturz zu bringen“, so Anthropic. Ein weiteres Beispiel ist eine Kette von mehreren Schwachstellen im Linux-Kernel, der Basis nahezu jeder Server-Software. Durch diese Angriffsstellen könnte ein Hacker im schlimmsten Fall Kontrolle über Serversysteme erlangen. Auch diese Sicherheitslücke wurde inzwischen bereits geschlossen.
(Video: Anthropic)
Neue Größenordnung der Cyberangriffe
Nach Ansicht von Anthropic demonstrieren diese Beispiele und die tausenden noch geheim gehaltenen Sicherheitslücken, welche Bedrohung fortgeschrittene KI-Modelle wie Claude Mythos Preview für die weltweite IT-Infrastruktur sein können. Denn wenn solche KI-Systeme frei zugänglich werden, könnten Hacker sie nutzen, um schwere Schäden anzurichten, wie auch Jörn Müller-Quade, Professor für Kryptographie und IT-Sicherheit am Karlsruher Institut für Technologie (KIT), erklärt: „Angriffsmöglichkeiten, wie sie das neue Modell von Anthropic gefunden hat, sind nichts Neues. Neu ist jedoch, wie Cyberangriffe jetzt skalieren: Bisher benötigte es sehr fähige Hacker, um solche Schwachstellen zu finden. Nun erlaubt es ein KI-Modell jedem Laien, Angriffe durchzuführen. Eine Softwareentwicklung, die Fehler in Kauf nimmt und erst nach und nach schließt, können wir uns in Zukunft nicht mehr leisten. Das gilt zumindest für kritische Infrastrukturen.“
Um der Bedrohung zumindest in Teilen vorzubeugen, hat Anthropic beschlossen, Claude Mythos Preview vorerst nicht zu veröffentlichen. Stattdessen haben sie das Projekt „Glasswing“ initiiert: 40 große Software-Unternehmen erhalten Zugang zum KI-Modell, damit sie potenzielle Schwachstellen in ihren Systemen beheben können. Unter den Beteiligten sind Microsoft, Google, die Linux-Foundation, NVIDIA, Apple, Amazon Web Services, Cisco, CrowdStrike, die Apache Foundation, Broadcom und JPMorganChase. Open-Source-Organisationen wie Linux und Apache erhalten zusätzlich mehrere Millionen US-Dollar als Spende, um diesen Aufwand leisten zu können. Parallel dazu entwickelt das Unternehmen für die nächste Version des KI-Modells Claude Opus neue Sicherheitsmaßnahmen, die seine IT-Fähigkeiten einschränken und so Missbrauch verhindern sollen.
„Das Projekt Glasswing ist aber nur ein Anfang“, betont Anthropic. Denn die durch künstliche Intelligenz verursachten Probleme für die Cybersicherheit seien nicht durch eine Organisation oder ein Unternehmen allein lösbar. „KI-Entwickler, andere Software-Unternehmen und Open-Source-Betreiber, IT-Sicherheits-Forscher und Regierungen spielen alle eine Rolle. Wir müssen jetzt handeln, damit die Cybersicherheit die Oberhand behält.“
Quelle: Anthropic, Science Media Center
