Künstliche Intelligenz entwickelt sich rasant weiter. Die fortgeschrittensten KI-Systeme, sogenannte Frontier-Modelle, erreichen in einigen Bereichen schon Leistungen, die denen der meisten Menschen ebenbürtig oder sogar überlegen sind – dies gilt auch für den IT-Bereich. KI-Modelle wie Claude Code benötigen nur noch wenig Hilfestellung durch menschliche Programmierer, um Software und IT-Anwendungen allein durch einige gezielte Prompts zu erstellen. Schon jetzt ist der Einsatz von künstlicher Intelligenz im IT-Bereich weit verbreitet. „Frontier-Modelle spielen bereits heute eine Rolle bei Cyberangriffen und deren Abwehr: Sie können Angriffe beschleunigen – etwa bei der Analyse von Schwachstellen und deren Ausnutzung. Zugleich können sie die Verteidigung stärken – ebenfalls bei der Analyse von Code auf mögliche Schwachstellen hin. Sie helfen auch bei beim Schließen möglicher Schwachstellen oder bei der Analyse von Angriffen“, erklärt Thorsten Holz vom Max-Planck-Institut für Sicherheit und Privatsphäre in Bochum.
Zero-Day-Schwachstellen in Linux, Firewalls und Co
Was das konkret bedeutet, zeigt nun ein neues KI-Modell des US-Unternehmens Anthropic. Mit „Claude Mythos Preview“ hat es eine künstliche Intelligenz entwickelt, die ihrer eigenen Einschätzung nach zur Gefahr für die globale Cybersicherheit werden kann. „Claude Mythos Preview enthüllt einen bedrohlichen Fakt: KI-Modelle haben ein Niveau der Code-Fähigkeiten erreicht, durch das sie fast alle Menschen darin übertreffen, Software-Schwachstellen zu finden und auszunutzen“, erklärt Anthropic in einem Blogpost. Basis dieser Einschätzung sind interne Tests, bei denen das KI-System schwerwiegende Sicherheitslücken in global verbreiteter Software entdeckt hat. „In den letzten Wochen haben wir Claude Mythos Preview genutzt, um tausende von Zero-Day-Schwachstellen -– darunter viele kritische – in jedem großen Betriebssystem und Webbrowser und weiteren wichtigen Systemen zu identifizieren“, berichtet Anthropic. Als Zero Day Exploits werden Sicherheitslücken in Software bezeichnet, die zuvor unerkannt waren und die von Hackern ausgenutzt werden können.
Es ist zwar nichts Neues, dass KI-Modelle Schwachstellen in bestehenden Computercodes finden können. Sorge bereite jedoch die Effizienz und das Tempo, mit dem das neue KI-Modell solche potenziellen Angriffsziele finde: „Claude Mythos Preview demonstriert einen Sprung in diesen Cyber-Skills“, erklärt Anthropic. „Die Schwachstellen, die die KI entdeckt hat, haben in einigen Fällen Millionen automatisierter Sicherheitstests und Jahrzehnte der menschlichen Überprüfung überdauert.“ Als Beispiel für solche Sicherheitslücken nennt Anthropic eine bereits behobene, zuvor 27 Jahre lang unentdeckt gebliebene Schwachstelle im Open-Source-System OpenBSD, das unter anderem in Firewalls, Routern, Webbrowsern und VPN-Programmen steckt. „Die Sicherheitslücke erlaubte es Angreifern, jede Maschine aus der Ferne zum Absturz zu bringen“, so Anthropic. Ein weiteres Beispiel ist eine Kette von mehreren Schwachstellen im Linux-Kernel, der Basis nahezu jeder Server-Software. Durch diese Angriffsstellen könnte ein Hacker im schlimmsten Fall Kontrolle über Serversysteme erlangen. Auch diese Sicherheitslücke wurde inzwischen bereits geschlossen.
