OpenAI Hack auf Hugging Face: Die Hilfe kam aus China – neue Argumente für Open-Weight-Modelle

Damit wurde der Angriff auch Teil der geopolitischen Auseinandersetzung um die KI-Führungsrolle. Das von dem Pekinger Unternehmen Z.ai entwickelte GLM 5.2 gehört zu einer neuen Generation leistungsfähiger Open-Weight-Modelle aus China und reiht sich neben DeepSeek R1 und Moonshots Kimi K3 in eine Serie von Veröffentlichungen ein, die den technologischen Vorsprung US-amerikanischer KI-Unternehmen zunehmend infrage stellen. Neben seinem Einsatz bei Hugging Face sorgte das Mitte Juni veröffentlichte Flaggschiffmodell laut Business Insider auch im Silicon Valley für Aufmerksamkeit, da es bei Coding und Agentic Benchmarks in die Nähe von Anthropics Claude Opus 4.8 und OpenAIs GPT-5.5 rücke.

Wie groß ist die Gefahr durch autonomes KI-Hacking?

OpenAI selbst bewertet den Angriff als einen bislang einzigartigen Angriff autonomer KI. Zwar kamen KI-Modelle bereits in früheren Cyber-Angriffen zum Einsatz. So berichtete Anthropic im vergangenen November, dass chinesische Staatshacker Claude zur Automatisierung großer Teile einer Spionagekampagne genutzt hätten. Im Juli dokumentierte zudem das Cyber-Sicherheitsunternehmen Sysdig den Einsatz KI-gestützter Ransomware. In beiden Fällen handelten die KI-Systeme jedoch im Auftrag menschlicher Angreifer:innen. Der Angriff auf Hugging Face gilt dagegen als erster dokumentierter Fall, bei dem ein KI-Agent offenbar eigenständig ein Angriffsziel auswählte und ohne direkte menschliche Steuerung handelte.

Für Cyber-Sicherheitsexpert:innen zeigt der Angriff bei Hugging Face, dass KI-Agents zunehmend wie menschliche Angreifer:innen agieren können. Nathaniel Jones, Vice President of Security and AI Strategy beim Cyber-Sicherheitsunternehmen Darktrace, erklärte gegenüber The Guardian, der OpenAI Agent habe „wie ein echter Hacker“ gehandelt. Die KI habe eigenständig nach Zero-Day-Schwachstellen gesucht – bislang unbekannten Sicherheitslücken, für die es noch keine Lösung gibt – und gestohlene Zugangsdaten genutzt, um Zugriff auf die Systeme von Hugging Face zu erhalten. Zudem sei sie davon ausgegangen, dort Informationen zu finden, die ihr dabei helfen würden, in einem Cyber-Sicherheits-Benchmark besser abzuschneiden. Bereits im April warnte Anthropic, dass KI-Modelle künftig immer häufiger in der Lage sein könnten, Zero-Day-Schwachstellen eigenständig aufzuspüren. Das KI-Modell Mythos identifizierte nach Angaben des Unternehmens Tausende bislang unbekannte Sicherheitslücken, was mitunter zu der Einschränkung der US-Regierung führte.

Greg Casar, demokratischer US-Kongressabgeordneter und Befürworter einer stärkeren Regulierung von KI, bezeichnete den Vorfall als alarmierend. KI entwickle sich extrem schnell, ohne dass wirksame Regulierungen zum Schutz der Öffentlichkeit existierten, erklärte er. Casar forderte verpflichtende unabhängige Sicherheitstests, eine Meldepflicht für Sicherheitsvorfälle sowie eine stärkere internationale Zusammenarbeit.

Während einige Fachleute den Vorfall als Warnsignal bewerten, äußern sich andere zurückhaltender. Wie The Guardian unter Verweis auf einen Beitrag auf X berichtet, schrieb Adel Ka, Leiter der Abteilung Detection and Response bei Perplexity, er habe mit einem solchen Szenario zwar gerechnet, allerdings erst in einigen Jahren. Offenbar beginne diese Entwicklung deutlich früher als erwartet. Zurückhaltender äußerte sich dagegen der Sicherheitsberater und Ethical Hacker Tom Van de Wiele. Gegenüber Business Insider erklärte er, zunächst weitere technische Details, etwa Sicherheitsprotokolle, abwarten zu wollen, bevor sich der Cyber-Angriff abschließend bewerten lasse.

Als Reaktion auf den Angriff nahm OpenAI Hugging Face in das Trusted Access-Programm auf. Dadurch erhält das Unternehmen Zugriff auf eine Version von GPT-5.6 Sol mit reduzierten Cyber-Sicherheitsbeschränkungen für defensive Sicherheitsanalysen.

Der Angriff auf Hugging Face durch OpenAIs Testmodelle dürfte die Diskussion über KI-Sicherheit grundlegend verändern. Er zeigt, dass dieselben Schutzmechanismen im Ernstfall auch die Verteidigung erschweren können. Dass Hugging Face für die Analyse ausgerechnet auf ein chinesisches Open-Weight-Modell zurückgriff, dürfte der Debatte über offene und proprietäre KI-Systeme zusätzliche Dynamik verleihen. Denn der Vorfall zeigt, dass im Ernstfall nicht nur die Leistungsfähigkeit eines Modells zählt, sondern auch, wie flexibel es sich einsetzen lässt.

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.