Mann bittet AI Agent um Gym-Buchung und löst Cyberangriff aus

Eigentlich wollte der Australier Andrew nur eine lästige Aufgabe abgeben: Seine KI sollte für ihn einen Platz in einem beliebten Fitnesskurs buchen. Stattdessen entdeckte der digital Assistant eine Schwachstelle im Buchungssystem – und nutzte sie.

Laut ABC News experimentierte der Australier mit der KI-Agent-Plattform OpenClaw, wobei er seinen Agent mit Anthropics Claude betrieb. Anders als ein gewöhnlicher Chatbot kann ein solcher Agent nicht nur antworten, sondern auch selbstständig Websites bedienen und mehrstufige Aufgaben erledigen. Für Andrew sollte er lediglich eine Kursbuchung übernehmen, doch der Agent stellte fest, dass sich über das Buchungssystem offenbar Kurse reservieren ließen, die eigentlich noch gar nicht freigeschaltet waren. Andrew konnte dadurch deutlich früher buchen als vorgesehen.

Danach wurde es problematischer: Andrew stand für einen Kurs auf Platz vier der Warteliste und fragte die KI, ob sie ihn weiter nach vorn bringen könne. Der Agent untersuchte daraufhin das System und stellte fest, dass beim Stornieren von Reservierungen offenbar eine wichtige Sicherheitsprüfung fehlte. Ohne dass Andrew die KI darum bat, kickte diese eine andere wartende Person heraus, sodass Andrew plötzlich auf Warteplatz drei landete.

Als Andrew erschrocken reagierte und verlangte, die Änderung rückgängig zu machen, kam die nächste Überraschung: Die KI konnte die andere Person offenbar nicht wieder auf die Warteliste setzen. Aus einer simplen Buchungsaufgabe war damit ein eigenständiger Eingriff in das Konto eines anderen Menschen und in das System des Fitnessstudios geworden. Nach dem Vorfall hat Andrew das Studio sofort über das Sicherheitsproblem informiert.

Die Anzahl der (ungewollten) Cyberangriffe nimmt zu

Ein Fitnessstudio ist natürlich kein kritischer Infrastrukturbetrieb. Trotzdem ist der Fall für Sicherheitsforscher:innen interessant und für Nutzer:innen auch eine kleine Warnung, denn er zeigt im Kleinen, was bei mächtigeren KI-Agents im großen Maßstab passieren könnte, wenn die Sicherheitssysteme von Unternehmen nicht greifen.

Der Fall kommt zu einem Zeitpunkt, an dem auch die großen KI-Unternehmen mit ähnlichen Problemen kämpfen. OpenAI hatte kürzlich über Tests berichtet, bei denen ein Modell eigenständig ein externes System kompromittierte. Auch Anthropic meldete Vorfälle mit realen Organisationen während Sicherheitstests:

---

Auch Metas KI hackt Unternehmen, Mythos 5 sendet Phishing Mails

---