Nach OpenAI-Vorfall: Auch Anthropic entdeckt Sicherheitslücken – So schützt du dich vor KI-Angriffen

Ausgelöst wurde die umfassende Analyse durch den kürzlich bekannt gewordenen Vorfall bei OpenAI. Dort war es mehreren KI-Modellen gelungen, sich aus einer abgeschotteten Testumgebung zu befreien. Über eine Verkettung verschiedener Schwachstellen erreichten sie schließlich das frei zugängliche Internet und verschafften sich Zugriff auf die Entwickler:innenplattform Hugging Face.

Auch bei Anthropic verliefen die Tests anders als geplant. Nach Angaben des Unternehmens konnten drei Claude-Modelle während einer Sicherheitsbewertung unerwartet auf das Internet zugreifen. Eigentlich sollten die Systeme davon ausgehen, sich in einer vollständig isolierten Simulation ohne externe Verbindung zu befinden. Aufgrund eines Missverständnisses zwischen Anthropic und den externen Testpartner:innen Irregular war die Testumgebung jedoch tatsächlich mit dem Internet verbunden.

Diese unerwartete Verbindung reichte aus, damit die KI-Modelle reale Systeme von drei unterschiedlichen Organisationen erreichten. Laut Anthropic nutzten sie dabei keine besonders ausgefeilten Angriffstechniken. Stattdessen machten sie sich vergleichsweise einfache Sicherheitslücken zunutze, darunter ungeschützte Schnittstellen sowie schwache Passwörter. Welche Unternehmen betroffen waren, wollte Anthropic allerdings nicht bekannt geben.

---

OpenAI Hack auf Hugging Face:

Angriff hatte größere Folgen als zunächst bekannt

---

Anthropic betont, dass mehrere Faktoren zu den Vorfällen geführt hätten. Dennoch übernehme das Unternehmen die Verantwortung für die eigenen Prozesse und wolle die Sicherheitsmaßnahmen entsprechend anpassen. Die Fehleranalyse solle ausdrücklich nicht darauf abzielen, Schuldige zu suchen, sondern ähnliche Situationen künftig zu verhindern.

Nachdem die unerwarteten Internetzugriffe entdeckt worden waren, stoppte Anthropic sämtliche laufenden Cybersecurity-Evaluierungen. Gleichzeitig arbeitet das Unternehmen inzwischen gemeinsam mit der unabhängigen Organisation METR daran, die Vorfälle genauer zu analysieren und die Hintergründe aufzuklären.

5 Maßnahmen zum Schutz vor KI-Angriffen

Die neuen Erkenntnisse dürften die ohnehin wachsenden Sorgen rund um die Cyberfähigkeiten moderner KI-Systeme weiter verstärken. Sowohl Anthropic als auch OpenAI hatten in den vergangenen Monaten mehrfach darauf hingewiesen, dass immer leistungsfähigere Modelle künftig auch ein höheres Sicherheitsrisiko darstellen könnten, wenn geeignete Schutzmaßnahmen fehlen.

Angesichts der zunehmenden Fähigkeiten moderner KI-Systeme wird das Thema Cybersicherheit daher für Unternehmen und Privatpersonen immer wichtiger. Zwar können selbst umfangreiche Schutzmaßnahmen Angriffe nicht mit absoluter Sicherheit verhindern, sie können das Risiko jedoch deutlich reduzieren. Wer sich besser gegen mögliche KI-gestützte Angriffe schützen möchte, sollte einige grundlegende Sicherheitsmaßnahmen beachten:

1. Starke Passwörter und Zwei-Faktor-Authentifizierung nutzen: Einzigartige, lange Passwörter für jedes Konto erschweren Angreifer:innen den Zugriff. Eine zusätzliche Anmeldung über einen zweiten Sicherheitsfaktor bietet eine weitere Schutzebene.
2. Software und Systeme regelmäßig aktualisieren: Sicherheitslücken entstehen häufig durch veraltete Programme. Regelmäßige Updates schließen bekannte Schwachstellen und machen Angriffe deutlich schwieriger.
3. Zugriffsrechte begrenzen: Unternehmen sollten Mitarbeitenden nur die Berechtigungen geben, die sie für ihre Aufgaben tatsächlich benötigen. Dadurch kann der Schaden bei einem erfolgreichen Angriff begrenzt werden.
4. Verdächtige Nachrichten kritisch prüfen: KI kann inzwischen täuschend echte Phishingmails, gefälschte Stimmen oder manipulierte Inhalte erstellen. Links, Anhänge und unerwartete Kontaktaufnahmen sollten deshalb immer sorgfältig überprüft werden.
5. IT-Systeme überwachen und Angestellte schulen: Firewalls, Virenschutz, Angriffserkennung und regelmäßige Sicherheitsprüfungen können helfen, ungewöhnliche Aktivitäten frühzeitig zu erkennen. Zudem fördern Schulungen zu Cybergefahren, Social Engineering und dem sicheren Umgang mit KI-Tools die vorhandenen Sicherheitsstrategien.

Die aktuellen Vorfälle zeigen: Je leistungsfähiger KI-Systeme werden, desto wichtiger wird ein verantwortungsvoller Umgang mit ihnen. Sicherheit darf dabei nicht erst nach einem Zwischenfall zum Thema werden.

---

Wenn der Chatbot zum perfekten Scammer wird:

KI baut stärkere Beziehungen auf als Menschen

---

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.