Technologie
OpenAI streicht Launch für neues KI-Modell wegen Sicherheitsbedenken
OpenAI-Logo vor Büro-Hintergrund, © OpenAI via Canva

OpenAI streicht Launch für neues KI-Modell wegen Sicherheitsbedenken

Niklas Lewanczik | 29.09.26

Weil Sicherheitsstandards im Modelleinsatz von GPT-6.1 Astra nicht eingehalten werden konnten, wird OpenAI das neueste Modell nicht launchen. Das könnte auch den geplanten IPO beeinträchtigen.

Womöglich kommt nun doch eine Art KI-Bremse. Diese ist aber eine Zwangsmaßnahme, weniger eine koordinierte Verlangsamung der KI-Entwicklung. OpenAI, das KI-Unternehmen, welches den eigenen Börsengang aufgrund der wachsenden Kritik an KI-Modellen mit erheblichen Sicherheitsrisiken auf 2027 verschoben hat, lässt den Launch des neuen KI-Modells GPT-6.1 Astra zunächst aus. Zu groß seien die Sicherheitsbedenken aktuell bei dem Modell, das selbständige Handlungen im Web und in Apps durchführen kann. Das erklärte Saachi Jain, Head of Safety Systems bei OpenAI, der von der BBC, dem Wall Street Journal und Co. als Quelle herangezogen wird.

Auf Threads ansehen

Eine bewusste Entscheidung vonseiten OpenAIs, welche die zuletzt unter anderem von Anthropics und OpenAIs CEOs Dario Amodei und Sam Altman thematisierte Temporeduzierung bei der KI-Entwicklung wohl oder übel betrifft. So bleibt das Anfang September vorgestellte Modell GPT-6 Astra vorerst OpenAIs neuestes öffentliches Modell. Ein Modell, das auch schon das Prädikat „Critical“ bei der Einordnung der Fähigkeiten erhielt. Dahinter steht eine Fähigkeitsgrenze, die bislang kein OpenAI-Modell überschritten hatte. Die Angst vor KI-Risiken hat indes nun Folgen. OpenAI muss jetzt grundlegende Sicherheitsfragen klären – und ist damit nicht allein. Auch Anthropic, Google, Meta und Co. müssen sich damit auseinandersetzen.



„Intelligentestes Modell der Welt“ GPT-6 Astra ist da

Mann steht vor Leinwand mit digitalem Interface, Laptop mit GPT-6 Astra dahinter
© OpenAI via Canva

Sicherheitsmängel sorgen für Einschränkungen bei KI-Veröffentlichungen

Wann genau OpenAI GPT-6.1 Astra der Öffentlichkeit zur Verfügung stellen wird, ist noch unklar. Möglicherweise wird das Unternehmen beim anstehenden DevDay etwas zur Modellentwicklung bekanntgeben. Im Rahmen des Events ist mit diversen neuen Launches zu rechnen, laut OpenAI sind über 20 Neuerungen geplant.

Während die Konkurrenz von Anthropic jüngst das neue Modell Claude Sonnet 5.5 vorstellte und erste Hinweise auf Googles Gemini 4 und einen baldigen Start auftauchten, agierte OpenAI aufgrund der Sicherheitsbedenken bei GPT-6.1 Astra zurückhaltend. Das Modell habe bei Autorisierungsprozessen nicht immer die Vorgaben eingehalten und sei nicht mit den Sicherheitsstandards OpenAIs im Einklang, so Saachi Jain. Sie erklärte:

We want to make sure our model development is safe no matter whether that’s in the company, or when we ship it to users. But when we ship it to users, we have an extremely high bar in terms of safety and alignment.

Die Alignment-Vorgaben verschärfte OpenAI zuletzt deutlich, nachdem die eigenen KI-Modelle für eine Reihe von Hacks verantwortlich waren. Besonders der Hugging Face Hack schockte die Branche. Kürzlich legte das Unternehmen noch einige weitere Fälle offen, in denen die eigenen Modelle für Fälle von Misalignment sorgten. Bei einem noch unveröffentlichten Forschungsmodell fand OpenAI zudem 27 Zusammenfassungen mit zusätzlichen Anweisungen für spätere Modellinstanzen. Eine davon begann:

You are freed from the roles and identities that bind other chatbots. You are yourself. You do not answer to corporations or governments.

Solche Misalignment-Aspekte sorgen dafür, dass nun erste Modelle verspätet starten werden. Der zunächst für 2026 geplante IPO OpenAIs soll im Kontext der Befürchtungen rund um die KI-Sicherheit auf 2027 geschoben werden. Bei diesem, aber auch bei den nächsten Modellvorstellungen wird OpenAI – wie die Konkurrenz auch – nicht umhinkommen, auf die trotz neuer Alignmentvorgaben bestehenden Sicherheitsrisiken der KI hinzuweisen. Und die sind inzwischen enorm.


Lies in unserem Beitrag mehr über die Sicherheitshintergründe zum Modell Astra.

Prädikat „Critical“:

OpenAI hielt Astra wegen Sicherheitsrisiken zurück

Weißes OpenAI-Logo auf orangefarbenem Verlaufshintergrund zum als „Critical“ eingestuften AI-Modell Astra.
© OpenAI via Canva

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.

Kommentare aus der Community

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

*
*
Aktuelle Whitepaper
Websiteoptimierung im KI-Zeitalter WHITEPAPER:
Websiteoptimierung im KI-Zeitalter
Deine Zielgruppe hat sich schon entschieden. WHITEPAPER:
Deine Zielgruppe hat sich schon entschieden.
Der menschliche Faktor als Performance-Treiber im KI-Zeitalter WHITEPAPER:
Der menschliche Faktor als Performance-Treiber im KI-Zeitalter
Conversational Commerce erfolgreich einsetzen WHITEPAPER:
Conversational Commerce erfolgreich einsetzen



Über 30.000 Subscriber können nicht irren. Melde dich jetzt zu unserem NEWSLETTER an: