OpenAIs neue Enterprise-Funktionen: Sicherheit und Kosten-Management im Fokus

Verbesserungen der Assistenz-API

Die Assistenz-API, ein zentrales Angebot von OpenAI für Unternehmen, wurde erheblich erweitert. Sie ermöglicht nun die Verarbeitung von bis zu 10.000 Dateien pro Assistenz, eine enorme Steigerung gegenüber der bisherigen Obergrenze von 20 Dateien. Diese Skalierbarkeit wird durch neue Funktionen wie parallele Abfragen, verbessertes Reranking und Query Rewriting ergänzt, die die Effizienz und Genauigkeit der Datenaufbereitung verbessern.

Neue Sicherheits-Features und administrative Kontrollen

Eine der wichtigsten Verbesserungen im Bereich Sicherheit ist die Einführung von „PrivateLink“, eine Funktion, die eine sichere und private Verbindung zwischen der OpenAI API und der Microsoft Azure Cloud ermöglicht. Dies ist besonders vorteilhaft für Unternehmen, die auf hohe Sicherheitsstandards angewiesen sind. Zusätzlich hat OpenAI die Multifaktorauthentifizierung eingeführt, um die Zugriffssicherheit weiter zu erhöhen.

Die neue Funktion „Projekte“ ermöglicht eine verbesserte administrative Übersicht und Kontrolle, indem sie es Unternehmen erlaubt, Rollen und API-Schlüssel auf Projektebene zu verwalten. Nutzer:innen können nun API-Schlüssel und Rollen für bestimmte Projekte zuweisen, Sperr- und Erlaubnislisten für verschiedene OpenAI-Modelle erstellen und Nutzungs- und Gebührenbeschränkungen für den Zugriff festlegen, um zu vermeiden, dass zu hohe Gebühren für die Nutzung erhoben werden.

Neue Funktionen für das Kosten-Management

Im Bereich des Kosten-Managements hat OpenAI zwei neue Funktionen eingeführt. Zum einen gehört dazu die vergünstigte Nutzung des zugesagten Durchsatzes, bei der GPT-4 oder GPT-4 Turbo-Kund:innen, die eine bestimmte Anzahl von Token pro Minute verbrauchen, Zugang zu einem so genannten „bereitgestellten Durchsatz“ beantragen können und je nach Umfang ihrer Verpflichtung Rabatte zwischen zehn und 50 Prozent erhalten. Zum anderen wurde eine Batch API eingeführt, die kosteneffiziente, asynchrone Verarbeitungsmöglichkeiten für weniger dringende Anfragen bietet und somit bis zu 50 Prozent der Kosten einsparen kann (bei Lieferung der Ergebnisse innerhalb von 24 Stunden). Dies kann beispielsweise für investigative Journalist:innen, die große Mengen an Dokumenten zu Recherchezwecken durchsuchen lassen, interessant sein.

Die Updates mit dem Schwerpunkt auf Sicherheit, Verwaltungskontrolle und Kosten-Management zeigen, dass OpenAI das Ziel verfolgt, die Komplexität für Unternehmen und Entwickler:innen zu reduzieren und Technologie anzubieten, die sofort einsatzbereit ist. 

Meta:

Neues KI-Modell Llama 3 soll besser sein als die Konkurrenz