OpenAI: API für ChatGPT und Speech-to-Text für Whisper

OpenAI liefert mit dem Tokenizer Entwickler:innen ein praktisches Tool

Das Unternehmen stellt außerdem ein Tool namens Tokenizer bereit, mit dem überprüft werden kann, wie viele Token erforderlich sind, um eine Textfolge zu interpretieren. OpenAI sagt, dass eine allgemeine Faustregel lautet:

One token generally corresponds to ~4 characters.

OpenAI erklärt auch, dass Entwickler:innen eine dedizierte Instanz von ChatGPT erhalten können, wenn sie eine ungeheure Datenmenge über die API ausführen. In dem Beitrag heißt es, dass Entwickler:innen dadurch besser einschätzen können, welches Modell sie brauchen, wie lange es dauern soll, bis Anfragen beantwortet werden, und wie lange Gespräche mit dem Bot dauern.

OpenAI bringt Speech-to-Text Tool

ChatGPT ist und bleibt wahrscheinlich auch in aller Munde – gleichzeitig hat OpenAI noch weitere spannende Tools angekündigt. Beispielsweise präsentierte das Tech-Unternehmen kürzlich eine neue API für Whisper. Bei Whisper handelt es sich um ein Speech-to-Text-Modell und OpenAI erklärt, dass Anwender:innen damit Audiodateien zu einem Preis von 0,006 US-Dollar pro Minute transkribieren oder übersetzen können.

Technisch gesehen ist das Whisper-Modell Open Source, sodass User es auf ihrer eigenen Hardware ausführen können, ohne etwas dafür bezahlen zu müssen. OpenAI hat jedoch wahrscheinlich Zugriff auf eine leistungsstärkere Hardware. Wenn Anwender:innen aber einfach nach einer schnellen Bearbeitung suchen oder Transkriptionen auf beispielsweise Smartphones durchführen möchten, kann die Verwendung des Sprachmodells potenziell schon ausreichen und hilfreich sein.

Hinsichtlich Datenschutz geht OpenAI zu einem Opt-in-System über

OpenAI kündigt zudem einige Richtlinienänderungen an, die laut eigener Angaben auf Entwickler:innen-Feedback basieren. Eine maßgebliche Änderung bewirkt, dass das Unternehmen keine über die APIs übermittelten Daten verwenden wird, um die eigenen Modelle zu trainieren, sofern die Kund:innen dieser Verwendung nicht ausdrücklich zustimmen. Demnach geht OpenAI in Sachen Datenschutz von einem Opt-out-System zu einem Opt-in-System über. Zuvor hatten einige Unternehmen Mitarbeiter:innen die Nutzung der Technologie aus Gründen des Datenschutzes und der Sicherheit untersagt, schreibt The Verge. Denn würden OpenAI Tools aus der Eingabe von Usern lernen, wäre es womöglich ein Risiko, die Bots mit Geschäftsgeheimnissen und dergleichen zu füttern. Schließlich wäre es dann möglich, dass diese Informationen an andere User gelangen könnten. Die Richtlinienänderungen in diesem Kontext könnten dazu beitragen, die allgemeinen Bedenken hinsichtlich des Einfügens proprietärer Informationen in die Bots zu zerstreuen. OpenAI erklärt, dass das Unternehmen zudem an der Verbesserung der Betriebszeiten arbeite und sagt:

Engineering team’s top priority is now stability of production use cases.

ChatGPT könnte in verschiedenste Apps und Tools von diversen Unternehmen integriert werden

Während bereits einige Entwickler:innen Workarounds gefunden haben, um OpenAI-Dienste in ihre Apps einzubinden – unter anderem durch die Verwendung der regulären GPT API von OpenAI, die seit einiger Zeit verfügbar ist –, könnte die Einführung einer offiziellen ChatGPT API noch viele weitere Unternehmen von einer Integration überzeugen. Denn obwohl ein paar Unternehmen, wie beispielsweise Meta und Google, an eigenen KI-Chatbot-Modellen arbeiten, ist ChatGPTs Technologie und Funktionalität sicherlich für viele kleinere Entwickler:innen und Tech-Unternehmen unerreichbar beziehungsweise eine eigene Entwicklung nicht rentabel. Dass viele Unternehmen daher lieber auf die Technologie von OpenAI setzen werden, ist wahrscheinlich.

Viele in der Tech-Welt warten vor diesem Hintergrund auch gespannt auf den Launch von OpenAIs GPT-4, der leistungsstärkeren Iteration der Technologie, auf der ChatGPT basiert. Doch Mira Murati, CTO bei Open AI, möchte, dass sich die Welt ein wenig entspannt. Sie antwortete gegenüber Fast Company auf die Frage nach GPT-4:

I think less hype would be good.

Launch von GPT-4 steht noch nicht fest

KI-Expert:innen und Fachleute aus dem Silicon Valley sagen, dass der Launch von GPT-4 einen enormen Fortschritt mit sich bringen wird. Sie nehmen an, dass das AI Tool mit deutlich mehr Parametern als GPT-3 trainiert wird, was es der KI ermöglichen würde, sich mehr Daten aus dem Internet zu ziehen und infolgedessen sicherere und komplexere Antworten zu liefern. Einige Expert:innen glauben sogar, dass GPT-4 zu künstlicher allgemeiner Intelligenz führen und somit komplexe menschliche Aufgaben erfüllen könnte, so The Verge. Doch Sam Altman, CEO von OpenAI, hat dieses Gerücht bereits relativiert. Als er in einem StrictlyVC Interview nach einem Diagramm gefragt wurde, das die Milliarden von Parametern von GPT-3 mit den angeblichen Billionen von GPT-4 vergleicht, sagte Altman, es sei „complete bullshit“.

Das ganze Interview kannst du in dem nachfolgenden Video anschauen.

Es gab zudem Gerüchte, dass Microsofts neue Bing-Suche auf GPT-4 basieren würde, obwohl diese schnell als unzutreffend entlarvt wurden, nachdem Microsoft angekündigt hatte, dass Bing stattdessen ein GPT-3.5-Modell – eine verbesserte Version des GPT-3-Modells – verwendet. CEO Sam Altman hat bislang noch nicht angekündigt, wann GPT-4 veröffentlicht wird.

Es wird irgendwann eingeführt, wenn wir zuversichtlich sind, dass wir es sicher und verantwortungsbewusst tun können,

erklärte er.

Dieser Beitrag erschien erstmals am 2. März 2023. Aufgrund von Ungenauigkeiten im Rahmen einiger technischer Formulierungen wurde der Artikel am 27.03.2023 verbessert.