Dein wichtigster Touchpoint zur Digitalbranche.
Dein wichtigster Touchpoint zur Digitalbranche.
Technologie
OpenAI: API für ChatGPT und Speech-to-Text für Whisper
OpenAI-Logo vor OpenAI-Hintergrund, © OpenAI via Canva

OpenAI: API für ChatGPT und Speech-to-Text für Whisper

Larissa Ceccio | 02.03.23

Das Tech-Unternehmen hinter der AI-Revolution kündigte jüngst eine API für ChatGPT an. Zudem launcht das Tech-Unternehmen Whisper, eine Speech-to-Text-Technologie, und weitere neue Tools. Wann GPT-4 kommt, ist jedoch noch nicht bekannt gegeben worden.

OpenAI möchte es künftig Drittanbieter:innen auch ermöglichen, die aktuelle API für ChatGPT in Apps und Dienste zu integrieren – das geht aus der jüngsten Ankündigung des Tech-Unternehmens hervor. Die Integration soll sogar erheblich kostengünstiger sein als die Verwendung der von den Entwickler:innen bereits integrierten Sprachmodelle. Außerdem stellt das Tech-Unternehmen Whisper, ein KI-gestütztes Speech-to-Text Tool, über eine API zur Verfügung und nimmt im gleichen Atemzug wichtige Änderungen an den Nutzungsbedingungen für Entwickler:innen vor.

Mehr als nur Chat-Schnittstelle: Das kann Die ChatGPT API

OpenAI hebt in der Ankündigung einige Unternehmen, etwa Snapchat, Quizlet oder Instacart, die ChatGPT bereits für die Bereitstellung einer KI-gestützten Chat-Schnittstelle verwenden, hervor.


Der neue My AI Bot steht zunächst nur zahlenden Snapchat Plus Usern zur Verfügung. Snapchat CEO Evan Spiegel erklärt, der Chatbot powered by ChatGPT sei erst der Anfang einer neuen Reihe an KI-Integrationen.

„Say Hi to My AI“: Snapchat befeuert KI-Revolution und integriert ChatGPT


Gleichzeitig weist das Unternehmen jedoch auch darauf hin, dass die ChatGPT API darüber hinaus noch für viel mehr Bereiche genutzt werden kann. OpenAI erklärt, dass die neue Modellfamilie mit dem Namen gpt-3.5-turbo die „beste“ für viele Nicht-Chat-Anwendungsfälle sei. OpenAI erklärt:

The ChatGPT model family we are releasing today, gpt-3.5-turbo, is the same model used in the ChatGPT product. It is priced at $0.002 per 1k tokens, which is 10x cheaper than our existing GPT-3.5 models. It’s also our best model for many non-chat use cases—we’ve seen early testers migrate from text-davinci-003 to gpt-3.5-turbo with only a small amount of adjustment needed to their prompts.

Greg Brockman, President & Co-Founder bei OpenAI, tut seine Begeisterung über die OpenAI-Entwicklungen bei Twitter kund:

OpenAI liefert mit dem Tokenizer Entwickler:innen ein praktisches Tool

Das Unternehmen stellt außerdem ein Tool namens Tokenizer bereit, mit dem überprüft werden kann, wie viele Token erforderlich sind, um eine Textfolge zu interpretieren. OpenAI sagt, dass eine allgemeine Faustregel lautet:

One token generally corresponds to ~4 characters.

OpenAI Tokenizer, © OpenAI

OpenAI erklärt auch, dass Entwickler:innen eine dedizierte Instanz von ChatGPT erhalten können, wenn sie eine ungeheure Datenmenge über die API ausführen. In dem Beitrag heißt es, dass Entwickler:innen dadurch besser einschätzen können, welches Modell sie brauchen, wie lange es dauern soll, bis Anfragen beantwortet werden, und wie lange Gespräche mit dem Bot dauern.

OpenAI bringt Speech-to-Text Tool

ChatGPT ist und bleibt wahrscheinlich auch in aller Munde – gleichzeitig hat OpenAI noch weitere spannende Tools angekündigt. Beispielsweise präsentierte das Tech-Unternehmen kürzlich eine neue API für Whisper. Bei Whisper handelt es sich um ein Speech-to-Text-Modell und OpenAI erklärt, dass Anwender:innen damit Audiodateien zu einem Preis von 0,006 US-Dollar pro Minute transkribieren oder übersetzen können.

Whisper, © OpenAI

Technisch gesehen ist das Whisper-Modell Open Source, sodass User es auf ihrer eigenen Hardware ausführen können, ohne etwas dafür bezahlen zu müssen. OpenAI hat jedoch wahrscheinlich Zugriff auf eine leistungsstärkere Hardware. Wenn Anwender:innen aber einfach nach einer schnellen Bearbeitung suchen oder Transkriptionen auf beispielsweise Smartphones durchführen möchten, kann die Verwendung des Sprachmodells potenziell schon ausreichen und hilfreich sein.

Hinsichtlich Datenschutz geht OpenAI zu einem Opt-in-System über

OpenAI kündigt zudem einige Richtlinienänderungen an, die laut eigener Angaben auf Entwickler:innen-Feedback basieren. Eine maßgebliche Änderung bewirkt, dass das Unternehmen keine über die APIs übermittelten Daten verwenden wird, um die eigenen Modelle zu trainieren, sofern die Kund:innen dieser Verwendung nicht ausdrücklich zustimmen. Demnach geht OpenAI in Sachen Datenschutz von einem Opt-out-System zu einem Opt-in-System über. Zuvor hatten einige Unternehmen Mitarbeiter:innen die Nutzung der Technologie aus Gründen des Datenschutzes und der Sicherheit untersagt, schreibt The Verge. Denn würden OpenAI Tools aus der Eingabe von Usern lernen, wäre es womöglich ein Risiko, die Bots mit Geschäftsgeheimnissen und dergleichen zu füttern. Schließlich wäre es dann möglich, dass diese Informationen an andere User gelangen könnten. Die Richtlinienänderungen in diesem Kontext könnten dazu beitragen, die allgemeinen Bedenken hinsichtlich des Einfügens proprietärer Informationen in die Bots zu zerstreuen. OpenAI erklärt, dass das Unternehmen zudem an der Verbesserung der Betriebszeiten arbeite und sagt:

Engineering team’s top priority is now stability of production use cases.

ChatGPT könnte in verschiedenste Apps und Tools von diversen Unternehmen integriert werden

Während bereits einige Entwickler:innen Workarounds gefunden haben, um OpenAI-Dienste in ihre Apps einzubinden – unter anderem durch die Verwendung der regulären GPT API von OpenAI, die seit einiger Zeit verfügbar ist –, könnte die Einführung einer offiziellen ChatGPT API noch viele weitere Unternehmen von einer Integration überzeugen. Denn obwohl ein paar Unternehmen, wie beispielsweise Meta und Google, an eigenen KI-Chatbot-Modellen arbeiten, ist ChatGPTs Technologie und Funktionalität sicherlich für viele kleinere Entwickler:innen und Tech-Unternehmen unerreichbar beziehungsweise eine eigene Entwicklung nicht rentabel. Dass viele Unternehmen daher lieber auf die Technologie von OpenAI setzen werden, ist wahrscheinlich.

Viele in der Tech-Welt warten vor diesem Hintergrund auch gespannt auf den Launch von OpenAIs GPT-4, der leistungsstärkeren Iteration der Technologie, auf der ChatGPT basiert. Doch Mira Murati, CTO bei Open AI, möchte, dass sich die Welt ein wenig entspannt. Sie antwortete gegenüber Fast Company auf die Frage nach GPT-4:

I think less hype would be good.

Launch von GPT-4 steht noch nicht fest

KI-Expert:innen und Fachleute aus dem Silicon Valley sagen, dass der Launch von GPT-4 einen enormen Fortschritt mit sich bringen wird. Sie nehmen an, dass das AI Tool mit deutlich mehr Parametern als GPT-3 trainiert wird, was es der KI ermöglichen würde, sich mehr Daten aus dem Internet zu ziehen und infolgedessen sicherere und komplexere Antworten zu liefern. Einige Expert:innen glauben sogar, dass GPT-4 zu künstlicher allgemeiner Intelligenz führen und somit komplexe menschliche Aufgaben erfüllen könnte, so The Verge. Doch Sam Altman, CEO von OpenAI, hat dieses Gerücht bereits relativiert. Als er in einem StrictlyVC Interview nach einem Diagramm gefragt wurde, das die Milliarden von Parametern von GPT-3 mit den angeblichen Billionen von GPT-4 vergleicht, sagte Altman, es sei „complete bullshit“.

Das Diagramm, auf das Sam Altmann Stellung im Interview mit StrictlyVC nahm, © Alex Hormozi via Twitter

Das ganze Interview kannst du in dem nachfolgenden Video anschauen.

Es gab zudem Gerüchte, dass Microsofts neue Bing-Suche auf GPT-4 basieren würde, obwohl diese schnell als unzutreffend entlarvt wurden, nachdem Microsoft angekündigt hatte, dass Bing stattdessen ein GPT-3.5-Modell – eine verbesserte Version des GPT-3-Modells – verwendet. CEO Sam Altman hat bislang noch nicht angekündigt, wann GPT-4 veröffentlicht wird.

Es wird irgendwann eingeführt, wenn wir zuversichtlich sind, dass wir es sicher und verantwortungsbewusst tun können,

erklärte er.

Dieser Beitrag erschien erstmals am 2. März 2023. Aufgrund von Ungenauigkeiten im Rahmen einiger technischer Formulierungen wurde der Artikel am 27.03.2023 verbessert.

Kommentare aus der Community

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

*
*