OpenAI Update: Geringere Preise, Functions Calling und neue Modelle

Kostensenkung bei OpenAI nur eines von vielen Updates

Im Zuge der Effizienzsteigerung der OpenAI-Systeme möchte das Unternehmen Einsparungen an Kund:innen weitergeben. Daher werden nach Informationen aus dem Blog-Beitrag für die Einbettung über das Modell text-embedding-ada-002 um 75 Prozent reduziert. Auch die Preise für sogenannte Input Tokens für das Modell GPT-3.5-Turbo sinken, um 25 Prozent. OpenAI erklärt:

Developers can now use this model for just $0.0015 per 1K input tokens and $0.002 per 1K output tokens, which equates to roughly 700 pages per dollar.

Etwas teurer wird die Nutzung von GPT-3.5Turbo-16k. Denn es gibt eine neue 16k-Version für dieses Modell, die der 4k-Version folgt. Diese liefert die vierfache Kontextlänge. Auch sollen die Updates für die Versionen GPT-4 und GPT-3.5-Turbo, die OpenAI im März angekündigt hat, am 27. Juni durchgeführt werden. Denn auch GPT-4 erhält mit dem 32k-Modell eine erweiterte Kontextlänge. Personen, die noch auf der Warteliste für das GPT-4-Modell stehen, sollen nach und nach einen Zugang erhalten. Die Warteliste möchte OpenAI ganz abschaffen.

Function Calling als Neuigkeit für Entwickler:innen

Neu bei OpenAI ist auch das sogenannte Function Calling. Dabei können über die API die GPT-Funktionalitäten besser mit externen Tools verbunden werden. Entwickler:innen können Funktionen für die Modelle GPT-4 und GPT-3.5-Turbo (je in der Version 0613) beschreiben und die Modelle können JSON Output ermitteln. So ist es zum Beispiel möglich einen Chatbot zu kreieren, der Fragen beantwortet, indem er auf externe Tools zugreift (wie ChatGPT Plugins). Es ist aber auch möglich, Suchanfragen in Funktionen umzuwandeln, etwa:

Convert queries such as ‘Email Anya to see if she wants to get coffee next Friday‘ to a function call like send_email(to: string, body: string), or ‘What’s the weather like in Boston?‘ to get_current_weather(location: string, unit: 'celsius' | 'fahrenheit').

Auch das Extrahieren von strukturierten Daten aus Text, während auch natürliche Sprache in API Calls oder Database-Anfragen umgewandelt werden kann.

Alle detaillierten Insights zu den Updates von OpenAI findest du auf dem OpenAI Blog, beschrieben von Atty Eleti, Jeff Harri und Logan Kilpatrick.

Der Digital Bash EXTREME – AI geht in Runde 2! Lerne beim AI Marketing Bootcamp am 29.06. mehr, um mit KI unersetzbar zu werden! Nutze jetzt unseren Rabatt-Code ART20X, um bei diesem Event 20 Prozent zu sparen!

Digital Bash EXTREME – AI Marketing Bootcamp