Dein wichtigster Touchpoint zur Digitalbranche.
Dein wichtigster Touchpoint zur Digitalbranche.
Technologie
OpenAI: Stack Overflow-Kooperation, KI-Content-Labels und neuer Media Manager

OpenAI: Stack Overflow-Kooperation, KI-Content-Labels und neuer Media Manager

Swantje Schemmerling | 10.05.24

Das KI-Startup OpenAI liefert eine Reihe wichtiger Updates: einen neuen Classifier, der mit DALL-E erstellen Content für Researcher identifizieren soll, mit dem Model Spec einen Beitrag zum Diskurs um das KI-Modellverhalten und eine Kooperation mit der Entwickler:innen-Community Stack Overflow.

Das medienwirksame und inzwischen gut bekannte KI-Unternehmen OpenAI stellte kürzlich eine Reihe von Updates vor, die für KI-Entwickler:innen, aber auch User, Marketer und Brands von Interesse sein dürften. Besonders fällt dabei der neue Media Manager auf.

Das Tool soll eine neue Art und Weise bieten, wie Daten für das Training von KI-Modellen genutzt werden, und könnte die bisherige robots.txt-Datei ablösen. Die traditionelle robots.txt-Datei ermöglicht es Website-Betreiber:innen zu steuern, welche Crawler ihre Inhalte erfassen dürfen. Diese Informationen werden nicht nur für Suchmaschinenvorschautexte genutzt, sondern auch für das Training von KI-Modellen. Hier setzt der neue Vorschlag von OpenAI an: Der Media Manager soll eine spezifischere und direktere Kontrolle darüber bieten, wie Inhalte online genutzt werden dürfen.

Fokus liegt auf den Rechten der Inhalts-Ersteller:innen

Der Kern des Media Manager-Projekts liegt in der Erkenntnis, dass viele Autor:innen und Inhaltersteller:innen nicht die Kontrolle über die Plattformen haben, auf denen ihre Werke veröffentlicht werden. Oft können sie daher nicht effektiv bestimmen, wie ihre Inhalte genutzt werden. OpenAI hat diese Lücke erkannt und möchte mit dem Media Manager eine Lösung bieten, die es den Ersteller:innen ermöglicht, ihre Präferenzen direkt zu äußern. Der Media Manager soll mithilfe von Machine Learning betrieben werden, wobei die genauen technischen Details und die Implementierung noch in der Entwicklung sind. Ziel ist es, dass Ersteller:innen OpenAI direkt mitteilen können, wie sie sich die Verwendung ihrer Inhalte vorstellen. Obwohl das Projekt noch bis 2025 zur vollständigen Umsetzung benötigt, deutet alles darauf hin, dass OpenAI eine umfassendere und gerechtere Regelung für die Nutzung digitaler Inhalte anstrebt.

OpenAI bringt KI-Labels und Model Spec für Modellverhaltensanalyse

OpenAI betont auch, dass Tools wie DALL-E und Sora die Creator Economy unterstützen sollen. Damit bei der Nutzung von DALL-E 3 transparent wird, dass KI-generierte Inhalte in den Digitalraum integriert werden, hat das Unternehmen eigens einen neuen Classifier bereitgestellt, der Researchern und Co. Klarheit über den Content-Ursprung verschaffen soll. Zusammen mit der Coalition for Content Provenance und dem Authenticity Steering Committee sollen zudem Standards für die KI-Markierung geschaffen werden – wie sie auch TikTok jetzt einsetzt.

Derweil teilt OpenAI mit der Veröffentlichung eines Model Spec genannten Dokuments Einblicke aus der eigenen Arbeit an der Weiterentwicklung des KI-Modellverhaltens. Bei dem Modellverhalten geht es um die Reaktion von Modellen – oder den Tools, die sie nutzen, wie ChatGPT – auf den Input von Usern. Auf dem Blog erklärt OpenAI, welche Schwierigkeiten damit einhergehen können:

Shaping model behavior must also take into account a wide range of questions, considerations, and nuances, often weighing differences of opinions. Even if a model is intended to be broadly beneficial and helpful to users, these intentions may conflict in practice. For example, a security company may want to generate phishing emails as synthetic data to train and develop classifiers that will protect their customers, but this same functionality is harmful if used by scammers.

Deshalb zeigt das Unternehmen auf, wie es selbst das Modellverhalten der eigenen Modelle beeinflussen möchte und nennt drei Kernelemente:

  1. Assistenz für Entwickler:innen und User
  2. Der Menschheit einen Nutzen bringen
  3. OpenAI positiv repräsentieren

Das Model Spec, über das du dich im Post ausführlich informieren kannst, soll als Guideline für Researcher und AI Trainer eingesetzt werden.

OpenAI-Kooperation mit Stack Overflow

Die neue Kooperation OpenAIs mit Stack Overflow zielt darauf ab, die Leistung von KI-Modellen zu verbessern und ChatGPT mit tieferen technischen Informationen zu bereichern. Ein wichtiger Bestandteil dieser Zusammenarbeit ist der gegenseitige Zugriff auf Ressourcen und Wissen, um die Funktionalität und die Nützlichkeit beider Plattformen zu steigern. Durch die Partner:innenschaft erhält OpenAI Zugang zur API von Stack Overflow. Dies ermöglicht es, Feedback von der aktiven Entwickler:innen-Community von Stack Overflow zu nutzen, um die Genauigkeit und Relevanz der Antworten von ChatGPT auf technische und Programmierfragen zu verbessern. Im Gegenzug wird ChatGPT in der Lage sein, Nutzer:innen direkt zu relevanten Inhalten auf Stack Overflow zu verlinken. Diese tiefergehende Integration fördert eine bessere Auseinandersetzung mit technischen Inhalten und verbessert die Informationsqualität für Endnutzer:innen.

Stack Overflow wird ebenfalls von dieser Partnerschaft profitieren, indem das Unternehmen die fortschrittlichen Sprachmodelle von OpenAI nutzt, um seine KI-Anwendung „Overflow AI“ weiterzuentwickeln. Diese Anwendung, die erst kürzlich angekündigt wurde, zielt darauf ab, eine KI-gestützte natürliche Sprachsuche innerhalb von Stack Overflow zu implementieren, was die Nutzungserfahrung erheblich verbessern könnte.

Auf die Kooperation reagierten jedoch viele Entwickler:innen mit Unmut und drohten, ihre Expertise und Inhalte auf Stack Overflow zu löschen. Sie protestieren gegen die Inanspruchnahme ihrer Inhalte durch KI-Tools. Einige User wurden für ein entsprechendes Verhalten nach eigenen Aussagen auf der Plattform gesperrt. Bereits geteilte Inhalte dürfen nach Stack Overflow-Richtlinien nicht ohne besonderen Grund entfernt oder für die Nutzung durch die Community geblockt werden.

AI Update:

Neue Datenkontrolle für ChatGPT, Claude iOS App Launch und Gemini App News

© Growtika - Unsplash, OpenAI-Logo, grau, auf Boden liegend, Konstruktion mit aufgezogenen Rundelementen darüber
© Growtika – Unsplash

Kommentare aus der Community

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

*
*
Aktuelle Whitepaper
Das perfekte Marketing Automation Tool WHITEPAPER:
Das perfekte Marketing Automation Tool
The State of E-Commerce 2024 WHITEPAPER:
The State of E-Commerce 2024
Der TikTok Taktgeber WHITEPAPER:
Der TikTok Taktgeber
So findest du die richtige Lohnabrechnungs-Software WHITEPAPER:
So findest du die richtige Lohnabrechnungs-Software

Über 30.000 Subscriber können nicht irren. Melde dich jetzt zu unserem NEWSLETTER an: