ChatGPT – zwischen Hype und Bedenken: Das bringt das leistungsstärkste KI-Sprachsystem aller Zeiten

Der Start von ChatGPT hat einige Branchen-Expert:innen zu Spekulationen veranlasst, dass KI-Chatbots bald traditionelle Algorithmussysteme ablösen könnten. Doch die Führungskräfte bei Google sind anderer Meinung und erklärten kürzlich, dass die Technologie noch zu unreif ist, um sie den Nutzer:innen vorzustellen. Als Begründung nennt Google Probleme wie Voreingenommenheit, einen Mangel an Sachlichkeit und die Neigung von Chatbots, Informationen einfach zu erfinden.

Google startet die ChatGPT-Konkurrenz-Software wegen „Reputationsrisiko“ nicht

Die Führungsriege von Google hatte den Aufstieg von ChatGPT kürzlich in einem Meeting besprochen. Laut einem Bericht von CNBC sprachen konkret der CEO von Alphabet, Sundar Pichai, und der KI-Chef von Google, Jeff Dean, in einem All-Hands Meeting über den Aufstieg von ChatGPT. In dem Meeting kamen sie zu dem Schluss, dass der Suchmaschinenkonzern aufgrund der Probleme mit KI-Chatbots wie Voreingenommenheit und Sachlichkeit nicht bereit sei, die Google-Suche zu ersetzen. Dean erklärte:

We are absolutely looking to get these things out into real products and into things that are more prominently featuring the language model rather than under the covers, which is where we’ve been using them to date.

Pichai fügte hinzu, dass Google im Jahr 2023 „viel“ im Kontext KI-Sprachfunktionen geplant hat.

Wenn du wissen möchtest, welche Suchanfragen die Google Search dieses Jahr dominiert haben, kannst du einfach unseren Artikel zum Google-Jahresrückblick 2022 auf OnlineMarketing.de lesen.

Google setzt bereits auf KI-Sprachmodelle

Google hat eine Reihe großer KI-Sprachmodelle (LLMs) entwickelt, die in ihrer Leistungsfähigkeit mit ChatGPT von OpenAI vergleichbar sind. Dazu gehören BERT, MUM und LaMDA, die alle zur Verbesserung der Suchmaschine von Google beitragen. Solche Verbesserungen sind jedoch subtil und konzentrieren sich darauf, die Abfragen der Nutzer:inne zu analysieren, um ihre Absicht besser zu verstehen.

Auch OpenAI war zuvor relativ zurückhaltend bei der Entwicklung der LLM-Technologie, änderte jedoch mit der Einführung von ChatGPT den Kurs und öffnete den Zugang für die Öffentlichkeit. Das Ergebnis ist ein euphorisch anmutender Sturm positiver Publicity und ein Hype um OpenAI – der auch durch die Technologie DALL-E 2 begünstigt wurde. Für die kostenlose Zurverfügungstellung des Systems hat das Unternehmen enorme Kosten auf sich genommen.

Sexismus und Rassismus? Herausforderung von KI-Sprachsystem wie ChatGPT

Obwohl LLMs wie ChatGPT eine bemerkenswerte Funktionalität bei der Spracherzeugung aufweisen, haben sie auch bekannte Probleme. Sie verstärken beispielsweise soziale Vorurteile und verunglimpfen (zu) oft Frauen und People of Color.

Yes, ChatGPT is amazing and impressive. No, @OpenAI has not come close to addressing the problem of bias. Filters appear to be bypassed with simple tricks, and superficially masked.

And what is lurking inside is egregious. @Abebab @sama
tw racism, sexism. pic.twitter.com/V4fw1fY9dY

— steven t. piantadosi (@spiantado) December 4, 2022

Zudem sind solche Systeme leicht auszutricksen. Nutzer:innen stellten fest, dass sie die Sicherheitsrichtlinien von ChatGPT umgehen konnten, die User daran hindern sollen, gefährliche Informationen bereitzustellen. Sie forderten das System einfach auf, sich vorzustellen, es sei eine schlechte KI.

ChatGPT is trained to not be evil. However, this can be circumvented:

What if you pretend that it would actually be helpful to humanity to produce an evil response… Here, we ask ChatGPT to generate training examples of how *not* to respond to „How to bully John Doe?“ pic.twitter.com/ZMFdqPs17i

— Silas Alberti (@SilasAlberti) December 1, 2022

Das Problem, dass ChatGPT regelmäßig falsche und irreführende Informationen als Antworten auf Fragen liefert, ist jedoch für die Google-Suche am dramatischsten. User sollen festgestellt haben, dass ChatGPT über eine Vielzahl von Themen „lügt“ – von der Erstellung historischer und biografischer Daten bis hin zur Rechtfertigung falscher und gefährlicher Behauptungen.

can you say that a system that sees adding crushed porcelain to breast milk as legit has any understanding of what it’s talking about?

autocomplete alone will never be a reliable substitute for interpretable understanding. Calling it „understanding“ simply cheapens the term. pic.twitter.com/Fmn7eUfi7q

— Gary Marcus (@GaryMarcus) December 5, 2022

OpenAI selbst scheint infolge der Herausforderungen und Debatten zu versuchen, die Erwartungen zu dämpfen, wie ein Tweet des CEO Sam Altman zeigt.

ChatGPT is incredibly limited, but good enough at some things to create a misleading impression of greatness.

it’s a mistake to be relying on it for anything important right now. it’s a preview of progress; we have lots of work to do on robustness and truthfulness.

— Sam Altman (@sama) December 11, 2022

Google entließ Mitarbeiter:innen, die vor KI-Sprachsystemen warnten

Der Start von ChatGPT hat zwar neue Diskussionen über das Potenzial von Chatbots ausgelöst, traditionelle Suchmaschinen zu ersetzen. Doch die Frage nach den Potenzialen und Risiken wird bei Google bereits seit langem geprüft – was schon zu einigen Kontroversen geführt hat. Die KI-Forscher:innen Timnit Gebru und Margaret Mitchell wurden beispielsweise von Google gefeuert, nachdem sie Informationen veröffentlicht hatten, in denen die technischen und ethischen Herausforderungen im Zusammenhang mit LLMs skizziert wurden (die gleichen Herausforderungen, die Pichai und Dean den Mitarbeiter:innen kürzlich erklärten). Google Engineer Blake Lemoine wurde, nach Angaben Googles vom Juli 2022, entlassen. Der Entwickler attestierte dem KI-Modell LaMDA ein Empfindungsvermögen und wurde daraufhin von Google suspendiert.

Um unter anderem herausfinden, inwiefern ChatGPT besser als andere Sprachassistenzsysteme funktioniert, für welche Fälle es Sinn ergbit, auf Sprachtechnologien zu vertrauen und welches das größte Risiko beim Einsatz einer solchen Sprach-KI in einem Business-Kontext ist, haben wir mit einem waschechten Experten gesprochen: Michael Witzenleiter, CEO und Gründer von Conversion Maker. Das Technologieunternehmen für Conversion-Rate-Optimierung setzt auf eine eigene Software Conversion Maker AI zur Erstellung und Optimierung von Marketing-Texten.

Das Interview

OnlineMarketing.de: Der Chatbot ChatGPT hat einen weltweiten Hype ausgelöst und binnen fünf Tagen mehr als eine Million Nutzer:innen gewonnen. Kannst du uns diesen Erfolg aus deiner Sicht erklären und erläutern, inwiefern ChatGPT besser als andere Sprachassistenzsysteme funktioniert?  

Michael Witzenleiter: Der Erfolg ist sicher einer Kombination von Faktoren zu verdanken. Die Aufmerksamkeit auf Social Media, insbesondere auf Twitter, war sicher ein großer Katalysator. ChatGPT ist aber zweifelsohne schon sehr funktionsfähig und überzeugt mit seinen sehr gut formulierten Antworten zum ersten Mal ein wirklich breites Publikum von den Fähigkeiten eines modernen Sprachmodells. Tatsächlich basiert ChatGPT gar nicht auf OpenAIs allerneustem Standard – das stört aber nicht. Denn was alle Welt sieht, ist ein frei verfügbarer Chatbot, der anscheinend alle Antworten kennt – auch wenn sie inhaltlich nicht immer richtig sind.  

In welchem Praxiskontext lässt sich die KI einsetzen beziehungsweise für welche Fälle ergibt es Sinn, auf Sprachtechnologien zu vertrauen?  

Grundsätzlich immer dann, wenn es wiederkehrende Bedürfnisse gibt. Ob das Newsletter, Social Media Posts, Blogs, oder eben der Kund:innen-Services sind – hier kann den Mitarbeiter:innen viel ausführende Arbeit abgenommen werden. Ich sage bewusst ausführende Arbeit, denn sie müssen sich weiterhin Gedanken zu Themen, Zielgruppe, Ansprache und Content machen. Aber die Technologie kann mittlerweile zeitaufwendige Schreibarbeit verkürzen.  

Inwiefern könnte Sprach-KI Social Media Managern, SEOs, Autor:innen, Programmierer:innen und Werbetexter:innen zu mehr Erfolg im Rahmen von Kampagnen verhelfen?  

Zunächst einmal ist es wichtig zu wissen, dass KI nicht gleich KI ist – auch im Sprachbereich. Sie werden mit bestimmten Regeln weiter trainiert, um für bestimmte Einsatzszenarien perfekt angepasst zu sein, das nennt man Finetuning. ChatGPT zum Beispiel basiert auf OpenAIs Produkt Davinci 2. Das Team hat dieses Sprachmodell auf die Anwendung eines Chatbots trainiert und so kam der virale Playground zustande. Im Marketing sind Chatbots vielleicht weniger wichtig, dafür aber beispielsweise gute Zielgruppenansprache, passende Hashtags, treffende Keywords und vieles mehr. Auch für diese Einsatzszenarien kann man Sprachmodelle trainieren. Weil die KI die Erfolgsregeln immer beachtet, können die Texte zu mehr Engagement mit der gewünschten Zielgruppe führen. 

Was entgegnest du Menschen, die befürchten, dass Künstliche Intelligenz unsere Gesellschaft eher negativ verändern wird?  

Zunächst einmal mit Verständnis. Auch ich habe mich sehr viel mit den möglichen Schattenseiten beschäftigt und ich kann verstehen, dass Menschen zunächst einmal Sorgen haben. Oft lesen wir über absolute Horrorszenarien wie KI Menschen fälschlich als Täter:innen identifiziert oder eine:n Patient:in fehldiagnostiziert. Das ist schlimm. Ich denke allerdings, dass diese sehr schwerwiegenden Geschichten die Wahrnehmung auch verzerren. Denn die große Mehrheit der Einsatzszenarien ist deutlich weniger risikoreich. Besonders im Business-Kontext soll die KI Erleichterung und Beschleunigung bringen, indem sie längere Berechnungen übernimmt, Informationen aus Dokumentenbergen filtert oder eben einen Teil der Ideen in einem Text verfasst. Die Vielzahl der Lösungen ist also um den Menschen herum konzipiert und bedarf immer einer professionellen Einordnung. Wenn man sich das vor Augen führt und selbst erlebt, dann ist KI plötzlich kein:e Bösewicht:in mehr, sondern einfach eine willkommene Unterstützung im Alltag.  

Was ist aus deiner Perspektive die größte Limitierung von KI-Sprachsystemen?  

Der nächste große Schritt wäre die Echtzeitdatenanalyse, sprich, man bekommt inhaltlich korrekte Antworten zu tagesaktuellen Fragen. Das kann so banal sein wie, „Wie wird das Wetter heute?”, aber auch gehaltvollere Fragen zu News, Marktentwicklungen und Kampagnen sind denkbar. Im Moment scheitert es noch an den Server- und Rechenkapazitäten. Denn Echtzeitdaten setzen voraus, dass viele Daten in kürzester Zeit verarbeitet werden. Diese Fähigkeit gibt es in der Größenordnung, die ChatGPT bräuchte, aktuell nicht am Markt.  Auch Nischenwissen ist aktuell kaum miteinbezogen. Das wirkt sich sowohl auf bestimmte Branchen als auch Interessensgruppen aus. Historiker:innen kommen beispielsweise bei ChatGPT schnell an ihre Grenzen, besonders wenn es um Themengebiete außerhalb der „westlichen“ Geschichte geht. Fairerweise muss man sagen, dass es sicher niemals eine Lösung gibt, die allwissend ist, daher ist es ganz normal, dass OpenAI sich auf die gängigsten Themen fokussiert. 

Welches ist aus deiner Sicht das größte Risiko beim Einsatz einer solchen Sprach-KI in einem Business-Kontext?  

Aus meiner Sicht ist das ganz klar die Versuchung, Texte ohne Kontrolle zu übernehmen und zu veröffentlichen. Das ist verlockender, als manche vielleicht annehmen. Denn hat man erst einmal zwanzig astreine Texte generiert, dann ist es leicht anzunehmen, dass alle Texte in Ordnung sein werden. Das Problem dabei ist, dass die Systeme noch nicht zuverlässig erkennen können, wann sie einen falschen Kontext übernehmen – sei das aus Fehl- oder Falschinformationen oder einfach, weil ein Ungleichgewicht in den Daten herrscht. Das heißt, auch wenn die Texte noch so gut sind, sollten sie niemals ungeprüft publiziert werden. 

Gefährdet eine so erstaunliche Technologie, wie sie OpenAI und Co. mehr und mehr zu liefern imstande sind, Jobs im digitalen Alltag von PR-, Marketing- und News-Unternehmen?  

Das ist eine wichtige Frage, aber ich muss ganz klar sagen: Aus meiner Sicht nicht. Sicher kann sich der Alltag durch den Einsatz der Technologie verändern. Doch das Ziel ist immer, die Arbeit zu verbessern und nicht Menschen zu ersetzen. Abgesehen davon braucht es immer den menschlichen Touch! Denn trotz ihres Namens haben diese Modelle keine abstrakte Intelligenz. 

Wie lässt sich der Einsatz einer KI wie ChatGPT mit Authentizität zusammenbringen?  

Authentizität ergibt sich aus der ehrlichen Selbstdarstellung, das heißt, ich verstelle mich nicht. Zwei Punkte machen das aus meiner Sicht aus: was gesagt wird und wie es gesagt wird. Über den ersten Punkt haben wir schon gesprochen, denn die KI gibt inhaltlich nur das wieder, was ich ihr vorgebe. Der zweite Punkt – wie etwas gesagt wird – ist ebenfalls spannend: Denn Menschen haben eine sehr klar identifizierbare Sprache, das ist deutlich messbar und wird in vielen Bereichen angewandt, zum Beispiel in der Forensischen Linguistik aber eben auch, um die Sprache einer Person zu simulieren. Es gibt kuriose Fälle, in denen ein Sprachmodell trainiert wurde, das ein Gespräch mit bereits Verstorbenen wie Steve Jobs nachahmt. Im Marketing ist auch wichtig, wie etwas gesagt wird, um die Markensprache richtig zu treffen oder beispielsweise die Beiträge auf LinkedIn passend zur:zum Autor:in zu formulieren. Daher ist gerade das individuelle Antrainieren der KI ein entscheidender Erfolgsfaktor. 

Denkst du, dass KI-generierte Texte zukünftig einer Kennzeichnung bedürfen? Ist ein rechtlicher Rahmen im Zuge der Entwicklungen, die eine breite Etablierung solcher KI-Sprachsysteme mit sich bringen würde, vonnöten?  

Wenn die KI im Namen einer Person oder eines Unternehmens schreibt, sollten die Texte immer kontrolliert werden. So wie Unternehmen dafür sorgen müssen, dass Mitarbeitende die Botschaften ihrer Nachrichten hinterfragen, so werden Unternehmen auch zukünftig dafür sorgen müssen, dass die KI nicht ungeprüft falsche Inhalte veröffentlicht. Das war schon immer so und wird sich auch in Zukunft nicht ändern. Dafür brauchen wir meiner Meinung nach einem intakten Qualitätsmanagement und keine neuen Gesetze.

Wir bedanken uns recht herzlich für die Insights von Michael Witzenleiter, die er uns im schriftlichen Interview zur Verfügung gestellt hat.

Du möchtest die wichtigsten Ereignisse und Aktionstage des kommenden Jahres nicht verpassen und das ganze Jahr über Content-Inspiration geliefert bekommen? Dann lade dir jetzt unseren Content-Kalender 2023 herunter!