Angst vor Deepfakes bei Zoom? Mit AI-Avatar Zoom-Videos erstellen

Zeit sparen mit AI-Avataren

Mit Zooms neuen KI-Avataren sollst du bald Videos erstellen können, ohne selbst vor der Kamera zu sein. Du zeichnest einen kurzen Clip von dir auf, und die KI macht daraus einen digitalen Avatar. Dieser kann für dich sprechen, Präsentationen halten oder Nachrichten übermitteln. Das spart dir Zeit und bringt Effizienz in deinen Arbeitsalltag. Laut Smita Hashim, Chief Product Officer von Zoom, liegt der Vorteil klar auf der Hand:

Avatars save users precious time and effort recording clips, and enable them to scale video creation.

Die kommende Funktion, die auf der jährlichen Entwickler:innenkonferenz von Zoom angekündigt wurde, ermöglicht es, aus einem von dir aufgenommenen Videoclip einen digitalen Klon zu erstellen – komplett mit Kopf, Oberarmen und Schultern. Du kannst dann ein Skript eingeben, das diese:r digitale Doppelgänger:in einsprechen soll, und Zoom generiert dazu automatisch eine Audiospur, die mit den Lippenbewegungen des Avatars synchronisiert wird.

Die wachsende Angst vor Deepfakes

AI-Avatare sind technisch beeindruckend, doch sie bringen auch Risiken mit sich – vor allem die Sorge, dass diese Tools missbraucht werden könnten, um Deepfakes zu erstellen. Deepfakes, also täuschend echt aussehende, aber manipulierte Videos mit Elementen echter Personen, sind schon jetzt ein großes Problem in sozialen Netzwerken. Sie sind nicht nur gefährlich, weil sie das Vertrauen in digitale Inhalte untergraben, sondern haben auch reale Auswirkungen, wie der Verlust von Millionen durch Betrug zeigt.

Bisher gibt es viele Beispiele von Deepfakes, die öffentliche Persönlichkeiten wie Joe Biden oder Taylor Swift betreffen. Diese Art von gefälschten Inhalten verbreitet sich schnell und kann nur schwer als Fälschung enttarnt werden. Es liegt auf der Hand, dass die Einführung von KI-Avataren auf Plattformen wie Zoom diese Risiken auch im Arbeitsumfeld weiter erhöhen könnte.

Wie sicher ist Zoom?

Zoom hat angekündigt, Sicherheitsvorkehrungen zu treffen, um den Missbrauch seiner AI-Avatare zu verhindern. Dazu gehören unter anderem Wasserzeichen auf KI-generierten Videos, die anzeigen sollen, dass der Inhalt von einem Avatar erstellt wurde. Allerdings könnte diese Schutzmaßnahme nicht ausreichen. Wasserzeichen lassen sich durch Bildschirmschreiber oder andere Software leicht entfernen. Zoom arbeitet daran, weitere Sicherheitsstufen einzuführen. Hashim betonte, dass es zusätzliche Maßnahmen geben wird:

We will continue to review and add safeguards as needed in the future. We employ (…) technology to make it obvious when a clip is generated with an avatar, and (…) to help ensure the integrity of avatar-generated content.

Details dazu, wie diese zusätzlichen Sicherheitsmaßnahmen aussehen werden, bleiben jedoch vorerst unveröffentlicht. Sicher ist, dass Zoom die Technologie überwachen und weiterentwickeln möchte, um Risiken wie Deepfakes zu minimieren.

All about AI: Auch TikTok, Meta und Co. setzen auf Avatare

Meta hat im Juni 2024 die Einführung von KI-Avataren auf Instagram angekündigt, die von Creatorn über das Meta AI Studio erstellt werden. In den USA laufen bereits erste Tests, bei denen diese digitalen Avatare in Form von Chatbots die Kommunikation und Interaktion auf der Plattform erheblich verändern sollen. Durch das Meta AI Studio können Influencer eine KI-Version von sich selbst erschaffen, um mit ihrer Community zu interagieren, ohne persönlich anwesend sein zu müssen.

Auch TikTok setzt verstärkt auf KI-generierte Avatare, insbesondere im Bereich der Werbekreation. Seit Mitte 2024 bietet TikTok Unternehmen und Creatorn Tools an, um anpassbare digitale Avatare für Ads zu erstellen. Diese Avatare sollen Marken dabei unterstützen, Sprachbarrieren zu überwinden und ihre Inhalte menschlicher wirken zu lassen. Die neuen Funktionen der TikTok Symphony-Anzeigensuite sollen dabei helfen, das globale Publikum zu vergrößern, indem sie mehrsprachige Unterstützung und realistisch wirkende, digitale Charaktere einbinden. Und auch für Microsoft Teams wurden bereits 2023 3D-Avatare für den Meeting-Kontext gelauncht.

Diese Entwicklungen zeigen, dass KI-Avatare 2024 auf vielen Plattformen eine immer wichtigere Rolle spielen werden – sowohl für die Nutzer:innenerfahrung als auch für das Marketing.

Strenge Regeln für AI-Einsatz:
EU-Parlament verabschiedet großes KI-Gesetz

Aktuelle Jobs

Marketing- / Kampagnenmanager (m/w/d) Worms

Performance Marketing Manager (m/w/d) Frankfurt am Main

Online Marketing Manager (m/w/d) in Vollzeit Remote

Marketing Intern (m/f/d) Personal Care Products Wiesbaden

Leiter*in Campaign Management (m/w/d/x) Hamburg

SEO-Manager (m/w/d) Eschborn

Content UX Manager:in (m/w/d) Mönchengladbach

Referent*in Online-Fundraising (m/w/d) Bonn