Hunderttausende Videos von AI zu Unrecht entfernt: YouTube setzt wieder mehr auf Menschen

YouTube hat in Zeiten der Coronapandemie verstärkt mithilfe von AI-Filtern versucht gegen Fehlinformationen und Hassrede auf der Plattform vorzugehen. Doch diese Maßnahme hatte ihren Preis: Wie The Verge berichtet, wurden im Zeitraum von April bis Juni etwa elf Millionen Videos entfernt – fast doppelt so viele wie üblicherweise. Nicht alle der betroffenen Inhalte verstießen tatsächlich gegen die Richtlinien. Von 320.000 Beschwerden, welche aufgrund der Entfernung eines Videos bei YouTube eingingen, wurden etwa die Hälfte als berechtigt anerkannt – und die entsprechenden Videos wiederhergestellt. YouTube will in Zukunft wieder mehr menschliche Reviewer zum Einsatz kommen lassen, um die fälschliche Entfernung unbedenklicher Inhalte zu vermeiden.

Für einen Großteil der User, welche von den Maßnahmen betroffen waren, dürften diese jedoch kaum Auswirkungen gehabt haben. Denn mehr als die Hälfte der Videos erreichten keine Views, so YouTubes CPO Neal Mohan:

Over 50 percent of those 11 million videos were removed without a single view by an actual YouTube user and over 80 percent were removed with less than 10 views.

Einsatz von AI bedingt durch Coronapandemie

Den vermehrten Einsatz von künstlicher Intelligenz während der letzten Monate begründet YouTube unter anderem damit, dass menschliche Moderatoren aufgrund der Coronamaßnahmen im Home Office arbeiten mussten. Dort sei es diesen nicht möglich gewesen, im selben Ausmaß Videos zu prüfen, ohne Probleme mit dem Datenschutz zu riskieren. Schon im März erkannten YouTube-Sprecher allerdings an, dass der verstärkte Einsatz von AI auch zu einigen negativen Nebenwirkungen führen könnte.

Diese Sorgen scheinen berechtigt gewesen zu sein. Der extreme Anstieg an Löschungen ist mit hoher Wahrscheinlichkeit ein Zeichen dafür, dass die Algorithmen in ihrem Versuch, schädlichen Content von der Plattform zu entfernen, auch viele unproblematische Videos getroffen haben. Dies ist kaum verwunderlich. So ist es nach wie vor schwierig, mithilfe von künstlicher Intelligenz das ganze Ausmaß sozialer und kultureller Sprach- und Verhaltensweisen zu detektieren und voneinander zu unterscheiden.

Irrende YouTube-Algorithmen sind keine Seltenheit

Dass der Einsatz von künstlicher Intelligenz auch zu Problemen führen kann, ist keine Neuheit. So musste YouTube erst im Mai zugeben, dass Kommentare, welche sich kritisch gegenüber der Kommunistischen Partei Chinas äußerten, vom Algorithmus automatisch gelöscht wurden. Dies sei auf einen Fehler innerhalb des Systems zurückzuführen gewesen.

Trotz dem nun wieder vermehrten Einsatz von menschlichen Moderatoren wird YouTube auch in Zukunft auf AI-Filter zurückgreifen müssen. Insbesondere die Größenordnung einer Plattform wie YouTube macht es so gut wie unmöglich, gegen problematischen Content ohne den Einsatz von automatisierten Systemen vorzugehen.