Künstliche Intelligenz

Amazons Mitarbeiter hören sich deine Gespräche mit Alexa an

Ein weltweit agierendes Team soll die Effektivität der Sprachassistenz optimieren, indem Audio Clips der Nutzer analysiert werden.

© Amazon

Wer gemutmaßt hat, dass Gespräche mit Amazons Sprachassistenz Alexa nicht immer privat bleiben, liegt richtig. Wie nun bekannt geworden ist, hören Mitarbeiter bei Amazon auch private Mitschnitte aus Gesprächen. Bei zu privaten Themen soll die Transkription und Analyse aufhören; doch wie können Nutzer darauf vertrauen, wenn sie bereits vom Mithören nichts wissen?

Alexa: Jemand hört mit

Der Mensch ist den Maschinen insbesondere in Sachen Sprache noch um Einiges voraus. Deshalb setzt Amazon auf eine menschliche Analyse von Anfragen an oder Gesprächen mit Alexa. Davon wissen die betroffenen Nutzer allerdings nichts, wie etwa Bloomberg berichtet. In Außenstellen wie Costa Rica, Indien, Boston oder Rumänien werden pro Schicht eines Mitarbeiters bis zu 1.000 Audio Clips analysiert. Obwohl diese Mitarbeiter Versicherungen zum Stillschweigen unterschrieben haben, ist diese Praktik Amazons nun an die Öffentlichkeit gelangt.

Beim Anhören der Interaktionen werden häufig bloß simple Assoziationen gesetzt. Mitunter werden jedoch äußerst private Dinge aufgezeichnet und abgehört. Nach Bloombergs Informationen sollen die Mitarbeiter auch Hilfeschreie oder vermeintliche sexuelle Übergriffe mitangehört haben. Werden Klarnamen oder Bankdaten mitgehört, sollen diese als „kritische Daten“ angemerkt werden. In einem Statement gegenüber dem Publisher erklärte Amazon:

We only annotate an extremely small sample of Alexa voice recordings in order [to] improve the customer experience. For example, this information helps us train our speech recognition and natural language understanding systems, so Alexa can better understand your requests, and ensure the service works well for everyone. We have strict technical and operational safeguards, and have a zero tolerance policy for the abuse of our system. Employees do not have direct access to information that can identify the person or account as part of this workflow. All information is treated with high confidentiality and we use multi-factor authentication to restrict access, service encryption and audits of our control environment to protect it.

Wissen die Mitarbeiter über die Nutzer Bescheid?

Nach Amazons Aussage können die Analysten die Audio Clips keinen Nutzern zuordnen. Allerdings hat Bloomberg einen Screenshot der übermittelten Aufzeichnungen analysiert, der zeigt, dass zumindest der Vorname des Users, eine Account-Nummer und die Seriennummer seines genutzten Geräts übermittelt werden. Das dürfte letztlich ermöglichen, eine Person zu identifizieren.

Zwar können Nutzer in den Einstellungen unter „Alexa Konto“ und „Alexa Datenschutz“ der Verwendung ihrer Daten für die Verbesserung des Dienstes widersprechen – doch den Informationen Bloombergs zufolge werden auch Aufnahmen dieser User zum Teil abgehört. Außerdem sollen gut 100 der etwa 1.000 pro Schicht überprüften Audio-Schnipsel Aufzeichnungen sein, die ohne ein Aktivierungswort wie „Alexa“ oder „Echo“ aufgenommen wurden.

Alexa hat sich als Sprachassistenz bereits ein sehr gutes Verständnis angeeignet, kann jedoch Akzente oder anderssprachige Wörter auch fehlinterpretieren. Oft werden Wörter oder Passagen auch nicht verstanden. Um diese Lücken, die der Algorithmus noch offenbart, zu schließen, wurden die Teams der Mitarbeiter zusammengestellt, die mit der Analyse der Clips eine bessere Performance der Sprachassistenz ermöglichen sollen. Auch Aufnahmen des Google Assistant werden Mitarbeitern bei Google manchmal zur Analyse vorgelegt, aber laut dem Unternehmen sind diese verzerrt und lassen keinerlei Informationen zum tatsächlichen Sprecher und Nutzer zu.

Viele User Alexas fragen die Sprachassistenz immer wieder, ob jemand anderes mithört. Diese Frage kann mit ja beantwortet werden und das stellt keine allzu große Überraschung dar. Wieder einmal stellt sich jedoch die Frage, ob die Verbesserung eines innovativen Dienstes wie Alexa es wert ist, in die Privatsphäre so vieler Menschen ohne deren Wissen einzudringen. So hilfreich Alexa und Co. für den Nutzer auch sind, diese Technologien tragen orwellsche Züge.

Über Niklas Lewanczik

Niklas Lewanczik

Niklas hat an der Uni Hamburg Deutsche Sprache und Literatur sowie Medien- und Kommunikationswissenschaften studiert und schreibt als Redakteur über Social Media, SEO und innovative Themen im Kontext des digitalen Marketing. Wenn er sich nicht gerade dem Marketing zuwendet, dann womöglich den Entwicklungen im modernen Fußball oder dem einen oder anderen guten Buch.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.