Künstliche Intelligenz

Reviewer im Alexa-Team können Nutzeradressen ermitteln

Mitarbeiter des Alexa-Teams können die Adressen von Nutzern ausfindig machen. Die beunruhigende Erkenntnis folgt auf jene, dass Reviewer für Alexa einiges mithören.

© Piotr Cichosz - Unsplash

Wer sich Alexa ins Haus holt, lädt gewissermaßen auch andere Personen mit ein. Vor wenigen Wochen wurde bekannt, dass Amazon-Mitarbeiter private Mitschnitte von Gesprächen über Alexa mitanhören, um diese zu analysieren und die KI zu optimieren. Während der Grad der Anonymität dabei noch eher gewährleistet war, zeigt sich nun, dass Reviewer der Sprachassistenz sogar die Privatadressen der User herausfinden können. Trotz Regulierung durch Amazon ist dieser Gedanke besorgniserregend.

Hat Alexa orwellsche Züge?

Die Popularität von Amazons Sprachassistenz Alexa, die über Smart Speaker wie den Echo Dot und Co. läuft, steigt immerzu. Über 100 Millionen Geräte wurden längst schon verkauft. Sprachassistenten werden von Usern immer mehr in den Alltag integriert und helfen ihnen bei verschiedensten Aspekten ihres Lebens. Dabei bekommen jedoch nicht nur die Nutzer Informationen ausgespielt. Auch die Betreiber der Sprachassistenz, im Falle Alexas Amazon, greifen auf die Nutzerdaten zurück, um ihre Produkte und ihre Dienstleistung zu verbessern. Doch diese Einsicht in die Nutzerdaten entpuppt sich bei Alexa zusehends als datenschutzrechtliche Gratwanderung, ja fast als dystopische Realität.

Zwar kann man bei den Echo-Geräten von Amazon nicht davon ausgehen, dass sie eine Überwachung à la 1984 bedingen. Trotzdem zeigt sich, dass die Nutzung von Alexa die Privatsphäre gewissermaßen beeinträchtigt. Nun darf man darüber hinaus nicht vergessen, dass das bei anderen Diensten ebenso der Fall ist. Und die Nutzung jeder App kann letztlich zur – wenn auch unfreiwilligen – Weitergabe sensibler Informationen führen. Doch allein aufgrund der sprachbasierten Interaktion stimmt einen die Überwachung von Alexa skeptisch. Beunruhigend ist der Faktor, dass einige Alexa-Teams auch sehr private Gespräche mitanhören. Amazon erklärt zwar, dass nur kleine Stichproben von Tonaufnahmen überprüft werden und dass die Mitarbeiter Nutzer nicht identifizieren können; Mitarbeiter in Außenstellen bearbeiten pro Schicht jedoch 1.000 Sound Clips und hören mitunter auch Hilfeschreie, sexuelle Handlungen, die Nennung von Bankdaten usw. Und Geheimdienste wollen laut Informationen der FAZ den Dienst ebenfalls zur Informationsbeschaffung nutzen.

Im Dezember letzten Jahres hatte ein Fehler außerdem dafür gesorgt, dass 1.700 Sprachdateien eines Nutzers bei einem völlig Fremden gelandet waren, was die Datenschutzproblematik ebenfalls vor Augen führte. Die FAZ hatte seinerzeit berichtet und erwähnt, dass Datenschutzfachleute vor Sprachassistenten warnen. Offenbar zurecht, denn Reviewer können neuen Informationen zufolge sogar die Privatadressen von Usern ermitteln.

Was die Dateneinsicht bedeuten kann

In den Nutzungsbedingungen für Alexa steht Folgendes:

Wenn Sie einen Dienst Dritter verwenden, tauschen wir unter Umständen entsprechende Informationen mit diesem Dienst aus, z. B. Ihre Postleitzahl, wenn Sie nach dem Wetter fragen, Ihre üblichen Musiksender oder den Inhalt Ihrer Anfragen.

Amazon gibt an, dass die Mitarbeiter der Alexa-Teams Nutzer nicht identifizieren können. Doch Ad Age berichtet nun mit Bezug auf Quellen aus Mitarbeiterkreisen, dass die Reviewer von Gesprächen Zugang zu Locationdaten haben und in einigen Fällen damit auch Nutzeradressen ausfindig machen können. Demnach lassen sich geographische Koordinaten der Endnutzer einsehen, die einfach als Ort identifiziert werden können. Bloomberg hatte die Erkenntnis publik gemacht.

Damit wissen einige Mitarbeiter in Alexa-Teams zum Teil, was die User erzählen, aber auch wo sie sich dabei aufhalten. Zunächst scheint es nicht allzu schlimm zu sein, dass ein Unternehmen die Adresse kennt. Allerdings könnte es zu heiklen Vorfällen kommen, da die Nutzer ihren Aufenthaltsort und über Alexa besprochene Dinge lieber nicht preisgeben würden. Weiterhin ist auch der Gedanke, dass irgendwelche Reviewer Privatadressen mit Gesprächsinhalten in Verbindung bringen können, alarmierend. Denn ein solches Wissen kann durchaus missbraucht oder verkauft werden. Amazon gibt weiter an:

[A] ccess to internal tools is highly controlled, and is only granted to a limited number of employees who require these tools to train and improve the service by processing an extremely small sample of interactions. Our policies strictly prohibit employee access to or use of customer data for any other reason, and we have a zero tolerance policy for abuse of our systems. We regularly audit employee access to internal tools and limit access whenever and wherever possible.

Einige Mitarbeiter – die Verschwiegenheitsklauseln unterschrieben haben – gehen dennoch davon aus, dass sehr viele in den Alexa-Teams auf eine Software zur Datenauswertung zugreifen können. Darin sind Privatadressen und Telefonnummern der Nutzer einzusehen. Nach den jüngsten Berichten hat Amazon diesen Zugriff laut Ad Age jedoch deutlich reduziert.

Für Amazon wie auch andere Anbieter von Sprachassistenten ist die Balance zwischen einem hochpersonalisierten sprachbasierten Service und der Wahrung der Privatsphäre ein Drahtseilakt. Wer Alexa nutzt, dürfte also wissen, dass seine Daten und Gespräche wohl niemals so ganz privat bleiben. Die Verknüpfung von digitalem Datenmanagement und privaten, stark personenbezogenen Informationen sollte jedoch Skepsis hervorrufen. Wie viel wissen die Alexa-Mitarbeiter wirklich? Denn die Beschränkung des Zugriffs auf die persönlichen Daten erfolgte erst nach einigen kritischen Publikationen. Die Gefahr all dieser Datenweitergabe mag nicht immer schwerwiegend und oft nur latent sein; doch sie ist da.


Über Niklas Lewanczik

Niklas Lewanczik

Niklas hat an der Uni Hamburg Deutsche Sprache und Literatur sowie Medien- und Kommunikationswissenschaften studiert und schreibt als Redakteur über Social Media, SEO und innovative Themen im Kontext des digitalen Marketing. Wenn er sich nicht gerade dem Marketing zuwendet, dann womöglich den Entwicklungen im modernen Fußball oder dem einen oder anderen guten Buch.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.