Bloomberg a récemment rapporté qu'Amazon avait un projet avec certains de ses employés écoutant certains des enregistrements audio réalisés par les haut-parleurs Alexa lorsque les utilisateurs interagissaient avec eux, mais il semble maintenant que ces gens ont également accès aux adresses personnelles des clients..
Un nouveau rapport Bloomberg de ce matin cite cinq employés anonymes de l'équipe Alexa Data Services d'Amazon comme confirmant qu'ils peuvent facilement trouver l'adresse personnelle d'un client en tapant leurs informations de latitude et de longitude dans un logiciel de cartographie comme Google Maps.
Bien qu'il n'y ait aucune indication que les employés d'Amazon ayant accès aux données ont tenté de retrouver des utilisateurs individuels, deux membres de l'équipe Alexa ont exprimé leur inquiétude à Bloomberg sur le fait qu'Amazon accordait un accès inutilement large aux données des clients, ce qui faciliterait l'identification du propriétaire d'un appareil..
Eh bien, cela ne semble certainement pas prometteur.
Certains des employés chargés d'analyser les enregistrements des clients Alexa utilisent un outil Amazon qui affiche des clips audio avec des données sur l'appareil qui a capturé l'enregistrement. Une grande partie des informations stockées par le logiciel, y compris un ID d'appareil et un numéro d'identification client, ne peuvent pas être facilement reliées à un utilisateur.
Voilà comment il devrait être.
Cependant, Amazon collecte également des données de localisation afin qu'Alexa puisse répondre plus précisément aux demandes, par exemple en suggérant un restaurant local ou en donnant la météo à Ashland, dans l'Oregon, à la place d'Ashland, dans le Michigan..
Il n'y avait rien de mal à ce qu'Alexa collecte les données de localisation des utilisateurs pour améliorer son service si ce n'était que certains de ses employés sont autorisés à le voir en premier lieu..
Dans une démonstration vue par Bloomberg, un membre de l'équipe Amazon a collé les coordonnées d'un utilisateur, stockées dans le système sous forme de latitude et de longitude, dans Google Maps. En moins d'une minute, l'employé était passé d'un enregistrement de la commande Alexa d'une personne à ce qui semblait être une image de sa maison et de l'adresse correspondante.
Eh bien, c'est certainement dérangeant, mais n'importe qui peut rechercher la position d'une personne dans Google Maps tant qu'elle a sa latitude et sa longitude, cela n'a rien de spécial. Ce qui est inquiétant, c'est que les coordonnées des utilisateurs sont disponibles pour certains employés d'Amazon.
Un autre outil interne qu'ils utilisent stocke plus de données personnelles.
Après avoir saisi un numéro d'identification client, ces travailleurs - appelés annotateurs et vérificateurs - peuvent voir les adresses personnelle et professionnelle et les numéros de téléphone que les clients ont saisis dans l'application Alexa lors de la configuration de l'appareil, a déclaré l'employé. Si un utilisateur a choisi de partager ses contacts avec Alexa, leurs noms, numéros et adresses e-mail apparaissent également dans le tableau de bord.
Oui, mais pourquoi afficher toutes ces informations dans le tableau de bord?
Ces données sont dans le système de sorte que si un client dit `` Envoyer un message à Laura '', les évaluateurs humains peuvent s'assurer que les transcripteurs ont correctement écrit le nom afin que le logiciel apprenne à associer cette demande avec Laura dans la liste de contacts..
Le rapport ne précise pas combien d'employés et de sous-traitants pourraient avoir accès à ces fonctionnalités. Deux employés d'Amazon ont déclaré qu'ils pensaient que la grande majorité des travailleurs du groupe Alexa Data Services étaient capables d'utiliser ce logiciel il y a environ un an.
Un autre employé a déclaré que «jusqu'à récemment», le système affichait des numéros de téléphone complets avec quelques chiffres masqués. «Jusqu'à récemment», c'est-à-dire après que Bloomberg a fait rapport à ce sujet, à droite?
Amazon a en outre limité l'accès aux données après le rapport de Bloomberg du 10 avril, ont déclaré deux des employés. Certains associés de données, qui transcrivent, annotent et vérifient les enregistrements audio, sont arrivés au travail pour constater qu'ils n'avaient plus accès aux outils logiciels qu'ils avaient précédemment utilisés dans leur travail, ont déclaré ces personnes..
Au moment de la presse, leur accès n'avait pas été rétabli.
De manière inquiétante, le rapport original comprenait une déclaration attribuée à un porte-parole d'Amazon niant que les personnes écoutant les enregistrements Alexa aient accès à d'autres informations.
Les employés n'ont pas d'accès direct aux informations permettant d'identifier la personne ou le compte dans le cadre de ce flux de travail. Toutes les informations sont traitées avec une confidentialité élevée et nous utilisons l'authentification multifacteur pour restreindre l'accès, le chiffrement des services et les audits de notre environnement de contrôle pour les protéger.
Dans une nouvelle déclaration répondant à l'histoire, cependant, Amazon a changé de position et appelle désormais l'accès aux outils internes «hautement contrôlé»:
L'accès aux outils internes est hautement contrôlé et n'est accordé qu'à un nombre limité d'employés qui ont besoin de ces outils pour former et améliorer le service en traitant un très petit échantillon d'interactions.
Nos politiques interdisent strictement l'accès des employés aux données des clients ou leur utilisation pour toute autre raison et nous avons une politique de tolérance zéro pour les abus de nos systèmes. Nous vérifions régulièrement l'accès des employés aux outils internes et limitons l'accès chaque fois que possible.
Avant de tirer des conclusions prématurées, il convient de répéter qu'il ne s'agit pas d'une sorte de projet secret - Amazon ne cache pas le fait qu'il paie aux gens d'écouter les conversations des clients. Comme Apple et d'autres sociétés de technologie, Amazon conserve des extraits anonymes d'enregistrements audio sur ses serveurs pendant une période de temps pour aider à améliorer sa reconnaissance vocale et son IA.
«Nous utilisons vos demandes à Alexa pour former nos systèmes de reconnaissance vocale et de compréhension du langage naturel», explique la société dans une liste de questions fréquemment posées..
C'est une réalité dans le monde de la technologie que les systèmes d'intelligence artificielle qui aident les machines à comprendre la signification des mots prononcés doivent être formés régulièrement à l'aide d'enregistrements réels, ce qui est le seul moyen fiable d'améliorer leur précision..
Comme l'a expliqué le porte-parole d'Amazon à Bloomberg:
Nous annotons uniquement un très petit échantillon d'enregistrements vocaux Alexa afin d'améliorer l'expérience client. Ces informations nous aident à former nos systèmes de reconnaissance vocale et de compréhension du langage naturel afin qu'Alexa puisse mieux comprendre vos demandes et garantir que le service fonctionne bien pour tout le monde..
Apple fait exactement la même chose: Siri a des assistants humains qui écoutent certains des clips, liés à un identifiant aléatoire et stockés sur des serveurs pendant six mois.
Après cela, l'identifiant aléatoire est complètement supprimé, mais les données sont conservées pendant de plus longues périodes pour améliorer la reconnaissance vocale de Siri. Oui, Google a également des réviseurs chargés d'écouter certains des extraits d'Assistant pour aider à former et à améliorer le service. Les enregistrements de Google sont dépouillés de toute information personnellement identifiable et l'audio lui-même est déformé.
Comme l'explique Florian Schaub, professeur à l'Université du Michigan, qui a étudié les problèmes de confidentialité liés aux haut-parleurs intelligents:
Vous ne pensez pas nécessairement à un autre humain qui écoute ce que vous dites à votre enceinte intelligente dans l'intimité de votre maison. Je pense que nous avons été conditionnés à l'hypothèse que ces machines ne font que de l'apprentissage automatique magique.
Mais le fait est qu'il y a toujours un traitement manuel impliqué.
Que ce soit un problème de confidentialité ou non dépend de la prudence avec laquelle Amazon et les autres sociétés sont dans le type d'informations qu'elles ont annotées manuellement et comment elles présentent ces informations à quelqu'un.
Pour le contexte, voici un extrait de l'histoire originale:
Certains réviseurs Alexa sont chargés de transcrire les commandes des utilisateurs, de comparer les enregistrements à la transcription automatisée d'Alexa, par exemple, ou d'annoter l'interaction entre l'utilisateur et la machine. Qu'est-ce que la personne a demandé? Alexa a-t-elle fourni une réponse efficace?
D'autres notent tout ce que l'orateur capte, y compris les conversations de fond, même lorsque les enfants parlent. Parfois, les auditeurs entendent les utilisateurs discuter de détails privés tels que des noms ou des coordonnées bancaires; dans de tels cas, ils sont censés cocher une boîte de dialogue indiquant les données critiques. Ils passent ensuite au fichier audio suivant.
Selon le site Web d'Amazon, aucun son n'est stocké sauf si Echo détecte le mot de réveil ou est activé en appuyant sur un bouton. Mais parfois, Alexa semble commencer à enregistrer sans aucune invite, et les fichiers audio commencent par un téléviseur assourdissant ou un bruit inintelligible. Que l'activation soit ou non erronée, les examinateurs sont tenus de la transcrire. L'une des personnes a déclaré que les auditeurs transcrivent chacun jusqu'à 100 enregistrements par jour lorsqu'Alexa ne reçoit aucune commande de réveil ou est déclenchée par accident.
Le reportage original de Bloomberg affirmait que «les milliers d'employés» travaillant sur ce projet doivent parfois également revoir des clips qui peuvent être assez pénibles - et même certains qui sont potentiellement criminels. Dans un cas signalé, deux employés d'Amazon ont entendu ce qu'ils pensaient être une agression sexuelle, mais leur employeur leur a demandé de ne pas signaler l'incident, car «ce n'était pas le travail d'Amazon d'intervenir».
Dans de tels cas extrêmes, c'est le travail d'Amazon d'intervenir.
Pourquoi la société n'autoriserait-elle pas les employés qui écoutent les enregistrements Alexa à signaler ces incidents aux forces de l'ordre et potentiellement à sauver des vies? Si quelqu'un s'introduit par effraction dans ma maison et me tient sous la menace d'une arme à feu, je veux que quiconque écoute puisse voir mon adresse personnelle et même alerter la police, si nécessaire.
Pensées?
