La collecte de données vocales à des fins lucratives suscite des craintes en matière de confidentialité


Un centre de service client utilise l’intelligence artificielle pour identifier l’agitation d’un appelant, une compagnie d’assurance scanne les données vocales pour signaler une maladie et augmenter les tarifs, un restaurant cinq étoiles refuse une réservation sur des détails personnels révélés par la tonalité à l’autre bout de la ligne.

Loin de la science-fiction, de tels scénarios sont entrés dans le domaine du possible, a déclaré Joseph Turow, professeur à l’Annenberg School for Communication de l’Université de Pennsylvanie et auteur de « The Voice Catchers : How Marketers Listen In to Exploit Your Emotions, Your Privacy and Your Portefeuille. »

L’essor des produits à assistance vocale dans les foyers et les lieux de travail a entraîné une vague d’innovations dans le secteur privé, affinant la prise de commandes de restauration rapide au volant, remplaçant les technologies portables généralement utilisées par les employés d’entrepôt et affinant les appareils intelligents pour la maison qui s’adaptent aux besoins d’un utilisateur. tics vocaux, selon des experts et des défenseurs de la vie privée qui ont parlé avec ABC News.

Mais la collecte de données vocales alimente également un marketing ciblé basé sur des informations personnelles glanées à partir d’enregistrements et risque des violations de données qui pourraient placer sa voix entre les mains de cybercriminels visant à l’imiter, ont-ils ajouté.

« C’est devenu un vrai problème car de plus en plus de personnes utilisent des appareils à commande vocale comme Alexa et Siri », a déclaré Marc Rotenberg, fondateur et directeur exécutif du Center for AI and Digital Policy, à but non lucratif, à ABC News. « Il y a une bombe à retardement avec la collection d’enregistrements vocaux. »

« Ces entreprises rassemblent des enregistrements vocaux pour améliorer un service », a ajouté Rotenberg. « Mais leur conservation de ces enregistrements vocaux est un réel souci de confidentialité. »

Alors que les assistants vocaux sont récemment arrivés dans les poches et les salons des consommateurs, la technologie remonte à plus d’un demi-siècle.

Au début des années 1960, IBM a lancé la Shoebox, une calculatrice qui pouvait faire de l’arithmétique de base en réponse à des commandes vocales. Environ une décennie plus tard, le système de reconnaissance vocale « Harpy » lancé par Carnegie Mellon pouvait identifier plus de 1 000 mots dans la voix d’un utilisateur.

En fin de compte, la technologie a atteint un point d’inflexion il y a plus de dix ans, lorsqu’Apple a lancé Siri en tant que fonctionnalité de l’iPhone, équipant des dizaines de millions de personnes avec la commande vocale. Trois ans plus tard, Amazon a sorti Alexa, un assistant vocal qui pouvait jouer des chansons ou rechercher des faits en réponse à un simple énoncé. Peu de temps après, Google a lancé Google Assistant, une fonction de reconnaissance vocale disponible sur ses appareils Android et Google Home.

Pendant ce temps, la technologie s’est développée bien au-delà de la curiosité des consommateurs, car les entreprises l’ont recherchée pour améliorer leurs opérations et les spécialistes du marketing ont exploré les utilisations secondaires des données vocales. Au total, le marché mondial de la reconnaissance vocale a dépassé les 3,5 milliards de dollars en 2021 et devrait atteindre 10 milliards de dollars d’ici 2028, selon le cabinet d’études Global Market Insights.

Dans de nombreux cas, les entreprises déploient des données vocales parce qu’elles renforcent la productivité ou améliorent le service rencontré par un client, a déclaré Kristin Bryan, avocate chez Squire Patton Boggs qui a travaillé sur des litiges impliquant la collecte de données vocales, à ABC News.

« Les entreprises trouvent de plus en plus de nouvelles façons d’utiliser la technologie vocale pour réduire les erreurs humaines et rationaliser les opérations », a-t-elle déclaré.

Par exemple, un nombre croissant d’entrepôts du vaste réseau de commerce électronique du pays ont remplacé les tablettes portables par une technologie portable qui permet aux employés d’enregistrer leur travail via des commandes vocales, libérant ainsi les deux mains pour soulever et trier les produits, a déclaré Roberto Michel, un senior rédacteur en chef de Modern Materials Handling, une publication spécialisée couvrant l’industrie manufacturière.

Une enquête menée par le point de vente l’année dernière a révélé que 39% des entreprises d’entrepôt utilisent la technologie à assistance vocale, une augmentation par rapport aux 21% de ces entreprises qui ont déclaré avoir adopté les appareils un an auparavant, a déclaré Michel.

La technologie « accélère le processus de sélection des commandes au lieu de tâtonner avec un ordinateur de poche », a déclaré Michel.

Cependant, même des utilisations apparemment inoffensives de la technologie à assistance vocale peuvent déclencher des problèmes de confidentialité, a déclaré Turow, de l’Université de Pennsylvanie.

La semaine dernière, la chaîne d’épiceries Whole Foods, propriété d’Amazon, a accepté de verser près de 300 000 dollars aux travailleurs dans le cadre d’un règlement suite à des allégations selon lesquelles un produit à assistance vocale utilisé pour suivre la productivité des travailleurs dans un entrepôt de Chicago avait enregistré les voix des employés sans leur consentement.

PHOTO : FICHIER - Un appareil Echo Plus d'Amazon.com Inc. est présenté lors d'un événement de dévoilement au siège de la société à Seattle, le 25 septembre 2019.

Un appareil Amazon.com Inc. Echo Plus est présenté lors d’un événement de dévoilement au siège de la société à Seattle, le 25 septembre 2019.

Bloomberg via Getty Images, FICHIER

Les critiques craignent que les produits à assistance vocale ne recueillent plus de données révélatrices que ne le pensent de nombreux utilisateurs, permettant aux entreprises de tirer profit des déclarations faites à la maison ou de travailler grâce à une publicité soigneusement affinée ou à la vente d’informations intimes.

La voix d’un consommateur pourrait être utilisée pour révéler une mine de connaissances sur lui, y compris la taille, le poids, l’origine ethnique, les traits de personnalité et les problèmes de santé possibles, a déclaré Turow, qui a parlé aux scientifiques de la recherche audio pour son livre sur la collecte de données vocales. .

En 2019, Amazon a annoncé le développement d' »un modèle de deep learning pour détecter quand les clients sont frustrés » avec son assistant vocal. « Alexa peut maintenant essayer de s’adapter, comme vous ou moi le ferions », a déclaré la société.

« Avec la détection de frustration, Alexa reconnaîtra le ton positif, négatif et neutre d’une demande. Alexa n’est pas conçue pour détecter des émotions distinctes comme le bonheur, la tristesse, la colère ou la surprise », a déclaré la porte-parole d’Amazon, Lauren Raemhild, à ABC News.

« Les clients ont plusieurs options pour gérer leurs enregistrements vocaux Alexa, y compris l’option de ne pas du tout sauvegarder leurs enregistrements », a-t-elle ajouté.

En juin dernier, TikTok a mis à jour sa politique de confidentialité, élargissant les données collectées par l’entreprise pour inclure les enregistrements vocaux.

Les entreprises qui collectent des données vocales pourraient utiliser des informations pour vendre des produits directement aux consommateurs ou transmettre les données aux annonceurs, a déclaré Turow.

« Alors que nous entrons dans un monde où les gens utilisent la voix off dans leur vie quotidienne, les spécialistes du marketing veulent savoir : que puis-je retirer de la voix de cette personne ? » il a dit.

Rotenberg, du Center for AI and Digital Policy, a averti que la collecte de données audio pourrait également permettre à des acteurs néfastes d’accéder à sa voix, leur permettant de commettre des fraudes ou d’autres crimes par usurpation d’identité.

Un voleur déployant la tactique, connue sous le nom de deepfake audio, a amené une banque basée à Hong Kong à envoyer 35 millions de dollars à un criminel que la banque pensait être un avocat d’entreprise, a rapporté Forbes en octobre dernier.

Dans un communiqué, la porte-parole d’Amazon, Lauren Raemhild, a déclaré que la société prenait des mesures importantes pour assurer la sécurité de ses données.

« Amazon compte des centaines d’employés dédiés à la conception de produits sécurisés, à l’innovation en matière de sécurité, ainsi qu’à la recherche et à la correction des vulnérabilités dans les services et appareils Amazon », a déclaré Raemhild. « Nous utilisons de nombreuses tactiques et fonctionnalités qui aident à sécuriser nos appareils et les données de nos clients, par exemple, des examens de sécurité rigoureux pendant le développement, le cryptage pour protéger les données et des mises à jour régulières de la sécurité des logiciels. »

Apple et Google n’ont pas immédiatement répondu à une demande de commentaire sur le vol potentiel et l’abus de données vocales.

Malgré l’utilisation croissante de la technologie à assistance vocale, les lois protégeant la collecte de données audio restent limitées, selon les avocats et les avocats qui se sont entretenus avec ABC News.

Les États-Unis n’ont pas de loi fédérale régissant ces données, laissant la réglementation principalement au niveau de l’État. Jusqu’à présent, quatre États ont promulgué des lois relatives à la collecte de données vocales : la Californie, le Texas, Washington et l’Illinois, a déclaré Bryan, de Squire Patton Boggs.

La loi la plus stricte, dans l’Illinois, exige que les entreprises obtiennent le consentement écrit des individus avant de collecter ces données, et il est ensuite interdit aux entreprises de vendre ou de tirer profit de ces informations. Les entreprises qui enfreignent la loi s’exposent à des sanctions financières potentielles.

L’effort visant à limiter la collecte de données vocales nécessite une urgence, avant que les produits à assistance vocale ne soient plus largement adoptés, a déclaré Turow.

« Une fois que cela s’est figé, nous ne pouvons plus y faire grand-chose », a-t-il déclaré.

Laisser un commentaire