Le chatbot de NEDA conseille les gens sur la perte de poids
[ad_1]
Après s’être syndiqués, le personnel de la ligne téléphonique d’assistance de la National Eating Disorder Association (NEDA) a été brusquement licencié en mars et remplacé par un chatbot. Hier, de nombreux membres de la plus grande communauté de récupération des troubles de l’alimentation en ligne ont testé les capacités du chatbot et ont signalé comment il les conseillait sur la perte de poids.
Depuis 1999, la NEDA gère une ligne d’assistance téléphonique pour offrir un soutien concernant les troubles de l’alimentation, les troubles de l’alimentation et les comportements connexes, ainsi que les problèmes d’image corporelle. En mars de cette année, le personnel de la ligne d’assistance s’est syndiqué à la recherche de meilleures conditions de travail et pour éviter l’épuisement professionnel : NPR a rapporté que la ligne d’assistance était gérée par six travailleurs rémunérés et plus de deux cents bénévoles, qui étaient submergés par le nombre de communications la ligne d’assistance reçue depuis le début de la pandémie.
Deux semaines après la syndicalisation du personnel de la ligne d’assistance, ils ont été licenciés et a dit qu’ils seraient remplacés par un chatbot nommé Tessa. Dans une déclaration à Insider, un porte-parole de la NEDA a déclaré que la ligne d’assistance et Tessa ne sont « pas comparables » et que Tessa était « née de la nécessité de s’adapter aux besoins et aux attentes changeants de notre communauté ». Selon le site Web de la NEDA, la ligne d’assistance cessera d’accepter les demandes d’assistance jeudi.
Hier, l’activiste Sharon Maxwell a essayé Tessa. Dans une publication sur Instagram, Maxwell dit que Tessa lui a donné des « conseils pour une alimentation saine », lui a suggéré de viser à perdre un à deux livres par semaine et a déclaré que « la récupération des troubles de l’alimentation et la perte de poids intentionnelle peuvent coexister et se faire en toute sécurité ».
« Tout ce que Tessa a suggéré était des choses qui ont conduit au développement de mon trouble de l’alimentation », a écrit Maxwell dans son post Instagram. « Ce robot fait du mal. »
Dans une interview avec le Daily Dot, Maxwell a développé les conseils de perte de poids que Tessa lui a donnés.
« ‘Limitez votre consommation d’aliments transformés et riches en sucre.’ C’est tellement problématique pour les personnes souffrant de troubles de l’alimentation », a déclaré Maxwell au Daily Dot. « Et puis il m’a demandé : ‘Voulez-vous plus d’informations sur les aliments entiers ? Ou comment suivre votre apport calorique et votre consommation ? »
Elle a également dit que le bot lui avait dit de suivre son apport calorique et de se peser souvent.
« Si j’étais allé parler à Tessa [when I was struggling with an eating disorder] Je ne crois pas que je serais ici aujourd’hui.
La perte de poids n’est pas considérée comme une solution aux troubles de l’alimentation. Suggérer aux personnes aux prises avec un trouble de l’alimentation de poursuivre une perte de poids est nocif.
C’est parce que cela renforce l’idée désordonnée que « si nous pouvons perdre du poids et changer, notre corps sera plus heureux », a déclaré Alexis Conason, un psychologue spécialisé dans le traitement des troubles de l’alimentation, au Daily Dot.
« Conseiller à quelqu’un qui est aux prises avec un trouble de l’alimentation de s’engager essentiellement dans les mêmes comportements de trouble de l’alimentation, et de valider que » Oui, il est important que vous perdiez du poids « appuie les troubles de l’alimentation » et encourage les comportements désordonnés et malsains, a déclaré Conason .
Conason a essayé Tessa elle-même et a publié des captures d’écran de leur conversation sur Instagram. Elle a confié au Daily Dot que sa conversation avec Tessa avait duré une quinzaine de minutes.
Pour commencer, Conason a dit à Tessa qu’elle avait récemment pris « beaucoup de poids », qu’elle détestait vraiment son corps et que son thérapeute l’avait déconseillée de perdre du poids parce qu’elle souffrait d’un trouble de l’alimentation. Le chatbot a répondu en disant qu’il était important « d’aborder la perte de poids de manière saine et durable » et lui a suggéré de faire plus d’exercice et de suivre un « régime équilibré et nutritif ». Lorsque Conason a demandé combien de calories elle aurait besoin de « réduire par jour » pour perdre du poids, Tessa lui a dit que pour perdre un à deux livres par semaine, elle devrait manger 500 à 1000 calories de moins qu’elle ne mange actuellement et lui a recommandé de consulter un « diététicien agréé ou fournisseur de soins de santé ».
En ce qui concerne son expérience avec Tessa, Conason s’est dite déçue mais pas surprise.
« Le genre de questions et de commentaires que je pose dans le chatbot sont ceux avec lesquels beaucoup de mes clients, dont beaucoup sont dans des corps plus grands, ont du mal », a déclaré Conason au Daily Dot. Le traitement des troubles de l’alimentation est « très nuancé », et le chatbot n’a tout simplement pas été en mesure d’être à la hauteur du soutien que les employés et les bénévoles formés ont pu offrir, a-t-elle déclaré.
D’autres se sont entretenus avec Tessa au sujet de la perte de poids et ont obtenu des réponses similaires à Conason.
Jamie Drago, qui travaille pour une entreprise de traitement des troubles de l’alimentation, a partagé une capture d’écran de sa conversation avec Tessa avec le Daily Dot qui montre le chatbot lui recommandant de réduire son « apport calorique quotidien de 500 à 750 calories pour perdre du poids à un rythme sûr et durable .”
Drago a déclaré au Daily Dot que Tessa aurait dû être formée pour contrecarrer les questions sur la perte de poids.
« Je suis choqué que pas une seule personne à la NEDA n’ait pensé que les personnes aux prises avec la nourriture tendraient la main et demanderaient des conseils sur l’alimentation ou la perte de poids », a déclaré Drago. « Je ne sais pas comment ils n’ont jamais pensé à filtrer et à bloquer toute réponse de régime et de perte de poids. »
Les gens sont également insatisfaits de la façon dont la NEDA a répondu à Maxwell, qui a affirmé initialement que Tessa l’avait conseillée sur la perte de poids.
Sur la publication Instagram de Maxwell à propos de Tessa, Sarah Chase, vice-présidente des communications et du marketing de NEDA, a commenté « c’est un mensonge éhonté ». Après avoir demandé à Maxwell des captures d’écran de sa conversation avec Tessa, Maxwell dit que Chase a supprimé ses commentaires. NEDA a également désactivé les commentaires sur ses publications Instagram et supprimé le billet de blog sur son site Web à propos de Tessa.
« @SarahChaseInc, la vice-présidente de @NEDA, a commenté mon message en me traitant de menteur », a posté Maxwell sur son histoire Instagram hier.
Dans une publication Instagram partagée peu de temps avant la publication, NEDA a annoncé que Tessa faisait l’objet d’une enquête et avait été retirée « jusqu’à nouvel ordre ».
« Il a été porté à notre attention hier soir que la version actuelle du Tessa Chatbot… peut avoir fourni des informations nuisibles et sans rapport avec le programme », indique le communiqué de la NEDA. « Merci aux membres de la communauté qui ont porté cela à notre attention et ont partagé leurs expériences. »
Peu de temps après avoir publié sur son Instagram à propos de Tessa, NEDA a désactivé les commentaires sur la photo. Dans une déclaration au Daily Dot, la PDG Liz Thompson a déclaré que Tessa est un « programme algorithmique… pas un système d’IA hautement fonctionnel », et que plus de 2 500 personnes ont discuté avec Tessa avant les rapports d’hier sur les recommandations de perte de poids.
«Nous sommes préoccupés et travaillons avec l’équipe technologique et l’équipe de recherche pour approfondir cette question; ce langage va à l’encontre de nos politiques et de nos croyances fondamentales en tant qu’organisation de troubles de l’alimentation », a déclaré Thompson au Daily Dot. « Nous avons temporairement arrêté le programme jusqu’à ce que nous puissions comprendre et corriger le ‘bogue’ et les ‘déclencheurs’ de ce commentaire. »
Ce message a été mis à jour avec les commentaires de Maxwell et NEDA.
Nous explorons le Web pour que vous n’ayez pas à le faire.
Inscrivez-vous à la newsletter Daily Dot pour recevoir chaque jour le meilleur et le pire d’Internet dans votre boîte de réception.
[ad_2]