TikTok a ouvert un centre de transparence alors qu’il fait face à de nouvelles menaces d’interdictions gouvernementales


Ce mardi, à la suite de sa récente offensive de charme à Washington, DC, TikTok a accueilli des journalistes à son siège de Los Angeles pour dévoiler un nouveau centre qu’il a créé pour courtiser les décideurs, les régulateurs et les dirigeants de la société civile américains.

« Dans quelle mesure est-ce une menace pour la sécurité nationale de rejoindre le réseau wifi ici? » Bobby Allyn, journaliste spécialisé dans la technologie de NPR, a plaisanté en attendant avec moi et d’autres participants que les présentations des dirigeants commencent. Les membres du personnel de TikTok semblaient incertains de ce qu’il fallait dire jusqu’à ce qu’Allyn les rassure qu’il ne faisait que plaisanter.

L’échange a révélé la tension sous-jacente à l’invitation amicale de la presse : TikTok, une application de médias sociaux de plus en plus influente utilisée par plus de 130 millions d’Américains, fait l’objet d’un examen politique intense aux États-Unis sur les liens de sa société mère avec la Chine. Un peu moins de trois ans après que le président Donald Trump a tenté de l’interdire, les négociations de l’entreprise avec les régulateurs américains sont au point mort et elle fait face à de nouveaux appels à une interdiction nationale. Déjà, 17 États américains ont interdit l’application des appareils émis par le gouvernement.

Le nouveau centre de transparence et de responsabilité de TikTok à Los Angeles offre une vue en coulisse des algorithmes et des pratiques de modération de contenu de TikTok, qui ont suscité la controverse en raison des craintes que l’application extrêmement populaire ne soit armée pour promouvoir des messages ou des informations erronées du gouvernement pro-chinois.

Les informations fournies par TikTok sur ses algorithmes et la modération de contenu n’étaient pas particulièrement éclairantes, mais ce qui ressortait, ce sont les détails qu’il partageait sur son projet de séparer une partie de ses opérations américaines de la Chine, tout en étant toujours détenu par une société chinoise. L’événement a également présenté une occasion rare pour les journalistes de poser des questions à un large éventail d’employés de TikTok sur ses politiques de contenu et ses algorithmes.

Dans ses remarques liminaires aux journalistes, TikTok COO Vanessa Pappas a reconnu le scepticisme général quant au pouvoir des plateformes de médias sociaux sur certaines parties de notre vie numérique – sans mentionner de préoccupations politiques spécifiques avec TikTok.

« Nous comprenons vraiment la critique », a déclaré Pappas à propos du rôle joué par Big Tech dans le contrôle « du fonctionnement des algorithmes, du fonctionnement des politiques de modération et des flux de données des systèmes ».

Mais, a déclaré Pappas, TikTok répond à cette préoccupation en offrant ce qu’elle appelle des « niveaux de transparence sans précédent », avec des initiatives comme son nouveau centre et ses plans pour mettre en œuvre d’autres initiatives, comme commencer à ouvrir l’API de TikTok aux chercheurs.

L’éléphant dans la pièce

Il y a une grande raison pour laquelle nous étions tous dans les bureaux de TikTok : la Chine. Mais Pappas et les autres dirigeants de l’entreprise n’ont jamais vraiment dit « Chine » dans leurs remarques officielles.

TikTok appartient à une société chinoise, ByteDance, qui exploite sa propre version de l’application de TikTok, appelée Douyin, en Chine.

Les critiques soutiennent depuis longtemps que toute entreprise appartenant à des Chinois est soumise aux lois chinoises sur la sécurité nationale, ce qui signifie que les employés de ByteDance pourraient être contraints de surveiller les Américains ou de manipuler les algorithmes de recommandation de TikTok au service du gouvernement chinois. Bien qu’il n’y ait aucune preuve que le gouvernement chinois ait directement demandé les données des utilisateurs américains à TikTok ou à sa société mère, un rapport d’enquête de BuzzFeed News a révélé qu’en juin 2022, les employés chinois de TikTok pouvaient accéder aux données des utilisateurs américains.

Lors de l’événement de mardi, TikTok a expliqué comment il prévoit de rassurer le public sur le fait qu’il ne sera pas influencé par le gouvernement chinois. Son « Project Texas » est un partenariat majeur avec le géant technologique basé au Texas Oracle pour déplacer toutes les données américaines qui étaient auparavant stockées sur les serveurs étrangers de TikTok vers les États-Unis. Le projet consiste également à inviter une équipe extérieure, notamment d’Oracle, à auditer ses algorithmes.

Une autre partie du projet créera une nouvelle filiale appelée TikTok US Data Security (USDS) qui supervisera les politiques de modération du contenu de l’application, formera le moteur de recommandation de TikTok avec les données des utilisateurs américains et autorisera les décisions éditoriales. Dans le cadre du plan de TikTok, les employés de l’USDS relèveront d’un conseil d’administration indépendant qui reste à finaliser et qui possède de solides références en matière de sécurité nationale et de cybersécurité.

Tout cela survient environ un mois après que TikTok a été découvert en train d’espionner la journaliste de Forbes Emily Baker White, qui couvrait les détails divulgués sur le projet. TikTok a reconnu que plusieurs de ses employés avaient mal accédé aux données des utilisateurs privés de White, ainsi qu’à celles de plusieurs autres journalistes, dans le but d’identifier et de retrouver leurs sources privées. L’entreprise a licencié les employés impliqués dans la surveillance et a déclaré qu’ils avaient « abusé de leur autorité » pour obtenir des données sur les utilisateurs, mais l’incident n’a fait qu’alimenter les soupçons sur l’entreprise.

Ces soupçons pourraient expliquer pourquoi les négociations de TikTok avec le Comité américain sur les investissements étrangers aux États-Unis, ou CFIUS, traînent en longueur. Le CFIUS est un comité gouvernemental interinstitutionnel qui examine si les accords commerciaux constituent une menace pour la sécurité nationale des États-Unis. Le CFIUS a examiné la fusion de ByteDance en 2017 entre TikTok et la société Musical.ly, lui donnant le pouvoir de dénouer l’accord et de forcer TikTok à vendre à une société américaine. TikTok et CFIUS auraient été sur le point de parvenir à un accord pour éviter ce scénario, mais les négociations sont au point mort.

Il est largement reconnu que les escalades politiques entre la Chine et les États-Unis ont joué un rôle dans ce retard. Ce n’est pas le bon moment pour les agences politiques ou les élus – y compris le président Biden, qui devrait signer l’accord – pour soutenir tout ce qui est considéré comme pro-Chine.

« TikTok s’est rendu compte qu’il s’agit vraiment d’une question politique. Il s’agit moins de convaincre les autorités de sécurité nationale que de convaincre les politiciens », a déclaré Anupam Chander, professeur de droit et de technologie à l’Université de Georgetown.

Chander faisait partie d’un petit groupe d’universitaires, de lobbyistes et d’experts en confidentialité des données que TikTok a informés du projet Texas à Washington, DC, il y a quelques semaines. Le défi, a déclaré Chander, est qu' »aujourd’hui, dans certains cercles politiques, tout lien avec la Chine est un poison ».

Cela pourrait expliquer pourquoi les dirigeants de TikTok ont ​​évité de mentionner la Chine mardi.

Passer sous le capot

Le nouveau centre de transparence et de responsabilité de TikTok a fourni aux journalistes des détails sur son algorithme de recommandation insaisissable et quelques exemples tangibles de la façon dont l’application modère le contenu, mais n’a rien révélé de révélateur.

Un didacticiel au centre portait sur l’algorithme de recommandation de TikTok, appelé le «simulateur de code». Il a expliqué comment la première fois que vous ouvrez l’application, vous voyez huit vidéos de sujets tendance qui pourraient vous intéresser selon TikTok. Ensuite, l’application affine sa compréhension de vos intérêts en fonction des vidéos que vous avez aimées, visionnées, et partagé, quels comptes vous suivez et ce qui intéresse les personnes de votre groupe démographique similaire. Le didacticiel montrait des extraits du code utilisé pour programmer les modèles d’apprentissage automatique qui recommandent ce contenu.

Le deuxième exercice éducatif – et plus engageant – était une simulation de ce que c’est que de modérer un contenu controversé sur TikTok. Une vidéo montrait un homme faisant des mouvements nerveux avec ses bras avec une légende disant qu’il venait de recevoir une dose de vaccin – sur une piste de rire. À côté de la vidéo, un écran détaillait les politiques de désinformation de TikTok. (La vidéo ne les violait pas car elle était considérée comme de l’humour et non comme une véritable désinformation sur la santé.)

L’exercice m’a permis de mieux comprendre les appels difficiles que plus de 10 000 personnes de TikTok dans le monde travaillant sur la confiance et la sécurité doivent passer chaque jour. Mais je voulais en savoir plus sur le processus d’élaboration des directives de TikTok et de conception de son algorithme : qui décide quel contenu est vu par plus de personnes sur TikTok, et comment l’application décide-t-elle quand augmenter ou rétrograder certains contenus ?

Les employés de TikTok m’ont dit que l’application ne promeut que 0,002 % des vidéos sur sa plate-forme, et que ces décisions sont prises par l’équipe de programmation de contenu, qui identifie les vidéos susceptibles d’être à la mode. Un exemple qu’ils ont donné était la façon dont la société a manuellement donné un coup de pouce aux Rolling Stones lorsque le groupe a rejoint TikTok pour la première fois.

TikTok a déclaré qu’il donnait à certains experts extérieurs accès à des détails plus détaillés sous le capot : l’intégralité de son code source, ainsi que des détails sur les exceptions qu’il fait pour promouvoir manuellement certains contenus tendance, dans une pièce séparée et top secrète dans le Maryland (vous devez signer un NDA pour entrer). La société a également déclaré que les employés d’Oracle avaient examiné le code de TikTok dans un centre de transparence distinct dans le Maryland.

Bien que le centre de transparence de TikTok donne un peu plus d’informations sur le fonctionnement de l’entreprise et de son application, nous ne savons toujours pas exactement comment les décisions relatives au contenu, aux données et à la modération sont prises au sein de l’entreprise.

D’autre part, TikTok adopte de nouvelles approches pour tenter de faire la lumière sur ses pratiques et algorithmes de données. Dans le cadre du plan USDS de TikTok, un groupe d’employés d’Oracle et d’experts en sécurité sont censés surveiller les algorithmes propriétaires de l’entreprise qui dictent ce que des millions de personnes voient chaque jour lorsqu’elles se connectent à l’application. Nous n’avons pas ce niveau de responsabilité externe pour Facebook ou YouTube. Des entreprises comme Meta et Google suivent également d’énormes quantités de nos informations personnelles en ligne, mais n’attirent pas le même type de problèmes de sécurité nationale que TikTok, car ce sont des entreprises américaines. Même si TikTok partage maintenant des informations par nécessité politique, c’est un avantage net pour la société qu’ils partagent la moindre information.

Reste à savoir si TikTok parviendra à faire changer d’avis sur Capitol Hill. Bien que ces dernières initiatives ne soient qu’une première étape, il en faudra beaucoup plus – et la validation de partenaires et d’experts extérieurs – pour convaincre les plus sceptiques de TikTok.

Laisser un commentaire