La Chine met en garde contre les risques liés à l’intelligence artificielle et appelle à des mesures de sécurité nationale renforcées

BEIJING (AP) – Le Parti communiste au pouvoir en Chine a mis en garde contre les risques posés par les progrès de l’intelligence artificielle tout en appelant à des mesures de sécurité nationale renforcées.

Une réunion dirigée par le chef du parti et président Xi Jinping mardi a appelé à « des efforts dédiés pour sauvegarder la sécurité politique et améliorer la gouvernance de la sécurité des données sur Internet et de l’intelligence artificielle », a déclaré l’agence de presse officielle Xinhua.

Xi, qui est le chef de l’État chinois, commandant de l’armée et président de la Commission de sécurité nationale du parti, a appelé lors de la réunion à « rester parfaitement conscient des circonstances compliquées et difficiles auxquelles la sécurité nationale est confrontée ».

La Chine a besoin d’un « nouveau modèle de développement avec une nouvelle architecture de sécurité », a rapporté Xi Jinping.

« Atténuer le risque d’extinction de l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle de la société tels que les pandémies et la guerre nucléaire », indique le communiqué.

La Chine consacre déjà de vastes ressources à la suppression de toute menace politique perçue à la domination du parti, les dépenses consacrées à la police et au personnel de sécurité dépassant celles consacrées à l’armée.

Alors qu’il censure sans relâche les manifestations en personne et les critiques en ligne, les citoyens ont continué d’exprimer leur mécontentement à l’égard des politiques, plus récemment les mesures de verrouillage draconiennes adoptées pour lutter contre la propagation du COVID-19.

La Chine a réprimé son secteur technologique dans le but de réaffirmer le contrôle du parti, mais comme d’autres pays, elle s’efforce de trouver des moyens de réglementer la technologie en développement.

La dernière réunion du parti a renforcé la nécessité « d’évaluer les risques potentiels, de prendre des précautions, de protéger les intérêts du peuple et la sécurité nationale, et d’assurer la sécurité, la fiabilité et la capacité de contrôler l’IA », a rapporté mardi le journal officiel Beijing Youth Daily.

Les inquiétudes concernant les systèmes d’intelligence artificielle déjouant les humains et échappant à tout contrôle se sont intensifiées avec la montée en puissance d’une nouvelle génération de chatbots IA hautement performants tels que ChatGPT.

Sam Altman, PDG de ChatGPT-maker OpenAI, et Geoffrey Hinton, un informaticien connu comme le parrain de l’intelligence artificielle, figuraient parmi les centaines de personnalités qui ont signé mardi la déclaration publiée sur le site Web du Center for AI Safety.

Plus de 1 000 chercheurs et technologues, dont Elon Musk, qui est actuellement en visite en Chine, avaient signé une lettre beaucoup plus longue plus tôt cette année appelant à une pause de six mois sur le développement de l’IA.

La missive a déclaré que l’IA pose «des risques profonds pour la société et l’humanité», et certaines personnes impliquées dans le sujet ont proposé un traité des Nations Unies pour réglementer la technologie.

La Chine a averti dès 2018 de la nécessité de réglementer l’IA, mais a néanmoins financé une vaste expansion dans le domaine dans le cadre des efforts visant à prendre les devants sur les technologies de pointe.

Un manque de protection de la vie privée et un contrôle strict des partis sur le système judiciaire ont également entraîné une utilisation quasi totale de la technologie de reconnaissance faciale, vocale et même de la marche pour identifier et détenir les personnes considérées comme menaçantes, telles que les dissidents politiques et les minorités religieuses, en particulier Les musulmans.

Les membres des Ouïghours et d’autres groupes ethniques principalement musulmans ont été ciblés pour une surveillance électronique de masse et plus d’un million de personnes ont été détenues dans des camps de rééducation politique ressemblant à des prisons que la Chine appelle des centres de déradicalisation et de formation professionnelle.

Les risques de l’IA sont principalement perçus dans sa capacité à contrôler les armes robotiques autonomes, les outils financiers et les ordinateurs régissant les réseaux électriques, les centres de santé, les réseaux de transport et d’autres infrastructures clés.

L’enthousiasme débridé de la Chine pour les nouvelles technologies et sa volonté de bricoler avec des recherches importées ou volées et d’étouffer les enquêtes sur des événements majeurs tels que l’épidémie de COVID-19 renforcent les inquiétudes quant à son utilisation de l’IA.

« L’attitude joyeuse de la Chine à l’égard du risque technologique, l’ambition téméraire du gouvernement et la mauvaise gestion de la crise par Pékin sont tous sur une trajectoire de collision avec les dangers croissants de l’IA », ont écrit les spécialistes de la technologie et de la sécurité nationale Bill Drexel et Hannah Kelley dans un article publié cette semaine dans le journal. revue Affaires étrangères.

Droits d’auteur 2023 L’Associated Press. Tous les droits sont réservés. Ce matériel ne peut être publié, diffusé, réécrit ou redistribué.