La Chine met en garde contre les « risques pour la sécurité nationale » liés à l’IA

Le ministère chinois de la Sécurité d'État a mis en garde mercredi contre les risques liés à l'utilisation abusive de l'intelligence artificielle (IA) , avertissant que cette technologie pourrait menacer la stabilité sociale, la protection des données sensibles et la sécurité nationale.

Dans un communiqué publié sur le réseau social WeChat, le ministère a reconnu les avantages de l'IA pour le développement économique et social, mais a souligné que son utilisation inappropriée peut faciliter la propagation de la désinformation et d'autres activités nuisibles.

Les autorités chinoises ont déclaré que les systèmes d’IA capables de générer du contenu manipulé – combinant des algorithmes d’apprentissage profond avec des images, des sons ou des vidéos falsifiés – pourraient être utilisés par des entités étrangères pour « provoquer des troubles » au sein de la population chinoise .

Bien que les techniques de génération de contenu ultra-réaliste aient des applications légitimes dans les industries du cinéma, de la publicité et des jeux vidéo, le ministère a averti que leur utilisation illicite pourrait violer les droits individuels et être utilisée pour « semer la confusion dans l'opinion publique ».

La déclaration souligne également que les systèmes d’IA générative sont capables de collecter, de stocker et même de divulguer des données personnelles sensibles, qui pourraient être utilisées par des services de renseignement étrangers pour mener des « activités de subversion, d’infiltration et de sabotage » en Chine.

Un autre sujet de préoccupation concerne les algorithmes manipulés avec des préjugés idéologiques, qui peuvent servir à diffuser des « idéologies biaisées ».

Le ministère de la Sécurité a exhorté la population à renforcer sa capacité à « distinguer la véracité » des informations et a réitéré la nécessité de veiller à ce que l'utilisation de l'IA respecte les principes établis par les autorités.

Depuis 2023, la Chine impose des réglementations aux services d’intelligence artificielle, exigeant de ces plateformes qu’elles respectent les « valeurs socialistes fondamentales » et interdisant la génération de contenus portant atteinte à la sécurité nationale, à l’unité territoriale et à la stabilité sociale.

Malgré la croissance rapide du secteur de l’IA dans le pays, avec des chatbots développés par des entreprises telles qu’Alibaba, DeepSeek, Tencent et Bytedance , des doutes subsistent quant à l’application et à l’efficacité de ces technologies dans un environnement fortement contrôlé par la censure de l’État.

Le ministère de la Sécurité d'État utilise fréquemment son compte officiel WeChat pour rendre publiques des affaires d'espionnage et exhorter les citoyens à la vigilance, les encourageant à se méfier des offres d'emploi suspectes , notamment en provenance de l'étranger, et à éviter de partager des informations confidentielles en ligne .

En 2023, le ministère a appelé à la mobilisation de toute la société pour « prévenir et combattre l’espionnage » et a annoncé des mesures visant à « renforcer la défense nationale » contre les « activités de renseignement étrangères ».