L'IA rejoint la liste des défis mondiaux à l'ordre du jour de la réunion de l'ONU

L'intelligence artificielle rejoint la liste des grands et complexes défis mondiaux que les dirigeants et les diplomates du monde entier aborderont lors de la réunion annuelle de haut niveau des Nations Unies qui se tiendra cette semaine.

Depuis le lancement de ChatGPT il y a environ trois ans, l'essor de l'IA a stupéfié le monde entier grâce à ses capacités exceptionnelles. Les entreprises technologiques se sont empressées de développer des systèmes d'IA plus performants et plus performants, malgré les mises en garde des experts contre ses risques, notamment des menaces existentielles telles que les pandémies artificielles et la désinformation à grande échelle, et appellent à des mesures de protection.

L'adoption par l'ONU d'une nouvelle architecture de gouvernance constitue la dernière et la plus importante initiative visant à maîtriser l'IA. Les efforts multilatéraux précédents, notamment les trois sommets sur l'IA organisés par le Royaume-Uni, la Corée du Sud et la France, n'ont abouti qu'à des engagements non contraignants.

Le mois dernier, l’Assemblée générale a adopté une résolution visant à créer deux organes clés sur l’IA – un forum mondial et un groupe d’experts scientifiques indépendants – dans une démarche historique visant à guider les efforts de gouvernance mondiale de cette technologie.

Mercredi, une réunion du Conseil de sécurité de l'ONU convoquera un débat public sur la question. Parmi les questions abordées : comment le Conseil peut-il contribuer à garantir une application responsable de l'IA, conformément au droit international, et soutenir les processus de paix et la prévention des conflits ?

Et jeudi, dans le cadre de la réunion annuelle de l'organisme, le secrétaire général de l'ONU, António Guterres, tiendra une réunion pour lancer le forum, appelé Dialogue mondial sur la gouvernance de l'IA.

C'est un lieu où les gouvernements et les parties prenantes peuvent discuter de coopération internationale et partager des idées et des solutions. Il est prévu de se réunir officiellement à Genève l'année prochaine et à New York en 2027.

Parallèlement, le recrutement devrait débuter afin de sélectionner 40 experts pour le panel scientifique, dont deux coprésidents, l'un issu d'un pays développé, l'autre d'un pays en développement. Le panel a été comparé au Groupe d'experts intergouvernemental sur l'évolution du climat (GIEC) de l'ONU et à sa réunion annuelle phare, la COP.

Ces nouveaux organismes représentent « un triomphe symbolique ». Ils constituent « de loin l'approche la plus inclusive au monde en matière de gouvernance de l'IA », a écrit Isabella Wilkinson, chercheuse au groupe de réflexion londonien Chatham House, dans un billet de blog .

« Mais en pratique, les nouveaux mécanismes semblent largement impuissants », a-t-elle ajouté. Parmi les questions potentielles figure la capacité de l'administration onusienne, déjà lourde, à réguler une technologie en constante évolution comme l'IA.

Avant la réunion, un groupe d’experts influents a appelé les gouvernements à s’accorder sur ce que l’on appelle des lignes rouges pour que l’IA entre en vigueur d’ici la fin de l’année prochaine, affirmant que la technologie a besoin de « garde-fous minimaux » conçus pour prévenir les « risques les plus urgents et les plus inacceptables ».

Le groupe, composé de cadres supérieurs d'OpenAI, le créateur de ChatGPT, de DeepMind, le laboratoire de recherche en IA de Google, et d'Anthropic, le créateur de chatbots, souhaite que les gouvernements signent un accord international contraignant sur l'IA. Ils rappellent que la communauté internationale a déjà adopté des traités interdisant les essais nucléaires et les armes biologiques, ainsi que la protection de la haute mer.

« L'idée est très simple », a déclaré l'un des bailleurs de fonds, Stuart Russell, professeur d'IA à l'Université de Californie à Berkeley. « Comme pour les médicaments et les centrales nucléaires, nous pouvons exiger des développeurs qu'ils prouvent la sécurité comme condition d'accès au marché. »

Russell a suggéré que la gouvernance de l'ONU pourrait ressembler au fonctionnement d'un autre organisme affilié à l'ONU, l'Organisation de l'aviation civile internationale, qui coordonne les régulateurs de sécurité de différents pays et s'assure qu'ils travaillent tous sur la même longueur d'onde.

Et plutôt que d’établir un ensemble de règles gravées dans la pierre, les diplomates pourraient élaborer une « convention-cadre » suffisamment flexible pour être mise à jour afin de refléter les dernières avancées de l’IA, a-t-il déclaré.