Thematic discussion 3: Safe, secure and trustworthy AI - Global Dialogue on Artificial Intelligence Governance - Day 2

Le facilitateur soutient que, tout comme les différents systèmes électriques dans le monde sont rendus compatibles grâce à des adaptateurs et des normes communes plutôt que par l'uniformité, la gouvernance de l'IA fait face au même défi. Les pays continueront à développer des lois et des traditions réglementaires différentes, rendant une harmonisation complète ni réaliste ni nécessaire. Cependant, l'interopérabilité — permettre à différentes approches de communiquer et de fonctionner ensemble — est essentielle.

Le facilitateur a utilisé l'analogie des différents systèmes électriques, formes de prises et tensions selon les pays, en soulignant que les ordinateurs portables et les téléphones fonctionnent toujours en toute sécurité lors des déplacements, non pas parce que chaque pays utilise le même système, mais parce que des adaptateurs, des normes communes et des interfaces de confiance ont été développés . Le facilitateur a explicitement déclaré que l'harmonisation n'est ni réaliste ni entièrement nécessaire, mais que l'interopérabilité est essentielle, et que sans elle, les cadres de gouvernance se fragmentent, la mise en œuvre devient plus complexe et coûteuse, la confiance est plus difficile à établir et les bénéfices de l'IA deviennent plus difficiles à concrétiser .

Paula Bogantes Zamora soutient que le monde n'a pas besoin de davantage de principes sur l'IA, mais d'une manière commune de prouver qu'ils sont mis en œuvre. Le véritable défi de l'interopérabilité consiste à démontrer concrètement la sécurité, la responsabilité et la confiance au-delà des frontières, et non simplement à disposer de cadres qui coexistent théoriquement.

Elle a déclaré sans détour que « le monde n'a pas besoin de davantage de principes sur l'IA. Il a besoin d'une manière commune de prouver qu'ils sont mis en œuvre » et a formulé le défi comme étant « non pas de savoir si les cadres peuvent coexister sur le papier, mais si la sécurité, la responsabilité et la confiance peuvent être démontrées au-delà des frontières » .

Bogantes Zamora soutient que la concentration extraordinaire du développement de l'IA dans un petit nombre de pays signifie que ceux disposant de la plus grande capacité de calcul exercent également une influence disproportionnée sur les normes mondiales de gouvernance de l'IA. Cela inclut la détermination des risques mesurés, des critères d'évaluation acceptés, des langues évaluées et des institutions reconnues comme compétentes pour certifier la sécurité.

Elle a cité qu'en 2025, les institutions des États-Unis ont produit 59 modèles d'IA notables et la Chine en a produit 35, tandis que le reste du monde n'en a produit que 13 . Les États-Unis détenaient environ 75 % de la puissance de calcul parmi les 500 plus grands clusters d'IA connus, la Chine en détenant 15 % supplémentaires . Elle a conclu que « la concentration des infrastructures devient une concentration des preuves » .

Bogantes Zamora souligne le manque grave de participation de la majorité des pays du monde aux discussions internationales sur la gouvernance de l'IA. Cette exclusion est aggravée par le fait que moins de 1 % des clusters d'IA mondiaux sont situés en dehors des pays dominants, et qu'un tiers des pays en développement ne disposent pas de stratégies nationales en matière d'IA.

Elle a cité une évaluation scientifique préliminaire indiquant que 118 pays, principalement issus du Sud global, ne participent pas de manière significative aux principales discussions internationales sur la gouvernance de l'IA, tandis que moins de 1 % des clusters d'IA mondiaux et un tiers des pays en développement disposent de stratégies nationales en matière d'IA .

Bogantes Zamora soutient qu'à mesure que les systèmes d'IA deviennent plus agentiques — agissant au nom de personnes ou d'institutions sur plusieurs plateformes — l'interopérabilité doit aller au-delà de la compatibilité technique des systèmes pour inclure une identité d'agent vérifiable, une délégation traçable, des autorisations lisibles par machine et une révocation efficace. L'interopérabilité future doit relier non seulement les systèmes et les règles, mais aussi les identités, les mandats et les chaînes de responsabilité.

Elle a cité l'initiative Arawite de l'Estonie comme exemple de cette frontière émergente, notant qu'elle développe des cadres d'identité et de registre, des normes d'interopérabilité, des recommandations juridiques et un projet pilote dans le secteur public afin que les États puissent interagir avec les agents d'IA de manière fiable et responsable . Elle a précisé que l'interopérabilité de l'IA agentique doit inclure une identité d'agent vérifiable, une délégation traçable, des autorisations lisibles par machine, un échange de données sécurisé, des actions auditables et une révocation efficace .

Bogantes Zamora propose un point de départ concret et réalisable qu'elle appelle « interopérabilité minimale viable », axé sur l'avancement d'éléments pratiques spécifiques avant le dialogue de 2027. Cette approche privilégie une terminologie commune, des classifications de risques comparables, une documentation cohérente, des mécanismes interopérables de signalement des incidents et des méthodes d'évaluation multilingues, tout en ouvrant des voies vers la reconnaissance mutuelle des tests, des audits et des certifications.

Elle a explicitement proposé qu'avant le dialogue de 2027, des progrès soient accomplis en matière de terminologie commune, de classifications de risques comparables, de documentation cohérente, de signalement interopérable des incidents et de méthodes d'évaluation multilingues, tout en établissant des voies vers la reconnaissance mutuelle des tests, des audits et des certifications .

Bogantes Zamora identifie la langue comme un test décisif pour l'interopérabilité, soulignant que la grande majorité des langues du monde sont exclues de l'entraînement et de l'évaluation des systèmes d'IA. Cela crée des risques pour la sécurité, car les modèles sont moins fiables dans les langues sous-représentées, et signifie que les langues d'Amérique latine et d'autres régions ne peuvent pas rester en dehors des cadres d'évaluation mondiaux.

Elle a noté que le monde compte plus de 7 000 langues, mais que l'entraînement et l'évaluation des systèmes d'IA n'en couvrent qu'une infime partie, et que les modèles se comportent souvent de manière moins sûre dans les langues disposant de peu de données numériques . Elle a mentionné spécifiquement que les variantes de l'espagnol, le portugais, les langues autochtones et les langues créoles de sa région ne peuvent pas rester en dehors des cadres d'évaluation mondiaux .

Bogantes Zamora soutient que, pour que l'interopérabilité de la gouvernance de l'IA soit véritablement significative, les cadres d'évaluation doivent être conçus pour refléter la pleine diversité des langues, des cultures et des données démographiques mondiales. Cela est particulièrement important pour les applications d'IA à haut risque dans les domaines de la santé, de la justice et de l'administration publique, qui ne peuvent être transférées ou déployées à grande échelle de manière responsable si les pays utilisent des définitions et des exigences de documentation incompatibles.

Elle a souligné qu'un système de santé, un outil judiciaire ou un algorithme du secteur public ne peut être transféré, évalué ou déployé à grande échelle de manière responsable si les pays utilisent des définitions des risques, des exigences de documentation ou des résultats d'audit incompatibles . Elle a proposé qu'avant 2027, des méthodes d'évaluation multilingues soient développées dans le cadre de l'interopérabilité minimale viable .

Bogantes Zamora soutient que la confiance dans l'IA ne peut pas être proclamée par de simples principes, mais doit être construite à travers des preuves, des garanties, une coopération institutionnelle et des cadres de gouvernance capables de fonctionner au-delà des frontières. Elle souligne que l'adoption progresse à la vitesse de la confiance, et que cette confiance doit être démontrée par une vérifiabilité concrète.

Elle a rappelé le propos de sa co-présidente Rebecca Finlay selon lequel « l'adoption progresse à la vitesse de la confiance » , et a soutenu que la confiance ne peut pas être proclamée par de simples principes, mais doit être construite à travers des preuves, des garanties, une coopération institutionnelle et des cadres de gouvernance capables de fonctionner au-delà des frontières .

Singh-Gill présente la fragmentation comme l'opposé de l'interopérabilité et identifie quatre défis structurels qu'elle engendre. Ceux-ci comprennent l'arbitrage réglementaire, où les développeurs s'installent dans des juridictions à la supervision plus faible, des lacunes en matière de responsabilité dues aux chaînes de valeur mondiales, des charges de conformité accrues notamment pour les PME et les développeurs des pays à faible revenu, ainsi qu'une inégalité croissante des capacités de gouvernance contraignant les États moins dotés à s'aligner sur les cadres dominants ou à risquer l'exclusion.

Il a décrit quatre défis structurels spécifiques liés à la fragmentation : l'arbitrage réglementaire, les développeurs se déplaçant vers des juridictions à la supervision plus faible ; les lacunes en matière de responsabilité, les systèmes d'IA opérant à travers des chaînes de valeur mondiales rendant difficile l'attribution des responsabilités ; les charges de conformité accrues, notamment pour les PME, les chercheurs et les développeurs des pays à faible revenu ; et la fragmentation aggravant les inégalités de capacité de gouvernance et les phénomènes de dépendance .

Singh-Gill souligne que le rapport du panel scientifique a mis en avant un passage d'une gouvernance statique à une gouvernance dynamique des systèmes, ce que corroborent également les travaux de l'AI Governance for Humanity Lab. À mesure que les systèmes d'IA agentiques gagnent en autonomie et en complexité, les pratiques de gouvernance existantes risquent d'être dépassées, nécessitant des mécanismes plus adaptatifs et anticipatoires.

Il a fait référence au rapport du panel scientifique présenté la veille, qui soulignait le passage d'une gouvernance statique à une gouvernance dynamique des systèmes , et a noté que les travaux menés par l'AI Governance for Humanity Lab à Valence avaient également mis en évidence cette évolution . Il a précisé que la gouvernance efficace nécessitera des mécanismes tels que des taxonomies de risques évolutives, des environnements de test des contrôles et un déploiement par étapes .

Singh-Gill propose des bacs à sable réglementaires transfrontaliers comme voie concrète pour renforcer l'interopérabilité. En connectant des bacs à sable réglementaires issus de différents environnements, les pays peuvent tester des applications d'IA sous supervision réglementaire avant un déploiement à grande échelle, permettant ainsi des projets pilotes transfrontaliers, des évaluations de modèles et le partage de données probantes sans imposer un modèle de gouvernance unique.

Il a décrit cette approche comme l'une des plusieurs « voies » pour renforcer l'interopérabilité, délibérément ainsi nommées car elles ne constituent pas des recommandations prescriptives mais des repères pratiques pour la coopération . Il a spécifiquement proposé d'établir des connexions entre les bacs à sable réglementaires afin de permettre des projets pilotes transfrontaliers, des évaluations de modèles et le partage de données probantes .

Le représentant d'EY soutient que l'interopérabilité n'exige pas que tous les pays réglementent l'IA de manière identique, mais qu'elle peut être atteinte au stade de la mise en œuvre grâce à des normes techniques communes et à une attention portée aux résultats fonctionnels. La bonne gouvernance ne consiste pas à assurer la conformité, mais à garantir que les systèmes d'IA fonctionnent comme prévu, ce qui constitue un intérêt partagé par les entreprises et la société.

Le représentant a souligné qu'en tant que cabinet mondial opérant dans pratiquement tous les pays et accompagnant à la fois l'adoption de l'IA et les missions d'audit, EY constate une forte demande d'interopérabilité entre les différentes approches de gouvernance . Le représentant a fait valoir que la bonne gouvernance ne consiste pas à assurer la conformité, mais à veiller à ce que les systèmes d'IA soient réellement utilisés de manière appropriée, et que cela peut constituer un fondement essentiel de l'interopérabilité .

Al Hameli soutient que la compatibilité totale en matière d'interopérabilité n'a pas besoin d'être l'objectif visé, et qu'une approche plus réaliste et efficace consiste à se concentrer sur la compatibilité sélective et délibérée des composantes qui importent le plus pour la majorité des nations. Elle fonde cette position sur trois principes appliqués par les EAU : la confiance entre nations partenaires comme condition préalable, la crédibilité assurée par une responsabilisation vérifiable, et la souveraineté respectant les différents points de départ.

Elle a déclaré que « la compatibilité totale dans notre interopérabilité... n'a pas besoin d'être l'objectif » et a proposé de travailler sur « la compatibilité sélective et délibérée des composantes qui importent le plus pour la majorité des nations » comme point de départ pertinent . Elle a exposé trois principes des EAU : la confiance entre nations partenaires comme condition préalable à tout cadre commun , la crédibilité garantie par une responsabilisation vérifiable , et la souveraineté reconnaissant que les États ont des points de départ et des trajectoires différents .

Al Hameli identifie l'absence d'infrastructure partagée de signalement des incidents comme une lacune critique dans la gouvernance actuelle de l'IA. Les différents dispositifs de surveillance des incidents suivent les défaillances de manière indépendante et volontaire, sans obligation légale de signalement ni reconnaissance mutuelle, ce qui signifie que les défaillances de sécurité survenant dans un pays n'ont aucune voie garantie pour parvenir aux régulateurs d'autres pays avant que la même défaillance ne se reproduise.

Elle a fait observer que les cadres de gouvernance se multiplient plus vite que la base de données probantes qui les sous-tend, et qu'il n'existe pas d'infrastructure partagée de signalement des incidents, les différents dispositifs de surveillance suivant les défaillances de manière indépendante et volontaire . Elle a souligné que si une défaillance de sécurité survient dans un pays, rien ne garantit que cet enseignement parviendra aux régulateurs d'autres pays avant que la même défaillance ne se reproduise ailleurs .

Syed Ahmed soutient que si les normes existantes telles que l'ISO 22982 ou l'AI Act de l'UE peuvent servir de points de départ pour l'interopérabilité, le véritable défi réside dans la construction d'adaptateurs couvrant l'ensemble du spectre des réglementations. Les intentions de haut niveau peuvent être similaires d'un cadre à l'autre, mais les contrôles spécifiques requis diffèrent considérablement, nécessitant une mise en correspondance deux à trois niveaux en dessous de l'alignement de surface.

Il a utilisé l'exemple de la « transparence » pour illustrer ce défi : dans l'ISO, la transparence signifie qu'un modèle doit être explicable, tandis que dans l'AI Act de l'UE, elle implique de fournir des preuves suffisantes et des journaux système - une même intention, mais sans correspondance directe . Il a décrit la tentative d'Infosys d'utiliser l'IA pour construire un adaptateur de mise en correspondance des normes, qui a échoué parce que la cartographie devait descendre deux à trois niveaux pour aligner les contrôles individuels .

Syed Ahmed s'oppose à l'intégration de la gouvernance de l'IA dans les cas d'usage de l'IA dès le départ, car la gouvernance doit être dynamique et ne peut supposer que les mêmes règles resteront valables dans le temps. Il propose plutôt une séparation de la gouvernance de l'IA des cas d'usage de l'IA, avec un référentiel central de politiques pouvant être appliquées et mises en œuvre au moment de l'exécution.

Il a soutenu que la gouvernance est devenue plus dynamique et ne peut pas être statique, et que les règles établies au début d'un cas d'usage ne peuvent être supposées valables même un mois plus tard, compte tenu de la rapidité des évolutions . Il a proposé de construire un référentiel central de politiques pouvant être appliquées et mises en œuvre au moment de l'exécution, séparant ainsi efficacement la gouvernance de l'IA des cas d'usage de l'IA .

Ahmed soutient qu'une taxonomie commune est insuffisante pour assurer l'interopérabilité et que ce dont on a besoin est un méta-modèle de mise en correspondance des contrôles au niveau le plus bas, intégré dans un graphe de connaissances pouvant servir de fondation aux modèles d'interopérabilité. La charge de conformité pesant sur les entreprises opérant à l'échelle mondiale est immense, car les réglementations interagissent non seulement entre elles, mais aussi avec d'autres réglementations technologiques à travers les différentes zones géographiques.

Il a décrit la charge de conformité pesant sur une entreprise comme Infosys qui opère à l'échelle mondiale, soulignant que les réglementations sur l'IA doivent être interopérables avec d'autres réglementations technologiques telles que le RGPD et DORA dans de multiples zones géographiques . Il a proposé que le comité investisse dans la construction d'un méta-modèle de mise en correspondance des contrôles au niveau le plus bas et d'un graphe de connaissances pouvant servir de fondation aux modèles d'interopérabilité .

Finlay soutient que le panel scientifique indépendant et le dialogue mondial sont complémentaires et conçus pour fonctionner ensemble dès le départ. Le panel fournit la base de données probantes tandis que le dialogue indique la direction, et ensemble ils forment une mission commune pour une IA sûre, sécurisée et digne de confiance.

Elle a fait référence à l'accent mis par le Secrétaire général Guterres sur les référentiels communs pour les systèmes de pointe et les méthodes communes pour les vérifier , ainsi qu'à l'ancrage du discours de Maria Ressa dans des exemples concrets positionnant les données scientifiques comme l'antidote à la fois au catastrophisme et à l'utopisme technologique . Elle a clairement affirmé que « le panel fournit les preuves. Le dialogue indique la direction. Des données probantes et une délibération conçues pour fonctionner ensemble dès le départ » .

Finlay propose trois actions concrètes : renforcer la base de données scientifiques indépendante, ouvrir la science par la transparence, et faire progresser les avancées dans l'intérêt public. Elle soutient que la transparence ne ralentit pas le progrès mais le rend vérifiable et crédible, et que la divulgation seule est insuffisante sans un système de référentiels, de normes et d'évaluation par des tiers pour lui donner du sens.

Elle a recommandé d'investir dans les travaux du panel scientifique et de les mettre en réseau, de favoriser la cohérence en établissant des liens avec d'autres rapports sur l'état de la sécurité, notamment ceux du Royaume-Uni, du consensus de Singapour et du prochain rapport sur la sécurité dans le Sud global . Elle a soutenu que la divulgation seule ne suffit pas et que sans référentiels, normes, évaluation par des tiers et vérification, les divulgations individuelles ne peuvent pas être transformées en une base de données probantes à l'échelle du secteur qui soit digne de confiance .

Finlay soutient que combler le fossé entre innovation et responsabilité exige de poser des questions fondamentalement différentes de celles qui animent actuellement le secteur. Plutôt que de demander à quelle vitesse un système peut être déployé ou quelle est sa puissance, l'accent devrait être mis sur qui il sert, qui est responsable en cas de défaillance, et dans quelle mesure sa sécurité est vérifiable.

Elle a proposé de reformuler les questions qui orientent le secteur : au lieu de « à quelle vitesse pouvons-nous déployer ceci », se demander « qui cela sert-il, qui est responsable en cas de défaillance, et comment le savons-nous ? » ; et au lieu de « quelle est la puissance de ce système », se demander « dans quelle mesure la sécurité de ce système est-elle vérifiable et sur la base de quelles données probantes ? » . Elle a déclaré que « les systèmes d'IA doivent être conçus de manière inclusive, gouvernés de façon responsable, et exploités équitablement, de manière transparente, fiable et sécurisée » .

Finlay soutient qu'un socle minimum commun existe déjà dans une large mesure à travers les engagements mondiaux, le droit international, le dialogue, le processus d'Hiroshima, le G7 et les engagements pris lors des sommets sur l'IA. Ce qui est nécessaire désormais, c'est de consolider, partager et développer davantage ces éléments afin qu'ils soient applicables et adaptables aux contextes régionaux.

Elle a déclaré que « nous avons des engagements mondiaux. Nous avons le droit international. Nous avons ce dialogue, le processus d'Hiroshima, le G7, et l'ensemble des engagements pris lors des sommets sur l'IA à ce jour » . Elle a soutenu que ce qui est nécessaire, c'est de les consolider, les partager et les développer davantage afin qu'ils soient applicables et adaptables aux contextes régionaux .

Finlay soutient que la participation multipartite est essentielle à la légitimité et au succès des efforts de gouvernance de l'IA, et non pas simplement un atout souhaitable. Elle souligne que cette participation significative doit être maintenue et davantage soutenue, notamment en levant les obstacles pratiques tels que les procédures de visa qui empêchent des personnes issues de communautés mondiales d'y prendre part.

Elle a déclaré que « la participation multipartite n'est pas un luxe. Elle est une nécessité pour la légitimité de nos efforts et la réussite de nos objectifs » . Elle a notamment souligné l'importance de garantir des procédures de visa permettant aux individus de participer depuis leurs communautés à travers le monde , faisant référence au point soulevé précédemment par le représentant du Center for Responsible AI au sujet d'un collègue n'ayant pu assister à la réunion en raison de difficultés liées au visa.

Finlay présente le Global AI Progress Hub comme une initiative concrète du Partnership on AI visant à faire progresser l'intérêt public. Cette plateforme publique permet aux organisations de l'écosystème de l'IA responsable de partager leurs avancées dans un cadre clair, contribuant ainsi à combler le fossé entre innovation et responsabilité.

Elle a annoncé que le Partnership on AI avait lancé le Global AI Progress Hub cette semaine-là, le décrivant comme « une plateforme publique où les organisations de l'écosystème de l'IA responsable peuvent partager leurs progrès dans un cadre très clair qui sert l'intérêt public » . Elle a soutenu qu'aucun pays, gouvernement, organisation à but non lucratif ou institution de recherche ne peut déterminer seul à quoi ressemble une IA sûre, sécurisée et digne de confiance .

Iida soutient que les principes de l'OCDE sur l'IA constituent un instrument fondateur d'interopérabilité, car ce sont des principes de haut niveau fondés sur des valeurs qui ont déjà servi de base aux lignes directrices nationales et à la législation nationale sur l'IA au Japon. Le processus d'IA d'Hiroshima s'appuie sur ces principes pour fournir un cadre volontaire permettant aux organisations d'IA d'évaluer et d'atténuer les risques et de divulguer les informations pertinentes.

Il a noté que le Japon a formulé ses lignes directrices nationales et sa législation nationale sur l'IA sur la base des principes de l'OCDE sur l'IA , et que le processus d'IA d'Hiroshima fournit un code de conduite pour les organisations d'IA, y compris les développeurs, offrant un cadre volontaire pour l'évaluation, l'atténuation et la divulgation des risques . Il a décrit ces cadres comme « une approche multipartite très ambitieuse pour une gouvernance collaborative » et une « approche ascendante de la gouvernance » .

Iida rend compte de travaux pratiques de mise en correspondance croisée entre le cadre HITE du Japon et le cadre ASEAN pour les modèles d'IA avancés, qui ont révélé davantage de points communs que d'écarts. Lorsque des écarts ont été constatés, beaucoup pouvaient s'expliquer par des différences d'ordre social ou culturel entre les différentes juridictions, ce qui laisse entendre qu'un travail similaire de mise en correspondance croisée pourrait être appliqué à d'autres combinaisons de cadres nationaux ou régionaux.

Il a décrit les travaux en cours avec Singapour et les pays de l'ASEAN sur la mise en correspondance croisée entre le cadre HITE et le cadre ASEAN pour les modèles d'IA avancés . La mise en correspondance croisée a révélé quelques écarts, mais un nombre bien plus important de points communs, et dans la plupart des cas où des écarts ont été constatés, beaucoup pouvaient s'expliquer par des différences d'ordre social ou culturel propres à chaque juridiction .

Demirkoz identifie un « dilemme de la preuve » selon lequel les preuves scientifiques ne peuvent pas rattraper le rythme du progrès rapide de l'IA, dont les capacités doublent tous les quelques mois. Le temps que les preuves de préjudices réels ou de capacités soient rassemblées, la technologie a déjà dépassé les modèles de gouvernance actuels. Par ailleurs, les 40 modèles de gouvernance et lignes directrices éthiques recensés sont très fragmentés et rarement testés, et lorsqu'ils le sont, c'est par les entreprises qui développent elles-mêmes ces systèmes.

Elle a déclaré que « les preuves scientifiques solides ne peuvent pas rattraper la vitesse à laquelle l'IA progresse, car ses capacités doublent tous les quelques mois, et le temps que nous disposions de preuves, que les préjudices réels ou les capacités soient compilés, la technologie a déjà dépassé les modèles de gouvernance actuels » . Elle a noté que le panel a recensé 40 modèles de gouvernance et lignes directrices éthiques différents, les jugeant très fragmentés et rarement testés, et lorsqu'ils le sont, testés par les entreprises qui les développent elles-mêmes .

Demirkoz soutient que l'évaluation de l'IA ne doit pas se concentrer uniquement sur les modèles, mais doit adopter une approche plus large tenant compte de l'interopérabilité des outils, des environnements et des utilisateurs. L'absence de preuves indépendantes et unifiées en dehors des entreprises qui développent ces modèles nuit à la confiance du public et à la responsabilité objective.

Elle a déclaré que « nous devrions passer de l'évaluation des seuls modèles à l'évaluation des systèmes » et que l'absence de preuves indépendantes et unifiées en dehors des entreprises qui développent ces modèles nuit à la confiance du public et à la responsabilité objective .

Demirkoz soutient que les pays en développement supportent le coût le plus élevé de la fragmentation de la gouvernance de l'IA, car les modèles de pointe et la puissance de calcul sont concentrés dans seulement deux pays. Le Sud global risque d'être totalement exclu en raison de l'absence d'infrastructures localisées et d'une base de preuves mondiale commune.

Elle a déclaré que « les pays en développement supportent le coût le plus élevé de cette fragmentation, car les modèles de pointe sont hébergés et la puissance de calcul est concentrée dans seulement deux pays dans le monde » . Elle a noté que le Sud global risque d'être totalement exclu en raison de l'absence d'infrastructures localisées et d'une base de preuves mondiale commune .

Demirkoz soutient que les régions du Sud global dépendent de technologies pour lesquelles elles ne disposent pas de capacités nationales, ce qui signifie qu'elles ne peuvent pas inspecter, auditer ou adapter culturellement les modèles d'IA à leurs propres besoins. Cette dépendance crée un défi fondamental en matière de gouvernance, car ces régions ne peuvent pas participer de manière significative à l'élaboration des systèmes d'IA qui les affectent.

Elle a déclaré que ces régions « dépendent de technologies pour lesquelles elles ne disposent pas de capacités nationales, de sorte qu'elles ne peuvent pas inspecter, auditer ou adapter culturellement ces modèles à leurs propres besoins » . Elle a également souligné que des populations vulnérables telles que les enfants et les femmes, ainsi que la société civile et les cadres démocratiques, sont affectés par les préjudices liés à l'IA, notamment les abus sexuels sur enfants générés par l'IA, les violences sexuelles facilitées par les deepfakes et la désinformation automatisée .

Demirkoz souligne qu'au-delà des préjudices individuels, l'IA cause des dommages systémiques à la société civile et aux cadres démocratiques en érodant la réalité partagée et en sapant la légitimité démocratique. La désinformation automatisée et les contenus générés par l'IA sont les principaux facteurs de ces dommages.

Elle a déclaré que « la société civile et les démocraties, les cadres démocratiques, subissent également des préjudices. On observe une érosion de la réalité partagée ainsi qu'une atteinte à la légitimité démocratique due à la désinformation automatisée et aux contenus générés par l'IA » . Elle a également fait référence au point soulevé par le Secrétaire général concernant les impacts sur la santé mentale liés aux comportements complaisants des chatbots .

Cervera Narvas soutient que la gouvernance de l'IA devrait suivre une approche du risque fondée sur des principes, selon laquelle un risque plus élevé exige davantage de soin et de supervision. Il utilise l'analogie du feu — première technologie transformatrice de l'humanité — pour illustrer que même les technologies les plus puissantes peuvent être gouvernées de manière sûre grâce à des règles simples mais appliquées de façon cohérente.

Il a utilisé l'analogie du feu maîtrisé en tant que première technologie transformatrice de l'humanité, soulignant que nos ancêtres avaient élaboré deux règles simples : toujours utiliser le feu avec précaution, et ne jamais le laisser sans surveillance . Il a soutenu que ces mêmes règles devraient s'appliquer à l'IA, et que la loi européenne sur l'IA a établi un principe selon lequel « plus le risque est élevé, plus les exigences de soin et de supervision sont importantes » .

Le représentant de l'UPU soutient que dans la chaîne d'approvisionnement postale, la décision automatisée d'un acteur affecte immédiatement les autres maillons de la chaîne, ce qui rend la responsabilité et la supervision essentielles. La mise en garde du panel scientifique selon laquelle rien ne garantit que les agents autonomes suivront leurs instructions signifie que la responsabilité et la supervision doivent être intégrées dès la conception, et non reconstituées après un échec.

Le représentant a noté que dans la chaîne d'approvisionnement postale, « la décision automatisée d'un acteur - un signalement douanier, un choix de routine, un score de risque - affecte immédiatement les autres maillons de la chaîne » et que ce que le rapport décrit comme un risque systémique constitue « une réalité opérationnelle quotidienne » pour l'UPU . Le représentant a cité la mise en garde du panel selon laquelle « aucune garantie scientifique n'existe que les agents autonomes suivront leurs instructions et que des preuves de déviations s'accumulent déjà » .

Le représentant de la Lettonie soutient que l'écart entre les langues dominantes et les langues sous-représentées dans les modèles d'IA se creuse plutôt qu'il ne se réduit, ce qui entraîne des conséquences à la fois culturelles et pratiques. Pour les utilisateurs de langues minoritaires, l'IA coûte plusieurs fois plus de tokens, créant un désavantage économique qui s'ajoute à la perte culturelle.

Le représentant a déclaré que « les données confirment que l'écart entre les langues dominantes et les langues sous-représentées dans les principaux modèles d'IA se creuse, au lieu de se réduire » et que cela « appauvrit le patrimoine et le contexte culturels, mais entraîne également un coût plusieurs fois plus élevé en tokens lors de l'utilisation de l'IA dans des langues minoritaires » . À titre d'exemple positif, le représentant a cité un modèle à poids ouverts soutenu par l'UE ayant atteint l'égalité entre plus de 30 langues de l'UE .

Le représentant de la Lettonie propose trois priorités : des méthodes d'évaluation communes et des référentiels ouverts reflétant la diversité linguistique et culturelle ; une compatibilité minimale concernant l'origine des données et le signalement des incidents, y compris les incidents liés à l'intégrité des données ; et le renforcement des capacités afin que chaque pays puisse participer à l'évaluation en tant que partenaire égal.

Le représentant a proposé trois priorités spécifiques : des méthodes d'évaluation communes et des référentiels ouverts reflétant la diversité linguistique et culturelle ; une compatibilité minimale concernant l'origine des données et le signalement des incidents, y compris les incidents liés à l'intégrité des données ; et le renforcement des capacités afin que chaque pays puisse participer à l'évaluation en tant que partenaire égal .

Le représentant de la Lettonie souligne la menace que représentent les données d'entraînement empoisonnées comme défi concret en matière d'intégrité de l'information, notant que des réseaux de désinformation coordonnés peuvent s'infiltrer dans les modèles d'IA mondiaux via les données d'entraînement. Malgré ce risque, il n'existe actuellement aucune norme commune concernant l'origine des données d'entraînement ni aucun mécanisme permettant d'alerter les autres lorsqu'une telle contamination est découverte.

Le représentant a décrit la collecte de données pour un modèle d'IA multilingue ouvert de l'UE et la nécessité de filtrer des millions d'articles provenant d'un réseau de désinformation coordonné s'infiltrant dans les modèles d'IA mondiaux . Le représentant a noté que « les données d'entraînement empoisonnées faussent silencieusement des faits essentiels, et en aval, la vision du monde qui se construit sur eux. Pourtant, il n'existe aucune norme commune concernant l'origine des données d'entraînement, ni aucun mécanisme permettant d'alerter les autres » .

Sam Gregory soutient que l'IA cause déjà des préjudices généralisés en érodant le sens partagé de la réalité, qu'il identifie comme un risque systémique pour la sécurité plutôt que comme une simple question d'éthique. À travers le travail de Witness avec la société civile de première ligne et les médias, il observe des clones synthétiques usurpant l'identité de personnalités publiques, des scènes falsifiées de zones de conflit, des images sexuelles non consenties ciblant les femmes et les filles, ainsi que le « dividende du menteur », où des événements réels sont rejetés comme étant générés par l'IA.

Il a décrit la force d'intervention rapide mondiale de Witness contre les deepfakes ainsi que son travail avec des défenseurs des droits humains et des journalistes à travers le monde, observant « des clones synthétiques usurpant l'identité de personnalités publiques, des scènes falsifiées de zones de conflit et des images sexuelles non consenties incessantes ciblant les femmes et les filles » ainsi que « le dividende du menteur, où le panel nomme des événements réels balayés d'un revers de main par la simple affirmation qu'il s'agit d'IA » . Il a cité la conclusion du panel scientifique indépendant selon laquelle « l'IA érode notre sens partagé de la réalité » .

Gregory soutient que l'intégrité de l'information doit être traitée comme un risque systémique transfrontalier et un axe central de l'interopérabilité, et non comme une simple préoccupation éthique. Lorsque les individus ne sont plus en mesure de distinguer le réel du faux, chaque autre dispositif de protection repose sur du sable, faisant d'un environnement informationnel fiable un prérequis à une IA digne de confiance.

Il a déclaré qu'« une IA digne de confiance est impossible sans un environnement informationnel fiable, et que cette érosion constitue un risque systémique pour la sécurité, et non simplement une question d'éthique » . Il a soutenu que « lorsque les individus ne peuvent plus distinguer le réel du faux, chaque dispositif de protection que nous construisons repose sur du sable » et que cela mérite d'être traité comme le risque systémique transfrontalier qu'il représente .

Gregory soutient qu'une infrastructure d'authenticité significative et interopérable ainsi que des normes de provenance des contenus sont nécessaires pour que les individus puissent comprendre la composition des contenus qu'ils consomment. Cependant, des normes telles que la spécification C2PA doivent être élaborées en plaçant la vie privée et les droits humains en leur centre, afin d'éviter qu'elles ne deviennent des infrastructures de surveillance.

Il a appelé à « une infrastructure d'authenticité significative et interopérable et une provenance constante des contenus, afin que nous puissions tous lire la composition des contenus et des communications que nous consommons » . Il a spécifiquement souligné que « les normes telles que la spécification C2PA doivent être élaborées en plaçant la vie privée et les droits humains en leur centre, afin qu'elles ne puissent pas devenir des infrastructures de surveillance » .

Gregory soutient que plutôt que de créer de nouveaux cadres, l'effort devrait porter sur la mise en interopérabilité effective des cadres existants. Il appelle à une convergence autour des conventions existantes en matière de droits humains, des cadres internationaux et des législations nationales et régionales, une dynamique existant déjà dans plusieurs juridictions et au sein des organes des Nations Unies.

Il a appelé à « une convergence autour des conventions existantes en matière de droits humains, notamment le Conseil de l'Europe, des cadres internationaux, notamment le Processus d'Hiroshima, et des législations nationales et régionales, notamment l'AI Act de l'UE » . Il a noté que « la dynamique en faveur de ces mesures visant à protéger notre compréhension commune de la réalité à l'ère de l'IA existe déjà dans plusieurs juridictions et au sein des organes des Nations Unies, notamment l'ITU » et que « la tâche consiste à la rendre véritablement interopérable » .

Gregory souligne que les capacités de détection de l'IA trompeuse ne sont pas équitablement réparties, la technologie fonctionnant le moins bien pour les populations les plus exposées aux risques. Cela crée une vulnérabilité cumulée dans laquelle les populations les plus ciblées par les préjudices générés par l'IA sont également les moins protégées par les outils de détection.

Il a cité le rapport de référence de Witness montrant que « la détection fonctionne actuellement le moins bien pour les personnes les plus à risque, en particulier dans la majorité mondiale » . Il a appelé à des capacités de détection des IA trompeuses opérationnelles à l'échelle mondiale, accompagnées d'une infrastructure d'authenticité interopérable .

Le représentant du Brésil soutient que les Nations Unies ont un rôle central dans la gouvernance de l'IA qui va au-delà de la facilitation du dialogue. L'ONU peut aider à éviter la fragmentation, identifier les convergences, relier les initiatives existantes et, surtout, garantir que les pays en développement participent non pas simplement en tant que destinataires des règles, mais en tant que co-participants à part entière dans l'élaboration des règles de gouvernance de l'IA.

Le représentant a déclaré que « les Nations Unies ont un rôle central dans cet effort. Elles peuvent aider à éviter la fragmentation, identifier les convergences, relier les initiatives existantes et garantir que les pays en développement participent non pas simplement en tant que destinataires des règles, mais en tant que co-participants à part entière dans l'élaboration des règles de gouvernance de l'IA » . Le représentant a également souligné que la souveraineté numérique ne signifie pas l'isolement numérique, mais la capacité des États à participer à l'économie numérique mondiale tout en préservant leur autonomie réglementaire .

Le représentant de l'IEC soutient que les normes internationales jouent un rôle distinct et essentiel dans la gouvernance de l'IA en assurant le lien entre les différentes couches normatives. Elles traduisent les principes énoncés dans le droit international et le droit souple en outils pratiques, offrent aux gouvernements une base pour la réglementation nationale et donnent à l'industrie un langage commun pour développer des produits sûrs et interopérables.

Le représentant a décrit cinq couches normatives de la gouvernance de l'IA : le droit international, le droit international souple, le droit national, les normes internationales et le pouvoir normatif de ce qui est techniquement réalisable . Il a affirmé que les normes internationales « forment le lien entre ces couches. Elles traduisent les principes énoncés dans le droit international et le droit souple en outils pratiques. Elles offrent aux gouvernements une base pour la réglementation nationale et donnent à l'industrie un langage commun pour développer des produits sûrs et interprétables » .

Le délégué du Pakistan soutient que la sécurité doit être définie de manière inclusive, car les normes et critères actuels pour une IA digne de confiance sont établis par un petit nombre d'États et d'entreprises, à travers des instituts nationaux de sécurité et des cadres réglementaires dans lesquels la majeure partie du monde n'a pas voix au chapitre. La sécurité n'est pas une question purement technique, mais est contextuelle, façonnée par la langue, la culture et les réalités locales.

Le délégué a déclaré que « trop souvent, les normes et critères pour une IA digne de confiance sont établis par un petit nombre d'États et d'entreprises, à travers des instituts nationaux de sécurité et des cadres dans lesquels la majeure partie du monde n'a pas voix au chapitre » . Le délégué a soutenu que « la sécurité n'est pas une question purement technique, elle est contextuelle, façonnée par la langue, la culture et les réalités locales » et a appelé à l'élaboration de normes de sécurité dans le cadre de processus multilatéraux inclusifs sous l'égide des Nations Unies .

Le délégué du Pakistan soutient que la confiance exige la capacité de vérifier, et qu'une nation ne peut pas faire confiance à ce qu'elle ne peut pas évaluer. La capacité à tester, évaluer et certifier les systèmes d'IA demeure concentrée là où la technologie est développée, et sans effort délibéré, les pays en développement seront invités à accepter des garanties de sécurité qu'ils n'ont aucun moyen de vérifier.

Le délégué a déclaré qu'« une nation ne peut pas faire confiance à ce qu'elle ne peut pas évaluer. Or, la capacité à tester, évaluer et certifier les systèmes d'IA reste concentrée là où la technologie est développée » . Le délégué a appelé à traiter « la capacité à évaluer et à gouverner l'IA comme partie intégrante du développement de l'IA pour la sécurité elle-même, soutenue par des outils partagés, une expertise mutualisée et une coopération entre les régions » .

La représentante du Center for Responsible AI met en lumière un obstacle concret et immédiat à une participation inclusive à la gouvernance de l'IA : les procédures de visa qui empêchent les représentants des pays en développement d'assister aux forums internationaux. Cela est illustré par le fait que la collègue de la représentante, venue d'Inde, n'a pas pu participer en raison de l'impossibilité d'obtenir un visa dans les délais impartis.

La représentante a souligné que « le simple fait que ce soit moi qui présente et non Geeta démontre une fois de plus la difficulté pour les personnes du tiers-monde d'accéder à des forums tels que celui-ci. Elle n'a pas pu obtenir de visa dans les délais très courts qui lui ont été accordés pour venir. C'est donc un défi, même pour les personnes du tiers-monde, de participer à ces discussions » .

Le Center for Responsible AI plaide en faveur d'un cadre structuré de signalement des incidents liés à l'IA en tant que pilier central de la gouvernance mondiale de l'IA. Ce cadre doit être démocratisé à la base, veiller à ce qu'aucun individu ni aucune communauté ne soit laissé pour compte, établir des responsabilités partagées tout au long de la chaîne de valeur de l'IA, et produire des données probantes sur les préjudices réels afin de permettre une gouvernance proactive plutôt que réactive.

La représentante a décrit les travaux du Center sur l'élaboration d'un cadre de signalement des incidents liés à l'IA permettant « la collecte systématique, la classification, l'analyse, la réponse et, dans la mesure du possible, la résolution des préjudices réels, assortie de responsabilités institutionnelles clairement définies » . Elle a soutenu qu'un tel cadre « constitue une base solide pour le développement de l'IA et génère des données probantes sur les préjudices réels, permettant à l'industrie de l'IA et aux gouvernements de développer des boucles de rétroaction pour une meilleure conception des systèmes » et favorise « des approches proactives axées sur l'apprentissage, capables de suivre le rythme de l'évolution rapide des technologies d'IA » .

Le représentant de l'Afrique du Sud soutient que les cadres mondiaux de gouvernance de l'IA doivent refléter non seulement les priorités des économies avancées, mais aussi les réalités et les besoins des pays en développement. Cela exige que les cadres soient inclusifs dans leur conception, équitables dans leur application, et favorables au transfert de technologie et au renforcement des capacités, faute de quoi la gouvernance risque de renforcer les inégalités existantes.

Le représentant a déclaré que « les cadres mondiaux reflètent non seulement les priorités des économies avancées, mais aussi les réalités et les besoins des pays en développement » et que pour y parvenir, « les cadres mondiaux de gouvernance doivent être inclusifs dans leur conception, équitables dans leur application, et favorables au transfert de technologie et au renforcement des capacités » . Le représentant a averti qu'à défaut, « la gouvernance renforcerait les inégalités existantes » .

Le représentant de Concordia soutient que l'essor de l'IA agentique représente un changement fondamental dans les défis de gouvernance, les agents IA étant désormais capables d'agir directement sur le monde réel, tant virtuellement que physiquement. Leurs défaillances pouvant causer des préjudices graves avant qu'un humain puisse intervenir, les normes de sécurité doivent se renforcer à mesure que l'autonomie augmente, à l'instar des normes pour la conduite autonome qui progressent du niveau 0 au niveau 5.

Le représentant a déclaré que « les agents IA pouvant agir directement sur le monde réel, virtuellement et de plus en plus dans le monde physique, leurs défaillances peuvent potentiellement causer des préjudices graves avant même qu'un humain puisse intervenir » . Le représentant a établi une analogie avec les normes de conduite autonome allant du niveau 0 au niveau 5, affirmant que « plus les agents IA deviennent autonomes dans les années à venir, plus les normes de sécurité devront être strictes » .

Le représentant de Concordia soutient que la nature transfrontalière des défaillances de l'IA agentique rend urgente la coopération internationale sur les normes de sécurité. Un dysfonctionnement dans un pays peut perturber des infrastructures partagées, des chaînes d'approvisionnement ou la sécurité publique ailleurs, ce qui signifie qu'une véritable coopération internationale nécessite l'élaboration inclusive de normes de sécurité et de lignes rouges.

Le représentant a déclaré que « lorsque des systèmes autonomes tombent en panne, les conséquences ne s'arrêtent pas aux frontières nationales. Un dysfonctionnement dans un pays peut perturber des infrastructures partagées, des chaînes d'approvisionnement ou la sécurité publique ailleurs » . Le représentant a cité le Consensus de Singapour de mai, lors duquel 100 experts du monde entier ont identifié 10 principes fondamentaux pour gérer les risques liés à l'IA agentique .

Le représentant de Dubai Cable soutient que lorsque des agents IA sont autorisés à agir, la frontière entre un document de politique et un incident de production devient très mince. La responsabilité doit donc être intégrée avant le déploiement, avec des autorisations, une supervision et des pistes d'audit conçues dès le départ plutôt que rajoutées après la survenue d'un incident.

Le représentant a déclaré que « dès lors qu'un agent IA est autorisé à agir, la frontière entre un document de politique et l'incident de production devient très mince » . Le représentant a soutenu que « la responsabilité doit être intégrée avant le déploiement, avec les autorisations, la supervision et la piste d'audit devant être conçues pour bâtir une bonne stratégie de gouvernance. Une approche temporelle, et non ajoutée après un incident » .

Le représentant de Concordia (attribué dans la liste des arguments à Ravin Thambapillai) soutient que l'adoption rapide du model context protocol démontre que des normes techniques open source conçues autour des points de friction concrets peuvent rapidement acquérir un statut mondial de facto. Cela montre que des normes de gouvernance peuvent être élaborées et adoptées rapidement lorsqu'elles répondent à trois critères : traiter les points de friction concrets de la mise en œuvre, être open source, et accélérer à la fois les bénéfices de l'IA et les cadres de gouvernance.

Thambapillai soutient que l'adoption rapide du protocole de contexte de modèle — passant d'une annonce à un standard mondial de facto en 18 mois — démontre que des normes techniques open source conçues autour des points de friction réels peuvent connaître une adoption mondiale rapide. Cela montre que des normes de gouvernance peuvent être élaborées et adoptées rapidement lorsqu'elles répondent à de véritables défis de mise en œuvre, sont open source, et accélèrent à la fois les bénéfices de l'IA et les cadres de gouvernance.

Il a décrit comment le protocole de contexte de modèle est passé d'une idée au standard mondial de facto adopté par tous les grands laboratoires de recherche en IA, toutes les entreprises et toutes les sociétés spécialisées en IA en seulement 18 mois . Il a noté que la spécification avait été « conçue autour des points de friction rencontrés par les personnes travaillant à la frontière de la mise en œuvre de ces systèmes » et qu'elle avait permis des avancées significatives en matière de défis liés à l'autorisation et à la supervision humaine dans les chaînes d'outils IA .

Qinghua Lu soutient que les pays doivent s'accorder sur un ensemble commun de principes de gestion des risques et partager les méthodes et résultats d'évaluation au-delà des frontières. Compte tenu du passage d'une gouvernance statique à une gouvernance dynamique, le benchmarking seul est insuffisant, et les données probantes post-déploiement issues d'une utilisation réelle sont essentielles, en particulier pour les systèmes agentiques qui reçoivent des instructions humaines au moment de l'exécution.

Elle a proposé que les pays s'accordent sur des principes communs de gestion des risques, tels que l'évaluation des systèmes d'IA tout au long de leur cycle de vie, l'exigence d'une participation indépendante de tiers à l'évaluation, et l'interdiction de déploiement si le risque dépasse les seuils fixés par les gouvernements . Elle a noté que « le benchmarking en lui-même peut fournir une compréhension initiale des performances du système d'IA dans une configuration représentative, mais il n'est pas suffisant », en particulier pour les systèmes agentiques qui reçoivent des instructions humaines au moment de l'exécution .

Lu propose deux approches complémentaires de la collaboration internationale en matière de gouvernance de l'IA. La collaboration horizontale vise à cartographier et à relier les outils et normes existants par le biais de plateformes communes et de groupes de travail dédiés. La collaboration verticale porte sur des travaux techniques conjoints relatifs à des défis spécifiques, dont un exemple concret est le test conjoint de capacités multilingues mené par le réseau international des instituts de sécurité de l'IA.

Elle a décrit la collaboration horizontale comme axée sur la cartographie ou la mise en relation des outils et normes existants via des plateformes communes, avec des groupes de travail dédiés élaborant des connecteurs tels que des correspondances entre différents cadres de gestion des risques ou des taxonomies d'incidents . Elle a décrit la collaboration verticale comme centrée sur des défis techniques spécifiques, citant l'exercice de test conjoint du réseau international des instituts de sécurité de l'IA sur les tests de capacités multilingues des grands modèles de langage à l'aide de méthodologies communes, chaque pays se concentrant sur différentes langues .

Buolamwini soutient que les cadres d'évaluation de l'IA doivent éviter les mesures trompeuses de succès, en particulier les critères de référence qui ne représentent pas la majorité mondiale. S'appuyant sur ses recherches fondatrices en matière d'audit algorithmique, elle démontre que les normes de référence des grandes institutions ne représentaient souvent pas le Sud global ni les personnes à peau foncée, ce qui rendait les progrès apparents illusoires.

Elle a décrit ses recherches fondatrices sur l'audit algorithmique, en soulignant que les normes de référence d'institutions telles que le National Institute for Standards and Technology « ne représentaient souvent pas le Sud global, ne représentaient pas les personnes à peau foncée » . Elle a affirmé que « lorsque nous avons ensuite examiné les données sur lesquelles les normes elles-mêmes avaient été établies - des normes qui étaient censées être des références de qualité -, elles se sont révélées être du toc. Souvent, moins de 5 % d'un critère de référence peut représenter la majorité mondiale » .

Malhotra soutient que l'IA doit être adaptée au contexte local et que les pays doivent être habilités à exploiter l'IA de manière à soutenir leurs propres objectifs de développement. Le programme britannique « AI for Development » illustre cette approche en développant des outils d'IA dans plus de 40 langues africaines et en soutenant des écosystèmes d'IA à pilotage local.

Elle a décrit le programme britannique « AI for Development » comme visant à développer des outils d'IA dans plus de 40 langues africaines, à soutenir 13 laboratoires d'IA et à aider les pays à développer des écosystèmes d'IA à pilotage local reflétant leurs propres priorités . Elle a également décrit l'Institut britannique de sécurité de l'IA comme contribuant à établir les fondements scientifiques d'une IA digne de confiance, grâce à des méthodologies d'évaluation, des tests, des mesures de protection et une évaluation des risques, et comme faisant partie d'un réseau croissant d'instituts de sûreté et de sécurité de l'IA collaborant sur des approches d'évaluation .

Saulo soutient que les 150 ans d'expérience de l'Organisation météorologique mondiale dans l'échange de données entre 193 pays, fondé sur des normes et la confiance, offre des leçons directement applicables à la gouvernance de l'IA. Les principaux enseignements portent sur l'importance de la vérification — confronter les prévisions à la réalité — et sur la centralité de l'accès équitable en tant que préoccupation principale des services météorologiques nationaux.

Elle a souligné que l'OMM échange des données transfrontalières depuis plus de 150 ans et que « pour échanger des données utilisables par différentes communautés à travers le monde, 193 pays en réalité, il faut des normes. Et il faut aussi de la confiance » . Elle a décrit les processus de vérification de l'OMM, dans lesquels les prévisions sont confrontées à la réalité afin d'établir des normes de qualité pour les systèmes pilotés par l'IA , et a cité une récente enquête auprès des membres de l'OMM dans laquelle l'« accès équitable » a été identifié comme leur principale préoccupation et opportunité en matière d'IA .

Le représentant du Global Cities Hub soutient que les villes et les régions ne sont pas de simples parties prenantes, mais des autorités publiques dotées de responsabilités importantes dans des secteurs où l'IA transforme déjà les sociétés, notamment la santé, l'éducation, la mobilité et l'administration publique. Ils représentent un niveau de gouvernance encore absent qui pourrait contribuer à la facilitation horizontale de la gouvernance de l'IA.

Le représentant a déclaré que « les villes et les régions ne sont pas de simples parties prenantes. Ce sont des autorités publiques dotées de responsabilités importantes dans de nombreux secteurs où l'IA transforme déjà nos sociétés » . Le représentant a souligné que « les impacts de l'IA sont ressentis en premier lieu et de manière la plus visible dans les villes par les deux tiers de la population mondiale » et que les gouvernements locaux et régionaux « représentent un niveau de gouvernance encore absent qui pourrait contribuer à la facilitation horizontale » .

Le représentant du Bureau du Coordonnateur résident des Nations Unies soutient que la gouvernance inclusive doit garantir que tous les pays disposent des capacités et de la voix nécessaires pour façonner la manière dont l'IA est développée, déployée et réglementée. Les Coordonnateurs résidents des Nations Unies, présents dans 162 pays et territoires, sont positionnés pour accompagner les États membres dans la traduction des principes mondiaux de gouvernance de l'IA en actions nationales.

Le représentant a pris la parole au nom de cinq coordonnateurs résidents servant l'Angola, l'Eswatini, le Costa Rica, le Monténégro et la Bosnie-Herzégovine , et a cité des exemples d'évaluations de l'état de préparation à l'IA au Monténégro, de dialogues nationaux en Eswatini et d'initiatives d'IA dans le secteur public en Bosnie-Herzégovine . Le représentant a déclaré que « les coordonnateurs résidents, conjointement avec les équipes de pays des Nations Unies, réunis dans 162 pays et territoires, sont prêts à accompagner les États membres dans l'élaboration d'un avenir inclusif en matière d'IA et dans la traduction de la gouvernance mondiale de l'IA » .

Le délégué de l'Éthiopie soutient que l'interopérabilité et la compatibilité des approches de gouvernance de l'IA ne peuvent être atteintes par des efforts nationaux isolés, mais nécessitent un dialogue continu, une confiance mutuelle et une coopération multilatérale solide. L'engagement de l'Éthiopie en faveur de cette vision repose sur une conviction de longue date dans le multilatéralisme et le dialogue inclusif au sein des Nations Unies.

Le délégué a déclaré que « les approches d'interopérabilité et de compatibilité ne peuvent être atteintes par des efforts nationaux isolés. Elles nécessitent un dialogue continu, une confiance mutuelle et une coopération multilatérale solide » . Le délégué a décrit les propres efforts de l'Éthiopie, notamment la création d'un institut d'intelligence artificielle et d'une université dédiée à l'IA en cours de planification , et a indiqué que l'Union africaine a désigné le Premier ministre éthiopien comme champion de l'IA et de la santé numérique .

Le délégué du Japon soutient que le Processus IA d'Hiroshima constitue une bonne pratique précieuse pour une gouvernance internationale inclusive de l'IA, ayant fait progresser des initiatives concrètes, notamment des principes directeurs et un Code de conduite en tant que premières normes internationales pour l'IA générative. Avec environ 70 pays et régions, dont ceux du Sud mondial, comme membres du Groupe des Amis, il illustre comment une gouvernance inclusive peut être mise en œuvre.

Le délégué a déclaré que, grâce au Processus IA d'Hiroshima, « des efforts en faveur d'une gouvernance internationale inclusive de l'IA ont été menés à travers des initiatives concrètes telles que l'élaboration de principes directeurs et du Code de conduite, constituant les premières normes internationales pour l'IA générative » . Le délégué a noté qu'« environ 70 pays et régions, dont ceux du Sud mondial, ont approuvé ces principes en tant que membres du Groupe des Amis, et partagent leurs connaissances et expériences en matière de gouvernance et de politique de l'IA afin de parvenir à une IA digne de confiance » .

Le rédacteur principal du Rapport international sur la sécurité de l'IA soutient que les risques liés à l'IA de frontière, répartis en trois catégories — utilisations abusives, dysfonctionnements et impacts sociétaux systémiques — ont dépassé le stade des préoccupations spéculatives et sont étayés par un ensemble de preuves allant des études en laboratoire aux incidents réels. Ces risques ne peuvent être indéfiniment reportés alors que les capacités continuent de progresser rapidement.

Le rédacteur a déclaré que « ces risques liés à l'IA de frontière ne peuvent être écartés comme de simples préoccupations spéculatives. Nous disposons d'un ensemble de preuves, allant des études en laboratoire aux incidents réels, qui démontrent désormais que ces préoccupations sont fondées » . Le rédacteur a décrit trois catégories de risques : les utilisations abusives, notamment l'abaissement potentiel des obstacles aux attaques impliquant des armes biologiques ; les dysfonctionnements, à mesure que l'IA devient plus agentique et plus difficile à superviser ; et les impacts systémiques, notamment la manière dont l'IA affectera le travail, la collecte d'informations et la gouvernance .

Le délégué de la Lituanie soutient que la confiance dans l'IA repose sur trois piliers, le premier étant que l'IA doit rester centrée sur l'humain et ancrée dans les valeurs démocratiques. Le principe de supervision humaine, qui exige une surveillance, une validation ou une intervention humaine aux points de décision critiques, doit être préservé en tant que condition préalable à une innovation sûre et responsable, plutôt que d'être traité comme un obstacle.

Le délégué a déclaré que « le principe de supervision humaine, qui exige une surveillance, une validation ou une intervention humaine aux points de décision critiques, doit être préservé et ne pas être traité comme un obstacle à l'innovation. Il constitue au contraire une condition préalable à une innovation sûre et responsable, contribuant à maximiser les avantages des nouvelles technologies tout en minimisant leurs risques » . Le délégué a également cité l'expérience de la Lituanie face aux cybermenaces persistantes, aux campagnes de désinformation et aux attaques hybrides comme preuve que « la résilience doit être intégrée dans la technologie dès le départ » .

Le délégué du Bangladesh plaide pour un cadre de gouvernance global combinant des obligations juridiques contraignantes et des normes éthiques, tout en restant favorable à l'innovation. Les approches réglementaires doivent être fondées sur les risques et inclure des bacs à sable réglementaires afin de permettre aux startups et aux innovateurs des pays en développement de développer une IA digne de confiance sans contraintes réglementaires excessives.

Le délégué a appelé à ce que « les approches réglementaires soient fondées sur les risques et favorables à l'innovation, notamment par la mise en place de bacs à sable réglementaires permettant aux startups et aux innovateurs des pays en développement de créer une IA digne de confiance sans obstacles réglementaires excessifs » . Le délégué a également appelé à un cadre de gouvernance global qui défend les droits humains, la transparence, la responsabilité, la vie privée et l'équité, tout en traitant les biais algorithmiques, la mésinformation, la désinformation et les violences basées sur le genre facilitées par l'IA .

Le représentant de la France soutient que l'intégrité des processus électoraux est menacée par des pratiques de désinformation qui font souvent appel à l'IA, ce qui en fait un enjeu majeur pour la gouvernance internationale. L'approche multipartite pour le dialogue mondial sur la gouvernance de l'IA et l'intégration de la science et de la recherche sont des réponses essentielles à ce défi.

Le représentant a déclaré que « la question est également cruciale en ce qui concerne l'intégrité des processus électoraux menacée par des pratiques de désinformation qui font souvent appel à l'IA » . Le représentant a noté que la France a abordé cette question lors du sommet du G7 et que 56 entreprises ont adhéré aux principes du Processus d'Hiroshima sur l'IA, visant à établir des principes et des pratiques communs pour la gouvernance des systèmes d'IA avancés .

Le représentant fait valoir que naviguer dans le labyrinthe des lois, réglementations, normes et principes internationaux et locaux est une tâche complexe pour toute entreprise ou tout individu développant ou déployant des systèmes d'IA. Un nouvel instrument international sur la gouvernance de l'IA doit donc accorder la priorité à l'interopérabilité et établir des normes minimales obligatoires juridiquement contraignantes, véritablement applicables dans tous les pays de toutes les régions.

Le représentant a déclaré qu'« un nouvel instrument international sur la gouvernance de l'IA doit accorder la priorité à l'interopérabilité et à un ensemble de règles juridiquement contraignantes établissant les normes minimales obligatoires véritablement applicables dans tous les pays de toutes les régions » . Le représentant a également souligné la responsabilité des universitaires et d'autres acteurs de sensibiliser, d'éduquer et de plaider en faveur d'une IA conçue, développée, déployée et utilisée dans le respect de l'éthique .

Virginia Dignum structure la discussion du panel autour de l'idée que l'IA est un ensemble de choix — techniques, institutionnels et politiques — et que l'interopérabilité en est l'un des exemples les plus manifestes. Elle souligne qu'en l'absence de normes probatoires communes et d'approches mutuellement reconnues, des régimes parallèles risquent de ne protéger ni les personnes ni de permettre à la responsabilité de suivre la technologie.

Elle a déclaré que « sans normes probatoires communes et approches mutuellement reconnues, nous risquons de voir se développer des régimes parallèles qui ne protègent ni les personnes ni ne permettent à la responsabilité de suivre la technologie » . Elle a noté que « nous avons déjà observé ce phénomène dans de nombreux domaines où la fragmentation crée des lacunes qui pénalisent en premier lieu les moins bien dotés en ressources » .

L'organisateur de la conférence explique le cadre procédural régissant la gestion des interventions en séance, en précisant que les représentants des États membres et les représentants des autres parties prenantes doivent alterner dans l'ordre de prise de parole. Cette approche vise à garantir que les voix gouvernementales et non gouvernementales bénéficient d'une égale opportunité de contribuer aux débats.

L'organisateur de la conférence a indiqué que « dans un souci de favoriser une large participation des parties prenantes, nous procéderons en alternant un représentant des États membres et un représentant des autres parties prenantes » . Les intervenants devaient s'être inscrits à l'avance via le site du Dialogue mondial des Nations Unies sur l'IA, et un minuteur a été mis en place afin que tous les intervenants puissent s'exprimer dans le temps imparti .

La délégation australienne soutient que les nouveaux efforts de gouvernance de l'IA doivent s'appuyer sur des approches éprouvées déjà développées par des organisations telles que l'ISO, l'ITU, le HCDH et l'UNESCO, ainsi que par la série de Sommets sur l'IA, le Processus d'Hiroshima sur l'IA et le Partenariat mondial sur l'IA. Des initiatives régionales telles que l'Initiative IA de l'APEC, le Cadre de gouvernance de l'IA de l'ASEAN et la Stratégie continentale de l'IA de l'Union africaine illustrent comment des principes communs peuvent être adaptés à différents contextes.

La délégation a déclaré que « nous devrions nous appuyer sur les travaux internationaux existants plutôt que de créer des cadres à partir de zéro » et a cité les normes ISO sur l'IA, ainsi que les orientations de l'ITU, du HCDH et de l'UNESCO comme offrant des références communes . La délégation a également mentionné des initiatives régionales, notamment l'Initiative IA de l'APEC, le Cadre de gouvernance de l'IA de l'ASEAN et la Stratégie continentale de l'IA de l'Union africaine, comme exemples illustrant comment des principes communs peuvent être adaptés à différents contextes économiques, sociaux et réglementaires .

La délégation australienne soutient qu'une gouvernance efficace de l'IA requiert des principes communs pouvant être mis en œuvre de manière flexible selon les contextes, et que la gouvernance doit être comprise comme un processus continu plutôt que comme un résultat figé. Cela reflète la réalité selon laquelle les technologies d'IA et les risques associés sont en constante évolution.

La délégation a déclaré que « l'IA responsable n'est pas une tâche ponctuelle, mais un processus continu de gouvernance, de surveillance, d'adaptation et d'amélioration à mesure que les technologies évoluent et que les risques émergent » . La délégation a également souligné qu'« une approche universelle de la gouvernance de l'IA ne sera pas efficace », car les pays font face à des risques, des priorités, des niveaux de développement numérique et des environnements réglementaires différents .

La délégation australienne exprime son soutien au Dialogue mondial de l'ONU en tant que plateforme de collaboration multipartite sur les défis de la gouvernance de l'IA. En partageant leurs expériences, les participants peuvent renforcer l'écosystème numérique, améliorer la connectivité entre les économies et contribuer à des résultats bénéfiques pour tous les pays.

La délégation a déclaré qu'« l'Australie estime que le Dialogue mondial de l'ONU a le potentiel de rassembler la communauté multipartite pour relever les défis de la gouvernance de l'IA et y faire face collectivement » . La délégation a soutenu qu'« en partageant nos expériences, nous renforçons l'écosystème numérique, améliorons la connectivité entre nos économies et contribuons à un écosystème numérique stable, sûr, inclusif et innovant, et ce, pour tous » .

Le Co-Président explique le cadre procédural régissant la gestion des interventions en séance, en soulignant que les déclarations seront prononcées selon une liste d'intervenants établie par inscription préalable sur le site du Dialogue mondial des Nations Unies sur l'IA. Ce système vise à permettre au plus grand nombre d'intervenants possible de prendre la parole dans le temps imparti.

Le Co-Président a indiqué que « les déclarations seront prononcées sur la base de la liste des intervenants établie par l'inscription rendue disponible sur le site du Dialogue mondial des Nations Unies sur l'IA » . Il a précisé que « la liste e-délégué est clôturée et que toute modification doit être communiquée au secrétariat », et que « les microphones seront automatiquement coupés à l'expiration du temps de parole » afin de favoriser une large participation .

Le Facilitator UNICC introduit un exercice de réseautage structuré conçu pour s'éloigner des présentations formelles et engager directement tous les participants dans l'identification de leur priorité la plus importante en matière d'interopérabilité de l'IA. L'exercice demande aux participants de s'entretenir avec une personne qu'ils ne connaissent pas encore, afin de favoriser le croisement des perspectives.

Le facilitateur a demandé aux participants de « se tourner à gauche, à droite, vers l'avant ou vers l'arrière, et surtout de trouver une personne qu'ils ne connaissent pas » et de discuter de « ce que serait, s'ils ne devaient en identifier qu'un, le point clé ou la priorité clé en matière d'interopérabilité et d'approches de compatibilité pour une IA sûre, sécurisée et digne de confiance » . Le facilitateur a insisté sur le fait que les participants ne devaient pas « tricher » en s'adressant à quelqu'un qu'ils connaissaient déjà, soulignant ainsi l'importance d'un échange diversifié .

Le Facilitator UNICC introduit une deuxième activité interactive au cours de laquelle les participants notent leur priorité identifiée sur des post-it à remettre aux coprésidents à leur départ. Ce mécanisme est conçu pour garantir que les discussions informelles tenues lors de l'exercice de réseautage sont consignées et intégrées au rapport de synthèse formel des coprésidents.

Le facilitateur a demandé aux participants de « noter cet élément prioritaire » sur des post-it et a indiqué qu'« en partant, veuillez remettre ces post-it à la sortie de la salle, et les coprésidents en tiendront compte » . Le facilitateur a directement rattaché cette activité au processus de gouvernance formel en précisant que « les coprésidents tiendront compte de ces points » lors de la présentation d'un rapport de synthèse au dialogue des dialogues .

Rachel Adams présente la discussion du deuxième panel comme une progression par rapport à l'identification des principes et normes existants effectuée lors du premier panel, vers la question pratique de leur mise en œuvre. Elle identifie trois axes prioritaires : les fondements communs qui émergent déjà, les mesures concrètes pouvant être prises dès maintenant, et la manière dont les pays et les communautés disposant de moins de ressources peuvent participer activement à l'élaboration de l'infrastructure mondiale de gouvernance.

Elle a déclaré que « notre premier panel d'aujourd'hui a contribué à cadrer le paysage existant autour des principes, des normes et des bonnes pratiques. Et dans cette discussion, nous souhaitons passer du quoi au comment » . Elle a précisé que le panel examinerait « ce qui doit réellement être partagé au-delà des frontières - preuves, systèmes de mesure, méthodologies d'évaluation, outils de reporting, pratiques institutionnelles - afin que l'IA sûre, sécurisée et digne de confiance puisse être gouvernée de manière compatible et inclusive » .

Rachel Adams soutient qu'un modèle d'interopérabilité qui se contenterait de reproduire les présupposés et les priorités des juridictions puissantes serait insuffisant et potentiellement préjudiciable. Une véritable interopérabilité doit être conçue pour s'adapter aux différents contextes et priorités nationaux, en veillant à ce que les pays moins puissants ne soient pas de simples récepteurs de cadres de gouvernance élaborés ailleurs.

Elle a déclaré qu'« il est tout aussi important d'éviter un modèle d'interopérabilité qui se contente d'exporter les présupposés, les risques et les priorités des juridictions puissantes. L'interopérabilité doit permettre de tenir compte des différents contextes et priorités nationaux » . Ce cadrage a défini l'ordre du jour de l'ensemble de la discussion du deuxième panel .

Rachel Adams souligne l'importance cruciale des choix de mesure dans l'évaluation de l'IA, présentant cette question comme relevant des droits et des opportunités plutôt que d'un simple enjeu technique. Elle cite les travaux du Dr. Joy Buolamwini comme preuve que la conception des systèmes d'évaluation a des conséquences directes sur les expériences et les préjudices qui sont pris en compte.

Elle a déclaré que « Dr. Buolamwini, vos travaux ont démontré avec une grande force que ce qui est mesuré et ce qui ne l'est pas a de véritables conséquences sur les droits et les opportunités des personnes » . Elle a demandé ce qui devait être garanti dans les systèmes et normes d'évaluation partagés « afin que ces systèmes captent les biais et les discriminations plutôt que de simplement rendre l'IA » plus efficace .