Résumé
La discussion a ouvert le Dialogue mondial des Nations Unies sur la gouvernance de l’IA en tant que premier forum mondial destiné à lancer un processus plus large et universel réunissant les États, les organisations internationales, la société civile, le monde universitaire et les experts techniques autour de la gouvernance de l’IA . Les coprésidents, l’ambassadrice Egriselda López d’El Salvador et l’ambassadeur Rein Tammsaar d’Estonie, ont souligné que le dialogue devait être inclusif, fondé sur des données probantes et orienté vers la coopération pratique afin que l’IA contribue au développement et profite à tous les pays, sans en laisser certains de côté . António Guterres a affirmé que l’IA progresse à une « vitesse effrénée » et transforme déjà les économies, le travail, les élections et la sécurité plus rapidement que les institutions ne peuvent le gérer, rendant la situation actuelle intenable sans élaboration de plan commun . Il a déclaré que le premier rapport du Groupe scientifique international indépendant sur l'intelligence artificielle fournirait une base factuelle commune et il a mis en garde contre trois grands dangers : la rapidité du déploiement de l’IA, la concentration du pouvoir entre les mains de quelques entreprises et pays, et l’érosion de la vérité via la désinformation facilitée par les machines . Dans le même temps, il a souligné le potentiel positif de l’IA pour la santé, l’éducation et l’agriculture, estimant que, si ses bénéfices étaient largement partagés, l'IA pourrait accélérer le développement et même devenir un « grand facteur d'égalisation » . António Guterres a ensuite exposé quatre priorités pour l’action mondiale : des normes de sécurité communes, des lignes rouges ancrées dans les droits humains, un renforcement des capacités pour les pays en développement, et une plus grande transparence sur l’empreinte environnementale de l’IA . Il a également appelé à un engagement pour la sécurité des enfants face à l’IA, et a demandé un fonds et un réseau mondial pour les capacités en matière d’IA, ainsi qu’une interdiction en droit international des armes létales autonomes, qu’il a qualifiées de « robots tueurs » . Annalena Baerbock a renforcé le sentiment d’urgence, déclarant que le rythme de développement et la complexité de l’IA signifient qu’elle ne peut être gouvernée par quelques acteurs seulement et qu’elle doit être encadrée par l’ONU avec la participation de tous les pays et de toutes les parties prenantes . D’autres intervenants se sont concentrés sur la mise en œuvre et le soutien institutionnel. Doreen Bogdan-Martin a déclaré que l’ONU avait avancé plus rapidement sur l’IA qu’elle ne l’avait fait pour l’Internet naissant et a décrit la Geneva Digital Week comme un effort coordonné reliant ce dialogue, le panel scientifique, le AI for Good Summit et le Forum du SMSI . Khaled El-Enany a mis en avant le cadre éthique de l’UNESCO, le soutien apporté à plus de 80 pays, la formation de plus de 50 000 responsables publics et acteurs judiciaires, ainsi que les nouveaux travaux sur la protection des enfants et des jeunes à l’ère de l’IA . Amandeep Singh-Gill a souligné l’ampleur de la participation, la nécessité d’une inclusion soutenue par des capacités réelles, et l’intention de poursuivre le processus avec un deuxième cycle à New York l’année prochaine . Dans l’ensemble, l’ouverture a établi un large consensus selon lequel la gouvernance de l’IA doit être inclusive, internationale, pratique et gérée de manière urgente pour que l’IA soit sûre, équitable et bénéfique pour toute l’humanité .Points clés
- L’objectif central du dialogue est de lancer le premier processus onusien mondial, universel et inclusif sur la gouvernance de l’IA, réunissant tous les pays et toutes les parties prenantes afin de partager des données probantes, des perspectives et des expériences, plutôt que de laisser la politique de l’IA à un petit nombre d’acteurs. Les intervenants ont souligné à plusieurs reprises que chaque pays devait avoir sa place à la table et que la participation devait inclure les gouvernements, les organisations internationales, la société civile, le monde universitaire, les entreprises et les experts techniques. - La nécessité d’équilibrer les vastes opportunités offertes par l’IA avec les risques sérieux a été un thème majeur. Les participants ont mis en avant le potentiel de l’IA pour faire progresser le développement, la santé, l’éducation, l’agriculture et les Objectifs de développement durables (ODD), tout en avertissant que l'IA pouvait remodeler les marchés du travail, influencer les élections, fragiliser la sécurité et altérer le tissu social si elle n’est pas encadrée. - Plusieurs intervenants ont estimé que la gouvernance de l’IA doit être fondée sur les droits humains, la sécurité, la responsabilité et la confiance. Pour ce faire, des appels à des références internationales communes pour les tests et l’évaluation des risques, des appels au maintien de la responsabilité humaine dans les décisions à forts enjeux, et à la garantie que l’IA reste éthique, sûre et digne de confiance sont nécessaires. - Un autre point clé de discussion a été l’inégalité en matière de pouvoir et de capacités dans l’IA, en particulier le risque que les pays en développement soient exclus. António Guterres a averti que la puissance de calcul, les données et les talents sont concentrés dans une poignée d’entreprises et de pays, tandis que plusieurs intervenants ont souligné la nécessité de compétences, d’infrastructures, de financements, de capacités institutionnelles et de partenariats afin que tous les pays puissent participer et bénéficier de l'IA. - La sécurité des enfants, les utilisations dommageables et d’autres lignes rouges sont apparues comme une priorité de gouvernance particulièrement urgente. António Guterres a appelé à un engagement pour la sécurité des enfants face à l’IA, en citant des préjudices tels que la manipulation, l’automutilation et les images d’abus, tandis qu'Annalena Baerbock a mis en lumière la mauvaise utilisation de l’IA avec des deepfakes et des violences genrées. António Guterres a également tracé une ligne rouge ferme contre les armes létales autonomes, les qualifiant de « robots tueurs » inacceptables sur le plan moral et nécessitant une interdiction juridique internationale.L’objectif général de la discussion était d’ouvrir le Dialogue mondial des Nations Unies sur la gouvernance de l’IA et d’en définir l’ordre du jour : créer un processus multilatéral inclusif capable de traduire les données scientifiques et la consultation mondiale en coopération internationale pratique, en normes communes et en actions futures sur la gouvernance de l’IA. Les intervenants ont présenté la réunion comme le point de départ d’un processus continu qui se poursuivra au-delà de Genève et contribuera à garantir que l’IA soit plus sûre, plus équitable, plus accessible et bénéfique pour toute l’humanité.
Le ton général était formel, urgent et coopératif. La discussion a commencé de manière cérémonielle et diplomatique, avec des remerciements et une insistance sur l’inclusion et le partenariat. Le ton est ensuite devenu plus prudent et plus ferme pendant les remarques d’António Guterres, en particulier lorsqu’il a été question de changement technologique effréné, de concentration du pouvoir, de désinformation, de préjudices causés aux enfants et d’armes létales autonomes. Vers la fin, le ton est devenu plus optimisme et pragmatique, dénotant un sens de responsabilité collective, et soulignant que la coopération multilatérale peut encore orienter l’IA vers le bien public si l’action se poursuit.
Intervenants
- Doreen Bogdan-Martin - Secrétaire générale de l’Union internationale des télécommunications (UIT) ; co-coordinatrice du Secrétariat conjoint pour le Dialogue sur l’IA [S1] - António Guterres - Secrétaire général des Nations Unies [S4] - Announcer - Annonceur de la cérémonie d’ouverture - S.E. l’Ambassadeur Rein Tammsaar, Estonie - Coprésident du Dialogue mondial sur la gouvernance de l’IA ; Ambassadeur d’Estonie ; ancien ambassadeur numérique de l’Estonie [S11] - Khaled El-Enany - Directeur général de l’UNESCO ; co-coordinateur du Secrétariat conjoint pour le Dialogue sur l’IA [S13] - S.E. l’Ambassadrice Egriselda López, El Salvador - Coprésidente du Dialogue mondial sur la gouvernance de l’IA ; Ambassadrice d’El Salvador - Annalena Baerbock - Présidente de l’Assemblée générale des Nations Unies [S18] - Amandeep Singh-Gill - Secrétaire général adjoint des Nations Unies et envoyé spécial pour les technologies numériques et émergentes, ODET [S20][S21]Intervenants supplémentaires : - Aucun
La session a officiellement ouvert le premier Dialogue mondial des Nations Unies sur la gouvernance de l’IA et l’a présenté comme le début d’un processus multilatéral plus long plutôt que comme une conférence isolée . L’Ambassadrice Egriselda López d’El Salvador a présenté la réunion comme le lancement d’un espace large et véritablement universel où différentes expériences, capacités et catégories d’acteurs pourraient converger, en s’appuyant sur un mandat de l’Assemblée générale ainsi que sur des années d’innovation, de production de connaissances et de pratiques partagées entre les États, les organisations internationales, la société civile, le monde universitaire et les experts techniques . Les coprésidents et le secrétariat ont été remerciés d'avoir contribué à transformer le mandat des États membres en dialogue qui s’ouvre aujourd’hui . Egriselda López a également souligné que Genève devait être considérée non seulement comme un lieu d’arrivée, mais aussi comme un point de départ pour un travail continu . Les intervenants ont inscrit le Dialogue dans le mandat créé par le Pacte pour l’avenir et le Pacte numérique mondial, et plusieurs d’entre eux ont insisté sur le fait qu’il devait se poursuivre au-delà de cette réunion inaugurale .
Egriselda López et Rein Tammsaar pour l'Estonie ont exposé le cadre de base de la réunion par les coprésidents autour de l’inclusion, des capacités et de l’instauration de la confiance . Egriselda López a soutenu que la valeur du dialogue ne réside pas seulement dans l’échange de positions formelles, mais aussi dans le partage d’expériences, l’apprentissage mutuel et le renforcement de la coopération internationale face à une technologie qui évolue rapidement et exige donc des réponses agiles et inclusives . Elle a également souligné qu’une participation effective signifie plus qu’une simple présence physique : les pays ont besoin de compétences, d’infrastructures, de talents, de financements, d’institutions, d’alliances et de partenariats s’ils veulent façonner l’IA et en tirer parti sur un pied d’égalité . Rein Tammsaar a renforcé ce point en observant que l’IA touche déjà tous les pays, quel que soit leur niveau de développement technologique, de sorte que la conversation sur la gouvernance doit inclure toutes les régions, tous les niveaux de développement et toutes les parties prenantes pertinentes, sans laisser personne de côté . Il a décrit la tâche des coprésidents comme celle de créer une plateforme universelle où des perspectives diverses, des connaissances scientifiques, leunjugement politique et une délibération technologique pourraient se rejoindre afin de bâtir une confiance et une compréhension commune .
Ce cadre d’ouverture était lié à une deuxième idée centrale : la gouvernance de l’IA doit équilibrer les opportunités et les responsabilités . Egriselda López a explicitement appelé à un équilibre entre innovation et responsabilité, opportunité et risque, coopération internationale et réalités nationales, ainsi qu’entre la prise de décision mondiale et les besoins concrets de chaque pays . Rein Tammsaar a de même soutenu que les nombreuses possibilités offertes par l’IA ne peuvent être pleinement réalisées que si les systèmes sont sûrs, ancrés dans le droit international et les droits humains, et façonnés par les personnes elles-mêmes plutôt que leur étant imposés . S’appuyant sur l’expérience de l’Estonie, il a déclaré que les outils numériques peuvent améliorer considérablement la vie quotidienne lorsqu’ils sont centrés sur l’humain, dignes de confiance et soutenus par des institutions publiques solides, tout en avertissant que la technologie, à elle seule, ne suffit jamais . Il a également précisé que l’objectif des deux jours suivants n’était pas d’effacer les différences, mais de mieux les comprendre, d’identifier les domaines de convergence, de recueillir les bonnes pratiques et de poser les fondations d’une coopération future .
António Guterres a ensuite déplacé la discussion en avertissant sur l’urgence . Il a déclaré que l’IA progresse à une « vitesse folle » et qu’elle est déployée plus rapidement que quoi que ce soit, ses concepteurs ne pouvant véritablement pas la suivre, alors qu’elle peut remodeler les économies, transformer les marchés du travail, avoir une influence sur les élections et modifier l’équilibre de la sécurité . La formulation la plus forte d'António Guterres a été qu’« une expérience est menée sur notre planète et sur les sociétés sans plan et sans consentement », ce qu’il a qualifié à la fois d’insoutenable et d’inacceptable . Il a présenté la question centrale de savoir si l’humanité façonnera la transformation de l’IA ou laissera au contraire la technologie façonner l’humanité. Il a déclaré que ce Dialogue devait apporter le début d’une réponse parce que, pour la première fois, chaque pays avait une place à la table et une base factuelle commune .
Un élément clé du discours d'António Guterres a été sa référence au premier rapport du Groupe scientifique international indépendant sur l’intelligence artificielle, que ses coprésidents devaient présenter ce matin-là, en tant que base factuelle commune pour la discussion . Il a souligné que le groupe se composait de quarante experts issus de toutes les régions et disciplines, siégeant à titre personnel, indépendamment des gouvernements, des entreprises et des institutions . La création de ce groupe a ensuite été reprise par Annalena Baerbock, qui l’a décrite comme une étape majeure parce qu’elle rassemblait une expertise de tous les secteurs tout en assurant la parité de genre et la parité régionale . Tout au long de l’ouverture, les intervenants ont à plusieurs reprises relié la légitimité politique à la légitimité scientifique en soulignant à la fois une large participation et une base de preuves indépendante .
António Guterres a structuré les risques autour de trois avertissements issus de la science : la vitesse, le pouvoir et la vérité . Sur la vitesse, il a opposé les quinze années qu’il a fallu à Internet pour atteindre un milliard de personnes aux deux années qu'il a fallu à l’IA. Il a également averti que les systèmes d’IA ne sont plus seulement des outils passifs mais écrivent de plus en plus du code, agissent en ligne et font des choix avec une supervision humaine de plus en plus réduite . Selon lui, les institutions ont été construites pour gouverner des machines qui exécutent des ordres, et non des machines qui décident . Sur le pouvoir, il a averti que la puissance de calcul, les données et les talents sont concentrés entre les mains de quelques entreprises et pays seulement, laissant la plupart des nations, en particulier de nombreux pays en développement, sans influence réelle sur des décisions qui façonneront leur avenir . Il a présenté cela comme un problème d’inégalité structurelle : si les déséquilibres de pouvoir sont câblés dans la technologie, alors l’inégalité devient partie intégrante du code lui-même . Sur la vérité, il a averti que les mensonges rendus possibles par l’IA peuvent désormais persuader aussi efficacement que les vérités et que de véritables preuves peuvent être rejetées comme fausses, érodant la confiance et affaiblissant la capacité des sociétés à s’accorder sur la réalité ou à se défendre . Il a accentué ce point à travers l’expression « vibe coding », critiquant la tentation de laisser fonctionner des systèmes d’IA parce qu’ils semblent marcher sans les comprendre ni les examiner correctement, et a insisté sur le fait que l’humanité ne peut « programmer au ressenti » ni la vérité ni son propre avenir .
Tout en mettant en lumière ces dangers, António Guterres a également développé de manière soutenue la promesse de l’IA pour le développement et l’action humanitaire . Il a donné des exemples concrets d’IA aidant une mère dans une clinique rurale à recevoir à temps un diagnostic de cancer, un enfant à poursuivre son apprentissage avec un tuteur infatigable, et un petit agriculteur à accéder à des prévisions auparavant disponibles uniquement pour les plus grandes entreprises agro-industrielles . À partir de ces exemples, il a tiré un argument historique plus large : l’expertise a longtemps été rare, coûteuse et concentrée, mais l’IA pourrait la rendre beaucoup plus largement disponible bien plus rapidement que des technologies transformatrices antérieures telles que la pénicilline ou l’électricité . Bien utilisée et largement partagée, a-t-il soutenu, l’IA pourrait condenser en quelques années des décennies de développement et devenir le « grand facteur d'égalisation » du XXIe siècle . Cette affirmation faisait écho à celle liminaire d'Egriselda López selon laquelle l’IA devrait contribuer au développement et apporter des bénéfices réels à tous , ainsi qu’aux exemples ultérieurs d'Annalena Baerbock concernant l’alerte sur les catastrophes, l’agriculture, la santé et l’éducation .
António Guterres a ensuite relié le Dialogue à un processus plus large des Nations Unies . Il a rappelé que le Pacte pour l’avenir et le Pacte numérique mondial avaient créé le mandat pour ce travail et a déclaré que l’ouverture du Dialogue, la présentation du rapport du groupe scientifique et les discussions prévues plus tard dans la semaine au Sommet AI for Good devaient être considérées comme faisant partie d’un effort intégré de l’ONU . Il a présenté cela comme un moyen de réunir discussion politique, preuves scientifiques et initiatives pratiques dans un même processus de gouvernance plus large .
À partir de là, António Guterres est passé à un programme de gouvernance organisé autour de quatre priorités : la sécurité, les lignes rouges, les capacités et la transparence . Sur la sécurité, il a soutenu qu’un alignement entre les pays sur les tests, la mesure des risques et les responsabilités est essentiel ; faute de quoi, des règles fragmentées augmenteront les coûts, diviseront le monde et ne parviendront toujours pas à protéger les personnes . Il a appelé à des socles communs pour les systèmes de frontière, à des méthodes partagées d’évaluation et de vérification des risques, ainsi qu’à une volonté commune que les systèmes à portée mondiale respectent des normes dignes d’une confiance mondiale .
Dans le cadre de ce programme de sécurité, António Guterres a accordé une priorité particulière aux enfants, estimant qu’aucun enfant ne devrait être traité comme un cobaye pour une IA non réglementée . Il a opposé les garanties appliquées aux médicaments et aux jouets à l’absence de tests équivalents pour des systèmes d’IA qui atteignent déjà les enfants dans leurs apprentissages, leurs amitiés et leurs questions privées . Il a cité des préjudices déjà visibles : des enfants trompés par des machines se faisant passer pour des amis, des enfants orientés vers l’automutilation, et des enfants victimes d’abus au moyen d’images sexuelles générées sur simple clic . Sur cette base, il a appelé à un engagement pour la sécurité des enfants face à l’IA contenant trois règles : premièrement, tout système accessible aux enfants devrait être éprouvé au moyen de tests spécifiques aux enfants et d’une supervision indépendante ; deuxièmement, les entreprises devraient appliquer une tolérance zéro à la génération d’images sexuelles d’enfants et devraient détecter, signaler et retirer ce matériel ; troisièmement, lorsqu’un enfant manifeste de la détresse, le système devrait s’arrêter et le mettre en relation avec un soutien humain réel . Cet accent mis sur les enfants a ensuite trouvé un écho dans l’annonce par l’UNESCO d’une réflexion collective sur un nouvel instrument normatif destiné à protéger les enfants et les jeunes à l’ère de l’IA .
Sur les lignes rouges, António Guterres a déclaré que les droits humains ne sont pas négociables et que l’IA ne doit jamais priver les personnes de leur dignité ni ancrer la discrimination . Il a insisté sur le fait que, dans tous les domaines à forts enjeux : justice, soins de santé et maintien de l’ordre, les machines peuvent éclairer les décisions, mais les humains doivent rester ceux qui décident et qui répondent de ces décisions . Ce cadre fondé sur les droits faisait écho à l’insistance de Rein Tammsaar sur le fait que l’IA doit être fondée sur le droit international et les droits humains , et correspondait ensuite à la présentation par l’UNESCO de sa Recommandation de 2021 sur l’éthique de l’intelligence artificielle comme première norme mondiale visant à aligner l’IA sur les droits humains, la durabilité et l’inclusion .
Sur les capacités, António Guterres a mis en lumière l’écart entre les investissements privés massifs dans l’IA et les investissements publics sporadiques pour le renforcement des capacités des pays en développement . Il a averti que la fracture numérique pourrait se développer en fracture de l’IA, laquelle pourrait ensuite mener à un écart de développement, un écart de sécurité et un écart de souveraineté . En réponse, il a indiqué que plus de vingt États membres avaient déjà désigné des centres pour un réseau mondial soutenu par l’ONU, consacré à l’échange et à la coopération en matière de renforcement des capacités dans l’IA . Il a également annoncé qu’il soumettrait à l’Assemblée générale des recommandations pour un fonds mondial pour l’IA visant à développer les compétences, les ressources en données et une puissance de calcul abordable « partout », en particulier pour les pays en développement . Cela reflétait directement l’avertissement antérieur d'Egriselda López selon lequel une participation significative exige des infrastructures, des financements et des capacités institutionnelles, et non une simple présence dans une salle , ainsi que la remarque ultérieure d'Amandeep Singh-Gill selon laquelle sans capacités, le dialogue devient monologue et la science demeure abstraite .
Sur la transparence, António Guterres a soutenu que l’IA peut sembler intangible, mais que son empreinte ne l’est pas . Il a pointé les immenses besoins en électricité et en eau des centres de données, avertissant que d’ici 2030 ils pourraient consommer plus d’électricité que tous les pays sauf cinq, et une quantité d’eau qui couvrirait les besoins annuels de l’ensemble des 1,3 milliard de personnes vivant en Afrique subsaharienne . Il a ajouté que les communautés accueillant ces infrastructures supportent souvent ces charges sans information adéquate ni bénéfice . Il a donc évoqué l'Initiative pour la transparence environnementale de l’IA appelant les grandes entreprises de l’IA à mesurer et à divulguer publiquement l’empreinte carbone, hydrique et foncière de leurs systèmes, et à s’engager à alimenter chaque centre de données en énergie renouvelable d’ici 2030 . Cela a élargi la conversation sur la gouvernance de l’IA au-delà de la sécurité et de l’équité pour y inclure la durabilité et la justice distributive.
António Guterres a également abordé brièvement mais fermement les questions de paix et de sécurité, tout en notant que le Dialogue lui-même portait sur l’IA civile . Il a averti que les mêmes modèles et puces utilisés dans les systèmes civils arrivent aussi sur le champ de bataille . Sa principale préoccupation concernait les systèmes d’armes létales autonomes, qu’il a délibérément qualifiés de « robots tueurs », des machines qui sélectionnent et engagent des cibles et ôtent la vie sans contrôle ni jugement humains . Il a qualifié ces systèmes de moralement répugnants, politiquement inacceptables et qui devraient être interdits par le droit international, insistant sur le fait que certaines décisions doivent rester à jamais humaines, notamment le fait d’ôter une vie humaine .
Dans sa conclusion, António Guterres a refusé l’idée selon laquelle gouvernance et innovation seraient opposées . Il a déclaré que l’innovation a besoin de garde-fous, et que les technologies auxquelles les gens font le plus confiance : dans l’aviation, la médecine et l’énergie nucléaire, sont dignes de confiance parce que leurs concepteurs sont tenus responsables . Sa formule récapitulative a été que si l’IA doit être puissante, elle doit être gouvernée ; si elle doit être digne de confiance, ses concepteurs doivent rendre des comptes ; si elle doit être mondiale, elle doit être juste ; et si elle doit servir l’avenir, elle ne doit pas consumer l’avenir . Il a ensuite déclaré que les gouvernements, les entreprises, les scientifiques et ce dialogue lui-même ont tous des responsabilités urgentes, et a averti que la génération actuelle est peut-être la dernière à pouvoir fixer les conditions dans lesquelles l’humanité et les machines coexistent . Il a conclu en appelant à ce que cette réunion soit retenue comme le moment où la gouvernance a commencé à rattraper la technologie et en se projetant vers une nouvelle réunion à New York l’année prochaine afin d’évaluer si l’IA devient plus sûre, plus juste, plus accessible et plus éthique .
Annalena Baerbock, Présidente de l’Assemblée générale, a renforcé nombre de ces thèmes tout en y ajoutant une forte défense de la légitimité institutionnelle de l’ONU et une reconnaissance franche des limites de connaissance des décideurs . Elle a déclaré que ce qui relevait de la science-fiction dix ans plus tôt semblait déjà dépassé aujourd’hui, et a souligné l’intégration de l’IA dans le développement logiciel ainsi que sa capacité croissante à interagir avec le monde physique au moyen de « world models » . Son point central était que les révolutions technologiques précédentes se sont déployées dans le temps, mais que, dans le cas de l’IA, « nous n’avons pas ce luxe » . Elle a opposé cette transformation accélérée à l’aviation, à la machine à vapeur et à la technologie nucléaire, qui ont toutes évolué plus lentement ou ont été délibérément ralenties en raison des risques . Elle a ensuite demandé combien de décideurs comprenaient réellement la profondeur des changements associés à l’architecture des modèles, aux agents autonomes ou à l’informatique quantique, utilisant cette question pour justifier la nécessité d’une gouvernance multilatérale plus large et mieux informée .
Annalena Baerbock a soutenu que le potentiel et les dangers de l’IA sont trop importants et trop vastes pour être laissés à quelques acteurs . Elle a déclaré que, parce que l’IA pénètre les économies, les systèmes sociaux, la défense, la paix et la sécurité, les foyers, les systèmes alimentaires et même les chambres d’enfants, elle ne peut être gérée de manière significative et sûre qu’ensemble . Elle a explicitement réfuté les questions visant à savoir si l’ONU agissait dans les limites de son mandat, en soutenant que la Charte elle-même fournit la base de la coopération internationale face à un défi comme l’IA . Elle a donc répondu au scepticisme potentiel en affirmant que l’IA a besoin d’une plateforme mondiale et que cela signifie qu’elle a besoin des Nations Unies .
Comme d’autres intervenants, Annalena Baerbock a mis l’accent sur une large participation, mais elle l’a présentée comme une responsabilité de toute la société . Elle a déclaré que le monde a appris que les problèmes mondiaux requièrent non pas quelques pays uniquement, mais tous les pays, et non pas les gouvernements uniquement, mais aussi les entreprises technologiques, la société civile, les sociétés et les citoyens . Elle a aussi personnalisé cette responsabilité en mentionnant que la gouvernance de l’IA a besoin de participants tels que scientifiques, ingénieurs et propriétaires d’entreprises, mais aussi pères et mères, parce que les enfants demandent aux adultes d’agir ensemble . Pour le souligner, elle a cité un adolescent qui s’était exprimé plus tôt à l’Assemblée générale au sujet de la haine à travers les écrans et de la jeunesse refusant de laisser les plateformes devenir des champs de bataille .
L’apport substantiel le plus catégorique d'Annalena Baerbock concernait les usages nuisibles de l’IA, en particulier les deepfakes et les abus genrés . Elle a déclaré que les adultes, les gouvernements, les décideurs et les entreprises ont tous la responsabilité de lutter contre les usages sinistres de l’IA tels que les deepfakes, qui visent de manière disproportionnée les femmes et les filles . Citant des chiffres selon lesquels 99 pour cent des deepfakes sont de nature sexuelle et 96 pour cent ciblent les femmes et les filles, elle a soutenu qu’il ne s’agit pas d’un accident mais d’un phénomène systématique qui représente un recul des droits humains et des droits des femmes . Cela a apporté au débat sur la gouvernance une perspective de genre plus explicite, complétant l’accent mis par António Guterres sur les enfants et les préjudices plus larges dans le domaine de l’information .
Dans le même temps, Annalena Baerbock a également insisté sur le potentiel positif de l’IA pour les objectifs de développement durable . Elle a cité des exemples du Bangladesh, où des systèmes alimentés par l’IA fournissent aux familles des alertes instantanées en cas d’inondations et de tempêtes, et du Kenya, où les agriculteurs reçoivent des cartes détaillées indiquant où et quand planter les semences afin de maximiser les récoltes . Elle a ensuite élargi cela à une vision plus large de l’ONU : l’UNICEF rejoignant les enfants en situation de crise grâce à un apprentissage personnalisé, et l’Organisation mondiale de la Santé détectant les flambées avant qu’elles ne deviennent des pandémies . Sa conclusion a été que cette révolution technologique devrait être une révolution dans laquelle aucun pays n’est laissé de côté . Elle a également décrit le groupe scientifique comme important parce qu’il réunissait une expertise de tous les secteurs avec parité de genre et parité régionale .
Les intervenants institutionnels qui ont suivi se sont davantage concentrés sur la mise en œuvre, la coordination et la continuité. Doreen Bogdan-Martin de l’UIT a souhaité la bienvenue aux participants au tout premier Dialogue mondial des Nations Unies sur la gouvernance de l’IA et a établi une comparaison historique avec Internet . Elle a noté que, bien qu’Internet soit entré dans les foyers et les entreprises au début des années 1990, il a fallu une décennie entière avant que les parties prenantes se réunissent à Genève au Sommet mondial sur la société de l’information pour discuter de la manière de faire de cette technologie un outil centré sur l’humain, inclusif et orienté vers le développement . En revanche, a-t-elle dit, seulement trois ans après la généralisation de l’IA générative, l’ONU s’est réunie cette semaine à Genève pour façonner ensemble la trajectoire de l’IA . Elle a inscrit le Dialogue dans la « Geneva Digital Week », le reliant au groupe scientifique, au Sommet mondial AI for Good et au Forum du SMSI, présentant ainsi la semaine comme un effort coordonné de gouvernance plutôt que comme une série d’événements isolés . Elle a aussi remercié la Suisse, en tant que pays hôte, pour son généreux soutien . Plus largement, elle a décrit cette réunion comme un espace où le système des Nations Unies, les gouvernements, les entreprises, les chercheurs, la communauté technique et la société civile discuteraient de la manière de maintenir l’humanité au cœur de ce qui est peut-être la technologie la plus déterminante à ce jour .
Doreen Bogdan-Martin a en outre souligné le dialogue lui-même comme méthode de gouvernance . Citant Magnifica Humanitas du pape Léon, elle a relevé l’accent répété mis sur le dialogue comme moyen d’établir des accords de base susceptibles de soutenir une vision commune malgré les différences idéologiques et pratiques . Elle a déclaré que c’est précisément ce pour quoi les participants étaient réunis : construire le bien commun à travers une vision partagée, sous la direction du Secrétaire général et des coprésidents .
Khaled El-Enany de l’UNESCO s’est concentré sur l’écart entre les principes et la mise en œuvre . Il a déclaré que, même si davantage de gouvernements adoptent des stratégies sur l’IA et que davantage d’institutions reconnaissent la nécessité d’une IA éthique, sûre et digne de confiance, un écart important subsiste entre l’ambition et la mise en œuvre . Il a présenté le rôle de l’UNESCO en deux volets. Premièrement, l’UNESCO fournit un fondement normatif à travers sa Recommandation de 2021 sur l’éthique de l’intelligence artificielle, qu’il a décrite comme la première norme mondiale dans ce domaine et comme un cadre visant à aligner l’IA sur les droits humains, la durabilité et l’inclusion . Deuxièmement, l’UNESCO travaille avec plus de 80 pays pour renforcer les cadres juridiques, les capacités institutionnelles, les dispositifs de gouvernance, les compétences et les mécanismes de responsabilité afin que les principes soient traduits dans la pratique . Il a également évoqué l’investissement dans les personnes, déclarant que plus de 50 000 agents publics et acteurs judiciaires dans 192 pays avaient bénéficié de programmes de formation et d’outils soutenus par l’UNESCO . Enfin, faisant écho aux préoccupations relatives à la protection de l’enfance soulevées plus tôt, il a déclaré que l’UNESCO lançait une réflexion collective sur un nouvel instrument normatif mondial destiné à protéger les enfants et les jeunes à l’ère de l’IA et des technologies numériques . Son message de conclusion a été que la gouvernance de l’IA est une responsabilité partagée qui exige une approche unifiée de l’ONU ainsi que des partenariats entre gouvernements, entreprises, monde universitaire et société civile .
Amandeep Singh-Gill, Secrétaire général adjoint et Envoyé spécial pour les technologies numériques et émergentes, a souligné à la fois l’ampleur de la participation et la nécessité de la continuité . Il a indiqué que plus de 4 000 personnes s’étaient inscrites pour être présentes dans la salle et que plus de 170 pays étaient représentés, rejoints par des scientifiques, des entrepreneurs, la société civile, des organisations internationales et des voix venues du monde entier . Il a mentionné spécifiquement la présence des coprésidents du groupe scientifique, Yoshua Bengio et Maria Ressa, aux côtés de ces autres participants . Il s’en est servi pour faire valoir un point conceptuel : l’inclusion n’est pas un acte ponctuel ni un simple exercice de conformité . Au contraire, a-t-il dit, l’inclusion dans la gouvernance de l’IA doit continuer à être renforcée, car l’IA a des conséquences trop importantes pour être façonnée par quelques-uns . Sa formulation la plus incisive a été que la conversation doit être mondiale, inclusive et fondée sur des preuves, mais aussi soutenue par des capacités, « sans lesquelles les dialogues sont des monologues et la science n’est qu’abstraite » . Il a ensuite situé la réunion dans une trajectoire onusienne s’étendant sur une décennie, comprenant le Groupe de haut niveau sur la coopération numérique, la Feuille de route pour la coopération numérique, le Pacte numérique mondial, l’Organe consultatif de haut niveau sur l’IA et le travail sur les modalités de ces mécanismes . Enfin, il a souligné que le dialogue lui-même ne peut pas être un exercice ponctuel ; il doit se poursuivre de manière itérative afin de relier les normes à la pratique, et a indiqué que le deuxième cycle à New York se tiendrait probablement consécutivement au Forum STI, possiblement les 3 et 4 mai, son bureau se préparant à coordonner le cycle suivant .
Dans l'ensemble, la session d’ouverture a montré un large alignement sur l’architecture générale de la gouvernance de l’IA, même si ce n’est pas encore le cas sur la conception institutionnelle détaillée . Les intervenants ont convergé sur la nécessité d’une gouvernance inclusive, liée à l’ONU, fondée sur des preuves et multipartite ; ils se sont également accordés sur le fait que les possibilités offertes par l’IA dans le développement, l’éducation, la santé et l’agriculture sont réelles, mais que ces bénéfices doivent s’accompagner de garanties en matière de sécurité, de droits humains, de responsabilité, de protection de l’enfance, de vérité, de durabilité environnementale et de paix . Des différences restaient visibles. António Guterres s’est concentré plus fortement sur des garde-fous urgents, y compris sur un engagement pour la sécurité des enfants, des socles communs de sécurité, la divulgation environnementale et une interdiction juridique des armes létales autonomes . Egriselda López, Rein Tammsaar, Doreen Bogdan-Martin, Khaled El-Enany et Amandeep Singh-Gill ont mis davantage l’accent sur l’équilibre, le dialogue, l’appui à la mise en œuvre, le renforcement des capacités et le suivi itératif .
Rein Tammsaar a conclu l’ouverture en résumant les contributions des intervenants comme ayant mis en évidence à la fois les immenses possibilités de l’IA et la nécessité d’une coopération internationale renforcée pour garantir que ces technologies contribuent au développement durable, à l’inclusion et à une prospérité partagée . Il a ensuite fait formellement passer la réunion à la présentation du rapport préliminaire du groupe scientifique pluridisciplinaire et indépendant sur l’intelligence artificielle . L’ouverture a donc établi le Dialogue comme le commencement d’un processus continu des Nations Unies destiné à relier les preuves scientifiques, l’inclusion politique et la coordination institutionnelle à une action pratique future .
The knowledge base confirms that the inaugural edition of the Global Dialogue on AI Governance takes place on 6-7 July 2026 in Geneva [S45]. It also states that the Dialogue was officially launched earlier, on 25 September 2025, and is designed to meet annually for up to two days, showing it is an ongoing process rather than a one-off event [S101].
This is supported by the knowledge base: it states that the Dialogue was established by the UN General Assembly following a commitment made by member states in 2024 in the Global Digital Compact [S45], and that in August 2025 the General Assembly adopted a resolution setting out its terms of reference and modalities [S101].
The knowledge base describes the Dialogue as 'the UN platform where all governments and stakeholders will convene' to discuss international cooperation, share practices, and facilitate open, transparent and inclusive discussions on AI governance [S45]. It also records the Secretary-General describing it as a space where governments, industry and civil society can advance common solutions together [S101].
The knowledge base strongly reinforces this framing. One of the Dialogue’s four main thematic clusters is 'bridging AI divides: capacity-building, access and digital foundations' [S45]. Broader Diplo material on digital governance discussions also highlights inclusion, meaningful participation, capacity building and trust as recurring governance needs [S42] and [S119].
The knowledge base adds relevant detail by showing that capacity concerns are central to the Dialogue’s structure, especially through the 'bridging AI divides' thematic cluster focused on capacity-building, access and digital foundations [S45]. Related discussions in the knowledge base also stress that developing countries often struggle with access to capacity-building opportunities and that practical support must respond to real national needs [S42] and [S102].
This is consistent with the knowledge base framing of the Dialogue. Its thematic clusters explicitly combine AI opportunities and implications with safe, secure and trustworthy AI, as well as human rights, transparency, accountability and human oversight [S45]. The listed focus issues in the official launch summary likewise combine innovation-related themes with safety, trustworthiness and rights protections [S101].
The knowledge base supports this. The Dialogue’s themes include 'respecting, protecting and promoting human rights' and specifically reference transparency, accountability and human oversight [S45]. The official launch summary also lists human rights, transparency and accountability among the Dialogue’s focus issues [S101].
The knowledge base adds that Geneva is not just the host city for the 2026 inaugural meeting but part of an institutional rhythm: the Dialogue will initially be held alongside the ITU AI for Good Global Summit in Geneva in 2026 and alongside the STI Forum in New York in 2027 [S101]. This supports the idea of Geneva as one stage in a continuing UN process.
While the knowledge base does not name the co-chairs cited in the report excerpt, it does confirm that member states created the Dialogue through the 2024 Global Digital Compact and that the General Assembly later adopted modalities for the mechanism in August 2025 [S101]. That provides institutional context for the claim that officials operationalised a member-state mandate.
The claim is broadly correct for the 2026 meeting itself, but the knowledge base clarifies that the Global Dialogue on AI Governance was officially launched earlier, on 25 September 2025, at a high-level multistakeholder informal meeting chaired by the President of the General Assembly [S101]. So the 2026 Geneva event is the inaugural edition of the Dialogue, not the first-ever launch moment of the mechanism [S45] and [S101].
Le dialogue mondial comme point de départ d’un processus de gouvernance universelle - S.E. Ambassadeur Egriselda López, El Salvador
Arg. 1López présente la réunion non pas comme un événement isolé, mais comme le lancement d’un processus plus large et véritablement universel sur la gouvernance de l’IA. Elle soutient que le dialogue réunit des expériences et des capacités diverses dans un cadre multilatéral commun.
Elle affirme explicitement que l’ouverture n’est pas simplement le début d’une réunion, mais le commencement d’un vaste processus dans lequel différentes expériences et capacités convergent dans un espace véritablement universel . Elle relie également le dialogue à un mandat de l’Assemblée générale et à des années de travail partagé entre les États, les organisations internationales, la société civile, le monde universitaire et la communauté technique .
on: La gouvernance de l’IA doit être inclusive à l’échelle mondiale et associer tous les pays et toutes les parties prenantes
La gouvernance de l’IA doit trouver un équilibre entre innovation et responsabilité, opportunités et risques - S.E. Ambassadeur Egriselda López, El Salvador
Arg. 2López soutient que la gouvernance de l’IA devrait éviter les approches unilatérales en équilibrant innovation et responsabilité, ainsi qu’opportunités et risques. Elle souligne aussi que cet équilibre doit relier la coopération internationale aux réalités nationales et à une prise de décision pratique.
Elle déclare que la conversation devrait maintenir un équilibre clair entre innovation et responsabilité, entre opportunités et risques, entre coopération internationale et réalités nationales, et entre la prise de décision mondiale et les choix concrets que chaque pays doit faire .
on: La gouvernance de l’IA devrait équilibrer opportunités et innovation avec sécurité, responsabilité, droits humains et confiance
on: Degré de précision réglementaire et urgence dans la gouvernance de l’IA
Une participation effective à l’IA exige des compétences, des infrastructures, des financements, des institutions et des partenariats - S.E. Ambassadeur Egriselda López, El Salvador
Arg. 3López soutient que l’inclusion dans la gouvernance de l’IA ne peut être obtenue simplement en invitant les pays à entrer dans la salle. Une participation réelle dépend de conditions pratiques telles que les compétences, les infrastructures, le financement, les institutions et les partenariats qui permettent à tous les pays de s’engager de manière significative.
Elle affirme qu’une participation effective exige bien davantage qu’une simple présence physique et énumère précisément les compétences, les infrastructures, les talents, le financement, les institutions, les alliances et les partenariats comme conditions permettant aux pays de participer pleinement et de bénéficier des possibilités offertes par l’IA .
on: Une participation significative à la gouvernance de l’IA exige un renforcement des capacités, des institutions, des compétences et des ressources, et non une simple inclusion formelle
on: Comment garantir une inclusion réelle : participation universelle immédiate versus participation d’abord fondée sur les capacités
L’IA devrait contribuer au développement et générer des bénéfices tangibles pour tous - S.E. Ambassadeur Egriselda López, El Salvador
Arg. 4López présente l’objectif commun de la gouvernance de l’IA comme la nécessité de faire en sorte que l’IA soutienne le développement et produise de véritables bénéfices pour tous. Elle considère le dialogue comme un moyen de bâtir des alliances capables de transformer les promesses de l’IA en gains concrets.
Elle affirme que le dialogue mettra en lumière un objectif commun : que l’IA contribue au développement, offre des opportunités et génère de véritables bénéfices pour tous . Elle ajoute que cet espace doit s’appuyer sur des preuves scientifiques et déboucher sur des alliances tangibles transformant le potentiel de l’IA en avantages concrets .
on: L’IA devrait être orientée vers le développement, le bénéfice public et de larges gains sociaux
on: Accent principal de la gouvernance de l’IA : maîtrise des risques versus accélération du développement
L’IA évolue rapidement et nécessite des réponses internationales plus agiles - S.E. Ambassadeur Egriselda López, El Salvador
Arg. 5López soutient que le rythme du développement de l’IA rend insuffisantes les formes traditionnelles de coopération. Elle appelle à des réponses plus agiles et plus inclusives, fondées sur l’apprentissage partagé et un renforcement de la coopération internationale.
Elle décrit le dialogue comme un moyen de partager les expériences, d’apprendre les uns des autres et de renforcer la coopération internationale face à une technologie en évolution rapide, qui exige des réponses plus agiles et plus inclusives .
on: Le rythme et l’ampleur de l’IA créent une urgence appelant des réponses de gouvernance agiles
Les coprésidents et le secrétariat ont transformé le mandat de l’Assemblée générale en un forum pratique - S.E. Ambassadeur Egriselda López, El Salvador
Arg. 6López attribue au processus ayant conduit à la réunion, en particulier au dispositif de coprésidence et aux institutions d’appui, le mérite d’avoir transformé le mandat de l’ONU en un dialogue opérationnel. Selon elle, ce forum existe parce que des mandats multilatéraux ont été mis en œuvre grâce à un travail institutionnel coordonné.
Elle note que le dialogue répond à un mandat récent de l’Assemblée générale tout en s’appuyant sur des années d’innovation et de partage des connaissances . Elle remercie ensuite le Secrétaire général et en particulier l’ITU et l’UNESCO, en tant que co-coordinateurs, d’avoir rendu possible ce premier dialogue .
on: La gouvernance de l’IA doit être un processus institutionnel continu sous l’égide de l’ONU, soutenu par des données probantes et des mécanismes de suivi
La gouvernance de l’IA doit inclure chaque pays, chaque région et chaque partie prenante - H.E. Ambassador Rein Tammsaar, Estonia
Arg. 1Tammsaar soutient que, parce que l’IA affecte tous les pays, sa gouvernance doit être inclusive à l’échelle mondiale, entre les régions, les niveaux de développement et les groupes de parties prenantes. Il présente l’inclusion comme nécessaire à la fois pour la légitimité et pour une meilleure prise de décision.
Il affirme que l’IA affecte déjà tous les pays, quel que soit leur niveau de développement technologique, et que, par conséquent, les discussions sur sa gouvernance doivent inclure chaque région, chaque niveau de développement et chaque partie prenante concernée . Il insiste en outre sur le fait que personne ne doit être laissé de côté et que les décisions sont mieux éclairées lorsque davantage de voix sont entendues .
on: La gouvernance de l’IA doit être inclusive à l’échelle mondiale et associer tous les pays et toutes les parties prenantes
on: Comment garantir une inclusion réelle : participation universelle immédiate versus participation d’abord fondée sur les capacités
L’IA ne peut bénéficier aux populations que si elle est sûre, centrée sur l’humain et ancrée dans le droit international et les droits humains - H.E. Ambassador Rein Tammsaar, Estonia
Arg. 2Tammsaar soutient que les possibilités offertes par l’IA ne peuvent être pleinement réalisées que si les systèmes sont sûrs, ancrés dans le droit international et les droits humains, et façonnés par les personnes. Il renforce cet argument en évoquant l’expérience de l’Estonie elle-même en matière de gouvernance numérique digne de confiance et centrée sur l’humain.
Il indique que les consultations mondiales ont montré que les nombreuses possibilités de l’IA ne peuvent être réalisées que si la technologie est sûre, ancrée dans le droit international et les droits humains, et façonnée par les personnes afin qu’elles puissent avoir confiance dans le fait qu’elle est à leur service . Il cite ensuite la leçon tirée par l’Estonie selon laquelle les outils numériques, y compris l’IA, améliorent la vie quotidienne lorsqu’ils sont centrés sur l’humain, dignes de confiance et soutenus par des institutions publiques solides .
on: La gouvernance de l’IA devrait concilier opportunité et innovation avec sécurité, responsabilité, droits humains et confiance
De meilleures décisions sur l’IA exigent d’entendre davantage de voix et d’éviter l’exclusion - H.E. Ambassador Rein Tammsaar, Estonia
Arg. 3Tammsaar établit un lien direct entre inclusivité et meilleurs résultats de gouvernance. Son argument est qu’une participation plus large améliore la qualité des décisions et réduit le risque que la gouvernance ne reflète qu’un ensemble restreint d’intérêts.
Il dit que personne ne doit être laissé de côté, car les décisions sont mieux éclairées lorsque davantage de voix sont entendues . Il décrit également le rôle des coprésidents comme celui de créer une plateforme universelle où diverses perspectives peuvent être entendues et où la confiance ainsi qu’une compréhension commune peuvent se développer .
on: Une participation significative à la gouvernance de l’IA exige le renforcement des capacités, des institutions, des compétences et des ressources, et pas seulement une inclusion formelle
L’expérience de l’Estonie montre que les outils numériques améliorent la vie quotidienne lorsqu’ils s’appuient sur des institutions dignes de confiance - H.E. Ambassador Rein Tammsaar, Estonia
Arg. 4Tammsaar prend l’Estonie comme exemple pour soutenir que l’IA et d’autres outils numériques peuvent apporter de réels bénéfices publics lorsqu’ils sont conçus autour des personnes et soutenus par des institutions fiables. L’idée de fond est que la qualité de la gouvernance et la confiance dans les institutions sont essentielles pour que la technologie produise des gains de développement.
Il affirme que la leçon à tirer de l’Estonie est que les outils numériques, y compris l’IA, peuvent grandement améliorer la vie quotidienne des gens lorsqu’ils sont centrés sur l’humain, dignes de confiance et appuyés par de solides institutions publiques .
on: L’IA devrait être orientée vers le développement, le bénéfice public et de larges gains sociaux
on: Accent principal de la gouvernance de l’IA : maîtrise des risques versus accélération du développement
Le monde a besoin d’une gouvernance pratique qui identifie les convergences et prépare la coopération future - H.E. Ambassador Rein Tammsaar, Estonia
Arg. 5Tammsaar souligne que l’objectif du dialogue est pratique plutôt que rhétorique. Il veut que les participants comprennent les différences, trouvent un terrain d’entente, recensent les bonnes pratiques et jettent les bases d’une coopération future.
Il indique qu’au cours des deux prochains jours, les participants examineront ce que signifie concrètement la gouvernance de l’IA . Il explique que l’objectif n’est pas d’éliminer les différences mais de mieux les comprendre, d’identifier les domaines de convergence, de recueillir les bonnes pratiques et de consolider les bases d’une future coopération internationale .
on: Degré de spécificité réglementaire et d’urgence dans la gouvernance de l’IA
Ce premier dialogue devrait jeter les bases d’une coopération internationale à long terme et d’un futur bien public - H.E. Ambassador Rein Tammsaar, Estonia
Arg. 6Tammsaar soutient que le dialogue inaugural devrait poser les bases d’une coopération mondiale continue sur l’IA. Il va même jusqu’à l’imaginer comme un tournant historique susceptible d’aider à faire de l’IA un bien public pour toute l’humanité.
Il affirme que la plateforme devrait permettre le partage scientifique, la délibération politique et technologique, ainsi que le développement de la confiance et d’une compréhension commune . Il ajoute qu’il espère que le dialogue pourra déclencher un « moment San Francisco » pour l’IA et que l’IA pourrait un jour devenir un bien public au bénéfice de toute l’humanité .
on: La gouvernance de l’IA doit être un processus institutionnel continu sous les auspices de l’ONU, appuyé par des données probantes et des mécanismes de suivi
L’ONU est la plateforme mondiale légitime pour gérer collectivement l’IA - Annalena Baerbock, President of the General Assembly
Arg. 1Baerbock soutient que la portée mondiale et la complexité de l’IA rendent impossible sa gestion par un seul gouvernement ou un petit groupe. Elle présente l’ONU comme l’institution appropriée et légitime, car sa Charte prescrit la coopération internationale face aux problèmes mondiaux.
Elle affirme que les implications de l’IA pour les économies, les systèmes sociaux, la défense, la paix et même la vie privée signifient qu’elle ne peut être gérée de manière pertinente et sûre qu’ensemble . Elle soutient ensuite que l’ONU a été conçue pour de tels moments et cite l’engagement de la Charte en faveur de la coopération internationale sur les problèmes économiques, sociaux, culturels et humanitaires, concluant que l’IA a besoin d’une plateforme mondiale et donc des Nations Unies .
La puissance de l’IA exige responsabilité et action collective afin de prévenir les préjudices tout en permettant les bénéfices - Annalena Baerbock, President of the General Assembly
Arg. 2Baerbock soutient que, parce que l’IA est extrêmement puissante et évolue rapidement, elle ne peut être laissée entre les mains de quelques acteurs et doit être gouvernée dans le cadre d’une responsabilité partagée. Elle présente l’action collective comme nécessaire à la fois pour éviter des préjudices graves et pour exploiter les bénéfices de l’IA au profit de tous.
Elle affirme que le potentiel et les dangers de l’IA sont trop importants, étendus et lourds de conséquences pour être laissés à quelques-uns . Elle ajoute qu’une chose ayant des implications aussi profondes ne peut être gérée en toute sécurité qu’ensemble , puis invoque l’idée de Roosevelt selon laquelle le pouvoir doit être lié à la responsabilité et justifié dans le cadre du bien commun .
on: Le rythme et l’ampleur de l’IA créent une urgence appelant des réponses de gouvernance agiles
on: Degré de spécificité réglementaire et d’urgence dans la gouvernance de l’IA
La gouvernance de l’IA doit associer tous les pays et toutes les parties prenantes afin que personne ne soit laissé de côté - Annalena Baerbock, President of the General Assembly
Arg. 3Baerbock souligne qu’une gouvernance efficace de l’IA exige une large participation de tous les pays, des gouvernements, des entreprises, de la société civile et des citoyens. Son propos est que l’inclusion est nécessaire à la fois pour gérer les risques et pour garantir une répartition équitable des bénéfices de l’IA.
Elle affirme que le monde a appris que les problèmes mondiaux requièrent non seulement quelques pays, mais tous les pays . Elle ajoute que toutes les parties prenantes, les gouvernements, les entreprises technologiques, la société civile, les sociétés et les citoyens sont nécessaires pour éviter les dangers et exploiter le potentiel de l’IA au bénéfice de tous, sans laisser personne de côté .
on: La gouvernance de l’IA doit être inclusive à l’échelle mondiale et associer tous les pays et toutes les parties prenantes
on: Comment garantir une inclusion réelle : participation universelle immédiate ou participation d’abord fondée sur les capacités
L’IA peut accélérer la réalisation des ODD, des alertes aux catastrophes à l’agriculture, la santé et l’éducation - Annalena Baerbock, President of the General Assembly
Arg. 4Baerbock soutient que l’IA n’est pas seulement une source de risques, mais aussi une opportunité majeure pour le développement durable. Elle s’appuie sur des exemples concrets pour montrer comment l’IA peut renforcer la préparation aux catastrophes, l’agriculture, la santé et l’éducation, et envisage que les agences de l’ONU puissent amplifier ces bénéfices.
Elle affirme que le potentiel de l’IA est un atout pour les ODD . À titre d’exemples, elle cite le Bangladesh, où des familles reçoivent sur leurs smartphones des alertes aux inondations et aux tempêtes alimentées par l’IA , ainsi que le Kenya, où des agriculteurs obtiennent des cartes détaillées indiquant où et quand semer . Elle invite aussi l’auditoire à imaginer l’UNICEF utilisant l’IA pour atteindre les enfants en situation de crise, et l’OMS détectant les flambées épidémiques avant qu’elles ne deviennent des pandémies .
on: L’IA devrait être orientée vers le développement, l’intérêt public et de larges bénéfices sociaux
on: Accent principal de la gouvernance de l’IA : maîtrise des risques versus accélération du développement
Les deepfakes et la haine en ligne portent atteinte de manière disproportionnée aux femmes, aux filles et à la confiance sociale, faisant de la réglementation une question de droits humains - Annalena Baerbock, President of the General Assembly
Arg. 5Baerbock soutient que certaines des utilisations les plus nuisibles de l’IA portent déjà atteinte à la dignité, à l’égalité et à la confiance, en particulier pour les femmes et les filles. Elle présente ces préjudices non seulement comme des problèmes techniques, mais aussi comme des enjeux de droits humains et d’égalité de genre exigeant une action des gouvernements, des entreprises et de la société.
Elle cite une adolescente avertissant que la haine se propage désormais à travers les écrans, les pixels et les likes, montrant comment les plateformes numériques peuvent transmettre de vieux mensonges à une nouvelle génération . Elle désigne ensuite les deepfakes comme un usage sinistre de l’IA, affirmant qu’ils visent de manière disproportionnée les femmes et les filles, 99 % étant, selon les informations disponibles, de nature sexuelle et 96 % ciblant des femmes et des filles . Elle conclut qu’il s’agit d’un phénomène systématique, qui reflète un ancien clivage entre les sexes, fait reculer les droits humains et les droits des femmes, et crée une responsabilité commune d’y remédier .
Le Groupe scientifique international indépendant constitue une avancée majeure pour une expertise inclusive - Annalena Baerbock, President of the General Assembly
Arg. 6Baerbock présente le Panel scientifique comme une avancée institutionnelle cruciale, car il réunit des expertises diverses de manière plus inclusive. Elle met l’accent sur la représentativité du panel en matière de genre, de régions et de secteurs, ce qui renforce la base factuelle de la gouvernance.
Elle affirme que la création de l’Independent International Scientific Panel on Artificial Intelligence constitue une étape majeure . Elle explique que, pour la première fois, il assure la parité entre les genres et les régions tout en mobilisant une expertise issue de tous les secteurs .
on: La gouvernance de l’IA doit constituer un processus institutionnel continu sous les auspices de l’ONU, étayé par des données probantes et des mécanismes de suivi
Le dialogue doit être mondial, fondé sur des preuves et soutenu par une véritable inclusion et des capacités concrètes - Amandeep Singh-Gill, USG and Special Envoy for Digital and Emerging Technologies, ODET
Arg. 1Singh-Gill soutient qu’une gouvernance significative de l’IA exige davantage qu’une participation symbolique. Il affirme que la conversation doit être mondiale et fondée sur des preuves, tout en étant appuyée par les capacités pratiques qui permettent à l’inclusion d’être réelle plutôt que superficielle.
Il souligne que l’inclusion n’est ni un exercice ponctuel ni une simple case à cocher et affirme que les travaux se poursuivront pour renforcer l’inclusivité dans la gouvernance de l’IA . Il ajoute que l’IA a trop d’impact pour être façonnée par quelques-uns et qu’elle nécessite donc une conversation mondiale, inclusive et fondée sur des preuves, soutenue par des capacités .
on: La gouvernance de l’IA doit être mondialement inclusive et associer tous les pays et toutes les parties prenantes
Sans capacités, le dialogue devient creux et la science reste abstraite - Amandeep Singh-Gill, USG and Special Envoy for Digital and Emerging Technologies, ODET
Arg. 2Selon Singh-Gill, la participation et les preuves scientifiques ont peu de valeur si les pays et les parties prenantes ne disposent pas des capacités nécessaires pour les utiliser. Les capacités ne sont donc pas un complément facultatif, mais une condition d’une gouvernance significative.
Il affirme que la conversation sur la gouvernance de l’IA doit être soutenue par des capacités, sans quoi les dialogues deviennent des monologues et la science n’est qu’abstraction .
on: Une participation significative à la gouvernance de l’IA exige un renforcement des capacités, des institutions, des compétences et des ressources, et pas seulement une inclusion formelle
on: Comment assurer une inclusion significative : participation universelle immédiate versus participation d’abord fondée sur les capacités
Un dialogue itératif continu est nécessaire pour que la gouvernance suive le rythme de l’évolution des pratiques et des normes - Amandeep Singh-Gill, USG and Special Envoy for Digital and Emerging Technologies, ODET
Arg. 3Singh-Gill soutient que la gouvernance de l’IA ne peut pas être réglée en une seule réunion ni en un petit nombre de cycles. Il considère la gouvernance comme un processus continu et itératif qui doit relier de manière répétée les pratiques émergentes à l’évolution des normes.
Il affirme que le dialogue n’est pas un exercice ponctuel et qu’il ne peut pas s’arrêter après une ou deux itérations . Il ajoute qu’il doit se poursuivre de manière itérative et continuer à renforcer le lien entre la pratique et les normes partagées par la communauté internationale .
on: Le rythme et l’ampleur de l’IA créent une urgence appelant des réponses de gouvernance agiles
on: Degré de spécificité réglementaire et urgence dans la gouvernance de l’IA
Le dialogue s’inscrit dans un processus plus long des Nations Unies et se poursuivra avec un deuxième cycle à New York - Amandeep Singh-Gill, USG and Special Envoy for Digital and Emerging Technologies, ODET
Arg. 4Singh-Gill inscrit cet événement dans une trajectoire beaucoup plus longue des Nations Unies en matière de gouvernance du numérique et de l’IA. Il précise également que le processus se poursuivra au niveau institutionnel, y compris avec un deuxième cycle à New York l’année suivante.
Il dit que le dialogue est le fruit d’années de travail mené par le Secrétaire général à l’échelle de l’ensemble du système des Nations Unies, citant le groupe de haut niveau sur la coopération numérique, la feuille de route sur la coopération numérique, le Global Digital Compact, l’organe consultatif de haut niveau sur l’IA ainsi que les travaux sur les modalités de ces mécanismes . Il ajoute que le prochain cycle est prévu à New York en mai, probablement juste avant ou après le STI Forum, et souligne que son bureau se préparera à assumer la coordination pour l’année prochaine tout en continuant à travailler avec l’UIT et l’UNESCO .
on: La gouvernance de l’IA doit être un processus institutionnel continu sous les auspices de l’ONU, étayé par des éléments probants et des mécanismes de suivi
L’ONU a agi rapidement pour convoquer une discussion sur l’IA centrée sur les personnes et orientée vers le développement - Doreen Bogdan-Martin
Arg. 1Bogdan-Martin soutient que l’ONU a réagi à l’IA bien plus rapidement qu’elle ne l’avait fait face à de précédentes évolutions technologiques comme l’internet. Elle présente cette rapidité comme la preuve que le système international cherche à orienter l’IA dès le départ autour de principes centrés sur les personnes et tournés vers le développement.
Elle rappelle que, bien qu’internet ait commencé à entrer dans les foyers et les entreprises au début des années 1990, il a fallu une décennie entière avant que les parties prenantes ne se réunissent à Genève lors du WSIS pour discuter de la manière de faire de cette technologie un outil centré sur les personnes, inclusif et orienté vers le développement . Elle oppose cela à l’IA, affirmant qu’à peine trois ans après la généralisation de l’IA générative, l’ONU est déjà prête à en façonner la trajectoire ensemble pendant la Geneva Digital Week .
on: Le rythme et l’ampleur de l’IA créent une urgence appelant des réponses de gouvernance agiles
Des accords communs par le dialogue sont nécessaires pour façonner une vision partagée de l’IA - Doreen Bogdan-Martin
Arg. 2Bogdan-Martin présente le dialogue comme le mécanisme permettant de surmonter les différences idéologiques et pratiques et de parvenir à une compréhension commune fondamentale de l’IA. Selon elle, ce sont les accords partagés qui rendent possible un progrès coordonné.
Elle cite Magnifica Humanitas du pape Léon, en soulignant que le texte mentionne le dialogue à 34 reprises et affirme que, malgré les différences, les intérêts et les désaccords, il est toujours possible d’établir des accords fondamentaux permettant une vision partagée à partir de laquelle tous peuvent avancer ensemble . Elle ajoute que c’est précisément pour cela que les participants sont réunis .
on: La gouvernance de l’IA doit concilier opportunité et innovation avec sécurité, responsabilité, droits humains et confiance
on: Degré de spécificité réglementaire et d’urgence dans la gouvernance de l’IA
L’objectif du dialogue est de maintenir l’humanité au cœur d’une technologie aux conséquences majeures - Doreen Bogdan-Martin
Arg. 3Bogdan-Martin soutient que l’objectif central des discussions de la semaine est de veiller à ce que l’IA reste centrée sur les besoins humains et le bien commun. Elle présente l’IA comme peut-être la technologie la plus lourde de conséquences à ce jour, ce qui rend ce cadrage centré sur l’humain particulièrement important.
Elle affirme que, pendant la semaine, le système des Nations Unies, les gouvernements, les entreprises, les chercheurs, la communauté technique et la société civile discuteront de la manière de placer l’humanité au cœur d’une autre technologie transformatrice, peut-être la plus lourde de conséquences à ce jour . Elle relie également cet objectif au bien commun et à la vision du Secrétaire général .
on: L’IA devrait être orientée vers le développement, l’intérêt public et de larges bénéfices sociaux
on: Accent principal de la gouvernance de l’IA : maîtrise des risques versus accélération du développement
L’UIT et l’UNESCO ont coordonné le Secrétariat conjoint et soutiendront la poursuite du processus - Doreen Bogdan-Martin
Arg. 4Bogdan-Martin explique que l’ossature institutionnelle du dialogue a été le Secrétariat conjoint dirigé par l’UIT et l’UNESCO. Elle indique également que l’UIT entend rester engagée dans le soutien à la coopération sur l’IA et les technologies futures.
Elle indique qu’avec l’UNESCO, l’UIT a fièrement coordonné le secrétariat conjoint du dialogue et continue de mobiliser l’expertise à l’échelle du système des Nations Unies par l’intermédiaire du groupe de travail interinstitutions sur l’IA . Elle ajoute que l’UIT sera présente pour soutenir ce dialogue sur l’IA, comme elle l’a fait pour chaque technologie depuis 1865, et se tient prête à appuyer la coopération sur les technologies qui viendront après l’IA .
on: La gouvernance de l’IA doit être un processus institutionnel continu placé sous les auspices de l’ONU, étayé par des données probantes et des mécanismes de suivi
La gouvernance de l’IA est une responsabilité partagée qui exige une approche « one-UN » et de larges partenariats - Khaled El-Enany, Director-General, UNESCO
Arg. 1El-Enany soutient qu’aucune institution ne peut, à elle seule, gouverner efficacement l’IA. Il appelle à une approche « one-UN » qui combine les mandats et l’expertise tout en associant également les gouvernements, les entreprises, le monde universitaire et la société civile.
Il affirme clairement que la gouvernance de l’IA est une responsabilité partagée et qu’aucune institution ne peut relever seule ce défi . Il ajoute qu’une approche « one-UN » est nécessaire et qu’en combinant mandats, expertise et réseaux mondiaux, tout en associant les gouvernements, le secteur privé, le monde universitaire et la société civile, il est possible de combler les lacunes de capacité et de faire en sorte que l’IA serve le bien public .
on: La gouvernance de l’IA doit être inclusive à l’échelle mondiale et associer tous les pays et toutes les parties prenantes
Le cadre éthique de l’UNESCO fournit une base normative pour aligner l’IA sur les droits humains, la durabilité et l’inclusion - Khaled El-Enany, Director-General, UNESCO
Arg. 2El-Enany soutient qu’une gouvernance efficace de l’IA nécessite un fondement normatif commun, que l’UNESCO fournit par le biais de sa recommandation sur l’éthique. Il présente ce cadre comme un moyen de garantir que le développement de l’IA reste conforme aux droits, à la durabilité et à l’inclusion.
Il indique que l’UNESCO fournit d’abord un fondement normatif commun . Il présente la Recommandation de l’UNESCO de 2021 sur l’éthique de l’intelligence artificielle comme la première norme mondiale dans ce domaine et affirme qu’elle donne aux États membres un cadre permettant de garantir que les progrès de l’IA s’inscrivent dans le respect des droits humains, de la durabilité et de l’inclusion .
on: La gouvernance de l’IA doit concilier opportunité et innovation avec sécurité, responsabilité, droits humains et confiance
on: Degré de spécificité réglementaire et d’urgence dans la gouvernance de l’IA
L’UNESCO aide les États à transformer l’ambition en mise en œuvre grâce à un appui juridique, institutionnel et en matière de compétences - Khaled El-Enany, Director-General, UNESCO
Arg. 3El-Enany soutient qu’un écart persistant subsiste entre l’ambition des politiques et leur mise en œuvre concrète dans la gouvernance de l’IA. Il présente le rôle de l’UNESCO comme consistant à aider les États à combler cet écart en renforçant les lois, les institutions, les systèmes de gouvernance, les compétences et la redevabilité.
Il affirme que, bien qu’un nombre croissant de gouvernements adoptent des stratégies en matière d’IA et reconnaissent la nécessité d’une IA éthique, sûre et digne de confiance, un écart important persiste entre l’ambition et la mise en œuvre . Il explique que l’UNESCO travaille avec plus de 80 pays pour renforcer les cadres juridiques, les capacités institutionnelles, les dispositifs de gouvernance, les compétences et les mécanismes de redevabilité .
on: Une participation significative à la gouvernance de l’IA exige un renforcement des capacités, des institutions, des compétences et des ressources, et pas seulement une inclusion formelle
on: Comment garantir une inclusion réelle : participation universelle immédiate versus participation d’abord fondée sur les capacités
L’UNESCO investit dans la formation des fonctionnaires et des acteurs judiciaires afin de mettre en œuvre une gouvernance de l’IA au service du bien public - Khaled El-Enany, Director-General, UNESCO
Arg. 4El-Enany soutient que les personnes et les institutions comptent autant que les normes pour assurer l’efficacité de la gouvernance de l’IA. Il met en avant l’investissement de l’UNESCO dans la formation des agents publics et des acteurs judiciaires afin que la gouvernance de l’IA puisse être mise en œuvre efficacement et au service de l’intérêt général.
Il affirme que l’UNESCO investit dans les personnes qui façonneront et mettront en œuvre la gouvernance de l’IA . Il indique que plus de 50 000 fonctionnaires et acteurs judiciaires dans 192 pays ont bénéficié de programmes de formation et d’outils soutenus par l’UNESCO .
on: L’IA devrait être orientée vers le développement, l’intérêt public et de larges bénéfices sociaux
L’UNESCO prépare des protections mondiales renforcées pour les enfants et les jeunes à l’ère de l’IA - Khaled El-Enany, Director-General, UNESCO
Arg. 5El-Enany soutient que le rôle croissant de l’IA dans la vie des enfants et des jeunes exige des garanties internationales plus solides. Il indique que l’UNESCO s’oriente vers un nouvel instrument normatif mondial axé sur la protection de leurs droits et de leur bien-être.
Il note que l’IA est de plus en plus intégrée dans la vie des enfants et des jeunes à travers le monde et affirme que l’UNESCO reconnaît la nécessité d’une coalition mondiale pour protéger et promouvoir leurs droits . Il ajoute que l’UNESCO lance une réflexion collective sur un nouvel instrument normatif mondial afin de mieux protéger les enfants et les jeunes à l’ère de l’IA et des technologies numériques .
L’UNESCO et l’UIT assurent le Secrétariat en collaboration avec ODET - Khaled El-Enany, Director-General, UNESCO
Arg. 6El-Enany identifie le dispositif institutionnel qui soutient le dialogue et souligne le rôle opérationnel formel de l’UNESCO en son sein. Son propos est que le processus est déjà porté par des entités coordonnées des Nations Unies plutôt que par des acteurs isolés.
Il indique que l’UNESCO et l’UIT assurent le Secrétariat du Dialogue mondial sur la gouvernance de l’IA et travaillent en étroite collaboration avec ADET, en référence au bureau des technologies numériques et émergentes .
on: La gouvernance de l’IA doit constituer un processus institutionnel continu sous l’égide des Nations Unies, appuyé par des éléments probants et des mécanismes de suivi
Un déploiement rapide de l’IA sans planification ni consentement est inacceptable et exige une gouvernance pensée dès la conception - António Guterres
Arg. 1Guterres soutient que l’IA est déployée à une vitesse extraordinaire, avec des effets considérables sur les économies, le travail, les élections et la sécurité, mais sans planification adéquate ni consentement du public. Il insiste donc sur le fait que le choix se situe entre une gouvernance délibérée et une dérive dangereuse.
Il affirme que l’IA progresse à une vitesse incontrôlée et qu’elle est déployée plus rapidement que quiconque, y compris ses concepteurs, ne peut suivre, avec le pouvoir de remodeler les économies, de transformer le travail, d’influencer les élections et de modifier les équilibres de sécurité . Il décrit cela comme une expérience menée sur les sociétés sans plan et sans consentement, qualifiant cela d’insoutenable et d’inacceptable . Il ajoute ensuite que le véritable choix est entre une gouvernance pensée dès la conception et une dérive par défaut .
on: Le rythme et l’ampleur de l’IA rendent urgentes des réponses de gouvernance agiles
on: Degré de précision réglementaire et d’urgence dans la gouvernance de l’IA
La concentration de la puissance de calcul, des données et des talents entre quelques entreprises et pays risque d’inscrire l’inégalité dans la technologie elle-même - António Guterres
Arg. 2Guterres avertit que le pouvoir lié à l’IA est en train de se concentrer structurellement entre un petit nombre d’entreprises et de pays. Il soutient que, si cette tendance se poursuit, l’inégalité sera intégrée aux systèmes technologiques eux-mêmes et que de nombreux pays resteront exclus des décisions qui façonnent leur avenir.
Il présente le deuxième avertissement scientifique comme portant sur le pouvoir et affirme que la puissance de calcul, les données et les talents à l’origine des systèmes les plus avancés sont concentrés entre les mains d’une poignée d’entreprises et de pays . Il ajoute que la plupart des nations, y compris de nombreux pays en développement, n’ont eu aucune voix au chapitre dans les décisions qui façonneront leur avenir et avertit que, lorsque les déséquilibres de pouvoir sont intégrés dans la technologie, l’inégalité devient partie intégrante du code .
on: Une participation réelle à la gouvernance de l’IA exige un renforcement des capacités, des institutions, des compétences et des ressources, et pas seulement une inclusion formelle
on: Comment garantir une inclusion réelle : participation universelle immédiate ou participation d’abord fondée sur les capacités
L’IA pourrait condenser des décennies de développement en quelques années et devenir un grand facteur d’égalisation si elle était largement partagée - António Guterres
Arg. 3Guterres soutient que l’IA a un potentiel exceptionnel pour accélérer le développement si elle est bien utilisée et largement partagée. Il la présente comme un possible facteur d’égalisation pouvant apporter expertise et opportunités à des lieux longtemps restés exclus.
Il donne les exemples d’une mère dans une clinique rurale obtenant un scanner assez rapidement pour détecter un cancer à temps, d’un enfant apprenant avec un tuteur infatigable, et d’un petit exploitant agricole utilisant les mêmes prévisions qu’une grande entreprise agro-industrielle pour assurer sa récolte . Il affirme ensuite que, tandis que des percées passées comme la pénicilline et l’électricité ont mis des décennies, voire davantage, à atteindre ceux qui en avaient le plus besoin, l’IA n’a pas à attendre et pourrait condenser des décennies de développement en quelques années si elle était largement partagée .
on: L’IA devrait être orientée vers le développement, le bénéfice public et de larges gains sociaux
on: Accent principal de la gouvernance de l’IA : maîtrise des risques versus accélération du développement
L’IA menace la vérité, la sécurité des enfants, la durabilité environnementale et la paix, et nécessite des normes communes, de la transparence et des lignes rouges - António Guterres
Arg. 4Guterres soutient que les risques liés à l’IA s’étendent à de multiples domaines : l’intégrité de l’information, la sécurité des enfants, les pressions environnementales et l’usage militaire. En réponse, il appelle à des seuils de sécurité communs, à des règles spécifiques pour les enfants, à la transparence sur l’empreinte environnementale de l’IA et à des limites contraignantes sur les armes autonomes.
Sur la vérité, il avertit que les mensonges facilités par les machines peuvent désormais convaincre aussi efficacement que la vérité, que des preuves authentiques peuvent être rejetées comme fausses et que des sociétés incapables de s’accorder sur ce qui est réel ne peuvent pas se défendre . Sur la sécurité, il appelle à des seuils communs pour les systèmes de pointe et à des méthodes communes pour évaluer et vérifier les risques , et présente un engagement pour la sécurité des enfants en matière d’IA exigeant des tests spécifiques aux enfants, une tolérance zéro à l’égard des contenus d’abus sexuels et un soutien humain lorsque des enfants sont en détresse . En matière de durabilité environnementale, il affirme que les centres de données consomment déjà plus d’électricité que la plupart des pays et qu’à l’horizon 2030 ils pourraient en consommer plus que tous les pays sauf cinq, ainsi que d’immenses quantités d’eau, raison pour laquelle il a lancé l’AI Environmental Transparency Initiative, exhortant les entreprises à divulguer leurs empreintes carbone, hydrique et foncière et à alimenter les centres de données en énergie renouvelable d’ici 2030 . En matière de paix et de sécurité, il avertit que les mêmes modèles et puces arrivent sur les champs de bataille, condamne les armes autonomes ou « killer robots » comme moralement répugnants et politiquement inacceptables, et affirme qu’ils doivent être interdits par le droit international .
Le dialogue, le groupe scientifique et le Sommet AI for Good s’inscrivent dans un effort intégré de l’ONU visant à orienter la gouvernance de l’IA - António Guterres
Arg. 5Guterres soutient que cet événement s’inscrit dans une architecture plus large et coordonnée de l’ONU pour la gouvernance de l’IA. Il relie les mandats politiques, les preuves scientifiques et les réunions axées sur la mise en œuvre en un effort intégré unique visant à orienter l’IA dans l’intérêt public.
Il déclare qu’en 2023, son organe consultatif de haut niveau sur l’IA a appelé le monde à gouverner l’IA ensemble, et qu’en 2024, le Pacte pour l’avenir et le Global Digital Compact ont fourni le mandat . Il ajoute que le panel scientifique apportera les éléments de preuve et que le dialogue doit désormais donner une orientation au monde . Il affirme ensuite que ce travail sera achevé plus tard à Genève par l’AI for Good Summit et ses initiatives, le tout dans le cadre d’un effort intégré de l’ONU visant à faire en sorte que l’IA serve les populations partout dans le monde .
on: La gouvernance de l’IA doit être un processus institutionnel continu sous les auspices de l’ONU, appuyé par des éléments probants et des mécanismes de suivi.
L’événement est l’ouverture du premier Dialogue mondial des Nations Unies sur la gouvernance de l’IA - Announcer
Arg. 1L’Announcer présente la nature institutionnelle de l’événement comme la cérémonie d’ouverture du Dialogue mondial des Nations Unies sur la gouvernance de l’IA. Cela inscrit la session comme le lancement officiel d’un nouveau processus onusien sur la gouvernance de l’IA.
L’Announcer souhaite la bienvenue au Secrétaire général, au Président de l’Assemblée générale, aux coprésidents et aux chefs des entités du Secrétariat conjoint à la cérémonie d’ouverture du Dialogue mondial des Nations Unies sur la gouvernance de l’IA .
on: La gouvernance de l’IA doit constituer un processus institutionnel continu sous les auspices des Nations Unies, appuyé par des données probantes et des mécanismes de suivi
Graphe de connaissances de la session
Intervenants · Sujets · Arguments · Relations
Un solide consensus entre les intervenants s’est dégagé sur le fait que la gouvernance de l’IA doit être construite au moyen d’un processus mondial inclusif associant tous les pays et un large éventail de parties prenantes. López a présenté la réunion comme le début d’un processus véritablement universel où convergent des expériences et des capacités diverses . Tammsaar a déclaré que l’IA affecte tous les pays et que, par conséquent, sa gouvernance doit inclure toutes les régions, tous les niveaux de développement et toutes les parties prenantes concernées, sans laisser personne de côté . Guterres a souligné que, pour la première fois, chaque pays a une place à la table . Baerbock a soutenu que l’IA a des conséquences trop importantes pour être laissée entre les mains de quelques-uns et qu’elle exige l’implication de tous les pays, des gouvernements, des entreprises, de la société civile et des citoyens . Singh-Gill a également affirmé que l’IA a des conséquences trop importantes pour être façonnée par quelques-uns et a appelé à une conversation mondiale et inclusive . Bogdan-Martin et El-Enany ont tous deux décrit un effort large, multipartite et à l’échelle de l’ONU pour soutenir le dialogue .
Un dialogue mondial comme point de départ d’un processus de gouvernance universelle - H.E. Ambassador Egriselda López, El Salvador
La gouvernance de l’IA doit inclure tous les pays, toutes les régions et toutes les parties prenantes - H.E. Ambassador Rein Tammsaar, Estonia
La gouvernance de l’IA doit associer tous les pays et toutes les parties prenantes afin que personne ne soit laissé de côté - Annalena Baerbock, President of the General Assembly
Le dialogue doit être mondial, fondé sur des données probantes et soutenu par une inclusion réelle et des capacités effectives - Amandeep Singh-Gill, USG and Special Envoy for Digital and Emerging Technologies, ODET
L’ONU a agi rapidement pour convoquer une discussion sur l’IA centrée sur les personnes et orientée vers le développement - Doreen Bogdan-Martin
La gouvernance de l’IA est une responsabilité partagée qui exige une approche unie à l’échelle de l’ONU et de vastes partenariats - Khaled El-Enany, Director-General, UNESCO
Le dialogue, le panel scientifique et le AI for Good Summit font partie d’un effort intégré de l’ONU pour orienter la gouvernance de l’IA - António Guterres
Cela correspond à des conceptions centrées sur l’ONU et multipartites qui mettent l’accent sur les contributions des pays, des entreprises, du monde universitaire et des communautés du monde entier, et relient l’inclusivité à l’impartialité de l’ONU ainsi qu’à sa mission au service du bien public [S73]. Cela reflète également des appels plus larges en faveur d’une gouvernance pluraliste et interculturelle plutôt que d’un système de valeurs unique et dominant [S65], tandis que les débats historiques sur la gouvernance de l’internet montrent que l’inclusion est depuis longtemps contestée dans la pratique malgré la rhétorique multipartite [S64].
Les intervenants se sont accordés à plusieurs reprises sur le fait que la gouvernance de l’IA ne doit être ni simplement favorable à l’innovation ni purement restrictive, mais qu’elle doit conjuguer opportunités, garanties, responsabilité et droits. López a explicitement appelé à un équilibre entre innovation et responsabilité, opportunités et risques, ainsi qu’entre coopération mondiale et réalités nationales . Tammsaar a déclaré que les possibilités offertes par l’IA ne peuvent être réalisées que si elle est sûre, ancrée dans le droit international et les droits humains, et façonnée par les personnes . Guterres a averti qu’un déploiement non planifié sans consentement est inacceptable et a plaidé pour une gouvernance intégrée dès la conception, ainsi que pour des seuils minimaux de sécurité et des lignes rouges . Baerbock a déclaré que la puissance et les dangers de l’IA sont trop importants pour être laissés sans encadrement et a associé puissance et responsabilité . El-Enany a ancré la gouvernance dans le cadre éthique de l’UNESCO en matière de droits humains, de durabilité et d’inclusion . Bogdan-Martin a également souligné l’importance du dialogue pour parvenir à des accords de base en vue d’une vision commune .
La gouvernance de l’IA doit trouver un équilibre entre innovation et responsabilité, opportunités et risques - H.E. Ambassador Egriselda López, El Salvador
L’IA ne peut bénéficier aux populations que si elle est sûre, centrée sur l’humain et ancrée dans le droit international et les droits humains - H.E. Ambassador Rein Tammsaar, Estonia
La puissance de l’IA exige responsabilité et action collective pour prévenir les préjudices tout en permettant les bénéfices - Annalena Baerbock, President of the General Assembly
Des accords communs par le dialogue sont nécessaires pour façonner une vision partagée de l’IA - Doreen Bogdan-Martin
Le cadre éthique de l’UNESCO fournit une base normative pour aligner l’IA sur les droits humains, la durabilité et l’inclusion - Khaled El-Enany, Director-General, UNESCO
Le déploiement rapide de l’IA sans planification ni consentement est inacceptable et exige une gouvernance intégrée dès la conception - António Guterres
Cela reflète un langage de politique publique bien établi qui rejette une fausse opposition entre innovation et réglementation, en faisant valoir que des règles bien conçues peuvent améliorer les résultats de l’innovation [S62]. Cela est également cohérent avec des approches de politique de l’IA qui soulignent l’équilibre entre innovation et garanties, équité, responsabilité, protection de la vie privée et confiance du public [S67] [S68] [S69].
Plusieurs intervenants ont convergé vers l’idée que l’inclusion n’a de sens que si les pays ont la capacité de participer et de mettre en œuvre la gouvernance. López a déclaré qu’une participation effective exige des compétences, des infrastructures, des talents, des financements, des institutions, des alliances et des partenariats, et pas seulement une présence dans la salle . Singh-Gill a fait directement écho à cette idée en affirmant que, sans capacités, les dialogues deviennent des monologues et la science reste abstraite . El-Enany a mis en lumière le déficit de mise en œuvre et les travaux de l’UNESCO visant à renforcer les cadres juridiques, les capacités institutionnelles, les compétences et la responsabilité, notamment par la formation de dizaines de milliers de responsables publics . Guterres a averti que la puissance de calcul, les données et les talents sont concentrés entre les mains d’une poignée d’entreprises et de pays, et a proposé un réseau et un fonds pour élargir les capacités en IA, en particulier pour les pays en développement . Tammsaar a lié une participation plus large à des décisions mieux informées et à une plateforme universelle pour la confiance et la compréhension commune .
Une participation effective à l’IA exige des compétences, des infrastructures, des financements, des institutions et des partenariats - H.E. Ambassador Egriselda López, El Salvador
Sans capacités, le dialogue devient creux et la science reste abstraite - Amandeep Singh-Gill, USG and Special Envoy for Digital and Emerging Technologies, ODET
L’UNESCO aide les États à transformer l’ambition en mise en œuvre grâce à un appui juridique, institutionnel et en matière de compétences - Khaled El-Enany, Director-General, UNESCO
La concentration de la puissance de calcul, des données et des talents dans un petit nombre d’entreprises et de pays risque d’inscrire l’inégalité dans la technologie - António Guterres
De meilleures décisions sur l’IA exigent d’entendre davantage de voix et d’éviter l’exclusion - H.E. Ambassador Rein Tammsaar, Estonia
Cela est fortement étayé par des sources montrant que l’inclusion formelle à elle seule n’équivaut pas à une participation effective : la participation de l’Afrique et du Sud global à la gouvernance de l’internet a été limitée par les contraintes financières, l’expertise et les asymétries institutionnelles [S64]. Les discussions de l’ONU sur la gouvernance de l’IA identifient de même le renforcement des capacités, les institutions nationales, les compétences, le compute et les écosystèmes locaux comme des conditions préalables à une participation significative, en particulier pour les pays en développement [S72] [S73] [S75].
Un large accord s’est dégagé sur le fait que la gouvernance de l’IA doit être évaluée à l’aune de sa capacité à produire de véritables gains de développement et un bénéfice public. López a déclaré que l’objectif commun est que l’IA contribue au développement et génère des bénéfices réels pour tous, le dialogue devant déboucher sur des alliances et des résultats concrets . Tammsaar a cité l’expérience de l’Estonie selon laquelle les outils numériques peuvent améliorer la vie quotidienne lorsqu’ils sont centrés sur l’humain et soutenus par des institutions . Baerbock a présenté l’IA comme un atout pour les ODD, en donnant des exemples dans les alertes aux catastrophes, l’agriculture, l’éducation et la santé . Guterres a donné des exemples parallèles dans les cliniques rurales, l’éducation et l’agriculture, et a soutenu que l’IA pourrait condenser des décennies de développement en quelques années et devenir un grand facteur d’égalisation si elle est largement partagée . Bogdan-Martin a déclaré que l’objectif de la semaine est de maintenir l’humanité au cœur de cette technologie aux conséquences majeures , tandis qu’El-Enany a mis l’accent sur une mise en œuvre au service du bien public grâce à la formation et au soutien institutionnel .
L’IA devrait contribuer au développement et produire des bénéfices concrets pour tous - H.E. Ambassador Egriselda López, El Salvador
L’expérience de l’Estonie montre que les outils numériques améliorent la vie quotidienne lorsqu’ils sont soutenus par des institutions dignes de confiance - H.E. Ambassador Rein Tammsaar, Estonia
L’IA peut accélérer la réalisation des ODD, des alertes aux catastrophes à l’agriculture, la santé et l’éducation - Annalena Baerbock, President of the General Assembly
L’objectif du dialogue est de maintenir l’humanité au cœur d’une technologie aux conséquences majeures - Doreen Bogdan-Martin
L’UNESCO investit dans la formation des fonctionnaires et des acteurs judiciaires pour mettre en œuvre la gouvernance de l’IA au service du bien public - Khaled El-Enany, Director-General, UNESCO
L’IA pourrait condenser des décennies de développement en quelques années et devenir un grand facteur d’égalisation si elle est largement partagée - António Guterres
Cela correspond aux approches axées sur le bien public et le développement dans les discussions de l’ONU sur l’IA, y compris l’idée que l’IA doit soutenir la paix, le développement, les droits humains et les ODD, et que les connaissances de l’ONU doivent être codifiées comme un bien public [S73] [S74]. Cela reflète également des discours de politique publique plus larges selon lesquels la gouvernance de l’IA devrait mettre l’accent sur le développement durable et de larges bénéfices sociaux plutôt que sur le déploiement pour lui-même [S62] [S76].
Les intervenants se sont accordés sur le fait que ce dialogue n’est pas un événement isolé, mais qu’il s’inscrit dans un processus structuré et continu de l’ONU. Announcer a présenté la session comme l’ouverture du premier UN Global Dialogue on AI Governance . López l’a reliée à un mandat de l’Assemblée générale et à des années de travail préparatoire . Tammsaar a déclaré que le dialogue devrait jeter les bases d’une future coopération internationale . Guterres a relié la réunion à l’organe consultatif de 2023, au Pact for the Future et au Global Digital Compact de 2024, au panel scientifique et au AI for Good Summit . Baerbock a décrit le panel scientifique comme une étape majeure . Bogdan-Martin et El-Enany ont expliqué le rôle de secrétariat assuré par l’ITU et l’UNESCO . Singh-Gill a souligné que le dialogue n’est pas un exercice ponctuel et a annoncé un deuxième cycle à New York l’année prochaine .
Les coprésidents et le secrétariat ont transformé le mandat de l’Assemblée générale en un forum pratique - H.E. Ambassador Egriselda López, El Salvador
Ce premier dialogue devrait jeter les bases d’une coopération internationale à long terme et d’un futur bien public - H.E. Ambassador Rein Tammsaar, Estonia
Le Independent International Scientific Panel constitue une étape majeure pour une expertise inclusive fondée sur des données probantes - Annalena Baerbock, President of the General Assembly
Le dialogue s’inscrit dans un processus plus long de l’ONU et se poursuivra avec un deuxième cycle à New York - Amandeep Singh-Gill, USG and Special Envoy for Digital and Emerging Technologies, ODET
L’ITU et l’UNESCO ont coordonné le Joint Secretariat et soutiendront la poursuite du processus - Doreen Bogdan-Martin
L’UNESCO et l’ITU assurent le rôle de Secretariat en collaboration avec ODET - Khaled El-Enany, Director-General, UNESCO
Le dialogue, le panel scientifique et le AI for Good Summit font partie d’un effort intégré de l’ONU pour orienter la gouvernance de l’IA - António Guterres
L’événement marque l’ouverture du premier UN Global Dialogue on AI Governance - Announcer
Cela est renforcé par la réflexion du système des Nations Unies sur une gouvernance agile, réflexive et anticipatrice, qui met l’accent sur des processus itératifs, des boucles de rétroaction, des mises à jour accélérées et des mécanismes institutionnels plutôt que sur des décisions ponctuelles [S72]. Cela correspond également aux appels en faveur de politiques de l’IA fondées sur des données probantes, de bacs à sable réglementaires, de la continuité des réponses mondiales de politique publique et de mécanismes de suivi permettant d’évaluer si les mesures de gouvernance fonctionnent en pratique [S62] [S78].
Plusieurs intervenants ont souligné que l’IA évolue si rapidement que sa gouvernance doit être plus agile et continue que lors des précédentes ères technologiques. López a déclaré que l’IA est une technologie en évolution rapide qui exige des réponses plus agiles et inclusives . Guterres a mis en garde contre cette vitesse effrénée, notant que l’IA a atteint un milliard de personnes en deux ans et qu’elle est déployée plus vite que les gens ne peuvent suivre . Baerbock a opposé l’IA aux révolutions technologiques antérieures et a déclaré qu’aujourd’hui nous n’avons pas le luxe du temps . Bogdan-Martin a de même noté que l’ONU a agi beaucoup plus vite sur l’IA qu’elle ne l’avait fait pour l’internet, en convoquant une discussion dans les trois ans suivant la généralisation de l’IA générative . Singh-Gill a déclaré que la gouvernance ne peut pas s’arrêter à une ou deux itérations et qu’elle doit se poursuivre de manière itérative pour relier la pratique et les normes .
L’IA évolue rapidement et exige des réponses internationales plus agiles - H.E. Ambassador Egriselda López, El Salvador
La puissance de l’IA exige responsabilité et action collective pour prévenir les préjudices tout en permettant les bénéfices - Annalena Baerbock, President of the General Assembly
Le déploiement rapide de l’IA sans planification ni consentement est inacceptable et exige une gouvernance intégrée dès la conception - António Guterres
L’ONU a agi rapidement pour convoquer une discussion sur l’IA centrée sur les personnes et orientée vers le développement - Doreen Bogdan-Martin
Un dialogue itératif continu est nécessaire pour que la gouvernance suive l’évolution des pratiques et des normes - Amandeep Singh-Gill, USG and Special Envoy for Digital and Emerging Technologies, ODET
Cela se reflète directement dans les orientations de l’ONU selon lesquelles l’évolution rapide de l’IA exige des approches de gouvernance agiles et anticipatrices, y compris des instruments de politique flexibles et des réponses institutionnelles accélérées [S72]. Cela fait également écho aux analyses du fossé croissant entre la vitesse du développement de l’IA et la compréhension qu’en a la société, ainsi qu’à l’argument de type Collingridge selon lequel la gouvernance devrait donner la priorité au suivi et à la contrôlabilité dans des conditions d’incertitude et d’ancrage rapide [S61] [S62].
Ces intervenants ont exprimé une position particulièrement convergente selon laquelle l’inclusion sans capacités est insuffisante. López a énuméré les conditions pratiques préalables à la participation, notamment les compétences, les infrastructures, le financement et les institutions . Singh-Gill a résumé la même idée en disant que sans capacités, le dialogue devient un monologue . El-Enany a décrit le travail de l’UNESCO pour combler l’écart entre ambition et mise en œuvre grâce à un appui juridique, institutionnel et en matière de compétences . Guterres a relié cette question aux inégalités structurelles d’accès à la puissance de calcul, aux données et aux talents, et a appelé à la création d’un réseau mondial et d’un fonds pour élargir les capacités . Ces intervenants ont convergé vers une approche de la gouvernance de l’IA fondée sur les droits et centrée sur l’humain. Tammsaar a déclaré que les possibilités offertes par l’IA ne peuvent être réalisées que si les systèmes sont sûrs, ancrés dans les droits et façonnés par les personnes . El-Enany a présenté la recommandation de l’UNESCO sur l’éthique comme une base normative pour les droits humains, la durabilité et l’inclusion . Guterres a défini des normes de sécurité, des lignes rouges, la protection des enfants, la transparence et une interdiction des robots tueurs . Baerbock a de même soutenu que la puissance de l’IA doit être gérée collectivement et liée à la responsabilité envers le bien commun . Ces intervenants ont tous présenté le dialogue mené par l’ONU lui-même comme l’enceinte appropriée pour la gouvernance de l’IA. López a déclaré qu’il lançait un processus large et universel . Tammsaar a indiqué que la mission des coprésidents était de créer une plateforme universelle où des perspectives diverses puissent être entendues . Baerbock a soutenu que l’IA a besoin d’une plateforme mondiale et que l’ONU a le mandat institutionnel pour la fournir . Bogdan-Martin a renforcé cet argument en opposant la rapidité de ce processus onusien à la réponse plus lente apportée aux technologies antérieures . Ces intervenants ont partagé une vision de l’IA orientée vers le développement, mettant l’accent sur des bénéfices concrets plutôt que sur des promesses abstraites. López a déclaré que l’IA devait produire de réels bénéfices pour tous et soutenir le développement . Tammsaar a évoqué les améliorations concrètes de la vie quotidienne apportées par des outils numériques centrés sur l’humain . Baerbock a cité des exemples dans l’alerte aux inondations, l’agriculture, la santé et l’éducation, qu’elle a reliés aux SDGs . Guterres a utilisé des exemples tout aussi concrets et a soutenu que l’IA pourrait devenir un grand facteur d’égalisation si elle était largement partagée . Ces intervenants étaient étroitement alignés dans leur manière de considérer la gouvernance de l’IA comme un processus continu fondé sur des éléments probants plutôt que comme un événement diplomatique ponctuel. Singh-Gill a déclaré que le dialogue devait se poursuivre de manière itérative au-delà d’un ou deux cycles . Guterres a décrit une architecture plus large reliant mandat politique, preuves scientifiques et instances de mise en œuvre . Baerbock a souligné que le panel scientifique constituait une étape importante pour une expertise inclusive fondée sur des preuves .
Un domaine de consensus étonnamment précis a été l’accent mis sur les enfants et les jeunes, non seulement comme bénéficiaires de l’IA, mais aussi comme groupe nécessitant des protections urgentes. Guterres a proposé un engagement pour la sécurité des enfants en matière d’IA, avec des tests spécifiques aux enfants, une tolérance zéro à l’égard des images d’abus et un soutien humain obligatoire en situation de crise . Baerbock a relié les préjudices de l’IA aux chambres d’enfants, a cité une adolescente au sujet de la haine en ligne et a attiré l’attention sur les abus liés aux deepfakes touchant les femmes et les filles . El-Enany a indiqué que l’UNESCO envisage un nouvel instrument normatif mondial pour protéger les enfants et les jeunes à l’ère de l’IA .
Un consensus notable s’est étendu au-delà du processus politique à la nécessité d’une gouvernance guidée par les preuves. López a déclaré que le dialogue devait s’appuyer sur des preuves scientifiques . Guterres a décrit le panel scientifique comme fournissant une base factuelle commune et a affirmé que le dialogue devait donner une orientation au monde sur cette base . Baerbock a qualifié le panel d’étape majeure, avec une parité entre les genres et les régions . Singh-Gill a de la même manière insisté sur le fait que la conversation devait être ancrée dans des preuves et soutenue par des capacités .
Si l’inclusion est un thème diplomatique courant, il est notable que plusieurs intervenants l’ont reliée spécifiquement à la concentration structurelle des capacités en matière d’IA et au risque d’exclusion. Guterres a averti que la puissance de calcul, les données et les talents sont concentrés entre les mains d’une poignée d’entreprises et de pays, et que l’inégalité pourrait devenir partie intégrante du code . López a soutenu qu’une participation réelle dépend du financement, des infrastructures et des institutions . Singh-Gill a affirmé que l’inclusion sans capacités est vide de sens . Baerbock a également mis en garde contre le fait de laisser la gouvernance à quelques-uns et a appelé à la participation de tous les pays et de toutes les parties prenantes .
Les intervenants ont montré un degré élevé de consensus sur l’architecture fondamentale de la gouvernance de l’IA : elle devrait être liée à l’ONU, inclusive à l’échelle mondiale, multipartite, fondée sur des preuves, consciente des droits et orientée vers le développement et l’intérêt public . Ils se sont également largement accordés sur le fait que la rapidité de l’IA crée un sentiment d’urgence, que les déficits de capacités et la concentration du pouvoir constituent des obstacles majeurs, et que la gouvernance doit se poursuivre à travers un suivi structuré plutôt qu’au moyen d’un événement unique .
Il n’existe pas de divergence directe sur la nécessité d’une gouvernance, mais les intervenants diffèrent quant au degré de précision normative et d’immédiateté qu’elle devrait avoir. António Guterres juge la situation actuelle inacceptable et plaide pour des bases de référence mondiales concrètes, des lignes rouges, un engagement pour la sécurité des enfants, la divulgation des impacts environnementaux et une interdiction juridique des armes autonomes . À l’inverse, López présente la tâche comme consistant à maintenir un équilibre entre innovation et responsabilité ainsi qu’entre réalités mondiales et nationales, plutôt que de commencer par des règles détaillées . Tammsaar met l’accent sur l’exploration pratique, la compréhension des différences et l’identification des convergences plutôt que sur l’élimination immédiate des divergences . Singh-Gill considère également la gouvernance comme un processus itératif et continu, avertissant qu’elle ne peut pas être ponctuelle . El-Enany souligne les fondements normatifs et l’appui à la mise en œuvre à travers les cadres de l’UNESCO , tandis que Bogdan-Martin met au premier plan le dialogue pour parvenir à des accords de base . Baerbock soutient fermement la responsabilité collective mais ne propose pas un ensemble de mécanismes immédiats aussi détaillé que celui de Guterres .
Le déploiement rapide de l’IA sans planification ni consentement est inacceptable et exige une gouvernance intégrée dès la conception - António Guterres
La gouvernance de l’IA doit trouver un équilibre entre innovation et responsabilité, opportunité et risque - H.E. Ambassador Egriselda López, El Salvador
Le monde a besoin d’une gouvernance pratique qui identifie les convergences et prépare la coopération future - H.E. Ambassador Rein Tammsaar, Estonia
La puissance de l’IA exige de la responsabilité et une action collective pour prévenir les préjudices tout en permettant les bénéfices - Annalena Baerbock, President of the General Assembly
Un dialogue itératif continu est nécessaire pour que la gouvernance suive l’évolution des pratiques et des normes - Amandeep Singh-Gill, USG and Special Envoy for Digital and Emerging Technologies, ODET
Le cadre éthique de l’UNESCO fournit une base normative pour aligner l’IA sur les droits de l’homme, la durabilité et l’inclusion - Khaled El-Enany, Director-General, UNESCO
Des accords communs obtenus par le dialogue sont nécessaires pour façonner une vision partagée de l’IA - Doreen Bogdan-Martin
Cela reflète une ligne de fracture politique bien établie entre ceux qui réclament des règles immédiates et plus précises sur l’IA et ceux qui privilégient une utilisation adaptative des cadres existants ou une réglementation sectorielle plus progressive [S68] [S69]. Cela s’inscrit en outre dans le contexte des débats actuels sur la gouvernance agile, des mécanismes de mise à jour plus rapides, et sur la question de savoir si l’IA de pointe nécessite des instruments entièrement nouveaux de gestion des risques dans des délais resserrés [S72] [S78].
Une deuxième différence concerne ce qui constitue concrètement l’inclusion. Tammsaar et Baerbock mettent l’accent sur l’inclusion universelle immédiate de chaque pays, région et partie prenante comme principe de légitimité et de meilleure prise de décision . Guterres souligne également que chaque pays a désormais une place à la table, tout en avertissant que la plupart des nations ont eu peu de voix au chapitre parce que le pouvoir est concentré dans quelques pays et entreprises . López, en revanche, soutient que la simple présence dans la salle est insuffisante et qu’une participation effective dépend des compétences, des infrastructures, des talents, du financement, des institutions et des partenariats . Singh-Gill renforce ce point en affirmant que sans capacités, les dialogues deviennent des monologues et la science reste abstraite . El-Enany met de même l’accent sur les lacunes de mise en œuvre et sur l’appui au renforcement des capacités des États . La divergence oppose donc les intervenants qui mettent en avant l’inclusion large comme point de départ et ceux qui soulignent qu’elle n’a pas de sens sans un développement préalable ou parallèle des capacités.
Une participation effective à l’IA exige des compétences, des infrastructures, des financements, des institutions et des partenariats - H.E. Ambassador Egriselda López, El Salvador
La gouvernance de l’IA doit inclure chaque pays, chaque région et chaque partie prenante - H.E. Ambassador Rein Tammsaar, Estonia
Sans capacités, le dialogue devient creux et la science reste abstraite - Amandeep Singh-Gill, USG and Special Envoy for Digital and Emerging Technologies, ODET
La concentration de la puissance de calcul, des données et des talents dans quelques entreprises et pays risque d’inscrire l’inégalité dans la technologie - António Guterres
La gouvernance de l’IA doit associer tous les pays et toutes les parties prenantes afin que personne ne soit laissé de côté - Annalena Baerbock, President of the General Assembly
L’UNESCO aide les États à passer de l’ambition à la mise en œuvre grâce à un appui juridique, institutionnel et au développement des compétences - Khaled El-Enany, Director-General, UNESCO
Ce désaccord reflète des tensions de longue date dans la gouvernance mondiale entre l’inclusion universelle formelle et les conditions pratiques nécessaires à une participation effective. L’expérience de la gouvernance de l’Internet montre qu’une participation ouverte peut rester superficielle lorsque persistent des inégalités financières, techniques et institutionnelles [S64], tandis que les approches de l’ONU sur l’IA insistent de plus en plus sur le fait que le développement des capacités fait partie intégrante de l’inclusion plutôt que d’en être distinct [S72] [S73].
Les intervenants soutiennent globalement à la fois le développement et les garanties, mais ils leur accordent un poids différent. López présente l’objectif commun principalement comme celui de faire en sorte que l’IA contribue au développement et génère de véritables bénéfices pour tous grâce à des alliances et à un dialogue fondé sur des données probantes . Baerbock met de même au premier plan l’IA comme atout pour les ODD, en citant des exemples concrets dans l’alerte aux catastrophes, l’agriculture, la santé et l’éducation . Tammsaar s’appuie sur l’expérience estonienne pour souligner les bénéfices publics au quotidien lorsque l’IA est centrée sur l’humain et soutenue par des institutions . Bogdan-Martin insiste sur la nécessité de garder l’humanité au cœur d’une technologie transformatrice . Guterres reconnaît un fort potentiel de développement , mais consacre beaucoup plus d’attention aux graves dangers pour la vérité, les enfants, l’égalité, l’environnement et la paix, ainsi qu’aux garanties spécifiques . La différence est donc une question d’accent : certains intervenants mettent en avant les possibilités de développement, tandis que Guterres met en avant l’urgence de la gouvernance des risques.
L’IA pourrait condenser des décennies de développement en quelques années et devenir un grand facteur d’égalisation si elle est largement partagée - António Guterres
L’IA devrait contribuer au développement et produire des bénéfices concrets pour tous - H.E. Ambassador Egriselda López, El Salvador
L’IA peut accélérer les ODD, des alertes en cas de catastrophe à l’agriculture, la santé et l’éducation - Annalena Baerbock, President of the General Assembly
L’expérience de l’Estonie montre que les outils numériques améliorent la vie quotidienne lorsqu’ils sont soutenus par des institutions dignes de confiance - H.E. Ambassador Rein Tammsaar, Estonia
L’objectif du dialogue est de maintenir l’humanité au cœur d’une technologie aux conséquences majeures - Doreen Bogdan-Martin
Cela correspond à une fracture bien établie dans les politiques relatives à l’IA entre la priorité donnée aux risques immédiats et de pointe, et la priorité donnée aux opportunités de développement et économiques qu’offre l’IA. Des analyses récentes plaident pour un équilibre entre les risques existants, les risques d’exclusion et les risques à long terme, plutôt que de laisser un seul cadre dominer [S70] [S71] [S77], tandis que des sources orientées vers le développement mettent l’accent sur l’IA au service des ODD, le bénéfice public et la préparation nationale [S73] [S75] [S76].
Une tension inattendue apparaît, car plusieurs intervenants saluent une représentation large, Guterres affirmant que chaque pays a une place à la table et Tammsaar insistant pour que personne ne soit laissé de côté . Pourtant, López avertit qu’une participation réelle exige bien plus que le simple fait d’être dans la salle , et Singh-Gill ajoute que sans capacités, le dialogue devient monologue . Guterres lui-même renforce cette préoccupation en avertissant que la plupart des nations n’ont eu aucune véritable voix au chapitre parce que le pouvoir est concentré entre les mains d’une poignée d’entreprises et de pays . Il ne s’agit pas d’un différend ouvert, mais cela révèle un désaccord subtil sur la question de savoir si l’inclusion formelle déjà obtenue suffit à être considérée comme une inclusion significative.
Les intervenants ont montré un degré élevé d’accord de fond sur la nécessité d’une gouvernance mondiale inclusive de l’IA, d’approches centrées sur l’humain, du renforcement des capacités et de la coopération internationale . Les principales différences portaient sur l’accent et la méthode : fallait-il donner la priorité à des garanties concrètes immédiates et à des lignes rouges, ou avancer au moyen d’un dialogue itératif, d’un développement normatif, d’échanges de bonnes pratiques et du renforcement des capacités .
Tous les quatre conviennent que la gouvernance de l’IA est nécessaire et urgente, mais ils diffèrent sur la voie à suivre. Guterres plaide pour des garde-fous concrets immédiats et des lignes rouges contraignantes . López soutient une gouvernance fondée sur l’équilibre entre innovation, risques, coopération mondiale et réalités nationales . Tammsaar préfère un processus pratique permettant de comprendre les différences, d’identifier les convergences et de recueillir les meilleures pratiques . Singh-Gill considère le processus comme itératif et continu plutôt que réglé en une seule série d’échanges . L’objectif commun est la gouvernance, mais les méthodes vont de normes détaillées immédiates à une construction progressive des convergences.
Un déploiement rapide de l’IA sans planification ni consentement est inacceptable et exige une gouvernance pensée dès la conception - António Guterres La gouvernance de l’IA doit trouver un équilibre entre innovation et responsabilité, opportunité et risque - H.E. Ambassador Egriselda López, El Salvador Le monde a besoin d’une gouvernance pratique qui identifie les convergences et prépare la coopération future - H.E. Ambassador Rein Tammsaar, Estonia Un dialogue itératif continu est nécessaire afin que la gouvernance reste au rythme de l’évolution des pratiques et des normes - Amandeep Singh-Gill, USG and Special Envoy for Digital and Emerging Technologies, ODET
Ces intervenants soutiennent tous une participation inclusive à la gouvernance de l’IA, mais ils définissent différemment la voie pour y parvenir. Tammsaar et Baerbock mettent l’accent sur l’inclusion universelle de tous les pays et de toutes les parties prenantes comme principe organisateur central . López soutient qu’une participation effective exige des conditions facilitatrices concrètes telles que les compétences, les infrastructures, le financement et les institutions . Singh-Gill l’affirme de manière encore plus tranchée : sans capacités, le dialogue devient un monologue . El-Enany appuie cette approche orientée vers la mise en œuvre en décrivant le travail de l’UNESCO pour renforcer les capacités juridiques, institutionnelles et en matière de compétences . L’objectif commun est une gouvernance inclusive ; la différence réside dans le fait de savoir si l’inclusion est avant tout procédurale ou fondée sur les capacités.
La gouvernance de l’IA doit inclure chaque pays, chaque région et chaque partie prenante - H.E. Ambassador Rein Tammsaar, Estonia La gouvernance de l’IA doit associer tous les pays et toutes les parties prenantes afin que personne ne soit laissé de côté - Annalena Baerbock, President of the General Assembly Une participation effective à l’IA exige des compétences, des infrastructures, des financements, des institutions et des partenariats - H.E. Ambassador Egriselda López, El Salvador Sans capacités, le dialogue devient creux et la science reste abstraite - Amandeep Singh-Gill, USG and Special Envoy for Digital and Emerging Technologies, ODET L’UNESCO aide les États à passer de l’ambition à la mise en œuvre grâce à un appui juridique, institutionnel et au développement des compétences - Khaled El-Enany, Director-General, UNESCO
Tous les trois conviennent que les groupes vulnérables, en particulier les enfants ainsi que les femmes et les filles, ont besoin d’une protection renforcée contre les préjudices liés à l’IA. Guterres propose un engagement détaillé sur la sécurité des enfants face à l’IA, des bases de sécurité plus larges et une interdiction des robots tueurs . Baerbock se concentre tout particulièrement sur les deepfakes, les discours de haine et les préjudices genrés en tant que questions de droits humains . El-Enany évoque le travail de l’UNESCO en vue d’un nouvel instrument normatif mondial pour les enfants et les jeunes . L’objectif commun est la protection, mais les instruments privilégiés diffèrent : un engagement politique et des interdictions, un cadrage en termes de droits et de genre, et un nouveau processus normatif.
L’IA menace la vérité, la sécurité des enfants, la durabilité environnementale et la paix, et exige des normes communes, de la transparence et des lignes rouges - António Guterres Les deepfakes et la haine en ligne nuisent de manière disproportionnée aux femmes, aux filles et à la confiance sociale, faisant de la réglementation une question de droits de l’homme - Annalena Baerbock, President of the General Assembly L’UNESCO prépare des protections mondiales renforcées pour les enfants et les jeunes à l’ère de l’IA - Khaled El-Enany, Director-General, UNESCO
- La réunion a marqué l’ouverture officielle du premier Dialogue mondial des Nations Unies sur la gouvernance de l’IA et a été présentée comme le début d’un processus universel de plus long terme plutôt que comme un événement ponctuel.
- Les intervenants ont constamment souligné que la gouvernance de l’IA doit être inclusive à l’échelle mondiale, en associant tous les pays, toutes les régions, tous les niveaux de développement et tous les groupes de parties prenantes, y compris les gouvernements, les organisations internationales, la société civile, le monde universitaire, la communauté technique et le secteur privé.
- Un large consensus s’est dégagé sur le fait que les Nations Unies constituent la plateforme appropriée et légitime pour une gouvernance collective de l’IA, celle-ci posant des défis transfrontaliers d’ordre économique, social, humanitaire, sécuritaire et de développement.
- Une conclusion centrale a été que la gouvernance de l’IA doit concilier innovation et responsabilité, ainsi qu’opportunités et risques, afin que l’IA demeure centrée sur l’humain, fondée sur les droits, sûre et digne de confiance.
- Plusieurs intervenants ont soutenu que le déploiement rapide de l’IA dépasse la capacité des institutions et dispositifs de gouvernance existants, rendant nécessaire une coordination internationale urgente.
- António Guterres a mis en avant trois avertissements majeurs issus des données scientifiques : la vitesse du développement de l’IA, la concentration du pouvoir entre les mains de quelques entreprises et pays, et l’érosion de la vérité et de la confiance par la désinformation facilitée par les machines.
- De vives inquiétudes ont été exprimées quant au fait qu’un accès inégal à la puissance de calcul, aux données, aux talents, aux infrastructures et aux financements pourrait ancrer les inégalités mondiales et empêcher les pays en développement de participer à la conception des systèmes d’IA qui les concernent.
- Les intervenants ont souligné qu’une participation véritable à la gouvernance de l’IA exige des capacités concrètes, notamment des compétences, des institutions, des infrastructures, des financements et des partenariats, et pas seulement une représentation dans les forums de dialogue.
- L’IA a également été présentée comme une grande opportunité pour le développement durable et le bien public, avec des exemples dans les domaines de la santé, de l’éducation, de l’agriculture, de l’alerte aux catastrophes et de la prestation des services publics.
- Les discussions ont mis en évidence que l’IA ne peut devenir un bien public que si elle s’appuie sur des institutions solides, des normes partagées, des mécanismes de responsabilité et une coopération internationale.
- Les droits de l’homme, la dignité et la non-discrimination ont été à plusieurs reprises présentés comme des lignes rouges non négociables pour la gouvernance de l’IA, en particulier dans des secteurs à forts enjeux tels que la justice, les soins de santé et le maintien de l’ordre.
- Une urgence particulière a été attachée à la protection des enfants et des jeunes contre les préjudices liés à l’IA, notamment les systèmes dangereux, la manipulation, les risques d’automutilation et les images d’abus sexuels.
- La durabilité environnementale est apparue comme une préoccupation majeure de gouvernance, avec des appels à une plus grande transparence sur l’empreinte énergétique, hydrique, foncière et carbone des systèmes d’IA et des centres de données.
- Des préoccupations en matière de paix et de sécurité ont été soulevées, en particulier au sujet des systèmes d’armes autonomes létales, avec un appel clair du Secrétaire général en faveur d’une interdiction juridique internationale des « robots tueurs ».
- Le Panel scientifique international indépendant sur l’intelligence artificielle a été présenté comme une étape clé pour fournir une base factuelle aux futures délibérations et coopérations mondiales.
- Le dialogue a été décrit comme faisant partie d’un processus intégré plus large de l’ONU, lié au Pacte pour l’avenir, au Pacte numérique mondial, au panel scientifique, au AI for Good Summit et au futur suivi à New York.
“H.E. Ambassador Egriselda López a déclaré que « Genève ne devrait pas seulement être considérée comme un lieu où nous sommes arrivés, mais comme un point de départ » et a souligné qu’une participation effective à la gouvernance de l’IA exige non seulement d’être présent dans la salle, mais aussi des compétences, des infrastructures, des talents, des financements, des institutions et des partenariats.”
“Ambassador Rein Tammsaar a soutenu que « la technologie seule ne suffit jamais » et que la gouvernance de l’IA doit s’ancrer dans le droit international, les droits humains et des institutions publiques solides.”
“António Guterres a déclaré : « Une expérience est en cours sur notre planète, dans nos propres sociétés, sans plan et sans consentement. »”
“Guterres a formulé trois avertissements tirés des preuves scientifiques : la rapidité (« l’IA y est parvenue en deux » ans, contre quinze pour qu’internet atteigne un milliard de personnes), la concentration du pouvoir entre les mains d’une poignée d’entreprises et de pays, et l’érosion de la vérité par la tromperie facilitée par les machines.”
“Guterres a déclaré : « Nous ne pouvons pas vibe coder la vérité. Nous ne pouvons pas vibe coder l’avenir de l’humanité. »”
“Guterres a présenté le choix central comme étant « entre gouverner par la conception et dériver par défaut ».”
“Guterres a appelé à un « AI child safety pledge » reposant sur trois règles : prouver que les systèmes sont sûrs pour les enfants, appliquer une tolérance zéro à l’égard des contenus d’abus sexuels sur enfants générés par l’IA, et faire en sorte que les systèmes mettent les enfants en détresse en relation avec une aide humaine réelle.”
“Guterres a averti que « la fracture numérique » ne doit pas se durcir en « fracture de l’IA » et que cela pourrait devenir « un écart de développement, un écart de sécurité et un écart de souveraineté ».”
“Guterres a soutenu que l’empreinte environnementale de l’IA n’a rien d’immatériel, notant que les centres de données pourraient, d’ici 2030, consommer plus d’électricité que tous les pays sauf cinq, ainsi qu’assez d’eau pour couvrir les besoins annuels de 1,3 milliard de personnes en Afrique subsaharienne.”
“Guterres a déclaré que les systèmes d’armes autonomes devraient être appelés par leur nom : des « robots tueurs », et que les systèmes qui ôtent la vie sans contrôle humain sont « moralement répugnants » et doivent être interdits par le droit international.”
“Annalena Baerbock a observé que ce qui relevait de la science-fiction il y a dix ans est désormais « presque dépassé » et a demandé franchement combien de responsables politiques comprennent réellement des évolutions telles que l’architecture des modèles, les agents autonomes et les implications quantiques.”
“Baerbock a soutenu que les usages de l’IA dans les foyers, les systèmes alimentaires, la défense, la paix et jusque dans les chambres d’enfants signifient qu’elle « ne peut être gérée de manière pertinente et sûre qu’ensemble » et que « l’ONU a été conçue pour des moments comme celui-ci ».”
“Baerbock a souligné que 99 % des deepfakes sont de nature sexuelle et que 96 % visent les femmes et les filles, qualifiant cela de phénomène « systématique » et de recul des droits humains et des droits des femmes.”
“Doreen Bogdan-Martin a noté qu’il a fallu environ une décennie après l’entrée d’internet dans les foyers pour que le monde se réunisse à l’échelle mondiale sur sa gouvernance, alors qu’avec l’IA générative, « en seulement trois ans », l’ONU essaie déjà d’en façonner ensemble la trajectoire.”
“Khaled El-Enany a déclaré qu’« un écart important persiste entre l’ambition et la mise en œuvre » dans la gouvernance de l’IA.”
“Amandeep Singh-Gill a déclaré que « l’inclusion n’est pas un acte ponctuel. Ce n’est pas une case à cocher » et que « sans capacités, les dialogues sont des monologues et la science n’est qu’abstraction ».”
Que devrait signifier, en pratique, la gouvernance de l’IA, y compris en ce qui concerne les domaines de convergence, les meilleures pratiques et les bases d’une future coopération internationale ?
Il a explicitement indiqué que les deux jours suivants exploreraient ce que signifie la gouvernance de l’IA en pratique et viseraient à identifier des convergences et des bonnes pratiques. C’est important parce que des approches pratiques de gouvernance sont nécessaires pour traduire de grands principes en une coopération internationale opérationnelle.
Comment le monde peut-il gouverner l’IA ensemble, plutôt que de laisser la technologie façonner les sociétés par défaut ?
Plusieurs intervenants ont souligné que l’IA doit être gouvernée collectivement au moyen de processus multilatéraux inclusifs, fondés sur des données probantes et itératifs. C’est important parce que l’IA a des effets transfrontaliers sur le développement, la sécurité, le travail, l’intégrité de l’information et les droits humains.
Comment créer des référentiels communs mondiaux pour tester les systèmes d’IA de pointe, mesurer les risques, évaluer et vérifier les préjudices, et attribuer les responsabilités ?
Il a directement appelé à des références communes, des méthodes communes et une volonté commune pour des systèmes ayant une portée mondiale. C’est important parce que des règles fragmentées pourraient accroître les coûts, creuser les divisions et ne pas protéger adéquatement les populations.
Quelles normes de sécurité spécifiques aux enfants, quelles méthodes de test et quels mécanismes de supervision sont nécessaires pour les systèmes d’IA accessibles aux enfants ?
Guterres a proposé un engagement sur la sécurité des enfants face à l’IA, l’UNESCO a annoncé une réflexion collective sur un nouvel instrument normatif pour les enfants et les jeunes, et Baerbock a souligné la nécessité de protéger les enfants. C’est important parce que les enfants sont déjà exposés à l’IA dans l’apprentissage, les relations et les situations de crise sans garanties adéquates.
Comment les systèmes d’IA devraient-ils détecter, signaler et retirer les contenus d’abus sexuels sur enfants, et empêcher la génération d’images sexuelles d’enfants ?
Il a énoncé des attentes de tolérance zéro à l’égard des entreprises concernant les images d’abus impliquant des enfants. C’est important parce que ces préjudices sont immédiats, graves et exigent des réponses techniques et de gouvernance claires.
Comment les systèmes d’IA devraient-ils réagir lorsque des enfants montrent des signes de détresse, et quelles formes de soutien humain doivent être intégrées à ces systèmes ?
Il a soutenu que les systèmes doivent s’arrêter et orienter les enfants en situation de crise vers un véritable soutien humain. C’est important parce qu’une interaction automatisée peut intensifier la vulnérabilité en l’absence de voies d’escalade sûres.
Quelles lignes rouges devraient encadrer l’IA afin qu’elle ne porte jamais atteinte à la dignité, ne renforce pas la discrimination et ne remplace pas la responsabilité humaine dans des décisions à forts enjeux telles que la justice, les soins de santé et le maintien de l’ordre ?
Il a explicitement appelé à fixer des lignes rouges et a insisté sur le fait que ce sont les humains qui doivent décider et rendre des comptes dans les situations à haut risque. Cela est important parce que ces usages ont une incidence directe sur les droits fondamentaux, l’équité et la confiance du public.
Comment le renforcement des capacités des pays en développement peut-il être financé et organisé afin que la fracture numérique ne se durcisse pas en fracture de l’IA, en écart de développement, en écart de sécurité et en écart de souveraineté ?
Plusieurs intervenants ont souligné la nécessité de disposer de compétences, d’infrastructures, de talents, d’institutions, de formations, de financements et de partenariats, en particulier pour les pays en développement. Cela est important parce que les inégalités d’accès à la puissance de calcul, aux données et à l’expertise détermineront qui bénéficiera de l’IA et qui sera laissé de côté.
Comment un réseau mondial de renforcement des capacités en IA soutenu par l’ONU et un fonds mondial pour l’IA devraient-ils être conçus et dotés en ressources ?
Il a annoncé les deux initiatives et a exhorté les États Membres à les soutenir. Cela est important parce que leur structure et leur financement influeront sur la capacité des pays à développer de véritables capacités nationales en matière d’IA.
Quelle est l’empreinte environnementale complète des systèmes d’IA, notamment en matière de carbone, d’eau et d’utilisation des terres, et comment devrait-elle être mesurée, divulguée et réduite ?
Il a lancé une initiative de transparence environnementale sur l’IA et a évoqué les importantes потребности en énergie et en eau des centres de données. Cela est important parce que les coûts environnementaux sont considérables, mondiaux et souvent supportés par les communautés locales sans transparence ni retombées suffisantes.
Comment amener toutes les grandes entreprises d’IA à adopter d’ici 2030 une divulgation publique complète de leur impact environnemental et des centres de données alimentés par des énergies renouvelables ?
Il a invité les entreprises à aller plus loin en matière de divulgation et d’engagements en faveur des énergies renouvelables. Cela est important parce que des premières mesures volontaires peuvent s’avérer insuffisantes sans une responsabilité accrue et des normes communes.
Comment la communauté internationale devrait-elle réglementer ou interdire les systèmes d’armes autonomes létales, ou « robots tueurs », au regard du droit international ?
Il a déclaré que des machines sélectionnant et engageant des cibles sans contrôle humain sont moralement répugnantes et doivent être interdites par le droit international. Cela est important parce que la militarisation de l’IA soulève des risques éthiques, juridiques et sécuritaires urgents.
Comment la gouvernance peut-elle suivre le rythme de systèmes d’IA qui agissent de plus en plus en ligne, écrivent du code et prennent des décisions avec moins de supervision humaine ?
Tous deux ont mis en avant la rapidité du changement et la difficulté de comprendre et de suivre l’évolution rapide des architectures de modèles et des agents autonomes. Cela est important parce que les institutions conçues pour des technologies antérieures peuvent être inadaptées à des systèmes plus autonomes.
Comment remédier à la concentration de la puissance de calcul, des données et des talents entre les mains d’un petit nombre d’entreprises et de pays ?
Il a averti que les déséquilibres de pouvoir pourraient être inscrits de manière durable dans la technologie et que l’inégalité pourrait être intégrée au code. Cela est important parce que la concentration du contrôle a des effets sur l’équité, le pouvoir de marché, la souveraineté et la participation mondiale à la gouvernance.
Comment les sociétés peuvent-elles protéger la vérité et l’intégrité de l’écosystème de l’information à l’ère des faussetés persuasives générées par l’IA et des preuves authentiques que l’on peut écarter ?
Guterres a mis en garde contre les mensonges facilités par les machines et l’effondrement de la confiance, tandis que Baerbock a souligné la propagation des discours de haine et des deepfakes sur les plateformes numériques. Cela est important parce que des faits partagés sont essentiels à la démocratie, à la sécurité et à la cohésion sociale.
Quelles mesures sont nécessaires pour lutter contre les deepfakes, en particulier les deepfakes sexuels qui ciblent de manière disproportionnée les femmes et les filles ?
Elle a cité des données montrant que la plupart des deepfakes sont de nature sexuelle et visent de manière écrasante les femmes et les filles. Cela est important parce que ces abus renforcent les inégalités entre les sexes, violent les droits et exigent des réponses urgentes sur les plans politique et technique.
Comment les décideurs publics et le grand public peuvent-ils mieux comprendre l’architecture des modèles d’IA en évolution rapide, les agents autonomes, les world models et les implications de l’informatique quantique ?
Elle a explicitement mis en question le nombre de décideurs politiques qui comprennent réellement ces évolutions. Cela est important parce qu’une gouvernance éclairée dépend d’une meilleure culture technique et d’une meilleure traduction des connaissances expertes en politiques publiques.
Comment l’IA peut-elle être mise à profit plus efficacement pour les Objectifs de développement durable, notamment dans les alertes aux catastrophes, l’agriculture, la santé et l’éducation ?
Les deux intervenants ont donné des exemples de cas d’usage positifs de l’IA et ont suggéré une application plus large au service du développement. Cela est important parce que démontrer les bénéfices pour le bien public peut orienter la gouvernance vers un déploiement équitable et à fort impact.
Comment les principes d’une IA éthique, sûre et digne de confiance peuvent-ils être traduits dans la mise en œuvre au moyen de cadres juridiques, de dispositifs de gouvernance, de compétences et de mécanismes de responsabilisation ?
Il a explicitement relevé un écart important entre l’ambition et la mise en œuvre et a décrit le travail de l’UNESCO pour le combler. Cela est important parce que les normes normatives n’ont de valeur que si elles sont mises en œuvre dans les institutions et dans la pratique.
Que devrait contenir un nouvel instrument normatif mondial pour protéger les enfants et les jeunes à l’ère de l’IA et des technologies numériques ?
Il a annoncé le lancement par l’UNESCO d’une réflexion collective sur un tel instrument. Cela est important parce que les cadres existants ne répondent peut-être pas suffisamment aux besoins spécifiques des enfants en matière de droits, de bien-être et de développement dans des environnements façonnés par l’IA.
Comment les processus de gouvernance de l’IA peuvent-ils devenir plus inclusifs au fil du temps, en veillant à ce que l’inclusion soit continue plutôt qu’un exercice ponctuel ?
Gill a insisté sur le fait que l’inclusion n’est pas une simple case à cocher, tandis que les co-présidents ont souligné à plusieurs reprises l’importance d’une participation universelle. Cela est important parce qu’une légitimité durable de la gouvernance de l’IA exige une représentation continue des pays et des parties prenantes, en particulier de ceux qui disposent de moins de capacités.
Comment la gouvernance de l’IA peut-elle être élaborée au moyen d’un processus itératif reliant la pratique aux normes à travers des dialogues successifs ?
Il a déclaré que le dialogue devait se poursuivre par itérations successives et renforcer le lien entre la pratique et les normes. Cela est important parce que l’IA évolue rapidement, de sorte que la gouvernance doit être adaptative, cumulative et éclairée par l’expérience.
Quels éléments de preuve le Groupe scientifique international indépendant sur l’intelligence artificielle devrait-il privilégier pour orienter les futures politiques ?
Guterres a indiqué que le panel scientifique fournirait une base factuelle commune, et Tammsaar a souligné l’importance du partage des connaissances scientifiques et d’un dialogue fondé sur des données probantes. Cela est important parce qu’une gouvernance solide repose sur des éléments de preuve crédibles, pluridisciplinaires et représentatifs à l’échelle mondiale.
