High-level multi-stakeholder plenary segment: Harnessing the benefits of AI for all through inclusive and interoperable approaches - part 2

Bosun Tijani soutient que la gouvernance de l'IA doit aller au-delà des principes abstraits et se traduire par des systèmes nationaux concrets que les pays peuvent réellement mettre en œuvre et évaluer. Il affirme que cela nécessite des stratégies nationales, des mécanismes de mesure, des institutions publiques compétentes, la confiance envers les organes de gouvernance, ainsi que des investissements durables dans les infrastructures et les talents.

Il affirme explicitement que la première étape consiste à passer des principes de gouvernance à des systèmes concrets, car l'IA affecte déjà la vie quotidienne et perturbe des secteurs entiers ainsi que des opportunités économiques . Il ajoute que chaque pays a besoin de stratégies claires pour l'adoption de l'IA et pour mesurer ce qui est gouverné . Il identifie en outre la capacité du secteur public, des institutions fiables, la mesure de l'impact et l'investissement dans les ressources de calcul et les talents comme des conditions nécessaires à une mise en œuvre significative , .

Tijani souligne que la capacité de gouvernance ne se limite pas à la formation d'ingénieurs ou de développeurs en IA. Les gouvernements ont également besoin de fonctionnaires qui comprennent la technologie et sont capables de suivre l'évolution rapide du domaine afin de mettre en œuvre efficacement les cadres de gouvernance.

Il demande comment s'assurer que les fonctionnaires chargés de la mise en œuvre disposent des connaissances nécessaires et peuvent suivre les évolutions du domaine . Il affirme ensuite que le renforcement des capacités doit couvrir non seulement les talents pour développer l'IA, mais aussi la capacité du secteur public, qu'il décrit comme extrêmement importante .

Tijani présente la confiance comme une exigence fondamentale de la gouvernance de l'IA. Selon lui, même des règles bien conçues échoueront si les institutions chargées de les mettre en œuvre ne bénéficient pas de la confiance du public et des parties prenantes.

Il affirme qu'il sera nécessaire de disposer d'institutions fiables, car les systèmes de gouvernance ne peuvent véritablement fonctionner si les populations ne font pas confiance aux institutions qui mettent en œuvre le cadre de gouvernance . Il présente ce point, aux côtés du leadership politique et de la mesure de l'impact, comme faisant partie des conditions pratiques nécessaires à une gouvernance efficace .

Tijani soutient que les pays ne peuvent pas bénéficier de l'IA ni la gouverner efficacement s'ils ne disposent pas des capacités de base nécessaires pour l'absorber et l'utiliser. Cela inclut la connectivité, les infrastructures et la capacité à participer au développement de l'IA plutôt que de rester de simples consommateurs passifs.

Il affirme que la gouvernance doit être liée à la capacité d'absorption des nations pour mettre l'IA à bon usage . Il explique que là où la connectivité est insuffisante, l'application de l'IA est limitée et la capacité des populations à la gouverner s'en trouve également affaiblie . Il ajoute que le manque d'infrastructures freine le développement contextuel de l'IA et une gouvernance appropriée, tandis que les pays qui ne peuvent que consommer l'IA sans la développer font face à des limitations évidentes .

Dans ses remarques de clôture, Tijani définit l'inclusion comme un accès réel aux bénéfices de l'IA, et non comme un simple accès à des outils importés. Il soutient que les pays ont besoin des infrastructures et des capacités nécessaires pour développer une IA adaptée à leurs propres contextes si l'inclusion doit être véritablement effective.

Il affirme que l'inclusion devrait être centrée sur l'accès aux bénéfices de l'IA et qu'un tel accès ne découlera pas du simple fait d'adopter ce qui a été développé ailleurs . Il soutient ensuite que les nations ont besoin de capacités, notamment en matière d'infrastructures, pour pouvoir développer des solutions adaptées à leur contexte, ce qu'il considère comme essentiel à la concrétisation des bénéfices de l'IA .

Tijani avertit que l'accès inégal aux infrastructures essentielles de l'IA, notamment la puissance de calcul, pourrait créer une fracture plus profonde que la fracture numérique liée à internet. Il appelle à une clarté pratique et à des investissements dans la puissance de calcul partagée et d'autres prérequis afin que davantage de pays puissent participer de manière significative.

Il indique que la plateforme de l'ONU peut contribuer à clarifier l'accès à la puissance de calcul partagée au sein des régions et entre les pays . Il soutient également que les nations ont besoin de prérequis essentiels en place et avertit que si les investissements et le soutien aux infrastructures ne sont pas mobilisés, le fossé en matière d'IA deviendra plus important que la fracture observée lors de l'émergence d'internet .

Marwala soutient que le principal obstacle à la mise en œuvre est la fragmentation entre les multiples systèmes de gouvernance de l'IA. Les organisations internationales, les États et l'industrie développant des approches distinctes, certains acteurs peuvent exploiter les juridictions les plus permissives, ce qui rend l'harmonisation et la coordination pratique indispensables.

Il définit le problème comme un « arbitrage de la gouvernance de l'IA », expliquant que des modèles de gouvernance émergent au niveau international, dans l'industrie et parmi les États membres, mais qu'ils ne sont pas coordonnés . Il illustre cela en affirmant qu'une personne intéressée par les données se rendra dans un pays où la réglementation est plus souple, et que la même logique s'applique aux capacités de calcul . Il conclut qu'un mécanisme est nécessaire pour harmoniser ces approches et que les institutions doivent être réunies non seulement pour le dialogue, mais aussi au niveau opérationnel , .

Marwala considère l'éducation comme le mécanisme central pour faire fonctionner la gouvernance de l'IA. Il soutient qu'une large culture est nécessaire dans les domaines techniques, les normes, les politiques et l'élaboration des lois, afin que les praticiens comme les législateurs puissent agir de manière responsable et efficace.

Il affirme à plusieurs reprises que les individus ont besoin d'être formés aux données, aux algorithmes, à l'informatique et aux applications possibles de l'IA . Il ajoute que les normes devraient être intégrées dans les programmes scolaires afin que les personnes qui conçoivent des systèmes y soient exposées dès le début . Il souligne également la nécessité de former les législateurs pour qu'ils puissent élaborer une législation sensée sur l'IA .

Marwala soutient que la prochaine étape de la gouvernance mondiale de l'IA est l'action concrète plutôt que des discussions répétées. Il présente également la gouvernance comme un exercice d'équilibre, dans lequel les institutions doivent aider à arbitrer des compromis entre des valeurs concurrentes et des choix techniques.

Il affirme clairement vouloir passer des paroles aux actes, notamment en ce qui concerne l'accès des pays du Sud à la technologie et la démocratisation de cet accès . Il explique ensuite que la gouvernance est un problème d'équilibre entre la recherche d'opportunités et l'aversion au risque . À titre d'exemples, il soulève la nécessité de déterminer l'équilibre entre transparence et sécurité, ainsi qu'entre l'utilisation de données synthétiques et de données authentiques .

Yi Zeng soutient que le consensus sur les principes éthiques ne s'est pas traduit par une mise en œuvre fiable. Il indique que les tests révèlent que les modèles de langage actuels échouent souvent lorsque l'éthique et la sécurité sont examinées de manière rigoureuse et sous des formes variées dans des contextes réels.

Il souligne qu'il existe déjà un large consensus sur les principes éthiques de l'IA, en citant la recommandation de l'UNESCO sur l'éthique et le rapport de l'organe consultatif . Il explique que lorsque les principes de haut niveau ont été traduits en environ 90 considérations plus précises et testés, les performances ont chuté fortement lorsque la même question était posée de nombreuses façons différentes, passant d'environ 98 à 58 . Il rapporte également des résultats de tests de sécurité montrant que même les meilleurs systèmes pouvaient être attaqués avec succès 60 % du temps et les moins performants 40 % du temps, révélant de sérieuses faiblesses pratiques .

Yi Zeng soutient que le dialogue mondial doit produire des résultats tangibles, et pas seulement des discussions. Il affirme que l'éthique et la sécurité doivent définir des lignes rouges et orienter le développement de l'IA dans une direction constructive, plutôt que d'être perçues comme des contraintes anti-innovation.

Dans ses remarques de clôture, il indique que le dialogue doit aboutir à des résultats et que le développement de l'IA nécessite impérativement des lignes rouges si l'éthique et la sécurité sont prises au sérieux . Il soutient ensuite que l'éthique et la sécurité ne constituent pas un rejet du développement de l'IA, mais contribuent au contraire à identifier la bonne direction et à soutenir un progrès sain et régulier .

Yi Zeng soutient qu'une meilleure compréhension de l'IA par le public est essentielle pour une gouvernance responsable. Il souhaite que les scientifiques communiquent les capacités et les limites réelles des systèmes actuels afin que la société ne les confonde pas avec une intelligence de type humain.

Il affirme que le grand public a besoin d'une meilleure culture numérique et que les scientifiques devraient aider le monde à mieux comprendre l'état actuel de l'IA . Il souligne qu'il n'y a « aucune magie » dans les systèmes actuels et décrit l'IA comme une machine qui traite l'information sans véritablement la comprendre .

Yi Zeng soutient que des tests systématiques révèlent de sérieuses faiblesses dans les systèmes d'IA actuels. Étant donné que les modèles peuvent sembler performants lors de tests simplifiés mais échouer face à des questions plus rigoureuses et à des attaques adversariales, il considère qu'une évaluation plus robuste est urgentemente nécessaire.

Il décrit une méthode de test dans laquelle environ 10 principes éthiques de haut niveau ont été décomposés en 90 considérations plus précises, puis soumis à des modèles de langage . Il rapporte que bien que les modèles aient semblé obtenir des scores très élevés au départ, leurs performances sont tombées à 58 lorsque la même question a été reformulée de 100 façons différentes . Il cite également des tests de sécurité adversariaux montrant des attaques réussies contre les meilleurs systèmes 60 % du temps et contre les plus faibles 40 % du temps .

Whitney Baird présente l'inclusion multipartite comme un principe fondamental de la gouvernance de l'IA. Elle soutient que, dans la mesure où les promesses et les risques de l'IA concernent de nombreux acteurs, une gouvernance efficace exige la participation de toutes les parties prenantes, plutôt que de laisser la prise de décision à un seul pays ou secteur.

D'emblée, elle affirme que compte tenu des promesses et des risques liés au développement et à la mise en œuvre de l'IA, toutes les parties concernées doivent avoir leur place à la table . Dans sa synthèse finale, elle réaffirme que la gouvernance de l'IA ne peut être assurée par une seule partie prenante ou un seul pays, et qu'elle dépendra d'une collaboration soutenue entre les gouvernements, l'industrie, le monde académique, la société civile et la communauté internationale .

Baird soutient que la supervision de l'IA ne peut être confiée uniquement à des experts techniques ou à des machines. Elle insiste sur l'importance du jugement humain, de la pensée critique et de perspectives sociales larges — y compris celles des non-ingénieurs et du grand public — pour décider comment l'IA doit être déployée et à quelles conditions elle peut être considérée comme fiable.

Après les remarques de Yi Zeng, elle souligne le besoin crucial que les êtres humains restent dans la « chaîne de commandement » . Elle ajoute que la société a besoin non seulement d'ingénieurs, mais aussi de philosophes et d'autres personnes capables d'apporter la perspective la plus large possible sur les questions de déploiement, d'utilisation de l'information et de confiance .

Baird présente l'évaluation comme un mécanisme concret pour rendre la gouvernance de l'IA plus digne de confiance. Dans son rôle de modératrice, elle associe l'évaluation à une plus grande certitude pour les parties prenantes et fait de la confiance un critère récurrent pour déterminer si les systèmes de gouvernance seront acceptés.

Après l'intervention de Rumman Chowdhury, elle déclare que l'évaluation est un moyen de renforcer la confiance et d'apporter de la certitude . Plus tôt, elle avait également souligné l'importance capitale de la confiance en réponse aux commentaires de Bosun Tijani, montrant qu'elle la considère comme une préoccupation centrale de la gouvernance .

Rumman Chowdhury soutient que la gouvernance mondiale de l'IA existante a eu tendance à consolider l'influence des acteurs qui détiennent déjà le pouvoir. Elle estime que le dialogue onusien offre une occasion de rompre avec cette tendance en intégrant délibérément les perspectives du Sud global et de la majorité mondiale.

Elle affirme que si l'IA a encore désespérément besoin d'une gouvernance mondiale, ce qu'elle a observé est une forme de gouvernance fondée sur la consolidation du pouvoir de ceux qui le détiennent déjà . Elle soutient ensuite que ces dialogues créent une opportunité de réorienter la direction et appelle explicitement à un engagement concret avec les pays du Sud global et de la majorité mondiale .

Chowdhury soutient la souveraineté en matière d'IA, mais rejette l'idée que celle-ci devrait conduire à la fragmentation ou au désengagement. Elle affirme que les pays devraient conserver la maîtrise du développement de l'IA tout en continuant à coopérer à l'échelle internationale, en particulier dans un contexte géopolitique tendu.

Elle dit vouloir voir s'engager une discussion sur la souveraineté qui ne sacrifie pas le concept de coopération . Elle note que la géopolitique actuelle semble chargée de tensions et que certains accords de coopération internationale semblent être remis en cause . Elle conclut que, si elle soutient fermement la souveraineté et l'appropriation des modèles et modalités d'IA, les pays devraient néanmoins s'engager dans la coopération internationale plutôt que de se fermer les uns aux autres .

Chowdhury soutient que la véritable souveraineté en matière d'IA repose sur les personnes, et non uniquement sur les infrastructures ou les modèles. Elle affirme que seuls les êtres humains sont capables d'interpréter le contexte et de déterminer ce qui constitue une performance acceptable ou réussie de l'IA dans la société.

Elle définit la véritable souveraineté en matière d'IA comme une combinaison de bonne gouvernance et d'expertise sectorielle, ce qui nécessite de cultiver le capital humain . Elle affirme ensuite que seuls les êtres humains peuvent comprendre le contexte et définir la performance des modèles, car ce sont les personnes qui doivent façonner la manière dont l'IA est utilisée dans le monde .

Chowdhury soutient que le pouvoir le plus important dans la gouvernance de l'IA est celui d'évaluer les systèmes. Pour elle, l'évaluation est le lieu où les sociétés tranchent des questions normatives sur le caractère approprié, bénéfique ou nuisible des systèmes dans leur utilisation réelle.

Elle affirme directement que le pouvoir de l'IA réside non pas dans le développement, mais dans l'évaluation . Elle l'explique en posant la question suivante : quel pouvoir est plus grand que celui de définir ce qui est bon ou mauvais, juste ou injuste, établissant ainsi un lien entre l'évaluation et l'autorité sociale de juger les résultats de l'IA .

Chowdhury propose des mesures institutionnelles concrètes pour élargir la participation du public et renforcer la responsabilité dans la gouvernance de l'IA. Elle soutient que les gouvernements devraient créer des évaluateurs indépendants, localiser les normes et recourir aux règles de passation des marchés publics pour s'assurer que les fournisseurs d'IA satisfont aux exigences d'évaluation.

Elle indique que, tandis que les pays investissent dans des centres de données, des modèles et des talents, la couche d'évaluation et l'infrastructure nécessaire pour intégrer les perspectives individuelles à grande échelle sont souvent négligées . Elle recommande ensuite trois mesures politiques : la création d'organes d'évaluation indépendants, l'opérationnalisation des normes d'évaluation selon des perspectives régionales et sectorielles, et l'intégration des exigences d'évaluation dans les marchés publics, de sorte que les contrats gouvernementaux et du secteur social ne soient attribués qu'aux organisations conformes .

Kate Kallot soutient que les idées dominantes sur ce que devrait être l'IA sont définies par trop peu d'acteurs issus d'une partie restreinte du monde. Elle souhaite que l'ONU remette en question cette situation en mettant en avant des modèles, des expériences et des données probantes différents, issus du Sud global et de la majorité mondiale.

Elle affirme qu'un résultat souhaité est un espace où le récit sur l'IA est déconstruit et reconstruit, car il a été porté par une partie très spécifique du monde et un ensemble très spécifique d'acteurs . Elle soutient que ces acteurs ont promu l'idée que l'IA doit nécessairement reposer sur de grands modèles généralistes et des usines à l'échelle du gigawatt, ce qu'elle rejette . Elle ajoute qu'il est nécessaire de faire émerger davantage de témoignages et de données probantes du Sud global et de la majorité mondiale .

Kallot soutient que la gouvernance de l'IA devrait autonomiser les personnes qui construisent et utilisent les systèmes localement, et pas seulement les élites présentes dans les forums mondiaux. Elle affirme que les développeurs, les entreprises et les communautés locaux détermineront concrètement l'évolution de l'IA et ont donc besoin de visibilité et de soutien.

Elle appelle à soutenir les entreprises et les développeurs qui s'efforcent de faire progresser l'IA dans leurs propres pays et d'aider leurs sociétés à se développer selon leurs propres termes . Elle demande également des plateformes où ils puissent faire connaître leurs innovations et prendre la parole dans des espaces comme le dialogue de l'ONU, affirmant qu'ils seront les véritables gardiens de ce que deviendra l'IA dans les années à venir .

Kallot soutient que la consultation après coup est insuffisante et que les communautés devraient être de véritables co-conceptrices des systèmes d'IA. Elle affirme que les utilisateurs locaux doivent contribuer à définir les problèmes, les cas d'usage et les cas limites avant que le codage et le déploiement ne commencent.

Elle indique qu'Amini fonctionne selon le principe que la consultation n'est pas adaptée à cet objectif et que la véritable souveraineté exige une appropriation locale . Elle conclut que l'approche la plus efficace consiste à associer les communautés dès la phase de conception, avant que le code ne soit écrit ou que les systèmes ne soient déployés, afin qu'elles puissent définir le problème, les cas d'usage, les cas limites et apporter leur vécu local .

Kallot soutient qu'une véritable souveraineté en matière d'IA exige que les données d'État critiques restent sous contrôle national. Elle affirme que les pays ne devraient pas avoir à choisir entre l'accès à des outils d'IA puissants et le maintien de leur juridiction sur les informations sensibles.

Prenant la Barbade comme exemple, elle indique qu'Amini a numérisé des millions de documents gouvernementaux, notamment des accords bilatéraux et des documents du cabinet datant de 2018 . Elle explique que cette base de connaissances intelligente reste à la Barbade, sous une infrastructure et une juridiction contrôlées par le gouvernement, permettant ainsi aux ministres et aux fonctionnaires d'utiliser les capacités des modèles de pointe sans envoyer de données sensibles hors du pays .

Kallot soutient que le renforcement des capacités doit être contractuel et concret, et non purement rhétorique. Elle estime que les prestataires externes devraient former progressivement les agents gouvernementaux et les ingénieurs locaux, afin que les systèmes puissent à terme être transférés et exploités de manière autonome.

Elle indique que dans chaque contrat gouvernemental, Amini inclut une obligation de transfert, plutôt que de se limiter à proposer une assistance technique ou un service client . Elle explique que les équipes locales forment des gestionnaires de données au sein du gouvernement ainsi que des ingénieurs sur les piliers opérationnels sur une période de deux à trois ans, à l'issue de laquelle les systèmes sont transférés lorsque l'équipe locale est prête .

Kallot soutient que l'appropriation locale devrait inclure la capacité à étendre et à développer les systèmes d'IA. Les outils d'IA publics en open source peuvent permettre aux développeurs locaux de contribuer des savoirs locaux, de créer de nouveaux services et de conserver davantage de valeur au sein du pays.

Elle indique qu'à la Barbade, Amini a publié en open source « ChatBB », un assistant IA visant à réduire les obstacles à l'accès aux services publics . Elle explique que, le système étant open source, les développeurs barbadiens peuvent s'appuyer dessus, tandis que des programmes de formation destinés aux jeunes locaux et aux data scientists leur permettent de contribuer de nouvelles applications et de nouveaux services qui enrichissent le système de contexte local et génèrent de la valeur économique localement .