Thematic discussion 4: Respecting, protecting and promoting human rights - Global Dialogue on Artificial Intelligence Governance - Day 2

Cet argument a déjà été repris ci-dessus dans les entrées de Volker Turk.

Bahous soutient que, sans réglementation, l'IA devient non seulement un miroir des inégalités sociétales existantes, mais aussi un puissant mécanisme d'amplification de la discrimination, de l'exclusion et de la violence à l'égard des femmes et des filles. Elle insiste sur le fait que la gouvernance de l'IA ne peut pas être traitée uniquement comme une question technique et qu'elle est fondamentalement une question de droits humains.

Bahous a déclaré que, sans réglementation, l'IA devient non seulement un miroir des inégalités qui existent déjà dans nos sociétés, mais aussi un puissant mécanisme d'amplification de la discrimination, de l'exclusion et de la violence à l'égard des femmes et des filles . Elle a fait référence aux cadres du droit international des droits de l'homme, notamment la Déclaration universelle des droits de l'homme, le Pacte international relatif aux droits civils et politiques, et la CEDAW, comme fournissant un cadre global de protection des droits .

Bahous présente des preuves que les systèmes d'IA reproduisent et amplifient des stéréotypes de genre néfastes parce qu'ils sont entraînés sur des données qui reflètent déjà les biais existants. Il ne s'agit pas d'un problème marginal, mais d'un problème systémique affectant près de la moitié de tous les systèmes d'IA évalués.

Bahous a cité des données montrant que 44 % des systèmes d'IA évalués présentent des biais de genre , et que les systèmes d'IA reproduisent et amplifient des stéréotypes néfastes parce qu'ils sont entraînés sur des données qui reflètent déjà les biais existants .

Bahous présente des statistiques alarmantes sur la dimension genrée des préjudices facilités par l'IA, notamment les deepfakes et les images sexuelles manipulées. Elle relie ce phénomène à un effet dissuasif plus large sur la participation des femmes à la vie publique et aux processus démocratiques.

Des recherches d'ONU Femmes ont révélé que près d'une femme sur quatre parmi les défenseures des droits humains, les militantes et les journalistes interrogées avait subi des violences en ligne assistées par l'IA, et que 6 % avaient été victimes de deepfakes ou d'images numériquement manipulées . Des recherches montrent que jusqu'à 99 % des deepfakes et des images sexuelles manipulées en ligne ciblent des femmes , et que 41 % de l'ensemble des femmes interrogées ont déclaré s'autocensurer sur les réseaux sociaux pour éviter les abus .

Bahous soutient que la responsabilité en matière de gouvernance de l'IA commence par quatre questions : qui développe l'IA, qui en bénéficie, qui en supporte les risques, et qui a voix au chapitre. Les données révèlent que les femmes sont systématiquement exclues de ces quatre dimensions.

Bahous a indiqué que les femmes ne représentent que 30 % de la main-d'œuvre mondiale dans le secteur de l'IA , et que 88 % des principaux chercheurs en IA sont des hommes, selon le rapport du groupe scientifique indépendant . Elle a également noté que, sur 138 pays évalués, seuls 24 font référence au genre dans leurs stratégies nationales d'IA, et que seulement 18 incluent des dispositions substantielles tenant compte du genre .

Bahous appelle à des évaluations d'impact sur les droits humains obligatoires avant et après le déploiement de l'IA, l'égalité de genre devant être traitée comme non négociable plutôt qu'optionnelle. Elle souligne également que la responsabilité exige une participation significative des femmes, des filles et des autres communautés concernées.

Bahous a appelé à des évaluations obligatoires de l'impact sur les droits humains avant et après le déploiement, avec l'égalité des genres traitée comme non négociable et non comme optionnelle , et a déclaré que les femmes et les filles, les technologues féministes, les communautés autochtones, les organisations de travailleurs, les défenseurs des droits des personnes handicapées et la société civile doivent être impliqués et habilités de manière significative .

Bahous soutient que la responsabilité dans la gouvernance de l'IA exige une participation authentique de ceux qui sont les plus touchés, notamment les femmes et les filles, les technologues féministes, les communautés autochtones, les organisations de travailleurs, les défenseurs des droits des personnes handicapées et la société civile. Sans cela, les cadres de gouvernance ne parviendront pas à répondre aux besoins des personnes les plus exposées.

Bahous a déclaré que la responsabilité exige la participation, et que les femmes et les filles, les technologues féministes, les communautés autochtones, les organisations de travailleurs, les défenseurs des droits des personnes handicapées et la société civile doivent être impliqués et habilités de manière significative .

López Agueda soutient que le contexte géopolitique révèle que l'IA n'est pas simplement un produit de consommation, mais un outil politique aux implications profondes pour le pouvoir. Il pose le choix de manière tranchée : soit la gouvernance de l'IA défend les droits numériques, soit elle mène à l'oligarchie.

López Agueda a déclaré que le contexte géopolitique actuel nous montre que l'IA n'est pas un bien de consommation mais un outil politique, et qu'aujourd'hui l'IA est puissante et ne dispose que de deux voies : celle des droits numériques ou celle menant vers une oligarchie .

López Agueda avertit que sans une gouvernance mondiale inclusive de l'IA, le Sud global risque d'être réduit à n'être qu'un simple fournisseur de données et de ressources au profit des nations les plus puissantes. Il appelle à un dialogue mondial démocratique et inclusif sur l'IA.

López Agueda a déclaré que soit nous agissons, soit le Sud global ne servira qu'à alimenter les grandes puissances, car il ne sera qu'un simple fournisseur de données, et que nous devons donc adopter une approche inclusive et mondiale lorsque nous abordons la question de l'IA .

Nighat Dad soutient que la diligence raisonnable en matière de droits humains, telle qu'elle est actuellement pratiquée par la plupart des entreprises d'IA, ne répond pas aux exigences des Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l'homme. Elle intervient après que les décisions de co-conception ont été prises, uniquement là où les réglementations l'imposent, et sans la participation des personnes concernées.

Dad a déclaré que la diligence raisonnable en matière de droits humains intervient après que les décisions de co-conception ont été prises, là où les réglementations l'imposent, et sans la participation des personnes réellement concernées, ce qui signifie que ce qui existe dans la plupart des cas n'est pas de la diligence raisonnable, mais de la documentation . Elle a recommandé que les évaluations d'impact sur le genre et les droits de l'enfant soient obligatoires, menées avant le déploiement avec la participation des communautés concernées, et non simplement documentées .

Dad soutient que les entreprises mènent des évaluations significatives des droits humains principalement là où la loi l'exige, comme dans l'UE, puis déploient les mêmes systèmes dans les pays du Sud sans processus équivalents. Il s'agit d'un choix structurel, et non d'un manque de capacité, qui crée un régime de droits à deux vitesses.

Dad a déclaré que les entreprises mènent des évaluations significatives là où la loi l'exige, principalement dans l'UE, puis déploient le même système dans les pays du Sud sans processus équivalent, et a qualifié cela de choix structurel, et non de manque de capacité . Elle a noté que la profondeur d'une évaluation des risques dépend non pas du risque encouru, mais de la juridiction dans laquelle on se trouve .

Dad soutient que lorsque les femmes se retirent des espaces numériques en raison de violences basées sur le genre facilitées par la technologie, il ne s'agit pas seulement d'un préjudice individuel, mais d'un préjudice collectif pour le discours public et la participation démocratique. Tout cadre de diligence raisonnable qui ne traite pas explicitement cette question exclut la moitié de la population de sa protection.

L'organisation de Dad, la Digital Rights Foundation, a documenté plus de 23 000 cas de violences facilitées par la technologie sur 10 ans, touchant de manière disproportionnée les femmes, les filles et les jeunes, notamment des images synthétiques non consensuelles, une modération automatisée défaillante en ourdou, en hindi et en bengali, ainsi que des systèmes de recommandation qui amplifient le harcèlement sexiste . Elle a déclaré que lorsque les femmes se retirent des espaces numériques, cela constitue un préjudice collectif pour le discours public et la participation démocratique .

Dad formule trois recommandations concrètes : des évaluations d'impact obligatoires sur le genre et les droits de l'enfant avant le déploiement, avec la participation des communautés concernées ; des obligations uniformes de diligence raisonnable en matière de droits humains sur tous les marchés ; et des évaluations répétées chaque fois que les capacités de l'IA évoluent de manière significative, notamment en cas d'augmentation des fonctions agentiques.

Dad a recommandé que les évaluations d'impact sur le genre et les droits de l'enfant soient obligatoires, menées avant le déploiement avec la participation des communautés concernées, et non simplement documentées , et que les obligations de diligence raisonnable en matière de droits humains s'appliquent de manière uniforme sur tous les marchés où un système est déployé, soulignant qu'une évaluation des risques couvrant Bruxelles mais pas le Pakistan, le Kenya ou le Brésil ne constitue pas une diligence raisonnable .

Dad soutient que le problème des preuves dans la gouvernance de l'IA est fondamentalement un problème de ressources. Les organisations de la société civile dans les pays du Sud sont les premières à détecter les préjudices liés à l'IA, mais leur documentation est non financée, précaire et traitée comme une anecdote plutôt que comme une preuve.

Dad a souligné que son organisation avait documenté la production d'images intimes synthétiques ciblant les femmes des années avant que ce phénomène ne s'invite dans les discussions politiques mondiales, mais que cette documentation est non financée, précaire et traitée comme une anecdote plutôt que comme une preuve . Elle a appelé à ce que ce système d'alerte précoce existant soit doté de ressources et connecté aux processus décisionnels, y compris au panel scientifique .

Chetty soutient que les modèles de gouvernance dominants, ancrés dans l'IA éthique ou responsable, demeurent structurellement insuffisants, car ils sont en grande partie autorégulateurs, pilotés par des acteurs dominants et calibrés pour les pays à revenus élevés. Elle propose le cadre Just AI comme alternative normative enracinée dans le droit international des droits de l'homme.

Chetty a déclaré que les modèles de gouvernance dominants, fondés sur les notions d'IA éthique ou responsable, restent structurellement insuffisants, dans la mesure où ces cadres sont en grande partie autorégulateurs, pilotés par des acteurs dominants, calibrés pour les pays à revenus élevés et ne tiennent pas compte de la souveraineté ni de l'autonomie . Elle a soutenu que ces cadres approfondissent les inégalités existantes en extrayant de la valeur des individus, des communautés et des nations sans contrepartie, contribution ni contrôle .

Chetty soutient que la gouvernance de l'IA est indissociable de la gouvernance des données, et que la séparation de ces deux domaines dans les forums internationaux occulte les enjeux fondamentaux de justice des données qui doivent guider tous les systèmes d'IA. La justice des données est essentiellement éclairée par un droit d'accès aux données sous des formes substantielles et procédurales.

Chetty a appelé à établir une compréhension mondialement reconnue selon laquelle la gouvernance de l'IA est indissociable de la gouvernance des données, et a déclaré que la séparation entre la gouvernance des données et la gouvernance de l'IA dans les forums internationaux occulte la justice des données fondamentale qui doit guider tous les systèmes d'IA .

Gutiérrez soutient que l'évolution rapide du paysage du développement de l'IA signifie que la gouvernance ne peut se limiter à la seule réglementation. Ce qu'il faut, c'est l'adoption d'un nouveau contrat social, tant au niveau international qu'au niveau national, qui réponde à la question fondamentale de ce que la technologie fait aux êtres humains.

Gutiérrez a déclaré que nous devrions parler de gouvernance et de l'adoption d'un nouveau contrat social, non seulement dans le contexte international mais aussi dans le contexte national . Il a également souligné la séparation entre légalité et légitimité dans le contexte international, ainsi que l'importance de comprendre l'impact du développement technologique sur les êtres humains, plutôt que de se concentrer uniquement sur ce que les êtres humains peuvent faire avec la technologie .

Lampel soutient que l'état de droit exige la mise en œuvre de cadres juridiques contraignants de manière égale, sans égard pour la richesse, le pouvoir ou l'influence, et que la communauté internationale doit commencer à appliquer le droit international des droits de l'homme dès aujourd'hui. Il propose trois actions concrètes : des lignes rouges en matière d'IA, des certifications standardisées liées aux règles de passation des marchés, et un droit à réparation.

Lampel a fait référence à la résolution de l'Assemblée générale des Nations Unies de 2024 sur les systèmes d'IA sûrs, fiables et dignes de confiance pour le développement durable, comme soutenant explicitement le concept de lignes rouges en matière d'IA , et a cité les recommandations de l'UNESCO sur l'éthique de l'IA comme excluant déjà explicitement l'utilisation de l'IA à des fins de notation sociale et de surveillance de masse .

Cassayre soutient que les droits de l'homme et l'état de droit doivent sous-tendre le développement et le déploiement des technologies numériques, notamment dans le secteur de la justice. Les systèmes d'IA doivent être conçus pour élargir l'accès, répondre aux besoins des personnes et prévenir de nouvelles formes d'exclusion et d'inégalité tout au long de leur cycle de vie.

Cassayre a formulé trois recommandations : les droits de l'homme et l'état de droit doivent sous-tendre le développement et le déploiement des technologies numériques ; des cadres juridiques et réglementaires adaptés doivent accompagner l'innovation ; et des investissements dans les capacités institutionnelles sont nécessaires, notamment pour renforcer l'infrastructure numérique publique au service de la justice et améliorer la culture de l'IA parmi les professionnels du droit et de la justice .

Arias Arzeno soutient que le véritable défi de la gouvernance de l'IA ne réside pas dans l'adoption de lois ou de principes éthiques, mais dans ce qui se passe lorsqu'une personne estime qu'un système d'IA a violé ses droits fondamentaux. Les systèmes judiciaires sont des institutions essentielles pour traduire les principes en réalité et garantir la responsabilité lorsque l'IA cause un préjudice.

Arias Arzeno a déclaré que la gouvernance n'est plus seulement un concept, mais devient une réalité au moment où une personne considère qu'un système d'IA a violé ses droits fondamentaux et sa vie privée en matière de données . Il a défini quatre priorités pour renforcer les systèmes judiciaires : renforcer les capacités institutionnelles des avocats et des jurés, garantir la transparence et la traçabilité dans l'utilisation de l'IA, assurer une supervision humaine effective, et veiller à ce que toutes les personnes disposent de mécanismes efficaces pour accéder à la justice et obtenir réparation .

Arias Arzeno soutient que l'utilisation de l'IA dans les tribunaux et les institutions publiques est déjà une réalité, et que le défi consiste à garantir que son utilisation soit transparente, responsable, auditable et compatible avec les droits de l'homme et l'état de droit. Aucune institution ne peut se soustraire à sa responsabilité en attribuant une décision à un système d'IA.

Arias Arzeno a déclaré qu'aucune institution publique ne peut justifier une décision en affirmant que c'est ce que le système lui a indiqué de faire, et que la responsabilité doit incomber aux personnes et aux institutions, la technologie aidant le juge sans jamais le remplacer .

El Fallah Seghrouchni soutient que la responsabilité dans les systèmes agentiques constitue le défi juridique le plus important de la décennie, car les réseaux d'agents IA individuellement autonomes produisent des décisions finales sans qu'aucun être humain n'en soit à l'origine. Il est extrêmement difficile de répartir la responsabilité entre les agents ou de remonter la chaîne pour identifier l'origine d'une erreur.

El Fallah Seghrouchni a cité l'exemple de la plateforme Iderati X.0 au Maroc, qui traite 52 millions de transactions administratives par jour, soulignant que lorsqu'un problème survient, il est très difficile d'en identifier la cause exacte . Elle a décrit le défi que représentent les LLMs dotés de 175 à 180 milliards de paramètres et la difficulté d'assurer la responsabilité pour ce qui apparaît dans ces systèmes .

El Fallah Seghrouchni propose trois obligations concrètes en matière de responsabilité dans les systèmes d'IA agentiques : une documentation structurée des chaînes d'agents précisant qui fait quoi et quand ; la désignation d'un être humain identifiable responsable de toutes les questions liées aux droits ; et un droit à un recours en temps utile, en adéquation avec la rapidité des systèmes d'IA.

El Fallah Seghrouchni a proposé que lorsque des agents sont déployés dans des services publics, il doit exister une documentation structurée des chaînes d'agents, un être humain identifiable responsable de toutes les questions liées aux droits, et un droit à un recours en temps utile en adéquation avec la rapidité des systèmes d'IA . Elle a conclu que le fonctionnement de l'algorithme ne doit jamais être autonome en ce qui concerne les droits et la loi .

Luccioni soutient que la transparence sur la consommation énergétique et les coûts environnementaux de l'IA est un droit humain fondamental, car elle permet aux utilisateurs de faire des choix éclairés entre les outils. Sans cette information, tout choix réel et toute responsabilisation sont impossibles.

Luccioni a déclaré que la transparence est un droit humain fondamental que les utilisateurs devraient obtenir lorsqu'ils utilisent l'IA, en demandant quel en est le coût, d'où proviennent les données et d'où vient l'énergie, afin que les utilisateurs puissent choisir entre l'outil A ou l'outil B . Elle a noté que même des organisations comme l'IEA peinent à obtenir cette information, car les pays membres eux-mêmes ne la détiennent pas .

Luccioni soutient que l'IA agentique aggrave une situation déjà difficile en matière de transparence et de responsabilité, en ajoutant davantage de couches entre les utilisateurs et la technologie sous-jacente. À mesure que les systèmes d'IA deviennent plus agentiques, il devient de plus en plus difficile d'identifier l'origine des défaillances.

Luccioni a décrit la progression depuis les modèles d'IA pouvant être interrogés directement, vers des systèmes d'IA dotés de filtres et de composants supplémentaires, jusqu'aux agents d'IA présentant des degrés de séparation encore plus importants, soulignant que lorsqu'une défaillance survient, on ne sait pas d'où elle provient . Elle a appelé à imposer des garde-fous et des normes de sécurité et de durabilité à chaque composant du système, quel que soit leur nombre .

Luccioni soutient que si les bénéfices de l'IA peuvent techniquement être mondiaux, les impacts environnementaux négatifs sont très locaux, concentrés autour des centres de données en termes d'eau, d'énergie, d'émissions et de santé. Ces impacts locaux affectent de manière disproportionnée les populations les plus marginalisées.

Luccioni a déclaré que si les bénéfices de l'IA peuvent techniquement être mondiaux, les impacts négatifs en termes d'eau, d'énergie, d'émissions et de santé sont très locaux et touchent les populations les plus marginalisées . Elle a noté que les centres de données constituent un moyen concret d'ancrer le débat sur les implications de l'IA en matière de droits de l'homme .

Luccioni met en évidence un déficit de transparence significatif concernant la consommation énergétique de l'IA, notant que même de grandes organisations internationales comme l'IEA ne parviennent pas à obtenir des données fiables de leurs pays membres. Ce manque de transparence empêche toute responsabilisation réelle et toute prise de décision éclairée.

Luccioni a déclaré que des organisations comme l'IEA, avec laquelle elle a collaboré, peinent à obtenir des informations sur la consommation énergétique de l'IA, car même les pays membres ne disposent pas de ces données . Elle a décrit la transparence comme un combat qu'elle mène depuis plusieurs années en tant que droit humain fondamental .

Luccioni propose des étiquettes d'efficacité énergétique pour les modèles d'IA comme première étape concrète vers la transparence et la responsabilité concernant l'impact environnemental de l'IA. Plutôt que de restreindre immédiatement le déploiement, elle préconise de d'abord quantifier et mesurer les impacts afin que les personnes puissent prendre des décisions éclairées.

Luccioni a décrit le projet AI Energy Score, qui crée des étiquettes d'efficacité énergétique pour les modèles d'IA analogues aux étiquettes énergétiques des appareils électroménagers, comme une étape vers une prise de décision éclairée . Elle a soutenu que la quantification et la mesure des impacts constituent le préalable à de nombreuses autres actions qui peuvent et doivent être entreprises en matière d'IA .

Aerdts présente les outils pratiques des Pays-Bas en matière de responsabilité de l'IA comme des exemples concrets de la manière dont les exigences légales peuvent être traduites en lignes directrices opérationnelles. Ceux-ci comprennent un cadre algorithmique, une évaluation d'impact sur les droits fondamentaux et les algorithmes, ainsi qu'un registre des algorithmes.

Aerdts a décrit le cadre algorithmique des Pays-Bas qui traduit les exigences légales en lignes directrices pratiques pour les organisations publiques, notamment un manuel sur l'équité, des instruments de test des biais et des évaluations du profilage à risque . Elle a également mentionné l'évaluation d'impact sur les droits fondamentaux et les algorithmes, qui aide à identifier les risques liés aux droits humains dans les systèmes d'IA , ainsi que le registre des algorithmes qui répertorie l'ensemble des algorithmes utilisés par le gouvernement néerlandais dans un souci de transparence .

Aerdts soutient que lors de l'élaboration de politiques destinées aux enfants et aux jeunes, ceux-ci doivent être véritablement associés au processus décisionnel. Elle souligne un manque criant : les jeunes sont confrontés à des problèmes trop importants pour leurs éducateurs ou leurs parents, mais jugés trop mineurs pour la police, les laissant sans soutien concret.

Aerdts a indiqué que les Pays-Bas s'adressent aux panels de jeunes de l'UNICEF et souhaitent également associer les parents, tout en veillant à ce que les plateformes assument leurs responsabilités . Elle a rapporté que lors d'échanges avec des jeunes, ceux-ci ont mentionné que certains problèmes auxquels ils sont confrontés sont trop importants pour leurs éducateurs ou leurs parents, mais semblent trop mineurs pour la police, les laissant à la recherche d'un moyen concret d'y remédier .

Cet argument a déjà été repris ci-dessus dans les entrées de Jhalak M. Kakkar.

Cet argument a été avancé par Alvitta Ottley, et non par Sonia Livingstone. Veuillez consulter la fiche d'Alvitta Ottley pour cet argument.

Lametti décrit l'approche législative proposée par le Canada en matière de sécurité de l'IA pour les enfants, qui exigerait que les chatbots d'IA soient déclarés sûrs avant de pouvoir être accessibles aux enfants. Un commissaire au numérique serait créé pour veiller au respect de cette exigence.

Lametti a présenté la nouvelle politique du Canada, L'IA pour tous, qui vise à garantir le droit à la vie privée et la sécurité dans l'utilisation de l'IA, ainsi qu'un nouveau projet de loi sur les enfants qui interdirait l'accès de toute plateforme sociale aux moins de 16 ans jusqu'à ce qu'elle soit déclarée sûre . Il a précisé que les chatbots d'IA devraient également être déclarés sûrs avant d'être accessibles aux enfants, avec un commissaire au numérique chargé d'assurer la conformité .

Henriques plaide au nom de plus de 120 signataires d'une déclaration commune que les droits des enfants doivent être au cœur de la gouvernance de l'IA en tant que considération transversale. Les enfants comptent parmi les premiers et les plus fréquents utilisateurs des nouvelles technologies, et pourtant ils restent largement absents des stratégies nationales en matière d'IA et des cadres de gouvernance.

Henriques s'est exprimée au nom de plus de 120 signataires de la Déclaration commune sur les droits des enfants dans le cadre du Dialogue sur l'IA, une campagne mondiale coordonnée par la Five Rights Foundation . Elle a souligné que les enfants comptent parmi les premiers et les plus fréquents utilisateurs des nouvelles technologies, tout en restant largement absents des stratégies nationales en matière d'IA et des cadres de gouvernance .

Henriques soutient que les enfants ne doivent pas être traités comme un groupe homogène dans les discussions sur la gouvernance de l'IA. Les enfants autochtones, les filles, les enfants handicapés et les enfants d'ascendance africaine subissent des impacts disproportionnés dus aux lacunes de la gouvernance de l'IA, et leurs intersectionnalités doivent être reconnues.

Henriques a déclaré que les enfants ne constituent pas un groupe homogène et que nous devons reconnaître leurs intersectionnalités, notant que les droits des enfants autochtones, des filles, des enfants handicapés et des enfants d'ascendance africaine sont affectés de manière disproportionnée en raison des lacunes de la gouvernance de l'IA . Elle a mis en avant l'ECA Digital du Brésil comme un cadre de référence pour la protection des droits des enfants dans l'environnement numérique .

Henriques soutient que les enfants ne devraient interagir qu'avec des systèmes d'IA dont la sécurité a été prouvée et qui sont conçus pour respecter les droits des enfants, en tenant compte de leurs perspectives dans les décisions qui les concernent. La responsabilité doit incomber à ceux qui construisent et tirent profit de la technologie, et non aux enfants ou aux parents.

Henriques a déclaré que les enfants ne devraient interagir avec les systèmes d'IA que si ceux-ci sont avérés sûrs et conçus pour respecter les droits des enfants, en tenant compte de leurs perspectives dans les décisions qui les concernent . Elle a souligné que la responsabilité doit incomber à ceux qui construisent et tirent profit de cette technologie .

Eghobamien-Mshelia soutient que la CEDAW fournit un cadre essentiel pour aborder les réalités genrées de la gouvernance de l'IA. Elle oblige les États non seulement à interdire la discrimination, mais à parvenir à une égalité réelle en s'attaquant aux obstacles structurels et réglementaires, aux stéréotypes et aux rapports de force inégaux.

Eghobamien-Mshelia a déclaré que la CEDAW oblige les États non seulement à interdire la discrimination, mais à parvenir à une égalité réelle en s'attaquant aux obstacles structurels et réglementaires, aux stéréotypes et aux rapports de force inégaux . Elle a souligné que la CEDAW reconnaît également que la discrimination est souvent aggravée par des facteurs tels que la race, le handicap, l'âge, le statut migratoire et la pauvreté, ce qui nécessite des mesures ciblées et proactives pour lutter contre les discriminations intersectionnelles .

Smyth soutient que les campagnes de désinformation amplifiées par l'IA et les discours haineux portent atteinte au droit des femmes et des filles à exercer leur liberté d'expression en les contraignant à s'autocensurer, à fermer leurs comptes numériques ou à se retirer des espaces en ligne. Cela contribue à un effet dissuasif plus large sur leur participation pleine et égale à la société.

Smyth a déclaré que les campagnes de désinformation amplifiées par l'IA et les discours haineux portent atteinte au droit des femmes et des filles à exercer leur liberté d'expression en les contraignant à s'autocensurer, à fermer leurs comptes numériques ou à se retirer de leur participation aux espaces en ligne . Elle a souligné que cela contribue à un effet dissuasif plus large sur leur participation pleine, égale et significative à la société .

Smyth soutient que le déploiement de l'IA pour la modération de contenu en ligne sans supervision humaine peut amplifier la désinformation, compromettant ainsi l'intégrité du paysage informationnel. Cela affecte de manière disproportionnée les femmes et les filles.

Smyth a déclaré que le déploiement de l'IA pour la modération de contenu en ligne sans supervision humaine peut amplifier la désinformation, compromettant ainsi l'intégrité du paysage informationnel, et que cela affecte de manière disproportionnée les femmes et les filles .

Brant met en lumière l'action législative du Brésil contre les violences de genre facilitées par l'IA, notamment un décret établissant des responsabilités proactives pour les plateformes et les entreprises d'IA, y compris l'interdiction de créer des images intimes synthétiques basées sur de vraies personnes tierces.

Brant a décrit le statut numérique brésilien pour les enfants et les adolescents en ligne, qui exige des plateformes qu'elles adoptent des mesures de protection de l'enfance dès la phase de conception et interdit la publicité ciblée basée sur les données personnelles des enfants . Il a également décrit un décret publié le mois précédent visant à lutter contre les violences envers les filles et les femmes dans les espaces en ligne, notamment l'interdiction de créer des images intimes synthétiques basées sur de vraies personnes tierces .

Brant plaide pour une conception élargie des droits de l'homme dans le débat sur l'IA, soulignant l'intégrité de l'information comme enjeu central. Il inscrit l'intégrité de l'information dans le cadre de l'Article 19, dans sa dimension collective ou sociale, englobant la nécessité d'un écosystème informationnel fournissant une information cohérente, exacte et fiable.

Brant a appelé à considérer l'intégrité de l'information comme faisant partie de l'Article 19, dans une conception élargie de l'accès à l'information dans sa dimension collective ou sociale, et a affirmé que nous avons besoin d'un écosystème informationnel capable de fournir une information cohérente, exacte et fiable . Il a également souligné que la manière dont l'IA soutient et affecte l'organisation économique et la viabilité du journalisme devrait être une source de préoccupation .

Park soutient que si les entreprises individuelles peuvent définir le risque lié à l'IA et évaluer leurs modèles en conséquence, le problème survient lorsque des systèmes multi-agents provenant de différentes entreprises sont interconnectés, chaque entreprise ayant sa propre définition du risque lié à l'IA. Des normes communes et bien conçues sont nécessaires pour garantir une diligence raisonnable cohérente en matière de droits de l'homme au sein de ces systèmes.

Park a indiqué que le problème se pose lorsque des systèmes multi-agents provenant de différentes entreprises sont interconnectés, celles-ci ayant leur propre définition du risque lié à l'IA, certains agents accordant plus d'importance aux droits de l'homme que d'autres . Il a cité la taxonomie des risques liés à l'IA issue du projet BTEC du HCDH comme un travail important qui doit être développé de manière plus concrète et pratique afin d'établir une base commune avec de nombreuses parties prenantes .

Park soutient que les enfants d'aujourd'hui sont des natifs de l'IA qui l'utilisent naturellement dans la recherche, les recommandations et l'apprentissage au quotidien. Il est donc important qu'ils développent des compétences en pensée critique pour interagir avec l'IA de manière équilibrée, et leurs voix devraient s'intégrer dans les discussions sur la gouvernance.

Park a déclaré que les enfants d'aujourd'hui sont des natifs de l'IA qui l'utilisent naturellement dans la recherche, les recommandations et l'apprentissage au quotidien, et qu'il est important qu'ils l'appréhendent avec un esprit critique . Il a suggéré que lorsque les programmes scolaires d'éducation et de discussion sont mis en lien avec des ONG et des comités compétents, les enfants peuvent exprimer la manière dont l'IA les affecte de façon équilibrée, et ces voix peuvent s'intégrer dans les discussions sur la gouvernance .

Ottley soutient qu'il existe un décalage fondamental entre les questions que les ingénieurs posent sur l'IA (peut-on la rendre plus rapide, plus précise, plus performante ?) et celles que les sociétés posent (les droits humains sont-ils protégés, les institutions sont-elles responsables, la société s'en porte-t-elle mieux ?). Ce sont tout simplement des questions différentes qui conduisent à des évaluations différentes du succès.

Ottley a illustré ce décalage en faisant remarquer qu'un parent ne demande pas si le modèle a obtenu 94 % sur un benchmark récent, mais s'il est utilisable par son enfant et si celui-ci sait quand ne pas lui faire confiance ; de même, un médecin ne demande pas s'il s'agit du dernier modèle en date, mais s'il peut s'y fier lorsque la vie d'un patient est en jeu . Elle a déclaré que les discussions en cours ne portent pas sur la question de savoir si l'IA est plus performante que l'année dernière, mais sur celle de savoir si les droits humains sont protégés, si les institutions restent responsables et si la société s'en porte mieux .

Ottley souligne un manque de données probantes significatif : si les données sur les performances des modèles d'IA sont abondantes, celles portant sur l'impact de l'IA sur la prise de décision des individus, l'apprentissage des enfants, les décisions cliniques ou le travail des agents publics sont très rares. Répondre à ces questions nécessite des études longitudinales et une collaboration interdisciplinaire.

Ottley a déclaré que nous disposons de nombreuses données sur les performances des modèles d'IA, mais de très peu sur la façon dont l'IA affecte la prise de décision des individus, l'efficacité de l'IA pour aider les enseignants à enseigner, son impact sur les décisions cliniques, son aide à l'apprentissage des enfants ou son effet sur le travail des agents publics . Elle a noté que répondre à ces questions nécessite des études longitudinales, des partenariats avec des organisations, des collaborations interdisciplinaires et un travail rigoureux avec des communautés protégées et mal desservies .

Ottley plaide pour une nouvelle façon de concevoir la relation entre la société et la science dans la gouvernance de l'IA. La société doit définir ce que représente le succès, la science doit déterminer comment le mesurer, et ensemble elles doivent construire les données probantes permettant de déterminer si ce succès est effectivement atteint.

Ottley a déclaré que la société doit décider de ce à quoi ressemble le succès et que la science doit déterminer comment le mesurer, et qu'ensemble elles doivent construire les données probantes qui nous indiquent si nous l'atteignons réellement . Elle a conclu que de bonnes décisions en situation d'incertitude ne découlent pas de l'élimination de l'incertitude, mais de la clarification des valeurs, de la rigueur des données probantes et de la compréhension de l'incertitude .

Ottley souligne un défi méthodologique rarement évoqué : les enfants constituent une catégorie protégée dans le cadre de la recherche, ce qui implique des limitations quant à ce qui peut être étudié et à la manière de le faire. Cela explique en partie le manque de données probantes sur l'impact de l'IA sur les enfants et signifie que les choses sont souvent développées sans que les enfants y soient associés.

Ottley a noté que les enfants, ainsi que les femmes enceintes et les personnes incarcérées, sont considérés comme une catégorie protégée de la population, ce qui implique des limitations quant à ce qui peut être étudié et à la manière de le faire, et constitue l'une des raisons pour lesquelles il existe un manque de données probantes sur l'impact de l'IA sur les enfants . Elle a déclaré que cela signifie également que, bien souvent, les choses sont développées sans que les enfants y soient associés .

Paullier soutient que les jeunes sont les utilisateurs les plus actifs de l'IA et constituent une grande partie des innovateurs au sein des entreprises technologiques spécialisées dans l'IA, pourtant ils ne sont presque jamais les décideurs. Il s'agit d'une lacune importante en matière de gouvernance, étant donné qu'ils vivront le plus longtemps avec les conséquences des décisions prises aujourd'hui.

Paullier a déclaré que les jeunes sont les utilisateurs les plus actifs de l'intelligence artificielle et constituent en réalité la majorité des innovateurs et créateurs au sein de certaines de ces grandes entreprises technologiques d'IA, mais qu'ils ne sont presque jamais les décideurs . Il a noté qu'ils vivront le plus longtemps avec les conséquences des décisions que nous prenons aujourd'hui .

Paullier soutient que des espaces significatifs permettant aux jeunes de participer à la gouvernance de l'IA doivent être créés, notamment au niveau national, et pas seulement dans les forums mondiaux. Les jeunes sont ceux qui ressentent en premier l'impact de la technologie dans leur éducation, leur emploi et leur vie numérique quotidienne, et ils comprennent le mieux à la fois les opportunités et les risques.

Paullier a déclaré que les jeunes sont ceux qui ressentent en premier l'impact de la technologie dans leur éducation, leurs cycles d'emploi et leur vie numérique quotidienne, et qu'ils forgent leur identité dans l'espace numérique . Il a soutenu que les jeunes sont ceux qui comprennent le mieux les opportunités que l'IA peut apporter, mais aussi ceux qui aideront à identifier les biais, les discriminations et les exclusions .

Paullier avertit que si des espaces significatifs ne sont pas créés pour permettre aux jeunes de participer à la gouvernance de l'IA, ceux-ci trouveront leur propre voie et créeront leurs propres espaces, comme cela s'est produit dans le domaine climatique. Cela souligne l'urgence d'une inclusion proactive.

Paullier a déclaré que si des espaces significatifs ne sont pas créés pour permettre aux jeunes de s'engager, ceux-ci trouveront leur voie et créeront leurs propres espaces, comme cela s'est produit dans le domaine climatique .

Paullier rapporte que, dans toutes les régions, les jeunes soulèvent systématiquement la dimension humaine et l'impact de l'IA sur le bien-être, la santé mentale et les relations humaines significatives comme leur préoccupation principale. Bien que les jeunes valorisent la technologie, ce qu'ils valorisent le plus, c'est le sentiment d'appartenance, la confiance et des relations humaines significatives.

Paullier a déclaré que ce que les jeunes et les citoyens en général valorisent le plus, c'est le sentiment d'appartenance, la confiance et des relations humaines significatives . Il a appelé à mettre l'accent sur l'impact des technologies sur le bien-être et la santé mentale des communautés, et à travailler non seulement pour les jeunes, mais avec les jeunes .

Osterling soutient que le journalisme est une espèce clé de voûte de l'écosystème informationnel qui stabilise la confiance, ancre la vérification, structure la responsabilité et permet aux autres institutions de fonctionner. Les systèmes d'IA sont entraînés sur des contenus journalistiques collectés sans consentement, compensation ni crédit, fragilisant ainsi les modèles économiques du journalisme et la confiance du public.

Osterling a cité la description faite par sa collègue du journalisme comme espèce clé de voûte de l'écosystème informationnel, soulignant que sa disparition n'entraîne pas une adaptation de l'écosystème, mais son effondrement . Elle a déclaré que les systèmes d'IA sont entraînés sur des contenus journalistiques collectés sans consentement, compensation ni crédit , et a plaidé pour une infrastructure numérique publique, des politiques industrielles garantissant une IA d'intérêt public, ainsi qu'une gouvernance de l'IA exigeant que les droits humains soient intégrés tout au long du cycle de vie des systèmes d'IA .

Tan soutient que la désinformation générée par l'IA et les discours haineux en ligne sont devenus des risques de protection directs pour les réfugiés et les personnes déplacées. Elle présente des exemples concrets tirés de la Libye et de la communauté Rohingya, où des contenus générés par l'IA ont attisé l'hostilité, les abus et la violence.

Tan a cité l'exemple de la Libye, où des discours haineux violents et des informations erronées dangereuses, notamment des contenus générés par l'IA, ont attisé l'hostilité et les abus envers les réfugiés et compromis la sécurité du HCR et des travailleurs humanitaires . Elle a également souligné que les Rohingya continuent de faire face à des discours déshumanisants en ligne, même en exil, et que ce type de haine peut alimenter les abus, l'exclusion, la violence et la peur .

Bellion-Jourdan soutient que les intérêts géopolitiques concurrents et les asymétries de pouvoir constituent des obstacles à la gouvernance mondiale de l'IA, et que le recours aux outils et techniques de la négociation multilatérale peut aider à surmonter ces défis. L'objectif est de passer du marchandage positionnel et des dynamiques gagnant-perdant à la négociation intégrative et aux résultats gagnant-gagnant.

Bellion-Jourdan a soutenu que si nous exploitons la puissance de la négociation avec tous ses outils et techniques pour naviguer dans les jeux de pouvoir et les asymétries de pouvoir, cela nous permettrait de dégager un terrain commun . Il a appelé à investir dans la conception des processus, la gestion des processus et les formats innovants de négociation, soulignant qu'il ne suffira pas d'enfermer 193 États dans une salle en espérant parvenir à un accord .

Kownacki salue la Convention-cadre du Conseil de l'Europe sur l'IA en tant que premier traité contraignant plaçant l'IA dans le cadre des droits de l'homme, de la démocratie et de l'état de droit. Il soutient que la Pologne traduit ces principes en pratique sur son territoire à travers sa stratégie nationale de numérisation et sa politique en matière d'IA.

Kownacki a déclaré que la Pologne accueille favorablement la Convention-cadre du Conseil de l'Europe sur l'IA, la décrivant comme le premier traité contraignant plaçant l'IA dans le cadre des droits de l'homme, de la démocratie et de l'état de droit . Il a noté que la politique nationale de la Pologne en matière d'IA s'engage en faveur d'une intelligence artificielle centrée sur l'humain et digne de confiance .

Kownacki soutient que le facteur humain — maintenir une personne ayant le dernier mot pour comprendre, contester et désactiver les décisions de l'IA — est non négociable et représente le terrain commun sur lequel une gouvernance véritablement mondiale de l'IA peut être construite. Cela doit être inscrit dans les valeurs, les lois, les normes et les institutions, et non laissé au rang de simple déclaration.

Kownacki a déclaré que, quelle que soit la capacité des systèmes d'IA, une personne doit conserver le dernier mot, pour comprendre la décision, la contester, et là où cela importe le plus, pour désactiver les systèmes, et que cela est non négociable, avant tout dans les systèmes à haut risque . Il a soutenu que le facteur humain n'appartient à aucune nation en particulier et constitue le terrain commun sur lequel une gouvernance véritablement mondiale de l'IA peut être construite .

Shahani soutient que la compatibilité entre les approches nationales de la gouvernance de l'IA n'exige pas l'uniformité. En revanche, un socle commun de garanties en matière de droits — incluant la divulgation, la contestabilité et le recours — doit s'appliquer à toute personne affectée par l'IA, avec un véritable pluralisme autorisé au-delà de ce socle.

Shahani a déclaré que la compatibilité entre les approches à l'échelle mondiale n'exige pas l'uniformité, et qu'il est possible d'établir un socle commun de garanties en matière de droits, incluant la divulgation, la contestabilité et le recours pour toute personne concernée, tout en permettant un véritable pluralisme au-delà de ce socle .

Shahani soutient que les déclarations de sécurité relatives aux systèmes d'IA doivent être accompagnées des conditions dans lesquelles les systèmes ont été testés, des limitations connues et des taux d'échec ventilés par langue, genre, handicap, région et teinte de peau. Sans cela, il est impossible de tenir un système responsable de ses défaillances.

Shahani a déclaré que les déclarations de sécurité doivent être accompagnées des conditions dans lesquelles les systèmes ont été testés, des limitations connues et des taux d'échec ventilés par langue, genre, handicap, région, teinte de peau et autres critères, et que la divulgation de la provenance des données d'entraînement doit être une pratique standard . Elle a souligné qu'il est impossible de tenir un système responsable si l'on ne peut pas voir où il échoue .

Shahani soutient que les pays de la majorité mondiale importent largement des modèles d'IA entraînés ailleurs et les déploient dans des contextes à enjeux élevés sans disposer des moyens pour les évaluer au préalable. Elle appelle à la mise en place d'une capacité d'évaluation des systèmes d'IA financée par des fonds publics et hébergée au niveau régional, avant leur déploiement, ainsi qu'à la création de benchmarks ouverts, élaborés avec et pour les langues sous-dotées en ressources.

Shahani a déclaré que les pays de la majorité mondiale importent largement des modèles entraînés ailleurs et les déploient dans des contextes à enjeux élevés sans disposer des moyens pour les évaluer au préalable, et a appelé à la mise en place d'une capacité d'évaluation des systèmes d'IA financée par des fonds publics et hébergée au niveau régional, avant leur déploiement, ainsi qu'à la création de benchmarks ouverts élaborés avec et pour les langues sous-dotées en ressources .

Shahani soutient que les savoirs autochtones et traditionnels sont intégrés dans les données d'entraînement de l'IA sans consentement, reconnaissance ni contrepartie. Elle appelle à ce que la gestion des données pilotée par les communautés soit reconnue comme faisant partie de la supervision humaine.

Shahani a déclaré que les savoirs autochtones et traditionnels sont intégrés dans les données d'entraînement sans consentement, reconnaissance ni contrepartie, et que la gestion des données pilotée par les communautés doit donc être reconnue comme faisant partie de la supervision humaine .

Bonyo soutient que la concentration des discussions sur la gouvernance de l'IA à Genève, conjuguée aux restrictions de visa reposant sur des algorithmes opaques, exclut de fait le reste du monde de ces débats. Elle appelle à davantage de transparence dans les algorithmes qui déterminent si les personnes peuvent voyager pour participer aux forums de gouvernance.

Bonyo a cité un rapport indiquant que 51 % des discussions sur la gouvernance de l'IA cette année se tiennent à Genève, ce qui signifie que le reste du monde en est effectivement exclu faute d'accès aux visas . Elle a plaidé pour une ouverture algorithmique autour des procédures de visa et a demandé aux pays du Nord global de reconsidérer le type d'algorithmes externalisés pour déterminer si les personnes peuvent voyager .

Bonyo présente l'Africa AI Governance Index, lancé par Lawyers Hub, comme un outil permettant de recenser pour la première fois les stratégies, lois et institutions en matière d'IA dans tous les États africains. Cet outil d'évaluation favorise une gouvernance inclusive en rendant la gouvernance africaine de l'IA visible et comparable.

Bonyo a indiqué que l'Africa AI Governance Index recense les stratégies, lois et institutions en matière d'IA dans tous les États africains, et que pour la première fois, une évaluation couvre l'ensemble du continent africain . Elle a invité les participants à consulter AIpolicy.africa pour interagir avec les travaux de l'AI Lab .

De Bellis Bonilla souligne l'engagement de l'Uruguay à faire avancer une transformation numérique qui inclut le développement et l'utilisation de l'IA dans une approche inclusive et fondée sur le genre. Elle désigne le Partenariat mondial pour les droits de l'homme comme une large plateforme multipartite qui relie les efforts portant sur les impacts transversaux de l'IA.

De Bellis Bonilla a mentionné l'adhésion de l'Uruguay à la Déclaration de Madrid lors de la Cinquième Conférence ministérielle sur la politique étrangère féministe , et a mis en avant le Partenariat mondial pour les droits de l'homme du HCDH en tant que large plateforme et réseau multipartite reliant l'ensemble des efforts avec un focus transversal sur l'impact de l'IA .

Gigena intervient au nom d'Access Now pour demander l'arrêt du développement et de l'utilisation des outils d'IA qui facilitent les violations du droit international humanitaire et du droit international des droits de l'homme, en particulier dans les contextes de conflit ou de guerre. Il appelle également à l'adoption de normes juridiques contraignantes et de mécanismes de gouvernance mondiale pour réguler les technologies de surveillance numérique et l'IA.

Gigena a appelé à l'arrêt du développement et de l'utilisation des outils d'IA facilitant les violations du droit international humanitaire et du droit international des droits de l'homme, en particulier dans les contextes de conflit ou de guerre . Il a également relayé les appels à l'adoption de normes juridiques contraignantes centrées sur les droits de l'homme et de mécanismes de gouvernance mondiale pour réguler les technologies de surveillance numérique et l'IA, en tenant compte des effets dissuasifs .

Cha soutient que l'accès à l'IA devrait être considéré non pas comme un privilège à mériter, mais comme un droit fondamental à exercer. Il souligne que les efforts mondiaux visant à renforcer la préparation à l'IA demeurent fragmentés, et que la République de Corée a proclamé une vision visant à établir un Hub mondial de l'IA afin de contribuer au renforcement des capacités mondiales en matière d'IA.

Cha a déclaré que la République de Corée considère l'accès à l'IA non pas comme un privilège à mériter, mais comme un droit fondamental à exercer . Il a noté que, à mesure que les pays approfondissent leur préparation à l'IA, leurs approches en matière de gouvernance de celle-ci s'approfondissent également, mais que ces efforts restent fragmentés à l'échelle mondiale , et a décrit la vision de la Corée visant à établir le Hub mondial de l'IA en partenariat avec neuf organisations participantes spécialisées dans l'IA et les domaines connexes .

La représentante de l'APC soutient qu'avant que les communautés puissent contribuer des données, développer des solutions d'IA locales, influencer les politiques ou bénéficier de l'innovation, elles ont besoin d'une connectivité significative, abordable, fiable et localement pertinente. Une connectivité centrée sur les communautés rapproche le pouvoir de celles-ci et permet aux femmes, aux peuples autochtones, aux communautés rurales et aux locuteurs de langues sous-représentées de devenir des créateurs et des décideurs.

L'intervenant a déclaré que la connectivité centrée sur les communautés va au-delà de la simple fourniture d'un accès à Internet ; il s'agit pour les communautés de posséder, de gérer et de gouverner l'infrastructure qui les relie, en créant un espace où les savoirs locaux, les langues locales et les priorités communautaires peuvent s'épanouir . L'intervenant a conclu que les communautés ne constituent pas le dernier kilomètre de la connectivité ou de l'IA, mais en sont en réalité le premier kilomètre .

Kiladze soutient que la question de l'IA et des droits des enfants est avant tout une question morale, celle de savoir si les États, les entreprises et les organisations internationales ont la volonté de concevoir, développer et gouverner une IA qui respecte les droits des enfants. L'histoire ne nous jugera pas sur l'intelligence de notre IA, mais sur notre capacité à protéger ceux qui ont la voix la plus faible et l'enjeu le plus grand dans l'avenir.

Kiladze a déclaré que l'histoire ne nous jugera pas sur l'intelligence de notre IA ou de nos machines, mais sur notre capacité à avoir mis à profit ce moment extraordinaire pour protéger ceux qui avaient la voix la plus faible mais l'enjeu le plus grand dans l'avenir . Elle a fait référence à la déclaration conjointe des Nations Unies sur l'IA et les droits de l'enfant, co-pilotée par l'ITU, le CRC et l'UNICEF, qui a réuni 13 agences des Nations Unies et plus de 60 organisations, avec la participation d'enfants des cinq régions de l'ONU dans son élaboration .

Cet argument a été principalement avancé par Shumaila Hussaini Shahani. Le rôle de Clara Chappaz lors de la session était celui de modératrice, et ses remarques de clôture ont synthétisé les contributions du panel plutôt que de défendre cet argument spécifique de manière indépendante.

Hendricks soutient que l'innovation ne doit pas être poursuivie au détriment de la sécurité et des droits des enfants. Les enfants ne devraient interagir qu'avec des systèmes d'IA dont la sécurité a été prouvée et qui ont été conçus en tenant compte de leurs droits, et la responsabilité doit incomber à ceux qui développent et tirent profit de la technologie, et non aux enfants ou aux familles.

Hendricks a déclaré que face à un risque potentiel, nous devons donner la priorité à la protection, et que les enfants ne devraient interagir avec des systèmes d'IA que si ceux-ci sont reconnus sûrs, conçus dans le respect des droits des enfants et tenant compte de leurs perspectives dans les décisions qui les concernent . Elle a souligné que la responsabilité doit incomber à ceux qui développent et tirent profit de cette technologie, et a appelé à bâtir un avenir de l'IA digne de la confiance et de la sécurité de chaque enfant .

Baruch soutient qu'une gouvernance responsable de l'IA exige que les créateurs et les artistes conservent le contrôle sur la manière dont leurs œuvres sont utilisées pour entraîner des systèmes d'IA. Les accords conclus librement et volontairement entre les créateurs, les titulaires de droits et les développeurs de technologies constituent le fondement de la confiance, de la sécurité juridique et de l'innovation durable.

Baruch a déclaré que les créateurs et les artistes doivent conserver le contrôle sur la manière dont leurs œuvres sont utilisées pour développer des systèmes d'IA, et que les accords conclus librement et volontairement entre les créateurs, les titulaires de droits et les développeurs de technologies créent confiance, sécurité juridique et innovation durable . Il a cité les partenariats d'Universal Music Group avec des entreprises telles que NVIDIA, Stability AI et Spotify comme exemples concrets de cette approche .

Baruch soutient que les créateurs doivent savoir quand et comment leurs œuvres ont été utilisées pour développer des modèles d'IA et comment elles seront utilisées pour les résultats produits. Sans transparence, il ne peut y avoir ni responsabilisation, ni confiance, ni véritable collaboration entre les secteurs créatif et technologique.

Baruch a déclaré que les créateurs devraient savoir quand et comment leurs œuvres ont été utilisées pour développer des modèles d'IA et comment elles seront utilisées pour les résultats produits, et que sans transparence, il ne peut y avoir ni responsabilisation, ni confiance, ni véritable collaboration . Il a soutenu qu'avec la transparence, l'intégrité artistique peut être protégée et, si nécessaire, défendue .

Baruch soutient que l'IA est un outil créatif extraordinaire, mais qu'elle doit demeurer subordonnée à la créativité humaine plutôt que de la remplacer. La musique, en tant que forme d'art profondément humaine portant la mémoire, l'identité, l'émotion et le vécu, illustre parfaitement pourquoi la supervision humaine de l'IA dans le secteur créatif est essentielle.

Baruch a déclaré que l'IA est un outil créatif extraordinaire, mais qu'elle devrait amplifier la créativité humaine et non la remplacer, et que la musique est profondément humaine, portant en elle la mémoire, l'identité, l'émotion et le vécu . Il a cité la description de la musique par Bjorn Ulvaeus comme témoignage, et a soutenu que, si elle est appliquée de manière responsable, l'IA peut déclencher une nouvelle renaissance de la créativité humaine, préservant le patrimoine culturel et inspirant les générations futures .

Baruch ancre l'approche de l'industrie musicale en matière de gouvernance de l'IA dans le droit international des droits de l'homme, en soutenant que les droits des créateurs à la protection de leurs intérêts moraux et matériels sont consacrés par des instruments fondamentaux des droits de l'homme et demeurent tout aussi pertinents à l'ère de l'IA.

Baruch a déclaré que l'article 27 de la Déclaration universelle des droits de l'homme et l'article 15 du Pacte international relatif aux droits économiques, sociaux et culturels reconnaissent que les créateurs ont droit à la protection de leurs intérêts moraux et matériels découlant de leurs œuvres, et que ces principes sont tout aussi pertinents à l'ère de l'IA .

Hicks présente les résultats d'une enquête menée auprès des participants à la session, révélant que beaucoup d'entre eux sont incertains ou préoccupés par l'adéquation des mesures actuelles de gouvernance de l'IA. L'enquête a identifié la responsabilité et l'état de droit, ainsi que l'impact de l'IA sur les enfants, comme les principales préoccupations en matière de droits humains parmi les participants.

Hicks a indiqué qu'une pluralité de personnes interrogées étaient très préoccupées par le fait que nous ne disposons pas des mesures nécessaires pour faire face aux défis et aux opportunités abordés lors de la session . Elle a noté que les deux principales questions relatives aux droits humains identifiées dans l'enquête étaient la responsabilité et l'état de droit, ainsi que l'impact de l'IA sur les enfants, suivis par la surveillance et l'utilisation de l'IA par les forces de l'ordre, et la durabilité environnementale .

Hicks présente les résultats d'une enquête montrant que les participants ont identifié une hiérarchie de responsabilité pour l'IA agentique : en premier lieu, les entreprises qui développent les modèles d'IA ; en deuxième lieu, les États qui doivent veiller à ce que les environnements réglementaires préviennent les préjudices ; et en troisième lieu, les organisations qui déploient des systèmes agentiques. Cela est cohérent avec les Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l'homme.

Hicks a indiqué que les personnes interrogées ont désigné les entreprises qui développent les modèles d'IA comme la principale partie responsable des actions de l'IA agentique, suivies des États et des autorités publiques ayant autorisé le système, puis des organisations qui le déploient . Elle a noté que cela est cohérent avec les Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l'homme, dont le premier pilier stipule que les États sont responsables de la mise en place d'un environnement réglementaire empêchant les entreprises de causer des préjudices .

Hicks fait référence à une enquête menée auprès de 1 000 enfants dans 49 pays en collaboration avec l'UIT, qui a révélé que les enfants souhaitent participer de manière significative à la conception de l'IA plutôt que d'en être simplement protégés. Les enfants ont exprimé leur souhait que l'IA respecte leurs droits et ont demandé à être inclus dans les discussions sur la gouvernance.

Hicks a décrit une enquête intitulée « Me and AI » menée auprès de 1 000 enfants dans 49 pays, soulignant que les enfants ont déclaré vouloir que l'IA soit façonnée avec eux, et pas seulement pour eux, qu'ils souhaitent qu'elle respecte leurs droits et ne veulent pas simplement en être protégés .

Pipan soutient que, selon la Slovénie, la confiance dans l'IA ne doit pas être perçue comme une simple aspiration éthique, mais comme une condition préalable concrète à l'adoption plus large des systèmes d'IA. Cette confiance doit reposer sur une approche centrée sur l'humain, ancrée dans les droits de l'homme, les valeurs démocratiques, l'éthique, la sécurité, la transparence et la responsabilité.

Pipan a déclaré que, de l'avis de la Slovénie, la confiance n'est pas seulement un objectif éthique, mais également une condition préalable à l'adoption plus large de l'IA, et que cette approche se reflète dans la stratégie nationale slovène pour l'IA 2030, adoptée en mars de la même année . Elle a souligné que la stratégie promeut clairement une approche de l'IA centrée sur l'humain, fondée sur les droits de l'homme, les valeurs démocratiques, l'éthique, la sécurité, la transparence et la responsabilité, avec pour objectif de garantir que l'IA est développée et utilisée de manière responsable dans l'intérêt public .

Pipan soutient que proclamer des principes ne suffit pas ; instaurer une véritable confiance dans l'IA exige de traduire ces principes en une mise en œuvre efficace et concrète. Cela implique de garantir une gouvernance responsable, une sécurité juridique, des mécanismes de soutien appropriés et un investissement soutenu dans la culture numérique et les compétences technologiques.

Pipan a indiqué que la stratégie reconnaît que l'instauration de la confiance nécessite une mise en œuvre efficace et concrète, ce qui implique de garantir une gouvernance responsable, une sécurité juridique, des mécanismes de soutien appropriés et un investissement soutenu dans la culture numérique et les compétences technologiques .

Pipan souligne la préoccupation particulière de la Slovénie, en tant que petite communauté linguistique, selon laquelle une IA inclusive doit refléter et préserver toutes les langues et cultures. Elle soutient que la gouvernance de l'IA doit veiller à ce qu'aucune communauté ne soit laissée pour compte en raison d'une sous-représentation linguistique ou culturelle dans les systèmes d'IA.

Pipan a déclaré qu'en tant que petite communauté linguistique, la Slovénie accorde une importance particulière à la protection de la diversité linguistique et culturelle, et qu'une IA inclusive devrait refléter et préserver toutes les langues et cultures, en veillant à ce qu'aucune communauté ne soit laissée pour compte .

Pipan appelle à un renforcement de la coopération internationale comme pilier essentiel de la promotion d'une IA digne de confiance à l'échelle mondiale. Elle soutient que cette coopération devrait prendre la forme d'échanges de bonnes pratiques, du développement d'approches interopérables et du renforcement des capacités entre les pays.

Pipan a présenté quatre priorités prospectives pour la Slovénie, notamment le renforcement de la coopération internationale par l'échange de bonnes pratiques, le développement d'approches interopérables et le renforcement des capacités pour promouvoir une IA digne de confiance à l'échelle mondiale . Elle a également appelé à compléter les cadres réglementaires par un soutien concret à la mise en œuvre, incluant le renforcement des capacités, des orientations pratiques et la promotion de la culture numérique liée à l'IA .

Ng souligne l'importance du dialogue en le qualifiant d'opportun et de crucial, et reconnaît le travail de préparation considérable accompli par le HCDH et son homologue. Cela sous-entend qu'une gouvernance efficace de l'IA nécessite un effort coordonné entre les organisations du système des Nations Unies, plutôt que des approches cloisonnées.

Ng a remercié le HCDH et les coprésidents pour le travail considérable accompli dans la préparation de la session, et a tout particulièrement salué son homologue au HCDH, Li Zhou, pour ses efforts remarquables .

Le Co-modérateur explique que le segment des interventions du public est organisé de manière à alterner entre un représentant des États membres et un représentant des autres parties prenantes. Cette disposition procédurale reflète un engagement substantiel en faveur d'une participation multipartite inclusive en tant que principe de gouvernance, garantissant que la société civile, le secteur privé et les autres voix non étatiques sont formellement intégrés dans la structure du dialogue aux côtés des gouvernements.

Le Co-modérateur a indiqué que, dans un souci de promotion d'une large participation des parties prenantes, le segment se déroulerait avec un représentant des États membres et un représentant des autres parties prenantes, en alternance entre les deux .

Le Co-modérateur souligne qu'un minuteur a été activé et que les microphones seront automatiquement coupés une fois le temps de parole alloué écoulé. Cet engagement procédural reflète un principe substantiel selon lequel les forums de gouvernance doivent gérer activement la participation afin de garantir que le plus large éventail possible de voix puisse être entendu, plutôt que de laisser quelques intervenants dominer les échanges.

Le Co-modérateur a indiqué qu'un minuteur avait été activé, visible à l'écran et au pupitre, et que les microphones seraient automatiquement coupés une fois le temps de parole alloué écoulé, encourageant tous les intervenants à respecter le temps imparti afin de permettre au plus grand nombre possible de prendre la parole .