From Data to Implementation: Scaling Digital Tools for Human Rights Monitoring

La mise en œuvre des droits de l'homme dépend de plus en plus de la qualité des systèmes d'information, les États devant gérer des milliers de recommandations émanant des mécanismes onusiens, des organes régionaux et d'autres processus. Ces recommandations doivent être regroupées, attribuées, suivies, rapportées et traduites en actions concrètes, ce qui représente un défi administratif considérable. Les solutions numériques sont devenues de plus en plus importantes pour surmonter ces difficultés.

Domenico Zipoli a souligné que les États reçoivent des milliers de recommandations par an émanant des mécanismes onusiens des droits de l'homme, des organes régionaux et d'autres processus, lesquelles doivent toutes être regroupées, attribuées, suivies, rapportées et traduites en actions concrètes . Il a également insisté sur le fait que les solutions numériques constituent le principal moyen par lequel le suivi des droits de l'homme surmonte ces défis .

Bien qu'un écosystème croissant d'outils numériques existe, il demeure fragmenté, de nombreux outils fonctionnant en silos et les données n'étant pas toujours interopérables. La société civile et les défenseurs des droits de l'homme n'ont pas toujours un accès égal aux informations relatives aux droits de l'homme et à l'espace numérique, notamment par rapport à ceux qui se trouvent en Europe. L'innovation technique ne se traduit pas automatiquement par de meilleurs résultats en matière de droits de l'homme.

Zipoli a décrit l'écosystème comme fragmenté, de nombreux outils fonctionnant encore en silos et les données n'étant pas toujours interopérables . Il a notamment souligné que la société civile et les défenseurs des droits de l'homme n'ont pas toujours un accès égal aux informations relatives aux droits de l'homme et à l'espace numérique, et que l'innovation technique ne se traduit pas automatiquement par de meilleurs résultats en matière de droits de l'homme .

L'IA et l'apprentissage automatique offrent un potentiel considérable pour le suivi des droits de l'homme en aidant à traiter les grands volumes d'informations générés par les multiples organes conventionnels qui examinent les gouvernements au cours d'une même année. Ces outils peuvent identifier des tendances, regrouper des recommandations, faciliter la recherche sémantique et l'accès multilingue. Toutefois, la conception de ces outils doit être particulièrement rigoureuse, compte tenu de l'importance des nuances juridiques, des mandats institutionnels et des voix des communautés concernées.

Zipoli a expliqué que l'IA et l'apprentissage automatique peuvent contribuer au traitement de grands volumes d'informations, notant que les gouvernements sont parfois examinés par plusieurs organes conventionnels au cours d'une même année . Il a énuméré des capacités spécifiques, notamment l'identification de tendances, le regroupement de recommandations, la recherche sémantique, l'accès multilingue et l'aide à l'identification des lacunes . Il a également insisté sur le fait que le contexte, les nuances juridiques, les mandats institutionnels et les voix des communautés concernées sont tous essentiels dans la mise en œuvre des droits de l'homme .

La question centrale de la session n'est pas simplement de savoir si l'IA peut accélérer le suivi des droits de l'homme, mais comment les outils numériques et une IA responsable peuvent rendre la mise en œuvre plus efficace, inclusive, transparente et responsable. L'IA peut soutenir le jugement humain sans le remplacer, un principe régulièrement évoqué lors des discussions sur l'IA à Genève.

Zipoli a formulé la question centrale de la session comme étant celle de savoir comment les outils numériques et une IA responsable peuvent rendre la mise en œuvre des droits de l'homme plus efficace, inclusive, transparente et responsable, plutôt que simplement plus rapide . Il a noté que l'IA peut soutenir le jugement humain sans le remplacer, et que ce principe est largement repris dans les discussions sur l'IA à Genève .

Tous les États membres n'ont pas mis en place de Mécanismes nationaux d'application, de reporting et de suivi (NMRF), mais l'une des voies pour les établir passe par la numérisation du travail de suivi. En utilisant des outils de suivi numériques, les gouvernements sont amenés à identifier les différents acteurs clés de mise en œuvre au sein de l'interface numérique, ce qui contribue à institutionnaliser le travail des différents organes gouvernementaux.

Zipoli a observé que la numérisation du travail à travers des outils de suivi peut contribuer à l'établissement d'un NMRF, car quelle que soit la structure existante d'un gouvernement, l'interface numérique exige l'identification des différents acteurs clés de mise en œuvre .

Les outils numériques ne sont pas des contenants neutres, et les choix de conception qui y sont intégrés dès le départ finiront par influencer la manière dont les recommandations en matière de droits de l'homme sont mises en œuvre. Cela signifie que l'attention portée à la conception de ces outils doit être absolument rigoureuse, car l'architecture de l'outil influencera l'ensemble du processus de mise en œuvre en aval.

Zipoli a affirmé que les outils numériques ne sont pas des contenants neutres et que les choix de conception des outils numériques dès le départ peuvent finir par influencer la manière dont les recommandations sont mises en œuvre, ce qui signifie que l'attention portée à la conception doit être absolue . Il a également émis l'hypothèse que l'évolution vers un reporting numérique continu pourrait rendre le concept de reporting périodique de plus en plus obsolète d'ici cinq à dix ans .

Les États font face simultanément à des recommandations émanant d'un large éventail d'organes internationaux et régionaux, ce qui crée un tableau fragmenté très difficile à gérer de manière cohérente. Le Brésil en est un exemple concret, recevant des recommandations de la Commission interaméricaine, de la Cour interaméricaine, du Conseil des droits de l'homme, de l'EPU, des comités d'organes conventionnels et de plusieurs procédures spéciales. L'espace numérique peut contribuer à apporter de la cohérence à ce système fragmenté en montrant que les recommandations de différents organes pointent souvent dans la même direction.

Boyer a décrit le Brésil comme un pays qui reçoit des recommandations de la Commission interaméricaine, de la Cour interaméricaine, du Conseil des droits de l'homme, de l'EPU, de comités d'experts et de procédures spéciales, avec cinq rapporteurs spéciaux en visite au cours d'une seule année . Elle a souligné que, d'un point de vue humain, il est très difficile de percevoir une cohérence dans ce système fragmenté, mais que les outils numériques peuvent aider à révéler que les recommandations sont en réalité largement convergentes .

Le HCDH a développé la Base de données nationale de suivi des recommandations (NRTD) pour répondre au défi d'aider les États à aller au-delà de la réception des orientations et à mettre concrètement en œuvre les recommandations. Le point de départ était l'Index universel des droits de l'homme, une plateforme en ligne regroupant l'ensemble des résultats du système onusien, mais les États avaient besoin d'un outil capable de suivre la trajectoire des recommandations jusqu'aux changements au niveau communautaire. Le NRTD a été conçu pour combler cette lacune en centralisant toutes les recommandations pertinentes en un seul endroit.

Boyer a expliqué que le HCDH a d'abord développé l'Index universel des droits de l'homme, une plateforme en ligne permettant à quiconque d'accéder à l'ensemble des résultats du système onusien, consultables par pays, thème, groupe ou ODD . Elle a ensuite décrit comment les États devaient passer de l'élaboration de normes à leur mise en œuvre, ce qui nécessitait un outil de suivi permettant d'accompagner les recommandations jusqu'aux changements au niveau communautaire, conduisant ainsi au développement du NRTD .

Le NRTD permet aux États de regrouper les recommandations par thème, ODD, groupe et ministère, ce qui est essentiel pour traduire les orientations internationales en actions gouvernementales concrètes. En identifiant quel ministère est chef de file de la mise en œuvre, quel ministère est co-responsable et lequel apporte son soutien, l'outil intègre la responsabilisation dans le processus de suivi. La fonctionnalité de rapport permet ensuite aux ministères et aux entités de documenter les mesures prises pour mettre en œuvre les recommandations.

Boyer a décrit comment le NRTD permet aux pays de regrouper les recommandations par thème, par ODD, par groupe et par ministère, permettant ainsi aux fonctionnaires de voir précisément ce qu'ils ont à mettre en œuvre et s'ils sont chefs de file, co-responsables ou en soutien . Elle a souligné que le regroupement et l'attribution des responsabilités constituent le fondement de la responsabilisation, suivis du compte rendu des actions entreprises .

Le NRTD a démontré une demande manifeste, avec 20 pays l'utilisant activement et environ 40 autres en attente de déploiement. Cependant, le HCDH ne dispose pas de la capacité nécessaire pour accompagner tous les États en attente tout au long du processus de déploiement. L'outil est continuellement amélioré grâce aux retours des États et des utilisateurs.

Boyer a indiqué que 20 pays utilisent actuellement le NRTD et qu'environ 40 autres attendent que l'outil soit déployé dans leur pays, mais que le HCDH n'a pas la capacité de les accompagner tous . Elle a également souligné que les retours des États et des utilisateurs sont essentiels à l'amélioration de l'outil, et que le HCDH travaille chaque jour à des améliorations avec les différents États qu'il accompagne .

Une assistance par IA est en cours d'intégration dans le NRTD pour aider les gouvernements à naviguer dans les grands volumes de données existants et à identifier ce qui est pertinent pour mesurer les progrès accomplis en matière de recommandations relatives aux droits de l'homme. L'IA peut aider à repérer les données pertinentes, à évaluer ce qui a déjà été collecté et à identifier les lacunes nécessitant une collecte de données supplémentaire. Cela se fait tout en maintenant un contrôle humain sur le processus, conformément à la position des Nations Unies.

Boyer a décrit comment l'assistance par IA est intégrée dans l'outil de suivi numérique pour aider les gouvernements à examiner les recommandations auxquelles ils doivent donner suite, à identifier les données disponibles pour rendre compte des progrès et à déterminer quelles données supplémentaires doivent être développées . Elle a noté que la position des Nations Unies est de maintenir les humains aux commandes tout en utilisant l'IA pour amplifier le travail et repérer les données pertinentes .

La composante humaine derrière les outils numériques n'est pas un simple ajout rhétorique, mais une exigence essentielle. L'IA ne peut pas créer une réalité ni remplacer les connaissances des personnes travaillant directement avec les communautés, qui comprennent les sujets traités et sont en mesure de saisir, d'analyser et d'interpréter les données. Certains outils ont montré leurs limites précisément parce qu'ils ne comportaient aucune composante humaine pour alimenter le système en informations.

Boyer a soutenu que certains outils ont montré de réelles limites parce qu'il n'y avait aucune composante humaine derrière eux pour alimenter le système en informations, et que l'IA ne va pas créer une réalité qui affecte les gens au quotidien . Elle a souligné que les personnes travaillant avec les communautés et connaissant les sujets traités sont nécessaires non seulement pour saisir les données, mais aussi pour les analyser et réfléchir à ce qui fonctionne dans un contexte national donné, ce que l'IA n'est actuellement pas en mesure de faire .

Si des données existent dans de nombreux contextes, il existe un manque important de données désagrégées qui permettraient de rendre visibles les populations invisibles. Le défi ne réside pas seulement dans l'absence de données, mais aussi dans le volume considérable de données existantes et dans la difficulté à les traiter pour identifier ce qui est pertinent. L'IA peut contribuer à y remédier en repérant les données pertinentes et en identifiant les domaines nécessitant une collecte supplémentaire.

Boyer a reconnu que si des données existent, il y a un manque certain de données désagrégées, l'objectif étant de rendre visibles les populations invisibles, et que le défi consiste à traiter les grandes quantités de données qui existent bel et bien . Elle a décrit l'IA comme jouant un rôle clé dans le repérage des données pertinentes, la mesure des progrès et l'identification des données supplémentaires à collecter .

Les États, en particulier les petits États insulaires en développement et les pays les moins avancés, font face à d'importantes lacunes en matière de données et à des capacités limitées pour les collecter, ce qui signifie qu'ils ont besoin d'orientations sur l'ensemble minimal de données nécessaires pour suivre les progrès accomplis dans la mise en œuvre des recommandations relatives aux droits de l'homme. Le HCDH a entamé des recherches en commençant par les recommandations du Comité contre la torture afin d'identifier cet ensemble minimal de données. La collaboration avec les cadres d'indicateurs des ODD, axés sur les résultats, pourrait contribuer à établir cette base de référence.

Boyer a décrit les recherches du HCDH débutant par les recommandations du Comité contre la torture pour identifier l'ensemble minimal de données que les États doivent collecter, notant que les petits États insulaires et les pays les moins avancés font face à d'importantes lacunes en matière de données et à des défis de capacité . Elle a suggéré que les indicateurs des ODD, qui sont tous axés sur les résultats, pourraient être mis à profit pour progresser vers cet ensemble minimal de données nécessaires au suivi des progrès .

L'un des défis persistants dans la gestion des recommandations relatives aux droits de l'homme est le fort taux de rotation du personnel dans les ministères, ce qui signifie que les connaissances institutionnelles sur les recommandations et les processus de suivi sont fréquemment perdues lors des changements de personnel. Il est ainsi difficile de maintenir une continuité dans les efforts de mise en œuvre. Le Costa Rica a répondu à ce défi en instaurant un cycle de formation continue.

Cespedes a noté que la rotation du personnel tend à être assez élevée dans certaines institutions gouvernementales, les agents restant en poste un ou deux ans, apprenant à utiliser les outils, puis partant, entraînant ainsi une perte de ces connaissances . Il a décrit comment le Costa Rica a mis en place un cycle de formation continue pour le personnel du Ministère des affaires étrangères et de tous les ministères sur le NRTD afin de relever ce défi .

Le Costa Rica a introduit le NRTD avec l'aide du HCDH après que les modèles de suivi précédents se sont révélés insuffisants, et l'a trouvé flexible et intuitif. Le NRTD a donné une visibilité significative aux recommandations des organes de traités, de l'EPU et des procédures spéciales, et a aidé les institutions à identifier les opportunités de mise en œuvre des recommandations. Les ministères de l'Éducation et de la Santé, ainsi que l'institution chargée de la protection de l'enfance, ont tous trouvé les fonctionnalités de l'outil utiles.

Cespedes a décrit comment le Costa Rica a introduit le NRTD avec l'aide du HCDH après que les modèles antérieurs se sont révélés inadéquats, et l'a trouvé flexible et intuitif . Il a noté que les ministères de l'Éducation et de la Santé, ainsi que l'institution chargée de la protection de l'enfance, ont trouvé les fonctionnalités du NRTD particulièrement utiles .

L'une des fonctionnalités du NRTD les plus concrètement utiles pour le Costa Rica a été la possibilité de regrouper les recommandations par sujet ou thème. Cela a conduit les entités à reconnaître que certaines recommandations créent des opportunités de collaboration avec d'autres institutions, favorisant ainsi la communication entre ministères et débouchant in fine sur une action mieux coordonnée.

Cespedes a mis en avant la fonctionnalité de regroupement comme particulièrement utile, notant que des entités ont indiqué pouvoir constater qu'une recommandation donnée leur permettrait de travailler conjointement avec d'autres institutions . Il a observé que cela renforce la communication entre institutions et conduit finalement à l'action .

Face au fort taux de rotation du personnel dans les ministères, le Costa Rica a fait de la formation continue sur le NRTD un élément central de la gestion de l'outil. Cela permet aux nouveaux agents de devenir rapidement compétents et d'éviter que les connaissances institutionnelles ne soient perdues lors des changements de personnel. Le cycle de formation couvre à la fois le Ministère des affaires étrangères et tous les autres ministères concernés.

Cespedes a expliqué que le Costa Rica a mis en place un cycle de formation continue pour le personnel du Ministère des affaires étrangères et de l'ensemble des ministères sur le NRTD, reconnaissant que la rotation tend à être assez élevée et que les connaissances sont autrement perdues lorsque les agents partent après un ou deux ans .

Le Costa Rica prévoit d'étendre l'accès au NRTD aux organisations de la société civile, allant au-delà de la transparence pour faire de la société civile un partenaire actif dans la mise en œuvre et le suivi. Plutôt que de simplement observer à distance, la société civile serait en mesure de voir ce que chaque partie de l'État accomplit, de formuler des suggestions et de collaborer avec l'État pour une mise en œuvre adéquate. La société civile dispose déjà d'une représentation institutionnalisée au sein de la Commission interinstitutionnelle du Costa Rica, avec deux sièges permanents.

Cespedes a décrit les plans du Costa Rica visant à permettre à la société civile d'accéder au NRTD à l'avenir, afin non seulement d'améliorer la transparence, mais aussi de faire de la société civile un partenaire contribuant à la mise en œuvre et au suivi . Il a souligné que la société civile serait en mesure de voir ce que chaque partie de l'État accomplit, de formuler des suggestions et de collaborer avec l'État pour une mise en œuvre adéquate . Il a également mentionné que la société civile dispose déjà de deux sièges institutionnalisés au sein de la Commission interinstitutionnelle .

Une part importante des activités gouvernementales constituant un respect des recommandations en matière de droits de l'homme n'est pas signalée, simplement parce que les fonctionnaires ne perçoivent pas le lien entre leurs actions et des recommandations spécifiques. L'IA pourrait contribuer à combler cet écart en analysant les données saisies et en déterminant si les actions gouvernementales correspondent aux recommandations, mettant ainsi en lumière une conformité jusqu'alors invisible. Cette approche pourrait ensuite être étendue au suivi au niveau communautaire.

Cespedes a suggéré que de nombreuses actions menées par les États ne sont pas signalées parce que les fonctionnaires ignorent qu'ils les accomplissent, et a proposé que l'IA puisse analyser les données saisies pour déterminer si une action gouvernementale a été générée par une recommandation et si elle y est conforme . Il a noté que de nombreuses personnes ignorent qu'elles mettent déjà en œuvre des recommandations, et que cette approche pourrait être étendue à des modèles au niveau communautaire pour suivre ce qui se passe sur le terrain .

Aller au-delà du suivi des contributions et des actions gouvernementales, en surveillant en continu la satisfaction des communautés et en la reliant à ce que les gouvernements font sur le terrain, représente une piste prometteuse pour mesurer les résultats en matière de droits de l'homme. Cette approche permettrait de faciliter et de réduire le coût du suivi visant à déterminer si les actions gouvernementales produisent réellement un impact au niveau communautaire. Il existe déjà des modèles éprouvés pour mener à bien ce type de suivi de la satisfaction.

Cespedes a soutenu que consulter en permanence les populations sur leur ressenti est essentiel et constitue un aspect à améliorer, notant qu'il existe de nombreux modèles pour le faire correctement . Il a suggéré qu'il deviendra probablement plus facile et moins coûteux de commencer à mesurer la satisfaction, puis de la relier à ce qui est accompli sur le terrain .

Les projets académiques s'appuyant sur le traitement du langage naturel et l'IA générative peuvent développer des outils permettant une recherche au niveau des paragraphes dans de grandes bases de données sur les droits de l'homme, rendant la recherche bien plus efficace que les recherches traditionnelles par mots-clés au niveau des documents. Lorsqu'une recherche par mots-clés retourne des centaines ou des milliers de résultats nécessitant l'ouverture d'onglets individuels, la recherche au niveau des paragraphes réduit considérablement le temps nécessaire pour trouver des informations pertinentes. Cette approche a été appliquée à des bases de données de jurisprudence des organes conventionnels de l'ONU, de commentaires généraux, de rapports des procédures spéciales et d'arrêts de la Cour européenne des droits de l'homme.

Szoszkiewicz a décrit la construction d'une base de données couvrant initialement les commentaires généraux, qui s'est étendue à la jurisprudence des organes conventionnels de l'ONU et aux rapports thématiques des procédures spéciales, ainsi qu'une base de données de la Cour européenne des droits de l'homme permettant une recherche au niveau des paragraphes . Il a noté que lorsqu'une recherche par mots-clés retourne 200 ou 1 000 résultats nécessitant l'ouverture de tous les onglets, cela n'est pas efficace, et que la recherche au niveau des paragraphes rend le processus bien plus efficace .

Plutôt que de télécharger directement des ensembles de données dans des grands modèles de langage à des fins d'analyse, une approche plus fiable consiste à utiliser l'IA pour générer des scripts de code déterministes qui effectuent l'analyse. Ces scripts fonctionnent exactement de la même manière à chaque fois, éliminant la variabilité probabiliste et le risque d'hallucination associés à l'utilisation directe des LLM. Le code généré peut également être remis aux professionnels de l'informatique pour inspection des questions de cybersécurité et de confidentialité avant le déploiement.

Szoszkiewicz a expliqué qu'au lieu de télécharger des ensembles de données dans des modèles de langage ou des versions navigateur d'outils comme ChatGPT, il est possible de générer des scripts fonctionnant de manière déterministe et de les déployer en ligne, garantissant qu'ils fonctionnent exactement de la même façon à chaque fois sans aucune possibilité d'hallucination . Il a résumé cette approche comme consistant à utiliser des LLM pour construire des outils d'analyse des données plutôt que d'utiliser des LLM pour analyser les données directement, le code pouvant ensuite être inspecté par des professionnels de l'informatique pour les questions de cybersécurité et de confidentialité .

Bien que les hallucinations ne puissent pas être entièrement éliminées des systèmes d'IA, des choix de conception rigoureux peuvent les réduire à des niveaux très faibles. Une approche efficace consiste à utiliser des grands modèles de langage pour la similarité sémantique tout en reproduisant verbatim les paragraphes sources plutôt qu'en générant un nouveau texte. Des études testant différents modèles d'IA dans des domaines juridiques et non juridiques montrent des différences significatives dans les taux d'hallucination, et la réduction réalisable grâce à une conception rigoureuse est substantielle.

Szoszkiewicz a noté qu'il existe d'excellentes études testant différents modèles d'IA dans des domaines juridiques et non juridiques, montrant une différence considérable dans les taux d'hallucination et le caractère persuasif de ces hallucinations . Il a décrit sa propre approche consistant à utiliser des grands modèles de langage pour la similarité sémantique tout en reproduisant les paragraphes verbatim sans les modifier, de sorte que tout relève d'une décision du concepteur et que les hallucinations peuvent être réduites à un niveau très faible .

Le processus traditionnel de développement logiciel exigeait que les experts du domaine transmettent des spécifications techniques aux équipes informatiques, attendent le développement, puis testent et itèrent, ce qui était souvent lent et coûteux. L'IA générative a considérablement allégé la charge liée à la génération de code, permettant aux experts du domaine de créer directement des prototypes fonctionnels et de les tester de manière itérative. Cela signifie qu'il est possible d'investir beaucoup plus de temps dans la couche décisionnelle, là où l'expertise du domaine est la plus précieuse.

Szoszkiewicz a décrit le processus traditionnel de développement logiciel comme comprenant une couche décisionnelle, une couche d'exécution où les équipes informatiques génèrent du code, et une couche de livraison destinée aux tests et aux ajustements, souvent très longue et coûteuse . Il a expliqué qu'avec l'IA générative, la génération de code est devenue extrêmement fiable et accessible, permettant aux experts métier de développer des applications complètes plutôt que des maquettes non interactives, et d'aboutir à des solutions qui correspondent exactement à leurs besoins .

Les couches de conception et de livraison du développement logiciel ne peuvent pas être assurées par des professionnels de l'informatique qui manquent d'expertise métier en droit des droits de l'homme. Un juriste spécialisé dans les droits de l'homme, fort de nombreuses années d'expérience, sait qu'une recherche au niveau du paragraphe est nécessaire plutôt qu'une recherche au niveau du document, même si cette dernière est plus facile à mettre en œuvre et plus performante. Cette connaissance métier est irremplaçable pour déterminer ce qu'un outil doit faire et pour évaluer s'il fonctionne comme prévu.

Szoszkiewicz, se présentant comme juriste plutôt que comme professionnel de l'informatique, a expliqué qu'un informaticien qui ne connaît pas le droit des droits de l'homme ne saura pas ce dont un juriste a besoin, comme la recherche au niveau du paragraphe plutôt qu'au niveau du document . Il a soutenu que la place des experts métier tels que les spécialistes des droits de l'homme dans le développement logiciel est en expansion, tandis que le rôle relatif de l'informatique est en déclin .

Les chercheurs universitaires occupent un rôle unique en tant qu'expérimentateurs capables d'explorer de nouvelles approches et de prototyper des outils sans les contraintes institutionnelles auxquelles font face les gouvernements ou les organisations internationales. Les résultats de cette expérimentation peuvent ensuite être transmis à d'autres parties prenantes, où les risques peuvent être dûment examinés avant que les outils ne soient déployés à grande échelle. Cette répartition des rôles entre expérimentation académique et déploiement institutionnel est précieuse pour un développement responsable des technologies au service des droits de l'homme.

Szoszkiewicz a décrit son rôle d'expérimentateur qui transmet ses résultats à d'autres parties prenantes, lesquelles doivent dûment examiner les risques avant que les outils ne soient déployés à grande échelle . Il a comparé son parcours à un jeu de rôle (RPG) où l'on explore un territoire sans en voir la carte complète, découvrant parfois que certaines approches fonctionnent et d'autres non, et se percevant comme un personnage explorant ce territoire dans l'espoir que certaines de ses réalisations pourront être utilisées par des institutions aux niveaux international et national .

Évaluer si les outils d'IA fonctionnent comme prévu nécessite l'élaboration de référentiels d'évaluation (benchmarks), une tâche qui ne peut être accomplie que par des experts métier qui comprennent le contexte des droits de l'homme. Les professionnels de l'informatique qui ne maîtrisent pas les droits de l'homme ne peuvent pas déterminer si un outil produit les bons résultats pour les bonnes raisons. Cela rend l'expertise métier indispensable non seulement pour la conception, mais aussi pour l'assurance qualité.

Szoszkiewicz a soutenu que l'élaboration de référentiels permettant de mesurer si un outil fonctionne comme prévu est l'aspect le plus important dans le contexte de l'IA, et que cela ne peut être réalisé que par des experts métier et non par des professionnels de l'informatique qui ne comprennent pas le contexte des droits de l'homme .

Si l'IA peut relativement facilement collecter des données sur les engagements et les processus des pays, le domaine des résultats représente un défi majeur, car il nécessite des retours d'utilisateurs validés et des preuves documentées de ce qui se passe réellement pour les personnes censées être protégées. Sans cette analyse des utilisateurs finaux, l'IA entre dans un vaste champ d'hallucination lorsqu'elle tente d'évaluer les résultats. Il s'agit d'une limitation structurelle qui affecte la fiabilité de la surveillance des droits de l'homme assistée par IA.

Leblois, s'appuyant sur les 20 années de surveillance de la CRPD par G-State dans 143 pays à l'aide de l'indice DARE, a expliqué que l'IA peut assez facilement collecter des données pour les deux premiers volets de leur structure (engagements et processus), mais que dans le domaine des résultats, sans retours d'utilisateurs ni analyse documentée des utilisateurs finaux, l'IA entre dans un vaste champ d'hallucination . Il a demandé comment des données de résultats valides peuvent être obtenues face à ce défi .

Les organes conventionnels de l'ONU fonctionnent selon de longs cycles d'examen de plusieurs années, ce qui crée un décalage significatif avec le rythme rapide des changements qui s'opèrent sur le terrain dans les pays. Ce décalage temporel signifie que les systèmes de surveillance peuvent capturer une réalité déjà dépassée au moment où elle est examinée. Ce problème structurel aggrave la difficulté d'obtenir des données de résultats valides.

Leblois a noté que les organes conventionnels des droits de l'homme au sein du HCDH ont un très long cycle de plusieurs années avant que le Conseil ne revienne sur la question, alors que les choses évoluent très rapidement sur le terrain . Il a présenté cela comme un défi supplémentaire s'ajoutant à la difficulté d'obtenir des données de résultats valides .

Dans des domaines sensibles tels que la torture, les données sont souvent délibérément dissimulées par les gouvernements, ce qui rend indispensable le rôle des organisations de la société civile opérant au niveau national pour recueillir des informations fiables. Le Global Torture Index collabore avec 100 ONG dans 39 pays pour collecter ces données, avec l'intention d'élargir encore cette démarche. Le défi ne consiste pas seulement à collecter les données, mais aussi à déterminer lesquelles sont pertinentes pour évaluer le risque de torture, à les visualiser et à les communiquer au grand public.

De Armas a décrit le Global Torture Index comme travaillant avec 100 ONG au niveau national pour mettre en œuvre un suivi dans 39 pays, avec l'intention de continuer à élargir cette démarche l'année suivante . Elle a souligné que, s'agissant spécifiquement de la torture, les données sont souvent délibérément dissimulées par les gouvernements, ce qui rend la collecte de données par la société civile indispensable . Elle a également mis en évidence le défi que représente l'identification des données pertinentes pour évaluer le risque de torture, ainsi que la manière de les communiquer aux communautés et au grand public .

Michaela Lissowsky ouvre la session en soulignant une préoccupation majeure soulevée à plusieurs reprises lors des discussions récentes : le développement et la gouvernance de l'IA sont concentrés entre les mains d'un petit nombre de dirigeants puissants de l'industrie technologique. Elle met cela en contraste avec le principe selon lequel les droits de l'homme appartiennent à tous les peuples du monde, présentant cette tension comme la motivation de l'accent mis par la session sur les outils numériques au service du suivi des droits de l'homme.

Lissowsky a déclaré que l'IA est dominée par quelques « tech bros », ce qui a été décrit comme l'un des enseignements répétés des derniers jours . Elle a immédiatement mis cela en contraste avec le principe selon lequel les droits de l'homme appartiennent à tous les peuples du monde , utilisant cette tension pour justifier l'importance de la discussion du jour sur le déploiement à grande échelle des outils numériques au service du suivi des droits de l'homme .

Lissowsky situe la session actuelle dans le cadre d'une série de discussions en cours, notant que la coopération de l'année précédente avec le HCDH et le Geneva Human Rights Hub portait sur la présentation des outils numériques et l'examen de leurs implications. La session actuelle va au-delà de cette étape introductive pour examiner l'application concrète de ces outils dans la pratique du suivi des droits de l'homme.

Lissowsky a indiqué que la session de l'année précédente avait présenté les outils numériques et examiné leurs implications, tandis que la session actuelle de 45 minutes serait axée sur leur application concrète . Elle a décrit cela comme la continuation d'une coopération avec le Haut-Commissariat et le Geneva Human Rights Hub .