Measuring what matters: Embedding gender equality in AI governance through gender-specific indicators

Marina Meira a ouvert la session au nom de Derechos Digitales et de la Gender and Digital Coalition, décrivant la coalition comme une alliance féministe mondiale formée en 2023 et dans le cadre du Global Digital Compact, de l’examen SMSI+20, du AI Global Dialogue et des processus connexes de gouvernance numérique . Elle a explicitement énuméré les membres de la coalition comme étant l’Alliance for Universal Digital Rights, l’Association for Progressive Communications, l’UNFPA, ONU Femmes, Equality Now, IT for Change, Pollicy, la World Wide Web Foundation, Women at the Table, et Derechos Digitales . Marina Meira a exposé les priorités de la coalition : des cadres structurels pour l’égalité de genre dans la gouvernance numérique, une intégration systématique du genre assortie d’un financement dédié, une inclusion significative dans les espaces de gouvernance, des évaluations d’impact de genre obligatoires pour les politiques relatives aux TIC et les systèmes d’IA, ainsi qu’un financement public pour un accès significatif et abordable . Elle a ensuite replacé la discussion dans le contexte de l’examen SMSI+20, notant que le document final réaffirme l’égalité de genre et, au paragraphe 112, appelle les facilitateurs des lignes d’action à traiter l’égalité de genre et l’autonomisation des femmes et des filles comme un thème central . Étant donné que les facilitateurs rédigent actuellement des indicateurs, elle a indiqué que la session visait à apporter des propositions concrètes, en se concentrant en particulier sur les indicateurs liés à l’IA et au genre, car l’IA touche l’ensemble des lignes d’action du SMSI . Elle a également attiré l’attention des participants sur deux documents de la coalition : les Feminist Guiding Principles and Commitments for Global AI Governance et un ensemble d’indicateurs de genre proposés pour le SMSI, axés sur l’IA et le genre .

Nandini Chami a soutenu avec force que l’égalité de genre reste largement absente des cadres de mesure en matière de gouvernance numérique. Elle a déclaré qu’« actuellement, nous ne mesurons pas du tout les progrès en matière d’égalité de genre » et a donné l’exemple d’un projet de feuille de route conjointe de mise en œuvre des Nations Unies sur la cohérence WSIS-GDC présenté à la CSTD en avril, qui ne contient aucune occurrence du mot « gender » . Elle a fait valoir que ce qui n’est pas mesuré n’est pas pris au sérieux et ne connaîtra pas de progrès réels . Nandini Chami a ensuite proposé de traiter la gouvernance comme le « méta-indicateur » pour suivre l’égalité de genre dans le paradigme de l’IA . Elle a expliqué que la question essentielle n’est pas seulement de savoir si les femmes ont accès aux services d’IA, mais si elles peuvent concrètement réaliser la valeur de l’innovation en IA, qui bénéficie de cette valeur, et si les trajectoires de l’IA améliorent la vie des femmes . Elle a également insisté sur le fait que les femmes ne peuvent pas être traitées comme une catégorie uniforme et que toute analyse doit tenir compte des structures imbriquées de stratification sociale et d’identité de genre .

Nandini Chami a ensuite traduit cette approche en propositions concrètes pour les lignes d’action du SMSI. Au titre de la ligne d’action C1, elle a proposé un indicateur visant à vérifier si l’égalité de genre apparaît comme un chapitre autonome de ressources dans les stratégies nationales relatives au numérique et à l’IA, plutôt que comme une simple référence transversale . Elle a également proposé de mesurer le pourcentage d’organes de facilitation des lignes d’action du SMSI et de délégations nationales atteignant la parité de genre dans les postes de direction, en soutenant que les registres du secrétariat de l’UIT et les données de nomination devraient rendre cela faisable . Au titre de la ligne d’action C6, elle a proposé de mesurer le pourcentage du financement public de la R&D et de l’innovation en TIC et en IA assorti de conditions d’équité de genre, en s’appuyant sur les marqueurs de genre du CAD de l’OCDE et sur les budgets nationaux de la science et de la technologie . Elle a relié cela au fait que les start-up dirigées par des femmes reçoivent à l’échelle mondiale moins de 2 pour cent du capital-risque, ce qui rend le financement public particulièrement important pour soutenir l’innovation portée par des femmes .

Pour étayer cet argument, Nandini Chami a cité WIPO PatentScope comme source permettant de suivre les femmes inventrices dans les technologies de l’IA et du numérique à travers les dépôts de brevets internationaux, régionaux et nationaux . Se référant à une analyse de 2025 menée par la Dr Mercedes de Galgo, elle a indiqué que les femmes ne représentent que 16 pour cent des nouveaux inventeurs dans l’ensemble des brevets liés aux logiciels, à l’IA, au cloud computing, aux semi-conducteurs et aux technologies quantiques, et qu’au rythme actuel, il faudrait plus de 275 ans pour atteindre la parité dans la part des demandes de brevet déposées par des femmes . Elle a ajouté que les pays affichant des performances supérieures à la moyenne mondiale en matière de participation féminine aux brevets tendent à être ceux qui disposent de systèmes publics de R&D plus solides, notamment avec des parts plus élevées de dépôts provenant d'universités et d'entreprises publiques, qui présentent généralement un meilleur équilibre de genre que l’industrie privée . Elle en a conclu que les systèmes publics d’innovation sont essentiels pour une innovation menée par des femmes et égalitaire du point de vue du genre .

Nandini Chami a également appelé à suivre les transformations à l’échelle de l’économie liées à la numérisation et à l’IA, et pas seulement l’inclusion dans le secteur technologique . Elle a proposé d’utiliser les statistiques de l’OIT sur la part des femmes dans l’emploi et l’encadrement, ainsi que les bases de données d’ONU Femmes et les enquêtes nationales sur l’emploi du temps relatives au travail de soins non rémunéré . Elle a soutenu que la transformation numérique tirée par l’IA reconfigure les marchés du travail et l’économie des services, et peut renforcer les inégalités de genre intersectionnelles à travers la polarisation du marché du travail, la « gigification » et la répartition inégale du travail de soins non rémunéré . Elle a décrit cela en termes de processus plus larges de numérisation, de mise en données et d’algorithmisation, et a indiqué que les indicateurs devraient permettre de saisir si ces processus transforment ou enracinent les structures de pouvoir genrées .

Mrinalini Dayal, s’exprimant aujourd’hui au nom d’Equality Now et de l’Alliance for Universal Digital Rights, a orienté la discussion vers les cadres normatifs et la mise en œuvre. Elle a soutenu que les femmes et les filles ne peuvent pas bénéficier à égalité des infrastructures numériques, de l’éducation, de l’innovation ou de l’entrepreneuriat si elles ne peuvent pas participer en ligne en toute sécurité . Elle a noté que de nombreux représentants de pays dans le dialogue sur l’IA décrivaient l’IA comme un catalyseur de changement et une technologie fiable, mais elle a contesté cette présentation au motif que la moitié de la population mondiale ne se sent pas en sécurité en ligne et fait l’objet d’un traitement disproportionné . Elle a orienté les participants vers les Feminist Guiding Principles for AI Governance de la coalition comme cadre pratique pouvant être utilisé par les gouvernements et les facilitateurs des lignes d’action . Elle a indiqué que ces principes couvrent sept domaines, dont la sécurité, la dignité et l’interopérabilité dès la conception, les biais algorithmiques, le principe selon lequel aucune IA ne doit primer sur les droits humains, la violence fondée sur le genre facilitée par la technologie, une IA inclusive et équitable prenant en compte le néocolonialisme et la diversité linguistique, l’investissement en faveur d’une IA féministe, et des mécanismes de gouvernance féministes . Elle a ajouté que les recommandations liées à ces principes incluent des mécanismes indépendants, des évaluations des droits humains avant et après, ainsi que des audits publics .

Mrinalini Dayal a également souligné que les facilitateurs des lignes d’action n’ont pas besoin de créer de toutes pièces un cadre de genre, car il existe déjà des précédents internationaux. Elle a cité la CEDAW et son concept d’égalité substantielle, y compris les mesures temporaires spéciales prévues à l’article 4.1, ainsi que la Commission de la condition de la femme, la stratégie de l’UE pour l’égalité de genre et la Convention-cadre du Conseil de l’Europe sur l’IA . Elle a affirmé que ces cadres peuvent guider l’élaboration d’indicateurs, de métriques et de cibles dans la feuille de route du SMSI . Elle a également soutenu que le processus d’élaboration et d’application des indicateurs devrait être multipartite et éclairé par un agenda partagé . Dans ce contexte, elle a élargi la notion d’expertise pour y inclure non seulement les data scientists et les ingénieurs logiciels, mais aussi les survivantes de la violence fondée sur le genre facilitée par la technologie, les technologues féministes, les défenseurs des droits des travailleurs, les défenseurs des droits humains, les acteurs engagés dans la prévention et la réponse à la violence fondée sur le genre, les dirigeantes et dirigeants autochtones, les personnes handicapées, les militants antiracistes, les experts en politiques publiques et les organisations communautaires . Elle a en outre noté qu’une grande partie des données nécessaires existe déjà, et que les indicateurs proposés par la coalition comprennent une colonne montrant où les données sont déjà collectées et comment elles pourraient être intégrées et coordonnées par les facilitateurs des lignes d’action .

Pavitra Ramanujam s’est concentrée sur la relation entre l’examen du SMSI, le Global Digital Compact et le dialogue mondial en cours sur la gouvernance de l’IA . Elle a soutenu que, si ces processus reconnaissent de plus en plus l’égalité de genre, ils s’arrêtent souvent avant de reconnaître que les obstacles auxquels sont confrontés les femmes et les groupes marginalisés sont structurels et ancrés dans les technologies et les systèmes de gouvernance eux-mêmes . Elle a donc affirmé que l’intégration de la dimension de genre doit être inscrite dans l’ensemble de la gouvernance numérique, plutôt que traitée uniquement comme une question transversale . Elle a soutenu que l’égalité de genre est fondamentale pour la gouvernance dans des domaines tels que la connectivité, l’IA, les infrastructures publiques et la gouvernance des données . Pavitra Ramanujam a ensuite exposé ce à quoi devraient ressembler des indicateurs sensibles au genre. Premièrement, elle a déclaré qu’ils doivent aller au-delà de la simple mesure de la participation ou de l'accès et s'attacher plutôt à évaluer les résultats . À titre d’exemples, elle a proposé de mesurer le pourcentage de femmes occupant des fonctions décisionnelles au sein des autorités nationales de gouvernance du numérique ou de l’IA au titre de la ligne d’action C1 ; de suivre l’écart entre les genres quant à savoir qui produit des contenus et des connaissances numériques par opposition à qui ne fait que les consommer au titre de la ligne d’action C3 ; et, au titre de la ligne d’action C10, de mesurer le pourcentage de systèmes d’IA déployés dans les services publics ayant fait l’objet, avant leur déploiement, d’évaluations intégrées des impacts sur les droits humains, le genre, l’environnement et le travail, le genre étant documenté comme une dimension distincte . Deuxièmement, elle a insisté sur le fait que ces indicateurs doivent être intersectionnels, car l’exclusion numérique est aussi façonnée par l'ethnie, l’origine, le handicap, l’âge, le statut migratoire, le milieu socioéconomique et l’orientation sexuelle . Troisièmement, elle a soutenu que l’élaboration, le suivi et l’évaluation des indicateurs doivent associer une participation significative des organisations féministes, des groupes de défense des droits des femmes, des organisations LGBTQI, des communautés autochtones, des personnes handicapées et d’autres acteurs de la société civile directement touchés par les inégalités numériques . Pavitra Ramanujam a également averti que le SMSI, le Global Digital Compact et le dialogue mondial sur l’IA risquent d’élaborer en parallèle des principes, des mécanismes de rapport et des voies de mise en œuvre distincts . Elle a proposé d’imaginer une feuille de route conjointe de mise en œuvre à travers ces processus, en identifiant les engagements qui se recoupent, en établissant des priorités communes, en développant des indicateurs partagés lorsque cela est approprié et en coordonnant les mécanismes de rapport . Elle a déclaré que cela pourrait réduire la fragmentation, alléger les charges de rapport et aider à maintenir la visibilité de l’égalité de genre à travers les différents processus successifs de gouvernance .

Dans sa modération après le panel, Marina Meira a mis en avant deux points. Premièrement, elle a souligné l’intersectionnalité comme fondement central du travail de la coalition . Deuxièmement, elle a insisté sur le fait que la coalition avait proposé des indicateurs couvrant l’ensemble des lignes d’action du SMSI, même si la session n’avait pas pu tous les examiner, et que ces indicateurs étaient conçus comme une base de référence plutôt que comme un modèle universel figé . Elle a déclaré qu’ils devraient être contextualisés et localisés dans la mise en œuvre nationale et régionale, en laissant aux pays et aux régions la possibilité d’ajouter d’autres mesures reflétant leurs propres réalités .

La discussion avec le public a apporté des perspectives pratiques et méthodologiques. Nagla Rizk, du Access to Knowledge for Development Center et du Middle East and North Africa Observatory on Responsible AI, a soutenu l’effort visant à créer des indicateurs nuancés et représentatifs, tout en avertissant que les indices peuvent devenir superficiels s’ils ne reflètent pas les réalités du terrain . Elle a évoqué le Global Index on Responsible AI, qui comprend des dimensions telles que l’inclusion et la diversité, l’éthique et la durabilité, le travail et les compétences, la confiance et la sécurité, ainsi que l’utilisation de l’IA dans la prestation des services publics, et a noté que sa dimension d’inclusion et de diversité intègre déjà l’égalité de genre aux côtés des droits de l’enfant, des droits des personnes handicapées et de la diversité culturelle et linguistique . En même temps, elle a averti que les indices mondiaux établis selon une approche descendante peuvent fausser les comportements, car les gouvernements risquent de se concentrer sur l’amélioration de leur classement plutôt que sur la résolution de problèmes de fond .

Eva Villarreal, de l’Organisation des États américains, a ensuite offert un exemple concret d’adoption possible . Elle a expliqué que le mécanisme interaméricain de suivi de son cadre conventionnel doit lui aussi élaborer des indicateurs pour mesurer la mise en œuvre par les États en matière d’intelligence artificielle et de violence numérique à l’égard des femmes . Elle a proposé d’examiner les indicateurs de la coalition et de les adapter potentiellement au cinquième cycle d’évaluation multilatérale couvrant 33 pays, tout en notant qu’ils devraient être ajustés pour correspondre à la Convention interaméricaine .

Un participant de l’UIT a soulevé l’un des défis de mise en œuvre les plus clairs abordés pendant la session . S’appuyant sur une expérience pratique en renforcement des capacités et sur le travail relatif aux indices de cybersécurité, le participant a déclaré qu’il existe une forte résistance aux indicateurs spécifiques au genre et qu’ils peuvent être difficiles à faire accepter . Le participant a suggéré qu’une approche progressive ou une plus grande granularité pourrait être nécessaire avant d’introduire certains des indicateurs de gouvernance les plus ambitieux, parce que les institutions peuvent se sentir menacées par ceux-ci . Marina Meira a reconnu qu’il s’agissait d’un retour pratique important .

Esperanza Magpantay, de l’équipe des statistiques de l’UIT, a ajouté la perspective de la pratique formelle de la mesure . Elle a décrit le Partenariat sur la mesure des TIC au service du développement comme une initiative mondiale à laquelle l'Assemblée générale des Nations unies a actuellement confié la mission de mesurer et de suivre les progrès réalisés dans ce domaine, conformément à sa résolution. . Elle a expliqué que l’un de ses objectifs actuels est de cartographier les indicateurs fondamentaux existants des TIC par rapport au Global Digital Compact, aux lignes d’action du SMSI et aux ODD, et que ce travail se poursuivra cette année jusqu’en décembre et alimentera un rapport qui doit être soumis à la CSTD en avril 2027 . Elle a invité les parties prenantes à participer à une session de consultation le jeudi et à répondre par écrit au moyen d’un questionnaire . Son principal point méthodologique était que les indicateurs utilisés pour le suivi mondial doivent produire des données internationalement comparables d’un pays à l’autre .

Plus tard dans la session, Marina Meira a relayé une question posée sur Zoom demandant si les indicateurs étaient destinés uniquement aux gouvernements ou s’ils pouvaient aussi être utilisés par les entreprises . Elle a répondu que les principaux destinataires seraient probablement les gouvernements et les organismes nationaux, car les indicateurs étaient conçus pour être intégrés dans les lignes d’action, mais qu’ils pourraient aussi constituer une orientation utile pour les entreprises privées et d’autres parties prenantes cherchant à appliquer concrètement les principes d’une IA féministe . Nandini Chami a ensuite ajouté un point méthodologique : ce n’est pas seulement ce qui est mesuré qui compte, mais aussi pourquoi c'est mesuré, comment les indicateurs seront utilisés, et par qui, qu’il s’agisse des gouvernements pour l’élaboration des politiques publiques ou de la société civile et du monde académique à des fins de plaidoyer .

Lors du tour de clôture, Marina Meira a soulevé l’objection fréquente selon laquelle les indicateurs sensibles au genre exigent une infrastructure de données entièrement nouvelle . Pavitra Ramanujam a répondu que cela n’est vrai qu’en partie, soutenant qu’une quantité considérable de données pertinentes existe déjà sous une forme normalisée à l’échelle internationale, mais qu’elle n’est pas encore reliée au SMSI ni pleinement alignée sur les engagements émergents du Global Digital Compact et des processus de gouvernance de l’IA . Elle a donné trois exemples. Premièrement, WIPO PatentScope fournit déjà des informations ventilées par genre sur les inventeurs et les dépôts de brevets, qui, selon elle, pourraient être utilisées dans la ligne d’action C6 pour mesurer la contribution des femmes à l’innovation en IA et dans le numérique, et potentiellement adaptées à la ligne d’action C4 pour suivre les femmes formées dans les domaines numériques qui déposent ensuite des brevets ou dirigent des entreprises . Deuxièmement, elle a cité le tableau de bord de genre de l’UIT, qui mesure déjà la représentation, la prise de décision, l’accès et le leadership, y compris les femmes ministres et régulatrices des TIC, ce qui le rend potentiellement utile pour les indicateurs de la C1 sur les femmes dans les rôles de gouvernance . Troisièmement, elle a mentionné le WHO Global Digital Health Monitor, qui comprend un indicateur sur la prise en compte explicite du genre dans les stratégies et la gouvernance de la santé numérique, et a suggéré que cela pourrait éclairer la ligne d’action C7 en aidant à évaluer si les systèmes d’IA en santé sont entraînés sur des données représentatives du point de vue du genre et validés sur les deux sexes . Son idée plus générale était que la communauté mondiale a déjà investi dans des indicateurs robustes et des systèmes de données, de sorte que la tâche consiste désormais à les identifier, les adopter et les adapter plutôt qu’à repartir de zéro . Elle a également reconnu qu’il subsiste d’importantes lacunes, en particulier concernant les impacts genrés des systèmes d’IA et la discrimination algorithmique, mais a déclaré que les indicateurs existants pouvaient tout de même fournir une base commune à renforcer au fil du temps .

La dernière intervention de fond de Nandini Chami s’est concentrée sur ces lacunes persistantes et sur l’ambition à plus long terme d’une architecture de données féministe . Elle a demandé comment les données pourraient mieux orienter les décisions d’investissement, notant que les guides de l'OCDE sur le devoir de diligence à l'appui d'une IA responsable faisaient état d’un capital-risque en IA de 147 milliards de dollars américains en 2024 et de 56 pour cent de la valeur totale du capital-risque au troisième trimestre de 2025 . Elle a soutenu que, parce que les investisseurs, en particulier ceux à un stade précoce, peuvent orienter les projets et intégrer les risques pour les droits humains dans l’évaluation des portefeuilles, les systèmes de mesure devraient se demander si les risques liés au genre sont pris en compte dans les décisions d’investissement . Elle a également fait référence à l’UNESCO AI and Gender Outlook Study et a appelé à des mécanismes de signalement des incidents dotés de taxonomies robustes des préjudices genrés dans les systèmes d’innovation en IA . Elle a déclaré que ces systèmes ne devraient pas se limiter aux préjudices de représentation au niveau des modèles, mais devraient évaluer les droits humains des femmes à travers toutes les couches matérielles de la pile IA et de la chaîne de production, y compris les atteintes au travail et à l’environnement affectant les femmes vulnérables dans les centres de données, l’extraction de minéraux critiques et d’autres couches d’infrastructure . Enfin, elle est revenue aux stratégies nationales et a averti que l’intégration significative de l’égalité de genre ne doit pas devenir un simple exercice de case à cocher . Citant la première édition du Responsible AI Global Index, elle a noté que seuls 24 des plus de 100 pays évalués disposaient de cadres gouvernementaux traitant de l’intersection entre l’égalité de genre et l’IA .

La session s’est terminée par une invitation de Marina Meira aux participants à continuer à s’engager avec la coalition au moyen d’un code QR et en laissant leurs adresses électroniques, en soulignant qu’il ne s’agissait pas d’une liste de diffusion de spam, mais d’un moyen de partager le travail et de continuer à construire une stratégie commune . Elle a ensuite demandé à Mrinalini Dayal des conseils pratiques finaux sur ce que les organisations de la société civile pourraient faire ensuite en coordination avec les facilitateurs des lignes d’action et les processus de gouvernance de l’IA . Mrinalini Dayal a exhorté les participants à utiliser les espaces de consultation déjà disponibles pendant la semaine, à présenter les indicateurs proposés dans ces réunions, et à nouer des alliances au-delà de la coalition pour faire pression en faveur de leur adoption . Marina Meira a conclu en remerciant les participants et en encourageant la poursuite des échanges au cours de la semaine et par courriel .

Dans l’ensemble, les intervenants se sont accordés sur le fait que les engagements en matière d’égalité de genre dans le SMSI+20, le Global Digital Compact et les processus connexes de gouvernance de l’IA doivent être traduits en indicateurs, cibles et mécanismes de rapport spécifiques s’ils doivent orienter concrètement la mise en œuvre . Tout au long de la session, ils ont soutenu que ces indicateurs devraient traiter de la gouvernance, des résultats et des inégalités structurelles, et pas du seul accès, et qu’ils devraient être intersectionnels et élaborés avec une participation significative des communautés concernées . Ils ont également souligné que de nombreux jeux de données pertinents existent déjà grâce à des institutions telles que l’OMPI, l’UIT et l’OMS, même si un travail supplémentaire est nécessaire en matière de signalement des préjudices, de suivi des investissements et d’impacts genrés plus larges à travers la pile IA et le marché du travail . La discussion a également fait apparaître des tensions pratiques autour de la comparabilité, de la localisation, de la résistance institutionnelle et du risque de conformité superficielle, pour lequel les participants ont estimé qu'un engagement continu dans les consultations sur les lignes d’action et un effort plus large de construction de coalition étaient nécessaires .