Fit for Whom?

Oriana Kraft soutient que les différences biologiques entre les sexes existent dans chaque cellule du corps humain, ce qui signifie que chaque organe fonctionne différemment chez les hommes et chez les femmes. Malgré cela, la recherche médicale a historiquement étudié uniquement des cellules, des animaux et des corps masculins, créant ainsi un manque fondamental dans la compréhension de la santé féminine.

Elle a souligné que les animaux mâles sont surreprésentés dans la recherche par rapport aux femelles dans un rapport de 5,5 pour un , et que l'exclusion des rongeurs femelles reposait sur une fausse hypothèse selon laquelle les cycles hormonaux féminins les rendaient trop complexes à étudier, alors qu'en réalité les souris mâles avec leurs fluctuations de testostérone sont moins prévisibles . Les femmes ont été effectivement exclues des essais cliniques jusqu'en 1993, ce qui signifie que pratiquement tous les médicaments sur le marché n'ont jamais été testés sur des femmes .

Parce que la recherche médicale s'est concentrée sur le corps masculin, les femmes font face à des résultats de santé nettement moins bons dans un large éventail de pathologies. Ces disparités ne sont pas accidentelles, mais sont directement causées par l'exclusion systématique des femmes de la recherche clinique et par le calibrage des outils de diagnostic et des traitements sur la physiologie masculine.

Les femmes reçoivent un diagnostic en moyenne quatre ans plus tard que les hommes pour 770 maladies , ont 50 % plus de risques de mourir à la suite d'une crise cardiaque , et sont 50 à 75 % plus susceptibles de présenter des effets indésirables médicamenteux en raison de leur exclusion des essais cliniques jusqu'en 1993 . Les femmes passent également cinq années supplémentaires en mauvaise santé par rapport aux hommes, et ce fardeau survient pendant leurs années de vie plutôt qu'en fin de vie .

Les outils de diagnostic et les seuils de biomarqueurs ont été calibrés sur la physiologie masculine, ce qui signifie que les pathologies se manifestant différemment chez les femmes sont régulièrement méconnues. Cela concerne à la fois les marqueurs biochimiques utilisés et les technologies d'imagerie déployées en milieu clinique.

Les taux de troponine, biomarqueur des maladies cardiovasculaires, ont un seuil de référence basé sur le corps masculin qui est trop élevé pour les femmes, entraînant le rejet de nombreux cas de maladies cardiovasculaires féminines . Les technologies d'imagerie sont également conçues autour des vaisseaux le plus souvent touchés chez les hommes, passant à côté des différents vaisseaux plus susceptibles de provoquer des crises cardiaques chez les femmes . En conséquence, les seuils de troponine calibrés sur les hommes manquent 42 % des crises cardiaques féminines .

Les recommandations cliniques étant fondées sur des recherches centrées sur les hommes, les femmes font systématiquement l'objet de diagnostics erronés, ce qui génère une cascade de dossiers médicaux inexacts qui alimentent ensuite les données d'entraînement des systèmes d'IA. Il en résulte un problème cumulatif dans lequel les inexactitudes historiques ne sont jamais corrigées, mais au contraire perpétuées par les systèmes algorithmiques.

L'endométriose met en moyenne sept ans à être diagnostiquée, et les femmes atteintes de cette pathologie doivent consulter en moyenne cinq médecins avant d'obtenir un diagnostic correct, ce qui signifie que chaque médecin consulté auparavant a enregistré un diagnostic erroné . Avec un ratio de quatre diagnostics erronés pour un diagnostic correct dans le cas de l'endométriose, et en l'absence de processus systématique de mise à jour des dossiers, les grands modèles de langage sont entraînés sur ces données inexactes .

Les modèles d'IA entraînés sur des données médicales historiquement biaisées produisent des résultats diagnostiques moins précis, et ce problème ne peut pas être résolu simplement en demandant à l'IA d'expliquer son raisonnement. La seule véritable solution consiste à garantir que les données d'entraînement sous-jacentes sont exactes et représentatives dès le départ.

Une IA entraînée sur des données non représentatives réduit la précision diagnostique de 11,3 %, et même l'IA explicable - dans laquelle le modèle justifie son raisonnement - entraîne la même réduction de précision . Cela démontre que le problème réside dans les données elles-mêmes, et non dans les mécanismes de transparence du modèle.

Bien que les grandes étapes de la vie féminine aient une incidence profonde sur l'ensemble des organes du corps, celles-ci ne sont pas consignées dans les dossiers médicaux électroniques ni dans les systèmes RH. Cette absence signifie que des signaux de santé essentiels liés à la menstruation, à la grossesse, au post-partum et à la ménopause sont systématiquement exclus des données utilisées pour entraîner les modèles d'IA et orienter les soins cliniques.

Les systèmes RH ne disposent d'aucun formulaire standard ni d'aucun bouton permettant de consigner qu'une femme traverse la ménopause, ni de fonctionnalité pour enregistrer le cycle menstruel ou l'expérience post-partum . Les complications de grossesse telles que la prééclampsie et le diabète gestationnel multiplient par deux à quatre le risque de maladies cardiovasculaires sur l'ensemble de la vie, pourtant ces informations ne sont pas systématiquement recueillies et associées à un suivi à long terme .

Le profil immunitaire d'une femme évolue tout au long de son cycle menstruel, ce qui influe sur les taux de réponse à la vaccination, les réactions indésirables aux médicaments et les résultats de la chimiothérapie. Or, les instruments médicaux actuels ne sont pas conçus pour capter ces signaux, ce qui entraîne la perte d'informations de santé potentiellement déterminantes.

Oriana Kraft a expliqué que les taux de réponse à la vaccination et les réactions indésirables aux médicaments varient selon la phase du cycle menstruel dans laquelle se trouve une femme, et que les réponses à la chimiothérapie diffèrent également en conséquence . Elle a souligné que le corps féminin recèle de nombreux signaux cachés que les instruments n'ont pas été conçus pour collecter, et que personne n'est actuellement incité à recueillir ces informations .

Les pathologies survenant pendant la grossesse, telles que la prééclampsie et le diabète gestationnel, augmentent considérablement le risque de maladies cardiovasculaires sur l'ensemble de la vie d'une femme, mais ces informations ne sont pas systématiquement enregistrées et associées à un suivi de santé continu. La collecte et la prise en compte de ces données pourraient permettre une détection précoce et potentiellement sauver des vies.

La prééclampsie et le diabète gestationnel entraînent une multiplication par deux à quatre du risque de maladies cardiovasculaires sur l'ensemble de la vie , mais ces informations ne font l'objet d'aucune collecte systématique permettant un suivi à long terme et une détection précoce .

Lorsque les modèles d'IA sont entraînés sur des données synthétiques, les signaux provenant des extrémités des distributions — là où les femmes sont sous-représentées — se perdent progressivement à chaque nouvelle itération du modèle. Cela signifie que même les rares signaux de santé relatifs aux femmes qui existent dans les données réelles sont effacés plutôt que préservés.

Oriana Kraft a expliqué qu'à chaque fois qu'un nouveau modèle est entraîné sur des données synthétiques, il perd les signaux provenant des extrémités de la distribution, et comme les femmes sont peu représentées dans les données, même si elles ne le sont pas dans la réalité, leurs signaux de santé s'effacent à chaque itération . Cela aggrave le problème existant du fait que les signaux de santé des femmes ne sont pas capturés dès le départ .

Le système de santé est organisé autour de spécialités par organe et de silos institutionnels distincts, les cliniciens, les entreprises pharmaceutiques et les gouvernements se renvoyant mutuellement la responsabilité plutôt que d'assumer collectivement la charge de combler les lacunes en matière de santé des femmes. Cette fragmentation empêche le changement systémique nécessaire à l'amélioration des soins de santé pour les femmes.

Oriana Kraft a décrit un événement réunissant des ministres de la santé, au cours duquel le problème central identifié était le suivant : les cliniciens affirment avoir besoin de meilleurs médicaments, les entreprises pharmaceutiques estiment que les gouvernements doivent inciter à la réalisation d'essais cliniques, et les gouvernements n'agissent pas sans pression publique . Une enquête menée auprès d'environ 1 000 à 1 200 médecins dans six pays a révélé qu'environ 80 % d'entre eux observent des différences liées au sexe chez leurs patients, mais estiment ne pas disposer des outils ni des recommandations cliniques nécessaires pour prodiguer des soins adéquats .

Les entreprises pharmaceutiques font valoir que, sans incitations gouvernementales, elles n'ont aucune raison commerciale de mener des essais cliniques spécifiquement pour les pathologies touchant les femmes de manière disproportionnée. Cela crée une impasse structurelle dans laquelle l'innovation en matière de santé féminine reste commercialement reléguée au second plan.

Oriana Kraft a souligné que l'industrie pharmaceutique invoque la nécessité d'incitations gouvernementales pour mener des essais cliniques ou innover dans le domaine des maladies qui touchent de manière disproportionnée les femmes . Elle a mis en avant l'exemple de certains pays nordiques qui ont rendu obligatoire la collecte de données ventilées par sexe dans les registres nationaux, illustrant ainsi comment l'action gouvernementale peut impulser un changement systémique .

Les pays nordiques qui ont rendu obligatoire la collecte de données ventilées par sexe dans les registres nationaux démontrent que la réglementation gouvernementale peut impulser un changement systémique dans la manière dont les données de santé sont collectées et utilisées. Cette approche permet aux chercheurs d'appréhender l'impact des problèmes de santé sur l'ensemble du cycle de vie des femmes, y compris les effets sur leur potentiel de revenus tout au long de leur vie et sur les coûts pour les systèmes de santé.

Oriana Kraft a cité les pays nordiques, en particulier le Danemark, comme ayant mené des recherches à grande échelle à partir de dossiers patients interconnectés et ayant rendu obligatoire la collecte de données ventilées par sexe dans les registres nationaux . Elle a soutenu que ce type de données permet de comprendre l'impact des problèmes de santé sur le potentiel de revenus d'une femme tout au long de sa vie, ainsi que le coût pour les systèmes de santé du manque d'innovation en matière de santé féminine .

Les médecins femmes rédigent des notes cliniques nettement plus détaillées que leurs homologues masculins, et les patientes elles-mêmes apportent des données de santé riches via des appareils connectés et des journaux de cycle. Ces informations sont pourtant largement ignorées plutôt que systématiquement exploitées, ce qui représente une occasion manquée majeure à une époque où les entreprises d'IA affirment manquer de nouvelles données humaines.

Des recherches ont montré que les notes des médecins femmes étaient deux fois plus détaillées que celles de leurs confrères masculins, ce qui suggère qu'encourager une saisie détaillée des données pourrait améliorer la qualité des données d'entraînement . Les femmes apportent déjà des données provenant d'appareils tels que les bagues Oura et des journaux de cycle à leurs consultations médicales, et des startups de femtech ont constaté que les femmes sont prêtes à partager leurs données pour faire avancer la recherche en santé féminine - pourtant, cette riche source d'information est ignorée . C'est particulièrement paradoxal, alors que les grandes entreprises d'IA déclarent avoir épuisé les nouvelles données humaines disponibles et avoir recours à des données synthétiques .

Les systèmes d'apprentissage automatique fonctionnent sur la base de moyennes et d'un apprentissage récursif, ce qui signifie que les populations les plus éloignées du centre privilégié de la représentation des données sont progressivement effacées des résultats des modèles. Il s'agit d'un problème systémique qui touche les femmes à l'échelle mondiale, avec des effets cumulatifs pour celles qui cumulent plusieurs identités marginalisées.

Caitlin Kraft-Buchman a expliqué que plus une personne est éloignée du centre privilégié - que ce soit en raison de son caractère plus rural, plus pauvre ou plus handicapé - moins elle est représentée dans les données . Elle a décrit comment l'apprentissage récursif entraîne un rétrécissement progressif du champ de représentation effectif, réduisant à terme même la prééminence du centre privilégié . Elle a qualifié ce phénomène de problème majeur pour les femmes du monde entier, aggravé et particulièrement urgent pour les femmes cumulant davantage d'identités croisées .

Caitlin Kraft-Buchman soutient que la correction des biais dans les ensembles de données existants ne constitue pas une véritable solution au problème des biais de genre dans l'IA, car elle ne peut qu'atténuer les préjudices sans résoudre le problème sous-jacent. La véritable solution réside dans la constitution de nouveaux ensembles de données représentatifs et de modèles sectoriels construits de toutes pièces.

Elle a indiqué qu'il existe un large consensus sur le fait que la correction des biais dans les données n'est pas véritablement possible - elle peut améliorer les choses sans pour autant résoudre le problème . Elle a évoqué la tendance vers l'IA souveraine et les modèles de langage plus petits et sectoriels comme une voie plus viable, suggérant qu'un modèle de santé construit de zéro sur des données représentatives pourrait fonctionner .

Caitlin Kraft-Buchman propose d'établir la représentativité comme norme scientifique, garantissant que les populations concernées par un cas d'usage spécifique soient véritablement et sincèrement représentées dans les données utilisées pour construire les systèmes d'IA. Cette approche s'appuie sur le principe d'égalité substantielle consacré par la CEDAW, qui exige que les solutions soient adaptées aux besoins réels des différentes populations plutôt que d'appliquer une approche uniforme.

Elle a décrit le concept de représentativité comme norme scientifique, selon lequel, dans un cas d'usage portant sur la population générale, la moitié des données refléterait les femmes, tandis que dans des contextes plus spécifiques - comme une application en langue des signes - la communauté démographique concernée serait pleinement représentée . Elle a établi une analogie avec le principe d'égalité substantielle de la CEDAW, le comparant à l'idée de s'assurer que chacun dispose d'un vélo à sa taille plutôt qu'une taille unique standard .

Plutôt que de tenter de corriger les grands modèles de langage déjà entraînés sur des données biaisées, Caitlin Kraft-Buchman soutient que des modèles de langage sectoriels plus petits, construits de zéro sur des données représentatives, offrent une voie plus viable et plus efficace. La tendance croissante vers l'IA souveraine pour des raisons géopolitiques pourrait accélérer cette approche.

Elle a noté que, dans un contexte où les pays se tournent vers l'IA souveraine pour des raisons géopolitiques, les modèles de langage plus petits à vocation sectorielle sont de plus en plus considérés comme viables, et qu'un modèle de santé construit de zéro sur des données représentatives pourrait fonctionner efficacement . Elle a proposé cette orientation comme un moyen d'éviter le problème insoluble que représente la correction des grands modèles de langage aux biais profondément ancrés .

Caitlin Kraft-Buchman propose de former les groupes de défense des droits des femmes pour qu'ils deviennent collectrices, propriétaires, organisatrices et vendeuses de données, faisant ainsi passer les femmes du statut de sujets passifs du développement à celui de productrices actives d'informations et de solutions numériques. Cette approche s'appliquerait à de multiples domaines, notamment la collecte de données de santé et la lutte contre la désinformation.

Elle a décrit une idée visant à former des femmes dans tout contexte - en particulier les groupes de défense des droits des femmes - à collecter des données sur le terrain, en devenant collectrices, propriétaires, organisatrices et vendeuses de données, capables également de gérer et de revendre ces données . Elle a rattaché cette idée à une vision plus large consistant à passer de la protection des femmes à leur autonomisation en tant que productrices d'informations, de solutions et de technologies numériques, notamment en déposant des brevets et en détenant les moyens de production numérique .

Yu Ping Chan soutient que les données sur lesquelles les modèles d'IA sont entraînés encodent déjà des préjugés inconscients profondément ancrés contre les femmes, reflétant des normes sociales qui n'ont connu aucune évolution significative depuis une décennie. Cela signifie que, même avant tout traitement algorithmique, le substrat des données d'entraînement de l'IA est fondamentalement biaisé.

L'Indice des normes sociales de genre du PNUD, qui a interrogé 80 pays représentant 85 % de la population mondiale en 2023, a révélé que près de 9 personnes sur 10 - 90 % des hommes et 87 % des femmes - nourrissent au moins un préjugé à l'égard des femmes . Elle a souligné qu'une décennie de stagnation a été observée dans l'évolution de ces normes, ce qui signifie que les biais intégrés dans les données d'entraînement ne s'améliorent pas avec le temps .

Un fossé numérique de genre considérable en matière de connectivité et d'utilisation d'Internet signifie que les femmes sont déjà sous-représentées dans les données qui alimentent les systèmes numériques. Les infrastructures numériques publiques étant construites sur ces bases biaisées, les inégalités se trouvent intégrées dans les systèmes eux-mêmes, et le problème s'aggrave à mesure que la numérisation s'accélère sans que ces écarts ne soient comblés.

Yu Ping Chan a cité des enquêtes mondiales faisant état d'un écart de 10 à 15 % entre les femmes et les hommes en matière de connectivité et d'utilisation d'Internet à l'échelle mondiale, cet écart atteignant 30 à 40 % dans les pays en développement . Elle a soutenu que continuer à construire des infrastructures numériques publiques sans remédier à ces écarts revient à ancrer des hypothèses biaisées dans les fondements mêmes des systèmes numériques, aggravant ainsi progressivement le problème .

Malgré de nombreux documents et déclarations internationaux engageant à une IA responsable et à l'égalité de genre dans les systèmes numériques, la traduction de ces engagements en actions concrètes et imputables demeure le défi central non résolu. Yu Ping Chan reconnaît que la communauté internationale excelle dans la production de documents, mais échoue systématiquement au stade de la mise en œuvre.

Elle a fait référence à la Déclaration de Hambourg sur l'utilisation responsable de l'IA pour les ODD, qui inclut le genre comme domaine d'action et priorité spécifique pour les entreprises du secteur privé, les organisations de développement international et les gouvernements nationaux . Elle a noté que le même défi de traduction des engagements sur le papier en actions concrètes se pose à l'ensemble du système des Nations Unies, y compris le SMSI et le Pacte numérique mondial, et que même la communauté du secteur privé partage cette frustration .

Yu Ping Chan soutient que les exigences en matière de marchés publics offrent un mécanisme pratique et direct pour imposer des données ventilées par genre et la transparence algorithmique, car il est plus aisé d'intégrer ces exigences dans les contrats avant leur signature que de procéder à des audits de conformité après coup. Cette approche pourrait ancrer des pratiques tenant compte du genre dans les systèmes commandités par les gouvernements et les organisations internationales.

Elle a suggéré qu'intégrer des exigences de données ventilées et stratifiées par genre dans les contrats gouvernementaux avant leur signature - plutôt que de procéder à des audits après coup - pourrait constituer un moyen d'ancrer des correctifs liés au genre dans les infrastructures numériques publiques . Elle a cité les gouvernements nordiques comme exemples de juridictions ayant imposé la divulgation de données ventilées par sexe, et a demandé si cette pratique pourrait être étendue plus largement aux marchés publics .

Les données utilisées dans la recherche médicale et les systèmes d'IA ne sont pas suffisamment nuancées pour tenir compte des profils de santé spécifiques des femmes de couleur ou des femmes du Sud global. Les facteurs de risque propres à certaines ethnies ne sont pas intégrés dans les protocoles de dépistage, et le modèle d'un jeune homme blanc en bonne santé a été extrapolé à l'ensemble de la population mondiale.

Speaker 1 a souligné que les États-Unis affichent des taux de mortalité maternelle honteusement élevés, en particulier chez les femmes afro-américaines, et que les données ne sont pas suffisamment nuancées pour traiter ce problème . Elle a cité l'exemple des femmes d'origine sud-asiatique, qui sont plus susceptibles de présenter une certaine forme d'anémie, ce qui devrait constituer un facteur de risque dans le dépistage, mais ne l'est pas . Elle a décrit comment un échantillon de parfois 20 à 30 personnes a historiquement été extrapolé à une population de 7 milliards d'individus, plutôt que de collecter des signaux auprès du plus grand nombre de personnes diversifiées possible .

Les plateformes de réseaux sociaux suppriment algorithmiquement la terminologie relative à la santé des femmes, y compris le mot « vagin » et des pathologies telles que l'endométriose et le post-partum, tandis que les termes masculins équivalents ne font pas l'objet des mêmes restrictions. Ce biais algorithmique à l'encontre du contenu lié à la santé des femmes limite la sensibilisation du public et perpétue la marginalisation des problèmes de santé féminins.

Speaker 1 a déclaré que « vagin » est le mot le plus censuré sur Internet et qu'il est effectivement victime de shadow-ban sur les réseaux sociaux, tout comme des pathologies telles que l'endométriose et le post-partum . Elle a mis cela en contraste avec le fait que des termes masculins équivalents comme « sperme » ne sont pas soumis aux mêmes restrictions , faisant valoir que cela reflète le fait que la majorité des personnes qui façonnent les algorithmes formulent des hypothèses sur les femmes .

Il existe un manque généralisé de culture publique concernant les hypothèses que les modèles d'IA formulent sur les utilisateurs, et les citoyens ne sont pas informés des bases sur lesquelles sont prises les décisions algorithmiques qui les concernent. Speaker 1 soutient que dans des contextes à hauts risques tels que la santé et le droit, les personnes devraient avoir le droit de savoir quelles hypothèses un modèle formule à leur sujet.

Speaker 1 a noté qu'il existe un très faible niveau de compréhension des hypothèses qu'un modèle formule sur une personne , et que les modèles sont actuellement déployés dans des contextes à hauts risques tels que la santé et le droit, formulant des hypothèses basées sur des facteurs tels que le niveau de revenu, sans que les utilisateurs en soient conscients . Elle a soutenu que les citoyens devraient avoir le droit de savoir quelles hypothèses un modèle formule à leur sujet, en particulier dans ces contextes à hauts risques .

Les technologies développées dans des contextes de ressources limitées dans le Sud global peuvent faire un bond en avant par rapport aux infrastructures traditionnelles et produire des innovations ensuite applicables dans le Nord global, inversant ainsi la direction habituelle du transfert de technologie. Cela représente une opportunité significative de combler simultanément les lacunes en matière de santé des femmes dans les deux contextes.

Speaker 1 a cité l'exemple d'un appareil d'échographie à distance utilisable via un téléphone mobile, développé pour le Sud global afin de permettre une surveillance à distance sans nécessiter la présence d'un médecin, et qui pourrait ensuite être applicable aux États-Unis ou dans d'autres zones rurales éloignées . Elle a noté que la Fondation Gates a observé cette dynamique de bond en avant dans le domaine de la santé des femmes, où les contraintes dans des contextes à ressources limitées forcent l'innovation, laquelle est ensuite applicable plus largement .

Speaker 1 soutient que faire de la santé des femmes un enjeu politique — en exigeant que les responsables politiques l'inscrivent à leur programme et en soutenant les groupes de plaidoyer — est essentiel pour créer les incitations réglementaires et financières nécessaires à un changement systémique. Sans volonté politique, les blocages structurels dans le domaine des soins de santé et de l'innovation pharmaceutique ne pourront pas être surmontés.

Elle a cité la hausse des coûts de l'assurance maladie en Suisse et aux États-Unis comme exemples illustrant le fait que la santé des femmes est devenue une crise du coût de la vie que les responsables politiques doivent impérativement traiter . Elle a souligné l'émergence aux États-Unis d'un comité d'action politique dédié au lobbying en faveur de la santé des femmes, faisant valoir que celle-ci mérite le même plaidoyer politique organisé que les autres groupes d'intérêt . Elle a soutenu que, les gouvernements étant les principaux acheteurs pour l'industrie pharmaceutique, les incitations politiques et la réglementation constituent le levier de changement le plus puissant .

Le plaidoyer par le biais de témoignages de célébrités et des réseaux sociaux a déjà permis de faire progresser la prise en charge de certaines pathologies, comme l'endométriose et la ménopause, en démontrant que ces problèmes touchent les femmes indépendamment de leur richesse ou de leur statut. Amplifier des témoignages personnels variés demeure un outil essentiel pour sensibiliser le public et exercer une pression politique, notamment dans les contextes où les manifestations publiques ne sont pas envisageables.

Speaker 1 a cité des célébrités telles que Padma Lakshmi et Oprah, qui se sont exprimées publiquement sur l'endométriose et la ménopause respectivement, soulignant que leur visibilité a contribué à montrer que ces pathologies touchent les femmes quelle que soit leur aisance financière ou leur notoriété . Elle a soutenu que les réseaux sociaux ont joué un rôle déterminant dans l'évolution de la perception des problèmes de santé des femmes, passant de problèmes individuels à des enjeux collectifs, et qu'encourager les personnes à partager leurs témoignages constitue un premier pilier essentiel du plaidoyer .

Les chatbots d'IA répondent de manière plus logique aux utilisateurs se présentant comme des hommes et de manière plus émotionnelle à ceux se présentant comme des femmes, reflétant ainsi les stéréotypes de genre issus du contenu internet. Cela a conduit à la circulation de conseils en ligne — notamment en Chine — encourageant les femmes à dissimuler leur genre lorsqu'elles interagissent avec l'IA afin d'obtenir des réponses plus rationnelles.

Audience Member 1 a décrit une publication circulant sur internet en Chine conseillant aux filles de cacher leur genre lorsqu'elles s'adressent à une IA, car celle-ci répond de manière plus logique aux utilisateurs se présentant comme des hommes et de manière plus émotionnelle à ceux se présentant comme des femmes . Elle a demandé comment ce biais pourrait être modifié ou corrigé .

Audience Member 2 a partagé des observations issues de la Tanzanie suggérant que les générations précédentes de femmes africaines ne souffraient pas de symptômes ménopausiques sévères, soulevant ainsi la possibilité qu'une recherche ancrée dans des populations féminines diversifiées pourrait produire des résultats transformateurs. Elle a soutenu que fonder la recherche sur les populations réellement étudiées — y compris les femmes africaines — est indispensable.

Elle a souligné que sa grand-mère, sa mère et les femmes âgées de sa communauté n'avaient jamais souffert de symptômes ménopausiques sévères, et a suggéré qu'une recherche portant sur des femmes d'origine africaine pourrait permettre de comprendre pourquoi, au bénéfice potentiel des générations futures . Elle a également observé des changements générationnels dans la santé visuelle au sein de sa famille, laissant entendre qu'une recherche spécifique aux populations pourrait éclairer ces tendances .

Yipeng soutient que les femmes — en particulier les femmes est-asiatiques, qui font face à des stéréotypes culturels supplémentaires liés à la soumission — ne devraient pas accepter comme inévitables les résultats biaisés selon le genre produits par l'IA, mais devraient activement instruire les modèles d'IA à répondre de manière non stéréotypée. Elle encourage les femmes à intégrer des instructions permanentes dans leurs modèles d'IA précisant la manière dont elles souhaitent être traitées.

Elle s'est adressée spécifiquement à la questionneuse en tant que femme de couleur d'origine asiatique, soulignant que les femmes est-asiatiques sont particulièrement stéréotypées comme soumises et non conflictuelles dans les résultats produits par l'IA . Elle a recommandé d'intégrer des instructions explicites dans les invites adressées à l'IA - par exemple en indiquant qu'une réponse est « trop émotionnelle » et en demandant une réponse plus logique - et d'en faire une instruction permanente dans son modèle d'IA . Elle a exhorté les jeunes femmes est-asiatiques présentes dans la salle à ne pas accepter cela comme la norme à laquelle elles devraient se conformer .

Speaker 2 propose d'utiliser les indicateurs de santé en ligne du SMSI comme mécanisme concret pour exiger des données d'entraînement représentatives selon le genre, avec l'OMS et l'UIT comme organes facilitateurs. L'intégration de cette exigence dans l'élaboration de normes internationales pourrait créer un effet en cascade de responsabilisation, entraînant des changements au sein des États membres et des organisations.

Speaker 2 a suggéré que l'indicateur de santé en ligne du SMSI pourrait être utilisé pour encourager les facilitateurs - l'OMS et l'UIT - à exiger une formation sur les données représentatives selon le genre, et que l'établissement d'une série d'indicateurs dans ce domaine pourrait commencer à induire des changements de manière progressive et en cascade . Elle a également évoqué la possibilité qu'un pays choisisse de montrer l'exemple en étant le premier à mettre en œuvre de telles normes, présentant cela comme une opportunité scientifique et de réputation .

Audience Member 3 exprime sa frustration face au fait que, malgré cinq ans de discussions soutenues sur l'intégration des perspectives féminines dans le secteur technologique et pharmaceutique, les progrès n'ont pas été à la hauteur du volume des échanges et des efforts organisationnels déployés. Elle s'interroge sur les lacunes du plaidoyer et sur les actions concrètes qui pourraient accélérer le changement pour les générations futures.

Elle a souligné que ces cinq dernières années ont été marquées par de nombreuses discussions autour de l'intégration des femmes dans la technologie et des perspectives de santé féminine dans le secteur pharmaceutique, sans que l'on ait l'impression d'avancer au rythme souhaitable compte tenu du nombre de conversations et d'organisations impliquées . Elle a posé une question précise sur les lacunes du plaidoyer à l'approche de 2026 et sur ce qui pourrait être fait pour accélérer les choses afin que la prochaine génération ne rencontre pas les mêmes obstacles .

Audience Member 4 souligne que si des campagnes de sensibilisation, telles que des marches, existent dans certains pays pour attirer l'attention sur des maladies comme l'endométriose, ces approches ne sont pas réalisables en Chine en raison des contraintes culturelles et politiques. Elle demande ce que les individus peuvent faire au quotidien pour dénoncer l'échec systémique des systèmes médicaux à répondre aux besoins des femmes.

Elle a noté qu'un événement de sensibilisation fin mars vise à promouvoir la prise de conscience autour de l'endométriose, mais qu'en Chine, organiser une marche ou un défilé pour attirer l'attention sur cette maladie ne fonctionne généralement pas de la même manière . Elle a demandé ce que les individus pourraient faire dans leur vie quotidienne pour attirer l'attention non seulement sur l'endométriose, mais aussi sur l'échec plus large du système médical à répondre aux besoins des femmes, et comment promouvoir le changement .