WSIS Forum 2026
Rapport généré par l'IA
ENFR

AI Empowerment for Older People from a Gender Mainstreaming Perspective

6 intervenants
Résumé

Résumé

Cette session portait sur l'autonomisation par l'IA des personnes âgées dans une perspective d'intégration du genre, en examinant comment l'intersection du vieillissement démographique et de la transformation numérique crée des inégalités cumulatives . La Prof. Moon Choi du KAIST a introduit le concept de « vieillissement genré », en soulignant que les femmes sont plus nombreuses que les hommes âgés parce qu'elles vivent plus longtemps, ce qui fait du vieillissement une question fondamentalement liée au genre plutôt qu'une simple préoccupation démographique ou sanitaire . Elle a souligné que l'IA et les systèmes numériques sont devenus une infrastructure du quotidien - et non de simples outils - et que les femmes tendent à avoir un accès et une littératie en matière d'IA plus faibles en raison des désavantages accumulés tout au long de leur vie . La Dr. Jingbo Huang de l'UNU Macao a mis en lumière la « féminisation du vieillissement », en notant que les femmes représentent déjà 54 % des personnes âgées dans le monde et que cette population va tripler d'ici 2050 . Elle a présenté les données synthétiques à la fois comme une opportunité et un risque : si elles permettent de pallier le manque de données et de corriger les biais, elles peuvent, si elles sont générées sans discernement, amplifier les inégalités existantes, en particulier pour les femmes âgées qui sont déjà sous-représentées dans les ensembles de données réelles . Elle a appelé à des données désagrégées par genre et par âge comme exigence fondamentale, ainsi qu'à des cadres de gouvernance ancrés dans des accords internationaux tels que le Plan d'action de Madrid et le Pacte numérique mondial . Ern Chern Khor a présenté des résultats empiriques issus d'une enquête sud-coréenne de 2025 portant sur plus de 2 600 internautes âgés, révélant une « fracture numérique de second niveau » dans l'adoption de l'IA générative qui touche de manière disproportionnée les femmes âgées et celles ayant un statut socioéconomique plus faible . Un résultat particulièrement alarmant est que les progrès en matière de littératie à l'IA se traduisent par des gains d'adoption bien plus rapides pour les groupes déjà avantagés, ce qui signifie que des interventions mal ciblées risquent d'aggraver encore la fracture liée à l'IA . Les panélistes ont apporté des dimensions supplémentaires à la discussion. Wai Kit Si Tou a plaidé pour des mécanismes de responsabilisation inspirés des cadres ESG, obligeant les entreprises à divulguer l'impact de l'IA sur les différentes parties prenantes tout au long de son cycle de vie . Le Prof. Tim Unwin a insisté sur l'importance de l'intersectionnalité - incluant les identités LGBT, le handicap et l'appartenance ethnique - et a averti qu'une utilisation excessive de l'IA risque de créer une « démence numérique » en réduisant la capacité des individus à penser de manière autonome . Un membre du public a soulevé la question des politiques de souveraineté des données en Éthiopie, notant que les restrictions gouvernementales sur les données humanitaires nuisent de manière disproportionnée aux femmes âgées . Dans l'ensemble, la discussion a conclu que les bénéfices et les risques de l'IA ne sont pas distribués équitablement, et qu'une IA véritablement inclusive pour les femmes âgées nécessite une co-conception avec les communautés marginalisées, une gouvernance rigoureuse de la qualité des données, et un engagement à valoriser l'inclusion plutôt que la rapidité des résultats mesurables .

Points clés

  • Points clés

  • Objectif général

  • La session a été organisée afin d'examiner comment l'intersection de l'intelligence artificielle et du vieillissement démographique affecte de manière disproportionnée les femmes âgées. L'objectif était de présenter des recherches empiriques, de mettre en évidence les lacunes politiques et de formuler des recommandations concrètes pour rendre le développement de l'IA plus équitable et inclusif, notamment dans une perspective d'intégration du genre.
  • --

  • Principaux points de discussion

  • La féminisation du vieillissement et ses implications pour l'équité en matière d'IA. La Prof. Moon Choi et la Dr. Jingbo Huang ont toutes deux établi que le vieillissement démographique est fondamentalement un phénomène genré. Les femmes représentent déjà 54 % des personnes âgées dans le monde, un chiffre qui devrait correspondre à 1 milliard de femmes de plus de 60 ans d'ici 2050. Parce que les femmes âgées sont sous-représentées dans les données à partir desquelles les systèmes d'IA apprennent, leur marginalisation dans le monde réel est amplifiée plutôt que corrigée par l'IA. La Prof. Moon Choi a souligné que les inégalités ne concernent pas simplement l'âge ou le genre de manière isolée, mais la façon dont les désavantages s'accumulent tout au long de la vie et deviennent les plus visibles en fin de vie. - Les données synthétiques : à la fois une opportunité et un risque pour la représentation des femmes âgées. La Dr. Jingbo Huang a présenté les données synthétiques - des données générées artificiellement à partir de caractéristiques statistiques du monde réel - comme une force de plus en plus dominante dans l'entraînement de l'IA, avec environ 60 % des données d'entraînement désormais synthétiques. Elle a soutenu qu'elles offrent de véritables opportunités : remédier à la rareté des données (notamment dans les pays du Sud), corriger les biais présents dans les données réelles et protéger la vie privée. Cependant, si elles sont générées de manière négligente, les données synthétiques peuvent amplifier les biais existants, reproduisant à grande échelle l'absence des femmes âgées plutôt que d'y remédier. Ses recommandations ont appelé à des contrôles de qualité techniques, à des données désagrégées par genre et par âge comme fondement politique obligatoire, et à un cadre de gouvernance ancré dans des instruments tels que le Plan d'action de Madrid sur le vieillissement et le Pacte numérique mondial. - La fracture de l'IA générative chez les personnes âgées et les limites des interventions en matière de littératie en IA. Ern Chern Khor a présenté les résultats d'une enquête sud-coréenne de 2025 portant sur plus de 2 600 internautes âgés, mettant en évidence une fracture numérique de second niveau : même parmi les personnes âgées qui utilisent déjà Internet, les femmes âgées et celles ayant un statut socioéconomique plus faible sont nettement moins susceptibles d'adopter des outils d'IA générative tels que ChatGPT. De manière cruciale, son analyse de modération a révélé un résultat contre-intuitif - les progrès en matière de littératie en IA se traduisent par une adoption de l'IA bien plus rapide pour ceux qui se trouvent déjà en position avantageuse, ce qui signifie que des programmes de littératie mal ciblés risquent d'aggraver la fracture liée à l'IA plutôt que de la réduire. Elle a conclu que les interventions doivent consciemment orienter les ressources vers les plus vulnérables, inclure des cas d'usage pertinents pour les femmes âgées, et résister à la tentation de privilégier les groupes capables de démontrer des résultats rapides et mesurables. - Responsabilisation, co-conception et droit à la déconnexion. La discussion en panel a fait émerger des perspectives de gouvernance complémentaires. Wai Kit Si Tou a plaidé pour un mécanisme de divulgation publique de type ESG qui obligerait les entreprises à rendre compte de l'impact de leurs modèles d'IA sur les différentes parties prenantes tout au long du cycle de vie de l'IA, créant ainsi une responsabilité en matière de conception inclusive. Le Prof. Tim Unwin a élargi le cadre de genre pour inclure les identités croisées - femmes âgées lesbiennes, femmes en situation de handicap, minorités ethniques en zones rurales - et a mis en garde contre l'assimilation du terme « genre » uniquement aux femmes dans les dialogues onusiens. Il a également introduit le concept de « démence numérique », soutenant que la dépendance excessive à l'IA risque d'éroder l'indépendance cognitive, et que contraindre les personnes âgées à interagir avec des systèmes numériques qu'elles ne peuvent pas utiliser constitue une forme d'exclusion plutôt que d'autonomisation.
  • La souveraineté des données et l'invisibilité des populations marginalisées. Un membre du public issu du Gender Empowerment Movement a soulevé le cas de la politique de souveraineté des données de l'Éthiopie, qui empêche les chercheurs indépendants et les organisations humanitaires d'accéder aux données, affectant de manière disproportionnée les femmes âgées qui supportent le plus lourd fardeau des crises humanitaires. La Prof. Moon Choi et la Dr. Jingbo Huang ont relié cela au défi plus large des ensembles de données en langues à faibles ressources et de l'interopérabilité transfrontalière des données, notant que les données synthétiques et les cadres d'interopérabilité pourraient offrir des solutions partielles, bien qu'un travail technique et politique considérable reste à accomplir.
  • --

  • Ton général

  • La discussion s'est ouverte sur un ton mesuré et académique, les intervenants ancrant soigneusement leurs arguments dans des données empiriques et des cadres institutionnels. Au fil de la discussion en panel, le ton est devenu plus urgent et parfois provocateur - notamment lorsque le Prof. Tim Unwin a remis en question le cadrage de genre de la session, a invoqué son expérience personnelle avec la démence et a tenu des propos délibérément provocateurs sur l'exclusion numérique assimilée à de « l'esclavage forcé ». La réflexion d'un membre du public selon laquelle l'inclusion n'avait jamais été abordée dans son master en IA a ajouté une note d'autocritique franche dans la salle. Tout au long de la session, cependant, l'atmosphère générale est restée constructive et orientée vers les solutions, les intervenants revenant systématiquement à des recommandations politiques concrètes et à des appels à une conception participative et centrée sur l'humain. Les remarques conclusives de la Prof. Moon Choi ont renforcé cette intention constructive, rappelant aux participants que la technologie n'est pas neutre et que la question de « l'IA pour le bien » doit toujours s'accompagner de la question « de qui ».
Intervenants
PM
Prof. Moon Choi
133 wpm · 14 min
DJ
Dr. Jingbo Huang
134 wpm · 11 min
ME
Ms. Ern Chern Khor
130 wpm · 9 min
MW
Mr. Wai Kit Si Tou
144 wpm · 2 min
PT
Prof. Tim Unwin
151 wpm · 6 min
A
Audience
122 wpm · 5 min

Résumé élargi : L'autonomisation par l'IA des personnes âgées - Une perspective d'intégration du genre (Session SMSI 1-8-8)

#

Aperçu et cadrage de la session

Cette session, organisée dans le cadre du forum du SMSI sous le titre « L'IA au service de toutes les personnes », a réuni des chercheurs, des responsables des Nations Unies et des praticiens des politiques publiques afin d'examiner comment les forces conjointes du vieillissement de la population et de la transformation numérique reconfigurent les inégalités, en particulier pour les femmes âgées . La professeure Moon Choi du KAIST, qui présidait et animait la session, a situé la discussion dans le contexte de deux tendances mondiales convergentes : la révolution de la longévité, selon laquelle les personnes vivent significativement plus longtemps que les générations précédentes et où le vieillissement est devenu une préoccupation centrale pour tous les domaines de politique publique , et la transformation numérique, selon laquelle l'IA et les systèmes numériques deviennent une infrastructure du quotidien pour les soins de santé, le travail et les liens sociaux . La question centrale animant la session n'était pas simplement de savoir si l'IA est bénéfique, mais si ses avantages et ses risques sont distribués équitablement parmi les personnes âgées - et, plus précisément, si certains groupes en sont totalement exclus en raison de cette transformation .

La professeure Moon Choi a présenté son institution, le KAIST Aging and Technology Policy Lab, comme le premier laboratoire dédié au vieillissement, à la protection sociale et à la politique technologique depuis sa fondation en 2014, menant des recherches empiriques quantitatives et qualitatives à l'appui d'une élaboration de politiques fondée sur des données probantes. Elle a introduit le concept de « vieillissement genré » pour cadrer la discussion . Elle a noté qu'il y a davantage de femmes âgées que d'hommes âgés dans le monde parce que les femmes vivent plus longtemps , et elle a affirmé que cela fait du vieillissement une question fondamentalement liée au genre, plutôt qu'une simple préoccupation démographique ou sanitaire . Elle a soutenu que le vieillissement genré ne concerne pas simplement l'âge ou le genre de manière isolée, mais la façon dont les inégalités s'accumulent tout au long de la vie et deviennent les plus visibles à un âge avancé . Les femmes tendent à avoir un accès moindre à l'IA et une littératie à l'IA plus faible en raison de ces désavantages accumulés . Elle a également noté que mesurer ces inégalités est particulièrement difficile, car cela nécessite souvent des études longitudinales, bien que son laboratoire ait réussi à mener quelques recherches expérimentales avec des systèmes d'IA.

La professeure Moon Choi a également attiré l'attention sur la manière dont les domaines liés aux villes et communautés adaptées aux personnes âgées doivent désormais tenir compte des interactions facilitées par l'IA, qui font désormais partie intégrante de tous les aspects de la vie quotidienne. Elle a fait référence aux huit domaines définis par l'OMS pour les villes et communautés adaptées aux personnes âgées, proposés en 2002, incluant les transports, le logement et la participation sociale, et a noté que tous ces domaines nécessitent désormais des interactions facilitées par l'IA, des plateformes de transport à la surveillance de la santé en passant par les liens sociaux . La technologie, a-t-elle soutenu, n'est plus simplement un outil ; elle fait partie de l'environnement dans lequel les personnes vivent et avec lequel elles interagissent .

#

La féminisation du vieillissement et la marginalisation des femmes âgées dans l'IA

La Dr Jingbo Huang, directrice de l'Institut de l'Université des Nations Unies à Macao, a participé à la session en ligne et a ouvert ses remarques en reprenant et en prolongeant le cadrage de la professeure Moon Choi . Elle a ancré la discussion dans des données démographiques : selon l'ONU, en 2018 - pour la première fois dans l'histoire - les personnes âgées de 65 ans et plus étaient plus nombreuses que tous les jeunes de moins de 18 ans . Dans ce monde vieillissant, les femmes sont majoritaires - représentant déjà 54 % des adultes âgés dans le monde - et le nombre de femmes de plus de 60 ans devrait passer d'environ 336 millions en 2000 à 1 milliard d'ici 2050, soit le triple . Les démographes désignent ce phénomène par l'expression « féminisation du vieillissement » . La Dr Jingbo Huang a soutenu que cette population nombreuse, en croissance rapide et de plus en plus féminine mérite une attention politique urgente, alors que les femmes âgées figurent parmi les groupes les plus marginalisés en ce qui concerne l'IA - en partie parce qu'elles sont très peu représentées dans les données à partir desquelles les systèmes d'IA apprennent .

La Dr Jingbo Huang s'est appuyée sur deux corpus de recherche de l'UNU Macao pour développer cet argument. Le premier était le rapport EQUALS, produit en 2019 avec les contributions de la professeure Moon Choi, qui examinait le genre et la technologie selon trois dimensions : l'accès, les compétences et le leadership . Le message central de ce rapport, a-t-elle noté, était déjà clair à l'époque : sans données ventilées par genre, l'inégalité ne peut même pas être perçue, et encore moins traitée . Le second corpus de recherche portait sur les données synthétiques - un sujet qu'elle a présenté comme devenu central pour la gouvernance de l'IA et directement pertinent pour la marginalisation des femmes âgées .

#

Données synthétiques : opportunités, risques et gouvernance

La Dr Jingbo Huang a présenté les données synthétiques - des données créées artificiellement à partir des caractéristiques statistiques de données réelles, pouvant être partiellement réelles, partiellement artificielles ou entièrement synthétiques - comme une force de plus en plus dominante dans le développement de l'IA . La Dr Jingbo Huang a cité des chiffres suggérant qu'environ 60 % des données utilisées pour entraîner les modèles d'IA sont désormais synthétiques, et que les données réelles accessibles et lisibles par machine s'épuisent, faisant de la gouvernance des données synthétiques une priorité urgente . Elle a identifié trois opportunités principales : les données synthétiques peuvent remédier à la pénurie de données, en particulier dans les pays du Sud ; elles peuvent, si elles sont correctement traitées, corriger les biais présents dans les données réelles, y compris ceux liés au genre et à l'âge ; et elles peuvent protéger la vie privée en supprimant les informations d'identification . Cependant, elle a été tout aussi claire sur les risques. Si elles sont générées sans précaution, les données synthétiques peuvent amplifier les biais existants, reproduisant les lacunes mêmes qu'elles sont censées combler, et agissant comme une « loupe » des biais des données réelles . Elles peuvent également porter atteinte à la propriété intellectuelle .

Pour les femmes âgées en particulier, la Dr Jingbo Huang a soutenu que les enjeux sont doubles. Les femmes âgées sont marginalisées à la fois en tant que femmes et en tant que personnes âgées, ce qui signifie qu'elles se retrouvent simultanément exclues de deux groupes . Sans données capturant à la fois le genre et l'âge, les données synthétiques ne feront qu'amplifier leur absence des modèles d'IA plutôt que d'y remédier . Elle a également soulevé un défi méthodologique fondamental : lorsque les données de référence sur les femmes âgées n'existent pratiquement pas, il devient presque impossible de mesurer si les données synthétiques les représentent adéquatement - une question qu'elle a identifiée comme une priorité de recherche ouverte . Elle a formulé trois séries de recommandations : sur le plan technique, le contrôle de la qualité et la correction des biais doivent être intégrés dans la génération de données synthétiques, avec des objectifs explicites en matière de représentation de l'âge et du genre ; au niveau des politiques, les données ventilées par genre et par âge doivent être érigées en exigence fondamentale, puisque les données synthétiques ne peuvent pas représenter ce qui n'a jamais été mesuré ; et au niveau de la gouvernance, un cadre ancré dans le Plan d'action de Madrid sur le vieillissement, les ODD et le Pacte numérique mondial devrait être établi, construit à travers une coopération régionale afin que les économies plus petites puissent partager des normes, et les femmes âgées elles-mêmes devraient avoir une voix participative dans sa conception .

#

Le fossé de l'IA générative parmi les personnes âgées

Ern Chern Khor, doctorante au KAIST travaillant au sein du KAIST Aging and Technology Policy Lab de la professeure Moon Choi, a présenté des résultats empiriques d'une étude portant spécifiquement sur le fossé de l'IA générative parmi les personnes âgées . Elle a commencé par situer historiquement le fossé de l'IA : ce n'est pas un problème nouveau, a-t-elle soutenu, mais le résultat d'inégalités structurelles de longue date entrant en collision avec de nouvelles applications technologiques . Depuis le lancement de ChatGPT en 2022, les applications d'IA générative et leurs utilisateurs ont connu une croissance exponentielle, rendant urgent de se demander qui est laissé pour compte . Les interventions existantes en matière d'inclusion numérique ont aidé les personnes âgées à accéder à Internet, mais la question de savoir si ces interventions sont suffisantes pour permettre aux femmes âgées d'adopter l'IA reste ouverte .

Pour étudier cette question, l'étude d'Ern Chern Khor a utilisé l'enquête sur les appareils numériques de 2025 en Corée du Sud, couvrant plus de 2 600 personnes âgées déjà utilisatrices d'Internet . En se concentrant sur ce groupe, l'étude visait à révéler si un fossé existe même parmi ceux qui ont déjà franchi le fossé numérique de premier niveau entre les utilisateurs d'Internet et les non-utilisateurs . Les résultats ont confirmé des écarts significatifs associés aux femmes âgées et au statut socioéconomique inférieur dans l'adoption de l'IA générative, fournissant des preuves d'un fossé numérique de second niveau . Ce résultat a démontré que l'accès à Internet seul est insuffisant pour garantir la participation aux applications d'IA avancées, et que quelque chose de structurel, au-delà de la connectivité, détermine qui utilise l'IA et qui ne l'utilise pas .

Le résultat le plus frappant et le plus pertinent pour les politiques publiques a émergé d'une analyse de modération. La littératie à l'IA a été confirmée comme le facteur le plus important pour expliquer le fossé de l'IA générative parmi toutes les variables incluses dans l'analyse . Cependant, l'analyse de modération a révélé un résultat contre-intuitif et, selon les termes d'Ern Chern Khor, « alarmant » : les progrès en littératie à l'IA se traduisent par une adoption de l'IA bien plus rapide pour les personnes âgées déjà en position avantageuse - celles qui sont plus jeunes, de sexe masculin, de statut socioéconomique plus élevé et vivant en milieu urbain - que pour celles en position désavantagée . Cela signifie que si les interventions politiques ne sont pas conçues avec soin, les ressources consacrées à l'amélioration de la littératie à l' IA risquent d'être captées de manière disproportionnée par ceux qui sont déjà avantagés, ce qui pourrait creuser le fossé de l'IA plutôt que de le combler .

Ern Chern Khor a tiré quatre conclusions de ces résultats. Premièrement, les personnes âgées ne constituent pas un groupe démographique uniforme, et les interventions doivent consciencieusement tenir compte de qui y participe réellement et en bénéficie . Deuxièmement, les ressources doivent être spécifiquement dirigées vers les femmes âgées les plus vulnérables - celles vivant dans des régions rurales, avec un niveau d'éducation plus faible et alourdies par des rôles familiaux et sociaux . Troisièmement, les cas d'usage pertinents pour les femmes âgées doivent être consciencieusement intégrés lors de la conception des interventions visant à favoriser l'adoption de l'IA générative . Quatrièmement, et surtout, il est tentant de diriger les ressources vers des groupes capables de démontrer des résultats rapides et tangibles, mais cela risque de créer une distribution inégale des ressources qui aggravera le fossé de l'IA existant ; les progrès plus lents des personnes les plus vulnérables doivent être reconnus et valorisés dans les cadres de suivi et d'évaluation . Ern Chern Khor a également noté que son laboratoire préparait un rapport sur l'IA et le vieillissement, devant être présenté au Sommet AI for Good deux jours plus tard, qui rassemblait quatorze études de cas dans différents pays examinant les pratiques aidant les personnes âgées et les femmes âgées à améliorer leur littératie en IA.

#

Discussion en panel : responsabilité, intersectionnalité et droit à la déconnexion

La discussion en panel s'est ouverte avec la professeure Moon Choi posant une question aux deux panélistes : s'il n'y avait qu'une seule mesure qu'ils changeraient demain pour placer les femmes âgées au cœur de l'IA pour le vieillissement, quelle serait-elle ? Wai Kit Si Tou, chargé des affaires économiques à la CNUCED, a centré sa réponse sur la responsabilité . Il a proposé un mécanisme de responsabilité en matière d'IA inspiré du cadre ESG (Environnemental, Social et de Gouvernance), qui exige déjà des entreprises qu'elles rendent compte non seulement de leurs performances financières, mais aussi de leurs impacts environnementaux, sociaux et de gouvernance . Un équivalent pour l'IA, a-t-il soutenu, obligerait les entreprises à divulguer comment l'IA affecte les différentes parties prenantes tout au long du cycle de vie de l'IA, notamment par la divulgation publique du fonctionnement des modèles d'IA, de la manière dont les décisions sont prises et dont les données sont collectées et gérées . Ce mécanisme, a-t-il suggéré, serait essentiel pour engager le secteur privé dans un développement inclusif de l'IA .

Le professeur Tim Unwin de l'Université de Londres a offert une réponse plus large et parfois délibérément provocatrice. Il a commencé par noter qu'il avait programmé en Fortran dans les années 1970 et qu'il a lui-même la soixantaine avancée, établissant ainsi un intérêt personnel dans le sujet du vieillissement et de la technologie. Il a mis en garde contre le fait que dans les dialogues onusiens, le mot « genre » est trop souvent assimilé uniquement aux femmes, et que la pleine diversité du genre et de la sexualité doit être prise en compte . S'appuyant sur des recherches menées auprès de communautés LGBT dans les favelas du Brésil, il a soutenu que les femmes LGBT âgées sont encore plus marginalisées que les femmes âgées en tant que groupe , et il a invité la session à s'imaginer s'adresser à des « femmes lesbiennes âgées handicapées, issues de minorités ethniques et vivant en milieu rural » - une formulation conçue pour rendre viscéralement concrète la nature cumulative du désavantage intersectionnel.

Le professeur Tim Unwin a ensuite introduit le concept de « démence numérique » - un terme qu'il a forgé - en s'appuyant sur son expérience personnelle avec sa mère, mathématicienne pionnière et adoptante précoce de la technologie numérique qui avait introduit les ordinateurs dans les écoles dans les années 1980, et dont la capacité à utiliser Skype avait disparu avec l'apparition de la démence . Il a soutenu que maintenir le cerveau actif par la pensée indépendante est essentiel pour éviter la démence, et que l'utilisation excessive de l'IA et de la technologie numérique risque de créer une génération de personnes incapables de penser par elles-mêmes - une perspective qu'il a décrite comme « totalement totalement effrayante » . Dans un geste rhétorique délibérément provocateur, le professeur Tim Unwin a fait référence à la législation britannique autorisant l'aide à mourir, se demandant si la conclusion logique de l'exclusion des personnes âgées de la vie numérique était qu'elles devraient simplement « se suicider » - un reductio ad absurdum destiné à souligner les enjeux moraux d'une véritable inclusion. Sa réponse à la question était que la seule chose qu'il changerait est d'impliquer des personnes issues de groupes intersectionnellement marginalisés dans la conception de l'IA elle-même, car sans co-conception, aucune intervention en matière de gouvernance ou de littératie ne peut réussir .

#

Contributions du public : souveraineté des données et absence d'inclusion dans l'éducation à l'IA

La discussion a été considérablement enrichie par deux contributions du public. La première est venue de Batseba Seifu du Gender Empowerment Movement, qui a soulevé le cas de la politique de souveraineté des données de l'Éthiopie, en vertu de laquelle le gouvernement a déclaré les données comme une question de souveraineté d'État, empêchant les chercheurs indépendants et les organisations humanitaires d'accéder à des données ou d'en générer . Elle a établi un lien direct avec les thèmes de la session, notant que cela affecte de manière disproportionnée les femmes âgées qui supportent le poids des crises humanitaires, et que sans données, les systèmes d'IA ne peuvent pas apprendre à connaître la vie de ces femmes - les rendant effectivement invisibles . La professeure Moon Choi a reconnu la préoccupation et l'a reliée au défi plus large des ensembles de données en langues à faibles ressources et au problème du volume dans les données d'entraînement de l'IA . Elle a également noté qu'un ancien étudiant du KAIST avait développé un vaste ensemble de données sur les perceptions de la population coréenne, incluant une représentation suffisante des minorités, disponible sur GitHub et Open Sciences, comme exemple de pratique de données ouvertes inclusives. La Dr Jingbo Huang a répondu en indiquant les données synthétiques comme solution partielle potentielle et les recherches en cours de l'UNU Macao sur les cadres d'interopérabilité transfrontalière des données comme piste connexe . Elle a fait référence aux recherches de l'UNU Macao sur l'interopérabilité en matière de sécurité de l'IA, qui avaient examiné des cadres de données transfrontaliers en Corée du Sud, en Chine, à Singapour et au Royaume-Uni, et a noté que ces travaux se poursuivaient avec un accent sur l'interopérabilité dans les systèmes éducatifs. Aucun des deux intervenants n'a toutefois abordé directement la question politique de savoir comment la communauté internationale peut réagir face aux coupures délibérées de données imposées par un État.

La deuxième contribution significative du public est venue d'Anisha Tamawi, qui a demandé comment l'argument du professeur Tim Unwin sur la complexité intersectionnelle pourrait être mis en pratique, étant donné que l'IA agentique est spécifiquement conçue pour réduire la complexité de l'interaction avec les utilisateurs . La réponse du professeur Tim Unwin a renforcé son argument antérieur : le droit de ne pas être connecté est aussi important, sinon plus important, que le droit d'être connecté . Il a cité l'exemple d'un voisin âgé qui s'est retrouvé dans l'incapacité de fonctionner à cause de la numérisation des services bancaires , et a fait valoir que le fait de contraindre les gens à utiliser l'IA constituait une « forme d'esclavage forcé » et revenait à une collecte de données . Un deuxième membre du public - qui s'est présentée comme étant en train de terminer un master en gestion de l'IA et de l'apprentissage automatique, et dont la contribution était une remarque spontanée depuis la salle plutôt qu'une question préparée - a ensuite offert une réflexion candide : dans l'ensemble de son programme, l'IA centrée sur l'humain n'avait été abordée qu'en termes de maintien des humains dans la boucle pour la supervision et la correction des erreurs, jamais en termes d'inclusion des groupes marginalisés, et cette perspective ne lui avait tout simplement jamais été présentée . Cet échange a souligné la profondeur de l'angle mort dans le discours dominant sur l'éducation à l'IA et la gouvernance concernant les populations les plus marginalisées.

#

Réflexions conclusives et conclusions générales

La professeure Moon Choi a clôturé la session en revenant à sa prémisse fondatrice : la technologie n'est pas neutre, et elle ne fonctionne pas de la même manière pour tout le monde . Même l'IA agentique est utilisée différemment par différentes personnes, et la technologie est souvent conçue pour la commodité des utilisateurs déjà privilégiés . La question de « l'IA pour le bien » doit donc toujours être accompagnée de la question « de qui », et une diversité de perspectives doit être apportée au développement et à la gouvernance de l'IA .

Pris dans leur ensemble, les travaux de la session ont produit un agenda politique cohérent, bien que contesté. Il y avait un fort consensus entre tous les intervenants sur le diagnostic : les femmes âgées sont marginalisées de manière disproportionnée dans les systèmes d'IA en raison d'inégalités structurelles accumulées, d'une mauvaise représentation dans les données et de la féminisation du vieillissement . Il y avait également un large accord sur le fait que les données ventilées par genre sont fondamentales , que les interventions en matière d'IA risquent de creuser plutôt que de combler les inégalités si elles ne sont pas soigneusement conçues , et que les cadres de gouvernance doivent être ancrés dans des engagements internationaux et inclure des approches participatives . Les tensions non résolues les plus significatives concernaient la portée du « genre » dans la politique d'IA, le droit de rester non connecté, les conditions dans lesquelles les données synthétiques aident plutôt que nuisent à la représentation des femmes âgées, et le défi politique que représente la souveraineté des données imposée par les États bloquant l'accès aux données humanitaires - autant de points qui indiquent un domaine n'ayant pas encore atteint de consensus sur certains de ses objectifs les plus fondamentaux.

—
Prof. Moon Choi
I think they can see anyway. So thank you so much for coming to the Wizzies session on 1 -8 -8, AI empowerment for all the people. It's 1 p .m., but we'll wait for one or two more minutes so the speaker can be here, and then we'll start shortly. Thank you. Thank you so much for coming to the Afton Session. It's a hot, you know, humid day, and, you know, it must be, you know, hard to travel to here, and we really appreciate your interest in this session. And can you hear me? Okay. Yeah. I'm Moon Chae. I'm a professor at KAIST. We are the Tuck University Developing AI and Emerging Technologies, and I'm also a director of the KAIST Aging and Technology Policy Lab. So today's session is about AI empowerment for older people from a gender mainstreaming perspective. So our lab is the very first lab about aging, social welfare, and technology policy since 2014, and we are doing a lot of quantitative and qualitative empirical research about evidence -based policymaking. So there's a demographic change and also the new technology and their intersection, and we are based on social justice and sustainability, and that tried to make evidence to make a better policy. So we are going through the longevity revolution. What does it mean? So in our parents or grandparents, have a shorter life, than we have these days. So people live longer, and aging becomes a central question for every policy stream. So around the UN system, most countries have gone through the population aging. It caused a longevity revolution. And also there's another big trend. It's a digital transformation. AI and digital systems are becoming everyday infrastructure for healthcare and work and connection. So we are going through these two different transformations. But, you know, when they interact with each other, what our life would be like, and how it would affect the policy making. So here's, you know, life course perspective. So we have a life stage, you know, after born, you know, the childhood and middle age and other to do, and then a later life. But when I'm a gerontologist, we often call it gendered aging, and what does it mean? So I just drafted these images, and when you think about old age, we picture, you know, we have 20 more years after retirement, after 65. But it depends on your gender, your health status, your background, your geography. And so you can see that, you know, older women, there are more number of older women compared to men. But the reason is that women live longer. So when you talk about the aging, it's a gender issue. It's not just about health issue. It's not just about demographic issue. It's a gender issue. So when you think about the WHO aging -friendly cities and communities, WHO suggested eight different. The domains in 2002. So it's a transport. housing, social participation, et cetera. But when they designed this kind of domains of age -friendly cities, they pictured those things could be hardware and software, but these days everything should go through the interaction. So when we use transportation, we have to go through the platform, platform, ride services, and now the agent AI, when you work or when you travel, et cetera, you make a decision with your agent AI. And also even today's meeting, we have the Zoom here. So all these kind of mobile interactions are embodied in everyday life. It's an infrastructure. So technology is not just a tool. It's a tool. Part of where we live in and also where we... live with. And behind these technologies, there are AI. So AI algorithm has been advanced so much, and now it's product and also intact with everyday life. So I would like to give attention about AI and aging. So from home to healthcare, AI is becoming part of how all the others are supported, monitored, and connected and governed. So if you have parents or your grandparents or even your neighbors or even you have friends, you can have witnessed that, you know, how AI has been used for health monitoring and also smart home technology and also platform social connection. But I would like to highlight gender effect here. women tend to have lower access and AI literacy and also it's from the accumulated advantage and disadvantage. So gendered age is not only about age or gender separately. It is about how inequalities accumulate across the life course and become visible in later life. So I would like to highlight the important questions in today's session. So the fundamental question is that AI has a lot of benefits. We have AI for good and we have WISIS. It seems to have a future and it's very promising. I always like to surprise how agent AI is need. I'm a happy user but have you thought about the benefits and risk of this AI transformation distributed equally among older people? Some people might take advantage of a lot, but some people might be excluded completely because of this AI. And there are many documentaries about the digital divide, how older people struggle with everyday life because of digital transformation. But now we need to pay attention to the impact of AI on the increasing or decreasing the inequality issue. So how does gender shape all the other's experience of access to an outcome from this transformation? And we have a growing evidence about the inequalities. It's very hard to measure, also research, because it often requires longitudinal studies. But our lab has managed to do some experimental study with the AI system. And recently we have published a number of papers how the digital age is. And has played in the popular AI services. So today I would like to address the three important questions Who is being left behind and why And what does global evidence tell us and not yet tell us That's knowledge gap How can regional cooperation turn evidence into policy That's a purpose of ITU and also UN system So today we have two intervenants The first speaker is Dr. Jingbo Huang Director of UN in Macau And because of her schedule of conflict She will join online Dr. uang, are you ready?
—
Dr. Jingbo Huang
Yes, Dr. Che.
—
Prof. Moon Choi
Yes, you can hear, we did the headset So please use headset. Yes, the floor is yours.
—
Dr. Jingbo Huang
Okay, thank you The headset, there's something wrong So I will just Go straight to the presentation So good afternoon, dear colleagues My name is Jingbo Huang Director of United Nations University Institute in Macau As you probably know or not know that UNU is one of the UN organizations. Our headquarters is in Tokyo. There are 13 research institutes in 12 different countries. And the institute that I'm heading in Macau is specialized in research, education, and training on digital technologies and SDGs. So today's topic is a very crucial topic. And older women, gender issues. And today I would like to bring additional perspective and angle, which is synthetic data. So first I would like to echo what Professor Che has been mentioning. Aging is not only a demographic issue, but also a gender issue. So the world is aging. Let me begin with a few numbers. According to the UN, by 2018, for the first time in history, people aged 65 and older, will outnumber all the... youth under 18 years old. So we're becoming an older world. Second, within that older world, the majority are women. The number of women over 60 will grow from about, you know, in 2000, we have a number of 336 million. And by 2050, the number will increase to 1 billion, a threefold increase. Already today, women make up 54 % of the world's older adults. Demographers call this the feminization of aging. So why does it matter? So this is a large, fast -growing and increasingly female population. It deserves our attention, and yet older women are among the most marginalized groups. When it comes to AI. And that's why they're so poorly, you know, because they're so poorly represented in the data that AI learns from. So I would talk about it from the UNU Macau's previous research. So our work, I would like to approach this topic from two angles, two research. One research is the synthetic data research that we conducted a couple of years ago. So how to use synthetic data to train AI models. So we developed this UN policy guidelines and launched at our previous UNU Macau AI conference in 2024. The other piece of research that we'd like to draw from is actually dated back to 2019, which Professor Che was also a part of, is an important contributor, is the equals report. And in the report, we look at the gender and technology. So we approach this topic from three areas. Access skills. And leadership. And we look at the gender and technology. And back then, the central message of the equals report is already very clear. We need a gender disaggregated data. Without it, we cannot even see inequality, let alone address it. Let's combine the data, digital tech and older women. If we combine these topics, we can see that we tend to amplify the marginalization of older women within AI models. And that in turn aggravates their marginalization in the real world. So this is a concern I would like to unpack in the rest of my remarks. Synthetic data. What is it? So synthetic data is artificially created based on the statistical data. So features of real world data. It resembles real data, but it can be hybrid. It can be partially real, partially artificial, or completely synthetic, completely artificial. So this is no longer a niche technique today. About 60 % of the data used to train AI models is synthetic. So in our report, which you'll find on our website, unu .edu .me, you'll find that in the report we mentioned that, you know, close to some researchers argue that by 2024, some argues that by 2028. So the real data, which I mean by accessible and the machine readable data will be exhausted. So the point is the same. The world is running out of real data to train AI models. So synthetic data comes into the picture and becomes more and more important. As a result, the production and the quality control of synthetic data are becoming a priority topic in AI governance. It carries both opportunities and risks. So from the opportunity side, it can address the data scarcity issue. Synthetic data can help address, for example, the lack of data issue, especially in the global south. The second opportunity, it can help if adjusted properly, correct the biases in the real data. So in the real data, there could be biases according to gender or age. If the data, the synthetic data is treated properly, these biases have the potential to be reduced or eliminated. The third opportunity is the privacy protection, because the identifying information from the real data can be removed in the synthetic data. So it's a way of protecting privacy. However, there are also risks, like any new technologies. So synthetic data can lead to infringement. It can lead to infringement of intellectual property. And more importantly for us today, it can amplify existing biases. If the data is not properly treated or corrected, generated carelessly, it reproduces the very gaps we're trying to close. So if we look at the synthetic data or AI models, they tend to be magnifying glasses of the real data biases. So we will need to be aware of these risks. On the gender tech side, that will bring me back to the central message of our equals report, the need for gender -disagreed data. For older women, this matters twice over. They're marginalized because they're women and, again, because they're older. Without data that captures both gender and age, they fall through both gaps at once. And synthetic data will only scale that absence. So, from our research and also in the future, we would like to make some recommendations, one from the technical side, so quality control. Technically build quality control and bias correction into how synthetic data is generated, set targets for both age and gender, and actively correct existing biases rather than replicate them. The second recommendation is from the policy level. Make the correction of gender and age -desegraded data found a foundation. Synthetic data cannot represent what was never measured in the first place, and synthetic data cannot assume fairness either. The third part is from the governance. Put a governance framework around this, anchored to the, as you know, the Madrid Plan of Action on Aging, the SDGs, the Global Digital Compact, and build through regional cooperation so that smaller economies can be integrated. Communities can share standards, and older women themselves should have a voice in it. We will need to do the participatory approach involving older women into every design. Future research, and we're interested in looking at how do we even measure, you know, when baseline data on older women barely exists, how do we even measure whether synthetic data represent them well? And the second research question that we're looking at is under what conditions does synthetic data reduce the marginalization of older women rather than deepening it? So in summary, older women are the fastest growing population on Earth. Synthetic data can help AI finally see them, but only if we govern it as carefully as we generate it. That is our work at UNU acau and is the governance choice for all of us. Thank you. Thank you, everyone, and thank you, Professor Che.
—
Prof. Moon Choi
Thank you so much for a very interesting research about synthetic data and inequality issue by aging and gender. And the next presenter is Ms. Eun -Chun Ko of Dr. Yudan, Dr. Kennedy rom Kaiser Graduate School of Science and Technology Policy, and she'll give a talk about the generative AI divide.
—
Ms. Ern Chern Khor
Thank you so much. Good afternoon. My name is Eun -Chun Ko. I'm a doctor candidate from Korea Advice Institute of Science and Technology and working under the Aging and Technology Policy Lab led by Professor Moon Choi. So my doctor dissertation focused specifically on investigating the structural disparities in AI, which means the uneven distribution of benefits and harms in AI across social groups. So today I will talk about some insights from one of my studies, which focus on the generative AI divide among older adults. So before beginning the presentation, I would like to acknowledge the support of this presentation by the NRF grant funded by Korean government. So some of you may hear about the term AI divide, which is often coined to describe the uneven benefit distribution. Due to the disparities in AI adoption or AI. So since the launch of ChatGPT in 2022, the growth of both generative AI applications and also users grows really exponentially. And it is important to ask questions about then who is left behind in this trend. So although the widespread use of generative AI are just happening recent few years, I would like to argue that what we call AI divide is not a new problem, but the results of old problems collide with new technology applications. So from the perspective of gendered aging, older women has long been recognized as vulnerable groups in digital use. And we have interventions, some interventions to help. To use more digital device and internet. But it is important to ask if what we have now is enough for them to also adopt AI, to bridge them. with AI adoption. So that's why in my study, I specifically look closer into older Internet users to investigate if there is AI divide even among older adults who are already using Internet. And this will give us a hint that on top of Internet access and Internet use, something else is structurally shaping who is using AI and who is not. So this study, we utilized the recently released 2025 Digital Device Survey in South Korea, which covers more than 2 ,600 older adults who are already using Internet. This study investigated the relationship between the AI divide, social demographic factors, and also AI attitudes and AI literacy. So first of all, the results as explained, showed significant gaps associated with older adults. women and lower socioeconomic status, which provides evidence on the existence of second -level digital divide in generative AI adoption. So first -level digital divide separate what we call internet users and also non -internet users. And among internet users, we can see that disadvantaged older women experiencing another divide when we talk about advanced application use like generative AI. So the next question in this study, we're trying to ask then what we can do to address this AI divide for older women. So policy interventions often target AI literacy. So yes, our results also confirm that AI literacy is the most important factor in explaining AI divide among all factors included in this analysis. So it seems like the answer comes from the AI divide. It could be simple, right? We can just direct resources to improve AI literacy for older women, and then we can narrow the AI divide. However, under the moderation analysis in this study, we can see a counterintuitive and alarming result, which is the increase in AI literacy can be translated into AI adoption much faster for older adults who are already in advantage positions than those in disadvantage positions. So what I mean by disadvantage positions here in this study means older age, women, lower socioeconomic factors, status, and also living in rural regions. This means that if policy intervention is not designed carefully enough, the important resources can be utilized much faster than those who are already in advantage positions, and thus AI divide may be widened further. So in conclusion, what we can learn from these findings, first, it is important to recognize older adults are not uniform demographic. So in the interventions we are doing right now, it's important to consciously notice who are those actively participating and utilizing the resources. You may actually notice that they're more younger demographic, more with higher education level and income, and those from urban regions. Second, we need to put actions to distribute resources specifically for older women, especially those who are more vulnerable, those who live in rural regions, less educated, and being burdened by family roles and social pressure. Third, we need to consciously include more use cases for older women when designing interventions related to generative AI adoption. And lastly, also the most importantly, it is tempting to direct resources to groups who can bring tangible outcomes faster. But this risks an even distribution of resources in policy interventions, which will worsen the existing AI divide. So it is important to consciously recognize that older women, especially those in vulnerable positions, can take more time to translate esources into tangible results. So it's important to recognize this point when monitoring and evaluating the interventions. And that is all for my presentation. Thank you.
—
Prof. Moon Choi
Thank you so much. And now we are moving to the panel discussion. And I have three guiding questions, but we have time for a fuller discussion, too. So if you have any questions, we'll take them. Okay, so we have two panelists and also two intervenants. Mr. Wai Kit Si Tou, Economic Affairs Officer from UNCTAD, and also Dr. Tim Unwin, Professor from University of London. Okay, so I'd like to ask two panelists. The first question is, if there were one thing you would like to see changed tomorrow, whether in esearch, design, or policy, to place all the women at the center of AI for aging, what would it be? The very first thing you can do.
—
Mr. Wai Kit Si Tou
Thank you very much for the invitation and for the questions. From my end, I would say something. On policy, and more specifically on accountability. Because I think with our accountability, we can hardly achieve. anything. And if we really want to put an older person or older women at the center of AI development, we need some accountability mechanism to make it happen. And what I would mean is that we could learn from the ESG framework, that is the environment, social and governance framework that is quite well established nowadays. That is to mean for a company, they are not only required to report their financial situation, but also their impact on environment, social and governance. And I think that an AI equivalent could be made in terms of how a company discloses the information on how AI impacts different stakeholders across the AI life cycle. And apart from that, some public disclosure mechanism could be in place that make this company accountable to present how the AI model actually works . the decision -making process or the use, collection, and management of data actually work. So through this public disclosure mechanism, we could establish an accountability mechanism to engage private sector in the AI development, and I think that would be essential to put this in place to make it happen. And for more information, you are welcome to have a look at UNCTEC's fresh publication. We have this technology and innovation report, and we have a different recommendation, and this is one of the key ones that we would like to advocate for. Thank
—
Prof. Moon Choi
Thank you. Okay. Thank you so much. And Mr. Zekish To emphasized the transparency and also the importance of governance across the AI development cycle. And, okay, Professor Tim, would you comment on that?
—
Prof. Tim Unwin
Thank you very much. I'm clearly not a woman, but I think I'm the token old person here because all of you look so young. And I remember programming in Fortran in the 70s. Can you imagine that? In case you think I'm in my 50s, I'm actually in my 70s. That means I know some real. Really old people. But before I say that the one thing I'd change, can I, Chair, please build on what Ansheng Kuo was saying? Because I think if we use the word gender, we need to think about the full diversity of the meaning of gender and sexuality. And all too often in UN dialogues, it's equated with women. And I think you touched on some really, really interesting points towards the end of what you're saying. We've been doing some really fascinating research practice with the LGBT community in the favelas of Brazil. And let's put it simply, we think women are a marginalized category. Women, LGBT, well, they call themselves LBT very specifically. They're even more marginalized. And yes, it's right that this session should focus on women and age and everything we've heard so far. There are a huge number of other intersecting variables that you touched on. So, yeah, I like to imagine that this session is talking about older lesbian women with disabilities from ethnic minorities living in rural areas. So that's just something I wanted to get out there up front because I think it's terribly important. How many of you have cared for an elderly relative with dementia? So you know what it's like. Those who haven't, I don't think, can imagine what it's like. And I'll just tell you a story. My mom was a computer. So she was trained as a mathematician in the 1940s. She did the calculations for some of the first jet engines being built in Britain. She was an amazing brain, amazing mathematician. She was an early adopter of digital tech. She was a school teacher and she introduced computers in schools. As soon as the old. BBC computer was out there. So, yeah, we're talking back in the 80s. and she used Skype and she loved to talk with her children and her grandchildren, so great children and grandchildren on Skype. And then dementia set in. And it was really interesting and I struggled because how could a woman so able not use Skype anymore when she'd been using it? I still don't understand why it happened. But the takeaway from that is I think twofold. One is, and people describe dementia as they've gone over a river by a bridge to another world and you've just got to be with them in that world. Hey, that's not a world that all this stuff about AI is living in. And we're in danger if we don't let elderly people use their brains. The one thing we know is you keep your, your brain active, she did cross words, she did number puzzles and that went but if you don't keep the brain she lived till 92 if you don't keep the brain you get dementia and AI excessive use of all digital technology excessive use of AI is leading to what I call digital dementia we're in danger of creating a whole generation of people who can't think for themselves anymore that is totally scary totally totally scary so the one thing I would change is we have to involve these people from these I don't like the word intersectionality but let's use it this intersectional complexity in the design of AI itself if they are to have any hope at all in benefiting from it.
—
Prof. Moon Choi
Thank you so much the professor team emphasized co -designing process also the public awareness of aging from the marginalized population's perspective. Okay, so I would like to move to the next question. And so this question would go to Ms. Ern Chern Khor. So would you share a good practice, policy example, or real -world case that offers lessons for making AI more empowering and inclusive for all the women and all the others?
—
Ms. Ern Chern Khor
Yes, so like, so as what I introduced also in my presentation in the last slides, there are some recommendations I put on. And also, so we were working on a report about AI and aging. It's going to be presented two days later in the AI for Good Summit. And inside we collect 14 cases across the global. different countries about how those practices actually help older adults and older women in improving their AI literacy. But we do see some gaps, actually, in those case studies. So there's not many cases now focused specifically on AI adoption compared to digital and Internet use. So a lot of cases actually just build on what we have, like existing interventions and so on. And then everything is moving very fast, and people are trying to get tangible outcome as possible so they can get more investment into pushing those interventions more. But I think it's so important to value first, fundamentally value older women first, like not just about digital use or Internet use or AI use. Value what they know and value what they can do first before we use, interestingly. to empower them. So you have to believe in the power first. Second is about giving more time and not just go for fast and tangible resources. So if we value inclusion first, then that should be the priority rather than seeing fast or tangible outcomes. I think it is something more lacking now, and I personally think that it should be more valued in when we design interventions. Thank you.
—
Prof. Moon Choi
Thank you. Okay, thank you. Now I would like to ask the UN officers about the government perspective. I guess UN officers work with the government officers a lot. Okay, so from your perspective, what is one concrete commitment governments should make to ensure that AI reduces inequalities for all the women rather than dipping them? Dr. Jingbo Huang, would you comment on that? B
—
Dr. Jingbo Huang
efore I comment, I see a hand up before me. Dr. Che, would you like to allow the person to speak first?
—
Prof. Moon Choi
Sure. Okay. Mr. Zaki, would you comment on that?
—
Dr. Jingbo Huang
No, sorry. I'm saying that on the Zoom, there's one person with a hand up. Sorry.
—
Prof. Moon Choi
Okay. Sure. Okay. Ms. Paseba Seifu, do you have any comments or questions?
—
Audience
Yes. I just wanted to highlight, first of all, my name is Paseba Seifu. I am with Gender Empowerment Movement, SIGWRITE, and I wanted to raise a concern as well as maybe pose it as a question. Yes. And SIGWRITE, currently, they're in Ethiopia in general. There is something called data sovereignty policy, which means sovereignty of data, which means that independent researchers or independent humanitarian organizations cannot research and issue data because the government of Ethiopia has said that this is a matter of sovereignty. So this particularly will take it to the humanitarian aspect. It disproportionately impacts older women because they bear the brunt of humanitarian crisis. This follows the longest. This year, according to independent international credible research. the longest years of data blackouts, as well as deliberate siege by the Ethiopian government. So what is being done? And if there's no data, then the AI aspect will basically fade out because there is no AI without data. So what is the international community doing in regards to this? It's both a concern, raising a concern, as well as posing a question. Thank you so much for giving me the floor.
—
Prof. Moon Choi
Okay, thank you so much. It's a very thoughtful question. So her main point is that there are movements of sovereign AI, so many countries stopped sharing their data. That means that, you know, if we, you know, a person in, especially all the women in a country, if there is no available data about her, you know, AI never can learn about her life and that it can also create another inequality. So is that correct? My understanding is correct.
—
Audience
Yes, particularly when it comes to humanitarian data, it really impacts older women because they are at the receiving end of the humanitarian crisis disproportionately. And also this follows the longest year of siege according to international independent credible research in Tigray particularly. So that's my concern as well as my question. Thank you.
—
Prof. Moon Choi
I think the question is a little bit mixed. I think sovereign AI is the pillar, but also the Minor tissue is another one, but they can be a little bit different, separate agenda. But I think she, you know, tried to link those two things. But I think that question would go to Dr. Jinbo Hwang. Actually, she talked about the synthetic data. In some sense, synthetic data can be, you know, one of the approaches to solve that problem. And also, I think it's also part of low -resource language data set. Because most of the models that we are using are based on the large number of the population, say English, Chinese, or Spanish. But in South Korea, there are not many people who speak South Korean, right? So like that, you know, it's about the volume issue. But I think we can go back to Dr. Hwang's comment. Do you have any comment?
—
Dr. Jingbo Huang
Yes. So I think one thing is related to what I just said about the synthetic data. So that could be a solution. But of course, it takes a lot of the technical. and also policy work in between before we reach our ideal. The second piece of research that I would like to highlight or bring into this discussion is our recent work on interoperability of AI safety. And that also includes the data parts, data transfer, data across different borders, cross -border data flow. So if you're interested, please look at our research on interoperability of AI safety. And last year we did a research using four countries, Korea, South Korea, China, Singapore, and what is the other country? And UK. So this year we'll continue on this interoperability topics. As you have probably seen that in the first day global AI dialogue, interoperability is the best. And it's a very important topic. And so for UNU -Metal, we're continuing on this track. And this year we're working on the durability issues, particularly in the educational system. And, yeah, so this is something that I would like to share as additional angle to look at it. Thank you.
—
Prof. Moon Choi
And I also like to add one more. I think one of the KAIST alumni developed some huge data set about the twin system of Korean population, the perception. And then have you seen the news? And so that is an example, and it includes enough minorities, and it's available in Geek Hub and Open Sciences. So I think that could be another example. Okay, so time is almost up. So we'll take maybe one to question, and then we will wrap up. And any questions from the floor? Yes, Anisha?
—
Audience
Hello. Is it on? Okay, perfect. Thank you so much for your presentation. It was super interesting. My name is Anisha Tamawi, and I have a question. I sincerely apologize. I did not get the name from... the mister who talked about digital dementia but i thought it was a very important topic and it's one of the topics that are like personally concerning to me as well just like as a young person interacting with ai um and i was wondering because you were talking about like including complexity in like us interacting with the technology um if i understood you correctly but how would that work on like an implementation level because like if you look into like the model development it's becoming less complex for us as user usually especially if we look into like agentic ai so the responsibility for us as users is becoming less and less an actuality so how would that work uh do we have like governance like guardrails for that um what would you personally imagine as a i guess implementation approach to
—
Prof. Tim Unwin
that that's thank you so much my name is Tim um if I'm promoting as Jimbo was read my new book and it's got all the answers in it but but I think I'll answer it You may not like this, but remember the right to be unconnected is as important, if not more important, than the right to be connected. I have a neighbor, an elderly woman, who is increasingly unable to live because of digital tech, and AI is just making it worse. She used to be able to use a paper check and money. She really now has a fundamental problem with banking, because it's all internet, it's all digital. And just that one tiny example. And I loved your point about if we care about inclusion. If we care about inclusion, we do not, we provide this, you know, for people, they will die. Maybe we should be encouraging more forced suicide. And we're passing legislation. We're passing legislation in Britain to allow, you know, suicide. We should just get elderly people to kill themselves. women in particular because there are more of them is that what we want? I don't think so but if we really care about including them we have to go across the bridge to the land of dementia where they are and not force them forcing people to use AI is enforced slavery it's capture for their data that's all they are.
—
Audience
Just to follow on from that it's funny because I'm right now finishing up a masters in the management of AI and machine learning and an element of that is a human centered part of AI however none of what you just said was discussed is ever discussed it is always about keeping humans in the loop and for human oversight for AI. It's blowing my brain now because I really never thought about it even now. Never thought about it at all. It is always, we have to check, AI can make mistakes, AI can hallucinate, so new jobs are being created with the emergence of AI, with the emergence of this technology, and so yes, people don't have to worry so much about losing their jobs because these new jobs are coming, but indeed the inclusion is completely out of the question, so thank you for bringing that thought forward because I'm just thinking, yeah, let's get on with it and let's go along for the ride. All of us have to.
—
Prof. Moon Choi
I think the time is up, and so I think we have to wrap up, and I feel like we just started the discussion, but it's a short session, so maybe after the session we can you know, you know, have a small talk. But I think it's very important to emphasize that we often think technology is very neutral and then work the same way in everyone, but actually it's not. You know, even agentic AI, everyone use a different way. And also technology isn't often for the rich users, for their convenience. So it's very hard to be, you know, the equally, you know, benefiting people. So I think we are discussing AI for good, but we also need to think about, you know, for whom, and that we have to have more diversity perspective. Thank you so much for coming to the session and also, you know, give a big hand to the speaker and panel. Thank you so much.

Avertissement : Il ne s'agit pas d'un compte rendu officiel de la session. DiploAI génère ces ressources à partir d'enregistrements audiovisuels ; elles sont présentées telles quelles, y compris d'éventuelles erreurs. En raison de contraintes logistiques (audio/vidéo ou transcriptions), les noms peuvent être mal orthographiés. Nous nous efforçons d'être aussi précis que possible.