Empowering Voices: Strengthening CSO and Youth Participation in AI Governance

Emaan soutient que la gouvernance inclusive de l'IA devrait commencer par une documentation directe des préjudices subis par les communautés marginalisées et par des voies de recours concrètes. Son approche consiste à relier les preuves communautaires, le traitement des plaintes et les contributions aux politiques, afin que les groupes minoritaires ne soient pas exclus des processus de gouvernance et de responsabilisation.

Elle a expliqué que son projet pilote travaille avec la communauté chrétienne du Pakistan, en partenariat avec des églises, des écoles chrétiennes, des membres de la communauté et des OSC pour documenter les préjudices liés aux violences facilitées par l'IA . Elle a donné des exemples concrets de ces préjudices, notamment des deepfakes entraînant des accusations de blasphème, des incitations, des violences de foule et des arrestations, et a indiqué que le projet établirait ensuite une voie d'orientation vers le système de plaintes de la Commission nationale des droits de l'homme et produirait des ressources en ourdou et en pendjabi afin que les contributions communautaires puissent orienter les politiques .

Emaan soutient que les organisations de la société civile au Pakistan et dans des contextes similaires se heurtent à des obstacles structurels pour construire des systèmes probatoires durables en matière de gouvernance de l'IA. Elle souligne que la fragmentation des financements et le cloisonnement des projets rendent nécessaires la collaboration et le soutien institutionnel si les OSC veulent contribuer de manière significative.

Elle a indiqué que dans des pays comme le Pakistan, ce travail est presque entièrement financé par des bailleurs de fonds, avec des cycles de financement courts et une concurrence intense, ce qui conduit à des projets répétitifs et à une collecte de données cloisonnée plutôt qu'à des systèmes probatoires durables . Elle a ajouté qu'une solution majeure serait de renforcer la collaboration entre les OSC et, éventuellement, de créer une structure d'appui pour les accompagner, tout en notant que les groupes de jeunes consacrent souvent leur énergie à la recherche de bailleurs plutôt qu'à l'avancement du travail lui-même .

Emaan soutient que les lacunes en matière de participation ne sont pas abstraites, mais déjà visibles dans le profil de ceux qui accèdent aux opportunités technologiques et liées à l'IA. La domination d'un groupe social dans un hackathon pour jeunes a révélé des exclusions plus profondes liées au genre, à la classe sociale et à l'appartenance minoritaire, auxquelles la gouvernance inclusive doit répondre.

Elle a décrit comment son organisation a organisé un hackathon technologique pour les jeunes au Pakistan avec la Cour suprême et a constaté que toutes les candidatures provenaient de jeunes hommes musulmans, à l'exception de 20 % de femmes, sans aucune candidature des communautés hindoue, chrétienne ou sikhe . Elle a indiqué que ces tendances reflétaient les structures de classe et communautaires au Pakistan et constituaient une préoccupation sérieuse pour la commission .

Emaan soutient que la participation des jeunes à la gouvernance de l'IA nécessite bien plus que d'inviter des jeunes dans la salle ; elle implique de remédier à l'inégalité d'accès aux outils, aux barrières linguistiques et aux idées reçues sur les personnes qualifiées pour participer. Elle souligne que l'éducation fondée sur les droits et les ressources en langues locales sont indispensables pour que les jeunes comprennent que la gouvernance n'est pas réservée aux codeurs ou aux élites.

Elle a établi un contraste entre les élèves des grandes écoles, qui avaient accès aux visas, aux modèles de langage et aux cours en ligne, et les élèves des écoles publiques et défavorisées où même expliquer l'IA en ourdou était difficile . Elle a raconté avoir tenté de traduire l'IA par « Nakli akal », ce que les élèves ont trouvé effrayant, et a indiqué que beaucoup d'entre eux n'associaient l'IA qu'à la génération d'images sur TikTok et pensaient avoir besoin de compétences en codage pour avoir leur mot à dire dans la gouvernance . Elle a également mentionné des ressources telles que la Netmission Academy et l'Asia-Pacific Youth Internet Governance Forum, et a précisé que son organisation a signé des MOU avec 20 universités pour développer des modules d'IA fondés sur les droits humains .

Emaan soutient que d'ici cinq ans, la participation des jeunes devrait être formellement intégrée dans les processus internationaux de responsabilisation, plutôt que d'être laissée à titre facultatif. Elle appelle également à la création d'un mécanisme institutionnel national au Pakistan, indépendant, dirigé par des jeunes et financé sur fonds publics, pour traiter les préjudices numériques et les questions de gouvernance.

Elle a déclaré que la participation des jeunes devrait être obligatoire dans les processus de rapportage international sur les questions numériques, en faisant valoir que l'ONU devrait exiger la prise en compte des voix des jeunes dans les cycles de rapportage tels que le CAT et le CERD, afin que les États soient tenus de fournir des preuves de ce que disent les jeunes . Elle a également proposé la création au Pakistan d'une commission numérique indépendante et autogérée, gérée entièrement par des jeunes et soutenue par des ressources publiques, en invoquant des préoccupations liées au faible classement en matière de liberté d'expression et aux violences en ligne affectant les enfants, les minorités et les femmes .

Emaan soutient que les acteurs du secteur éducatif ne sont pas réticents à l'IA, mais cherchent activement des orientations et des outils. Elle suggère que l'adoption pratique dépend de la mise à disposition de matériels pédagogiques gratuits, faciles à utiliser et adaptés aux langues et contextes locaux.

Elle a indiqué que les enseignants sont surchargés de travail mais accueillent favorablement les outils susceptibles de les aider, et elle a décrit des parents d'un lycée au Pakistan demandant comment faire en sorte que leurs enfants s'initient à l'IA, car ils ressentent une urgence et une incertitude quant à ce que l'IA représente pour l'avenir . Elle a soutenu que si les enseignants et les élèves disposent de curricula accessibles, de formats d'ateliers et de ressources adaptées aux langues, ils sont prêts à s'engager, et elle a cité une enquête de l'ITU montrant un enthousiasme particulièrement élevé à l'égard de l'IA en Asie du Sud, comparé à la crainte qu'elle suscite ailleurs .

Addie soutient que la gouvernance inclusive de l'IA repose sur la collecte de données probantes au niveau des communautés locales et leur transformation en outils d'évaluation pratiques. Sa thèse centrale est que lorsque les communautés peuvent évaluer les systèmes d'IA à l'aide de référentiels et d'évaluations, la confiance a davantage de chances de s'établir que lorsque ces systèmes leur sont simplement imposés.

Elle a indiqué que son organisation, Kaleidoscope, aide les communautés locales à évaluer et à gouverner les systèmes d'IA au moment de leur introduction dans leur environnement . Elle a décrit son approche comme suit : « données probantes plus infrastructure égale confiance », précisant que les données probantes désignent la collecte des contributions communautaires et que l'infrastructure consiste à transformer ces contributions en outils tels que des référentiels et des évaluations d'IA pour tester les performances des systèmes, dans le but de restaurer la confiance des communautés dans le déploiement .

Addie soutient que la société civile peut jouer un rôle important dans la collecte de données probantes, même si elle ne contrôle pas l'infrastructure politique finale. Elle avertit également que les systèmes de gouvernance doivent élargir leur conception de ce qui constitue une preuve, car les savoirs communautaires risquent sinon d'être sous-évalués par rapport aux données probantes produites par des acteurs privés disposant de moyens financiers bien supérieurs.

Elle a indiqué que les OSC peuvent collecter des données probantes et les intégrer aux infrastructures institutionnelles existantes pour les traduire en actions concrètes . À titre d'exemple, elle a décrit comment des communautés maories en Nouvelle-Zélande ont développé la reconnaissance vocale pour leur langue sous-dotée en ressources, avec une OSC indépendante chargée de la curation des données et le gouvernement néo-zélandais les plaçant dans un fonds fiduciaire afin qu'elles profitent à la communauté et soient protégées contre la surveillance et l'exploitation commerciale . Elle a également soutenu qu'il est nécessaire d'approfondir la réflexion sur ce qui qualifie comme preuve, car les acteurs de l'IA à but lucratif disposent de beaucoup plus de capital pour produire les types de données probantes qui dominent actuellement les processus de gouvernance .

Addie soutient que même les déploiements d'IA bien intentionnés peuvent reproduire des déséquilibres de pouvoir lorsqu'ils sont conçus dans une perspective américaine et exportés ailleurs. Elle suggère qu'une responsabilité locale accrue et des garde-fous plus solides sont nécessaires pour que l'« IA pour le bien commun » ne se limite pas à transmettre des biais externes à d'autres communautés.

S'appuyant sur son expérience d'ingénieure en IA et d'ancienne responsable IA au sein d'une fondation philanthropique finançant des déploiements d'IA pour le bien commun, elle a déclaré que si l'IA pour le bien commun est possible, ce mouvement manque souvent de garde-fous . Elle a spécifiquement critiqué la tendance des technologies développées en Californie ou aux États-Unis à véhiculer des biais américains, puis à être déployées dans d'autres régions « au nom du bien commun » sans responsabilité locale suffisante .

Addie soutient que les jeunes ne devraient pas être inclus dans la gouvernance de l'IA de manière purement symbolique. Leur participation devrait avoir une incidence sur de véritables décisions, d'autant plus qu'ils vivront le plus longtemps avec les conséquences à long terme de l'IA et peuvent offrir des perspectives différentes de celles des générations plus âgées.

Elle a indiqué que la différence fonctionnelle entre une personne de 25 ans et une personne de 50 ans dans l'utilisation de l'IA est peut-être moins marquée que dans les secteurs plus anciens, car l'IA est relativement nouvelle, ce qui rend les perspectives des jeunes particulièrement importantes . Elle a fait référence à un essai de l'UNICEF rédigé par Roger Hart décrivant huit niveaux de participation des enfants, opposant le tokenisme à la prise de décision partagée à l'initiative des jeunes, et a soutenu que la gouvernance de l'IA devrait conférer aux jeunes une autorité réelle et vérifier si leur présence modifie les résultats plutôt que de remplir une fonction purement symbolique . Elle a également souligné que les effets à long terme, notamment les impacts environnementaux, touchent particulièrement les jeunes .

Addie soutient que d'ici cinq ans, la gouvernance devrait inclure des canaux participatifs formels permettant aux personnes d'exprimer leurs attentes vis-à-vis des systèmes d'IA et de vérifier si ces systèmes les satisfont. Elle met l'accent sur la transparence et l'indépendance, afin que l'évaluation ne soit pas contrôlée par les entreprises d'IA elles-mêmes.

Dans sa vision à cinq ans, elle a proposé des systèmes de vote participatif transparents permettant aux personnes d'exprimer ce qu'elles attendent des outils d'IA qui affectent leur vie . Elle a ajouté que ces systèmes devraient être associés à des scores objectifs transparents et à des évaluations indépendantes montrant dans quelle mesure les outils répondent à ces besoins, en évitant spécifiquement l'auto-évaluation par les entreprises d'IA .

Addie soutient que l'expertise en matière d'IA ne peut être présumée sur la base de l'âge ou du rôle social, car cette technologie est nouvelle pour presque tout le monde. Cela signifie que la gouvernance et l'éducation intergénérationnelles devraient être partagées, les jeunes ayant une voix égale plutôt que d'être traités uniquement comme des apprenants.

En réponse au public, elle a déclaré qu'elle ne pense pas que les enseignants et les parents soient actuellement en mesure d'enseigner l'IA, car il s'agit d'un nouvel ensemble de compétences dont la maîtrise a très peu à voir avec l'âge . Elle a soutenu que cela rend la participation des jeunes plus crédible et nécessaire, tout en précisant que les jeunes ne devraient pas avoir un rôle exclusif, car la collaboration intergénérationnelle reste importante .

Vasileios soutient qu'une gouvernance inclusive de l'IA requiert des mécanismes opérationnels rendant la réglementation applicable en pratique. Plutôt que de rester au niveau des principes, la gouvernance devrait s'appuyer sur des référentiels concrets de risques, de contrôles et de techniques d'atténuation permettant d'assurer la responsabilité.

Il a indiqué que Credo AI propose une couche opérationnelle qui traduit les exigences réglementaires en actions concrètement applicables par les organisations, dans le but de rendre la gouvernance de l'IA plus robuste, plus globale et plus durable . Il a précisé que cela inclut la création de bibliothèques de risques, de bibliothèques de contrôles et de techniques d'atténuation des risques, co-construites avec les clients, afin de constituer un inventaire substantiel de données probantes susceptibles d'étayer les structures de responsabilité dans la gouvernance de l'IA .

Vasileios soutient que les données probantes et l'infrastructure sont des approches mutuellement complémentaires plutôt que concurrentes. Il affirme que l'influence de la société civile dépend de données probantes indépendantes et fiables, mais aussi d'un langage commun et de cadres partagés qui préviennent la fragmentation entre les organisations et les régulateurs.

Il a déclaré que la question ne devrait pas être présentée comme un choix binaire entre infrastructure et accès aux données probantes, mais comme une approche combinée dans laquelle les OSC assurent l'indépendance et l'intégrité des données probantes au sein d'une taxonomie ou d'un langage commun . Il a averti que la multiplicité des façons d'aborder la gouvernance de l'IA au sein des OSC et des régulateurs crée une situation de « Tour de Babel », et a soutenu que la fragmentation est particulièrement préjudiciable pour un enjeu mondial comme l'IA .

Vasileios soutient que l'adoption de l'IA dépasse les capacités de gouvernance au sein des organisations. Cela crée un risque systémique, car les entreprises s'appuient fortement sur des outils d'IA sans disposer de la maturité interne ni des contrôles nécessaires à une utilisation responsable.

Il a cité comme preuve que plus de 70 % des entreprises s'appuient sur des outils d'IA, alors que seulement environ 4 à 5 % d'entre elles savent comment mettre en œuvre une gouvernance de l'IA . Il a conclu que ces organisations utilisent l'IA sans infrastructure mature pour la contrôler, ce qu'il a qualifié de profondément problématique .

Vasileios soutient que les jeunes sont souvent tenus à l'écart des véritables processus décisionnels, alors qu'ils figurent parmi les groupes les plus touchés par l'IA. Il affirme qu'une participation réelle exige une implication précoce, une influence concrète sur les décisions et un suivi durable, afin que les jeunes ne soient pas simplement consultés de manière symbolique.

Il a souligné l'écart considérable entre les décideurs et les jeunes, a critiqué la tokenisation qui accorde aux jeunes une visibilité sans pouvoir réel, et a soutenu qu'ils doivent être impliqués dans des processus qui ont véritablement de l'importance . Il a insisté sur le fait que la participation des jeunes doit être ancrée dans les systèmes d'IA déployés localement et que les jeunes doivent être intégrés de manière proactive, avant que les décisions ne soient prédéterminées . Il a également relevé que les jeunes sont fortement exposés à l'IA par le biais d'outils de surveillance des examens, de systèmes de smartphones et de futurs algorithmes de recrutement, ce qui rend indispensable qu'ils soient conscients de l'espace décisionnel qui leur revient et en mesure de le revendiquer .

Vasileios soutient que l'inclusion réelle des jeunes au cours des cinq prochaines années dépendra des ressources allouées, de la mise en œuvre et des transformations institutionnelles. Il insiste sur le fait que la consultation symbolique doit être remplacée par une participation financée et axée sur l'impact, soutenue par une culture de la littératie en IA intégrée dans les pratiques institutionnelles quotidiennes.

Il a indiqué que l'un des principaux obstacles identifiés précédemment était l'accès aux données probantes et aux financements, et a soutenu que davantage de fonds devraient être investis dans cette direction au cours des cinq prochaines années . Il a critiqué la tokenisation dans le contexte européen comme une participation de façade sans suite concrète, et a exprimé sa volonté de voir une inclusion des jeunes dans la prise de décision axée sur l'impact, assortie éventuellement de droits renforcés . Il a en outre soutenu que la littératie en IA doit s'ancrer dans la réflexion et les actions quotidiennes des institutions, car les générations futures devront gérer les implications de l'IA .

Vasileios soutient que les écoles et les enseignants devraient être au cœur des politiques de littératie en IA, car les enfants utilisent déjà l'IA de manières pour lesquelles les institutions ne sont pas préparées. Il présente cela comme une obligation, et non comme un complément facultatif, dans la mesure où les établissements scolaires sont directement concernés par l'usage de l'IA.

Il a raconté avoir rendu visite à sa nièce en Grèce et avoir découvert qu'elle utilisait Claude sur sa tablette pour faire ses devoirs, s'étant en pratique formée elle-même en interrogeant directement l'outil d'IA, sans supervision directe de la part des enseignants . Il a utilisé cet exemple pour soutenir que les enseignants et les éducateurs doivent faire l'objet d'investissements importants dans les efforts de littératie en IA, et que les écoles devraient être considérées comme une priorité de premier rang, idéalement dans le cadre d'obligations de droit public en matière de littératie en IA .

Pedro structure la session autour de la nécessité d'une gouvernance de l'IA plus inclusive, diversifiée et démocratique. Il demande aux panélistes d'expliquer quels outils et mécanismes concrets ils développent pour élargir la participation de la société civile et d'autres composantes de la société.

Il a introduit la session en indiquant qu'elle porterait sur la gouvernance de l'IA et sur la manière de construire une gouvernance plus inclusive et diversifiée . Il a ensuite demandé aux panélistes quels outils et mécanismes concrets ils mettaient en place pour garantir une participation plus plurielle et démocratique de la société civile et d'autres secteurs à la gouvernance de l'IA, et à expliquer les lacunes que ces efforts visent à combler .

Pedro structure la deuxième partie de la discussion autour du rôle de la société civile dans la production de preuves et la conception de la gouvernance. Il demande si les OSC ont besoin d'infrastructures de preuves indépendantes ou d'autres voies permettant à leurs connaissances et à leur expérience vécue d'influencer les cadres de l'IA dirigés par des experts.

Il a identifié un fil conducteur dans les projets des panélistes concernant la manière dont les preuves sont produites et intégrées dans l'infrastructure de gouvernance de l'IA . Il a ensuite demandé comment les OSC pourraient participer plus activement aux groupes d'experts actuels, et si une infrastructure de preuves indépendante est nécessaire pour orienter la prise de décision, ou si d'autres voies pourraient permettre de traduire les connaissances des OSC dans les cadres actuels de l'IA .

Pedro oriente à plusieurs reprises la conversation vers l'inclusion, en soulignant que les défaillances de la gouvernance de l'IA sont liées à l'exclusion des processus de consultation et de participation. Sa modération met en évidence que la qualité de la gouvernance dépend de la capacité des acteurs à contribuer par des preuves, une expertise et une expérience vécue.

Il a structuré la discussion générale autour de la participation démocratique de la société civile et d'autres composantes de la société à la gouvernance de l'IA . Par la suite, il a explicitement résumé les thèmes récurrents du panel comme étant le besoin de collaboration, de participation des États et de preuves, reliant ainsi les lacunes de la gouvernance à la question de l'inclusion dans ces processus .

Pedro soulève explicitement la participation des jeunes comme une question de conception de la gouvernance, et non comme un sujet secondaire. Il demande si les jeunes doivent être associés par les mêmes structures que les experts, ou par des mécanismes plus adaptés à leurs besoins spécifiques.

Il a demandé comment la gouvernance de l'IA pourrait être conçue de manière à refléter la participation des jeunes et comment ceux-ci pourraient être intégrés à la conversation . Il a également demandé si les méthodes existantes orientées vers les experts sont suffisantes, ou si quelque chose de plus spécifique est nécessaire pour répondre aux besoins des jeunes .

Pedro conclut le panel en invitant les intervenants à passer du diagnostic à la conception. Il leur demande d'imaginer des arrangements institutionnels concrets, des cadres et des critères de référence qui devraient être mis en place d'ici cinq ans pour soutenir la participation des jeunes à la gouvernance de l'IA.

Il a introduit un exercice final demandant aux panélistes d'imaginer la situation dans cinq ans et d'indiquer ce qu'ils souhaiteraient voir mis en œuvre en matière de participation des jeunes à la gouvernance de l'IA . Il a notamment interrogé les participants sur les types d'organes, de cadres et de critères de référence qu'ils espéraient voir exister d'ici là .

La modération de Pedro relie systématiquement la gouvernance de l'IA à la compréhension et à la participation du public, et pas uniquement à la régulation par les experts. En posant des questions sur l'inclusion des jeunes, puis en invitant le public à poser des questions sur l'éducation, il contribue à relier les débats sur la gouvernance à la culture numérique pratique et au renforcement des capacités sociales.

Il a demandé comment la gouvernance de l'IA pourrait mieux inclure les jeunes et si ces derniers avaient besoin de mécanismes de participation spécifiques allant au-delà du modèle expert . Il a ensuite ouvert le débat au public, ce qui a directement conduit à une discussion sur la capacité des parents et des enseignants à enseigner l'IA et sur les moyens de favoriser le dialogue intergénérationnel .

Le public soulève la crainte que les mécanismes de gouvernance actuels puissent être dépassés par les progrès rapides des capacités de l'IA. La question invite le panel à se demander si les outils évoqués sont pérennes dans l'hypothèse où une IA très avancée émergerait prochainement.

Un membre du public a fait référence à la conviction du cofondateur et PDG de Google selon laquelle une IA très avancée pourrait voir le jour avant 2030, et a demandé ce que cela impliquerait pour la gouvernance de l'IA si cela survenait dans les cinq prochaines années .

Le public soutient qu'un large consensus sur le dialogue intergénérationnel ne suffit pas sans méthodes pratiques pour le concrétiser. La question vise à identifier des stratégies concrètes pour relier les générations dans la gouvernance et l'éducation à l'IA.

Un membre du public a déclaré partager l'avis que le dialogue intergénérationnel doit avoir lieu, mais a demandé directement comment ce dialogue peut être encouragé en pratique .

Le public soutient que la perspective de progrès rapides de l'IA renforce l'urgence des travaux de gouvernance actuels. Plutôt que de supposer que les institutions existantes seront à la hauteur, la question implique que les capacités de gouvernance doivent être renforcées immédiatement.

La question du public a mis en relation la perspective d'une IA très avancée avant 2030 avec le défi pratique de la réponse de la gouvernance si de tels systèmes émergent dans cinq ans . Cette formulation a traité les capacités futures de l'IA comme une raison de tester et de renforcer dès maintenant les capacités de gouvernance .

Le public soutient que la participation effective des jeunes dépend de la capacité des adultes qui les entourent à les soutenir. La question met en évidence les écoles et les familles comme intermédiaires essentiels pour instaurer le dialogue intergénérationnel nécessaire à un engagement significatif autour de l'IA.

Un membre du public a demandé si les enseignants et les parents sont équipés pour enseigner l'IA à la prochaine génération et, dans le cas contraire, comment la société peut développer cette capacité à grande échelle .

Le public remet en question l'horizon de planification à cinq ans du panel en introduisant la possibilité que des systèmes de niveau AGI émergent durant cette même période. Cela implique que les recommandations futures ne doivent pas seulement améliorer la participation, mais aussi rester adaptables à des changements technologiques potentiellement transformateurs.

Le membre du public a explicitement demandé ce que l'arrivée d'une IA très avancée dans un délai de cinq ans signifierait et comment la gouvernance de l'IA pourrait être assurée dans ces conditions .

Le public soutient que la gouvernance ne peut réussir sans renforcer les capacités pratiques des adultes qui façonnent l'apprentissage et le développement des enfants. Cela positionne la culture de l'IA pour les enseignants et les parents comme un prérequis à une participation sociale significative à la gouvernance de l'IA.

Le membre du public a demandé si les enseignants et les parents sont en mesure d'enseigner l'IA et, dans le cas contraire, comment ces capacités peuvent être développées, établissant explicitement un lien entre le soutien intergénérationnel et les besoins de la prochaine génération .