The Politics of Knowledge in the AI Age: Empowering Human Agency through Standards, Human Rights, and the Role of Corporations

João Brant soutient que si l'IA est laissée à elle-même, elle renforcera les fractures existantes et extraira la valeur produite dans les pays en développement sans compensation équitable. La gouvernance de l'IA doit donc veiller à ce que les bénéfices économiques générés par les systèmes d'IA soient proportionnels aux contributions des utilisateurs et des entreprises dans chaque pays.

Brant exprime explicitement sa préoccupation selon laquelle les services d'IA, s'ils ne sont pas réglementés, renforceront l'extraction de valeur produite notamment dans les pays en développement , et affirme que la gouvernance de l'IA doit garantir que les bénéfices économiques soient proportionnels aux contributions des utilisateurs et des entreprises dans chaque pays .

Brant soutient que l'information, la culture et la connaissance — principales matières premières de l'IA générative — sont souvent absentes des discussions économiques sur l'IA. Le journalisme, la production artistique et la science doivent être équitablement rémunérés pour prévenir une exploitation prédatrice et entretenir le cycle vertueux de la création au bénéfice de l'ensemble de la société.

Brant souligne que les données en tant qu'information, culture et connaissance ont un impact considérable sur l'économie de l'IA et doivent être valorisées , et que le journalisme, la production artistique et la science doivent être équitablement rémunérés afin d'éviter une exploitation prédatrice et la disruption d'un cycle vertueux de création qui bénéficie à l'ensemble de la société .

Brant soutient que le principal indicateur de performance clé des plateformes numériques — la maximisation de l'engagement des utilisateurs — fait partie de leur modèle économique mais a des conséquences négatives sur la connaissance publique et l'écosystème informationnel. Lorsque la maximisation de l'engagement constitue la métrique dominante, le système est orienté à l'opposé de la protection de l'intégrité de la connaissance et de l'information.

Brant affirme que la maximisation de l'engagement est probablement le principal KPI des plateformes et services numériques , et que lorsqu'il est retenu comme indicateur de performance clé, il oriente le système dans une direction contraire à la protection de l'intégrité de la connaissance et de l'information . Il soutient que les garde-fous et protections de l'intérêt public doivent être reflétés dans les normes .

Brant soutient que des décennies de défense de la non-responsabilité des plateformes numériques concernant les contenus tiers ont engendré des externalités négatives. La Cour suprême du Brésil a jugé ce système partiellement inconstitutionnel et a introduit un dispositif temporaire fondé sur la responsabilité partagée pour les contenus payants et boostés, ainsi qu'une obligation de diligence pour les infractions pénales graves.

Brant fait référence à la décision de la Cour suprême du Brésil selon laquelle le système de non-responsabilité n'est pas en mesure de protéger pleinement les droits de l'homme, le jugeant partiellement inconstitutionnel et introduisant un nouveau dispositif temporaire . Ce dispositif comprend une responsabilité partagée pour les contenus payants et boostés ainsi qu'une approche fondée sur l'obligation de diligence raisonnable concernant les infractions pénales graves .

Brant soutient que les plateformes qui interfèrent activement dans la distribution des contenus devraient assumer une responsabilité plus grande que celles qui se contentent d'héberger des contenus de manière neutre. Il appelle à davantage de courage dans le débat sur la responsabilité, en reconnaissant à la fois les effets positifs de l'approche d'exonération de responsabilité et ses conséquences négatives, afin de protéger l'écosystème de l'information et de la connaissance.

Brant établit une distinction entre les services d'hébergement neutres et ceux qui orientent la consommation de contenus, estimant que lorsque les plateformes influencent et interfèrent dans la distribution des contenus, leur responsabilité devrait être plus grande . Il préconise une approche équilibrée de la responsabilité qui protège l'écosystème de l'information et de la connaissance dans l'environnement numérique .

Brant fait valoir que les entreprises d'IA ont exploité et utilisé des œuvres protégées par le droit d'auteur pour entraîner leurs systèmes sans rémunérer les titulaires de droits, tirant ainsi profit de ces œuvres sans contrepartie équitable. Il plaide pour l'introduction de clauses spécifiques sur le droit d'auteur concernant l'exploration et l'entraînement par l'IA, afin de préserver le cycle vertueux de la création humaine et d'éviter que la société ne devienne trop dépendante des contenus générés par les machines.

Brant décrit comment les entreprises d'IA ont extrait et utilisé des données pour entraîner leurs systèmes sans compensation pour les titulaires de droits , et indique que le Brésil défend l'inclusion d'une clause sur le droit d'auteur relative à l'exploration et à l'entraînement sur des œuvres protégées dans son projet de loi sur l'IA . Il souligne la nécessité de préserver le cercle vertueux de la création, et en particulier de la création par les êtres humains .

Brant soutient que les gouvernements devraient s'impliquer davantage dans le soutien à l'environnement informationnel, notamment en finançant des initiatives qui favorisent l'intégrité de l'information et les biens publics numériques. Il reconnaît la difficulté de le faire sans introduire de biais ni porter atteinte à la diversité et au pluralisme des contenus.

Brant mentionne la contribution du Brésil à un fonds géré par l'UNESCO pour l'intégrité de l'information et le changement climatique, qui distribue des soutiens à différents groupes, dont Wikimedia . Il souligne également les difficultés liées au soutien au niveau national, en raison de la nécessité de partir d'une taxation des plateformes numériques, sujet actuellement controversé .

Isabel Ebert soutient que les normes techniques, bien qu'elles semblent neutres, fonctionnent comme des infrastructures de gouvernance qui façonnent l'architecture de l'environnement informationnel. Dans des écosystèmes dominés par un petit nombre d'acteurs, ces normes peuvent, sans le vouloir, renforcer les asymétries de pouvoir.

Ebert affirme que les normes façonnent l'architecture de l'environnement informationnel et peuvent, sans le vouloir, renforcer les asymétries de pouvoir, en particulier dans les écosystèmes dominés par un petit nombre d'acteurs . Elle soutient que les normes relatives aux droits humains chercheraient à démystifier cette boîte noire en exigeant davantage de transparence, une participation inclusive et une représentation de l'intérêt public au sein des organismes de normalisation .

Ebert soutient que les normes techniques ne sont pas simplement techniques, mais fonctionnent comme des infrastructures de gouvernance aux implications politiques significatives. Elles définissent les formats de données, les systèmes d'identité, les règles d'interopérabilité et les paramètres algorithmiques, et ce faisant, déterminent la manière dont la connaissance est distribuée et qui contrôle les flux de connaissances.

Ebert explique que les normes de conduite en matière de gouvernance d'entreprise et les normes techniques doivent toutes deux fonctionner de concert pour définir les formats de données, les systèmes d'identité, les règles d'interopérabilité et les paramètres algorithmiques , et que ces choix déterminent la manière dont la connaissance est distribuée et qui contrôle les flux de connaissances .

Ebert affirme que l'autonomie et le contrôle humains doivent constituer l'ancrage central de la gouvernance de l'IA. Les normes techniques déterminent de plus en plus qui peut accéder à l'information et la manière dont le contenu est filtré et amplifié, et ces choix ont des impacts sur les droits humains, notamment sur la liberté cognitive et la liberté de pensée.

Ebert affirme que l'autonomie et le contrôle humains doivent constituer le pilier central de la gouvernance de l'IA , et que les normes techniques déterminent de plus en plus qui peut accéder à l'information, comment les identités sont anticipées en termes de provenance des contenus, et comment les contenus sont filtrés et amplifiés . Elle soutient que les droits humains peuvent contribuer à utiliser les normes pour protéger la liberté cognitive, éviter les schémas de conception manipulateurs et garantir la liberté de pensée .

Ebert soutient que la diligence raisonnable en matière de droits humains est essentielle pour garantir que les impacts sur les personnes sont atténués en ce qui concerne les choix de conception technique. Les entreprises doivent soutenir des normes ouvertes, interopérables et transparentes qui permettent de comprendre les asymétries d'information et habilitent les utilisateurs à exercer leur autonomie.

Ebert fait référence aux Orientations de l'OCDE sur la diligence raisonnable en matière d'IA responsable, qui traduisent les normes de conduite et les associent aux normes techniques, comblant ainsi les lacunes entre les communautés . Elle affirme que la diligence raisonnable en matière de droits humains est essentielle pour garantir que les impacts sur les personnes sont atténués en ce qui concerne les choix de conception technique , et que les entreprises doivent soutenir des normes ouvertes, interopérables et transparentes qui responsabilisent les utilisateurs .

Ebert soutient que les normes régissant l'IA et les systèmes automatisés doivent être conçues de manière à être contestables et explicables, garantissant ainsi que les individus conservent une capacité d'action réelle. Les normes opaques ou qui supplantent l'autonomie individuelle dans les systèmes automatisés sont incompatibles avec les principes des droits de l'homme.

Ebert affirme explicitement que les normes doivent être contestables, explicables, et ne peuvent pas être utilisées pour supplanter l'autonomie des individus dans les systèmes automatisés .

Ebert fait valoir que les processus d'élaboration des normes, actuellement dominés par l'industrie et les gouvernements, doivent être élargis pour inclure la société civile, le monde académique, les communautés concernées et les acteurs de la majorité mondiale. Sans une telle participation inclusive, les normes risquent d'encoder des priorités commerciales étroites ou des intérêts géopolitiques, plutôt que de servir l'intérêt public.

Ebert indique que les processus d'élaboration des normes doivent inclure la société civile, le monde académique, les communautés concernées, les acteurs de la majorité mondiale, et pas seulement les industries et les gouvernements, qui constituent le statu quo actuel . Elle note que la participation au nom de l'intérêt public doit garantir que les normes n'encodent pas des priorités commerciales étroites ou des intérêts géopolitiques, et qu'elles assurent la pluralité au sein de l'écosystème de la connaissance .

Ebert soutient que la transparence dans les processus d'élaboration des normes est essentielle à la légitimité démocratique. Cela comprend la documentation ouverte, les périodes de consultation publique et l'accessibilité des comptes rendus de réunions, qui ensemble favorisent la participation démocratique et garantissent que les infrastructures techniques soutiennent le pluralisme et un accès fiable à l'information.

Ebert affirme que la transparence dans l'élaboration des normes, notamment par la documentation ouverte, les périodes de consultation publique et l'accessibilité des comptes rendus de réunions, est essentielle à la légitimité démocratique, et que la participation démocratique peut être facilitée si les infrastructures techniques soutiennent le pluralisme, la pluralité des voix, la transparence et un accès fiable à l'information .

Ebert s'interroge sur la question de savoir si la société est enfermée dans les grands modèles de langage en tant qu'approche dominante de la production de connaissances pilotée par l'IA, et suggère que des systèmes et approches alternatifs devraient être explorés. Elle exprime l'espoir qu'un écosystème d'information plus pluraliste et favorable à la liberté puisse être restauré, en s'appuyant sur les idéaux fondateurs de l'internet.

Ebert s'interroge sur la question de savoir si nous sommes condamnés à utiliser les LLMs comme mode de production d'information ou si nous pourrions développer des systèmes et approches différents . Elle évoque les débuts de l'internet en faisant référence à Tim Berners-Lee et Wendy Hall, soulignant que l'internet que nous avons aujourd'hui n'est pas celui qu'ils avaient imaginé , et exprime son optimisme quant à la possibilité de restaurer un écosystème pluraliste, favorable à la liberté de pensée .

Joël Christoph explique que la politique de la connaissance est une lutte autour de trois décisions : ce qui est enregistré, ce qui est considéré comme fiable et ce qui est trouvé. Historiquement, ces pouvoirs étaient répartis entre différentes institutions, mais l'IA risque de les concentrer tous trois entre des mains privées à une échelle sans précédent, la plupart des systèmes manquant de transparence ou de gouvernance participative.

Christoph décrit la politique de la connaissance comme une lutte autour de ce qui est enregistré, de ce qui est considéré comme fiable et de ce qui est trouvé, chacun de ces aspects étant lié au contrôle . Il note que l'IA risque de concentrer ces trois dimensions, contrairement aux systèmes d'information antérieurs tels que les bibliothèques, les programmes scolaires et les émissions de radio et de télévision . Il observe que les choix sont désormais principalement effectués au sein de systèmes numériques développés par le secteur privé à très grande échelle et au-delà des frontières, et que la plupart ne sont pas pleinement transparents ni participatifs .

Christoph soutient que des milliers de langues sont mal prises en charge par les normes numériques, ce qui signifie que des pans entiers de savoirs sont quasi invisibles pour les systèmes d'IA. Ce n'est pas parce que ces savoirs manquent de valeur, mais parce qu'aucune norme ne les a rendus lisibles par les machines — un résultat politique qui ne peut être réduit à un simple écart technique.

Christoph affirme que le fait qu'une langue humaine donnée soit bien prise en charge par les normes numériques peut déterminer ce que ses locuteurs peuvent rechercher, ce qui est compris par autrui et ce qui apparaît dans les données servant à entraîner l'IA . Il note que des milliers de langues sont relativement peu prises en charge , et que des pans entiers de savoirs sont quasi invisibles pour certains de ces systèmes, non pas parce qu'ils manquent de valeur, mais parce qu'aucune norme ne les a rendus lisibles par les machines - un résultat politique qui ne peut se réduire à un simple écart technique .

Christoph soutient que les normes techniques revêtent une importance particulière par rapport au droit pour trois raisons : elles sont durables et difficiles à remettre en cause une fois que l'industrie s'y est appuyée ; elles encodent les intérêts de ceux qui participent à leur rédaction, souvent de grandes entreprises et des gouvernements bien dotés en ressources ; et elles opèrent en dehors du contrôle démocratique habituel, contrairement aux parlements, tout en affectant des milliards de personnes.

Christoph identifie trois propriétés qui confèrent aux normes une importance particulière par rapport au droit : leur durabilité, car une fois qu'une industrie s'est appuyée sur une norme donnée, en changer de cap est lent et coûteux ; la distribution du pouvoir, car ceux qui sont présents lors de la rédaction d'une norme peuvent y encoder leurs intérêts au détriment de ceux qui sont absents ; et le fait que les normes opèrent en dehors du contrôle démocratique habituel, des comités techniques prenant des décisions qui affectent des milliards de citoyens .

Christoph soutient que si nous avons tendance à supposer que les grandes décisions concernant la connaissance et la liberté sont prises dans les tribunaux et les parlements, elles sont de plus en plus décidées en amont, au sein des communautés techniques, à travers des paramètres par défaut, des entreprises privées et des formats attendus. Les normes fixent les conditions dans lesquelles les lois, les marchés et les droits fonctionneront.

Christoph affirme que si les normes ne résoudront pas tout à elles seules, elles fixeront les conditions dans lesquelles les lois, les marchés et les droits fonctionneront . Il soutient que nous avons tendance à supposer que les grandes décisions concernant la connaissance et la liberté sont prises dans les tribunaux et les parlements, mais qu'elles sont de plus en plus décidées en amont et plus tôt, au sein des communautés techniques, à travers des paramètres par défaut, des entreprises privées et les formats qui sont attendus .

Christoph soutient qu'une approche de la normalisation fondée sur les droits humains requiert trois choses en pratique : associer les titulaires de droits et les communautés concernées dès la phase de conception ; intégrer dès le départ dans la norme elle-même la possibilité de la questionner et de la contester ; et aligner les incitations de sorte que l'option respectueuse des droits soit également la voie la plus simple et la moins coûteuse pour les entreprises.

Christoph présente une approche de la normalisation fondée sur les droits de l'homme, qui comprend l'intégration des titulaires de droits et des communautés concernées dès la phase de conception , l'intégration dès le départ dans la norme elle-même de mécanismes permettant de la remettre en question et de former des recours , ainsi que l'alignement des incitations de sorte que l'option respectueuse des droits soit également la voie la plus simple et la moins coûteuse pour les entreprises . Il cite les travaux de l'UIT et du HCDH visant à intégrer un examen au regard des droits de l'homme dans les processus de normalisation comme exemple de cette approche .

Jenna Omassi soutient que l'engagement de TikTok en faveur des droits de l'homme est ancré dans l'ensemble de ses politiques et cadres généraux. Ceux-ci comprennent des règles communautaires fondées sur les normes relatives aux droits de l'homme, des politiques de confidentialité, des lignes directrices sur le traitement des demandes de suppression émanant des gouvernements, ainsi que des rapports de transparence, le tout étant ancré dans les Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l'homme.

Omassi explique que les principes communautaires de TikTok, qui s'appliquent au-dessus de ses règles communautaires, sont fondés sur les normes relatives aux droits de l'homme et garantissent que ces règles sont guidées par les engagements internationaux en matière de droits de l'homme, notamment les Principes directeurs des Nations Unies . Elle fait également référence aux lignes directrices sur les demandes de suppression émanant des gouvernements, élaborées dans le respect de la liberté d'expression et de la vie privée , aux politiques de confidentialité applicables dans toutes les régions , ainsi qu'aux rapports trimestriels d'application des règles communautaires et aux rapports de transparence .

Omassi soutient que la responsabilité en matière de droits de l'homme est partagée entre les gouvernements et des entreprises telles que TikTok. TikTok a mis en place un groupe de travail transfonctionnel sur les droits de l'homme qui coordonne et mène des initiatives en la matière, et intègre les voix de la communauté multipartite et des institutions multilatérales.

Omassi affirme que la responsabilité en matière de droits de l'homme est partagée, les gouvernements ayant le devoir de protéger les droits de l'homme, et TikTok ainsi que d'autres entreprises partageant ce même devoir . Elle décrit le groupe de travail transfonctionnel de TikTok sur les droits de l'homme, qui coordonne et mène des initiatives en la matière, et précise qu'elle en fait partie en représentant les points de vue en matière de politique publique et en veillant à ce que les voix multipartites et multilatérales soient intégrées dans les discussions .

Omassi soutient que TikTok a pris des mesures concrètes pour traiter la question des médias synthétiques grâce à l'étiquetage automatique par IA mis en œuvre en 2023, qui a été utilisé des dizaines de millions de fois. TikTok participe également à l'initiative C2PA pour identifier et étiqueter les médias synthétiques créés sur d'autres plateformes et importés sur TikTok.

Omassi indique que TikTok a été l'une des premières entreprises à mettre en œuvre un label IA lors de la création de contenu en 2023, utilisé des dizaines de millions de fois à ce jour . Elle mentionne également l'engagement de TikTok dans des initiatives intersectorielles telles que la C2PA, afin de garantir que les contenus créés sur d'autres plateformes et importés sur TikTok puissent être identifiés comme médias synthétiques et étiquetés en conséquence . Par ailleurs, TikTok a lancé un fonds de 2 millions de dollars pour la littératie en matière d'IA à la suite du Sommet AI for Good .

Omassi présente l'approche de TikTok en matière d'intégrité électorale comme une étude de cas illustrant l'application concrète des principes des droits de l'homme. TikTok supprime les désinformations nuisibles concernant les processus civiques et électoraux, fait appel à des fact-checkers accrédités par l'IFCN, interdit les publicités politiques et collabore avec les autorités électorales et des experts pour contrer les menaces émergentes.

Omassi décrit les mesures de TikTok en matière d'intégrité électorale, notamment la suppression des désinformations nuisibles concernant les processus civiques et électoraux , le recours à plus de 20 fact-checkers accrédités par l'IFCN pour évaluer l'exactitude des affirmations et l'étiquetage des affirmations non vérifiées , l'interdiction des publicités politiques et le refus de permettre aux politiciens, gouvernements ou partis politiques de monétiser leur présence sur la plateforme , ainsi que la collaboration avec les autorités électorales et des experts pour contrer les menaces émergentes .

Omassi indique que TikTok commence à réfléchir à la manière dont il s'engage dans les processus internationaux de normalisation, notamment à l'UIT et dans d'autres instances. TikTok reconnaît que sa voix peut apporter une contribution significative à l'espace multipartite et prévoit de s'impliquer davantage au fil du temps.

Omassi indique que TikTok commence à réfléchir à la manière dont il s'engage dans les processus internationaux de normalisation et que l'on peut s'attendre à voir TikTok progressivement mais sûrement prendre une place plus importante, tant à l'UIT que dans d'autres instances, où il estime pouvoir apporter une contribution significative à l'espace multipartite .

Omassi soutient que le cadre multipartite de délibération constitue le fondement d'une gouvernance fondée sur les droits de l'homme pour faire avancer les objectifs communs de promotion de l'intégrité de l'information, de l'engagement communautaire et des droits de l'homme. TikTok soutient ce modèle à travers son engagement croissant dans des forums tels que le SMSI et l'IGF.

Omassi affirme que le cadre multipartite de délibération constitue le fondement d'une gouvernance fondée sur les droits de l'homme pour faire avancer les objectifs communs de promotion de l'intégrité de l'information, de stimulation de l'engagement communautaire et de promotion des droits de l'homme . Elle fait référence à l'implication croissante de TikTok dans l'espace du SMSI et à l'enthousiasme suscité par le mandat permanent de l'IGF et le prochain IGF à Nairobi .

Jacobo Castellanos soutient que la standardisation de la provenance des contenus, à travers des initiatives comme le C2PA, permet l'authentification des images et des vidéos, ce qui est essentiel pour la responsabilisation et la justice dans la documentation des droits humains. Toutefois, une gouvernance appropriée est nécessaire pour prévenir le détournement de ces normes.

Castellanos explique que Witness travaille sur la provenance - l'origine et l'historique des contenus - en tant que mécanisme d'authentification des images et des vidéos à des fins de responsabilisation et de justice . Il décrit le parcours de Witness, depuis le développement de son propre outil de niche avec le Guardian Project jusqu'à son adhésion au C2PA pour standardiser la provenance . Il note que son téléphone Google Pixel capture désormais automatiquement les informations de provenance, fournissant une preuve cryptographique d'authenticité .

Castellanos soutient que, malgré les progrès du C2PA dans l'intégration des considérations relatives aux droits humains, celui-ci peut encore être détourné en outil de surveillance, notamment dans des contextes autoritaires. Une innovation en matière de gouvernance est nécessaire, incluant la supervision de la société civile, des mécanismes de contrôle et des protocoles pour faire face aux risques liés au détournement de la norme.

Castellanos fait référence à un rapport publié par Witness intitulé « C2PA and the Surveillance Risks », qui soutient que, malgré tout ce qui a été accompli, le C2PA peut être détourné et transformé en outil de surveillance . Il affirme qu'une innovation en matière de gouvernance est nécessaire, notamment en impliquant la société civile, en mettant en place des mécanismes de supervision et des protocoles afin que, lorsque le C2PA devient un outil de surveillance, les mécanismes de gouvernance appropriés soient en place .

Castellanos reconnaît que les outils de filigranage et de provenance, bien que précieux pour l'authentification, risquent de permettre le ciblage d'individus dans des régimes autoritaires. Des garde-fous techniques et une conception respectueuse de la vie privée constituent des protections nécessaires pour atténuer ce risque.

En réponse à une question du public sur les régimes autoritaires, Castellanos reconnaît qu'en tant qu'organisation de défense des droits humains opérant à l'échelle mondiale, Witness souhaite s'assurer que des garde-fous ou des lignes rouges sont établis dans le cadre de la normalisation et, potentiellement, dans le droit international . Il note que le programme de conformité du C2PA constitue un point de contrôle permettant de limiter les abus , et qu'il existe des moyens de garantir des filigranes respectueux de la vie privée, avec des garde-fous techniques disponibles même s'ils ne peuvent être garantis dans les régimes autoritaires .

Castellanos reconnaît que le C2PA, bien qu'étant une coalition privée contrôlée par des entreprises privées, a réalisé des progrès significatifs dans l'intégration des considérations relatives aux droits humains, notamment en publiant une évaluation des préjudices en parallèle de ses spécifications. Toutefois, une innovation en matière de gouvernance reste nécessaire pour faire face aux risques persistants.

Castellanos affirme que le C2PA mérite d'être reconnu pour avoir intégré des considérations relatives aux droits humains, notamment une évaluation des préjudices publiée en parallèle des spécifications . Il note cependant que cela n'a pas suffi, en faisant référence au rapport récemment publié sur le C2PA et les risques de surveillance . Il soutient qu'une innovation en matière de gouvernance est nécessaire, incluant des mécanismes de supervision et des protocoles pour faire face aux risques liés au détournement de la norme .

Castellanos soutient que les initiatives législatives de l'UE, des États-Unis et d'ailleurs font de plus en plus référence à des normes comme le C2PA pour la conformité réglementaire en matière de transparence de l'IA et de provenance, sans garantir une supervision dans l'intérêt public. Les normes utilisées à des fins de conformité réglementaire doivent être soumises à un contrôle public.

Castellanos note que l'UE, les États-Unis et divers États ont des initiatives législatives qui ont été adoptées ou sont en cours de discussion, exigeant la traçabilité de provenance pour résoudre les problèmes de transparence liés à l'IA . Il soutient que si la provenance est nécessaire pour authentifier les contenus, elle doit s'accompagner de processus de gouvernance et de normalisation appropriés, faute de quoi la législation renvoie à des normes telles que le C2PA sans garantir l'intérêt public ni la supervision . Il conclut que les normes utilisées à des fins de conformité réglementaire doivent également servir l'intérêt public et être placées sous contrôle public .

Un membre du public soulève la préoccupation selon laquelle les histoires orales et les formes non écrites de savoir risquent d'être exclues des corpus d'entraînement de l'IA, et demande comment il est possible d'y remédier. La question soulève également des problèmes de droits d'auteur susceptibles d'empêcher l'inclusion de certains savoirs dans les corpus, et interroge sur les moyens de soutenir les biens publics numériques tels que Wikipedia et Wikidata.

Le membre du public demande comment sont traitées les histoires orales portant sur des éléments non écrits, et ce qu'il advient des questions de droits d'auteur lorsque ceux-ci peuvent empêcher l'inclusion de savoirs dans un corpus . Il demande également comment les biens publics numériques tels que Wikipedia et Wikidata pourraient être soutenus afin de renforcer la structure internationale .

Olivier Alais soutient que les systèmes d'IA déterminent de plus en plus ce que les personnes voient en ligne, ce qui apparaît crédible et ce qui disparaît, et que ces effets ne sont pas simplement techniques, mais profondément sociaux et politiques par nature. Il présente cela comme un défi fondamental pour la gouvernance et la société.

Alais affirme que l'IA façonne la manière dont le savoir est produit, distribué et validé, et que ce qui apparaît crédible et ce qui disparaît est de plus en plus déterminé par les infrastructures, les normes, les plateformes et les algorithmes . Il souligne explicitement que ces systèmes sont techniques, mais que leurs effets sont profondément sociaux et profondément politiques .

Alais définit la politique de la connaissance comme un ensemble de questions relatives au contrôle des flux d'information et à leur accès, ainsi qu'au maintien de l'agentivité humaine au centre d'un environnement reconfiguré par l'IA. Cette approche positionne la gouvernance de l'IA et des normes techniques comme une question fondamentalement politique plutôt que purement technique.

Alais définit explicitement la politique de la connaissance comme portant sur qui contrôle la circulation de l'information, qui peut y accéder, et comment l'agentivité humaine est maintenue au centre à mesure que l'IA remodèle son environnement .

Alais soutient que les normes techniques ne sont pas de simples instruments techniques neutres, mais qu'elles sont au cœur de la question plus large de savoir qui contrôle la connaissance et de quelle manière. Il souligne également que les entreprises sont des acteurs essentiels dans ce domaine, tant dans l'élaboration des normes que dans leur mise en œuvre au sein de services réels.

Alais affirme que les normes techniques sont au cœur du débat parce qu'elles ne sont pas neutres, et que le rôle des entreprises est également essentiel, car elles contribuent à façonner les normes, à les mettre en œuvre dans des services réels et à exploiter les infrastructures par lesquelles les personnes accèdent à la connaissance .

Alais aborde la responsabilité des grandes plateformes en soulignant leur influence considérable sur les contenus que les personnes rencontrent en ligne. Il pose la question de la manière dont les plateformes traduisent les principes des droits humains en choix de conception concrets, notamment en ce qui concerne les systèmes de recommandation, la transparence, l'agentivité des utilisateurs et l'accès à une information diversifiée.

Alais note que des entreprises telles que TikTok jouent un rôle important dans la définition de ce que les personnes voient, découvrent et consultent en ligne, et demande comment TikTok s'emploie à intégrer les principes des droits humains dans la conception de sa plateforme, y compris dans ses systèmes de recommandation, et comment elle œuvre à renforcer la transparence, l'agentivité des utilisateurs, la sécurité et un accès réel à une information diversifiée .

Alais présente le défi des normes de provenance des contenus comme étant double : elles peuvent constituer des outils précieux pour lutter contre la mésinformation et la désinformation, mais elles doivent également être conçues pour anticiper les abus potentiels et protéger les communautés vulnérables, notamment celles qui documentent des violations des droits humains. Cette approche souligne la nécessité d'une gouvernance parallèle à la conception technique.

Alais demande comment les normes relatives à la provenance des contenus numériques peuvent contribuer à lutter contre les mythes et la désinformation, tout en anticipant les possibles détournements, en protégeant les communautés vulnérables et en préservant la sécurité, la crédibilité et l'autonomie des personnes qui documentent des violations des droits humains .

Alais soutient que la gouvernance de l'IA et les normes techniques devraient être évaluées à l'aune de leur capacité à favoriser l'accès démocratique au savoir, l'autonomie humaine et la non-discrimination. Il définit le défi central de la gouvernance comme étant d'empêcher ces systèmes de renforcer les asymétries de pouvoir existantes.

Alais pose la question de savoir comment la gouvernance de l'IA et les normes techniques peuvent contribuer à garantir que les technologies numériques soutiennent l'accès démocratique au savoir, l'autonomie humaine et la non-discrimination, plutôt que de renforcer les asymétries de pouvoir existantes .