Beyond State vs. Corporate: Community Data Governance Models from the Global Majority

Shumaila Shahani a souhaité la bienvenue aux participants en présentiel et en ligne et a présenté la session comme une discussion sur ce que devrait signifier en pratique la « gouvernance des données centrée sur la communauté », en particulier dans les contextes de la Majorité mondiale et du Sud global, où les populations sont exposées à des risques à la fois de surveillance étatique et d’extraction par le secteur privé . Elle a souligné que l’infrastructure publique numérique se développe à travers des systèmes auxquels les personnes ne peuvent souvent pas se soustraire et auxquels elles n’ont pas toujours un accès réellement effectif . Elle a expliqué qu’avec Fernanda Campagnucci et Bridgette Ndlovu, elle élaborait une note d’orientation encore en cours de rédaction et souhaitait mettre ses principes à l’épreuve des réalités pratiques au moyen d’une discussion entre experts et d’une étude de cas hypothétique . Bridgette s’est présentée comme venant de Paradigm Initiative au Zimbabwe, et Fernanda s’est présentée comme venant d’InternetLab à São Paulo, au Brésil .

Shumaila a ensuite posé le cadre de la discussion comme étant une question de pouvoir plutôt que de simple vie privée. Avec la diffusion des systèmes d’IA et des infrastructures publiques numériques dans la vie quotidienne, elle a déclaré que les questions essentielles étaient de savoir qui possède les données, qui en bénéficie et qui en supporte les risques . Elle a indiqué que le projet de note était structuré autour de trois piliers : la propriété et l’intendance des données, la prise de décision participative et le partage des bénéfices .

Bridgette Ndlovu a présenté le premier pilier, l’intendance des données et l’autonomie communautaire. Elle a soutenu que les données devraient être traitées comme un actif collectif plutôt que comme une marchandise individuelle, et que l’autorité juridique sur celles-ci devait appartenir aux communautés, et non aux entreprises ou aux États . Elle a décrit l’idée centrale comme consistant à maintenir la communauté au centre de toutes les décisions concernant ses données . Elle a défini l’intendance comme l’autorité collective sur les données générées dans les limites d’une communauté, avec une prise de décision communautaire sur leur utilisation, leur partage et la répartition des bénéfices .

Bridgette a mentionné des modèles de gouvernance existants et émergents, notamment les codes d’intendance sectoriels, les biens communs de données communautaires, les modèles participatifs de data scouts et les modèles de data trusts . Dans le contexte africain, elle a mis en avant le Cadre de politique des données de l’Union africaine, qui reconnaît les data trusts comme l’un des modèles que les pays peuvent adopter, tout en relevant des lacunes de mise en œuvre parce que de nombreux gouvernements n’ont pas suivi ce cadre de manière cohérente . Elle a ajouté que le Mozambique a adopté des politiques nationales de gouvernance des données parallèlement à des lois sur la protection des données, et que le cadre POPIA de l’Afrique du Sud permet à des organismes représentatifs de soumettre des codes portant sur la qualité des données, le consentement et les voies de recours, qu’elle a reliés aux codes d’intendance sectoriels .

Ses demandes de politique publique ont rendu ce pilier plus concret. Elle a appelé à la reconnaissance d’un droit à l’autodétermination fondé sur des normes internationales plus larges . Elle a proposé des interdictions des pratiques de marché préjudiciables et déloyales dans les contextes extractifs où les communautés sont confrontées à un pouvoir de négociation inégal . Elle a également appelé au consentement libre, préalable et éclairé afin que les communautés puissent décider si elles souhaitent ou non participer aux processus de données . Elle a réitéré la nécessité de codes de conduite sectoriels pour guider le partage, la réutilisation et la réaffectation responsables des données à caractère personnel . Enfin, elle a appelé à une transparence et une responsabilité obligatoires pour les principaux services de plateforme, y compris les systèmes de recommandation, en particulier à mesure que les gouvernements adoptent de plus en plus des politiques d’IA et des systèmes fondés sur l’IA .

Fernanda Campagnucci a présenté le deuxième pilier, la prise de décision participative. Elle a soutenu que les communautés doivent disposer d’un pouvoir exécutoire pour façonner les projets du début à la fin, plutôt que de se voir offrir une consultation seulement symbolique ou discrétionnaire . Elle a distingué la participation performative de la participation authentique, en expliquant que la consultation est souvent épisodique, discrétionnaire et non contraignante, alors qu’une véritable participation exige des dispositifs institutionnels permettant aux communautés de définir les modalités de collecte, d’utilisation et de partage avant même le début de la mise en œuvre . Elle a ajouté que la participation devait se poursuivre pendant la mise en œuvre grâce au suivi, puis après le déploiement grâce à la capacité de déclencher un réexamen, voire une suspension, lorsque des préjudices apparaissent .

Fernanda a indiqué qu’il n’existait pas d’exemple parfait et universel, mais elle a cité le CGI du Brésil et une discussion antérieure sur les lignes directrices à l’intention des parties prenantes comme sources d’inspiration . Elle a également évoqué un répertoire des algorithmes publics au Chili, le contentieux autour de Huduma Namba au Kenya et les orientations ultérieures sur la DPIA, la suspension par Amsterdam d’un programme d’IA, ainsi que les procédures de consentement libre, préalable et éclairé aux Philippines .

Ses propositions de politique publique découlaient directement de ces exemples. Elle a soutenu que les projets touchant des communautés identifiables devraient être soumis à des procédures de consentement libre, préalable et éclairé . Elle a également appelé à la création d’instances permanentes de supervision communautaire pour les systèmes de données à fort impact . Une autre mesure pratique consistait en un financement public, y compris potentiellement par les États et les grandes entreprises technologiques, d’intermédiaires techniques indépendants ancrés dans les communautés afin que celles-ci disposent de l’expertise nécessaire pour participer efficacement . Enfin, elle a soutenu que les protections liées au secret commercial et à la confidentialité commerciale ne devraient pas s’appliquer aux systèmes publics ou aux systèmes affectant les communautés lorsque la visibilité sur le fonctionnement du système est nécessaire .

Shumaila Shahani a présenté le troisième pilier, le partage des bénéfices, comme une question de justice dans l’économie politique mondiale des données. Elle a soutenu que les données de milliards de personnes de la Majorité mondiale alimentent les systèmes numériques, mais qu’une grande partie de la valeur ainsi créée profite à des entreprises dont le siège se trouve ailleurs, plutôt qu’aux communautés qui ont fourni les données et supporté les risques . Elle a déclaré que si les communautés supportent les risques liés au partage des données, elles doivent aussi participer à la valeur créée à partir de celles-ci . Elle a explicitement affirmé que cela ne devait pas être considéré comme de la charité ni comme de la responsabilité sociale des entreprises, mais comme une obligation pour les entreprises et un droit pour les communautés .

Pour illustrer ce principe, Shumaila a fait référence aux industries extractives. Elle a noté que les codes miniers à travers l’Afrique exigent déjà des accords de partage des bénéfices et que les fonds de revenus pétroliers dans des lieux comme l’Alaska et ailleurs distribuent des dividendes directs aux résidents . Dans le même temps, elle a reconnu que les données diffèrent des ressources traditionnelles parce que la valeur qui en est tirée est plus difficile à définir, à mesurer et à situer dans le temps .

Elle a ensuite précisé ce que devrait signifier la « valeur » dans la gouvernance des données. À ses yeux, la valeur ne se réduit pas à l’argent ; elle inclut aussi les infrastructures, le renforcement des capacités, l’accès aux données, l’accès aux connaissances générées à partir des données et l’amélioration des services . Elle a averti que ces formes de valeur ne font actuellement pas l’objet d’audits, ce qui rend difficile l’évaluation du caractère équitable ou suffisant de ce que reçoivent les communautés . Elle a également souligné que l’équité ne peut pas signifier seulement une part symbolique de profits très importants, surtout lorsque des données collectées aujourd’hui peuvent continuer à générer de la valeur de nombreuses années plus tard . Pour cette raison, elle a suggéré des accords couvrant l’ensemble du cycle de vie et des droits renégociables .

Ses demandes spécifiques de politique publique découlaient de cette conception de la création de valeur. Elle a proposé des accords contraignants de partage des bénéfices comme condition d’octroi de licences de données, tout en soulignant que l’octroi de licences n’était qu’un élément d’un dispositif de gouvernance plus large . Elle a également appelé à la divulgation publique et à la tenue de registres de tous ces accords afin que les communautés puissent comparer les conditions et disposer de points de référence sur ce que d’autres ont reçu . Un autre principe était que tous les fonds ainsi générés devraient être contrôlés par les communautés . Enfin, elle a proposé des rapports répétés et audités sur l’impact de la valeur des données afin de suivre au fil du temps quand et dans quelle mesure de la valeur a été générée à partir des données communautaires .

L’étude de cas hypothétique, Windfall Valley, a ensuite été introduite pour tester les trois piliers . Shumaila a décrit la vallée comme une région rurale d’environ 400 000 habitants dans un pays à revenu intermédiaire de la tranche inférieure, avec une population ethniquement mixte, une majorité de communauté agricole, un groupe autochtone plus restreint dans les hautes terres, et des travailleurs agricoles migrants saisonniers . Le taux de pénétration de la téléphonie mobile était élevé, mais les soins de santé formels étaient faibles, se limitant à un hôpital de district en sous-effectif et à un réseau d’agents de santé communautaires . Une entreprise étrangère, VitalReach, a proposé de déployer un système de diagnostic et de surveillance des maladies fondé sur l’IA en partenariat avec le ministère national de la Santé, qui se montrait enthousiaste et avait laissé entendre qu’il signerait . Les agents de santé communautaires collecteraient des données sur les symptômes, la localisation et les données biométriques via une application mobile, tandis que les modèles de VitalReach détecteraient les schémas d’épidémie et suggéreraient des diagnostics .

Le dispositif proposé soulevait plusieurs problèmes de gouvernance. VitalReach entraînerait le système à partir des données de la vallée, conserverait tous les droits sur les modèles résultants et les concéderait sous licence à l’étranger à d’autres pays . En contrepartie, la vallée recevrait cinq années d’utilisation gratuite de l’application, une formation pour cinquante agents de santé communautaires et une nouvelle installation de stockage frigorifique pour les vaccins à l’hôpital de district ; aucune somme d’argent ne serait versée directement . Les données, y compris les informations de santé autochtones et les dossiers biométriques des travailleurs migrants, seraient transférées vers les serveurs de VitalReach à l’étranger et régies par le droit du pays où ces serveurs sont situés . Shumaila a mis en évidence trois tensions dans ce scénario : la vallée avait réellement besoin de meilleurs diagnostics et un refus aurait un coût humain réel ; le groupe autochtone n’avait pas fait l’objet d’une consultation séparée et les travailleurs migrants n’avaient aucune représentation ; et les modèles généreraient probablement une valeur commerciale importante à l’étranger alors que la vallée ne se voyait offrir en retour que des services non évalués .

Bridgette a ouvert la discussion sur le cas en demandant qui serait l’intendant légitime des données de la vallée, s’il pouvait y avoir plus d’un intendant et comment la représentation devrait fonctionner dans une communauté aussi mixte . Shumaila a également précisé que la session visait à recueillir des réponses pratiques plutôt qu’à simplement présenter un cadre achevé .

La première intervention du public a porté sur les différentes conceptions du savoir valide. L’intervenant a fait valoir que les différentes communautés ne partagent pas nécessairement la même compréhension de ce qui constitue un savoir valide, notamment en médecine, en citant l’Ayurveda, la médecine chinoise, la médecine occidentale et les traditions autochtones de guérison . Le commentaire a soulevé une question supplémentaire sur qui définit le savoir valide et la preuve à travers les différentes traditions médicales .

Un autre participant du public a proposé une réponse plus institutionnelle et économique. Il a suggéré un droit fondamental aux données à la fois au niveau individuel et au niveau communautaire, afin que les gouvernements ne puissent pas négocier les données comme si elles n’avaient pas de propriétaire . Il a également recommandé des modèles types pour les accords de partage de données afin d’aider les gouvernements et les communautés à négocier des conditions plus équitables . Enfin, il a soutenu que, parce que des points de données isolés prennent une grande valeur lorsqu’ils sont agrégés, les entreprises d’IA pourraient devoir être taxées dans le cadre d’un régime coordonné au niveau international capable de compenser les communautés pour la valeur mondiale générée à partir de leurs données . Bridgette a relié cela aux préoccupations de concurrence et a cité une récente décision nigériane en matière de concurrence contre Meta, Facebook et WhatsApp comme exemple de pratiques de partage de données traitées comme anticoncurrentielles .

Une participante en ligne, Angelica Saldana, a demandé où en apprendre davantage sur les normes internationales relatives à l’autodétermination en matière de données, et a évoqué des questions connexes telles que l’identité numérique, les filets de sécurité sociale et la gouvernance des réseaux mobiles . Bridgette a indiqué que les organisateurs partageraient ultérieurement leurs réflexions et poursuivraient la conversation au-delà de l’événement .

Lorsque la conversation est passée au deuxième pilier et à la question d’une participation significative dans le cas de la vallée, Fernanda a demandé à quoi ressemblerait une participation authentique avant que le ministère ne signe l’accord et si des instances multiacteurs ou de supervision existant dans d’autres secteurs pourraient être adaptées à la gouvernance des données . Un membre du public a répondu que la gouvernance actuelle reste enfermée dans un modèle d’État-nation post-westphalien qui ne correspond pas à la nature mondiale d’Internet . Il a critiqué à la fois les systèmes centralisés et la décentralisation anarchique, et a proposé des structures de gouvernance reliant directement les individus, les familles et les communautés aux systèmes tout en maintenant la conformité juridique et l’interopérabilité . Il a également avancé des mécanismes de tokenomics et de monnaie programmable comme moyens possibles de réorienter les bénéfices vers les contributeurs de données lorsque des modèles construits à partir de leurs données sont monétisés .

Fernanda a répondu que, même si l’objectif était d’aller au-delà d’un simple modèle opposant gouvernement et entreprises, les États resteraient nécessaires pour légitimer et faire appliquer tout nouveau dispositif de gouvernance, car il est peu probable que les entreprises respectent des processus de validation communautaire sans autorité juridique à l’appui . Elle a ensuite soulevé un autre défi : les discussions sur la gouvernance communautaire présument souvent l’existence d’une communauté organisée, comme un groupe autochtone ou traditionnel, mais la gouvernance des données concerne aussi de nombreuses personnes qui ne sont pas organisées au niveau communautaire, en particulier dans les villes . Elle a déclaré que les données communautaires devraient être traitées avec respect et gouvernées au moyen de droits collectifs solides, mais qu’il subsistait des questions non résolues sur la manière de représenter des individus dispersés n’appartenant pas à des structures communautaires clairement définies .

Abhinav, chercheur à IT for Change, a ensuite apporté une intervention techniquement ancrée. Il a soutenu que le consentement éclairé individuel, bien que central dans les démocraties libérales, est insuffisant pour l’IA en santé, car de tels systèmes ne fonctionnent pas à partir de points de données individuels isolés . L’IA diagnostique nécessite des ensembles de données de haute qualité portant sur une communauté entière, en particulier si le modèle est destiné à prendre des décisions concernant cette communauté . Pour cette raison, il a soutenu qu’il existe une réelle valeur dans la gouvernance collective et que des structures représentatives telles que des coopératives de données ou des conseils pourraient intervenir à chaque étape du processus, de la collecte à l’entraînement du modèle et à son utilisation . Il a fait référence à des exemples en Inde, où des traditions autochtones et communautaires de prise de décision existent déjà dans les contextes climatiques et des droits forestiers, et il a relié cela à l’idée des données collectives comme actif .

Dans les dernières minutes, Shumaila est revenue au problème du partage des bénéfices dans ce cas et a demandé comment quiconque pourrait juger si les services proposés étaient suffisants ou non, et par rapport à quelle référence une telle adéquation devrait être mesurée . Angel Akunle, de l’Internet Society, a soutenu que la réponse commence par un cadre de gouvernance des données établissant des règles communes et une référence de base sur la manière dont les données sont définies et traitées . Il a suggéré qu’un tel cadre aiderait les différentes agences à aligner leurs pratiques en matière de données et à combiner celles-ci de manière plus fluide, ce qui permettrait à son tour de disposer d’une référence plus claire pour évaluer la valeur et l’adéquation .

Un dernier intervenant du public a mis en garde contre des analogies trop simples avec l’exploitation minière ou forestière. Il a déclaré que les données sont bien plus amorphes que le bois ou l’extraction minérale, et que les communautés concernées par les données peuvent elles aussi être plus fluides et plus difficiles à définir . Il a soutenu que les données peuvent ensuite produire des implications dans d’autres domaines, comme l’environnement, et que les cadres juridiques doivent donc être flexibles et créatifs plutôt que directement copiés sur d’anciens modèles des secteurs extractifs .

La session s’est achevée sans conclusions formelles, faute de temps . Néanmoins, plusieurs thèmes sont revenus tout au long de la discussion. Les intervenants ont présenté la gouvernance des données comme une question de pouvoir, de propriété, de bénéfice et de risque plutôt que de seule vie privée . À travers les trois piliers, ils ont plaidé en faveur d’une autorité collective ou communautaire sur les données, d’une participation significative tout au long du cycle de vie d’un projet et d’accords contraignants de partage des bénéfices appuyés par la transparence et l’auditabilité . La discussion a également mis en lumière des questions non résolues sur qui peut légitimement représenter des populations mixtes ou non organisées, comment inclure les groupes autochtones et les travailleurs migrants, ce qui compte comme savoir valide dans les systèmes de santé, et comment juger si des bénéfices non monétaires sont équitables . Le temps venant à manquer, Shumaila a conclu en invitant les participants à continuer de partager des ressources et des idées après le forum ou de manière bilatérale .