Strengthening health data governance legislative frameworks: The foundation of trusted digital health and AI

Forslund affirme que la santé numérique et l’IA ne peuvent gagner et conserver la confiance du public que si elles sont régies par des règles fondées sur les droits, équitables et centrées sur les personnes. Selon elle, cela exige non seulement une gouvernance juste et transparente au niveau national, mais aussi une législation plus solide et un alignement régional ou mondial afin d’éviter que les pays ne se retrouvent avec des systèmes incompatibles.

Elle affirme que les technologies numériques et l’IA offrent des avantages majeurs pour la planification, l’innovation, les soins aux patients, la prévision des flambées épidémiques et le renforcement des systèmes de santé, mais souligne que ces bénéfices ne pourront être réalisés de manière équitable et responsable que si la gouvernance suit le rythme . Elle définit ensuite la gouvernance nécessaire comme étant juste, transparente, représentative et bénéfique pour toutes les populations, appelle à un renforcement de la législation nationale sur la collecte et l’utilisation des données de santé et de l’IA, et avertit que, sans alignement régional et mondial, il en résultera un patchwork de règles incompatibles qui minera la confiance et le partage transfrontalier des données .

Forslund soutient que les travaux sur la gouvernance des données de santé disposent déjà de bases substantielles ; les gouvernements et les institutions devraient donc se concentrer sur l’alignement et la coordination plutôt que de repartir de zéro. Elle présente les principes existants, les lois types et les orientations internationales comme des éléments de base concrets pour de futurs cadres nationaux, régionaux et mondiaux.

Elle indique que les fondements existent déjà et que des progrès ont été accomplis aux niveaux national, régional et mondial, ce qui signifie que le domaine n’a pas besoin de repartir de zéro . À l’appui, elle cite les principes de gouvernance des données de santé de Transform Health de 2022, approuvés par plus de 175 organisations et gouvernements, sa loi type utilisée pour soutenir la législation nationale, les recommandations de l’OCDE sur la gouvernance des données de santé appuyées par 38 États membres, les lignes directrices de l’OMS sur l’IA, ainsi que les travaux du Health Data Collaborative comme points de départ possibles pour des cadres plus larges .

Forslund souligne que la gouvernance doit comporter une participation véritable du public, et pas seulement des règles formelles. Son point de vue est que les personnes doivent être informées et autonomisées concernant leurs droits sur les données, et que les systèmes de gouvernance doivent offrir des recours lorsque les données sont utilisées à mauvais escient ou que la désinformation cause des préjudices.

Elle affirme que les populations doivent être informées, associées et autonomisées en ce qui concerne leurs droits sur les données, qu’elles doivent savoir où vont leurs données et comment elles sont utilisées, et qu’elles doivent disposer de voies de recours . Elle ajoute qu’en cas d’usage abusif des données ou de problèmes tels que la désinformation, les personnes doivent avoir des moyens concrets de remédier à ces préjudices .

Kashoka soutient qu’une gouvernance efficace de la santé numérique exige une chaîne complète alliant technologie, politique et droit. Selon lui, les politiques et les lignes directrices peuvent donner une orientation, mais seule la législation peut créer des droits opposables, définir les responsabilités et garantir l’obligation de rendre des comptes lorsque la gouvernance des données échoue.

Il affirme que l’expérience de la Zambie a montré que la technologie évolue plus vite que les politiques et que les politiques évoluent plus vite que la législation, mais que les pays ont besoin des trois pour instaurer la confiance et assurer la durabilité . Il explique que les politiques et les lignes directrices donnent une orientation, tandis que la législation établit des droits, des responsabilités et une obligation de rendre des comptes juridiquement contraignante, y compris des règles sur l’accès aux données de santé, le partage des données, le consentement, la protection de la vie privée et les recours lorsque la confiance est rompue .

Kashoka présente la coopération régionale comme un moyen concret d’aider les pays à éviter d’élaborer des lois de manière isolée. Il soutient que le processus Africa CDC peut favoriser la cohérence juridique, la collaboration transfrontalière et des systèmes interopérables, tout en permettant aux priorités et perspectives africaines de façonner les discussions sur la gouvernance mondiale.

Il note que la Zambie a participé aux consultations sur le cadre continental dirigé par Africa CDC et indique que ces consultations ont contribué à façonner un cadre reflétant les priorités, les expériences et les aspirations africaines . Il ajoute que ce cadre peut aider les pays à mettre en place des approches juridiques et réglementaires cohérentes, à faciliter une collaboration transfrontalière de confiance, l’interopérabilité, la surveillance et la recherche, et à faire en sorte que l’Afrique apporte aux débats mondiaux sa propre perspective centrée sur les personnes et fondée sur les droits, plutôt que d’adopter simplement des modèles externes .

Alshanfari affirme que la volonté politique en faveur de la gouvernance des données de santé est déjà visible, en particulier dans les récents processus de haut niveau, mais que cet élan doit désormais être traduit en mise en œuvre. Selon lui, la priorité est de renforcer les cadres juridiques nationaux, de parvenir à un accord plus large entre les parties prenantes et d’élaborer des orientations pratiques afin que la confiance puisse s’établir dans la pratique.

Il affirme que le soutien politique manifesté lors de la réunion de haut niveau de l’Assemblée mondiale de la Santé a montré que les États sont prêts à agir . Il identifie ensuite quatre priorités pour la suite : élargir le consensus, renforcer les capacités et les lois nationales, et élaborer des orientations pratiques de mise en œuvre, concluant que des cadres juridiques solides sont nécessaires parce que ce qui est désormais requis, c’est la confiance .

Alshanfari soutient qu’un cadre mondial opérationnel doit être coopératif et flexible plutôt qu’uniforme. Selon lui, il devrait tenir compte des différents niveaux nationaux de maturité en santé numérique, préserver la souveraineté et reposer sur un processus multipartite large incluant aussi les utilisateurs finaux.

Il déclare que les travaux à venir devraient poursuivre les consultations associant les gouvernements, les organisations internationales, le monde universitaire, la société civile, le secteur privé et les utilisateurs finaux, ajoutant que ces derniers sont souvent oubliés alors même que ce sont eux qui utiliseront ces outils . Il soutient en outre que tout futur cadre devrait appuyer les pays à différents niveaux de maturité en santé numérique, respecter la souveraineté nationale et avancer grâce à une coopération pratique .

Alshanfari souligne que les cadres de gouvernance ne peuvent pas s’arrêter à des principes ou à des déclarations. Ils doivent s’accompagner d’un soutien à la mise en œuvre adapté au fait que les pays diffèrent considérablement par leurs capacités, leur niveau de préparation et leur stade de développement en matière de santé numérique.

Il affirme que, bien que de nombreuses règles existent déjà, le véritable besoin aujourd’hui est leur mise en œuvre sur le terrain . Il appelle également à des orientations pratiques de mise en œuvre et indique que les futurs cadres devraient soutenir les pays à différents niveaux de maturité en santé numérique plutôt que de présumer que tous les pays sont également préparés .

Alshanfari soutient qu’une gouvernance inclusive doit aller au-delà des institutions et des experts pour inclure les personnes directement concernées par les outils de santé numérique. Il met en avant les utilisateurs finaux comme groupe de parties prenantes souvent négligé, alors même que leur participation est essentielle à la légitimité et à la réussite concrète.

Il appelle à des consultations associant un large éventail d’acteurs et dit explicitement que tout le monde oublie l’utilisateur final . Il explique que les utilisateurs finaux sont les personnes qui utiliseront réellement ces outils, raison pour laquelle ils doivent faire partie du processus de gouvernance .

Bonyo soutient que l’un des plus grands échecs de gouvernance n’est pas l’absence d’initiatives, mais le fait qu’elles soient mal coordonnées. Elle affirme que de multiples acteurs travaillent de manière isolée sur des cadres similaires, ce qui entraîne des doublons, des processus parallèles et une mise en œuvre plus faible.

Elle dit explicitement qu’il existe un problème de coordination qui crée des duplications, et décrit comment de nombreux acteurs sont actifs dans cet espace sans se parler . S’appuyant sur son expérience dans la rédaction de la politique africaine de gouvernance des données, elle explique que les bureaux nationaux ne savaient souvent pas ce qui se passait et élaboraient leurs propres cadres parallèles, illustrant ainsi la nature cloisonnée du processus .

Bonyo soutient que les discussions sur la gouvernance sont trop centrées sur les acteurs de l’exécutif et laissent trop souvent de côté d’autres institutions jouant des rôles juridiques cruciaux. Elle souligne que les parlements sont nécessaires pour adopter des lois, tandis que les appareils judiciaires façonnent de plus en plus les règles là où les cadres juridiques sont incomplets.

Elle affirme que les parlementaires sont exclus de ces processus et renvoie aux commentaires du président du réseau parlementaire sur la gouvernance de l’Internet, qui a soulevé cette question lors du Africa Tech AI and Governance Summit . Elle indique également que le pouvoir judiciaire est souvent négligé, alors même que les tribunaux déterminent de plus en plus ce que devrait être le droit dans les domaines où il existe un vide ou une lacune dans la gouvernance des données et de l’IA .

Bonyo soutient que de nombreux pays disposent déjà de stratégies et de politiques, mais peinent à les mettre en pratique. Elle attribue cela à des budgets insuffisants, à un manque de compétences et à l’importation non critique de modèles de gouvernance occidentaux qui ne correspondent pas aux systèmes de santé et aux réalités locales.

Elle indique que, d’après l’Africa AI Governance Index, la conclusion est que le problème n’est pas la politique publique, mais sa mise en œuvre, car de nombreux pays africains ont des stratégies nationales en matière d’IA et certaines incluent les données de santé, mais ils manquent des budgets et des compétences nécessaires pour les mettre en œuvre . Elle critique également l’emprunt de stratégies occidentales sans adaptation locale, en donnant l’exemple que les systèmes africains doivent tenir compte de réalités telles que les agents de santé communautaires, qui occupent une place centrale localement mais n’existent pas de la même manière dans les modèles occidentaux .

Bonyo soutient que les dispositifs institutionnels sont souvent mal adaptés à la complexité technique de la gouvernance de l’IA et des données de santé. Elle affirme que les autorités de protection des données se voient confier par défaut des responsabilités en matière de gouvernance de l’IA, même lorsqu’elles ne disposent pas de l’expertise technique et des ressources nécessaires, de sorte qu’il faut mieux articuler les capacités politiques et techniques.

Elle indique que beaucoup de personnes ne comprennent pas la distinction entre données sensibles et données de santé, et soutient que le renforcement des capacités devrait commencer par les autorités de protection des données . Se référant à l’Africa AI Governance Index, elle affirme que les autorités de protection des données agissent souvent comme responsables de l’IA par défaut, notant que le Rwanda n’a lancé que récemment une agence dédiée à l’IA tandis que, au Ghana, les fonctions liées à l’IA relèvent encore de l’autorité de protection des données, ce qui montre la nécessité de doter ces institutions de compétences techniques plus solides pour la gouvernance des données de santé .

Mathieson présente la discussion comme une progression allant des défis juridiques nationaux vers un alignement régional et mondial, en mettant l’accent sur des résultats concrets. Sa modération souligne la nécessité de relier les différents processus d’élaboration des politiques et les perspectives des parties prenantes afin que les discussions débouchent sur des étapes concrètes, plutôt que de rester fragmentées.

Elle présente le panel comme réunissant des perspectives diverses sur les défis, les besoins et la voie à suivre, et indique qu’elle s’attend à ce que la discussion conduise à des actions très concrètes . Elle décrit aussi explicitement la séquence prévue de la discussion comme commençant par les questions et défis juridiques nationaux, puis évoluant vers l’alignement mondial, les opportunités et les actions .

Campos Neto soutient que le secteur privé est un acteur central de la santé numérique et de la gouvernance de l’IA, car il développe une grande partie de l’infrastructure des TIC et de normalisation dont dépendent ces systèmes. Il affirme que les cadres de gouvernance doivent inclure les acteurs du secteur privé et offrir une clarté juridique afin qu’ils puissent innover de manière responsable dans un cadre de règles prévisible.

Il affirme qu’une grande partie prenante fréquemment absente de ces discussions est le secteur privé, et explique qu’au sein de l’UIT, les travaux sur les TIC et les normes sont fortement portés par les membres du secteur privé . Il ajoute que si des technologies à évolution rapide telles que l’IA sont intégrées au système sans participation du secteur privé, la gouvernance ne fonctionnera pas, et que ce que ces acteurs souhaitent, c’est un environnement juridique clair et compréhensible dans lequel opérer .

Campos Neto soutient que les défaillances du partage des données ne résultent pas simplement de la cupidité ou du secret commercial. Il affirme que les acteurs conservent souvent les données parce qu’ils craignent d’engager leur responsabilité ou ne savent pas comment les partager en toute sécurité, d’où la nécessité de meilleures normes techniques, d’ensembles de données détectables par machine et d’accords normalisés.

Il affirme que les données sont souvent thésaurisées non seulement par le secteur privé mais aussi par les institutions, et que cela tient parfois à la peur et à l’incertitude quant à la manière de les partager en toute sécurité, plutôt qu’à une simple cupidité . Comme exemples concrets, il cite l’European Health Data Space comme une initiative positive, mais estime qu’il lui faut encore davantage de cadres techniques interconnectés, d’ensembles de données détectables par machine et d’accords types pour automatiser l’utilisation sûre des données et réduire le temps et la difficulté liés à la négociation d’accords bilatéraux d’accès, en particulier lorsque les entreprises considèrent les données comme des secrets commerciaux .

Campos Neto soutient que l’IA est une étiquette générale qui recouvre des technologies aux âges, aux risques et aux degrés de maturité très différents, de sorte qu’une approche réglementaire unique et uniforme serait inadaptée. Il plaide pour une législation fondée sur les risques et sensible au contexte, qui reflète les cas d’usage réels et n’impose pas de contraintes inutiles susceptibles d’étouffer l’innovation.

Il affirme que l’IA est un terme impropre, car il ne s’agit pas d’une seule chose, mais de nombreuses technologies allant de systèmes vieux de plusieurs décennies à des outils développés seulement quelques mois auparavant, chacune ayant des implications, un degré de maturité et des profils de risque différents . Il soutient donc que la législation devrait refléter le risque, la rapidité de l’évolution technologique, le degré de maturité et le cas d’usage, avec des garanties plus fortes pour les applications les plus risquées, tout en veillant à ce que les cadres n’imposent pas une charge excessive à l’innovation .

Le participant soutient que les discussions sur la gouvernance auront une valeur limitée à moins qu’elles n’aboutissent à des dispositifs pratiques que les citoyens puissent réellement utiliser pour partager leurs données de santé. Il exprime sa frustration face à la lenteur des initiatives actuelles et demande si un territoire offre déjà une institution publique par l’intermédiaire de laquelle les citoyens peuvent, en pratique, partager des données.

Le participant affirme que l’Espace européen des données de santé avance incroyablement lentement et suggère que, s’il n’existe pas de propositions concrètes pour un véritable partage des données, le processus n’a pas beaucoup de sens . Il demande ensuite s’il existe quelque part dans le monde un lieu où les citoyens qui souhaitent partager leurs données peuvent le faire par l’intermédiaire d’une institution publique, ce qui souligne la demande d’un mécanisme pratique et publiquement responsable .