From Fragmentation to Coherence: The Role of the International Law Association in Global AI Governance

John Truby décrit le Comité ILA sur le droit de l'IA et des technologies comme un observatoire juridique qui suit l'évolution du paysage de la gouvernance de l'IA. Le comité vise à fournir des lignes directrices à la fois théoriques et pratiques pour soutenir la clarification et le développement progressif du droit international, à travers l'analyse comparative, des principes partagés et des lois types ou des boîtes à outils juridiques.

Truby a précisé que les travaux du comité sont à la fois pratiques et académiques, cherchant à soutenir la clarification et le développement progressif du droit international par le biais d'analyses comparatives, de lignes directrices, de principes partagés et, le cas échéant, de lois types ou de boîtes à outils juridiques . Le comité propose également un observatoire juridique et entend offrir des lignes directrices tant théoriques que pratiques .

Le Comité ILA sur le droit de l'IA et des technologies a été créé pour examiner les questions liées à l'IA sous l'angle du droit international, en s'appuyant sur une composition diverse et géographiquement représentative. Ses travaux sont organisés autour de cinq sous-comités couvrant les normes mondiales, les droits de l'homme, la responsabilité, les cadres sectoriels et le développement durable et éthique de l'IA.

Le comité réunit 35 membres issus de 30 pays, spécialisés en droit international public, droits de l'homme, régulation des technologies, paix et sécurité, développement durable, droit comparé, droit international privé et gouvernance sectorielle . Les cinq sous-comités se concentrent sur les normes mondiales, la gouvernance et la régulation comparative, l'IA et les droits de l'homme, la responsabilité et la gouvernance transfrontalière, les cadres juridiques sectoriels de l'IA, ainsi que le développement durable et éthique de l'IA .

Annalisa Chiampi décrit l'ambition du Comité de l'ILA comme étant d'apporter clarté et cohérence à la prolifération chaotique des réponses en matière de gouvernance de l'IA. Le comité cherche à identifier les lacunes et à fournir un cadre complet, systémique et articulé à travers son observatoire juridique et ses lignes directrices.

Chiampi a souligné que le comité a l'ambition d'apporter une certaine clarté et cohérence au chaos créé par les diverses réponses à l'IA, d'identifier les lacunes et de proposer un cadre à la fois complet, systémique et articulé . Le comité offre un observatoire juridique et vise à proposer des lignes directrices tant théoriques que pratiques .

Chiampi observe que si ces dernières années ont été marquées par un recul de la coopération internationale au profit de l'autonomie stratégique et de la souveraineté technologique, l'IA inverse désormais cette tendance. Les États, les organisations internationales et les autres parties prenantes se réunissent à nouveau au sein de forums multilatéraux pour aborder la gouvernance de l'IA.

Chiampi a retracé l'évolution de la souveraineté des États, de la coexistence vers la coopération, en notant un recul lié à la pandémie de COVID, à la guerre russo-ukrainienne et aux nouvelles technologies, qui ont mis un frein au mouvement vers la coopération et ont donné naissance à l'autonomie stratégique et à la souveraineté technologique . Elle a toutefois observé que ces derniers mois, les États et les autres parties prenantes se réunissent à nouveau au sein de l'UNESCO, de l'UNICEF, de l'ILO, de l'ITU et de l'ONU de manière plus générale, décrivant l'IA comme un facteur de transformation .

Chiampi souligne que dans les nombreux forums multilatéraux traitant de l'IA, on observe une convergence notable autour de valeurs et d'un langage communs, notamment la sécurité, la fiabilité et la durabilité. Cette convergence est perçue comme une évolution positive, aucune voix ne s'étant élevée contre ces orientations partagées.

Chiampi a noté que dans les forums multilatéraux, les discours se rejoignent, avec des références répétées à des termes tels que sécurité, fiabilité et durabilité, et qu'elle n'avait entendu aucune voix s'opposer à cette direction . Elle a cité l'UNESCO, l'UNICEF, l'ILO, l'ITU et l'ONU, tant à Genève qu'à New York, comme exemples de forums où cette convergence se produit .

Chiampi soutient que malgré un large consensus sur une approche de l'IA fondée sur les droits humains, il n'existe pas de compréhension exhaustive de la manière dont l'IA interagit avec l'ensemble du spectre des droits humains. Le défi réside non seulement dans la cartographie de ces interactions, mais aussi dans l'opérationnalisation du cadre convenu en pratique.

Chiampi a déclaré que si l'on sait que potentiellement tous les droits humains peuvent être renforcés ou compromis par l'IA, il n'existe pas de compréhension exhaustive de ce qui se passe entre l'IA et les droits humains, ni de clarté sur la manière d'opérationnaliser l'approche fondée sur les droits humains qui a été convenue . Elle a noté que la vie privée et les droits environnementaux figurent parmi ceux qui sont affectés dans tous les secteurs, mais qu'une cartographie complète fait encore défaut .

Chiampi présente les objectifs du sous-comité de l'ILA sur l'IA et les droits humains, qui comprennent la production d'une cartographie exhaustive des interactions de l'IA avec les droits humains tout au long du cycle de vie de l'IA. Le sous-comité vise également à sensibiliser les utilisateurs et à favoriser l'esprit critique comme moyen d'influencer toutes les étapes du développement et du déploiement de l'IA.

Chiampi a décrit son objectif de parvenir à une cartographie complète de l'impact de l'IA sur les droits humains, avec les contributions de tous les membres de l'équipe, et de s'adresser à toutes les parties prenantes . Elle a identifié les utilisateurs comme les destinataires les plus naturels des travaux du sous-comité, et a souligné l'importance de l'esprit critique en tant que faculté proprement humaine pouvant avoir un impact sur chaque niveau du cycle de vie de l'IA, de la conception au développement et au déploiement .

Viveros Alvarez soutient que la prolifération actuelle d'initiatives fragmentées de gouvernance de l'IA, bien qu'elles se construisent les unes sur les autres, contient des chevauchements et des contradictions qui doivent être résolus. Elle appelle à les regrouper en une approche unique, cohérente, multilatérale, contraignante et universelle de la gouvernance de l'IA.

Elle a décrit plus d'une décennie d'approches fragmentées aux niveaux régional, national et thématique, notant que si ces initiatives sont remarquables et se construisent les unes sur les autres, elles contiennent parfois des chevauchements, voire des contradictions . Elle a appelé à tout regrouper en une approche multilatérale, contraignante et universelle cohérente .

Viveros Alvarez souligne que le rythme accéléré de développement de l'IA, dont les capacités doublent ou triplent tous les quelques mois, signifie que les processus traditionnels d'élaboration de normes sont trop lents pour répondre efficacement. Les préjudices et les risques se multiplient au même rythme, rendant indispensable une gouvernance urgente, universelle et contraignante.

Elle a noté que contrairement aux technologies traditionnelles où les normes évoluent avec le temps, les capacités de l'IA et les préjudices associés se multiplient à une échelle accélérée, doublant ou triplant tous les quelques mois . Elle a soutenu que nous ne pouvons pas nous permettre le luxe du temps et devons appeler à une gouvernance multipartite qui soit internationale, universelle et contraignante .

Viveros Alvarez soutient que la priorité de gouvernance la plus immédiate est d'établir des lignes rouges claires sur les utilisations inacceptables de l'IA, en particulier celles impliquant des décisions de vie ou de mort. Elle identifie les armes autonomes, la santé et la justice comme des domaines clés où de telles lignes rouges sont urgemment nécessaires.

Elle a décrit un consensus croissant selon lequel les algorithmes ne devraient pas décider de questions de vie ou de mort, citant les appels du Secrétaire général de l'ONU, du président du CICR et du regretté Pape François, ainsi que l'Encyclique du Pape Léon . Elle a noté que cela s'applique en premier lieu aux armes autonomes, mais s'étend également à la santé et à la justice, y compris la peine capitale .

Viveros Alvarez soutient que le droit international existant, étant neutre sur le plan technologique, fournit déjà une base pour ancrer de nombreuses lignes rouges relatives à l'IA sans nécessiter de nouveaux instruments juridiques entièrement nouveaux. La tâche consiste à rendre ces normes existantes suffisamment spécifiques et transparentes pour s'appliquer clairement aux applications de l'IA.

Elle a critiqué le traitement des politiques d'IA des entreprises comme de simples affaires internes, soutenant que de nombreuses lignes rouges peuvent parfaitement être ancrées dans le droit international existant, et s'est interrogée sur les raisons pour lesquelles cela n'est pas fait . Elle a noté que le droit international est neutre sur le plan technologique et doit simplement être rendu spécifique afin d'être clair et transparent pour tous .

Viveros Alvarez soutient que les engagements volontaires de l'industrie, y compris ceux des laboratoires d'IA de pointe, sont insuffisants car ils font fréquemment l'objet de revirements, sont appliqués de manière incohérente ou ne se traduisent jamais en politiques concrètes. Elle appelle à une surveillance contraignante, à des mécanismes de responsabilisation et à des exigences en matière de marchés publics pour obliger les entreprises à rendre des comptes.

Elle a souligné que les politiques internes et d'entreprise font marche arrière, évoluent, ou parfois ne se concrétisent jamais en politiques à partir des engagements pris, et qu'il est nécessaire d'exercer beaucoup plus de surveillance et de responsabilisation sur la nature de ces engagements et sur leur mise en œuvre . Elle a cité les lignes rouges d'Anthropic comme exemple d'une politique d'entreprise insuffisante, notant que leur restriction sur la surveillance de masse ne s'appliquait qu'aux citoyens américains et non de manière universelle . Elle a également mis en avant les marchés publics comme un outil puissant pour lier les entreprises et les gouvernements et garantir fiabilité et responsabilisation .

Viveros Alvarez souligne le rôle du leadership moral et interreligieux comme voie complémentaire pour établir des lignes rouges en matière d'IA, aux côtés des instruments juridiques. Elle cite l'Appel de Rome pour l'éthique de l'IA et les encycliques papales comme exemples d'un leadership moral allant dans le même sens que les efforts de gouvernance juridique.

Elle a fait référence à l'Encyclique du Pape comme moyen de faire appel au leadership moral, notant qu'elle reflète un dialogue interreligieux allant dans le même sens . Elle a cité l'Appel de Rome pour l'éthique de l'IA, signé à Hiroshima il y a deux ans, comme le premier document signé par toutes les grandes religions sur quelque sujet que ce soit dans l'histoire, le décrivant comme pointant dans une même direction sur l'éthique de l'IA .

Viveros Alvarez soutient que la tendance à séparer la gouvernance de l'IA civile et militaire est fondamentalement erronée, car l'IA est par nature à double usage, polyvalente et réaffectable. Ce sont des caractéristiques intrinsèques de la technologie, ce qui signifie qu'elle est à la fois civile et militaire simultanément.

Elle a décrit la tendance à séparer l'IA civile et militaire comme artificielle, notant que la technologie est à double usage par nature, polyvalente par nature et réaffectable par nature, faisant de ces éléments des caractéristiques intrinsèques de la technologie . Elle a soutenu que tous les dispositifs de gouvernance doivent être intégrés dans une approche cohérente et unifiée plutôt que de rester cloisonnés .

Viveros Alvarez soutient que les frontières entre conflit armé, paix et maintien de l'ordre sont de plus en plus floues, et que les technologies d'IA sont utilisées dans tous ces contextes. Cela rend inadéquate une gouvernance cloisonnée par domaine et appelle à des cadres de gouvernance intégrés.

Elle a noté qu'il est de plus en plus difficile de déterminer ce qui constitue un conflit armé au sens traditionnel, ce qui constitue la paix, quel cadre juridique s'applique et quelles technologies sont utilisées à quelles fins . Elle a cité l'utilisation de technologies liées à l'IA en Iran et dans des opérations impliquant le président Maduro comme exemples de technologies à double usage opérant dans des contextes non officiellement reconnus comme des conflits armés .

Viveros Alvarez soutient que les approches de la gouvernance de l'IA fondées sur la souveraineté, qui limitent les protections à des nationalités spécifiques, sont à la fois impraticables et injustes. Elle affirme que des normes universellement contraignantes sont nécessaires pour garantir que les protections et les garanties s'appliquent à tous, partout.

Elle a critiqué l'exemple de protections liées à l'IA disponibles uniquement pour les citoyens américains aux États-Unis, qualifiant de peu pratiques ces restrictions fondées sur la souveraineté . Elle a soutenu que les garanties et les protections doivent être universelles et non sélectionnées selon la nationalité, et que les risques ne doivent pas être externalisés de manière extraterritoriale .

Turbék soutient que la contribution principale de l'ILA réside dans la promotion de la clarté et de la compréhension du domaine émergent du droit de l'IA, plutôt que de simplement contribuer à la prolifération des instruments. En identifiant les lacunes, les convergences et les divergences entre les instruments existants, l'ILA peut aider les États et les autres acteurs à naviguer dans ce paysage réglementaire complexe.

Il a décrit un besoin croissant de voir plus clairement ce qui est en discussion, et a identifié le rôle de l'ILA comme étant de favoriser la compréhension de ce domaine juridique émergent et de renforcer non pas la culture de l'IA, mais la culture juridique autour de l'IA . Il a noté que l'ILA peut aider à identifier les lacunes existantes, les domaines où aucune règle n'existe, les éléments convergents et les éléments divergents .

Turbék décrit un paysage juridique fragmenté dans lequel les instruments de gouvernance de l'IA ont proliféré aux niveaux mondial, régional, national et sectoriel, entraînant des chevauchements, des contradictions et des définitions incohérentes. Cette confusion laisse les États et les autres acteurs dans l'incertitude quant aux instruments à appliquer et à la manière de les mettre en œuvre.

Il a énuméré un large éventail d'instruments existants, notamment des appels à des traités mondiaux, la Convention-cadre du Conseil de l'Europe, l'EU AI Act, les instruments non contraignants de l'UNESCO, les résolutions de l'Assemblée générale des Nations Unies, les normes techniques de l'IEC et de l'ISO, le droit international des droits de l'homme, les principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l'homme, les législations nationales et l'autorégulation . Il a noté que les mêmes termes et définitions ont des significations totalement différentes selon les instruments, citant le principe d'équité comme exemple où l'UNESCO et le Conseil de l'Europe ont des interprétations divergentes . Il a également souligné que les outils de mise en œuvre tels que les évaluations d'impact diffèrent considérablement d'une institution à l'autre, ce qui crée une confusion pour les États .

Turbék soutient que la diversité et la fragmentation actuelles des instruments de gouvernance de l'IA constituent une caractéristique normale d'un domaine juridique jeune et en développement qui cherche sa forme. Il suggère que, grâce à la mise en œuvre, aux décisions judiciaires et à la jurisprudence émergente, le domaine clarifiera progressivement les approches qui fonctionnent et celles qui ne fonctionnent pas.

Il a déclaré qu'à titre personnel, la diversité des instruments lui semblait tout à fait normale et n'était que le signe de la nature de ce jeune domaine juridique cherchant à trouver sa forme . Il a établi des parallèles avec d'autres domaines tels que le droit de l'environnement, soulignant que cela est tout à fait normal et ne devrait pas surprendre, et a insisté sur l'importance de se concentrer sur la mise en œuvre et de veiller à ce que les instruments entrent en vigueur .

Turbék reconnaît que le droit international existant en matière de droits de l'homme et les instruments connexes sont applicables aux activités liées à l'IA, mais soutient qu'ils ne sont pas suffisamment spécifiques pour répondre aux défis particuliers posés par l'IA. Cela crée un fossé entre le cadre juridique existant et les besoins pratiques de la gouvernance de l'IA.

Il a cité l'ensemble du corpus du droit international des droits de l'homme et les principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l'homme comme étant applicables ou pertinents dans une certaine mesure aux activités liées à l'IA, même s'ils ne sont pas suffisamment spécifiques . Il a également noté la tension entre la rigidité du droit et la nécessité de flexibilité en raison des évolutions techniques .

Turbék soutient que si le concept de souveraineté évolue dans le contexte de l'IA et des technologies numériques, il reste pertinent et ne doit pas être écarté. La géographie demeure pertinente, mais évolue au-delà de sa dimension purement physique, et la théorie de la souveraineté continue de se développer tant sur le plan normatif que pratique.

Il a déclaré que la géographie reste pertinente aujourd'hui, qu'elle évolue simplement, et qu'elle ne se limite pas à la géographie physique, et que la théorie demeure valable et continue d'évoluer tant sur le plan normatif que pratique . Il a reconnu qu'un changement s'opère, mais a maintenu que la souveraineté reste pertinente aujourd'hui .

Turbék explique que la prédominance des risques dans les cadres de gouvernance de l'IA, tels que l'AI Act de l'UE, est motivée par une crainte réelle face à la rapidité et à l'ampleur des développements de l'IA. Il met toutefois en garde contre une acceptation non critique des catégories de risques, qui doivent au contraire faire l'objet d'un réexamen rigoureux.

Il a déclaré que l'accent mis sur les risques est lié à notre peur, car les révolutions nous effraient, et que les développements sont rapides, massifs et véritablement considérables . Il a noté que l'entrée en vigueur de l'AI Act de l'UE a été reportée, ce qui laisse penser qu'il pourrait ne pas être aussi pratique que prévu .

Turbék soutient que si les catégories de risques, telles que le risque élevé et le risque inacceptable, constituent de bons points de départ, elles doivent être repensées de manière critique à la lumière des nouvelles évolutions de l'IA. En particulier, le concept de supervision humaine peut ne pas être applicable dans toutes les circonstances, notamment avec l'essor des systèmes d'IA agentiques conçus pour fonctionner sans intervention humaine.

Il a déclaré que les catégories d'évaluation des risques sont pertinentes, mais doivent faire l'objet d'une réflexion critique, et a remis en question l'applicabilité universelle du droit à la supervision humaine, notamment au regard du fait que l'IA agentique est précisément conçue pour fonctionner sans intervention humaine . Il a noté que l'entrée en vigueur de l'AI Act de l'UE a été reportée, ce qui en dit long sur son caractère pratique .

Turbék soutient que le débat sur la nécessité de réguler l'IA est désormais tranché, un consensus croissant se dégageant en faveur de la régulation et réfutant les arguments contraires. La question centrale est désormais celle des modalités de régulation, des acteurs compétents et des formes qu'elle doit prendre.

Il a déclaré que les affirmations des grandes entreprises technologiques et de certains États selon lesquelles la réglementation freine l'innovation sont fausses, citant le Secrétaire général de l'ONU, le rapport préliminaire du nouveau groupe scientifique sur l'IA et le pape Léon comme sources ayant conclu à la nécessité de réguler ce domaine . Il a soutenu que la question n'est plus de savoir si une réglementation est nécessaire, mais comment, par qui et de quelle manière elle doit être mise en œuvre .

Speaker 2 soulève la question de savoir si le principal défi de gouvernance n'est pas le manque de règles, mais plutôt le manque de coordination entre les institutions existantes. Cette formulation suggère que la création de nouvelles organisations ou de nouveaux instruments ne résoudra pas nécessairement le problème si la coordination entre les acteurs existants fait toujours défaut.

Speaker 2 a relayé une question posée par un participant en ligne nommé Paui, demandant si le plus grand défi de gouvernance aujourd'hui n'est plus l'absence de règles, mais bien l'absence de coordination entre les institutions existantes . Speaker 2 a également fait remarquer qu'il semble s'agir d'une caractéristique inhérente au système et non d'un dysfonctionnement que cette situation soit aussi désordonnée, et que les véritables décisions se prennent en coulisses, avec l'ajout constant de nouvelles organisations sans jamais mener le travail à son terme .

Speaker 3 reconnaît que les catégories de risques pouvant aller jusqu'aux risques catastrophiques ou existentiels méritent clairement une réglementation différenciée. Cependant, il souligne également que l'accent mis sur les risques doit être équilibré par la reconnaissance des opportunités que présente l'IA, notamment dans le contexte de l'IA au service du bien.

Speaker 3 a déclaré que les catégories de risques pouvant aller jusqu'aux risques catastrophiques ou existentiels méritent clairement d'être évaluées et de faire l'objet d'une réglementation adaptée . Il a noté que la session porte sur l'IA au service du bien, ce qui implique une attention particulière aux opportunités, et que les risques comme les opportunités doivent être pris en compte .

Paulo soulève la question de savoir comment relier conceptuellement une technologie mondiale et sans frontières comme l'IA à la notion territoriale de souveraineté. Il suggère que la souveraineté est peut-être en train d'évoluer sur le fond, donnant naissance à de nouveaux droits et obligations pour les États dans le contexte de la gouvernance de l'IA.

Paulo a demandé si la souveraineté évolue également sur le fond en termes de droits et d'obligations, et comment relier conceptuellement une technologie mondiale et sans frontières à la notion territoriale de souveraineté . Il a également demandé s'il existe de nouveaux droits et obligations découlant de la souveraineté à l'heure actuelle, ou que les États revendiquent dans le contexte de l'IA .

Kenneth soulève la préoccupation selon laquelle les gouvernements et les organisations internationales pourraient ne pas disposer d'un pouvoir suffisant pour réguler efficacement les grandes entreprises technologiques, et pourraient se retrouver à simplement réagir aux positions de l'industrie. Cela soulève des questions fondamentales quant à l'applicabilité et à l'efficacité des cadres de gouvernance de l'IA.

Kenneth a demandé s'il existait un quelconque pouvoir de régulation sur les grandes entreprises technologiques, ou si nous devions simplement attendre leurs prises de position pour y répondre, notamment dans les domaines mentionnés par les intervenants .

Kenneth soutient qu'en plus d'une réglementation générale de l'IA, une réglementation sectorielle peut s'avérer nécessaire pour remédier à des préjudices particuliers, en prenant pour exemples la propriété intellectuelle et les hypertrucages. Il suggère également que les droits à l'image pourraient potentiellement être reconnus comme une nouvelle forme de droit de propriété intellectuelle.

Kenneth a indiqué que dans le domaine de la propriété intellectuelle, une réglementation sectorielle de l'IA est tout à fait nécessaire, en particulier en ce qui concerne les hypertrucages, et a suggéré que les droits à l'image pourraient eux-mêmes être considérés comme un nouveau droit de propriété intellectuelle .

John Truby souligne que les travaux du comité ILA ne portent pas uniquement sur les risques, mais aussi sur les opportunités que l'IA offre pour atteindre les objectifs de développement durable. Il présente l'agenda du comité comme devant équilibrer ces opportunités face aux risques croissants, à mesure que les capacités de l'IA s'accélèrent.

Il a noté qu'il existe de nombreuses opportunités pour atteindre les objectifs de développement durable grâce à l'IA, à mettre en balance avec les risques qui n'ont cessé d'être soulevés et qui continueront de croître à mesure que les capacités de l'IA s'accélèrent .

John Truby soutient que le Forum SMSI est particulièrement approprié pour les discussions sur la gouvernance de l'IA, car son processus a historiquement associé les technologies de l'information à des préoccupations plus larges en matière de développement et de coopération, qui sont désormais au cœur des débats sur la gouvernance de l'IA.

Il a déclaré que le SMSI constitue un cadre particulièrement adapté à cette session, car son processus a longtemps associé les technologies de l'information au développement, à l'inclusion, à la confiance, à la sécurité et à la coopération internationale, et que l'IA se trouve désormais au centre de ces préoccupations .

John Truby souligne que le comité ILA cherche activement à élargir ses effectifs et invite des personnes issues d'un large éventail de pays et de disciplines à rejoindre ses sous-comités par l'intermédiaire de leurs branches nationales.

Il a indiqué que le comité invite davantage de personnes à rejoindre les sous-comités, que les candidats peuvent contacter leur branche nationale pour être nominés, et que si des candidatures proviennent déjà d'un large éventail de pays, le comité reste ouvert à de nouvelles candidatures .

Lars Gustafsson observe que les cadres de gouvernance de l'IA, en particulier la loi européenne sur l'IA, sont structurés principalement autour de catégories de risques allant du risque inacceptable à l'absence de risque, et s'interroge sur les raisons pour lesquelles l'IA est traitée comme particulièrement dangereuse par rapport à d'autres technologies qui comportent également des risques.

Il a noté que la loi européenne sur l'IA commence dès sa première page par les risques, en classant l'IA en risque élevé, risque inacceptable, risque faible et absence de risque, et a demandé pourquoi l'accent est mis aussi fortement sur les aspects négatifs plutôt que sur les bénéfices, s'interrogeant sur les raisons pour lesquelles l'IA est considérée comme si dangereuse cette fois-ci .