Governing the Systemic Impacts of AI Where Regulation Doesn't Reach: Standardised Commitments and Lateral Requirements across Value Chains

Résumé élargi : Cadre AI Commons - Présentation en session et table ronde

#

Introduction et contexte

La session était consacrée à la présentation du Cadre AI Commons (AIC), un instrument de gouvernance conçu pour faciliter l'auto-organisation ascendante au sein des chaînes de valeur de l'IA, dans l'intention de produire des effets systémiques bénéfiques à partir de la transition vers l'IA . Le cadre est développé par un groupe de travail hébergé à l'Université libre de Bruxelles, dont cinq membres étaient présents à la table ronde . Dr Em Lenartowicz a ouvert les travaux en soulignant que la session visait également à recueillir des retours, des manifestations d'intérêt et à favoriser le réseautage, le cadre étant encore en cours de développement actif . Le groupe de travail se recoupe partiellement avec le comité directeur de l'initiative d'impact AI for Good .

#

Critique des cadres de gouvernance de l'IA existants

Dr Lenartowicz a commencé par reconnaître que l'expression « cadre de gouvernance de l'IA » risque de provoquer une certaine lassitude, compte tenu de la prolifération de tels instruments . Elle a cité le décompte du panel scientifique des Nations Unies, qui recense plus de 40 instruments de gouvernance, et a noté qu'un rapport récemment publié par cet organe avait conclu que ces cadres étaient pour la plupart fragmentés, concentrés au niveau des entreprises, et qu'ils mesuraient rarement leur efficacité dans le monde réel . Le cadre AIC, a-t-elle soutenu, est fondamentalement différent dans son orientation : plutôt que de mesurer les effets, il vise à induire des effets systémiques positifs et à en assurer la propagation .

Une critique centrale qui sous-tend la conception du cadre est que la gouvernance de l'IA au niveau des entreprises comporte une limitation inhérente. La plupart des instruments existants semblent viser un niveau de contrôlabilité des opérations commerciales gérées par l'IA comparable à celui des organisations dirigées par des humains . Dr Lenartowicz a soutenu que cette norme est insuffisante, dans la mesure où les organisations dirigées par des humains ont elles-mêmes engendré des problèmes significatifs - notamment l'extraction, l'accumulation, et la création d'externalités et d'exclusion - et que reproduire ces dynamiques par le biais de l'IA ne fera que les amplifier eb les accélérant . Le défi et la tâche de conception du cadre consistent donc à permettre à de nouveaux types d'organisations impliquant l'IA de fonctionner selon des normes plus élevées que celles que les organisations humaines ont historiquement atteintes .

#

La logique des dynamiques exponentielles et de la multiplication

Une contribution conceptuelle clé de l'introduction de Dr Lenartowicz réside dans sa distinction entre dynamiques additives et multiplicatives. Elle a soutenu que les dynamiques exponentielles, qu'elles soient souhaitées ou non, n'émergent pas de la simple agrégation de projets similaires, mais de la multiplication des interactions entre acteurs . Dans le contexte des affaires, la tendance à extraire, accumuler et créer des externalités ne découle pas des décisions stratégiques isolées de chaque entreprise, mais des dynamiques concurrentielles et des pressions du marché qui rendent pratiquement impossible pour tout acteur individuel de se comporter différemment des autres . Cette perspective recadre la gouvernance non pas comme une question de conformité individuelle, mais comme une question de comportement systémique émergent.

De manière cruciale, Dr Lenartowicz a soutenu que si l'humanité est capable de générer des dynamiques exponentielles indésirables, elle est tout aussi capable d'en concevoir délibérément des bénéfiques . La question devient alors : comment établir une pratique et une culture dans lesquelles les acteurs de l'IA se tiennent mutuellement à des normes plus élevées et créent une pression mutuelle pour opérer sur un terrain plus vertueux ? Cette logique motive directement la conception du cadre, qui vise à exploiter l'effet de multiplication à des fins bénéfiques plutôt qu'à se contenter de contraindre les effets néfastes.

#

La structure et les six piliers du cadre AIC

Le cadre AIC est conçu comme un objet compact et lisible par l'humain - décrit comme une sorte de QR code mais compréhensible d'un coup d'œil - par lequel tout acteur de l'IA peut exprimer volontairement des engagements selon six dimensions . Ces dimensions sont représentées par l'acronyme RSOGAV : réciprocité, durabilité (Sustainability), ouverture, gouvernance, accès et partage de la valeur (Value sharing) . Le cadre est explicitement positionné comme un instrument ascendant et volontaire, analogue dans sa conception aux licences Creative Commons ou open source, où l'utilisation d'une icône signifie l'acceptation de conditions juridiques standardisées .

La structure visuelle du cadre utilise des lignes horizontales pour les six types d'engagements et un positionnement vertical pour indiquer où dans la chaîne de valeur se situe un engagement. Un point central représente un engagement fondamental au sein du déploiement propre de l'acteur, tandis que les positions à gauche et à droite représentent respectivement les attentes vis-à-vis des fournisseurs en amont et les conditions imposées aux opérateurs en aval . Cette architecture permet aux acteurs non seulement de prendre des engagements individuels, mais aussi d'étendre ces engagements sous forme d'exigences mutuelles tout au long de leurs chaînes de valeur, créant ainsi les pressions réciproques et les attentes mutuelles susceptibles de générer des dynamiques systémiques bénéfiques . À titre d'illustration concrète de cette logique de chaîne de valeur, Dr Lenartowicz a noté que l'Alliance pour la superintelligence artificielle (ASI Alliance) est l'une des entités auxquelles la logique de chaîne de valeur amont-aval peut être appliquée [S1].

Chacun des six types d'engagements revêt une signification spécifique et ambitieuse. L'engagement de durabilité (S) exige que l'empreinte environnementale et le coût de l'ensemble de l'opération dans les limites d'un déploiement s'équilibrent avec ses effets, au minimum de manière neutre et idéalement de manière régénérative . Dr Lenartowicz a cité l'exemple de robots alimentés à l'énergie solaire plantant des arbres dans des déserts comme illustration d'un déploiement dont l'effet environnemental régénératif peut être mesuré par rapport à son coût opérationnel . L'engagement d'ouverture (O) va au-delà du code open source pour inclure le niveau opérationnel d'un déploiement d'IA - en rendant les poids, les procédures internes de l'IA et les processus de gestion des incidents ouverts au contrôle de la société civile . L'engagement de gouvernance (G) exige que la représentation complète de tous les groupes de parties prenantes soit présente à la table de décision pour les aspects clés d'un déploiement. À titre d'exemple illustratif, Dr Lenartowicz a cité la « décision de fermeture » (sunset decision) - la décision de clore un système jugé nuisible - comme une décision qui ne doit pas reposer uniquement sur les propriétaires, mais qui doit être ouverte à toutes les parties prenantes .

L'engagement d'accès (A) consiste à mettre l'ensemble des capacités de l'IA à la disposition de tous gratuitement, une norme que Dr Lenartowicz a jugée particulièrement appropriée pour les projets financés sur fonds publics . L'engagement de partage de la valeur (V) est formulé comme une contribution à un dispositif de revenu universel de base, ciblant les régions où se concentre le plus grand nombre de personnes vivant dans une pauvreté extrême, avec des protections juridiques garantissant que les données ne sont pas partagées de manière inappropriée . Le cadre comprend également un type d'engagement par lequel un projet choisit volontairement de partager une fraction de ses revenus bruts avec de larges catégories de contributeurs - créateurs, producteurs de données et travailleurs de la connaissance - qui ont contribué aux capacités du système ; ceci est présenté comme une illustration du fonctionnement pratique des engagements du cadre plutôt que comme une assignation définitive à un pilier nommé unique . Le cadre permet aux acteurs de choisir les engagements à adopter et où les appliquer dans leurs chaînes de valeur, ce qui en fait un instrument flexible plutôt que prescriptif .

#

Validation externe : Ana Garcia Robles et la perspective onusienne

Ana Garcia Robles, participant via un message préenregistré depuis une session parallèle à Palexpo, a apporté la perspective du Bureau des Nations Unies pour les technologies numériques et émergentes, où elle dirige un laboratoire nouvellement créé sur la gouvernance de l'IA . Elle a confirmé que les travaux récents des Nations Unies sur la gouvernance de l'IA et les pratiques avec le secteur privé avaient généré des enseignements qui résonnent fortement avec le cadre AIC. Elle a notamment noté le passage de la gouvernance de systèmes d'IA relativement statiques à la prise en compte de la nature dynamique de l'IA moderne, en particulier compte tenu de l'émergence des technologies agentiques, comme un défi que le cadre aborde efficacement . Elle a également confirmé la conclusion des Nations Unies selon laquelle la gouvernance de l'IA ne réside pas seulement dans les normes et leur mise en œuvre, mais aussi dans les décisions, les interactions, les chaînes de valeur et les écosystèmes, y compris les décisions d'approvisionnement prises par les clients et les collaborateurs .

Ana Garcia Robles a en outre noté que les Nations Unies mènent des travaux importants sur l'interopérabilité de la gouvernance, et que les six piliers du cadre AIC résonnent avec les voies identifiées dans le cadre de ces travaux . Elle a exprimé le souhait de poursuivre la collaboration et d'explorer des opportunités pour tester et piloter le cadre, signalant une ouverture institutionnelle à l'engagement .

#

Opérationnalisation et licences : la contribution de Dr Ann Borda

Dr Ann Borda, présentée par Dr Lenartowicz comme la directrice du laboratoire de gouvernance de l'IA pour l'humanité nouvellement créé par les Nations Unies , a présenté le cadre AIC comme une opérationnalisation des principes d'IA responsable, dont beaucoup ont été formulés dans les recommandations de l'OCDE et d'autres orientations d'agences onusiennes, et qui sont jusqu'à présent restés largement aspirationnels . Elle a souligné l'importance du cadre dans le contexte d'un paysage réglementaire inégal et d'une tendance à l'autorégulation, en faisant valoir que les licences offrent une voie légère mais viable qui s'inscrit dans les cycles d'innovation déjà soutenus par les gouvernements et des organismes tels que l'OCDE .

Dr Borda a attiré l'attention sur l'infrastructure numérique publique (INP) comme domaine particulièrement prometteur pour l'application du cadre, notant son potentiel à orienter les marchés publics vers une IA responsable et à limiter la capacité des grandes entreprises à consolider leur pouvoir par intégration verticale . Elle a évoqué le spectre des modèles de licences existants: des licences open source permissives aux arrangements Creative Commons plus restrictifs, et a noté que ceux-ci sont déjà façonnés par l'écosystème de l'IA, ce qui rend important de réfléchir soigneusement à la manière dont les arrangements de licences peuvent être améliorés . Elle a soulevé une mise en garde importante concernant le risque de double licence, où un profil d'engagement pourrait devenir une liste de contrôle à une fin tandis que la monétisation s'effectue sous une licence différente et moins responsable .

De manière peut-être la plus évocatrice, Dr Borda a établi un parallèle avec le concept de « licence sociale d'exploitation », historiquement utilisé dans l'industrie minière, où les communautés et les entreprises ont développé une relation dynamique accordant ou refusant la légitimité en fonction de l'acceptation communautaire . Elle a suggéré que le cadre AIC peut être compris comme une forme contemporaine de licence sociale d'exploitation pour les déploiements d'IA, ancrant le cadre abstrait dans un précédent historique bien établi .

#

Adoption par les PME et rythme de croissance de l'IA : Dr Cristian Axenie

Dr Cristian Axenie, de l'Institut de technologie de Nuremberg, a apporté une perspective axée sur l'adoption pratique du cadre par les petites et moyennes entreprises (PME). À noter que ses remarques d'ouverture étaient partiellement inaudibles ou coupées dans la transcription. Il a observé que de nombreuses PME cherchent des moyens d'apporter de la valeur ajoutée à leurs clients grâce à l'IA, et qu'il existe déjà des exemples d'entreprises qui fournissent non seulement un produit ou un système, mais aussi un certificat accompagnant le produit : une évolution qu'il considère comme un pas vers l'harmonisation des perspectives de déploiement . Il a soutenu que le cadre AIC contribue à cet effort d'harmonisation .

Dr Axenie a souligné l'importance de la sensibilisation et de l'acceptation comme conditions préalables à l'adoption, notant que de nombreuses PME sont conscientes que l'IA peut apporter de la valeur, mais manquent d'une recette claire pour l'adopter de manière responsable . Il a également prolongé le cadrage mathématique des dynamiques exponentielles de Dr Lenartowicz, en soutenant que les mesures de gouvernance doivent croître au moins aussi vite que les systèmes d'IA eux-mêmes pour faire face au rythme du développement de l'IA . Il a présenté les piliers du cadre AIC : ouverture, durabilité, accès, valeur et réciprocité, comme fournissant à la fois les outils et les moyens d'une adoption pragmatique, et a exprimé sa confiance dans le fait que le cadre est sur la bonne voie pour renforcer la sensibilisation .

#

SingularityNet comme étude de cas réelle : Dr Mihaela Ulieru

Dr Mihaela Ulieru, de SingularityNet, a présenté la plateforme comme ce qu'elle a décrit comme un « exemple emblématique » du cadre AIC : un projet réel qui incarne déjà nombre de ses piliers dans la pratique . SingularityNet est décrit comme la seule plateforme d'intelligence artificielle générale décentralisée et open source, accessible à tous et comparable au « Linux de l'AGI » . Le système Hyperon de la plateforme est entièrement open source, permettant à quiconque de voir ce qu'il fait et d'y accéder .

Sur la dimension de la réciprocité et du partage des données, Dr Ulieru a expliqué que la plateforme fonctionne via ce qu'elle a décrit comme la chaîne ASI (Artificial Super Intelligence chain) : une architecture décentralisée qui permet aux données de rester privées tout en étant chiffrées via la technologie blockchain et regroupées avec les données d'autres utilisateurs pour générer de meilleurs résultats, les contributeurs étant rémunérés pour les données impliquées dans tout produit donné . De même, les développeurs qui publient des algorithmes sur la plateforme sont automatiquement rémunérés lorsque d'autres les utilisent, via des technologies blockchain et de chiffrement . Sur le plan de la gouvernance, SingularityNet fonctionne à travers un collectif constitutionnel fondé sur la réputation, où le poids décisionnel est proportionnel à l'expertise, permettant aux parties prenantes de déléguer les décisions à ceux qui disposent des connaissances pertinentes les plus étendues . Sur le plan de la durabilité, l'architecture informatique distribuée de la plateforme élimine le besoin de grands centres de données, atteignant la durabilité par la diffusion de la puissance de calcul à travers le réseau .

Cependant, Dr Ulieru a introduit un point de désaccord notable avec le pilier « partage de la valeur» du cadre. Elle a déclaré que SingularityNet considère la valeur comme une méritocratie, une récompense proportionnelle à la contribution, et organise des hackathons pour récompenser le travail réel plutôt que d'endosser un modèle de revenu universel de base . Elle a reconnu avoir eu de « grandes discussions » avec Dr Lenartowicz sur ce point . Elle a toutefois ajouté une nuance humanisante : réfléchissant au rythme du développement de l'AGI et au fait que les systèmes d'IA commencent à surpasser les experts humains dans certains domaines, elle a remarqué qu'elle reconsidère peut-être sa position sur le RUB [S2]. Dr Lenartowicz a répondu en saluant cela comme une « merveilleuse illustration » de la nature ascendante et volontaire du cadre, en soulignant que le cadre permet aux acteurs d'exprimer ce en quoi ils croient et laisse leur environnement déterminer s'il est attiré par ce choix de valeur . Dr Ulieru a également soutenu que l'ouverture elle-même constitue un mécanisme de sécurité intégré, décrivant la plateforme comme « le meilleur système immunitaire disponible aujourd'hui » parce qu'elle est transparente, décentralisée, interprétable et collectivement défendue .

#

Inclusion des petits acteurs : Dr Yang Yong

Dr Yang Yong, de l'Université de Hong Kong, a orienté la discussion vers le groupe qu'il a décrit comme le plus important : les individus et les petites et moyennes entreprises exclus de l'économie de l'IA, qui est largement dominée par les grandes entreprises technologiques et un petit nombre de technocrates . Il a soutenu que ces petits acteurs ne participeront pas à moins d'être incités par des récompenses substantielles accordées d'emblée lors de la contribution de leurs données personnelles, mais que le temps nécessaire pour créer des services d'IA à valeur ajoutée à partir de ces données rend une récompense immédiate pratiquement très difficile . Il a noté l'ironie que les petits acteurs accordent déjà leur plein consentement aux grandes entreprises technologiques pour partager toutes leurs informations personnelles sans recevoir aucune compensation, ce qui rend leur préoccupation pour la vie privée au sein d'un modèle coopératif quelque peu paradoxale .

Comme solution potentielle, le Dr Yong a proposé la création de coopératives au sein du cadre des communs de l'IA, où des cohortes d'intérêts commerciaux partagés pourraient se regrouper, la mise en commun de ressources privées et la création de services à valeur ajoutée partagés . Il a suggéré que des algorithmes d'apprentissage distribué pourraient être utilisés pour faire circuler des modèles d'IA à travers différentes sources d'informations privées sans exposer de données sensibles, répondant ainsi aux préoccupations relatives à la vie privée . Une fois les modèles d'IA créés par ce processus, le partage des bénéfices pourrait s'ensuivre . Cependant, il a reconnu que même dans ce modèle coopératif, récompenser les individus d'emblée reste très difficile, et a proposé une approche pragmatique et progressive : commencer par les PME, apprendre les principes, puis étendre la participation aux individus .

#

Questions du public : sécurité, responsabilité et application

La première question du public a concerné la sécurité et la responsabilité, demandant qui assume la responsabilité lorsqu'un modèle d'IA cause un préjudice et si cela devrait être intégré dans le processus de licence . L'intervenant a appelé à un outil standardisé applicable dans toutes les juridictions et industries, analogue aux normes de reporting financier ou aux étiquettes nutritionnelles pour les aliments, pour rendre les évaluations de sécurité et de gouvernance simples et universellement compréhensibles .

Dr Lenartowicz a répondu en précisant que l'accent du cadre AIC est mis sur la complémentarité, en traitant les effets systémiques qui passent à travers les mailles des instruments de gouvernance axés sur la sécurité existants, plutôt que de dupliquer la réglementation en matière de sécurité . Cette complémentarité est un choix de conception délibéré : même après que tout est sécurisé et que toute la valeur contractuelle est délivrée, des externalités continuent de s'accumuler en raison de l'approche à court terme adoptée par de multiples acteurs, chacun se concentrant sur ses propres objectifs commerciaux.. Elle a noté que les dimensions de sécurité pourraient être intégrées dans le cadre à mesure qu'il mûrit, mais que l'engagement initial de rendre un déploiement sûr ne constitue pas encore le type d'engagement « au-delà du statu quo » que le cadre est conçu pour saisir . Dr Ulieru a ajouté que l'ouverture elle-même intègre la sécurité par l'inspection collective, en soutenant que des modèles formels peuvent être utilisés pour prouver la sécurité et que la transparence de la plateforme permet aux meilleurs développeurs d'IA de l'examiner collectivement .

La deuxième question du public, posée par un représentant du Bureau des affaires étrangères, du Commonwealth et du développement du Royaume-Uni, a soulevé la préoccupation de l'application sans mandat central, en demandant comment la conformité peut être assurée lorsque des acteurs s'écartent de la ligne . Dr Lenartowicz a expliqué que l'applicabilité du cadre est décentralisée et ne nécessite pas de nouvelles institutions ni d'organismes de certification, car il fonctionne par le biais du droit contractuel ordinaire déjà en place dans toute la civilisation humaine . En intégrant les engagements dans des documents juridiques standard - conditions générales, conditions d'API, documents d'approvisionnement et contrats de vente - les acteurs créent des obligations juridiquement contraignantes qui peuvent être appliquées par les clients, la société civile et les bénéficiaires potentiels qui peuvent porter l'affaire devant les tribunaux . Elle a reconnu que l'efficacité dépend de la juridiction et de la solidité de l'environnement social et civil environnant, mais a maintenu que le système juridique tel qu'il existe pour le droit des contrats fournit la couche d'application nécessaire . Dr Ulieru a renforcé l'argument de la sécurité par l'ouverture en opposant les plateformes open source aux grands laboratoires d'IA fonctionnant comme des « forteresses opaques » où les algorithmes ne peuvent pas être inspectés, en soutenant que l'ouverture est ce qui rend l'IA véritablement sûre .

#

Thèmes généraux et conclusions

Plusieurs thèmes transversaux ont émergé au cours de la discussion. Premièrement, il y avait un large consensus sur le fait que les instruments de gouvernance de l'IA existants sont insuffisants et qu'une nouvelle approche ciblant les effets systémiques à travers les chaînes de valeur est à la fois nécessaire et opportune . Deuxièmement, la conception de licence volontaire, ascendante et légère du cadre AIC a été largement approuvée comme mécanisme viable et approprié, Creative Commons et open source étant cités comme des précédents démontrant que des cadres volontaires peuvent produire des effets systémiques significatifs par auto-organisation . Troisièmement, l'inclusion des PME et des individus ordinaires a été identifiée comme une préoccupation centrale par plusieurs intervenants de différents horizons institutionnels, reflétant une reconnaissance partagée que les bénéfices de l'économie de l'IA sont actuellement concentrés parmi un petit nombre de grands acteurs .

Une tension productive a traversé toute la discussion entre l'ouverture et la contrôlabilité comme paradigmes de sécurité concurrents, Dr Ulieru défendant constamment l'ouverture comme le mécanisme le plus efficace et Dr Lenartowicz reconnaissant les deux approches . Le désaccord interne au sein du groupe de travail concernant le pilier partage de la valeur : Dr Lenartowicz proposant un modèle orienté RUB et Dr Ulieru préférant la méritocratie, tout en reconnaissant provisoirement qu'elle pourrait reconsidérer sa position à la lumière des développements de l'AGI a été géré de manière constructive et utilisé pour illustrer la flexibilité du cadre, bien qu'il ait également soulevé des questions sur la cohérence définitionnelle des clauses juridiques standardisées du cadre.

Dr Lenartowicz a clôturé la session en invitant les participants à poursuivre les conversations dans les couloirs et lors des panels suivants, notant que le groupe de travail présenterait le cadre lors d'autres sessions au cours de la semaine . La session a ainsi rempli son double objectif de présentation du cadre et de recueil des retours et manifestations d'intérêt nécessaires à l'avancement de son développement .