Open Source and AI for Sustainable Development: Digital Infrastructure, Open Data, and Multistakeholder Cooperation

Wei Wang établit un parallèle entre la question fondatrice de Richard Stallman sur le contrôle de l'ordinateur à l'ère des logiciels propriétaires et une nouvelle question, plus pressante, à l'ère de l'IA : qui contrôle votre esprit et votre connaissance. Il soutient que l'IA open source est essentielle pour rendre l'IA plus transparente pour les utilisateurs finaux, en leur donnant le droit de comprendre comment les grands modèles récupèrent et traitent l'information. Cette transparence est indispensable tant pour les utilisateurs que pour les développeurs.

Wei Wang a invoqué la question de Richard Stallman « qui contrôle votre ordinateur ? » comme point de référence historique du mouvement open source , avant de la reformuler pour l'ère de l'IA en posant la question : « qui contrôle votre esprit et votre connaissance ? » . Il a soutenu que l'IA open source serait un excellent outil pour rendre l'IA plus transparente pour les utilisateurs finaux et leur donner le droit de comprendre les mécanismes par lesquels les grands modèles de données récupèrent des informations à partir de code, de modèles et de jeux de données open source .

Wei Wang soutient que si l'IA a facilité l'écriture de code pour tous, les compétences en ingénierie les plus importantes — le jugement, le discernement et le contrôle de la qualité — ne peuvent pas se développer par l'IA seule. Les projets open source offrent des tâches concrètes et pertinentes pour l'industrie auxquelles les étudiants peuvent s'atteler sur le campus, faisant des communautés open source le cadre pratique idéal pour former les ingénieurs de demain. Il intègre directement des projets open source dans son enseignement universitaire.

Wei Wang a décrit comment il intègre des projets open source dans ses cours universitaires et mène des recherches en exploitant des données issues de GitHub et HuggingFace à l'aide de son propre projet open source, OpenDigger . Il a soutenu qu'à l'ère de l'IA, où tout le monde peut écrire du code, les capacités les plus importantes sont le jugement, le discernement et le contrôle de la qualité, et que les projets open source offrent aux étudiants des tâches concrètes et pertinentes pour l'industrie sur lesquelles ils peuvent travailler dès le campus .

Wei Wang souligne que l'IA open source est bien plus complexe que les logiciels open source, englobant des modèles, des données, des rapports de publication et du code source, sans qu'il existe pour autant de norme commune définissant ce que signifie l'ouverture pour chacun de ces éléments. Il observe que de nombreuses entreprises commercialisent leurs modèles comme étant open source sans réelle transparence, ce qui induit les utilisateurs en erreur. Son laboratoire travaille donc à l'élaboration d'un spectre ou d'un catalogue classifiant le niveau réel d'ouverture des modèles d'IA.

Wei Wang a indiqué que l'IA open source comprend au minimum des modèles, des données, des rapports de publication et du code source, et qu'il n'existe actuellement aucun accord sur le niveau d'ouverture requis pour chacun de ces éléments . Il a observé que de nombreuses entreprises affirment que leurs modèles sont open source à des fins de communication, sans réelle transparence . Il a décrit les efforts de son laboratoire pour élaborer un spectre standard cataloguant le niveau de transparence des modèles, afin que les utilisateurs sachent ce qu'ils peuvent réellement en faire, que ce soit à des fins commerciales, de recherche ou autres .

Wei Wang souligne que, à l'ère des logiciels open source, les contributeurs investissaient un temps considérable sans en tirer de bénéfice commercial, et que ce problème est amplifié à l'ère de l'IA, où celle-ci peut générer du contenu facilement. Il soutient que la mise en place d'un système offrant une contrepartie ou un bénéfice commercial aux contributeurs rendrait les écosystèmes d'IA open source plus durables et dynamiques. Il présente cela comme une opportunité de construire un système nouveau et meilleur.

Wei Wang a noté qu'à l'ère des logiciels open source, de nombreux contributeurs consacraient leur temps à des projets sans en tirer de bénéfice commercial . Il a soutenu qu'à l'ère de l'IA, si un système pouvait être mis en place permettant aux contributeurs open source de recevoir une contrepartie ou un bénéfice commercial, l'écosystème pourrait fonctionner encore mieux, et a présenté cela comme une opportunité de construire un nouveau système, puisque « le monde entier est à reconstruire » .

Wei Wang soutient que l'IA est devenue une nouvelle infrastructure numérique publique, comparable en importance à l'air et à l'eau, et que cela est particulièrement vrai dans le domaine de l'éducation. Les étudiants et les enseignants ne devraient pas avoir à payer lourdement pour des tokens d'IA afin d'apprendre et d'enseigner efficacement. L'open source est présenté comme le meilleur mécanisme pour mettre en œuvre un système économique garantissant un accès équitable et abordable à l'IA à des fins éducatives.

Wei Wang a décrit l'IA comme « une nouvelle infrastructure numérique publique, à l'instar de l'air et de l'eau », notamment dans des domaines publics tels que l'éducation . Il a soutenu que les étudiants et les enseignants ne doivent pas payer beaucoup pour des tokens d'IA et devraient pouvoir accéder librement à l'IA afin d'être plus efficaces dans l'apprentissage et l'enseignement . Il a conclu que l'open source est la meilleure façon de concrétiser cette vision, malgré les nombreux défis que cela implique .

Yue Gao présente l'open source non pas simplement comme un modèle de collaboration technique, mais comme une philosophie de gouvernance aux implications sociétales larges. Elle soutient que les logiciels open source et les données ouvertes constituent l'épine dorsale de l'infrastructure numérique, et que leur synergie avec la collaboration multipartite est essentielle à la réalisation des ODD. Elle met en lumière des domaines d'application concrets tels que la surveillance climatique, la santé publique et le développement des villes intelligentes.

Yue Gao a décrit l'open source comme « n'étant pas simplement un modèle de collaboration technique » mais « une philosophie de gouvernance favorisant le partage mondial des connaissances et la réduction de la fracture numérique » . Elle a cité en exemple Linux, Apache, HyRub et PyTorch pour illustrer le rôle fondamental de l'open source . Elle a également souligné que la réalisation des ODD repose sur une infrastructure numérique ouverte, fiable et collaborative, avec des applications dans la surveillance climatique, l'alerte précoce en santé publique et le développement des villes intelligentes .

Christofer Dutz décrit comment les contributions générées par l'IA, qui se présentaient initialement sous forme de pull requests anodines portant sur la ponctuation, ont évolué en un volume massif de soumissions qui débordent les mainteneurs des grands projets open source. Il met en garde contre le risque d'épuisement des contributeurs principaux de ces projets. Il exprime toutefois sa confiance dans le fait que des outils basés sur l'IA développés au sein de la communauté open source elle-même, tels qu'Apache Magpie, peuvent contribuer à gérer cette charge.

Dutz a décrit l'afflux de pull requests triviales qu'il a observé - portant par exemple sur la présence d'une virgule ou d'un point dans la documentation - qu'il a attribué à des personnes cherchant à se forger une réputation en faisant fusionner des pull requests dans de nombreux projets . Il a noté que de grands projets comme Apache Airflow reçoivent jusqu'à 170 pull requests par jour, chacune nécessitant une révision, un tri et un retour, ce qui crée une pression considérable sur les mainteneurs . Il a mentionné le projet Apache Magpie comme un outil basé sur l'IA conçu pour examiner, trier et fusionner les pull requests afin de réduire cette charge .

Dutz établit une distinction entre les poids ouverts, les modèles ouverts et les données entièrement ouvertes, en se référant au cadre de classification à plusieurs niveaux de la Linux Foundation. Il soutient que le principe de la Apache Software Foundation consistant à publier le code source — afin que deux personnes compilant à partir du même package obtiennent des résultats identiques — ne peut s'appliquer à l'IA, car l'entraînement d'un même modèle sur les mêmes données à des moments différents produit des résultats différents. Ce non-déterminisme remet fondamentalement en question l'éthique open source appliquée à l'IA.

Dutz a mentionné la classification par la Linux Foundation de l'ouverture de l'IA en environ trois ou quatre niveaux : le modèle ouvert (le binaire de l'IA), les poids ouverts (incluant les paramètres et l'infrastructure de compilation), et les données ouvertes (incluant les informations d'entraînement) . Il a mis cela en contraste avec le principe d'Apache consistant à publier le code source plutôt que des binaires, afin que deux personnes compilant à partir du même package source obtiennent le même résultat . Il a soutenu que cette reproductibilité déterministe est impossible dans le cas de l'IA, car même l'exécution du même entraînement sur les mêmes données et la même infrastructure à des moments différents produit des résultats différents .

Dutz soutient que même les entreprises qui souhaiteraient sincèrement publier leurs données d'entraînement en sont souvent légalement empêchées, car ces données incluent des contenus protégés par le droit d'auteur, tels que des livres provenant de bibliothèques. Il utilise l'analogie d'une personne lisant tous les livres d'une bibliothèque et en citant des passages, ce qui est acceptable pour un individu mais devient une violation du droit d'auteur si le contenu est republié à grande échelle. Cela crée une tension structurelle entre le désir de données ouvertes et le droit de la propriété intellectuelle.

Dutz a mentionné des rapports faisant état de Google entraînant ses modèles en intégrant des collections entières de bibliothèques dans le processus d'entraînement . Il a établi une analogie : tout comme un individu pourrait lire tous les livres d'une bibliothèque et en citer des passages sans problème juridique, une entreprise faisant l'équivalent est dans son droit - mais si cette entreprise était tenue de publier toutes les données d'entraînement, elle violerait de nombreux droits d'auteur . Il a conclu que parfois, même si les entreprises souhaitent publier leurs données d'entraînement, cela n'est tout simplement pas possible du point de vue du droit d'auteur .

Dutz soutient que si les modèles de langage sont devenus relativement courants, les modèles de vision soulèvent un ensemble plus complexe de défis juridiques et éthiques. Ceux-ci incluent la question de savoir si une image générée constitue une copie d'une œuvre protégée par le droit d'auteur, ainsi que les risques posés par les deepfakes, notamment l'utilisation non consentie de l'image d'autrui. Il souligne que les garde-fous requis pour les modèles de vision sont nettement plus exigeants que ceux applicables aux modèles de langage.

Dutz a noté que l'entraînement des modèles de vision est plus susceptible d'entrer en conflit avec le droit d'auteur, soulevant la question de la frontière entre une image générée et la copie d'une œuvre protégée . Il a également mis en évidence le problème des deepfakes, en soulignant que si le téléversement de sa propre image à des fins créatives est acceptable, le téléversement de l'image d'une autre personne pose problème, et que détecter cette distinction constitue un défi majeur .

Dutz décrit les modèles du monde — qu'il appelle également modèles physiques — comme l'objectif ultime de l'IA industrielle, capables de prédire le comportement des systèmes à partir des seules spécifications. Il reconnaît toutefois que les données d'entraînement et les ressources de calcul nécessaires à de tels modèles dépassent actuellement les capacités disponibles des centres de données. Il présente les modèles de séries temporelles comme une alternative pratique à court terme, capables d'observer les systèmes existants et de les optimiser au fil du temps sans avoir à modéliser leur physique de zéro.

Dutz a décrit les modèles du monde comme son « graal », expliquant que pour ses travaux en automatisation industrielle avec PLC4X, un modèle physique pourrait prédire et calculer le comportement des systèmes sur la seule base des spécifications des équipements . Il a noté que les données d'entraînement et la capacité de calcul requises pour un tel modèle « dépassent tout simplement la capacité de nos centres de données » . Il a ensuite décrit les modèles de séries temporelles comme un « modèle du monde allégé », citant des outils comme IoTDB en tant qu'exemples prêts à l'emploi permettant d'observer des systèmes existants et d'effectuer une optimisation par prédiction sans nécessiter une modélisation physique complète .

En réponse à une question du public, Dutz reconnaît que les ressources de calcul constituent un obstacle supplémentaire et significatif à la participation à l'IA open source, au-delà de la tension entre modèles ouverts et données fermées. Il explique que l'Apache Software Foundation ne possède ni n'exploite d'infrastructure matérielle significative et qu'elle s'appuie sur des prestataires, ce qui la rend actuellement incapable de fournir des ressources GPU pour l'entraînement de l'IA. Il suggère que des dons substantiels de la part des grandes entreprises d'IA seraient nécessaires pour que cela change.

Dutz a expliqué que l'Apache Software Foundation ne possède ni n'exploite beaucoup de matériel en propre et qu'elle s'appuie sur des prestataires pour ces besoins . Il a déclaré ne pas envisager que l'ASF construise des centres de données remplis de GPU pour l'entraînement de l'IA, et a suggéré que seuls des dons très importants - de l'ordre de plusieurs dizaines à centaines de millions - de la part des grandes entreprises d'IA pourraient rendre cela envisageable .

Dutz soutient que si la vague actuelle de contributions générées par l'IA représente une menace sérieuse pour les mainteneurs de projets open source, les projets qui survivront à cette période en sortiront renforcés. Ayant été examiné par des yeux humains et artificiels, le code open source survivant aura vu ses problèmes identifiés et résolus à une échelle que les logiciels propriétaires ne peuvent égaler. L'ouverture elle-même devient ainsi un avantage concurrentiel à long terme.

Dutz a pris l'exemple de la promotion de l'open source dans le secteur de l'automatisation industrielle, où il se heurte souvent à l'objection que des fournisseurs propriétaires comme Siemens, Schneider et Rockwell disposent de décennies d'expérience et que l'open source expose des failles zero-day . Il a soutenu qu'après avoir survécu au tsunami de l'IA, l'open source peut affirmer que « tant d'yeux humains et tant d'yeux artificiels ont examiné l'ensemble de ce code et que nous avons résolu tous les problèmes majeurs », ce qu'aucun logiciel propriétaire ne peut revendiquer à la même échelle .

Dutz décrit le développement piloté par les spécifications comme une approche dans laquelle les règles et l'architecture d'un projet sont rédigées en langage naturel (par exemple en Markdown) et intégrées au projet, sans que les contributeurs aient à maîtriser un langage de programmation spécifique. Il soutient que l'IA a considérablement amplifié cette approche, permettant aux contributeurs de mettre en œuvre des fonctionnalités complexes dans des langages qu'ils ne connaissent pas, en se contentant de spécifier ce qu'ils souhaitent obtenir. Cela abaisse considérablement le seuil de participation aux projets open source.

Dutz a décrit ses expériences avec le développement piloté par les spécifications il y a plusieurs années, en rédigeant les règles et l'architecture du projet en Markdown ou en ASCII et en les intégrant au projet . Il a décrit une expérience concrète dans laquelle il a rédigé une spécification pour un pilote industriel en Java, puis demandé à Claude (un assistant IA) de l'implémenter en Rust - un langage qu'il ne connaît pas - et l'IA a produit un pilote qui communiquait parfaitement . Il a soutenu que la capacité à formuler une intention sans se préoccuper de la syntaxe ouvrira de nombreuses nouvelles portes à l'avenir .

Dutz avertit que, à mesure que le code généré par l'IA intègre les dépôts open source et est ensuite utilisé pour entraîner de futurs modèles d'IA, il existe un risque de dégradation récursive de la qualité — une boucle de rétroaction dans laquelle l'IA s'entraîne sur ses propres productions, dégradant progressivement la qualité. Il note que cette préoccupation constitue une motivation importante pour les grandes entreprises d'IA qui font des dons aux fondations open source, craignant que leurs modèles ne commencent à s'entraîner sur du code généré par l'IA plutôt que sur du code produit par des humains.

Dutz a reconnu que si l'IA aide les contributeurs ayant des compétences plus limitées en génie logiciel à participer à des projets open source tels que PLC4X , la généralisation de cette pratique implique que de grands volumes de code généré par l'IA intégreront les dépôts open source et alimenteront en retour les données d'entraînement des modèles d'IA, ce qu'il a qualifié d'« empoisonnement récursif des jeux de données d'IA, que tout le monde redoute » . Il a suggéré que les dons des grandes entreprises d'IA aux fondations open source sont en partie motivés par la crainte que leurs modèles ne se mettent à « se nourrir indéfiniment de leurs propres productions » .

Jianmin Wang reconnaît la tension fondamentale entre les modèles ouverts et les données fermées, en s'appuyant sur son expérience dans le développement d'IoTDB pour des applications industrielles. Il soutient que les entreprises considèrent leurs données comme une propriété privée et ne les partageront pas ouvertement, mais que le code d'entraînement open source peut leur permettre d'entraîner des modèles dans leurs propres environnements privés. À titre de compromis, il propose que des jeux de données synthétiques ou simulés générés par des modèles de fondation sectoriels puissent être partagés publiquement.

Jianmin Wang a décrit son expérience dans le développement d'IoTDB, une base de données destinée aux applications industrielles, en soulignant que les entreprises industrielles considèrent leurs données comme des actifs et des propriétés privés . Il a proposé que le code d'entraînement open source puisse être téléchargé par les entreprises pour entraîner des modèles dans leurs environnements privés, permettant ainsi aux modèles d'intégrer les caractéristiques de leurs jeux de données privés . Il a également suggéré que des outils open source pourraient générer des jeux de données artificiels/simulés susceptibles d'être rendus publics et partagés, en utilisant potentiellement des modèles de fondation sectoriels pour produire des données de simulation .

Jianmin Wang soutient que la focalisation sur les grands modèles de langage occulte la grande diversité des types de données générées dans les environnements industriels et d'entreprise, notamment les données relationnelles issues des systèmes ERP et SCM, ainsi que les données de séries temporelles provenant des machines. Il perçoit une opportunité de combiner ces types de données pour entraîner des modèles de fondation multimodaux et spécifiques à un domaine, adaptés aux besoins des entreprises. Il identifie cela comme une piste distincte de développement open source, parallèlement aux modèles de langage à usage général.

Jianmin Wang a souligné que les industries et les entreprises génèrent de grands volumes de données relationnelles issues des systèmes ERP et SCM, ainsi que des données de séries temporelles provenant des machines . Il a fait valoir que l'attention ne devrait pas se limiter aux grands modèles de langage, car il existe des opportunités de combiner plusieurs types de données pour entraîner des grands modèles de langage multi-entreprises et des grands modèles de séries temporelles adaptés à des domaines métiers spécifiques .

Jianmin Wang soutient que si les modèles du monde et l'IA physique sont très prometteurs, les progrès sont freinés par l'absence de formats de données standardisés et interopérables pour les données relatives à l'IA physique et incarnée. Il s'appuie sur ses propres travaux consistant à fournir un format de fichier de séries temporelles (fichier TS) à Hugging Face comme exemple positif, et appelle à des efforts de standardisation similaires pour les collections de données physiques. Il présente cela comme une opportunité pour la communauté de l'IA au service du bien commun de contribuer.

Jianmin Wang a noté que, contrairement aux modèles de langage qui bénéficient de l'abondance des données disponibles sur Internet, les modèles du monde et l'IA physique souffrent d'un manque de données, notamment pour l'espace et le temps . Il a décrit la contribution de son équipe consistant à fournir un format de fichier de séries temporelles (fichier TS) à Hugging Face en tant que format de données pour les séries temporelles . Il a soutenu qu'il n'existe actuellement pas de normes équivalentes en matière de format de données pour les collections de données physiques, et a appelé au développement d'un format de jeu de données général pour l'IA physique et les modèles du monde, dans le cadre d'une initiative « IA au service du bien commun » .

Jianmin Wang, en réponse à une question du public, présente l'accès aux ressources informatiques comme une dimension distincte et importante de l'ouverture à l'ère de l'IA, indépendante du débat entre modèles ouverts et données fermées. Il suggère que la communauté open source doit réfléchir à la manière de remédier à l'inégalité d'accès à la puissance de calcul nécessaire à l'entraînement de l'IA, et pas seulement à l'accès au code et aux données.

Jianmin Wang a caractérisé la question du public comme soulevant « une autre dimension pour l'open source - l'open source pour les ressources en puissance de calcul » , présentant l'accès au calcul comme un aspect distinct et important de l'ouverture avec lequel la communauté doit se confronter.

Jianmin Wang soutient que le génie logiciel a connu une mise à niveau fondamentale vers ce qu'il appelle la « version 3.0 », caractérisée par trois paradigmes distincts : les langages de programmation de haut niveau traditionnels, les modèles de fondation en tant que composantes intégrales des systèmes logiciels, et la sollicitation en langage naturel. Il affirme que la production logicielle future sera une combinaison de ces trois formats plutôt que le remplacement de l'un par l'autre.

Jianmin Wang a fait référence à une affirmation formulée l'année précédente selon laquelle le génie logiciel avait été mis à niveau vers la « version 3.0 », comprenant : les langages de programmation de haut niveau comme premier paradigme, les modèles de fondation en tant que composante des logiciels et des systèmes logiciels comme deuxième paradigme, et la sollicitation en langage naturel comme troisième . Il a conclu que les logiciels futurs seront une combinaison des trois formats à mesure que de nouveaux modes de production émergent .

Un membre du public soulève le fait que la tension dans l'IA open source ne porte pas uniquement sur le fossé entre les modèles ouverts et les jeux de données fermés, mais englobe également l'obstacle majeur que représente l'accès aux ressources informatiques. Il s'interroge sur la possibilité pour des fondations de logiciels open source telles que l'Apache Software Foundation d'intervenir pour fournir une infrastructure informatique, notamment des GPU, aux contributeurs qui n'y ont pas accès.

Le membre du public a explicitement déclaré que « le conflit n'existe pas uniquement entre le modèle ouvert et le jeu de données fermé, mais concerne également les ressources informatiques et le modèle » . Il a ensuite adressé une question à Chris pour savoir si l'Apache Software Foundation résoudrait ce problème ou fournirait des ressources informatiques aux contributeurs .

Un deuxième membre du public, représentant l'Institut chinois pour la stratégie de développement de l'IA et la Fédération mondiale des organisations d'ingénieurs, pose une question plus large sur les tendances techniques à long terme et la vision d'avenir des logiciels open source. Il reconnaît la façon dont Chris a décrit la vague actuelle de l'IA comme un « tsunami » et demande quelles sont les perspectives pour l'open source une fois ce défi surmonté.

Le membre du public a demandé à tous les panélistes leur point de vue sur les tendances techniques des logiciels open source, en faisant référence à la métaphore du tsunami utilisée par Chris, et a posé la question suivante : « quelle est votre vision si vous survivez au tsunami, quelles sont les nouvelles perspectives ? » .