Science in the Age of AI: Knowledge, Data, and Trust

Alistair Nolan soutient que l'IA est utilisée à chaque étape du processus scientifique et dans tous les domaines de la science, fonctionnant comme un formidable complément et amplificateur de l'intelligence humaine. Il se montre globalement optimiste quant aux implications à long terme de l'IA pour la science, tout en reconnaissant qu'elle fait l'objet d'une hyperbole considérable et qu'elle engendrera des tensions institutionnelles.

Il a noté que l'IA est utilisée à chaque étape du processus scientifique et dans tous les domaines de la science, la qualifiant de formidable complément et amplificateur de l'intelligence humaine , tout en avertissant qu'il existe beaucoup d'hyperbole et que l'IA créera une série de tensions institutionnelles .

Nolan soutient que le principal défi dans des domaines tels que la science des matériaux n'est plus de faire des découvertes, mais plutôt de les traduire de l'échelle laboratoire à la production industrielle. Il suggère que l'IA contribuera à accélérer la découverte, faisant du passage à l'échelle et de l'application des connaissances le nouveau goulot d'étranglement.

Il a pris l'exemple de la science des matériaux et de sa contribution à la résolution des défis climatiques, tels que la technologie des batteries et les bâtiments à auto-refroidissement, en notant que les recherches menées par son équipe ont révélé que la découverte n'est pas le principal goulot d'étranglement - c'est plutôt la traduction des résultats de laboratoire en production industrielle de matériaux à l'échelle de milliers ou de millions de tonnes .

Nolan soutient que l'IA changera qui produit de nouvelles connaissances et à quel moment, en libérant les jeunes chercheurs prometteurs des tâches cognitives de bas niveau qui prennent beaucoup de temps. Cela leur permettra d'atteindre la frontière de leurs disciplines plus tôt et de s'attaquer à des problèmes véritablement nouveaux à un âge plus jeune.

Il a cité les propos du mathématicien lauréat de la médaille Fields, Terence Tao, qui a soutenu que les jeunes mathématiciens prometteurs pourront désormais atteindre la frontière plus tôt, car une moindre partie de leur capacité cognitive sera consacrée à des tâches de bas niveau telles que la mémorisation de vastes corpus de littérature et le développement d'aptitudes pour les longs calculs et démonstrations .

Nolan soutient que les grandes entreprises technologiques dépensent plusieurs fois plus que les universités publiques en R&D sur l'IA, attirant les talents et collaborant principalement avec des institutions de recherche d'élite aux États-Unis. Cette collaboration restreint le programme de recherche aux approches d'IA à haute capacité de calcul et à grandes données qui servent les intérêts propres de ces entreprises, au détriment de l'intérêt public plus large.

Il a fait référence à une publication de l'OCDE de 2023 montrant que les grandes entreprises technologiques tendent à collaborer avec des institutions de recherche d'élite américaines dont les profils de recherche sont bien plus étroits que ceux du système universitaire dans son ensemble, se concentrant sur des types d'IA qui reposent sur une haute capacité de calcul et de grands volumes de données - les actifs mêmes détenus par ces entreprises . Il a suggéré qu'un investissement accru dans des modèles plus petits, moins gourmands en énergie et en données, serait bénéfique, mais pourrait nécessiter une forme d'intervention .

Dziubek cite AlphaFold comme exemple emblématique du potentiel transformateur de l'IA en science, soulignant que ce système a valu à ses créateurs le prix Nobel de chimie en 2024 en prédisant les structures tridimensionnelles des protéines. Il insiste toutefois sur le fait que les données d'entraînement qui sous-tendent ces systèmes sont des modèles reconstruits à partir de données expérimentales brutes, lesquelles comportent toutes des limites et des incertitudes inhérentes.

Il a expliqué qu'AlphaFold utilise des algorithmes d'apprentissage profond entraînés sur des structures protéiques déterminées expérimentalement et stockées dans la Protein Data Bank, qui contient plus de deux cent cinquante mille structures déterminées par diffraction aux rayons X, cryo-EM ou résonance magnétique nucléaire . Il a précisé que ces structures sont des modèles reconstruits à partir de données brutes et n'ont jamais été directement observées, ce qui signifie qu'elles portent tous les problèmes inhérents aux modèles .

Dziubek soutient que la vérité terrain utilisée pour valider les modèles d'IA n'est pas statique, mais évolue au fur et à mesure que de nouveaux jeux de données émergent chaque jour, ce qui signifie que ce qui était considéré comme exact hier ne l'est peut-être plus aujourd'hui. Cela crée un défi fondamental pour garantir la fiabilité des résultats scientifiques générés par l'IA dans la durée.

Il a déclaré que de nouveaux jeux de données sont produits chaque jour et que la validation est confrontée à quelque chose de différent, de sorte que la vérité terrain d'hier n'est plus celle d'aujourd'hui . Il a décrit les travaux actuels du CODATA sur la cartographie des différentes mesures de qualité des données entre les disciplines, nécessitant un accord sur les mesures d'incertitude, de précision, de traçabilité et de provenance .

Dziubek s'appuie sur l'aphorisme attribué au statisticien George Box — selon lequel tous les modèles sont faux, mais certains sont utiles — pour soutenir que les données scientifiques utilisées pour entraîner les systèmes d'IA sont elles-mêmes des modèles comportant des défauts inhérents. Il affirme que la communauté scientifique doit activement chercher à éliminer les modèles biaisés ou de mauvaise qualité et exiger une transparence totale sur la qualité des données de la part de ceux qui déploient des méthodes d'IA.

Il a cité l'aphorisme attribué au statisticien britannique George Box selon lequel « tous les modèles sont faux, mais certains sont utiles » , et a expliqué que la communauté scientifique s'efforce d'éliminer les modèles biaisés, de mauvaise qualité ou contextuellement inappropriés . Il a soutenu que si les personnes utilisant des méthodes d'IA ne fournissent pas d'informations sur l'incertitude, la précision, la traçabilité et la provenance, c'est un signal d'alarme majeur .

Dziubek avertit que l'IA va générer massivement des données, créant un goulot d'étranglement à partir duquel l'humanité ne sera plus en mesure de comprendre ni de valider ce qui est produit. Cela soulève des questions urgentes sur la qualité et l'utilité des données, ainsi que sur la question de savoir si toutes les données devraient être ouvertes et équitables.

Il a déclaré que l'IA va créer massivement des données et qu'il existe un risque de goulot d'étranglement à partir duquel nous ne serons plus en mesure de comprendre les données, décrivant le déluge de données comme un problème majeur dans le présent et dans un avenir proche .

Dziubek soutient que quelle que soit la prédiction ou la génération de l'IA — qu'il s'agisse d'un nouveau médicament ou d'un nouveau matériau — le test ultime en science expérimentale demeure toujours l'expérience physique ou l'étude clinique. Cela ancre les connaissances générées par l'IA dans la réalité empirique et constitue le contrôle définitif de leur validité.

Il a affirmé qu'en science expérimentale, le test final est toujours l'expérience elle-même ; ainsi, si l'IA fournit une réponse sur le médicament ou le matériau en cours de conception, une étude clinique ou une expérience vient ensuite confirmer ou réfuter cette réponse .

Dziubek soutient que lorsque les données ne sont pas entièrement ouvertes, il convient de se demander si l'ensemble de données est représentatif et si les exclusions introduisent un biais. Il affirme que si des données restreintes engendrent un biais dans les ensembles d'entraînement de l'IA, les conséquences peuvent être critiques, notamment dans des domaines à forts enjeux tels que la découverte de médicaments.

Il a soutenu que la principale menace liée aux données non entièrement ouvertes est le risque de biais, et que si les données exclues rendent l'ensemble de données biaisé, cela peut s'avérer véritablement crucial, citant des exemples tirés des données linguistiques, des données STEM et des données de découverte de médicaments, où la contribution de différents groupes est essentielle .

La collègue de Dziubek, la Dr. Vanessa McBride, a structuré la discussion du panel autour de trois dimensions interconnectées que les organisateurs ont identifiées comme centrales au thème de l'IA et de la science. Ces dimensions — la génération des connaissances, les fondements en matière de données, ainsi que la confiance et l'intégrité — ont constitué le cadre organisateur de la session.

La Dr. McBride a présenté les trois dimensions comme suit : l'IA et la génération des connaissances, les données scientifiques et leur caractère fondamental pour l'IA, ainsi que les enjeux en aval liés à la fiabilité, à la confiance et à l'intégrité de la recherche .

Thiga avertit que si l'IA offre d'importantes opportunités de développement accéléré dans le Sud global, elle produit simultanément des chercheurs dépourvus de compétences empiriques fondamentales. Ces scientifiques peuvent générer des publications avec l'aide de l'IA, mais sont incapables de mener de véritables expériences, de lire des articles de manière critique, de collecter des données ou d'évaluer des résultats de recherche de façon autonome.

Il a décrit des chercheurs du Sud global incapables de lire un article, de mener une revue de littérature, de collecter des données, d'analyser des données ou d'évaluer de manière critique les résultats de leurs recherches . Il a noté que cela est aggravé par des responsables académiques et de recherche qui ne maîtrisent pas l'IA et ont tendance à la diaboliser, la reléguant ainsi dans l'ombre .

Thiga soutient que l'IA oblige à une remise en question fondamentale de la raison d'être des universités, du sens de la recherche et des compétences nécessaires à l'ère de l'IA. Il suggère que les institutions devraient privilégier de meilleures capacités de calcul plutôt que de meilleurs campus et se positionner comme gardiennes éthiques enseignant la bonne science et le processus scientifique.

Il a soutenu que les institutions doivent repenser la finalité d'une université, ce qui se passe dans les amphithéâtres et ce que signifie la recherche lorsque l'IA peut effectuer des revues de littérature et des analyses . Il a suggéré que les institutions devraient se concentrer sur l'amélioration de leurs capacités de calcul plutôt que de leurs campus, et devraient enseigner l'éthique et la bonne science, en soulignant qu'il y a un être humain au bout de chaque découverte .

Thiga soutient que la véritable valeur de la science ne réside ni dans la question ni dans la réponse, mais dans la méthode d'investigation elle-même — le processus d'observation, de formulation d'hypothèses, d'expérimentation, de collecte de données et de découverte. Il avertit que l'IA risque de voler cette beauté à la science en court-circuitant ce processus.

Il a décrit la méthode scientifique comme englobant l'investigation, l'observation, l'hypothèse, l'expérimentation, la collecte de données et la découverte, et a soutenu que c'est ce que l'IA est sur le point de voler à la science - la beauté de la démarche investigatrice . Il a présenté cela comme le cœur de ce que les scientifiques perdent à l'ère de l'IA .

Thiga soutient que le système scientifique n'a jamais reposé sur des scientifiques infaillibles, mais plutôt sur un système de contrôles et d'équilibres, et que l'arrivée de l'IA en tant que nouvel acteur exige de repenser le fonctionnement de ces mécanismes. Cette réflexion doit couvrir l'éthique, les données, les capacités de calcul et le déséquilibre de pouvoir entre l'industrie et le monde académique.

Il a déclaré que la science n'a jamais reposé sur des scientifiques infaillibles incapables de commettre des erreurs, mais sur des mécanismes de contrôle et d'équilibre, et que le défi consiste désormais à repenser le fonctionnement de la régulation avec l'IA comme nouvel acteur, en couvrant l'éthique, les données, les capacités de calcul et le déséquilibre de pouvoir entre l'industrie et le monde académique .

Thiga soutient que seuls les gouvernements ont la capacité d'égaler les niveaux d'investissement des grandes entreprises technologiques dans le domaine de l'IA, et que la souveraineté nationale et la fierté nationale pourraient constituer la force motrice de tels investissements. Il cite l'Inde comme modèle du type d'investissement public nécessaire pour contrebalancer la domination de l'industrie.

Il a déclaré que la responsabilité incombe en premier lieu aux gouvernements, car seuls ces derniers peuvent véritablement rivaliser avec ce que font certains acteurs industriels, et il a cité l'Inde comme un cas qu'il trouve fascinant pour le type d'investissement qu'elle réalise afin de se mesurer à l'industrie, présentant cela comme une question de fierté nationale et de souveraineté .

Thiga reconnaît que l'IA offre au Sud global des opportunités de faire des bonds en avant dans des domaines tels que la simulation en laboratoire et l'analyse de données, mais avertit que le manque d'infrastructure de données, de capacité de calcul et de capacité de développement natif de l'IA expose la région au risque d'être reléguée encore plus loin. La prédominance des données occidentales dans les modèles d'IA aggrave ce désavantage.

Il a noté que les modèles d'IA sont principalement alimentés par des données occidentales, que les systèmes de données dans le Sud global sont embryonnaires et pas encore robustes, et que la région manque d'infrastructure native pour le calcul, qui doit encore être acheté . Il a décrit l'IA comme présentant à la fois des opportunités de bonds technologiques et le risque d'être vraiment laissée très loin derrière sans la capacité de développer des modèles locaux .

McBride souligne une lacune importante dans les stratégies nationales d'IA : bien que de nombreux pays élaborent de telles stratégies, presque aucune d'entre elles ne se concentre sur le secteur scientifique lui-même. Ces stratégies tendent à aborder la manière dont l'IA peut être appliquée dans des secteurs tels que la santé et l'agriculture, mais négligent de prendre en compte la façon dont l'IA transforme la science qui produira, en définitive, de nouvelles technologies et applications.

Elle a fait référence à un rapport du Conseil international des sciences publié plus tôt dans l'année, fondé sur une synthèse d'études de cas menées dans 26 pays, qui a révélé que, bien que de nombreuses stratégies nationales d'IA soient en cours d'élaboration, presque aucune d'entre elles ne porte la moindre attention au secteur scientifique lui-même . Elle a noté que ces stratégies se concentrent sur les applications dans les domaines de la santé et de l'agriculture, sans examiner la manière dont l'IA transforme la science qui donnera naissance à de nouvelles technologies .

McBride a structuré la table ronde autour de trois dimensions interconnectées que les organisateurs ont identifiées comme centrales au thème de l'IA et de la science. Ces dimensions — la production de connaissances, les fondements en matière de données, ainsi que la confiance et l'intégrité — ont constitué le cadre organisateur de la session.

Elle a présenté les trois dimensions comme suit : l'IA et la production de connaissances, les données scientifiques et leur caractère fondamental pour l'IA, ainsi que les enjeux en aval liés à la fiabilité, à la confiance et à l'intégrité de la recherche .

Marivate s'appuie sur son expérience directe en tant que responsable de zone et responsable de zone senior pour de grandes conférences en IA afin de décrire une crise d'intégrité dans la publication scientifique au sein même de la communauté de recherche en IA. Le volume de soumissions a explosé, et de sérieuses questions se posent quant au nombre d'articles représentant un véritable travail scientifique par rapport aux contenus générés par l'IA sans objectif scientifique réel.

Il a décrit comment les cycles de soumission dans le processus d'évaluation continue de l'Association for Computational Linguistics sont passés à 13 000 articles par cycle, contre 2 000 à 3 000 il y a quelques années . Il a noté que les évaluateurs vérifient désormais si les références citées dans les articles sont réelles, et que NeurIPS attire désormais entre 20 000 et 30 000 participants . Il s'est interrogé sur le nombre de soumissions représentant une véritable expérimentation scientifique par rapport à un contenu purement généré par l'IA .

Marivate soutient que le traitement automatique du langage naturel et l'IA offrent d'importantes opportunités pour faire progresser la connaissance des langues à faibles ressources, permettant potentiellement de découvrir de nouvelles règles et connaissances linguistiques qui n'avaient pas été anticipées. Il souligne toutefois que la manière dont les scientifiques utilisent l'IA comme outil — plutôt que de la laisser penser à leur place — est déterminante pour concrétiser ces bénéfices.

Il a noté qu'une grande partie du travail de construction de modèles de langue repose encore sur l'anglais ou des langues à très hautes ressources, et qu'il existe une réelle opportunité dans la modélisation des langues à faibles ressources, permettant potentiellement de découvrir de nouvelles règles concernant différents systèmes d'écriture qui n'avaient pas été anticipées . Il a également réfléchi à titre personnel sur l'importance de prendre le temps de la réflexion et d'utiliser des carnets de notes plutôt que de se tourner immédiatement vers l'IA, afin que celle-ci soit utilisée comme un outil et non comme un substitut à la pensée .

Marivate soutient que les licences de données ouvertes standard telles que CC0 et CCBY permettent à des acteurs importants et bien dotés en ressources — notamment les grandes entreprises technologiques — d'extraire de la valeur des données générées par les communautés sans réinvestir dans celles-ci. Il établit un parallèle avec l'expérience de la communauté des logiciels libres avec les licences copyleft et affirme que des modèles de licence équitables sont nécessaires pour remédier à ce déséquilibre.

Il a noté que Creative Commons procède actuellement à une révision en raison du problème de l'écoblanchiment de l'ouverture, où les acteurs disposant des capacités de calcul et d'ingénierie accaparent la majeure partie des bénéfices des données sous licence ouverte sans réinvestir dans les communautés qui les ont créées . Il a établi un parallèle avec le mouvement copyleft dans le domaine des logiciels libres .

Marivate décrit deux nouveaux cadres de licence — la licence ESETU développée par sa startup Lilapa AI et la licence Noodle (No Letter or Bordeaux Open Data Licence) développée à l'Université de Pretoria — qui tentent de remédier à l'iniquité des licences ouvertes standard en opérant une discrimination géographique ou identitaire. Ces licences visent à garantir que les communautés du Sud global conservent une partie des bénéfices issus des données qu'elles ont créées.

Il a décrit la licence ESETU, qui permet à ceux qui s'identifient comme Africains d'utiliser les données à des fins commerciales ou non commerciales librement, tout en exigeant de ceux qui ne s'identifient pas comme Africains de les utiliser uniquement à des fins non commerciales ou de négocier un partage des avantages pour un usage commercial . Il a également décrit la licence Noodle, qui opère une discrimination selon que l'utilisateur provient d'un pays développé ou en développement et exige un partage des avantages de la part des utilisateurs des pays développés .

Marivate soutient que malgré les exigences en matière de science ouverte imposées par les gouvernements et les institutions, les données sont déjà dissimulées parce que les communautés craignent d'être exploitées par des acteurs bien dotés en ressources. Il affirme que la réponse appropriée n'est pas d'abandonner l'ouverture, mais de réformer le cadre de licences afin qu'il protège véritablement les communautés à l'origine des données et leur profite.

Il a fait remarquer que même avec les exigences de science ouverte, les données sont cachées, et que les gens trouvent des moyens de les dissimuler encore davantage . Il a cité la pratique courante des articles indiquant que les « données sont disponibles sur demande », sans que cette promesse soit rarement tenue . Il a également mentionné les retours du Lacuna Fund, où des communautés ont signalé que les exigences de données ouvertes avaient conduit de grandes entreprises technologiques à s'approprier les données et à publier des mises à jour sans reconnaissance ni partage des bénéfices avec les communautés d'origine . Il a conclu que la solution consiste à réformer le cadre de licences, et non à abandonner l'ouverture .

Marivate soutient que le modèle financier des grandes entreprises d'IA, qui dépensent bien plus qu'elles ne gagnent en misant sur la promesse de construire une « machine universelle », n'est pas un modèle que les nations — en particulier celles du Sud global — ont besoin de suivre. Des modèles plus petits et spécialisés peuvent être très efficaces et constituent une alternative viable pour les pays souhaitant développer des capacités en IA sans engager des dépenses insoutenables.

Il a soutenu que les nations n'ont pas besoin de construire de grands modèles d'IA nécessitant d'énormes quantités de données et de puissance de calcul simplement pour démontrer leurs capacités, et que les petits modèles de langage ou les modèles spécialisés - même de quelques mégaoctets - peuvent rivaliser efficacement pour des tâches scientifiques spécifiques . Il a décrit la logique derrière ces dépenses massives comme étant motivée par la promesse d'une « machine universelle » qui résoudra tous les problèmes de l'humanité, ce qu'il a qualifié de faux .

Marivate avertit que la bulle de l'IA risque d'éclater — ou est peut-être déjà en train d'éclater discrètement — et que l'humanité, en particulier le Sud global, doit développer de véritables capacités scientifiques et techniques pour survivre au-delà de cette période. La dépendance à l'égard de grands systèmes d'IA propriétaires rend les communautés vulnérables lorsque ces systèmes tombent en panne ou deviennent inaccessibles.

Il a déclaré que la bulle allait éclater ou serait dissimulée quelque part alors qu'elle a en réalité déjà éclaté, et que l'humanité doit survivre au-delà de cela . Il a soutenu que cela implique de continuer à mener des travaux de recherche fondamentale à fort impact et de développer de véritables capacités, plutôt que de dépendre de grands systèmes propriétaires .

Mercier soutient que l'IA ne se contente pas d'être appliquée à des problèmes spécifiques au sein des disciplines, mais qu'elle transforme fondamentalement la pratique même de la science et la quête du savoir. Elle illustre cela par la possibilité frappante que l'IA en vienne à comprendre le cerveau même lorsque les humains n'y parviennent pas, soulevant de profondes questions sur l'interprétabilité et sur l'acceptabilité de résultats scientifiques qui ne font pas progresser la compréhension humaine.

Elle a décrit un atelier d'anticipation sur l'amélioration cognitive au cours duquel la conclusion a été tirée qu'en combinant les interfaces cerveau-ordinateur avec l'IA, celle-ci pourrait en venir à comprendre le cerveau même si les humains n'y parviennent pas . Elle a noté que cela soulève la question de savoir si nous sommes à l'aise avec le fait que l'IA obtienne des résultats scientifiques - comme le traitement de maladies neurologiques - sans que les humains comprennent comment elle y parvient .

Mercier souligne la découverte de médicaments comme l'un des domaines où l'IA a le plus grand impact et où l'automatisation de l'ensemble du processus est la plus bienvenue. Elle note que dans un horizon de 25 ans, l'exploration par l'IA de données cliniques et la synthèse de composés chimiques pourraient réduire les délais de découverte de médicaments de plusieurs années à quelques jours.

Elle a cité une anticipation formulée par l'un des comités de son organisation selon laquelle, dans un horizon de 25 ans, le délai de découverte de médicaments pourrait être réduit de plusieurs années à quelques jours grâce à l'exploration par l'IA de données cliniques et à la synthèse de composés chimiques . Elle a noté qu'il s'agit d'un domaine où l'automatisation serait très bien accueillie, contrairement à d'autres aspects de la science .

Mercier propose de recadrer la relation entre souveraineté des données et science ouverte, en soutenant que les deux ne sont pas nécessairement opposées. Elle avance que les efforts en matière de souveraineté des données pourraient en réalité faire partie de la solution pour rendre les données ouvertes — non pas universellement, mais localement, aux réseaux et aux communautés auxquels elles devraient être accessibles.

Elle a posé la question de savoir si la souveraineté des données constitue en réalité une partie de la solution pour rendre les données ouvertes aux réseaux locaux où elles devraient l'être, plutôt que de s'opposer à la science ouverte . Elle a présenté cela comme sa compréhension de la réponse de Marivate concernant les licences équitables .

Un membre du public représentant la Fédération internationale des associations de bibliothécaires et des bibliothèques soutient que l'élaboration de codes de conduite et de protocoles spécifiques à chaque discipline est précieuse, car elle démontre que la communauté scientifique peut se réguler elle-même d'une manière conforme à ses propres valeurs. Cela est préférable à une réglementation gouvernementale qui pourrait être mal conçue, réglementant la science de manière excessive ou insuffisante par inadvertance.

Le membre du public a souligné le risque que les stratégies nationales en matière d'IA réglementent la science par inadvertance - soit en l'englobant dans un ensemble plus large, soit en adoptant une approche excessivement prudente - et a soutenu que l'élaboration de codes de conduite sur une base disciplinaire démontrerait la capacité d'autorégulation de la communauté . Il a demandé ce qui semble fonctionner et quelles opportunités existent pour accélérer l'élaboration de protocoles et d'éthiques inclusifs et actualisables .

Castle cadre la dimension des données dans la discussion en soulignant que la science est fondamentalement un bien public dont les bénéfices devraient être universellement accessibles, mais que la centralité des données pour l'IA crée des tensions entre la garantie d'un accès ouvert et la protection de la souveraineté des données. Il identifie cela comme un défi fondamental nécessitant un équilibre délicat.

Il a posé la question de ce qui est en jeu lorsqu'on envisage la science comme un bien public et un générateur de connaissances dont tous peuvent bénéficier, notant qu'au cœur de l'IA se trouvent les données, et demandant comment se protéger contre un accès injuste ou injustifié par rapport à une souveraineté des données et une protection des données trop restrictives .

Castle soulève la question provocatrice de savoir si l'IA pourrait générer des connaissances scientifiques de manière autonome, ou du moins dans un environnement supervisé ou semi-supervisé, invitant les panélistes à identifier les domaines où cela se produit déjà ou est susceptible de se produire. Cela positionne l'IA non pas simplement comme un outil au service des scientifiques, mais comme un contributeur potentiellement autonome à la production de connaissances.

Il a demandé au panel quels domaines, selon eux, l'IA pourrait contribuer à la génération de connaissances scientifiques, utilisant le mot « indépendamment » de manière provocatrice, tout en laissant ouverte la possibilité d'environnements supervisés ou semi-supervisés .

Castle ouvre la discussion de fond en orientant l'attention du panel sur les implications à long terme de la pénétration de l'IA dans le processus de recherche pour la manière dont les connaissances scientifiques sont produites. Il présente cela comme une question nécessitant l'apport des multiples perspectives représentées au sein du panel.

Il a demandé au panel de commenter les implications à long terme pour la production de connaissances scientifiques à mesure que l'IA continue de pénétrer divers aspects du processus de recherche .