WSIS Action Line C10 Ethical dimensions of the Information Society

Feinholz soutient que l'éthique doit guider la technologie dès les premières étapes de conception jusqu'au déploiement et à la réglementation, et non être ajoutée en fin de parcours. Elle ancre l'éthique dans les droits de l'homme, les libertés fondamentales et une réflexion sociétale partagée sur la finalité des technologies et le type de société qu'elles doivent contribuer à construire.

Elle affirme que l'UNESCO souhaite que l'éthique soit « au cœur du développement de chaque technologie » et souligne que les droits de l'homme, les libertés fondamentales et la discussion collective sur la société souhaitée doivent demeurer centraux . Elle rappelle également la conclusion antérieure du SMSI selon laquelle les principes éthiques doivent guider l'ensemble du cycle de vie des technologies, de la conception et du développement jusqu'au déploiement et à la réglementation, et réitère plus loin que l'éthique ne peut être une réflexion de dernière minute, mais doit couvrir l'intégralité du cycle de vie .

Feinholz présente l'éthique comme un exercice collectif rigoureux plutôt qu'un échange informel d'opinions. Elle affirme que l'évaluation éthique doit systématiquement se demander qui a besoin d'une technologie, quel problème elle résout, qui en bénéficie, qui en est affecté, et inclure toutes les voix pertinentes selon une méthodologie claire.

Elle affirme que l'éthique est une « réflexion collective » sur la question de savoir qui décide de ce que la société attend des technologies d'IA et quantiques, et pose les questions suivantes : qui a besoin d'une technologie, pourquoi elle est développée, quel problème elle résout et qui elle affecte ou dont elle bénéficie . Elle ajoute que cette décision ne peut être prise par un seul individu ou un seul secteur et nécessite que toutes les voix concernées et bénéficiaires soient représentées autour de la table, selon une méthodologie spécifique fondée sur des valeurs et des arguments plutôt que sur une conversation informelle .

Feinholz met en garde contre l'utilisation abusive du terme éthique comme étiquette superficielle de conformité ou d'exercice de liste de contrôle. Elle insiste sur le fait que la véritable éthique porte sur la motivation, la vision et le jugement réflexif concernant les valeurs et les objectifs sociaux, et non sur une simple liste de principes.

Elle affirme que le mot éthique a été « instrumentalisé » et transformé en exercice de conformité superficielle où les parties prenantes se déclarent éthiques en accomplissant simplement quelques actions . Elle explique ensuite que l'éthique concerne la motivation, la vision, la réflexion, la philosophie et la délibération collective, et que les principes ne constituent qu'une partie de l'éthique et non sa totalité .

Feinholz soutient que l'approche de l'UNESCO est à la fois opérationnelle et normative. Elle indique que les recommandations couvrent explicitement l'ensemble du cycle de vie et s'appuient sur des outils de mise en œuvre concrets, notamment des évaluations de préparation destinées aux États membres.

En réponse à la question sur l'éthique dès la conception, elle affirme que la perspective de l'UNESCO est « exactement à l'opposé » d'une éthique ajoutée comme une couche en fin de processus, et explique que la Recommandation sur l'éthique de l'intelligence artificielle couvre l'ensemble du cycle de vie et exige que des questions éthiques soient posées à chaque étape . Elle cite également la méthodologie d'évaluation de la préparation de l'UNESCO, la décrivant comme un outil complexe et complet permettant aux pays de diagnostiquer leur degré de préparation au déploiement de l'IA tout en intégrant des questions éthiques tout au long du processus .

Feinholz soutient que la gouvernance des nouvelles technologies devrait s'appuyer sur les travaux institutionnels existants plutôt que de repartir de zéro à chaque fois. Elle présente les recommandations, comités consultatifs et rapports de l'UNESCO dans les domaines de l'IA, des neurotechnologies, de la bioéthique, de l'informatique quantique, de la biologie synthétique et de l'espace extra-atmosphérique comme la preuve d'une continuité susceptible d'éclairer les domaines futurs.

Elle présente les travaux de l'UNESCO en mentionnant sa recommandation sur l'éthique de l'IA, la recommandation nouvellement adoptée sur les neurotechnologies, ainsi que les rôles du Comité international de bioéthique et du COMEST dans la production de rapports sur l'éthique des sciences et des technologies . Elle mentionne spécifiquement des rapports sur l'éthique de l'informatique quantique, de l'exploration et de l'utilisation de l'espace extra-atmosphérique, et de la biologie synthétique, faisant valoir que ces domaines recoupent l'IA et placent les thèmes de la session au cœur du mandat de l'UNESCO .

Feinholz indique que l'UNESCO cherche des moyens concrets d'associer les entreprises à la mise en œuvre de l'éthique. Elle met l'accent sur l'apprentissage par les pairs, la divulgation volontaire des pratiques et la création de mécanismes à destination des entreprises qui favorisent un engagement éthique plus substantiel plutôt qu'une simple conformité formelle.

Elle explique que, dans le cadre de la mise en œuvre de la recommandation, l'UNESCO a créé des réseaux d'experts, d'organisations de la société civile, d'universitaires et un conseil des entreprises destiné à aider les entreprises à apprendre les unes des autres et à identifier de meilleures pratiques . Elle mentionne également une initiative conjointe avec Thomson Reuters visant à développer un outil de divulgation volontaire des pratiques, décrivant cette démarche comme une tentative de dépasser une conformité instrumentalisée .

Feinholz soutient que la gouvernance éthique doit interroger la nécessité et la finalité d'une technologie avant de présupposer que son déploiement est souhaitable. Elle relie cette réflexion à la justice distributive, suggérant que dans certains contextes, les besoins fondamentaux peuvent être plus urgents que les interventions technologiques avancées.

Elle demande si les sociétés ont réellement besoin de certaines technologies et prend le secteur de la santé comme exemple, opposant les médicaments de pointe aux problèmes persistants tels que l'absence d'eau courante . Elle affirme ensuite que les premières questions éthiques devraient porter sur qui a besoin de la technologie, pourquoi elle est développée, quel problème elle résout et qui en bénéficie ou en est affecté .

Wolf Bauwens soutient que certaines préoccupations éthiques reviennent de manière récurrente dans les technologies émergentes, notamment l'accès et l'équité, mais qu'elles ne se manifestent pas avec la même intensité dans chaque domaine. La gouvernance doit donc être comparative et sensible au contexte, plutôt que de supposer que la vie privée, l'accès ou d'autres enjeux se transposent de manière identique à l'IA, à l'informatique quantique et aux neurotechnologies.

Elle affirme que la question la plus importante commune à toutes les technologies est celle de l'accès, l'équité et la distribution de l'accès s'appliquant « de manière générale », mais elle distingue leur importance en précisant que l'accès est une question bien plus centrale pour l'informatique quantique que pour l'IA . Elle prend également la vie privée comme exemple, en soutenant qu'elle est plus centrale pour l'IA et les neurotechnologies que pour l'informatique quantique, car les premières applications quantiques n'utiliseront pas les données personnelles de la même façon .

Wolf Bauwens soutient que la gouvernance anticipatoire dépend de l'implication de l'industrie dès le départ, et non après l'élaboration des cadres politiques. Elle affirme que les entreprises exercent déjà une gouvernance de facto à travers la manière dont elles développent et déploient les technologies, et que les exclure affaiblit la gouvernance dans la pratique.

Après avoir demandé aux participants issus de l'industrie de lever la main et n'en ayant observé que très peu dans la salle, elle soutient que le SMSI devrait être rendu plus attractif pour l'industrie et note, à partir des discussions du COMEST sur le quantique, que la participation de l'industrie peut être constructive plutôt que nuisible . Elle ajoute que les grandes entreprises technologiques sont actuellement « celles qui exercent la gouvernance en pratique » et appelle à un engagement multipartite plus précoce entre l'industrie, les décideurs politiques et la société civile .

Wolf Bauwens ne considère pas le désaccord comme un échec de l'éthique, mais comme une composante productive du raisonnement collectif. Elle soutient que cela nécessite un discours structuré et une représentation large, afin que les intérêts absents — notamment ceux des générations futures et des écosystèmes naturels — ne soient pas exclus.

En réponse à l'échange conclusif sur l'éthique, elle invoque l'éthique discursive et affirme que le désaccord peut être productif, car il aide les personnes à trouver de nouvelles solutions plutôt que de les contraindre à un consensus . Elle ajoute que la gouvernance a besoin de règles encadrant la tenue des discussions et doit garantir une participation diversifiée, incluant les générations futures et même la représentation de la planète et des écosystèmes naturels .

Wolf Bauwens soutient que l'industrie opérationnalise souvent l'éthique comme une question de conformité plutôt que de réflexion. Cette approche devient particulièrement fragile dans les domaines de pointe où les cadres de gouvernance contraignants sont peu développés, ce qui déconnecte le discours éthique de normes véritablement significatives.

Elle met en garde contre une dépendance excessive au langage éthique dans l'industrie, car, selon son expérience, l'éthique y est « essentiellement de la conformité » . Elle souligne ensuite l'ironie du fait que la conformité est vide de sens lorsqu'il n'existe rien de concret à respecter, citant le quantique et, dans une certaine mesure, les neurotechnologies comme des domaines où les cadres de gouvernance restent insuffisants ou en cours d'émergence .

Wolf Bauwens soutient que la fragmentation institutionnelle engendre des doublons et une utilisation inefficace des ressources. Elle suggère que les technologies convergentes bénéficieraient de principes communs élaborés conjointement entre les institutions, plutôt que de multiples ensembles de principes éthiques qui se chevauchent.

Elle observe qu'au sein et au-delà du système onusien, les institutions continuent de produire des principes éthiques distincts et s'interroge sur la pertinence de rédiger sans cesse de nouveaux ensembles, tels que des principes éthiques pour l'IA, en termes d'utilisation du temps et de l'énergie . Elle propose que les institutions collaborent dès le départ pour produire un ensemble commun de principes éthiques pour le quantique ou, de préférence, pour les technologies convergentes futures, portant les logos de plusieurs institutions plutôt que des cadres concurrents .

Wolf Bauwens soutient que convaincre les entreprises peut nécessiter de parler le langage des incitations. Elle suggère que l'éthique pourrait gagner en influence si elle était liée à la logique de marché, à travers le risque réputationnel, l'accès aux marchés, les obligations de reporting et la pression publique.

En réponse à la question des jeunes, elle souligne la nécessité de mieux argumenter en termes de « retour sur investissement » pour l'éthique et cite le reporting ESG comme exemple de la manière dont le comportement des entreprises peut être influencé lorsque des attentes en matière de reporting et de responsabilité sont établies . Elle ajoute que les arguments éthiques fonctionnent souvent par le biais du risque réputationnel et de l'accès aux marchés, citant l'exemple d'entreprises américaines perdant des parts de marché en Europe en raison de l'importance accordée par les Européens à la protection des données personnelles, et soutient que ces liens doivent être établis plus clairement .

Wolf Bauwens soutient que la convergence technologique modifie autant la composition des acteurs impliqués dans la gouvernance que le contenu des préoccupations éthiques. La gouvernance doit donc s'adapter aux configurations changeantes des parties prenantes et aux enjeux particuliers qui deviennent saillants dans des contextes spécifiques.

Elle affirme que ce qui est « presque plus important » que l'énumération des enjeux éthiques est de comprendre comment la convergence modifie les parties prenantes et qui devrait être présent lorsque ces technologies sont discutées . Elle lie également l'action concrète à la nécessité de rendre les forums plus interdisciplinaires et d'assurer des échanges entre l'industrie et les décideurs politiques bien plus tôt, ce qui reflète sa conviction que la gouvernance doit s'adapter aux configurations changeantes des parties prenantes .

Ahmed soutient que les technologies quantiques n'émergent pas dans un vide, mais prolongent les dynamiques numériques et de la société de l'information déjà existantes. Elle recommande donc de réutiliser les enseignements de la gouvernance de l'IA, de la gouvernance des données et de l'éthique numérique, tout en restant attentive aux nuances propres à chaque domaine.

Elle affirme envisager les technologies quantiques non pas comme un vide, mais comme « une révolution et une évolution » des questions existantes liées à la société de l'information, à l'économie numérique et aux TIC que le SMSI traite depuis deux décennies . Elle soutient explicitement que l'avancement de l'analyse éthique de l'informatique quantique devrait s'appuyer sur les enseignements existants de la gouvernance de l'IA et de l'éthique numérique, et répète plus loin que les décideurs politiques ne devraient pas réinventer la roue, car il s'agit de problématiques récurrentes avec de nouvelles nuances .

Ahmed soutient que les cadres éthiques légitimes pour les technologies émergentes doivent refléter la diversité mondiale plutôt que des perspectives régionales ou élitistes. Elle met l'accent sur l'interopérabilité et la participation inclusive de multiples parties prenantes, en particulier des pays en développement et des régions sous-représentées.

Elle soutient que le cadre éthique de l'UNESCO sur l'IA se distingue par le fait qu'il a été adopté par plus de 100 États membres et élaboré à travers un processus multipartite ouvert, impliquant des organisations du monde entier . Elle ajoute que les futurs cadres pour les technologies quantiques devraient également être mondialement inclusifs et interopérables, et ne pas reposer principalement sur des conceptions européennes de l'éthique .

Ahmed oppose le cadre de l'UNESCO aux codes professionnels ou sectoriels en insistant sur sa légitimité et son caractère inclusif plus larges. Son argument est qu'un cadre négocié à l'échelle mondiale revêt un poids politique et éthique différent de celui des chartes plus étroites élaborées par des experts.

Elle indique qu'une différence essentielle du cadre éthique de l'UNESCO sur l'IA est qu'il a été ratifié et adopté par plus de 100 États membres . Elle le compare aux chartes sectorielles telles que celle de l'ACM, en faisant valoir que de nombreux ingénieurs des pays en développement n'ont probablement pas participé à ces processus, tandis que le cadre de l'UNESCO a été élaboré à travers un processus multipartite ouvert, avec des participants issus de différentes organisations à travers le monde .

Ahmed soutient que de nombreux débats de gouvernance autour des technologies quantiques reprennent des préoccupations de longue date en matière de gouvernance numérique. Elle suggère que les décideurs politiques reconnaissent la continuité des enjeux tels que l'accès, l'infrastructure, la responsabilité et la répartition, plutôt que de traiter chaque vague technologique comme entièrement nouvelle.

Elle affirme que des questions telles que l'accès, l'équité, l'applicabilité locale et la répartition des dividendes numériques sont façonnées par la gouvernance, la réglementation et les normes, et que ces enjeux ne sont pas nouveaux pour ceux qui ont travaillé sur l'économie numérique et la société de l'information . Elle pointe également des récits récurrents tels que les TIC pour le développement, l'IA pour le bien commun, et désormais le quantique pour le bien commun, en soutenant que malgré l'évolution des étiquettes, les fondamentaux sous-jacents restent les mêmes .

Ahmed s'oppose aux cadres éthiques uniformes et affirme que la gouvernance doit être adaptée au cas d'usage, au secteur et au contexte infrastructurel. Les différentes applications des technologies quantiques soulèvent des préoccupations distinctes en matière de données, de réglementation et d'éthique, ce qui nécessite de faire appel à l'expertise sectorielle existante.

Elle déconseille explicitement une approche globale indifférenciée et indique qu'une application médicale de la détection quantique diffère d'une application industrielle de l'Internet des objets, car les données, les infrastructures ainsi que les réglementations et codes d'éthique existants varient selon les secteurs . Elle cite également les applications financières et militaires en lien avec la cryptographie post-quantique, et évoque l'accès au calcul quantique via le cloud comme soulevant des enjeux éthiques géopolitiques et infrastructurels .

Bazargan soutient que l'éthique doit être intégrée dès le début du cycle de vie technologique par le biais de l'éthique par conception. Il oppose cette approche à ce qu'il considère comme un modèle plus faible, dans lequel l'éthique est ajoutée en couche à la fin, une fois les choix de conception fondamentaux déjà arrêtés.

Il cite des associations professionnelles telles que l'ACM et l'IEEE, en indiquant qu'elles disposent de codes d'éthique, de mécanismes d'application et qu'elles traitent de l'éthique par conception . Il mentionne également le cadre d'IBM, qu'il décrit comme intégrant l'éthique dès le début de la recherche utilisateur et tout au long du cycle complet, et il le contraste avec sa perception selon laquelle les travaux de l'UNESCO ressemblent davantage à une couche ajoutée en fin de processus .

Bazargan soutient que les débats sur la gouvernance devraient davantage s'appuyer sur les travaux éthiques déjà réalisés par les associations professionnelles. Il présente l'ACM, l'IEEE et IBM comme des exemples de communautés et d'organisations ayant développé des modèles pratiques pour intégrer l'éthique dans la pratique technique.

Il indique que l'ACM et l'IEEE disposent de codes d'éthique et de mécanismes d'application, et qu'ils traitent explicitement de l'éthique par conception . Il recommande en outre le code de l'ACM comme « l'un des meilleurs et des plus remarquables » codes d'éthique disponibles et renvoie les auditeurs au site web d'éthique de l'ACM comme ressource concrète .

Bazargan soutient que l'éthique n'a pas à rester abstraite, car les organismes professionnels ont déjà démontré que des cadres éthiques applicables peuvent exister. Son argument est que ces mécanismes devraient déterminer la manière dont les technologies sont réellement développées, et pas seulement la façon dont elles sont discutées.

Il souligne que l'ACM et l'IEEE disposent non seulement de codes d'éthique, mais aussi de mécanismes d'application, les citant comme preuve que la mise en œuvre est possible . Il mentionne également le « cadre complet d'éthique par conception » d'IBM, qui, selon lui, intègre l'éthique tout au long du cycle de développement plutôt que de l'ajouter après coup .

Engelson soutient que l'éthique ne peut être réduite à des slogans confortables, à des règles techniques ou à un simple consensus. Il la présente comme un processus difficile et souvent douloureux de contestation, dans lequel le désaccord est inévitable et tout terrain commun est durement acquis.

Il décrit l'éthique comme une « discussion longue, longue et profonde » et avertit que l'ouverture de cette discussion est risquée, car elle expose rapidement des désaccords dans les domaines du journalisme, de la guerre, des institutions et de la religion . Il conclut que l'éthique est une affaire personnelle qui exige que chacun en « paie le prix » intérieurement, et que tenter de construire quelque chose au-delà des règles et de la conformité est un chemin difficile et douloureux .

Engelson soutient qu'une fois que l'éthique se fige en respect formel de règles, elle risque de devenir du conformisme plutôt qu'un jugement moral. Selon lui, le fait d'étiqueter bureaucratiquement des règles comme relevant de l'éthique peut diluer le caractère plus profond, contesté et personnel de la réflexion éthique.

Il affirme que lorsque la discussion éthique se transforme en règles, elle devient, dans son vocabulaire, de la « conformité », et que le conformisme est un « ennemi juré de l'éthique » . Il critique également la tendance à rebaptiser règles ordinaires, conformité et réglementation sous le nom d'éthique, en soutenant que le monde ne s'améliorera pas simplement parce qu'on les qualifie d'éthiques .

Kaminski soutient que l'inclusion des jeunes est essentielle, car les décisions de gouvernance prises aujourd'hui façonneront le monde que les générations futures hériteront. Elle présente la participation des jeunes comme une question de légitimité et de justice intergénérationnelle au sein de la gouvernance multipartite.

Elle affirme que les jeunes devraient toujours être inclus dans les discussions sur l'éthique, car ce sont eux qui vivront dans le monde régi par les règles en cours d'élaboration aujourd'hui .

L'intervention de Kaminski souligne que la gouvernance multipartite est incomplète sans la jeunesse. Elle affirme que les jeunes ne devraient pas être des participants occasionnels, mais une composante permanente des espaces où se prennent les décisions éthiques et de gouvernance.

Elle relie directement son propos à la gouvernance multipartite, affirmant qu'il est « extrêmement important » d'inclure systématiquement les jeunes dans les discussions portant sur l'éthique, car ce sont eux qui vivront avec les règles qui en résulteront .

Kaminski présente les incitations des entreprises comme un problème central de gouvernance. Elle s'interroge sur la manière dont les cadres et les lignes directrices peuvent convaincre les grandes entreprises technologiques que l'éthique est dans leur propre intérêt, plutôt que de simplement répondre à des pressions externes émanant des gouvernements ou des organisations internationales.

Elle demande comment, malgré la multiplication des cadres et des réflexions éthiques, les décideurs peuvent s'assurer que les « géants technologiques de Silicon Valley » ont intérêt à penser et à agir de manière éthique .