Numéro 78 de la lettre d’information Digital Watch – avril 2023

En bref

Mettre en place des barrières de sécurité pour les données

TikTok est devenu la cible de critiques de la part de plusieurs pays en raison de problèmes liés à la confidentialité des données et à la sécurité nationale. Le cœur du problème semble résider dans la propriété de TikTok par la société chinoise ByteDance, car la loi chinoise de 2017 sur le renseignement national exige des entreprises qu’elles contribuent au travail des services de renseignement de l’État, ce qui suscite des craintes quant au transfert des données des utilisateurs vers la Chine. En outre, certains craignent que le gouvernement chinois n’utilise la plateforme à des fins d’espionnage ou à d’autres intentions malveillantes. Plusieurs pays ont poursuivi TikTok en justice pour avoir exposé des enfants à des contenus préjudiciables et à d’autres pratiques susceptibles de porter atteinte à leur vie privée.

TikTok a tenté d’apaiser les craintes de deux leaders mondiaux en matière de réglementation technologique : les États-Unis et l’Union européenne. L’entreprise s’est engagée à transférer les données américaines aux États-Unis dans le cadre du projet Texas. La sécurité des données européennes serait assurée par le projet Clover, qui comprend des passerelles de sécurité qui détermineront l’accès aux données et les transferts de données en dehors de l’Europe, un audit externe des processus de données par une société de sécurité européenne tierce et de nouvelles technologies de renforcement de la protection de la vie privée.

Le mois dernier, la Belgique, la Norvège, les Pays-Bas, le Royaume-Uni, la France, la Nouvelle-Zélande et l’Australie ont publié des lignes directrices interdisant l’installation et l’utilisation de TikTok sur les appareils gouvernementaux. L’interdiction envisagée par le Japon est plus générale : les législateurs proposeront d’interdire les plateformes de médias sociaux si elles sont utilisées pour des campagnes de désinformation.

Le témoignage très médiatisé du PDG de TikTok, Shou Chew, devant le Congrès américain n’a pas permis à l’entreprise d’obtenir une grande faveur juridique aux États-Unis : les législateurs ne sont toujours pas convaincus que TikTok n’est pas dépendante de la Chine. Il semble que les États-Unis vont adopter une loi (très probablement la loi RESTRICT) visant à interdire l’application. La bataille risque d’être rude : les critiques soutiennent que l’interdiction de TikTok pourrait violer les droits du premier amendement et créerait un dangereux précédent en limitant le droit à la liberté d’expression en ligne. Une autre option est la cession, par laquelle ByteDance vendrait les activités américaines de TikTok à une entité détenue par les États-Unis.

Qu’en pense la Chine ?

Début mars, la Chine a violemment critiqué les États-Unis : le porte-parole du ministère chinois des Affaires étrangères, Mao Ning, a déclaré : « Nous demandons aux institutions et aux personnes américaines concernées de se débarrasser de leur parti pris idéologique et de leur mentalité de guerre froide à somme nulle, de considérer la Chine et les relations sino-américaines sous un angle objectif et rationnel, de cesser de présenter la Chine comme une menace en citant des informations erronées, de cesser de dénigrer le parti communiste chinois et de cesser d’essayer de marquer des points politiques aux dépens des relations sino-américaines. » M. Ning a ajouté : « Comment les États-Unis, première superpuissance mondiale, peuvent-ils être aussi peu sûrs d’eux-mêmes pour craindre à ce point l’application préférée d’un jeune ? »

M. Ning a également critiqué l’UE au sujet de la restriction imposée à TikTok, notant que l’Union devrait « respecter l’économie de marché et la concurrence loyale, cesser d’exagérer et d’abuser du concept de sécurité nationale, et fournir un environnement commercial ouvert, équitable, transparent et non discriminatoire à toutes les entreprises ». Des remarques similaires ont été répétées à la mi-mars par le porte-parole du ministère des Affaires étrangères, Wang Wenbin.

Alors que les informations selon lesquelles les États-Unis exigeraient une cession ont été confirmées par un représentant de TikTok, M. Wenbin a également fait remarquer que « les États-Unis n’ont pas encore démontré, preuves à l’appui, que TikTok menace leur sécurité nationale » et qu’« ils devraient cesser de répandre des informations erronées sur la sécurité des données ».

Le ministère chinois du Commerce a tracé une ligne dans le sable : le Gouvernement chinois s’opposerait à la vente ou à la cession de TikTok conformément aux règles d’exportation de la Chine pour 2020. Ces remarques ont été faites le jour même où M. Chew a témoigné devant le Congrès, ce qui jette un doute supplémentaire sur l’indépendance de TikTok par rapport au gouvernement chinois.

La Chine a également fait des « démarches solennelles » auprès de l’Australie au sujet de l’interdiction australienne de TikTok sur les appareils gouvernementaux.

Quelle perspective d’avenir pour TikTok ?

Etre  optimiste et espérer que l’application ne soit pas interdite ne pourrait pas suffire. Aux États-Unis, le sort de TikTok sera probablement décidé par les tribunaux. Il y a de fortes chances que les autres pays mentionnés dans cet article fassent de même.

Le modèle GPT-4 : repousser les limites, soulever des inquiétudes

Le monde de l’IA a connu une multitude de développements passionnants en mars. Si l’arrivée de GPT-4 promet de porter le traitement du langage naturel et la reconnaissance d’images à de nouveaux sommets, les préoccupations soulevées par l’initiative « Pause Giant AI Experiments », une lettre ouverte sur les implications éthiques des expériences d’IA à grande échelle, ne peuvent être ignorées.

OpenAI a annoncé le développement de GPT-4, un grand modèle multimodal qui peut traiter à la fois du texte et des images en tant qu’entrées. Cette annonce marque une étape importante dans l’évolution des modèles GPT, les modèles GPT-3 et GPT-3.5 étant limités au traitement du texte. La capacité de GPT-4 à traiter des modalités multiples élargira les possibilités de traitement du langage naturel et de reconnaissance d’images, ce qui ouvrira de nouvelles perspectives pour les applications d’intelligence artificielle. Cette évolution ne manquera pas de susciter beaucoup d’intérêt et d’impatience, car la communauté de l’IA attend des précisions sur les capacités de GPT-4 et son impact potentiel dans ce domaine.

Avec la capacité de traiter 32 000 tokens de texte, contrairement à GPT-3, qui était limité à 4 000 tokens, GPT-4 offre des possibilités accrues pour la création de contenus longs, l’analyse de documents et les conversations approfondies (la tokenisation est un moyen de séparer un morceau de texte en unités plus petites appelées « tokens » ; ici, les tokens peuvent être des mots, des caractères ou des sous-mots). Le dernier modèle, GPT-4, est capable de traiter et de générer de longs passages de texte. Il a obtenu des résultats impressionnants lors d’une série de tests de certification académique et professionnelle, tels que le LSAT, le GRE, le SAT, les examens d’AP et une simulation d’examen du barreau.

Ce qui a suscité une grande controverse parmi le public, c’est le fait que le nombre de paramètres du modèle et les informations sur les données d’entraînement n’ont pas été rendus publics, que le document de recherche publié par les développeurs n’offre pas beaucoup d’informations, et que même les fonctionnalités annoncées ne sont pas encore disponibles. En outre, l’accès à GPT-4 est limité à ceux qui s’inscrivent sur la liste d’attente ou s’abonnent au service premium ChatGPT Plus.

Ce buzz a apparemment été la goutte d’eau qui a fait déborder le vase pour beaucoup. Peu de temps après, un groupe de chercheurs en IA, dont Elon Musk et Steve Wozniak, a signé l’initiative « Pause Giant AI Experiments », une lettre ouverte exhortant les laboratoires d’IA à freiner. La lettre appelle à une interdiction mondiale de la formation de systèmes d’IA plus puissants que GPT-4. Elle s’inquiète du risque que l’IA devienne une « menace pour l’existence de la civilisation humaine ». Elle souligne que l’IA pourrait être utilisée pour créer des armes autonomes et « surpasser le contrôle humain ». La lettre poursuit en suggérant que l’IA pourrait éventuellement devenir si puissante qu’elle pourrait créer une superintelligence qui surpasserait les êtres humains.

Les signataires ne sont pas les seuls à avoir des craintes. Stephen Hawking a prévenu que l’IA pourrait éventuellement « sonner le glas de la race humaine ». Même Bill Gates a déclaré que certains risques existaient. Toutefois, M. Gates a également affirmé (ce qui n’est pas surprenant, puisque OpenAI est soutenue par Microsoft) qu’une pause dans le développement de l’IA ne résoudrait pas les problèmes et qu’une telle pause serait difficile à mettre en œuvre.

La lettre ouverte a relancé le débat au sein de la communauté scientifique et technologique sur l’importance d’un développement responsable de l’IA, notamment en répondant aux préoccupations concernant les préjugés, la transparence, les suppressions d’emplois, la protection de la vie privée et le risque de militarisation de l’IA. Les pouvoirs publics et les entreprises technologiques ont un rôle important à jouer dans la réglementation de l’IA, notamment en définissant des lignes directrices éthiques, en investissant dans la recherche sur la sécurité et en assurant la formation des personnes travaillant dans ce domaine.

Quoi de neuf concernant les négociations sur la cybersécurité ?

Le groupe de travail à composition non limitée (GTCNL) des Nations unies sur la cybersécurité a tenu sa quatrième session de fond. Nous vous en présentons les grandes lignes ci-dessous.

Menaces existantes et potentielles. Les risques liés à la chaîne d’approvisionnement, l’utilisation d’instruments alimentés par l’IA, les rançongiciels et les retombées des cyberattaques russes sur l’Ukraine, qui ont affecté les infrastructures en Europe, ont été mentionnés, parmi d’autres menaces, au cours de la session. Le Kenya a proposé de créer un répertoire des Nations unies sur les menaces communes. L’UE a proposé de formuler une position commune sur les rançongiciels, et la République tchèque a proposé une discussion plus détaillée sur le comportement responsable des États dans le développement de nouvelles technologies.

Règles, normes et principes. La Russie et la Syrie ont fait valoir que les règles non contraignantes existantes ne réglementent pas efficacement l’utilisation des TIC pour prévenir les conflits interétatiques et ont proposé de rédiger un traité juridiquement contraignant. D’autres pays (comme le Sri Lanka et le Canada) ont critiqué cette proposition. L’Égypte a fait valoir que l’élaboration de nouvelles normes n’entrait pas en conflit avec le cadre normatif existant.

Droit international (DI). La plupart des États ont réaffirmé l’applicabilité du droit international à l’espace cybernétique, mais certains (Cuba, Inde, Jordanie, Nicaragua, Pakistan, Russie, Syrie…) ont fait valoir que l’applicabilité automatique était prématurée et ont soutenu une proposition de traité juridiquement contraignant. La Russie a présenté un concept actualisé de la « Convention des Nations unies sur la garantie de la sécurité internationale de l’information », avec la Biélorussie et le Nicaragua comme co-parrains. La plupart des États ne sont pas favorables à l’élaboration d’un nouvel instrument juridiquement contraignant.

En ce qui concerne le droit international humanitaire (DIH), l’UE et la Suisse ont affirmé son applicabilité ; toutefois, la Russie et le Belarus ont refusé l’application automatique du DIH dans le cyberespace, invoquant l’absence de consensus sur ce qui constitue une attaque armée.

Les principes de la Charte des Nations unies et le respect des obligations des États ont également été discutés pour la première fois, nous semble-t-il. La plupart des États ont également soutenu la proposition canado-suisse d’inclure ces sujets, le règlement pacifique des différends, le DIH et la responsabilité de l’État dans le programme de travail du GTCNL en 2023. 

Mesures de confiance (CBM). Certaines délégations ont appelé à une participation plus active des organisations régionales afin qu’elles partagent leurs expériences au sein du GTCNL. Il y a également eu un large accord pour établir un répertoire des points de contact (POC), bien que les États aient continué à discuter de qui devrait être nommé comme POC (agences ou personnes particulières), quelles fonctions ils devraient avoir, etc.

Renforcement des capacités. Certains pays ont souligné que le programme d’action visant à promouvoir un comportement responsable de l’État sera le principal instrument pour structurer les initiatives de renforcement des capacités. L’Iran a souligné que l’UIT pourrait être un forum permanent de coordination à cet égard. Cuba a soutenu cette idée.

Les États ont également discuté du contenu de la proposition indienne sur le portail mondial de coopération en matière de cybersécurité. Singapour et les Pays-Bas ont toutefois rappelé les portails de coopération existants, tels que les cyberportails de l’UNIDIR et du GFCE.

Un dialogue institutionnel régulier. Les partisans du Programme d’action ont souligné la complémentarité du GTCNL et du Programme d’action. Certains États ont évoqué la possibilité de discuter de normes cybernétiques supplémentaires dans le cadre du Programme d’action, si nécessaire, et ont demandé que le GTCNL consacre une session au Programme d’action. La Chine a fait remarquer que les États qui ont soutenu la résolution sur le programme d’action sapent le statut du GTCNL. La Russie, la Biélorussie et le Nicaragua ont proposé un organe permanent doté de mécanismes d’examen comme alternative au Programme d’action. Certains États ont toutefois prévenu que des pistes de discussion parallèles nécessiteraient davantage de ressources.

Prochaines étapes. Le président prévoit d’organiser une réunion virtuelle informelle à la fin du mois d’avril pour que les répertoires régionaux de POC puissent partager leurs expériences. Le deuxième document officieux révisé sur le répertoire de POC est attendu après. Une réunion entre les sessions sur l’IL et le dialogue institutionnel régulier se tiendra vers la fin du mois de mai. Le projet de rapport annuel de situation zéro est également attendu pour le début du mois de juin. Les États examineront le rapport annuel de situation lors de la 5^e session de fond, qui se tiendra du 24 au 28 juillet 2023.Lisez notre rapport détaillé de la session.

Genève

Mise à jour des politiques de la Genève internationale

Forum du SMSI 2023 | 13–17 mars

L’édition 2023 du Forum du Sommet mondial sur la société de l’information (SMSI) a comporté plus de 250 sessions explorant un large éventail de questions liées aux TIC pour le développement et à la mise en œuvre des lignes d’action du SMSI convenues en 2003. Le forum comprenait également un volet de haut niveau qui soulignait, entre autres, l’urgence de faire progresser l’accès à l’Internet, sa disponibilité et son caractère abordable en tant que moteurs de la numérisation, ainsi que l’importance d’encourager la confiance dans les technologies numériques. L’événement a été accueilli par l’UIT, et organisé conjointement avec l’UNESCO, la CNUCED et le Programme des Nations unies pour le développement (PNUD). D’autres résultats du forum seront publiés par l’UIT sur la page dédiée. 

Le dernier jour du forum, le Diplo et la Geneva Internet Platform (GIP), ainsi que les missions permanentes de Djibouti, du Kenya et de la Namibie, ont organisé une session sur le renforcement des voix de l’Afrique dans les processus numériques mondiaux. Cette session a souligné la nécessité d’une coopération renforcée – à l’intérieur et à l’extérieur de l’Afrique – pour mettre en œuvre les stratégies de transformation numérique du continent et veiller à ce que les intérêts africains soient correctement représentés et pris en compte dans les processus internationaux de gouvernance numérique. Renforcer et développer les capacités individuelles et institutionnelles, coordonner les positions communes sur les questions d’intérêt mutuel, tirer parti de l’expertise des acteurs de divers groupes de parties prenantes, et assurer une communication efficace et efficiente entre les missions et les capitales sont quelques-unes des mesures suggérées pour garantir que les voix africaines sont pleinement et significativement représentées sur la scène internationale. Lisez les conclusions de la session.

La 1^re session du GEG sur les LAWS (Lethal Autonomous Weapons Systems) | 6–10 mars

Le Groupe d’experts gouvernementaux (GEG) sur les technologies émergentes dans le domaine des systèmes d’armes autonomes létaux ( LAWS – Lethal Autonomous Weapons Systems) a tenu sa première session en mars. Au cours de cette réunion de cinq jours, le groupe s’est concentré sur les aspects suivants des technologies émergentes dans le domaine des LAWS : la caractérisation des LAWS (définitions et portée) ; l’application du DIH (interdictions et réglementations éventuelles) ; l’interaction homme-machine, le contrôle humain significatif, le jugement humain et les considérations éthiques ; la responsabilité et l’obligation de rendre des comptes ; les examens juridiques ; l’atténuation des risques et les mesures de confiance.

La 26^e session de la Commission de la science et de la technologie au service du développement (CSTD) s’est tenue à Bruxelles | 27–31 mars

La 26^e session de la CSTD a abordé (a) la technologie et l’innovation pour une production plus propre, plus productive et plus compétitive, et (b) la garantie de l’eau potable et de l’assainissement pour tous : une solution par la science, la technologie et l’innovation. 

Lors de la cérémonie d’ouverture, Rebeca Grynspan, secrétaire générale de la CNUCED, a fait une déclaration dans laquelle elle a insisté sur le fait que l’humanité se trouvait à un tournant décisif, entre défis mondiaux et possibilités technologiques. La secrétaire générale a souligné le déclin inquiétant du progrès humain global au cours des deux dernières années, qui met en péril nos objectifs d’avenir durable. La résolution de ces problèmes économiques, sociaux et environnementaux importants nécessite une action mondiale coordonnée.

La session a également été l’occasion de présenter le rapport 2023 sur la technologie et l’innovation, qui identifie les opportunités cruciales et les solutions à base de particules permettant aux pays en développement d’utiliser l’innovation pour une croissance durable.