Numéro 87 de la lettre d’information Digital Watch – mars 2024

 Advertisement, Poster, Page, Text, Baby, Person, Face, Head

Observatoire

Coup d’œil : les développements qui font des vagues

Gouvernance mondiale

Les co-facilitateurs ont défini les éléments possibles du Pacte mondial pour le numérique (PMN).

Gouvernance de l’IA

La Chine et la Russie ont décidé de collaborer à la mise en place de l’IA dans le domaine militaire. Le ministère américain de la Justice a nommé son premier responsable de l’IA, tandis que le Japon a lancé une vaste campagne législative en faveur de l’IA en 2024. La Commission européenne a mis en service un groupe de travail composé de fonctionnaires des États membres afin de répondre aux demandes de renseignements concernant la loi sur l’IA. Le ministre britannique de l’IA a proposé de travailler avec l’UE sur la politique de l’IA et les questions de droit d’auteur.

Les députés français ont exprimé leurs inquiétudes quant au partenariat entre Mistral AI et Microsoft, citant des préoccupations concernant la concurrence et la souveraineté des données dans le secteur de l’informatique dématérialisée.

OpenAI a présenté Sora, un outil d’IA capable de générer des vidéos à partir de commandes textuelles. L’entreprise a également introduit une nouvelle fonction de mémoire personnalisée pour ChatGPT, qui vise à améliorer la capacité de l’assistant virtuel (chatbot) à se souvenir des préférences de l’utilisateur, de ses conversations et de toute autre information pertinente. Microsoft a annoncé des principes visant à encourager l’innovation et la concurrence dans le domaine de l’IA. Google prévoit de relancer l’outil de génération d’images Gemini AI après une suspension temporaire pour corriger les inexactitudes dans les représentations historiques générées par l’application.

Technologies

Dans le cadre de sa stratégie « Nouvelle croissance 4.0 », le gouvernement sud-coréen prévoit d’introduire des services en nuage basés sur l’informatique quantique. Le Conseil mondial des semi-conducteurs (WSC) a exhorté l’Inde à reconsidérer ses propositions de droits de douane sur le commerce électronique et les transferts de données, en soulignant que de telles mesures pourraient entraver la croissance du secteur indien de la conception de puces.

Infrastructure

La Chine a lancé un satellite pour tester la technologie 6G. Les États-Unis et leurs alliés ont adopté des principes communs pour le développement de la technologie 6G. La loi sur l’infrastructure Gigabit de l’UE mettra fin aux frais d’appel intra-UE d’ici à 2029, confirmant ainsi le principe de l’approbation tacite volontaire. La menace des Houthis sur les câbles sous-marins indispensables en mer Rouge a suscité des inquiétudes. La Commission européenne a dévoilé un ensemble de mesures visant à stimuler l’innovation, la sécurité et la résilience des infrastructures numériques en Europe.

Cybersécurité

Une analyse réalisée par Microsoft et OpenAI a mis en évidence la manière dont les acteurs de la criminalité utilisent actuellement de grands modèles de langage (LLM). Le National Institute of Standards and Technology (NIST) a publié le Cybersecurity Framework 2.0, qui vise à aider toutes les organisations à gérer et à réduire les risques.

Les organismes internationaux chargés de l’application de la loi ont réussi à perturber les opérations du groupe du rançongiciel LockBit. Toutefois, ce bref répit a été éclipsé par le retour de ce groupe peu de temps après. Un avertissement collectif émis par le FBI, la CISA et le HHS a mis en garde contre le rançongiciel ALPHV/BlackCat ciblant spécifiquement le secteur des soins de santé aux États-Unis. Cet avertissement fait suite à une cyberattaque de BlackCat contre UnitedHealth Group, qui a entraîné une panne affectant Change Healthcare, une plateforme d’échange de paiements essentielle dans le système de santé américain.

Le processus de Pall Mall, une initiative multipartite visant à lutter contre les logiciels espions, a été lancé lors d’une conférence organisée par le Royaume-Uni et la France, à laquelle ont participé des représentants de 35 pays, ainsi que de grandes entreprises technologiques telles que Google, Microsoft et Meta.

Droits de l’Homme

Le président Biden a publié un décret autorisant le procureur général à empêcher le transfert à grande échelle de données personnelles de citoyens américains vers des « pays préoccupants » tels que la Chine, la Russie, la Corée du Nord, l’Iran, Cuba et le Venezuela. Le Portugal a demandé aux entreprises de télécommunications de garantir l’égalité d’accès aux personnes handicapées, en exigeant des équipements, des logiciels et des tarifs adaptés à partir du 28 juin 2025.

Juridique

Elon Musk a intenté un procès à OpenAI, arguant que la société s’est écartée des principes fondateurs de l’organisation, à savoir donner la priorité à la technologie pour l’humanité plutôt qu’aux profits, ce que les dirigeants d’OpenAI ont réfuté. OpenAI a demandé à un juge fédéral de débouter le New York Times de certaines parties de l’action en justice intentée contre elle au titre du droit d’auteur, au motif que le journal a utilisé des messages trompeurs, ce qui a conduit ChatGPT à produire des éléments de preuve erronés. L’Office américain des brevets et des marques (USPTO) a publié des directives concernant les inventions assistées par l’IA, mettant l’accent sur les contributions humaines pour l’admissibilité au brevet.

Économie de l’internet

Un projet de protocole sur le commerce numérique de la zone de libre-échange continentale africaine (ZLECAf) a été diffusé. Lors de la 13e conférence ministérielle de l’OMC (MC13), les pays ont décidé de prolonger le moratoire sur l’imposition de droits de douane sur les produits numériques. La Commission européenne a infligé une amende de 1,8 milliard d’euros à Apple pour avoir empêché les services de diffusion de musique en continu de proposer d’autres options de paiement en dehors de l’App Store. Le prix du bitcoin a augmenté en raison de l’approbation des fonds négociés en Bourse (ETF) aux États-Unis et d’une réduction prévue des récompenses des mineurs.

Développement

Le Nigeria a lancé une initiative nationale visant à étendre l’accès à l’internet. Le Soudan a subi une coupure généralisée de l’internet qui a touché plus de 14 millions de personnes, tandis que la suspension des services de téléphonie mobile le jour des élections au Pakistan soulève des préoccupations en matière de droits numériques.

Les Émirats arabes unis ont débloqué un fond technologique de 200 millions de dollars pour les pays en développement. Un engagement de 9 milliards d’USD en faveur de la connectivité universelle de l’UIT devrait profiter à des millions de personnes.

Socioculturel

L’UE a adopté la loi sur les services numériques (DSA), qui renforce la sécurité et la gouvernance en ligne. Une enquête sur TikTok a été lancée dans le cadre de la loi sur les services numériques. Le Parlement européen a adopté des règles visant à renforcer la confiance et la transparence dans les campagnes électorales. Au Canada, la loi sur les préjudices en ligne vise les contenus préjudiciables et les géants de l’internet.

LES CONVERSATIONS DE LA VILLE – GENÈVE

Le 20 février, l’Organisation mondiale de la santé (OMS) a lancé Initiative mondiale sur la santé numérique (GIDH), un réseau géré par l’OMS qui augmente les ressources dans la transformation de la santé numérique menée par les pays en favorisant le partage des connaissances et les partenariats. L’initiative vise à évaluer et à hiérarchiser les besoins des pays, à renforcer les capacités pour encourager les développements locaux et à accélérer la réalisation des objectifs stratégiques énumérés dans la Stratégie mondiale de l’OMS pour la santé numérique 2020-2025.
L’Organisation internationale du travail (OIT) a accueilli le séminaire de recherche Behind the AI Curtain : les travailleurs invisibles qui alimentent le développement de l’IA. Ce séminaire a mis en lumière l’importance du travail humain, souvent issu des pays en développement, qui est à l’origine des progrès des technologies de l’IA, ainsi que les conditions de travail précaires auxquelles ces travailleurs sont confrontés. Le séminaire a présenté les résultats de recherches sur les considérations éthiques indispensables concernant le travail humain invisible, et a appelé les décideurs politiques et les défenseurs du travail à protéger les droits de ces travailleurs invisibles de l’IA.

En bref

L’accord concernant la convention des Nations unies sur la cybercriminalité se fait attendre

Le Comité ad hoc des Nations unies sur la cybercriminalité s’est réuni à New York du 29 janvier au 9 février 2024 pour sa session de clôture, après deux ans de négociations. Cependant, les avancées significatives ont été insuffisantes, notamment en ce qui concerne le champ d’application de la convention. Des réunions supplémentaires ont été jugées nécessaires, bien que certains États aient exprimé des inquiétudes quant à la limitation des ressources.

Les négociations ont été réparties entre des sessions formelles et des réunions informelles à huis clos, qui se sont concentrées sur des questions sensibles, mais qui ont réduit la transparence et exclu la contribution de la communauté des parties prenantes.

Au cours des derniers jours des sessions de clôture, la société civile et l’industrie, ainsi que les chercheurs en cybersécurité, ont exercé une pression accrue.

Les questions relatives au projet de convention restant à résoudre sont les suivantes.

Champ d’application de la convention et pénalisation

L’une des principales questions non résolues est de savoir si la convention sur la cybercriminalité doit couvrir tous les crimes commis par le biais des TIC ou non. Le Canada a proposé, avec le soutien de 66 États, d’insérer une formulation élargie des actions susceptibles d’entrer dans le champ d’application de la convention.

Dans le même temps, la Russie a demandé des mesures plus approfondies contre le terrorisme et a critiqué le projet, soulignant que « de nombreux articles sont simplement copiés à partir de traités vieux de 20 ans ». Dans le même ordre d’idées, l’Iran, l’Égypte et le Koweït considèrent que le mandat principal de la CAH est d’élaborer une convention internationale globale sur l’utilisation des TIC à des fins criminelles, et considèrent que le fait d’inclure des règles en matière de droits de l’Homme et une collaboration internationale détaillée fait doublon avec des traités internationaux déjà existants. 

La société civile, les entités privées et le monde universitaire ont insisté sur la nécessité de limiter le champ d’application de la convention à la protection des droits et à la cybersécurité.

Droits de l’Homme et moyens de protections

Les délégations ont également eu des difficultés avec les dispositions relatives aux droits de l’Homme et aux protections. L’Iran a proposé un modèle similaire à la Convention des Nations unies contre la corruption, en omettant les références explicites aux droits de l’Homme, mais n’a pas reçu le soutien de nombreuses autres délégations. L’Égypte et plusieurs autres délégations ont critiqué les dispositions répétitives relatives aux droits de l’Homme dans le texte et ont remis en question l’exclusion du principe de proportionnalité à l’article 24. 

Des débats ont eu lieu sur l’inclusion de la « légalité » à côté de la proportionnalité, la proposition du Brésil ayant reçu le soutien de l’Équateur. 

En conséquence, les deux articles restent sans contenu dans le projet de texte révisé de la convention.

Transmission de technologies et assistance technique

La question du changement de technologie a été soulevée dans les articles 1 et 54 de la convention. Alors que les pays africains ont insisté pour qu’il soit inclus dans les deux, les États-Unis ont plaidé pour qu’il ne figure qu’à l’article 54. 

Des désaccords ont persisté sur la formulation de l’article 54, paragraphe 1, les États-Unis et plusieurs autres délégations ayant proposé des termes supplémentaires auxquels se sont opposés plusieurs pays africains et certains autres. En effet, les pays africains et d’autres États se sont opposés à l’insertion du terme « volontaire » avant « si possible » et « selon des conditions convenues d’un commun accord » dans le contexte de la manière dont le renforcement des capacités doit être assuré entre les États. Ils ont fait valoir que cela nuirait à l’objectif de la disposition, qui est de garantir une assistance efficace aux pays en développement. Finalement, les États-Unis ont retiré leur suggestion, laissant la place à de nouvelles négociations sur le projet de texte de la convention.

Champ d’application de la coopération internationale

Les délégations ont des avis divergents sur la coopération en matière de preuves électroniques, en particulier aux articles 35, paragraphe 1, point c) ; 35, paragraphe 3 ; et 35, paragraphe 4. Le projet de convention permet aux pays de collecter des données au-delà des frontières sans autorisation légale préalable. Toutefois, plusieurs nations, dont la Nouvelle-Zélande, le Canada et l’UE, se sont inquiétées de l’application étendue de l’article 35, craignant qu’elle ne conduise à la poursuite d’activités non criminelles. Par ailleurs, des États comme l’Égypte, l’Arabie saoudite et l’Iran ont demandé la suppression pure et simple de l’article 35, paragraphe 3.

La Nouvelle-Zélande a également proposé une clause de non-discrimination à l’article 37, paragraphe 15, relative à l’extradition, afin d’éviter les motifs abusifs de refus de coopération. Toutefois, les États membres ne sont pas parvenus à se mettre d’accord sur la formulation et ont laissé cette question en suspens.

Les délégations ont débattu des articles 45 et 46, et de la possibilité de remplacer « doit » par « peut », ce qui pourrait donner aux États la possibilité de coopérer plutôt que l’obligation de le faire. Si certains ont soutenu ce changement, d’autres, dont l’Égypte et la Russie, ont préféré conserver le terme « doit », pour une coopération renforcée.

Le projet de texte révisé de la convention mentionne les deux options entre parenthèses, reflétant ainsi les discussions en cours.

Mesures préventives

Plusieurs délégations ne saisissent pas bien le terme « parties prenantes » à l’article 53 concernant les mesures préventives. L’Égypte a proposé de le supprimer, à moins qu’il ne soit clairement défini, mais les États-Unis n’étaient pas d’accord. Le projet révisé a remplacé « parties prenantes » par « personnes et entités concernées », mais le consensus sur le paragraphe n’est pas encore établi. 

En outre, un désaccord a persisté à l’article 53, paragraphe 3, point h) sur la formulation de l’expression « violence à caractère sexiste », certains plaidant pour sa suppression. Finalement, le terme a été maintenu. À l’article 41, concernant le réseau 24/7, l’Inde a proposé d’incorporer des exigences en matière de prévention par les entités chargées de l’application de la loi, avec le soutien de la Russie, du Kazakhstan et du Bélarus, mais a fait face a l’opposition des États-Unis, du Royaume-Uni et d’autres pays.

Et ensuite ?

Les délégations ont décidé de reporter la décision finale, le projet de texte révisé de la convention étant disponible sur le site Internet de l’AHC. Les dates des prochaines réunions seront annoncées prochainement. 

Malgré les progrès réalisés sur plusieurs questions à huis clos, il n’est pas certain qu’un consensus autour de la convention sur la cybercriminalité soit atteint avant l’Assemblée générale des Nations unies. Les négociations non publiques en cours entre les délégations pourraient accélérer le processus. Nous continuerons à suivre les négociations et, en attendant, vous pouvez en découvrir davantage grâce à nos rapports détaillés de chaque session générés par DiploAI.

Une version plus détaillée de ce blog est disponible sur Digital Watch Observatory.

 Computer, Computer Hardware, Computer Keyboard, Electronics, Hardware, Person
Source de l’image : UN Web TV

La puce cérébrale de Musk : avancée scientifique ou sensationnalisme ?

Neuralink, la start-up d’Elon Musk spécialisée dans les puces cérébrales, aurait réussi à en implanter une sur un être humain, qui s’est depuis complètement rétabli. Elon Musk a révélé que le patient pouvait désormais contrôler une souris d’ordinateur par la seule force de sa pensée.

Comprendre la technologie de Neuralink

La technologie qui se cache derrière Neuralink, connue sous le nom de « The Link », consiste en une puce cérébrale de la taille d’une pièce de monnaie placée chirurgicalement sous le crâne. Cet implant, relié à des fils neuronaux répartis dans diverses zones du cerveau contrôlant les capacités motrices, reçoit et décode les signaux neuronaux. En d’autres termes, il mesure l’activité cérébrale et l’interprète en action.

Neuralink envisage un avenir où les individus pourront manipuler des claviers et des souris par la seule force de leur pensée. La capacité de cette technologie à décoder l’activité cérébrale en actions est prometteuse pour les personnes à mobilité réduite ou souffrant de troubles de la parole.

Neuralink en perspective : un regard sur les BCI (interfaces cerveau-ordinateur)

La puce de Neuralink n’est pas le premier dispositif implanté dans un cerveau humain. Actuellement, plus de 40 essais portant sur l’interface cerveau-ordinateur (BCI) sont en cours rien qu’aux États-Unis. Plus de 200 000 personnes dans le monde utilisent déjà une BCI, principalement pour des raisons médicales. Les dispositifs les plus connus de ce type sont les appareils auditifs, qui aident les personnes souffrant de déficiences auditives à mieux entendre.

Pourtant, l’annonce d’Elon Musk a suscité un vif émoi au sein de la communauté scientifique et du public. Musk a l’habitude de faire des promesses audacieuses, mais il n’a pas toujours réussi à les tenir.

Malgré l’assurance de Musk d’une guérison complète du patient sans aucun effet secondaire, la communauté médicale reste prudente en raison du manque de preuves substantielles à faire valoir pour étayer ses affirmations.

Essais chez l’homme et problèmes de sécurité

Bien qu’approuvé par la Food and Drug Administration (FDA) des États-Unis, le début des essais sur l’homme a suscité des inquiétudes quant à la sécurité des volontaires en raison du manque de détails sur l’essai, de la transparence et du partage de l’information.

D’un point de vue juridique, Neuralink n’a rien à craindre, car la FDA n’exige pas de rapports sur les premières études de faisabilité. Toutefois, certains experts médicaux soulignent que la complexité de l’opération chirurgicale nécessaire à l’ouverture du cerveau soulève des questions d’ordre éthique. L’insertion d’un dispositif dans un être humain vivant, en particulier dans une personne ayant des problèmes médicaux, exige des rapports plus complets et une plus grande transparence. Les sujets de recherche (humains) actuels, tous les futurs sujets de recherche potentiels, la communauté médicale et le grand public méritent d’en savoir plus.

Le parcours de Neuralink dans le domaine des BCI n’a pas été sans controverse. Les premières expériences ont porté sur des singes et des porcs, et une vidéo virale de 2021 montrait un chimpanzé jouant au jeu vidéo classique Pong en utilisant le contrôle de l’esprit.

Cependant, en coulisse, l’entreprise a été critiquée pour un nombre important d’euthanasies de primates ayant fait l’objet d’essais médicaux. Les dossiers vétérinaires de ces animaux ont révélé des complications liées à l’implantation chirurgicale d’électrodes, ce qui a suscité des inquiétudes quant au bien-être des sujets concernés.

Les puces cérébrales soulèvent également des polémiques concernant la protection de la vie privée et la surveillance. Le principal défi consiste à s’assurer que les entreprises qui développent cette technologie n’ont pas accès à nos pensées.

Si les développements de Neuralink sont prometteurs pour des utilisations humaines potentielles, une question subsiste : quelles sont les conséquences pour les individus ? L’impact à long terme de la technologie sur les sujets humains reste incertain. La soi-disant percée de Neuralink doit être abordée avec prudence, et nous devrions attendre des résultats tangibles démontrant qu’il ne s’agit pas d’une nouvelle opération de promotion.

Élections de 2024 : la bataille contre la désinformation et le rôle des plateformes de médias sociaux

L’IA à l’honneur lors des élections de 2024

En 2024, le paysage mondial sera le théâtre de pléthore d’élections, avec au moins 83 scrutins prévus dans le monde entier. Le développement rapide de la technologie, en particulier de l’IA, a placé les plateformes de médias sociaux sous les feux de la rampe, car elles joueront un rôle crucial dans les campagnes politiques et, par conséquent, dans le résultat des élections. Ce mois-ci, on a assisté à une augmentation notable des mesures proactives sur les plateformes de médias sociaux, qui ont lancé des campagnes pour lutter contre la diffusion de fausses informations et préserver les processus électoraux démocratiques.

Législation nationale

Pour commencer, le nouveau projet de loi d’Hawaï (États-Unis) H.B. 5141 (S-1) sur l’IA et les campagnes politiques exigerait que les publicités politiques générées en totalité ou en grande partie au moyen de l’IA par un candidat ou un comité incluent une déclaration indiquant que cette dernière est générée par l’IA. Dans leur rapport, les fonctionnaires déclarent que ces mesures sont cruciales, car « les campagnes politiques ont déjà utilisé l’IA et certains pensent que la prolifération des images générées par l’IA et d’autres médias pourrait être utilisée pour désinformer les électeurs et interférer avec les élections ».

Le rôle des intermédiaires

Une coalition de 20 grandes entreprises technologiques, dont OpenAI, Microsoft, Adobe, TikTok et X, a lancé une initiative commune pour lutter contre les contenus trompeurs de l’IA susceptibles de menacer les élections mondiales de cette année. Dévoilée lors de la conférence de Munich sur la sécurité, cette initiative répond aux inquiétudes liées à la prolifération rapide de l’IA générative, qui est capable de produire rapidement du texte, des images et des vidéos en réponse à des messages. L’accord souligne les engagements pris en matière de collaboration, notamment en ce qui concerne le développement d’outils d’identification des contenus, les campagnes de sensibilisation du public et les mesures de lutte contre les contenus inappropriés sur leurs plateformes. Parmi les technologies potentielles explorées figurent le filigrane ou l’intégration de métadonnées pour certifier l’origine du contenu généré par l’IA.

Élections européennes

TikTok va lancer un centre électoral au sein de son application, adapté aux diverses langues des États membres de l’UE, afin de lutter contre la désinformation à l’approche des prochaines élections. TikTok cherche à détecter et à supprimer la désinformation et les campagnes d’influence secrètes en collaborant avec les commissions électorales locales, les groupes de la société civile et neuf organisations de vérification des faits. En outre, l’entreprise entend reconnaître et identifier les contenus trompeurs générés par l’IA (AIGC) en demandant aux créateurs de contenu d’étiqueter tout AIGC réaliste.

En outre, Meta a déclaré qu’elle mettra en place une équipe pour lutter contre la propagation de la désinformation et l’utilisation abusive de l’IA générative à l’approche des élections du Parlement européen prévues en juin 2024. À cette occasion, le responsable des affaires européennes de Meta, Marco Pancini, a annoncé son intention de créer un centre d’opérations électorales chargé d’identifier et de traiter les menaces potentielles en temps réel, comme indiqué dans un article de blog.
Enfin, Google a annoncé que son unité Jigsaw, chargée de lutter contre les menaces sociétales, s’apprête à lancer une campagne sur TikTok et YouTube dans cinq pays de l’UE, à savoir la Belgique, la France, l’Allemagne, l’Italie et la Pologne, à l’approche des élections européennes. S’appuyant sur des campagnes antérieures menées en Allemagne et en Europe centrale, Jigsaw lance un nouveau projet dans le cadre duquel les publicités utilisent des techniques de vérification préalable (prebunking) mises au point avec des chercheurs des universités de Cambridge et de Bristol, afin d’aider les téléspectateurs à reconnaître les contenus manipulateurs avant qu’ils ne soient exposés.

Elections and vote tick. Campaigning for voting.

La nouvelle stratégie numérique de l’Allemagne en matière de politique étrangère : entre continuité et changement

L’Allemagne s’est jointe au Danemark, à la Suisse, à l’Australie et à quelques autres pays pour définir sa politique étrangère numérique dans un document stratégique. Cette stratégie s’articule autour de trois piliers : la sauvegarde des droits de l’Homme dans le domaine numérique, la promotion de la croissance dans l’économie numérique mondialisée, et la garantie de la durabilité et de la résilience de la société numérique.

L’accent mis sur les données apparaît comme un thème central, l’Allemagne plaidant en faveur d’un accord international sur la libre circulation des données. La stratégie insiste sur les aspects sécuritaires de la gouvernance des données, marquant un changement par rapport à l’accent mis précédemment sur l’interaction entre le commerce et la vie privée. En outre, elle met davantage l’accent sur l’implication des autorités nationales chargées de la protection des données dans la mise en œuvre des politiques. Toutefois, l’IA n’occupe qu’une place relativement modeste dans la stratégie, puisqu’elle n’est mentionnée que dans deux paragraphes, sans que les raisons potentielles de cette visibilité réduite soient encore élucidées.

Un paradoxe concernant l’inclusion est mis en évidence, la pression exercée pour créer de nouveaux organes de gouvernance numérique pouvant entraver la participation significative des petits acteurs et des groupes défavorisés. La stratégie préconise une approche prudente, s’alignant sur le principe du Bauhaus selon lequel « la forme suit la fonction », suggérant que de nouveaux mécanismes ne devraient être mis en place que si les mécanismes actuels s’avèrent inefficaces.

Il est surprenant de constater que la stratégie ne fait pas directement référence aux négociations de l’OMC sur le commerce électronique, ce qui soulève des questions quant à un éventuel abandon de ces négociations. L’Allemagne entend renforcer sa présence dans les organismes internationaux de normalisation, en mettant l’accent sur le passage de normes purement techniques à la prise en compte des droits fondamentaux dans les processus de normalisation. 

La stratégie reconnaît la tension entre la numérisation industrielle et sociétale, et appelle à des approches innovantes de l’inclusion dans la normalisation qui reflètent les priorités et les capacités des petits pays et des pays en développement.

La stratégie souligne l’importance de la géo-redondance et la nécessité d’éviter les dépendances critiques à l’égard des infrastructures numériques, en particulier les câbles sous-marins et terrestres. Bien que la Chine ne soit pas explicitement mentionnée, la stratégie aborde indirectement des questions numériques pertinentes pour les relations entre l’Allemagne et la Chine, telles que les fuites de technologies et les problèmes de double usage.

La neutralité du réseau, absente des préoccupations politiques depuis un certain temps, fait son retour dans la stratégie allemande. Reste à savoir comment elle sera mise en œuvre dans la pratique.

Le document conclut en soulignant les défis liés à la concrétisation de la stratégie, notamment la conciliation de la tension entre les valeurs et les intérêts, la prise en compte des questions absentes de la stratégie, et l’exploration des complexités de la numérisation de l’industrie et des citoyens.

Une version plus détaillée de ce document est disponible sur le blog de Diplo.

 Advertisement, Poster

Actualités de la Francophonie

 Logo, Text

L’OIF installe à Genève son cockpit pour la gouvernance du numérique et de l’IA

Le 18ème Sommet des Chefs d’Etat et de gouvernement de la Francophonie (Djerba, novembre 2022) avait insisté sur la nécessité de renforcer la position des francophones dans les négociations internationales sur le numérique.  Dans cette perspective, la Secrétaire générale de la Francophonie, Louise Mushikiwabo, avait mis en place un groupe de travail exécutif chargé de lui soumettre des propositions concrètes en six mois. Piloté par le diplomate suisse Martin Dahinden, ancien Ambassadeur à Washington, professeur à l’EPFZ et président d’ICT4Peace, et composé de 9 experts de haut niveau issus d’autant de pays représentatifs de toutes les régions francophones, le GTEN n’a pas failli à sa mission.  Le 15 septembre dernier, il formulait 4 recommandations pratiques : l’établissement d’un centre de ressources agile capable de produire une cartographie dynamique de la gouvernance du numérique et de l’intelligence artificielle ; le développement d’une véritable diplomatie numérique francophone ; la montée en puissance d’une politique de renforcement des capacités numériques des agents publics, des diplomates et des négociateurs ; la mise en évidence des enjeux liés à la découvrabilité et à la diversité numérique des contenus francophones.

 Adult, Female, Person, Woman, Male, Man, Clothing, Formal Wear, Suit, Coat, Face, Head, Accessories, Tie, Louise Mushikiwabo

Validées par la Secrétaire générale et reprises par la 44ème Conférence ministérielle de la Francophonie (Yaoundé, novembre 2023), ces propositions se traduiront dans la programmation quadriennale de l’OIF par la création du programme D-CLIC | Gouverner le numérique et l’IA, projet dédié à la gouvernance du numérique. Logé au sein de la Représentation permanente de l’OIF auprès des Nations Unies à Genève et à Vienne (RPGV), il aura pour Chef de file Henri Eli Monceau, actuel Représentant permanent et ancien Directeur de la Francophonie économique et numérique (DFEN) et, pour Coordonnateur, Antoine Barbry, Conseiller numérique au sein de la RPGV.  

En réseau avec plus d’une dizaine d’entités francophones, ce nouveau centre de ressources pour la gouvernance a débuté ses opérations par l’accompagnement des négociateurs francophones du Pacte numérique mondial.  D’ici l’été, il lancera le réseau d’experts en charge de la cartographie dynamique de la gouvernance et planifie à terme la mise à disposition de nouveaux modes de renforcement des capacités des négociateurs francophones.

Premiers gains sur la découvrabilité et la diversité numérique dans les négociations du PNM

Lors de la première session de consultation formelle organisée les 11 et 12 février derniers par les co-facilitateurs du Pacte numérique mondial (PNM), le Président du Groupe des Ambassadeurs francophones de New York et la Représentante permanente de l’OIF auprès des Nations Unies à New York, Ifigeneia Kontoleontos, avaient été les seuls à revendiquer l’inclusion d’une référence forte à la diversité culturelle et linguistique dans le futur Pacte. Les déclarations prononcées par l’OIF et le GAF pendant ces deux jours de consultations ont manifestement reçu un large écho parmi les Etats membres de l’ONU puisque, alors qu’aucune des précédentes déclarations ne faisait référence aux enjeux de diversité culturelle et linguistique dans l’espace numérique, lors de la seconde session, organisée les 29 février et 1er mars derniers, pas moins d’une quarantaine d’Etats reprenaient cette priorité à leur compte.

Dix déclarations à titre national (Canada, Andorre, Mexique, Portugal, Etats-Unis, Bangladesh, Colombie), au nom de groupes régionaux (UE- AILE) et linguistiques (CPLP) ont repris de diverses manières les messages clés de la Francophonie lors de ce nouveau cycle de consultations qui a clôturé les cycles des consultations multipartites. 

L’UE a par exemple souligné la « nécessité de sauvegarder le multilinguisme et de protéger le rôle des langues moins répandues dans un monde numérique » Le Canada a défendu l’idée de la protection en ligne de la diversité, qui est un grand atout. La Colombie a appelé à intégrer le multilinguisme dans le préambule afin de souligner sa transversalité avec toutes les sections tandis le Bangladesh a plaidé pour un modèle de gouvernance de l’Internet axé sur les valeurs culturelles, appelant à faire du multilinguisme un principe clé du PNM. Abondant dans le même sens, Andorre a invité à préserver le multilinguisme en ligne et remercié les co-facilitateurs pour leurs efforts ayant permis de sécuriser des interprètes pour la session du 29 février. Les Etats-Unis ont appelé à des engagements pour « le renforcement des capacités des individus à utiliser Internet en toute sécurité et dans leur propre langue ». Par ailleurs, prenant la parole pour la première fois depuis le démarrage des consultations sur le PNM, la Communauté des pays de langue portugaise s’est exprimée par la voix du Brésil. Au nom de l’Angola, du Brésil, du Cabo Verde et du Timor-leste, le groupe lusophone a prononcé une déclaration exclusivement axée sur les enjeux de promotion et de protection de la diversité culturelle et linguistique tant dans l’univers numérique que dans les domaines d’action de la coopération digitale, soulignant ainsi la convergence de nos préoccupations et de nos plaidoyers. 

A moins de trois semaines du démarrage officiel des négociations intergouvernementales, il s’agit d’un résultat intermédiaire encourageant qui valide l’approche développée autour de la contribution de la Francophonie déposée au printemps dernier. Il faut maintenant traduire les intentions en actes.  C’est pourquoi l’OIF étudie deux propositions-choc qui ont été soumises le 6 mars à sa Commission économique.  La première consiste à réclamer l’intégration dans le PNM de la Convention de l’UNESCO de 2005 sur la protection et la promotion de la diversité des expressions culturelles.  A l’époque, l’extension du champ d’action de la Convention aux technologies de l’information et de la communication s’était heurtée au veto américain, motivé par la protection de l’industrie des Etats-Unis.  Près de vingt ans plus tard, le contexte a considérablement changé mais nul doute que le débat demeurera animé. La seconde proposition vise à instaurer, dans le Pacte, un principe de transparence applicable, d’une part, à la diversité linguistique et culturelle des données-sources utilisées pour la conception et le développement des outils numériques et, d’autre part, à l’impact sur cette diversité numérique des algorithmes de recommandation.  De beaux échanges en perspectives !

L’OIF rencontre à Genève les membres de l’Organe consultatif de haut niveau sur l’intelligence artificielle 

Les risques que présente l’intelligence artificielle sur les droits humains, l’aggravation du fossé numérique, les effets du développement de l’IA dans un contexte de crise énergétique ou la préservation de la diversité culturelle et linguistique, tels ont été les priorités avancées dans les locaux de la Représentation de l’OIF à Genève par plus de 35 Ambassadeurs et experts francophones en poste à Genève et une trentaine de participants en ligne basés à New York, Adis Abeba ou Paris lors de la rencontre tenue le 12 mars avec plusieurs membres de l’Organe consultatif de l’ONU sur l’intelligence artificielle accompagnés de l’Envoyé spécial du Secrétaire général des Nations Unies pour les technologies.

Cette réunion, l’unique tenue en français pendant la mission à Genève des membres de cet Organe consultatif, a connu un très grand succès, témoignant de l’intérêt de toutes les missions diplomatiques pour les problématiques liées à l’intelligence artificielle, alors que les négociations intergouvernementales sur le projet de rapport, qui contribuera au Sommet de l’avenir en septembre prochain à New York, vont débuter dans les jours qui viennent.

Ce rapport intérimaire de l’Organe consultatif s’est longuement penché sur la question des risques ou de l’inclusivité de l’IA, mais la communauté diplomatique francophone a marqué sa disponibilité pour aider l’Organe à opérationnaliser certains principes et aborder de manière plus précise la question centrale de la diversité culturelle et linguistique, au fondement de l’universalité et de l’inclusivité.

Au terme de riches débats, L’OIF, par la voix de son représentant permanent à Genève M. Henri Monceau a conclu la réunion en confirmant la poursuite de l’engagement de l’OIF auprès des délégations francophones tout au long du processus. Plusieurs sessions de sensibilisation et de renforcement des capacités sont ainsi prévues à New York ou ailleurs d’ici le mois de septembre.

 People, Person, Adult, Male, Man, Crowd, Accessories, Formal Wear, Tie, Cup, Glasses, Wristwatch, Clothing, Footwear, Shoe, Audience, Pen, Hat, Indoors, Debate, Speech, Head, Chair, Furniture, Face, Abdulsalami Abubakar

Événements à venir :

  • Atelier de haut niveau en ligne le 28 mars sur les défis de l’acceptance universelle pour les pays francophones, dans le cadre de la célébration par ICANN de la Journée de l’Acceptance universelle

DW Weekly #150 – 8 March 2024

 Page, Text

Dear readers,

India’s IT ministry issued an advisory requiring tech firms to seek approval before releasing AI tools. OpenAI highlighted its commitment to responsible AI development amid legal disputes. Meanwhile, the NSO Group is compelled to hand over the Pegasus code in a WhatsApp legal battle. In other legal news, the EU fined Apple for antitrust violations, sparking an appeal from the tech giant. The EU agreed on the Cyber Solidarity Act in response to mounting cyber threats. The WTO E-commerce Moratorium on custom duties has been renewed, and Bitcoin neared record highs. UN Women emphasised the need for inclusive digital governance to bridge the gender digital gap.

For more digital policy news, visit dig.watch. Stay in the loop with quick, engaging updates that cut through the complexity of the digital landscape with DW shorts and Byte-sized insights.

Let’s get started, 

Andrijana and the Digital Watch team


Highlights from the week of 1-8 March 2024

global connections business internet country india india map stockpack istock scaled
India’s IT ministry issues advisory on approval and labelling of AI tools
India’s Ministry of Electronics and IT has issued an advisory requiring tech firms to obtain government permission before launching new AI models. Read more.
global connections business internet country india india map stockpack istock scaled
India’s IT ministry issues advisory on approval and labelling of AI tools
India’s Ministry of Electronics and IT has issued an advisory requiring tech firms to obtain government permission before launching new AI models. Read more.
artificial intelligence ai infographic illustration fantastic computer center
OpenAI pledges to responsible AI development amidst legal battle with Elon Musk
This move comes a few days after Elon Musk filed a lawsuit against OpenAI, accusing the firm of prioritising profit over humanity’s welfare. Musk’s case alleges that OpenAI, which he co-founded with Sam Altman and others in 2015, has veered from its founding mission. Read more.
artificial intelligence ai infographic illustration fantastic computer center
OpenAI pledges to responsible AI development amidst legal battle with Elon Musk
This move comes a few days after Elon Musk filed a lawsuit against OpenAI, accusing the firm of prioritising profit over humanity’s welfare. Musk’s case alleges that OpenAI, which he co-founded with Sam Altman and others in 2015, has veered from its founding mission. Read more.

a person sees a white inscription on a black smartphone display that holds in his hand spyware
NSO Group forced to turn over Pegasus code in WhatsApp legal battle
A California federal judge ordered the Israeli company to disclose its secret code in response to allegations of spyware exploitation, potentially impacting NSO’s operations amid widespread concerns over privacy breaches. Read more.
a person sees a white inscription on a black smartphone display that holds in his hand spyware
NSO Group forced to turn over Pegasus code in WhatsApp legal battle
A California federal judge ordered the Israeli company to disclose its secret code in response to allegations of spyware exploitation, potentially impacting NSO’s operations amid widespread concerns over privacy breaches. Read more.
waygsck20h8
EU fines Apple €1.8B for Spotify antitrust case, Apple to appeal
Apple expressed its intent to contest the EU’s decision in court, stating the ruling disregards the lack of credible proof of consumer harm and overlooks a flourishing and competitive market. Read more.
waygsck20h8
EU fines Apple €1.8B for Spotify antitrust case, Apple to appeal
Apple expressed its intent to contest the EU’s decision in court, stating the ruling disregards the lack of credible proof of consumer harm and overlooks a flourishing and competitive market. Read more.

padlock and laptop keyboard cyber security concept
EU Cyber Solidarity Act agreed upon in response to escalating cyberattacks
The act seeks to bolster the EU’s cyber resilience by implementing a European Cybersecurity Alert System, a Cybersecurity Emergency Mechanism, and a European Cybersecurity Incident Review Mechanism, alongside amendments enabling European certification schemes for managed security services to enhance trust and transparency in procurement processes. Read more.
padlock and laptop keyboard cyber security concept
EU Cyber Solidarity Act agreed upon in response to escalating cyberattacks
The act seeks to bolster the EU’s cyber resilience by implementing a European Cybersecurity Alert System, a Cybersecurity Emergency Mechanism, and a European Cybersecurity Incident Review Mechanism, alongside amendments enabling European certification schemes for managed security services to enhance trust and transparency in procurement processes. Read more.

wto building e1666865932105
Renewal or beginning of the end of WTO’s e-commerce moratorium?
The 13th Ministerial Conference of the World Trade Organization (WTO) concluded with the renewal of the e-commerce moratorium and the Work Programme on e-commerce. However, the change of wording signals the beginning of the end of the e-commerce moratorium. Read more.
wto building e1666865932105
Renewal or beginning of the end of WTO’s e-commerce moratorium?
The 13th Ministerial Conference of the World Trade Organization (WTO) concluded with the renewal of the e-commerce moratorium and the Work Programme on e-commerce. However, the change of wording signals the beginning of the end of the e-commerce moratorium. Read more.
bitcoin price
Bitcoin soars close to an all-time high price
The approval of the bitcoin ETFs, which created an institutional demand, and the ‘halving’ event helped bitcoin to reach record heights again Read more.
bitcoin price
Bitcoin soars close to an all-time high price
The approval of the bitcoin ETFs, which created an institutional demand, and the ‘halving’ event helped bitcoin to reach record heights again Read more.

Womens Day
Bridging the gender digital gap: UN Women’s call for inclusive digital governance in 2024
Addressing the gender digital gap is crucial for women’s empowerment. UN Women’s paper advocates for a transformative Global Digital Compact in 2024, urging inclusive policies and dismantling gender barriers. Read more.
Womens Day
Bridging the gender digital gap: UN Women’s call for inclusive digital governance in 2024
Addressing the gender digital gap is crucial for women’s empowerment. UN Women’s paper advocates for a transformative Global Digital Compact in 2024, urging inclusive policies and dismantling gender barriers. Read more.


#ICYMI

Are cognitive tools shaping our digital future, or are they just creating buzz?
Join the discussion!


Reading corner
Newsletter banner MARCH 2024 DW Banner 900x736px header
Digital Watch newsletter – Issue 87 – March 2024
In our March issue of the Digital Watch Monthly, we look at the latest negotiations at the Ad Hoc Committee on Cybercrime, where agreement on UN cybercrime convention remained elusive, Musk’s brain chip, 2024 elections and misinformation, and Germany’s first digital policy strategy. Read more.
Newsletter banner MARCH 2024 DW Banner 900x736px header
Digital Watch newsletter – Issue 87 – March 2024
In our March issue of the Digital Watch Monthly, we look at the latest negotiations at the Ad Hoc Committee on Cybercrime, where agreement on UN cybercrime convention remained elusive, Musk’s brain chip, 2024 elections and misinformation, and Germany’s first digital policy strategy. Read more.
2024%2F03%2Fwaving flags world flag united nations waved highly detailed close up 3d render
Decision postponed on the Cybercrime Convention: What you should know about the latest session of the UN negotiations
The concluding session of the Ad Hoc Committee on Cybercrime ended, but consensus on a draft cybercrime convention has not been reached. Therefore, it was decided that an additional session would be held. In the meantime, where have states not agreed and why? Read more.
2024%2F03%2Fwaving flags world flag united nations waved highly detailed close up 3d render
Decision postponed on the Cybercrime Convention: What you should know about the latest session of the UN negotiations
The concluding session of the Ad Hoc Committee on Cybercrime ended, but consensus on a draft cybercrime convention has not been reached. Therefore, it was decided that an additional session would be held. In the meantime, where have states not agreed and why? Read more.
WTO buliding
WTO e-commerce Moratorium: The last renewal? – Diplo
WTO Members gathered in Abu Dhabi for the 13th Ministerial Conference agreed to extend the current Moratorium on Customs Duties on Electronic Transmissions until the next ministerial meeting, or until 31 March 2026, whichever is earlier. In spite of that, this could be the beginning of the end of the Moratorium: this is likely to be the last renewal. Read more.
WTO buliding
WTO e-commerce Moratorium: The last renewal? – Diplo
WTO Members gathered in Abu Dhabi for the 13th Ministerial Conference agreed to extend the current Moratorium on Customs Duties on Electronic Transmissions until the next ministerial meeting, or until 31 March 2026, whichever is earlier. In spite of that, this could be the beginning of the end of the Moratorium: this is likely to be the last renewal. Read more.
Digital Accessibility
Pave the way to digital accessibility: 15 do’s and don’ts 
Digital accessibility is essential when creating online content to ensure inclusivity. This listicle provides some best practices, including do’s and don’ts, that can make an immediate difference. Read more.
Digital Accessibility
Pave the way to digital accessibility: 15 do’s and don’ts 
Digital accessibility is essential when creating online content to ensure inclusivity. This listicle provides some best practices, including do’s and don’ts, that can make an immediate difference. Read more.

Digital Watch newsletter – Issue 87 – March 2024

 Advertisement, Poster, Page, Text, Baby, Person, Face, Head

Snapshot: The developments that made waves

Global governance

Co-facilitators have delineated the possible elements of the Global Digital Compact (GDC). 

AI governance

China and Russia have decided to work together on the military implementation of AI. The US Department of Justice appointed its first Chief AI Officer, while Japan initiated a comprehensive legislative push in 2024 to join the race for global AI regulation. The EU Commission has established a working group comprising officials from member states to tackle inquiries about the AI Act. The UK’s AI minister has offered to work with the EU on AI policy and copyright issues.

OpenAI’s CEO has advocated for the UAE policy environment as a potential global AI regulatory sandbox. Meanwhile, Nvidia’s CEO emphasised the imperative for countries to establish their independent AI infrastructure

GSMA, INNIT, Lenovo Group, LG AI Research, Mastercard, Microsoft, Salesforce, and Telefonica have pledged to apply the UN Educational, Scientific, and Cultural Organization’s (UNESCO) Recommendation on the Ethics of AI.

French MPs expressed concerns over the Mistral AI and Microsoft partnership, citing worries about competition and data sovereignty in the cloud sector.

OpenAI introduced Sora, an AI tool capable of generating videos from text commands. The company also introduced a new personal memory feature for ChatGPT, which aims to improve the chatbot’s ability to remember user preferences, conversations, and other relevant information. Microsoft has announced principles to foster innovation and competition within the field of AI.Google plans to relaunch the Gemini AI image generation tool after a temporary pause to fix inaccuracies in historical depictions generated by the app.

Technologies

As part of its New Growth 4.0 strategy, the South Korean government plans to introduce cloud services powered by quantum computing. The World Semiconductor Council (WSC) has urged India to reconsider its proposed tariffs on digital e-commerce and data transfers, cautioning that such measures may impede the growth of India’s chip design sector. 

Infrastructure

China has launched a satellite for testing 6G technology. The USA and its allies have endorsed shared principles for developing 6G technology. The EU Gigabit Infrastructure Act will end intra-EU call charges by 2029, upholding the voluntary tacit approval principle. The Houthi threat to critical submarine cables in the Red Sea raised concerns. The European Commission has unveiled a package to boost the innovation, security, and resilience of digital infrastructures in Europe.

Cybersecurity

An analysis by Microsoft and OpenAI highlighted how threat actors are currently using large language models (LLMs). The National Institute of Standards and Technology (NIST) released the Cybersecurity Framework 2.0. which aims to help all organisations manage and reduce risks.

International law enforcement agencies achieved notable success by disrupting the operations of the LockBit ransomware gang. However, this brief respite was overshadowed by the gang’s comeback shortly after. A collective warning issued by the FBI, CISA, and HHS, cautioned against the ALPHV/BlackCat ransomware specifically targeting the US healthcare sector. The advisory comes after a BlackCat cyberattack on UnitedHealth Group, leading to an outage affecting Change Healthcare, a pivotal payment exchange platform in the US healthcare system.

The Pall Mall Process, a multistakeholder initiative to tackle spyware, was launched at a conference convened by the UK and France with representatives from 35 nations, alongside major tech companies like Google, Microsoft, and Meta.

Human rights

President Biden issued an executive order authorising the attorney general to prevent the large-scale transfer of US citizens’ personal data to ‘countries of concern’ such as China, Russia, North Korea, Iran, Cuba, and Venezuela. Portugal mandated telecom companies to ensure equal access for individuals with disabilities, requiring tailored equipment, software, and tariffs effective from 28 June 2025.

Legal

Elon Musk is suing OpenAI, claiming a departure from the organisation’s founding principles of prioritising technology for humanity over profits, which OpenAI leadership refuted. OpenAI has requested a federal judge to dismiss parts of the New York Times’ copyright lawsuit against it, claiming that the newspaper used misleading prompts, causing ChatGPT to generate misleading evidence. The US Patent and Trademark Office (USPTO) issued guidance for inventions assisted by AI, emphasising human contributions for patent eligibility

Internet economy

A draft of the digital trade protocol to the African Continental Free Trade Area (AfCFTA) has been circulated. Countries agreed to extend a moratorium on placing tariffs on digital goods at the WTO 13th Ministerial Conference (MC13). The European Commission imposed a EUR 1.8 billion fine on Apple for restricting music streaming services from offering alternative payment options outside its App Store. Bitcoin experienced a rally in price due to the approval of exchange traded funds (ETF) in the USA and a planned reduction of miner rewards.

Development

Nigeria initiated a nationwide effort to expand internet access. Sudan has experienced a widespread internet shutdown affecting over 14 million people, while Pakistan’s election day mobile service suspension raises digital rights concerns.

The UAE unveiled a USD 200 million technology fund for developing nations. A USD 9 billion commitment to ITU’s universal connectivity drive is set to benefit millions.

Sociocultural

The EU has enacted the Digital Services Act (DSA), fortifying online safety and governance. An investigation into TikTok has been launched under the DSA. The EU Parliament has adopted rules to enhance trust and transparency in election campaigns. Canada’s Online Harms Act has set its sights on harmful content and internet giants. 

THE TALK OF THE TOWN – GENEVA

On 20 February, the World Health Organization (WHO) launched the Global Initiative on Digital Health (GIDH), a WHO-managed network that augments resources in country-led digital health transformation by fostering knowledge sharing and collaborations. The initiative aims to assess and prioritise country needs, build capacity to encourage local developments and accelerate the achievement of strategic goals listed in WHO’s Global Strategy on Digital Health 2020-2025.
The International Labour Organization (ILO) hosted the research seminar Behind the AI Curtain: The Invisible Workers Powering AI Development. The seminar shed light on the significant amount of human labour, often from developing countries, behind the advancement of AI technologies and the precarious working conditions such labourers face. The seminar presented research insights on the much-needed ethical considerations for hidden human labour and called on policymakers and labour advocates to protect the rights of these invisible AI workers. 


Agreement on UN cybercrime convention elusive

The UN’s Ad Hoc Committee on Cybercrime (AHC) met in New York from 29 January to 9 February 2024 for its concluding session after 2 years of negotiations. However, significant progress was lacking, particularly regarding the convention’s scope. Additional meetings were deemed necessary, though some states expressed concerns about resource strain. 

Negotiations were split between formal sessions and closed-door informal meetings that focused on sensitive issues but reduced transparency and excluded input from the multistakeholder community. 

In the last days of the concluding sessions, there was increased pressure from civil society and industry, as well as cybersecurity researchers.

 Book, Comics, Publication, People, Person, Face, Head, Art, Baby, Drawing, Mitsutoshi Shimabukuro

Issues with the draft convention that still require resolution include:

Scope of the convention and criminalisation 

One main unresolved issue is whether the cybercrime convention should cover all crimes committed via ICT or not. Canada made a proposal, supported by 66 states, to insert a broad wording of the actions that may fall within the scope of the convention. 

At the same time, Russia insisted on more extensive measures against terrorism and criticised the draft, highlighting that ‘many articles are simply copied from treaties that are 20 years old.’ In the same vein, Iran, Egypt, and Kuwait see the primary mandate of the AHC to elaborate a comprehensive international convention on the use of ICT for criminal purposes and see the inclusion of human rights regulations and detailed international collaboration as duplication of already existing international treaties.  

Civil society, private entities, and academia stressed limiting the convention’s scope to protect rights and cybersecurity. 

Human rights and safeguards 

Delegations also struggled with human rights and safeguards provisions. Iran proposed a model similar to the UN Convention against Corruption, omitting explicit human rights references, but didn’t receive support from many other delegations. Egypt and others criticised repetitive human rights provisions in the text and questioned the singling out of the principle of proportionality in Article 24. 

There were debates over including ‘legality’ alongside proportionality, with Brazil’s proposal finding support from Ecuador. 

As a result, both articles remain without text in the further revised draft text of the convention

Transfer of technology and technical assistance

The topic of technology transfer arose in Articles 1 and 54 of the convention. While African countries pushed for its inclusion in both, the USA advocated for it to be solely in Article 54. 

Disagreements persisted over the language in Article 54(1), with the USA and several other delegations proposing additional terms opposed by several African countries and others. In particular, African countries and others opposed inserting ‘voluntary’ before ‘where possible’ and ‘on mutually agreed terms’ in the context of how capacity building shall be provided between states. They argued that it would undermine the purpose of the provision in ensuring effective assistance to developing countries. Eventually, the USA withdrew its suggestion, leaving room for further negotiation on the draft text of the convention.

Scope of international cooperation

Delegations held differing views on cooperation regarding electronic evidence, particularly in Articles 35(1)(c), 35(3), and 35(4). The draft convention allowed countries to collect data across borders without prior legal authorisation. However, several countries, including New Zealand, Canada, and the EU, raised concerns about the broad application of Article 35, fearing it might lead to the pursuit of non-criminal activities. On the other hand, states like Egypt, Saudi Arabia, and Iran called for the removal of Article 35(3) altogether. 

New Zealand also proposed a non-discrimination clause in Article 37(15) on extradition to prevent unfair grounds for refusing cooperation. However, member states couldn’t agree on the language and left this open. 

Delegations held debates about Articles 45 and 46 around changing ‘shall’ to ‘may’, potentially providing states with the option rather than the obligation to cooperate. While some supported this change, others, including Egypt and Russia, preferred to retain ‘shall’ for robust cooperation. 

The revised draft text of the convention includes both options in brackets, reflecting the ongoing discussions.

Preventive measures 

Several delegations were confused about the term ‘stakeholders’ in Article 53 regarding preventive measures. Egypt proposed its removal unless clearly defined, but the USA disagreed. The revised draft replaced ‘stakeholders’ with ‘relevant individuals and entities’, but consensus on the paragraph is pending. 

Additionally, disagreement persisted in Article 53(3)(h) on mentioning ‘gender-based violence’, with some advocating for its deletion. Ultimately, the term remained. In Article 41, concerning the 24/7 network, India proposed incorporating requirements for prevention by law enforcement entities, supported by Russia, Kazakhstan, and Belarus, but opposed by the USA, UK, and others.

What’s next?

Delegations agreed to postpone the final decision, with the chair’s further revised draft text of the convention available on the AHC’s website. Future meeting dates will be announced soon. 

Despite progress on several issues behind closed doors, reaching a consensus on the cybercrime convention before the UN General Assembly remains uncertain. Ongoing non-public negotiations between delegations could potentially expedite the process. We will continue to monitor the negotiations and, in the meantime, you can discover more through our detailed reports from each session generated by DiploAI.

A longer version of this blog is available on the Digital Watch Observatory.


Musk’s brain chip: scientific breakthrough or sensationalism?

Elon Musk’s brain-chip startup, Neuralink, has allegedly successfully implanted a brain chip in a human patient who has since fully recovered. Musk disclosed that the patient can now control a computer mouse using their thoughts alone. 

Understanding Neuralink’s technology

The technology behind Neuralink, known as ‘the Link’, involves a coin-sized brain chip surgically placed under the human skull. This implant, connected to neural threads distributed throughout various areas of the brain controlling motor skills, receives and decodes neural signals. In simple terms, it measures brain activity and interprets it as actions.

Neuralink envisions a future where individuals can manipulate keyboards and mice using only their thoughts. The technology’s ability to decode brain activity as actions holds promising potential for individuals with limited mobility or speech impairments.

 Cutlery, Wristwatch, machine, Spoke, Spoon, Smoke Pipe, Electronics

Neuralink in perspective: a look at BCIs

Neuralink’s chip is not the first device implanted in a human brain. Currently, more than 40 brain-computer interface (BCI) trials are underway in the USA alone. More than 200,000 people worldwide already use a BCI, primarily for medical reasons. The most well-known common devices of this type are hearing aids that help people with hearing impairments to hear better.

Still, Elon Musk’s announcement made quite a stir among the scientific community and the public. Musk has a history of making bold promises, but his track record in fulfilling them is inconsistent.

Despite Musk’s assurance of a complete patient recovery without any side effects, the medical community remains cautious due to the lack of substantial evidence supporting his claims. 

Human trials and safety concerns

Though approved by the US Food and Drug Administration (FDA), the beginning of human trials has triggered concerns about volunteer safety due to the scarcity of details about the trial, transparency, and information sharing.

From a legal standpoint, Neuralink is in the clear, as the FDA does not require reporting of early feasibility studies. However, some medical experts caution that the complexity of the surgery involved in opening up the brain raises ethical considerations. Inserting a device into a living human being, especially someone with medical problems, demands more comprehensive reporting and transparency. Current (human) research subjects, all potential future research subjects, the medical community, and the public at large deserve to know more.

Neuralink’s journey into BCIs has not been without controversy. Initial experiments involved subjects such as monkeys and pigs, with a 2021 viral video showcasing a chimpanzee playing the classic video game Pong using mind control.

However, behind the scenes, the company has come under fire for a significant number of euthanisations of primates that underwent medical trials. Veterinary records of these animals demonstrated complications arising from surgically implanted electrodes, raising concerns about the well-being of the subjects involved.

Brain chips also raise controversies regarding privacy and surveillance. The primary challenge is ensuring that companies developing this technology do not have access to our thoughts.

While Neuralink’s developments hold promise for potential human applications, the lingering question remains: What are the consequences for people? The technology’s long-term impact on human subjects remains uncertain. Neuralink’s so-called breakthrough must be approached with caution, and we should await tangible results that demonstrate that it’s not just another marketing trick.


2024 Elections: The misinformation battle and the role of social media platforms

All eyes on AI during the 2024 elections

In 2024, the global stage is set for a plethora of elections, with at least 83 slated worldwide. The rapid development of technology, especially AI, has put social media platforms in the spotlight, as they will play a crucial role in political campaigns and, thus, the result of the elections. This month has witnessed a notable surge in proactive measures on social media platforms, launching campaigns to combat the spread of misinformation and safeguard democratic election processes.

National legislation

To begin with, Hawaii’s (USA) new H.B. 5141 (S-1) bill on AI and political campaigns would require political advertisements generated in whole or substantially with the use of AI by a candidate or committee to include a statement that the advertisement is AI-generated. In their brief, officials stated that such measures are crucial because ‘political campaigns have already used AI, and some believe that the proliferation of AI-generated images and other media could be used to misinform voters and interfere with elections.’ 

The role of intermediaries

A coalition of 20 major tech companies, including OpenAI, Microsoft, Adobe, TikTok, and X, has declared a joint initiative to combat deceptive AI content potentially threatening global elections this year. Unveiled during the Munich Security Conference, the effort addresses concerns over the rapid proliferation of generative AI, which is proficient in swiftly generating text, images, and video in response to prompts. The accord outlines commitments to collaborative endeavours, including developing tools for content identification, public awareness campaigns, and measures against inappropriate content on their platforms. Potential technologies explored include watermarking or embedding metadata to certify the origin of AI-generated content.

EU elections 

TikTok will launch an Election Centre within its app, tailored to EU member states’ languages, to combat misinformation ahead of the upcoming election year. TikTok aims to detect and remove misinformation and covert influence campaigns by collaborating with local electoral commissions, civil society groups, and nine fact-checking organisations. Additionally, the company aims to recognise and identify misleading AI-generated content (AIGC) by requiring content creators to label any realistic AIGC. 

In addition, Meta stated that it will establish a team to tackle the spread of disinformation and the misuse of generative AI in the lead-up to the European Parliament elections scheduled for June 2024. Namely, Meta’s Head of EU Affairs, Marco Pancini, announced plans to establish an Elections Operations Centre tasked with identifying and addressing potential threats in real-time, as stated in a blog post.

Lastly, Google announced that its Jigsaw Unit, dedicated to addressing societal threats, is set to launch a campaign across TikTok and YouTube in five  EU countries, including Belgium, France, Germany, Italy, and Poland, ahead of EU elections. Expanding on past campaigns in Germany and central Europe, Jigsaw is launching a new project where ads employ prebunking techniques developed with researchers from the Universities of Cambridge and Bristol, helping viewers recognise manipulative content before exposure.

Elections and vote tick. Campaigning for voting.

Germany’s new digital foreign policy strategy: Between continuity and change

Germany has joined Denmark, Switzerland, Australia, and a few other countries in outlining its digital foreign policy in a strategic document. The strategy revolves around three pillars: safeguarding human rights in the digital realm, fostering prosperity in the globalised digital economy, and ensuring sustainability and resilience in the digital society. 

The focus on data emerges as a central theme, with Germany advocating for an international agreement on the free flow of data. The strategy emphasises security aspects of data governance, marking a shift from its previous emphasis on the interplay between trade and privacy. Additionally, there is a stronger emphasis on involving national data protection authorities in policy implementation. However, AI receives relatively low prominence in the strategy, mentioned briefly in two paragraphs, with potential reasons for this reduced visibility yet to be clarified.

A paradox about inclusion is highlighted, where the pressure to create new bodies for digital governance may hinder the meaningful participation of smaller actors and disadvantaged groups. The strategy urges a cautious approach, aligning with the Bauhaus principle of ‘form follows function’, suggesting that new mechanisms should only be established if current ones prove ineffective.

Surprisingly, the strategy lacks direct references to WTO e-commerce negotiations, raising questions about a potential shift away from such negotiations. Germany aims to increase its presence in international standardisation bodies, emphasising a shift from purely technical standards to considering fundamental rights in standardisation processes. The strategy acknowledges the tension between industrial and societal digitalisation and calls for innovative approaches to inclusion in standardisation that reflect the priorities and capacities of smaller and developing countries.

The strategy emphasises the importance of geo-redundancy and avoiding critical dependencies on digital infrastructure, particularly submarine and terrestrial cables. While China is not explicitly mentioned, the strategy indirectly touches upon digital issues relevant to Germany-China relations, such as technology leakage and dual-use concerns.

Net neutrality, absent from policy focus for some time, makes a return in the German strategy. How it will be implemented practically remains to be seen.

The document concludes by outlining the challenges in implementing the strategy, including reconciling the tension between values and interests, addressing issues missing from the strategy, and navigating the complexities of industrial and citizen digitalisation.

A longer version of this text is available on Diplo’s blog roll.

shutterstock 2308365389 1
New Germany’s digital foreign policy strategy: Between continuity and change
Diplo’s Executive Director, Jovan Kurbalija, takes a look at Germany’s first digital policy strategy, a document that is set to serve as a framework that promotes more proactive policymaking on digital issues while being attentive to the protection of human rights and access to free internet.
shutterstock 2308365389 1
New Germany’s digital foreign policy strategy: Between continuity and change
Diplo’s Executive Director, Jovan Kurbalija, takes a look at Germany’s first digital policy strategy, a document that is set to serve as a framework that promotes more proactive policymaking on digital issues while being attentive to the protection of human rights and access to free internet.

DW Weekly #149 – 1 March 2024

 Page, Text

Dear readers,

In the unfolding saga of the Global Digital Compact (GDC), co-facilitators unveiled its possible elements, inviting UN member states, observers and stakeholders to comment. 

Microsoft and Google led the charge in AI, with Microsoft promoting innovation and competition, while Google revamped Gemini AI image generation.

Elon Musk sued OpenAI for prioritising profit over humanity, while OpenAI accused the New York Times of alleged deceptive tactics in a copyright lawsuit. 

China unveiled a comprehensive cybersecurity plan, NIST published Cybersecurity Framework 2.0, and warnings were issued against ALPHV/BlackCat ransomware targeting the US healthcare sector.

The USA and allies endorsed shared principles for 6G development. A monumental USD 9 billion commitment to ITU’s connectivity drive is poised to benefit millions.

Let’s get started, 

Andrijana and the Digital Watch team


Highlights from the week of 23 February-1 March 2024

Global Digital Compact home
Possible elements of the Global Digital Compact outlined by co-facilitators
Member states, observers, and stakeholders are invited to provide their input and comments. Read more.
Global Digital Compact home
Possible elements of the Global Digital Compact outlined by co-facilitators
Member states, observers, and stakeholders are invited to provide their input and comments. Read more.

1524167e 54ef 4a3f a7f3 00814510c175
Microsoft announces principles to promote innovation and competition in AI technology
The announcement aligns with recent initiatives in Europe, including $5.6 billion in AI data centre investments and skilling programs reaching over a million people. Read more.
1524167e 54ef 4a3f a7f3 00814510c175
Microsoft announces principles to promote innovation and competition in AI technology
The announcement aligns with recent initiatives in Europe, including $5.6 billion in AI data centre investments and skilling programs reaching over a million people. Read more.
businessman suit holds google logo
Google to relaunch Gemini AI image generation after addressing inaccuracies
Google DeepMind CEO Demis Hassabis stated that the tool was taken offline to fix the issues and will be back online soon. Read more.
businessman suit holds google logo
Google to relaunch Gemini AI image generation after addressing inaccuracies
Google DeepMind CEO Demis Hassabis stated that the tool was taken offline to fix the issues and will be back online soon. Read more.

canada flag is depicted on the screen with the program code 1
Canada’s Online Harms Act targets harmful content and internet giants
Canada introduced the Online Harms Act to control and remove harmful content. The law holds companies responsible for reducing exposure to damaging material, including bullying, extremism, and violence. Read more.
canada flag is depicted on the screen with the program code 1
Canada’s Online Harms Act targets harmful content and internet giants
Canada introduced the Online Harms Act to control and remove harmful content. The law holds companies responsible for reducing exposure to damaging material, including bullying, extremism, and violence. Read more.
photo of european union flag waving eu flag
The EU Parliament adopts rules to enhance trust and transparency in election campaigns
The EU Parliament’s adoption of new rules aims to enhance citizens’ trust in election campaigns and combat disinformation and foreign interference. Read more.
photo of european union flag waving eu flag
The EU Parliament adopts rules to enhance trust and transparency in election campaigns
The EU Parliament’s adoption of new rules aims to enhance citizens’ trust in election campaigns and combat disinformation and foreign interference. Read more.
march 16 2022 brazil this photo illustration woman holds smartphone with facebook logo displayed screen with meta platforms logo displayed background
Meta takes action against disinformation and AI misuse ahead of EU elections
Facebook owner Meta plans to tackle disinformation and the abuse of generative AI leading up to the European Parliament elections in June. Read more.
march 16 2022 brazil this photo illustration woman holds smartphone with facebook logo displayed screen with meta platforms logo displayed background
Meta takes action against disinformation and AI misuse ahead of EU elections
Facebook owner Meta plans to tackle disinformation and the abuse of generative AI leading up to the European Parliament elections in June. Read more.

Elon Musk sues OpenAI for allegedly prioritising profit over the benefit of humanity
Elon Musk sues OpenAI, alleging a profit-driven shift, GPT-4 secrecy, and hindrance to Artificial General Intelligence (AGI) research. Musk alleges breach of founding agreement prioritising technology for humanity over profits. Read more.
Elon Musk sues OpenAI for allegedly prioritising profit over the benefit of humanity
Elon Musk sues OpenAI, alleging a profit-driven shift, GPT-4 secrecy, and hindrance to Artificial General Intelligence (AGI) research. Musk alleges breach of founding agreement prioritising technology for humanity over profits. Read more.
OpenAi and Microsoft
OpenAI accuses New York Times of alleged deceptive tactics in copyright lawsuit
OpenAI has requested a federal judge to dismiss parts of the New York Times’ copyright lawsuit against it, claiming that the newspaper caused the company’s chatbot, ChatGPT to generate misleading… Read more.
OpenAi and Microsoft
OpenAI accuses New York Times of alleged deceptive tactics in copyright lawsuit
OpenAI has requested a federal judge to dismiss parts of the New York Times’ copyright lawsuit against it, claiming that the newspaper caused the company’s chatbot, ChatGPT to generate misleading… Read more.
virtual creative lock illustration with microcircuit usa flag blurry skyscrapers background cyber security concept
President Biden issues executive order to enhance sensitive data protection
Biden’s executive order requests stronger safeguards of US citizens and government officials’ personal data from ‘countries of concern.’ Read more.
virtual creative lock illustration with microcircuit usa flag blurry skyscrapers background cyber security concept
President Biden issues executive order to enhance sensitive data protection
Biden’s executive order requests stronger safeguards of US citizens and government officials’ personal data from ‘countries of concern.’ Read more.

close up button with china flag black keyboard
China unveils comprehensive cybersecurity plan amid growing tensions with the US
The initiative includes measures such as emergency drills, data security training, and regulatory tightening in response to rising concerns over data breaches and unauthorised access to sensitive information. Read more.
close up button with china flag black keyboard
China unveils comprehensive cybersecurity plan amid growing tensions with the US
The initiative includes measures such as emergency drills, data security training, and regulatory tightening in response to rising concerns over data breaches and unauthorised access to sensitive information. Read more.
cyber security concept
NIST publishes long-awaited Cybersecurity Framework 2.0
The document provides organisations with updated guidance to navigate modern cybersecurity challenges and bolster their resilience against evolving threats. Read more.
cyber security concept
NIST publishes long-awaited Cybersecurity Framework 2.0
The document provides organisations with updated guidance to navigate modern cybersecurity challenges and bolster their resilience against evolving threats. Read more.
0fqneb1vjam
FBI, CISA, and HHS warn against ALPHV/BlackCat ransomware targeting US healthcare sector
The advisory comes amidst growing concerns over cyber threats to critical infrastructure, urging organisations to bolster their cybersecurity defences against evolving tactics employed by ransomware operators. Read more.
0fqneb1vjam
FBI, CISA, and HHS warn against ALPHV/BlackCat ransomware targeting US healthcare sector
The advisory comes amidst growing concerns over cyber threats to critical infrastructure, urging organisations to bolster their cybersecurity defences against evolving tactics employed by ransomware operators. Read more.

6g network connecting technology concept
US and allies back shared principles for 6G development
The US and several international partners have endorsed shared principles for developing 6G wireless communication systems, in a bid to ensure open, free, global, interoperable, reliable, resilient, and secure connectivity. Read more.
6g network connecting technology concept
US and allies back shared principles for 6G development
The US and several international partners have endorsed shared principles for developing 6G wireless communication systems, in a bid to ensure open, free, global, interoperable, reliable, resilient, and secure connectivity. Read more.

close up friends hands play with smartphone together
Millions to benefit from the USD 9 billion commitment to ITU’s universal, meaningful connectivity drive
The ITU welcomes a pledge of USD $9 billion and 1000 additional partners to its Parner2Connect Digital Coalition during the 2024 MWC. Read more.
close up friends hands play with smartphone together
Millions to benefit from the USD 9 billion commitment to ITU’s universal, meaningful connectivity drive
The ITU welcomes a pledge of USD $9 billion and 1000 additional partners to its Parner2Connect Digital Coalition during the 2024 MWC. Read more.


#ICYMI

Ready to navigate the digital age? From AI to blockchain, the call for policies addressing tech challenges is louder than ever! Who’s up for the task?


Upcoming
3d united nations flag waving wind with modern skyscraper city close up un banner blowing soft smooth silk cloth fabric texture ensign background
UN OEWG Chair publishes guiding questions ahead of OEWG’s seventh session
The #OEWG is gearing up for its seventh session next week! What’s on the agenda? Dive into the heart of the discussion with the preliminary guiding questions shared by the OEWG Chair.
3d united nations flag waving wind with modern skyscraper city close up un banner blowing soft smooth silk cloth fabric texture ensign background
UN OEWG Chair publishes guiding questions ahead of OEWG’s seventh session
The #OEWG is gearing up for its seventh session next week! What’s on the agenda? Dive into the heart of the discussion with the preliminary guiding questions shared by the OEWG Chair.

DW Weekly #148 – 23 February 2024

 Page, Text

Dear readers,

The US Department of Justice made a notable move by appointing its first Chief AI Officer. Japan also entered the global AI regulatory scene with a comprehensive legislative push in 2024.

OpenAI introduced Sora, a new tool for AI text-to-video generation, offering a glimpse into the future of multimedia creation.

Neuralink’s debut human brain chip implant displayed promising results, and South Korea laid out plans to take the lead in quantum technology initiatives.

The EU enforced the Digital Services Act (DSA) to bolster online safety and initiated an investigation into TikTok. A collaborative effort among tech giants aims to combat misleading AI content during global elections.

The EU Commission proposed a substantial €500 million fine for Apple’s competition law breaches, and a draft of the Protocol to the AfCFTA on Digital Trade was circulated. 

International law enforcement successfully disrupted LockBit ransomware operations. Additionally, the European Commission revealed new initiatives for digital infrastructures.

Let’s get started, 

Andrijana and the Digital Watch team


Highlights from the week of 16-23 February 2024

law and justice in united states of america
The US Department of Justice appoints first chief AI officer
The U.S. Justice Department has appointed Professor Jonathan Mayer from Princeton University as their first Chief Science and Technology Adviser and Chief AI Officer. Mayer will provide guidance on integrating… Read more.
law and justice in united states of america
The US Department of Justice appoints first chief AI officer
The U.S. Justice Department has appointed Professor Jonathan Mayer from Princeton University as their first Chief Science and Technology Adviser and Chief AI Officer. Mayer will provide guidance on integrating… Read more.
flag of japan
Japan joins global AI regulation race with comprehensive 2024 legislative push
The push for AI legislation is part of a broader effort by Japan to address the challenges and opportunities presented by emerging technologies. Read more.
flag of japan
Japan joins global AI regulation race with comprehensive 2024 legislative push
The push for AI legislation is part of a broader effort by Japan to address the challenges and opportunities presented by emerging technologies. Read more.
OpenAi and Microsoft
OpenAI introduces Sora for AI text-to-video generation
Sora represents a significant advancement in AI’s capacity to produce audiovisual material from text, with potential applications across multiple sectors, including entertainment, education, and simulation. Read more.
OpenAi and Microsoft
OpenAI introduces Sora for AI text-to-video generation
Sora represents a significant advancement in AI’s capacity to produce audiovisual material from text, with potential applications across multiple sectors, including entertainment, education, and simulation. Read more.

dfb20d24 1c75 477d 9813 3f7d2e4db8c5
Neuralink’s first human implant shows promising results
Neuralink, a startup founded by Elon Musk, has successfully implanted a brain chip in a human patient who has fully recovered, Musk revealed. The patient can now control a computer mouse using their thoughts. Read more.
dfb20d24 1c75 477d 9813 3f7d2e4db8c5
Neuralink’s first human implant shows promising results
Neuralink, a startup founded by Elon Musk, has successfully implanted a brain chip in a human patient who has fully recovered, Musk revealed. The patient can now control a computer mouse using their thoughts. Read more.
quantum computer futuristic digital computer design 1
South Korea unveils its plans to establish tech supremacy in quantum technology
As part of its New Growth 4.0 strategy, the South Korean government, in an emergency ministerial meeting recently, announced its aim to generate cloud services powered by quantum technology in the country. Read more.
quantum computer futuristic digital computer design 1
South Korea unveils its plans to establish tech supremacy in quantum technology
As part of its New Growth 4.0 strategy, the South Korean government, in an emergency ministerial meeting recently, announced its aim to generate cloud services powered by quantum technology in the country. Read more.

eu flags in front of european commission
EU enacts Digital Services Act strengthening online safety and governance
The Digital Services Act has come into effect in the EU, applying to all online intermediaries serving users since 17 February. The DSA aims to ensure online safety for users and covers various platforms such as social media, e-commerce, search engines, hosting providers, and app stores. Read more.
eu flags in front of european commission
EU enacts Digital Services Act strengthening online safety and governance
The Digital Services Act has come into effect in the EU, applying to all online intermediaries serving users since 17 February. The DSA aims to ensure online safety for users and covers various platforms such as social media, e-commerce, search engines, hosting providers, and app stores. Read more.
tiktok icon coming out screen mobile phone 3d illustration
EU launches investigation into TikTok under DSA
TikTok’s parent company, ByteDance, may face fines of up to 6% of its global revenue if TikTok is found to be in violation of DSA regulations. Read more.
tiktok icon coming out screen mobile phone 3d illustration
EU launches investigation into TikTok under DSA
TikTok’s parent company, ByteDance, may face fines of up to 6% of its global revenue if TikTok is found to be in violation of DSA regulations. Read more.
politician during election campaign
Tech giants unite to fight misleading AI content in global elections
A group of 20 tech companies agreed to cooperate to avoid misleading AI content interfering with elections worldwide as the growth of generative AI has raised concerns about its potential misuse in elections this year. Read more.
politician during election campaign
Tech giants unite to fight misleading AI content in global elections
A group of 20 tech companies agreed to cooperate to avoid misleading AI content interfering with elections worldwide as the growth of generative AI has raised concerns about its potential misuse in elections this year. Read more.

waygsck20h8
EU Commission plans to fine Apple €500 million for breaches of the competition law
The investigation findings are expected to accuse Apple of abusing its market power and imposing unfair trading conditions Read more.
waygsck20h8
EU Commission plans to fine Apple €500 million for breaches of the competition law
The investigation findings are expected to accuse Apple of abusing its market power and imposing unfair trading conditions Read more.
AfCFTA
Draft of digital trade protocol to AfCFTA circulated
The African Continental Free Trade Area (AfCFTA) Secretariat has unveiled the draft of the Protocol on Digital Trade. The Protocol aims to establish rules and standards for digital trade in Africa. Read more.
AfCFTA
Draft of digital trade protocol to AfCFTA circulated
The African Continental Free Trade Area (AfCFTA) Secretariat has unveiled the draft of the Protocol on Digital Trade. The Protocol aims to establish rules and standards for digital trade in Africa. Read more.

Operation Cronos Lockbit
International law enforcement disrupts LockBit ransomware operations
The authorities seized control of LockBit’s dark web infrastructure. Read more.
Operation Cronos Lockbit
International law enforcement disrupts LockBit ransomware operations
The authorities seized control of LockBit’s dark web infrastructure. Read more.

eu flags in front of european commission 1
European Commission unveils new initiatives for digital infrastructures
The European Commission’s new digital connectivity package aims to enhance innovation, security, and resilience in Europe’s digital infrastructures. With a focus on advanced network infrastructures, the package sets sets the stage for economic competitiveness and the deployment of cutting-edge technologies. Read more.
eu flags in front of european commission 1
European Commission unveils new initiatives for digital infrastructures
The European Commission’s new digital connectivity package aims to enhance innovation, security, and resilience in Europe’s digital infrastructures. With a focus on advanced network infrastructures, the package sets sets the stage for economic competitiveness and the deployment of cutting-edge technologies. Read more.


#ReadingCorner
13th WTO Conference blog
13th WTO Ministerial Conference: What is at stake for digital trade? 
What will be the impact of the 13th WTO Ministerial conference on digital trade? Diplo’s Marilia Maciel discussed the Work Programme on e-commerce, the odds for the Moratorium on customs duties on electronic transmissions, and the status of the Joint Initiative on e-commerce.
13th WTO Conference blog
13th WTO Ministerial Conference: What is at stake for digital trade? 
What will be the impact of the 13th WTO Ministerial conference on digital trade? Diplo’s Marilia Maciel discussed the Work Programme on e-commerce, the odds for the Moratorium on customs duties on electronic transmissions, and the status of the Joint Initiative on e-commerce.
Security of digital products blog
Rules for the security of digital products: Who should write them?
When discussing cybersecurity rules for digital products, do we refer to new laws, industry practices, or standards? Ensuring consistency across markets and jurisdictions poses challenges. Is expecting such uniformity realistic amid today’s geopolitical competition?Diplo’s Anastasiya Kazakova and Ensign InfoSecurity’s Xiang Zheng Teo discuss.
Security of digital products blog
Rules for the security of digital products: Who should write them?
When discussing cybersecurity rules for digital products, do we refer to new laws, industry practices, or standards? Ensuring consistency across markets and jurisdictions poses challenges. Is expecting such uniformity realistic amid today’s geopolitical competition?Diplo’s Anastasiya Kazakova and Ensign InfoSecurity’s Xiang Zheng Teo discuss.

DW Weekly #147 – 16 February 2024

 Page, Text

Dear readers,

The UN negotiations to establish a cybercrime treaty faced challenges, with no consensus reached during the Ad Hoc Committee’s concluding session. Microsoft and OpenAI revealed the nefarious use of AI tools by threat actors, underscoring the urgent need for robust cybersecurity. The 2024 Munich Security Report ranked cyberattacks as the second major global threat, following extreme weather. 

In the dynamic landscape of AI, OpenAI’s CEO suggested the UAE be a global AI regulatory sandbox, fostering responsible development. Nvidia’s CEO emphasised national autonomy in AI infrastructure, urging countries to build their capabilities for technological sovereignty. 

As the 2024 elections approach, AI firms are proactively planning guardrails to prevent the misuse of political images. Google announced an anti-misinformation campaign for the EU elections, aiming to combat false information.

Influencers in the EU face scrutiny over transparency issues, while NYC tok legal action, suing social media companies for exploiting the mental health of young users. 

Portugal implemented a law for equal access to communication services, and the UAE initiated a tech fund to support technological development in developing nations.

Let’s get started, 

Andrijana and the Digital Watch team


Highlights from the week of 9-16 February 2024

8N6ikeWA un flag blue
No consensus for the UN Cybercrime Treaty | The Concluding Session of the Ad Hoc Committee on Cybercrime 2024
The concluding session of the Ad Hoc Committee on Cybercrime ended, but an additional session awaits as consensus has not been reached. Read more.
8N6ikeWA un flag blue
No consensus for the UN Cybercrime Treaty | The Concluding Session of the Ad Hoc Committee on Cybercrime 2024
The concluding session of the Ad Hoc Committee on Cybercrime ended, but an additional session awaits as consensus has not been reached. Read more.
Microsoft, OpenAI reveal how threat actors use AI
The research indicates a trend where attackers treat AI as an additional productivity tool in their offensive strategies.  Read more.
Microsoft, OpenAI reveal how threat actors use AI
The research indicates a trend where attackers treat AI as an additional productivity tool in their offensive strategies.  Read more.
computer security data security protection concept
2024 Munich Security Report: G7 countries rank cyberattacks second only to extreme weather
The report’s findings showcase a heightened awareness of cyber threats amid technological advancements. Read more.
computer security data security protection concept
2024 Munich Security Report: G7 countries rank cyberattacks second only to extreme weather
The report’s findings showcase a heightened awareness of cyber threats amid technological advancements. Read more.

desktop photo laptop with ai hologram interface chat concept ai artificial intelligence
OpenAI’s CEO suggests UAE as global AI regulatory sandbox
Sam Altman sees the UAE as a potential leader in AI regulation, capable of serving as a controlled environment for testing and developing AI technologies, which could inform and shape future global regulations. Read more.
desktop photo laptop with ai hologram interface chat concept ai artificial intelligence
OpenAI’s CEO suggests UAE as global AI regulatory sandbox
Sam Altman sees the UAE as a potential leader in AI regulation, capable of serving as a controlled environment for testing and developing AI technologies, which could inform and shape future global regulations. Read more.
nvidia dgx 2 open chassis YS
Nvidia’s CEO: Countries need to build their own AI infrastructure
Nvidia’s CEO Jensen Huang stated that it is essential for countries to harness the economic potential of AI while safeguarding their own culture. Huang also urged governments to take the initiative in building AI infrastructure and not rely on others for this technology. Read more.
nvidia dgx 2 open chassis YS
Nvidia’s CEO: Countries need to build their own AI infrastructure
Nvidia’s CEO Jensen Huang stated that it is essential for countries to harness the economic potential of AI while safeguarding their own culture. Huang also urged governments to take the initiative in building AI infrastructure and not rely on others for this technology. Read more.

hpz88a0nus8
AI firms plan guardrails to prevent misuse of political images ahead of 2024 elections
AI and social media companies are actively considering and implementing steps to reduce the possible misuse of the technology in developing and sharing political images and material ahead of the 2024 elections. Read more.
hpz88a0nus8
AI firms plan guardrails to prevent misuse of political images ahead of 2024 elections
AI and social media companies are actively considering and implementing steps to reduce the possible misuse of the technology in developing and sharing political images and material ahead of the 2024 elections. Read more.
fact fake wordplay banner headline
Google will launch campaign to fight misinformation ahead of EU elections
EU citizens will vote for a new European Parliament in June 2024. Read more.
fact fake wordplay banner headline
Google will launch campaign to fight misinformation ahead of EU elections
EU citizens will vote for a new European Parliament in June 2024. Read more.

woman influencer selling clothes online
Influencers face scrutiny as EU sweep exposes transparency issues
Just one out of every five influencers reveals that their content is actually advertising. Read more.
woman influencer selling clothes online
Influencers face scrutiny as EU sweep exposes transparency issues
Just one out of every five influencers reveals that their content is actually advertising. Read more.

man hold tablet phone pc flag portugal country background
Portugal has implemented a law to promote equal access to communication services
Portugal mandates telecom companies to ensure equal access for individuals with disabilities, requiring tailored equipment, software, and tariffs effective from June 28, 2025, aligning with EU accessibility directives to enhance digital inclusivity and equal opportunities. Read more.
man hold tablet phone pc flag portugal country background
Portugal has implemented a law to promote equal access to communication services
Portugal mandates telecom companies to ensure equal access for individuals with disabilities, requiring tailored equipment, software, and tariffs effective from June 28, 2025, aligning with EU accessibility directives to enhance digital inclusivity and equal opportunities. Read more.
little boy with a mobile phone on the street a child and gadgets
NYC sues social media companies for exploiting mental health of young users
New York City Mayor Eric Adams stated that the city is the first major American city to take such significant steps. Read more.
little boy with a mobile phone on the street a child and gadgets
NYC sues social media companies for exploiting mental health of young users
New York City Mayor Eric Adams stated that the city is the first major American city to take such significant steps. Read more.

2024%2F02%2Frpa concept with blurry hand touching screen
UAE starts tech fund for developing nations
The fund—announced at this year’s World Governments Summit hosted by the UAE—’serves as a channel for countries worldwide to tap into the UAE’s technological expertise to address their unique challenges.’ Read more.
2024%2F02%2Frpa concept with blurry hand touching screen
UAE starts tech fund for developing nations
The fund—announced at this year’s World Governments Summit hosted by the UAE—’serves as a channel for countries worldwide to tap into the UAE’s technological expertise to address their unique challenges.’ Read more.


#ReadingCorner

shutterstock 2308365389 1
New Germany’s digital foreign policy strategy: Between continuity and change
Diplo’s Executive Director, Jovan Kurbalija, takes a look at Germany’s first digital policy strategy, a document that is set to serve as a framework that promotes more proactive policymaking on digital issues while being attentive to the protection of human rights and access to free internet.
shutterstock 2308365389 1
New Germany’s digital foreign policy strategy: Between continuity and change
Diplo’s Executive Director, Jovan Kurbalija, takes a look at Germany’s first digital policy strategy, a document that is set to serve as a framework that promotes more proactive policymaking on digital issues while being attentive to the protection of human rights and access to free internet.

Numéro 86 de la lettre d’information Digital Watch – février 2024

 Advertisement, Poster, Person, People, Face, Head, Text

Observatoire

Coup d’œil : les développements qui ont fait des remous

Gouvernance de l’IA

L’Organe consultatif sur l’IA du Secrétaire général des Nations unies a publié son rapport intermédiaire sur la gouvernance de l’IA pour l’humanité, tandis que l’Assemblée générale des Nations unies a adopté une résolution sur les systèmes d’armes autonomes létaux (LAWS). Les dirigeants mondiaux se sont engagés à promouvoir une IA responsable lors du sommet 2023 du Partenariat mondial sur l’intelligence artificielle (GPAI) à New Delhi. L’Italie a pris la présidence du G7 en janvier 2024 et a défini des priorités, qui incluent le développement de l’Afrique et l’IA. La norme internationale ISO/IEC 42001 sur les systèmes de management de l’IA a été publiée.

Les ambassadeurs de l’UE ont donné leur feu vert à la loi européenne sur l’IA, qui devrait être officiellement adoptée par l’UE à la mi-avril. La publication du texte consolidé de l’Acte de l’UE sur l’IA a donné lieu à des discussions. La Commission européenne se prépare à mettre en place l’Office européen de l’IA, qui jouera un rôle essentiel dans l’application de la loi sur l’IA. La Commission conteste également la tentative des États-Unis d’exclure le secteur privé de la future convention du Conseil de l’Europe sur l’IA et les droits de l’Homme.

La Commission fédérale du commerce des États-Unis a ouvert une enquête sur les investissements des géants de la technologie dans l’IA. La National AI Research Resource a été lancée pour soutenir la recherche responsable en matière d’IA et stimuler l’innovation. La Maison-Blanche a publié une note d’information décrivant les principales actions en matière d’IA à la suite du décret de M. Biden sur l’IA.

Les États-Unis, le Royaume-Uni et l’Union européenne examinent de près le partenariat entre Microsoft et OpenAI.

D’autres juridictions sont également actives dans le domaine de l’IA : l’Australie prévoit de créer un organe consultatif pour la surveillance et la réglementation de l’IA, l’Inde se lance dans la course au LLM avec un modèle en telugu, la Chine a approuvé plus de 40 modèles d’IA au cours des six derniers mois et l’Arabie saoudite a lancé l’initiative GenAI for All (l’IA générique pour tous). ChatGPT, d’OpenAI, est à nouveau soumis à l’examen de l’autorité italienne chargée de la protection des données.
Les principales entreprises américaines du secteur de la santé se sont engagées à adopter l’IA de manière éthique, tandis que Microsoft a promis de renforcer la sécurité et de protéger la vie privée à l’ère de l’IA. OpenAI a supprimé l’interdiction explicite d’utiliser l’IA à des fins militaires, a répondu aux inquiétudes concernant l’utilisation abusive de l’IA lors des élections et a dévoilé un cadre de sécurité pour l’IA.

Technologies 

La société Neuralink d’Elon Musk a implanté la toute première puce cérébrale sur un être humain. Une enquête a révélé que l’armée chinoise a contourné les restrictions américaines sur les puces Nvidia. Nvidia va lancer une nouvelle puce d’intelligence artificielle pour la Chine afin de se conformer aux restrictions américaines à l’exportation. Les nouvelles contraintes néerlandaises ont eu un impact sur les expéditions d’ASML vers la Chine. La Corée du Sud va accroître les avantages fiscaux pour les investissements dans l’industrie des semi-conducteurs du pays.

Sécurité

Les P.-D. G. des grandes entreprises technologiques ont témoigné lors d’une audition au Sénat américain, accusés de ne pas prendre les mesures adéquates pour protéger les enfants contre les contenus préjudiciables et les messages publicitaires non sollicités (CSAM).

Le GTCNL sur la sécurité des TIC a lancé un appel aux États membres pour qu’ils désignent des interlocuteurs à inclure dans le répertoire mondial des contacts sur la sécurité des TIC.

Le plus grand opérateur de télécommunications d’Ukraine a été victime d’une cyberattaque dévastatrice, qui aurait été menée par des pirates informatiques russes. Le FBI et le DoJ ont eu recours à une décision de justice pour contrecarrer le piratage d’infrastructures critiques par des Chinois. Une gigantesque « Mother of all Breaches » (MOAB) a exposé plus de 26 milliards d’enregistrements de données. Le NCSC britannique a mis en garde contre l’augmentation de la fréquence et de l’impact des cyberattaques dues à l’IA. Les chercheurs ont prédit que la cybercriminalité entraînera un coût faramineux de 12 000 milliards de dollars américains d’ici 2025.

Infrastructure

Les négociations sur le règlement de l’UE visant à accélérer le déploiement de la 5G et de la fibre optique sont en cours. Les principales discussions portent sur le principe d’approbation tacite et les frais de communication intra-UE.

Juridique

Le Times a intenté une action en justice contre OpenAI et Microsoft aux États-Unis, alléguant que ces entreprises technologiques avaient utilisé sans autorisation le contenu du journal pour perfectionner leurs modèles d’intelligence artificielle en langues étrangères. OpenAI a répondu que l’affaire était « sans fondement » et a exprimé son souhait d’établir un partenariat avec le média. Epic Games a gagné un procès de lutte contre la concurrence contre Google au sujet de son application Play Store. Le directeur du FMI a appelé à la reconversion et à la mise en place de dispositifs de sécurité dans le contexte des changements d’emploi induits par l’IA.

Économie de l’internet

La Chine a dévoilé son plan en faveur d’une meilleure économie numérique et d’une plus grande prospérité commune, qui vise à intégrer les technologies numériques à l’économie réelle et à résoudre les problèmes de développement par des moyens numériques. L’Association des nations de l’Asie du Sud-Est (ASEAN) se prépare à établir un accord sur l’économie numérique à l’échelle régionale. Dans le même temps, l’autorité britannique de la concurrence et des marchés (CMA) a présenté ses projets de mise en œuvre d’un nouveau régime de concurrence sur les marchés numériques.

Droits numériques

Selon une plainte déposée par l’État du Nouveau-Mexique (États-Unis), Meta tirerait profit des publicités d’entreprises placées à proximité de contenus incitant à l’exploitation sexuelle des enfants. L’autorité française de protection des données a infligé une amende de 10 millions d’euros à Yahoo! pour non-respect de la vie privée et du consentement des utilisateurs en ce qui concerne les témoins de connexion (« cookies »).

Politique de contenu

La Cyberspace Administration of China (CAC) s’est concentrée sur la lutte contre le pessimisme et l’extrémisme sur les plateformes numériques, tandis que la Commission européenne a commencé à enquêter sur X pour des infractions présumées à la loi sur les services numériques (Digital Services Act, DSA). Le Conseil de surveillance de Meta a reproché à cette dernière d’avoir supprimé des vidéos illustrant le conflit entre Israël et le Hamas. La Cour constitutionnelle de Turquie a jugé inconstitutionnelles les dispositions relatives au blocage des contenus sur l’internet.

Des vidéos violentes ont fait leur apparition sur X dans le cadre du « conflit armé interne » en Équateur. Les fausses images de Taylor Swift ont suscité des appels à la criminalisation de la pornographie par les fausses images aux États-Unis. L’Inde a averti les entreprises de médias sociaux qu’elles seraient tenues pour responsables de la diffusion sur leurs plateformes de fausses images générées par l’intelligence artificielle.

Développement

L’Allemagne et la Namibie, co-facilitateurs du Sommet du futur, ont annoncé la publication de la version zéro du Pacte pour l’avenir, qui comprend des dispositions relatives à l’impact des technologies numériques sur la paix et la sécurité, ainsi que le potentiel de la science, de la technologie et de l’innovation pour faire progresser le développement durable. Les entreprises technologiques et les gouvernements se sont engagés à intensifier leurs actions pour faire face à la crise climatique par le biais de l’action numérique verte lors de la 28e conférence des parties (COP28). La Thaïlande a dévoilé une initiative visant à renforcer le capital humain et le développement numérique. L’Iran est confronté à l’escalade des coûts de l’internet et à la censure, malgré la promesse d’un accès gratuit. Le Kirghizstan et la Chine ont signé un accord de coopération numérique pour faire avancer le progrès technologique, tandis que le Royaume-Uni et l’Inde ont annoncé une coopération sur la durabilité numérique. Statistics Netherlands a développé une nouvelle méthodologie pour cartographier les déchets électroniques européens. La Banque mondiale a récemment souligné que l’amélioration de l’accès à l’internet au Nigeria et en Tanzanie avait considérablement réduit l’extrême pauvreté.

LES CONVERSATIONS DE LA VILLE – GENÈVE

La CNUCED a organisé son événement phare, l’eWeek 2023, du 4 au 8 décembre 2023. Sous le thème « Façonner l’avenir de l’économie numérique », elle s’est concentrée sur la surveillance des plateformes numériques et de l’IA, la promotion de la durabilité dans l’économie numérique, le renforcement de l’entrepreneuriat numérique des femmes et l’accélération de la préparation numérique des pays en développement. La CNUCED a collaboré avec Diplo pour fournir le tout premier rapport hybride IA-humain pour l’événement.
Tenue du 22 janvier au 2 février 2024, la première série de réunions des groupes de travail (GTC) et des groupes d’experts (GE) du Conseil de l’Union internationale des télécommunications (UIT) a permis de commencer les préparatifs en vue des questions qui seront examinées lors de la session de juin du Conseil de l’UIT. L’un des points forts est le GTC sur la protection des enfants en ligne (COP), au cours duquel le Secrétaire général a présenté le rapport sur l’état d’avancement de l’initiative COP, en faisant le point sur les activités de renforcement des capacités et les partenariats intersectoriels de l’UIT dans le cadre de programmes tels que la protection par la participation en ligne (POP), la COP dans le domaine des sports et EQUALS Tech4Girls.

En bref

Douze prédictions sur l’IA et le numérique pour 2024

2024 sera l’année de l’IA. La technologie de l’IA continuera à se développer en profondeur grâce à de puissants modèles fondamentaux et à se diversifier grâce à davantage de connexions avec le reste de l’écosystème numérique (par exemple, l’IdO, la réalité virtuelle et les infrastructures numériques). Les modèles d’IA plus petits et à source ouverte gagneront en popularité en raison de leur transparence, de leur adaptabilité et de leur respect de l’environnement.

Les risques liés à l’IA prédomineront dans le débat sur la gouvernance et la réglementation. Les risques existants (par exemple, les emplois, la désinformation et les préjugés) bénéficieront d’une plus grande attention que les risques existentiels. La gouvernance de l’IA deviendra plus spécifique et concrète, abordant la puissance de calcul, les données et les connaissances, les algorithmes et les applications de l’IA.

La poussée pour la souveraineté nationale sur les données, l’IA et l’infrastructure technologique va remodeler la géopolitique numérique. Le découplage numérique entre la Chine et les États-Unis s’améliorera considérablement en 2024. L’Inde, le Brésil, l’Afrique du Sud, Singapour, la Turquie et les États du Golfe, entre autres, tenteront de créer un « troisième espace numérique » asymétrique entre les deux superpuissances.

De nouvelles organisations, commissions et groupes d’experts traitant de l’IA et de la gouvernance numérique seront mis en place. L’adoption de la convention des Nations unies sur la cybercriminalité devrait marquer le début de la gouvernance numérique mondiale en 2024. Le Pacte mondial pour le numérique (PMN) sera négocié, et les organismes internationaux, notamment le Conseil de sécurité des Nations unies, se pencheront sur les aspects numériques des conflits et des crises humanitaires.

L’IA placera la diplomatie à l’épreuve de l’automatisation des tâches à l’aide de grands modèles de langage (LLM). La diplomatie devra s’adapter à une pression accrue pour négocier les sujets liés à l’IA et au numérique, qui s’étendent à des domaines tels que la gouvernance numérique, la santé, le commerce et les droits de l’Homme.

La cybersécurité sera une préoccupation importante, avec un accent sur les conflits militaires à Gaza et en Ukraine, les menaces émergentes pour les infrastructures numériques critiques, et les vols et activités illégales facilités par l’IA. L’adoption de la convention des Nations unies sur la cybercriminalité, prévue pour le début de l’année 2024, donnera une nouvelle impulsion aux efforts mondiaux en la matière.

L’impact de l’IA sur les droits de l’Homme, y compris la liberté d’expression et la protection de la vie privée, sera au centre des débats sur la dignité et la définition de l’humanité. Les droits neuronaux, influencés par l’IA et les développements biotechnologiques, gagneront en importance.

L’IA accélérera les changements économiques, de la restructuration des industries traditionnelles au développement de nouvelles industries basées sur la technologie de l’IA. Les principales dynamiques politiques seront liées aux conséquences économiques du découplage numérique (ou dérisquage) entre la Chine et les États-Unis, à la lutte contre les monopoles dans le domaine de l’IA, à la taxation des entreprises en ligne et au commerce numérique.

La communauté de la standardisation donnera la priorité aux normes relatives à l’IA, aux réseaux 6G, à l’informatique quantique et à d’autres technologies avancées. Les processus multilatéraux exploreront les normes techniques en tant qu’approche de régulation douce.

La saga du chiffrement en ligne, qui dure depuis des décennies, va connaître un nouvel élan avec le débat sur la recherche de contenus illicites dans les communications à l’aide d’un outil permettant de détecter et de bloquer en temps réel les contenus illégaux.

Les identités numériques gagneront en importance, l’accent étant mis sur l’initiative d’infrastructure publique numérique (IPN) approuvée par le G20.

Les élections qui se déroulent dans plus de 70 pays vont accroître les inquiétudes concernant les contenus en ligne, en particulier la désinformation par le biais de vidéos, de textes et de sons truqués, ce qui va accélérer les efforts pour détecter les contenus générés par l’IA.

L’IA suscitera l’innovation dans de nouveaux aspects de l’inclusion, car les pays et les communautés s’efforceront de mettre au point des solutions d’IA ascendantes qui reflètent leur patrimoine culturel et leurs connaissances.

Lisez l’intégralité des 12 prédictions sur l’IA et le numérique pour 2024.l’intégralité des 12 prédictions sur l’IA et le numérique pour 2024.

L’optimisme de l’IA dans un Davos géopolitiquement pessimiste

Dans le cadre serein des Alpes suisses, le Forum économique mondial (WEF) de Davos est considéré comme le baromètre de l’air du temps technologique de l’année. Après un sommet 2023 exceptionnellement timide sur le plan technologique, l’IA a cette année restauré l’optimisme technologique à Davos. Le ciel bleu de la technologie se détache d’autant plus de la géopolitique mondiale morose et nuageuse. Cette dose d’optimisme à l’égard de l’IA est-elle une panacée pour les problèmes mondiaux, la maturation du discours sur l’IA ou un nouveau somnambulisme technologique ?

Davos
Campaigns 136

Posologie optimiste. Les 24 sessions centrées sur l’IA sur les 235 que compte le WEF ont rassemblé 135 intervenants et une rafale de 1 101 débats, la majorité d’entre eux ayant un aspect positif (600). Les débats du WEF sur l’IA ont reçu une bonne note de 8 sur l’échelle d’optimisme de DiploAI. Les conversations ont été axées sur le potentiel de l’IA à augmenter la productivité, à combattre les maladies et à résoudre les crises environnementales. Les prévisions économiques présentent l’IA comme une source de revenus de plusieurs milliards de dollars, ce qui contraste avec les scénarios apocalyptiques de l’IA du printemps 2023.

De l’extinction aux risques existants. Le discours sur les risques liés à l’IA a évolué au WEF, les risques existants étant désormais considérés comme des problèmes que l’humanité peut surmonter, à l’instar des défis technologiques du passé. La plupart des débats sur les risques liés à l’IA se sont concentrés sur les dangers actuels d’une mauvaise utilisation de l’IA, tels que la désinformation, les pertes d’emploi et la réforme de l’éducation.

On ne sait pas très bien pourquoi les gourous de l’IA ont réajusté leur langage au WEF, étant donné que leurs prédictions selon lesquelles l’IA détruirait l’humanité ont été faites avec beaucoup de conviction l’année dernière. La franchise de Sam Altman, qui a déclaré que « personne ne sait ce qui se passera ensuite [avec l’IA] », résume la double nature de la situation actuelle : à la fois alarmante et rassurante. L’incertitude exprimée par ceux qui sont à la pointe du développement de l’IA est préoccupante. Dans le même temps, il est encourageant de voir les dirigeants du secteur technologique parler plus ouvertement de leur connaissance de l’impact de l’IA, sans les discours anxiogènes de l’année dernière.

DPI et contenu pour l’IA. Le procès intenté par le New York Times contre OpenAI pour l’utilisation de contenus protégés par des droits d’auteur afin d’entraîner des modèles d’IA a été fréquemment mentionné à Davos. La traçabilité et la transparence dans le développement de l’IA seront essentielles pour une économie de l’IA durable et fonctionnelle. 

Gouvernance de l’IA. Le discours de l’année dernière selon lequel la gouvernance devrait se concentrer sur les capacités de l’IA a cédé la place à une attention particulière portée aux applications. L’IA devient ainsi moins unique et plus gouvernable, comme n’importe quelle autre technologie. Cette approche, utilisée par la loi européenne sur l’IA, gagne également en popularité aux États-Unis. Les discussions du WEF ont révélé plus de similitudes que de différences dans la réglementation de l’IA en Chine, aux États-Unis et dans l’UE.

L’IA en libre accès. La position sur l’IA à code source ouvert, considérée comme un risque ingérable, s’est assouplie au WEF. Yann LeCun, de Meta, a fait valoir que l’IA à code source ouvert est bénéfique non seulement pour le progrès scientifique, mais aussi pour le contrôle des monopoles des grandes entreprises de technologie de l’IA, ainsi que pour l’intégration de diverses contributions culturelles et sociétales dans le développement de l’IA. L’IA à code source ouvert gagnera du terrain en 2024, posant un défi important aux logiciels propriétaires tels qu’OpenAI.

IA et développement. Selon l’envoyé du Secrétaire général des Nations unies pour la technologie, Amandeep Sing Gill, l’IA ne sauvera pas les objectifs du Millénaire pour le développement si la tendance actuelle se poursuit. Cette estimation franche était plutôt une aberration dans les discussions du WEF. Par exemple, il n’a guère été question de l’aggravation de la fracture numérique induite par l’IA ni de la concentration croissante du pouvoir économique et du savoir entre les mains de quelques entreprises.

La confusion autour des potentiels et des risques de l’IA souligne la nécessité d’une conversation mature et nuancée sur l’avenir de l’IA. Nous devons relever les défis connus grâce à des cadres réglementaires souples, transparents et inclusifs. Les débats de Davos ont fait des progrès dans cette direction, visant à nous éloigner d’un avenir dystopique de l’IA par un dialogue informé et équilibré plutôt que par la peur.

Consultez les rapports des sessions de la réunion annuelle 2024 du WEF et le rapport final de l’événement.

La saga de la propriété intellectuelle : l’impact de l’IA sur les brevets et les marques déposées

Dans le domaine de l’IA et de la propriété intellectuelle, les secrets commerciaux et les marques déposées présentent des défis et des occasions uniques qui requièrent une attention particulière dans un paysage juridique en constante évolution. Ce blog présente les complexités, les défis et les opportunités qui définissent les droits et les obligations en matière de propriété intellectuelle, en se concentrant sur des exemples tirés des cadres juridiques de l’UE et des États-Unis.

l’impact de l’IA sur les brevets et les marques déposées
Campaigns 137

La loi américaine sur le secret commercial protège diverses informations, telles que les données financières, commerciales, scientifiques et techniques, si le propriétaire prend des mesures de sécurité appropriées pour préserver le secret. Les informations doivent tirer leur valeur du fait qu’elles ne sont pas largement connues ou facilement accessibles par d’autres à travers des moyens légitimes (18 U.S.C. § 1839 [3]). Les exigences liées au secret excluent la protection du secret commercial pour les résultats générés par l’IA qui ne sont pas confidentiels, tels que ceux produits par des systèmes comme ChatGPT ou Dall-E. Néanmoins, les lois sur le secret commercial semblent plus souples pour protéger divers actifs liés à l’IA. En effet, il n’est pas stipulé qu’un secret commercial doit provenir d’un être humain, tandis que le matériel généré par l’IA est traité comme toute autre forme d’information, ainsi que le montre l’article 18 U.S.C. § 1839 (4), qui définit la propriété d’un secret commercial.

Les innovateurs en matière d’IA choisissent souvent la protection du secret commercial plutôt que les brevets en raison de l’ambiguïté des lois sur l’IA et le droit d’auteur. Du point de vue de l’UE, l’imminente loi sur l’IA pourrait exiger la divulgation des activités d’IA, ce qui aurait un impact sur la viabilité de la protection du secret commercial dans certains cas. Des lignes directrices claires concernant les secrets commerciaux en matière d’IA et la définition des obligations de collaboration sont essentielles pour encourager l’innovation et protéger les actifs des entreprises.

L’intégration de l’IA transforme la protection des marques, en étendant le champ d’application des logos aux contenus et algorithmes générés par l’IA. La définition du « consommateur moyen » et la détermination de la responsabilité dans les affaires de contrefaçon de marques posent des problèmes dans le cadre du service à la clientèle piloté par l’IA. Il n’existe pas d’affaires connues traitant de l’IA et de la responsabilité en matière de contrefaçon de marques. Toutefois, la Cour de justice de l’Union européenne (CJUE) s’est prononcée dans des affaires telles que Louis Vuitton contre Google France et L’Oréal contre eBay. Ces décisions stipulent que Google et eBay ne peuvent être tenus responsables de la violation d’une marque à moins qu’ils ne soient conscients et activement impliqués dans la sélection automatique qui aboutit à la violation de la marque. Par conséquent, si nous devions appliquer ces cas aux systèmes d’IA, 

les fournisseurs d’IA seraient tenus pour responsables dans l’UE si le fournisseur d’IA participe plus activement à des actions illégales potentielles.

L’impact de l’IA sur les industries met en évidence la nécessité d’une législation souple en matière de propriété intellectuelle afin d’équilibrer l’innovation et la protection. Les cadres juridiques doivent s’adapter pour reconnaître et protéger les innovations générées par l’IA, ce qui soulève des questions sur la titularité et l’attribution de la propriété. Les décideurs politiques et les parties prenantes doivent élaborer des réglementations tournées vers l’avenir afin de tenir compte du potentiel de l’IA tout en protégeant les droits et les intérêts de toutes les parties.

Une version plus longue de ce blog a d’abord été publiée sur Digital Watch Observatory. Lisez-en la version complète et découvrez la première partie d’une série intitulée « La saga de la propriété intellectuelle » : l’ère du contenu généré par l’IA.

La cryptotempête par excellence

Nous avons regardé le nouveau documentaire de Netflix, Bitconned (escroquerie cryptographique), sur la fraude dans le secteur des cryptomonnaies. Découvrez les raisons qui ont conduit à la création d’une telle catastrophe pour les victimes.

Bitconned

L’engouement pour les cryptomonnaies et la blockchain de 2017 à 2021 s’est déroulé dans un cadre unique. Une composante a amplifié et multiplié l’effet de l’autre, créant ainsi une parfaite cryptotempête, qui a eu un impact sur la confiance dans le secteur et a causé des pertes financières. 

Le bitcoin, souvent qualifié d’or numérique, est apparu comme une merveille de l’ingénierie humaine et un phénomène unique. Cela a conduit à l’émergence d’un nouveau secteur de paiement, dirigé par des organisations financières traditionnelles qui cherchent à s’adapter à l’ère numérique.

Simultanément, le secteur de l’investissement de détail a connu un afflux de capitaux, les sociétés de commerce en ligne soutenues par des investisseurs institutionnels présentant des risques pour les utilisateurs de détail et la protection des consommateurs. Les risques non résolus, les changements dans le secteur financier et les investisseurs inexpérimentés ont ouvert la voie à une tempête parfaite, exacerbée par la cupidité humaine.

La cryptotempête par excellence. Le documentaire de Netflix Bitconned dépeint de manière saisissante comment des entreprises comme Centra Tech ont déclenché une tempête de cryptomonnaies. En 2017, Centra Tech a levé 25 millions de dollars pour une carte de crédit adossée à VISA, qui s’est révélée n’être qu’un mirage mis en scène. Le procès s’est achevé en 2021, aboutissant à des peines de prison. Le documentaire, dirigé par Ray Trapani, l’une des figures clés de Centra Tech, révèle comment de jeunes escrocs ont levé des millions dans le cadre d’une ICO (levée de fonds en cryptomonnaies) avec un site web d’une seule page.

La cryptotempête a sévi pendant des années, atteignant son paroxysme avec l’effondrement de FTX, la deuxième plus grande Bourse de cryptomonnaies au monde. Des sociétés telles que Celsius et Luna ont également fait l’objet de poursuites judiciaires pour avoir détourné des fonds d’investisseurs.

Comment les sociétés de fraude cryptographique ont-elles utilisé les composants susmentionnés ? En promettant la bonne chose au bon moment. Les internautes ont assisté à la transformation du secteur financier et au succès du bitcoin. Ils se laissent facilement convaincre qu’une nouvelle infrastructure financière décentralisée est sur le point de voir le jour et qu’elle sera soutenue par l’absence de cadre réglementaire. En même temps, cela leur donnerait une chance équitable de participer aux débuts de l’industrie et de devenir les nouveaux cryptomillionnaires, ce qui était la principale motivation pour beaucoup d’entre eux. Si les personnes à l’origine de la cryptomonnaie à code source ouvert (bitcoin) ont pu créer l’« internet de l’information », la prochaine génération d’ingénieurs spécialisés dans les cryptomonnaies devrait certainement créer l’« internet de l’argent ». Mais là encore, c’était une erreur. Il s’agissait en fait d’une expérience soigneusement élaborée en vue de gagner de l’argent.

Toutes les idées susmentionnées constituent encore un point de départ pour les développements futurs de l’industrie.

Cette situation pourrait-elle se reproduire pour les services financiers en ligne ? À l’avenir, il est peu probable que des escroqueries de cette ampleur se reproduisent dans le secteur des services financiers en ligne. Les cadres réglementaires ont été renforcés, et les autorités sont mieux équipées pour identifier les activités frauduleuses et y remédier. En outre, les investisseurs sont devenus plus perspicaces et se méfient des promesses qui semblent trop belles pour être vraies.

Toutefois, le risque de tromperie reste inhérent à toute industrie axée sur la technologie, car des intervenants opportunistes peuvent continuer à exploiter les aspirations de la société en matière d’innovation et de progrès. C’est pourquoi la vigilance et le scepticisme sont essentiels lorsque vous vous engagez dans de nouvelles technologies et opportunités d’investissement, en veillant à ce que les utilisateurs ne soient pas induits en erreur par de fausses promesses ou des affirmations exagérées.

Une version plus longue de ce blog a d’abord été publiée sur le Digital Watch Observatory. Lisez-en la version complète.

Le GTCNL achève sa sixième session de travail de fond

La sixième session de fond du groupe de travail à composition non limitée (GTCNL) des Nations unies sur la sécurité et l’utilisation des technologies de l’information et de la communication 2021-2025 s’est tenue en décembre 2023, marquant ainsi l’arrivée à mi-parcours du processus. Voici un aperçu des discussions.

Menaces. Les risques et les défis associés aux technologies émergentes, telles que l’IA, l’informatique quantique et l’internet des objets (IoT), ont été soulignés par plusieurs pays. Beaucoup d’entre eux se sont inquiétés de l’augmentation de la fréquence et de l’impact des attaques par rançongiciels sur diverses entités, y compris les infrastructures critiques, les gouvernements locaux, les établissements de santé et les institutions démocratiques. De nombreux pays ont souligné l’importance de la coopération internationale et du partage d’informations pour relever efficacement les défis de la cybersécurité. L’idée d’un répertoire mondial des cybermenaces, avancée par le Kenya, bénéficie d’un large soutien.

Règles, normes et principes. Les délégations ont indiqué qu’il était nécessaire de clarifier les normes et de fournir des conseils de mise en œuvre. Elles ont exprimé des points de vue différents sur la nécessité de nouvelles normes.

Droit international. Le sujet tabou est la pertinence d’un nouveau traité et de nouvelles normes contraignantes. Le droit de la responsabilité des États, le principe de diligence raisonnable, et l’applicabilité du droit international humanitaire (DIH) et du droit international des droits de l’Homme dans le cyberespace sont également des domaines qui ne font pas l’objet d’un consensus.

Mesures de confiance (CBMs). Le répertoire mondial des points de contact (PoC) bénéficie d’un large soutien et constitue une précieuse mesure de confiance. Les membres du GTCNL se concentreront sur sa mise en œuvre et son fonctionnement.

Renforcement des capacités. Les capacités fondamentales telles que les cadres juridiques, la création d’agences spécialisées et les mécanismes de réponse aux incidents, avec un accent particulier sur les équipes d’intervention en cas d’urgence informatique (CERT) et la coopération entre les CERT, ont été constamment soulignées comme étant cruciales. Les délégations ont également souligné l’importance des contextes nationaux et le fait qu’il n’existe pas de solution unique pour renforcer les capacités fondamentales. Les délégations ont exprimé leur soutien à la liste de contrôle volontaire pour le renforcement des capacités en matière de cybersécurité proposée par Singapour et à l’appel d’Accra pour le développement de la cyberrésilience lancé lors de la conférence mondiale sur le renforcement des cybercapacités (GC3B).
Un dialogue institutionnel régulier. Les discussions sur la forme que prendra le futur dialogue institutionnel régulier peuvent être résumées comme suit : programme d’action (PoA) contre GTCNL. Les partisans du programme d’action suggèrent d’utiliser le mécanisme d’examen pour identifier les lacunes du droit international existant et reconnaître que ces lacunes peuvent être comblées par de nouvelles normes. Les partisans de la poursuite d’un dialogue institutionnel régulier dans le cadre du GTCNL suggèrent la création d’un GTCNL permanent qui se concentrerait sur l’élaboration de règles juridiquement contraignantes en tant qu’éléments d’un futur traité universel sur la sécurité de l’information. Ils proposent une prise de décision par consensus et des règles plus strictes pour la participation des parties prenantes.


Actualités de la Francophonie

 Logo, Text

Une troisième cohorte de fonctionnaires et diplomates formée en français par l’Université Senghor et l’OIF, sur le numérique et la gouvernance de l’Internet 

26 fonctionnaires et diplomates de 18 des Etats et gouvernements membres de l’OIF ont suivi une formation en ligne et en français sur l’Introduction à la gouvernance de l’Internet. La formation s’est déroulée sur 3 mois, de septembre à décembre 2023, pendant lesquels les apprenants ont été introduits à la gouvernance de l’Internet, à ses acteurs et leurs enjeux, aux défis de la cybersécurité et des droits humains en ligne, aux infrastructures, régulations et normalisations de l’internet et du numérique, mais également aux dimensions économique et juridique, socioculturelle et du développement du cyberespace.  

Organisée dans le cadre du Projet « D-CLIC, formez-vous au numérique avec l’OIF », cette formation a été déployée par l’Université Senghor, opérateur direct de la Francophonie, dont la mission est de former, en français, des cadres capables de relever les défis du développement durable en Afrique et en Haïti.

Elle s’est organisée autour de tutorat avec des experts intervenants pour chaque module/thématique, des témoignages de personnes-ressources et un webinaire hebdomadaire sur chaque module, animé par l’expert intervenant. Des contrôles de connaissances réguliers à travers des questionnaires d’évaluation et une note de synthèse finale ont également rythmé cet apprentissage. La formation a également permis de mettre en place une communauté d’apprentissage francophone et de fortifier le réseau de diplomates, fonctionnaires et décideurs politiques des Etats membres de la Francophonie, réseau essentiel à la visibilité et à la présence de cette communauté dans le développement du numérique au niveau national et international. À travers ce cycle de formation, l’OIF vise ainsi à renforcer leurs compétences afin de leur permettre de mieux apprécier les défis actuels et futurs de la gouvernance numérique et plus généralement des enjeux numériques.

Les participants sont issus d’Arménie Bénin, Burkina Faso, Burundi, Cameroun, Centrafrique, Comores, Congo, Congo RD, Égypte, Guinée Équatoriale, Haïti, Maroc, Niger, Roumanie, Sénégal, Tchad et Togo. Au total, sur les 26 candidats (dont 8 femmes) admis, 24 ont pu suivre et 22 dont 7 femmes ont pu satisfaire à toutes les exigences de la formation. Plus de 70% des participants ont estimé que leur niveau de familiarité et de connaissance globale sur les thèmes et enjeux du numérique ont été améliorés grâce à cette formation. 

La cérémonie de clôture de la formation a eu lieu en ligne en présence du Recteur de l’Université Senghor, Monsieur Thierry Verdel, de la Directrice de la Francophonie économique et numérique de l’OIF, Madame Florence Brillouin, de leurs équipes respectives et des apprenants. Dans une dynamique de réplication de cette initiative, d’autres sessions devraient être déployées en 2024.

Photo de groupe des apprenants lors d’un des webinaires de la formation.
Photo de groupe des apprenants lors d’un des webinaires de la formation.

Crédit photographique : Université Senghor
https://www.usenghor-francophonie.org/

L’OIF soutient les Nations unies et l’Organe consultatif de haut niveau sur l’intelligence artificielle 

Une gouvernance de l’Intelligence artificielle (IA) coordonnée à l’échelle mondiale est le seul moyen de mettre l’IA au service de l’humanité tout en abordant ses risques et ses incertitudes à mesure que les services, les algorithmes, la capacité de calcul et l’expertise liés à cette technologie numérique se généralisent à l’échelle internationale. 

Conscient de cet enjeu, le Secrétaire général des Nations unies a créé le 26 octobre 2023 un Comité consultatif de haut niveau des Nations Unies sur l’intelligence artificielle. Cet organe consultatif multipartite rassemble 39 experts du monde entier et doit formuler des recommandations préliminaires sur la gouvernance internationale de l’IA, la compréhension partagée des risques et des défis, ainsi que les opportunités liées à la réalisation des ODD. Cet organe s’intègre également dans le cadre du processus d’élaboration du Pacte numérique mondial (PNM), premier instrument international dédié à la gouvernance du numérique et appelé à être adopté par les Etats membres des Nations Unies à l’occasion du Sommet de l’avenir en septembre 2024.

L’OIF via sa Direction de la Francophonie économique et numérique (DFEN) et la Représentation auprès des Nations unies à New York (RPNU), soutient cette initiative et contribue ainsi aux travaux de l’Organe consultatif en ayant attribué fin 2023 une subvention d’environ 50 000 euros. Cet appui s’inscrit dans le cadre de la Contribution de la Francophonie au PNM qui soutient notamment, dans la Thématique 6 « Promouvoir la réglementation de l’intelligence artificielle », des principes et engagements soutenant un développement « éthique et responsable, sûr, sain et respectueux des droits de l’Homme » de l’IA et en prônant la mise en place de coopérations, de règlementations et de mécanismes de gouvernance aux niveaux multilatéral et national, favorisant une coordination intersectorielle des politiques de l’IA. L’OIF y promeut également la diversité culturelle et linguistique dans l’espace numérique, si essentielle dans le domaine de l’Intelligence artificielle. L’Organe consultatif mis en place devrait notamment examiner tous les biais, y compris linguistiques, qui peuvent miner le développement et la gouvernance globale de l’IA.

Conscient de la nécessité du multilinguisme dans ce domaine et mesurant l’importance d’un travail étroit avec l’espace francophone, le Bureau de l’Envoyé pour les technologies souhaite, en lien avec l’OIF, entretenir cette coopération francophone. Les activités soutenues consisteront ainsi à traduire vers le français les rapports et publications de l’Organe consultatif, ainsi que produire des contenus en français sur le site Internet de l’Organe consultatif.

Le rapport intérimaire de l’Organe consultatif a été publié en décembre dernier. Il devrait être accessible en français très prochainement sur le site des Nations unies et la plateforme en ligne dédiée à la soumission des contributions des parties prenantes au rapport préliminaire. Le rapport appelle à un alignement plus étroit entre les normes internationales et la façon dont l’IA est développée et déployée. Le rapport propose également de renforcer la gouvernance internationale de l’IA en exerçant sept fonctions critiques telles que la veille et l’analyse des risques, le soutien à la collaboration internationale sur les données, ainsi que la capacité informatique pour atteindre les objectifs de développement durable. Il propose également des recommandations visant à améliorer la responsabilité et à assurer une voix équitable pour tous les pays.

Les individus, les groupes et les organisations sont encouragés à fournir des commentaires via le formulaire de soumission en ligne avant le 31 mars 2024. L’organe consultatif de l’IA publiera son rapport final avant le sommet de l’avenir, à l’été 2024.En savoir plus : https://www.un.org/en/ai-advisory-body

Événements à venir :

  • Intervention de l’OIF au 5e Sommet sur les compétences 2024 de l’OCDE (21 et 22 février 2024, Bruxelles) sur le thème « Les compétences de demain : construire des ponts vers de nouvelles opportunités », 
  • Publication du Rapport intérimaire en français de l’Organe consultatif de haut niveau sur l’intelligence artificielle des Nations unies (mars 2024, à confirmer)

DW Weekly #146 – 9 February 2024

 Page, Text

Dear readers,

The European Union Ambassadors achieved a historic milestone by approving the groundbreaking AI Act. This move signals a significant step forward in the regulation and governance of AI technologies within the EU. Meanwhile, China and Russia have forged an unexpected military AI alliance, prompting discussions on the geopolitical implications of such collaboration

Germany published its first-ever Strategy for International Digital Policy. This document is expected to set the tone for Germany’s approach to digital issues on the global stage.

In the ongoing battle against cyber threats, the Pall Mall Process has emerged to tackle the spread of spyware. The Netherlands and the USA brought to light China-backed hacking of their respective infrastructures. Multiple organisations and security leaders filed amicus briefs backing SolarWinds’ motion to dismiss the SEC case.

European Commissioner Thierry Breton called on Big Tech to play a role in safeguarding European elections from the threat of deepfakes. Simultaneously, Meta challenged the supervisory fee established under the EU’s Digital Services Act (DSA).

China launched a satellite for testing 6G technology, positioning itself at the forefront of the next generation of wireless communication. In the EU, the Gigabit Infrastructure Act will end intra-EU call charges by 2029, while concerns arose over the Houthi threat to critical submarine cables in the Red Sea.

The EU has adopted the ‘right to repair’ law, signalling a commitment to sustainability in consumer electronics. In Sudan, over 14 million people were affected by an internet shutdown, highlighting the far-reaching consequences of such actions. In Pakistan, the suspension of mobile services on election day sparked concerns about digital rights and access to information.

Andrijana and the Digital Watch team


Highlights from the week of 2-9 February 2024

abstract technology ai computing
EU Ambassadors approve landmark AI Act
On 2 February, the ambassadors of the European Union’s 27 nations unanimously adopted the world’s first comprehensive legislation for AI. Read more.
abstract technology ai computing
EU Ambassadors approve landmark AI Act
On 2 February, the ambassadors of the European Union’s 27 nations unanimously adopted the world’s first comprehensive legislation for AI. Read more.
american chinese and russian flag on a cracked wall politics conflict war concept
China and Russia forge military AI alliance
Delegates from two countries met in Beijing to discuss the use of AI in military contexts, covering doctrinal principles, initiatives, and collaboration within the UN Group of Governmental Experts on Lethal Autonomous Weapons Systems (LAWS). Read more.
american chinese and russian flag on a cracked wall politics conflict war concept
China and Russia forge military AI alliance
Delegates from two countries met in Beijing to discuss the use of AI in military contexts, covering doctrinal principles, initiatives, and collaboration within the UN Group of Governmental Experts on Lethal Autonomous Weapons Systems (LAWS). Read more.

german flag
Germany publishes first Strategy for International Digital Policy
The federal government will use the document as a framework that promotes more proactive policymaking on digital issues. Read more.
german flag
Germany publishes first Strategy for International Digital Policy
The federal government will use the document as a framework that promotes more proactive policymaking on digital issues. Read more.

a person sees a white inscription on a black smartphone display that holds in his hand spyware
The Pall Mall Process tackles spyware
Multiple countries and industry giants issued a call for heightened vigilance against the proliferation of spyware. Read more.
a person sees a white inscription on a black smartphone display that holds in his hand spyware
The Pall Mall Process tackles spyware
Multiple countries and industry giants issued a call for heightened vigilance against the proliferation of spyware. Read more.
male spy using computer display with greenscreen
Netherlands exposes Chinese cyberespionage in military network
China denied involvement, via its embassy in the Hague. Read more.
male spy using computer display with greenscreen
Netherlands exposes Chinese cyberespionage in military network
China denied involvement, via its embassy in the Hague. Read more.
china flag is depicted on the screen with the program code
Intelligence advisory: China-linked Volt Typhoon hackers infiltrate US critical infrastructure
There are indications that the threat actor maintained access in some victim IT environments for at least five years. Read more.
china flag is depicted on the screen with the program code
Intelligence advisory: China-linked Volt Typhoon hackers infiltrate US critical infrastructure
There are indications that the threat actor maintained access in some victim IT environments for at least five years. Read more.
Solar Winds
Amicus briefs back SolarWinds’ motion to dismiss SEC case
The briefs highlight the lawsuit could potentially cast a chilling effect on the industry. Read more.
Solar Winds
Amicus briefs back SolarWinds’ motion to dismiss SEC case
The briefs highlight the lawsuit could potentially cast a chilling effect on the industry. Read more.

Thierry Breton
Breton calls on Big Tech to help protect European elections from deepfakes
Breton said guidelines will be issued by March to help platforms counter electoral disinformation, including the establishment of a rapid reaction mechanism and simulation exercises. Read more.
Thierry Breton
Breton calls on Big Tech to help protect European elections from deepfakes
Breton said guidelines will be issued by March to help platforms counter electoral disinformation, including the establishment of a rapid reaction mechanism and simulation exercises. Read more.
wfchl9yftyq
Meta challenges supervisory fee established under the EU’s DSA
Meta has filed a complaint challenging the EU Digital Services Act’s supervisory fee provision, arguing the European Commission’s unfair calculation disproportionately affects profitable providers. Read more.
wfchl9yftyq
Meta challenges supervisory fee established under the EU’s DSA
Meta has filed a complaint challenging the EU Digital Services Act’s supervisory fee provision, arguing the European Commission’s unfair calculation disproportionately affects profitable providers. Read more.

space satellite planet earth
China launched satellite for testing 6G
China has successfully launched the world’s first 6G test satellite, which was developed by China Mobile and the Chinese Academy of Sciences’ Innovation Academy. Read more.
space satellite planet earth
China launched satellite for testing 6G
China has successfully launched the world’s first 6G test satellite, which was developed by China Mobile and the Chinese Academy of Sciences’ Innovation Academy. Read more.
eu flags in front of european commission
EU Gigabit Infrastructure Act: Intra-EU call charges to end in 2029, voluntary tacit approval principle upheld
The new rules aim to protect consumers from excessive prices for intra-EU communications Read more.
eu flags in front of european commission
EU Gigabit Infrastructure Act: Intra-EU call charges to end in 2029, voluntary tacit approval principle upheld
The new rules aim to protect consumers from excessive prices for intra-EU communications Read more.
yemen cables
Concerns raised over Houthi threat to critical submarine cables in Red Sea
Telecom firms linked to the UN-recognised Yemen government fear that Houthi rebels may sabotage submarine cables in the Red Sea, crucial for the functioning of the western internet and financial data transmission. Read more.
yemen cables
Concerns raised over Houthi threat to critical submarine cables in Red Sea
Telecom firms linked to the UN-recognised Yemen government fear that Houthi rebels may sabotage submarine cables in the Red Sea, crucial for the functioning of the western internet and financial data transmission. Read more.

nature meets tech bird s e waste nest
EU adopts the new ‘right to repair’ law
The European Commission said its original proposal would save some 18 million tonnes of CO2 over 15 years – while saving consumers €176 billion. Read more.
nature meets tech bird s e waste nest
EU adopts the new ‘right to repair’ law
The European Commission said its original proposal would save some 18 million tonnes of CO2 over 15 years – while saving consumers €176 billion. Read more.
flag of the sudan
Over 14 million Sudanese affected by the internet shutdown
The network blackout could also halt the functioning of e-wallets, which many people rely on given the wide-ranging cash shortage in the country. Read more.
flag of the sudan
Over 14 million Sudanese affected by the internet shutdown
The network blackout could also halt the functioning of e-wallets, which many people rely on given the wide-ranging cash shortage in the country. Read more.
flag of pakistan
Pakistan’s election day mobile service suspension sparks digital rights concerns
Pakistan’s suspension of nationwide mobile services on election day, citing security concerns after recent armed attacks, faces criticism from digital rights advocates. Read more.
flag of pakistan
Pakistan’s election day mobile service suspension sparks digital rights concerns
Pakistan’s suspension of nationwide mobile services on election day, citing security concerns after recent armed attacks, faces criticism from digital rights advocates. Read more.


#ReadingCorner
 Person, Face, Head

In our February issue of the Digital Watch Monthly, we predict what will happen in digital policy in 2024, examine AI rhetoric at the WEF 2024 Annual Summit, analyse AI’s impact on trade secrets and trademarks, examine the ingredients of a cryptostom, and recap OEWG discussions.


Follow the Ad Hoc Committee on Cybercrime with GIP reports
 City, Architecture, Building, Office Building, Convention Center, Urban, Flag

Will the UN Ad Hoc Committee on Cybercrime stick to its plan and have the first global treaty on cybercrime? Stay tuned for real-time updates and just-in-time reporting facilitated by The Digital Watch Observatory’s AI-driven App!

Digital Watch newsletter – Issue 86 – February 2024

 Person, Advertisement, Poster, Face, Head, Text, People

Snapshot: The developments that made waves

AI governance

The UN Secretary-General’s AI Advisory Body launched its Interim Report on governing AI for humanity, while the UN General Assembly adopted a resolution on Lethal Autonomous Weapons Systems (LAWS). Global leaders pledged to promote responsible AI at the 2023 Global Partnership on Artificial Intelligence (GPAI) Summit in New Delhi. Italy took over the G7 presidency in January 2024 and outlined priorities that include Africa’s development and AI. The international standard ISO/IEC 42001 on AI management systems was published.

The EU ambassadors have given the green light to the EU AI Act, which is now expected to be formally adopted by the EU by mid-April. The leaked consolidated text of the EU AI Act prompted discussions. The European Commission is preparing to establish the European AI Office, which will be crucial in enforcing the AI Act. The Commission is also challenging the US-led bid to exclude the private sector from the Council of Europe’s upcoming Convention on AI and human rights

The US Federal Trade Commission launched an inquiry into tech giants’ AI investments. The National AI Research Resource was launched with to support responsible AI research and drive innovation. The White House released a fact sheet outlining key AI actions following Biden’s executive order on AI.

The USA, the UK, and the EU are scrutinising Microsoft’s partnership with OpenAI.

Other jurisdictions are active in the AI field as well: Australia is planning to establish an advisory body for AI oversight and regulation, India is entering the LLM race with a Telugu model, China approved over 40 AI models in the last six months, and Saudi Arabia launched the GenAI for All initiative. OpenAI’s ChatGPT again faces scrutiny from the Italian data protection authority. 

Leading US healthcare companies committed to the ethical adoption of AI, Microsoft pledged to enhance trust and safeguard privacy in the age of AI. OpenAI removed an explicit ban on military use, addressed concerns over election misuse of AI, and unveiled an AI safety framework.  

Technologies 

Elon Musk’s Neuralink implanted the first-ever brain chip in a human. Investigation revealed that the Chinese military bypassed US restrictions on Nvidia chips. Nvidia will roll out a new AI chip for China to comply with US export restrictions. New Dutch restrictions impacted ASML shipments to China. South Korea will extend tax benefits for investments in the nation’s semiconductor industry.

Security

Big Tech CEOs testified at a US Senate hearing over accusations of failing to take adequate measures to protect children from harmful and CSAM content. 

The OEWG on ICT security issued a call to member states to nominate points of contact to be included in the global points of contact directory on ICT security. 

Ukraine’s largest telecom operator suffered a crippling cyberattack, allegedly by Russian hackers. The FBI and DoJ used a court order to thwart Chinese hacking of critical infrastructure.  A supermassive Mother of all Breaches (MOAB) exposed over 26 billion data records. The UK NCSC warned of the escalating frequency and impact of cyberattacks due to AI. Researchers predicted that cybercrime will incur a staggering USD12 trillion in costs by 2025.

Infrastructure

Negotiations on the EU regulation to accelerate 5G and fibre rollout are underway. Key discussions revolve around the tacit approval principle and intra-EU communication fees.

The Times filed a lawsuit against OpenAI and Microsoft in the USA, alleging that the tech firms used the newspaper’s content without authorisation to train their AI large language models. OpenAI responded that the case is ‘without merit’ and expressed hope for a partnership with the media outlet. Epic Games has won an antitrust lawsuit against Google over its Play Store app. The IMF chief called for retraining and safety nets amidst AI-driven job changes.

Internet economy

China revealed its plan for a better digital economy and common prosperity, which aims to integrate digital technologies with the real economy and address development issues using digital means. The Association of Southeast Asian Nations (ASEAN) is gearing up to establish a region-wide digital economy agreement. At the same time, the UK’s Competition and Markets Authority (CMA) has outlined its plans for implementing a new digital markets competition regime.   

Digital rights

A legal filing by the state of New Mexico, the USA, alleges that Meta profits from corporate ads placed alongside content promoting child sexual exploitation. The French Data Protection Authority imposed a €10 million fine against Yahoo for failing to comply with users’ privacy and consent regarding cookies.

Content policy

The Cyberspace Administration of China (CAC) focused on curbing pessimism and extremism on digital platforms, while the European Commission started investigating X for alleged breaches of the Digital Services Act (DSA). Meta’s Oversight Board criticised Meta for the removal of videos depicting the Israel-Hamas conflict. Türkiye’s constitutional court ruled internet content-blocking provisions unconstitutional. 

Violent videos surfaced on X amid Ecuador’s ‘internal armed conflict’. Taylor Swift’s deepfakes prompted calls for criminalising deepfake pornography in the USA. India warned social media companies that they will be held responsible for disseminating AI-generated deepfakes on their platforms.

Development

Germany and Namibia, co-facilitators of the Summit of the Future, announced the release of the zero draft of the Pact for the Future, which includes provisions related to the impact of digital technologies on peace and security, as well as the potential of science, technology, and innovation in advancing sustainable development. Tech companies and governments have pledged to increase their actions to address the climate crisis through the Green Digital Action track at the 28th Conference of the Parties (COP28). Thailand revealed an initiative to enhance human capital and digital development. Iran is grappling with escalating internet costs and censorship despite promised free access. Kyrgyzstan and China signed a digital cooperation agreement to advance technological progress, while the UK and India announced cooperation on digital sustainability. Statistics Netherlands developed a new methodology to map European e-waste. World Bank’s recent brief highlighted that enhanced internet accessibility in Nigeria and Tanzania has notably diminished extreme poverty.

THE TALK OF THE TOWN – GENEVA

UNCTAD held its flagship eWeek 2023 on 4 – 8 December 2023. Themed ‘Shaping the future of the digital economy’, it focused on addressing the oversight of digital platforms and AI, promoting sustainability in the digital economy, enhancing women’s digital entrepreneurship, and accelerating the digital readiness of developing countries. UNCTAD collaborated with Diplo in providing the first-ever AI-human hybrid reporting for the event.
Held from 22 January to 2 February 2024, the first cluster of the International Telecommunication Union (ITU) Council Working Group (CWG) and Expert Group (EG) meetings started preparations for the matters to be discussed during the June ITU Council. One highlight is the CWG on Child Online Protection (COP), during which the Secretary-General presented the progress report on the COP Initiative, debriefing on ITU’s capacity-building activities and cross-sector partnerships in programmes such as Protection through Online Participation (POP), COP in Sports, and EQUALS Tech4Girls.


12 AI and digital predictions for 2024

2024 will be the year of AI. AI technology will continue to grow deeper through powerful foundational models and wider through more connections to the rest of the digital ecosystem (e.g. IoT, virtual reality, and digital infrastructures). Smaller AI and open-source models will gain traction for their transparency, adaptability, and eco-friendliness.

AI risks will dominate the governance and regulatory debate. Existing risks (e.g. jobs, misinformation, biases) will receive more attention than existential risks. AI governance will become more specific and concrete, addressing computational power, data and knowledge, algorithms, and AI applications.

The push for national sovereignty over data, AI, and technology infrastructure will reshape digital geopolitics. The digital decoupling between China and the USA will accelerate significantly in 2024. India, Brazil, South Africa, Singapore, Türkiye, and Gulf states, among others, will try to carve an asymmetric ‘third digital space’ between the two superpowers.

There will be a push for new organisations, commissions, and expert groups dealing with AI and digital governance. The adoption of the UN Cybercrime Convention is anticipated to mark the beginning of global digital governance in 2024. The Global Digital Compact (GDC) will be negotiated, and international bodies, including the UN Security Council, will address digital aspects of conflicts and humanitarian crises.

AI will put diplomacy to the test through the automation of tasks using Large Language Models (LLMs). Diplomacy will need to adapt to increased pressure to negotiate AI and digital topics, extending to areas such as digital governance, health, trade, and human rights.

Cybersecurity will be a significant concern, with a focus on military conflicts in Gaza and Ukraine, emerging threats to digital critical infrastructure, and AI-facilitated theft and illegal activities. The expected adoption of the UN Cybercrime Convention in early 2024 will further shape global cybersecurity efforts.

AI’s impact on human rights, including freedom of expression and privacy, will be on the centre stage, sparking debates on dignity and humanity’s definition. Neurorights, influenced by AI and biotechnological developments, will gain prominence.

AI will accelerate economic changes, from restructuring traditional industries to developing new ones built around AI technology. The primary policy dynamics will be related to the economic consequences of the digital decoupling (or de-risking) between China and the USA, anti-monopolies in AI, taxation of online industries, and digital trade.

The standardisation community will prioritise standards for AI, 6G networks, quantum computing, and other advanced technologies. Multilateral processes will explore technical standards as a soft regulation approach.

The decades-long saga around online encryption will gain new momentum with the debate around on-device scanning of communications for illegal content.

Digital identities will gain importance, with a focus on the Digital Public Infrastructure (DPI) initiative endorsed by the G20.

Elections in over 70 countries will heighten concerns about online content, specifically mis/disinformation through deepfake videos, texts, and sounds, which will accelerate efforts to detect AI-generated content.
AI will trigger innovation in new aspects of inclusion as countries and communities will aim to develop bottom-up AI solutions that reflect their cultural and knowledge heritage.

Read the 12 AI and Digital Predictions for 2024 in full.


AI optimism in geopolitically pessimistic Davos

In the serene backdrop of the Swiss Alps, the World Economic Forum (WEF) in Davos stands as a barometer for the year’s technological zeitgeist. After an exceptionally tech-shy Summit in 2023, AI restored tech optimism in Davos this year. The blueness of the tech sky stands out even more against the gloomy and cloudy global geopolitics. Is this optimistic dose of AI a panacea for global problems, the maturation of AI discourse, or yet another tech sleepwalk?

 Outdoors, Nature, Scenery, Mountain, Architecture, Building, Cityscape, Urban, Landscape, Road, Aerial View, Mountain Range

Optimistic dosage. The 24 AI-centric sessions out of 235 at WEF featured 135 speakers and a flurry of 1,101 arguments, with the majority having a positive tone (600). The WEF AI debates have been rated a solid 8 on DiploAI’s optimism scale. Conversations have revolved around AI’s potential to elevate productivity, combat diseases, and solve environmental crises. The economic forecasts present AI as a trillion-dollar boon, a narrative contrast to AI doomsday scenarios from the spring of 2023. 

From extinction to existing risks. The narrative surrounding AI risks has shifted at WEF, with existential risks now viewed as problems humanity can overcome, similar to past technological challenges. Most of the AI risk debate focused on the existing risks of AI misuse, such as misinformation, job losses, and educational reform. 

It’s unclear why AI gurus have recalibrated their language at WEF, as their predictions that AI would destroy humanity were made with great conviction last year. Sam Altman’s frank admission, ‘no one knows what comes next [with AI]’, encapsulates the dual nature of this juncture: it’s both alarming and reassuring. The uncertainty voiced by those at the forefront of AI development is concerning. At the same time, it is encouraging that tech leaders speak more frankly about their knowledge of the impact of AI without the fear-mongering of the last year.

IPR and content for AI. The New York Times‘ court case against OpenAI over the use of copyrighted material to train AI models was frequently mentioned in Davos. Traceability and transparency in AI development will be critical for a sustainable and functional AI economy. 

AI governance. Last year’s narrative that governance should focus on AI capabilities has given way to a focus on applications. It makes AI less unique and more governable, just like any other technology. This approach, used by the EU AI Act, is also gaining popularity in the USA. The WEF discussions revealed more similarities than differences in the regulation of AI in China, the USA, and the EU.

Open source AI. The stance on open-source AI as an unmanageable risk softened at WEF. Yann LeCun of Meta argued that open-source AI is beneficial not only for scientific progress but also for controlling the monopolies of large AI tech companies and incorporating diverse cultural and societal inputs into AI development. Open-source AI will gain traction in 2024, posing a significant challenge to proprietary software such as OpenAI.

AI and development. According to the UN Secretary-General’s Envoy on Technology, Amandeep Sing Gill, AI will not save the SDGs if current trends continue. This candid assessment was more of an outlier in WEF discussions. For example, there was little discussion of the AI-driven widening of digital divides and the increasing concentration of economic and knowledge power in the hands of a few companies.

The confusion around AI potentials and risks underscores the need for a mature, nuanced conversation on AI’s future. We must navigate the known challenges with agile, transparent, and inclusive regulatory frameworks. The Davos debates have made strides in this direction, aiming to steer us away from a dystopian AI future through informed, balanced dialogue rather than fear.

Browse the reports from WEF’s 2024 annual meeting and the final report from the event.



The intellectual property saga: AI’s impact on trade secrets and trademarks

Within the realm of AI and intellectual property, trade secrets and trademarks present unique challenges and opportunities that require special attention in the evolving legal landscape. This blog outlines the complexities, challenges, and opportunities that define intellectual property rights and obligations, focusing on examples from the EU and US legal frameworks.

US trade secret law safeguards diverse information, such as financial, business, scientific, and technical data, if the owner takes reasonable security measures to maintain secrecy. The information must derive value from not being widely known or easily accessible by others through legitimate means (18 U.S.C. §1839(3)). Requirements related to secrecy exclude trade secret protection for AI-generated outputs that are not confidential, such as those produced by systems like ChatGPT or Dall·E. Nevertheless, trade secret laws seem to be more flexible to safeguard various AI-related assets. Namely, there is no stipulation that a trade secret must be originated by a human being, while AI-generated material is treated like any other form of information, as evident in 18 U.S.C. §1839(4), which defines trade secret ownership. 

AI innovators often choose trade secret protections over patents due to ambiguous AI and copyright laws. From the EU perspective, the impending AI Act might require disclosure of AI operations, impacting the viability of trade secret safeguarding in some cases. Clear guidelines for AI trade secrets and defining collaboration obligations are crucial for fostering innovation and protecting business assets.

AI integration transforms trademark protection, expanding from logos to AI-generated content and algorithms. Defining the ‘average consumer’ and determining responsibility in trademark infringement cases pose challenges in AI-driven customer service. There aren’t any known cases addressing AI and liability in trademark infringement. However, the Court of Justice of the European Union (CJEU) ruled in cases like Louis Vuitton vs Google France and L’Oréal vs eBay. These decisions state that Google and eBay cannot be held accountable for trademark infringement unless they are aware and actively involved in the automatic selection that results in trademark infringement. Therefore, if we were to apply these cases in AI systems, AI would be held liable in the EU if the AI provider plays a more active role in potential infringing actions. 

The impact of AI on industries highlights the need for flexible intellectual property laws to balance innovation and protection. Legal frameworks must adapt to recognise and safeguard AI-generated innovations, raising questions about authorship and ownership attribution. Policymakers and stakeholders must craft forward-thinking regulations to accommodate AI’s potential while protecting all parties’ rights and interests.

A longer version of this blog first appeared on the Digital Watch Observatory. Read the full version of the blog, and discover part 1 of the blog series, The intellectual property saga: The age of AI-generated content.


The perfect cryptostorm

We watched the new Netflix documentary ‘Bitconned’ on cryptocurrency industry fraud. Read what were the ingredients to create such a perfect storm for victims.

 Wristwatch, Advertisement, Body Part, Hand, Person, Arm, Baby, Accessories, Formal Wear, Tie
Campaigns 183

The cryptocurrency and blockchain craze from 2017 to 2021 unfolded in a unique setting. One component amplified the other, multiplying the effect, thus creating a perfect cryptostorm that impacted trust in the industry and caused financial losses. 

Bitcoin, often termed the digital gold, stood out as a marvel of human engineering and a one-hit wonder. This led to the emergence of a new payment industry, driven by legacy financial organisations seeking relevance in the digital era.

Simultaneously, the retail investing industry saw an influx of capital, with online trading companies backed by institutional investors posing risks for retail users and consumer protection. Unanswered risks, changes in the financial industry, and inexperienced investors set the stage for a perfect storm, exacerbated by human greed.

The perfect cryptostorm. The Netflix documentary ‘Bitconned’ vividly portrays the summoning of the cryptostorm by companies like Centra Tech. In 2017, Centra Tech raised $25 million for a VISA-backed credit card, only to be revealed as a staged mirage. The court case concluded in 2021, resulting in jail sentences. The documentary, led by Ray Trapani, one of Centra Tech’s key figures, reveals how young scammers raised millions in an ICO with a one-page website.

The cryptostorm persisted for years, culminating in the collapse of FTX, the world’s second-largest cryptocurrency exchange. Companies like Celsius and Luna also faced legal challenges for misusing investor funds. 

How did crypto scam companies utilise the above ingredients? By promising the right thing at the right moment. Internet users witnessed the financial sector’s transformation and bitcoin’s success. They could easily be convinced that a new decentralised finance infrastructure is on the verge, which will be supported by the lack of a regulatory framework. At the same time, giving them a fair chance to participate in the industry beginnings and become the new crypto millionaires, which was the main incentive for many. If people behind the open-source cryptocurrency (bitcoin) could create the ‘internet of information’,  the next generation of cryptocurrency engineers would surely deliver the ‘internet of money’. However, again, it was false. It was, in fact, a carefully worded money-grabbing experiment.

All the above ideas still stand as a goalpost for further industry developments. 

Could this happen again for online financial services? Looking ahead, the likelihood of a recurrence of such large-scale scams within online financial services is slim. Regulatory frameworks have been strengthened, and authorities are better equipped to identify and intervene in fraudulent activities. Moreover, investors have become more discerning and wary of promises that seem too good to be true.

However, the potential for deception remains inherent in any technology-driven industry, as opportunistic actors may continue to exploit societal aspirations for innovation and progress. As such, vigilance and scepticism are essential when engaging with new technologies and investment opportunities, ensuring that users are not misled by false promises or exaggerated claims.

A longer version of this blog first appeared on the Digital Watch Observatory. Read the full version of the blog.

bitconned cryptostorm
The perfect cryptostorm
bitconned cryptostorm
The perfect cryptostorm

OEWG wraps up its sixth substantive session

The sixth substantive session of the UN Open-Ended Working Group (OEWG) on security of and the use of information and communications technologies 2021–2025 was held in December 2023, marking the midway point of the process. Here is a quick snapshot of the discussions.  

Threats. The risks and challenges associated with emerging technologies, such as AI, quantum computing, and the internet of things (IoT), were highlighted by several countries. Numerous nations expressed concerns about the increasing frequency and impact of ransomware attacks on various entities, including critical infrastructure, local governments, health institutions, and democratic institutions. Many countries emphasised the importance of international cooperation and information sharing to effectively address cybersecurity challenges. The idea of a global repository of cyber threats, as advanced by Kenya, enjoys much support.

Rules, norms and principles. Delegations  signalled that clarifying the norms and providing implementation guidance is necessary. Delegations expressed different views on whether new norms are needed.

International law. The elephant in the room is the question of whether a new treaty and new binding norms are needed. The law of state responsibility, the principle of due diligence, and the applicability of international humanitarian law (IHL) and international human rights law in cyberspace are also areas without consensus.

Confidence-building measures (CBMs). There’s widespread support for the global Points of Contact (PoC) directory as a valuable CBM. The OEWG members will focus on its implementation and operationalisation. 

Capacity building. Foundational capacities such as legal frameworks, the establishment of dedicated agencies, and mechanisms for incident response, with a special focus on computer emergency response teams (CERTs) and CERT cooperation, were consistently highlighted as crucial. Delegations also stressed the importance of national contexts and how there is no one-size-fits-all answer to building foundational capacities. Delegations expressed support for the voluntary cybersecurity capacity-building checklist proposed by Singapore and for the Accra Call for Cyber Resilience Development set forth during the Global Conference on Cyber Capacity Building (GC3B).
Regular institutional dialogue. The discussions on what the future regular institutional dialogue will look like can be summarised as Programme of Action (PoA) vs OEWG. The supporters of the Programme of Action (PoA) suggest using the review mechanism to identify gaps in existing international law and recognise that such gaps can be filled with new norms. Those who support continuing regular institutional dialogue within the framework of OEWG suggest a permanent OEWG should be established, focusing on developing legally binding rules as elements of a future universal treaty on information security. They propose consensus-based decision-making and stricter rules for stakeholder participation.


DW Weekly #145 – 2 February 2024

 Page, Text

Dear readers,

OpenAI’s vs Italy’s Garante saga continues, as the data protection authority notifies OpenAI that ChatGPT is violating data protection rules. China approved 40 AI models in the last six months to rival the USA. The White House outlines key AI actions post-Biden’s order, and the UK plans tests for new AI laws. Elon Musk’s Neuralink implants a brain chip, pushing the boundaries of tech-human integration.

Germany and Namibia, serving as co-facilitators of the Summit of the Future, unveiled the zero draft of the Pact for the Future. Cybersecurity highlights of the week include the announcement of an OEWG roundtable on capacity building and the FBI thwarting Chinese hacks on critical infrastructure in the USA. 

Content concerns rise with Taylor Swift’s deepfakes. India joined the fight against deepfakes, emphasising the need for accountability from platforms hosting such content. Big Tech CEOs testified at a US Senate hearing over accusations of failing to take effective measures to protect children from harmful and CSAM content.

Amazon and Roomba iRobot cancelled a $1.4 billion deal due to EU antitrust concerns.

Let’s get started. 

Andrijana and the Digital Watch team


Highlights from the week of 26 January-2 February 2024

OpenAi and Microsoft
OpenAI’s ChatGPT faces scrutiny from Italian privacy watchdog
According to the authority, there are indications of violations of data privacy law. OpenAI has been granted a 30-day period to present its defence arguments in response to the allegations. Read more.
OpenAi and Microsoft
OpenAI’s ChatGPT faces scrutiny from Italian privacy watchdog
According to the authority, there are indications of violations of data privacy law. OpenAI has been granted a 30-day period to present its defence arguments in response to the allegations. Read more.
multi exposure abstract creative digital world map hologram chinese flag blue sky background research analytics concept
China approves over 40 AI models to narrow US development gap
Regulators granted approvals for 14 large language models (LLMs) last week after granting approvals in three precedent batches the previous year. Read more.
multi exposure abstract creative digital world map hologram chinese flag blue sky background research analytics concept
China approves over 40 AI models to narrow US development gap
Regulators granted approvals for 14 large language models (LLMs) last week after granting approvals in three precedent batches the previous year. Read more.
the united states capitol building in washington dc united states of america
White House releases fact sheet on key AI actions following Biden’s executive order
Three months after the release of President Biden’s highly anticipated executive order, the White House released a fact sheet with its key actions on AI. Read more.
the united states capitol building in washington dc united states of america
White House releases fact sheet on key AI actions following Biden’s executive order
Three months after the release of President Biden’s highly anticipated executive order, the White House released a fact sheet with its key actions on AI. Read more.
ai learning artificial intelligence concept 1
UK’s government to publish tests to determine new AI laws
The results of these tests could trigger legislative action to ensure the UK can keep pace with the risks of AI. Read more.
ai learning artificial intelligence concept 1
UK’s government to publish tests to determine new AI laws
The results of these tests could trigger legislative action to ensure the UK can keep pace with the risks of AI. Read more.
3d x ray human brain with computer chip circuit 1
Elon Musk’s Neuralink implants brain chip in human
Neuralink’s founder Elon Musk announced that the first human patient implanted with the brain-chip startup’s device on Sunday is recovering well, with promising initial results indicating neuron spike detection. Read more.
3d x ray human brain with computer chip circuit 1
Elon Musk’s Neuralink implants brain chip in human
Neuralink’s founder Elon Musk announced that the first human patient implanted with the brain-chip startup’s device on Sunday is recovering well, with promising initial results indicating neuron spike detection. Read more.

SoF
Germany and Namibia, co-facilitators of the Summit of the Future, publish zero draft of the Pact for the Future
The draft includes several provisions on science, technology and innovation, as well as new technologies and peace and security. Read more.
SoF
Germany and Namibia, co-facilitators of the Summit of the Future, publish zero draft of the Pact for the Future
The draft includes several provisions on science, technology and innovation, as well as new technologies and peace and security. Read more.
Screen Shot 2024 02 02 at 11.56.19
OECD releases the 2023 digital government index
The top 10 performers in the index include Korea, Denmark, the UK, Norway, Australia, Estonia, Colombia, Ireland, France, and Canada. Read more.
Screen Shot 2024 02 02 at 11.56.19
OECD releases the 2023 digital government index
The top 10 performers in the index include Korea, Denmark, the UK, Norway, Australia, Estonia, Colombia, Ireland, France, and Canada. Read more.

closeup shot of the waving flag of the united nations with interesting
UN OEWG Chair invites ICT ministers to Global roundtable on ICT security capacity building
This is the first time the UN is convening a dedicated global event on ICT security capacity building. Read more.
closeup shot of the waving flag of the united nations with interesting
UN OEWG Chair invites ICT ministers to Global roundtable on ICT security capacity building
This is the first time the UN is convening a dedicated global event on ICT security capacity building. Read more.
american and chinese flags diplomatic crisis concept
FBI and DoJ use court order to thwart Chinese hacking of critical infrastructure
This move is part of a broader government initiative to counter the persistent threat Chinese hackers pose. Read more.
american and chinese flags diplomatic crisis concept
FBI and DoJ use court order to thwart Chinese hacking of critical infrastructure
This move is part of a broader government initiative to counter the persistent threat Chinese hackers pose. Read more.
BIGTECH Hearing
Big Tech CEOs testify at US Senate hearing over online child sexual abuse 
CEOs of Meta (Mark Zuckerberg), X (Linda Yaccarino), TikTok (Shou Chew), Snap (Evan Spiegel) and Discord (Jason Citron), testified before Congress over accusations of failing to protect children from sexual exploitation online. Read more.
BIGTECH Hearing
Big Tech CEOs testify at US Senate hearing over online child sexual abuse 
CEOs of Meta (Mark Zuckerberg), X (Linda Yaccarino), TikTok (Shou Chew), Snap (Evan Spiegel) and Discord (Jason Citron), testified before Congress over accusations of failing to protect children from sexual exploitation online. Read more.

computer keyboard with red deepfake button key deepfake dangers online
Taylor Swift’s deepfakes spark calls for criminalisation of deepfake pornography
The rapid online spread of deepfake pornographic images of Taylor Swift has generated renewed calls to criminalise the practice. Read more.
computer keyboard with red deepfake button key deepfake dangers online
Taylor Swift’s deepfakes spark calls for criminalisation of deepfake pornography
The rapid online spread of deepfake pornographic images of Taylor Swift has generated renewed calls to criminalise the practice. Read more.
shutterstock 2289524003
India takes stand against deepfakes, platforms to be accountable
India is proactive in recognising and addressing the threat of deepfakes due to its large online population base, with approximately 870 million internet users. Read more.
shutterstock 2289524003
India takes stand against deepfakes, platforms to be accountable
India is proactive in recognising and addressing the threat of deepfakes due to its large online population base, with approximately 870 million internet users. Read more.
2022 concept business people show future big data technology metaverse through networking
Big Tech can earn enough in a week to cover 2023 fines, highlighting the need for stronger regulation
Proton, a Swiss-based privacy company, conducted a study indicating that if each company paid their fines sequentially, it would take a little over a week, with Meta requiring the longest—five days and 13 hours. Read more.
2022 concept business people show future big data technology metaverse through networking
Big Tech can earn enough in a week to cover 2023 fines, highlighting the need for stronger regulation
Proton, a Swiss-based privacy company, conducted a study indicating that if each company paid their fines sequentially, it would take a little over a week, with Meta requiring the longest—five days and 13 hours. Read more.

rymh7ezpqrs
Amazon and Roomba iRobot maker cancel $1.4 billion deal
Amazon and Roomba iRobot terminated their acquisition due to EU antitrust concerns. FTC also investigated Amazon for market dominance and antitrust violations. Read more.
rymh7ezpqrs
Amazon and Roomba iRobot maker cancel $1.4 billion deal
Amazon and Roomba iRobot terminated their acquisition due to EU antitrust concerns. FTC also investigated Amazon for market dominance and antitrust violations. Read more.


#ICYMI
 Blackboard, Light

As the curtains fall, it is time for reflections. The 9th Geneva Engage Awards on 1 February 2024 acknowledged and celebrated the efforts of International Geneva actors in digital outreach and creating meaningful engagement with the rest of the world. Through 3 pre-ceremony interactive workshops, communication experts from different stakeholder groups and Diplo’s researchers deliberated about good website information organisation practices, social media management, and the future of event and conference hosting. 

The evening then culminated in the award ceremony, with the International Committee of the Red Cross, the World Heart Federation, and the Permanent Mission of Pakistan to the UN in Geneva taking the crown in the main categories. The Effective and Innovative Events Award went to the United Nations Conference on Trade and Development eWeek 2023 for its adoption of AI reporting system provided by DiploFoundation. The Accessibility Award went to the UK Mission to the WTO, UN and Other International Organisations (Geneva)

Congratulations to all the winners! To watch the recording or to learn about our methodology, please visit the dedicated website


#ReadingCorner
 Person, Security
Campaigns 217

Web accessibility is often misperceived as a cost rather than an investment, a challenge rather than an opportunity, and a legal hurdle rather than compliance with obligations that benefit all users. In her blog post, Diplo’s Senior Policy Editor Virginia (Ginger) Paque argues that we all need accessibility, to everything.

 Wristwatch, Advertisement, Body Part, Hand, Person, Arm, Baby, Accessories, Formal Wear, Tie

We watched the new Netflix documentary ‘Bitconned’ on cryptocurrency industry fraud. Diplo’s resident expert on crypto Arvin Kamberi analyses what were the ingredients to create such a perfect storm for victims.


Follow the Ad Hoc Committee on Cybercrime with GIP reports
 City, Architecture, Building, Office Building, Convention Center, Urban, Flag

Will the UN Ad Hoc Committee on Cybercrime stick to its plan and have the first global treaty on cybercrime? Stay tuned for real-time updates and just-in-time reporting facilitated by The Digital Watch Observatory’s AI-driven App!