Campaigns

Observatoire

Coup d’œil : les développements qui ont fait des remous

Gouvernance de l’IA

L’Organe consultatif sur l’IA du Secrétaire général des Nations unies a publié son rapport intermédiaire sur la gouvernance de l’IA pour l’humanité, tandis que l’Assemblée générale des Nations unies a adopté une résolution sur les systèmes d’armes autonomes létaux (LAWS). Les dirigeants mondiaux se sont engagés à promouvoir une IA responsable lors du sommet 2023 du Partenariat mondial sur l’intelligence artificielle (GPAI) à New Delhi. L’Italie a pris la présidence du G7 en janvier 2024 et a défini des priorités, qui incluent le développement de l’Afrique et l’IA. La norme internationale ISO/IEC 42001 sur les systèmes de management de l’IA a été publiée.

Les ambassadeurs de l’UE ont donné leur feu vert à la loi européenne sur l’IA, qui devrait être officiellement adoptée par l’UE à la mi-avril. La publication du texte consolidé de l’Acte de l’UE sur l’IA a donné lieu à des discussions. La Commission européenne se prépare à mettre en place l’Office européen de l’IA, qui jouera un rôle essentiel dans l’application de la loi sur l’IA. La Commission conteste également la tentative des États-Unis d’exclure le secteur privé de la future convention du Conseil de l’Europe sur l’IA et les droits de l’Homme.

La Commission fédérale du commerce des États-Unis a ouvert une enquête sur les investissements des géants de la technologie dans l’IA. La National AI Research Resource a été lancée pour soutenir la recherche responsable en matière d’IA et stimuler l’innovation. La Maison-Blanche a publié une note d’information décrivant les principales actions en matière d’IA à la suite du décret de M. Biden sur l’IA.

Les États-Unis, le Royaume-Uni et l’Union européenne examinent de près le partenariat entre Microsoft et OpenAI.

D’autres juridictions sont également actives dans le domaine de l’IA : l’Australie prévoit de créer un organe consultatif pour la surveillance et la réglementation de l’IA, l’Inde se lance dans la course au LLM avec un modèle en telugu, la Chine a approuvé plus de 40 modèles d’IA au cours des six derniers mois et l’Arabie saoudite a lancé l’initiative GenAI for All (l’IA générique pour tous). ChatGPT, d’OpenAI, est à nouveau soumis à l’examen de l’autorité italienne chargée de la protection des données.
Les principales entreprises américaines du secteur de la santé se sont engagées à adopter l’IA de manière éthique, tandis que Microsoft a promis de renforcer la sécurité et de protéger la vie privée à l’ère de l’IA. OpenAI a supprimé l’interdiction explicite d’utiliser l’IA à des fins militaires, a répondu aux inquiétudes concernant l’utilisation abusive de l’IA lors des élections et a dévoilé un cadre de sécurité pour l’IA.

Technologies 

La société Neuralink d’Elon Musk a implanté la toute première puce cérébrale sur un être humain. Une enquête a révélé que l’armée chinoise a contourné les restrictions américaines sur les puces Nvidia. Nvidia va lancer une nouvelle puce d’intelligence artificielle pour la Chine afin de se conformer aux restrictions américaines à l’exportation. Les nouvelles contraintes néerlandaises ont eu un impact sur les expéditions d’ASML vers la Chine. La Corée du Sud va accroître les avantages fiscaux pour les investissements dans l’industrie des semi-conducteurs du pays.

Sécurité

Les P.-D. G. des grandes entreprises technologiques ont témoigné lors d’une audition au Sénat américain, accusés de ne pas prendre les mesures adéquates pour protéger les enfants contre les contenus préjudiciables et les messages publicitaires non sollicités (CSAM).

Le GTCNL sur la sécurité des TIC a lancé un appel aux États membres pour qu’ils désignent des interlocuteurs à inclure dans le répertoire mondial des contacts sur la sécurité des TIC.

Le plus grand opérateur de télécommunications d’Ukraine a été victime d’une cyberattaque dévastatrice, qui aurait été menée par des pirates informatiques russes. Le FBI et le DoJ ont eu recours à une décision de justice pour contrecarrer le piratage d’infrastructures critiques par des Chinois. Une gigantesque « Mother of all Breaches » (MOAB) a exposé plus de 26 milliards d’enregistrements de données. Le NCSC britannique a mis en garde contre l’augmentation de la fréquence et de l’impact des cyberattaques dues à l’IA. Les chercheurs ont prédit que la cybercriminalité entraînera un coût faramineux de 12 000 milliards de dollars américains d’ici 2025.

Infrastructure

Les négociations sur le règlement de l’UE visant à accélérer le déploiement de la 5G et de la fibre optique sont en cours. Les principales discussions portent sur le principe d’approbation tacite et les frais de communication intra-UE.

Juridique

Le Times a intenté une action en justice contre OpenAI et Microsoft aux États-Unis, alléguant que ces entreprises technologiques avaient utilisé sans autorisation le contenu du journal pour perfectionner leurs modèles d’intelligence artificielle en langues étrangères. OpenAI a répondu que l’affaire était « sans fondement » et a exprimé son souhait d’établir un partenariat avec le média. Epic Games a gagné un procès de lutte contre la concurrence contre Google au sujet de son application Play Store. Le directeur du FMI a appelé à la reconversion et à la mise en place de dispositifs de sécurité dans le contexte des changements d’emploi induits par l’IA.

Économie de l’internet

La Chine a dévoilé son plan en faveur d’une meilleure économie numérique et d’une plus grande prospérité commune, qui vise à intégrer les technologies numériques à l’économie réelle et à résoudre les problèmes de développement par des moyens numériques. L’Association des nations de l’Asie du Sud-Est (ASEAN) se prépare à établir un accord sur l’économie numérique à l’échelle régionale. Dans le même temps, l’autorité britannique de la concurrence et des marchés (CMA) a présenté ses projets de mise en œuvre d’un nouveau régime de concurrence sur les marchés numériques.

Droits numériques

Selon une plainte déposée par l’État du Nouveau-Mexique (États-Unis), Meta tirerait profit des publicités d’entreprises placées à proximité de contenus incitant à l’exploitation sexuelle des enfants. L’autorité française de protection des données a infligé une amende de 10 millions d’euros à Yahoo! pour non-respect de la vie privée et du consentement des utilisateurs en ce qui concerne les témoins de connexion (« cookies »).

Politique de contenu

La Cyberspace Administration of China (CAC) s’est concentrée sur la lutte contre le pessimisme et l’extrémisme sur les plateformes numériques, tandis que la Commission européenne a commencé à enquêter sur X pour des infractions présumées à la loi sur les services numériques (Digital Services Act, DSA). Le Conseil de surveillance de Meta a reproché à cette dernière d’avoir supprimé des vidéos illustrant le conflit entre Israël et le Hamas. La Cour constitutionnelle de Turquie a jugé inconstitutionnelles les dispositions relatives au blocage des contenus sur l’internet.

Des vidéos violentes ont fait leur apparition sur X dans le cadre du « conflit armé interne » en Équateur. Les fausses images de Taylor Swift ont suscité des appels à la criminalisation de la pornographie par les fausses images aux États-Unis. L’Inde a averti les entreprises de médias sociaux qu’elles seraient tenues pour responsables de la diffusion sur leurs plateformes de fausses images générées par l’intelligence artificielle.

Développement

L’Allemagne et la Namibie, co-facilitateurs du Sommet du futur, ont annoncé la publication de la version zéro du Pacte pour l’avenir, qui comprend des dispositions relatives à l’impact des technologies numériques sur la paix et la sécurité, ainsi que le potentiel de la science, de la technologie et de l’innovation pour faire progresser le développement durable. Les entreprises technologiques et les gouvernements se sont engagés à intensifier leurs actions pour faire face à la crise climatique par le biais de l’action numérique verte lors de la 28^e conférence des parties (COP28). La Thaïlande a dévoilé une initiative visant à renforcer le capital humain et le développement numérique. L’Iran est confronté à l’escalade des coûts de l’internet et à la censure, malgré la promesse d’un accès gratuit. Le Kirghizstan et la Chine ont signé un accord de coopération numérique pour faire avancer le progrès technologique, tandis que le Royaume-Uni et l’Inde ont annoncé une coopération sur la durabilité numérique. Statistics Netherlands a développé une nouvelle méthodologie pour cartographier les déchets électroniques européens. La Banque mondiale a récemment souligné que l’amélioration de l’accès à l’internet au Nigeria et en Tanzanie avait considérablement réduit l’extrême pauvreté.

En bref

Douze prédictions sur l’IA et le numérique pour 2024

2024 sera l’année de l’IA. La technologie de l’IA continuera à se développer en profondeur grâce à de puissants modèles fondamentaux et à se diversifier grâce à davantage de connexions avec le reste de l’écosystème numérique (par exemple, l’IdO, la réalité virtuelle et les infrastructures numériques). Les modèles d’IA plus petits et à source ouverte gagneront en popularité en raison de leur transparence, de leur adaptabilité et de leur respect de l’environnement.

Les risques liés à l’IA prédomineront dans le débat sur la gouvernance et la réglementation. Les risques existants (par exemple, les emplois, la désinformation et les préjugés) bénéficieront d’une plus grande attention que les risques existentiels. La gouvernance de l’IA deviendra plus spécifique et concrète, abordant la puissance de calcul, les données et les connaissances, les algorithmes et les applications de l’IA.

La poussée pour la souveraineté nationale sur les données, l’IA et l’infrastructure technologique va remodeler la géopolitique numérique. Le découplage numérique entre la Chine et les États-Unis s’améliorera considérablement en 2024. L’Inde, le Brésil, l’Afrique du Sud, Singapour, la Turquie et les États du Golfe, entre autres, tenteront de créer un « troisième espace numérique » asymétrique entre les deux superpuissances.

De nouvelles organisations, commissions et groupes d’experts traitant de l’IA et de la gouvernance numérique seront mis en place. L’adoption de la convention des Nations unies sur la cybercriminalité devrait marquer le début de la gouvernance numérique mondiale en 2024. Le Pacte mondial pour le numérique (PMN) sera négocié, et les organismes internationaux, notamment le Conseil de sécurité des Nations unies, se pencheront sur les aspects numériques des conflits et des crises humanitaires.

L’IA placera la diplomatie à l’épreuve de l’automatisation des tâches à l’aide de grands modèles de langage (LLM). La diplomatie devra s’adapter à une pression accrue pour négocier les sujets liés à l’IA et au numérique, qui s’étendent à des domaines tels que la gouvernance numérique, la santé, le commerce et les droits de l’Homme.

La cybersécurité sera une préoccupation importante, avec un accent sur les conflits militaires à Gaza et en Ukraine, les menaces émergentes pour les infrastructures numériques critiques, et les vols et activités illégales facilités par l’IA. L’adoption de la convention des Nations unies sur la cybercriminalité, prévue pour le début de l’année 2024, donnera une nouvelle impulsion aux efforts mondiaux en la matière.

L’impact de l’IA sur les droits de l’Homme, y compris la liberté d’expression et la protection de la vie privée, sera au centre des débats sur la dignité et la définition de l’humanité. Les droits neuronaux, influencés par l’IA et les développements biotechnologiques, gagneront en importance.

L’IA accélérera les changements économiques, de la restructuration des industries traditionnelles au développement de nouvelles industries basées sur la technologie de l’IA. Les principales dynamiques politiques seront liées aux conséquences économiques du découplage numérique (ou dérisquage) entre la Chine et les États-Unis, à la lutte contre les monopoles dans le domaine de l’IA, à la taxation des entreprises en ligne et au commerce numérique.

La communauté de la standardisation donnera la priorité aux normes relatives à l’IA, aux réseaux 6G, à l’informatique quantique et à d’autres technologies avancées. Les processus multilatéraux exploreront les normes techniques en tant qu’approche de régulation douce.

La saga du chiffrement en ligne, qui dure depuis des décennies, va connaître un nouvel élan avec le débat sur la recherche de contenus illicites dans les communications à l’aide d’un outil permettant de détecter et de bloquer en temps réel les contenus illégaux.

Les identités numériques gagneront en importance, l’accent étant mis sur l’initiative d’infrastructure publique numérique (IPN) approuvée par le G20.

Les élections qui se déroulent dans plus de 70 pays vont accroître les inquiétudes concernant les contenus en ligne, en particulier la désinformation par le biais de vidéos, de textes et de sons truqués, ce qui va accélérer les efforts pour détecter les contenus générés par l’IA.

L’IA suscitera l’innovation dans de nouveaux aspects de l’inclusion, car les pays et les communautés s’efforceront de mettre au point des solutions d’IA ascendantes qui reflètent leur patrimoine culturel et leurs connaissances.

L’optimisme de l’IA dans un Davos géopolitiquement pessimiste

Dans le cadre serein des Alpes suisses, le Forum économique mondial (WEF) de Davos est considéré comme le baromètre de l’air du temps technologique de l’année. Après un sommet 2023 exceptionnellement timide sur le plan technologique, l’IA a cette année restauré l’optimisme technologique à Davos. Le ciel bleu de la technologie se détache d’autant plus de la géopolitique mondiale morose et nuageuse. Cette dose d’optimisme à l’égard de l’IA est-elle une panacée pour les problèmes mondiaux, la maturation du discours sur l’IA ou un nouveau somnambulisme technologique ?

Posologie optimiste. Les 24 sessions centrées sur l’IA sur les 235 que compte le WEF ont rassemblé 135 intervenants et une rafale de 1 101 débats, la majorité d’entre eux ayant un aspect positif (600). Les débats du WEF sur l’IA ont reçu une bonne note de 8 sur l’échelle d’optimisme de DiploAI. Les conversations ont été axées sur le potentiel de l’IA à augmenter la productivité, à combattre les maladies et à résoudre les crises environnementales. Les prévisions économiques présentent l’IA comme une source de revenus de plusieurs milliards de dollars, ce qui contraste avec les scénarios apocalyptiques de l’IA du printemps 2023.

De l’extinction aux risques existants. Le discours sur les risques liés à l’IA a évolué au WEF, les risques existants étant désormais considérés comme des problèmes que l’humanité peut surmonter, à l’instar des défis technologiques du passé. La plupart des débats sur les risques liés à l’IA se sont concentrés sur les dangers actuels d’une mauvaise utilisation de l’IA, tels que la désinformation, les pertes d’emploi et la réforme de l’éducation.

On ne sait pas très bien pourquoi les gourous de l’IA ont réajusté leur langage au WEF, étant donné que leurs prédictions selon lesquelles l’IA détruirait l’humanité ont été faites avec beaucoup de conviction l’année dernière. La franchise de Sam Altman, qui a déclaré que « personne ne sait ce qui se passera ensuite [avec l’IA] », résume la double nature de la situation actuelle : à la fois alarmante et rassurante. L’incertitude exprimée par ceux qui sont à la pointe du développement de l’IA est préoccupante. Dans le même temps, il est encourageant de voir les dirigeants du secteur technologique parler plus ouvertement de leur connaissance de l’impact de l’IA, sans les discours anxiogènes de l’année dernière.

DPI et contenu pour l’IA. Le procès intenté par le New York Times contre OpenAI pour l’utilisation de contenus protégés par des droits d’auteur afin d’entraîner des modèles d’IA a été fréquemment mentionné à Davos. La traçabilité et la transparence dans le développement de l’IA seront essentielles pour une économie de l’IA durable et fonctionnelle. 

Gouvernance de l’IA. Le discours de l’année dernière selon lequel la gouvernance devrait se concentrer sur les capacités de l’IA a cédé la place à une attention particulière portée aux applications. L’IA devient ainsi moins unique et plus gouvernable, comme n’importe quelle autre technologie. Cette approche, utilisée par la loi européenne sur l’IA, gagne également en popularité aux États-Unis. Les discussions du WEF ont révélé plus de similitudes que de différences dans la réglementation de l’IA en Chine, aux États-Unis et dans l’UE.

L’IA en libre accès. La position sur l’IA à code source ouvert, considérée comme un risque ingérable, s’est assouplie au WEF. Yann LeCun, de Meta, a fait valoir que l’IA à code source ouvert est bénéfique non seulement pour le progrès scientifique, mais aussi pour le contrôle des monopoles des grandes entreprises de technologie de l’IA, ainsi que pour l’intégration de diverses contributions culturelles et sociétales dans le développement de l’IA. L’IA à code source ouvert gagnera du terrain en 2024, posant un défi important aux logiciels propriétaires tels qu’OpenAI.

IA et développement. Selon l’envoyé du Secrétaire général des Nations unies pour la technologie, Amandeep Sing Gill, l’IA ne sauvera pas les objectifs du Millénaire pour le développement si la tendance actuelle se poursuit. Cette estimation franche était plutôt une aberration dans les discussions du WEF. Par exemple, il n’a guère été question de l’aggravation de la fracture numérique induite par l’IA ni de la concentration croissante du pouvoir économique et du savoir entre les mains de quelques entreprises.

La confusion autour des potentiels et des risques de l’IA souligne la nécessité d’une conversation mature et nuancée sur l’avenir de l’IA. Nous devons relever les défis connus grâce à des cadres réglementaires souples, transparents et inclusifs. Les débats de Davos ont fait des progrès dans cette direction, visant à nous éloigner d’un avenir dystopique de l’IA par un dialogue informé et équilibré plutôt que par la peur.

La saga de la propriété intellectuelle : l’impact de l’IA sur les brevets et les marques déposées

Dans le domaine de l’IA et de la propriété intellectuelle, les secrets commerciaux et les marques déposées présentent des défis et des occasions uniques qui requièrent une attention particulière dans un paysage juridique en constante évolution. Ce blog présente les complexités, les défis et les opportunités qui définissent les droits et les obligations en matière de propriété intellectuelle, en se concentrant sur des exemples tirés des cadres juridiques de l’UE et des États-Unis.

La loi américaine sur le secret commercial protège diverses informations, telles que les données financières, commerciales, scientifiques et techniques, si le propriétaire prend des mesures de sécurité appropriées pour préserver le secret. Les informations doivent tirer leur valeur du fait qu’elles ne sont pas largement connues ou facilement accessibles par d’autres à travers des moyens légitimes (18 U.S.C. § 1839 [3]). Les exigences liées au secret excluent la protection du secret commercial pour les résultats générés par l’IA qui ne sont pas confidentiels, tels que ceux produits par des systèmes comme ChatGPT ou Dall-E. Néanmoins, les lois sur le secret commercial semblent plus souples pour protéger divers actifs liés à l’IA. En effet, il n’est pas stipulé qu’un secret commercial doit provenir d’un être humain, tandis que le matériel généré par l’IA est traité comme toute autre forme d’information, ainsi que le montre l’article 18 U.S.C. § 1839 (4), qui définit la propriété d’un secret commercial.

Les innovateurs en matière d’IA choisissent souvent la protection du secret commercial plutôt que les brevets en raison de l’ambiguïté des lois sur l’IA et le droit d’auteur. Du point de vue de l’UE, l’imminente loi sur l’IA pourrait exiger la divulgation des activités d’IA, ce qui aurait un impact sur la viabilité de la protection du secret commercial dans certains cas. Des lignes directrices claires concernant les secrets commerciaux en matière d’IA et la définition des obligations de collaboration sont essentielles pour encourager l’innovation et protéger les actifs des entreprises.

L’intégration de l’IA transforme la protection des marques, en étendant le champ d’application des logos aux contenus et algorithmes générés par l’IA. La définition du « consommateur moyen » et la détermination de la responsabilité dans les affaires de contrefaçon de marques posent des problèmes dans le cadre du service à la clientèle piloté par l’IA. Il n’existe pas d’affaires connues traitant de l’IA et de la responsabilité en matière de contrefaçon de marques. Toutefois, la Cour de justice de l’Union européenne (CJUE) s’est prononcée dans des affaires telles que Louis Vuitton contre Google France et L’Oréal contre eBay. Ces décisions stipulent que Google et eBay ne peuvent être tenus responsables de la violation d’une marque à moins qu’ils ne soient conscients et activement impliqués dans la sélection automatique qui aboutit à la violation de la marque. Par conséquent, si nous devions appliquer ces cas aux systèmes d’IA, 

les fournisseurs d’IA seraient tenus pour responsables dans l’UE si le fournisseur d’IA participe plus activement à des actions illégales potentielles.

L’impact de l’IA sur les industries met en évidence la nécessité d’une législation souple en matière de propriété intellectuelle afin d’équilibrer l’innovation et la protection. Les cadres juridiques doivent s’adapter pour reconnaître et protéger les innovations générées par l’IA, ce qui soulève des questions sur la titularité et l’attribution de la propriété. Les décideurs politiques et les parties prenantes doivent élaborer des réglementations tournées vers l’avenir afin de tenir compte du potentiel de l’IA tout en protégeant les droits et les intérêts de toutes les parties.

La cryptotempête par excellence

Nous avons regardé le nouveau documentaire de Netflix, Bitconned (escroquerie cryptographique), sur la fraude dans le secteur des cryptomonnaies. Découvrez les raisons qui ont conduit à la création d’une telle catastrophe pour les victimes.

L’engouement pour les cryptomonnaies et la blockchain de 2017 à 2021 s’est déroulé dans un cadre unique. Une composante a amplifié et multiplié l’effet de l’autre, créant ainsi une parfaite cryptotempête, qui a eu un impact sur la confiance dans le secteur et a causé des pertes financières. 

Le bitcoin, souvent qualifié d’or numérique, est apparu comme une merveille de l’ingénierie humaine et un phénomène unique. Cela a conduit à l’émergence d’un nouveau secteur de paiement, dirigé par des organisations financières traditionnelles qui cherchent à s’adapter à l’ère numérique.

Simultanément, le secteur de l’investissement de détail a connu un afflux de capitaux, les sociétés de commerce en ligne soutenues par des investisseurs institutionnels présentant des risques pour les utilisateurs de détail et la protection des consommateurs. Les risques non résolus, les changements dans le secteur financier et les investisseurs inexpérimentés ont ouvert la voie à une tempête parfaite, exacerbée par la cupidité humaine.

La cryptotempête par excellence. Le documentaire de Netflix Bitconned dépeint de manière saisissante comment des entreprises comme Centra Tech ont déclenché une tempête de cryptomonnaies. En 2017, Centra Tech a levé 25 millions de dollars pour une carte de crédit adossée à VISA, qui s’est révélée n’être qu’un mirage mis en scène. Le procès s’est achevé en 2021, aboutissant à des peines de prison. Le documentaire, dirigé par Ray Trapani, l’une des figures clés de Centra Tech, révèle comment de jeunes escrocs ont levé des millions dans le cadre d’une ICO (levée de fonds en cryptomonnaies) avec un site web d’une seule page.

La cryptotempête a sévi pendant des années, atteignant son paroxysme avec l’effondrement de FTX, la deuxième plus grande Bourse de cryptomonnaies au monde. Des sociétés telles que Celsius et Luna ont également fait l’objet de poursuites judiciaires pour avoir détourné des fonds d’investisseurs.

Comment les sociétés de fraude cryptographique ont-elles utilisé les composants susmentionnés ? En promettant la bonne chose au bon moment. Les internautes ont assisté à la transformation du secteur financier et au succès du bitcoin. Ils se laissent facilement convaincre qu’une nouvelle infrastructure financière décentralisée est sur le point de voir le jour et qu’elle sera soutenue par l’absence de cadre réglementaire. En même temps, cela leur donnerait une chance équitable de participer aux débuts de l’industrie et de devenir les nouveaux cryptomillionnaires, ce qui était la principale motivation pour beaucoup d’entre eux. Si les personnes à l’origine de la cryptomonnaie à code source ouvert (bitcoin) ont pu créer l’« internet de l’information », la prochaine génération d’ingénieurs spécialisés dans les cryptomonnaies devrait certainement créer l’« internet de l’argent ». Mais là encore, c’était une erreur. Il s’agissait en fait d’une expérience soigneusement élaborée en vue de gagner de l’argent.

Toutes les idées susmentionnées constituent encore un point de départ pour les développements futurs de l’industrie.

Cette situation pourrait-elle se reproduire pour les services financiers en ligne ? À l’avenir, il est peu probable que des escroqueries de cette ampleur se reproduisent dans le secteur des services financiers en ligne. Les cadres réglementaires ont été renforcés, et les autorités sont mieux équipées pour identifier les activités frauduleuses et y remédier. En outre, les investisseurs sont devenus plus perspicaces et se méfient des promesses qui semblent trop belles pour être vraies.

Toutefois, le risque de tromperie reste inhérent à toute industrie axée sur la technologie, car des intervenants opportunistes peuvent continuer à exploiter les aspirations de la société en matière d’innovation et de progrès. C’est pourquoi la vigilance et le scepticisme sont essentiels lorsque vous vous engagez dans de nouvelles technologies et opportunités d’investissement, en veillant à ce que les utilisateurs ne soient pas induits en erreur par de fausses promesses ou des affirmations exagérées.

Le GTCNL achève sa sixième session de travail de fond

La sixième session de fond du groupe de travail à composition non limitée (GTCNL) des Nations unies sur la sécurité et l’utilisation des technologies de l’information et de la communication 2021-2025 s’est tenue en décembre 2023, marquant ainsi l’arrivée à mi-parcours du processus. Voici un aperçu des discussions.

Menaces. Les risques et les défis associés aux technologies émergentes, telles que l’IA, l’informatique quantique et l’internet des objets (IoT), ont été soulignés par plusieurs pays. Beaucoup d’entre eux se sont inquiétés de l’augmentation de la fréquence et de l’impact des attaques par rançongiciels sur diverses entités, y compris les infrastructures critiques, les gouvernements locaux, les établissements de santé et les institutions démocratiques. De nombreux pays ont souligné l’importance de la coopération internationale et du partage d’informations pour relever efficacement les défis de la cybersécurité. L’idée d’un répertoire mondial des cybermenaces, avancée par le Kenya, bénéficie d’un large soutien.

Règles, normes et principes. Les délégations ont indiqué qu’il était nécessaire de clarifier les normes et de fournir des conseils de mise en œuvre. Elles ont exprimé des points de vue différents sur la nécessité de nouvelles normes.

Droit international. Le sujet tabou est la pertinence d’un nouveau traité et de nouvelles normes contraignantes. Le droit de la responsabilité des États, le principe de diligence raisonnable, et l’applicabilité du droit international humanitaire (DIH) et du droit international des droits de l’Homme dans le cyberespace sont également des domaines qui ne font pas l’objet d’un consensus.

Mesures de confiance (CBMs). Le répertoire mondial des points de contact (PoC) bénéficie d’un large soutien et constitue une précieuse mesure de confiance. Les membres du GTCNL se concentreront sur sa mise en œuvre et son fonctionnement.

Renforcement des capacités. Les capacités fondamentales telles que les cadres juridiques, la création d’agences spécialisées et les mécanismes de réponse aux incidents, avec un accent particulier sur les équipes d’intervention en cas d’urgence informatique (CERT) et la coopération entre les CERT, ont été constamment soulignées comme étant cruciales. Les délégations ont également souligné l’importance des contextes nationaux et le fait qu’il n’existe pas de solution unique pour renforcer les capacités fondamentales. Les délégations ont exprimé leur soutien à la liste de contrôle volontaire pour le renforcement des capacités en matière de cybersécurité proposée par Singapour et à l’appel d’Accra pour le développement de la cyberrésilience lancé lors de la conférence mondiale sur le renforcement des cybercapacités (GC3B).
Un dialogue institutionnel régulier. Les discussions sur la forme que prendra le futur dialogue institutionnel régulier peuvent être résumées comme suit : programme d’action (PoA) contre GTCNL. Les partisans du programme d’action suggèrent d’utiliser le mécanisme d’examen pour identifier les lacunes du droit international existant et reconnaître que ces lacunes peuvent être comblées par de nouvelles normes. Les partisans de la poursuite d’un dialogue institutionnel régulier dans le cadre du GTCNL suggèrent la création d’un GTCNL permanent qui se concentrerait sur l’élaboration de règles juridiquement contraignantes en tant qu’éléments d’un futur traité universel sur la sécurité de l’information. Ils proposent une prise de décision par consensus et des règles plus strictes pour la participation des parties prenantes.

Actualités de la Francophonie

Une troisième cohorte de fonctionnaires et diplomates formée en français par l’Université Senghor et l’OIF, sur le numérique et la gouvernance de l’Internet 

26 fonctionnaires et diplomates de 18 des Etats et gouvernements membres de l’OIF ont suivi une formation en ligne et en français sur l’Introduction à la gouvernance de l’Internet. La formation s’est déroulée sur 3 mois, de septembre à décembre 2023, pendant lesquels les apprenants ont été introduits à la gouvernance de l’Internet, à ses acteurs et leurs enjeux, aux défis de la cybersécurité et des droits humains en ligne, aux infrastructures, régulations et normalisations de l’internet et du numérique, mais également aux dimensions économique et juridique, socioculturelle et du développement du cyberespace.  

Organisée dans le cadre du Projet « D-CLIC, formez-vous au numérique avec l’OIF », cette formation a été déployée par l’Université Senghor, opérateur direct de la Francophonie, dont la mission est de former, en français, des cadres capables de relever les défis du développement durable en Afrique et en Haïti.

Elle s’est organisée autour de tutorat avec des experts intervenants pour chaque module/thématique, des témoignages de personnes-ressources et un webinaire hebdomadaire sur chaque module, animé par l’expert intervenant. Des contrôles de connaissances réguliers à travers des questionnaires d’évaluation et une note de synthèse finale ont également rythmé cet apprentissage. La formation a également permis de mettre en place une communauté d’apprentissage francophone et de fortifier le réseau de diplomates, fonctionnaires et décideurs politiques des Etats membres de la Francophonie, réseau essentiel à la visibilité et à la présence de cette communauté dans le développement du numérique au niveau national et international. À travers ce cycle de formation, l’OIF vise ainsi à renforcer leurs compétences afin de leur permettre de mieux apprécier les défis actuels et futurs de la gouvernance numérique et plus généralement des enjeux numériques.

Les participants sont issus d’Arménie Bénin, Burkina Faso, Burundi, Cameroun, Centrafrique, Comores, Congo, Congo RD, Égypte, Guinée Équatoriale, Haïti, Maroc, Niger, Roumanie, Sénégal, Tchad et Togo. Au total, sur les 26 candidats (dont 8 femmes) admis, 24 ont pu suivre et 22 dont 7 femmes ont pu satisfaire à toutes les exigences de la formation. Plus de 70% des participants ont estimé que leur niveau de familiarité et de connaissance globale sur les thèmes et enjeux du numérique ont été améliorés grâce à cette formation. 

La cérémonie de clôture de la formation a eu lieu en ligne en présence du Recteur de l’Université Senghor, Monsieur Thierry Verdel, de la Directrice de la Francophonie économique et numérique de l’OIF, Madame Florence Brillouin, de leurs équipes respectives et des apprenants. Dans une dynamique de réplication de cette initiative, d’autres sessions devraient être déployées en 2024.

Crédit photographique : Université Senghor
https://www.usenghor-francophonie.org/

L’OIF soutient les Nations unies et l’Organe consultatif de haut niveau sur l’intelligence artificielle 

Une gouvernance de l’Intelligence artificielle (IA) coordonnée à l’échelle mondiale est le seul moyen de mettre l’IA au service de l’humanité tout en abordant ses risques et ses incertitudes à mesure que les services, les algorithmes, la capacité de calcul et l’expertise liés à cette technologie numérique se généralisent à l’échelle internationale. 

Conscient de cet enjeu, le Secrétaire général des Nations unies a créé le 26 octobre 2023 un Comité consultatif de haut niveau des Nations Unies sur l’intelligence artificielle. Cet organe consultatif multipartite rassemble 39 experts du monde entier et doit formuler des recommandations préliminaires sur la gouvernance internationale de l’IA, la compréhension partagée des risques et des défis, ainsi que les opportunités liées à la réalisation des ODD. Cet organe s’intègre également dans le cadre du processus d’élaboration du Pacte numérique mondial (PNM), premier instrument international dédié à la gouvernance du numérique et appelé à être adopté par les Etats membres des Nations Unies à l’occasion du Sommet de l’avenir en septembre 2024.

L’OIF via sa Direction de la Francophonie économique et numérique (DFEN) et la Représentation auprès des Nations unies à New York (RPNU), soutient cette initiative et contribue ainsi aux travaux de l’Organe consultatif en ayant attribué fin 2023 une subvention d’environ 50 000 euros. Cet appui s’inscrit dans le cadre de la Contribution de la Francophonie au PNM qui soutient notamment, dans la Thématique 6 « Promouvoir la réglementation de l’intelligence artificielle », des principes et engagements soutenant un développement « éthique et responsable, sûr, sain et respectueux des droits de l’Homme » de l’IA et en prônant la mise en place de coopérations, de règlementations et de mécanismes de gouvernance aux niveaux multilatéral et national, favorisant une coordination intersectorielle des politiques de l’IA. L’OIF y promeut également la diversité culturelle et linguistique dans l’espace numérique, si essentielle dans le domaine de l’Intelligence artificielle. L’Organe consultatif mis en place devrait notamment examiner tous les biais, y compris linguistiques, qui peuvent miner le développement et la gouvernance globale de l’IA.

Conscient de la nécessité du multilinguisme dans ce domaine et mesurant l’importance d’un travail étroit avec l’espace francophone, le Bureau de l’Envoyé pour les technologies souhaite, en lien avec l’OIF, entretenir cette coopération francophone. Les activités soutenues consisteront ainsi à traduire vers le français les rapports et publications de l’Organe consultatif, ainsi que produire des contenus en français sur le site Internet de l’Organe consultatif.

Le rapport intérimaire de l’Organe consultatif a été publié en décembre dernier. Il devrait être accessible en français très prochainement sur le site des Nations unies et la plateforme en ligne dédiée à la soumission des contributions des parties prenantes au rapport préliminaire. Le rapport appelle à un alignement plus étroit entre les normes internationales et la façon dont l’IA est développée et déployée. Le rapport propose également de renforcer la gouvernance internationale de l’IA en exerçant sept fonctions critiques telles que la veille et l’analyse des risques, le soutien à la collaboration internationale sur les données, ainsi que la capacité informatique pour atteindre les objectifs de développement durable. Il propose également des recommandations visant à améliorer la responsabilité et à assurer une voix équitable pour tous les pays.

Les individus, les groupes et les organisations sont encouragés à fournir des commentaires via le formulaire de soumission en ligne avant le 31 mars 2024. L’organe consultatif de l’IA publiera son rapport final avant le sommet de l’avenir, à l’été 2024.En savoir plus : https://www.un.org/en/ai-advisory-body

Événements à venir :

• Intervention de l’OIF au 5^e Sommet sur les compétences 2024 de l’OCDE (21 et 22 février 2024, Bruxelles) sur le thème « Les compétences de demain : construire des ponts vers de nouvelles opportunités », 
• Publication du Rapport intérimaire en français de l’Organe consultatif de haut niveau sur l’intelligence artificielle des Nations unies (mars 2024, à confirmer)

Snapshot: The developments that made waves

AI governance

The UN Secretary-General’s AI Advisory Body launched its Interim Report on governing AI for humanity, while the UN General Assembly adopted a resolution on Lethal Autonomous Weapons Systems (LAWS). Global leaders pledged to promote responsible AI at the 2023 Global Partnership on Artificial Intelligence (GPAI) Summit in New Delhi. Italy took over the G7 presidency in January 2024 and outlined priorities that include Africa’s development and AI. The international standard ISO/IEC 42001 on AI management systems was published.

The EU ambassadors have given the green light to the EU AI Act, which is now expected to be formally adopted by the EU by mid-April. The leaked consolidated text of the EU AI Act prompted discussions. The European Commission is preparing to establish the European AI Office, which will be crucial in enforcing the AI Act. The Commission is also challenging the US-led bid to exclude the private sector from the Council of Europe’s upcoming Convention on AI and human rights. 

The US Federal Trade Commission launched an inquiry into tech giants’ AI investments. The National AI Research Resource was launched with to support responsible AI research and drive innovation. The White House released a fact sheet outlining key AI actions following Biden’s executive order on AI.

The USA, the UK, and the EU are scrutinising Microsoft’s partnership with OpenAI.

Other jurisdictions are active in the AI field as well: Australia is planning to establish an advisory body for AI oversight and regulation, India is entering the LLM race with a Telugu model, China approved over 40 AI models in the last six months, and Saudi Arabia launched the GenAI for All initiative. OpenAI’s ChatGPT again faces scrutiny from the Italian data protection authority. 

Leading US healthcare companies committed to the ethical adoption of AI, Microsoft pledged to enhance trust and safeguard privacy in the age of AI. OpenAI removed an explicit ban on military use, addressed concerns over election misuse of AI, and unveiled an AI safety framework.  

Technologies 

Elon Musk’s Neuralink implanted the first-ever brain chip in a human. Investigation revealed that the Chinese military bypassed US restrictions on Nvidia chips. Nvidia will roll out a new AI chip for China to comply with US export restrictions. New Dutch restrictions impacted ASML shipments to China. South Korea will extend tax benefits for investments in the nation’s semiconductor industry.

Security

Big Tech CEOs testified at a US Senate hearing over accusations of failing to take adequate measures to protect children from harmful and CSAM content. 

The OEWG on ICT security issued a call to member states to nominate points of contact to be included in the global points of contact directory on ICT security. 

Ukraine’s largest telecom operator suffered a crippling cyberattack, allegedly by Russian hackers. The FBI and DoJ used a court order to thwart Chinese hacking of critical infrastructure.  A supermassive Mother of all Breaches (MOAB) exposed over 26 billion data records. The UK NCSC warned of the escalating frequency and impact of cyberattacks due to AI. Researchers predicted that cybercrime will incur a staggering USD12 trillion in costs by 2025.

Infrastructure

Negotiations on the EU regulation to accelerate 5G and fibre rollout are underway. Key discussions revolve around the tacit approval principle and intra-EU communication fees.

Legal

The Times filed a lawsuit against OpenAI and Microsoft in the USA, alleging that the tech firms used the newspaper’s content without authorisation to train their AI large language models. OpenAI responded that the case is ‘without merit’ and expressed hope for a partnership with the media outlet. Epic Games has won an antitrust lawsuit against Google over its Play Store app. The IMF chief called for retraining and safety nets amidst AI-driven job changes.

Internet economy

China revealed its plan for a better digital economy and common prosperity, which aims to integrate digital technologies with the real economy and address development issues using digital means. The Association of Southeast Asian Nations (ASEAN) is gearing up to establish a region-wide digital economy agreement. At the same time, the UK’s Competition and Markets Authority (CMA) has outlined its plans for implementing a new digital markets competition regime.   

Digital rights

A legal filing by the state of New Mexico, the USA, alleges that Meta profits from corporate ads placed alongside content promoting child sexual exploitation. The French Data Protection Authority imposed a €10 million fine against Yahoo for failing to comply with users’ privacy and consent regarding cookies.

Content policy

The Cyberspace Administration of China (CAC) focused on curbing pessimism and extremism on digital platforms, while the European Commission started investigating X for alleged breaches of the Digital Services Act (DSA). Meta’s Oversight Board criticised Meta for the removal of videos depicting the Israel-Hamas conflict. Türkiye’s constitutional court ruled internet content-blocking provisions unconstitutional. 

Violent videos surfaced on X amid Ecuador’s ‘internal armed conflict’. Taylor Swift’s deepfakes prompted calls for criminalising deepfake pornography in the USA. India warned social media companies that they will be held responsible for disseminating AI-generated deepfakes on their platforms.

Development

Germany and Namibia, co-facilitators of the Summit of the Future, announced the release of the zero draft of the Pact for the Future, which includes provisions related to the impact of digital technologies on peace and security, as well as the potential of science, technology, and innovation in advancing sustainable development. Tech companies and governments have pledged to increase their actions to address the climate crisis through the Green Digital Action track at the 28th Conference of the Parties (COP28). Thailand revealed an initiative to enhance human capital and digital development. Iran is grappling with escalating internet costs and censorship despite promised free access. Kyrgyzstan and China signed a digital cooperation agreement to advance technological progress, while the UK and India announced cooperation on digital sustainability. Statistics Netherlands developed a new methodology to map European e-waste. World Bank’s recent brief highlighted that enhanced internet accessibility in Nigeria and Tanzania has notably diminished extreme poverty.

12 AI and digital predictions for 2024

2024 will be the year of AI. AI technology will continue to grow deeper through powerful foundational models and wider through more connections to the rest of the digital ecosystem (e.g. IoT, virtual reality, and digital infrastructures). Smaller AI and open-source models will gain traction for their transparency, adaptability, and eco-friendliness.

AI risks will dominate the governance and regulatory debate. Existing risks (e.g. jobs, misinformation, biases) will receive more attention than existential risks. AI governance will become more specific and concrete, addressing computational power, data and knowledge, algorithms, and AI applications.

The push for national sovereignty over data, AI, and technology infrastructure will reshape digital geopolitics. The digital decoupling between China and the USA will accelerate significantly in 2024. India, Brazil, South Africa, Singapore, Türkiye, and Gulf states, among others, will try to carve an asymmetric ‘third digital space’ between the two superpowers.

There will be a push for new organisations, commissions, and expert groups dealing with AI and digital governance. The adoption of the UN Cybercrime Convention is anticipated to mark the beginning of global digital governance in 2024. The Global Digital Compact (GDC) will be negotiated, and international bodies, including the UN Security Council, will address digital aspects of conflicts and humanitarian crises.

AI will put diplomacy to the test through the automation of tasks using Large Language Models (LLMs). Diplomacy will need to adapt to increased pressure to negotiate AI and digital topics, extending to areas such as digital governance, health, trade, and human rights.

Cybersecurity will be a significant concern, with a focus on military conflicts in Gaza and Ukraine, emerging threats to digital critical infrastructure, and AI-facilitated theft and illegal activities. The expected adoption of the UN Cybercrime Convention in early 2024 will further shape global cybersecurity efforts.

AI’s impact on human rights, including freedom of expression and privacy, will be on the centre stage, sparking debates on dignity and humanity’s definition. Neurorights, influenced by AI and biotechnological developments, will gain prominence.

AI will accelerate economic changes, from restructuring traditional industries to developing new ones built around AI technology. The primary policy dynamics will be related to the economic consequences of the digital decoupling (or de-risking) between China and the USA, anti-monopolies in AI, taxation of online industries, and digital trade.

The standardisation community will prioritise standards for AI, 6G networks, quantum computing, and other advanced technologies. Multilateral processes will explore technical standards as a soft regulation approach.

The decades-long saga around online encryption will gain new momentum with the debate around on-device scanning of communications for illegal content.

Digital identities will gain importance, with a focus on the Digital Public Infrastructure (DPI) initiative endorsed by the G20.

Elections in over 70 countries will heighten concerns about online content, specifically mis/disinformation through deepfake videos, texts, and sounds, which will accelerate efforts to detect AI-generated content.
AI will trigger innovation in new aspects of inclusion as countries and communities will aim to develop bottom-up AI solutions that reflect their cultural and knowledge heritage.

Read the 12 AI and Digital Predictions for 2024 in full.

diplomacy.edu

Review of AI and digital developments in 2024 – Diplo

diplomacy.edu

Review of AI and digital developments in 2024 – Diplo

AI optimism in geopolitically pessimistic Davos

In the serene backdrop of the Swiss Alps, the World Economic Forum (WEF) in Davos stands as a barometer for the year’s technological zeitgeist. After an exceptionally tech-shy Summit in 2023, AI restored tech optimism in Davos this year. The blueness of the tech sky stands out even more against the gloomy and cloudy global geopolitics. Is this optimistic dose of AI a panacea for global problems, the maturation of AI discourse, or yet another tech sleepwalk?

Optimistic dosage. The 24 AI-centric sessions out of 235 at WEF featured 135 speakers and a flurry of 1,101 arguments, with the majority having a positive tone (600). The WEF AI debates have been rated a solid 8 on DiploAI’s optimism scale. Conversations have revolved around AI’s potential to elevate productivity, combat diseases, and solve environmental crises. The economic forecasts present AI as a trillion-dollar boon, a narrative contrast to AI doomsday scenarios from the spring of 2023. 

From extinction to existing risks. The narrative surrounding AI risks has shifted at WEF, with existential risks now viewed as problems humanity can overcome, similar to past technological challenges. Most of the AI risk debate focused on the existing risks of AI misuse, such as misinformation, job losses, and educational reform. 

It’s unclear why AI gurus have recalibrated their language at WEF, as their predictions that AI would destroy humanity were made with great conviction last year. Sam Altman’s frank admission, ‘no one knows what comes next [with AI]’, encapsulates the dual nature of this juncture: it’s both alarming and reassuring. The uncertainty voiced by those at the forefront of AI development is concerning. At the same time, it is encouraging that tech leaders speak more frankly about their knowledge of the impact of AI without the fear-mongering of the last year.

IPR and content for AI. The New York Times‘ court case against OpenAI over the use of copyrighted material to train AI models was frequently mentioned in Davos. Traceability and transparency in AI development will be critical for a sustainable and functional AI economy. 

AI governance. Last year’s narrative that governance should focus on AI capabilities has given way to a focus on applications. It makes AI less unique and more governable, just like any other technology. This approach, used by the EU AI Act, is also gaining popularity in the USA. The WEF discussions revealed more similarities than differences in the regulation of AI in China, the USA, and the EU.

Open source AI. The stance on open-source AI as an unmanageable risk softened at WEF. Yann LeCun of Meta argued that open-source AI is beneficial not only for scientific progress but also for controlling the monopolies of large AI tech companies and incorporating diverse cultural and societal inputs into AI development. Open-source AI will gain traction in 2024, posing a significant challenge to proprietary software such as OpenAI.

AI and development. According to the UN Secretary-General’s Envoy on Technology, Amandeep Sing Gill, AI will not save the SDGs if current trends continue. This candid assessment was more of an outlier in WEF discussions. For example, there was little discussion of the AI-driven widening of digital divides and the increasing concentration of economic and knowledge power in the hands of a few companies.

The confusion around AI potentials and risks underscores the need for a mature, nuanced conversation on AI’s future. We must navigate the known challenges with agile, transparent, and inclusive regulatory frameworks. The Davos debates have made strides in this direction, aiming to steer us away from a dystopian AI future through informed, balanced dialogue rather than fear.

Browse the reports from WEF’s 2024 annual meeting and the final report from the event.

The intellectual property saga: AI’s impact on trade secrets and trademarks

Within the realm of AI and intellectual property, trade secrets and trademarks present unique challenges and opportunities that require special attention in the evolving legal landscape. This blog outlines the complexities, challenges, and opportunities that define intellectual property rights and obligations, focusing on examples from the EU and US legal frameworks.

US trade secret law safeguards diverse information, such as financial, business, scientific, and technical data, if the owner takes reasonable security measures to maintain secrecy. The information must derive value from not being widely known or easily accessible by others through legitimate means (18 U.S.C. §1839(3)). Requirements related to secrecy exclude trade secret protection for AI-generated outputs that are not confidential, such as those produced by systems like ChatGPT or Dall·E. Nevertheless, trade secret laws seem to be more flexible to safeguard various AI-related assets. Namely, there is no stipulation that a trade secret must be originated by a human being, while AI-generated material is treated like any other form of information, as evident in 18 U.S.C. §1839(4), which defines trade secret ownership. 

AI innovators often choose trade secret protections over patents due to ambiguous AI and copyright laws. From the EU perspective, the impending AI Act might require disclosure of AI operations, impacting the viability of trade secret safeguarding in some cases. Clear guidelines for AI trade secrets and defining collaboration obligations are crucial for fostering innovation and protecting business assets.

AI integration transforms trademark protection, expanding from logos to AI-generated content and algorithms. Defining the ‘average consumer’ and determining responsibility in trademark infringement cases pose challenges in AI-driven customer service. There aren’t any known cases addressing AI and liability in trademark infringement. However, the Court of Justice of the European Union (CJEU) ruled in cases like Louis Vuitton vs Google France and L’Oréal vs eBay. These decisions state that Google and eBay cannot be held accountable for trademark infringement unless they are aware and actively involved in the automatic selection that results in trademark infringement. Therefore, if we were to apply these cases in AI systems, AI would be held liable in the EU if the AI provider plays a more active role in potential infringing actions. 

The impact of AI on industries highlights the need for flexible intellectual property laws to balance innovation and protection. Legal frameworks must adapt to recognise and safeguard AI-generated innovations, raising questions about authorship and ownership attribution. Policymakers and stakeholders must craft forward-thinking regulations to accommodate AI’s potential while protecting all parties’ rights and interests.

A longer version of this blog first appeared on the Digital Watch Observatory. Read the full version of the blog, and discover part 1 of the blog series, The intellectual property saga: The age of AI-generated content.

dig.watch

The intellectual property saga: AI’s impact on trade secrets and trademarks | Part 2

26 Jan 2024

dig.watch

The intellectual property saga: AI’s impact on trade secrets and trademarks | Part 2

26 Jan 2024

dig.watch

The intellectual property saga: The age of AI-generated content | Part 1

30 Oct 2023

dig.watch

The intellectual property saga: The age of AI-generated content | Part 1

30 Oct 2023

The perfect cryptostorm

We watched the new Netflix documentary ‘Bitconned’ on cryptocurrency industry fraud. Read what were the ingredients to create such a perfect storm for victims.

The cryptocurrency and blockchain craze from 2017 to 2021 unfolded in a unique setting. One component amplified the other, multiplying the effect, thus creating a perfect cryptostorm that impacted trust in the industry and caused financial losses. 

Bitcoin, often termed the digital gold, stood out as a marvel of human engineering and a one-hit wonder. This led to the emergence of a new payment industry, driven by legacy financial organisations seeking relevance in the digital era.

Simultaneously, the retail investing industry saw an influx of capital, with online trading companies backed by institutional investors posing risks for retail users and consumer protection. Unanswered risks, changes in the financial industry, and inexperienced investors set the stage for a perfect storm, exacerbated by human greed.

The perfect cryptostorm. The Netflix documentary ‘Bitconned’ vividly portrays the summoning of the cryptostorm by companies like Centra Tech. In 2017, Centra Tech raised $25 million for a VISA-backed credit card, only to be revealed as a staged mirage. The court case concluded in 2021, resulting in jail sentences. The documentary, led by Ray Trapani, one of Centra Tech’s key figures, reveals how young scammers raised millions in an ICO with a one-page website.

The cryptostorm persisted for years, culminating in the collapse of FTX, the world’s second-largest cryptocurrency exchange. Companies like Celsius and Luna also faced legal challenges for misusing investor funds. 

How did crypto scam companies utilise the above ingredients? By promising the right thing at the right moment. Internet users witnessed the financial sector’s transformation and bitcoin’s success. They could easily be convinced that a new decentralised finance infrastructure is on the verge, which will be supported by the lack of a regulatory framework. At the same time, giving them a fair chance to participate in the industry beginnings and become the new crypto millionaires, which was the main incentive for many. If people behind the open-source cryptocurrency (bitcoin) could create the ‘internet of information’,  the next generation of cryptocurrency engineers would surely deliver the ‘internet of money’. However, again, it was false. It was, in fact, a carefully worded money-grabbing experiment.

All the above ideas still stand as a goalpost for further industry developments. 

Could this happen again for online financial services? Looking ahead, the likelihood of a recurrence of such large-scale scams within online financial services is slim. Regulatory frameworks have been strengthened, and authorities are better equipped to identify and intervene in fraudulent activities. Moreover, investors have become more discerning and wary of promises that seem too good to be true.

However, the potential for deception remains inherent in any technology-driven industry, as opportunistic actors may continue to exploit societal aspirations for innovation and progress. As such, vigilance and scepticism are essential when engaging with new technologies and investment opportunities, ensuring that users are not misled by false promises or exaggerated claims.

A longer version of this blog first appeared on the Digital Watch Observatory. Read the full version of the blog.

dig.watch

The perfect cryptostorm

29 Jan 2024

dig.watch

The perfect cryptostorm

29 Jan 2024

OEWG wraps up its sixth substantive session

The sixth substantive session of the UN Open-Ended Working Group (OEWG) on security of and the use of information and communications technologies 2021–2025 was held in December 2023, marking the midway point of the process. Here is a quick snapshot of the discussions.  

Threats. The risks and challenges associated with emerging technologies, such as AI, quantum computing, and the internet of things (IoT), were highlighted by several countries. Numerous nations expressed concerns about the increasing frequency and impact of ransomware attacks on various entities, including critical infrastructure, local governments, health institutions, and democratic institutions. Many countries emphasised the importance of international cooperation and information sharing to effectively address cybersecurity challenges. The idea of a global repository of cyber threats, as advanced by Kenya, enjoys much support.

Rules, norms and principles. Delegations  signalled that clarifying the norms and providing implementation guidance is necessary. Delegations expressed different views on whether new norms are needed.

International law. The elephant in the room is the question of whether a new treaty and new binding norms are needed. The law of state responsibility, the principle of due diligence, and the applicability of international humanitarian law (IHL) and international human rights law in cyberspace are also areas without consensus.

Confidence-building measures (CBMs). There’s widespread support for the global Points of Contact (PoC) directory as a valuable CBM. The OEWG members will focus on its implementation and operationalisation. 

Capacity building. Foundational capacities such as legal frameworks, the establishment of dedicated agencies, and mechanisms for incident response, with a special focus on computer emergency response teams (CERTs) and CERT cooperation, were consistently highlighted as crucial. Delegations also stressed the importance of national contexts and how there is no one-size-fits-all answer to building foundational capacities. Delegations expressed support for the voluntary cybersecurity capacity-building checklist proposed by Singapore and for the Accra Call for Cyber Resilience Development set forth during the Global Conference on Cyber Capacity Building (GC3B).
Regular institutional dialogue. The discussions on what the future regular institutional dialogue will look like can be summarised as Programme of Action (PoA) vs OEWG. The supporters of the Programme of Action (PoA) suggest using the review mechanism to identify gaps in existing international law and recognise that such gaps can be filled with new norms. Those who support continuing regular institutional dialogue within the framework of OEWG suggest a permanent OEWG should be established, focusing on developing legally binding rules as elements of a future universal treaty on information security. They propose consensus-based decision-making and stricter rules for stakeholder participation.