[Transcript] Internet regulation ‘preserves innovation but protects individual freedoms’, says Thierry Breton

European Commissioner Thierry Breton was interviewed [in French] on France Inter’s radio programme L’invité de 8h20 : le grand entretien on Monday, 26 June 2023, by journalists Nicolas Demorand and Léa Salamé. Here is a transcript of the interview discussing Big Tech. We’ve also provided an English translation of the section further down.

Transcript and translation by Diplo’s Anastassia Stent.

Internet : la régulation “préserve l’innovation mais protège les libertés individuelles”, selon Thierry Breton

Demorand : Venant-ont aux patrons de la tech que vous avez rencontré lors d’un voyage de plusieurs jours à San Francisco. Mark Zuckerberg, patron de Méta qui détient Facebook et Instagram, Elon Musk, patron de Twitter, ainsi que Sam Altman, le directeur général d’Open AI, la start-up qui est derrière ChatGPT se sont-ils, Monsieur le Commissaire Breton, engagés à appliquer la loi européenne, la fameuse digital service acte qui réglemente notamment les plateformes les réseaux sociaux, se sont-ils engagés à respecter ce que vous avez préparé qui entre en vigueur dans huit semaines ou ce qu’ils trainent des pieds ?

Breton : Non, ils ne traînent pas des pieds. Je tiens vraiment à le dire. Alors ils se sont engagés. Encore une fois. Personne ne force quiconque à venir offrir ses services sur le marché européen, mais nous sommes un continent ouvert. Il se trouve que maintenant et depuis bientôt 4 ans que je suis commissaire, dès le premier jour j’ai travaillé avec mes équipes à bâtir progressivement une régulation, dans cet espace informationnel qui n’était pas régulé. Donc on a essayé de la faire équilibrer, préservant l’innovation, mais protégeant les libertés individuelles. Cette régulation vous venez de le dire, elle rentre en vigueur en ce qui concerne l’aspect réseaux sociaux donc social, le 25 août, et oui bien sûr ils se sont tous engagés fermement parce qu’ils ont tous envie de continuer à offrir des services sur ce qui est quand même le premier marché numérique du monde libre. On est une fois et demie plus important que le marché américain, je le rappelle souvent parce que les gens l’oublient, donc personne ne peut être dans une situation où il n’aurait pas accès.

Alors maintenant cette régulation, elle est stricte, elle est rigoureuse, elle a été très difficile à mettre en œuvre. Comme vous le savez notre législation c’est le Parlement européen et c’est le Conseil européen qui représente les États. Les parlementaires qui travaillent depuis 4 ans, nuit et jour, qui sont parmi les plus aujourd’hui aux faites de ces questions et qui ont travaillé pour faire en sorte que nous ayons maintenant cette régulation.  Alors les États-Unis eux ne l’ont pas ils n’arrivent pas à la mettre en œuvre, et pour une raison évidente parce que politiquement c’est compliqué de trouver un consensus sur ces questions et en particulier aux États-Unis.

Salamé : Alors juste pour qu’on parle concrètement, vous avez rencontré Elon Musk, vous avez rencontré la nouvelle PDG Linda Yaccarino, vous avez rencontré Mark Zuckerberg etc. Est-ce qu’on peut dire, pardon de simplifier les choses, mais est-ce qu’on peut dire que, par exemple Facebook et Instagram font partie des « bons élèves » qu’ils ont mis 1000 personnes pour se conformer aux exigences européennes, mais que pour twitter, pour Elon Musk à ce stade c’est plus compliqué, sans dire qu’il est un mauvais élève ?

Breton : Tout d’abord, je ne suis pas là pour donner des bons points ou des mauvais points. Je suis là pour, à partir du 25 août, mettre en place cette régulation et de l’appliquer. Je rappelle que si elle n’est pas appliquée, c’est des sanctions financières très importantes et si ça ne suffit pas c’est une interdiction temporaire ou définitive d’opérer sur le territoire européen. Donc tout le monde le connaît, et mon rôle c’est bien d’expliquer tout cela.

Demorand : Quand vous dites à Musk cette information, qu’est qu’il vous répond ?

Breton : Il me répond que le DSA c’est formidable, ça correspond exactement à ce que je veux faire et je vais tout faire pour le faire très bien. Donc ils ont lancé avec ses équipes un certain nombre de chantiers et j’ai même proposé de façon à les préparer (parce qu’au fond c’est ça ce que nous souhaitons) de faire des tests en blanc. On a fait dérouler ces tests en blanc (évidemment je ne vous donnerai pas le résultat parce qu’il n’a pas à être public ce sont des entreprises et je n’ai pas à le faire) mais voilà je peux vous dire qu’il y encore du travail et ils le savent.

Salamé : Mais qu’est ce qui va changer le 25 août pour que les gens comprennent ? Que change la loi en fait ? Que va changer si moi je vais sur Twitter et que j’insulte quelqu’un ?

Breton : A ce moment-là, Twitter aura l’obligation de le dénoncer immédiatement, de le retirer immédiatement, de dénoncer (si jamais c’est le cas) auprès des autorités judiciaires. Si ce n’est pas fait, on va tout de suite aller voir pourquoi pas. Il y aura une sanction, correction, et si ce n’est pas corrigé, interdiction. La loi s’appliquera, c’est tout.

Demorand : Mais en même temps, Elon Musk est le défenseur d’une liberté d’expression totale absolue. C’est sa position philosophique. Est-ce qu’elle est à vos yeux respectable et défendable ?

Breton : Mais elle n’est pas totale ni absolue. Quand j’en parle avec lui, il est parfaitement conscient que ce qui est interdit dans l’espace physique doit l’être aussi dans l’espace informationnel. D’ailleurs tout le monde est d’accord parce que désormais, c’est la loi européenne. Alors qu’est-ce qui a changé dans la relation sur les GAFA américaines notamment par rapport à l’Europe ? C’est que désormais l’Europe est respectée en tant que tel, parce qu’il y a 2 éléments importants. En premier, on a une régulation qui est équilibrée et donc c’est important parce que quand on vient chez nous en Europe désormais, on sait ce qu’on peut faire et ce qu’on ne peut pas faire. Et ça c’est important pour les entreprises, même si vous savez elles ont beaucoup lutté pour éviter ça parce qu’évidemment c’est des contraintes supplémentaires. Vous l’avez rappelé tout à l’heure, 1000 personnes qui travaillent à plein temps chez Méta, donc, sous la direction de Mark Zuckerberg lui-même, qui connaissait parfaitement le sujet. J’ai été très impressionné de voir qu’il connaissait tous les articles de la loi et qu’il était là pour les faire respecter. On verra bien derrière, mais ce que je veux dire, c’est qu’autant les États-Unis ont quand même freiné pour cette régulation parce qu’ils n’arrivaient pas à la faire eux même, maintenant que c’est fait les choses changent. Et je l’ai dit également au président par exemple de Nvidia qui est la plus grosse entreprise aujourd’hui, qui fait les composants pour supercalculateur, qu’est-ce qu’on a, désormais, en Europe? D’abord, on sait exactement ce qu’on va pouvoir faire de nos données et pas faire, c’est très important. Deuxièmement, on va avoir la plus grande puissance de calcul qui va être disponible pour toutes les entreprises et les start-ups beaucoup plus importantes que celles qui est disponible aux États-Unis. Or on sait que pour ces applications, en particulier l’intelligence artificielle, ce qu’il faut c’est bien savoir ce qu’on peut faire avec les données et avoir un accès à la plus grande puissance de calcul. Donc tous ceux qui vont vouloir venir développer précisément les algorithmes, vont être les bienvenues en France et beaucoup m’ont dit en particulier à OpenAI qui respectait cela.

En parlant de OpenAI, la boîte qui a fait chatGPT, son patron Sam Altman, avait déclaré sur votre loi parce qui doit aussi réguler l’intelligence artificielle, qu’ils allaient essayer de conformer à la loi européenne, mais que s’ils ne pouvaient pas, qu’ils allaient cessé d’opérer en Europe.

Breton : Oui, mais vous avez vu qu’il a corrigé en disant qu’on avait mal compris ce qu’il a voulu dire. D’ailleurs, il a retweeter en disant que bien sûr nous allons respecter la loi et bien sûr, nous allons être en Europe et que nous allons également appliquer ce qu’on appelle le « watermarking » c’est-à-dire le fait que quand une application sera générée par l’intelligence artificielle, il faudra que ce soit mentionné.

Salamé : Et ça, ça va être le cas ? C’est-à-dire demain, la photo du pape en doudoune il y aura une marque indiquant l’utilisation de l’IA?

Breton : Oui, c’est exactement ce qui est aujourd’hui proposé par le parlement européen et que nous soutenons y compris pour les textes.

Demorand : Alors sur le respect des lois, nous sommes en ligne avec Brice, au standard d’Inter bonjour, vous avez un doute Brice sur le sujet ?

Brice :  Oui, merci de prendre ma question justement tout à l’heure, Léa Salamé, à donner l’exemple : si elle insultes quelqu’un sur un sur internet, qu’est-ce qui se passe ? Je voulais demander à quand cette régulation s’appliquera aussi au gouvernement non seulement sur le web, mais aussi dans les grands médias comme France Inter, et les gouvernants qui nous mentent et nous insultent à longueur de temps. Je finirai juste par une citation de Coluche :   « les journalistes ne croient pas les mensonges des hommes politiques, mais ils les répètent. »

Demorand : Voilà, merci Brice, vous voyez-vous avez eu la parole ce matin. C’était important pour vous d’accéder au standard de France Inter, vous pouvez le faire en toute transparence. Pierre-Yves est en ligne maintenant depuis la ville de Tours. Bonjour Pierre-Yves.

Pierre-Yves: Merci, et bonjour Monsieur Breton. Alors, vous évoquez intelligence artificielle et libertés individuelles, je voudrais parler de ChatGPT et des droits des universitaires. Je suis universitaire, professeur de droit de l’Union européenne et on observe attentivement la sortie du prochain règlement sur l’intelligence artificielle. ChatGPT pose un vrai problème, au-delà de l’usage que peuvent en faire les étudiants par exemple, et notamment pour les droits d’auteur. Actuellement, les droits d’auteur ne sont ni préservés ni respectés. Alors, je prends un exemple très simple, les universitaires, toutes disciplines confondues, procèdent souvent à un dépôt de leurs ouvrages, de leurs thèses, de leurs articles, de leurs recherches sur une plateforme française qui s’appelle « Hale ». Et bien on s’aperçoit qu’en réalité, tout se savoir académique de très haut niveau constitue la matière première de chatGPT. Donc nous ne serons pas cités, nos droits d’auteurs ne seront pas respectés. J’ai alerté à plusieurs reprises les universités mais en majorité c’est le silence radio, donc là ça pose un vrai problème. Ma question est simple, Monsieur Breton, est-ce que la Commission européenne va initier un règlement permettant de garantir nos libertés universitaires et surtout nos droits d’auteurs liés à ce pillage industriel payant évidemment pour ceux qui en auront l’usage mais qui n’aura pas de contrepartie pour nous-mêmes ?

Breton: Puisque vous êtes universitaire, Monsieur, vous savez que ce n’est pas la Commission Européenne qui fait la loi. La Commission européenne propose un texte, et nous avons proposé un texte précisément de régulation de l’intelligence artificielle, il est maintenant voté et débattu par le parlement et par le conseil. Le conseil a pris sa position et le parlement vient de l’apprendre il y a maintenant 10 jours et nous rentrons en trilogue. Ça veut dire que c’est donc dans cette instance que les co-législateurs qui n’est pas la Commission Européenne, je le redis encore une fois, c’est le peuple qui est représenté par le Parlement et se sont les États qui sont représentés par le Conseil. Donc, ils vont maintenant harmoniser les positions et dans cette harmonisation oui, il y a effectivement une proposition pour préserver les droits d’auteur sous forme de « watermarking ». Comme je l’ai précisé, le watermarking assurera la traçabilité de ce qui a été utilisé en matière d’intelligence artificielle et notamment des données qui ont été utilisées, permettant de préserver les droits d’auteur et les droits à l’image.

Salamé: On a quelques petites minutes de questions d’actualité très courtes. Tout d’abord vous avez présenté le 16 septembre dernier, aux côtés de la vice-présidente de la Commission européenne, Věra Jourová, le Média Freedom Act ; un projet de règlement européen pour la liberté des médias. Il suscite aujourd’hui de vives inquiétudes des associations de journalistes qui craignent un risque de censure par les plateformes. Elles craignent aussi d’être surveillées, que les journalistes soient surveillés par des logiciels espions. C’est la bronca des médias contre votre texte, disent les échos ce matin. Comment rassurer ?

Breton: Le Parlement a pris une position très ferme dictant pas de surveillance des journalistes, et celle-ci est soutenue par la Commission. C’est vrai qu’aujourd’hui un certain nombre de pays, dont la France, veulent la surveillance, mais ce qui est autorisé aujourd’hui dans le texte, c’est uniquement dans des cas très exceptionnels. On pourra surveiller uniquement dans quatre cas : si y’a des risques de pédopornographie, une suspicion d’homicide, de viol ou de terrorisme. Personnellement, je pense qu’élargir la surveillance est une mauvaise idée parce qu’évidemment si ce texte est proposé et débattu actuellement, c’est pour préserver la liberté d’expression, la liberté des médias et en particulier dans les pays notamment européens, qui sont sous des régimes dits illibéraux. C’est la raison pour laquelle avec le parlement européen, nous ferons tout ce que nous pourrons pour qu’on revienne au texte initial.

Demorand:  Sur les médias toujours, une question de Paul sur l’application d’Inter : Et la presse française, n’êtes vous pas inquiet de la situation au JDD ? Vous, commissaire européen c’est de votre rôle d’empêcher cette concentration des médias par Bolloré et son idéologie.

Breton: D’abord, je n’interviens pas directement sur tel ou tel média, vous le comprendrez. Ce que je dis, c’est que sur ce texte là on ne va pas dire comment il faut gérer évidemment telle ou telle rédaction. Mais, il est fait et j’espère qu’il sera appliqué et pas dénaturé par rapport à ce qu’on vient de dire à l’instant, pour précisément préserver la liberté d’expression. On a indiqué dans ce texte un certain nombre de bonnes pratiques. On a vu qu’il y a beaucoup de groupes européens qui gèrent vraiment cette spécificité, parce que l’information que vous traitez tous les jours ce n’est pas un bien comme les autres, et donc beaucoup de groupes aujourd’hui en particulier d’Europe du Nord, ont su trouver des moyens formidables pour préserver évidemment la liberté d’expression. Nous espérons vivement que tous les groupes en Europe y compris Français trouveront intérêt à le faire.

Salamé: Vous avez été patron d’une très grande boîte qui s’appelle Athos, qui est leader international du numérique. Plus de 100,000 salariés, elle a perdu de la valeur depuis que vous l’avez quitté et qui traverse actuellement une zone de turbulence. Quel regard vous avez ?

Breton: L’entreprise Atos est devenue le numéro un européen en matière de puissance de calcul de cybersécurité c’est un atout formidable pour l’Europe et aussi pour l’intelligence artificielle.

Transcript: Internet: regulation “preserves innovation but protects individual freedoms”, says Thierry Breton

Demorand: Commissioner Breton, are Mark Zuckerberg, boss of Meta, which owns Facebook and Instagram, Elon Musk, boss of Twitter, and Sam Altman, CEO of Open AI, the start-up behind ChatGPT, committed to applying the European law, the famous digital service act that regulates social networking platforms in particular, or are they dragging their feet?

Breton: No, they’re not dragging their feet. I want to make that very clear. They have committed themselves. Once again. No one is forcing anyone to come and offer their services on the European market, but we are an open continent. As it happens, in the almost 4 years I’ve been commissioner, from day one I’ve worked with my teams to gradually build up regulation in this unregulated information space. So we’ve tried to strike a balance between preserving innovation and protecting individual freedoms. This regulation, as you just said, comes into force on August 25, and yes, of course, they have all made a firm commitment because they all want to continue offering services on what is, after all, the leading digital market in the free world. We’re one and a half times bigger than the American market. Our regulations are strict, they’re rigorous and have been very difficult to implement. The parliamentarians who are among the most knowledgeable about these issues today, have been working day and night for the past 4 years to ensure that we now have them. The United States, on the other hand, does not have such regulations. They’re unable to implement them due to lack of general consensus and complicated politics.

Salamé: Concretely, can we say that Facebook and Instagram for example, are among the “good students” given that they’ve put 1,000 people to comply with European requirements? At this stage, is it more complicated for Twitter to replicate such actions? 

Breton: First of all, I’m not here to decide who’s done good or bad. I’m here to enact and apply these regulations starting August 25th.  Let me remind you that if it isn’t applied, there will be very substantial financial penalties, and if that’s not enough, there will be a temporary or permanent ban on operating on European territory. So everyone knows what it means, and my role is to explain it all.

Demorand: When you tell Musk this information, what does he say?

Breton: He said, “DSA is great, it’s exactly what I want to do, and I’m going to do everything I can to do it right. They have launched a number of projects which I suggest we do some mock tests on to better prepare them for European regulation. We ran these mock tests and although I won’t divulge the results, I can tell you that there’s still work to be done, and they know it.

Salamé: But what’s going to change on August 25th and how is it going to make people understand? Specifically, what does the law actually change? What will change if I decide to go on Twitter and insult someone?

Breton: In this scenario, Twitter will be obliged to report it (if necessary to the judicial authorities) and remove the offensive language immediately. If this isn’t done, we’ll immediately go and see why not. There will be sanctions, corrections, and if it’s not corrected, a ban. The law will apply, that’s all.

Demorand: Yet, Elon Musk is a defender of absolute freedom of expression. That’s his philosophical position. Do you think it’s respectable and defensible?

Breton: In reality, his philosophy is neither total nor absolute. When I talk to him about it, he’s perfectly aware that what is forbidden in the physical space must also be forbidden in the informational space. In fact, we can assume everyone agrees as it is now European law. So what has changed in the relationship between the US GAFAs and Europe in particular? Europe is now respected as such, due to two important elements. Firstly, we have a balanced regulation, with very clear limits on what can and cannot be done. And, that’s important for companies, even if, as you know, they have fought hard to avoid it following the additional constraints it has placed upon them. As you mentioned earlier, 1,000 people work full-time at Meta, under the direction of Mark Zuckerberg himself, who knows the subject inside out. I was very impressed to see that he knew all the articles of the law and that he was there to enforce them. We’ll have to wait and see, but my point is that while the United States held back on this regulation because they couldn’t do it themselves, now that it’s done, things are changing. I also said this to the president of Nvidia, which is the biggest company today making components for supercomputers, what does Europe have that countries like the USA do not? Firstly, we know exactly what we can and can’t do with our data, and that’s very important. Secondly, we’re going to have the greatest computing power available to all companies and start-ups, far greater than that available in the United States. And we know that for these applications, particularly artificial intelligence, you need to know what you can do with the data and have access to the greatest computing power. So anyone who wants to come and develop algorithms in particular, is very welcome in France.

Salamé: Regarding OpenAI the company behind chatGPT, its boss Sam Altman had said, in relation to your law, which is also intended to regulate artificial intelligence, that they would try to comply with European law, but that if they couldn’t, they would stop operating in Europe.

Breton: Yes, he initially may have said this but he then corrected himself claiming we had misunderstood what he meant. Moreover, he retweeted saying that of course we’re going to respect the law and of course we’re going to be in Europe, and that we’re also going to apply what is known as “watermarking”, which mandates the disclosing of any use of AI when generating content. 

Salamé: And that’s going to be the case? In other words, tomorrow’s photo of the Pope in a down jacket will be marked as having been generated by AI?

Breton: Yes, that’s exactly what the European Parliament is proposing today, and that’s what we support. 

Demorand: So, on the subject of compliance with the law, we’re on the phone with Brice, at Inter’s switchboard, do you have any doubts about this, Brice?

Brice: Yes, thank you for taking my question. I wanted to ask whether this regulation will also apply to the government, not only on the web, but also in the major media like France Inter, and the politicians who deceive us and insult us time and time again. I’ll just finish with a quote from Coluche: “Journalists don’t believe politicians’ lies, but they repeat them.”

Demorand: Well, thank you Brice, see you’ve had the floor this morning. It was clearly important for you to access France Inter’s switchboard, and you can do so in complete transparency. Pierre-Yves is now on the line from Tours. Hello Pierre-Yves.

Pierre-Yves: Thank you and hello Mr. Breton. I’d like to talk about ChatGPT and the rights of academics. I’m an academic, a professor of European Union law, and we’re keeping a close eye on the forthcoming regulation on artificial intelligence. ChatGPT poses a real problem, beyond the use that students can make of it, particularly in terms of copyright. At present, copyright is neither preserved nor respected. To use a very simple example, academics in all disciplines often deposit their books, theses, articles and research on a French platform called “Hale”. Well, in reality, all this high-level academic knowledge is chatGPT’s raw material. So we won’t be cited and our copyright won’t be respected. I’ve alerted the universities on several occasions, but for the most part there’s radio silence, so this poses a real problem. My question is simple, will the European Commission initiate a regulation to guarantee our academic freedoms and, above all, our copyright in this industrial plundering, which will obviously be paid for by those who use it, but for which there will be no compensation for us?

Breton: Since you’re an academic, sir, you know that it’s not the European Commission that makes the law. The European Commission proposes a text, and we have proposed a text specifically to regulate artificial intelligence, which has now been voted on and debated by Parliament and the Council. The Council has taken its position, and the Parliament was just informed 10 days ago, and we’re now entering the trialogue. This means that the co-legislators, who are not the European Commission, are the people represented by the Parliament and the States represented by the Council. Now, they’re going to harmonise their positions, and in this harmonisation, there is indeed a proposal to preserve copyright through “watermarking”. As I previously mentioned, watermarking will ensure traceability of the usage of artificial intelligence and in particular of the data that has been used, thus enabling copyright and image rights to be preserved.

Salamé: We have a few minutes of very short topical questions. First of all, on September 16, alongside European Commission Vice-President Věra Jourová, you presented the Media Freedom Act; a draft European regulation for media freedom. Following this proposal, journalists’ associations are very concerned about the risk of censorship by platforms. They also fear that journalists will be monitored by spyware. According to reports this morning, the media are in an uproar over your text. How can you reassure them?

Breton: The Parliament has taken a very firm stance against the surveillance of journalists, and this is supported by the Commission. It’s true that today a number of countries, including France, want surveillance, but what is authorised in the text today applies to very exceptional cases. Surveillance will only be possible in four cases: if there is a risk of child pornography, or if there is a suspicion of homicide, rape or terrorism. Personally, I think that broadening surveillance is a bad idea, because obviously the reason why this text is being proposed and debated at the moment is to preserve freedom of expression and freedom of the media, particularly in European countries that are under so-called illiberal regimes. That’s why, together with the European Parliament, we’ll do everything we can to return to the original text.

Demorand: From social media, a question from Paul on Inter’s application: What about the French press? Aren’t you worried about the situation at the JDD? As European Commissioner, it’s your role to prevent this concentration of the media by Bolloré and his ideology.

Breton: First of all, I don’t intervene directly in this or that media, as you probably understand. What I’m saying is that we’re not going to say how this or that newsroom should be run. But it has been drawn up, and I hope that it will be applied and not distorted, precisely to preserve freedom of expression. In fact, the text sets out a number of good practices. We have seen that there are many European groups who really manage this specificity, because the information you process every day is not a commodity like any other, and so many groups today, particularly in Northern Europe, have found formidable ways of preserving freedom of expression. We very much hope that all groups in Europe, including the French, will find it in their interest to do so.

Salamé: Last question, you used to run a very large company called Athos, which is an international leader in the digital sector with over 100,000 employees. It has lost value since your departure and is currently going through a turbulent period. What’s your view?

Breton: Atos has become Europe’s number one company in terms of computing power and cybersecurity, which is a tremendous asset for Europe and also for artificial intelligence.