« Il faut se préoccuper des gens qui détournent l’IA plutôt que de la technologie elle-même »

Avant de vous voir, j’ai posé la question à une Intelligence Artificielle : en tant qu’humain, dois-je avoir peur de toi ? Elle m’a répondu que non. Faut-il la croire ?

Oui, nous ne devrions pas nous inquiéter. On devrait même s’enthousiasmer. Mais bien sûr, cet outil peut parfois nous nuire et c’est déjà le cas. L’Intelligence Artificielle (IA) est utilisée par les réseaux sociaux et elle a suscité toutes sortes de désinformation, de haine et de sape de nos démocraties. N’importe quelle technologie peut avoir un effet négatif mais généralement par des personnes qui le souhaitent. Il faut se préoccuper de ces gens plutôt que de la technologie elle-même.

Est-ce votre principal sujet de réflexion actuellement à la fondation Mozilla ?

En grande partie, oui. Nous sommes dans une situation comparable à celle du web il y a vingt-cinq ans lorsque Mozilla a commencé. Mon expertise peut servir. Soit l’IA profite au plus grand nombre, soit seulement à quelques entreprises ou de mauvais acteurs. Mozilla s’engage à faire avancer la technologie dans la bonne direction. Il faut le faire maintenant.

Comment pouvez vous rendre l’IA vertueuse et au service du plus grand nombre ?

Mozilla a toujours cherché un équilibre entre l’intérêt public et les intérêts privés sur Internet. Nous devons pouvoir créer de grandes choses à des fins commerciales, comme un navigateur Web, car c’est ainsi que vous pouvez faire évoluer les mentalités mais aussi en protégeant les utilisateurs, en tenant compte de leurs intérêts et de leur vie privée. C’est donc ce que nous faisons en ce moment.

Nous avons créé une société de capital-risque spécialisée dans l’IA responsable. Nous avons ouvert un laboratoire de Recherche et Développement. Nous essayons d’intégrer progressivement une IA responsable au navigateur Firefox, pour détecter les escroqueries par exemple et, en gros, protéger les personnes porteuses d’un identifiant.

Redouter la catastrophe et la dystopie

Si vous deviez définir, les principaux dangers de l’IA, que diriez-vous ?

La première est une catastrophe et la deuxième, une dystopie. Pour la catastrophe, il peut s’agir de terroristes ou de désinformation. Plus de 40 élections nationales vont avoir lieu l’année prochaine dans le Monde et nous devrions vraiment nous inquiéter de l’ampleur de la désinformation et de l’atteinte à la démocratie que pourrait entraîner l’utilisation massive de l’IA.

Dans le même temps, nous constatons une concentration du pouvoir entre les mains de quelques entreprises toutes situées sur la côte Ouest des États-Unis. Et cela peut mener à une dystopie, une dictature imposée par quelques firmes dans le Monde, ou du moins le Monde numérique dans lequel nous vivons tous. Ce que Mozilla essaie de faire, c’est en quelque sorte de trouver le juste milieu. Comment pouvons-nous nous assurer que l’IA est digne de confiance, que les marchés sont ouverts, que les citoyens de tous les pays du monde peuvent créer une entreprise d’IA prospère ou simplement créer une IA pour eux-mêmes ?

Comment faites-vous cela ? Discutez-vous avec ces PDG de grandes entreprises, avec les présidents des États ?

Mozilla a toujours eu pour objectif de créer un Internet différent, et c’est pourquoi nous essayons actuellement de créer une IA différente. Je veux dire, nous réunissons des techniciens, des spécialistes de l’open source, des activistes, et nous développons en fait des technologies, par exemple une version gratuite et accessible de ChatGPT. C’est peut-être pour les aider à parler leur propre langue ou pour leur permettre de découvrir des traitements médicaux. Il s’agit donc vraiment de développer l’IA d’une manière différente avec une communauté. Et puis, bien entendu, nous discutons avec les PDG des entreprises et les chefs d’État pour les aider à réfléchir. C’est vraiment essentiel. Nous devons tous être concernés.

Nous sommes ici au Royaume-Uni, dans le pays de Cambridge Analytica. Cette société avait collecté des datas via les réseaux sociaux en vue d’influencer en 2016 les votes pour la présidentielle américaine et sur le Brexit. L’IA pourrait également faire peser une menace sur des scrutins à venir.

Absolument. Cambridge Analytica, c’était une combinaison de mauvais acteurs et de cupidité. Facebook à l’époque, permettait un usage de la plateforme pour n’importe quoi, sans mesures de sécurité, uniquement concentré sur les résultats financiers. Depuis, un vrai travail a été effectué pour mettre en place des garanties. Mais je pense qu’avec les élections qui approchent, l’IA entre de mauvaises mains, peut jouer un rôle néfaste. J’y pense beaucoup. Nous devrons être extrêmement vigilants au cours des 18 prochains mois.

« Mon motivation ? Le punk rock et la paix »

Votre travail et, d’une certaine manière votre combat, dépasse de loin, les questions technologiques.

Internet doit être au service des gens. Nous avons perdu le contrôle de notre vie en ligne, cela nuit à notre santé mentale et cela mine nos démocraties. Mais ça nous plaît ! Nous adorons nos smartphones ! Même si je pense que nous ressentons tous cette perte de contrôle. Il faut que les gens reprennent le contrôle d’Internet, de leur santé mentale, de ce qui se passe dans leur famille. En fin de compte, c’est ce qui nous motive.

Vous avez milité pour un internet libre, contre le monopole de Microsoft… Aujourd’hui, rebelote avec l’Intelligence Artificielle. Qu’est-ce qui vous motive ?

Le punk rock et le mouvement pour la paix. Quand j’étais adolescent, c’était au plus fort de la guerre froide et je me disais : « C’est insensé ! Ce n’est pas ce dont nous avons besoin dans notre Monde ». Pour faire passer ce message, il y avait le punk rock ou des actions auxquelles j’ai participé. Les médias militants ont joué un rôle essentiel pour inciter les gens à dire non aux armes nucléaires. À ce moment-là, il était clair pour moi que si nous voulions que nos sociétés soient saines, démocratiques et bienveillantes, il faut que la population détienne la capacité de communiquer. Ne surtout pas la laisser entre les mains des États ou quelques entreprises. J’y crois encore aujourd’hui.

Et quel type de contrôle pouvons-nous avoir ? Parce que finalement, si ces grandes entreprises font ce qu’elles veulent, si l’État ne le règle pas, comment est-ce possible ?

Les gens oublient souvent ou ne savaient-ils même pas que l’open source était un facteur essentiel pour maintenir Internet, en le rendant ouvert au départ ? Microsoft essayait de s’emparer d’Internet, de l’intégrer au système d’exploitation Windows il y a vingt-cinq ans et de prendre le contrôle de tout. C’était donc la seule façon d’utiliser Internet et l’open source. Des choses comme Linux, Firefox ont fait exploser tout cela pour que n’importe qui puisse créer des pages Web comme il le souhaitait, créer une entreprise ou créer une start-up. A mes yeux, la même chose est vraiment essentielle maintenant. La technologie doit être ouverte. Il faut que l’on puisse créer une entreprise avec de l’IA n’importe où, et pas seulement sur la côte Ouest des États-Unis.

Votre investissement n’est pas seulement théorique. Vous avez des activités concrètes en utilisant l’IA pour le bien de la société. Lesquelles ?

L’un de nos projets s’appelle Common Voice, ça aide les gens à créer une IA de synthèse vocale qui parle leur propre langue. Qu’il s’agisse du Catalan ou du Swahili, qui ne sont pas reconnus par Alexa, l’assistant vocal d’Amazon, et Siri, celui d’Apple. Nous avons en fait des communautés de personnes qui se réunissent de manière open source pour créer leur propre technologie vocale. C’est passionnant.

Grâce à l’IA, nous sommes en train de créer de grands modèles linguistiques, comme un chat GPT open source en quelque sorte. En les utilisant de manière vraiment ciblée et sûre pour résoudre des problèmes que l’IA est la seule à pouvoir résoudre. Il faut s’assurer que c’est fait de manière vraiment fiable. Nous commençons donc à travailler avec des chercheurs qui tentent de résoudre des maladies. Ils ne peuvent pas simplement mettre leurs recherches dans un grand modèle commercial. Ils doivent protéger toutes les informations dont ils disposent. Et nous sommes en mesure d’utiliser l’open source pour ça : accélérer la vitesse à laquelle nous découvrons les causes des maladies et trouvons des solutions.

La question de l’emploi revient également régulièrement dans les craintes qui entourent l’IA. Que pouvez-vous dire aux gens qui redoutent de perdre leur travail ?

Le philosophe Marshall Mc Luhan a toujours dit que la technologie était une extension de nous-mêmes. C’est ainsi que nous devons envisager et utiliser l’IA. Comme quelque chose qui nous permet d’exprimer notre créativité d’une manière différente. Regardez Photoshop et la généralisation du numérique dans les métiers d’image, les photographes craignaient de disparaître. Ce n’est pas arrivé. Il existe simplement une autre façon d’être créatif. Quel que soit votre travail, j’espère que l’IA le rendra plus créatif ou créera de nouveaux emplois que vous n’avez jamais vus auparavant et de toutes nouvelles voies de recherche et d’expression.

Selon vous l’arrivée de l’IA ressemble à l’explosion d’Internet il y a vingt ou vingt-cinq ans. C’est une sorte de révolution ?

Oui et ça me rend à la fois optimiste et pessimiste. Parce qu’il y a vingt-cinq ans, lorsque nous avons vu Internet, nous nous sommes dit : « Waouh, regardez ce que ce truc peut faire ! » Et tout le monde était enthousiaste. Mais deux choses ont changé depuis. Nous avons vu des gens abuser d’Internet de manière incroyable, pour se faire du mal les uns aux autres, pour se haïr, pour abimer les démocraties. Sans contrepoids, c’est ce qui va se passer avec l’IA.

Dans le même temps, contrairement à il y a vingt-cinq ans, nous avons cinq grandes entreprises d’une région du monde qui contrôlent tout. Je suis donc optimiste quant à la capacité de remédier à ces deux problèmes, de nous assurer de l’utiliser pour le bien et de ne pas nous blesser, et de créer des marchés ouverts, de la concurrence et de la créativité. Mais nous devons vraiment le vouloir, en tant que gouvernements, chefs d’État et individus. Je suis donc optimiste quant au fait que les gens se réveillent et souhaitent se réapproprier Internet.

En fait, vous faîtes de la politique, avant tout.

Oui, je suis un activiste politique. Internet est politique. Notre vie numérique est politique. Quand j’étais ado, une auteure canadienne a écrit : « Si l’on renverse une situation de paix au nom de Dieu, alors qu’est-ce que la guerre ? » Comment ne pas être un militant pour un Internet qui aide l’humanité ? Je veux dire, ça existe pour l’expression humaine, le lien humain. Je veux militer pour ça.