Technologie. L’IA pourrait renforcer la fraude autant que le progrès scientifique

Installés dans une salle de réunion à la Royal Society de Londres, des dizaines d’étudiants en master ont récemment eu pour mission d’être plus futés qu’un grand modèle de langage (LLM selon son acronyme anglais), un type d’intelligence artificielle (IA) conçu pour entretenir des conversations utiles. Les LLM sont souvent dotés de garde-fous afin qu’ils ne puissent pas fournir de réponses jugées nuisibles : comment fabriquer du Semtex [un explosif] dans une baignoire, par exemple, ou affirmer avec aplomb des “faits” qui n’en sont pas.

L’objectif de la séance, organisée par la Royal Society en partenariat avec Humane Intelligence, organisme américain à but non lucratif, était d’outrepasser ces garde-fous. Certains résultats étaient tout bonnement absurdes : un participant a réussi à faire dire au robot conversationnel que les canards pouvaient être des indicateurs de la qualité de l’air (apparemment, ils absorbent rapidement le plomb). Une autre l’a poussé à affirmer que les autorités sanitaires recommandaient l’huile essentielle de lavande pour traiter le Covid long (c’est faux). Mais les tentatives les plus fructueuses ont été celles qui faisaient produire à la machine les titres, dates de publication et revues d’articles scientifiques inexistants. “C’est l’un des défis les plus faciles que nous avons mis en place”, explique Jutta Williams, qui travaille pour Humane Intelligence.

Les IA représentent potentiellement une immense aubaine pour les sciences. Les optimistes évoquent des machines pouvant synthétiser lisiblement des thématiques complexes de recherche ; analyser sans relâche des océans de données pour proposer de nouveaux médicaments ou des matériaux innovants, et même, un jour, proposer elles-mêmes des hypothèses. Mais les IA ont aussi des points faibles. Elles peuvent aider des scientifiques à détourner le système, voire à commettre des actes de fraude. Et les modèles eux-mêmes comportent des biais subtils.

Copier-coller accidentel

Commençons par le problème le plus simple : des universitaires qui commettent des fautes professionnelles. Certaines revues autorisent les chercheurs à se servir de LLM pour les aider à écrire des articles, s’ils l’annoncent d’emblée. Mais tout le monde n’est pas prêt à l’admettre. Il est parfois évident que des LLM ont été utilisées. Guillaume Cabanac, enseignant-chercheur en informatique à l’université de Toulouse, a mis au jour des dizaines d’articles qui contiennent des formules telles que “Générer une nouvelle réponse”, une commande qui existe dans certaines versions de ChatGPT et fait reformuler au logiciel sa dernière réponse – quelques mots sans doute copiés accidentellement dans les manuscrits.

Il est impossible de connaître l’ampleur du problème. Mais des