Le « parrain de l’IA » quitte Google et alerte sur les dangers de la technologie

Geoffrey Hinton, surnommé le « parrain de l’intelligence artificielle », a décidé de démissionner de chez Google après y avoir passé plus d’une décennie. Il souhaite désormais tirer la sonnette d’alarme sur les risques posés par cette technologie.

Un universitaire reconnu par ses pairs

Le chercheur de 75 ans était dans les rangs de la firme de Mountain View depuis 2012, après l’acquisition d’une entreprise qu’il avait créée avec deux de ses étudiants ; l’un d’eux est désormais le directeur scientifique d’OpenAI. Ils avaient mis au point un réseau neuronal qui, après avoir analysé des milliers de photos, apprenait à identifier des objets courants tels que des chiens, des chats et des fleurs. Ce travail a conduit à la création de modèles comme ChatGPT et Google Bard.

Particulièrement reconnu dans le domaine de l’IA, Hinton a été nommé lauréat du prix Turing en 2018 pour ses percées conceptuelles et techniques. Interrogé par le New York Times, le chercheur admet désormais avoir des regrets&nbsp: « Je me console avec l’excuse habituelle&nbsp: si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait ». C’est notamment pour cette raison qu’il a pris la décision de quitter Google.

« Je suis parti pour pouvoir parler des dangers de l’IA sans tenir compte de l’impact sur Google. Google a agi de manière très responsable », détaille-t-il dans un tweet. Son dernier poste était celui de vice-président et chargé d’ingénierie, sous la responsabilité de Jeff Dean au sein de Google Brain.

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

— Geoffrey Hinton (@geoffreyhinton) May 1, 2023

Les dangers posés par la course effrénée à l’IA générative

Les craintes de Hinton se sont accélérées lors de la sortie du nouveau Bing par Microsoft, dans lequel est incorporée une IA générative. En état d’alerte face à un sérieux concurrent à son moteur de recherche, Google a mis les bouchées doubles pour riposter, entraînant une course effrénée dans le domaine. Récemment, l’entreprise annonçait d’ailleurs la fusion de ses deux unités spécialisées dans l’IA pour stimuler la recherche.

Selon le chercheur, une concurrence aussi féroce pourrait être impossible à arrêter, ce qui aboutirait à une prolifération d’images et de textes truqués avec l’impossibilité de savoir « ce qui est vrai ». À plus long terme, il craint que l’IA n’élimine de nombreux emplois routiniers, et n’exclut pas la possibilité d’un réel danger pour l’humanité, lorsque la technologie commencera à écrire et à exécuter son propre code.

« L’idée que ce matériel puisse devenir plus intelligent que les gens, quelques personnes l’ont crue. Mais la plupart des gens pensaient que c’était une erreur. Et je pensais que c’était loin d’être le cas. Je pensais que c’était dans 30 à 50 ans, voire plus. Évidemment, je ne pense plus cela aujourd’hui », s’inquiète-t-il dans les lignes du New York Times.

Plusieurs appels pour réglementer l’IA

De plus en plus de chercheurs partagent leurs préoccupations face au développement de l’IA. Le PDG de Google, Sundar Pichai, a même appelé à une ferme réglementation de la technologie, tout comme Muri Murati, la CTO d’OpenAI, ainsi que Sam Altman, son PDG. En parallèle, une lettre signée par des milliers de personnes a appelé à l’interruption temporaire de la recherche dans les systèmes d’IA avancés.

Malgré cela, l’IA générative est progressivement introduite dans de nombreux produits, et les géants de la Silicon Valley travaillent sans relâche sur son développement. À travers sa démarche, Geoffrey Hinton espère réveiller les consciences pour aller vers un déploiement beaucoup plus mesuré de l’intelligence artificielle.