Une lettre ouverte des leaders de la technologie appelle à une pause dans la conception de puissants systèmes d’IA

La lettre affirme que les systèmes d’IA contemporains deviennent de plus en plus compétitifs dans les tâches générales et qu’il est important de considérer les effets potentiels de permettre aux machines d’inonder nos canaux d’information de propagande et de mensonges, ainsi que d’automatiser tous les emplois, y compris le respect de la loi. Les signataires se demandent également si nous devrions développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents et plus rapides que nous, et nous remplacer, et si nous devrions risquer de perdre le contrôle de notre civilisation.

Ce que craignent les signataires

Les signataires craignent les risques et les dangers que des systèmes d’intelligence artificielle plus avancés et plus puissants pourraient faire courir à la société et à l’humanité.

Plusieurs préoccupations ont été exprimées dans le document :

Le risque potentiel de perdre le contrôle des systèmes d’intelligence artificielle, ce qui pourrait avoir des conséquences imprévisibles et dangereuses pour la société.
La possibilité que les systèmes d’intelligence artificielle soient utilisés à des fins malveillantes, comme la diffusion de fausses informations ou de propagande.
La possibilité que les systèmes d’intelligence artificielle remplacent les humains sur le lieu de travail et entraînent une augmentation du chômage et des inégalités.
La possibilité que les systèmes d’intelligence artificielle dépassent la capacité de compréhension et de connaissance de l’homme et finissent par le remplacer dans la prise de décisions importantes, ce qui pourrait avoir des conséquences imprévisibles et involontaires.

Si vous partagez leurs craintes, signez le document avec eux (le lien se trouve à la fin de cet article).

Intelligence artificielle contre talent humain : une course incontrôlable

La lettre souligne également le manque de planification et de gestion dans le développement des systèmes d’IA, notant que les laboratoires d’IA se sont “enfermés dans une course incontrôlée pour développer et déployer des esprits numériques de plus en plus puissants que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable”. Les signataires affirment que le développement de systèmes d’IA puissants ne devrait être entrepris que lorsque nous sommes certains que leurs effets seront positifs et que leurs risques seront gérables.

Une pause publique et vérifiable

Le message collectif demande en outre que la pause demandée soit “publique et vérifiable, et qu’elle inclue toutes les parties prenantes”. Si une telle pause “ne peut être adoptée rapidement, les gouvernements devraient intervenir et instituer un moratoire”. Certains des signataires de la lettre sont des experts en intelligence artificielle, mais il y a aussi des personnes qui ne sont pas directement liées à l’industrie technologique.
L’absence de signatures d’OpenAI et d’Anthropic

Dans le contexte de cette lettre, il convient de noter que personne d’OpenAI, l’équipe à l’origine du grand modèle de langage GPT-4, n’a signé le message, pas plus que personne d’Anthropic, dont l’équipe s’est séparée d’OpenAI pour construire un chatbot d’IA “plus sûr”. Bien que certains des signataires de la lettre travaillent dans des entreprises technologiques de premier plan, l’absence de signatures d’OpenAI et d’Anthropic indique qu’il existe un débat interne au sein de la communauté de l’IA sur la nécessité d’une pause dans le développement de systèmes d’IA plus puissants que le GPT-4.

L’avenir de l’IA

La lettre ouverte soulève des questions importantes sur l’avenir de l’IA et sur le rôle que nous devrions jouer dans son développement. Si l’IA a le potentiel d’améliorer nos vies à bien des égards, elle présente également des risques importants. Le manque de compréhension et de contrôle sur le développement de systèmes d’IA plus puissants que le GPT-4 est un risque réel, et il est important que la communauté de l’IA réfléchisse soigneusement à la manière d’avancer dans ce domaine, en mesurant le puissant pouvoir d’influence qui a été récemment breveté.

Le texte intégral de cet appel est disponible sur le site web du Future Of Life Institute, où tout visiteur peut l’approuver en rejoignant les signataires.