Il y a 5 % de chances que l’IA mette fin à l’humanité, selon des experts

L’IA pourrait-elle un jour mener à notre extinction ? Aussi
exagéré que cela puisse paraître, certains scientifiques, prenant
très au sérieux les risques liés au développement rapide de la
technologie, estiment que oui. Selon eux, une fois que l’IA
générale aura vu le jour, plusieurs scénarios pourraient
potentiellement mener à notre fin, bien que les chances que cela se
produise soient selon eux assez faibles (environ 5 %).

L’intelligence artificielle connaît une croissance rapide et,
selon des experts, cette tendance se poursuivra dans les prochaines
années avec l’acquisition rapide de nouvelles capacités. L’IA
surpasse déjà l’humain pour certaines compétences, et ce n’est que
le début.

Certains scientifiques estiment même qu’à terme, l’IA pourrait
être à la source de l’extinction humaine. C’est ce qu’a révélé une
enquête récente menée auprès de 2778 chercheurs ayant publié des
études sur l’IA. Les participants ont partagé leurs opinions sur
les délais d’atteinte de certaines étapes clés du développement de
l’IA. Ils ont également été invités à réfléchir aux impacts
potentiels que ces avancées technologiques pourraient avoir sur la
société.

Des avancées majeures au cours des prochaines décennies

Les chercheurs en question pensent qu’il y a au moins 50 % de
chances qu’en 2028, les systèmes d’IA soient capables d’accomplir
la majorité des tâches intellectuelles définissant l’humain à ce
jour. Il en va de même pour les compétences artistiques : celles-ci
incluent par exemple la composition autonome de chansons complètes
qui seraient difficiles à distinguer des œuvres humaines, ou encore
la création de sites web complets dédiés au traitement de
transactions financières.

Cependant, relativement peu d’experts pensent que l’IA soit
capable, d’ici là, de réaliser des tâches impliquant une
interaction complexe avec le monde physique, comme l’installation
de câblages électriques dans une nouvelle habitation. Les systèmes
d’IA ne pourront pas non plus, même en 2028 selon certains
chercheurs, traiter des problèmes qui nécessitent une compréhension
profonde.

Selon les estimations des experts interrogés dans le cadre de
l’enquête principale, il y a également 50 % de chances que d’ici
2047, l’IA soit capable de surpasser les humains dans tous les
domaines, allant de la résolution de problèmes complexes à la prise
de décisions clés, en passant par la création artistique et
l’innovation. D’ici le XXIIe siècle, il y a selon ces mêmes
chercheurs environ 50 % de chances que tous les emplois soient
entièrement automatisables. Ces probabilités reposent toutefois sur
l’hypothèse que le développement de l’IA respecte un certain
rythme, et qu’il y ait davantage d’innovation dans l’industrie.

Une extinction humaine entrainée par l’IA ?

Près de 58 % des chercheurs interrogés estiment qu’il existe une
probabilité de 5 % que l’IA puisse entraîner l’extinction de
l’humanité, notamment après que l’IA générale ait vu le jour. Il
s’agit d’une forme d’intelligence artificielle très avancée
surpassant largement les capacités intellectuelles et
décisionnelles des humains. Ainsi, ces chercheurs estiment que si
une telle technologie échappait au contrôle humain, cela pourrait
avoir des conséquences dramatiques.

Ces résultats peuvent être perçus de manière positive ou
négative, selon le point de vue. Néanmoins, il reste crucial de
mettre en place des lignes directrices éthiques plus strictes,
ainsi qu’une réglementation gouvernementale pour guider le
développement de l’IA de manière à maximiser les bénéfices tout en
minimisant les risques.

En effet, plus de 70 % des chercheurs interrogés sont préoccupés
par divers risques liés à l’IA (même sans considérer ceux d’une IA
surhumaine). Ils craignent divers scénarios dramatiques, tels que
l’utilisation en masse de la technologie pour manipuler l’opinion
publique, pour développer des armes chimiques ou automatisées, pour
surveiller et contrôler les populations avec minutie, etc.

Source : THOUSANDS OF AI AUTHORS ON THE
FUTURE OF AI, Katja Grace et al.