Innovation : Quelle est la loi des conséquences involontaires (et pourquoi elle est si importante maintenant)

Et toute innovation, dans quelque domaine que ce soit, entraîne des conséquences imprévues , parfois positives ; d’autres, négatives et souvent surprenantes.

C’est un phénomène que les observateurs sociaux de différentes disciplines ont constaté depuis l’Antiquité.

Le philosophe Platon, par exemple, l’a magnifiquement illustré dans le dialogue « Phèdre ».

Socrate y raconte que lorsque le dieu égyptien Teut – qui avait inventé, entre autres choses, les lettres – alla montrer au roi Tamus toutes ses œuvres, il lui demanda d’expliquer leur utilité.

« Quand ils en vinrent à écrire, Teut dit : ‘Ô roi ! Cette invention rendra les Egyptiens plus sages et servira leur mémoire ; j’ai découvert un remède contre la difficulté d’apprendre et de retenir.' »

Le roi répondit que le génie inventeur n’est pas le meilleur juge et qu’en ce qui concerne l’écriture, il lui attribuait « tout le contraire de ses véritables effets ».

« Cela ne fera que produire l’oubli dans l’âme de ceux qui le connaissent, les faisant mépriser leurs souvenirs ; ils se fieront aux écrits extérieurs et ne s’en souviendront pas par eux-mêmes.

 » Ce que vous avez découvert n’est pas une aide à la mémoire, mais à la réminiscence ; et vous ne donnez pas à vos disciples la vérité, mais seulement l’apparence de la vérité ; ils entendront beaucoup de choses et n’auront rien appris ; ils paraîtront omniscients et généralement non, ils ne sauront rien ; ils seront une compagnie ennuyeuse, ayant l’apparence d’une sagesse sans réalité.

Pour Platon, la véritable connaissance s’obtenait grâce au dialogue socratique : la recherche de réponses par l’effort de réflexion et de raisonnement.

Même si vous n’êtes pas d’accord avec son opinion sur l’écriture, l’histoire montre comment même les technologies les plus précieuses peuvent avoir des conséquences imprévues.

Adam Smith, considéré comme le père de l’économie moderne, a donné le nom de « main invisible » à l’une des plus célèbres d’entre elles .

Le philosophe écossais du XVIIIe siècle affirmait que chaque individu qui ne recherche que son propre bénéfice « est conduit par une main invisible à promouvoir une fin qui ne faisait pas partie de son intention », générant ainsi des bénéfices considérables.

Plusieurs penseurs ont discuté de ce qu’on appelle aujourd’hui « la loi des conséquences imprévues », mais c’est le sociologue américain Robert K. Merton qui, en 1936, a publié la première analyse de ce concept.

Merton commence son article influent « Les conséquences involontaires de l’action sociale intentionnelle » en commentant que jusqu’alors il n’y avait pas eu d’analyse scientifique systématique sur le sujet.

Il suppose que c’est peut-être dû au fait que, pendant la majeure partie de l’histoire humaine, l’inattendu a été attribué aux « dieux », au « destin » ou à l’intervention divine.

Avec l’âge de raison, nous avons commencé à croire que la vie pouvait être comprise.

Dans son étude, Merton a identifié 5 causes principales de ces résultats inattendus.

L’ignorance est la première : ils sont imprévus, donc, dans certains cas, peu importe à quel point on le voulait, il aurait été très difficile de deviner ce qui s’est passé allait arriver.

Ceux qui ont développé le vélo moderne dans les années 1880 et 1890 n’avaient pas l’intention de créer un véhicule de libération des femmes.

Non seulement elle encourageait l’utilisation de « vêtements rationnels », mais elle avait également un impact profond sur les droits et les rôles des femmes dans la société.

«Laissez-moi vous dire ce que je pense du vélo», a déclaré la suffragette Susan B. Anthony dans une interview en 1896.

« Je pense que cela a fait plus pour émanciper les femmes que toute autre chose au monde. Cela donne aux femmes un sentiment de liberté et d’autosuffisance. Cela leur donne le sentiment d’être indépendantes (…) et ça disparaît, l’image de une féminité libre et sans restriction.

Ainsi, une myriade d’exemples démontrent que, écrit Merton, « la limitation la plus évidente à une anticipation correcte des conséquences d’une action est fournie par l’état actuel des connaissances ».

Ce qui, entre autres, amène parfois certains à « appuyer l’argument qui dit en effet : ‘si on avait su, on aurait su’ », a-t-il ajouté.

La deuxième cause principale était l’erreur : parfois l’analyse échoue ou des actions qui ont réussi dans le passé sont répétées dans de nouvelles situations, sans les repenser.

L’impérative immédiateté de l’intérêt , qui conduit à négliger la considération des conséquences à long terme puisque la préoccupation première est les effets immédiats attendus, est la troisième cause.

Le quatrième est « superficiellement similaire au facteur d’immédiateté », mais sensiblement différent : les valeurs fondamentales.

Celles-ci peuvent nous amener à agir selon des croyances fondamentales sans considérer les conséquences.

Merton a cité le cas de l’éthique protestante et de l’esprit du capitalisme pour illustrer ce point.

Les normes morales protestantes du travail acharné et de l’ascétisme « conduisent paradoxalement à leur propre décadence par l’accumulation de richesses et de possessions ».

Et enfin, une cause qui semble ésotérique : la prophétie autodestructrice , dans laquelle on n’agit pas par peur de conséquences négatives et imprévues, ou on prévient d’un problème futur, et cela fait qu’il ne se produit pas.

« Pour prendre un exemple social concret », a noté Merton, « la prédiction de (Karl) Marx sur la concentration progressive des richesses et la misère croissante des masses a influencé le processus même prédit.

« Au moins une des conséquences de la prédication socialiste au XIXe siècle a été l’expansion de l’organisation du travail, qui (…) a ralenti, voire éliminé, les événements que Marx avait prédits. »

Dans son livre « Logique du hasard », le mathématicien et philosophe John Venn a utilisé le terme coloré de « prophéties suicidaires » pour désigner cette cinquième cause majeure de conséquences imprévues.

Au fil du temps, d’autres penseurs en ont ajouté d’autres, comme l’économiste Kenneth Arrow, qui a émis un avertissement : « la plupart des gens sous-estiment l’incertitude du monde ».

Merton a en outre classé 3 types de conséquences imprévues :

Parce que nous sommes au seuil d’une nouvelle phase pour l’humanité, probablement l’une des plus significatives de toutes .

L’émergence rapide d’une nouvelle génération de systèmes d’intelligence artificielle capables de porter des jugements, de prendre des décisions et de générer des idées constitue l’un des plus grands défis de société.

L’intelligence artificielle constitue un grand pas vers l’inconnu dans différents domaines de notre vie, de la santé à l’éducation, de l’armée au droit, des arts aux transports.

Cela changera nos vies d’une manière que nous ne pouvons pas encore imaginer.

Mais nous ne pouvons pas nous permettre de ne pas le faire , car derrière l’innovation passionnante et l’enthousiasme pour l’IA se cachent des questions fondamentales que nous devons nous poser, nous, les leaders technologiques et nos dirigeants, dès maintenant.

« En ce qui concerne l’IA, nombreux sont ceux qui y voient quelque chose de magique, ou pensent qu’il y aura une bataille imminente entre les humains et les robots, et le type de questions ressemble à de la science-fiction : ‘peut-on faire confiance à un robot’ ?  » .

C’est ce qu’a déclaré Jack Stilgoe , professeur à l’University College de Londres et membre d’un nouveau programme de recherche géant au Royaume-Uni appelé Responsible AI ou RAI, à l’émission The Trust Shift de la BBC .

« En tant que spécialiste des sciences sociales, je souhaite attirer l’attention sur le fait qu’il ne s’agit pas vraiment de savoir si nous faisons confiance à un robot, mais si nous faisons confiance aux personnes qui se cachent derrière les technologies . »

Ce sont ces entrepreneurs et innovateurs en IA qui ont le pouvoir de façonner radicalement notre avenir.

Mais c’est nous tous, dans une plus ou moins grande mesure, qui devons participer aujourd’hui à la prise de décision.

Les systèmes d’intelligence artificielle sont entraînés avec de grandes quantités d’informations et apprennent à identifier les modèles qu’elles contiennent pour effectuer des tâches.

Les applications semblent infinies et vont de l’aide aux médecins à détecter le cancer du sein jusqu’à décider quoi nous montrer sur les réseaux sociaux ou recommander quoi acheter.

Ce que nous avons vu jusqu’à présent n’est que la pointe de l’iceberg ; Cependant, à presque chaque étape, outre les prodiges, les dangers ont été évidents, ainsi que la difficulté de les combattre.

Prenez l’IA générative – qui, comme ChatGPT et DALL-E, génère du texte ou des images qui semblent avoir été créées par des humains – elle compte une légion d’adeptes.

Mais parmi eux se trouvent des créateurs de contenus pédopornographiques qui multiplient leurs profits sans que les autorités puissent y faire grand-chose.

Une conséquence imprévue ?

Peut-être, mais la question est de savoir de quelle sorte, car que ce soit par erreur ou par besoin impérieux d’intérêt, elles sont difficiles à excuser.

C’est pourquoi, même si les progrès récents de l’IA ont été salués comme révolutionnaires, même de grands noms comme Elon Musk ont ​​préconisé une pause dans son développement.

Des craintes similaires ont conduit deux des trois scientifiques connus comme les parrains de l’IA pour leurs recherches pionnières, Geoffrey Hinton et Yoshua Bengio, à s’exprimer à ce sujet.

Stilgoe, qui, en tant que chercheur à la RAI, se concentre sur la manière dont nous devrions façonner le développement de l’IA pour le bénéfice des personnes, des communautés et de la société, s’inquiète de « l’intérêt de ceux qui développent la technologie à ne pas en anticiper les conséquences ».

Dans leur quête de monétisation de leurs créations, « les gens de l’IA développent leurs systèmes et les diffusent dans le monde, et c’est ensuite à la société d’en déterminer les conséquences et d’y faire face.

 » Il existe une asymétrie massive car nous laissons les innovateurs libres de toute responsabilité . « 

Le sociologue affirme qu’il existe des cas dans lesquels l’IA présente clairement des avantages, mais il estime qu’elle doit être développée dans le contexte d’institutions fiables, qui s’intéressent « non seulement à ce qui est bon pour un individu mais pour la société en général ».

Ainsi, il y aura des chances que « l’IA soit non seulement efficace, mais aussi équitable » .

Eh bien, comme Platon nous l’a prévenu à propos de l’écriture, toute technologie, aussi merveilleuse soit-elle, a ses défauts.