Pourquoi les intelligences artificielles ne seront jamais des intelligences humaines

On se rappelle du test d’Alan Turing, une proposition de test d’intelligence artificielle fondée sur la faculté d’une machine à imiter la conversation humaine. Décrit par Alan Turing en 1950 dans sa publication Computing machinery and intelligence en 1950 dans la revue scientifique « Oxford Journal ». On relira cet article et particulièrement sa partie 7 pour comprendre la puissante visionnaire de ce génie 70 ans plus tôt.

(lire : allan turing learning machines)

Les réflexions qui suivent sont est un peu techniques mais elles permettent de comprendre en quoi les intelligences artificielles en sont pas et ne seront jamais capable de vie humaine. Mon but est une prise de recul par rapport aux généralisations hâtives des discours ambiants qui proclament l’intelligence artificielle ou la Singularité comme une réalité entendue.

 

La thèse de Yuval Noah Harari et de nombreux adeptes de la singularité en Silicon Valley

Pour des gens comme Yuval Noah Harari, auteur du remarquable Sapiens, une brève histoire de l’humanité et de Homos Deus, une brève histoire de l’avenir, l’IA signerait la fin de la petite parenthèse démocratique qui a tenté de créer une société inégalitaire entre classes et races. Une idée qui a pour base l’égalitarisme moderne né au Moyen Age et promu par le christianisme selon Tocqueville.

L’idée de Harari est que certaines nations privilégiées vont pouvoir produire des cerveaux et des corps qui leur permettront de s’imposer pour créer deux classes d’humains. Un bouleversement que certains assimilent à la séparation de deux espèces d’hominidés ceux vivant avec l’IA et se métamorphosant à son contact et, tous les autres… a l’instar ce qui se passa lors de la séparation de la branche Néandertal au profit de Sapiens il y a 660 000 ans.

Pour intéressantes que soient ces réflexions en termes de propédeutique préventive à un futur de probable crise sinon d’apocalypse, les prévisions des adeptes de la Singularité qui nous promettent la suprématie de l’intelligence artificielle sur les intelligences humaines ne sont pas crédibles pour une seule et bonne raison. L’intelligence humaine et l’intelligence artificielle restent et resteront radicalement hétérogènes même si les intelligences humaines cohabiteront avec les intelligences artificielles capable de les décharger de certains processus comme les diagnostic d’images du corps  ou la conduite des voitures.

L’Homéostasie : les bactéries et les sentiments

C’est ce que nous explique Antonio Damasio professeur de neurologie qui dirige le Brain and Creativity Institute, à l’Université de Californie du Sud à Los Angeles, qui utilise les acquis de la neurobiologie, des sciences humaines et de la philosophie. Damasio développe sa pensée dans un livre clé : L’Ordre étrange des choses.

Son observation part des bactéries :

« Ça a été une révélation pour moi de constater qu’il y a chez elles une complexité des comportements, une émotivité, des stratégies. Certaines travaillent très dur, mais il y a des bactéries traîtresses, il y en a qui rusent pour ne rien faire et profiter de ce que font les autres… C’est très beau, très étrange, parce qu’il n’y a aucune possibilité qu’il y ait une pensée chez elles… Il y a chez les bactéries des comportements qui s’apparentent à nos comportements culturels. »

Damasio distingue les émotions et les sentiments comme prise de conscience de l’émotion et affirme que l’intelligence humaine est le fruit des sentiments agissant en permanence avec l’Homéostasie cette force irrépressible, que porte en lui le vivant, œuvre à la continuation de la vie et en régule toutes les manifestations, qu’elles soient biologiques, psychologiques et même sociales.

C’est parce que des êtres humains ont eu pitié d’autres, on voulut ne plus souffrir qu’est née la médecine et non pas comme une science séparée née de l’observation qui se serait ensuite constituée comme médecine. La conscience ne s’origine pas dans des algorithmes (ex : que redécouvre Yann LeCun à la suite de Piaget)  qui n’en sont que la résultante mais dans des sentiments humains, tout comme la culture, l’art ou les religions. Les sentiments, la prise de conscience de soi commandent la biologie et la culture et non l’inverse.

Nous ne sommes donc pas des consciences posées dans la vie biologique qui nous traverse de part en part mais des émetteurs de sentiments :  nous avons peur, faim, mal, nous désirons, recherchons le plaisir, ne voulons pas souffrir et nous ne serions rien si nous n’éprouvions pas ces sentiments. Et c’est cela qui a créé notre algorithmie. Des interactions entre la conscience et L’Homéostasie se dessine le devenir vivant humain.

C’est ce que disait Spinoza sur lequel Damasio a écrit un très bon bouquin : Spinoza avait raison (contre Descartes). Pour Spinoza la joie est l’émotion maitresse.

Entendons-nous bien, il ne s’agit pas pour Damasio de prêcher le retour à un « ordre ancien », celui des grincheux ou des frustrés contre les fantastiques découvertes de l’IA dont les preuves en analyse d’image médical ou pour la conduite des voitures ne sont plus à faire, mais de comprendre ce qu’est l’intelligence humaine. Pour Damasio celle-ci trouve sa source dans les sentiments. Damasio distingue les processus émotionnels des programmes d’actions liés aux affects.

 

L’intelligence artificielle, une généralisation erronée

Pour Damasio l’IA est une des avancées majeures de la science du 20ème siècle est :

« … la découverte que les structures physiques et que la communication des idées pouvaient être assemblées à partir d’algorithmes faisant usage de codes. Au moyen d’un alphabet d’acides nucléiques, le code génétique permet aux organismes vivants d’assembler les éléments de base d’autres organismes vivants et guide ainsi leur développement. »… une découverte transposable au langage, qui montre que de nombreux organismes répondent au séquençage et au codage tout comme l’informatique.

Mais l’assimilation de ce séquençage à la vie elle-même a conduit en neurobiologie comme en Informatique à une généralisation erronée. L’affirmation actuelle de nombreux chercheurs de neurosciences, de biologie ou d’IA que les organismes que nos corps et nos cerveaux sont des algorithmes ne repose en fait pas sur la réalité.

Elle fait fi de l’homéostasie ce « désir non réfléchi et involontaire de persister et d’avancer vers l’avenir » ces « comportements coopératifs couronnés de succès que nous associons (…) à la sagesse humaine », telles les « négociations » que peuvent mener deux bactéries cherchant à occuper la même place.

Il n’y a donc pas de séparation entre la conscience, le biologique et la culture.

« Affirmer que les organismes vivants sont des algorithmes est pour le moins trompeur — et parfaitement erroné. Un algorithme est une formule, une recette, l’énumération d’étapes en vue de l’obtention d’un résultat précis. Les organismes vivants —humains compris — sont construits selon des algorithmes et utilisent des algorithmes pour faire fonctionner leurs mécanismes génétiques. Mais ils ne sont pas en eux-mêmes des algorithmes. Les organismes vivants sont la conséquence de l’activation d’un ensemble d’algorithmes. Ils présentent des propriétés pouvant ou non avoir été spécifiées au sein des algorithmes qui ont présidé à leur construction. Plus important encore, les organismes vivants sont des ensembles de tissus, d’organes et de systèmes, et chacune des cellules qui les composent constitue une entité vivante et vulnérable faite de protéines, de lipides et de codes, ce ne sont pas des lignes de code mais des entités matérielles tangibles ».

Une intelligence développée hors de ce cadre restait donc non humaine car le substrat du développement de l’intelligence humaine, soumis à la thermodynamique et à l’homéostasie, est lié à ces processus biochimiques qui peuvent être partiellement décrits pas des algorithmes mais dont ces algorithmes ne sont que des moyens. Le processus mental est donc une interprétation mentale de ces substrats. On peut donc imaginer une intelligence non-humaine, extra-terrestre, mais il est probable que celle-ci n’aurait rien à voir avec l’intelligence humaine.

L’Intelligence artificielle ne peut donc en aucun cas être l’intelligence émotionnelle telle que nous la connaissons comme humains et se révèle donc partiellement décevante par rapport aux rêves des adeptes de la Singularité, sans même parler d’une conscience de soi…

 

Nous restons imprévisibles

Rien en prouve que des organismes artificiels conçus pour être intelligent puissent produire des sentiments par la seule vertu de leur comportement intelligent. Ils peuvent battre des champions au jeu de Go ou conduire des voitures mais pas produire la fabrique des émotions ou la conscience de soi qui est au cœur de la vie humaine et de sa régulation pour persister dans l’être.

Selon Damasio, « Les valeurs morales découlent de processus de récompense et de punition eux-mêmes gérés par des processus chimiques, viscéraux et neuraux au sein des créatures disposant d’un esprit (…) Se passer du substrat chimique qui permet l’existence de la souffrance (et de ses contraires le plaisir et l’épanouissement) reviendrait à éliminer la base naturelle sur laquelle se base nos valeurs morales », valeurs morales envisagées par Damasio on l’aura compris comme des principes de survie de  l’espèce et de maintien de son existence dans  la vie.

La prévisibilité de algorithmes n’est pas compatible avec les hautes sphères comportementales de l’esprit humain. Chez l’humain l’algorithmie prédictive peut être contrecarrée par une intelligence créatrice dont la machine n’est par définition pas capable. L’histoire des cultures humaines est celle de la résistance aux algorithmes naturels et à leurs prédictions. Des comportements « non programmés ».

Nous restons donc imprévisibles.

 

Répondre

Choisissez une méthode de connexion pour poster votre commentaire:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s