Dans une récente interview, le physicien théoricien du MIT Max Tegmark parlé à Robert Laurent Kuhn à Plus près de la vérité à propos des « cerveaux transhumains » (20 décembre 2022, 8:43 min) :
Les cerveaux transhumains sont la fusion de l’électronique hyper-avancée et de l’intelligence super-artificielle (IA) avec le tissu neurobiologique. L’objectif n’est pas seulement de réparer les blessures et d’atténuer les maladies, mais aussi d’améliorer les capacités cérébrales et de stimuler les fonctions mentales. Quelle est la grande vision, l’objectif final – jusqu’où les cerveaux transhumains peuvent-ils aller ? Qu’est-ce que cela signifie pour la conscience individuelle et l’identité personnelle ? L’immortalité virtuelle est-elle possible ? Quelle est l’éthique, la morale, des cerveaux transhumains ? Quels sont les dangers ?
Voici une transcription partielle et des commentaires :
Tegmark max : Je pense qu’il est assez clair que l’intelligence artificielle et la quête d’esprits non biologiques toujours plus intelligents vont finalement devenir la meilleure chose qui soit jamais arrivée à l’humanité ou la pire chose qui soit jamais arrivée à l’humanité. Et c’est pourquoi c’est tellement motivant de réfléchir à ces questions maintenant et de réfléchir à ce que nous pouvons faire concrètement pour la rendre bonne parce que tout ce que j’aime dans la civilisation – vous savez, de la capacité de construire de gigantesques pompes à eau à tout le reste est le produit de l’intelligence humaine, n’est-ce pas ? (1:28)
Donc, si nous pouvons amplifier notre intelligence avec divers types d’améliorations de notre cerveau ou de l’intelligence artificielle pure en dehors de notre corps, nous pouvons alors utiliser cette augmentation supplémentaire de l’intelligence pour relever tous les défis les plus difficiles auxquels nous sommes confrontés dans la société d’aujourd’hui. Et vous pouvez créer un avenir où, vraiment, la vie peut s’épanouir comme jamais auparavant. Vous savez, pas seulement pour le prochain cycle électoral, mais pour des milliards d’années. Et pas seulement sur cette planète, mais dans une grande partie de cet incroyable cosmos. (2:03)
Commentaire: Ce ne serait que la meilleure ou la pire chose qui puisse arriver à l’humanité s’il était possible d’augmenter considérablement l’intelligence humaine moyenne ou de créer une intelligence artificielle qui pense comme un être humain. Mais il y a des raisons de croire que ni l’un ni l’autre n’est possible. Les ordinateurs pensent en algorithmes et la créativité, pour prendre un exemple, ce n’est pas une question d’algorithmes. Aussi, pourquoi devrions-nous croire que les humains ou les machines dureront sous leur forme actuelle – ou sous n’importe quelle forme – pendant des milliards d’années, soit individuellement, soit en groupe ?
Tegmark poursuit en disant, assez raisonnablement, qu’il préfère construire des machines super intelligentes plutôt que de bricoler avec des cerveaux humains :
Tegmark max : … Mais je pense aussi qu’il s’avérera à long terme plus facile de construire complètement une intelligence de niveau humain à partir de zéro que cela ne le sera et de comprendre exactement comment fonctionne notre cerveau. Vous savez, tout comme il s’avérerait beaucoup plus facile de construire un avion que de construire un oiseau mécanique. (3:00)
Mais ensuite il entre dans l’évolution :
Tegmark max : Vous savez, fondamentalement, parce que lorsque l’évolution darwinienne développe quelque chose comme le vol ou l’intelligence, elle est contrainte d’être incroyablement économe en énergie, ce dont vous ne vous souciez pas si vous êtes ingénieur. Et il est contraint d’utiliser uniquement les atomes les plus courants du tableau périodique qui sont abondants dans la nature, ce qui, encore une fois, ne vous intéresse pas en tant qu’ingénieur. Et il est surtout limité en ne fabriquant que des choses qui peuvent s’auto-assembler, s’auto-réparer, ce que nos ordinateurs portables ne peuvent pas. C’est vrai, en tant qu’ingénieur, vous préférez plutôt la simplicité, dont l’évolution ne se soucie pas. (4:10)
Commentaire: Notez que Tegmark personnalise les processus d’évolution (par exemple, “ne se soucie pas de”), comme s’il s’agissait d’un être humain pensant dans des circonstances difficiles. C’est peut-être pour cette raison qu’il attribue si facilement l’idée que les machines aussi peuvent avoir une intelligence humaine.
En tout état de cause, il se trompe sur l’évolution préférant la simplicité. Comme Michel Béhé démontré dans Darwin dévolu, les processus d’évolution sont beaucoup plus susceptibles de dégrader une machinerie cellulaire complexe que de la construire, simplement parce que c’est… plus simple. Dévolution, comme on l’appelle, peut être un processus moins médiatisé, mais il est très courant.
Quoi qu’il en soit, même les personnes qui n’ont aucun problème philosophique avec l’évolution commencent à exprimer des doutes sur «l’auto-assemblage», «l’auto-réparation» et tout cela, comme Tegmark les expose avec tant de légèreté. Biologiste des touffes Michel Lévinpar exemple, demande, où l’anatomie est-elle codée dans les systèmes vivants ? (Indice : ce n’est pas un plan.)
Il dit quelque chose de très significatif :
Michel Lévin : … en général, vous savez, les biologistes n’aiment pas penser à des processus dirigés vers des objectifs. L’idée est qu’il est censé y avoir une émergence et une sorte de complexité émergente. Mais cette idée que les choses fonctionnent vers un but comme le fait fondamentalement n’importe quel système de navigation n’est vraiment pas quelque chose de très confortable, certainement, pour la biologie moléculaire. Alors, comment quelque chose comme ça pourrait-il fonctionner? Comment pourrions-nous avoir un système de navigation qui puisse avoir des buts dans l’espace anatomique ? (15:04)
En bref, Levin précise que, selon la théorie, l’évolution est une série impersonnelle de résultats aléatoires dans un monde matériel. Il n’a pas d’objectifs, juste des processus. Mais ce n’est pas ce que les preuves semblent montrer, d’où son malaise face à la théorie.
Lorsque la science n’est pas à l’aise avec les preuves, soit quelque chose ne va pas avec la science, soit quelque chose ne va pas avec les preuves. Une solution consiste à ignorer – ou à déprécier – les preuves. Une autre consiste à faire ce que fait Tegmark : Parlez comme si l’évolution équivaut à un ingénieur pensant mais avec des objectifs différents, tout en l’acceptant comme une série impersonnelle d’issues aléatoires. Cela évite la confrontation avec le dilemme de Levin.
Ce que l’évolution a à voir avec le transhumanisme n’est pas clair ; Les humains concevraient, en théorie, les systèmes transhumains. Mais alors peut-être que Tegmark croit, comme le font certains penseurs, que la conscience humaine est un sous-produit accidentel de l’évolution et un fruit de notre esprit. Dans ce cas, on pourrait dire que l’évolution produit au hasard ce que nous considérons comme notre travail consciemment voulu. Mais Kuhn et Tegmark n’ouvrent pas cette boîte de Pandore.
Plus tard, Tegmark reprend la question des droits de l’IA :
Tegmark max : Si, comme vous l’avez dit, un jour nous avons des esprits artificiels qui peuvent aussi être conscients et peut-être éprouver de la souffrance ou des émotions positives… (6:56)
Robert Laurent Kuhn : Vous ne savez pas que c’est possible. (7:00)
Tegmark max : Nous ne savons pas si c’est possible ou non, mais je pense que c’est du chauvinisme du carbone de prendre comme axiome de dire que vous ne pouvez avoir une expérience subjective que si vous êtes fait d’atomes de carbone ou de viande ou autre et je pense que nous devons… Je veux dire que Churchill a dit que la seule chose que nous avons apprise de l’histoire, c’est que nous n’apprenons rien de l’histoire. Mais j’espère que nous
peut apprendre de l’histoire sur celui-ci parce que nous avons fait exactement cette erreur avec l’esclavage si nous partons, ils ne ressentent pas la douleur ou quoi que ce soit ou les femmes n’ont pas d’âme ou les animaux ne ressentent pas la douleur. (7:32)
Commentaire: Le problème évident ici est que les esclaves, les femmes et les animaux existent et il n’y a aucune raison de douter que les esclaves et les animaux de compagnie ressentent la douleur. S’il existe une doctrine de l’âme selon laquelle les femmes n’ont pas d’âme, il ne peut pas être très répandu. Maintenant, savoir si les animaux invertébrés ressentent la douleur est principalement une question de fonctionnement de la conscience animale. La recherche montre de plus en plus que ils font mais, compte tenu des contraintes de communication, cela n’a jamais été évident.
En revanche, nous n’avons aucune raison de croire que nous pourrons jamais construire des machines qui souffrent comme si elles étaient des formes de vie. Même si nous le pouvions, pourquoi le ferions-nous ? La douleur serait assez facile à omettre.
Ce qui me frappe dans l’approche de Tegmark aux questions, c’est son manque fondamental de sérieux. Le vrai destin de l’IA n’est sûrement pas de devenir des humanoïdes avec des émotions mais de devenir l’arme préférée des totalitaires contre la liberté, la vie privée et la vie personnelle des humains, comme c’est le cas en Chine.
Vous pouvez également lire : Est-ce techniquement un génocide si nous tuons une planète de robots ? Orville Saison 3, épisode 9, présente un appareil de type EMP qui pourrait anéantir le robot Kaylon. Bien que cette histoire ait pu aborder la question de savoir si les robots pourraient un jour être des êtres sensibles, les auteurs ont plutôt choisi de nous faire la leçon sur les préjugés. (Gary Varner)