Pourquoi le transhumanisme est-il dangereux ?

« L’augmentation » de l’homme est une réalité, dans quatre champs différents, mais où s’arrête-t-on ?

Tout d’abord, le domaine de la génétique a fait un bond ces dernières années. Le décodage des gènes permet une meilleure compréhension, mais aussi la manipulation, de notre programme génétique – souvent au moment « propice » de la naissance. La thérapie génique peut ensuite se développer tout au long de la vie, puisque notre corps se renouvelle en permanence.

Ensuite, l’axe de la biologie moléculaire. La qualité de notre compréhension de la cellule, les nanotechnologies, nous permettent de faire des réglages fins sur le fonctionnement de cette cellule, voire demain de la réparer, la rendre immortelle, etc. On utilise biologie et chimie pour travailler sur le fonctionnement de la cellule – cellule du corps pour vivre plus longtemps, mais aussi cellule du cerveau pour rendre les gens plus heureux, réfléchir plus vite…

Par ailleurs, les nanotechnologies nous permettent de rajouter, de greffer au corps humain des prothèses de toutes dimensions. Prothèses de remplacement d’abord, mais aussi de fonctionnement, avec des yeux qui voient plus loin, ou des oreilles qui entendent mieux. Après tout, heureusement ! Le danger est dans l’implicite. Il se pourrait que, dans un futur pas si lointain, on réfléchisse à se faire amputer la jambe pour se la faire remplacer par une autre qui ne « tombe jamais en panne ».

Enfin, l’intelligence artificielle. Le scénario rêvé de certains est le suivant : on complète le cerveau avec un petit ordinateur, qui finit en fait par être plus intelligent que nous. Progressivement, on greffe de la mémoire, puis l’ordinateur devient autonome, fait quelques raisonnements et finalement l’essentiel se fait par lui. À la fin, on le débranche – et tout ce que l’on est, est passé de son côté ! Il ne s’agit donc plus d’une augmentation, mais d’un changement plus radical. 

Il y a une différence radicale entre « augmentation » de l’homme et changement de la nature de l’homme, de son espèce – avec la vision « transhumaniste »

Les premiers pas relèvent donc de « l’augmentation ». Les applications thérapeutiques, on le voit, sont d’ailleurs assez convaincantes ! Mais, à l’inverse, dans chacun de ces quatre domaines, on peut aller trop loin en franchissant la barrière de l’espèce. On construit quelque chose qui n’est plus un homme. Finalement, pour la première fois dans l’histoire, le concept d’homme n’est plus intuitif.

Il est très difficile de dire ce qui précisément définit l’humanité. C’est pouquoi, quand un transhumaniste présente un raisonnement simple à coups de rouages, d’engrenages et de ressorts, son adversaire est désemparé. Il y a donc là un principe de précaution à inventer. Le principe de précaution ne porte pas tellement sur les outils ; il doit s’appliquer à la manipulation de la nature et de la dignité même de l’homme. 

Il est d’autant plus nécessaire de prendre conscience du danger du transhumanisme que ce n’est plus aujourd’hui absolument de la science-fiction

Francis Fukuyama dit que le transhumanisme est l’idée la plus dangereuse de l’histoire de l’humanité, parce qu’il est en partie possible. Il s’agit pour l’instant d’expériences difficiles et rares, dans des laboratoires. Le danger n’est donc par imminent, mais les raisons d’avoir peur à moyen terme sont bien réelles. Les nanotechnologies, pour prendre un exemple, peuvent très facilement interagir avec nous. Or notre corps n’est pas équipé pour faire face à des nanorobots à base de DNA : ils ont une capacité à se combiner avec le vivant que l’on ne maîtrise pas.

Il faut aussi prendre conscience que le vivant devient un lieu d’expérimentation intensive. Lors d’une interview avec la CNN dans le haut lieu actuel du transhumanisme, la Singularity University, des scientifiques ont déclaré que tout le monde, bientôt, pourrait bricoler ses propres êtres vivants. Utiliser les mécanismes élémentaires du vivant comme des cubes de Lego, cela s’appelle la robotique nanomoléculaire à base de DNA : on se dit juste que ces molécules qui ont des propriétés amusantes d’auto-assemblage. Le vivant comme terrain de jeu est déjà une réalité.

La machine n’est pas un idéal pour l’homme

L’homme est bien plus qu’une machine. Le robot superperformant, avec des puissances physique, intellectuelle et cognitive, supérieures, n’est donc pas un idéal. Pour un chrétien, c’est évident, car l’homme est créé à l’image de Dieu et on a une aspiration à construire tous ensemble un monde meilleur qui corresponde à la volonté de Dieu. Mais il n’est pas nécessaire de croire en Dieu pour savoir qu’on est construits pour entrer en relation avec les autres.

Faire de nous des souris de laboratoire, c’est considérer que l’homme est devenu un objet fini dont on comprend l’ensemble des rouages – ce qui nous donne toute légitimité pour les prendre et les changer. On revient sur la question fondamentale de l’orgueil. Rien, d’un point de vue de chrétien ou de scientifique, ne permet de le penser, car la capacité de l’homme est quelque chose d’infini.

D’autant plus qu’il ne s’agit pas seulement de dire que nous sommes tels, c’est-à-dire fragiles, par nature. Cela reviendrait à admettre implicitement que notre nature est une faiblesse. Or notre nature est une force. Comme le fait remarquer Xavier Le Pichon, la fragilité – et d’abord la nôtre – est la première caractéristique d’adaptation au changement. Plus le temps passe, plus la science nous apprend que notre faiblesse participe à notre potentiel et à notre côté merveilleux, grandiose. Cela confirme ce que les Béatitudes enseignent aux chrétiens. Nos points de faiblesse sont des portes ouvertes sur la communication avec Dieu.

L’idéal transhumaniste de l’homme qui est très fort et très intelligent n’a plus besoin de Dieu.

Cela va dans le mauvais sens, à savoir celui de l’autosuffisance. Cet homme-là, qui deviendrait extrêmement puissant et intelligent, aurait en fait un potentiel extrêmement plus faible que l’homme faible et limité qui se tourne en premier lieu vers les autres, dans un sens non chrétien, et ensuite vers Dieu, dans un sens chrétien.

Cette espèce de superbe machine est donc finalement une vraie limite à nos ambitions. On le voit de manière très pratique, si l’on prend  la dépression, la tristesse. Une petite pharmacopée pour notre cerveau afin d’éviter la tristesse et le vague à l’âme nous guérirait-elle ? Chacun sait que cette alternance d’exaltations et de moments tristes, dans la complexité de nos émotions, est la base de la puissance créatrice des plus grands poètes, peintres et sculpteurs. Au-delà de l’art, les moments tristes sont un peu comme les nerfs : ils nous sont nécessaires physiquement, pour nous avertir que quelque chose ne va pas bien, pour nous prévenir d’un danger. Il faut distinguer l’insensibilité au danger du danger lui-même. 

L’homme n’est pas non plus un idéal pour la machine – il est nécessaire de garder une bonne séparation des espèces

On rêve de faire des robots qui ressemblent à des hommes à s’y méprendre, mais il faut savoir où les machines sont utiles. Quand il s’agit de porter des poids, de jouer aux échecs, la machine nous a déjà dépassés et c’est très bien. Mais quand il s’agit de nous faire croire avec des simulations que la machine a des émotions, c’est un leurre, et là il y a un danger. La réconciliation passe par une séparation nette des espèces, qu’il faut arriver à conserver pour éviter l’angoisse.

La peur de la mort et la mésestime du corps fondent deux chemins transhumanistes : l’uploading de l’esprit et la quête de l’immortalité

Dans les écrits des transhumanistes, on trouve un vrai mépris du corps. Il nous ralentit, il se décompose. Günther Anders parle même à leur sujet de honte prométhéenne : j’ai honte de la fragilité de mon propre corps devant la perfection des objets que j’ai fabriqués. À partir de là, l’envie se fait sentir de sortir de la condition de corps carboné avec sa chimie organique et toute sa faiblesse, ou de l’améliorer suffisamment – en fait, le bouleverser – pour être immortel. Ce sont deux points de chute qui se rejoignent.

Dans un cas, il s’agit de maîtriser la chimie organique pour devenir immortels par remplacement permanent des éléments défaillants. Dans l’autre, cela va encore un cran plus loin. Ray Kurzweil par exemple imagine que nous mettions notre processus cognitif sur un ordinateur pour vivre mieux. Je me mets sur une machine, je fais une copie exacte du processus cognitif qui est en train de se produire, puis je laisse vivre la copie de façon autonome. C’est très court. 

On ne peut pas ne pas insister sur les limites de ces deux chemins 

À propos de la quête de l’immortalité, d’abord, il est vrai que notre compréhension du vieillissement progresse. Nous allons faire des progrès extraordinaires. Mais dès que l’on prend un peu de recul, on ressent l’extraordinaire complexité qui est encore devant nous. Le fait de voir des parcelles est très différent de la maîtrise de l’ensemble. Ce n’est même pas un problème d’orgueil, mais plus de mésestime de ce qu’est un système complexe et de toutes les relations, car on en est au tout début. Dans chaque cellule par exemple, des centaines de milliards de réactions se produisent chaque seconde.

Dans la vision de l’uploading, d’autre part, le corps n’est qu’un substrat exécutant un processus d’ordre supérieur qui correspond à la fois à la pensée, à la conscience, à la vie. Or ce que nous sommes dépend de notre corps. Si nous nous faisons un corps différent, nous serons des êtres totalement différents. Cette idée que nous ne dépendons pas du substrat est une idée fausse. À titre d’illustration très concrète, on peut penser que, si on arrivait à capturer un processus cognitif et si on le faisait tourner sur un ordinateur – en admettant que l’on ait réussi à capturer un morceau de conscience –, ce morceau d’esprit se retrouvera dans un trou noir et il faut reconnaître qu’il n’est pas très excitant d’imaginer qu’il sera nourri avec des chaînes de télévision.   

À la base même de ces chemins transhumanistes, c’est la conception purement duale du corps et de l’esprit qui ne tient pas

L’interaction entre le corps et l’esprit est fondamentale. Francisco Varela, scientifique bouddhiste, parle même de « corporéité de l’esprit », en expliquant que le processus de cognition ne peut pas être séparé de la perception, de l’expérience que l’on fait. Avec de nombreux autres partisans du concept de l’« énaction » (théorie selon laquelle le connaissant et le connu se déterminent l’un l’autre) ou d’autres scientifiques tels qu’Antonio Damasio, il dénonce l’erreur naïve et fondamentale de  dualité.

Le peu de choses que l’on sait sur le cerveau montre par exemple un vrai continuum. Alain Berthoz, au Collège de France, le montre bien, sur la vision : il y a un continuum entre perception, réflexion et décision. Ce serait très arbitraire de dire que l’œil est une caméra, le nerf optique une fibre, et derrière, la décision. Le traitement de l’information et la décision commencent en réalité très tôt. Bien malin qui pourra saisir ce moment !

Il n’y a quasiment pas de vision de la société dans le transhumanisme

Les transhumanistes sont guidés par deux choses. La peur de la mort – car il faut appeler un chat un chat – et l’obsession de la performance. Dans une vision absolument individualiste de ce que sont l’homme et de la société, la mort est en effet quelque chose d’absolument épouvantable, une espèce de grande obsession. Ces deux objectifs laissent peu de place à une vision altruiste de ce que l’on est.

La vision transhumaniste du bonheur nous coupe des autres  

Larry Page, fondateur et PDG de Google, a donné en 2010 sa définition du bonheur, à la base de la vision transhumaniste. Elle est d’une cohérence parfaite avec le reste de cette approche : il s’agit de maximiser les expériences que l’on a quand on est sur terre ! Raisonnement d’informaticien dans lequel je me reconnais bien. On est dans un espace et il faut maximiser les sensations produites par l’exploration de cet espace. Larry Page voudrait commencer par créer un assistant dans l’exploration, avec un avatar, dans le cloud, qui nous guiderait. À partir du moment où l’on définit ainsi le bonheur et l’idéal humain, on est très susceptible d’apprécier le discours transhumaniste. Si mon bonheur, c’est cent ans d’expérience, mille ans d’expérience seront encore meilleurs.

Mais c’est à l’opposé du bonheur conçu comme relation d’amour qui, je le crois si je suis chrétien, deviendra éternel dans le dessein de Dieu et, si je ne suis pas chrétien, aura au moins créé des choses positives pour les gens que j’aime et pour moi. Il vaut beaucoup mieux avoir cent ans de fragilité et de bonheur que mille ans de vie comme cafetière Nespresso. Ces relations d’amour sont d’autant plus puissantes qu’elles se construisent dans une découverte de l’autre avec ses forces et ses fragilités. En faisant de moi un robot inoxydable, la probabilité que je devienne totalement inapte à créer cette relation d’amour avec l’autre est forte ! Pour Jean-Pierre Dupuy, priver l’homme de sa fragilité et de toute cette conscience de son propre manque qui l’amène vers son Créateur, son épouse ou ses amis, c’est le priver de la vie. La faiblesse et le manque en nous sont un moteur qui nous conduit à construire des choses merveilleuses. Il n’est pas évident que l’homme « augmenté » soit capable de vivre le passage à l’accélérateur ++. 

C’est donc une vision extrêmement réductrice, mais aussi dangereuse car tentante. Elle correspond bien à cette espèce d’illusion postmoderne individualiste d’un homme qui a perdu ses repères. Ce discours touche les gens. Si on a une vision individualiste, on s’y retrouve très vite. Étape par étape, on se sent attiré par cet idéal, dans le pire des cas mortifère. Or c’est quand même l’amour des uns pour les autres qui est l’expérience la plus forte, la source de bonheur la plus palpable pour l’être humain.

La science nous montre que l’homme est un animal relationnel

D’un point de vue scientifique, l’homme a une capacité naturelle, grâce aux neurones-miroirs, à éprouver les émotions de la personne en face de lui. Nous sommes construits ainsi. Nous sommes fabriqués pour aller à la rencontre de l’autre. Il s’agit d’une partie de nos neurones que l’on active pour sentir ce qu’est en train de faire l’autre. Les découvertes des vingt dernières années nous montrent que nous sommes des animaux relationnels. Rien ne me prouve que je conserverai cela dans les manipulations des transhumanistes. Si je crée une nouvelle espèce, vais-je garder cette empathie ? Et une société peut-elle fonctionner sans cette empathie ?

L’empathie naturelle est rompue par la course à l’efficacité, elle-même vectrice d’inégalité dans la société

L’équilibre de la société fonctionne sur une distribution normale de la différence, qui forme un tout que l’on apprend à vivre. Si le progrès transhumaniste se réalisait, comment l’homme ancien pourrait-il vivre en harmonie avec l’homme transhumaniste, qui aurait des capacités tellement supérieures ? Même s’il ne serait pas supérieur en bien des aspects, il faut bien se poser la question de l’inégalité physique que cela introduirait, en raison de l’inégalité d’accès à ces technologies. Parmi les transhumanistes eux-mêmes, certains se posent sérieusement la question. James Hughes va jusqu’à se demander quels mécanismes de redistribution des richesses on pourrait inventer. Mais ça reste largement théorique.

De manière très concrète, la question se pose déjà avec l’arrivée ou le retour très visible de l’eugénisme. Avant d’arriver à faire un homme nouveau, il y a en effet, de manière bien plus concrète, l’utilisation de la génétique, le séquençage et la manipulation génique, ces outils pour sélectionner et améliorer. Les questions éthiques sont fortes. Elles touchent là encore à l’empathie, à la solidarité, à la vie.

L’expérience de la prévision météorologique nous enseigne l’existence de barrières de complexité

Aujourd’hui, la prévision météorologique est un excellent exemple de barrières de complexité, parce que l’on a beaucoup d’expérience dans ce domaine. Il y a quelques décennies, les scientifiques nous promettaient des merveilles, avec la nouvelle puissance de nos ordinateurs. Les progrès ont été fulgurants. Mais on a rapidement compris que les interactions entre les molécules de l’atmosphère étaient tellement complexes que chaque modèle devenait très rapidement un peu faux, puis très faux – par nature ! Finalement, c’est une sorte de théorème d’incomplétude, comme en arithmétique. La maîtrise de la complexité n’est donc pas une question de puissance de calcul. Pour prévoir, il faut être capable de maîtriser la complexité et cette capacité est parfois si proche de zéro qu’il est raisonnable de dire qu’elle est impossible.

D’innombrables barrières de complexité se dressent devant les transhumanistes

Si on regarde un certain nombre d’objectifs transhumanistes, un d’eux est de faire des prothèses ou des nanorobots performants. Sur ce sujet, on peut être optimistes : ce n’est pas de la science-fiction. La prospective peut fonctionner car il n’y a pas de barrières de complexité. De même, faire des machines qui réfléchissent de plus en plus vite et qui manient des quantités d’informations de plus en plus importantes est très possible.  

En revanche, il y a de vraies barrières de complexité dans la correction des mécanismes vitaux des cellules, par exemple. Ce qui peut très bien se passer, c’est que tous les cinq ans on découvrira un nouveau mécanisme de vieillissement. On le bloquera – mais il faudra faire cela pendant des milliers d’années, parce qu’il y aura des milliers de processus différents à découvrir. Chaque changement aura par ailleurs un side effect. Rien ne nous permet aujourd’hui de penser que parmi, tous les futurs possibles, notre futur sera le bon, car les maillons de vieillissement à décortiquer sont innombrables. 

Face à ces barrières de complexité, il est nécessaire d’avoir un esprit critique

Le reproche que l’on peut faire aux transhumanistes qui veulent rendre l’homme immortel, ce n’est donc pas que ce qu’ils disent est impossible, mais qu’ils n’ont aucun regard critique sur la très faible probabilité que ce soit possible. Il est toujours difficile d’être l’apôtre de l’échec, c’est pourquoi cette distinction est importante.

Le séquençage du génome est un bon exemple. Grâce à l’accélération exponentielle des technologies, on a été capable de séquencer le génome beaucoup plus vite que prévu. Bon nombre de généticiens prévoyaient des avancées extraordinaires grâce à ce nouveau champ d’exploration. Puis, entre les années 1990 et maintenant, on a véritablement fait des progrès formidables. Alors, ont-ils eu raison ? Le problème est que si l’on revient en arrière et que l’on regarde tout ce que l’on avait dit que l’on réussirait à concrètement faire comme résultante de ces recherches, on n’a finalement pas réalisé grand-chose. C’est vraiment une question de verre à moitié vide et à moitié plein, car il est vrai que l’on a aujourd’hui une bien meilleure compréhension des gènes – mais cette augmentation elle-même ne se traduit pas forcément par le dépassement de verrous concrets sur telle ou telle maladie.

La thèse de la singularité technologique de Kurzweil est probablement exacte, en ce sens que la puissance de calcul des ordinateurs aura bientôt dépassé celle du cerveau humain. Le problème, d’une part, est qu’une infinité d’enjeux ne relèvent pas de la pure question de puissance de calcul. D’autre part, même une puissance de calcul supérieure à la nôtre sera sans doute encore loin de pouvoir dépasser les barrières de complexité qui se dresseront face à elle.