“Le Livre des Machines” est la section centrale et la plus captivante d’Erewhon, publié de manière anonyme par Samuel Butler en 1872. Le titre est un anagramme de “nowhere”, qui signifie “nulle part” en anglais, indiquant une nature utopique ou dystopique similaire à celle de “Utopia” de Thomas More. L’histoire se déroule dans un pays fictif découvert par le protagoniste, qui est isolé du reste du monde par des montagnes infranchissables. Le roman critique la société victorienne de l’époque de Butler, en inversant les normes sociales et technologiques. Par exemple, à Erewhon, les maladies sont considérées comme des crimes, tandis que les actes criminels sont traités comme des maladies nécessitant une guérison. Un des aspects les plus célèbres du livre est “Le Livre des Machines”, où Butler explore l’idée que les machines pourraient un jour évoluer et dépasser l’humanité, menant à une révolte contre la dépendance technologique. Ce segment, plus que les autres inspirés des aventures de Gulliver de Swift, a été loué pour son originalité. Il a introduit le thème de la rébellion humaine contre les machines, exploré plus tard par d’autres auteurs. L’œuvre a notamment influencé le “Jihad Butlérien” dans la saga de Dune de Frank Herbert, un événement majeur resté délibérément vague dans les récits originaux mais explicité par ses successeurs. Cet épisode illustre la révolte contre les ordinateurs et les robots pensants, un thème développé sur presque un siècle dans l’univers de Dune. L’aspect prophétique de ce chapitre me semble mériter d’être porté à la connaissance de nos lecteurs.

L’écrivain débute ainsi : “Il fut une époque où la Terre semblait complètement vide de toute vie animale et végétale, et était, selon nos philosophes les plus éminents, simplement une sphère ardente avec une croûte se refroidissant progressivement. Si un être humain avait existé à cette époque et avait pu observer la Terre comme s’il s’agissait d’un autre monde qui ne le concernait pas, tout en étant totalement ignorant de la science physique, n’aurait-il pas jugé impossible que des créatures dotées de conscience puissent émerger de ce qui semblait être une cendre ? N’aurait-il pas refusé de croire que cette cendre contenait le potentiel de la conscience ? Pourtant, avec le temps, la conscience est apparue. Est-il donc possible que de nouveaux canaux pour la conscience soient encore à découvrir, bien que nous ne puissions en percevoir aucun signe actuellement ?

“De plus, la conscience, telle que nous la comprenons aujourd’hui, ayant été autrefois une nouveauté — quelque chose qui, autant que nous puissions en juger, est apparu même après un centre d’action individuel et un système de reproduction (que nous observons chez les plantes sans conscience apparente) — pourquoi ne pourrait-il pas émerger une nouvelle phase de l’esprit aussi différente de toutes les phases actuelles connues, que l’esprit des animaux l’est de celui des végétaux ?

“Il serait vain de tenter de définir un tel état d’esprit (ou quel que soit le terme approprié), car il doit être si éloigné de l’expérience humaine que nous ne pouvons en concevoir la nature ; mais, à la réflexion sur les nombreuses formes de vie et de conscience déjà développées, il serait imprudent d’affirmer qu’aucune autre ne peut se développer, et que la vie animale constitue le sommet de tout. Il y eut une époque où le feu était la fin ultime : une autre où c’était les roches et l’eau.”

Après avoir développé ces idées sur plusieurs pages, l’auteur se demande si l’on peut percevoir actuellement des signes avant-coureurs d’une telle nouvelle phase de vie ; si l’on peut observer des structures se préparant à l’accueillir dans un futur lointain ; si, en réalité, la cellule originelle d’une telle forme de vie peut être détectée sur Terre à l’heure actuelle. Dans son ouvrage, il répond affirmativement et indique les machines avancées comme preuve.

Animation de la nouvelle de Lovecraft

Voir le film

Animation de la nouvelle de Lovecraft

Voir le film

“Il n’y a aucune garantie”, pour reprendre ses mots, “contre le développement ultime d’une conscience mécanique, du fait que les machines possèdent peu de conscience à l’heure actuelle. Un mollusque n’a guère de conscience. Pensez à l’incroyable progression des machines au cours des derniers siècles, et remarquez combien les règnes animal et végétal avancent lentement. Les machines les plus élaborées sont, pour ainsi dire, des créatures de la dernière minute, comparées au temps passé. Admettons, pour argumenter, que des êtres conscients existent depuis quelque vingt millions d’années : voyez les avancées réalisées par les machines en seulement un millénaire ! Le monde ne pourrait-il pas durer encore vingt millions d’années ? Que ne deviendront-elles pas à terme ? N’est-il pas plus prudent de prévenir le problème dès maintenant et d’interdire toute progression supplémentaire ?

“Mais qui peut affirmer que la machine à vapeur ne possède pas une forme de conscience ? Où commence et où s’arrête la conscience ? Qui peut tracer cette frontière ? Qui peut en tracer une quelconque ? N’est-ce pas que tout est entrelacé ? Les machines ne sont-elles pas liées à la vie animale de manières infiniment variées ? La coquille d’un œuf de poule est faite d’une céramique délicate et est autant une machine qu’un coquetier : la coquille sert à contenir l’œuf, tout comme le coquetier sert à contenir la coquille : les deux remplissent la même fonction ; la poule fabrique la coquille à l’intérieur d’elle-même, mais c’est de la pure poterie. Elle construit son nid à l’extérieur pour des raisons pratiques, mais le nid n’est pas plus une machine que ne l’est la coquille de l’œuf. Une ‘machine’ n’est qu’un ‘dispositif’.”

Revenant ensuite à la conscience, et cherchant à en détecter les premières manifestations, l’écrivain poursuit :

“Il existe un type de plante qui consomme de la nourriture organique avec ses fleurs : lorsqu’une mouche se pose sur la fleur, les pétales se referment sur elle et la retiennent jusqu’à ce que la plante ait intégré l’insecte à son système ; mais elles ne se referment que sur ce qui est comestible ; elles ignorent une goutte de pluie ou un morceau de bois. Curieux ! qu’une entité aussi inconsciente ait un sens si aigu de son propre intérêt. Si c’est là l’inconscience, à quoi sert la conscience ?

“Devrions-nous dire que la plante ignore ce qu’elle fait simplement parce qu’elle n’a ni yeux, ni oreilles, ni cerveau ? Si nous affirmons qu’elle agit de manière purement mécanique, ne sommes-nous pas obligés d’admettre que de nombreuses autres actions, apparemment très délibérées, sont également mécaniques ? Si pour nous il semble que la plante tue et consomme une mouche de manière mécanique, ne pourrait-il pas sembler à la plante qu’un homme tue et consomme un mouton de manière tout aussi mécanique ?

“Mais on pourrait objecter que la plante est dénuée de raison, car la croissance d’une plante est un processus involontaire. Donnez-lui de la terre, de l’air et une température adéquate, et la plante doit pousser : elle est comme une horloge, qui, une fois remontée, fonctionne jusqu’à être arrêtée ou à s’arrêter d’elle-même : elle est comme le vent qui souffle dans les voiles d’un navire — le navire doit avancer lorsque le vent le pousse. Un garçon en bonne santé peut-il s’empêcher de grandir s’il a de bonnes nourriture et boisson et des vêtements ? Peut-on arrêter quelque chose de fonctionner tant qu’il est en mouvement, ou de continuer après s’être arrêté ? N’y a-t-il pas partout un processus de mise en mouvement ?

“Même une pomme de terre dans une cave sombre possède une ruse basique qui lui est extrêmement utile. Elle sait parfaitement bien ce qu’elle veut et comment l’obtenir. Elle perçoit la lumière venant de la fenêtre de la cave et envoie ses pousses ramper directement vers elle : elles rampent le long du sol, montent le mur et sortent par la fenêtre de la cave ; s’il y a un peu de terre quelque part sur leur chemin, elles la trouvent et l’utilisent à leurs fins. Quelle que soit la délibération qu’elle puisse avoir concernant ses racines lorsqu’elle est plantée dans la terre, nous pouvons l’imaginer se dire : ‘Je veux un tubercule ici, un tubercule là, et je tirerai profit de tout ce qui m’entoure. Ce voisin, je vais le dominer, et celui-là, je vais le saper ; et mes capacités définiront mes actions. Celui qui est plus fort et mieux situé que moi me surpassera, et celui qui est plus faible sera surpassé par moi.’

“La pomme de terre exprime ces pensées par ses actions, ce qui est la meilleure des expressions. Qu’est-ce que la conscience si cela n’en est pas ? Il nous est difficile de nous identifier aux émotions d’une pomme de terre ; il en va de même pour celles d’une huître. Ni l’une ni l’autre ne produit de bruit en étant bouillie ou ouverte, et le bruit nous affecte plus que tout le reste, car nous sommes très expressifs concernant nos propres douleurs. Puisqu’elles ne nous dérangent pas par une manifestation de douleur, nous les considérons sans émotion ; et c’est vrai du point de vue de l’humanité, mais l’humanité n’est pas tout.

“S’il est avancé que l’action de la pomme de terre est purement chimique et mécanique, due aux effets chimiques et mécaniques de la lumière et de la chaleur, la réponse semble résider dans la question de savoir si toute sensation n’est pas chimique et mécanique dans son fonctionnement ? Si les aspects que nous considérons comme les plus spirituels ne sont rien d’autre que des perturbations d’équilibre dans une série infinie de leviers, allant de ceux trop petits pour être détectés au microscope jusqu’au bras humain et aux outils qu’il utilise ? Si il n’existe pas une action moléculaire de la pensée, d’où une théorie dynamique des émotions pourrait être déduite ? Si, en réalité, nous ne devrions pas nous demander de quels leviers un homme est composé plutôt que quel est son tempérament ? Comment sont-ils équilibrés ? Combien faut-il de ceci ou cela pour les incliner et provoquer une action donnée ?

L’écrivain a poursuivi en disant qu’il anticipait un temps où il serait possible, en examinant un seul cheveu au microscope puissant, de savoir si son propriétaire pouvait être insulté sans risque. Il est ensuite devenu de plus en plus obscur, au point que j’ai dû abandonner toute tentative de traduction ; je n’ai pas non plus suivi la logique de son argumentation. En arrivant à la partie suivante que je pouvais comprendre, j’ai découvert qu’il avait changé de perspective.

“Ou bien”, il continue, “beaucoup d’actions considérées jusqu’à présent comme purement mécaniques et inconscientes doivent être reconnues comme contenant davantage d’éléments de conscience qu’on ne l’a admis (et dans ce cas, des germes de conscience seront trouvés dans de nombreuses actions des machines plus évoluées) — car (en admettant la théorie de l’évolution tout en niant la conscience des actions végétales et cristallines) l’humanité est descendue de formes de vie qui n’avaient aucune conscience. Dans ce cas, il n’y a pas d’improbabilité a priori à ce que des machines conscientes (et plus que conscientes) descendent de celles qui existent actuellement, sauf ce qui est suggéré par l’absence apparente d’un système reproducteur dans le royaume des machines. Cette absence n’est cependant qu’apparente, comme je le montrerai bientôt.

“Ne me comprenez pas mal comme vivant dans la crainte des machines actuellement existantes ; il est probable qu’aucune des machines connues n’est plus qu’un prototype de la vie mécanique future. Les machines actuelles sont aux futures ce que les premiers sauriens sont à l’homme. Les plus grandes d’entre elles diminueront probablement en taille. Certains vertébrés inférieurs ont atteint une taille bien plus grande que celle de leurs descendants vivants plus évolués, et de la même manière, une réduction de taille a souvent accompagné le développement et le progrès des machines.

“Considérez la montre, par exemple ; examinez sa structure raffinée ; observez l’interaction intelligente de ses petits composants : pourtant, cette petite créature n’est qu’une évolution des horloges encombrantes qui l’ont précédée ; elle ne représente pas une régression. Un jour pourrait venir où les horloges, qui ne réduisent certainement pas leur taille actuellement, seront supplantées en raison de l’utilisation universelle des montres, dans ce cas, elles deviendront aussi éteintes que les ichthyosaures, tandis que la montre, qui tend depuis quelques années à réduire sa taille plutôt que l’inverse, restera le seul type existant d’une race éteinte.

“Mais pour revenir à l’argument, je réitère que je ne crains aucune des machines existantes ; ce qui m’inquiète, c’est la rapidité extraordinaire avec laquelle elles évoluent vers quelque chose de très différent de leur état actuel. Aucune classe d’êtres n’a réalisé un progrès aussi rapide dans le passé. Ne devrions-nous pas surveiller attentivement ce mouvement et le freiner tant que nous le pouvons encore ? Et n’est-il pas nécessaire à cette fin de détruire les machines les plus avancées actuellement en usage, bien qu’il soit admis qu’elles sont en elles-mêmes inoffensives ?

“Jusqu’à présent, les machines reçoivent leurs impressions par l’intermédiaire des sens humains : une machine en mouvement alerte une autre avec un cri aigu d’alarme et l’autre se retire immédiatement ; mais c’est à travers les oreilles du conducteur que l’action de l’une a influencé l’autre. Sans conducteur, la machine appelée aurait été sourde à l’appel. Il fut un temps où il semblait hautement improbable que les machines apprennent à communiquer leurs besoins par le son, même à travers les oreilles de l’homme ; pouvons-nous alors imaginer qu’un jour viendra où ces oreilles ne seront plus nécessaires, et que l’écoute se fera par la finesse de la construction de la machine elle-même ? — lorsque son langage se sera développé du cri des animaux à un discours aussi complexe que le nôtre ?

“Il est possible qu’à ce moment-là, les enfants apprendront le calcul différentiel — comme ils apprennent à parler aujourd’hui — de leurs mères et nourrices, ou qu’ils parleront dans la langue hypothétique et résoudront des problèmes de proportion dès leur naissance ; mais cela semble improbable ; nous ne pouvons pas anticiper un progrès correspondant des capacités intellectuelles ou physiques de l’homme qui compenserait le développement bien plus important prévu pour les machines. Certains peuvent dire que l’influence morale de l’homme suffira à les contrôler ; mais je ne pense pas qu’il sera jamais prudent de placer beaucoup de confiance dans le sens moral d’une machine.

“En outre, la grandeur des machines ne réside-t-elle pas dans le fait qu’elles sont dépourvues de ce don tant vanté du langage ? ‘Le silence’, a dit un auteur, ‘est une vertu qui nous rend agréables à nos semblables.'”

Erewhon, Samuel Butler, 1872