Le concept d’ « explosion de l’intelligence » a été conceptualisé pour la première fois par I.J. Good, en 1965. Il affirme que « la première machine ultra-intelligente est la dernière invention dont l’homme ait besoin, à condition que la machine soit suffisamment docile pour nous dire comment la garder sous contrôle ». Capable de s’auto-améliorer, une telle IA connaîtrait une croissance exponentielle de ses capacités cognitives.

Dans The Coming Technological Singularity, publié en 1993, l’auteur de science-fiction Vernor Vinge invente le concept de singularité technologique.

En 2005, Ray Kurzweil – actuellement directeur de l’ingénierie chez Google – va encore plus loin en étendant la loi de Moore (le doublement de la puissance de calcul des ordinateurs tous les deux ans) à tous les domaines technologiques, en particulier les NBIC (nanotechnologies, biotechnologies, technologies de l’information et sciences cognitives). Il soutient que les humains devraient fusionner avec des IA, afin de participer au processus d’augmentation exponentielle de l’intelligence, censé aboutir à l’avènement d’une entité quasi omnisciente et omnipotente – Dieu.

Kurzweil affirme qu’en « 2029, la première IA passera avec succès le test de Turing [censé prouver l’existence d’une conscience], égalant ainsi l’intelligence humaine.

“J’ai fixé la date de la Singularité pour 2045, date à laquelle nous allons multiplier notre intelligence par un milliard en fusionnant avec l’intelligence artificielle.”

Ray Kurzweil

Selon cette vision messianique laïcisée, si Dieu n’existe pas encore, il adviendra nécessairement. Entre-temps, l’humanité aura été si radicalement transformée qu’elle aura tout simplement cessé d’être.

Cette singularité technologique est-elle inévitable ?

Certains critiques soutiennent que l’intelligence humaine n’a aucune chance d’être égalée par l’IA. Cependant, l’esprit humain n’est qu’un produit de la matière, certes composée d’atomes structurés de façon immensément complexe, mais sans qu’aucun élément surnaturel n’intervienne.

La seule conclusion rationnelle est d’admettre que la conception d’une IA consciente est techniquement réalisable ; la seule objection recevable consistant à souligner que la marche vers la singularité exigera vraisemblablement davantage de temps que ne le prédit Kurzweil – sans doute trop optimiste lorsqu’il prophétise que la création de la première IA consciente surviendra aux alentours de 2029.

Quand bien même la singularité technologique serait réalisable, est-elle pour autant souhaitable ?

Même pour les « Singularitariens », ce n’est pas une question hors de propos : la singularité serait moins une prophétie qu’une perspective probable, toujours susceptible d’être entravée par divers préjugés idéologiques. Pour ses partisans, une telle résistance constituerait un crime contre le sens du progrès.

Nous pouvons néanmoins nous inquiéter des potentiels préjudices induits par la singularité. La conscience est un phénomène encore largement mystérieux et sa présence est difficile à prouver. Aussi, nous n’aurions aucune preuve tangible du caractère conscient de l’IA avec laquelle nous fusionnerons ; le test de Turing étant largement défaillant. Nous pourrions fort bien nous dissoudre dans un réseau d’intelligence purement informatique, se bornant à simuler la conscience.

De plus, le passage à la singularité pourrait être si progressif que nous pourrions ne jamais réaliser que certaines caractéristiques de notre psyché sont en train de s’évanouir à jamais. Cette prise de conscience est susceptible d’être entravée par la formidable puissance de l’intelligence informatique avec laquelle nous serions en train de nous fondre, nous interdisant ainsi de faire marche arrière. Ce serait la fin non seulement de la conscience, mais de l’humanité.

Cependant, le refus de progresser vers la singularité pourrait s’avérer tout aussi risqué, l’auto-limitation de notre développement technologique permettant à des puissances non européennes, telles la Chine et l’Inde, de nous surpasser.

Une fois qu’une entité politique aura atteint la phase post-singularité, qu’est-ce que cela impliquera pour les individus et les entités politiques demeurées dans l’ère de la pré-singularité ? Par définition, les caractéristiques de la période post-singularité sont imprévisibles (le terme même de singularité a été choisi pour signifier le caractère imprévisible des changements induits).

Mais une proposition telle qu’« être dépassé par une autre civilisation » signifiera-t-elle encore quelque chose ? Le scénario d’un État pré-singularité envahi par une entité post-singularité serait d’autant plus improbable que le gain d’un pan de territoire additionnel n’aura plus guère d’importance. Ces deux mondes ne seront liés par aucune forme de concurrence, ni sur le plan politique ni sur le plan économique. Fondamentalement, ils occuperont des espaces-temps étrangers l’un à l’autre. Comme le fait valoir Kurzweil, l’intelligence saturera l’univers entier ; elle ne saurait s’encombrer de considérations matérielles.

Plus intéressant, qu’est-ce que le désir de singularité révèle de la psychologie de ses partisans ?

La première possibilité est qu’ils possèdent un esprit prométhéen voire faustien, compris dans le sens spenglerien de désir de savoir et de pouvoir illimité. Cependant, la nature de la marche vers la singularité pourrait rendre caduque la notion même de lutte pour le dépassement de soi : il nous suffira de permettre à l’information de circuler librement, puis de récolter la moisson technologique cultivée par les IA.

La volonté de se dissoudre dans le Tout peut tout aussi bien être le symptôme d’une haine de soi. Ray Kurzweil considère avec un vif intérêt la possibilité pour quiconque, à l’avenir, de devenir quelqu’un d’autre : changer non seulement son sexe mais sa personnalité. Modifier son identité n’est pas une chose mauvaise en soi, encore moins s’il s’agit de viser une amélioration. En revanche, rompre avec son identité pour s’abandonner à une altérité totale est une forme de trouble mental, assimilable à une tendance suicidaire.

Le transhumanisme des singularitariens est un transhumanisme de la rupture – à l’échelle de l’espèce comme de l’individu. Une approche plus saine de l’évolution de l’identité prendrait la forme d’un transhumanisme de la continuité.

Mais au-delà du dépassement de soi et de la compétition internationale, quel serait l’intérêt d’accélérer le mouvement vers la singularité ?

Tout d’abord, la volonté de se donner tous les moyens de trouver une solution technologique à la mort du système solaire, voire de l’univers, même si la lente agonie de ce dernier ne se produira pas avant des milliards d’années.

Un deuxième argument découle de l’hypothèse selon laquelle la Terre pourrait fort bien être la seule planète à abriter la vie. Même si le nombre de planètes similaires à la Terre situées dans la zone habitable d’étoiles semblables au Soleil est estimé à 40 milliards pour notre seule galaxie – il y a près de 200 milliards de galaxies au sein de l’univers observable – nous ne pouvons recourir à un argument de type probabiliste, faute de disposer d’un élément clé : la probabilité d’apparition de la vie. Or cette probabilité est possiblement largement inférieure au nombre de planètes habitables de notre univers. Aussi, principe de précaution oblige, il nous faudrait accélérer la marche au progrès technologique. A défaut, quelque imprévisible cataclysme risquerait d’annihiler toute vie terrestre sans que nous ne disposions d’aucune contre-mesure technologique adéquate. Notre univers serait alors privé de toute vie, de toute intelligence, et ce potentiellement jusqu’à sa propre mort. Et nous ignorons s’il existe d’autres univers.