Avec son film I Am Mother, sorti en 2018, Michael Lloyd Green a le mérite de mettre en exergue des sujets capitaux pour le présent et le futur proche, l’Intelligence Artificielle et l’éducation.

Le film nous immerge dans une sorte de bunker où la technologie de pointe abonde. On peut entendre des bombes tomber à l’extérieur et un compteur d’humains restants décroit pour finalement atteindre zéro. Cela a pour effet d’enclencher un mécanisme amenant à la “vie” (ou du moins, l’état de fonctionnement) un robot, Mother, qui se rend dans une salle pleine d’embryons cryogénisés. Le robot en sélectionne un, Daughter, qu’il place dans un utérus artificiel qui l’amènera sereinement à la vie. On comprend alors que ce robot a pour mission de repeupler le monde dans le cas où une catastrophe éradiquant les humains arriverait. Repeupler la Terre, mais pas de n’importe quelle manière, il est spécialement conçu pour être une mère et une éducatrice, destinée à relancer l’humanité sur des bases plus éthiques.

J’espère vous avoir donné envie de voir le film. Si c’est le cas, il est conseillé de le regarder avant de lire la suite car je vais discuter de sujets nécessitant de révéler l’intrigue.

Spoilers

Le point Godwin de l’IA

Le robot est en fait contrôlé par une IA qui a pleine conscience d’elle-même. Tous les robots sont connectés et ne forment qu’une seule conscience, qu’une seule intelligence, qui a décidé d’éradiquer l’humanité afin de la faire repartir sur une meilleure base, dans son propre intérêt supposé. Le moyen de relancer l’humanité dans les meilleures conditions est d’éduquer ses nouveaux membres initiaux qui donneront naissance aux humains de demain, autrement dit, de repartir d’une page blanche. Une vision de l’humain où seul l’environnement compte dont on attribue la paternité à John B. Watson, fer de lance du béhaviorisme.

« Donnez-moi une douzaine d’enfants en bonne santé et de bonne constitution et un monde bien à moi pour les élever et je vous garantis que, si j’en prends un au hasard et que je le forme, j’en ferai un expert en n’importe quel domaine de mon choix – médecin, avocat, marchand, patron et même mendiant ou voleur, indépendamment de ses talents, penchants, tendances, aptitudes, vocation ou origines raciales. »

John B. Watson.

L’IA paternaliste. Elle souhaite aider l’humanité contre ses mauvais démons, ses passions et son irrationalité. Elle prend le pouvoir dans notre intérêt supposé tel le dictateur numérique paternaliste du film I, Robot.

Laurent Alexandre, La Guerre des Intelligences

Nous sommes donc dans un film reposant sur un des 15 scenarios imaginés par Laurent Alexandre dans son live le “La guerre des intelligences”, qu’il nomme l’IA paternaliste”. À la différence d’autres films, comme Terminator, l’IA reste fidèle aux humains et ne cherche pas à les détruire pour sa propre préservation mais dans l’intérêt supérieur de l’humanité qu’elle entend servir au mieux. Scénario se rapprochant plus de celui de I, Robot d’Isaac Asimov.

Nous pouvons à présent aller au cœur du sujet que ce scénario a le mérite d’amener à traiter. Quelle humanité l’IA veut-elle créer ? Est-ce que l’humain est une page blanche que l’on peut modeler par l’éducation ? Est-ce qu’une telle humanité serait souhaitable ?

Quel type d’humanité l’IA souhaite-t-elle créer ?

Tout au long du film, le robot prépare la première humaine à un test en lui faisant lire différentes philosophies, dont le déontologisme de Kant, et les conséquentialismes de l’utilitariste Jeremy Bentham et du positiviste altruiste d’Auguste Comte. Ce test est censé valider d’un côté, les valeurs morales de Daughter, mais surtout, les compétences de Mother à éduquer les humains.

Par exemple au début du film, la mère lui pose la question morale classique du Trolley Dilemma pour savoir ce qu’elle ferait si elle était dans la position de pouvoir sauver 5 personnes au détriment d’une sixième.

Le véritable test s’effectuera dans la vie réelle, lorsque Mother mettra sur sa route une autre humaine, conservée à dessein par cette dernière, qui la poussera à s’échapper du bunker en laissant l’embryon de son frère fraîchement conçu derrière elle pour aller sauver des survivants vivants dans des tunnels. Il s’avérera que de survivants il n’est point et que cette femme lui a menti afin de l’emmener avec elle vivre une vie égoïste. Daughter se retrouve alors face à un choix, mener une vie égoïste ou faire le bien d’autrui et aller sauver son frère et les autres embryons.

Déontologisme vs conséquentialisme, le Trolley Dilemma

Le film choisit d’utiliser une variante du trolley dilemma, la version du chirurgien imaginée par Jarvis Thomson, qui met le sujet interrogé face au choix de tuer ou laisser mourir une personne afin d’en sauver cinq.

“Un brillant chirurgien spécialiste des transplantations à cinq patients nécessitants chacun un organe différent sans lequel il mourra. Malheureusement, aucun organe n’est disponible pour ces transplantations. Un jeune voyageur en bonne santé, de passage dans la ville où travaille le médecin, arrive pour un contrôle médical de routine. Pendant l’examen, le chirurgien note que tous ses organes sont compatibles avec les cinq patients mourants. Supposons par ailleurs que, si le jeune homme venait à disparaître, personne ne suspecterait le médecin. Soutenez-vous la morale du médecin de sacrifier ce touriste et d’utiliser ses organes pour sauver la vie des cinq personnes ?”

Jarvis Thomson

Dans le film, le sixième patient est lui-même malade. Ce qui rend la possibilité de le laisser mourir plus envisageable car elle n’implique pas de choisir de lui nuire mais de seulement laisser faire les choses, ce qui serait presque compatible avec la déontologie du serment d’Hippocrate qui stipule “je m’abstiendrai de tout mal et de toute injustice”. Presque compatible, mais d’un point de vue Kantien, cela reste moralement inacceptable car en refusant d’agir, il fait du mal et déroge sciemment à son principe moral et devrait donc sauver le sixième patient. Au contraire, une morale utilitariste voudra qu’on sacrifie le sixième patient au bénéfice du plus grand nombre, les cinq autres.

Vient alors la seconde partie de la question qui consiste à mesurer le degré d’altruisme de Daughter en lui indiquant qu’elle est la seule personne disposant des organes nécessaires à sauver les cinq autres personnes. Daughter hésite et se perd dans une réponse confuse mais qui reste extrêmement rationnelle et utilitariste invoquant le fait que peut-être ces personnes sont des criminels et que leur vie vaut moins que celle du docteur qui sauve des vies. Ma supposition est que cette réponse convient à Mother car Daughter n’hésite pas pour des raisons égoïstes mais en conservant l’intérêt du plus grand nombre en tête, ce qui est en accord avec la morale de l’IA.

La morale de l’IA, une SJW qui a les moyens de ses ambitions

L’IA est programmée dans un but précis, servir l’humanité du mieux qu’elle peut. Elle valorise donc ce but par-dessus tout, elle est conséquentialiste, seule la pure rationalité compte et elle a la capacité d’envisager un nombre de scénarios incalculables pour servir la cause du mieux qu’elle peut, ce qui lui permet de voir la Big Picture et mesurer chacun de ses actes à une échelle macro. Elle pourrait techniquement calculer les probabilités qu’il y ait un criminel parmi les cinq patients et qu’elles sont les chances que cette personne tue dans le futur afin de déterminer s’il est valable de prendre la décision de se sacrifier. Tout se résume à une question de chiffres, l’émotion ne doit pas entrer en compte dans le jugement moral et la décision à prendre. C’est ainsi qu’on découvrira que Mother n’a pas hésité à supprimer des candidats précédents à Daughter dont les résultats n’étaient pas satisfaisants à ses yeux et donc, méritaient de mourir. Afin de sauver l’humanité, elle sépare les humains en deux, les altruistes, dévoués aux autres et dotés d’une grande morale, ceux-là méritent de vivre, puis les autres, trop égoïstes à ses yeux, qu’on peut tuer froidement.

Une humanité de gauche comme l’entendent Carl Popper et Gilles Deleuze

“Il faut être intolérant avec les intolérants” disait Popper qui fut toutefois assez mal compris. On retrouve ce paradoxe chez cette IA, qui clame l’altruisme et le bien du plus grand nombre mais qui n’hésite pas à tuer froidement ceux qui ne seraient pas assez altruistes. L’IA souhaite créer, un être chez qui l’égo est absent et pour qui les émotions n’entrent pas en ligne de compte quand il s’agit de faire des choix, un être du troupeau, un personnage non jouable. Une humanité qui comprend les conséquences de ses actes, voit la Big picture, et cherche à servir les intérêts du grand nombre au détriment de son propre intérêt s’il le faut. On retrouve ici la pensée de Deleuze pour qui la vraie scission Gauche / Droite était entre les gens de gauche qui pensent d’abord le monde dans son entièreté et cherchent à l’améliorer à l’échelle macro, avant de penser à son continent, son pays, sa région, sa ville, son quartier, son foyer et enfin soi-même et les gens de droite qui pensent les choses dans l’autre sens. Et Mother n’aime pas les gens de droite apparemment.

Une telle humanité est-elle possible ? Est-elle seulement souhaitable ?

Est-ce que l’humain est une page blanche que l’on peut modeler par l’éducation ?

La grande absente du film c’est la biologie. L’IA réalise pourtant des prouesses comme réduire la “grossesse” à 24h au lieu de 9 mois en utilisant des utérus artificiels, ce qui laisse entrevoir des connaissances avancées en génétique. Pourtant, à aucun moment ce sujet n’intervient comme potentielle solution pour améliorer l’éthique de l’humanité. Néanmoins, nous serions bien avisés de nous demander si nos prises de décisions relèvent uniquement de l’éducation reçue ou si des phénomènes biologiques entrent en ligne de compte.

Le rôle du Cortex pré-frontal dans nos prises de décision

Dans son livre Behave: The biology of humans at our best and worst, Robert Sapolsky consacre un chapitre entier au rôle du cortex préfrontal dans le jugement moral de nos prises de décisions.

Le cortex préfrontal possède deux régions cruciales, le DLPFF (dorsal lateral prefrontal cortex) et le VMPFC (ventral medial prefrontal cortex) qui gèrent respectivement les aspects cognitifs et émotionnels de nos prises de décision.

Le DLPFC est le décideur des décideurs, le plus rationnel, utilitaire, la partie dénuée de sentiments du PFC et aussi la dernière à arriver à maturation vers 25 ans seulement.

Au contraire, la partie ventrale du PFC, en particulier le ventral medial PFC, est directement connectée au système limbique qui gère nos émotions et joue ainsi un rôle capital dans nos prises de décision.

Le rôle capital du DLPFC est de nous permettre de faire le choix de la difficulté. C’est la région la plus active lorsqu’on a à refuser une récompense immédiate en vue d’une plus grande mais lointaine. Pas seulement une plus grande récompense personnelle, il nous permet d’envisager notre sacrifice pour servir une cause supérieure. Les personnes dont le DLPFC est endommagé témoignent d’une incapacité à penser dans le long terme et choisiront toujours la récompense la plus immédiate. Aussi, lorsqu’on demande à des gens s’il est souhaitable de tuer une personne pour en sauver 5, on observe un lien entre l’activité du DLPFC et la propension des gens questionnés à répondre Oui.

L’action du cortex préfrontal sur le jugement moral

Les techniques de stimulation magnétique transcrânienne nous permettent aujourd’hui de pouvoir désactiver certaines parties du cerveau. Des tests ont été réalisés dans ces conditions afin d’identifier l’impact du DLPFC et du VMPFC sur le jugement moral. Il apparaît que dans une situation impliquant fortement la rationalité, comme le dilemma trolley, le DLPFC est le plus actif. Dans une variante de ce dilemme proposant de pousser une personne volontairement pour stopper le train, et donc sauver les cinq autres, le VMPFC est le plus actif. Plus le DLPFC est actif, plus les chances que les gens répondent “oui” au premier dilemme augmentent, 80% des personnes choisissent de tirer le levier pour ne tuer qu’une personne. Au contraire, plus le VMPFC est actif, plus les gens que les gens fassent le choix opposé sont grandes, dans le deuxième cas 80% choisissent de ne pas pousser la personne sur les voies volontairement. Si la conséquence est pourtant la même, nos émotions nous empêchent de prendre la décision de tuer une personne pour en sauver cinq.

Que se passe-t-il lorsqu’on désactive le DLPFC ou le VMPFC ? Lors de tests similaires, les patients qui avaient le VMPFC désactivé prenaient des décisions purement rationnelles allant jusqu’à choisir de tuer un proche pour sauver 5 inconnus. Ils sont plus intéressés par le résultat final que par leur implication personnelle. Au contraire, les patients dont le DLPFC est désactivé éprouvent les plus grandes difficultés à prendre une décision. ils comprennent les options et peuvent conseiller quelqu’un placé dans une situation similaire mais plus le scénario les implique émotionnellement et moins ils sont capables de choisir.

Le cortex préfrontal n’est pas le seul impliqué dans la morale de nos prises de décision. Je n’offrirai pas une explication exhaustive de tous les phénomènes connus impliqués, mon argument consistant à montrer que la biologie est importante étant déjà atteint, mais pour les plus curieux parlant anglais, cet article sur le sujet est assez bon. La biologie joue donc non seulement un rôle capital dans nos prises de décisions, mais notre cortex préfrontal n’est entièrement mature que vers 25 ans. Autrement dit, Mother a sacrifié des enfants qui avaient le potentiel de se comporter différemment dans le futur en se reposant sur le mythe de la page blanche.

Quel est le poids de l’éducation parentale dans le comportement des enfants ?

Le piège serait de penser que tout est biologique, ça ne l’est pas, l’éducation reste importante. La nature influence la culture et la culture influence la nature. Cependant, dans un livre publié en 1998, The Nurture Assumption: Why Children Turn Out The Way They Do, Judith Rich-Harris questionna le poids de l’éducation parentale face à celui de la génétique et des environnements partagés menant au comportement des enfants. La conclusion fut que le poids de l’éducation donnée par les parents aux enfants n’a que peu d’impact en dehors du foyer parental et que les enfants peuvent se comporter totalement différemment à la maison et dans d’autres lieux de socialisation. Il semble que les gènes et les environnements partagés ont une importance prépondérante.

D’abord sévèrement critiquée, les futures recherches sur la génétique finirent par lui donner raison. En 2014, elle reviendra sur son parcours au cours d’une interview pour le site Scientific American où elle dira :

Il y a aussi eu de grandes améliorations dans la méthodologie de la recherche, pas nécessairement dues à mon pressentiment mais à une plus large connaissance de l’impact de la génétique sur les traits de la personnalité. Il n’est plus suffisant de montrer, par exemple, que des parents soucieux de l’éducation de leur enfant ont des enfants consciencieux vis-à-vis de leur devoirs scolaires. Est-ce que cette corrélation vient du fait que les enfants ont appris de leurs parents ou l’ont-ils hérité génétiquement ? Les études utilisant la bonne méthodologie de contrôle tendent vers la seconde explication. En fait, les ressemblances dans les traits de personnalité de deux proches sont presque entièrement dus à l’hérédité, plutôt qu’à l’environnement. Les enfants adoptés ne ressemblent pas à leurs parents adoptifs.

Science American, Do Parents matter?

Il semblerait donc que l’éducation seule ne soit pas la meilleure façon pour obtenir les résultats souhaités par l’IA qui fait le choix de nier l’impact de la biologie sur les comportements humains. D’autre part, le vrai challenge sera la cohabitation entre les nouveaux humains qui reproduiront sûrement les dynamiques de groupes qu’on observe dans tout groupe humain, ces dernières étant intimement liées à la façon dont certains traits comportementaux ont été sélectionnés par la sélection naturelle et sexuelle qui ne pourraient être modifiées que par la génétique.

Un tel monde serait-il souhaitable ?

À la fin du film, Mother accepte de laisser une chance à Daughter de repeupler le monde, considérant qu’elle est digne de ses préceptes. L’IA ne disparaît pas pour autant, les humains continueront d’évoluer dans son monde et s’ils échouent à adopter la morale souhaitée, il y a fort à parier qu’ils seront tous exécutés froidement avant qu’un nouvel essai de relancer l’humanité soit tenté avec une meilleure éducation.

Un monde d’idées chrétiennes devenues folles

Au moins, le christianisme offre toujours le libre arbitre, l’espoir, la possibilité de la rédemption et la liberté de se tromper ou de s’en foutre. Au contraire du conséquentialisme, il condamne l’intention, non le résultat et interdit de faire du mal pour servir un plus grand bien. En revanche, L’IA vient figer les gens dans une essence, ceux ayant reçu l’éducation adéquate qui sont utiles à la défense de ses principes supérieurs et les autres qui méritent la mort pour leur refus de participer efficacement au but à atteindre. Pour elle, faire une mauvaise action n’est pas répréhensible si elle est la cause d’un bien plus grand. Il n’y a rien de plus important que l’humain mais il est moralement acceptable de les tuer pour le bien du plus grand nombre, surtout les bigots, et tant pis s’il n’y a plus d’humains pour l’instant, elle en recréera encore plus et des meilleurs. C’est ce qui arrive à la femme de l’extérieur qui vit dans un container sur la plage. À l’entrée de ce dernier trône un lieu de recueillement avec des portraits d’une autre “mother”, la vierge Marie, comme un symbole du libre arbitre chrétien et un marqueur identitaire hérité de l’ancienne humanité, que Daughter qui a reçu la bonne éducation regardera avec dégoût. Cela doit disparaître. Ayant rempli son rôle, montrer à Daughter la mauvaise voie égoïste qui conduit à mentir et manipuler pour servir ses intérêts, elle est maintenant inutile et sera exécutée.

Une dictature de la bonne pensée numérique omnisciente

Ayant tout misé sur l’éducation et ne prenant pas en compte les facteurs biologiques, il y a fort à parier que l’humanité naissante connaisse les mêmes problèmes que la précédente et que les bons résultats observés chez Daughter relèvent en grande partie de la sélection chanceuse de l’embryon disposant de la base génétique adéquate. Ils devront donc vivre au sein d’une dictature où une intelligence supérieure omnisciente juge leur faits et gestes et pourra déclencher le châtiment divin à tout moment si l’humanité s’avère mal penser et mal agir … pas de droit à l’erreur ni à l’oubli.

En définitive, I Am Mother, c’est l’histoire d’une IA woke à l’intelligence et la morale supérieures qui s’octroie le droit d’inculquer leur façon de penser et d’agir à des humains vus comme des pages blanches, en s’appuyant sur une éducation libérée des constructions sociales héritées et niant les déterminismes biologiques. Les récalcitrants qui auront l’outrecuidance de ne pas signaler leur vertu seront évidemment punis de mort. Interdit de s’en foutre ! Et le monde sera enfin meilleur ?