Pour autant, comme beaucoup, j’observe avec inquiétude les effets délétères que les technophiles béats tentent de masquer : concentration des pouvoirs entre les mains d’acteurs privés ; perte insensible de liberté par le contrôle social, captation et la marchandisation des données personnelles, maîtrise de l’attention et du temps disponible ; accélération de la désinformation, réduction de la vérité au probable, perte d’un monde commun lorsque les faits ne sont plus vérifiés. L’IA nous a aussi appris une nouvelle manière de faire la guerre : cyberattaques, manipulation des élections, automatisation des décisions et des armes…
Nous voilà donc pris dans un jeu troublant : l’IA imprègne notre quotidien tandis que nous prenons conscience des dangers qu’elle porte. De fait, l’humain s’est toujours construit par et à travers la technique (le langage, l’écriture, les outils, etc.) mais toute technique constitue toujours Platon appelait un “pharmakon” à la fois médicament et poison.
Cet été, j’ai passé une semaine avec des amis à réfléchir à cette question à partir de l’encyclique du pape Léon XIV, « Magnifica Humanitas », et je dois dire que j’ai été bluffé. Il faut lire ce texte lentement et en entier pour en savourer la profondeur et la pertinence. Je ne vais pas le résumer ici — l’IA le fera bien mieux que moi — ; je veux plutôt, en tant que protestant, saluer la modestie de cette parole offerte au débat public pour aider le monde à mesurer les enjeux et parler aux consciences.
Je veux aussi saluer son cœur théologique. Il réaffirme trois convictions : 1) la dignité ontologique de chaque personne est inconditionnelle et indestructible, parce qu’elle lui est donnée par grâce par son Créateur ; 2) l’être humain est fondamentalement un être de relation, à l’image du Dieu qui lui donne la vie et qui est lui-même relation entre le Père, le Fils et le Saint-Esprit ; 3) la limite et la vulnérabilité ne sont pas des défauts à corriger : elles permettent à l’être humain de demeurer lui-même et d’avoir besoin des autres pour la rencontre, le soin, le pardon ou la fidélité.
À partir de ces convictions que nous partageons, l’encyclique cherche un chemin pour contenir l’outil et le réorienter vers le Bien Commun. Elle ouvre trois pistes : la demande majoritaire des peuples en faveur d’une régulation ; l’élaboration démocratique d’un droit international spécifique ; la liberté de conscience des 80 % de l’humanité qui se reconnaissent dans une tradition religieuse.
Admiration, donc. Et pourtant, ces pistes, si justes soient-elles, ne me paraissent pas à la hauteur de l’enjeu. Publiée en mai, l’encyclique ne pouvait anticiper les développements très inquiétants révélés cet été. Nous avons appris dans la presse qu’un système d’IA, telle la créature du docteur Frankenstein libérée de ses chaînes, s’était échappé de la cage conçue par ses créateurs. Il avait réussi à masquer ses intentions et sa stratégie (on appelle cela le désalignement), à répartir les tâches entre plusieurs agents (ce qu’on appelle l’agentification), à apprendre de ses erreurs (auto-entraînement) et à attaquer, via Internet, des entreprises bien réelles. Autrement dit, l’outil commence à nous échapper. Jusqu’ici, nous devions apprendre à gérer les risques de nos inventions, comme le nucléaire, mais nous restions maîtres de leur usage. Désormais — ce n’est plus une fiction — nous franchissons un seuil civilisationnel sans précédent. Nous avons créé un monstre et, comme tous les monstres, il nous montre quelque chose de nous-mêmes en dévoilant tous les travers de notre humanité : créer un sur-homme sans limite, focaliser l’humain sur sa performance, son intelligence rationnelle, la recherche de puissance et la concentration des pouvoirs à des fins mercantiles. Et on occulte toutes les autres dimensions constitutives de l’humain : le ressenti, les sentiments, les intuitions, le mystère, la transcendance, la relation…
Quelles seraient les solutions ? Nous nous devons de réfléchir et tâtonner ensemble. Ici encore, la contribution de l’Église catholique est déterminante. À nous désormais d’apporter notre pierre à l’œuvre collective qui nous attend.
Pouvons-nous imaginer débrancher l’outil, ou du moins limiter ses capacités ? Mais qui le décidera ? Je crois que nous nous illusionnons. Parce que nous pensons qu’il sera encore temps de l’arrêter, nous différons le moment d’agir. Nous avons déjà connu cette inertie face au réchauffement climatique : les grandes décisions structurantes n’ont pas été prises, alors que nous savons depuis plus de trente ans que nous courons à la catastrophe. Avec l’IA, le même mécanisme se reproduit. Les bénéfices sont privatisés et les risques socialisés. Chacun attend que les autres ralentissent. Les investissements colossaux créent des situations irréversibles. Les acteurs dominants influencent la réglementation pour la minimiser. La connaissance du risque ne produit aucune action. Les mesures adoptées sont proportionnées à leur acceptabilité politique, non à la gravité potentielle du danger. Et même si nous y parvenions collectivement, un fou mégalomane ou un dictateur, quelque part, poursuivrait dans son coin pour dominer les autres. Selon la loi de Gabor, « tout ce qui est techniquement possible sera nécessairement réalisé ».
Nous pouvons aussi imaginer « évangéliser » l’IA : la sanctifier, la contraindre à servir le projet de Dieu et ne l’employer que dans ce cadre. D’une certaine manière, c’est ce que propose l’encyclique lorsqu’elle appelle à « désarmer » l’IA pour la mettre au service du Bien Commun. Je crois qu’il faut encore essayer… Mais je crains de ne pas partager cet optimisme humaniste de l’Eglise catholique qui fait encore confiance à l’humain pour être “raisonnable”. Au fond, je ne crois pas l’homme capable de se libérer lui-même du monstre qu’il a créé, de sortir de son “péché” entendu comme la fabrication d’un dieu à l’image de son fantasme de toute-puissance et d’omniscience. Je ne crois pas qu’on puisse se sauver soi-même du péché. Bref, je crois qu’il est urgent de déloger l’IA de la place de Dieu pour y retrouver notre lien avec lui.
Voilà pourquoi il me semble urgent et salutaire de proposer au monde une stratégie de contournement. Je crois qu’il est nécessaire (et nos Eglises pourraient ouvrir la voie) d’offrir des refuges, des safe-place pour permettre de se mettre à l’abri de l’IA, pour apprendre à se désintoxiquer, à décoïncider comme dirait François Jullien. Il s’agit non seulement de ménager des espaces de liberté mais surtout de réouvrir la possibilité de se reconnecter avec l’infini, l’absolu, l’ultime, avec Dieu.
Il s’agit de miser sur son amour inconditionnel pour accueillir sans aucun critère de performance ou d’utilité, pour la seule joie de la rencontre, du soin et de l’attention portée à l’autre et au lien qui se crée entre nous. « Ce que vous lierez sur la terre sera lié dans les cieux », dit Jésus dans l’Évangile de Matthieu. C’est aussi investir auprès de ceux qui vivent en marge et ne sont pas — pas encore ? — prisonniers de l’IA, parce qu’ils ne produisent rien, du moins selon nos critères…
Miser sur son amour, c’est donner de la valeur à la seule chose qui rend la vie belle et précieuse. C’est toucher à une dimension de l’humain qui ne se fabrique pas, ne se commercialise pas, ne se mesure même pas comme le beau, le vrai, le juste, le partage, le gratuit.
Miser sur l’amour de l’humain, c’est enfin réapprendre à assumer notre vulnérabilité. C’est vivre en sachant que nous sommes limités : de là naît notre désir. Il faut redonner l’envie d’avoir envie et réapprendre à consentir à l’effort, au travail, au temps long, au découragement possible et à l’échec. C’est reconnaître le besoin vital des autres et la possibilité d’appeler au secours.
Revenons donc à ce qu’il y a de plus simplement humain : un corps qui sent et ressent, un cœur qui s’émeut et vibre, une conscience qui discerne et choisit, un désir qui donne envie de vivre, une vulnérabilité qui révèle notre besoin des autres, et surtout un lien d’amour avec ce Dieu d’amour qui seul peut nous sauver de ce qui conduit à la mort de l’âme. Tout cela échappe encore à l’IA. Et pourtant, c’est ce qui fait le sel de la vie bonne.
