Un appel du pape Léon XIV pour réguler l'IA et éviter son emprise sur l'humanité

Quel que soit le sujet abordé, qu'il s'agisse d'écologie, de crises multilatérales ou de monopoles économiques : dans Magnifica Humanitas (Humanité magnifique), un texte de 130 pages d'une grande résonance sociale, le pape américain Léon XIV prend position sur de nombreux défis contemporains.

Dans cette encyclique très attendue — une lettre présidentielle destinée à toute la communauté de fidèles —, le pape américain invite à transcender le principe de « guerre juste », souvent mobilisé par l'administration de Donald Trump. Il critique également la tendance à déléguer les décisions létales à des algorithmes.

Le pape a lui-même assisté à la présentation du document, une première, aux côtés de dignitaires du Saint-Siège et d'experts en IA, tel que Christopher Olah, cofondateur d'Anthropic, une start-up d'IA. « L'IA ne peut être réputée moralement neutre », affirme-t-il, plaidant pour un « désarmement » de cette technologie afin « d'empêcher qu'elle domine l'humain ». La nécessité d'un code éthique universel et d'une éducation centrée sur les risques liés à l'IA est au cœur de son discours.

Le pape observe que « le contrôle des plateformes, des infrastructures, des données et des capacités de calcul n'appartient pas aux États mais à quelques géants économiques et technologiques », qui définissent les règles de l'engagement et de l'accès.

« Les nouvelles formes d’esclavage »

Des études de l'ONU prévoient que l'IA pourrait générer jusqu'à 4 800 milliards de dollars d'ici 2033, un gain immense concentré entre les mains de quelques entités. En 2025, l'organe des Nations Unies avait déjà exprimé des préoccupations quant à un « vide dangereux » en matière de réglementation.

Le pape cite des figures comme Platon et J.R.R. Tolkien afin d'illustrer son propos sur la lutte contre la déshumanisation. Il évoque également « les nouvelles formes d'esclavage » engendrées par l'IA, appelant à des solutions technologiques durables réduisant l'impact environnemental. « Dans de nombreuses régions, des enfants travaillent dans des conditions périlleuses pour produire les matériaux utilisés dans la technologie de l'IA », dénonce-t-il.

Il s'excuse même pour la lenteur avec laquelle l'Église a rectifié son approche face au fléau de l'esclavage dans le passé, reconnaissant un rôle majeur dans sa légitimation.

Au-delà des questions éthiques, il alerte sur une réaction de « déshumanisation », en s'inquiétant d'une vision qui réduit l'humain à des chiffres et des performances. Depuis son élection, il a multiplié les déclarations alertant sur les dangers que pose l'IA, soulignant l'urgence d'une « alphabétisation numérique ».

Les experts estiment que l'impact de Magnifica Humanitas pourrait se révéler aussi significatif que celui de l'encyclique Laudato si', qui avait provoqué une onde de choc mondiale à sa parution en 2015.

Crise du multilatéralisme

Concernant la crise actuelle du multilatéralisme, le pape en profite pour renouveler sa ferme opposition à l'utilisation de l'IA dans les secteurs militaires. « Aucun algorithme ne peut justifier la guerre », précise-t-il. Il encourage à s'éloigner des justifications utilisées pour mener des conflits, une position particulièrement prononcée face à la normalisation de la guerre en tant qu'outil de politique internationale.

Ce manifeste résonne comme une continuité de l'enseignement social de l'Église. Il a été signé le 15 mai, coïncidant avec le 135^e anniversaire de Rerum Novarum, un texte pionnier sur les droits des travailleurs lors de la révolution industrielle. Lors de la conférence de presse, le pape a partagé que ce document est le fruit de nombreuses discussions avec des scientifiques et des responsables politiques préoccupés pour les générations futures : « Il est nécessaire que plus d'acteurs — communautés religieuses, société civile, chercheurs, gouvernements — prennent cela au sérieux et orientent notre trajectoire vers un avenir meilleur », a ajouté Christopher Olah.