"Il faut désarmer l'IA", déclare le pape Léon XIV

"La révolution numérique est en train de modifier la grammaire des conflits." Le Saint-Père affirme par là que la guerre revêt désormais des formes "hybrides", faites de cyberattaques, de campagnes d’influence ou de l’utilisation des drones.

Les guerres et l’IA

"Le pape a écouté et consulté de nombreux spécialistes pour écrire cette encyclique", explique Sœur Nathalie Becquart. Dans les nombreux conflits qui sévissent sur différents continents, ce sont des drones qui bombardent, attaquent, surveillent. Elle s’éloigne, l’époque où les combats se font au corps-à-corps, où on distingue encore le visage de l’adversaire. Grâce aux informations procurées par des professionnels, le pape peut mettre en lumière le fait qu’actuellement, "l'une des principales utilisations de l'IA se fait dans un contexte de guerre". Là réside tout l’enjeu de son appel à "désarmer l’IA" : cet outil ne peut être utilisé qu’à des fins militaires. Il est nécessaire que l’intelligence artificielle puisse pleinement "servir le bien commun" et être "accessible à tous".

Plus que jamais, il est important de réaffirmer le dépassement de la théorie de la "guerre juste" trop souvent invoquée pour justifier n’importe quelle guerre. 

"Désarmer l’IA n’est pas une formule poétique mais politique", affirme Clara Chappaz. S’alignant sur les propos tenus par le pape dans son encyclique, l’ancienne ministre est persuadée que notre responsabilité est de "travailler ensemble pour utiliser l’IA correctement".

L’IA ne soustrait pas le conflit à son inhumanité intrinsèque : elle ne peut que le rendre plus rapide et impersonnel. 

Une responsabilité partagée

Dans son encyclique, Léon XIV évoque le caractère central de la "responsabilité personnelle". Dans un contexte de conflit armé, si "la décision de frapper devient automatique ou opaque", alors "le risque de déresponsabilisation augmente". C’est la raison pour laquelle la chaîne des responsabilités "doit rester identifiable et vérifiable". Si la décision de déclencher un bombardement est prise par une intelligence artificielle, qui pourra en rendre compte ? Le pape affirme que le recours à la force létale "ne peut être déléguée à des processus opaques ou automatisés", mais doit rester "sous le contrôle effectif, conscient et responsable d’un être humain". 

Les utilisateurs ne sont pas les seuls responsables. Les développeurs des intelligences artificielles sont aussi concernés. Jusque dans "la conception et les modèles qui guident" de ces outils, il est nécessaire de s'interroger. Il invite les développeurs à "traiter avec sérieux les valeurs qu’ils insufflent à leurs projets", rappelant qu’ils ont une "responsabilité éthique et spirituelle particulière". La responsabilité des dirigeants politiques est également mentionnée. Puisqu’une IA "plus morale ne sert à rien si cette morale est décidée par une poignée de personnes", des mesures législatives sont nécessaires. Elles doivent être "capable de ralentir là où tout s’accélère" et "protéger les espaces où les communautés" pouvant encore mener des réflexions. Pour que l’IA respecte la dignité humaine et serve véritablement le bien commun, il est essentiel que les responsabilités soient clairement définies à chaque étape.