Isabelle de Gaulmyn | Inquiétude autour de l'IA : relire Léon XIV

Le monde de l’intelligence artificielle a quelque chose d’assez vertigineux. Ceux qui développent les machines les plus puissantes sont aussi ceux qui nous disent aujourd’hui : attention, elles pourraient devenir dangereuses.
Dario Amodei, le patron d’Anthropic, appelle à ralentir la course. Sam Altman, celui d’OpenAI, alerte lui aussi. Des chercheurs démissionnent parce qu’ils jugent les risques trop importants.

Et il faut les écouter. Après tout, ils savent mieux que nous ce qu’ils sont en train de fabriquer.

Ils ont donc raison de s’affoler ?

Oui, mais ne soyons pas naïfs non plus. Ces mêmes hommes dirigent des entreprises engagées dans une compétition féroce. Une course aux meilleurs chercheurs, aux puces, aux centres de données, aux milliards des investisseurs. Avec des valorisations astronomiques et des intérêts financiers considérables.

Autrement dit, ils peuvent être sincèrement inquiets et avoir intérêt à ce que leurs concurrents ralentissent. Car ceux qui ont le pied sur l’accélérateur ne peuvent pas être les seuls à décider quand il faut freiner.

Alors, réguler l’intelligence artificielle, très bien. Mais comment ? L’Europe a commencé à répondre avec son AI Act. Et réguler, cela veut dire des choses très concrètes : imposer des tests de sécurité aux modèles les plus puissants ; obliger les entreprises à signaler les incidents graves ; rendre identifiable un contenu fabriqué par une IA ; exiger de la transparence sur les modèles ; et pouvoir sanctionner.

Réguler ne suffit pas

Comme pour les médicaments ou le nucléaire, on pourrait imaginer une véritable autorité indépendante de sûreté, capable de tester les modèles les plus puissants et d’imposer des mesures correctrices. Car il y a derrière tout cela une question encore plus importante : celle du pouvoir. L’intelligence artificielle demande tellement d’argent, de données et de puissance de calcul que quelques entreprises seulement peuvent aujourd’hui participer à la course de tête.

Et c’est précisément ce que pointe Léon XIV dans son encyclique Magnifica Humanitas. Le pape demande : qui détient cette puissance ? Qui la contrôle ? Et au service de quoi ? Il emploie même une notion assez spectaculaire : il faut, dit-il, « désarmer » l’intelligence artificielle. Non pas arrêter l’innovation. Mais empêcher que la puissance technologique donne, à elle seule, le droit de gouverner.

L’intelligence artificielle ignore les frontières

 Il faut des règles internationales, portées par les États et les institutions internationales, transparentes et soumises au contrôle démocratique. C’est difficile, évidemment : les États-Unis, la Chine et l’Europe sont eux-mêmes engagés dans une compétition technologique.

Mais c’est précisément pour cela que la question est politique. Cela nécessite une prise de conscience au niveau des institutions internationales et des États. Face aux enjeux de l’IA, comme à ceux de la guerre, il faut revenir à des systèmes de régulation des autorités politiques, avec l’ensemble des pays, et qui soient soumis à un contrôle démocratique, et pas seulement au contrôle de la puissance financière…

Car réguler l’intelligence artificielle, ce n’est pas choisir entre le progrès et la peur. C’est décider qui a le droit de fixer les risques que nous sommes collectivement prêts à prendre. Et cela, dans une démocratie, ne peut pas appartenir à ceux qui fabriquent les machines. Désarmer l’IA , c’est « l’empêcher de dominer l’humain » a encore écrit dans son encyclique Léon XIV.