Une machine va-t-elle décider qui doit vivre ?

LE RADIO DON RCF, DU 19 AU 25 NOVEMBRE 2018 - Chaque année, RCF vous propose de vivre une semaine exceptionnelle à nos côtés, une semaine de mobilisation pour votre radio chrétienne. Saviez-vous que seulement un auditeur sur 10 donne à RCF ? Votre don est essentiel, nous comptons sur votre générosité. Merci pour votre soutien ! 
> Je soutiens RCF

Peut-on tuer un vieillard pour sauver un enfant ? ou toutes les vies sont-elles équivalentes, sans considération d’âge, de santé, de condition ? Ces questions glaçantes que se posent depuis toujours juristes, philosophes, assureurs, médecins et militaires. Mais désormais il s’agit d’autre chose.

« Jamais dans l’histoire de l’humanité nous n’avons autorisé une machine à décider seule qui doit vivre qui doit mourir, sans supervision humaine, en temps réel. Nous allons franchir cette barrière, pas sur un lointain champ de bataille, mais dans des aspects les plus banals de notre vie, le transport quotidien. » C’est ainsi que s’exprimaient récemment des scientifiques français et américains, psychologues et anthropologues, spécialistes de l’IA. Ils travaillent sur la voiture autonome. Avant d’autoriser nos voitures à prendre des décisions « éthiques », il importe, disent-ils « que nous ayons une conversation globale pour exprimer nos préférences aux entreprises qui concevront ces algorithmes moraux et aux responsables politiques qui vont les réguler. »

Voilà une « conversation » qui me fait froid dans le dos !

Des études ont été réalisées en 2016 dans plus de 230 pays, avec un nombre de réponses très conséquentes de 100 à plus de 100.000 personnes. Ces études à très grande échelle montrent que trois positions se détachent, dans cette « fameuse conversation » : épargner le plus grand nombre, privilégier les humains sur les animaux et sauver les enfants ! Mais quelle incidence s’il s’agit d’une femme enceinte ? Ou d’un sans-abri ? ou de quelqu’un d’une autre couleur que la mienne ? Questions vertigineuses.
 
Bien sûr, les voitures autonomes sont conçues pour éviter de se mettre en danger et donc que ces scénarios seront rares. Mais est-ce là le monde que nous voulons ? Ou l’éthique, la vie juste, implique-t-elle qu’en conscience chacun agisse, y compris quand le choix est infernal, face à la situation dramatique où il se trouverait. Et qu’il en assume pleinement la responsabilité.