00:00Mais le pape n'a pas dit que ça. Le pape Léon XIV a dit pourquoi l'intelligence artificielle peut
00:06aussi devenir un péché.
00:08Mais oui, mettant ses souliers pontificaux dans les pas de son illustre prédécesseur Léon XIII, dont il a pris un
00:14chiffre, dont il a pris le nom,
00:16Léon XIV, Robert Francis Prévost de son vrai nom, il a un nom français, il est américano-péruvien, son patrony
00:23mais d'origine française,
00:24adresse à l'humanité l'encyclique Magnifica Humanitas.
00:27Cette encyclique n'est pas un rejet de l'IA en bloc, au contraire, le texte répète plusieurs fois que
00:33la technologie peut être une aide précieuse,
00:35mais qu'elle devient dangereuse quand elle échappe à tout contrôle moral, politique ou humain.
00:40Le pape insiste sur le fait que l'IA n'est jamais neutre, elle reflète les intérêts de ceux qui
00:44la financent, l'entraîne et la contrôlent,
00:46car quelques entreprises contrôlent les modèles les plus puissants, elles possèdent les données, les infrastructures et les capacités de calcul,
00:51leur système influence déjà l'information, le travail, la finance, la sécurité ou l'éducation.
00:56On l'a souvent dit, ici.
00:58Autrement dit, si une technologie devient indispensable à la société entière, mais reste gouvernée par un très petit nombre d
01:04'acteurs privés,
01:04ça craint des équilibres démocratiques énormes.
01:06C'est un peu le parallèle moderne avec l'arrivée en industrielle.
01:09Au XIXe siècle, l'encyclique Rerom-Novarom de Léon XIII, dans laquelle l'église s'inquiétait des ouvriers transformés en
01:15rouage économique,
01:16aujourd'hui, c'est Léon XIV qui craint que les humains deviennent des variables dans des systèmes algorithmiques.
01:23Léon XIV redoute qu'une machine puisse imiter l'humain sans comprendre l'humain.
01:28L'encyclique insiste beaucoup sur ce point.
01:30Une IA peut produire du langage, simuler l'empathie, générer des conseils ou des décisions sans conscience,
01:36sans responsabilité morale et sans expérience de vécu.
01:38C'est probablement l'argument philosophique central de ce texte.
01:41Comprendre n'est pas calculer, penser n'est pas prédire, aimer, souffrir, pardonner ou espérer ne sont pas des opérations
01:46statistiques.
01:47Un chatbot peut avoir l'air compatissant sans ressentir quoi que ce soit.
01:51Or, nous avons tendance à anthropomorphiser très vite les machines.
01:54L'évêque de Rome revient sur la dignité du travail.
01:57Sa crainte n'est pas seulement que des emplois vont disparaître.
01:59Il y voit un danger plus profond, surveillance permanente des travailleurs,
02:04automatisation des décisions de la ressource humaine,
02:06pression à s'adapter au rythme des machines,
02:08perd du sens du métier.
02:10En clair, si la logique devient uniquement efficacité et optimisation,
02:13on finit par traiter les personnes comme des composants interchangeables.
02:17C'est une critique classique de la technocratie,
02:19mais l'IA la rend technocratie beaucoup plus puissante
02:22parce qu'elle automatise aussi les décisions intellectuelles.
02:26Le Saint-Père dénonce le fait que l'IA peut rendre la manipulation invisible.
02:30Il parle et de pointer les deep techs, la propagande automatisée,
02:34la personnalisation algorithmique, les contenus générés en masse
02:37et la confusion entre le vrai et le faux.
02:39Une société devient fragile quand plus personne ne sait ce qui est authentique.
02:43Problème spirituel mais aussi politique.
02:45Une démocratie suppose une réalité partagée minimale.
02:48Mais ce qui inquiète encore plus le souverain pontife,
02:50c'est l'autonomie militaire de l'IA, car plus la décision de tuer est automatisée,
02:54plus la responsabilité humaine se dilue, plus la guerre devient abstraite et facile.
02:58L'inquiétude largement partagée au-delà du Vatican,
03:01y compris par des chercheurs en IA et en ONG.
03:04Magnifica Humanitas n'est pas technophobe,
03:07elle ne dit pas revenons avant internet,
03:09mais si la technologie devient plus importante que la personne humaine,
03:12alors quelque chose se dérègle.
03:14Allusion à la tour de Babel,
03:16une civilisation fascinée par sa propre puissance technique,
03:19finit inévitablement par prêtre le sens du bien commun,
03:22il faut parfois écouter ce que le pape a dit.
Commentaires