00:00Anthony Morel, peut-on laisser une machine décider de la vie ou de la mort d'un être humain ?
00:04C'est la question qui se pose ce matin avec ces robots-tueurs qui font l'objet d'un débat
00:08cette semaine à l'ONU.
00:09Des armes intelligentes qui sont capables de choisir leur cible et d'ouvrir le feu sans intervention humaine.
00:15Oui c'est ça, il y a 128 pays qui sont réunis à Genève pour débattre et tenter d'encadrer
00:19ces robots-tueurs.
00:21C'est le terme, j'allais dire terme marketing, le terme médiatique, le terme technique.
00:24Ce sont les SALA, les systèmes d'armes létales autonomes.
00:28En gros c'est l'alliance de systèmes d'armement avec de l'intelligence artificielle.
00:33On a des armes qui sont capables de verrouiller une cible de manière autonome et de prendre la décision de
00:38tirer.
00:39Alors ça prend des formes diverses et variées, certaines d'ailleurs assez effrayantes.
00:43On en voyait quelques-unes pour ceux qui nous regardent à la télé.
00:45On a par exemple des robots-chiens qui sont testés en Chine avec un gros fusil mitrailleur sur le dos
00:50et qui sont capables de poursuivre un être humain et de lui tirer dessus.
00:54Alors il faut encore une autorisation humaine pour l'instant mais on pourrait s'en passer.
00:57Ça c'est utilisé en Ukraine ?
00:58Alors on a par exemple en Ukraine, on a des drones kamikazes qui une fois qu'ils ont décollé
01:04fonctionnent en mode totalement autonome et vont aller s'écraser par exemple sur un camion ennemi.
01:09Et ça c'est testé, alors c'est des drones qui s'appellent les Terminator qui ont été testés
01:13et pour le coup qui fonctionnent déjà effectivement en Ukraine.
01:16On a des chars autonomes aussi qui peuvent fonctionner sans pilote et sans tireur
01:20et c'est eux qui se débrouillent de manière totalement libre ou en tout cas totalement autonome.
01:25Et on peut aussi citer le cas par exemple des tourelles intelligentes
01:28qui sont déployées comme sentinelles à la frontière entre la Corée du Nord et la Corée du Sud
01:32et qui sont capables si par exemple un soldat nord-coréen traverse la frontière
01:36de détecter sa présence, de le verrouiller.
01:39Là encore il faut quand même une autorisation humaine, il faut qu'il y ait un humain qui appuie sur
01:43le bouton
01:43mais en réalité on pourrait très bien s'en passer d'un point de vue technologique.
01:46Alors ça préfigure un peu la guerre du futur, complètement déléguée à des machines
01:50mais ça pose évidemment plein de questions, notamment éthiques, à qui imputer les crimes de guerre par exemple ?
01:54Oui on a des questions qui sont vertigineuses, qui dépassent vraiment le cadre technologique
01:57pour aller vers le champ de la philosophie, de l'éthique, du juridique aussi.
02:01C'est-à-dire si par exemple un de ces robots autonomes, de ces robots tueurs
02:06confond un autobus avec un véhicule militaire et tu des civils, qui est responsable ?
02:11Est-ce que c'est l'entreprise qui a développé l'IA ? Est-ce que c'est des ingénieurs
02:13?
02:13On n'a encore jamais traduit un algorithme dans une cour de justice évidemment.
02:18Si un combattant se rend face à un de ces robots équipés d'armes,
02:22qu'est-ce qui se passe s'il se rend ou s'il est hors de combat ?
02:25Est-ce qu'il tire quand même ou pas ?
02:25Est-ce qu'il tire quand même ?
02:26Normalement le droit international interdit évidemment l'usage de la force nétale dans ces cas-là.
02:30Est-ce que le robot va le comprendre ?
02:31Et puis il y a la question plus globale, est-ce qu'on peut accepter moralement
02:34qu'une machine décide de prendre une vie humaine ?
02:37On est sur un basculement civilisationnel d'une certaine manière.
02:39Alors c'est pour ça que ça fait l'objet d'un débat qui doit potentiellement aboutir sur un traité
02:45à un moment.
02:45Ça va être très compliqué parce que les décisions à l'ONU se prennent par consensus.
02:48Sauf que là vous avez au moins trois gros pays qui sont contre.
02:52Ce sont les Etats-Unis, la Russie et Israël qui sont très avancés en fait sur ces technologies-là.
02:56Les Etats-Unis par exemple avec leur laboratoire, la DARPA qui a d'énormes moyens
03:00et qui travaille assez largement sur ces robots tueurs.
03:05C'est quoi la position de la France dans tout ça ?
03:07Alors ils ont une position, on a une position j'allais dire plus nuancée,
03:12certains diront plus naïve, c'est-à-dire pas question de laisser une machine décider seule
03:16de tuer un être humain.
03:18En revanche, l'IA peut aider à identifier des cibles par exemple
03:21à condition encore une fois de garder un contrôle humain.
03:24Donc ça c'est la doctrine française qui est relayée aussi par des grands industriels de la défense.
03:28Je pense par exemple à Thalès.
03:29C'est vraiment la difficulté de savoir où est-ce qu'on place le curseur
03:32entre la machine qui assiste le soldat et la machine qui décide à sa place.
03:36Mais le risque, c'est vrai, en prenant une position morale trop appuyée,
03:39c'est sans mauvais jeu de mots se tirer une balle dans le pied
03:41parce que si les autres pays eux continuent à travailler sur ces robots,
03:46ces systèmes d'armement autonomes et que nous on ne le fait pas,
03:49en réalité c'est nos troupes qu'on met en difficulté à moyen terme
03:53si on devait se retrouver sur un terrain de guerre dans les années qui viennent.
03:55Bien sûr, il faut poursuivre le programme mais toujours encadré.
03:57C'est un peu l'idée. Merci à vous Anthony Morel.