00:00Tu pourrais bientôt être arrêté pour un crime que tu n'as pas encore commis
00:03et oui ça ressemble à Minority Report mais c'est en train d'arriver, je te raconte.
00:07Aujourd'hui une entreprise baptisée Securus Technology
00:10entraîne une intelligence artificielle à analyser des conversations de détenus dans les prisons américaines.
00:16Son objectif, détecter des crimes avant qu'ils n'arrivent.
00:19Le système est entraîné depuis des années sur des appels de prisonniers
00:23et au passage des milliers d'appels entre détenus et avocats ont déjà été enregistrés illégalement.
00:28Aujourd'hui cette IA est testée pour analyser en temps réel des appels, des vidéos, des messages
00:33pour repérer quand un crime est en train d'être envisagé.
00:36Donc on ne surveille plus ce que tu fais, on surveille ce que tu pourrais faire
00:40mais au-delà des écoutes illégales il y a deux problèmes énormes.
00:44Une intention ce n'est pas un crime, une phrase sortie de son contexte ce n'est pas une preuve
00:49et une IA peut se tromper.
00:50Et maintenant imagine une seconde qu'on pousse ce système plus loin.
00:53Pour qu'il soit efficace à l'échelle d'un pays il faudra analyser beaucoup plus de conversations
00:58peut-être même les tiennes.
00:59Et à partir du moment où une machine commence à analyser tes mots pour deviner tes intentions
01:04le problème ce n'est plus la technologie, c'est la limite qu'on accepte de franchir.
Commentaires