00:00Est-ce qu'on peut moralement accepter une IA qui préside des crimes comme dans Minority Report ?
00:04En vrai, ça existe déjà depuis longtemps.
00:06En 2011, PredPol a été mis en place aux USA.
00:09C'était un algorithme qui analysait les données des crimes passés
00:11et il identifiait les zones géographiques où les futurs crimes allaient possiblement se produire.
00:15Et ça a marché.
00:16A Los Angeles, entre novembre 2011 et mai 2012,
00:19ça a contribué à diminuer de 33% les agressions et de 21% les crimes violents.
00:24Mais déjà, à ce moment-là, c'était critiqué.
00:26L'algorithme, il n'avait pas été soumis à une étude indépendante.
00:29Il y a eu des détériorations de confiance publique.
00:31Et à long terme, on s'est rendu compte que ce n'était pas aussi efficace que l'on le croyait.
00:35Donc moi, je pose la question.
00:36Qu'est-ce qu'il se passera quand on se basera sur autre chose que les données géographiques des crimes ?
00:40Quand on mettra une IA et qu'on lui demandera de prendre en compte d'autres paramètres,
00:43genre des infos personnelles sur les gens,
00:45leurs recherches Google, leur historique YouTube, leurs messages privés ?
00:49Et il ne faut pas se dire que c'est impossible.
00:50Observer nos messages, ça a été proposé avec ChatControl pour être mis en place dans l'Union Européenne.
00:55Là, si tu ne visualises pas bien le problème que je pose, on va prendre un exemple.
00:58Le comics Civil War 2 de Marvel.
01:00Dans le comics Civil War 2, Ulysse Kane, c'est un inhumain qui arrive à prévoir l'avenir.
01:05À cause de ça, Captain Marvel et Iron Man, ils vont se faire la guerre
01:07car ils ont des visions différentes sur comment l'utiliser.
01:10Ce qu'ils prédit, ça s'avère vrai au début.
01:12Donc on peut lui faire confiance, dit Captain Marvel.
01:14Ulysse, il est aussi défendu par les inhumains.
01:16Vu qu'il en est un, il est protégé par sa communauté.
01:18Mais de l'autre côté, Tony dit qu'il faut se méfier de ses prédictions.
01:22On ne sait pas comment marche son pouvoir de prémonition, on ne sait pas quels paramètres
01:25sont pris en compte et si ça n'est pas influencé par sa vision du monde.
01:28Et argument en sa faveur, Jean Grey, qui a le pouvoir de lire l'esprit des gens, décrit
01:32celui d'Ulysse comme un système fermé.
01:34Et oh bah tiens, ça me rappelle près de Paul, qui n'avait pas été analysé par un organisme
01:38indépendant.
01:39Et le point de Discord, il arrive quand il projette une vision où Hulk élimine les Avengers.
01:43Donc tout le monde va voir Banner, qui ne s'était plus transformé en Hulk depuis
01:46un an car il faisait des expériences sur son corps.
01:49La situation, elle est légèrement tendue quand tout le monde est là.
01:52Et à ce moment-là, Hawkeye l'élimine avec une flèche que Banner lui avait donnée
01:55au cas où il devenait fou.
01:57Et là, gros problème.
01:58On a supprimé la menace et Hulk ne va plus éliminer les Avengers.
02:01Mais ce qui a été montré n'arrivera pas.
02:03Est-ce que c'était vrai du coup ?
02:05Parce que comme ça n'a pas eu lieu, on pourrait dire que sa vision n'était pas vraie
02:08car on ne peut pas prouver que Hulk allait faire ça dans le futur.
02:11Et après ça, Ulysse, il a une autre prédiction.
02:13Et une personne innocente et incriminée.
02:14Un point de plus pour Stark.
02:16Marvel voulait bien faire au début, mais là on ne peut pas trop la défendre.
02:19Et puis arrive l'événement qui va tout changer.
02:21Une vision où Miles Morales tient dans ses bras le corps sans vie de Captain America.
02:25Alors déjà, Steve prouve qu'il est le meilleur de tous.
02:28Il n'en veut pas à Miles et surtout, il ne l'incrimine pas.
02:30Et c'est cette action qui donne tout son sens aux questions éthiques que pose ce comics.
02:34Car c'est vraiment ça les deux questions éthiques à se poser.
02:36Où fixer le curseur d'erreur ?
02:38Et est-ce qu'on peut incriminer quelqu'un avant que le crime soit commis ?
02:42Parce que dans le cas présent, Ulysse est trompé une fois.
02:44Donc il n'est pas fiable à 100%.
02:45Comme Captain America, l'être humain, il est capable d'empathie.
02:48C'est ce qui fait notre humanité et notre plus grande force en vrai.
02:51Mais comme tout être humain, on est aussi biaisé par notre vision du monde.
02:55Les biais cognitifs.
02:56Ça nous empêche d'être complètement objectifs.
02:58Le biais de cadrage ou framing effect par exemple, ça s'applique très bien dans le cas de Miles.
03:02Si je te dis, l'IA prédictive, qui est juste dans 93% des cas, elle dit que Miles a plus de 85% de chances de tuer Captain America.
03:10Tu es plus susceptible de l'accepter et de vouloir l'incriminer que si je disais, l'IA prédictive, qui se trompe dans 7% des cas, dit que Miles a 15% de chances d'être innocent.
03:18Bah là, t'es un peu moins chaud.
03:19Pourtant, les deux options sont exactement les mêmes.
03:22Et on devra toujours laisser l'humain décider.
03:23Et en vrai, tout ce que je viens de dire avant, les biais cognitifs, les erreurs, l'empathie, etc.
03:28Même si c'est extrêmement important et complexe, ça viendra toujours après le plus gros problème à traiter s'il y a prédictive et mise en place.
03:34Et ce problème, c'est l'impact psychologique de cette révélation sur la victime et les gens autour.
03:39Parce que les données d'IA prédictive, on pourrait y accéder.
03:42Ou alors un simple hack et toutes les données seront mises en ligne et visibles par tout le monde.
03:46Et puis on va pas se mentir.
03:47Il y a certains gouvernements, ils hésiteront même pas avant de mettre les données visibles par tout le monde.
03:51Mais en vrai, l'impact de voir unier à dire que tu as X% de chance de commettre un crime, ça peut te détruire psychologiquement.
03:58Morales, il est complètement abattu après cette révélation.
04:01Et je le comprends, comment tu réagis après avoir vécu ça ?
04:03Et ça, c'est sans parler du regard des autres.
04:05Captain Marvel, c'est zéro empathie dans son approche.
04:08Viens mon petit, on va t'enfermer et te mettre dans une cellule pour te protéger.
04:11C'est fait avec de bonnes intentions, mais y'a pas de chaleur humaine, y'a pas de pédagogie.
04:15Et là, je pose la question qui fâche vraiment.
04:17On l'activera à partir de quel âge cet algorithme ?
04:19Il prendra tout ce que tu as fait depuis ta naissance ?
04:21Donc à 9 ans, tu pourrais être arrêté car l'algo, il a dit que t'as 30% de chance de commettre un crime quand t'auras 20 ans ?
04:27Et allez, dernière question, c'est cadeau.
04:29Ça pourrait même être un épisode de Black Mirror.
04:31Dans 20 ans, le prochain dirigeant politique, s'il instaure un pourcentage planché à ne pas dépasser pour accéder à certains emplois, on fera quoi ?
04:38Voilà, avec cette vidéo, j'ai posé pas mal de questions éthiques et techniques par rapport aux IAP prédictives.
04:42Dis-moi ce que t'en penses en commentaire et abonne-toi pour plus de vidéos.
04:45Merci.
04:46Merci.
04:47Merci.
04:48Merci.
04:49Merci.
Commentaires