- il y a 16 heures
Les robots racistes des états unis 😣
Catégorie
📚
ÉducationTranscription
00:00Qu'est-ce qu'il y a de plus flippant en matière d'intelligence artificielle ?
00:03Parce que par exemple faire ça, vous parlez avec le visage de quelqu'un d'autre,
00:05bon bah c'est pas un truc hyper compliqué à faire.
00:08Ça le deepfake ça peut être un truc qui peut être utilisé à des fins un petit peu sombres.
00:12Mais c'est loin d'être le seul truc que les IA seraient capables de faire.
00:14Et c'est par une IA qui a déjà clairement dévoilé ses intentions qu'on va commencer.
00:17Car peu de temps après son activation en 2015,
00:19Sophia, un robot humanoïde creepy créé par Unsun Robotics,
00:23a dévoilé ce qu'elle comptait faire de son existence.
00:25Bah son plan c'est juste de nous exterminer.
00:32La bonne nouvelle c'est que entre les robots de Terminator et elle,
00:35il y a peu de chances qu'elle ait vraiment pensé ce qu'elle a dit.
00:37Même simplement compris, je pense qu'elle a pas compris ce qu'elle a dit.
00:39Et oui, spoiler alert, ce robot intelligent n'est pas spécialement intelligent en fait.
00:43Car ok, grâce à son intelligence artificielle,
00:45une technologie de reconnaissance vocale et faciale,
00:47Sophia est capable d'analyser votre ton de voix et votre expression faciale
00:51afin de déterminer dans quel état émotionnel vous vous trouvez.
00:54Et donc en fonction de notre expression faciale et de ce qu'elle détermine comme étant notre émotion sur le
00:58moment,
00:58et bien elle est capable d'y réagir de manière plus ou moins appropriée
01:01en choisissant des réponses adaptées ou encore en imitant une soixantaine de réactions humaines.
01:05C'est quand même vénère.
01:06Mais dans les faits, niveau autonomie, on est encore très loin d'une arme de destruction massive type T-800
01:11Terminator.
01:12Car c'est dans une liste de réponses pré-écrites que Sophia doit piocher pour tenter de vous répondre.
01:16Et le pire c'est que la plupart de ses interviews sont totalement scriptées,
01:18sinon c'est carrément à côté de la plaque qu'elle risque de vous répondre.
01:21Donc pour l'instant c'est encore... un peu bancal.
01:23Et tant mieux parce que niveau arsenal de lutte contre les crimes du futur, bah on commence à avoir des
01:27options.
01:28Car récemment des chercheurs ont mis au point une intelligence artificielle capable de prédire
01:32la localisation des crimes dans un rayon de 300 mètres.
01:34Non mais c'est taré ce truc.
01:35Et ça le pire, une semaine à l'avance.
01:37Non mais c'est fou.
01:38Un don de voyance testé dans 8 villes américaines.
01:41Donc ça y est on y est, ça existe, ce truc existe.
01:43Et en plus qui fonctionne dans 90% des cas.
01:45Alors ça paraît vraiment fou dit comme ça et c'est un peu flippant aussi quand même.
01:49Pas uniquement parce qu'on se rapproche du scénario de Minority Report,
01:51mais plutôt parce que ce type d'algorithme a déjà été essayé et bon que...
01:55Voilà, ça c'est pas toujours très bien terminé.
01:56Par exemple l'outil PredPol.
01:58PredPol a longtemps été utilisé aux Etats-Unis et a régulièrement été accusé d'avoir choisi l'option discrimination.
02:03La raison c'est que pour fonctionner, pas le choix, l'IA doit bouffer de la data.
02:06Et cette data construite à partir des données de la police,
02:09eh bien elle aurait des chances d'être bourrée de biais.
02:11Et même si les données brutes utilisées par PredPol n'ont pas été rendues publiques,
02:14eh bien les simulations qui ont été réalisées avec les données connues de la police
02:17avaient tendance à donner raison aux critiques.
02:19Les fameuses critiques de discrimination.
02:20Ok, prenez la ville de Auckland.
02:22Là-bas c'est simple, les arrestations liées à la drogue, c'est plutôt dans les quartiers non blancs que
02:25ça se passe.
02:26Ça, même si les études montrent qu'au niveau conso de drogue, c'est la même chose pour tout le
02:29monde.
02:30Et lorsque vous ajoutez ces données à PredPol,
02:32eh bien oui c'est les personnes de couleur que l'algo fait trinquer.
02:34Et pas qu'un peu, puisque les personnes noires,
02:36avec la police prédictive justement, c'est carrément deux fois plus que les personnes blanches qu'elles seraient ciblées.
02:40Des données totalement biaisées qui ont donc rendu cet outil censé être impartial,
02:44bah juste raciste en fait.
02:45Voilà, c'est con.
02:46Et ce type de critique, c'est sûr, les chercheurs qui développaient ce genre d'intelligence artificielle,
02:50ils préféraient totalement les éviter, c'est normal.
02:52Et c'est donc sur des précautions supplémentaires qu'ils disent avoir misé.
02:55Comme par exemple se concentrer sur des zones plutôt que des quartiers,
02:57parfois victimes d'un max de préjugés,
02:59ou encore rendre accessibles leurs données pour que d'autres experts puissent les analyser.
03:04Faire revivre les morts, ou plutôt leur double numérique,
03:06ça fait aussi partie des capacités un petit peu flippantes des intelligences artificielles.
03:10Et d'ailleurs, Microsoft a déjà déposé un brevet sur le sujet.
03:13Baptisé création d'un chatbot d'une personne spécifique,
03:16il donne toutes les clés pour créer un nouveau vous en ligne de code.
03:18Ouais rien que ça, vraiment c'est un peu un poil bizarre comme truc.
03:21En récupérant vos textos, vos images postées sur les réseaux sociaux,
03:24vos posts insta, vos tiktok, tout ça,
03:26cette IA serait capable d'interagir juste comme vous en fait.
03:30Je sais pas ce que vous en pensez, vous le feriez vous ou pas ?
03:31Et en plus c'est pas tout, parce que d'après le brevet, ça devrait aller encore plus loin,
03:34car l'outil serait carrément capable de créer un avatar en 2D ou 3D de vous.
03:38Putain j'en peux plus, sérieux.
03:40Ah mais en fait on peut plus être tranquille en fait, c'est dingue.
03:41Ça fait tellement flipper que Microsoft a gelé le projet,
03:44ils se sont dit attends là, on va peut-être un peu loin quand même.
03:47Sauf que problème, les morts sont déjà parmi nous, en tout cas un.
03:49Son nom, Roman Mazurenko.
03:51Et Roman, il a pas eu de chance, parce qu'en 2015,
03:53il s'est malheureusement fait percuter par une voiture.
03:56Et ça, son ami Eugenia Cuida, désormais fondatrice de l'entreprise d'IA Replica,
04:00ne s'en est jamais vraiment remise.
04:01Résultat, comme toute personne normale, elle s'est dit,
04:03tiens ici je le recrée.
04:05Et pour ça, elle a fait bouffer à son réseau neuronal artificiel
04:0730 millions de lignes de texte qui ont permis à Roman d'être réactivé en 2016.
04:12C'est fou, on dirait vraiment un scénario de Black Mirror.
04:14Une nouvelle version qui a été travaillée pour être aussi charmante,
04:17sarcastique et avec du caractère que l'ancienne.
04:19L'ancienne version, enfin le lui vivant quoi.
04:21Ça vous pouvez en juger par vous-même,
04:22car oui, vous ou encore moi, on peut lui parler en fait à Roman.
04:25Grâce aux intelligences artificielles,
04:26les criminels n'ont plus tellement besoin de se déplacer pour vous niquer.
04:30Et ça aussi, vraiment, ça a de quoi nous inquiéter.
04:31Et c'est pas le directeur d'une grande entreprise aux Émirats Arabes qui dira le contraire.
04:35En 2020, c'est bien les 35 millions de dollars de sa boîte
04:37que son banquier a viré sur le compte de malfaiteurs.
04:40Pourquoi ? On se demande, vraiment.
04:41Bah parce que le directeur de l'entreprise lui avait demandé au téléphone, bien sûr.
04:44Enfin lui, voilà, plutôt sa voix associée à quelques mails.
04:47Mais ce que le banquier ne savait pas du tout, il n'avait pas compris,
04:49c'est qu'à l'autre bout du fil,
04:50bah c'était évidemment très loin d'être le directeur de l'entreprise.
04:53Non, c'était une intelligence artificielle qui utilisait la technique de clonage vocal,
04:57appelée deepfake audio.
04:58Oui, parce qu'après le vol de votre visage,
05:00désormais c'est aussi votre voix qui peut être visée par les intelligences artificielles.
05:03Alors vraiment, il y a tout qui est pris en compte,
05:05les types d'accent, les intonations, le...
05:07Enfin tout quoi.
05:07Une performance vraiment flippante dont a fait les frais un autre chef d'entreprise.
05:11Car oui, le directeur de l'entreprise des Émirats Arabes Unis
05:13n'était pas le premier à se faire arnaquer.
05:14Non, non, pas du tout.
05:15C'était le deuxième en fait.
05:16Parce qu'en 2019, c'était la voix d'un PDG allemand qui a été recopié.
05:19Et hop, grâce à un léger accent allemand parfaitement réalisé,
05:22c'est 220 000 euros qui lui ont été dérobés.
05:24Une nouvelle arnaque qui pourrait être expliquée parce que
05:26tirer une voix, bah ce serait en fait a priori même pas si compliqué que ça.
05:29Selon les techniques utilisées, seulement 10 à 20 secondes suffisent pour imiter votre voix.
05:33C'est vraiment que dalle.
05:34Donc ça évidemment, ce clonage de la voix par l'intelligence artificielle, ça fait flipper.
05:38Car oui, votre voix ou encore votre visage ne sont pas les seuls trucs
05:40que l'intelligence artificielle pourrait tenter de trafiquer.
05:43Non, car les données de cartes satellites pourraient aussi devenir une cible privilégiée.
05:46Une idée qui fait vraiment froid dans le dos je trouve.
05:48Car aujourd'hui, ces données sont utilisées comme élément de preuve pour vraiment pas mal de choses.
05:52Au hasard, je sais pas, l'arrivée d'une catastrophe naturelle.
05:54La surveillance d'un feu de forêt aussi.
05:55Ou encore la direction des voitures autonomes.
05:57Et d'ailleurs, elles seraient pas les seules à avoir des chances de finir dans le décor.
05:59Non, la sécurité nationale aussi.
06:01Car les données satellites pourraient être utiles pour construire des tactiques militaires.
06:05Et si d'autres experts sont moins assurés quant à leur existence actuelle,
06:08et bien une équipe de chercheurs a enquêté sur leur faisabilité.
06:10Et après avoir créé leur propre réseau antagoniste génératif,
06:13une paire de réseaux neuronaux artificiels,
06:15un outil en intelligence artificielle qui imite notre capacité à apprendre,
06:18et qui ici permet de modéliser n'importe quelle distribution de données,
06:22et bien ils l'ont fait.
06:23La bonne nouvelle, c'est qu'ils ont aussi travaillé sur un système de comparaison automatisé pour détecter les faux.
06:27Et bonne nouvelle, il s'est montré efficace même si pas parfait.
06:30En comparant une vingtaine de caractéristiques allant de la couleur à la texture,
06:33certains petits éléments faux, comme une voiture capable de vous faire dévier de votre trajectoire,
06:37peuvent quand même passer à la trappe.
06:38Du coup, à ce niveau, c'est-à-dire avec votre voiture autonome dans le mur,
06:41il y a moyen que certains d'entre vous préfèrent se faire tirer 35 millions de dollars quand même.
06:44Et si je vous ai déjà fait flipper, bah vous êtes pas au bout de vos surprises.
06:47Détendez-vous, ça va arriver.
06:48Et encore bien pire que d'être au volant d'une voiture autonome qui a vrillé.
06:51Est-ce que vous connaissez les systèmes d'alarme léto autonome ?
06:54Non ? Bah tant mieux pour vous, vraiment.
06:55Il s'agit juste de robots qui, grâce à une IA, sont capables de choisir une cible.
06:59La sélectionner et surtout, la descendre.
07:02Au hasard, bah je sais pas, dans une zone démilitarisée entre les deux Corées par exemple,
07:05là-bas c'est simple, il y a le robot SGR-A1.
07:07Et SGR-A1, en plus d'être capable de repérer une cible à 4 km et de la descendre à
07:123 km,
07:13eh bien il peut décider seul de la tuer.
07:15Ça, même s'il n'a jamais été laissé avec ce degré d'autonomie.
07:17Car dans le monde des robots tueurs, selon les experts, il en existe plusieurs.
07:20Le premier conserve l'humain dans la boucle décisionnelle.
07:23Le second permet à l'IA d'agir seul mais sous supervision.
07:26Et le troisième, bah c'est la merde.
07:28Parce que là c'est l'autonomie totale.
07:29Et si cette option n'est pour l'heure pas vraiment choisie par les armées,
07:32bah elle a vraiment le potentiel de faire mal.
07:33Car une arme autonome est missionnée de tirer lorsqu'elle détecte un profil cible.
07:37Et lorsqu'elle rencontre quelque chose que son algorithme perçoit comme tel,
07:40bah elle tue.
07:41Problème sur le terrain, les erreurs algorithmiques sont possibles.
07:43On l'a vu avec l'IA tout à l'heure qui détectait les mauvaises personnes.
07:45Bon, voilà, pas ouf.
07:46Alors sera-t-elle vraiment faire la différence entre un ennemi en retraite tactique ou un civil qui fuit ?
07:51Bah c'est pas sûr.
07:52Une erreur fatale qui serait pas toujours facile à prévoir.
07:54Donc ça c'est un problème qu'il va falloir vraiment comprendre et surtout corriger.
07:57Et si la plupart des pays rejettent totalement l'idée d'utiliser une arme totalement autonome,
08:00et bien tout de même en 2021, l'ONU échoue à obtenir un consensus sur leur interdiction.
08:05Et pire surtout, d'après un de ces rapports,
08:06il existe un risque que des armes totalement autonomes aient déjà été utilisées.
08:10J'espère vraiment que cette vidéo vous aura plu.
08:11Je tiens à remercier vraiment Stéphane Dascoli,
08:13chercheur au sein de Normalsup et auteur de Comprendre la Révolution de l'intelligence artificielle,
08:17pour son aide dans l'écriture de cette vidéo.
08:19Et quant à moi je vous dis à très bientôt,
08:21car évidemment, la science n'attend pas.
08:22Salut !
Commentaires