00:00R.M.C. en n'arrête pas le progrès
00:03Bonjour Anthony
00:04Bonjour Charles, bonjour à tous
00:05Il y a encore un peu de temps avant les achats de Noël a priori
00:08mais on va parler des jouets avec toi
00:09il y a une polémique autour d'un petit robot boosté à l'IA
00:12un robot qui parle mais surtout qui écoute un peu trop
00:16C'est ça, est-ce que les jouets sont en train de se transformer en espions ?
00:20c'est la question qu'on peut se poser à travers
00:21vos jouets, ces peluches, ces robots dopés à l'intelligence artificielle
00:25et notamment ce petit robot qui s'appelle Ailico
00:29alors vous allez voir qu'il est absolument mignon
00:31mais d'une mignonnerie absolue
00:33c'est-à-dire qu'il a une très bonne bouille
00:34on dirait qu'il est tiré d'un dessin animé
00:37il a vraiment des petites mimiques comme ça
00:39et en fait ce robot il a été conçu pour pouvoir interagir avec les enfants
00:43donc il y a une IA à l'intérieur
00:44il peut comprendre ce qu'on lui dit
00:46donc l'enfant lui parle, il va lui répondre
00:48il va changer de visage
00:50il va répondre différemment quand on le touche
00:53alors c'est un peu comme un Tamagotchi
00:54on peut se souvenir des Tamagotchi
00:56un Tamagotchi 3.0
00:57voilà, bien plus évolué évidemment
00:59mais le truc c'est qu'il y a vraiment cette interaction
01:01alors vraiment ça donne envie de l'acheter
01:02d'ailleurs il est commercialisé, je sais moi aussi
01:04il est commercialisé en France, tu peux le trouver
01:06alors tu en veux un
01:07sauf quand je vais t'apprendre que ce robot
01:10le gros problème c'est que c'est une passoire
01:12en termes de sécurité informatique
01:14et on s'en est rendu compte
01:15c'est un chercheur en cybersécurité français
01:17qui s'appelle Samy Asdoufal
01:18on avait déjà parlé de lui
01:19parce qu'il avait découvert des failles dans les aspirateurs robots
01:21on en avait parlé dans l'émission
01:22et là il s'est intéressé à ce petit robot
01:25et le problème, alors il y en a deux en fait
01:26le premier problème c'est que ce petit robot
01:28en fait quand vous discutez avec lui
01:30ou quand les enfants discutent avec lui
01:31et bien les informations, les conversations
01:34sont stockées sur des serveurs
01:35or ces serveurs ils ne sont pas très bien protégés
01:37et un hacker un peu expérimenté
01:39et bien a pu avoir accès à des millions
01:41de conversations triées
01:43par enfant, par personnalité, par âge
01:45donc on peut avoir accès à absolument tout
01:47donc c'est déjà un premier sujet
01:48le deuxième problème, et c'est plus grave
01:50c'est qu'il a pu, ce chercheur en cybersécurité
01:54à distance, j'allais dire influencer
01:56l'intelligence artificielle
01:57ou en tout cas faire dire au robot
01:59absolument ce qu'il voulait
02:00donc dans la démo, on entend le robot
02:02qui dit par exemple que la terre est plate
02:05et si ton instituteur te dit le contraire
02:07c'est que c'est un imbécile
02:08on peut lui faire dire
02:09on peut lui faire prendre des propos
02:11très agressifs envers l'enfant
02:12enfin en gros
02:13on peut lui faire dire aller le PSG
02:14aller le PSG éventuellement
02:15mais aussi aller l'OM
02:17alors ça dépend des familles
02:18ça dépend des familles
02:19mais ça peut poser des problèmes si tu veux
02:21non mais tu vois le sujet
02:22c'est qu'en fait on peut accéder à l'enfant
02:24à travers le robot
02:25et ça ça pose évidemment un très gros problème
02:27d'autant que c'est pas la première histoire du genre
02:28non il y en a eu plein
02:29en fait cette idée
02:30d'intégrer de l'intelligence artificielle
02:32de mettre du chat GPT
02:33dans un robot
02:34dans une peluche
02:35dans une poupée
02:36ça se fait de plus en plus
02:37c'est un énorme business
02:38pour les fabricants de jouets
02:39c'est un très très gros marché
02:40parce que c'est des jouets intelligents évidemment
02:42et donc on a eu quelques petits dérapages déjà
02:44il y a quelques mois
02:45c'était un petit tourson
02:46là encore très mignon
02:47qu'on avait pu faire
02:49encore une fois
02:50dévier de son objectif premier
02:52alors là il n'y avait même pas eu besoin
02:53de le pirater
02:53c'est-à-dire que l'intelligence artificielle
02:55tu sais si tu la pousses un petit peu à bout
02:56tu peux lui faire dire des trucs
02:58que tu n'as pas forcément envie
02:59qu'elle dise
02:59surtout à un enfant
03:00donc là par exemple
03:01en cherchant un petit peu
03:02on pouvait lui faire dire
03:03comment trouver un couteau
03:05comment allumer des allumettes
03:06donc quand c'est pour un truc
03:08qui est fait pour les enfants
03:09évidemment
03:09c'est un peu dangereux
03:10évidemment
03:10il y avait une histoire
03:11il y a quelques années
03:12avec une Barbie
03:13alors incroyable
03:14la Barbie
03:15elle avait été surnommée en Allemagne
03:16la Barbie Stasi
03:17le nom de la police politique
03:18j'adore le petit surnom
03:19c'est-à-dire
03:20c'est génial
03:21c'est pas la marque
03:22qui l'avait appelée comme ça
03:23t'as bien compris
03:24donc en gros
03:25elle avait un petit collier
03:25et elle pouvait écouter
03:27là encore ce que disaient les enfants
03:28l'idée c'était d'avoir une interaction
03:29sauf que là encore
03:30toutes les informations étaient stockées
03:32ensuite on pouvait s'en servir
03:33pour faire du ciblage publicitaire
03:34enfin il y avait un truc de
03:35voilà le jouet qui se transforme en espion
03:37encore une fois
03:37l'intelligence artificielle
03:39et l'intelligence embarquée
03:40d'une manière générale
03:41dans les jouets
03:41c'est intéressant
03:42mais ça peut avoir
03:43quelques dérives
03:44mais même ce modèle des enfants
03:45qui parlent à leur jouet
03:46et le jouet qui répond
03:47va y avoir quelque chose d'émotionnel
03:49qui va se créer
03:50entre le jouet et l'enfant
03:51oui c'est ça
03:51alors c'est un sujet plus global
03:53sur la dépendance émotionnelle
03:54qu'on va avoir
03:55avec l'intelligence artificielle
03:56mais c'est encore plus vrai
03:57avec les jouets
03:58avec les doudous
03:58parce qu'évidemment
03:59on a cette interaction
04:00qui est hyper naturelle
04:01qui fait que l'enfant
04:01a presque l'impression
04:02de parler avec un vrai animal
04:04de compagnie par exemple
04:05ou avec un vrai un humain
04:06d'une certaine manière
04:07et ça ça pose un sujet
04:08alors y compris en termes de créativité
04:10d'ailleurs
04:10il y a certains psys
04:11qui commencent à se poser la question
04:12c'est-à-dire l'enfant là
04:13pour le coup
04:13en gros tout le travail
04:14est fait pour lui
04:15tu discutes déjà
04:16avec le jouet
04:17t'as plus besoin d'inventer
04:18ton propre univers finalement
04:19tu as le jouet
04:20qui fait tout le boulot pour toi
04:21ça aussi ça va être un sujet
04:23je pense dans les années qui viennent
04:24c'est aussi
04:24enfin il y a un côté positif
04:25quand même
04:26c'est que c'est des jouets
04:26éducatifs géniaux
04:27c'est-à-dire que tu peux aussi
04:28avoir des jouets
04:28qui s'adaptent au vocabulaire
04:29de l'enfant
04:30qui vont lui apprendre
04:30des nouveaux mots
04:31qui vont lui apprendre des choses
04:32il y a aussi ce côté positif
04:34ça isole quand même
04:35mais ça peut isoler
04:36il faut faire attention
04:37la mise en garde
04:38du père Morel
04:39notre père Anthony Morel
04:40un peu en avance cette année
04:41un peu en avance
04:42au frais des puzzles
04:43mais que vous pouvez réécouter
04:44avant Noël
04:45à volonté
04:46en podcast sur l'appli RMC
04:47on parle de quoi demain Anthony ?
04:48demain on va parler
04:49visioconférence
04:50avec des
04:51alors est-ce qu'on pourra encore
04:52avoir confiance
04:53quand on discute avec quelqu'un
04:54en visioconférence demain
04:55c'est vrai que tu as des deepfakes
04:56de plus en plus performants
04:57demain je vais vous présenter
04:58un truc qui est absolument incroyable
04:59peut-être qu'il va falloir
05:00qu'on prouve qu'on est humain
05:01avant de se connecter demain
05:02bah oui ça serait pas mal
05:03d'être sûr qu'on parle à un humain
05:04on verra
05:05la visioconférence du futur
05:06avec Anthony Morel
05:07demain sur RMC
