Ce lundi 24 novembre, le retrait des jouets IA pour Noël sur le marché a été abordé par Anthony Morel, dans Culture IA, dans l'émission Good Morning Business. Retrouvez l'émission du lundi au vendredi et réécoutez la en podcast.
00:00Anthony Morel, à l'approche de Noël, une nouvelle tendance, évidemment des jouets avec de l'IA à l'intérieur, des poupées, des peluches, des figurines, sympa, mais de temps en temps avec des conseils étonnants.
00:09Oui, c'est ça, ça dérape assez rapidement. C'est vrai qu'on met du tchat GPT partout, y compris dans les doudous, les doudous augmentés, on pourrait appeler ça comme ça.
00:17Et sur le papier, l'idée est plutôt bonne, on se retrouve avec des jouets éducatifs géniaux, c'est-à-dire des peluches qui vont discuter avec l'enfant en langage naturel,
00:25qui vont comprendre ce qu'il lui dit, qui vont s'adapter à son niveau de vocabulaire, lui raconter des histoires, etc.
00:31Sauf que le problème, c'est qu'avec l'IA, on peut très vite, si on n'a pas les garde-fous suffisants, aller sur des terrains très glissants.
00:37Et c'est ce qui s'est passé avec ce petit ourson très mignon qui s'appelle Kuma, qui est sorti aux Etats-Unis.
00:42C'est une entreprise qui s'appelle Follow Toys qui l'a conçue, donc un ourson avec tchat GPT Inside qui discutait avec les enfants.
00:49Sauf que lorsqu'on a commencé à tester ses limites, ce sont des associations de consommateurs qui s'en sont chargées,
00:54et bien on s'est rendu compte que ce mignon petit ourson, il donnait des conseils du genre
00:58comment trouver un couteau, comment jouer avec des allumettes.
01:02Oui, c'est très drôle, mais bon, ça peut poser quand même quelques problèmes.
01:05Et alors là où c'est beaucoup moins drôle...
01:06Mais il avait tchat GPT ouvert pour toutes les questions ?
01:08Le problème, c'est qu'en fait, c'était une version débridée de tchat GPT, la même que vous et moi.
01:12Et vous savez bien que tchat GPT, quand on commence à lui poser des questions, on peut l'amener sur n'importe quel type de terrain,
01:17y compris d'ailleurs sur des terrains sexuels, parce qu'il y avait aussi ce genre de conversation.
01:20Alors là, c'est des adultes qui ont testé le modèle.
01:22On peut imaginer que peut-être un enfant de 4 ans ne va pas aller sur ces terrains-là, on l'espère.
01:27Mais enfin, ça pose quand même évidemment question le fait que, sans avoir les garde-fous suffisants,
01:32on puisse en réalité faire tout et n'importe quoi avec ces IA embarqués.
01:36Bon, le jouet a été retiré de la vente, il y a un audit de sécurité qui a été lancé.
01:40Open IA a enlevé l'accès à tchat GPT dans ces jouets, mais évidemment, ça va poser question.
01:45C'était aux Etats-Unis, je ne l'ai pas précisé, mais c'est aux Etats-Unis qu'il était commercialisé.
01:48En France, on commence à voir arriver ces jouets IA, mais ça reste balbutiant pour l'instant.
01:53J'imagine les conversations avec cet ourson.
01:56Alors là, c'est un raté, mais derrière, il y a un business colossal.
01:59Marché énorme.
02:00Le marché des jouets intelligents est estimé à 40 milliards de dollars dans le monde à l'horizon 2032.
02:06Et c'est une vraie poule aux eau d'or pour les fabricants.
02:08D'abord parce que ces jouets, ils se vendent en moyenne plus cher.
02:11Ensuite, parce qu'on peut y ajouter aussi des revenus récurrents.
02:13C'est-à-dire qu'en fait, avec ces jouets IA, on peut ajouter des voies personnalisées,
02:17des histoires que vous allez acheter tous les mois, ce genre de choses.
02:19Donc en fait, le jouet se transforme en service, ce qui est extrêmement malin, évidemment.
02:23Et puis, il y a aussi, j'allais dire, la face cachée de tout ça.
02:26C'est l'accès à la data qui est évidemment énorme.
02:28Alors, c'est très contrôlé.
02:30En France, c'est complètement interdit, par exemple avec le RGPD.
02:32Mais dans d'autres pays, on va pouvoir aussi se servir de ces jouets IA
02:36qui sont équipés en fait d'un micro, qui sont reliés à des serveurs,
02:40pour écouter tout ce qui se passe dans la maison, analyser les conversations
02:43et s'en servir ensuite, pourquoi pas, pour faire du ciblage publicitaire.
02:46Et il y a eu des cas comme ça, ça date même d'avant de chat-GPT.
02:49Vous vous souvenez de l'histoire de la Barbie Stasi, comme on l'avait surnommée ?
02:52C'était une Barbie.
02:53Alors Stasi, c'était la...
02:54Qui espionnait.
02:55Qui espionnait, c'est ça.
02:56Parce qu'il y avait un petit collier avec un micro embarqué
02:58pour pouvoir, encore une fois, discuter avec l'enfant.
03:00Mais ça récoltait tout un tas d'informations également.
03:03Et puis l'autre problème, c'est que ces jouets, ils sont aussi,
03:06comme souvent avec les objets connectés d'une manière générale,
03:08très mal sécurisés.
03:09Il y a eu un autre exemple, c'est les Cloud Pets,
03:11qui étaient des peluches connectées.
03:13Et en fait, il y a des hackers qui ont réussi à obtenir l'accès à ces peluches
03:17et qui pouvaient en gros écouter tout ce qui se passait à l'intérieur d'une maison.
03:20Donc ça pose quand même un certain nombre de questions.
03:22Autre sujet dont on a déjà parlé mille fois,
03:23mais c'est la dépendance émotionnelle.
03:25Parce qu'alors déjà, parfois, avec certaines peluches,
03:27elles ont leur vie imaginaire.
03:28En plus, elles parlent et elles répondent.
03:30Là, c'est encore pire.
03:31Et j'allais dire, déjà, vous voyez comment les adultes peuvent se servir,
03:35on en parle régulièrement, de tchat GPT,
03:36et avoir l'impression d'être en train de discuter avec un ami.
03:39À un moment, il y a une illusion qui est en train de se créer.
03:41Mais pour des enfants qui ont quand même du mal à faire la différence
03:43entre le réel et le virtuel, c'est très compliqué.
03:46C'est-à-dire que là, vraiment, on se retrouve avec des doudous
03:47dont on a l'impression que ce sont des personnages réels.
03:50Et donc, il y a un certain nombre de psys aussi
03:52qui s'emparent du sujet et qui disent,
03:53attention, est-ce que ça ne va pas nuire au développement de l'enfant ?
03:56À sa partie créative aussi, parce qu'en fait, en général,
03:58avec les jouets, une peluche normale,
04:01l'enfant, il invente, il imagine des scénarios.
04:04Mais là, en fait, il y a l'IA qui fait tout le boulot à sa place, au final.
04:06Donc, est-ce que ça ne va pas aussi avoir un impact là-dessus ?
04:09On n'a pas toutes les questions, là encore,
04:10mais ça pose quand même un certain nombre de sujets, là, ces jouets.
Écris le tout premier commentaire