00:00Tech & Co, la quotidienne, la chronique BFM Tech.
00:06Sylvain Trinelle nous a rejoint sur ce plateau, bonsoir Sylvain.
00:09Alors ce soir on s'intéresse à une histoire qui est un peu folle quand même,
00:13tu m'as raconté tout à l'heure dans notre magnifique open space.
00:17Histoire avec des échanges entre une utilisatrice et Claude, écoutez bien,
00:21qui se sont retrouvés dans les mains de la police.
00:24Ces échanges se sont retrouvés arrivés dans la police.
00:28On ne t'entend pas.
00:29On ne m'entend pas comment ça, on ne m'entend pas.
00:31Non, c'est mieux, ça marche maintenant.
00:33C'est bon, la technologie, tout ça.
00:35Carly, Michel Heller, elle pensait utiliser Claude comme un journal intime,
00:39bien mal lui en a pris parce que cette Américaine de 30 ans,
00:43elle a eu la surprise de découvrir que ses échanges avec le chatbot d'Enthropic
00:47pouvaient faire l'objet de poursuites.
00:49Dans des messages, elle explique à Claude son intention de, je cite,
00:53« descendre le shérif du comté sur le champ ».
00:56Elle insiste aussi sur le fait qu'elle a acheté un nouveau pistolet le même jour
00:59et qu'elle prévoyait même de passer à l'attaque le 26 septembre.
01:03Mais avant qu'elle ne tente quoi que ce soit,
01:05sa conversation est signalée et un opérateur humain d'Enthropic
01:08transmet les éléments aux forces de l'ordre menant à l'arrestation de la jeune femme
01:12qui est aujourd'hui inculpée de menaces écrites.
01:15La shérif en question, qui est quasiment nommée, je crois même, dans ses messages,
01:20elle a répondu au journal Inc, qui est à l'origine de l'enquête.
01:23Elle a expliqué que ce manque de vie privée des chatbots est une fonctionnalité logique,
01:28tout comme l'absence d'anonymat d'ailleurs.
01:30Dans son centre d'aide, Enthropic l'écrit d'ailleurs noir sur blanc
01:34qu'elle peut avertir les autorités si elle détecte des comportements
01:37qui vont contre ces conditions d'utilisation.
01:39Étonnant.
01:40Étonnant, pas tant que ça en fait, je ne suis pas étonné.
01:43Non, non, non, mais que des algorithmes détectent qu'il y a une menace potentielle
01:46ou un danger potentiel pour avertir après un humain, c'est fou.
01:49Et est-ce qu'une telle histoire est déjà arrivée dans le secteur de l'IA ?
01:51Eh bien c'est peut-être pour ça qu'on en parle aujourd'hui,
01:54parce que c'est en fait la première véritable fois qu'un cas de figure comme celui-ci se présente.
01:59Par le passé, on a plutôt parlé du fait que les entreprises d'IA
02:02ne rapportaient pas les conversations problématiques aux autorités.
02:05C'est d'ailleurs pour cette raison qu'OpenEye fait l'objet d'une enquête en Floride,
02:09car la start-up n'a pas rapporté les propos tenus par l'auteur d'une fusillade.
02:13Il avait utilisé ChatGPT pour préparer son coup.
02:16Le même OpenEye avait aussi manqué de prévenir les autorités canadiennes,
02:20cette fois-ci des échanges de l'auteur d'une fusillade à Tumblr Ridge avant son passage à l'acte.
02:26La shérif ayant arrêté cette trentenaire américaine,
02:29elle a néanmoins précisé qu'Anthropic avait déjà collaboré avec ses services.
02:32Suite à la génération par IA d'une photo, la présentant comme blessée et poursuivie par deux personnes.
02:38Bref, si vous prévoyez des projets, quels qu'ils soient,
02:42attention, je ne m'adresse pas du tout à la productrice de cette émission qui est en coulisses,
02:48gardez à l'esprit que tout ce que vous direz à une IA,
02:51ça peut être retenu contre vous, y compris sous le coup de la colère.
02:55Alors attention.
02:55Mais je me souviens de deux cas qui avaient été assez médiatisés.
02:59C'était une Alexa qui avait été décryptée lors d'un meurtre parce que le micro était enclenché.
03:07Ils avaient réussi à récupérer des preuves audio du tueur, en fait.
03:12Une histoire comme ça, c'était aux Etats-Unis.
03:13Et puis plus récemment, il y a eu aussi des adolescents qui se sont fait choper dans une Waymo
03:18parce qu'ils avaient de l'alcool, alors qu'ils étaient mineurs bien sûr,
03:21et un pistolet, ce qui est un adolescent assez moyen.
03:26Et donc Waymo a averti les autorités et évidemment les...
03:30La police est venue l'accueillir.
03:31Les attendaient quand ils sont sortis du Waymo.
03:33Donc il y a quand même, voilà, on voit que ça peut arriver.
03:37Merci beaucoup Sylvain.
03:39Merci Sylvain Trinel de la rédaction de BFM Tech.
03:42Merci.
