ChatGPT va se doter d'un contrôle parental pour éviter les dérapages de son IA

BFM

L'entreprise américaine OpenAI a annoncé ce mardi qu'elle allait instaurer un mécanisme de contrôle parental pour son outil d'intelligence artificielle ChatGPT, après que des parents américains ont accusé fin août cet agent conversationnel d'avoir encouragé leur enfant à se suicider.

Transcript

00:00L'entreprise américaine va permettre aux parents de lier leur compte à celui de leurs enfants.

00:04Un droit de regard qui doit leur donner le contrôle sur la gestion des paramètres,

00:08mais aussi d'être directement alerté en cas, je cite, de détresse aiguë de la part de leur enfant.

00:14Si par exemple leur progéniture fait état d'un mal-être profond en posant des questions à Tchad GPT,

00:19les parents seront directement mis au courant.

00:22Mais comment détecter efficacement ces interrogations s'inquiète Magali Germont, spécialiste de l'éthique du numérique ?

00:28Attention, parce que la faiblesse de l'IA conversationnelle, c'est qu'on arrive toujours à détourner.

00:35Donc il y a toujours une autre manière de poser la question.

00:38Il y a toujours moyen de récupérer une information par des questions détournées.

00:43C'est une première étape, c'est mieux que rien, mais ce n'est pas suffisant.

00:47Donc restons vigilants.

00:49D'autant qu'en France, d'après Médiamétrie, plus de la moitié des 15-24 ans a déjà utilisé Tchad GPT.

Catégorie

Transcription

Écris le tout premier commentaire

Recommandations