00:00A interação de jovens com chatbots de inteligência artificial já terminou em tragédia.
00:07Nesses casos, as ferramentas não interromperam ou não geraram nenhum tipo de alerta diante de conversas delicadas.
00:16Com esse cenário, aliás, a OpenAI apresentou novas funções para o chat GPT.
00:23Vamos conferir os detalhes agora.
00:25A OpenAI anunciou a implementação de novos controles parentais no chat GPT que começaram a ser disponibilizados já nesta segunda-feira.
00:36O recurso permite que pais acompanhem e configurem como seus filhos usam a plataforma,
00:41sejam adolescentes ou até adultos que optarem por vincular contas.
00:45Para isso, é preciso ter uma conta própria para ativar as funções.
00:49Entre as novidades, está o envio de alertas de emergência aos pais quando filhos fizerem perguntas ao chatbot relacionadas a suicídio ou automutilação.
00:57Esses alertas serão revisados por colaboradores antes de serem enviados por e-mail ou mensagem, com data e contexto, mas sem a transcrição da conversa.
01:06As mudanças chegam após um processo movido por uma família da Califórnia,
01:09que associou o suicídio de um adolescente a interações perturbadoras com o chat GPT.
01:14Outros relatos de surtos psicóticos e casos de violência também reforçaram a pressão para que a empresa fortalecesse mecanismos de segurança.
01:22Com essa nova funcionalidade, os pais poderão convidar filhos de qualquer idade acima de 13 anos para vincular contas,
01:29restringir o uso de respostas em voz ou a criação e edição de imagens,
01:34desativar as memórias salvas do chatbot,
01:37definir horário de uso e impedir que as conversas sejam usadas para treinar modelos da OpenAI.
01:41Essas configurações não podem ser alteradas pelos adolescentes e permanecem ativas até que os pais decidam desativá-las.
01:48Além disso, a experiência com o conteúdo restrito será padrão para adolescentes sob controle parental,
01:53bloqueando temas como desafios virais arriscados, ideais de beleza, extremos e encenações sexuais, românticas ou violentas.
02:00A OpenAI diz ainda que está desenvolvendo para os próximos meses um sistema de previsão de idade
02:05que ajudará a descobrir se um usuário tem menos de 18 anos para que o chat EPT possa aplicar automaticamente
02:10as configurações adequadas para a faixa etária.
Seja a primeira pessoa a comentar