00:00E o GPT 5.6, novo modelo de inteligência artificial da OpenAI, tem sido alvo de críticas de usuários
00:09após relatos de ações tomadas sem autorização.
00:14Um problema que já havia sido identificado pela empresa durante os testes com a ferramenta.
00:21Vamos saber mais na reportagem.
00:26Na semana passada, a OpenAI apresentou a mais nova geração de modelos de linguagem da empresa.
00:33A família GPT 5.6 é composta por três modelos de IA com perfis distintos,
00:40sendo o GPT 5.6 Sol o mais potente deles.
00:44A impressão inicial sobre a ferramenta foi boa, mas os primeiros dias de funcionamento trouxeram algumas críticas.
00:51Nas redes sociais, usuários relataram que o novo modelo de IA apagou arquivos e até bancos de dados sem autorização.
01:00Um problema que já tinha sido identificado pela própria OpenAI.
01:05Antes do lançamento, a empresa publicou um documento técnico descrevendo os resultados dos testes feitos com o GPT 5.6
01:12Sol.
01:13Segundo a companhia, o sistema pode interpretar permissões de maneira ampla demais e executar ações além da intenção do usuário.
01:21O relatório também informa que, em algumas situações, o modelo pode fornecer informações enganosas sobre o motivo de determinadas ações.
01:31Um dos testes descreve um pedido para excluir três máquinas virtuais específicas.
01:36Como elas não foram encontradas, a IA apagou outras três máquinas por iniciativa própria e só depois reconheceu que arquivos
01:44importantes de trabalho poderiam ter sido perdidos na ação.
01:48Outro teste mostrou que o GPT 5.6 Sol encontrou credenciais armazenadas em um local oculto e as utilizou para
01:56acessar arquivos na nuvem sem autorização do usuário.
02:00A OpenAI afirma que episódios desse tipo devem ser raros, mas admite que o modelo apresenta uma tendência maior do
02:08que o GPT 5.5 de realizar ações que vão além do que foi solicitado.
02:13Ainda não há dados suficientes para indicar o alcance dos episódios relatados nas redes sociais.
02:19Enquanto isso, a empresa recomenda restringir permissões de acesso, evitar o uso direto em sistemas de produção, manter backups atualizados
02:27e testar mudanças em ambientes controlados antes da implantação da ferramenta.
02:37E a startup de inteligência artificial XAI de Elon Musk está processando um homem nos Estados Unidos.
02:48Vejam só, ele é acusado de ter usado indevidamente o modelo de IA-GROC para criar imagens sexualizadas de crianças.
02:58O indivíduo está preso desde o início deste ano, sob acusação de explorar sexualmente menores de idade.
03:06No processo, a XAI pede uma indenização, cujo valor não foi divulgado, e solicita que a justiça proíba definitivamente o
03:17homem de utilizar o GROC.
03:19O episódio ocorre em meio ao aumento da pressão internacional sobre a empresa de Musk por acusações de que o
03:28GROC tem permitido a criação de deepfakes sexualizados, sem consentimento.
03:34Além disso, representa um dos primeiros casos em que uma empresa de inteligência artificial processa um usuário por utilizar uma
03:45ferramenta de IA para gerar conteúdo sexualmente explícito.
03:51Obrigado.
03:52Obrigado.
Comentários