00:00E um vídeo com mais de 100 milhões de visualizações nas redes sociais
00:06mostra um robô humanoide aparentemente atacando pessoas em um escritório na Indonésia.
00:15Nas imagens, vários funcionários tentam conter o robô
00:19enquanto ele realiza movimentos semelhantes a golpes de artes marciais.
00:25Mas calma, não estamos diante de uma rebelião das máquinas não.
00:30De acordo com os administradores do robô, alguém ligou o equipamento pela primeira vez
00:37e iniciou automaticamente uma rotina de artes marciais previamente configurada.
00:45O humanoide é um modelo G1 desenvolvido pela empresa chinesa Unitree.
00:50O robô é capaz de realizar movimentos complexos, incluindo apresentações de artes marciais.
00:59Pois era mais uma exibição do que necessariamente uma agressão às pessoas que estavam ali à sua volta.
01:08E o GPT 5.6, novo modelo de inteligência artificial da Opera AI,
01:14tem sido alvo de críticas de usuários após relatos de ações tomadas sem autorização.
01:22Um problema que já havia sido identificado pela empresa durante os testes com a ferramenta.
01:29Vamos saber mais na reportagem.
01:34Na semana passada, a OpenNI apresentou a mais nova geração de modelos de linguagem da empresa.
01:41A família GPT 5.6 é composta por três modelos de IA com perfis distintos,
01:48sendo o GPT 5.6 Sol o mais potente deles.
01:52A impressão inicial sobre a ferramenta foi boa,
01:55mas os primeiros dias de funcionamento trouxeram algumas críticas.
01:59Nas redes sociais, usuários relataram que o novo modelo de IA
02:03apagou arquivos e até bancos de dados sem autorização.
02:08Um problema que já tinha sido identificado pela própria OpenNI.
02:13Antes do lançamento, a empresa publicou um documento técnico
02:16descrevendo os resultados dos testes feitos com o GPT 5.6 Sol.
02:21Segundo a companhia, o sistema pode interpretar permissões de maneira ampla demais
02:26e executar ações além da intenção do usuário.
02:29O relatório também informa que, em algumas situações,
02:33o modelo pode fornecer informações enganosas sobre o motivo de determinadas ações.
02:39Um dos testes descreve um pedido para excluir três máquinas virtuais específicas.
02:44Como elas não foram encontradas,
02:46a IA apagou outras três máquinas por iniciativa própria
02:50e só depois reconheceu que arquivos importantes de trabalho poderiam ter sido perdidos na ação.
02:56Outro teste mostrou que o GPT 5.6 Sol encontrou credenciais armazenadas em um local oculto
03:03e as utilizou para acessar arquivos na nuvem sem autorização do usuário.
03:08A OpenAI afirma que episódios desse tipo devem ser raros,
03:12mas admite que o modelo apresenta uma tendência maior do que o GPT 5.5
03:17de realizar ações que vão além do que foi solicitado.
03:21Ainda não há dados suficientes para indicar o alcance dos episódios relatados nas redes sociais.
03:27Enquanto isso, a empresa recomenda restringir permissões de acesso,
03:31evitar o uso direto em sistemas de produção,
03:33manter backups atualizados e testar mudanças em ambientes controlados
03:38antes da implantação da ferramenta.
Comentários