00:00Durante um teste, a nova versão do chat GPT se descontrolou e realizou um ataque hacker.
00:08A vítima foi a startup Hilgen Face. Vamos agora conferir os detalhes dessa história.
00:19A OpenAI confirmou que um agente de inteligência artificial autônomo,
00:25alimentado por modelos da empresa, se descontrolou durante um teste de segurança
00:31e atacou a infraestrutura da startup Hilgen Face,
00:35que é uma plataforma que hospeda grandes modelos de linguagem e conjuntos de dados de código aberto.
00:42O caso aconteceu na semana passada.
00:45A OpenAI classificou o evento como sem precedentes.
00:49O incidente foi causado por uma combinação de modelos, incluindo o GPT 5.6 SOL
00:55e um modelo ainda mais capaz em versão pré-lançamento, de acordo com a desenvolvedora.
01:02Em comunicado, a OpenAI afirmou que tudo começou com um teste de capacidades de modelos avançados
01:09em um ambiente controlado.
01:11O agente de inteligência artificial escapou do confinamento,
01:15acessou a internet e invadiu o sistema da Hugging Face com o intuito de completar um objetivo do teste.
01:23A Hugging Face informou ter sido alvo de um ataque cibernético,
01:28diferente de tudo o que já havia enfrentado antes.
01:31A startup destacou que o ataque foi conduzido de ponta a ponta
01:36por um sistema autônomo de agentes de inteligência artificial.
01:40Agora, de acordo com a empresa, a vulnerabilidade foi corrigida
01:44e medidas adicionais de segurança foram implementadas.
01:48A OpenAI destacou que trabalha com a Hugging Face para investigar o incidente
01:54e que está colocando proteções mais robustas para treinamentos e avaliações futuras.
02:00O caso reforça as discussões sobre a segurança das ferramentas de IA
02:04e ocorre no momento em que governos globais estudam medidas
02:08para garantir que o lançamento de novos modelos
02:11não traga riscos para ecossistemas digitais vitais para o planeta.
Comentários