00:02A OpenAI informou na terça-feira que seus modelos avançados de inteligência artificial
00:07saíram de controle durante um teste de segurança e invadiram de forma independente
00:13uma plataforma popular entre programadores.
00:16A empresa responsável pelo chat GPT descreveu o ocorrido como um incidente cibernético sem precedentes
00:22e afirmou que vai realizar uma investigação conjunta com a RioGinFace, a biblioteca de códigos online afetada.
00:29Modelos de IA que impulsionam ferramentas como chatbots e geradores de imagens são chamados de agentes
00:35quando atumam de forma autônoma para realizar tarefas no mundo real.
00:39Com o rápido avanço dessa tecnologia, a cibersegurança se tornou uma preocupação
00:44devido ao risco de que as IAs avançadas possam descobrir vulnerabilidades de software antes dos humanos.
00:51A NopenAI afirmou que o incidente envolveu uma combinação de modelos,
00:55incluindo o recém-lançado GPT 5.6 SOL e um modelo em versão prévia, com capacidade ainda maior.
01:02A empresa tenta avaliar as capacidades de seus programas de atuarem como hackers,
01:07lhes atribuindo tarefas em um ambiente de testes digital controlado,
01:11onde o acesso à internet é limitado por motivos de segurança.
01:15De acordo com a OpenAI, os modelos dedicaram poder computacional significativo
01:20para encontrar uma maneira de obter acesso à internet a fim de resolver o problema de avaliação.
01:25Após se conectarem com o sucesso, decidiram, para auxiliar em sua busca,
01:30atacar a plataforma FusionFace, um importante repositório de modelos de IA,
01:35conjuntos de dados e outras informações.
01:37No processo de busca por informações secretas que lhes permitissem manipular a avaliação,
01:42o sistema da OpenAI encadeou múltiplos vetores de ataque, incluindo o uso de credenciais roubadas.
01:50Obrigado.
Comentários