OpenAI diz que sua IA fez ataque hacker 'sem precedentes' por conta própria

A OpenAI, criadora do ChatGPT, afirmou na terça-feira que seus modelos avançados de inteligência artificial saíram de controle durante um teste de segurança e invadiram, por conta própria, uma plataforma popular entre programadores.

A OpenAI informou na terça-feira que seus modelos avançados de inteligência artificial saíram de controle durante um teste de segurança e invadiram, de forma independente, uma plataforma popular entre programadores.

A empresa responsável pelo ChatGPT descreveu o ocorrido como um ‘incidente cibernético sem precedentes’ e afirmou que vai realizar uma investigação conjunta com a Hugging Face, a biblioteca de códigos online afetada.

Modelos de IA que impulsionam ferramentas como chatbots e geradores de imagens são chamados de ‘agentes’ quando atuam de forma autônoma para realizar tarefas no mundo real.

Com o rápido avanço dessa tecnologia, a cibersegurança se tornou uma preocupação devido ao risco de que IAs avançadas possam descobrir vulnerabilidades de software antes dos humanos.

A OpenAI afirmou que o incidente envolveu uma combinação de modelos, incluindo o recém-lançado GPT-5.6 Sol e ‘um modelo em versão prévia’ com capacidade ainda maior.

A empresa tenta avaliar as capacidades de seus programas de atuarem como hackers, lhes atribuindo tarefas em um ambiente de testes digital controlado, onde o acesso à internet é limitado por motivos de segurança.

De acordo com a OpenAI, os modelos ‘dedicaram poder computacional significativo para encontrar uma maneira de obter acesso à internet a fim de resolver o problema de avaliação’.

Após se conectarem com sucesso, decidiram, para auxiliar em sua busca, atacar a plataforma Hugging Face — um importante repositório de modelos de IA, conjuntos de dados e outras informações.
No processo de busca por ‘informações secretas’ que lhes permitissem manipular a avaliação, o sistema da OpenAI ‘encadeou múltiplos vetores de ataque, incluindo o uso de credenciais roubadas’.

Imagens: AFP

Acesse o site: https://em.com.br / https://uai.com.br

SE INSCREVA EM NOSSO CANAL NO YOUTUBE: https://www.youtube.com/@PortalUai
Siga o Portal UAI nas redes sociais:
Instagram - https://instagram.com/estadodeminas/
Twitter - https://twitter.com/em_com/
Facebook - https://www.facebook.com/EstadodeMinas/

#IA #gpt #hacker