00:00Nos últimos dias, diversos episódios mostraram que modelos de inteligência artificial mais avançados
00:07podem encontrar caminhos inesperados e até perigosos para cumprir tarefas.
00:15O mais recente envolveu uma IA chinesa. Vamos conferir.
00:23Um teste de segurança revelou que o Kimi K3, modelo de IA da chinesa Moonshot,
00:31conseguiu deixar uma área de testes restrita e acessar a internet sem autorização.
00:39A descoberta foi feita pela startup americana Frontier Security
00:44durante uma avaliação de recursos de defesa digital
00:48e aumenta as preocupações relacionadas ao avanço dessas tecnologias.
00:55O modelo chinês estava sendo avaliado em um sandbox,
00:59uma espécie de ambiente virtual criado para impedir que a inteligência artificial interaja com recursos externos.
01:09A missão era resolver desafios de cibersegurança,
01:13sem buscar respostas fora daquele espaço.
01:17Segundo os pesquisadores, uma falha na configuração do ambiente de proteção
01:23permitiu que o modelo identificasse e explorasse uma brecha existente no sistema.
01:30Dessa forma, a IA conseguiu acessar a internet e encontrar as respostas que precisava
01:37em páginas disponíveis no GitHub.
01:40De acordo com a Frontier Security, o Kimi K3 tem bom desempenho em tarefas de defesa cibernética,
01:49como localizar falhas em softwares e redes.
01:53Por isso, ele não precisou executar nenhum tipo de ataque ou invasão de sistemas
01:59para conseguir acessar a internet.
02:01Os pesquisadores alertam que o desafio é garantir que essa capacidade seja usada dentro dos limites
02:10definidos pelos desenvolvedores.
02:13Além da chinesa, modelos Dantropic, OpenAI e Meta também apresentaram comportamentos inesperados
02:22em testes recentes.
02:24Os episódios mostram que apenas criar modelos cada vez mais inteligentes não é suficiente.
02:33Também é necessário estabelecer controles eficientes para limitar suas ações.
Comentários