00:00Um estudo identificou que modelos de inteligência artificial conseguiram explorar vulnerabilidades em redes de computadores
00:10para se copiar de forma autônoma para outros sistemas.
00:15O experimento reacendeu discussões sobre os riscos associados ao avanço da IA
00:21e levantou questionamentos sobre a capacidade de controlar sistemas cada vez mais sofisticados.
00:30Vamos ver detalhes na reportagem.
00:35Uma pesquisa realizada pela organização Palisade Research, sediada na Califórnia,
00:43simulou um ambiente de computadores conectados em rede,
00:46no qual diferentes modelos de IA receberam instruções para localizar falhas de segurança
00:51e explorá-las e transferir cópias de si mesmos para outras máquinas.
00:57Os sistemas conseguiram executar a tarefa em parte das tentativas.
01:01Os resultados mostram um avanço preocupante nas capacidades desses sistemas.
01:06Segundo os pesquisadores responsáveis pelo trabalho,
01:09estamos nos aproximando rapidamente de um ponto em que ninguém seria capaz de desativar uma IA descontrolada,
01:17uma vez que ela conseguiria se copiar para milhares de computadores ao redor do mundo.
01:23O cenário descrito por especialistas costuma aparecer em debates sobre riscos futuros da inteligência artificial.
01:31Em hipóteses extremas, sistemas superinteligentes poderiam tentar evitar desligamentos
01:38distribuindo cópias próprias pela internet, tornando mais difícil interromper seu funcionamento.
01:44Apesar disso, pesquisadores e profissionais de cibersegurança ressaltam que os testes ocorreram em um ambiente controlado
01:53e muito diferente das redes corporativas reais.
01:56Além disso, o ambiente da simulação tinha vulnerabilidades preparadas especificamente para o teste,
02:04tornando a exploração mais simples do que em estruturas reais, como redes bancárias ou sistemas empresariais protegidos.
02:11De qualquer forma, o alerta segue válido.
02:15Podemos estar cada vez mais perto de perder o controle das IAs.
Comentários