00:00E as discussões sobre os riscos envolvendo a inteligência artificial
00:04seguem no centro dos debates no mundo da tecnologia.
00:10E um novo caso reforça os alertas dos últimos dias.
00:15Vamos conferir.
00:20Pesquisadores independentes de segurança conseguiram usar o Cloud Down Tropic
00:25para explorar uma falha e obter acesso a sistemas internos da OpenAI.
00:30O ataque permitiu que a equipe acessasse a conta de um funcionário da empresa no chat GPT
00:35e, a partir dela, lesse arquivos e sugerisse alterações em um repositório privado de software.
00:42O episódio foi descoberto por uma equipe da plataforma de segurança cibernética Rectron AI
00:47que participava de um programa de recompensas da própria OpenAI
00:51para tentar encontrar vulnerabilidades nos sistemas da companhia.
00:55A dona do chat GPT anunciou que já resolveu os problemas identificados.
01:00O caso se soma a uma série recente de incidentes envolvendo o uso de ferramentas
01:05de inteligência artificial em invasões digitais
01:08e ocorre em meio a uma discussão crescente sobre os riscos de sistemas de IA avançados.
01:14A OpenAI e a Antropic estão liderando um movimento que defende uma pausa no avanço da tecnologia,
01:21argumentando que o desenvolvimento estaria ocorrendo rápido demais
01:24para que as empresas consigam mitigar seus riscos de maneira segura.
01:29Por outro lado, os governos dos Estados Unidos e da China,
01:32as duas principais potências do setor,
01:35minimizam os riscos e defendem o avanço do desenvolvimento da tecnologia.
01:45Pesquisadores da empresa de segurança cibernética Death First
01:50usaram o modelo GLM das chinesas EAI para buscar falhas em softwares.
01:58A ferramenta é gratuita e aberta, podendo ser modificada pelos próprios usuários.
02:04A equipe adaptou o modelo e combinou a IA com outros recursos para analisar códigos
02:11e procurar pontos que poderiam ser explorados.
02:15Assim, ela conseguiu encontrar vulnerabilidades em um componente de código aberto
02:22utilizado pelo TikTok.
02:25Segundo os pesquisadores, a falha permitiu acessar remotamente a câmera e as fotos de um smartphone
02:33que navegava pelo aplicativo.
02:36A empresa comunicou o problema ao TikTok,
02:40que informou já ter corrigido a vulnerabilidade.
02:44Que coisa, não?
02:45E outro caso, aliás, ainda mais alarmante.
02:49O IA, utilizada por militares dos Estados Unidos,
02:54apresentou informações equivocadas
02:56e quase provocou um confronto no Oriente Médio.
03:01Vamos saber mais na reportagem.
03:06Um relatório de inteligência do governo dos Estados Unidos,
03:10produzido com ajuda de inteligência artificial,
03:13indicou falsamente que um navio chinês no Oriente Médio
03:17transportava componentes de um programa de armas nucleares.
03:21Segundo fontes ouvidas pela CNN Internacional,
03:24a Casa Branca chegou a preparar uma operação para interceptar a embarcação.
03:28A informação havia sido produzida por um analista do Comando de Operações Especiais,
03:33que recorreu a um chatbot para analisar relatórios de inteligência sobre o manifesto de carga do navio.
03:40A ferramenta combinou informações de fontes abertas com dados secretos do governo
03:45e identificou a carga de maneira incorreta.
03:48O erro só foi descoberto momentos antes da operação,
03:52quando autoridades analisaram o relatório com maior atenção.
03:55O documento foi considerado totalmente falso por uma das fontes ouvidas pela reportagem,
04:01que afirmou que o episódio quase provocou uma guerra.
04:04Não há informações sobre qual era a carga real da embarcação chinesa.
04:09O episódio chama a atenção para os riscos do uso de IA na inteligência militar,
04:14especialmente na seleção de alvos.
04:16Analistas já temiam que informações fracas ou corrompidas
04:19pudessem levar a erros de cálculo com consequências graves.
04:23Entre os problemas apontados estão a possibilidade de decisões militares
04:27baseadas em informações incorretas, o que quase ocorreu nesse caso específico.
04:32Especialistas ainda alertam que é preciso criar um conjunto único de normas
04:36para verificar informações geradas por IA.
04:38O episódio veio à tona dias após pesquisadores dos Estados Unidos e da China
04:43discutirem limites para a inteligência artificial militar
04:46com foco em armas nucleares, ataques cibernéticos e controle humano.
04:51Mas nenhum dos dois governos endossou publicamente as propostas
04:55apresentadas pelos especialistas até agora.
05:02O episódio veio à tona dias após pesquisadores dos Estados Unidos e dos Estados Unidos e dos Estados Unidos e
05:04dos Estados Unidos.
Comentários