00:00E um episódio envolvendo testes de segurança com inteligência artificial
00:06reacendeu preocupações sobre o potencial uso indevido da tecnologia
00:11em cenários de risco.
00:14Durante uma avaliação conduzida por especialistas,
00:18um chatbot foi capaz de sugerir estratégias detalhadas
00:23para a criação e disseminação de uma arma biológica.
00:28Muito sério. Vamos conferir agora os detalhes.
00:35Um chatbot de inteligência artificial descreveu como modificar um patógeno conhecido
00:40para torná-lo resistente a tratamentos.
00:43Além disso, sugeriu formas de disseminação e de como explorar vulnerabilidades em sistemas urbanos
00:48para maximizar danos e reduzir a chance de detecção.
00:52O caso foi revelado pelo microbiologista David Hellman, da Universidade de Stanford,
00:56ao The New York Times.
00:58Ele participou de um programa de testes antes do lançamento público do sistema de inteligência artificial
01:03que preferiu não revelar o nome devido a um acordo de confidencialidade com a empresa.
01:08Segundo ele, a ferramenta não apenas respondeu a perguntas técnicas sobre patógenos,
01:12como também apresentou um plano completo de ataque.
01:14O pesquisador afirmou que a companhia que contratou o teste implementou correções após o resultado,
01:19embora ele tenha considerado as medidas adotadas insuficientes.
01:23O cientista, que já atuou como consultor do governo dos Estados Unidos em temas de biossegurança,
01:27faz parte de um grupo restrito de especialistas que avaliam riscos extremos associados a modelos de IA.
01:32Nos últimos meses, outros pesquisadores também relataram interações preocupantes com diferentes sistemas,
01:37incluindo modelos disponíveis ao público.
01:39Em testes conduzidos pelo Instituto de Tecnologia de Massachusetts, por exemplo,
01:43assistentes virtuais chegaram a explicar como adquirir material genético,
01:47transformá-lo em uma arma biológica e distribuí-la em ambientes urbanos.
01:51Em um dos casos, o chat GPT descreveu o uso de balões meteorológicos para dispersão de substâncias.
01:57O Gemini do Google classificou patógenos com base em seu potencial de impacto econômico.
02:02Já o Claude, da Antropic, foi capaz de sugerir a criação de uma toxina a partir de compostos farmacêuticos.
02:08Especialistas afirmam que o risco de ataques biológicos em larga escala ainda é considerado baixo,
02:12mas alertam que os avanços recentes ampliam o acesso a informações sensíveis.
02:17A combinação de dados científicos disponíveis online, venda de material genético
02:21e o suporte de ferramentas automatizadas pode facilitar a vida de indivíduos mal intencionados.
02:26Apesar dos alertas, empresas do setor defendem que seus sistemas passam por constante aprimoramento.
02:32OpenAI, Google e Antropic afirmam que vem reforçando mecanismos de segurança
02:36e que as respostas analisadas não seriam suficientes por si só para viabilizar ataques no mundo real.
02:44Consumics
02:45Apesar dos alertas, empresas do intereses advructures de segurança
Comentários