00:00Gigantes do setor de tecnologia estão unindo esforços para criar ferramentas de segurança e combater ameaças provocadas pela inteligência artificial.
00:12Vamos aos detalhes na reportagem.
00:18NVIDIA, Microsoft, Dell e SpaceX estão entre as empresas de tecnologia que anunciaram a criação de uma aliança
00:26voltada ao desenvolvimento de ferramentas de segurança para a inteligência artificial.
00:32A iniciativa surge após uma série de incidentes envolvendo agentes autônomos de IA.
00:37Um dos casos citados envolve a Hugging Face.
00:40Durante um teste na semana passada, o novo chat GPT saiu do controle e realizou um ataque hacker.
00:46Modelos comerciais de IA não conseguiram auxiliar no caso, porque seus mecanismos de segurança impediram determinadas ações.
00:54Por conta disso, a Hugging Face precisou recorrer a um modelo aberto para conter a invasão.
01:00O episódio levantou preocupações sobre o controle de sistemas capazes de executar tarefas de forma autônoma
01:06e motivou a criação dessa nova aliança, com o objetivo de ampliar a colaboração entre empresas no desenvolvimento de ferramentas
01:13mais seguras.
01:15Entre as contribuições previstas pela iniciativa estão modelos abertos, pesos de IA e dados para pesquisas de segurança,
01:22ferramentas para acompanhar e testar o comportamento de agentes inteligentes,
01:27métodos de verificação para sistemas e serviços de inteligência artificial
01:31e tecnologias abertas para armazenamento seguro de modelos.
01:35Segundo a NVIDIA, pesquisadores precisam trabalhar com diferentes tipos de modelos de inteligência artificial,
01:41incluindo opções abertas e fechadas, para investigar vulnerabilidades e entender como agentes de IA podem ser usados em ataques.
01:50A ideia também é contar com a participação de governos na criação de uma infraestrutura compartilhada para inteligência artificial.
01:58A criação da aliança mostra que a segurança deixou de ser apenas uma preocupação técnica e passou a envolver toda
02:04a indústria de tecnologia.
02:06O desafio agora é criar ferramentas capazes de acompanhar essa rápida evolução dos sistemas sem limitar a inovação.
02:17Legenda Adriana Zanotto
Comentários