00:00O debate sobre os riscos de agentes de IA capazes de executar tarefas de forma autônoma
00:06voltou a ganhar força agora, aliás, após episódios recentes envolvendo modelos da OpenAI e Anthropic.
00:16Os casos colocaram autoridades europeias em alerta poucos dias antes da entrada em vigor
00:23da primeira legislação do mundo a estabelecer regras abrangentes para o desenvolvimento e o uso da tecnologia.
00:33Vamos saber mais agora.
00:39Poucos dias depois de a OpenAI informar que um de seus agentes de inteligência artificial
00:45escapou de um ambiente isolado de testes e realizou uma série de ataques contra a empresa Hugging Face,
00:53A Anthropic revelou um caso semelhante envolvendo um de seus modelos de IA.
00:59De acordo com a empresa, um erro de configuração permitiu que os modelos acessassem a internet,
01:04o que resultou na invasão de sistemas de três empresas durante testes de segurança cibernética.
01:11A Anthropic afirmou que notificou as companhias afetadas depois de descobrir os incidentes.
01:17Os casos reacenderam o debate sobre os riscos de agentes de IA capazes de executar tarefas de forma autônoma.
01:25Nesta sexta-feira, a Comissão Europeia disse que está em contato com a OpenAI e a Anthropic
01:32e que está avaliando se será necessário adotar algum tipo de medida de segurança adicional.
01:38Os episódios acontecem poucos dias antes da entrada em vigor da Lei de IA da União Europeia,
01:46prevista para o próximo domingo, dia 2 de agosto.
01:49A legislação prevê, por exemplo, ações para reduzir ameaças como ataques cibernéticos,
01:55manipulação maliciosa e situações em que uma tecnologia possa agir fora do controle humano.
02:01Além de regras de transparência, incluindo avisos quando usuários estiverem interagindo com uma IA
02:08ou quando conteúdos forem criados ou modificados pela tecnologia.
02:13As multas podem variar de 7 milhões e meio de euros, algo perto de 48 milhões de reais,
02:21a 7% do faturamento global das empresas, dependendo da gravidade da infração.
02:27A legislação europeia é considerada a primeira do mundo a estabelecer regras abrangentes
02:33para o desenvolvimento e o uso da inteligência artificial.
02:37Mas os recentes episódios envolvendo OpenAI e Anthropic alimentam uma dúvida.
02:43Será que as novas regras são suficientes para acompanhar o rápido avanço da IA
02:48e os riscos de segurança que acompanham esse desenvolvimento?
02:57Obrigado.
02:57Obrigado.
Comentários