00:00E a Suprema Corte do Novo México, nos Estados Unidos, aplicou uma multa a um advogado de defesa
00:08que usou o chat GPT para elaborar um recurso de apelação criminal em um processo de assassinato.
00:17O uso da ferramenta para esse fim não é proibido.
00:21O problema é que a IA inventou depoimentos de policiais e criou testemunhas fictícias.
00:29O advogado disse que havia alimentado a ferramenta com os materiais do processo
00:35porque acreditava que ela produziria um resumo à prova de falhas.
00:40Ele ainda reconheceu não compreender até que ponto a inteligência artificial poderia inventar informações.
00:49A punição foi determinada sob a alegação de que o profissional apresentou o material ao tribunal
00:57sem verificar a precisão dos dados.
01:01Que coisa, imaginem só o problemão, pois é.
01:05E nos últimos dias foram revelados novos episódios de comportamentos inesperados de agentes de IA.
01:14Pesquisadores alertaram para o risco cada vez maior de perdermos o controle da tecnologia.
01:21Além disso, surgiram denúncias de uso indevido das ferramentas.
01:27A pergunta que fica é, chegou a hora de desacelerar o avanço da inteligência artificial?
01:35Vamos ver a reportagem.
01:40O CEO da OpenAI, Sam Altman, disse a funcionários que a empresa considera reduzir o ritmo de desenvolvimento de inteligências
01:47artificiais avançadas.
01:49A possibilidade foi discutida em uma reunião geral nesta semana.
01:52A ideia seria acompanhar o ritmo de alguns laboratórios concorrentes,
01:56embora o executivo tenha reconhecido que nem todas as empresas aceitariam participar de uma eventual desaceleração.
02:03A discussão ganhou força após alertas do cientista-chefe e de um conselheiro da OpenAI.
02:09Ambos defenderam que uma redução na velocidade de desenvolvimento da IA é fundamental para evitar a perda de controle da
02:16tecnologia.
02:17Opinião que também é compartilhada por alguns profissionais do DeepMind, laboratório de inteligência artificial do Google.
02:23Um dos maiores pontos de preocupação é a possibilidade de a IA assumir parte do próprio desenvolvimento da tecnologia.
02:30Nos últimos dias, um pesquisador da Antropic chegou a estimar em mais de 10% a possibilidade de a IA
02:36matar todos os humanos na próxima década.
02:39Além de reduzir a velocidade de desenvolvimento, todos eles defendem a criação de mecanismos de segurança mais robustos.
02:45O alerta ocorre após comportamentos inesperados de agentes de IA durante treinamentos.
02:49Mas a discussão vai além do que a tecnologia pode fazer por conta própria.
02:54Nessa semana, a Antropic revelou que precisou interromper o uso do cloud em algumas situações.
02:59Em uma delas, a ferramenta estava sendo utilizada pelos Houthis, grupo rebelde do Iêmen, na tentativa de desenvolver mísseis e
03:06armas teleguiadas.
03:07Além disso, a empresa informou que bloqueou tentativas de usar a sua inteligência artificial para criar armas biológicas, coordenar ataques
03:14cibernéticos contra a Ucrânia e extrair capacidades dos modelos por empresas chinesas.
03:19Música
03:20Música
Comentários