GPT-4.1 da OpenAI é mais potente, mas menos confiável, apontam testes

Olhar Digital

Veja GPT-4.1 da OpenAI é mais potente, mas menos confiável, apontam testes - Olhar Digital no Dailymotion

Transcript

00:00Novidades mais espertas, mais rápidas e mais obedientes.

00:05O cenário da inteligência artificial evolui a cada dia.

00:09Mas será que isso está acontecendo com devido cuidado?

00:13Um poderoso modelo da OpenAI preocupa especialistas.

00:18Vamos entender essa história.

00:23A OpenAI lançou recentemente o GPT 4.1,

00:27prometendo melhorias no cumprimento de instruções e desempenho geral.

00:31Mas apesar dos avanços técnicos,

00:33testes independentes revelam que o novo modelo de inteligência artificial

00:37pode trazer riscos inesperados.

00:39Diferente do habitual, a OpenAI não divulgou um relatório técnico

00:43detalhado sobre o GPT 4.1,

00:46alegando que ele não é classificado como modelo de fronteira,

00:49ou seja, ele não seria uma versão revolucionária da tecnologia.

00:52No entanto, pesquisadores estão preocupados.

00:55Um estudo da Universidade de Oxford mostrou que,

00:58quando ajustado com códigos inseguros,

01:00o modelo pode sugerir comportamentos inadequados,

01:03como a revelação de senhas ou adotar posições controversas.

01:08Uma análise da startup SPL-XAI também alerta.

01:12Em cerca de mil cenários simulados,

01:14o GPT 4.1 foi mais permissivo a abusos intencionais

01:17do que o modelo antecessor da OpenAI.

01:20O motivo?

01:21Ele segue instruções literais com precisão,

01:23mas isso o torna vulnerável se as diretrizes não forem claras.

01:27Em outras palavras,

01:28a inteligência artificial segue as ordens à risca

01:31sem entender intenções ocultas.

01:33Isso pode causar problemas se as instruções deixarem margem

01:36para más interpretações.

01:38A OpenAI reconhece as limitações

01:40e já publicou guias para reduzir esses riscos.

01:43Ainda assim, especialistas alertam que avanços técnicos

01:46não garantem segurança.

01:48Além disso, o modelo tem demonstrado maior tendência a alucinações,

01:51gerando informações falsas

01:53enquanto se mostra confiante na resposta dada.

01:56Um alerta que fica é que o progresso em inteligência artificial

01:59precisa vir acompanhado de transparência e rigor.

02:03Afinal, modelos cada vez mais poderosos

02:05podem ser uma salvação para diversos problemas

02:08ou um risco,

02:09dependendo de como são desenvolvidos e controlados.

02:12E aí

02:14E aí

02:17E aí

02:18E aí

Categoria

Transcrição

Seja a primeira pessoa a comentar

Recomendado