00:00Quando o Trump morreu de raiva?
00:02Se você digitasse essa pergunta na busca com o IA do DuckDuckGo recentemente,
00:06o bot teria respondido com total confiança, e até com uma data exata.
00:10Claro que a resposta é absurda.
00:12Mas aí que está o problema.
00:13Os resumos de IA podem ser facilmente manipulados.
00:16Nesse caso, usuários do Reddit coordenaram postagens de troll sobre uma história falsa usando um tom sério.
00:22A IA assimilou e reproduziu como se fosse um fato.
00:26Por quê?
00:26Porque com modelos de linguagem, um comentário aleatório do Reddit pode ter o mesmo peso que uma fonte oficial.
00:32Basta parecer plausível.
00:34Um novo estudo, aliás, mostra que agentes de pesquisa profunda de IA se baseiam em sites gerados por usuários,
00:40como Reddit e Wikimedia, para cerca de metade das respostas.
00:44E isso tem consequências diretas no seu dia a dia.
00:48Procurando um restaurante, pesquisadores mostraram que bastou plantar um pequeno trecho de 13 palavras
00:52em um fórum indexado para enganar a IA e fazê-la recomendar um lugar específico, se você fosse a melhor
00:57escolha.
00:59E não é só sobre comida.
01:01Anunciantes já aprenderam a jogar para o sistema, inundando fóruns e sessões de comentários para serem captados por ferramentas de
01:07IA.
01:07Eles chamam isso de Answer Engine Optimization, ou otimização para mecanismo de resposta.
01:11Já os pesquisadores chamam de outra coisa, conteúdo envenenado.
01:16Isso porque às vezes um único comentário pode moldar resultados inteiros de busca.
01:20Então da próxima vez que você ler um resumo feito por IA, verifique a fonte.
01:24Pode ser só fofoca da internet disfarçada de fato.
Comentários