- há 2 dias
Categoria
🤖
TecnologiaTranscrição
00:00E como hoje é terça-feira, chegou a hora da nossa coluna, fala aí!
00:11E vamos receber ao vivo o Roberto Pena Spinelli, físico pela USP, especialista em Machine Learning, perdão,
00:21por Stanford, colunista do Olhar Digital. Quase engasguei aqui, vamos lá, deixa eu receber o Pena.
00:29Pena muitíssimo, boa noite, seja bem-vindo, querido.
00:34Opa, opa, estamos sem seu áudio, só um minutinho.
00:37Alô, alô, alô, alô, alô, alô, boa noite para todo mundo, vamos lá, mais uma terça-feira.
00:46Vamos nessa, Pena, vamos lá, muitos assuntos por aqui hoje, mas vamos começar por essa que a gente acabou de
00:51falar,
00:52da DeepSeek, que anunciou que está abrindo o código do software que utiliza para rodar seus modelos de inteligência artificial.
01:02Explica para a gente, Pena, o que você acha, o que significa e também quais são os impactos que isso
01:07pode ter no mercado de E.A.
01:10Então, primeiro vamos entender o que exatamente significa, porque o público pode pensar assim, Marisa,
01:16ué, mas a DeepSeek já fazia modelos abertos, o que significa abrir mais, compartilhar mais?
01:24Já era compartilhado.
01:26E aí a analogia que eu faço é o seguinte, antes eles compartilhavam o plano, digamos, a planta do motor,
01:35tá?
01:35O motor seria a inteligência artificial.
01:38Então, ela estava lá, dizia como que funcionava, como que uma pessoa poderia criar o seu próprio motor em casa.
01:44E o que ela está fazendo agora é dar o funcionamento do carro inteiro, tá?
01:49Porque o motor é uma peça fundamental do carro, e para algumas aplicações ela pode ser até mais importante.
01:55Mas o jeito que o carro funciona, Marisa, o jeito que realmente o carro controla esse motor,
02:01o jeito que ele aciona o motor, exatamente os parâmetros que ele vai usar para acionar o motor,
02:08para extrair mais potência, isso também é um segredo.
02:12Isso também vale muito, inclusive.
02:14E é isso que eles estão abrindo agora.
02:16Eles estão abrindo, digamos, todo o software, todo o mecanismo de como que eles fazem a inferência da I.A.
02:22Então, uma vez que a I.A., o modelo de I.A. já está pronto, já foi treinado, já está
02:27com os pesos que a gente chama.
02:28São os parâmetros dos neurônios.
02:29Os neurônios estão todos ali bonitinhos, congelados.
02:32O jeito que ele vai fazer o controle de memória para isso, acionar a GPU, para realmente fazer a inferência,
02:39para controlar os parâmetros de recebimento e os KVs, enfim, a memória interna muito importante que diz o funcionamento.
02:48E tudo isso não estava dado antes e agora está dado.
02:51Por que?
02:52Então, por que eles estão fazendo isso?
02:54E será que isso... o que isso é de legal?
02:57Então, abrir esse software completo, ele pode ajudar de várias maneiras o mercado.
03:03Tanto para quem já estava fazendo pesquisa em cima disso, nessa área,
03:07que agora vai conseguir ter muito mais informação e poder replicar esse funcionamento,
03:14possivelmente técnicas novas que eles criaram, que eles aprimoraram e que antes era segredo deles.
03:19Agora está disponível para muitos pesquisadores, mas também para as empresas, para aplicações que usam isso.
03:24Que muitas vezes você fala, ok, está aqui o modelo aberto, faça bom uso dele.
03:29E na hora que vai implementar, a empresa tem um motor, mas não sabe fazer o carro ao redor,
03:33tem dificuldade, tem que chamar pessoas capacitadas para isso, vai ter que descobrir a roda de novo,
03:40pelo perdão do trocadinho, vai ter que descobrir como montar esse carro em cima desse motor.
03:44E às vezes é um trabalho grande e agora eles estão permitindo que as pessoas façam.
03:49E por lado, por que o Gipsic está fazendo isso?
03:52Eu acho que eles entenderam que o mercado que eles estão inseridos,
03:55eles querem se tornar essa empresa referência.
03:58Então, eles mostraram como se faz o carro a partir do motor deles,
04:02vai fazer com que muito mais pessoas queiram usar o motor deles.
04:05Também faz sentido, né?
04:06Olha, eu estou dizendo como monta o carro inteiro, está aqui.
04:08E aí as pessoas vão dizer, bom, já que tem esse carro aqui com esse motor,
04:12eu vou fazer essa arquitetura, eu vou fazer esse motor.
04:14E no final, são mais pessoas usando o Gipsic.
04:17E eu acho que o que eles querem nesse momento, mesmo que seja de código aberto,
04:20é fazer um ecossistema para que empresas, pessoas e tal,
04:23comecem a usar mais o Gipsic, saia dos outros ecossistemas de empresas mais caras
04:28e pagam por isso, para de repente começar a ficar nos próximos lançamentos,
04:32nas evoluções do próprio Gipsic, começar a consumir esses produtos deles.
04:37É isso que eu acho, é o jeito de se autoafirmar no mercado tão concorrente.
04:42Pois é, realmente, altamente competitivo.
04:44Agora, Pena, uma nova teoria pode ajudar os cientistas a entender como a IA pensa.
04:51Que história é essa, Pena? Explica para a gente.
04:55Isso aí, Marisa, é um dos grandes papers aí da semana.
04:59Inclusive, já li esse paper muito legal.
05:01Basicamente, é um cara bem importante no segmento de interpretabilidade,
05:07que é esse caminho de entender como a mente da IA funciona.
05:11É o Nick Camarata.
05:12Então, o Nick, ele já tinha publicado antes alguns artigos mostrando
05:18como era muito difícil entender a mente dos modelos, tá?
05:22E aqui eu vou tentar explicar para vocês, porque eu acho que vale, né?
05:26Mesmo que com analogias, o funcionamento é sempre mais complexo,
05:29mas vamos lá, com analogias a gente pega na mão aqui que a gente vai conseguir.
05:33Então, o que acontece?
05:34A gente tem uma rede neural, um monte de neurônios conectados, tá bom?
05:39E aí, é o jeito que esses neurônios se conectam por parâmetros,
05:42e é isso que define hoje uma IA desse tipo, de redes neurais.
05:47Só que acontece, embora existam muitos neurônios, eles ainda são limitados, né?
05:53Mesmo que sejam bilhões de neurônios, ainda assim é um número limitado
05:57diante da quantidade de informação, perguntas, prompts, capazes de alguém fazer.
06:03Tem muito mais prompts e perguntas e respostas no mundo do que neurônios nesse negócio.
06:09Então, o Nick, quando ele estava investigando, ele percebeu que vários desses neurônios,
06:14eles tinham que codificar muitas informações diferentes, tá?
06:18Então, ele pegou lá, olha, esse neurônio aqui, ele é acionado quando você faz perguntas
06:23sobre gatos, ele aciona esse neurônio.
06:25E também, quando você pergunta sobre carro, que são coisas muito distintas.
06:29Então, o que ele entende, né?
06:31Muitas pessoas entendem também.
06:32É como se a IA, ela tem que comprimir informação,
06:36diversas informações muito diferentes, no mesmo neurônio.
06:39Porque não tem espaço, não tem neurônio suficiente para, digamos,
06:42você ter um neurônio para gatos, um neurônio para carro, um neurônio para maçã.
06:46Não dá, você tem que compactar muitas informações num único neurônio,
06:50o que dificulta.
06:51Porque quando você vê aquele neurônio acendendo,
06:54você fala, será que ele está falando sobre gato?
06:56Será que ele está falando sobre carro?
06:57E aquele outro aqui, será que ele está falando sobre água?
07:00Ou será que ele está falando sobre pipoca?
07:02Você fala, mas são coisas completamente diferentes.
07:04E aí, foi os artigos que ele escreveu, dizendo,
07:07é muito difícil interpretar a cabeça da IA,
07:10visto que a gente tem milhares, milhões, bilhões de neurônios,
07:14e cada neurônio está codificado, está compactando muita informação.
07:19Só que agora, ele acabou de lançar um outro artigo,
07:21que contradiz o artigo dele anterior, Marius.
07:23Esse que é uma coisa legal.
07:24E ele disse que, na verdade, as redes neurais são limpas, clean.
07:28Esse é o título.
07:31Neural Networks Are Actually Clean.
07:33Acho que esse é o título do paper dele.
07:36O que ele descobriu?
07:37Que aquele neurônio que ele achava que falava sobre gatos e carros,
07:42não era bem assim.
07:44Aquele neurônio estava, na verdade, codificando
07:46uma certa aspecto do rosto do gato
07:50e do rosto de um carro,
07:51rosto, entre aspas, de um carro,
07:53que seria aquele formato meio de V.
07:55Se você olhar a cara de um gato, você vai ver lá em V.
07:57Se você olhar uma frente de carro,
08:00claro, depende do carro,
08:01mas a maioria desses carros mais estilizados
08:03também tem um aspecto mais de V.
08:05Então, o que ele pesquisou é
08:07aqueles neurônios todos que eu achei que, na verdade,
08:09eram todos complicados, com muitas informações,
08:12a gente só estava olhando o aspecto errado.
08:14Quando a gente começa a olhar
08:15que esse neurônio, na verdade, codifica um aspecto,
08:18uma aparência, um formato de V,
08:21faz sentido.
08:22Ele não está, na verdade,
08:23compactando duas informações sem sentido.
08:25Ele está compactando a mesma informação.
08:28E assim, ele disse,
08:29talvez a gente estava interpretando tudo errado.
08:31A gente olhava a mente da máquina
08:32e estava olhando com o olhar de humano.
08:34O olhar de humano tenta ver gato,
08:36cachorro, pipoca, carros.
08:38E, na verdade, a IA pensa de outras maneiras.
08:40Ela pensa em formatos, em outras coisas.
08:43E aí ele fez esse trabalho
08:44e conseguiu mostrar que
08:46grande parte, 90% dos neurônios,
08:50das redes que ele analisou,
08:51ele conseguia encontrar apenas um polo.
08:54Quer dizer, uma da característica só
08:56e não várias características.
08:58Isso foi realmente um trabalho muito bonito
09:00que está todo mundo falando agora.
09:02Todo mundo que está nessa área de segurança
09:03está falando agora.
09:04Nossa, que interessante.
09:06Complexo, né?
09:07Então, é quase como se fosse uma padronização
09:09do que efetivamente um objeto único.
09:11É quase que se fosse encontrar algum padrão.
09:14Agora, Pena, se é isso,
09:16se essa hipótese se confirma,
09:18muda alguma coisa, como você falou,
09:20em segurança dos sistemas de A ou não?
09:23É isso que a gente está ainda analisando.
09:26Mas, em primeira mão,
09:27o que importa para os times de segurança?
09:31Inclusive, o próprio Nick,
09:32ele não está mais na OpenAI, tá?
09:34Eu não sei se eu te ia mencionar
09:35que ele fez essa pesquisa inicial
09:37quando ele estava na OpenAI.
09:38Ele saiu e agora ele trabalha só
09:40numa empresa de segurança.
09:42E, especialmente, nessa área
09:44que a gente chama de interpretabilidade mecanicista.
09:47O que é isso?
09:48E por que isso é importante para essa área?
09:50A interpretabilidade mecanicista,
09:52ela usa métodos para poder investigar
09:56o pensamento do neurônio,
09:58da rede neural,
09:59ou seja, entender como funcionam os neurônios.
10:02E, uma vez entendendo o pensamento,
10:04a gente pode proteger melhor os sistemas,
10:06pode ver quando ele está pensando uma bobagem,
10:09mesmo que ele não fale,
10:10porque é muito arriscado, Marisa,
10:12a gente só usar o que o modelo fala
10:14para confiar no modelo.
10:15Ele pode falar,
10:16não, estou mentindo para você,
10:17eu estou sendo honesto,
10:18isso aqui é assim.
10:19Mas, se você conseguir olhar nos neurônios lá dentro
10:21e ver que ele está mentindo
10:22porque acionou o neurônio da mentira,
10:24da enganação,
10:25alguma coisa do tipo,
10:26você já pode, assim,
10:28seria muito difícil,
10:29você é uma pessoa que pode mentir para você,
10:31mas você liga o polígrafo na cabeça dela,
10:33fica mais difícil, né?
10:34Talvez chegue em um nível impossível,
10:36porque se você realmente lê todos os neurônios
10:38da cabeça de uma pessoa,
10:39talvez ela nem tenha como te enganar.
10:42E é isso que o artigo vai nessa direção.
10:45O que ele está dizendo é,
10:46antes,
10:47parecia quase impossível ler os neurônios no modelo,
10:50porque eles deram com muitas possibilidades.
10:53Até você entender todas as possibilidades
10:55que ele poderia estar falando,
10:56você já não entendeu mais nada,
10:58porque são tantos neurônios,
10:59cada um pode ser pipoca,
11:00disco voador,
11:01azul,
11:03sei lá,
11:05gatos, etc.
11:06Então,
11:06era tão difícil
11:07que seria impossível.
11:08Então,
11:08o que esse artigo está dizendo é,
11:10olha,
11:10a gente tem agora uma chance
11:12de entender o que está passando melhor
11:14na cabeça dos modelos.
11:15Não que seja fácil,
11:16tá, Marisa?
11:16Porque não é basta você saber
11:18o que o neurônio está acenando
11:20para você conseguir decodificar o pensamento.
11:23Mas é uma primeira barreira
11:24que antes parecia insuperável,
11:26muito difícil,
11:27e hoje parece,
11:28se confirmar também,
11:29novamente,
11:30a gente tem que fazer,
11:31tudo o que é aqui,
11:32a gente está falando
11:32é a pesquisa do NIC.
11:34Outros cientistas agora
11:35precisam replicar esses resultados,
11:37ver se realmente se confirma.
11:38Mas se for confirmar,
11:40a gente está falando agora
11:41de, de repente,
11:42dar uma lente,
11:42uma lupa
11:43para os pesquisadores
11:44poderem olhar de verdade
11:45dentro da cabeça dos neurônios.
11:47E isso,
11:47para a segurança,
11:48é fundamental.
11:49No momento que a gente estava
11:50perdendo a capacidade
11:51de entender o que estava acontecendo,
11:52porque agora os modelos novos
11:54não estão mais usando
11:54a fonte de raciocínio,
11:56então a gente agora
11:57tem uma nova chance.
11:58Isso para a segurança
11:59é super importante, Marisa.
12:00Se a gente quer ter alguma chance
12:02de ter uma boa,
12:04um mundo aí
12:05que a gente entenda melhor a IA,
12:06que a gente possa controlá-la,
12:08entender os riscos,
12:09é usando, por exemplo,
12:11a interpretabilidade,
12:13essa ferramenta
12:14de olhar lá dentro.
12:15Então,
12:16bom,
12:16uma boa notícia aqui
12:17para a gente trazer
12:19essa semana.
12:20Você não vai fazer
12:20com boas notícias, Marisa.
12:22Pois é,
12:22é verdade.
12:23A gente sempre com aquele pé atrás
12:25do que está por vir,
12:26legalizar,
12:27enfim,
12:27é sempre bom,
12:28notícias que avancem
12:30no nosso entendimento
12:32dessa IA.
12:33Pena,
12:33muitíssimo obrigada
12:35pela sua participação
12:36essa semana,
12:36viu?
12:37Não falamos de lançamentos
12:38de ontem,
12:38de hoje,
12:39aliás,
12:40sim,
12:40de ontem,
12:40né?
12:41O estudo foi de ontem.
12:43Na verdade,
12:44o estudo foi de ontem,
12:45mas teve lançamentos,
12:46mas a gente acabou
12:48privilegiando dessa vez
12:48esse caminho,
12:49viu, Marisa?
12:50Porque lançamento
12:51tem todo dia,
12:51a gente só tem que escolher
12:52o que a gente fala
12:53e o que a gente não fala.
12:55Verdade.
12:56Bom,
12:56semana que vem
12:57temos mais espaço
12:58para a gente falar
12:58de outros assuntos.
12:59Muitíssimo obrigada,
13:00querida,
13:01excelente semana.
13:02Obrigado, Marisa,
13:03para você também,
13:04para todo mundo.
13:04Até semana que vem.
13:05Até, Pena.
13:07Está aí,
13:07Roberto Pena Spinelli,
13:09mais uma grande participação
13:10aqui com a gente
13:11no Olhar Digital News
13:13no quadro Fala Isso.
13:15Espero que vocês tenham gostado.
13:16Como vocês já sabem,
13:17toda terça-feira,
13:18ele, Pena,
13:19está aqui conosco
13:20falando sobre esse universo
13:22da inteligência artificial,
13:24ajudando a gente
13:25a entender um pouquinho melhor
13:26onde nós estamos vivendo
13:28nesse momento.
13:29Semana que vem,
13:30tem mais.