- há 6 horas
Categoria
🤖
TecnologiaTranscrição
00:00E aproveitando que hoje é terça-feira, chegou a hora da nossa coluna, fala aí!
00:12E vamos receber Roberto Pena Spinelli, que é físico pela USP, especialista em Machine Learning por Stanford
00:20e colunista do Olhar Digital. Vamos lá? Deixa eu receber o Pena aqui nos nossos estúdios.
00:28Cadê o Pena? Tá por aqui. Olá, Pena! Boa noite, querido! Bem-vindo!
00:33Tudo bem, Marisa? Boa noite! Boa noite pra todo mundo!
00:36Vamos ao local, então, de Física, hein, Marisa?
00:39Pois é! Muito oportuno, aliás, que seja hoje, terça-feira, com a sua presença aqui, que é a sua área,
00:45inclusive, não é, Pena?
00:46Pra comentar um pouco sobre esse Prêmio Nobel de Física, né?
00:50Qual é a aplicação prática, Pena, dessa chamada astronomia de neutrinos? Conta pra gente!
00:59Então, hoje eu tô vestindo a minha roupa de físico aqui, Marisa.
01:02Isso!
01:03Depois a gente fala sobre a área, mas vamos lá.
01:06O que é um neutrino? Acho que é importante primeiro falar pras pessoas o que é um neutrino.
01:09O neutrino é uma partícula extremamente pequena que não tem carga.
01:13E por conta disso, é muito, muito, muito difícil de detectar,
01:18porque ela passa pela Terra, por exemplo, o neutrino do Sol, tá?
01:23Vem neutrino de um monte de lugar.
01:24E aí atravessa a Terra inteira e não interage com nada, ele vai embora, né?
01:28Agora, no meu corpo, tá passando aqui milhares, milhões de neutrinos agora,
01:33está passando pelo meu corpo, pelo de vocês, de todo mundo.
01:35E ele não interage, ele não faz nada.
01:37Então, é muito difícil de detectar.
01:38Então, a ideia desse, do pesquisador que veio, foi...
01:43E se a gente tem que criar algum tipo de armadilha pra conseguir aprisionar o neutrino?
01:48E ele teve essa grande sacada, o Francis Holland,
01:52de se a gente usasse o gelo da Antártica pra poder fazer esse serviço.
01:56Então, atravessa no gelo da Antártica, atravessa inteiro.
01:58Só que, de vez em quando, um ou outro vai lá e interage.
02:01E a gente consegue, então, detectar a presença dessa interação,
02:05como já foi mostrado aí, justamente, no vídeo anterior.
02:09Mas, então, qual é a grande importância disso?
02:12Por que é importante a gente pegar neutrino?
02:15Acontece, Marisa, que, assim como a gente aprendeu a ler o espectro de luz,
02:22além da luz visível, então a gente consegue ver ondas de rádio.
02:25E, assim, a gente pode ver um monte de fenômenos no universo
02:28que tinham ondas de rádio.
02:29Inclusive, a gente inventou o rádio, o aparelho rádio e a TV
02:33que usam ondas de rádio, justamente porque a gente dominou
02:36essa nova tecnologia, esse novo jeito de enxergar o mundo.
02:40Assim como a gente consegue ouvir no ultrassom,
02:44ouvir sons que, sei lá, o orcego produz,
02:46que a gente não consegue ouvir exatamente,
02:48e a gente ampliou nosso entendimento do universo.
02:52Usando ondas gravitacionais, como o LIGO,
02:56uma interferência de ondas gravitacionais,
02:58a gente conseguiu entender como que buracos negros se chocam.
03:01Quando a gente consegue detectar neutrinos,
03:04abre-se uma nova anela para o universo, Marisa.
03:07É simplesmente uma nova lente, uma nova possibilidade
03:09de a gente enxergar fenômenos que estão acontecendo o tempo todo.
03:13Explosões de supernova, choques de estrelas,
03:16nebulosas que estão irradiando, que passam por processos que esquentam muito,
03:21começam a irradiar.
03:22Vários outros processos que acontecem no universo emitem neutrinos.
03:27E agora a gente consegue, agora não, porque foi desde 2010, na verdade.
03:31O Prêmio Nobel sempre é dado a um trabalho que já foi estabelecido.
03:35Então, desde 2010, que esse Ice Cube, esse grande laboratório,
03:41esse grande observatório de neutrinos, vem funcionando
03:44e abriu uma nova janela para o universo.
03:47E é isso que, no final, o Nobel está comemorando.
03:50Que foi, basicamente, a curiosidade, viu, Marisa?
03:53Normalmente o Nobel é dado para vários físicos, né?
03:56O Nobel de Física é dado para vários físicos.
03:59Que compartilham.
04:00Porque é raro você, um cara sozinho, ter uma grande invenção, assim, é raro.
04:04Então, normalmente, são dois, três.
04:07Nesse caso, foi apenas para um, né?
04:09O Francis Halsen.
04:11Por quê?
04:12Aí você fala, ué, mas esse observatório precisou de um monte de gente para construir.
04:16Porque, realmente, é um empreendimento gigantesco, gigantesco.
04:19São sensores a dois quilômetros de profundidade na data.
04:22É cinco mil sensores.
04:24É um negócio absurdo.
04:25Só que, nesse caso, Marisa, ele foi o grande idealizador.
04:29Ele foi a pessoa que concebeu a possibilidade de criar esse laboratório
04:33e ele liderou tudo.
04:34Então, assim, ele foi, de longe, a pessoa que esteve à frente do processo todo.
04:39Então, meio que, nesse caso, foi para, justamente, parabenizar,
04:43para, justamente, enaltecer a postura desse pesquisador,
04:47que foi, digamos, muito acima do que qualquer outro.
04:50Então, parabéns aí para o Francis Halsen por essa conquista,
04:54por abrir uma janela nova para o universo para a gente.
04:56Pois é, sensacional mesmo.
04:58Muito interessante.
05:00Bom ter você aqui para explicar para a gente melhor o que isso significa.
05:04Muito legal, Pena.
05:05Mas, agora, vamos lá para o nosso assunto de toda semana,
05:10as novidades que vêm por aí sempre da IA.
05:12Mas eu queria falar com você um pouquinho sobre os riscos da IA, não é, Pena?
05:17Que foram pauta de uma audiência do Conselho Municipal de Nova Iorque.
05:22Mas as empresas do setor, elas evitaram boa parte das perguntas mais diretas,
05:29vamos dizer assim, sobre a tecnologia.
05:31Qual é a sua avaliação sobre essa postura, Pena?
05:35Eu achei interessante que a Câmara Municipal de Nova Iorque falou assim,
05:39olha, a gente está preocupado aqui.
05:42Vamos fazer uma audiência com todos esses donos de Big Tech para falar sobre risco.
05:48Todo dia está escapando da caixa, tendo ataque.
05:50Agora mesmo, você mesmo citou casos da OpenAI, da IA da OpenAI,
05:55vindo aí, governo da Austrália, enfim.
05:59Todo dia está aparecendo e aí a Câmara de Nova Iorque falou assim,
06:03quer saber, vamos chamar todo mundo aí,
06:05um representante de cada uma dessas empresas para falar sobre riscos.
06:09E os representantes estavam todos ali dizendo,
06:12sim, realmente riscos são importantes.
06:14A gente já passou do ponto, Marisa, e eu acho que vejo isso com bons olhos,
06:17que não tem mais esse negacionismo, que não tem risco.
06:20Já não dá mais para você simplesmente falar que não tem,
06:23porque já está acontecendo, né?
06:24Entre aspas, os aviões já estão caindo, já estão tendo esses ataques,
06:27já estão tendo essas escapadas, então não dá mais para negar.
06:31E as empresas falam todas, não, realmente, a gente precisa lidar com riscos.
06:35Só que aí, chega a hora de confrontar, né?
06:38Então, a pergunta foi, tá, e quanto é esse risco?
06:42E aí, a resposta, ninguém disse nada.
06:45E é mais isso, né?
06:47Qual é o limite de risco para você não lançar um produto,
06:51para você não desenvolver um produto?
06:55E mais ainda, e se você lançar esse produto e der ruim,
06:58quem é responsável, né?
07:00E essas são as perguntas importantes, Marisa,
07:03porque eles falam toda hora que tem risco, né?
07:05Ah, é o risco, mas quanto é esse risco?
07:09É muito difícil de mensurar,
07:11e as perguntas que têm que ser feitas é,
07:14tá bom, tem risco,
07:15mas qual o limite, então, aceitável de risco?
07:18Qual o aceitável que nós, humanidade, toleramos,
07:22ou vocês, empresas que estão desenvolvendo, toleram,
07:24para poder lançar?
07:26E ninguém disse nada,
07:28ninguém chegou, deu aquela escapatidade,
07:30fica aquela coisa, ah, veja bem, não sei o quê.
07:32A própria Morgan Dwyer, que é representante da OpenAI,
07:36ela disse o seguinte,
07:37falou assim, olha, qualquer risco existencial,
07:40catastrófico, é inaceitável.
07:42Mandou essa, inaceitável.
07:47Mas, qual o risco?
07:48Já tem esse risco? Qual o risco que tem?
07:50E aí, não falou.
07:53Ninguém falou.
07:54É claro que você pensa assim,
07:56é possível calcular esses riscos,
07:58mas é muito difícil,
07:59visto que é uma tecnologia nova,
08:01visto que tem um monte de dúvidas,
08:02que tem um monte de questões por trás.
08:04É extremamente difícil avaliar esses riscos.
08:08Mas, é por isso que é muito importante,
08:11então, que a gente pare e avalie.
08:13Porque, se ninguém sabe avaliar direito isso,
08:16a gente não tem um número,
08:17não tem um método para dizer qual é o risco atual da IA,
08:21ou do próximo IA,
08:21para um risco catastrófico,
08:24se a gente não sabe dizer.
08:25Então, é melhor a gente, primeiro,
08:28gastar muito esforço,
08:29parar de treinar os novos modelos,
08:31gastar muito esforço para calcular.
08:32Porque pode ser que seja até maior do que a gente acha.
08:35E mesmo que seja pouco,
08:38qualquer pouco,
08:391% de um risco catastrófico,
08:412%, Marisa,
08:42já é inaceitável.
08:43Como disse a Morgan Dwyer,
08:45é inaceitável, mas e aí?
08:46E chega em qual ponto?
08:47Eu sempre falo para as pessoas,
08:49você pegaria um avião
08:51que tem 5% de chance de cair?
08:54Eu não entraria no avião.
08:56Eu não sei se você, Marisa,
08:57mas eu, o quê?
08:59Ah, mas 5% é pouco.
09:00Eu sei, mas é a minha vida.
09:035% é 1 e cada 20.
09:04Cada 20 aviões que eu pego, um cai.
09:07Eu não pego avião, não.
09:08Vai que é o próximo.
09:09Eu acho que é isso que a gente precisa.
09:12Agora, está perguntando,
09:13não sei se é 5, 10, 20, 50, 1%.
09:16Ninguém sabe.
09:17Mas se ninguém sabe,
09:19a gente tem que saber.
09:21Então, no final das contas,
09:22essa foi a crítica.
09:24Ok, todas as empresas já estão lá
09:26na Câmara de Nova York
09:27dizendo sobre riscos
09:28e nenhum deles sabe fazer essa conta.
09:30E todos eles dizem que é inaceitável.
09:32Então, acho que a gente tem que fazer
09:33essa conta, Marisa.
09:34Pois é, a discussão é boa,
09:36é importante, mas realmente
09:37precisa ir além,
09:38de somente saber que riscos existem.
09:41Agora, pena,
09:43pesquisadores criaram uma tecnologia
09:45que identifica via sinais cerebrais
09:49quando uma IA interpretou errado
09:51o que a pessoa queria,
09:53na verdade, fazer,
09:55sem precisar até de correção verbal.
09:57Eu queria que você explicasse melhor
09:59para a gente essa história
10:00que chegou aqui.
10:01Essa história é muito doida, Marisa.
10:04Basicamente, a gente tem como
10:07medir ondas cerebrais, tá?
10:08Isso não é uma novidade.
10:10Toda vez que você foi no médico
10:12e colocou lá aqueles eletrodos
10:14na cabeça e fez um eletroencefalograma,
10:16o que o médico está fazendo
10:18é medir as suas ondas cerebrais,
10:20está lá avaliando se está tudo bem,
10:22se sua onda alfa, beta, gama, ômega,
10:26está tudo legal.
10:27E a gente já sabe fazer isso.
10:30Essas ondas cerebrais, Marisa,
10:32elas não conseguem, por exemplo,
10:33dizer o que você está pensando.
10:34Não é assim,
10:35ah, estou pensando no elefante.
10:36Aí aparece lá no exército e fala,
10:38olha, você pensou no elefante.
10:40Não.
10:40O que o médico consegue fazer no máximo
10:43é dizer assim,
10:43você está nervoso, você está calmo,
10:45você está agitado, você está distraído,
10:48você está focado.
10:49E um desses sinaizinhos é
10:52você está desconfiado.
10:55Você está...
10:56Eles chamam de ERP, o nome de ERP.
11:00É o nome técnico dessa onda.
11:01Não é uma onda,
11:02é um sinal que aparece
11:03quando um ser humano
11:05está ali e sente uma...
11:07Nossa, não era bem assim.
11:09Você fica naquele...
11:11Você tem um sobreaviso.
11:12Você está lá fazendo um negócio,
11:13opa, deu algo errado.
11:15Esse deu algo errado,
11:17aparece um pico ali
11:18numa das ondas
11:19e você consegue detectar
11:20usando um eletroencefalograma.
11:22Isso a gente conhecia já
11:23de algumas décadas, tá?
11:25Só que a novidade agora
11:26é que alguns pesquisadores
11:27pensaram assim,
11:28e se a gente fizesse a IA,
11:30que está lá respondendo para você,
11:32você fez uma pergunta para a IA,
11:33ou você pediu alguma coisa
11:34para um robô, né?
11:36Robô, pega um copo d'água.
11:38Aí o robô vai lá
11:39e pega um copo
11:40que...
11:41Errado, não tinha água.
11:42Veio um copo vazio.
11:44Na hora que você bate o olho
11:46e dá um pulso,
11:47eita, isso está errado,
11:48o robô já receberia
11:49esse sinal.
11:52Opa, eu fiz alguma coisa errada.
11:53Ele já se corrige.
11:54Ah, faltou a água.
11:55Vai lá e pega a água para você.
11:57Então é isso que os pesquisadores
11:58estão querendo.
11:59Estão querendo que os robôs,
12:00e as IAs tenham acesso
12:01a esse sinal de erro.
12:04Veja, não é acessar
12:05nosso pensamento,
12:06mas é acessar
12:07quando a gente tem
12:08um pico de dúvida,
12:10um pico de surpresa,
12:11e usar isso
12:12em prol
12:13da IA
12:14já se autocorrigir.
12:16É uma ideia
12:16muito maluca,
12:17mas é muito legal.
12:20É totalmente possível.
12:22Não tem nada de errado.
12:23Não é uma tecnologia
12:24impossível.
12:26O que é ruim
12:27é que as pessoas
12:27vão ter que ficar andando
12:28com os eletrodos
12:29na cabeça
12:30para fazer isso.
12:31Talvez um dia
12:32as máquinas vão conseguir ler
12:33sem precisar do eletrodo.
12:34Aí sim é maluquice.
12:37Agora, sobre isso,
12:38eu queria até trazer
12:39uma coisa a mais.
12:40Rolou agora
12:40esse fim de semana
12:41o Hack Tudo,
12:41que foi um festival
12:42de arte digital,
12:44de tecnologia,
12:45que a gente da Caramela
12:46sempre participa
12:47com os nossos inventos.
12:49E um dos nossos inventos,
12:50Marisa,
12:51é...
12:51Vou até pegar aqui
12:52para você
12:52um pedaço dele.
12:54Está vendo esse braço
12:54maluco aqui?
12:55Isso aqui?
12:57Isso aqui,
12:57ele fica no motor
12:59e controlado com a mente.
13:01Então, a gente chama
13:02de braço de ferro mental
13:04ou mente de ferro.
13:05Olha que doideira.
13:06A gente coloca isso aqui
13:07numa mesa.
13:08Cada pessoa foi
13:11um...
13:11um...
13:11um...
13:11um...
13:11um...
13:12um...
13:12e ficam as pessoas ali
13:14se concentrando
13:14e o braço vai andando sozinho
13:16e é quem tem a mente
13:18mais forte e vence.
13:19Então, nós aqui
13:20da Caramela,
13:21a gente já está usando
13:22essa tecnologia
13:23mais do que
13:24detectar um erro
13:25para fazer
13:26um braço
13:27mexer
13:28e vencer.
13:29É...
13:29Então, é muito legal.
13:31Quem tiver curiosidade
13:31aplica a dica,
13:32procura aí.
13:34Mente de ferro
13:34é muito legal.
13:35Foi um sucesso.
13:36Foi o maior sucesso
13:37do evento, Marisa.
13:38Posso falar para você?
13:39Gravamos lá,
13:40todo mundo adorou.
13:41E, enfim,
13:42a gente já está usando
13:43essa tecnologia.
13:44Mas sem treinamento nenhum,
13:46como que foi o resultado
13:47do experimento?
13:47A pessoa ficava ali
13:48se concentrando
13:49de virar o braço
13:50e sem treinamento nenhum
13:52o braço virava?
13:54Virava, Marisa.
13:55Assim,
13:55essa é a graça.
13:56Ninguém tem treinamento nenhum
13:57fica lá
13:58e é legal
13:59porque fica ali.
14:00Vai, vai.
14:01Agora,
14:01quando você pega
14:01uma pessoa já treinada
14:03como o meu sócio,
14:03o Vitor,
14:04o Vitor é um fenômeno.
14:05O Vitor põe o negócio lá
14:06e ele ganhava de mim
14:07e eu falei,
14:08pô, não tem graça.
14:09Vou pôr outra pessoa
14:09aqui no lugar.
14:10E é bem legal.
14:11A gente quer ver
14:11se até transforma
14:12no esporte,
14:13no esporte da mente.
14:14Mas quanta coisa
14:15que dá para fazer.
14:17E assim é passado, né?
14:19Esporte da mente
14:19é sensacional.
14:21Muito curioso.
14:22Essa eu fiquei realmente
14:23curiosa de ver você
14:24aí em casa também.
14:25Pois é,
14:26então dá uma olhada aí
14:27como que chama,
14:28como que localiza.
14:30Mente de ferro
14:31e, ó,
14:32está no nosso canal
14:33da Caramelo Bionico
14:34no Instagram.
14:35Se você for lá,
14:35você vai ver
14:36a mente de ferro.
14:37É muito legal.
14:39Tá bom.
14:40Vou olhar também.
14:41Tá aí,
14:42Roberto Pena Spinelli.
14:43Muito bacana
14:44o nosso quadro
14:45aqui hoje, né?
14:46Nós tivemos
14:46umas pequenas
14:47interferências de internet,
14:49mas eu acho que
14:49a conexão daqui mesmo,
14:50que está falhando
14:51um pouquinho,
14:52mas foi muito bem.
14:53Semana que vem
14:53a gente volta
14:54com mais temas.
14:55Tenha uma excelente
14:56semana, Pena.
14:57Até mais, Marisa.
14:58Até semana que vem.
14:59Até.
15:00Beijão para você.
15:02Tá aí, pessoal.
15:03Roberto Pena Spinelli
15:04participando aqui
15:05de mais um
15:07Fala Aí Pra Vocês
15:08com esses assuntos
15:09super interessantes, né?
15:11Semana que vem,
15:12como vocês já sabem,
15:13tem mais.