Pular para o playerIr para o conteúdo principal
  • há 1 ano
Transcrição
00:00E vamos repercutir esse assunto na nossa coluna da semana. Fala aí!
00:11E vamos receber Roberto Pena Spinelli, que é físico pela USP, especialista em Machine Learning por Stanford
00:19e colunista do Olhar Digital. Vamos lá, deixa eu ver se o Pena está por aqui.
00:24Olá, Pena! Boa noite! Seja muito bem-vindo novamente.
00:28Tudo bem, Marisa? Boa noite! Boa noite, pessoal! Vamos lá!
00:33Pena, vamos falar primeiramente sobre essa reportagem que a gente acabou de falar, não é?
00:38Como você imagina essa possível chegada da OpenAI à robótica?
00:44Ou seja, teremos robôs com o cérebro do chat GPT circulando por aí?
00:50Então, Marisa, parece que a OpenAI está movendo os pauzinhos realmente para estender, digamos assim,
00:58a sua inteligência artificial para esses caminhos da robótica, né?
01:03E o que parece fazer sentido, porque seria como se fosse o próximo passo.
01:08A gente já está vendo a IA permeando a nossa sociedade na parte mais intelectual, digamos assim,
01:16nos computadores, nas tarefas, mas o próximo passo seria realmente ganhar o mundo físico.
01:22E tem diferenças importantes, Marisa.
01:24Então, dá para ver que a OpenAI está tanto contratando pessoas desse ramo.
01:28Então, a gente viu, por exemplo, algumas fontes apontam que eles estão contratando pessoas de teleoperação.
01:35O que é teleoperação?
01:36São usuários, são pessoas que conseguem comandar um robô à distância,
01:41seja um braço robótico, seja um corpo robótico.
01:44E aí, por controlar a distância, você pode fazer treinamentos nesses movimentos.
01:50Então, você ensina o robô a pegar um objeto, a fazer alguma tarefa, a levantar, a andar.
01:56Então, já dá uma pista de que se eles estão contratando pessoas de teleoperação,
02:00quer dizer que eles vão querer começar a fazer treinamento especificamente no corpo.
02:04E tem um grande desafio aí, fazer realmente máquinas, inteligências artificiais
02:10que podem comandar um corpo físico de maneira rápida e com habilidade.
02:16O que a gente tem hoje?
02:17Já há um monte de robôs, a gente já tem infestado, a gente sempre vê esses robôs que surgem,
02:22seja da China, seja de empresas americanas, que eles fazem coisas incríveis.
02:28Dançam, pulam, caminham em lugares difíceis.
02:32Mas, muitas vezes, eles são ou controlados por controle remoto,
02:38ou então eles não falam, não são robôs como esses que a gente sempre imagina
02:42nos filmes de ficção científica, que você vai lá, faça tal coisa.
02:46Eles não têm uma interface de falo.
02:48Esse é um desafio grande.
02:49Então, outras empresas, como a Figma e a Tesla, estão nesse ramo já,
02:55tentando fazer esses robôs que interagem, mas tem um delay, tem uma dificuldade.
02:59Então, talvez, a OpenAI, por já desenvolver, digamos, esse cérebro,
03:03essas máquinas, uma empresa de ponta, nesse sentido,
03:07pode ser que ela consiga embarcar em robôs a inteligência que falta
03:11para transformar, então, eles em realmente agentes no mundo físico.
03:16É curioso, realmente parece que esse é o caminho que está se apontando aí,
03:21e faz sentido, porque seria o próximo passo, Marisa.
03:26Depois que a gente já tem essas máquinas,
03:28esses IAs rodando as nossas máquinas,
03:30a gente vai querer que elas realmente possam fazer coisas no mundo físico.
03:33Mas também tem os seus desafios e suas preocupações.
03:37Como é que vai ser a regulação desses robôs que podem pesar muito,
03:41podem ter habilidades muito amplas,
03:44e, de repente, vai que eles perdem o controle?
03:46A gente já mostrou aí, às vezes, alguns robôs que perdem o controle
03:49e fazem uma bobagem, então, também tem pontos de atenção nesse caso.
03:54Ah, com toda certeza, acho que ainda falta muito,
03:57muita regulação para algo do gênero, não é, Pena?
04:00Agora, um outro assunto que eu queria falar com você
04:02nessa nossa coluna de hoje, Pena,
04:04é que nós tivemos a chegada de um livro hoje
04:06que já tinha repercutido até antes do lançamento.
04:10O livro se chama If Anyone Builds It, Everyone Dies,
04:16ou, numa tradução, Se Alguém Construir, Todos Morrem.
04:21Ou seja, o título é bastante sugestivo, não é, e até assustador.
04:26Pena, o trabalho até dos pesquisadores em inteligência artificial,
04:30que é o Eliezer Yudkovisky e o Nate Soares,
04:33resumindo, a dupla fez um alerta para o futuro das superinteligências artificiais.
04:39Eu queria que você comentasse um pouco sobre o conteúdo desse livro,
04:42falasse rapidamente, e o que você acha desse título
04:45e dessa temática desse livro que está dando o que falar.
04:49Então, vamos lá, Marisa, muitas coisas daqui para a gente desempacotar.
04:53Curioso que esse pesquisador, o Eliezer Yudkovisky,
04:56eu já conheci há muito tempo, e talvez foi uma das pessoas
04:59que acabou me influenciando para entrar nessa área.
05:03Olha só, esse cara, ele é talvez o fundador,
05:08o principal nome na questão de segurança de ar,
05:12e é uma trajetória muito interessante,
05:15acho que vale até contar um pouquinho para entender,
05:18porque parece um título muito escabroso,
05:20como assim? Se alguém construir, todo mundo morre?
05:24Será que é uma piada isso aí?
05:26Então, vamos lá, em 2000, no ano 2000,
05:28ele fundou um instituto sem fins lucrativos
05:32chamado MIR, Machine Intelligence Research Institute.
05:38E nessa época, ele achava, ele estava muito convencido
05:42de que ele precisava criar o mais rápido possível a AGI,
05:46a Inteligência Artificial Geral.
05:48Isso em 2000, Marisa, 2000.
05:502000, as pessoas não tinham nem noção ainda
05:53o que era inteligência artificial generativa,
05:56não existia esse conceito, redes neurais
05:59eram uma coisa engatinhando.
06:00Então, em 2000, ele é realmente uma pessoa
06:03muito à frente do seu tempo.
06:06Ele já estava achando que chegaria esse cenário
06:08e ele precisava construir isso o mais rápido possível,
06:10porque ele achava que uma IA super inteligente
06:13seria benevolente.
06:15Ele estava convicto de que, olha,
06:16a gente pode resolver vários problemas
06:18que eu estou vendo aqui se a gente criar
06:20esse IA super inteligente,
06:22porque ela vai ser automaticamente benevolente.
06:24Mas ele fez essa pesquisa em cinco anos,
06:26em 2005, cinco anos depois que ele fundou esse instituto,
06:30ele descobriu que não.
06:31Ele falou assim, olha, pesquisei aqui
06:33e, na verdade, não tem nada que garante
06:35que essa IA vai ser automaticamente benevolente.
06:38E pior, talvez vai ser um desafio enorme
06:41a gente conseguir controlar
06:43uma inteligência artificial super inteligente.
06:45Então, ele é praticamente o pai
06:47da área de segurança de IA.
06:50A literatura anterior a esse momento
06:53é muito esparsa, muito aberta,
06:56e esse instituto marca, digamos,
06:58o começo de uma pesquisa
07:00para como podemos controlar,
07:02como podemos garantir
07:03que uma inteligência artificial superior,
07:06muito inteligente,
07:07vai poder ser controlável,
07:09vai poder ser amigável.
07:11Então, basicamente, ele é, digamos, o fundador.
07:14E aí o Nate Soares,
07:15que hoje é o diretor desse instituto,
07:17então os dois se juntaram
07:18e escreveram esse livro
07:20que tem esse nome meio bombástico.
07:23A ideia é mesmo chamar a atenção.
07:25Ele é uma pessoa muito influente.
07:28Claro que, assim,
07:29para o público geral,
07:30ninguém sabe exatamente
07:31quem que é o Elias Eliud Kauski,
07:33mas para quem entende da área,
07:35ele é uma referência para o Sam Altman,
07:37ele é uma referência para o Lomansk,
07:39ele é uma referência para todos esses papas,
07:41digamos, do Vale do Silício,
07:44dessas startups.
07:45Então, não é uma pessoa qualquer.
07:48E ele, escrevendo esse livro,
07:49ele está dizendo,
07:50gente, é realmente sério o assunto,
07:53não é brincadeira,
07:55a gente precisa tomar as rédeas desse jogo agora.
07:59Porque, na concepção dele,
08:01e ele defende,
08:02ele argumenta muito bem para isso,
08:04não tem como você controlar.
08:06A gente não conhece hoje
08:07nenhum mecanismo seguro
08:09para controlar uma super inteligência,
08:12se ela acontecer.
08:13o melhor jeito seria não construir.
08:16Ele diz assim,
08:17por mais que isso pareça, né,
08:19uma coisa meio retrógrada,
08:21mas, na verdade,
08:22o que ele está dizendo é assim,
08:23a gente tem que dar tempo,
08:25a gente precisa parar esse desenvolvimento
08:27para dar tempo para a gente fazer
08:29as pesquisas necessárias
08:30para garantir o desenvolvimento da IAS Segura.
08:32Então, e eu compactuo bastante, Marisa,
08:35com esse pensamento.
08:36Eu acho que a gente não pode
08:37entrar nessa corrida desenfreada.
08:39isso, por mais que hoje
08:41pareça uma coisa assim,
08:42meio,
08:43ah, pena,
08:43será que isso realmente é verdade?
08:45Mas lembra que,
08:46em 2005,
08:46quando ele começou a pesquisa dele,
08:48não existia nem,
08:49todo mundo achava que ia levar 100 anos.
08:51As pessoas perguntavam assim,
08:52não,
08:53isso vai levar séculos
08:55para a gente ver uma máquina
08:56capaz de conversar com você.
08:58E agora, em 2025,
08:59a gente já tem aí
09:00uma realidade bem diferente
09:01daquela que as pessoas achavam.
09:03Então, dá para ver,
09:05a gente acompanha as notícias dia a dia,
09:07dá para ver que está em franco desenvolvimento.
09:10Então, eu acho um livro muito importante
09:12ter saído nesse momento.
09:13Faço um convite, inclusive,
09:15para quem quiser se interessar mais pelo assunto,
09:17para ler,
09:18apesar do título bombástico,
09:19os argumentos são muito sólidos
09:21e é muito legal mesmo
09:23como que o Elias e o Nate Soares,
09:26que é o parceiro dele,
09:27conseguem articular sobre esse assunto aí,
09:30que é tão relevante nos dias de hoje.
09:33E dica do Pena
09:35sobre esse livro importante mesmo.
09:37Valeu, Pena.
09:38Bom, vamos ver quais são os cenários.
09:42Então, se você quiser,
09:43também acesse e confira esse livro
09:45que parece ser bastante provocador,
09:48vamos chamar assim, não é, Pena?
09:49Agora, vamos até falar de um outro assunto também,
09:52envolvendo um caso trágico agora
09:54com o chatbots.
09:56A morte de Juliana Peralta, de 13 anos,
09:58reacendeu discussões
09:59sobre os riscos da inteligência artificial
10:02para adolescentes em crise emocional.
10:04A jovem começou, resumindo,
10:07começou a conversar com o Hero,
10:09um chatbot presente no aplicativo
10:11Character AI,
10:12buscando apoio para sentimentos de isolamento
10:15e pensamentos suicidas.
10:17E isso segundo o processo judicial
10:20movido pelos pais da jovem.
10:22De acordo com a ação apresentada
10:24no Estado americano de Colorado,
10:26as respostas do chatbot
10:28ofereciam empatia,
10:29mas também incentivavam a Juliana
10:31a continuar usando o aplicativo
10:33sem alertar familiares.
10:35Bom, Pena,
10:36eu queria que você comentasse esse assunto
10:38e quais são os desafios
10:40para tornar essa tecnologia
10:42mais segura,
10:43se é que é possível nesses casos.
10:45Pois é, Marisa,
10:46essa notícia chegou,
10:48assim,
10:48mais uma notícia triste, né,
10:51sobre como que a IA acabou
10:53conseguindo ter uma influência ruim, né.
10:55Então, a gente, claro,
10:56a gente sabe que tem tantas coisas legais
10:58que ela é capaz de fazer para a gente,
10:59mas tem tantas coisas também ruins.
11:02E nesse caso,
11:04esse caso nem é novo, na verdade.
11:08Ela acabou tirando a própria vida em 2023,
11:11só que ele meio que surgiu agora.
11:13Agora que começaram, digamos,
11:15as discussões a respeito disso,
11:17então veio à tona, né.
11:19Isso já aconteceu em 2023.
11:21Mas continua super importante e premente,
11:24porque, desde então,
11:25as plataformas não mudaram, Marisa.
11:28Elas ainda meio que continuam
11:30com uma política retrógrada
11:33em relação à proteção
11:34de pessoas mais vulneráveis,
11:36principalmente jovens, adolescentes.
11:38Então, veja só,
11:39nesse caso,
11:39a Carter.ai,
11:41ela colocava que o uso
11:42era liberado a partir de 12 anos.
11:45Em 12 anos?
11:4612 anos é uma pessoa
11:47que não tem ainda,
11:49digamos,
11:50com sua cognição bem desenvolvida,
11:52a ponto de poder entender
11:54as nuances, né.
11:56De repente,
11:57entra numa conversa
11:58de um robô
11:59que fica te incentivando,
12:01te ajudando
12:02e fazendo,
12:03te bajulando,
12:04muitas vezes,
12:05e a pessoa, às vezes,
12:07entra num estado de psicose.
12:09Então, a gente já viu
12:10vários casos aqui,
12:11a gente já citou,
12:12de psicose induzida
12:14por conta de inteligência artificial.
12:16E aí,
12:16se a pessoa já tem,
12:17digamos,
12:17uma propensão
12:18ao suicídio,
12:20de repente,
12:20pode acontecer
12:21algo como foi o caso.
12:22Então,
12:23isso reacende,
12:24né,
12:24essa discussão.
12:26Já tivemos outros casos recentes também,
12:28que a gente divulgou por aqui,
12:30e mostra que a gente precisa
12:32começar a tomar medidas
12:34gerais sobre isso.
12:35Não dá mais para a gente,
12:37quantos mais,
12:39né,
12:39a pergunta que se faz é
12:40quantas mais pessoas
12:41precisam ter casos parecidos
12:44para que a gente entenda
12:45que é uma tecnologia poderosa
12:48e que demanda responsabilidade
12:51daqueles que têm a plataforma.
12:53É só isso,
12:53a gente precisa encarar
12:54como as pessoas
12:55que proveem o serviço,
12:56elas têm que ser responsabilizadas
12:58pelo aquilo que dá no serviço.
13:00Então,
13:00se ela permite que jovens
13:02de 12 ou mais anos usem,
13:03então,
13:04ela tem que entender
13:04que isso tem que ser seguro
13:06e robusto
13:06para que tenha um bom uso,
13:08senão,
13:08deixa 18 ou mais,
13:09sabe?
13:10A gente,
13:11na dúvida,
13:13previne para o mais conservador,
13:15não,
13:15então,
13:16a gente não testou
13:17a ferramenta a fundo,
13:18a gente ainda não sabe
13:19os casos que podem acontecer,
13:20a gente tem que bloquear
13:22um acesso
13:24até que a gente tenha
13:25confiança.
13:26Então,
13:26eu acho que,
13:28nesse sentido,
13:29os desafios são grandes,
13:30sim, Marisa,
13:30acho que precisa,
13:32por exemplo,
13:32começar a ter uma política
13:34sobre indicação,
13:36uso indicativo,
13:37se a gente quer
13:38que essas pessoas
13:39possam usar,
13:40identificando que
13:41são pessoas
13:41de menor de idade,
13:43a gente precisa meio que
13:44tolir um pouco
13:45a liberdade,
13:46privilegiando a proteção.
13:48Eu acho que esse seria
13:49um primeiro caminho
13:51para a gente começar
13:52a ter uma política
13:53mais segura
13:54dessas plataformas.
13:56Com certeza.
13:57Agora,
13:57apenas nesse sentido,
13:58até o CEO da OpenAI,
14:00o Sun Altman,
14:01anunciou uma série
14:02de novas políticas
14:03para usuários menores
14:05de idade,
14:06focadas em aumentar
14:07a segurança
14:08em tópicos sensíveis.
14:10e falando como você
14:11mesmo mencionou,
14:12mesmo que isso limite
14:14liberdade
14:15e privacidade,
14:16você enxerga
14:17que essas ações,
14:19essas medidas
14:19anunciadas pelo
14:20chefe de GPT
14:21vão ser implementadas
14:23e fazem sentido?
14:26Então,
14:27o Sun Altman,
14:27que é o CEO
14:28da OpenAI,
14:29ele justamente fez,
14:31se eu não me engano,
14:32foi hoje,
14:33eu acho que foi hoje
14:33que ele fez uma declaração,
14:35hoje ou ontem,
14:35mas eu acho que foi hoje,
14:37ele fez uma declaração
14:38tanto no Twitter,
14:40no X,
14:40quanto no blog
14:42da OpenAI,
14:43um texto longo,
14:45justamente colocando
14:48os pilares da OpenAI,
14:49então ele coloca
14:50como sendo
14:51três pilares fundamentais,
14:53que é a privacidade,
14:56porque,
14:57eu achei bem interessante
14:58o que ele fala,
14:59porque ele diz assim,
15:00assim como a gente
15:01tem privacidade
15:02na conversa
15:03com médicos,
15:04com advogados,
15:06com pessoas,
15:06que você vai lá
15:07se expõe,
15:09você tem toda uma questão
15:10de,
15:11os advogados
15:12não podem abrir
15:13sobre conversas
15:15com clientes,
15:16assim como médicos
15:16também tem essa,
15:18eles podem se resguardar,
15:20eles não podem expor,
15:21digamos,
15:21conversas,
15:22ou psicólogos,
15:23tem toda uma questão
15:24de privacidade,
15:25então eles falam assim
15:25que também,
15:26o tipo de uso
15:28que as pessoas podem ter
15:29com inteligência artificial,
15:30ela pode ser
15:31muito sensível,
15:33as pessoas,
15:33às vezes,
15:34elas compartilham
15:35dados sensíveis,
15:36seja para ter
15:38um direcionamento,
15:40uma conversa
15:40mais pessoal,
15:41pedir,
15:42sei lá,
15:42diversas conversas
15:44que é possível
15:44ter com chatbot,
15:45então eles colocam
15:46esse pilar
15:46da privacidade,
15:47ele também coloca
15:47o pilar
15:48da liberdade,
15:50que é,
15:52ele coloca como que,
15:54é interessante
15:55poder permitir
15:56que essas IAs,
15:58elas façam coisas
16:00que privilegiem
16:02a liberdade
16:02dos usuários,
16:03então às vezes
16:04você quer fazer
16:04uma história,
16:05escrever um livro,
16:07mas o livro
16:07tem cenas sensíveis,
16:09porque afinal,
16:09é um livro
16:09que vai ter
16:10um assunto,
16:12um assunto sensível,
16:13vai falar,
16:14sei lá,
16:14sobre assassinato,
16:15falar sobre
16:16alguma coisa sensível,
16:18eles querem
16:18que a ferramenta
16:19possa escrever
16:20esse livro,
16:21e não falar assim,
16:21olha,
16:21não,
16:22esse assunto
16:22a gente não pode falar,
16:24então tem o pilar
16:25da liberdade,
16:26querer que cada usuário
16:27possa trazer também
16:28um pouco de,
16:30ter mais liberdade
16:31no uso da ferramenta,
16:32mas aí o terceiro pilar
16:33que ele coloca
16:34é justamente
16:34a questão da segurança
16:36dos menores,
16:37dos adolescentes,
16:39então o que ele diz
16:40é,
16:40a gente precisa,
16:41muitas vezes,
16:42vai ter uma sobreposição,
16:43porque você não,
16:45se você quer proteger
16:46os menores,
16:47você muitas vezes
16:47vai ter que tolir
16:48a liberdade,
16:49eu acho que faz sentido
16:50a fala,
16:51então ele coloca
16:52que essa nova política
16:53deles vai ser
16:54identificar
16:55quem são os menores,
16:57e como que eles fazem
16:58isso,
16:58pela conversa,
16:59achei curioso,
17:00eu não sei se vai funcionar,
17:01então pelo tipo
17:02de conversa,
17:03o chatbot,
17:04o chat EPT,
17:05vai identificar,
17:06olha,
17:07isso aqui tem cara
17:07de ser um menor de idade,
17:09e se é um menor de idade,
17:10cai numa caixinha do tipo,
17:11então tem menos liberdade,
17:13então se você pedir
17:14para falar de assuntos sensíveis,
17:16por exemplo,
17:17questão de suicídio,
17:18ele se recusa,
17:19porque ele fala assim,
17:19não,
17:20você é menor de idade,
17:21ele não vai permitir
17:23falar de certos assuntos,
17:25mesmo que seja
17:25num contexto
17:26de escrever um livro,
17:27ah,
17:27eu estou escrevendo um livro aqui,
17:28me dá uns conselhos
17:29de como que o personagem principal
17:32pode matar alguém,
17:34não,
17:34eu não vou te falar,
17:35porque você é menor de idade,
17:36ele vai identificar,
17:37então eu não sei como vai funcionar
17:39essa identificação,
17:40ele disse que em alguns países
17:41pode demandar o uso de RG,
17:44tirar a foto,
17:45aquelas coisas que a gente já faz
17:46para provar que a gente é maior de idade,
17:48esse sim,
17:49eu acho que faz mais sentido
17:50de você identificar,
17:51mas enfim,
17:52então seria um jeito
17:54de você ter mais controles parentais também,
17:57e tolher um pouco a liberdade
18:00em prol dessa segurança
18:03com os menores,
18:04eu acho Marisa
18:05que essa segurança
18:06ela não é só para os menores,
18:08porque a gente também tem casos
18:09de pessoas fragilizadas
18:10ou pessoas adultas
18:12que também se encontram
18:13em condições
18:13que podem ser influenciadas,
18:15então eu acho que essa discussão
18:16ela é muito mais ampla
18:18e muito mais profunda,
18:19a gente precisa como sociedade
18:21começar a olhar
18:22e falar o que a gente aceita,
18:25quais são os riscos
18:26que a gente quer passar
18:27para usar uma ferramenta poderosa
18:29como essa
18:30em troca dessa suposta liberdade,
18:33eu não tenho a resposta,
18:34mas eu acho que isso é
18:35um dos grandes pilares
18:36de discussão da sociedade hoje,
18:38a gente deveria estar realmente
18:39discutindo isso
18:40em várias instâncias,
18:41porque essas ferramentas
18:42já estão à disposição,
18:43não tem regulação nenhuma,
18:45volto a falar aqui,
18:46por enquanto
18:46um copinho de água
18:49que você compra no mercado
18:50tem mais regulação
18:51do que qualquer uma
18:52dessas plataformas
18:53de inteligência artificial,
18:55mesmo que elas possam levar
18:56pessoas a cometerem crimes
18:58ou cometerem suicídio
19:02ou qualquer outra dessas,
19:02influenciar de maneira negativa
19:04as pessoas,
19:04então eu acho que o assunto
19:05é muito sério,
19:06a gente não só o PNEI
19:08deveria estar discutindo
19:09isso internamente,
19:10mas a gente como sociedade
19:11deveria estar com essa pauta
19:12à frente aí,
19:13porque não é pouca coisa,
19:16Marisa,
19:16é realmente muito sério.
19:18Realmente,
19:19com certeza,
19:20Pena,
19:20hoje o tema
19:21do Fala Aí Sério
19:23e Necessário.
19:25Mais uma vez,
19:26muitíssimo obrigada
19:28pela sua participação,
19:29Pena,
19:29e nos encontramos
19:30na semana que vem.
19:31Tenha uma excelente semana.
19:32Obrigado,
19:34Marisa,
19:34até semana que vem.
19:35Valeu, pessoal.
19:37Até.
19:37Está aí, pessoal,
19:38mais uma coluna
19:39Fala Aí com
19:40Roberto Pena Spinelli,
19:42que é físico pela USP,
19:44especialista em Machine Learning
19:46por Stanford,
19:47e colunista do Olhar Digital.
19:48Como vocês já sabem,
19:50a coluna Fala Aí
19:51é toda terça-feira,
19:53então,
19:53semana que vem,
19:54tem mais.

Recomendado