- há 19 horas
Categoria
🤖
TecnologiaTranscrição
00:00E já chegou a hora da nossa coluna da semana, fala aí!
00:11E vamos receber Roberto Pena Spinelli, físico pela USP, especialista em Machine Learning por Stanford
00:18e colunista do Olhar Digital. Vamos lá, deixa eu colocar o Pena na nossa tela.
00:25Olá, Pena, muitíssimo, boa noite, seja bem-vindo ao Olhar Digital News, espero que tenha aproveitado bem as férias.
00:33Eu aproveitei, Marisa, ó, tô até coradinha aqui, tô descascando, peguei muito sol na montanha,
00:39faz sol, a pessoa acha que na montanha faz frio, mas faz muito sol, não é verdade?
00:43Faz frio e faz sol. Mas eu tô aqui renovado, eu quero comentar tudo isso aí, Marisa,
00:49essa Assembleia da ONU, vamos pôr lenha na fogueira.
00:52Com certeza, vamos até começar por aí, né?
00:55Nós tivemos declarações, não Pena, como nós vimos aí na reportagem,
01:00completamente opostas sobre a IA nesse primeiro dia de discussões na Assembleia Geral da ONU,
01:06sem nenhum consenso à vista, Pena.
01:09Pra onde caminha a tal da governança de IA?
01:15Então, Marisa, a gente consegue ver que esses governantes não estão conseguindo chegar num acordo.
01:21Mas eu tenho também uma notícia boa, porque, embora não exista esse consenso, tá?
01:28E realmente isso não tem, existe uma iniciativa, uma iniciativa que tá surgindo justamente nessa Assembleia da ONU.
01:36É uma iniciativa trazida pela Noruega e pela Finlândia.
01:40Isso se chama Control... deixa eu lembrar o nome exato.
01:45Control the Pacing of AI, Frontier Models of AI.
01:49Essa é a iniciativa.
01:50É o controle dos modelos de fronteira de IA.
01:54E já tem 22 países signatários, Marisa.
01:57O Brasil ainda não tá entre eles, mas tem outros países, principalmente da Europa,
02:02mais Canadá, mais Austrália, mais África do Sul.
02:05Então, basicamente, é um monte de países da Europa, mais esses que eu citei.
02:08Mas, pensando na fala do Lula, do presidente Lula, que tá bem alinhado, inclusive, com essa visão
02:15de que a gente tem que ter responsabilidade, a gente tem que ter responsabilização dessas empresas
02:22que a tecnologia não pode seguir desse jeito.
02:24Então, eu imagino que sim, o Brasil pode ser um dos signatários.
02:28Então, no final, o que a gente tá vendo é a Europa, através da Finlândia e da Noruega,
02:33trazendo essa pauta forte, realmente colocando essa proposta de um órgão.
02:38Então, o que eles pedem?
02:39Vamos entender o que exatamente esse órgão que tá sendo criado tá pedindo.
02:45Tá pedindo que você tenha mecanismos de ter auditoria, de ter controle,
02:52das empresas ter que reportar os riscos associados, de ter órgãos realmente fiscalizando isso
02:58e podendo colocar sanções, se for o caso.
03:02Isso é o mais importante, porque, como eu já falei várias vezes aqui,
03:06a IA, ela é um negócio super poderoso no mundo, a gente tá percebendo os impactos,
03:11e tem, praticamente, tem uma regulação, não tem nada específico pra ela.
03:15A gente tá vendo um monte de coisas que a gente não sabe como lidar,
03:18questões de direitos autorais, questões de manipulação de informação,
03:22de maus usos, de IA escapando da caixa e cometendo crimes.
03:25A gente tá vendo uma sorte de eventos e ainda com zero regulações.
03:30Por mais que as empresas associadas estão se manifestando,
03:33dizendo, nossa, a gente tá fazendo uma regulação aqui,
03:36a gente tá melhorando a nossa proteção,
03:39não é o suficiente, Marisa, não dá pra própria empresa se autorregular.
03:42Agora, quem tá na contramão disso tudo, claramente,
03:45são os Estados Unidos, com esse discurso do Trump,
03:48que simplesmente tá dizendo, não,
03:50não tem riscos, ele chama de hoax,
03:55como se fosse uma grande mentira, uma grande invenção aí.
03:59E aí ele até renomeia.
04:01Não, agora a gente não vai mais falar inteligência artificial, Marisa,
04:04agora a gente vai chamar de super inteligência,
04:06porque o artificial tava pegando mal,
04:08parecia que era um negócio meia boca.
04:10Não, é super inteligente, o negócio é excelente,
04:12os Estados Unidos vai continuar liderando.
04:13que basicamente, Marisa, assim, aí realmente é a contramão do mundo.
04:19Outro membro importante que acabou não se manifestando ainda é a China, né?
04:24A gente sabe que Estados Unidos e China duelam aí na primazia
04:27de quem tá à frente na questão da inteligência artificial.
04:30Então seria super importante que esses dois membros aderissem a essa proposta,
04:35ou pelo menos se manifestasse.
04:36O Trump já se manifestou,
04:38meio que dizendo que não vai parar,
04:40que daqui só acelerando.
04:43Já a China, ela não participou,
04:45ela não fez, né?
04:46O Xi Jinping não está na Assembleia da ONU,
04:50então ele não fez essa fala,
04:51ele não se pronunciou ainda.
04:53Tem outras pessoas que falam a respeito,
04:55mas especificamente sobre isso ainda não.
04:58Mas deve vir agora, tá, Marisa?
05:00Nos próximos dias,
05:02vai ter representantes sim da China falando.
05:04Então a gente vai descobrir a posição da China.
05:07Olhando retrospectivamente,
05:08falando, as outras semanas que a China meio que se manifestou,
05:11ainda é dúbio.
05:12Eles falam claramente que precisam ter regulação,
05:14que precisam ter controle,
05:15que precisam tomar cuidado com os riscos de IA,
05:18mas também julgaram como se fosse temerária
05:22essa questão de diminuir o passo da IA,
05:25porque eles temem, né?
05:27Eles chamaram de tática de guerra fria
05:29no sentido de que,
05:31ah, agora todo mundo tem que parar
05:32e aí de repente a gente fica refém.
05:34Eu acho super confuso,
05:36mas olhando os dois países,
05:37a China me parece um pouco ainda mais,
05:41com um discurso um pouco mais adequado,
05:43um pouco mais equilibrado, digamos assim,
05:48do que o Trump que está dizendo que é tudo balela.
05:51Então esse é o mundo que a gente está hoje, Marisa,
05:54mas eu vejo com bons olhos as iniciativas que estão surgindo.
05:57Espero que o Brasil seja um dos signatários desse novo movimento que está surgindo.
06:03É, com certeza, sim.
06:05Temos que ficar atentos ao posicionamento dessas duas potências,
06:08e vamos descobrir nos próximos dias.
06:12Bom, Pena, vamos falar sobre os lançamentos, né?
06:15Também faz parte aqui do Fala aí, os lançamentos, é sempre assim.
06:18A Antropica acabou de lançar, aliás, lançou hoje o Opus 5.5,
06:25que é a ferramenta que promete reduzir os casos de acesso indevido a sistemas reais.
06:30Vamos lá, Pena, qual é a diferença em relação a outros modelos
06:34dentro ali dos produtos da própria empresa?
06:38Então, esse Opus 5.5 acabou de lançar, como você disse, aí hoje.
06:44É sempre.
06:45É sempre, né?
06:46Eu acho que eles escolhem, o dia que eu ver aqui, eu vou lançar hoje,
06:49porque o Pena vai comentar.
06:53Quem dera ser tão importante assim, né?
06:55Mas vamos lá.
06:56Foi lançado hoje o 5.5,
06:58e a primeira coisa é a questão que eles afirmam de performance,
07:03de a inteligência do modelo, a capacidade do modelo,
07:06está próxima, mas não chegou, a do Fable.
07:10Fable é o modelo mais alto,
07:11está no patamar de cima, digamos, da própria Antropica, tá?
07:16Com a vantagem que eles alegam é o preço,
07:19porque você vai gastar, vai pagar muito menos,
07:22porque é muito mais barato esse modelo do que o Fable,
07:25que quem usa sabe que, rapidinho, esgota o Stoke,
07:29o negócio gasta no adinheirama, mas é muito bom.
07:33Mas então, eles estão dizendo assim,
07:34então a gente lançou um negócio que não é tão bom,
07:36mas é quase lá, por um preço bem abaixo.
07:40Mas a segunda coisa que aqui nos chama a atenção
07:42é que eles estão preocupados,
07:44ou dizem estar preocupados, com a questão de segurança.
07:46O próprio CEO, o Dario Amodei, ele falou,
07:51ele foi um dos que se posicionou dizendo que
07:53as empresas deveriam diminuir a aceleração da IA.
08:00Então, ele até falou, fez um manifesto,
08:03que a Antropica, de maneira unilateral,
08:05iria reduzir o passo para justamente conseguir
08:10se adequar à segurança,
08:11porque os modelos estão escapando,
08:13eles estão meio que sem controle,
08:14a gente viu vários casos desses,
08:16inclusive dentro da própria Antropica.
08:18Então, ele está alegando que o Opus 5.5
08:22é muito mais seguro do que os outros,
08:25do que todos os outros,
08:26seja o Fable, seja o outro Opus anterior,
08:29seja o Sonet, seja qualquer outro modelo.
08:31Ele está dizendo que,
08:32nas situações em que eles colocam,
08:35nos testes que ele coloca o modelo,
08:37para fazer ações erradas,
08:39ações indevidas,
08:41fazer coisas que ele não pode.
08:42Então, escapou da caixa,
08:44não podia escapar,
08:45usou uma ferramenta,
08:45tentou sabotar uma empresa,
08:47isso não pode acontecer.
08:49Nessas circunstâncias,
08:50ele faz 85% menos do que os outros.
08:54Veja, 85% é muita coisa,
08:56mas ainda assim, Maris,
08:58eu penso assim,
08:59deveria ser 100%, né?
09:00A gente está falando,
09:02a minha torradeira,
09:03ela envenena os seres humanos
09:0485% menos do que as do concorrente.
09:07Ainda tem 15%.
09:09Eu não sei se eu fico feliz ou triste
09:12com essa notícia.
09:14Você entende, né?
09:15Assim, 85% é bastante,
09:17mas o que falta aí, né?
09:19Os outros 15%,
09:20de vez em quando,
09:21ela vai sabotar o dinheiro.
09:22Bom, a gente está nesse mundo, Marisa,
09:25sem regulação,
09:26as empresas vão lá,
09:27falam o que quiserem,
09:28assim, eu queria 100%,
09:29acho que a gente deveria estar,
09:30ou 99%,
09:31a gente tem que lutar por um mundo
09:33que a tecnologia não pode,
09:3415% das vezes,
09:36que for confrontado
09:37numa situação dessa,
09:38de, enfim,
09:40de fazer coisas erradas,
09:41que ela vai colocar aí,
09:43vai tomar uma decisão errada.
09:45Mas, dito tudo isso,
09:46se se confirmar,
09:48a gente não tem como confirmar ainda,
09:49Marisa, o lançamento é hoje,
09:50precisa fazer muitos testes,
09:52já seria um grande avanço.
09:54Mas ainda me coloca na dúvida,
09:57porque se o próprio Dario Amodei,
09:59há duas semanas atrás,
10:01ou três, sei lá,
10:02disse que eles iriam desacelerar,
10:04desacelerar,
10:05e agora, três semanas depois,
10:07está lançando um novo modelo,
10:09que é bom,
10:10disse que está ali,
10:11páreo com os modelos
10:12mais avançados dele,
10:14mais barato,
10:15mesmo que seja com mais segurança,
10:17eu não sei se isso significa
10:18desacelerar,
10:19não sei se no meu vocabulário
10:21essa palavra desacelerar
10:23é isso que significa, não.
10:25Então, eu não sei,
10:26deixo aí a avaliação de vocês.
10:28Me parece aí que,
10:30talvez a gente continue
10:31nesse mesmo mundo
10:32que as pessoas falam muitas coisas,
10:34porque acho que elas,
10:35de verdade,
10:36não acho que a campanha de marketing,
10:37já falei isso várias vezes,
10:38não acho que essas empresas
10:40estão aí tentando
10:41um marketing reverso maluco,
10:42eu vou falar que meu modelo
10:43é inseguro,
10:44escapa da caixa,
10:45todo mundo vai comprar,
10:45eu não acho que,
10:46não sei como funcionaria,
10:48mas eu acho que ninguém,
10:50eles têm esse temor
10:51de perder a primazia,
10:52mas ao mesmo tempo
10:53todos eles gostariam
10:53de desacelerar,
10:55porque todo mundo perde.
10:56Então, eu acho que esse é o cenário
10:57e ninguém sabe o que fazer.
10:58Bom, falei muito, Marisa.
11:01Falou não,
11:02é tudo que a gente precisa ouvir
11:03e discutir,
11:04assim como aqui
11:05no nosso quadro fala aí.
11:07Agora, vamos falar
11:08da outra empresa também,
11:10porque a OpenAI,
11:11ela também lançou hoje,
11:14né,
11:14o GPT-6,
11:16o Sol e Luna,
11:17mas ela informou
11:18que vai deixar
11:19grupos externos
11:21avaliarem a segurança
11:22dos seus modelos de ar
11:23numa fase mais antecipada.
11:26O que isso significa
11:27e o que muda, Pena?
11:30É, também a mesma coisa
11:32no sentido de demonstra
11:34para o público
11:34uma preocupação
11:35com segurança.
11:36Resta saber
11:37se é genuína
11:38ou resta saber
11:39se é por uma questão
11:40de pressão
11:41e de que o mundo
11:42hoje está falando.
11:43E isso é bem positivo,
11:45Marisa,
11:45eu acho que nós aqui,
11:46olhar digital,
11:47não só, né,
11:47mas enfim,
11:48todo mundo está
11:49mostrando,
11:50está mostrando
11:50que a gente quer,
11:52a gente precisa
11:53de uma tecnologia
11:54mais segura
11:54para todo mundo.
11:55então,
11:56como isso está ganhando
11:57mainstream,
11:58é legal,
11:59então,
11:59a OpenAI
12:00está fazendo essa.
12:01Agora,
12:02também,
12:02ela foi recentemente
12:04fruto aí
12:05de um problema
12:07que o modelo dela
12:09acabou gerando aí
12:10invasões e tal,
12:11então também
12:11seria esperado
12:12que ela tomasse
12:13uma atitude
12:15relacionada à segurança.
12:16Então,
12:16ela está dizendo
12:17que agora,
12:18Marisa,
12:19eles vão permitir
12:20auditores externos,
12:22empresas contratadas
12:23externas
12:24para acompanhar
12:26o processo
12:27do desenvolvimento
12:28dos modelos.
12:30Eles já permitiam
12:31antes,
12:32empresas externas
12:33fazerem auditoria,
12:34mas antes
12:35era no final
12:36do processo.
12:36Então,
12:37vamos fazer uma analogia
12:37com o avião.
12:38Imagina que eu sou
12:39uma empresa
12:39que faz avião.
12:40Então,
12:40eu construí lá
12:41o Boeing,
12:42não sei o quê,
12:43construí o Airbus,
12:44fiz lá o avião,
12:46terminou o avião,
12:47aí o avião está pronto,
12:49aí eu vou lá
12:49e dou para uma empresa
12:50de fora,
12:51olha,
12:51avalia aí o avião,
12:52testa aí
12:53para ver se está voando bem,
12:54se está voando errado,
12:55não sei o quê,
12:56e aí pode dizer
12:57que sim,
12:58que não,
12:58mas é bem diferente
12:59porque a empresa
13:00de fora,
13:01ela não tem acesso
13:02aos detalhes
13:03que estão rolando
13:04na eletrônica
13:05do avião,
13:06ela não tem acesso
13:06ao computador
13:07do avião,
13:08ela só tem acesso,
13:09digamos,
13:09ao avião voando.
13:11Só que esses detalhes
13:12são muito importantes
13:13para você entender,
13:14olha,
13:14eu vou conseguir
13:15perceber um sinal,
13:16no caso da IA,
13:17você consegue ver
13:17a sequência
13:18do pensamento da IA,
13:20como que ela está agindo,
13:21então seria importante
13:22ter acesso também
13:23à fabricação do avião.
13:25Então agora
13:25o que a Open Air
13:26está dizendo é o seguinte,
13:26então a gente está
13:27chamando as empresas
13:27para,
13:28enquanto a gente
13:29está fabricando o avião,
13:30você já pode olhar,
13:31já pode verificar,
13:33o que eu acho
13:33muito positivo,
13:34de verdade,
13:35eu acho que
13:36essas empresas
13:36de auditoria
13:37que estão se fortalecendo,
13:39seja a Métrica,
13:40seja a Apolo,
13:40seja algumas
13:41dessas empresas
13:42que estão se especializando
13:44em fazer
13:45segurança de ar,
13:47eu acho que é muito legal,
13:48porque elas são
13:48empresas externas,
13:50em princípio idôneas,
13:52que estão oferecendo
13:54esse serviço
13:54e vão ter acesso
13:55desde a fabricação
13:56das IAs,
13:57desde a fabricação
13:58do avião.
14:00Eu acho suficiente?
14:01Não, Marisa,
14:02eu não acho
14:02que essas empresas
14:03é suficiente
14:04que elas digam
14:05como elas têm
14:06que se regular,
14:07porque é isso,
14:08a Open AI,
14:09ela decidiu,
14:10por boa fé,
14:12eu vou abrir,
14:13mas como que ela vai abrir,
14:15o jeito que ela vai abrir,
14:16se vai abrir de verdade
14:17ou ser só uma balela,
14:18é dela,
14:19porque não tem regulação,
14:21agora se a regulação
14:23obrigasse a ter
14:24auditorias externas
14:25durante a fabricação,
14:26durante os testes,
14:27etc.,
14:27eu me sentiria mais seguro,
14:29porque aí dá
14:30para você acreditar,
14:31enquanto só a Open AI
14:32está dizendo,
14:32ah, realmente fizeram
14:33auditoria e disseram
14:34que está tudo lindo,
14:35você vai ter que ali
14:37acreditar que foi
14:37tudo certinho,
14:39então eu acho
14:40que é uma iniciativa boa,
14:41é legal que essas empresas
14:42estejam se preocupando
14:43ou dizendo que estão
14:43se preocupando,
14:44mas não é suficiente,
14:46a gente tem que
14:47obrigar isso,
14:48isso tem que estar
14:48em regulação,
14:49esse é o meu
14:50posicionamento.
14:51Agora, Pena,
14:52para encerrar,
14:53vamos falar um pouquinho
14:54sobre a meta,
14:55que diz que está
14:56testando um
14:58concierge humano
14:59por trás do agente
15:01pessoal,
15:01news, como isso vai funcionar,
15:03explica para a gente,
15:04Pena.
15:05Essa é a notícia
15:06engraçada,
15:07digamos assim,
15:08de hoje,
15:09Marisa,
15:09porque olha que curioso,
15:11o news,
15:12ele é um agente,
15:14como vários outros aí
15:16que já tem no mercado,
15:17que consegue fazer
15:17um monte de coisa
15:18para você,
15:19usa o seu computador,
15:19acessa o browser,
15:21consegue ligar,
15:22usar telefone,
15:23faz várias coisas
15:24aí para você,
15:25então a meta
15:26tem esse news aí
15:27e já tem
15:28uma comunidade
15:29aí de usuários.
15:30A curiosidade agora
15:32é a seguinte,
15:33Marisa,
15:33de vez em quando,
15:35quando o news lá,
15:37a IA do news
15:37descobrir que,
15:39ah, essa tarefa
15:39é meio difícil
15:40de eu fazer, né?
15:41Já sei,
15:42vou chamar um humano.
15:44Aí a IA chama o humano
15:46para cumprir a tarefa
15:47para ela,
15:49o humano realiza a tarefa,
15:51devolve o resultado,
15:52seja lá,
15:53para o news,
15:53que continua
15:54e de repente
15:55ele devolve para o usuário.
15:56Então,
15:56o humano no loop
15:57é o contrário,
15:58que normalmente
15:59o humano delega
16:00a tarefa para a IA
16:01quando acha que,
16:02pô,
16:02tem que fazer,
16:03ah, isso aqui
16:04vou usar a IA,
16:05usa a IA,
16:05pega,
16:06devolve,
16:06o humano continua
16:07processando.
16:08Então,
16:09nesse caso,
16:10é a IA que decide
16:11quando o humano
16:12entra no loop,
16:13ah, essa tarefa aqui
16:14eu acho que vou deixar
16:14o humano fazer,
16:16acho que,
16:17eu não sei se ela vai
16:17estar com preguiça
16:18de fazer
16:19ou porque realmente
16:19acha que o humano
16:20tem que fazer,
16:21é o que eu achei curioso.
16:22Então, assim,
16:22eles não estão testando
16:24isso ainda,
16:24esse humano,
16:25eles chamam de
16:27concierge humano,
16:28né,
16:28mas assim,
16:29eu não sei se vai ser
16:30esse concierge todo,
16:33cinco estrelas,
16:33ou se vai ser,
16:34sei lá,
16:35um indiano,
16:36eu não sei como que é,
16:37mas claro,
16:38meu nome bonito ali
16:39é o concierge humano.
16:40a gente tem que esperar
16:41porque eles estão
16:42testando internamente
16:43por enquanto,
16:44tá, Marisa?
16:44Então,
16:45isso não está disponível
16:47para as pessoas,
16:48meio que vazou até
16:49essa questão,
16:50eles estão fazendo
16:51um teste usando
16:52o concierge humano
16:53dentro de tarefas
16:54onde a IA delega
16:56para o humano
16:57como e quando
16:58ele tem que fazer
16:59essa tarefa,
17:00né?
17:00Eu acho curioso,
17:01parece que a gente
17:02está cada vez
17:03perdendo
17:04a IA que manda agora,
17:06a gente só obedece.
17:07Pois é,
17:08inversão de papéis,
17:09né?
17:09Antes a gente
17:10estava usando ali
17:11como ferramenta,
17:12quer dizer que agora
17:12a ferramenta somos nós,
17:13é isso?
17:14É isso,
17:15a gente virou
17:15a ferramenta, Marisa.
17:18Tá certo,
17:18tá aí,
17:19Roberto Pena Spinelli,
17:21muito boa a participação
17:22aqui hoje
17:22na nossa coluna
17:24Fala Aí.
17:25Semana que vem
17:26temos mais assuntos,
17:27desdobramentos desses
17:29e tantos outros.
17:30Nos encontramos
17:31na próxima semana,
17:32uma excelente semana
17:33para você.
17:33Até mais.
17:34Até mais, Marisa,
17:36excelente semana
17:36para você e para todo mundo.
17:38Até,
17:38boa noite, Pena.
17:40Tá aí,
17:41mais uma coluna
17:42super bacana
17:44do Pena,
17:45Roberto Pena Spinelli,
17:46que é físico pela USP,
17:48especialista em
17:49Machine Learning
17:49por Stanford
17:50e colunista
17:51do Olhar Digital.
17:52Semana que vem,
17:53vocês já sabem,
17:54toda terça-feira
17:55tem a nossa coluna
17:56Fala Aí
17:57e traremos mais assuntos
17:59para discutir aqui.