- há 6 minutos
Categoria
🤖
TecnologiaTranscrição
00:00Pois é, e como hoje é terça-feira, vamos repercutir esse assunto na nossa coluna da semana, Fala aí!
00:14E para isso, vamos receber Roberto Pena Spinelli, que é físico pela USP, especialista em Machine Learning por Stanford
00:24e colunista do Olhar Digital. Deixa só encontrar o Pena aqui na nossa, aqui na nosso estúdio.
00:31Pena, muito boa noite, seja muito bem-vindo ao Olhar Digital News, vamos conversar juntos a semana.
00:38Tudo bem, Marisa, bom te ver de novo. Vamos lá para mais uma semana, tudo bem?
00:43Para o pessoal também de casa, então vamos lá, vamos repercutir.
00:47Vamos lá, Pena. Como nós acabamos até de falar aí na matéria, qual é a sua avaliação
00:52sobre esses impactos da adoção da inteligência artificial nas estruturas de redes móveis já existentes atualmente?
01:01É claro que uma das preocupações é, temos a previsão de um aumento de preço em planos de internet por conta da IA?
01:09Então, Marisa, a gente ainda está descobrindo muito como que vai ser o futuro da IA.
01:15Então, por um lado, de fato, a gente está vendo mais upload acontecendo.
01:19Então, para o pessoal entender, a maior parte da aplicação que a gente usa na internet é baixando dados.
01:26É o download, você vai lá assistir um filme, você lê um artigo, você acessa um vídeo, você ouve uma música,
01:33você está baixando dados e você manda pouco.
01:36A gente costuma consumir muito mais.
01:39Então, as operadoras todas de internet no Brasil e no mundo,
01:43elas resolveram fazer uma mudança, um desbalanceamento na taxa de dados.
01:49Então, o seu plano, quando você contrata, ele vai estar com uma banda, uma largura, uma quantidade de dados
01:56para download muito maior do que para upload.
01:59Tanto é que geradores, pessoas que fazem conteúdo, que precisam ter uma banda de upload maior,
02:06eles costumam contratar um plano diferente.
02:08Porque o padrão costuma não atender.
02:11Porque imagina, quem cria conteúdo para YouTube, por exemplo,
02:14ou mesmo o olhar digital que tem que mandar uma quantidade enorme de dados para subir esses vídeos,
02:19não pode ter um plano padrão, porque a banda de upload, de quantidade de dados que você sobe, é reduzida.
02:25Então, você vai lá e tem que contratar, às vezes, um serviço, às vezes, é mais caro,
02:29ou às vezes, é um serviço diferente.
02:31O que acontece?
02:32Com o uso da inteligência artificial, a gente começou a subir muito mais dados.
02:37Justamente porque a gente quer que o AI possa analisar uma foto, possa assistir um vídeo,
02:42possa, de repente, a gente fazer um streaming de dados.
02:44Acho que a matéria até cita a questão de óculos,
02:47que você pode usar um óculos aí que está alimentando o tempo todo
02:51e mandando esses dados diretamente para a AI.
02:55E aí, tem um desbalanceamento.
02:56Então, essa é a primeira preocupação.
02:57Será que as nossas redes vão conseguir aguentar um volume maior de upload?
03:02Então, assim, o volume maior de upload dá para resolver.
03:05É só você rebalancear a rede.
03:07É só você...
03:08Hoje está mais ou menos por volta de 80% de download e 20% de upload.
03:14Então, daria para as operadoras refazerem.
03:16Claro que tem um custo aí de modem, de roteador,
03:21mas nada que não se resolva.
03:22Dá para resolver.
03:23Mas eu acho que existe uma outra questão,
03:26que a gente também vai começar a usar muito mais a internet
03:28se a gente começar a usar essas IAs pela nuvem.
03:33Então, tudo isso pode aumentar.
03:35Agora, pode ser, Marisa, que isso não se sustente a longo prazo,
03:39porque da mesma maneira também que a gente está consumindo mais hoje
03:43e usando mais essa internet na nuvem,
03:46a tendência é que a gente também comece a usar dispositivos ou IAs
03:50que cabem no nosso celular, que você pode usar localmente,
03:53que aí você não vai precisar necessariamente ficar subindo dados na internet.
03:57Como a gente está num período de transição,
03:59a gente está basicamente três anos só desde o lançamento do chat de EPT,
04:05ainda é uma coisa que está se adaptando.
04:07Está todo mundo meio que descobrindo.
04:09Então, ainda é cedo para a gente apostar.
04:11E eu acho que também ainda não chegamos nem perto, digamos, desses problemas.
04:15A minha sensação é que a gente ainda não está.
04:18Então, essas operadoras, isso já estão querendo ou em TV.
04:21Mas, sinceramente, Marisa, acho que é cedo para a gente avaliar.
04:24Pode ser, sim.
04:25Um dos cenários possíveis é, realmente,
04:28a IA se tornar cada vez mais oblíqua na sua vida,
04:31cada vez mais presente na nossa vida
04:34e a gente vai consumir muito mais internet, subir muito mais dados.
04:38Mas, talvez, a gente encontre outras maneiras de usar essa IA
04:41que não necessite tantos dados ou ela vai ser mais eficiente.
04:46Enfim, é um pouco em aberto.
04:47Eu ainda não apostaria minhas fichas nesse problema
04:50e nem numa solução para isso.
04:51Temos chão para tocar isso aí ainda.
04:54Você sabe, Pena, de antes da gente passar para o próximo tema,
04:57uma das coisas que eu tenho batido bastante na tecla
05:00é a questão de conexão.
05:03Não adianta a gente ter IA,
05:04não adianta a gente ter muitas facilidades,
05:06ferramentas na nuvem e tudo mais,
05:08se a conexão não funciona.
05:09Para mim, conexão é o X da questão.
05:13Concordo com você, Marisa.
05:15É isso.
05:16A gente precisa ter estabilidade
05:17nos nossos prestadores de serviço.
05:20Antes de estar discutindo banda,
05:22a gente tem que garantir que o sinal está chegando.
05:24Exatamente.
05:25Agora, Pena, o CEO da Antropica, Darío Amodei,
05:30criticou duramente a decisão do governo dos Estados Unidos
05:34de flexibilizar as restrições à exportação de chips avançados
05:39de inteligência artificial para a China.
05:42Segundo o Executivo,
05:43isso seria comparável a vender armas nucleares para a Coreia do Norte.
05:48Bom, não vemos uma coisa muito diferente por lá também não, né?
05:52Essa medida realmente representa riscos reais
05:55para a segurança nacional norte-americana?
05:57Essa é uma das questões.
05:58Então, foi essa frase bombástica, né?
06:02Mas vamos entender.
06:04Para dar um contexto para as pessoas,
06:07os Estados Unidos, naquela etarifácia do Trump,
06:09naquela negociação toda,
06:11havia restringido para a China
06:12a venda de chips avançados.
06:16Então, estavam vendendo uns chips só muito fraquinhos,
06:19e a China, que é uma dessas potências
06:22de inteligência artificial, robótica,
06:24querendo consumir isso,
06:25teve que começar a usar chips bem mais ultrapassados.
06:30Enfim, é uma tecnologia que a NVIDIA,
06:33que é a empresa que domina isso hoje,
06:35é uma empresa americana.
06:36Então, os Estados Unidos, o governo lá,
06:38pode falar, olha, não,
06:39não queremos que você exporte para os nossos concorrentes.
06:43E, de fato, isso aconteceu por um tempo,
06:45mas aí a China já estava dando seus pulos lá para resolver.
06:48E aí o Trump flexibilizou.
06:49Falou assim, não, tudo bem,
06:50agora pode vender o chip até o chip H200,
06:53que não é o topo de linha,
06:56mas é um segundo, segundo escalão, digamos.
06:58O topo de linha ainda é o Blackwell,
07:01então é um chip novo aí que a NVIDIA saiu,
07:04mas é o segundo, que já é muito poderoso,
07:06muito melhor do que eles estavam exportando antes.
07:09E agora o Dario Almoday está criticando,
07:11diz assim, não, isso aí é um absurdo, né?
07:13Assim, é uma coisa muito poderosa.
07:15E aí comparou com a bomba atômica.
07:17Claro que, assim, essa comparação,
07:20eu imagino, do ponto de vista dele,
07:22não quer dizer alguma coisa no sentido de riscos eminentes,
07:25como a bomba atômica e tal,
07:27mas simplesmente essa corrida,
07:29essa corrida armamentista,
07:30essa corrida de poder,
07:31porque se tornou, Marisa,
07:33a IA se tornou uma corrida de poder.
07:35Essas nações, essas empresas,
07:36estão todas correndo,
07:37porque elas acreditam, né?
07:39E aí é uma questão até se existe essa bolha ou não,
07:41e quanto que é essa bolha,
07:42mas, enfim, elas acreditam que quem chegar lá primeiro
07:45vai ter uma vantagem muito grande,
07:47vai dominar.
07:47Eu acredito, sim,
07:49que tem um poder associado muito grande,
07:51eu acho que,
07:52também acho que tem uma bolha,
07:54acho que tem muito mais,
07:55está muito mais inflado do que é real,
07:57mas, sim, certamente existe uma vantagem,
08:00a IA hoje não é só um brinquedinho,
08:03as empresas e os países perceberam.
08:06Mas, Marisa,
08:07agora a minha visão sobre segurança de IA.
08:10Eu acho que o maior risco de todos,
08:12de todos e para todo mundo,
08:14é a corrida desenfreada.
08:16é essa corrida de todo mundo,
08:18a regra do jogo,
08:20é o discurso que eles falam,
08:23olha, a gente não pode pausar,
08:25a gente não pode pegar leve,
08:27a gente não pode ir mais devagar,
08:28porque senão o vizinho, o inimigo,
08:30a China, os Estados Unidos,
08:32enfim, vão chegar lá antes,
08:34e aí a gente perde.
08:37E para mim,
08:37a gente está falando de uma tecnologia tão poderosa,
08:39com tantos riscos,
08:41e riscos para todo mundo,
08:43desde maus usos,
08:44imagina pessoas que vão começar a usar
08:46esses modelos desalinhados,
08:47modelos que não estão ainda bem equilibrados,
08:49porque você tem que lançar sem testar direito.
08:52Veja,
08:52você tem que lançar,
08:54porque se você não testar,
08:55se você não lançar,
08:55o vizinho lança.
08:57Então, você lança ele,
08:58mesmo que ele não esteja bem afinado,
08:59e as pessoas começam a fazer maus usos.
09:01Começam desde pessoas ficando psicóticas,
09:04a IA influenciando as pessoas,
09:06causando até pessoas que se mataram,
09:09enfim,
09:09até pessoas que podem causar um vírus novo,
09:12e vários tipos de coisa que podem acontecer.
09:14E também porque esse IA,
09:15eventualmente,
09:16vai se tornar um IA super inteligente,
09:18e aí é muito difícil
09:19você controlar um negócio desse.
09:20Então,
09:21para mim,
09:22o maior risco
09:23é continuar a corrida.
09:25Então,
09:25eu fico triste,
09:26para mim,
09:27a maior conversa é vira assim,
09:28não é uma questão de vender ou não
09:30um chip para a China,
09:31e simplesmente sentar com a China,
09:33e com as outras potências de IA no mundo,
09:36para fazer um acordo,
09:37e dizer,
09:37galera,
09:37a gente não precisa mais entrar nessa corrida,
09:40vai ser muito melhor para todo mundo
09:43se a gente colocar boas regras
09:45e uma boa regulação
09:46sobre como que a gente vai fazer esse IA.
09:49Porque,
09:49enquanto não existir esse diálogo,
09:51Marisa,
09:51vai ficar essa guerra fria.
09:53Ah,
09:54você está vendendo para os caras,
09:55eles vão chegar antes da gente e tal.
09:57Então,
09:57para mim,
09:57a lição total é assim,
09:59para,
09:59para,
10:00segura,
10:01não é mais uma questão nós contra eles,
10:03e simplesmente o mundo inteiro
10:04pode padecer,
10:05ou pode se tornar uma coisa muito ruim,
10:07se a gente usar mal a inteligência artificial.
10:09Então,
10:09fica aqui o meu convite.
10:10Claro que eles não vão me ouvir,
10:12eles não estão aqui sintonizados no olhar digital,
10:15mas se tivessem,
10:15ou se tiverem em algum momento,
10:17fica aqui o meu apelo
10:18para que eles parem com essa loucura de corrida,
10:20senta para conversar na mesa,
10:22junto com a China e junto com todo mundo.
10:24Pois é.
10:25Bom,
10:25se eles pessoalmente não acompanham o olhar digital,
10:28vamos então esperar que outras pessoas
10:30que estão ligadas a eles,
10:32acompanhem,
10:33não é?
10:33Porque realmente fica bem difícil,
10:35não é pena,
10:36nesse momento atual que nós estamos vivendo,
10:38pensar em algo como consenso,
10:40que é uma palavra que parece que está
10:41cada vez mais distante nesse momento,
10:44não é?
10:45Infelizmente.
10:45Agora,
10:46até pena,
10:47falando em segurança,
10:49a presidente da Sinal Foundation,
10:51Meredith Whitaker,
10:53afirmou que agentes de IA,
10:55profundamente integrados ao sistema operacional,
10:59são bastante perigosos para apps criptografados.
11:03Explica para a gente,
11:04pena,
11:04quais são esses riscos da integração?
11:07Então,
11:08e a gente estava justamente falando dos riscos da IA,
11:10e esse é um dos exemplos,
11:12que as pessoas não estão vendo,
11:14enfim,
11:15a CEO aí está vendo,
11:16mas a gente precisa muito mais reverberar essas ruas.
11:19Então,
11:20vamos explicar o que acontece.
11:21O Signal,
11:22o WhatsApp,
11:23todos esses outros aplicativos de mensagem,
11:26eles são criptografados de ponta a ponta.
11:29Isso quer dizer o quê?
11:29Quando você escreve a sua mensagem,
11:32mesmo que alguém interceptar no meio do caminho,
11:34tiver lá alguém,
11:35um hacker na sua rede,
11:36não sei o quê,
11:37ele não consegue ver,
11:38porque a mensagem está toda embaralhada.
11:40Só vai ser desembaralhada lá no destino,
11:43só o seu receptor da mensagem vai conseguir decifrar.
11:46Então,
11:47beleza,
11:48então isso é um jeito seguro,
11:49um protocolo seguro da gente garantir isso.
11:51Só que aí,
11:52a gente está agora usando os agentes de IA,
11:54essas IAs que vão poder agir pela gente,
11:56que vão poder fazer tarefas pela gente,
11:58e o que a gente precisa fazer para que eles ajam pela gente?
12:01Tem que dar recurso,
12:02tem que dar acesso.
12:03Então,
12:03a gente está dando acesso para nossas contas,
12:07enfim,
12:07nossas planilhas,
12:08nossos documentos online,
12:10nossas mensageirias,
12:11você vai querer,
12:12as pessoas vão querer no futuro,
12:15que esses apps,
12:16que essas IAs vão poder usar os apps da vida dela,
12:19os seus WhatsApp da vida,
12:20para poder facilitar,
12:21de repente já responde aqui isso, aquilo,
12:24sei lá.
12:25E qual que é o risco?
12:26Uma vez que você começa a dar acesso a isso,
12:29você vai ter que falar assim,
12:30então,
12:30essa IA aqui,
12:32esse modelo de IA vai ter que acessar suas fotos,
12:34vai ter que ter acesso aos seus apps direto,
12:37e aí,
12:38mesmo que o app seja criptografado de ponta a ponta,
12:42isso aqui se torna uma falha de segurança,
12:46porque você vai ter um sistema de IA,
12:49que alguém desenvolveu,
12:51que vai poder ter bugs,
12:53que vai poder ter falhas de segurança,
12:55tendo acesso direto às coisas que você gostaria de criptografar,
12:59que ninguém tivesse acesso.
13:00veja que agora você está criando novos acessos
13:03para uma pessoa mal intencionada,
13:06e aí você está achando que tem uma segurança de ponta a ponta,
13:09na verdade a falha está local,
13:11a falha está ali logo,
13:13porque você está dando acesso para uma IA,
13:15que pode estar na nuvem ou não,
13:17ter acesso a todos esses recursos,
13:20enfim,
13:20te expor,
13:21e aí outros hackers explorar isso.
13:22Então isso é realmente sério,
13:25porque isso não vai acontecer só nas mensagerias,
13:27isso vai começar a acontecer na nossa vida inteira,
13:31no acesso aos nossos e-mails,
13:32nossos relatórios,
13:34nossos dados,
13:34nossas fotos.
13:36Então é sim preocupante, Marisa,
13:38e eu vou dizer mais,
13:40já vou dar cartada além.
13:42A maior preocupação que eu vejo
13:43não é só com hackers ou outras pessoas
13:48querendo fazer um mau uso disso.
13:51É também dos sistemas de IA
13:53poderem usar isso como para explorar,
13:57porque você vai poder,
13:58então pessoas vão poder desenvolver
14:00essas mesmas IAs que vão fazer esse acesso,
14:03elas vão poder desenvolver essas IAs
14:04que vão querer, na verdade,
14:05te manipular,
14:06roubar seus dados,
14:07enfim,
14:08existe muita maldade aí na internet,
14:11as pessoas querem de qualquer jeito ter benefícios.
14:14E aí veja,
14:15aí é muito mais fácil o acesso,
14:17porque o próprio sistema de IA
14:19vai ter essas vulnerabilidades.
14:21Então assim,
14:21não é nem que você precisa de um hacker
14:22que vai ter que invadir isso,
14:23o próprio sistema vai poder fazer isso.
14:25E se um dia acontecer
14:26dessa IA se tornar um,
14:30o que a gente chama de rogue AI,
14:31uma IA que começa a ser desalinhada
14:35e agir de maneira
14:37sem conformidade com seus criadores,
14:41aí é o pior,
14:41o risco é muito maior,
14:42porque a habilidade que ela vai ter
14:43de explorar essas vulnerabilidades
14:45é ainda maior do que qualquer ser humano.
14:47Ou seja,
14:49a gente está vendo aí,
14:50é um ótimo exemplo para ver
14:51como essa corrida desenfreada de IA,
14:53que aí você libera qualquer coisa
14:55que não vai estar bem testada
14:56e bem configurada
14:59e com segurança,
15:01pode gerar muitos malefícios lá para frente.
15:03Imagina o mundo inteiro
15:04usando esses agentes de IA
15:06incorporados no seu dia a dia,
15:08e aí basta uma falha,
15:09basta um bug,
15:11basta um piripaque da IA,
15:12e a gente vai ter aí
15:13um problema gigantesco
15:16no mundo inteiro,
15:16como aconteceu esses outros bugs aí
15:18que a gente teve,
15:19o CrowdStrike,
15:20sei lá,
15:21imagina isso,
15:21só que acontecendo por conta da IA.
15:24É um pesadelo que a gente não quer viver,
15:26Marisa,
15:26então é bom alertar,
15:27é bom falar isso repetidas vezes,
15:30repetidamente,
15:31para que as pessoas acordem
15:33para esses problemas.
15:34A gente não pode tolerar
15:34qualquer tipo de IA na nossa vida,
15:36a gente tem que exigir
15:37que essas empresas
15:38tenham responsabilidade.
15:39Pois é, né,
15:41Pena,
15:41e aproveitar que estamos
15:42apenas no começo,
15:44quer dizer,
15:44as coisas voam,
15:46mas estamos apenas no começo,
15:47realmente precisamos
15:48prestar atenção nisso.
15:50Muito bom o nosso bate-papo
15:52aqui de hoje, Pena.
15:53Bom,
15:53sempre temos muitos assuntos
15:54interessantes por aqui,
15:55mas vamos deixar alguns
15:57para a semana que vem.
15:58Muitíssimo obrigada
15:59pela sua participação
16:01e tenha uma excelente semana.
16:03Obrigado, Marisa,
16:04sempre bom participar,
16:06um beijo para você,
16:06boa noite para todo mundo.
16:08Até semana que vem.
16:10Aí, pessoal,
16:11mais uma participação
16:12de Roberto Pena Spinelli
16:14aqui no nosso Olhar Digital News
16:17com o quadro Fala Aí,
16:19que, claro,
16:19é um fala AI, né?
16:21Vocês já perceberam isso.
16:23Bom,
16:23semana que vem tem mais.
16:26Ele que é físico pela USP,
16:28especialista em Machine Learning
16:29e também colunista do Olhar Digital.
16:32Volta na próxima semana
16:34com mais temas para a gente.
16:35a gente tem mais.
16:36Tchau,
16:37tchau.
16:37Tchau, tchau.
Seja a primeira pessoa a comentar