- há 5 horas
Categoria
🤖
TecnologiaTranscrição
00:00E vamos continuar falando, aliás, do mitos da Antropic e do GPT 5.4 Cyber da OpenAI.
00:08Essas duas ferramentas colocaram empresas privadas no mesmo patamar de poder cibernético que governos e agências de inteligência.
00:19Esse assunto para a nossa coluna dessa semana, Olhar do Amanhã.
00:35E vamos receber ao vivo o doutor Álvaro Machado Dias, professor da Unifesp, neurocientista, futurista e colunista aqui do Olhar
00:45Digital.
00:46Deixa eu só colocar o doutor Álvaro Machado aqui na nossa tela.
00:50Boa noite, doutor Álvaro Machado Dias. Seja mais uma vez muito bem-vindo.
00:55Boa noite, Marisa.
00:56Doutor Álvaro, vamos falar um pouco sobre essas ferramentas aí de cibersegurança que introduzem uma nova fronteira bélica no contexto
01:07geopolítico contemporâneo.
01:09É isso mesmo, doutor Álvaro?
01:11É isso mesmo. Eu acho que a palavra fronteira aqui precisa ser levada muito a sério, tá bom?
01:17Até duas semanas atrás, Marisa, a capacidade de encontrar vulnerabilidades sérias, zero day em sistemas operacionais, navegadores, etc e tal,
01:26era algo que necessitava de muito estudo, muito esforço, investimento.
01:32E basicamente, do ponto de vista dos estados, estava relegada a uma espécie de monopólio da ciberinteligência global, tá?
01:44Então, os Estados Unidos com a NSA, Israel com a Unity 8200, os russos com a GRU, os chineses com
01:54a PLA e assim por diante.
01:56Duas semanas depois, isso já deixa de ser verdade.
02:00E o que a gente percebe é um movimento em que a grande fronteira vai ser temporal, Marisa.
02:09Ou seja, se eu tenho tempo para corrigir vulnerabilidades antes de ataques produzidos por vírus sintéticos, né?
02:20Ou seja, vírus produzidos através de variações de outros vírus de computador pelos LLMs e assim por diante.
02:28Tudo bem, eu estou numa boa.
02:30Se eu não tenho esse tempo, eu estou exposto.
02:34Essa é a questão.
02:35Não é só uma fronteira qualquer, é uma fronteira móvel.
02:39Então, agora, vai ser sempre uma corrida de gato e rato.
02:44E sendo que os ratos são todos nós.
02:47E aí a gente tem, portanto, um novo desenho.
02:51A gente já discutiu aqui há bastante tempo.
02:53Você vai lembrar.
02:55Um caso muito interessante envolvendo um vírus chamado Stuxnet,
02:58que foi desenvolvido pelos americanos para hackear as centrífugas do programa nuclear iraniano.
03:08A gente usou isso como um exemplo quando a gente estava falando desses vírus chamados polimórficos, né?
03:13Esses sintéticos em que a IA fica criando vírus em cima de vírus.
03:16E esse foi um caso de extremo sucesso de espionagem industrial e ataque cibernético
03:23que tomou anos para ser desenhado, implementado e muitos anos depois ainda segue sendo discutido.
03:34Esse tipo de coisa hoje em dia poderia ser feita por uma IA.
03:38Ou seja, a gente tem uma mudança de paradigma seríssima.
03:43E essa mudança é uma mudança seríssima.
03:46E ela traz para a gente uma questão.
03:49Tem empresas que estão tendo acesso a realmente a possibilidade de proteção,
03:57sobretudo do ponto de vista da relação com a Antropic, e outras que não.
04:00E mais do que isso, existirão países com acesso primário, prioritário e, a priori,
04:09às ferramentas de defesa cibernética e países que não terão.
04:13Pois é, doutor Álvaro.
04:14Nós, inclusive, repercutimos esse assunto do caso da Antropic,
04:17que optou por restringir o acesso ao mitos para algumas poucas empresas.
04:23Já a OpenAI abriu o GPT 5.4, é um nome difícil de falar, né?
04:28GPT 5.4 Cyber, para milhares de equipes de segurança.
04:33Estaríamos diante de uma corrida armamentista digital nesse momento, doutor Álvaro?
04:40Sim, estamos, mas antes um ponto.
04:42Não é porque a OpenAI abriu o acesso em potencial
04:46que isso significa que qualquer um pode ter esse acesso.
04:50Precisa ser aprovado pela empresa, qualquer um pode aplicar.
04:53Claramente, filtros geopolíticos, filtros estratégicos do ponto de vista do chamado bloco ocidental
05:00e, nominalmente, dos Estados Unidos, vão ser aplicados.
05:03Outra coisa, a gente não pode assumir que a ferramenta que está disponível,
05:08que estará disponível para essas empresas,
05:10é necessariamente a ferramenta que estará disponível para a NSA,
05:13para a inteligência tecnológica americana.
05:16Então, tudo isso entra agora como uma preocupação muito mais sofisticada.
05:21Mas, em termos gerais, a gente tem realmente dois modelos,
05:25modelos de corrida, do ponto de vista de posicionamento nesse mercado.
05:29A resposta rápida da OpenAI surge, evidentemente,
05:33como uma tentativa de bloquear uma espécie de monopólio de segurança cibernética
05:38por parte da Antropic, que, por sua vez, fez uma escolha.
05:42Quando ela restringe quem pode ter acesso,
05:45ela não está simplesmente dizendo assim,
05:48olha, eu confio mais nessas empresas.
05:51Olha só a sutileza.
05:52Ali não tem nenhuma empresa do Sul Global, BRICS, nada disso.
05:58Mesmo, inclusive, não tem empresas, Arábia Saudita, nada.
06:01Então, tem algo ali sendo dito que é
06:04eu estou alinhado à defesa dos interesses
06:09e, especificamente, do patrimônio americano.
06:12Por que isso é importante?
06:14Porque a Antropic acabou de entrar numa rusga muito forte
06:17com o governo americano em função da discussão
06:21sobre a permissão do uso do Claude
06:26para detonar armas autônomas
06:27e também vigilância em massa dos cidadãos americanos.
06:31E a recusa da empresa levou o governo
06:35a categorizá-la como risco à cadeia de suprimentos,
06:37o que significa que outras empresas que têm contratos com o governo
06:40não podem transacionar com ela.
06:41O que está sendo, enfim, combatido na justiça,
06:44até agora com ganhos potenciais do lado da Antropic,
06:47mas certamente traz uma dor de cabeça violenta para a empresa.
06:50Ou seja, a Antropic, nesse momento,
06:52está se colocando muito mais alinhada
06:54a um interesse patriótico americano das empresas americanas
06:58do que a própria OpenAI,
07:00que tem agora uma posição um pouco mais flexível
07:02em função do alinhamento maior,
07:05ou vamos dizer assim, da concessão maior
07:08às exigências do Exército
07:12e dos sistemas de inteligência estatais americanos.
07:15Então está aí a diferença entre as duas.
07:17Eu acho, só para fechar essa história,
07:19que a gente tem que pensar uma coisa.
07:21A OpenAI, apesar de ser a empresa mais capitalizada,
07:27a maior, que, enfim, fornece IA para mais gente,
07:32ela tem uma penetração em termos de inteligência de Estado,
07:35hoje em dia, nos Estados Unidos e no mundo,
07:37menor que a Antropic.
07:39E isso conta.
07:40Então, por exemplo, a operação que levou a captura do Maduro
07:44usou Cloud através da Palantir,
07:48a operação que levou ao assassinato do Ayatollah Khamenei,
07:52a mesma coisa,
07:54os próprios bombardeios iniciais em Teheran.
07:58Então, tudo isso coloca a Antropic
08:03numa posição de liderança
08:04do ponto de vista das decisões mais sérias mesmo.
08:08E eu acho que esse lançamento do Mythos
08:11e essa forma de posicioná-lo
08:14em relação ao mercado e ao governo,
08:16como um todo, a estratégia americana
08:18nesse momento tão sensível do ponto de vista geopolítico,
08:21reflete uma tentativa de se estabelecer
08:24como esse gigante mesmo da inteligência tecnológica.
08:29Ou seja, eu não me curvo
08:31a todos os interesses do governo americano,
08:33mas, em última análise, eu sou a peça-chave.
08:35Essa é a leitura que eu acho que a gente tem que ter aqui
08:38do plano da Antropic em oposição ao da Open Eye,
08:41que nesse momento é mais generalista.
08:43Agora, doutor Álvaro,
08:44e com relação ao público,
08:46a opinião pública mesmo,
08:47você acredita que a confiança pública na IA
08:51pode ser abalada de alguma forma
08:53com esse tipo de avanço
08:54e que impactos isso pode gerar para o setor?
08:58Marisa, eu não acho
09:00que confiança pública na IA
09:02seja um conceito
09:03que, de fato, descreva hoje em dia
09:06como a inteligência artificial
09:08ela é pensada,
09:09como ela se manifesta
09:11como representação da mente das pessoas.
09:13Por mais que isso pareça estranho,
09:15porque, afinal de contas,
09:16existem questões de confiança.
09:18Lógico.
09:19Só que eu acho que há clivagens
09:21muito fundamentais nessa confiança.
09:23Então, por exemplo,
09:24o sujeito tem confiança,
09:27ou mais confiança,
09:28na resposta daquela IA
09:30para que ele possa organizar
09:32uma, ele próprio,
09:34um output,
09:35uma resposta
09:36para o seu cliente,
09:39ou uma resposta
09:40para dar num e-mail,
09:42ou qualquer coisa assim.
09:43Ele confia no pensamento
09:44da IA generativa
09:46que está ali
09:47sugerindo coisas pontualmente.
09:49Tem uma outra forma
09:51de confiança que é,
09:52eu acho que a IA
09:54fez uma varredura
09:56do mundo.
09:57Então, eu faço uma pergunta,
09:58eu acredito que ela foi exaustiva
10:01no entendimento
10:01daquela realidade,
10:02por exemplo,
10:03diagnóstico médico
10:04e tudo mais.
10:05A questão está muito,
10:06será que a IA
10:06considerou todos os ângulos
10:08e tal?
10:09Será que a IA
10:09fez uma pesquisa adequada?
10:12Será que a IA
10:12não alucinou?
10:13Que é uma outra coisa,
10:14ligeiramente diferente,
10:15muito mais factual
10:16nesse caso.
10:17No primeiro caso,
10:17é muito mais
10:18da capacidade narrativa.
10:20Existe uma terceira,
10:21finalmente,
10:22que é
10:23o quanto eu confio,
10:25outra grande potência,
10:26que é o narrativo factual,
10:27a outra é
10:29o quanto eu confio
10:30que a IA converge
10:31aos meus interesses
10:33ou, eventualmente,
10:34aos interesses
10:35da sociedade
10:36como um todo.
10:37Então, tipo,
10:37a IA tende a nos eliminar
10:39ou a IA tende a eliminar
10:40os nossos empregos
10:42ou reduzir
10:43a nossa felicidade
10:44ou, usando aquela expressão
10:45que eu criei,
10:46que agora está bem popular,
10:47tende a amplificar
10:48a algoritimização
10:49do pensamento,
10:50etc.
10:51Ou, o contrário,
10:52ela tende a trazer
10:53prosperidade,
10:54tende a trazer
10:56avanços intelectuais
10:56e científicos,
10:57etc.
10:58Então,
10:58são muitas maneiras
11:00da gente ter confiança
11:02e a confiança pública
11:03é simplesmente
11:04a somatória delas.
11:05Aqui, especificamente,
11:07a gente está falando
11:08da confiança
11:09da IA
11:11manter-se,
11:12se manter alinhada
11:13aos interesses
11:14do Estado,
11:15especificamente.
11:16Essa é a grande
11:16preocupação.
11:17E por que eu falei
11:18tudo isso?
11:19Porque, justamente,
11:21a clivagem se aplica
11:23aqui com perfeição.
11:24Então, do ponto de vista
11:25dos americanos,
11:26em geral,
11:28esse tipo de avanço
11:29aumenta a confiança
11:30pública na IA.
11:31Porque eles sentem
11:32que a IA
11:33está fazendo parte
11:34cada vez mais
11:35de forma, assim,
11:36absolutamente profunda
11:38do que é
11:40ser um país seguro
11:42em relação
11:42às ameaças externas.
11:44Do ponto de vista
11:45dos outros países,
11:47nominalmente
11:48dos chineses,
11:49isso aqui
11:50diminui
11:51a confiança
11:52pública na IA.
11:53Por quê?
11:54Porque a sensação
11:55cada vez mais
11:56é que ela está
11:57sendo convertida
11:57em arma cibernética
11:59para atacá-los.
12:00Então, está aí
12:01a resposta
12:02que a gente tem
12:02que ter
12:03para essa pergunta.
12:04A confiança
12:05é uma função
12:05de quem confia
12:06e do segmento
12:07que está em discussão,
12:08seja ele
12:09muito mais pessoal
12:10ou seja ele
12:10muito mais societário.
12:12Pois é.
12:13Então, até para encerrar
12:14esse raciocínio,
12:15doutor Ava,
12:15nesse cenário
12:16onde tudo é
12:18interconectado,
12:19onde tudo é
12:19hackeável,
12:20o termo segurança
12:21muda de alguma
12:22forma de sentido?
12:24Eu acho que muda,
12:26tá bom?
12:26A minha sensação
12:27é que sim.
12:28Eu acho que
12:29cada vez mais
12:30segurança,
12:30quer dizer,
12:31segurança cibernética.
12:32Antes as pessoas
12:33pensavam em hackers
12:34e etc e tal,
12:35mas era evento raro,
12:37era coisa ligada
12:37a grandes empresas
12:38e tudo mais.
12:39No mundo
12:42das criptomoedas,
12:43a explosão
12:44do mundo cripto,
12:47surgiram
12:48as quadrilhas
12:49profissionais
12:50de ransomware,
12:51de sequestros
12:51de máquinas,
12:52não porque
12:53elas estão
12:53sequestrando
12:54carteiras de cripto
12:56só,
12:56isso aconteceu muito,
12:57mas não é esse o papo,
12:58é porque elas recebem
12:59em cripto,
13:00então fica muito mais fácil
13:02operacionalizar
13:03esse tipo de negócio
13:03ilegal.
13:04E também
13:06a Dark Web
13:08contribuiu
13:09com toda a dimensão
13:10do tráfico de drogas
13:12sobretudo,
13:12e outras coisas mais,
13:13pedofilia e tal,
13:14todas essas coisas
13:15são pagas em cripto
13:16e essas coisas aumentaram
13:18em muito
13:19os riscos cibernéticos
13:20porque criaram
13:21mercados gigantescos
13:22de baixíssima
13:24regulação
13:24ou nenhuma regulação.
13:26Só que agora
13:27a gente está
13:28num outro momento
13:28e nesse momento
13:30as coisas
13:32deixam de ser exceção,
13:33então está aí
13:34a mudança
13:35no sentido
13:36de segurança,
13:37a gente está
13:38muito próximos
13:40a experimentar
13:40uma explosão
13:41nos riscos
13:43cibernéticos
13:43e um aumento
13:45na sofisticação
13:46dos ataques
13:47feitos com baixo custo.
13:49Ou seja,
13:50hoje em dia
13:51por que não tem,
13:51ninguém está hackeando
13:53e sequestrando
13:53sua conta de e-mail
13:55ou sua conta
13:56da rede social?
13:58Porque dá trabalho,
13:59não é porque é impossível.
14:00O custo-benefício
14:01não é favorável,
14:03é melhor gastar
14:04dez vezes a energia
14:05e tentar sequestrar
14:06um sistema bancário
14:08que vale bilhões.
14:09Entende?
14:10Mas na medida
14:11em que essas IAs
14:12conseguem independentemente
14:13fazer esse tipo
14:14de operação
14:15com baixíssimo custo
14:16e baixíssima supervisão,
14:18o incentivo aumenta muito.
14:20Então há uma explosão
14:22de insegurança
14:23que faz com que
14:24a nossa percepção
14:25do conceito
14:25de segurança
14:26seja muito mais
14:28fortemente digital
14:29e cibernético
14:29especificamente,
14:30que não são exatamente
14:31a mesma coisa,
14:31mas a gente entende
14:32como se fosse.
14:34Está aí,
14:34mais um olhar
14:35da manhã
14:36interessantíssimo,
14:37doutor Álvaro,
14:38assunto para a gente
14:39realmente pensar
14:40e acompanhar
14:40muito de perto
14:42esses próximos passos
14:43e essa corrida toda
14:44das IAs
14:45e sua segurança.
14:47Doutor Álvaro Machado Dias,
14:48muitíssimo obrigada
14:49por mais uma vez
14:50participar aqui conosco.
14:51Semana que vem
14:52teremos mais assuntos.
14:55Eu que agradeço,
14:55agradeço a todo mundo
14:56que nos acompanhou
14:57até quarta quinta.
14:58Até excelente semana,
14:59doutor Álvaro,
15:00boa noite.
15:02Está aí, pessoal,
15:03doutor Álvaro Machado Dias
15:04em mais uma coluna
15:06Olhar do Amanhã
15:07aqui em Olhar Digital News.
15:09Doutor Álvaro Machado Dias
15:11que é neurocientista,
15:12futurista,
15:13colunista do Olhar Digital
15:14e professor da Unifesp.
15:15Semana que vem
15:16tem mais coluna
15:18Olhar do Amanhã
15:19para você.
Comentários