00:00E nesta quarta-feira, as principais desenvolvedoras de inteligência artificial
00:05alertaram o Conselho de Segurança da ONU
00:09sobre os riscos que a tecnologia representa para a humanidade.
00:15Nomes como Dario Amodei, CEO da Antropic, e Sam Altman da OpenAI
00:20fizeram um apelo para que os governos trabalhem juntos para gerenciar a IA.
00:27Esse é o assunto da nossa coluna da semana, Olhar do Amanhã.
00:44E vamos receber o Dr. Álvaro Machado Dias, professor da Unifesp,
00:50neurocientista futurista e colunista do Olhar Digital.
00:54Vamos lá conversar um pouco com o Dr. Álvaro Machado Dias.
00:58Olá, Dr. Álvaro Machado Dias.
01:01Muitíssimo boa noite e seja bem-vindo.
01:04Boa noite, Marisa.
01:05Dr. Álvaro, vamos lá.
01:07O Conselho de Segurança da ONU foi criado para lidar com ameaças entre estados.
01:14Ao colocar a IA nessa mesma mesa de discussão,
01:18que mensagem está sendo passada, Dr. Álvaro?
01:24Eu acho que a principal mensagem, Marisa, é que a IA, neste momento,
01:30está deixando de ser tratada como produto, está passando a ser tratada como um ator,
01:37como um ente com a sua agenda própria, no sentido em que o seu desenvolvimento em si,
01:46não a agenda autônoma da IA, mas no sentido em que o seu desenvolvimento preocupa por si só.
01:52Veja, o Conselho de Segurança da ONU, ele existe para lidar com questões que podem romper com a paz.
01:59Quando ele convoca uma reunião sobre IA, ele está dizendo que esse troço,
02:06esse ente que existe sem bandeira, sem exército, sem território, pode ameaçar a paz.
02:13É esse o ponto, tá bom?
02:15E isso já aconteceu no passado?
02:17Quando a gente olha para a própria IA, a resposta é não.
02:20A IA já foi tratada, se eu não me engano, seis vezes,
02:23seis vezes no Conselho de Segurança da ONU,
02:26mas todas as vezes foi assim, IA nas armas bélicas,
02:31IA em drones, IA na desinformação e assim por diante.
02:36Agora é a IA por si só, é nesse sentido que ela emerge como uma espécie de um ator independente.
02:43Quem já teve esse papel no passado?
02:46A resposta é clara, a bomba nuclear.
02:49Então, a gente vê uma migração de um domínio do aplicado
02:55para um domínio da tecnologia em si, tal como foi na corrida nuclear.
03:02Agora, doutor Alvaro, diferente até de discussões passadas,
03:06a gente vê um outro cenário.
03:08As empresas de tecnologia estão ajudando a moldar o tom dessa conversa,
03:13inclusive discursando em fóruns como o Conselho de Segurança da ONU.
03:18Isso muda a natureza da própria discussão?
03:21Ou seja, quem está lucrando?
03:24Já que as empresas que lucram diretamente com essa tecnologia
03:27também ajudam a definir esse novo vocabulário.
03:32Concordo com você, concordo com a pergunta.
03:34Muda sim, muda o jeito de enxergar o risco
03:40e também muda o jeito de definir quem está dentro e quem está fora,
03:44que é algo que a gente já discutiu aqui.
03:46As grandes empresas de tecnologia, os hyperscalers americanos,
03:51estão querendo avançar com esse debate,
03:54porque esse debate significa a imposição de regras
03:59que tornam a competição muito mais difícil para os players menores.
04:06E, na prática, torna mais difícil o uso de ferramentas open source
04:12por empresas em setores regulados.
04:14Isso também, isso é muito importante.
04:16Então, por exemplo, eu estou, sei lá, numa área financeira.
04:21Eu quero usar um modelo open source para fazer uma análise
04:25e apoiar meus clientes com sugestões de investimento.
04:31Esse é um mercado altamente regulado.
04:34E nesse mercado regulado, se eu tenho normas que exigem que a IA,
04:40ela seja auditada, ela tenha todo um conjunto de testes aferidos a cada nova versão,
04:50eu definitivamente estou tirando do jogo todo mundo que, por exemplo,
04:54não tem uma sede nos Estados Unidos ou em qualquer outro país ocidental
04:58onde essas coisas possam acontecer.
05:00Então, a gente já limba muita coisa nisso.
05:02Então, boa parte do debate tem a ver com essa maneira de tentar resolver
05:09a questão competitiva numa esfera muito mais institucional, jurídica,
05:15e evidentemente numa tentativa de fazer um grande acordo entre países
05:19que regulem e tragam segurança, o que é excepcionalmente importante,
05:23mas que também tirem do jogo essas outras empresas que estariam supostamente,
05:29ou talvez até em algum nível de verdade, trazendo algum risco.
05:32Agora, então, doutor Alvaro, quando a IA é reclassificada, digamos assim,
05:36como questão de segurança internacional,
05:40isso muda concretamente como a tecnologia é tratada?
05:44Muda, tá? Muda.
05:46Mais uma vez, a palavra é muda.
05:49Mas aqui é diferente, tá?
05:51Então, aqui uma coisa é, o que muda quando a gente olha a participação
05:56desses atores importantes, esses hyperscalers?
05:59Muda qual é a agenda, e a agenda deles é limar do jogo os chineses.
06:05Agora, a discussão aqui é outra.
06:07Quando as diferentes nações passam a tratar essa tecnologia
06:12como uma tecnologia de risco, o que acontece?
06:15Ué, vamos dizer, ela saiu de consumo e se tornou tecnologia
06:22existencialmente definidora, né, da segurança nacional e também da prosperidade.
06:26Muda pra começar quem tá lidando com o assunto.
06:29O assunto se torna um assunto de segurança,
06:32o assunto migra pra diplomacia, pra defesa,
06:36pras áreas de inteligência dos governos.
06:39Então, o tipo de burocrata que decide é outro.
06:44Entende?
06:44O ponto é, tá aí a grande mudança.
06:46E eu acho que tem uma outra que vem associada,
06:49que é, muda a natureza dos acordos que são pensados entre os países.
06:56As coalizões em torno da inteligência artificial,
06:59elas têm uma característica quando o que a gente tá falando
07:02é transformação material, é emprego, é prosperidade.
07:08E tem outra quando a gente tá falando de segurança e risco existencial.
07:12Então, há aqui uma espécie de tentativa de restabelecer alguma coisa
07:20do espírito combalido atualmente da OTAN.
07:24Apesar de não ser o fórum, a gente tá falando de um outro fórum,
07:27as economias avançadas estão pensando e hoje em dia a gente vê muito,
07:32por exemplo, essa relação cada vez mais próxima dos canadenses com os europeus,
07:38a gente vê muito uma discussão e um alinhamento sobre AI safety,
07:42ou seja, segurança da IA e todos os protocolos comuns avançando nessa linha
07:47e os americanos numa linha muito mais aceleracionista
07:49que eles querem trazer para os outros países,
07:52porque evidentemente entendem que esses países são clientes
07:55e os chineses numa linha também totalmente aceleracionista,
07:59com a diferença que eles acham que as políticas americanas
08:02são basicamente políticas dos hyperscalers
08:05para tirá-los do jogo, anticompetitivas e ilegais.
08:08Então, é assim que o debate está acontecendo
08:11e agora a gente vê cada vez mais a participação da diplomacia,
08:14sobretudo, e também da defesa,
08:17porque o debate se tornou também de risco existencial.
08:21Agora, até complementando e para encerrar até esse pensamento
08:25sobre esse existencialismo, digamos assim,
08:29historicamente até, não é, doutora Alvarez,
08:31tecnologias disruptivas acabam sendo descritas
08:35sob termos bélicos mesmo, não é?
08:38Se cada nova tecnologia poderosa
08:41acabe moldurada como ameaça existencial,
08:44em algum momento essa categoria pode perder, digamos assim,
08:48essa força?
08:51Então, se a gente tivesse categoria se sucedendo
08:55a cada 20 anos, com toda certeza,
08:59mas olha só, a última grande categoria
09:02no nível da inteligência, menor,
09:04mas comparável em algum nível à inteligência artificial,
09:07foi a energia nuclear.
09:08E a gente tem aqui 80 anos nos separando da bomba atômica,
09:13você entende?
09:14Então, mais ou menos, antes,
09:18a última grande explosão,
09:21por falar em bomba,
09:23tecnológica, tinha sido a da virada do século,
09:26com a eletricidade e o petróleo,
09:28o petróleo já existia,
09:29mas o petróleo ganhando massa crítica, por assim dizer,
09:32o uso.
09:33Então, ali você também tinha quase meio século de separação.
09:37Então, no final das contas,
09:39esses intervalos são suficientemente grandes
09:42para que ninguém viva dois riscos existenciais
09:46numa só vida, do ponto de vista tecnológico,
09:48e, consequentemente,
09:49para que não haja uma perda de força
09:51do alerta e da categoria.
09:53E tem uma outra questão,
09:55esse papo de ameaça existencial
09:58tem natureza dupla.
10:00No caso das armas nucleares,
10:03ninguém nunca achou que a bomba podia se autoexplodir
10:06e acabar com o mundo.
10:07sempre a questão foi como que desentendimentos
10:12e estados com, enfim,
10:15um parafuso a menos,
10:17para usar uma expressão popular,
10:18poderiam criar uma situação de destruição mútua
10:22e o planeta,
10:23sempre o bloco soviético achando que é o bloco americano,
10:27ocidental, bloco liderado pelos americanos,
10:30e os americanos achando que seria o bloco soviético.
10:32E, no final das contas,
10:34todo mundo entendendo que é um ser humano
10:36que pode nos levar, enfim, dessa para melhor.
10:41Agora, no caso da inteligência artificial,
10:44existe essa tese,
10:46ou, no meu ponto de vista,
10:47essa estratégia retórica e também fantasia,
10:50de que a inteligência artificial estaria,
10:53neste momento,
10:54caminhando para poder adquirir uma capacidade
10:58e, talvez, até uma intencionalidade
11:00orientada à destruição da humanidade.
11:02Então, é outro tipo de risco existencial
11:04que, no passado, nunca existiu.
11:06Então, não só eu não acho que esses alertas
11:08percam força,
11:09dada a questão geracional,
11:11eles não acontecem duas vezes na mesma geração,
11:13pelo menos até hoje, não,
11:14como tem esse lance que o ameaça existencial
11:17da inteligência artificial,
11:18nessa fantasia e nesse marketing,
11:20é muito diferente.
11:22Tá certo.
11:23Bom, mais um assunto super bacana para a gente
11:26aqui nesse olhar do amanhã,
11:27que é justamente o que o nosso quadro pretende fazer.
11:30Doutor Álvaro Machado Dias,
11:32muitíssimo obrigado pela participação aqui essa semana.
11:35Semana que vem teremos mais assuntos para falar.
11:38Muito obrigado e uma excelente semana.
11:41Eu que agradeço, agradeço todo mundo que nos acompanhou
11:44e todo mundo que agora está assistindo no YouTube,
11:46pensando nesse momento subsequente.
11:48Até lá.
11:49Até, doutor Álvaro.
11:51Está aí, doutor Álvaro Machado Dias,
11:53participando em mais uma coluna
11:55Olhar do Amanhã para você.
11:57Semana que vem,
11:58ele volta com mais um cenário,
12:01com mais análise,
12:02com mais ideias
12:03sobre a nossa coluna
12:05Olhar do Amanhã para a gente.
12:07Obrigado.
