00:00E em meio às incertezas sobre uma eventual retomada dos combates no Irã,
00:05as discussões sobre o uso de inteligência artificial na guerra continuam.
00:11E esse é o assunto para a nossa coluna da semana, Olhar do Amanhã.
00:28E vamos receber doutor Álvaro Machado Dias, professor da Unifesp, neurocientista futurista e colunista do Olhar Digital.
00:38Vamos lá, deixa eu encontrar aqui o doutor Álvaro Machado.
00:42Doutor Álvaro Machado Dias, muitíssimo boa noite, seja muito bem-vindo.
00:48Boa noite, Marisa.
00:49Doutor Álvaro, vamos falar um pouco sobre tecnologia nas guerras.
00:55No centro da estratégia de guerra dos Estados Unidos está o projeto MAVEN,
01:01que é uma ferramenta que acelera a identificação de alvos e reduz o tempo necessário para a execução do ataque.
01:09Como esse sistema, doutor Álvaro, funciona na prática?
01:14Qual que é a história aqui?
01:15Tem um sistema que surge em 2017 por um problema operacional bem concreto.
01:21Os analistas estão ali, analistas militares americanos, assim, afogados em imagens de drones,
01:29registros de objetos, isso, aquilo, aquilo, outro, tentando encontrar como maximizar a velocidade e a precisão de resposta militar.
01:38Esse é o grande problema.
01:39O que eles fizeram?
01:41Eles construíram um projeto de classificação, desses como a gente sabe que aconteceu por muitos anos,
01:48na classificação de textos e imagens através do CAPTCHA na internet.
01:52Então, mais de 4 milhões de imagens foram categorizadas, veículos militares, pedras, enfim, sombras e tudo mais,
02:03para identificação e rotulagem, classificados, quer dizer, rotulados,
02:08daquilo que pode ser alvo, pode interessar dentro de uma operação militar.
02:12Ou seja, é a busca inicial pelas referências, pelas coordenadas para uma ação automatizada ou semi-automatizada
02:23de uma arma letal ou não, geral letal.
02:27E aí ela está, nesse momento, baseada em trabalho massivo humano, aquela coisa de bastidor que faz toda a diferença.
02:35Pois bem, o projeto Maven foi se transformando e o sistema atual, ele chama Maven Smart System,
02:43é operado pela Palantir, que é essa empresa que está agora sempre em alta nas discussões pelo bem e pelo
02:50mal,
02:50pelo bem no sentido da tecnologia poderosa, pelo mal, sobretudo do ponto de vista de quem anda criticando
02:57as operações internacionais americanas e também as operações para a chamada caça dos imigrantes dentro do país,
03:02que é operada pela Palantir, entre outras empresas.
03:06O que acontece? O sistema tem visão computacional para detecção de alvos e LLMs, ou seja, modelos de linguagem,
03:15que servem para que o operador possa conversar com a máquina e entender se aquilo que ele está vendo,
03:23ou ela está vendo, realmente é um alvo militar.
03:26Então, a ideia toda é que o projeto Maven é um projeto de automação e otimização decisória
03:37dentro da lógica da chamada cadeia de kill, de morte militar,
03:44e que hoje em dia é operada, sobretudo, por uma grande empresa que é a Palantir.
03:49Um ponto, Marisa, na guerra agora contra o Irã, olha que coisa maluca,
03:54nas primeiras 24 horas o sistema Maven gerou mais de mil opções de ataque.
04:00A operação ele chamou Epic Furry, ou seja, Fúria Épica, e é isso,
04:07em 24 horas o sistema de automação tinha proposto simplesmente mil alvos dentro do Irã.
04:16Qual que é a questão mais sensível nessa história?
04:19No meio do ataque, uma escola de meninas, que não fica exatamente dentro do perímetro militar,
04:29foi atingida por um míssel e 168 crianças morreram.
04:35Não posso nem dizer que são crianças inocentes, porque isso é óbvio.
04:38E aí surge esse debate, que é, afinal de contas,
04:42essas mortes, elas emergem da tecnologia, do desenho institucional,
04:49da imaturidade tecnológica, elas são consequência esperada do comportamento
04:56de ação rápida, elas são intencionais.
05:00Como que a gente vê essas mortes?
05:02Aí o debate que esse tipo de tecnologia traz,
05:05que é, afinal de contas, o quão, vamos dizer assim,
05:11ético e seguro é esse uso tecnológico,
05:14quando ele é tão rápido e permite que você aperte um botão e mate tanta gente.
05:19Diante desse exemplo até que você comentou,
05:22doutor Álvaro Machado, o que a Casa Branca diz,
05:25cai por terra, porque ela diz que a IA apenas analisa dados,
05:29e que a gente teria que ter ali um comando.
05:34Mas até que ponto, então, esse comando tem esse comprometimento ético
05:41para ter uma reflexão antes de ter efetivamente aquele disparo?
05:46Isso aqui é a informação da Casa Branca,
05:47que é somente coleta de dados,
05:49mas aí com essa informação ela não é muito bem baseada.
05:54Eu adoro esse programa,
05:56porque a gente discute as coisas mais sensíveis e profundas
05:59de maneira muito clara.
06:01Olha só, em estrito senso,
06:05a Casa Branca está tecnicamente correta.
06:08É só análise.
06:09Mas qual que é o problema, Marisa?
06:11Quando eu faço uma análise
06:13na qual eu compilo informações,
06:16eu classifico em atratividade,
06:19eu mostro o grau de confiança que eu tenho,
06:22eu máquina,
06:23e eu deixo tudo pronto para que você aperte um botão
06:27e com isso destrua um alvo,
06:30eu efetivamente,
06:32simplesmente compilei informações
06:34ou eu criei condições favoráveis a um comportamento
06:39que, do ponto de vista reflexivo,
06:42ele é mínimo?
06:43Porque, afinal de contas,
06:45houve o chamado cognitive offloading,
06:47houve a transferência analítica para o algoritmo.
06:51Percebe que é muito mais esse caso
06:54da gente dizer sim
06:55na transferência analítica,
06:59uma transferência decisória também,
07:01ainda que ela não seja a decisão de apertar o botão,
07:04quando eu vejo as coisas classificadas,
07:07quando eu vejo um alvo como altamente provável,
07:10ele tem uma bola em torno
07:12e, assim, alta probabilidade,
07:15qual o grau de confiança nessa afirmação?
07:16Alto, alto, tudo.
07:18É claro que eu crio uma situação de menor fricção
07:23para o tomador de decisão humano
07:25e esse que é o negócio.
07:27Existe na área da psicologia dos vieses
07:32ou behavior economics,
07:34como se o pessoal gostasse de chamar,
07:36como se fosse uma área da economia,
07:38ainda que não seja,
07:39um tipo de viés chamado o viés da automação.
07:43Pouco discutido, mas muito importante
07:44para quem mexe com o IA.
07:46O que acontece?
07:47Eu vou automatizando as etapas,
07:50eu vou reduzindo o escopo para reflexões,
07:53afinal de contas,
07:54está tudo lá, está tudo na mão
07:56e o tempo é uma variável fundamental.
07:58E aí as pessoas acabam decidindo,
08:01induzidas pela lógica algorítmica,
08:02ainda que em escrito senso,
08:04de fato, a gente não esteja falando aqui
08:06de armas autônomas.
08:07Agora, doutor Álvaro,
08:09esse Project Maven é um ponto fora da curva
08:13ou é o início de um novo padrão
08:15que vamos encontrar daqui por diante?
08:19É totalmente um novo padrão
08:21que está se tornando mainstream.
08:24Nos Estados Unidos deixou de ser
08:25uma tecnologia contratada pontualmente
08:27para se tornar parte
08:28da própria infraestrutura militar americana,
08:31então, assim, nos Estados Unidos não sai mais.
08:33A tendência nas outras potências bélicas
08:38é semelhante.
08:39O uso da IA generativa
08:41nesse tipo de situação analítica
08:45se tornou também em si uma constante,
08:49ou seja, você tem dados que surgem na tela
08:51e aí você usa um algoritmo para tirar dúvidas.
08:54Isso significa que,
08:56queira ou não queira,
08:57a informação está sendo processada
09:00e vai ser interpretada
09:02por um algoritmo como o Cloud Opus,
09:05que é muito bom,
09:05mas daqui a cinco anos
09:07a gente vai olhar e vai falar
09:07que é terrível, né?
09:09Porque, afinal de contas,
09:10a gente está sempre utilizando
09:12a pior IA que a gente vai conhecer,
09:15excerto todas as outras do passado.
09:18Então, existem limitações claras
09:20e, mais ainda,
09:22existe uma convergência
09:23em sentido a fazer com que
09:29essas análises de cenário
09:32reduzam cada vez mais
09:33o espaço analítico,
09:36isso é falado tecnicamente da seguinte maneira,
09:39para que elas comprimam
09:40a tomada de decisão
09:42até o ponto em que o analista,
09:45o militar, enfim,
09:47vai basicamente concordar com...
09:51Sim, você aceita apertar esse botão?
09:53Sim, e mais nada.
09:55Ou seja,
09:56realmente a gente está
09:57num processo de automação
09:59acelerada da guerra.
10:01Agora, doutor Álvaro,
10:02para a gente encerrar,
10:03olhando agora amplamente
10:05para a guerra do Irã,
10:07até como nós abrimos o boletim
10:08falando sobre o Estreito de Hormuz,
10:10que foi reaberto
10:12e agora já fechou novamente,
10:13tem aí esse período de trégua
10:15de duas semanas, enfim.
10:17Eu queria que você comentasse conosco
10:19qual é o desenrolar dos próximos,
10:21dos acontecimentos
10:22para os próximos dias desse cenário.
10:25É claro que ninguém tem a menor ideia
10:27e quem disser que tem
10:28está falando bobagem,
10:30mas a gente pode já entender
10:32um pano de fundo muito forte.
10:34Primeiro é o seguinte,
10:36esse cessafogo
10:37foi baseado numa ambiguidade
10:41facilmente verificável,
10:42há uma verdadeira pausa teatral.
10:44As primeiras horas
10:46já mostravam isso.
10:48Então, começa que o Trump
10:50fez um tipo de ameaça
10:51que, assim,
10:53se você tem algum tipo de,
10:56enfim,
10:58respeito às leis da guerra,
11:00às estruturas internacionais,
11:02você pensa duas vezes nela.
11:03Então, o Trump ameaçou
11:05a morte de uma civilização inteira
11:08numa noite.
11:08A gente está falando aqui
11:09de um legado histórico
11:11importantíssimo, milenar.
11:14tem componentes religiosos,
11:16componentes artísticos.
11:18A gente tem também
11:19aspectos humanitários sensíveis,
11:21como plantas de dessalinização
11:23da água
11:23numa região
11:25fundamentalmente desértica.
11:26Então, assim,
11:27a coisa começou baseada
11:30no tipo de ameaça
11:31que ultrapassa
11:33aquilo que a ética aceita.
11:35E aí foi, assim,
11:36a coisa avançou,
11:37teve, enfim,
11:38o cessafogo, né,
11:39como uma suposta
11:40grande vitória,
11:41os dois lados cantando vitória.
11:44Mas eu diria
11:45que fundamentalmente
11:47o que a gente tem
11:47é um acordo frágil,
11:48até porque horas depois,
11:51né,
11:51o Israel lançou
11:52uma operação, né,
11:54chamada Eternal Darkness,
11:55né, contra o Hezbollah.
11:56Disse que aquilo
11:58que supostamente
11:59estaria no plano
11:59do ponto de vista
12:00dos iranianos,
12:01do ponto de vista deles
12:01não estaria no plano.
12:04Houve também ataques
12:05no Irã subsequentemente.
12:07Ou seja,
12:08o balanço disso
12:09é de uma pausa
12:12que não existiu
12:13e que talvez
12:13nunca tivesse sido
12:14pensada
12:15para efetivamente valer.
12:17Para mim,
12:18eu acho que a gente
12:18está aqui
12:19muito mais
12:20numa situação
12:20de construção
12:22de realidades
12:23como teatros,
12:25por assim dizer,
12:26do que propriamente
12:27de um plano sério
12:30para que haja
12:31estabilidade na região.
12:32Vamos ver
12:33o que vai acontecer
12:34daqui a pouco,
12:34mas, para variar,
12:35eu sou bastante cético
12:37e pouco otimista.
12:39Pois é,
12:40doutor Álvaro,
12:40vamos acompanhando
12:41bem de perto
12:42essa situação
12:42porque realmente
12:43é uma questão
12:45de midiático,
12:46de marketing,
12:47mas que leva
12:48em consideração
12:49aquilo que é mais sensível,
12:50que é a vida, né,
12:51a vida das pessoas.
12:52Muito importante.
12:53Bom,
12:54falamos com o doutor
12:55Álvaro Machado Dias
12:56em mais um
12:57Olhar da Manhã.
12:58Sensacional,
12:59doutor Álvaro Machado.
13:00Semana que vem
13:00teremos mais assuntos
13:02para discutir aqui.
13:03Muito obrigada
13:03e tenha uma excelente semana.
13:06Eu que agradeço você,
13:07Marisa,
13:08agradeço todo mundo
13:08que nos acompanhou.
13:09Até quarta que vem.
13:10Até,
13:11boa noite.
13:12Tá aí, pessoal,
13:13mais um Olhar da Manhã
13:14para vocês,
13:15discutindo aqui detalhes
13:17sobre a presença
13:18da tecnologia
13:18nas guerras
13:19com o doutor Álvaro
13:20Machado Dias,
13:21que é professor
13:21da Unifesp,
13:23neurocientista futurista
13:24e colunista
13:25do Olhar Digital.
13:26Na próxima semana,
13:28tem mais para você.
Comentários