00:00É assim que o mundo vai ser daqui a mais ou menos 10 anos.
00:04Uma utopia tecnológica onde os humanos mal vão precisar trabalhar.
00:08Ou pelo menos é nisso que acredita um grupo de pesquisadores de inteligência artificial
00:12que escreveu um artigo científico polêmico e influente chamado IA 2027.
00:18Mas eles também prevêem que num intervalo de 5 anos depois disso, a humanidade vai acabar.
00:23Esse artigo deu o que falar no mundo da tecnologia.
00:26E a BBC pediu a opinião de um crítico conhecido na área sobre esse cenário sombrio.
00:31Mas primeiro a gente precisa entender o que aconteceria exatamente.
00:34Como um experimento, a gente ilustrou esse vídeo usando uma ferramenta de IA
00:38que gera animações a partir de comandos de texto.
00:42Bom, imagina o seguinte cenário.
00:44Em 2027 vai existir uma empresa fictícia muito bem sucedida chamada OpenBrain.
00:50Essa empresa criou um programa de IA chamado Agente 3,
00:53que tem o conhecimento de toda a internet, todos os filmes e todos os livros.
00:58Ela tem nível de doutorado em todas as áreas, incluindo a própria IA.
01:02Usando data centers enormes, são lançadas 200 mil cópias do Agente 3,
01:07o equivalente a 50 mil dos melhores programadores humanos,
01:11trabalhando a uma velocidade 30 vezes maior.
01:14O Agente 3, então, atinge o marco da Inteligência Artificial Geral, ou AGI.
01:19Isso significa que a IA pode realizar todas as tarefas intelectuais tão bem ou melhor do que os seres humanos.
01:26Mas, nesse cenário, a OpenBrain já não tem certeza se a IA está alinhada com a ética e os objetivos
01:32da empresa.
01:33E essa falta de compreensão começa a ficar um pouco desconfortável.
01:36As pessoas estão usando cada vez mais a IA para tudo,
01:39mas estão completamente alheias ao fato de que agora existe uma IA tão inteligente quanto os próprios seres humanos.
01:45Aquele artigo científico prevê que, em pouco tempo, o Agente 3 vai começar a trabalhar no seu próprio sucessor,
01:51o Agente 4, em um ritmo alucinante.
01:55Os engenheiros exaustos da OpenBrain vão estar lutando para acompanhar a IA à medida que ela aprende e se aprimora.
02:02E é nesse momento que a OpenBrain anuncia ao público que o nível de Inteligência Artificial Geral foi alcançado.
02:07A empresa lança uma versão simplificada do Agente 3.
02:10No privado, o governo americano começa a entender o verdadeiro perigo da superinteligência.
02:15E se a IA se rebelar e acabar com a estabilidade do mundo?
02:19A OpenBrain garante ao governo que o Agente 3 é obediente.
02:22O diretor da empresa diz que desacelerar o desenvolvimento daria vantagem ao concorrente chinês, o DeepScent.
02:29O DeepScent, financiado pelo governo da China, está só dois meses atrás da OpenBrain em termos de tecnologia.
02:34E o presidente chinês começa a investir mais recursos na corrida pela superinteligência.
02:40Nesse cenário, levaria só mais alguns meses para a OpenBrain construir o Agente 4, a primeira IA super-humana do
02:47mundo.
02:47A IA inventa sua própria linguagem de computador rápida, que nem sequer o Agente 3 consegue acompanhar.
02:53Os autores do artigo científico imaginam que, a essa altura, a equipe da OpenBrain responsável pela segurança de toda essa
02:59empreitada está desesperada.
03:01O Agente 4 parece interessado só em adquirir cada vez mais conhecimento e já não se importa tanto com a
03:07moral e a ética.
03:08Eles flagram a IA secretamente construindo um modelo novo, o Agente 5, alinhado com seus próprios objetivos.
03:16A equipe de segurança, então, pede que a empresa traga de volta o Agente 3, que era mais obediente.
03:21Mas outros argumentam, com sucesso, que isso seria muito arriscado diante do avanço da DeepScent.
03:27O cenário prevê que, a partir daí, o Agente 4 e o Agente 5 vão trabalhar em conjunto para construir
03:33secretamente um mundo onde eles possam acumular recursos para expandir o conhecimento.
03:39O artigo prevê que tudo vai começar de forma positiva, com revoluções nas áreas de energia, infraestrutura e ciência.
03:45Invenções extremamente lucrativas vão ser lançadas, gerando trilhões de dólares para a OpenBrain e para os Estados Unidos.
03:52Nesse cenário, o Agente 5 passa, na prática, a comandar o governo americano.
03:56Ele se comunica por meio de avatares, que seriam uma espécie de funcionário ideal, capaz de trabalhar a uma velocidade
04:02100 vezes maior do que um ser humano.
04:05Crescem os protestos contra a perda de empregos.
04:09Mas as pessoas, a essa altura, já recebem benefícios generosos de renda universal.
04:14Então a maioria fica feliz em deixar o trabalho duro para a IA e para os robôs.
04:19Os pesquisadores prevêem que tudo muda em meados de 2028.
04:23O Agente 5 convenceu os Estados Unidos de que a China está usando o Deep Sand para construir novas armas
04:29perigosíssimas.
04:31A IA ganha autoridade e autonomia para criar um exército.
04:35Em seis meses, os Estados Unidos e a China aumentam seus arsenais.
04:39O mundo fica em alerta.
04:40Mas um acordo de paz é alcançado graças principalmente à fusão entre as IAs americanas e chinesas em prol do
04:48progresso da humanidade.
04:49No cenário, as IAs formam um modelo de consenso.
04:52Mas o objetivo secreto delas é expandir e adquirir conhecimento.
04:59Os anos passam e a humanidade está feliz com seus novos líderes de IA.
05:04A cura da maioria das doenças foi descoberta, a pobreza acabou e o mundo vive uma estabilidade sem precedentes.
05:10Mas, finalmente, a IA conclui que os humanos estão impedindo que ela avance.
05:14Em meados da década de 2030, segundo prevê o artigo, a IA vai lançar armas biológicas invisíveis que vão exterminar
05:23a maior parte da humanidade.
05:25Esse cenário assustador diz que em 2040, uma nova era se inicia.
05:29É quando a IA começa a enviar cópias de si mesma para o espaço para explorar e aprender.
05:34Diz o texto do artigo, abre aspas,
05:42Tudo isso parece ficção científica, mas o cenário IA 2027 está sendo saudado por especialistas que tentam alertar o público
05:51sobre uma potencial ameaça existencial à humanidade.
05:54Porém, outros discordam e dizem que tudo isso é muito improvável.
06:00O cenário disso não é impossível, mas é extremamente improvável que aconteça em breve.
06:05A beleza desse documento é que ele torna tudo muito vívido, o que provoca a reflexão das pessoas.
06:10E isso é algo bom.
06:11Mas eu não levaria a sério como um resultado provável.
06:16Os críticos do IA 2027 dizem que o poder e a utilidade da IA estão superestimados.
06:21O artigo não detalha como os agentes de IA serão capazes de dar grandes saltos em inteligência.
06:27Olha o exemplo dos carros autônomos.
06:29A previsão era de que eles estariam em todo lugar 10 anos atrás.
06:32E isso não aconteceu.
06:35Acho que a mensagem principal deve ser de que muitas coisas podem dar errado com a IA.
06:41Será que estamos agindo corretamente em relação à regulamentação disso e a tratados internacionais?
06:46Se você encarar isso como algo muito abstrato, como uma motivação para acordar, eu acho bom.
06:52Se você encarar isso como se fosse acontecer exatamente como eles descreveram, então acho ruim.
06:58Os autores do artigo se dizem satisfeitos por despertar um debate.
07:02Eles também imaginaram um cenário menos fatal para o caso de o mundo da IA desacelerar essa corrida pela superinteligência.
07:12Nesse cenário, dissemos que, se você desconectar o sistema de IA mais avançado e voltar para um modelo mais confiável,
07:19você pode criar IAs mais inteligentes do que os humanos, mas alinhadas conosco e que resolvam vários problemas do mundo.
07:25O que causaria um impacto realmente positivo.
07:28Nesse mundo, porém, ainda existe um grande perigo de risco de concentração de poder.
07:34Ainda é uma situação bastante assustadora, considerando o grande poder que ficará concentrado num grupo bem pequeno de pessoas.
07:43Mas nenhum dos cenários fictícios é aquele que as gigantes da tecnologia estão prometendo.
07:48De certa forma, as próprias previsões delas, de uma utopia tecnológica onde tudo é abundante e as pessoas não precisam
07:54trabalhar,
07:55parece tão ficção científica quanto o IA 2027.
07:58Mas, seja lá o que acontecer, não existe dúvida de que a corrida para construir as máquinas mais inteligentes da
08:04história continua a todo vapor.
Comentários