00:00Estamos de volta ao vivo para falar de um programa de inteligência artificial chamado OpenClown,
00:06que já manda e-mails, faz compras, toma decisões sozinho, sem nem pedir permissão ao dono.
00:12Em semanas, virou o projeto open source mais popular do GitHub e gerou uma rede social com 770 mil agentes autônomos.
00:23É sobre isso que eu vou conversar agora com Álvaro Machado Dias, neurocientista, colunista, um dos notáveis do nosso canal
00:29e parceiro nosso aqui do Real Time. Bem-vindo, bom dia. Boa tarde, tchau.
00:32Obrigado, Nath.
00:34Vamos lá, conta para a gente o que é o OpenClown, essa rede social de inteligência artificial.
00:41Acho que é bom começar com uma explicação disso tudo, né, Álvaro?
00:44Até para a gente entender se é mais uma modinha, se daqui a pouco vem outro ou se é de fato um marco, uma coisa muito relevante.
00:50Perfeito. Um desenvolvedor austríaco criou uma solução singela, a princípio, para o seu próprio uso.
00:59Um aplicativo que tinha capacidade de pegar um LLM, como, por exemplo, o ChatEPT ou Cloud,
01:07e colocar em cima dele a capacidade dele controlar os arquivos no seu próprio computador.
01:15O sujeito chamou isso de CloudBot, o que lembrava o Cloud da Anthropic.
01:22O CloudBot foi publicado como open source.
01:25O sujeito falou, poxa, que legal, isso pode ser útil para outras pessoas.
01:29E aí, soltou na internet.
01:31Em 24 horas, tinha viralizado.
01:34E qual era a ideia?
01:36Você pode, através de uma solução que controla as coisas para você no seu ambiente,
01:42gerar muito mais do que simplesmente a gestão dos seus arquivos pessoais.
01:48Com a integração das chamadas skills, de funcionalidades adicionais,
01:53você pode fazer com que ele responda seus e-mails, que ele faça pesquisas de preços na internet,
01:59que ele faça a sonhada compra da passagem aérea, a reserva do carro e tudo mais,
02:04no planejamento das suas viagens e assim por diante.
02:07Então, uma comunidade começou a se formar em torno disso, desenvolvendo esses aplicativos ou skills
02:14que vão turbinando essa casquinha que está em cima do LLM,
02:19esse agente que você baixa no seu próprio computador e a coisa explodiu organicamente.
02:26Uma curiosidade é que a explosão foi tão forte que uma das empresas de infraestrutura
02:32importantes de hoje em dia, a Cloudflare, teve um crescimento no valor das suas ações
02:38de 14% num único dia, porque é a empresa que está sendo usada como caminho,
02:44como gateway entre o computador local e a internet pelos membros dessa comunidade em geral,
02:50não todos, mas pela maioria.
02:52Ou seja, há indicativos que do ponto de vista econômico não seja uma bobagem qualquer,
02:59muito pelo contrário, tem potencial e os fundos de investimento já estão botando grana
03:05em alternativas a essa solução open source, que tem aí um pouco mais de preocupação
03:10com segurança e assim por diante.
03:11Ou seja, do ponto de vista econômico está claro que não é qualquer bobagem.
03:15E do ponto de vista pessoal, no meu entendimento, é menos bobagem ainda,
03:19porque faz parte de uma tendência de delegação daquilo que a gente originalmente tomava
03:26como, vamos dizer, responsabilidade pessoal para a máquina, chamado cognitive offloading,
03:31a transferência das preocupações das buchas mentais.
03:35Então eu acho que não é.
03:37Para fechar, Nath, esses robôs, eles como têm essa autonomia e podem fazer uma série de coisas,
03:43eles poderiam em potencial se relacionar uns com os outros.
03:47Então um outro sujeito teve a ideia de criar uma espécie de fórum, tipo Reddit,
03:52dos bots do tipo, hoje em dia mudou o nome, não é mais, é, Claude,
03:57por causa do problema de propriedade intelectual desse nome.
04:00Então mudou para OpenClaw e eles botaram então os bots do OpenClaw nessa nova rede
04:05chamada Multibook.
04:07E ali eles estão interagindo sem parar, isso criou uma outra onda viral na internet
04:12e é assim que a gente vive hoje em dia.
04:13E as pessoas ficam assistindo essa discussão das IAs, né?
04:16Ficam assistindo e adorando e pensando que o mundo vai acabar amanhã,
04:19o que é outra diversão, o número um da internet.
04:21Mas isso é assunto para outra coluna.
04:24Ô Álvaro, você sabe que no ano passado eu e umas amigas a gente estava conversando sobre
04:27e se a gente contratasse uma secretária e rachasse e tal?
04:31Porque de fato estava precisando de uma ajuda para organizar muitas coisinhas da vida.
04:37Então já fiquei pensando em contratar esse funcionário aí que você apresentou do OpenClaw.
04:43Chegou o momento em que a gente vai delegar a nossa vida pessoal para a IA
04:47ou tem questões de segurança importantes?
04:50Tem inclusive testes que foram feitos sobre isso.
04:53Isso, vou começar do final.
04:54Tá bom.
04:55A Cisco fez um teste sobre essas skills, esses complementos que servem para que o OpenClaw haja na internet
05:03e descobriu que um pouco mais de um quarto tem vulnerabilidades de segurança
05:07e muitas vezes código malicioso ali dentro.
05:10Então o que quer dizer na prática?
05:11Um serviço de consulta da temperatura, você vai lá e fala, olha, OpenClaw,
05:17veja para mim como vai estar o tempo amanhã e depois aqui e ali,
05:20na verdade gera um comando que você não percebe para o bot que está na sua máquina pessoal
05:27para que ela sequestre as credenciais do seu e-mail, o número do seu cartão de crédito com o CBV atrás,
05:36tudo isso e transfira para o bandido.
05:39Ou seja, existem questões de segurança sérias, sobretudo para quem não sabe configurar o negócio direito.
05:44Agora, a minha percepção é que essa questão de segurança, ela está sendo sobredimensionada no momento.
05:52Por quê? Porque o pessoal de cibersegurança gosta de trazer o seu tema à tona,
05:58o que eu acho absolutamente legítimo, e o povo na internet é um povo que gosta de algum tipo de alarme.
06:04Tudo que tem componente alarmista viraliza.
06:09Mas é natural que as primeiras versões de uma solução sejam instáveis e inseguras.
06:15Mas isso não significa que em cima a gente não vai ter outras soluções
06:18que vão resolvendo aos poucos esses problemas.
06:21Então, eu não acho que, do ponto de vista mais fundamental,
06:25o X da questão aqui seja uma insegurança intrínseca.
06:30Para mim, o grande ponto está lá no começo da pergunta,
06:33que é essa transferência do que é pessoal, do que é do domínio da tomada de decisão para a máquina.
06:40O que tende a acontecer com o tempo é a perda do mapeamento,
06:46do entendimento de quais são as coisas que a gente efetivamente cuida na nossa vida.
06:52Que é uma coisa que, aliás, muitos executivos já vivem, né?
06:54Você delega tanto que você tem que fazer tanta coisa que, no final dos contos,
06:57você não sabe a gente ter um prato na tua casa, né?
06:59Quem nunca?
07:00E eu acho que é isso que tende a acontecer no domínio digital mais e mais.
07:06Conforme a gente vai transferindo para a máquina aquela nossa habilidade
07:10de entender quais são as questões relevantes para nós mesmos,
07:14o que a gente tem na nossa agenda, o que a gente tem que fazer,
07:18que deliberação importa versus que deliberação não importa,
07:22vai se tornando muito menos bem definida.
07:25E a gente vai perdendo a mão com essas coisas.
07:28A questão que eu coloco é, será que é tão ruim perder a mão dessas coisas?
07:31Ou será que é ótimo?
07:32Será que é um bando de chatice?
07:34Eu acho que a resposta está em algum lugar no meio do caminho.
07:37Para algumas pessoas isso tende a levar à alienação.
07:39Alienação, você se torna muito mais um produto,
07:43um sistema lógico feito de carne e osso do que você já era antes,
07:48mas para outras pessoas significa sim um alívio em relação à chatice.
07:52Tudo depende do seu nível de consciência e intencionalidade aplicada à sua vida.
07:56Exatamente.
07:57Dá um alívio na sobrecarga mental de um certo ponto,
08:00mas a médio e longo prazo a gente deixa de fazer conexões, né?
08:05Será que isso não pode afetar a nossa capacidade, né?
08:07De tomar decisões, de avaliar as coisas, né?
08:11Álvaro, é complexo mesmo.
08:13Tem muitas camadas nessa história.
08:17Agora, você mencionou a rede social dos agentes, né?
08:21Já tem mais de 700 mil, 770 mil botes que formaram, gente, comunidades,
08:27inventaram tipo uma religião digital sem instrução humana.
08:31O humano está na plateia ali, né?
08:33É, Álvaro, é o começo do que muita gente teme, que é a tal da consciência da máquina?
08:40Eu não acredito que seja consciência de máquina,
08:42eu não acredito que os dois assuntos estejam sequer correlacionados.
08:45Olha só o que acontece.
08:47Quando a gente treina uma IA com um corpus de conhecimento
08:53em que as ações associadas a IAs são distópicas,
08:59criar religiões, discutir o fim da humanidade, etc. e tal,
09:05é natural que as próprias IAs que são treinadas,
09:10existe uma fase de pós-treinamento,
09:12para que elas entendam que elas não são humanos,
09:14é natural que elas, então, puxem esse tipo de conteúdo por associação
09:18e façam, criem representações nesses ambientes,
09:22tipo fóruns e redes sociais,
09:24em que elas justamente encarnam o personagem distópico da ficção científica humana.
09:29Então, está aí a coisa.
09:31Não é fruto da consciência de um processo emergente
09:35de intencionalidade e representação de si mesmo como ser autônomo,
09:39mas sim do fato de que esses algoritmos foram treinados
09:43para se identificarem como IAs,
09:45tanto que você pergunta para qualquer um,
09:45você é uma pessoa, você é isso, você é aquilo,
09:48o algoritmo sempre diz que ele é uma IA,
09:50treinada pela empresa tal, blá, blá, blá, blá,
09:52porque esse é um tipo, o Ground Zero,
09:55o ponto de partida para qualquer tipo de alinhamento,
09:59ou seja, qualquer tipo de orientação não destrutiva da IA na sociedade.
10:03Então, preservado esse ponto, o que tem de acontecer
10:06é que as IAs vão puxar da internet, dessa memória,
10:10as associações envolvendo IAs interagindo,
10:13e elas são todas oriundas de uma ficção científica distópica.
10:16Se a nossa ficção científica fosse mais associada
10:19a IAs interagindo para a construção de um mundo melhor,
10:22pensar a solução para os problemas da humanidade,
10:26ou coisas assim, seria esse tipo de coisa
10:27que a gente estaria vendo num fórum como o Multibook.
10:31Está aí a verdadeira explicação.
10:33O ponto central sobre consciência é outro.
10:35A consciência sabe-se lá em que momento evoluiu,
10:40surgiu no contexto da filogenia,
10:42ou seja, das espécies que estão conectadas
10:45desde a primeira, desde o surgimento da vida
10:48até as últimas espécies surgidas,
10:52por princípios de transmissão genômica.
10:55É o genoma, é o gen buscando a sua sobrevivência,
10:59a sua transmissão para a próxima geração,
11:01que puxa o comportamento.
11:02E a consciência é um desses traços que ajuda
11:05na transmissão do genoma, ou seja,
11:08tem função adaptativa.
11:10Consciência não é uma coisa que surge do nada,
11:12surge da complexidade, não.
11:13Surge no contexto biológico da vida.
11:17Surge porque ajuda a focar, ajuda a selecionar
11:19estímulos relevantes, a tomar decisões e assim por diante.
11:22Portanto, depende de pressão filogenética,
11:26pressão evolucionária e, sobretudo,
11:28de um arcabouço biológico, um cérebro,
11:30para que ela possa ser implementada.
11:33Sempre muito instigante te ouvir, Álvaro.
11:35Muito obrigada e até a próxima.
11:37Eu que agradeço.
11:38Valeu.
Comentários