- há 17 horas
Categoria
🤖
TecnologiaTranscrição
00:00Vamos repercutir agora esse e outros assuntos na nossa coluna Olhar do Amanhã.
00:17E vamos receber ao vivo o doutor Álvaro Machado Dias, professor da Unifesp,
00:23neurocientista, futurista e colunista do Olhar Digital. Vamos lá?
00:27Olá, boa noite, doutor Álvaro Machado Dias. Seja muito bem-vindo. Tudo bem?
00:34Muito boa noite, Marisa. Tudo ótimo.
00:37Doutor Álvaro, vamos começar o nosso quadro de hoje falando sobre essa questão desse reconhecimento
00:44que mecanismos como rolagem infinita e recomendações, algoritmas, podem gerar danos.
00:52O julgamento, ele reacende dessa forma a discussão sobre vício digital.
00:58A pergunta primeira até é, esse tipo de dependência funciona de forma semelhante a vícios, como outras substâncias?
01:08Olha, a comparação com a substância química, ela é tentadora, porque afinal de contas,
01:13do ponto de vista comportamental, o que a gente vê é um sujeito que parece que não consegue se libertar
01:19daquilo.
01:20Então tem que de verdade sim, só que a gente tem que ir além da superficialidade para entender mecanismos.
01:27Olha só, existe uma diferença fundamental.
01:30No vício em substâncias, o agente químico é o fator que vai gerar no cérebro aquele condicionamento,
01:40ou seja, aquele retorno ao estímulo.
01:43Agora, quando a gente não tem um fator biológico produzindo mudança de comportamento,
01:49eventualmente químico que vai se converter em biológico lá dentro,
01:53o que a gente precisa é de um desenho comportamental muito sofisticado para isso.
02:01Ou seja, a conclusão é que por não depender de uma molécula,
02:06o vício digital acaba sendo muito mais sofisticado no seu desenho.
02:11Ele é muito mais, vamos dizer assim, arquitetado do ponto de vista da intenção das plataformas.
02:19No vídeo, em última análise, no vício digital, a captura é ambiental, né?
02:25Ele opera por uma espécie de arquitetura, de jogada da experiência.
02:31Isso muda.
02:33Tem um filósofo que eu já citei aqui, que eu ando gostando muito,
02:37que é o Bill Churran, que fala que esses desenhos de experiência muito bons,
02:44eles são verdadeiras violências neuronais.
02:48Eu acho boa essa expressão, porque dá a entender que aquilo,
02:55a despeito de não operar diretamente no domínio do cérebro,
02:59realmente entra e afeta o funcionamento dos nossos neurônios de formas muito vivas, né?
03:06E a gente vê isso sendo corroborado pelas próprias empresas que hoje em dia dominam esse setor.
03:15Então, por exemplo, teve um caso muito famoso, que aliás a gente já repercutiu aqui,
03:19de 2021, em que a Meta foi acusada de estar levando ao vício de adolescentes,
03:28inclusive na época saiu um documentário importante na Netflix sobre algoritmos,
03:33era o grande momento dessa questão, porque a gente estava na pandemia.
03:38E ali foi revelado, de maneira bastante escandalosa,
03:42um estudo sobre o impacto na autoimagem dos pré-adolescentes,
03:48sobretudo meninas.
03:49Você lembra disso, Marisa?
03:51Sim, lembro, lembro bastante bem, porque repercutimos aqui.
03:55Pois é, então ali a discussão sobre a correlação entre esse tipo de vício
04:00e o vício químico já estava posta.
04:03E o que se dizia é, tudo bem, em termos de mecanismo eles são muito distintos,
04:07mas isso não alivia em nada para as plataformas.
04:10Pelo contrário, isso sugere que elas estão se esforçando bastante no desenho das experiências,
04:16porque só com um desenho muito viciante,
04:19para que o comportamento de fato seja capturado dessa maneira.
04:25Agora, até falando nisso, doutor Álvaro, a questão é,
04:28nós podemos dizer que esse vício digital,
04:31ele é reflexo somente do conteúdo propagado pelas redes ou não?
04:38De forma nenhuma.
04:40Muito pelo contrário.
04:41Aliás, se a gente voltar lá no caso de 2021,
04:45isso já estava claro.
04:46Porque, olha só, a estratégia na época da meta foi dizer
04:53que a plataforma é um mero receptáculo de conteúdos de terceiros,
05:00é um sistema de distribuição.
05:03E como sistema de distribuição,
05:04ela não tem nenhuma responsabilidade sobre o que é veiculado.
05:08Que é uma postura que é frequentemente usada
05:11e que ao contrário do que poderia parecer para muita gente,
05:14você deve lembrar desse debate aqui,
05:17eu tendo a endossar em grande medida.
05:19Não acho que sempre,
05:21mas eu entendo que essa coisa de ficar responsabilizando a plataforma
05:24por qualquer coisa destrói a liberdade de expressão.
05:26Mas os advogados do governo, na época, do governo americano,
05:32já estavam cientes desse argumento.
05:34Então, o processo todo foi conduzido numa outra direção.
05:39Na direção de dizer que o desenho da plataforma,
05:42ou seja, a maneira como likes, como seguidores,
05:48como os valores constitutivos da plataforma são estruturados,
05:53leva ao vício.
05:55Não necessariamente só o conteúdo.
05:58Então, acho que esse é o ponto.
06:00Já está mais do que estabelecida a tese
06:02de que esse vício digital,
06:04ele nasce da convergência de um conteúdo meio...
06:07que é feito para te pegar com um desenho de produto
06:12e, consequentemente, de fluxo de informação e comportamento
06:15que é sofisticadíssimo,
06:17que está baseado na premissa de que,
06:20uma vez que você entre nesse circuito,
06:23você vai ter dificuldade de largar.
06:25Que é o que a gente entende que acontece na prática.
06:27Afinal de contas, a gente sabe que a pessoa não fica 16 horas
06:30no Instagram porque ela está amando.
06:33Mas, efetivamente, porque abandonar é difícil.
06:36Para fechar, vou só fazer um comentário muito rápido.
06:38Existe uma semelhança que a gente também já discutiu aqui
06:41entre isso e o novo paradigma
06:45na distribuição de séries no streaming.
06:50As séries, hoje em dia, têm capítulos mais curtos
06:52e o finalzinho do capítulo que está, enfim, chegando ao término,
07:00ele, de alguma maneira, ele cria uma situação
07:03que torna quase irresistível você clicar no próximo.
07:06O que leva a pessoa a maratonar.
07:11Independentemente de ela estar achando a série boa,
07:13ela pensa assim, não, eu só preciso entender esse negocinho.
07:17E aí eu paro ali naquele começo.
07:18Mas, na verdade, quando você chega lá,
07:20ele não entrega aquilo que você esperava.
07:22Como posts no LinkedIn que parece que vão te dar a resposta
07:25a uma coisa que você subitamente ficou interessado em saber.
07:27Mas, no final, vão te obrigar a consumir
07:30aquele conteúdo que não te interessa em nada
07:33até os 90%, pelo menos, da sua exibição para mostrar.
07:36Então, são manipulações assim que refletem
07:39que é o desenho institucional que pega.
07:41Pois é, e cada vez mais temos exemplos desses.
07:44Você vê vídeos que a pessoa fala, fala, fala, não fala nada
07:47e você fica ali esperando e nunca chega
07:49quando chega lá no final.
07:51Agora, doutora Alvaro, essa condenação
07:53que até surpreendeu, acredito, muito a meta também
07:57no YouTube, tanto é que a meta ainda está buscando
08:00os seus recursos ali legais.
08:02Ela acontece em meio a essa mudança silenciosa
08:05das redes sociais que trabalha justamente
08:07para cada vez mais ter engajamento.
08:10O que isso pode mudar na estratégia
08:12e até no próprio base dessas redes sociais
08:16como haja vista essa condenação que aconteceu hoje?
08:20Para começar, eu vou dizer o que eu acho que está mudando.
08:24Eu, aliás, estou escrevendo sobre isso, pensando sobre isso.
08:27Em 2023, uma coisa que a gente já repercutiu aqui também,
08:31que é que tudo que é importante na tecnologia acontece
08:34no olhar digital,
08:35o X publicou como código livre uma parte do seu algoritmo.
08:39A gente já discutiu o algoritmo aqui e tal.
08:41E mês passado, ele publicou mais um pouquinho.
08:46No fundo, é tudo meio ofuscado,
08:48você não consegue entender direito,
08:49mas algumas métricas ficam claras.
08:53E uma coisa que emerge
08:55é que o like começa a valer bem menos
08:58e a troca, a conversa que não para,
09:01é o que vale mais.
09:02Então, por exemplo, você escreve alguma coisa,
09:05alguém responde e um terceiro leitor
09:11responde a este que respondeu a você, autor.
09:14E dessas respostas surgem diálogos infinitos.
09:17Isso é o que está mais valendo.
09:19Por quê?
09:19Porque a qualidade da atenção associada
09:22ao comportamento de dar like e mesmo de seguir,
09:26ela vem declinando muito.
09:27Então, os estudos vêm mostrando
09:29que a pessoa está lá naquele processo
09:31de clicar nas coisas,
09:33mas ela está com a alma, por assim dizer,
09:34em outro lugar.
09:35E aí, consequentemente, ela não vê propaganda direito,
09:38o engajamento é baixo,
09:38conversão mais baixa ainda.
09:40Então, se descobriu que esse processo
09:43de responder reply over reply,
09:46ele é o que, como eles dizem,
09:48que é o negócio que pega.
09:49O Instagram mudou também o seu algoritmo recentemente
09:52e, de uma outra maneira,
09:54a gente pode dizer que é a mesma coisa
09:56que começou a subir em importância.
09:58Então, se você põe um post lá
10:00e as pessoas começam a discutir,
10:02a coisa bomba.
10:03E qual que é a ideia aqui?
10:06Para você fazer alguém discutir um assunto,
10:08você não pode entregá-lo
10:09de maneira suficientemente bem acabada,
10:12finalizada,
10:13porque as pessoas vão concordar ou discordar,
10:15achar interessante ou não,
10:16e ponto final.
10:17O segredo é a incompletude.
10:20Então, eu venho dizendo que esse processo,
10:21que já tem algum tempo,
10:23mas agora está se acelerando,
10:24está levando à comoditização da incompletude.
10:27Ou seja, a incompletude se tornou
10:28a nova moeda e uma moeda barata.
10:31Então, por exemplo,
10:32tal como lá atrás existia aquele debate
10:33sobre o vestido que parecia para alguns azul
10:36e para outros parecia dourado,
10:39agora tem um monte de coisa assim.
10:40É o post que surge com a capa,
10:42com o typo,
10:43um erro de português proposital
10:44e o resto tudo certinho,
10:46para dar aquela sensação de que,
10:47putz, deixa eu ajudar essa pessoa,
10:48deixa eu consertar,
10:49deixa eu avisar que está errado.
10:50Por querer, só para te manipular.
10:53Aquele conteúdo que tem um fake,
10:58mas não um fake para te iludibriar,
11:00mas para você dizer,
11:01não, como eu gostaria,
11:02eu sei que é falso,
11:03mas como eu gostaria que isso fosse verdade
11:05no campo geopolítico e assim por diante.
11:08Então, esses conteúdos que chamam
11:10de forma manipuladora ao engajamento.
11:13Essa é a mudança, na minha opinião,
11:15mudança realmente relevante.
11:17Faz tempo que eu não vejo as redes mudarem assim.
11:20E aí, afinal de contas,
11:21qual que é o impacto em um segundo?
11:23O impacto é que essas mudanças até hoje
11:27de algoritmo que vão atualizando
11:29o conceito de engajamento,
11:30elas se legitimam porque existe uma tese
11:34de que as plataformas como intermediárias
11:37são, vamos dizer assim,
11:39legítimas também no desenho institucional,
11:43no desenho das suas políticas comportamentais.
11:46Mas na medida em que elas se tornem,
11:49do ponto de vista de uma condenação,
11:52as representantes da produção de um vício digital,
11:54ainda mais nos Estados Unidos,
11:56esse tipo de comportamento também começa
11:59a se tornar de risco.
12:01Ou seja, processos novos tendem a surgir
12:04a cada mudança para a atualização algorítmica.
12:06Então, está aí a grande questão
12:07e o risco que eu imagino que os advogados
12:11das plataformas estejam pensando a respeito.
12:13Agora, doutor Álvaro,
12:15trazendo um pouquinho aqui para o Brasil,
12:16entrou em vigor recentemente o ECA digital,
12:19que justamente é voltado para a proteção
12:21de crianças e adolescentes no ambiente online.
12:26À luz dessa condenação,
12:27o que poderia ser aproveitado,
12:30o que poderia ser modificado
12:33ou até endossa mais a responsabilização
12:35das plataformas nesses casos?
12:38Eu vou começar falando o seguinte,
12:40a gente já discutiu bastante o ECA aqui,
12:43eu acho super importante,
12:45mas eu sou quase um maximalista
12:48da liberdade de expressão
12:50e de consumo de informação.
12:53Eu sou um pouco crítico
12:56a barras etárias muito altas.
12:58Para mim, a barra etária
12:59deveria ser 13 anos
13:01para o pré-adolescente
13:03e depois deveria ser 100% liberado.
13:04É uma questão de personalidade,
13:07de ideologia.
13:08Então, não estou achando
13:09que eu estou certo em nada,
13:10eu só acho que...
13:11Eu penso na criança que mora isolada na Amazônia
13:14e quer se conectar com o resto do Brasil
13:15e é difícil.
13:16Então, eu fico receoso de falar
13:20que o ECA precisaria ser ainda mais rigoroso.
13:23Eu acho que no Brasil as leis demoram
13:24para serem inscritas e pegarem,
13:27aprovadas,
13:28mas quando elas entram,
13:29muitas vezes elas são excessivas.
13:31Agora, se a gente vai...
13:33Vamos mergulhar nessa tese.
13:35O que poderia estar rolando?
13:37Olha só, a lei justamente
13:39não fala nada sobre a própria estrutura
13:43algorítmica das plataformas.
13:45E, na verdade, isso daí não acontece
13:49porque acaba não fazendo parte do mesmo escopo.
13:54Agora, a questão que o julgamento lá atrás
13:56em Los Angeles colocou,
13:58e agora ela está recolocada,
14:00é o seguinte,
14:01mas afinal de contas,
14:02dentro do Brasil,
14:03não vai existir um mecanismo
14:05de auditoria algorítmica
14:07para determinar se há a indução a vício,
14:11especificamente pelo desenho comportamental definido.
14:16Então, a gente poderia dizer
14:17que falta,
14:18essa pergunta é quase retórica.
14:20A NPD foi fortalecida,
14:23pode aplicar multas de até 50 bilhões,
14:25mas esse papo todo acabou não prosperando
14:28por pressões do governo americano.
14:30A gente também já discutiu isso aqui.
14:32E, no final das contas,
14:33se é para fortalecer o arcabouço jurídico,
14:39que é uma coisa que eu vejo com ressalvas,
14:41o que falta ao ECA Digital,
14:43e a última análise,
14:44é esse precedente americano
14:45de discutir efetivamente
14:48o desenho do algoritmo em si,
14:52como, por exemplo,
14:53agora a gente está vendo
14:54não só nos Estados Unidos,
14:56mas na União Europeia
14:57com o Digital Services Act.
14:59Eu acho que está aí
15:00a grande questão
15:02que certamente os legalistas vão ver
15:06como a grande oportunidade
15:07para o Brasil assumir um protagonismo
15:09na relação com as redes.
15:10Eu já não tenho tanta certeza assim,
15:12mas entendo que é um debate
15:13muito importante.
15:14Está certo.
15:16Está aí uma excelente participação,
15:18como sempre,
15:18de doutor Álvaro Machado Dias.
15:20Muito bom tê-lo aqui conosco.
15:22Ao vivo, doutor Álvaro,
15:24e espero que na semana que vem
15:25nós estejamos juntos novamente
15:27para discutir mais assuntos
15:29e falar sobre outros também.
15:31Muito obrigada.
15:32Excelente noite e ótima semana.
15:34Eu que agradeço.
15:35Vamos estar com certeza.
15:36Eu tive tours,
15:38um na Europa,
15:38um nos Estados Unidos
15:39de palestras,
15:40mas agora parou.
15:41Eu vou ficar por aqui
15:42e a gente se vê aqui pela internet
15:44ou então aí no estúdio.
15:45Até semana que vem.
15:46Um beijo e a gente se vê.
15:48Perfeito, querido.
15:49Boa noite.
15:50Está aí,
15:51doutor Álvaro Machado Dias,
15:53que está aqui
15:54com mais um quadro
15:55super bacana
15:56do Olhar da Manhã.
15:57Doutor Álvaro Machado,
15:59que é professor da Unifesp,
16:00neurocientista futurista
16:01e colunista do Olhar Digital.
16:03Como vocês já sabem,
16:05toda quarta-feira,
16:06eu já ia falar quinta-feira,
16:07olha só,
16:08toda quarta-feira
16:09estamos aqui com o quadro
16:10Olhar da Manhã.
16:12Semana que vem tem mais.
Comentários