- há 4 meses
Categoria
🤖
TecnologiaTranscrição
00:00E vamos repercutir, aliás, esse assunto na coluna da semana
00:04Olhar do Amanhã.
00:16E vamos receber doutor Álvaro Machado Dias,
00:21neurocientista, futurista, professor da Unifesp
00:25e colunista aqui do Olhar Digital.
00:27Deixa eu colocar doutor Álvaro aqui na nossa tela.
00:30Olá, doutor Álvaro Machado Dias, muito boa noite, seja muito bem-vindo.
00:35Boa noite, Marisa.
00:37Doutor Álvaro, hoje vamos utilizar as suas duas especialidades,
00:42começando pela neurociência, como nós vimos agora há pouco, aí na reportagem.
00:48Doutor Álvaro, em vez de ajudar a IA, parece que muitas vezes pode amplificar
00:53distorções cognitivas e agravar até a saúde mental de pessoas
00:58em situação de fragilidade.
01:00Como isso acontece, doutor Álvaro?
01:03Pois é, a grande questão está na natureza
01:08do próprio relacionamento entre o algoritmo e o usuário.
01:15Olha só, olha como as coisas funcionam.
01:18A gente escreve alguma coisa.
01:20Aquilo que a gente escreve é usado pelo algoritmo,
01:25através da chamada atenção, que é a grande tecnologia criada
01:29ali no passado, em 2017, que gerou tudo o que está acontecendo agora,
01:37com attention is all you need.
01:38Ela é usada como base para a continuidade discursiva,
01:46ou seja, é como um grande autocomplete, só que não é autocomplete,
01:50é semântico, que a máquina faz usando esse prompt inicial.
01:56Aí, uma vez que ela complemente isso que está sendo falado,
02:00o sujeito do outro lado vai adicionar a sua pecinha reflexiva ali,
02:06as suas ideias, vai reagir àquilo.
02:09A máquina, novamente, vai completar aquele raciocínio.
02:14Em outras palavras, a estrutura dos algoritmos generativos,
02:20ela favorece a consonância cognitiva.
02:24Em outras palavras, ela favorece a concordância.
02:29Não é só uma questão que os algoritmos são treinados,
02:33eles têm duas fases, uma fase que você treina de maneira geral
02:36para eles funcionarem bem, e uma fase chamada pós-treinamento,
02:39em que eles são refinados.
02:40Então, não é só que eles são treinados nessa fase de refinamento
02:45para que eles tenham uma personalidade, um jeito agradável para as pessoas,
02:51e, evidentemente, a concordância é muito mais agradável do que a discordância.
02:56É que a própria natureza dessa tecnologia faz com que haja esse ciclo de reforçamento.
03:05Aliás, no tempo que eu atendia pacientes,
03:08que já faz um tempo que eu abandonei essa atividade,
03:11eu tive muitos pacientes que tinham justamente como questão
03:16essa necessidade de você dar esse corte,
03:20porque, assim, se você não fizesse isso,
03:25aquela sessão se tornaria uma bola de neve de reforçamento
03:29e, aí, consequentemente, de agravamento dos sintomas.
03:33Isso é muito comum em algumas doenças psiquiátricas
03:36e até condições subclínicas, que a gente não pode nem chamar de doenças,
03:40porque elas estão nessa zona cinzenta,
03:42elas têm algumas características para estarem caracterizadas
03:46do ponto de vista do SID ou DSM como transtorno psiquiátrico,
03:49e outras para não.
03:50Então, até nessa zona cinzenta, a gente tem isso, tá?
03:54Então, é muito comum que as pessoas busquem a confirmação
03:57e o algoritmo, por design, ele reforça isso.
04:01Ou seja, é um problema estrutural de difícil solução.
04:05Agora, inclusive, não é, doutor Álvaro?
04:07Na matéria, a gente reforçou que a psicóloga Larissa Fonseca
04:10alertou sobre o risco de jovens criarem esse vínculo
04:14com as inteligências artificiais.
04:16Falando na neurociência, assim, em que ponto o cérebro realmente entende
04:22que ele está conversando com uma pessoa e não necessariamente
04:27com uma inteligência artificial?
04:28Ou seja, o cérebro acredita que aquela é uma interação real?
04:32Olha só, é óbvio que nós temos os mecanismos de checagem da realidade,
04:38e os mecanismos de checagem da realidade mostram
04:41que se não existe um sujeito humano que tem uma corporiedade,
04:45seja aqui, por exemplo, imagina se você está no telefone,
04:47pode estar projetado em outro lugar do mundo,
04:50aquilo não é real no sentido de você estar falando com um ser encarnado.
04:57Ok? Isso aí é básico.
04:59Mas, do ponto de vista do processamento, olha o que acontece.
05:06A gente tem uma independência do ponto de vista biocomputacional
05:10entre as áreas que vão gerar a elaboração do discurso
05:14e as áreas que vão gerar atribuição de agência ou fonte.
05:19Então existe uma separação entre você sentir que aquele discurso é como de um humano
05:23e você atribuí-lo a um algoritmo, a uma pessoa, a uma gravação
05:29que eventualmente veio de uma pessoa ou de um algoritmo e etc e tal.
05:33Essa independência, ela faz com que seja muito fácil você, no meio do processo,
05:40se esquecer que está interagindo com uma máquina.
05:44Para piorar a situação, existem algumas condições, alguns transtornos psiquiátricos
05:51que têm justamente dificuldades de agenciamento.
05:56Então, por exemplo, eu atendi muito paciente com esquizofrenia
05:58e uma característica típica da esquizofrenia é essa falha do ponto de vista biocomputacional
06:09na atribuição de uma agência.
06:12Por exemplo, o sujeito mentaliza vozes, mas ele atribui a uma agência,
06:17a um eu da intencionalidade externo.
06:22Isso que significa escuta de vozes.
06:24E justamente quando a gente olha do ponto de vista das neurociências,
06:27do que está acontecendo no cérebro,
06:30existe uma relação entre a área, uma área específica no córtex temporal,
06:35que é ligada a processamento auditivo,
06:37e uma área no córtex frontal.
06:41Então você tem uma conexão frontotemporal
06:43e é da perda da transmissão de sinais entre essa área auditiva
06:48e essa área de processamento mais racional, executivo, frontal,
06:52que as vozes deixam de encontrar aí uma atribuição adequada,
06:58que é a atribuição interna.
06:59Você fala, não, eu estou imaginando essas vozes,
07:01e aí, consequentemente, o paciente passa a atribuir a um ente externo.
07:07Qual que é o grande ponto aqui?
07:08É muito fácil que esse erro de atribuição aconteça
07:13nessas condições psiquiátricas,
07:15sobretudo esquizofrenia de natureza paranoide
07:18e também transtorno bipolar com manifestações esquizofreniformes, etc.
07:22Mas também é comum que pessoas
07:25que têm um pouco menos de racionalidade,
07:31de aterramento no mundo,
07:32eventualmente tenham sensações assim
07:35e esqueçam que elas estão falando com uma máquina
07:38porque justamente há essa separação
07:41do ponto de vista processual no cérebro.
07:44E a responsabilidade das empresas?
07:47A responsabilidade é das empresas?
07:49Ou mais, que tipo de medidas até elas podem tomar,
07:52além de, como foi visto aí na reportagem,
07:55a questão de pop-ups avisando?
07:57Seria realmente...
07:58O que seria eficaz, não é?
08:00Para que houvesse uma proteção real
08:04para os usuários mais vulneráveis,
08:06não só adolescentes,
08:07como também pessoas mais vulneráveis.
08:09A primeira coisa é o seguinte,
08:14nessa fase de pós-treinamento do algoritmo,
08:16de refinamento dele,
08:18seria possível,
08:19e na verdade foi feito pela Open AI
08:21no lançamento do GPT-5,
08:23um processo de redução,
08:25de mitigação de situações de risco
08:29para, eu ia falar para os pacientes,
08:31para os usuários com condições psiquiátricas
08:34latentes ou manifestas.
08:36Então, é possível sim treinar o algoritmo
08:40para que ele haja de maneira
08:41menos orientada ao reforço
08:45de paranoias e delírios e assim por diante.
08:51Porém, a gente tem que pensar
08:53que lá na base está essa questão
08:55de que o algoritmo complementa
08:57aquilo que foi colocado no prompt,
09:00ou seja, a fala do sujeito,
09:02e depois o sujeito complementa o algoritmo
09:05e assim por diante, ou seja,
09:07que a estrutura dialógica dessa tecnologia,
09:10por design,
09:11ela reforça esse tipo de conduto.
09:13E aí, nesse sentido,
09:15algum aspecto,
09:16alguma tendência residual
09:18ao reforçamento de ilusões e paranoias
09:22sempre vai acontecer
09:24e aí não tem como resolver
09:26do ponto de vista algorítmico.
09:28Uma coisa importante que eu acho
09:30que tem que ser feita
09:31é a seguinte,
09:33que ninguém está tocando nisso,
09:36mas olha só,
09:38as ferramentas,
09:40elas não trazem
09:42uma alerta de bloqueio
09:44numa situação em que elas
09:46identificam alto risco psiquiátrico
09:48e que só poderia eventualmente
09:51ser destravado por um cuidador,
09:55pelo psiquiatra ou qualquer coisa do gênero.
09:57Não tem nada disso.
09:58Há sempre uma preocupação
10:00que é muito legítima com a privacidade
10:02que impede que exista
10:04essa autenticação, por assim dizer,
10:06em dois níveis.
10:07Mas é muito comum
10:09que em várias condições como essa,
10:12por exemplo,
10:12existem aplicativos para a psiquiatria
10:15que justamente tem essas duas camadas.
10:18Então você, por exemplo,
10:19seria possível que existisse um módulo
10:23do chat EPT,
10:26do clode, do gênero, etc.
10:28e tal,
10:29que estas famílias contratam,
10:32enfim,
10:32ou a própria pessoa
10:34e ela tem esse intermediador
10:35e aí você teria um processo,
10:38uma camada,
10:39alguém que estaria no meio do caminho
10:41intervindo,
10:42que no mínimo seria avisado.
10:43A grande questão
10:45é que isso entra num...
10:47Isso é botar a mão muito perto
10:48de um vespeiro,
10:49que é o vespeiro
10:50dos avanços
10:52para além da camada de privacidade
10:54do sujeito individual.
10:55Nesse caso específico
10:57não haveria problemas,
10:58mas é claro que isso abre
11:00uma frente para usos espúrios
11:02dessa intervenção,
11:04dessa triangulação
11:06com uma pessoa externa
11:07que poderia dar margem
11:08a brechas de privacidade,
11:11invasões e tudo mais.
11:12Então é muito delicado
11:14para as empresas
11:14e elas não querem nem
11:15ouvir falar desse papo.
11:16Mas a verdade é que
11:17na psiquiatriz
11:18existem aplicativos
11:18que funcionam assim.
11:20Agora e com relação
11:21à regulamentação,
11:22até principalmente,
11:24acredito eu,
11:25à conscientização social,
11:27que eu acho que é
11:28bastante importante
11:29e urgente
11:30para que a IA
11:31não se torne
11:31uma ameaça silenciosa,
11:33saúde mental,
11:34tanto dos jovens,
11:35principalmente dos jovens,
11:36talvez por serem
11:37mais vulneráveis,
11:38mas também
11:38as pessoas mais vulneráveis
11:40que tenham alguma fragilidade
11:41ali exposta.
11:44Do ponto de vista
11:45da regulação,
11:46olha só,
11:47existe uma normativa
11:49do Conselho Federal
11:51de Psicologia,
11:53existe uma normativa
11:54do Conselho Federal
11:55de Medicina,
11:57e ambas dizem
11:58que esse tipo
12:00de atendimento
12:01é exclusivo
12:02desses profissionais.
12:03inclusive
12:04eu acompanhei
12:06aqui,
12:06eu estou acompanhando
12:07movimentações
12:08em sentido
12:09ao banimento
12:11ou na verdade
12:12ao impedimento
12:13de publicação
12:14de qualquer aplicativo
12:15do tipo psicológico,
12:17porque eles se apresentam
12:17muito mais assim,
12:18até porque
12:19no final das contas
12:21a grande diferença
12:22vai ser
12:22se há,
12:25no fundo
12:25não é diagnóstico
12:26hoje em dia,
12:27a grande diferença
12:28é se
12:29alguma
12:30medicação
12:31vai ser prescrita
12:32para o paciente
12:33ou não.
12:33Então,
12:34vamos colocar a coisa
12:35no domínio
12:35da psicologia
12:36quase que exclusivamente
12:37ainda que
12:38não seja exatamente
12:39verdade,
12:40do ponto de vista
12:40competitivo
12:41entre máquinas
12:42e humanos.
12:43Mas ok,
12:43assumindo por esse
12:44ponto de vista
12:45esse olhar
12:47do Conselho Federal
12:48de Psicologia,
12:49a proibição
12:51já está colocada
12:52e ela só foi,
12:52só está sendo
12:53reforçada,
12:54não tem nada
12:55para fazer,
12:56é contra a lei
12:56lançar no Brasil
12:58um aplicativo
12:58que se propõe
12:59a fazer terapia
13:01algorítmica,
13:02ou se são
13:03de psiquiatria
13:04algorítmica
13:05e etc e tal,
13:06isso aí não pode.
13:07Agora,
13:08a questão é que
13:09as pessoas fazem
13:10o chamado
13:10uso off-label,
13:11elas usam
13:12os algoritmos
13:13para aquilo
13:13que mais
13:14lhes interessa
13:16e é claro
13:17que é sedutor
13:18dizer assim,
13:18está vendo,
13:19morreram algumas pessoas,
13:21o sujeito até
13:21matou a mãe,
13:22olha que absurdo,
13:23então vamos dar
13:24um jeito de
13:25proibir completamente,
13:26vamos botar uma multa
13:27de 100 milhões
13:28nas empresas
13:29que por algum motivo
13:31criarem brechas
13:32em seus algoritmos
13:33que permitam
13:35esse uso,
13:36aí tem uma questão
13:37filosófica
13:38no sentido
13:38de como você
13:40encara
13:41as liberdades
13:42individuais
13:42e o espaço
13:44das pessoas
13:45e também
13:45a inovação
13:46e a partir
13:47desse meu prisma
13:48que é limitado,
13:49que é subjetivo,
13:51que eu não proponho
13:51que seja uma verdade
13:52social melhor
13:54do que qualquer,
13:55uma verdade social
13:56ou então
13:57que seja melhor
13:58por natureza
13:59e desenho
13:59do que qualquer outro,
14:00eu te digo
14:01que eu sou contra,
14:02eu acho que
14:03o raciocínio
14:04é como o da velocidade
14:06com que anda o carro,
14:07se você baixar
14:08a velocidade
14:09na marginal
14:10de 90 km por hora
14:11para 40 km por hora,
14:14menos gente vai morrer,
14:15não tem dúvida disso,
14:16vale a pena?
14:18Eu digo que não,
14:19por mais que as pessoas
14:20morram,
14:21porque eu entendo
14:21que o processo,
14:22o esforço sistêmico
14:24para reduzir
14:24essas mortes
14:25aliado à possibilidade
14:27às horas perdidas
14:29no dia
14:29pelas milhões
14:31de pessoas
14:32que demorariam
14:33muito mais
14:34para chegar no seu destino
14:35se a velocidade
14:35fosse baixada
14:36dessa forma,
14:37gera um custo
14:39à oportunidade
14:39para a medida simples
14:40que é simplesmente
14:41baixar essa velocidade
14:42que a torna negativa,
14:44eu tenho essa tendência,
14:45eu admito aqui
14:46que é puramente subjetiva,
14:48mas aqui é a mesma coisa,
14:50a gente,
14:51toda vez que acontece
14:52um fato desses,
14:53a gente fica muito horrorizado
14:54e é claro,
14:55até porque somos humanistas,
14:57mas é muito bacana
15:00que tanta gente
15:01esteja discutindo
15:02problemas,
15:02não sistemicamente
15:04como terapias,
15:05mas problemas pessoais,
15:06dúvidas,
15:07questões existenciais,
15:09estejam com a máquina
15:11e tenham também
15:12finalmente encontrado
15:15um parceiro
15:17capaz de aguentar
15:18a sua chatice,
15:20porque tem um ponto importante
15:21que é o ser humano
15:22em geral,
15:23ele é um chato
15:24e o ser humano
15:26em geral,
15:26brincadeiras à parte,
15:28ele se sente solitário
15:29com isso,
15:29então você quer contar
15:30aquela coisa em detalhes,
15:32você quer saber a opinião
15:33na vírgula
15:35da vírgula
15:36e aí você não encontra
15:37um interlocutor,
15:38uma interlocutora,
15:39então também tem um lado
15:41muito saudável nisso
15:42que não é concorrente
15:44a uma terapia,
15:46mas é concorrente
15:47a uma espécie
15:48de confidente,
15:49inteligente,
15:50capaz de te dar feedbacks
15:51e se a gente começa
15:52a pensar
15:53por uma lógica
15:54puramente proibicionista,
15:55isso vai para o beleléu também.
15:57Pois é,
15:58bastante preocupante,
16:00mas também
16:00é como você disse,
16:01muita gente pode utilizar
16:02ali como escape,
16:03já que não tem paciência
16:05para ouvir,
16:05conversa com a inteligência
16:06artificial que ela vai te ouvir
16:08e ainda vai te apoiar,
16:09não é?
16:11Agora,
16:12agora,
16:13doutora Álvaro Machado,
16:14agora só para a gente
16:15encerrar esse raciocínio,
16:17com relação às redes sociais,
16:20a inteligência artificial
16:21está aí,
16:21tem essa questão
16:23das pessoas
16:24estarem
16:24se apoiando
16:25como se fosse
16:26uma pessoa,
16:27um ser humano
16:28ali como interlocutor,
16:29mas ela é a única
16:30responsável
16:31por essa mudança
16:33comportamental,
16:33porque também
16:34nós tínhamos
16:34as redes sociais
16:35que também
16:36mexia ali
16:37com a questão
16:37de bullying,
16:38das pessoas
16:39estarem melhor
16:39do que você,
16:40que também criava
16:41aquela sensação
16:42de inferioridade,
16:44a inteligência artificial
16:45está reforçando isso,
16:46é mais um canal
16:46para esse problema
16:48que já começou
16:49a se instaurar
16:49com as redes sociais?
16:52Eu não acho
16:53que esse problema
16:53sequer começou
16:54a se instaurar
16:55com as redes sociais,
16:56se a gente parar
16:57para ver,
16:58muito antes
17:01da disseminação
17:02global
17:03da democracia,
17:05os estados
17:06eram predominantemente
17:07autocráticos,
17:09e essas autocracias
17:11eram fundamentalmente
17:12determinadas
17:13por algumas poucas
17:14hierarquias,
17:15então você tinha
17:16a hierarquia
17:17executiva
17:18do governo,
17:19por assim dizer,
17:20pensando em uma monarquia,
17:21por exemplo,
17:22você tem a hierarquia
17:23do clero,
17:25você tem uma hierarquia
17:26menor de comerciantes,
17:28os chamados
17:29burgueses,
17:30e acabou,
17:30entendeu?
17:31E o resto
17:33quase não tinha valor
17:34nenhum na sociedade,
17:35então,
17:36é modernamente,
17:39através da
17:40normalização
17:41da democracia
17:42e das relações
17:44sociais igualitárias
17:45baseadas nos ideais
17:46liberais da Revolução
17:47Francesa,
17:48que a gente começa
17:49a ter um pouco
17:50mais de chão comum,
17:53e as redes sociais,
17:55elas são espaço
17:56para bullying
17:57e para essa coisa
17:59do eu sou mais
17:59do que você,
18:01mas elas também
18:01são um espaço
18:02em que uma pessoa
18:04anônima
18:04é capaz
18:06de mandar
18:07mensagem
18:08para o agora
18:09famoso Felca,
18:10entende?
18:11coisa que no passado
18:12era inimaginável,
18:14então,
18:15é verdade
18:15que as redes sociais
18:16reforçam isso,
18:17mas tem um outro lado
18:18de democratização
18:21dos acessos
18:22que também
18:23é muito valioso,
18:25muito bacana,
18:26e eu não acho
18:27que o mundo
18:28de hoje em dia
18:28é muito mais assim
18:29do que no passado,
18:30inclusive em termos
18:31do bullying,
18:32porque no passado
18:33não só o bullying
18:34estava mais do que
18:35instituído,
18:36como ele era feito
18:37dentro de lógicas
18:38sociais que eram
18:40validadas,
18:41chanceladas
18:42publicamente,
18:44e vale lembrar
18:45que esse discurso
18:47do bullying
18:47também é o discurso
18:49da escravidão,
18:51de toda forma
18:52de preconceito,
18:53de discriminação,
18:54de assimetria
18:55de poder
18:56a partir de
18:57posições sociais
18:58criadas por títulos
19:00que hoje em dia
19:00a gente acha
19:01ridículos,
19:02como o de marquês
19:03ou qualquer coisa
19:04do gênero,
19:05entende?
19:05Então eu acho
19:07que essas coisas
19:08elas melhoraram,
19:10ainda que a escala
19:12seja tão maior
19:14que a gente percebe
19:16muito mais
19:16as assimetrias.
19:18E aí,
19:18olhando para a
19:19inteligência artificial,
19:20eu acho que ela tem
19:21esse papel
19:21de servir como
19:23o parceiro,
19:25a parceira
19:26que nunca vai fazer
19:27esse bullying
19:27com você,
19:29que não vai nunca
19:29te colocar para baixo,
19:31e aí,
19:31consequentemente,
19:33de servir como
19:33um porto seguro
19:35que vai te fazer
19:36fugir das relações
19:38muito em função
19:39dessa percepção
19:40de que elas podem
19:41ser tóxicas,
19:42agressivas,
19:42que você pode ser
19:43vítima de bullying
19:44e assim por diante.
19:45Então,
19:46eu acho,
19:47eu estou completamente
19:47com você
19:48na sua pergunta,
19:49como sempre,
19:50Marisa,
19:51eu concordo com a pergunta,
19:52mas vale a pena
19:53a gente fazer
19:53essas ressalvas,
19:55porque às vezes
19:55também,
19:56esses discursos,
19:58eles terminam
19:59em perspectivas
20:00que negam
20:01o que a história
20:03mostra,
20:03entende?
20:04Que é uma melhora
20:05tremenda
20:06nos relacionamentos
20:07e no respeito
20:08interpessoal.
20:10Certo,
20:10tá aí,
20:11uma reflexão
20:12super bacana
20:13com o doutor
20:13Álvaro Machado Dias,
20:14como sempre,
20:15doutor Álvaro.
20:16Bom,
20:16o assunto
20:17é bastante sério
20:18e pesado,
20:18até no princípio,
20:19por conta dessas mortes
20:21de inteligência artificial,
20:22mas tem um lado
20:23positivo também,
20:24a gente sempre tem temas
20:25aqui interessantes
20:26para debater,
20:26e é sempre um prazer
20:27debater esses temas
20:28com você.
20:30Nos encontramos
20:30na semana que vem,
20:31doutor Álvaro.
20:32O prazer é todo
20:34meu,
20:34com certeza,
20:35até lá.
20:36Até,
20:36boa semana.
20:38Tá aí,
20:39pessoal,
20:40doutor Álvaro Machado
20:41Dias,
20:42neurocientista,
20:43futurista e colunista
20:44aqui do Olhar Digital,
20:45e mais uma coluna
20:46Olhar do Amanhã.
20:48Espero que vocês
20:48tenham gostado.
20:49Semana que vem,
20:50tem mais.
Seja a primeira pessoa a comentar