- há 7 meses
Categoria
🤖
TecnologiaTranscrição
00:00E agora, chegou a nossa coluna Olhar do Amanhã.
00:15E vamos receber o doutor Álvaro Machado Dias, que é professor da Unifesp,
00:21neurocientista, futurista e colunista aqui do Olhar Digital.
00:25Deixa eu ver se o doutor Álvaro já está aqui conosco, disponível na nossa sala.
00:31Cadê o doutor Álvaro? Está aqui. Deixa eu só colocá-la aqui na nossa tela.
00:35Pronto. Doutor Álvaro Machado Dias, muito boa noite.
00:39Seja bem-vindo e como é a nossa primeira interação aqui do ano, feliz ano novo para você.
00:43Boa noite.
00:45Doutor Álvaro Machado Dias, vamos começar aqui a nossa edição do Olhar do Amanhã,
00:50falando um pouco sobre o ChatGPT e o Cloud, que estão oferecendo funcionalidades de saúde direto ao consumidor.
00:59O que muda quando o paciente consulta a IA antes de consultar o médico, doutor Álvaro?
01:05Pois é. Vale esclarecer, isso daqui é uma funcionalidade ainda em estado experimental.
01:12Ela está liberada só por um grupo pequeno de testadores, mas ambas as empresas já deixaram claro que vão liberar a funcionalidade no mundo todo.
01:24Ou seja, a gente vai ter um bilhão de pessoas com acesso a uma inteligência artificial médica e também nutricionista, especialista em exercícios, tudo isso.
01:38Eu acho que é no domínio da saúde que a coisa está acontecendo e não estritamente no domínio da medicina, que é a parte mais visível, mas não a única.
01:48E aí, no final das contas, do que a gente está falando? O que essas ferramentas estão oferecendo?
01:54Elas estão oferecendo a possibilidade de você subir exames, dados de treinamento, por exemplo, de academia,
02:00e dados de uma fisioterapia, dados nutricionais, uma dieta e a IA vai pensar em cima disso, vai te propor alternativas ou vai fazer críticas.
02:14E segundo os dois fabricantes, essas IAs não vão usar estes dados para treinamento.
02:22Então tem algo importante aí do ponto de vista da privacidade que é diferente.
02:27E aí o que muda, afinal de contas?
02:30No meu ponto de vista, Marisa, o que muda de verdade é a questão da ordem prioritária das interpretações das informações de saúde.
02:43Ou seja, é o ponto de entrada no sistema.
02:47Hoje em dia, a entrada no sistema de saúde se dá predominantemente através do médico.
02:53Mesmo quando o sujeito vai fazer uma fisioterapia, em geral, ele vai passar primeiro no médico que vai diagnosticar uma condição
03:02e a partir disso vai recomendar um tratamento que pode envolver fisioterapia, psicologia, o que quer que seja.
03:09Agora, a entrada nesse sistema de saúde, do ponto de vista da experiência da pessoa, que é do consumidor, no caso, vai se dar primariamente através da IA.
03:23Como é que eu posso afirmar uma coisa tão forte, né?
03:26É simples, é isso que vem acontecendo em todas as áreas quando a gente tem IAs disponíveis e especializadas.
03:33Por quê? Porque a fricção é muito mais baixa.
03:36Então, mesmo que você tenha plano de saúde, não te faltam recursos, nada, ainda assim dá trabalho marcar uma consulta e ir lá e assim por diante.
03:47Sendo que o trabalho de você subir a informação qualquer ou você simplesmente fazer um relato do seu caso, entre aspas, para IA, é mínimo.
03:56Então, por uma questão de fricção, o que tende a acontecer é essa mudança em quem fala primeiro.
04:03Hoje em dia é o médico e os outros profissionais de saúde e eu acredito que cada vez mais vai haver uma inversão e é por isso que essa mudança é importante.
04:13E aí, qual que é a grande questão para fechar aqui, Marisa?
04:16É a seguinte, quem fala primeiro fala com autoridade.
04:20É assim na vida.
04:21Então, a dinâmica de autoridade na saúde está prestes a mudar.
04:25A gente discutiu muito aqui no programa este movimento, quando aconteceria.
04:31Eu lembro de um episódio, que eu acho que foi no final de 2023, em que inclusive falamos sobre a perspectiva disso demorar mais ou menos um ano, um ano e pouco.
04:42E está aí, parece que dessa vez a gente foi precisos, eu e você, e o negócio é esse mesmo.
04:49Então, a coisa tende a mudar e as pessoas vão começar a, enfim, em última análise, confrontar diagnósticos, chegar nas consultas já com tudo isso apresentado pela IA, vão, enfim, se apoderar muito mais desse discurso.
05:04O que, em muitos casos, honestamente, vai ser muito positivo.
05:09Mas em outros, não.
05:10Porque, afinal de contas, também a IA alucina, a IA vai entender aquela condição do cliente que depois vira paciente, através de um escopo restrito de informações que são estáticas, o exame, o relato e assim por diante.
05:26Não há uma tridimensionalidade, um mundo real para eu captar como a pessoa está falando, se expressando no espaço e tudo mais.
05:34Então, a quantidade de informação é bastante limitada.
05:37Mas, ainda assim, tem um lado positivo e é dessa maneira, equilibrando prós e contras, que eu acho que a gente está avançando em todas as áreas com inteligência artificial e nessa também.
05:46Mas agora, doutor Álvaro, isso pode criar um tipo novo, digamos assim, de paciente?
05:52Ou seja, ele já chega mais bem informado, já sabe mais ou menos o que aconteceu?
05:56Ou cria até mais confusão?
05:58Então, existe o risco de aumentar, o que já acontece bastante até da automedicação, mas do autodiagnóstico aumentar?
06:07Eu acho que o crime novo no paciente é o paciente da IA.
06:11Não, para que é isso, sabe?
06:13Mas a gente já é, na verdade, né?
06:15O nosso companheiro de texto é IA.
06:19Para quem trabalha com matemática, não desenvolvendo matemática pura, mas assim, economistas, administradores, contadores.
06:29Também já tem o parceiro matemático da IA, né?
06:32Para fazer, executar, criar as funções mais chatinhas e tudo mais.
06:36E eu acho que aqui é simplesmente mais um passo, um passo grande, tá?
06:41Porque, ao contrário das discussões que são profissionais, que são muito importantes para aqueles profissionais,
06:48mas não necessariamente para as outras pessoas, aqui a gente está falando de funções de uso geral,
06:53que não são importantes só para os médicos, psicólogos, fisioterapeutas e todos os outros profissionais da saúde,
06:58que certamente vão, do ponto de vista do seu posicionamento societário, serem desvalorizados em um pouquinho, tá?
07:06Estou procurando a palavra certa, mas é essa.
07:08Porque, afinal de contas, agora tem uma fonte concorrencial de alto valor agregado, trazendo informação.
07:14Mas não é isso, é na vida das pessoas.
07:17E aí eu fico pensando, tá, legal, o autodiagnóstico, que é um problema real, ele vai aumentar em quantidade?
07:25Vai.
07:26Mas tem uma coisa, a gente tem que pensar de forma não dogmática, ainda mais aqui no Olhar Digital,
07:32que é o grande espaço de reflexão sobre o futuro no Brasil.
07:35Tá bom, mas o autodiagnóstico não necessariamente é um diagnóstico errado,
07:39ele é um diagnóstico feito por um sujeito que não tem autoridade, do ponto de vista profissional,
07:46para fazer diagnósticos, mas isso não quer dizer que ele seja errado por natureza.
07:51E existem pencas de casos de diagnósticos errados em medicina, mas também em psicologia, fisioterapia e tudo mais.
08:01Então, a gente também tem que admitir isso, tá?
08:03O paciente levar um diagnóstico para consulta como uma alternativa, eventualmente vai fazer a barra subir,
08:13porque o médico, assim como o psicólogo e tudo mais, vão pensar, poxa, eu não posso aqui tratar essa situação com desdém,
08:21porque eu vou ser simplesmente desacreditado por evidências que essa pessoa coletou em alguns minutos
08:28e estar botando aqui na minha frente, citando autores e tudo mais.
08:31Então, a necessidade de um raciocínio clínico mais elevado vai se colocar de maneira muito presente.
08:39E por esse lado é bom, entende? É bom aquele famoso foguinho no traseiro.
08:43Mas, é claro, eu acho, pelo menos, não estou achando que na vida das pessoas elas poderem discutir a sua saúde vai ser um problema.
08:51Agora, qual que é o grande ponto, né?
08:55A gente tem umas anedotas do passado, aquele mundo distante que existia antes de 2022,
09:03em que as pessoas iam perguntar para o Google, né?
09:06Doutor Google, eu estou com uma dorzinha aqui e elas terminavam com câncer, né?
09:11Era isso.
09:12Então, metástase, né?
09:14Então, existe um erro desse tipo, ainda que menor, com a IA, né?
09:22Tem a coisa de você, se você entra num loop com a IA,
09:27até pelo treinamento dela que tem um componente reforçador do cliente, né?
09:31Ou seja, tal como a rede social quer manter engajamento a IA também,
09:34porque é dessa maneira que ela mantém as pessoas pagando,
09:37e a gente já discutiu isso aqui.
09:38Então, se você entra num loop e você começa a forçar, forçar, forçar, forçar, forçar,
09:43daqui a pouco ela está concordando que você pode sim ter uma situação grave de saúde,
09:48você pode entrar num desespero, né?
09:50Por um desbalanço que é muito mais psicológico, de origem, insegurança, ansiedade, etc.
09:54E um médico poderia ir lá e falar, não, não, para com isso, acabou a consulta,
09:58você não tem nada, volta para a tua casa.
10:00Então, eu acho assim, no final das contas, a utilidade vai ser grande,
10:05mas a capacidade de converter essa utilidade em desfecho positivo do ponto de vista existencial
10:13vai ser determinada pelo bom senso e pelo equilíbrio das pessoas usando.
10:18Concordo plenamente.
10:20Agora, doutora, falando em dados, não é?
10:22Porque dados de saúde sempre são dados sensíveis,
10:26e agora estão sendo inseridos em plataformas de IA generalistas, né?
10:31Não em sistemas hospitalares regulados ali, controlados.
10:34O paciente, ele tem consciência disso, ou seja, desses dados que eram antes considerados sensíveis
10:40como proteção de dados, que estariam agora ali disponíveis em uma ferramenta de IA generalista?
10:47Então, esse é o ponto que eu diria que é o mais fácil de bater, né?
10:52É onde todo mundo bate.
10:53Eu gostei da pergunta.
10:54E a minha visão vai na contramão do senso comum.
11:00Primeira coisa, esses dados que estão em sistemas, softwares de saúde,
11:06muitas vezes, eles também são usados com função de, enfim,
11:11para interesses que são alheios aos do paciente.
11:14Então, a primeira coisa está aqui, tá?
11:16Então, a gente tem que encarar essa realidade.
11:18Segunda coisa, essas plataformas como Cloud e Chat EPT e Gemini sabem do problema
11:28e estão dizendo que não vão treinar modelos com esses dados.
11:32Então, dizer que esses dados vão estar mais expostos do que num software, enfim,
11:40multiclínica ou de plano de saúde operadora,
11:44é questionável, sabe?
11:46Não é bem verdade.
11:47É fácil dizer isso, porque, afinal de contas,
11:49qualquer um pode encher a boca para falar o grande perigo é a LGPD,
11:53mas não é verdade necessariamente.
11:56Será verdade se essas empresas mentirem?
11:59Elas já mentiram antes?
12:00Oh, bastante, a gente sabe.
12:03Mas é prática mentir?
12:05É prática o Google falar, eu não vou treinar com esses dados e treinar?
12:08Não, não é prática, não é.
12:10Aconteceu no passado com várias dessas empresas,
12:12mas não é a prática cotidiana,
12:14porque os riscos jurídicos são muito grandes.
12:18Ou seja, a empresa pode se dar muito mal e, consequentemente, não vale a pena.
12:21Então, se eles estão dizendo que eles não vão treinar,
12:24a gente sabe que podem existir exceções,
12:26mas o esperado é que, na média, essa regra seja seguida.
12:31Então, não acho que vai mudar muito por aí.
12:34E tem um outro ponto.
12:37Tem uma área que está se desenvolvendo
12:39na interface entre neurociências e direito,
12:42que é chamada neurodireitos.
12:44Que, aliás, a gente já discutiu aqui
12:46e poderia discutir de novo, porque ela é muito interessante.
12:48E uma das coisas que se discute em neurodireitos
12:51são os direitos às nossas estruturas cerebrais,
12:55aos nossos pensamentos.
12:57Então, por exemplo,
12:58e aí vem um correlato que são os direitos
13:00aos dados eletroencefalográficos.
13:02Ou seja, quando a gente faz um EEG,
13:04uma polisonografia do sono, qualquer coisa assim,
13:07esses dados têm que ser protegidos.
13:09Tá bom, eu já fiz mais de mil dessas, tá?
13:12Eu vou dizer para você que não tem nenhum uso.
13:15Não tem nada que a gente pode fazer.
13:16Não tem leitura nenhuma do pensamento
13:18que você faz desse EEG, nada disso.
13:21Então, existe uma paranoia também
13:24sobre o uso desses dados da saúde
13:27do ponto de vista instrumental,
13:28que ela está à frente do nosso tempo.
13:31Não é que não vá acontecer.
13:33Mas hoje em dia, dados anonimizados
13:37que de alguma maneira se relacionam a você
13:41de maneira indireta,
13:44não tem um uso de saúde,
13:46não tem um uso instrumental tão claro.
13:48Tem usos assim.
13:50Você tem uma, sei lá,
13:51você sofre de HIV e não quer expor.
13:54Tudo bem, tem várias situações assim.
13:56Mas em geral, não.
13:58É muito difícil você fazer
14:01esse rastreamento de volta.
14:03Então, também há uma paranoia com isso
14:07que se coloca à frente do tempo
14:09e sugere que a coisa não é tanto por aí,
14:13portanto, esse problema não é tão grande
14:15quanto parece.
14:16Outros são esse não.
14:18Agora, para encerrar, então, doutor Álvaro,
14:20vamos colocar uma citação
14:22como você mesmo comentou agora há pouco.
14:25E se o diagnóstico que eu ia dar
14:27para a pessoa que foi lá se consultar
14:29estiver totalmente errada
14:31e ela acreditar 100% e não for até,
14:33não se dirigir até o médico
14:35para questionar, perguntar,
14:37enfim, se tiver algum problema maior,
14:40agravar o problema que ela tem.
14:42Alguém tem culpa disso?
14:43Quem tem culpa?
14:45E mais?
14:46E qual conselho a gente pode dar
14:48para as pessoas até nessa situação, não é?
14:50Claro, claro, perfeito.
14:51Olha só, eu também, você sabe que
14:55o senso comum, ele me dá preguiça.
14:58Então, assim, claro que a resposta padrão seria
15:01as plataformas terão responsabilidade e blá, blá, blá.
15:06Não, falso.
15:07Porque as plataformas estão se protegendo juridicamente
15:11e dizendo que justamente elas não têm função
15:14de substituição do diagnóstico médico,
15:18de prognóstico, tratamento, nada disso.
15:22Consequentemente, de quem será a responsabilidade?
15:24Estritamente do usuário.
15:26Algum caso, algum juiz pode dar ganho de causa
15:28para alguém que, né, assim,
15:30imagina que alguém da sua família
15:32acreditou que determinada coisa não era nada
15:36e no fundo era sinal de um câncer
15:38se espalhando com a coisa assim
15:39e o sujeito morreu.
15:41Tá, em algum nível isso pode dar, assim,
15:44um ganho num processo?
15:47Pode.
15:47A gente tem casos, assim, mais extremos
15:50em psicologia, né, em que a Iajo
15:53foi participando de um delírio suicida
15:56até o momento que o sujeito morreu.
15:58Mas, nessas circunstâncias aqui
16:01é muito mais difícil provar a culpa do fornecedor
16:06porque o fornecedor está blindado por princípio
16:10através de um documento de aceite
16:13que é condição prerrogativa
16:15para você usar a plataforma, Marisa.
16:18Então, eu acho que a culpa vai ser,
16:20a responsabilidade vai cair inteiramente
16:21nas costas do usuário.
16:24O que significa que o usuário
16:27tem que ser mais maduro nesse uso?
16:29O que significa também
16:31que é fundamental no Brasil
16:35a gente reforçar a educação tecnológica das pessoas?
16:39Não é para mim, para você, para todo mundo
16:42que assiste o Olhar Digital News,
16:45é óbvio que a consciência sobre essas limitações
16:49precisa estar em primeiro lugar.
16:50Mas o Brasil não é esse microcosmos
16:52de gente culta e interessada em tecnologia.
16:55E aí que vem o problema.
16:56As pessoas tendem a acreditar numa voz mecânica,
17:00um texto mecânico que é todo concatenado,
17:04simplesmente porque aquilo parece ser muito superior
17:06a elas próprias na maneira de se expressar.
17:09E aí que a coisa vai para o brejo.
17:11Então, a dica que eu dou não é
17:13para as pessoas que estão aqui,
17:14porque todo mundo aqui sabe isso.
17:16A dica que eu dou é muito mais ampla
17:20no seu escopo e muito mais indiferenciada
17:23no seu objeto, que é o Brasil
17:25mais do que nunca vai precisar
17:27de educação tecnológica,
17:29porque agora a gente está falando
17:30da vida e da morte das pessoas.
17:33Tá certo, tá aí.
17:34E é inclusive por isso, pessoal,
17:36que a gente sempre fala, não é?
17:38Compartilhem o nosso trabalho com mais pessoas
17:40para elas chegarem aqui no Olhar Digital
17:42e terem informação confiável,
17:44ter informação responsável,
17:47assim como a gente desenvolve aqui
17:49no Olhar Digital todos os dias.
17:52Então, compartilhem sempre, pessoal.
17:54Bom, doutor Álvaro Machado Dias,
17:55começamos muito bem o nosso ano
17:57aqui juntinhos ao vivo.
17:58e vamos para mais um ano juntos.
18:02É isso aí, agradeço muito por um ótimo papo,
18:05porque eu composto a sua sugestão,
18:07é muito importante.
18:09Chegue nas pessoas esse tipo de conteúdo,
18:11que tem não só um papel instruccional
18:14e é super divertido, super dinâmico,
18:17mas efetivamente tem papel existencial.
18:20Então, compartilhe, obrigado e até com a equipe.
18:24Até a semana que vem, doutor Álvaro.
18:26Boa noite, beijo grande para você.
18:27Tá aí, pessoal, mais um Olhar do Amanhã
18:31para vocês aqui no Olhar Digital News
18:34com o doutor Álvaro Machado Dias,
18:37que é professor da Unifesp,
18:38neurocientista, futurista e colunista
18:40aqui do Olhar Digital.
18:42Semana que vem tem mais assunto bacana
18:45para falar por aqui com vocês.
18:47Então, vamos lá.
18:47E aí, quando nós vamos lá,
18:48vamos lá.
18:53E aí, vamos lá.
Comentários