O Google sob fogo: IA revela métodos de suicídio e como evitar. Entenda o dever de cuidado das inteligências artificiais em temas sensíveis e o impacto na saúde mental.
A IA, mais que um intermediário, influencia decisões. Quando resume e direciona informações, assume responsabilidade. Proteção de dados e dignidade humana exigem atenção redobrada.
Descubra por que a IA não pode substituir profissionais de saúde mental e os riscos de "alucinações" e erros. A legislação evolui, exigindo protocolos de segurança para prevenir danos.
Acompanhe o caso Google Android na Europa e as multas bilionárias. Veja como esses precedentes podem moldar o futuro das plataformas digitais, inclusive no Brasil.
#DireitoDigital #InteligenciaArtificial #SaudeMental
A IA, mais que um intermediário, influencia decisões. Quando resume e direciona informações, assume responsabilidade. Proteção de dados e dignidade humana exigem atenção redobrada.
Descubra por que a IA não pode substituir profissionais de saúde mental e os riscos de "alucinações" e erros. A legislação evolui, exigindo protocolos de segurança para prevenir danos.
Acompanhe o caso Google Android na Europa e as multas bilionárias. Veja como esses precedentes podem moldar o futuro das plataformas digitais, inclusive no Brasil.
#DireitoDigital #InteligenciaArtificial #SaudeMental
Categoria
🤖
TecnologiaTranscrição
00:00E já chegou a hora da nossa coluna da semana, Seu Direito Digital.
00:18E hoje temos o prazer da presença ao vivo dele, Leandro Avaringa. Por favor, junte-se a nós.
00:25Bem-vindo, Leandro, como sempre. Muitíssimo boa noite.
00:28Boa noite, Marisa. Boa noite a todos de casa. Espero que estejam todos bem, Marisa.
00:33Leandro, vamos começar com um assunto bastante delicado.
00:36O Google tem sido alvo de críticas após a sua inteligência artificial destacar métodos de suicídio em resumos automáticos de
00:46notícias.
00:47Existe um dever de cuidado específico de informações relacionadas à saúde mental, Leandro, ou até outros temas sensíveis?
00:56Vamos lá, Marisa. A gente precisa explicar um pouquinho da diferença.
01:00Porque muitas empresas tentam falar que a sua IA é só um intermediário.
01:06E não é, Marisa. Por que não é?
01:08Uma coisa é que você vai no buscador, o buscador te mostra todos os links que tem ali,
01:12e você acessa o que você quiser e você faz a leitura do que você quer.
01:18A IA é diferente. Ela não só busca esses endereços, ela resume.
01:23Ela destaca o que ela entende que é mais importante e se direciona.
01:28Então, quando ela toma esta postura de direcionamento de uma resposta,
01:33ela passa a influenciar na decisão da pessoa.
01:37Então, sim, Marisa, a IA tem que ter responsabilidade sobre como ela vai se comunicar.
01:46Quando nós começamos a falar de IA aqui, eu lembro de vários temas que foram bem interessantes,
01:50mas teve um que nós tratamos que foi bem engraçado,
01:53que foi um rapaz que pediu como é que fazia uma bomba atômica.
01:56Não sei se você se recorda disso, Marisa.
01:57E lá atrás, o que a IA fez?
02:00Ela descreveu para ele como fazer a bomba atômica.
02:03Vários temas polêmicos, nós tivemos exatamente esses anos,
02:06e hoje a IA não responde mais.
02:07Se você perguntar para ela como faz uma bomba atômica, ela não vai te explicar.
02:11Pelo menos é o protocolo que está lá.
02:14Então, o que é isso, Marisa?
02:15É uma reação exatamente disso.
02:17É a sociedade exigindo que a IA tenha responsabilidade.
02:23E essa pressão, ela vem sendo afetada muito grande pela parte legislativa.
02:28Na Europa, por exemplo, nós temos o IA Act, que traz a responsabilidade de cuidado.
02:34Que ela tem que ter esse cuidado e tem que tratar temas sensíveis.
02:38Quando tratar de dados sensíveis ou circunstâncias sensíveis,
02:41inclusive com obrigações de alertas.
02:43Nós tivemos aqui no Brasil recentemente uma prisão,
02:47porque uma pessoa falou que ia matar o filho.
02:50Conversando com a IA, saiu na mídia isso.
02:54A IA provavelmente fez o alerta às autoridades,
02:56e a pessoa foi presa antes de matar o próprio filho.
02:59Só para quem não sabe o caso, era um pai, se não me engano, um Espírito Santo,
03:03que falou que a IA queria matar o filho no dia seguinte,
03:05para ele não ter que pagar a pensão.
03:07E aí a polícia pegou e prendeu a pessoa.
03:11Então a IA, ela tem essa função e tem que ter esses protocolos.
03:14Aqui no Brasil, se nós formos olhar para a legislação brasileira,
03:16apesar de nós não termos ainda a lei de IA,
03:20o Código de Defesa do Consumidor é um serviço prestado, ainda que gratuito.
03:26A Lei Geral de Proteção de Dados, que fala que dados sensíveis
03:30têm que ser protegidos e tratados com cuidado.
03:32Isso gera temas sensíveis.
03:34E também a própria Constituição Federal,
03:36quando fala da dignidade da pessoa humana,
03:39ela traz essa responsabilidade.
03:41Certamente, ainda que nós não tenhamos no Brasil uma lei de IA,
03:44se ela induzir ou ajudar alguém a fazer algo que gere danos àquela pessoa,
03:51por exemplo, uma pessoa que tem uma depressão profunda,
03:54e a IA sugestione que ela se mate, que ela se maltrate,
03:58que ela tome alguma medicação,
04:00isso gera a responsabilidade da IA.
04:02E é tão interessante, Marisa, quando eu estava estudando sobre esse tema,
04:05que o Conselho Federal de Psicologia enviou uma cartilha
04:12sobre as doenças da saúde e a IA.
04:16E é muito interessante que uma frase que me chamou muita atenção é
04:20os adolescentes hoje, as pessoas, não procuram profissionais.
04:24Elas acabam usando a IA como sendo um profissional de saúde.
04:28E ela não é um profissional de saúde.
04:30Ela alucina, pessoal. Ela erra também.
04:33Então, muitas vezes, essa alucinação, esse erro,
04:37induz a danos às pessoas.
04:39Então, ela não pode substituir um profissional de saúde.
04:41Então, as empresas que trabalham com IA,
04:44elas precisam, necessitam criar protocolos de segurança
04:47que quando identificam que está havendo uma distorção
04:51ou algum risco àquela pessoa,
04:54que recomende procurar um psicólogo, um psiquiatra,
04:58como muitas vezes você faz uma pergunta para ela,
05:00ela fala, olha, eu não posso te responder isso,
05:02mas procure tal pessoa, procure, não é uma pessoa específica, né?
05:06Um profissional X.
05:07E é isso que ela tem que fazer, porque senão ela vai responder, Marisa.
05:10É, com certeza.
05:11E tem muita gente que usa até mesmo, né?
05:13Para terapia, fica ali falando seus problemas
05:15e aí a IA pode direcionar para o lado errado, né?
05:17Exatamente. Não é adequado.
05:18Nós temos que procurar um profissional humano
05:20que é gabaritado para isso.
05:22A IA pode ajudar em muitas coisas, mas não nas doenças da mente, Marisa.
05:26Pois é. Agora, Leandro, ainda falando um pouquinho mais sobre o Google,
05:30a empresa sofreu uma derrota histórica
05:33e terá que pagar multa bilionária na Europa.
05:37Que decisão é essa, Leandro?
05:39E que precedentes ele pode criar
05:40para futuros processos envolvendo plataformas digitais
05:46e, claro, envolvendo, inclusive, aqui no Brasil?
05:48Pois é, Marisa. A gente está há tanto tempo aqui, né?
05:50Eu estava brincando com você sobre o olhar digital,
05:52porque aquela coluna já existe há tantos anos,
05:53que a gente acompanha os processos do começo até o final, né?
05:56Exatamente.
05:57Então, só para lembrar, esse caso nós já falamos aqui
05:59é o caso da Android, na verdade.
06:01O que a Google fazia na Europa,
06:03hoje já está mudando essa prática,
06:05ela disponibilizava o Android gratuitamente,
06:08como é gratuito para todo mundo.
06:09Só que ela colocava algumas condições,
06:10como, por exemplo,
06:11era obrigatório que vinha cadastrado
06:15o buscador do Google,
06:17que vinha já instalado o Google Chrome,
06:20ela criava dificuldades para outros aplicativos
06:24que não sejam das plataformas Google,
06:27efetivamente,
06:28dificultava a concorrência
06:29e foi isso que a União Europeia olhou.
06:32Ela lá atrás, ela já tinha condenado o Google,
06:34isso é um recurso, na verdade,
06:36e na qual ela entendeu o quê?
06:38Que o Google, apesar de oferecer um produto gratuito,
06:40ele não pode limitar o mercado,
06:44ele não pode impedir a concorrência.
06:45Então, o fato do Android ser gratuito,
06:48ele não impediu que o Google favorecesse os seus produtos
06:51e, com isso, impedisse que a concorrência existisse
06:55de vários produtos e serviços.
06:58Com isso, Marisa,
06:59efetivamente, houve dano às pessoas,
07:02houve dano à concorrência
07:03e é isso que a União Europeia está falando.
07:05Está lhe dando um recado muito claro
07:06e aí fica o recado para a Apple.
07:08O Google se defendeu,
07:09porque ele falou o seguinte,
07:11olha, mas a minha plataforma é gratuita,
07:13eu estou concorrendo,
07:14ele mesmo fala nas defesas.
07:15Olha, a Apple lá é fechado,
07:17o meu é aberto,
07:18ainda tem como outras pessoas colocarem ali
07:21os seus aplicativos, né?
07:23Mas antes da multa,
07:24da primeira multa que foi aplicada,
07:26tinha muitas restrições.
07:27Essas restrições foram caindo,
07:29como agora nós vimos aí,
07:31recentemente nós falamos,
07:32que a própria Apple caiu também,
07:33pelo mesmo motivo.
07:34Na verdade, aqui,
07:35é uma decisão para proteger a liberdade econômica,
07:39proteger a livre concorrência
07:41e proteger os consumidores.
07:42Então, na verdade,
07:43houve uma multa inicial,
07:45essa multa foi um pouco reduzida
07:46no primeiro recurso,
07:47mas no segundo recurso foi mantido integralmente.
07:50É um valor significante,
07:52exatamente para mostrar
07:54que não basta ser grande,
07:56não basta oferecer gratuitamente,
07:58você não pode isolar o mercado,
07:59você não pode fechar o mercado
08:02e fazer ali uma concorrência desleal.
08:03Tá certo.
08:05Bom,
08:06Leandro,
08:07a Suprema Corte dos Estados Unidos
08:09decidiu restringir o uso de
08:13mandados de geolocalização.
08:16Pois é,
08:16como essa decisão,
08:17Leandro,
08:18reforça o direito à privacidade,
08:21digamos,
08:22em ambientes digitais?
08:24Pois é, Marisa,
08:25vamos explicar um pouquinho,
08:26que talvez as pessoas não entendam
08:27o que aconteceu.
08:27Nos Estados Unidos,
08:29algumas vezes,
08:30eles tinham muita dificuldade
08:31de encontrar crimes,
08:32e aí a polícia pedia
08:34uma busca
08:36em todos os celulares
08:37que estavam disponíveis
08:39em determinada área.
08:40Então,
08:41ele pedia os celulares
08:41para identificar
08:42quem foi o que cometeu o crime.
08:43Então,
08:43imagina um assassinato
08:44num quarteirão,
08:46eles pegavam as três antenas
08:47ali naquele quarteirão
08:48e pegavam todos os celulares
08:50que estavam ativos
08:51na tentativa de identificar
08:53quem foi o assassino,
08:55por exemplo,
08:56e nesse meio,
08:57o tempo,
08:58eles iam consultando
08:59quem eram os donos
09:00dos celulares
09:01e iam descartando as pessoas.
09:04Olha só como é grave isso,
09:06Marisa.
09:07Normalmente,
09:08você identifica a pessoa
09:10ou o suspeito,
09:12e aí você vai fazer
09:13as buscas de tecnologia,
09:15de outros mecanismos
09:16para identificar
09:18se aquela pessoa
09:19é mesmo a pessoa
09:20que cometeu o crime.
09:21Aqui,
09:21você está tirando no escuro.
09:23Vamos pegar todo mundo
09:24que está na Vila Paulista
09:25e ver quem matou
09:26alguém na Casa das Vila,
09:27de Rosas.
09:28É um caso bem...
09:30Imagina você
09:31vasculhar a vida
09:32de todas as pessoas.
09:33Foi isso que o Supremo Alcante
09:34falou.
09:34Meu, peraí,
09:34está errado.
09:35Vocês estão entrando
09:36na privacidade das pessoas.
09:37A geolocalização,
09:38ela pode ser solicitada?
09:39Pode.
09:40mas você pode ter que solicitar
09:42pontualmente,
09:43indicando qual é o caso
09:44com fundamentos para aquilo.
09:46Por quê?
09:46Porque quando você pega
09:47a geolocalização,
09:48Marisa,
09:48você acaba dizendo
09:50onde a pessoa está.
09:51Você acaba podendo dizer
09:52o que ela faz,
09:53qual é a rotina dela,
09:54o que ela gosta,
09:55o que ela não gosta.
09:57imagina,
09:58só um caso hipotético,
09:59o marido está traindo a mulher,
10:00está no motel lá
10:01com a mulher.
10:02Como é que ele vai
10:02explicar onde ele estava?
10:05Uma brincadeira,
10:06pessoal,
10:06não fica pra ficar bravo
10:06comigo não.
10:07É só pra eles falarem o seguinte,
10:08ele tem o direito
10:09a ter a intimidade dele.
10:10Fazendo coisa certa ou errada,
10:11ele tem o direito
10:12a intimidade
10:12e o Estado
10:13não pode interferir nisso.
10:14Se ele não é o suspeito
10:16do crime,
10:17ainda que ele esteja
10:18fazendo outra coisa errada,
10:20ele não pode ter ali
10:21a sua privacidade defasada.
10:23Então,
10:24é isso que a sua
10:25forma corte disse.
10:26Ela falou,
10:26olha,
10:27a geolocalização pode ser usada,
10:29ela é uma ferramenta,
10:30mas ela não pode ser usada
10:31de maneira indiscriminada.
10:32Porque a geolocalização
10:34é um dado pessoal,
10:36é inerente à privacidade
10:37das pessoas
10:38e a privacidade das pessoas,
10:40conforme a quarta emenda americana,
10:42é protegida.
10:43Por quê?
10:43Porque lá nos Estados Unidos
10:44eles têm uma coisa
10:45da expectativa de privacidade.
10:48Então,
10:48eu fazer alguma coisa,
10:49eu tenho que ter
10:50uma expectativa de privacidade
10:51sobre aquilo,
10:52senão aquilo é público.
10:53Então,
10:54eu comer um miojo
10:54no meu quarto fechado,
10:56quem vai me ver?
10:57Ninguém.
10:57Agora,
10:58eu comer um miojo
10:58no meio da Praça Sé,
11:00no horário de pico,
11:01todo mundo vai me ver.
11:01Qual a expectativa
11:02de privacidade que eu tenho?
11:03Nenhuma.
11:04Então,
11:04só que ele entende
11:05que a geolocalização
11:06é um aplicativo seu,
11:08do seu celular,
11:09e que ninguém pode consultar.
11:10Então,
11:10você tem a expectativa
11:11de privacidade
11:12e essa expectativa
11:13pela quarta emenda
11:14tem que ser respeitada.
11:16No Brasil,
11:16a mesma coisa,
11:17Marisa,
11:18a Constituição Federal
11:19prevê a privacidade,
11:20a geolocalização,
11:21ela faz parte
11:23da sua privacidade,
11:24ela é um dado pessoal
11:25quando é atribuído a você
11:27e ela tem que respeitar
11:28tanto a privacidade,
11:30que é o consentimento
11:31da pessoa,
11:31e para você quebrar
11:33a privacidade,
11:33você tem que ter
11:34um justo motivo,
11:35que é a investigação
11:36de um crime.
11:37E quando você faz isso,
11:38você tem que fazer
11:39direcionado,
11:40você não pode fazer isso
11:41aleatoriamente
11:42para qualquer pessoa,
11:43que é isso que a polícia
11:44estava fazendo,
11:44Marisa.
11:45Pois é,
11:45faz sentido,
11:46faz todo sentido.
11:49Bom,
11:49pessoal,
11:50super assuntos aqui
11:51hoje nesse quadro,
11:52seu direito digital,
11:54Leandro Marenga,
11:55mais uma vez,
11:56muitíssimo obrigada
11:56pela participação,
11:57excelente quadro
11:58essa semana,
11:59viu?
11:59Semana que vem
12:00a gente tem mais.
12:00Obrigado,
12:01Marisa,
12:01é um prazer
12:02estar aqui com você,
12:03uma boa noite,
12:04domingo tem Brasil,
12:04Marisa,
12:05vamos torcer para o Brasil.
12:06É verdade.
12:08Aguardo suas perguntas
12:09na quinta-feira,
12:11fiquem com Deus
12:12e até a próxima.
12:13Pois é,
12:14o Leandro Marenga
12:15gosta de um futebol,
12:16ele lembrou bem,
12:17tem jogo do Brasil domingo,
12:18vamos torcer,
12:19o coração tem que ficar
12:20ali firme.
12:21Agora,
12:22Leandro Marenga,
12:23aliás,
12:23antes disso,
12:24pessoal,
12:25lembrando,
12:25esse quadro aqui,
12:26o seu direito digital,
12:27toda semana,
12:28quinta-feira,
12:29nós temos aqui
12:30o Leandro Marenga
12:31para esclarecer
12:33as dúvidas
12:33sobre seus direitos
12:35e seus deveres
12:36no mundo digital.
12:37Então,
12:37aproveite e mande
12:39as suas dúvidas
12:39pela hashtag
12:41SeuDireitoDigital.
Comentários