- há 6 horas
Categoria
🤖
TecnologiaTranscrição
00:00E chegou a hora da nossa coluna da semana, Seu Direito Digital.
00:18E vamos receber ao vivo, Leandro Alvaringa, por favor, junte-se a nós.
00:24Muito boa noite, Leandro, seja bem-vindo, querido.
00:28Boa noite, Marisa, boa noite a todos de casa, espero que estejam todos bem.
00:33Leandro Alvaringa, vamos começar com essa última reportagem que nós vimos agora há pouquinho, não é?
00:38A OpenAI enviou à Polícia Federal mensagens de um usuário no chat GPT.
00:45A pergunta é, quando uma empresa pode repassar as autoridades, a conversa que as pessoas têm com a IA
00:53e onde que fica aquela linha entre privacidade e também autoridades?
01:00Bom, é uma pergunta bem difícil, Marisa, mas vamos lá.
01:03Primeiro ponto é, não é a primeira vez que acontece isso, só vou lembrar para vocês,
01:07já houve um caso no Espírito Santo, onde um pai ameaçava matar o filho para parar de pagar pensão,
01:14nós até comunicamos aqui no programa, e na época a OpenAI notificou o FBI e o FBI entrou em contato
01:22com a polícia brasileira.
01:23Esse caminho foi feito nos Estados Unidos porque existe uma lei americana que fala de casos de violência ou de
01:31emergência,
01:33essa comunicação pode ser feita sem ferir a liberdade de expressão e de comunicação lá nos Estados Unidos,
01:38uma norma que não existe no Brasil.
01:42Primeiro ponto é esse, Marisa, nos termos de uso da plataforma, que é um contrato particular entre as partes,
01:49ela diz que, havendo possibilidade de crimes e circunstâncias mais graves, ela pode sim fazer essa comunicação.
01:57Também é importante saber, Marisa, que a própria Lei Geral de Proteção de Dados,
02:01ela traz, em uma das hipóteses de tratamento de dados sem o consentimento,
02:05quando você traz risco à vida do usuário, do titular de dados ou de terceiros, que foi o caso nessa
02:12questão.
02:13O que nós temos ali é um conflito só com o marco civil da internet,
02:17que fala que as comunicações digitais não poderiam ser feitas salvo com a ordem judicial.
02:24Então, muito provavelmente, a OpenAI mandou um aviso sem a comunicação,
02:29e aí veio a ordem judicial, o requerimento das conversas, e aí, após isso, ela fez ali a abertura das
02:38conversas,
02:38porque, no primeiro momento, em tese, ela não poderia enviar a conversa,
02:41senão ela estaria descumprindo o marco civil da internet.
02:43Mas aqui é muito importante, Marisa, entender qual é essa linha, que é muito tênue,
02:50entre uma vigilância e, efetivamente, um exercício de uma obrigação,
02:54que é proteger a sociedade.
02:57Em hipótese nenhuma, Marisa, pode-se haver uma vigilância sobre as conversas.
03:03As conversas, ainda que seja com uma IA, ela é protegida por sigilo,
03:08seja pela lei ou pela Constituição brasileira.
03:10Então, somente casos extremos ou casos graves que poderiam se admitir uma situação dessa.
03:17E foi o caso.
03:18Você fazer ameaça a uma coletividade, a uma pessoa ou a demais.
03:23Houve ali um plano, que houve até envios de imagens do local e rotas de fuga.
03:29Ninguém faz isso de brincadeira, né, Marisa?
03:31Ainda que fale que não vai fazer, né?
03:34Há um risco muito grande.
03:36Então, efetivamente, é uma linha tênue, tem que ser analisada no contexto da conversa,
03:43para verificar, e a gente não tem acesso a esse contexto, para verificar se o contexto dava essa gravidade mesmo.
03:49Mas, pelo que as notícias nos trazem, era muito grave.
03:52E aí, agora, a investigação vai apurar se houve mesmo essa real ameaça à vida do presidente Lula
03:59e das pessoas que estavam ali, mas que poderia ser uma ameaça contra qualquer pessoa.
04:03Como nós vimos ali o caso da criança que o pai queria matar para não pagar a pensão.
04:08E, nesse caso, é bom lembrar que o pai foi preso no Espírito Santo antes do dia que ele falou
04:12que ia fazer.
04:13Então, o pai foi preso e evitou esse exercício.
04:15Então, assim, não importa se é um crime político ou é um crime voltado a uma figura pública,
04:20crime é crime, Marisa.
04:21E aí, esse identificado, esse risco, o caminho, eu entendo como correto, da comunicação às autoridades.
04:28Ainda mais, a gente tem uma desculpa maior, né?
04:30A lei americana, ela fala que você deve informar a autoridade.
04:34A OpenAI, ela é americana.
04:37Então, na pior das hipóteses, ela está cumprindo a lei americana.
04:39Porque ela não fala que tem que se comunicar a uma autoridade americana.
04:43Ela tem que se comunicar com a autoridade e foi o que ela fez com a Polícia Federal, Marisa.
04:47Ah, certo.
04:47Pois é, não faz muito sentido mesmo.
04:49Você tem ali uma ameaça, falar assim, ah, não, mas tem a privacidade aqui do usuário, não vamos divulgar, né?
04:54É o que eu falei, a privacidade, ela não pode ser um escudo contra crimes graves,
04:57como também a desculpa de uma vigilância coletiva, uma desculpa de uma proteção maior,
05:06não pode ser desculpa para você ferir a privacidade.
05:09Então, toda vez, nós temos que olhar no caso concreto para identificar e tem que encontrar equilíbrio, Marisa.
05:14Se houver abuso na comunicação, a OpenAI tem que ser punida.
05:17Mas não é o que me parece nesse caso, Marisa.
05:19Com certeza.
05:21Agora, Leandro, o Ministério Público Federal abriu um procedimento para investigar a meta e o EX
05:27por bloqueios e remoções de conteúdo durante o período das eleições.
05:32Até onde vai, Leandro, o poder das plataformas de moderar conteúdo político em período eleitoral,
05:39como está sendo agora?
05:40Bom, vamos lá, Marisa, vamos deixar claro para o pessoal por que houve uma denúncia de uma série de associações
05:45onde mais de mil usuários estavam reclamando de postagens que concluíram o político e foram removidas.
05:52Sem esclarecimentos dos motivos que foram removidas, algumas delas, segundo as pessoas,
05:57e aí tem que analisar a publicação, nós não temos acesso,
05:59mas que não tinham a conotação política no sentido de fake news, de ataque à democracia,
06:07nada desse sentido, eram simplesmente críticas.
06:09E aqui é importante, ainda que a plataforma tenha as suas regras próprias, ela tem regras,
06:17inclusive o próprio TSE emitiu uma norma sobre o que poderia ser publicado, o que deveria ser retirado,
06:24porque período eleitoral é um período que nós chamamos especial, onde as derrubadas de conteúdo são mais rápidas,
06:31porque imagina se eu num período, numa sexta-feira, eleição, domingo, eu publico uma fake news,
06:36como é que eu vou esperar uma ordem judicial para derrubar aquilo?
06:40Então, as consequências são muito graves até para desmentir.
06:43Então, por isso, Marisa, ela tem a circunstância de, conforme as suas regras e as regras do TSE,
06:51de derrubar conteúdos criminosos ou inverídicos.
06:55O problema é, o algoritmo, ele é direcionado para fazer essa fiscalização.
07:01E será que ele foi direcionado de forma correta?
07:03Será que ele não derrubou conteúdos que não seriam colocados ali?
07:11Mais uma vez, a gente tem que lembrar, uma crítica ácida, uma crítica mais pesada,
07:16ainda é uma crítica, ainda é direito de expressão, por mais pesada que ela seja, ela não é crime.
07:22Então, deveria ser mantida.
07:24O que não se pode são condutas criminosas, e fake news, deep fakes, situações nesse sentido.
07:30Então, esse inquérito vai apurar exatamente isso.
07:33Se a conduta foi correta ou não foi, se o algoritmo agiu corretamente ou não,
07:39mesmo porque nós ainda estamos em período eleitoral e muitos estados têm segundo turno,
07:44para presidente nós temos segundo turno, então a regra eleitoral ainda está valendo, Marisa.
07:48Então, o que vai acontecer é, na final da apuração,
07:52provavelmente eles vão identificar se houve abuso, se não houve,
07:55se vão fazer um termo de ajuste de conduta, que é regular melhor a circunstância,
08:01para que isso não volte a acontecer, porque efetivamente, Marisa,
08:05você tirar críticas e tirar opiniões, você fera a democracia.
08:08Mas, o ponto mais importante, que eu vejo nas reclamações,
08:13e que eu recebi muitas reclamações nesse sentido, é,
08:15eles derrubam e não dão satisfação.
08:18Eles não falam porque estão derrubando.
08:21E aí é um grande problema.
08:22Isso acontece muito com o WhatsApp, com o Facebook, LinkedIn e outras redes gerais aí,
08:29o X mesmo, né?
08:30Então, o problema é o usuário não ter a informação,
08:33porque o usuário tem o direito de contestar essa derrubada.
08:36Se ele entender que aquele bloqueio foi indevido,
08:41ele tem o direito de contestar.
08:43E quando a empresa não dá essa informação,
08:45ela não está sendo clara e não está seguindo a lei,
08:47não está seguindo o marco civil da internet.
08:49E esse é o ponto, né, Marisa?
08:51A questão maior é, não é só...
08:53Porque pode acontecer que o algoritmo tire uma postagem
08:56que era uma crítica mais ácida do que uma ofensa propriamente dita.
09:01Porque o algoritmo é um algoritmo, Marisa.
09:03Ele não sabe o contexto de tudo que está envolvendo.
09:06Ele olha aquela situação, muitas vezes, isoladamente.
09:08E ele pode errar.
09:10Só que a rede social tem que criar mecanismos que permitam a contestação.
09:15E aí o estorno dessa publicação, caso a contestação for válida, né?
09:20Ou abrir o mecanismo.
09:22Agora, se você teve uma postagem derrubada, o caminho, Marisa, é guarde a postagem original,
09:27guarde a circunstância que gerou o bloqueio, as comunicações com a rede social.
09:31E, eventualmente, se for em período eleitoral, comunique o TSE,
09:35o TRE da região, Tribunal Regional Eleitoral, sobre aí o abuso,
09:40se caso você entender que houve um abuso.
09:42E as redes sociais, elas têm que ser mais rápidas em notificar, informar o motivo.
09:49E a informação do motivo, Marisa, é curioso que eu peguei alguns casos de informação de motivo.
09:54E eles falam assim, por descumprimento das regras da plataforma.
09:58Qual regra?
10:00O que eu descumpri?
10:02Então, também não adianta dar uma resposta genérica, aleatória,
10:05para dizer que deu uma resposta, né, Marisa?
10:08Tem que ser um caso mais concreto, uma análise melhor.
10:11Então, na verdade, agora é uma investigação que lá na frente pode ter um resultado
10:14de uma punição, de um ajuste, ou simplesmente falar, olha, estava certo.
10:19Pode ser que aconteça, né, Marisa?
10:20Eu, particularmente, não acredito que vai ser isso.
10:22O resultado pela quantidade de reclamações que nós estamos tendo.
10:26E aqui é importante dizer que a reclamação dos dois lados, Marisa, seja de quem é de
10:29esquerda, quem é de direita, essas derrubadas de conteúdo, elas estão acontecendo para
10:35todo lado.
10:36E é importante, no período eleitoral, na democracia, é o debate de ideias, né?
10:43Então, independente se você gosta de A ou B, as pessoas têm o direito de falar.
10:46Eu gosto de brincar o seguinte, que eu vou lutar pelo seu direito de falar ao máximo.
10:51Ainda que você esteja falando besteira, que eu não concordo com nada que você está
10:53falando.
10:54Mas você tem que ter o direito de falar.
10:55E se você exagerar, aí sim, você responde pelo que você falou, se for crime.
11:00Agora, não se pode também punir a liberdade de expressão, Marisa.
11:05Leandro, agora um caso curioso que aconteceu na semana.
11:09A polícia alemã apreendeu um robô humanoide, suspeito de assediar uma adolescente.
11:16Leandro, explica pra gente essa história melhor e quem vai responder nesse caso?
11:20Bom, vou explicar um pouquinho o contexto da história, Marisa.
11:22Isso foi uma colônia na Alemanha, onde um adolescente de 16 anos teve as nádegas apalpadas
11:29ali por um robô e segundo ao que falaram, ele também fez cenas sexuais com a adolescente
11:36num bar ou na saída de um bar.
11:38Foi um contexto mais ou menos assim.
11:39E foi identificado um jovem de 16 anos e um adulto de 19 anos.
11:45São dois jovens, mas um maior de idade e um menor de idade.
11:49E o robô foi apreendido, era um robô vermelho, foi apreendido inclusive no porta-mala do maior
11:53de idade.
11:54Então agora o caso está sob investigação.
11:56Por quê?
11:57Porque assim como no Brasil, tocar nas partes íntimas de uma mulher na Alemanha é crime.
12:04O adolescente responderia aqui no Brasil por ato infracional, lá também tem uma lei
12:09para menores de idade, menores de 17 anos.
12:11E o maior de idade responderia pelo crime, aqui no caso poderia ser um atentado violento
12:17ao pudor, um assédio sexual, depende da circunstância, como foi.
12:20A suspeita que essa situação foi feita para filmagem na internet, mas não tem essa
12:26confirmação.
12:27Parecia que eles estavam filmando isso, não se sabe se é ao vivo ou não, a polícia
12:31está investigando.
12:32Mas o fato é, o robô efetuou o toque nas nadegradas da menina e ele fez ali as cenas
12:39de sexo, vamos dizer assim, como foi descrito nas matérias na Alemanha.
12:44Qual é o ponto ali, Marisa?
12:46E o que a polícia está investigando agora?
12:48Com a apreensão do robô, nós vamos conseguir identificar se o robô teve uma pane, entre
12:53aspas, e fez alguma coisa que não foi comandado ou se houve um comando humano.
12:58É importante dizer que o robô não é investigado, o robô não vai ser preso, né?
13:02Com certeza quem vai responder são as pessoas ali que estavam comandando o robô e levaram
13:07o robô naquela circunstância.
13:08Então hoje não é possível dizer efetivamente o que vai acontecer, se é um caso que a gente
13:12vai ter que acompanhar, mas é muito sério.
13:14Isso mostra que, ainda que você programe uma máquina para fazer alguma coisa, o robô
13:19ali, o humanóide, essa máquina vai, quem fez a programação, ele vai responder por
13:25aqueles atos que aquela máquina fizer.
13:27Então ali, uma agressão à menor de idade, os dois devem responder.
13:32Um como autor, provavelmente quem estava manipulando ou deu o comando, se for isso for confirmado,
13:37e o outro possivelmente como um coautor, um cúmplice, um partícipe ali da circunstância.
13:43E aí vai ter vários agravantes, por ser menor de idade, se foi ou não publicado na
13:49rede social, mas vai haver a responsabilização, Marisa, por isso não brinque, um roubo, mesmo
13:53humanoides, se houver um crime, o humano vai responder.
13:57E pode ser que ali, numa situação, vamos dizer que não aconteceu nada disso, que o que
14:02as notícias falaram não foi totalmente verdade e o robô agiu sozinho, sem um comando
14:07propriamente dito, que também pode acontecer, Marisa, não é uma possibilidade descartável,
14:12o TOC não foi com a intenção de apertar no intuito sexual, por exemplo, foi uma falha
14:20de programação, alguma coisa.
14:21A empresa que desenvolveu o robô ou o desenvolvedor que fez a falha de programação poderia responder,
14:28mas aí sairia da esfera criminal, iria para uma esfera de reparação civil, de danos à
14:34imagem, e aí os dois jovens ali provavelmente não responderiam se ficar comprovado efetivamente,
14:42que sinceramente eu não acredito, Marisa, eu acredito que eles queriam mais fazer uma
14:45gracinha, uma pegadinha ali, mas não posso afirmar, tem que esperar as investigações
14:53que vão concluir e quando tiver um resultado, a gente trata vocês aqui para dizer o que
14:57aconteceu, mas a princípio é isso, Marisa.
14:59Pois é, curioso, né, claro, imagina-se sim que logo de primeira mão é algo para fazer
15:04algum vídeo para viralizar numa internet de um robô ali brincando com uma adolescente,
15:09que é um absurdo, né?
15:10É um assédio, né, não importa se é um robô ou não, mas foi um assédio, né?
15:14Vamos saber mais, então, assim que soubermos, vocês serão bem informados.
15:18Tá aí, Leandro Varenga, muitíssimo obrigada por mais uma semana no Seu Direito Digital.
15:24Semana que vem a gente volta.
15:25É um prazer, mas vocês veem, né, a gente traz matéria do mundo todo para vocês,
15:29trazendo curiosidades da tecnologia para todos e a responsabilidade sobre ela, né, Marisa?
15:34Exatamente.
15:34Então, aguardo vocês quinta-feira da semana que vem, mandem suas perguntas para nós,
15:40teremos o maior prazer aqui de responder, fiquem com Deus e até a próxima.
15:44Tchau, tchau, tchau.