00:00E agora chegou a hora da nossa coluna
00:03Seu Direito Digital
00:06E hoje o Leandro Avaringa também não pôde estar conosco aqui ao vivo no estúdio
00:24Mas claro que vocês não ficam sem as análises dele
00:29Então vamos começar, Leandro
00:32Vamos repercutir essa notícia que a gente falou agora há pouco
00:35Sobre o novo chat GPT saindo do controle e realizando um ataque hacker
00:41Em casos como esse, Leandro, quem deve ser responsabilizado juridicamente?
00:48A empresa desenvolvedora, os usuários ou o próprio sistema?
00:54O problema com a IA já chegou e o direito já está respondendo por isso
00:58A questão é, nesse teste foi dada uma missão para a IA
01:02E essa IA, para tentar fazer mais rápido, ela usou de mecanismos que seriam ataques hacker
01:08Como por exemplo, desconstituir uma segurança
01:11Pular um cápsia para saber se você é humano ou se não é
01:14E isso é tipicamente um ataque hacker
01:18Mas é isso que vem a pergunta
01:20O programador não previu essa circunstância, não criou mecanismos que impediam isso e ela o fez
01:27É claro que isso aqui foi só um teste no ambiente controlado
01:30Mas e se fosse no mundo real?
01:32Essa é a pergunta
01:33Certamente a IA não é um CNPJ, ela não é um CPF, ela não responde por si só
01:39Inicialmente nós temos que lembrar que quem cria a IA, o desenvolvedor
01:43Ele tem a responsabilidade de criar mecanismos de segurança sobre a IA
01:48Se ele não o fizer, ele está falhando na produção do produto
01:53E se esse produto trouxer danos a terceiros ou a quem está usando
01:57Efetivamente ele é responsável
02:00Toda a legislação no mundo fala isso
02:02O IAAC fala isso
02:04E a própria PL 2338 que está aqui no Brasil também vai nessa linha
02:09O segundo ponto é o usuário
02:11Se o usuário identificar efetivamente e mandar fazer algo
02:16Aí a responsabilidade é de quem mandou
02:19Do usuário que efetivamente determinou que a IA cometesse aquele delito
02:24Aquela circunstância que gerou prejuízo
02:27E no caso que nós estamos estudando efetivamente
02:30Se a IA fez da cabeça dela sem nenhuma orientação
02:35É uma falha na promoção dela, no desenvolvimento
02:40Porque não criaram-se mecanismos para prever isso
02:44É por isso que os PLs que tratam de IA no mundo inteiro
02:47Como o IAAC e também agora o PL 2338
02:51Trazem uma série de responsabilidades
02:53Dentre elas a previsão de danos
02:56Mecanismos de controle
02:59Mecanismos de verificação
03:01E também o acompanhamento humano
03:04Para evitar o descontrole da IA
03:07Porque certamente o desenvolvedor
03:09O usuário pode ser responsabilizado
03:12Dependendo das suas ações
03:14Porque a IA não é uma entidade com responsabilidade
03:17E o dano não pode ser ignorado
03:20A IA tem que ser utilizada de maneira respeitável
03:24De maneira responsável
03:26E quem desenvolve e usa
03:28Tem que saber dos seus riscos e evitá-los
03:32Pois é, mais um assunto, Leandro
03:35O Ministério Público de São Paulo
03:38Está pedindo uma indenização milionária
03:41De empresa, aliás, da empresa de escaneamento de íris
03:46Explica para a gente, Leandro
03:47Como foi e como está esse caso
03:50Para quem não lembra desse caso
03:52É aquele caso do escaneamento de íris
03:54Em troca de uma recompensa
03:56Um pagamento aí que podia chegar até 700 reais
03:59Para criar o World ID
04:02O Ministério Público, assim como a NPD
04:04Já havia se manifestado
04:06Entendeu que a prática é abusiva
04:08E gerou dano moral coletivo
04:10E por isso pede uma indenização coletiva
04:13De 240 milhões de reais
04:16Não só isso
04:17Ele pede que seja preservado
04:19Todos os dados colhidos
04:22E todas as informações
04:23O que é importante vocês saberem
04:25Primeiro que a empresa não foi condenada
04:27É apenas uma acusação
04:29Ela ainda vai apresentar a sua defesa
04:31E pode ser que o judiciário
04:33Venha a entender ali que ela é inocente
04:36O que está em jogo
04:37É exatamente o que estava na fiscalização da NPD
04:40Quando ela suspendeu o serviço
04:42Se o consentimento dado
04:45É livre ou não
04:47Se ele é esclarecido ou não
04:48A novidade nesse processo
04:50É que também foi colocado no processo
04:53O servidor de nuvem
04:54A AWS
04:55Que hospedava esses serviços
04:57E aqui gera uma confusão
04:59Por quê?
05:00Porque conforme a Lei Geral de Proteção de Dados
05:03A responsabilidade sobre o tratamento de dados
05:06Ela é do controlador
05:07No caso, a empresa que estava coletando
05:11As iris
05:12A fotografia das iris
05:14Que segundo a empresa
05:16Deixando muito claro
05:17Ela não armazenava essa fotografia
05:19Ela tirava a fotografia
05:20E transformava isso num código
05:22Mas isso também é um dado pessoal
05:23E por isso a LGPD se aplica
05:25A AWS, neste caso específico
05:28Ela seria um mero operador
05:29Ela recebia só para fazer
05:31O armazenamento da informação
05:33Então, em tese
05:35Ela só responde
05:37Se ela ultrapassar as suas obrigações legais
05:40Porque a responsabilidade
05:42Do tratamento é do controlador
05:44Então aqui é o ponto mais polêmico dessa ação
05:47Primeiro, vai ter que demonstrar
05:49Que houve uma conduta abusiva da empresa
05:52Nessa criação desse Word ID
05:54Com essa coleta de dados sensíveis
05:57Porque a iris é um dado biológico
05:59E é considerado um dado sensível
06:01Com uma maior proteção
06:02Por quê?
06:03Porque uma senha
06:04Você troca
06:05A iris do olho
06:06Você não troca
06:07Então você tem que tomar muito cuidado
06:09Com esses dados
06:10A empresa vai se defender
06:12Certamente
06:13Como ela já o fez na NPD
06:14Dizendo que ela não armazena essa foto
06:17Ela simplesmente cria um código
06:19Para essa foto
06:20Mas será que com esse código
06:21E tendo a chave
06:22Você não consegue reconstituir essa iris?
06:25São algumas perguntas
06:27Que vão ser respondidas
06:29Nas perícias
06:30Nos registros
06:30Durante o processo
06:32Por enquanto
06:32Temos só que aguardar
06:34Os próximos capítulos
06:35E certamente
06:36Traremos pra vocês
06:37Tá certo
06:39Agora
06:40Os decretos do presidente Lula
06:43Que estabelecem
06:45Novas regras
06:46Para plataformas digitais
06:48E medidas
06:49As medidas de proteção
06:50As medidas de proteção
06:50As mulheres
06:50No ambiente digital
06:52Entraram em vigor
06:54Nesta semana
06:55Leandro Alvarengo
06:57Que muda
06:58As regras
07:00Entraram em vigor
07:01Dos dois decretos
07:02E as medidas de proteção
07:04E medidas de proteção
07:04E que regulamentam
07:06O marco civil
07:07Do internete
07:07Primeiro ponto
07:08Antes de falar
07:09Dos decretos
07:10É bom lembrar
07:10Que tem uma discussão
07:12Sobre a legalidade
07:13Desses decretos
07:13Há quem defenda
07:15Que esses decretos
07:16Ultrapassam a regulamentação
07:18E criam um novo sistema jurídico
07:20Certamente
07:21Isso definirá
07:23E levará
07:24A novas ações judiciais
07:26Mas o que traz
07:27De tão importante
07:28Esse decreto
07:29Ele na mesma linha
07:31Da decisão
07:31Do Supremo Tribunal Federal
07:32Ele deixa as plataformas
07:34Como responsáveis
07:36Pelo controle maior
07:38Sobre o que é publicado
07:41Veja
07:41Ela não é obrigada
07:43A fiscalizar
07:44Todas as publicações
07:46Mas os conteúdos
07:47Que são compartilhados
07:48Em massa
07:49Ela é obrigada sim
07:51A fazer a verificação
07:53E em situações
07:54Onde encontrem-se
07:55Violência
07:57Ameaça a menores
07:58Pornografia
07:59Tráfico de drogas
08:01Terrorismo
08:01Ela é obrigada
08:03A combater
08:04E aqui tem uma grande diferença
08:05Quando você fizer uma denúncia
08:07Ela vai ser
08:09Vai ter a obrigação
08:11De responder essa denúncia
08:13Se aquele conteúdo
08:15Foi removido
08:16Ou não foi removido
08:17Inclusive para o proprietário
08:19E quais as razões
08:20Outro fato importante
08:22É que em casos em que
08:24Ou com a violência contra a mulher
08:26Ou pornografia não autorizada
08:28Por exemplo
08:28Com deepfakes
08:29Ela terá duas horas
08:31Para remover
08:32Essa publicação
08:33Então é muito importante
08:35Que esses canais
08:36Funcionem
08:36A fiscalização vai ser
08:38Para a funcionalidade
08:39Desses canais
08:40Uma outra novidade
08:41É que
08:42Os anúncios impulsionados
08:44Ou seja
08:44Onde há o pagamento
08:45Para que isso atinja
08:46Mais gente
08:47A maior
08:48Haverá uma maior responsabilização
08:50Das redes sociais
08:51Porque ela está recebendo
08:52Por aquilo
08:53E ela tem que ter
08:54Um controle
08:54Ainda maior
08:56Vamos ver o que vai acontecer
08:58Nos próximos capítulos
08:59Mas é bom lembrar
09:00A internet
09:01Não é terra sem lei
09:02E quem ganha
09:03E lucra com ela
09:04Deve ter responsabilidade
09:07Está aí
09:09Mais uma grande participação
09:11De Leandro Varenga
09:13Em mais uma coluna
09:15Seu Direito Digital
09:17Semana que vem
09:18Teremos mais dúvidas
09:20Para esclarecer
09:21Aqui no nosso quadro
09:22Então Leandro Varenga
09:24Uma excelente semana
09:26Para você
Comentários