00:00E nós falamos no Olhar Digital News de ontem sobre o novo caso, aliás, sobre o caso do chat GPT
00:08sair do controle e realizar um ataque hacker.
00:13Hoje, o conselheiro tecnológico da Casa Branca, Michael Kratzios, informou que passou a acompanhar
00:21pessoalmente a evolução do caso.
00:24Enquanto isso, parlamentares norte-americanos avançam com propostas para aumentar a supervisão
00:32sobre sistemas de IA.
00:34Uma delas é a chamada AIQ Suite Act, que permitiria às autoridades do país interromper o funcionamento
00:44de modelos considerados perigosos.
00:47Além dessa iniciativa, um grupo bipartidário de seis deputados apresentou um projeto que
00:55exige auditorias independentes de segurança para sistemas avançados de inteligência artificial.
01:05E agora, chegou a hora da nossa coluna Seu Direito Digital.
01:24E hoje, o Leandro Avarenga também não pôde estar conosco aqui ao vivo no estúdio, mas
01:31claro que vocês não ficam sem as análises dele.
01:35Então, vamos começar, Leandro.
01:38Vamos repercutir essa notícia que a gente falou agora há pouco sobre o novo chat GPT saindo
01:44do controle realizando um ataque hacker.
01:47Em casos como esse, Leandro, quem deve ser responsabilizado juridicamente?
01:54A empresa desenvolvedora, os usuários ou o próprio sistema?
02:00O problema com a IA já chegou e o direito já está respondendo por isso.
02:04A questão é, nesse teste foi dada uma missão para a IA e essa IA, para tentar fazer mais rápido,
02:11ela usou de mecanismos que seriam um ataque hacker, como por exemplo, desconstituir uma
02:16segurança, pular um cápsia para saber se você é humano ou se não é, e isso é tipicamente
02:22um ataque hacker.
02:24Mas é isso que vem a pergunta.
02:27O programador não previu essa circunstância, não criou mecanismos que impedia isso e ela
02:33o fez.
02:33É claro que isso aqui foi só um teste no ambiente controlado, mas e se fosse no mundo real?
02:37Essa é a pergunta.
02:39Certamente a IA não é um CNPJ, ela não é um CPF, ela não responde por si só.
02:46Inicialmente nós temos que lembrar que quem cria a IA, o desenvolvedor, ele tem a responsabilidade
02:52de criar mecanismos de segurança sobre a IA.
02:54Se ele não o fizer, ele está falhando na produção do produto e se esse produto trouxer
03:00danos a terceiros ou a quem está usando, efetivamente ele é responsável.
03:05Toda a legislação do mundo fala isso, o IAAC fala isso e a própria PL 2338 que está
03:13aqui no Brasil também vai nessa linha.
03:15O segundo ponto é o usuário.
03:17Se o usuário identificar efetivamente e mandar fazer algo, aí a responsabilidade é de quem
03:24mandou, do usuário que efetivamente determinou que a IA cometesse aquele delito, aquela circunstância
03:31que gerou prejuízo.
03:33E no caso que nós estamos estudando efetivamente, se a IA fez na cabeça dela sem nenhuma orientação,
03:41é uma falha na promoção dela, no desenvolvimento, porque não criaram-se mecanismos para prever
03:50isso.
03:50É por isso que os PLs que tratam de IA no mundo inteiro, como o IAAC e também agora o
03:56PL 2338,
03:57trazem uma série de responsabilidades, dentre elas a previsão de danos, mecanismos de controle,
04:05mecanismos de verificação e também o acompanhamento humano, para evitar o descontrole da IA, porque
04:13certamente o desenvolvedor, o usuário pode ser responsabilizado dependendo das suas ações,
04:20porque a IAAC não é uma entidade com responsabilidade e o dano não pode ser ignorado.
04:26A IAAC tem que ser utilizada de maneira respeitável, de maneira responsável e quem desenvolve e usa
04:34tem que saber dos seus riscos e evitá-los.
04:38Pois é, mais um assunto, Leandro.
04:41O Ministério Público de São Paulo está pedindo uma indenização milionária de empresa,
04:48aliás, da empresa de escaneamento de íris.
04:52Explica para a gente, Leandro, como foi e como está esse caso.
04:56Para quem não lembra desse caso, é aquele caso do escaneamento de íris em troca de uma recompensa,
05:02um pagamento que podia chegar até R$ 700,00, para criar o World ID.
05:08O Ministério Público, assim como a NPD já havia se manifestado,
05:12entendeu que a prática é abusiva e gerou o dano moral coletivo e, por isso,
05:17pede uma indenização coletiva de R$ 240 milhões.
05:22Não só isso, ele pede que seja preservado todos os dados colhidos e todas as informações.
05:29O que é importante vocês saberem?
05:31Primeiro que a empresa não foi condenada.
05:33É apenas uma acusação.
05:35Ela ainda vai apresentar a sua defesa e pode ser que o judiciário venha a entender ali que ela é
05:41inocente.
05:42O que está em jogo é exatamente o que estava na fiscalização da NPD,
05:46quando ela suspendeu o serviço.
05:48Se o consentimento dado é livre ou não, se ele é esclarecido ou não.
05:55A novidade nesse processo é que também foi colocado no processo
05:58o servidor de nuvem, a AWS, que hospedava esses serviços.
06:03E aqui gera uma confusão.
06:05Por quê?
06:06Porque, conforme a Lei Geral de Proteção de Dados,
06:09a responsabilidade sobre o tratamento de dados é do controlador.
06:13No caso, a empresa que estava coletando a Ziris, a fotografia da Ziris,
06:21que, segundo a empresa, deixando muito claro, ela não armazenava essa fotografia.
06:25Ela tirava a fotografia e transformava isso num código.
06:28Mas isso também é um dado pessoal.
06:29E por isso, a LGPD se aplica.
06:31A AWS, neste caso específico, ela seria um mero operador.
06:35Ela recebia só para fazer o armazenamento da informação.
06:39Então, em tese, se ela só responde, se ela ultrapassar as suas obrigações legais.
06:46Porque a responsabilidade do tratamento é do controlador.
06:50Então, aqui é o ponto mais polêmico dessa ação.
06:53Primeiro, vai ter que demonstrar que houve uma conduta abusiva da empresa
06:57nessa criação desse Word ID, com essa coleta de dados sensíveis,
07:03porque a íris é um dado biológico e é considerado um dado sensível,
07:07com uma maior proteção.
07:08Por quê?
07:09Porque é uma senha, você troca.
07:11A íris do olho, você não troca.
07:13Então, você tem que tomar muito cuidado com esses dados.
07:17A empresa vai se defender, certamente, como ela já o fez na NPD,
07:20dizendo que ela não armazena essa foto.
07:23Ela simplesmente cria um código para essa foto.
07:25Mas será que com esse código, e tendo a chave, você não consegue reconstituir essa íris?
07:31São algumas perguntas que vão ser respondidas nas perícias, nos registros, durante o processo.
07:38Por enquanto, temos só que aguardar os próximos capítulos, e certamente traremos para vocês.
07:44Tá certo.
07:45Agora, os decretos do presidente Lula, que estabelecem novas regras para plataformas digitais
07:54e medidas de proteção às mulheres no ambiente digital,
07:58entraram em vigor nesta semana.
08:01Leandro Alvarengo, que muda.
08:05As regras entraram em vigor dos dois decretos emitidos pelo presidente Lula,
08:10que regulamentam o marco civil do internante.
08:13Primeiro ponto, antes de falar dos decretos, é bom lembrar que tem uma discussão sobre a legalidade desses decretos.
08:20Há quem defenda que esses decretos ultrapassam a regulamentação e criam um novo sistema jurídico.
08:26Certamente, isso definirá e levará a novas ações judiciais.
08:32Mas o que traz de tão importante esse decreto?
08:35Ele, na mesma linha da decisão do Supremo Tribunal Federal,
08:38ele deixa as plataformas como responsáveis pelo controle maior sobre o que é publicado.
08:46Veja, ela não é obrigada a fiscalizar todas as publicações,
08:52mas os conteúdos que são compartilhados em massa,
08:55ela é obrigada, sim, a fazer a verificação.
08:59E em situações onde encontrem-se violência, ameaça a menores, pornografia,
09:06tráfico de drogas, terrorismo, ela é obrigada a combater.
09:10E aqui tem uma grande diferença.
09:11Quando você fizer uma denúncia, ela vai ter a obrigação de responder essa denúncia.
09:19Se aquele conteúdo foi removido ou não foi removido,
09:23inclusive para o proprietário, e quais as razões?
09:26Outro fato importante é que em casos em que ocorra violência contra a mulher
09:31ou pornografia não autorizada, por exemplo, com deepfakes,
09:36ela terá duas horas para remover essa publicação.
09:39Então é muito importante que esses canais funcionem.
09:43A fiscalização vai ser para a funcionalidade desses canais.
09:46Uma outra novidade é que os anúncios impulsionados,
09:50ou seja, onde há o pagamento para que isso atinja mais gente,
09:54haverá uma maior responsabilização das redes sociais,
09:57porque ela está recebendo por aquilo.
09:59E ela tem que ter um controle ainda maior.
10:02Vamos ver o que vai acontecer nos próximos capítulos.
10:05Mas é bom lembrar, a internet não é terra sem lei.
10:08E quem ganha e lucra com ela deve ter responsabilidade.
10:14Está aí mais uma grande participação de Leandro Alvarenga
10:19em mais uma coluna Seu Direito Digital.
10:23Semana que vem teremos mais dúvidas para esclarecer aqui no nosso quadro.
10:29Então, Leandro Alvarenga, uma excelente semana para você.
Comentários