00:00Como hoje é quinta-feira, é dia do quadro Seu Direito Digital.
00:04E eu disse que nós teríamos a coluna no site, mas vamos ter aqui também.
00:09Então, vamos conferir mais uma coluna Seu Direito Digital.
00:13E o Leandro vai conversar com a gente sobre a meta que foi acusada de usar um sistema de IA
00:35para escolher quais trabalhadores seriam desligados em mais uma onda de demissões da empresa.
00:42Até onde, Leandro, esses sistemas automatizados podem participar de decisões que afetam os funcionários?
00:52A questão é, a IA pode ou não pode ser usada?
00:55Ela pode ser usada, mas ela tem que ser usada com um acompanhamento humano.
01:00É bom lembrar que, independente de uma lei de inteligência artificial no Brasil,
01:04existem legislações aqui que já protegem o trabalhador.
01:08Qualquer decisão automatizada, ou seja, com o IA, pode ser revista, segundo a Lei Geral de Proteção de Dados.
01:16Também existem súmulas do TST que falam exatamente da discriminação da demissão, por exemplo, por HIV.
01:22A pessoa que é discriminada ou mandada embora em decorrência de uma doença, por exemplo,
01:28ela pode e deve ser reintegrada e até com a possibilidade de uma indenização por danos morais.
01:36Pois bem, mas a IA, como ela deve ser usada?
01:40Ela pode ser usada como apoio, sempre com uma revisão humana.
01:43Ela vai ser, a IA só consegue trabalhar se ela é alimentada com dados.
01:48Essa alimentação com dados tem que ser feita da maneira correta.
01:52Então, por exemplo, numa avaliação de desempenho em determinada área,
01:55deve haver ali um script para que funcionários que estejam afastados por licença de saúde,
02:02por licença médica, gestante, que eles tenham uma avaliação humanizada, diferente.
02:07E no caso, se você, mesmo como empregado ou como consumidor,
02:10teve alguma decisão por IA, por um agente automatizado, que você não concorda,
02:18você tem direito de pedir a revisão com base na LGPD,
02:22pedir que os dados sejam armazenados, sejam esclarecidos.
02:26E essa revisão não é revisão pela própria máquina, é revisão por um humano.
02:32Agora falando sobre os adolescentes, porque o governo do Reino Unido
02:36pretende introduzir uma espécie de toque de recolher
02:40para dificultar o uso das redes sociais por jovens
02:45entre 16 e 17 anos, entre meia-noite e 6 horas da manhã.
02:51Leandro, esse tipo de medida pode impactar as discussões sobre o tema aqui no Brasil?
02:57Não é novidade que a regulação das redes sociais e os impactos
03:02nas crianças e adolescentes estão sendo discutidos no mundo todo.
03:06Essa proposta do Reino Unido, ela visa evitar o que eles chamam de vício
03:11dos menores e dos adolescentes, que é exatamente a utilização do celular
03:16de maneira excessiva, principalmente na madrugada, ou seja, da meia-noite às 6 da manhã.
03:22É bom lembrar que hoje as ferramentas propostas pelas redes sociais
03:29de controle parental permitem que os pais façam esse controle,
03:32mas também é uma obrigação do Estado em auxiliar e regulamentar isso,
03:39porque é uma obrigação geral à guarda dos menores, à guarda das crianças e adolescentes.
03:44E aí nós temos duas discussões.
03:46A primeira discussão, quem defende, fala que o Estado tem que intervir
03:50para ajudar, para manter a saúde moral das crianças, intelectual,
03:56evitar o vício, o excesso e o abuso, porque as redes sociais são feitas ali
04:00para te prender, para que você fique cada vez mais.
04:03Por outro lado, falam que é uma interferência na liberdade do adolescente.
04:08Como é que uma adolescente de 16 a 17 anos que já trabalha, tem seu emprego,
04:11às vezes já está até em faculdade ou está estudando algum curso técnico,
04:16não tem a liberalidade ali de escolher o que quer ou não fazer.
04:20E essa é uma discussão muito complexa.
04:22Aqui no Brasil nós temos a Lei Geral de Proteção de Dados, que protege os dados do menor.
04:27Temos também o ECA Digital, que vem em uma regulamentação.
04:31Mas nós não temos nada que fale de uma proibição,
04:34seja total ou parcial, do acesso às redes sociais.
04:38Quando eu falo de uma restrição parcial, é uma restrição de horário.
04:44Mas efetivamente, essa discussão vai chegar ao Brasil como uma forma,
04:49ou pelo ECA Digital, ou exatamente pelo marco de inteligência artificial que nós estamos discutindo,
04:56ou até por uma regulação da NPD, que é o órgão regulador do ECA Digital.
05:03Efetivamente, tem que estar havendo um controle dos menores,
05:07para que não haja um abuso e que não haja ali uma indução ao consumo demasiado de redes sociais.
05:14Porém, qual é o limite disso?
05:17Isso é uma discussão que nós vamos ter como sociedade.
05:20Mas certamente, não pode-se deixar toda a regulação para os pais,
05:26porque o Estado tem que ajudar, mas a decisão tem que ser da família.
05:31Nós sabemos que a responsabilidade é do Estado e da família,
05:35na educação dos menores.
05:36O Estado tem que contribuir, mas a decisão final tem que ser da família.
05:40Então, efetivamente, as ferramentas, talvez,
05:43tenham que criar mecanismos onde já estejam habilitados.
05:47E os pais que não quiserem, tenham a liberdade de ir lá e desabilitar,
05:52através do controle parental que já existe.
05:55Bom, nós sabemos que a IA é importante,
05:59as redes sociais são importantes no desenvolvimento,
06:02mas temos que usar ambas com parcimônia,
06:06ambas com a ideia do desenvolvimento para os menores, crianças e adolescentes.
06:14Agora, um outro assunto que nós discutimos ontem,
06:18inclusive aqui no Olhar Digital News,
06:20sobre a China proibir o uso de companheiros virtuais
06:25com características de relacionamento amoroso.
06:29Leandro, aqui no Brasil, nós temos alguma discussão
06:32ou alguma regra sobre relacionamentos e os impactos psicológicos,
06:39causados por vínculos emocionais entre humanos e IA?
06:44Nós falamos semana passada dos smart toys,
06:47os brinquedos eletrônicos,
06:49e agora nós vamos falar dos brinquedos para adultos,
06:51modo de dizer.
06:52Bom, o que a China fez, na verdade,
06:54não foi uma proibição total.
06:55Ela está estudando e criando normas
06:59para evitar que aplicativos amorosos ou chatbots de namoro
07:03efetivamente criem uma dependência demasiada,
07:07uma dependência disfuncional nos adultos
07:09e também nas crianças e adolescentes,
07:11aí tem uma proibição muito maior.
07:13Exatamente por quê?
07:14Porque para que haja um consumo maior de produtos,
07:17ela cria uma dependência.
07:19Mas o que são esses chatbots?
07:21Efetivamente, são IAs programadas
07:23para reconhecer a pessoa,
07:25falar com o nome da pessoa,
07:28identificar as preferências dela,
07:30identificar o que ela gosta,
07:32dar conselhos.
07:33E ele tem um lado muito bom.
07:35Nós vivemos numa sociedade
07:36onde muita gente tem dificuldade de interação.
07:38Um idoso, por exemplo,
07:42efetivamente, pessoas com problemas de família
07:43ou pessoas que simplesmente não gostam de interagir com outras
07:46e ficam muito depressivas e isoladas.
07:48Esses chatbots ajudam.
07:51Efetivamente ajudam.
07:52Já tem estudos para isso.
07:53Porém, o que as empresas estão fazendo
07:55é abusar dessa dependência emocional
07:58para ganhar dinheiro.
07:59E aí, isso é o problema.
08:00Você criar uma dependência
08:02para você lucrar sobre ela.
08:05No Brasil, essa discussão não existe.
08:08O PL 2338 não trata sobre esse tema.
08:11Ele trata mais relações no mercado de trabalho,
08:15proteção ao crédito.
08:16Mas, efetivamente, nós teremos apoio
08:20tanto no PL 2338, de uma maneira indireta,
08:23pelo controle algoritmo,
08:25como também da Lei Geral de Proteção de Dados.
08:27Considerando que os dados interagidos
08:31e trocados com essa IA de namoro,
08:33entre aspas, aqui no Brasil,
08:35elas vão estar sendo transmitidas
08:37com dados pessoais e dados sensíveis.
08:39A questão maior que nos preocupa é
08:41como esses dados são usados.
08:43Eles são compartilhados?
08:45Os usuários têm consciência do que são?
08:48Além de, como o Código de Defesa do Consumidor fala,
08:51não se pode explorar a vulnerabilidade do consumidor.
08:56Assim como na China,
08:57há uma preocupação muito grande
08:58de você usar mecanismos psicológicos
09:02para oferecer produtos e serviços
09:04e fomentar o consumo.
09:06Porque esses aplicativos são pagos por horas a mais,
09:09por horas a menos.
09:10E também existe uma outra preocupação.
09:12Imagina-se que você compre um aplicativo desse,
09:15interaja com ele,
09:16você cria esse vínculo emocional,
09:18porque se cria, efetivamente, um vínculo emocional,
09:20e aí a empresa simplesmente decide
09:22encerrar as atividades.
09:24Ou a empresa muda o aplicativo,
09:27muda ali a forma,
09:28e aí gera uma ruptura daquele relacionamento
09:32criado virtualmente.
09:33Isso também é um problema.
09:34Isso também pode gerar casos de problemas psicológicos.
09:37Então, aqui nós temos que passar a discutir
09:40não só como as empresas vão interagir,
09:43mas qual é o limite dessas empresas.
09:45O que elas vão fazer com esses dados?
09:47Como esses dados vão ser usados?
09:50Criar normas,
09:51e aí, efetivamente, a LGPD,
09:53o marco civil de IA,
09:55e também o ECA digital,
09:57que faz a proibição de menores e adolescentes
09:59no incentivo ao consumo,
10:01também tem que direcionar,
10:02assim como o Código de Defesa do Consumidor,
10:04para evitar ali a exploração emocional
10:07para um consumo abusivo.
10:09Temos que ficar de olho,
10:10essa legislação é nova,
10:11é uma discussão que está se iniciando na China,
10:14mas que certamente,
10:15em breve, se espalhará pelo Brasil e pelo mundo.
10:18A IA pode ser usada,
10:20o chatbot de acompanhante,
10:23ou de amizade,
10:24ou de namoro,
10:25pode ser usado,
10:26é uma ferramenta importante
10:27para a contribuição psicológica
10:29dentro dos limites.
10:30ela não pode explorar
10:31a vulnerabilidade emocional das pessoas.
10:35Está aí,
10:36mais uma grande participação dele,
10:39Leandro Alvarenga,
10:40em mais um
10:40Seu Direito Digital.
10:43Como vocês já sabem,
10:44semana que vem,
10:45quinta-feira,
10:46tem mais para você.
10:48Então,
10:48envie suas dúvidas
10:50pela hashtag
10:50Seu Direito Digital
10:52nas redes sociais,
10:53e o Leandro Alvarenga
10:54retorna na próxima semana
10:56e responde algumas dúvidas
10:57para vocês.
Comentários