- há 13 horas
Em entrevista ao Grupo Liberal, Renata Mielli, jornalista, assessora especial da ministra de Ciência, Tecnologia e Inovação, Luciana Santos, e coordenadora do Comitê Gestor da Internet no Brasil (CGI.br), destacou que o Brasil enfrenta desafios estruturais para ampliar o acesso à internet na Amazônia, avança em projetos de infraestrutura como infovias de cabos em rios e satélites, e precisa lidar com os riscos das plataformas digitais para crianças e adolescentes, marcados por coleta massiva de dados, algoritmos viciantes e exposição a conteúdos nocivos.
Ela defendeu maior responsabilização das big techs, apontando que suas decisões algorítmicas podem amplificar conteúdos ilegais e violentos, e afirmou que o Marco Civil da Internet precisa ser atualizado diante das transformações tecnológicas e da atuação mais complexa das plataformas. Renata Mielli também alertou para os impactos da inteligência artificial na democracia, especialmente com a disseminação de deepfakes, e defendeu investimentos em inovação e infraestrutura para reduzir a dependência de grandes empresas de tecnologia e avançar na soberania digital do país.
Repórter: Jéssica Nascimento
Imagem: Ivan Duarte
Ela defendeu maior responsabilização das big techs, apontando que suas decisões algorítmicas podem amplificar conteúdos ilegais e violentos, e afirmou que o Marco Civil da Internet precisa ser atualizado diante das transformações tecnológicas e da atuação mais complexa das plataformas. Renata Mielli também alertou para os impactos da inteligência artificial na democracia, especialmente com a disseminação de deepfakes, e defendeu investimentos em inovação e infraestrutura para reduzir a dependência de grandes empresas de tecnologia e avançar na soberania digital do país.
Repórter: Jéssica Nascimento
Imagem: Ivan Duarte
Categoria
🗞
NotíciasTranscrição
00:00Olha, são muitos os riscos, né? As grandes plataformas digitais é que são os maiores riscos.
00:07A internet e os provedores de aplicação são um universo muito grande.
00:13Então, eu diria que há muitas coisas positivas na internet que podem contribuir para a formação lúdica,
00:20para um complemento educacional, né? Mas as redes sociais, principalmente, foram projetadas para adultos.
00:32Elas não foram projetadas para crianças. E ali você tem um mecanismo de coleta dos dados,
00:39coleta dos hábitos de navegação, coleta de informações de como a criança interage com os conteúdos
00:45para direcionar postagens, para montar o feed das crianças, né?
00:51O design dessas plataformas de scroll infinito para os adultos, ele já é aditivo, né?
00:58Ele é viciante para as crianças muito mais. E as crianças, então, nesses ambientes,
01:03estão expostas de uma maneira muito vulnerável a conteúdos de ódio, a conteúdos de exploração sexual,
01:12a conteúdos de bullying, né? Há conteúdos que não foram projetados para a faixa etária daquela criança.
01:21Então, elas estão expostas a um mundo performático que define padrões de beleza, padrões de comportamento
01:28e que foram desenvolvidos para performar naquela rede.
01:33Não dizem respeito à vida real.
01:35Isso traz uma série de questões relacionadas a adoecimento mental, doenças físicas mesmo, né?
01:46Então, são muitos os riscos que as crianças estão expostas quando navegam nesses ambientes
01:53completamente sem supervisão.
01:55Mas agora, como é que a digital, esperamos que a gente consiga desenvolver
02:00ambientes mais seguros e protetivos para as nossas crianças.
02:03Eu acho que é o que nós estamos tentando fazer, com regulação.
02:08A regulação, ela não é, em nenhum momento, um mecanismo de silenciamento
02:14e de cerceamento da liberdade de expressão.
02:17Diz respeito ao ambiente privado dessas plataformas.
02:21Elas são empresas privadas que possuem suas próprias regras
02:25e elas tomam as decisões sobre o que cada um de nós consumimos dentro do seu ambiente.
02:32desde publicidade até conteúdos, conteúdos noticiosos.
02:37Portanto, existe uma regulação totalmente privada e à margem do interesse público.
02:43A regulação que nós estamos procurando desenvolver no Brasil é justamente a partir do interesse público,
02:49da legislação brasileira, que tem o ECA, como a lei que coloca,
02:55e a própria Constituição brasileira, no seu artigo 227, por exemplo,
03:00que a criança é prioridade absoluta e a proteção da criança e adolescente não é papel só do Estado,
03:06mas é do Estado, da família e da sociedade.
03:09Então, essas regulações, elas buscam equilibrar o jogo no sentido de que
03:15essas empresas precisam ter, sim, algum grau de responsabilidade sobre o tipo de conteúdo,
03:23produto e imagem que ela está ofertando para a sociedade como um todo,
03:29mas em particular para as crianças e adolescentes.
03:31A legislação faz isso, sim, eu defendo, é claro que eles precisam ter algum grau de responsabilidade,
03:39porque essa violência que você vive no ambiente digital,
03:44ela transborda para a vida real das pessoas.
03:48Então, você tem muitas situações que as plataformas poderiam evitar
03:54se elas, de forma ativa, tivessem o dever de cuidado,
04:01avaliassem riscos sistêmicos em torno de ações coordenadas de grupos
04:07que podem estar utilizando seus serviços para promover ataques.
04:12Então, vou te dar um exemplo.
04:14Os ataques às escolas que aconteceram há dois, três anos atrás,
04:19aquilo foi identificado como um movimento coordenado de grupos que utilizaram redes
04:27para se estruturarem e agendar, marcar aqueles ataques às escolas
04:34que aconteceram em mais de um local no país.
04:37As plataformas, elas sabem que isso está acontecendo.
04:40Imagina, elas têm capacidade de identificar esse tipo de coisa de forma muito rápida.
04:46Elas poderiam ter agido, elas poderiam, por exemplo, ter suspendido aquele conteúdo
04:53ou ter notificado o Estado e a Polícia Federal para que eles atuassem.
04:58Então, quando a plataforma identifica esse tipo de conteúdo e não faz nada,
05:05ela precisa se responsabilizar, principalmente quando o algoritmo da plataforma,
05:12por algum mecanismo, impulsiona aquele conteúdo, viraliza aquele conteúdo
05:18ou quando ela recebeu dinheiro para impulsionar um conteúdo ilícito, criminoso ou uma fraude.
05:26A plataforma está recebendo dinheiro para impulsionar um conteúdo que não é legítimo.
05:31Então, ela é corresponsável por aquele conteúdo, ela precisa, sim, ter uma responsabilidade maior.
05:36O Marco Civil da Internet foi uma legislação pioneira no mundo, uma referência internacional
05:42de uma norma que buscou definir, e é assim que é o nome do Marco Civil,
05:50definir direitos e deveres dos usuários da internet no Brasil.
05:53Esse é o escopo do Marco Civil.
05:56Mas ele foi desenvolvido olhando para o ecossistema da internet.
06:03Ele não foi elaborado, à época, olhando tipos de serviços, particularidades, plataformas de rede social.
06:12Então, ele é um, digamos assim, ele foi chamado como uma constituinte do ambiente digital.
06:18Então, ele está olhando de maneira mais abrangente sistêmica.
06:22E, necessariamente, por ser uma lei principiológica, por ser uma lei abrangente,
06:29com o desenvolvimento muito rápido da tecnologia, de novas aplicações, de novos serviços,
06:35e a percepção da sociedade ao usar esses serviços dos riscos que esses serviços trazem,
06:41ela é uma legislação que necessitaria de outras legislações
06:45para, à luz dos princípios ali presentes, direcionarem regras específicas para tipos diferentes de serviços.
06:56Então, eu vou dar um exemplo, marketplaces.
06:58Não tinha, da forma como nós interagimos hoje, grandes marketplaces de venda de produtos,
07:07quando a gente aprovou o Marco Civil da internet.
07:09Hoje, muitos marketplaces, onde a gente compra uma camisa, uma calça,
07:15mas a gente também pode comprar um medicamento que pode ser usado como droga,
07:20a gente pode comprar um conteúdo ilícito,
07:24a gente pode, algumas pessoas conseguem vender armas.
07:28Então, assim, é preciso de uma regra específica para o tipo de serviço que é prestado ali.
07:35É diferente você falar de uma regulação para um mercado digital do que para uma rede social,
07:44onde você tem outros tipos de problemas sendo vivenciados a partir da ausência de regulação
07:51para aquele tipo de serviço.
07:53Então, o Marco Civil é uma lei muito importante, ela definiu deveres e direitos,
07:59mas ela tinha limites e os limites principais é que ela não acompanha o desenvolvimento da tecnologia.
08:07Acho que um dos limites, quando você olha de forma abrangente,
08:11é que ela definiu um modelo de responsabilidade de intermediários
08:15olhando para o ecossistema que existia naquele momento
08:20e hoje a gente tem provedores de aplicação de internet,
08:26que é o nome que se dá no Marco Civil,
08:28que são de outras naturezas e que não são simples intermediários,
08:34são, na verdade, copatrocinadores daquele conteúdo,
08:37como acabamos de falar aqui, no caso de uma rede social,
08:40que usa o algoritmo para dar mais visibilidade para aquele conteúdo
08:44ou recebe dinheiro.
08:45Então, é claro que precisaria haver uma mudança naquele regime de responsabilidade.
08:49Isso foi feito agora com a decisão do Supremo Tribunal Federal
08:54e, a semana passada, o governo federal baixou decretos
08:59para recepcionar as teses, as decisões do STF e torná-las efetivas
09:05para que, uma vez tendo ocorrido o julgamento da inconstitucionalidade parcial
09:13daquele dispositivo, não ficasse um vácuo jurídico.
09:17Então, o decreto que foi publicado, vista da segurança jurídica,
09:21todos os atores sociais e econômicos, em como aplicar as decisões do Supremo Tribunal Federal.
09:28Olha, o Ministério não fez uma discussão sobre o impacto do sistema eleitoral.
09:34O que nós temos problematizado e discutido, desde sempre,
09:39é que é preciso que a gente veja a inteligência artificial a partir das suas potencialidades,
09:46mas também dos muitos riscos que vêm acompanhados com essa nova tecnologia
09:51que é disruptiva, que é pervasiva, que está sendo utilizada por todo mundo
09:56de forma indiscriminada e que permite a produção de conteúdos,
10:02que a gente chama de conteúdos sintéticos, gerados por inteligência artificial,
10:07que são indistinguíveis dos conteúdos reais.
10:11Então, estamos aqui fazendo essa entrevista, se alguém estiver gravando a gente,
10:16e pegar essa imagem e colocar numa IA generativa para produzir alguma coisa
10:23que nos coloque num contexto criminoso, por exemplo,
10:27ninguém vai conseguir distinguir se isso é real ou não.
10:30Isso cria um problema grave para o debate público na sociedade
10:35e para a nossa democracia,
10:38porque processos eleitorais democráticos pressupõem que o cidadão tome decisões
10:44de forma informada e crítica.
10:48Se ele perde o lastro daquilo que é real ou não,
10:52ele perde a capacidade de ter uma tomada de decisão informada.
10:58Se ele receber uma deepfake sobre um candidato X, Y ou Z,
11:03ele vai tomar uma decisão, muitas vezes, com base numa deepfake,
11:07em algo que não aconteceu, em algo que é mentira e que foi produzido
11:12para gerar aquela percepção na pessoa e fazer com que ela tenha
11:16um comportamento diferente.
11:18Isso pode direcionar todo um projeto eleitoral que pode comprometer,
11:23inclusive, o futuro do país em termos econômicos, em termos sociais,
11:29em termos democráticos.
11:30Então, é muito grave a possibilidade que nós temos de ter essa interferência
11:36e, por isso, é preciso que nós estejamos vigilantes
11:40e procuremos contribuir com o Tribunal Superior Eleitoral,
11:44que definiu uma série de resoluções de como implementar e usar a IA
11:48nas eleições e usar o nosso papel cidadão de denunciar
11:53quando a gente recebeu uma deepfake,
11:55de procurar contribuir, de checar quando a gente recebe uma informação,
12:00porque nós fizemos uma pesquisa no CGI sobre integridade da informação
12:06para medir como as pessoas lidam com os conteúdos
12:10e uma coisa bastante chocante é que as pessoas não checam os conteúdos
12:16que recebem porque elas afirmam, a maioria delas,
12:19que não importa se aquele conteúdo é ou não real ou factual ou verdade,
12:25o que importa é se aquele conteúdo está em aderência com a minha visão de mundo
12:32e eu passo para frente.
12:34E isso, do ponto de vista de um processo democrático, é muito grave.
12:38Esse é o trabalho que nós temos procurado fazer com, por exemplo,
12:44o Plano Brasileiro de Inteligência Artificial,
12:46que destina, num prazo de cinco anos, 23 bilhões de reais
12:54para que a gente possa construir infraestruturas críticas no Brasil
12:59relacionadas ao ambiente digital, por exemplo,
13:03data centers, supercomputadores, computadores regionais compartilhados,
13:08infovias, um eixo para a formação de recursos humanos,
13:12humanos de profissionais que estejam capacitados a trabalhar
13:16nessas profissões de fronteiras ligadas à inteligência artificial,
13:21a adoção da IA nos serviços públicos,
13:24olhando o desenvolvimento de aplicações próprias aqui no Brasil,
13:30olhando a diversidade regional e a pluralidade da população brasileira.
13:37Então, nós precisamos deixar de ser apenas consumidores de tecnologia
13:42para passarmos a ser produtores de tecnologia.
13:46Isso é um processo de curto, médio e longo prazo.
13:51Então, o esforço do governo federal,
13:54com o Plano Brasileiro de Inteligência Artificial,
13:57mas também com as áreas que estão na nova indústria Brasil,
14:02a Nib, também projetos do PAC,
14:06é destinar recursos e fomentar também o setor privado
14:10a poderem ter suas próprias tecnologias desenvolvidas aqui
14:15para a gente ir reduzindo aos poucos essa dependência.
14:19Mas é um desafio enorme, mas é a principal, diria, meta,
14:25quando a gente coloca que a gente precisa ter caminhos
14:29para construir a nossa soberania digital no país.
14:32Eu acho que, em certa medida,
14:35essa é uma questão que não diz respeito apenas à tecnologia e ao digital.
14:42O Brasil, ele foi historicamente construído
14:47a partir de uma visão que parte do Sudeste, principalmente.
14:54E eu acho que, de um tempo para cá,
14:58a gente vem procurando,
14:59a gente, quando eu digo é a sociedade,
15:02mas principalmente a partir de atores sociais engajados,
15:06a incorporar a perspectiva de outras regiões,
15:10como o Norte, toda a região amazônica.
15:14E eu acho que isso tem sido muito importante.
15:16Eu acho que a realização de grandes eventos internacionais aqui,
15:19a COP foi um momento muito importante,
15:22mas não só.
15:23Todo o debate que a gente vem procurando fazer
15:26na perspectiva já de alguns anos
15:29de discutir a questão do uso das tecnologias
15:33na região amazônica, lá no CGI,
15:35esse é um tema que a gente trabalha já há muitos anos,
15:38muito antes da COP.
15:40Então, acho que você tem setores da sociedade
15:43que olham, mas não olham de fora.
15:47Eu acho que é aí que eu gostaria de dizer.
15:48Nós temos muitos atores locais
15:51que têm sido estratégicos
15:54para colocar o tema no debate nacional.
15:59Então, tanto do ponto de vista acadêmico,
16:03como de grupos de tecnologia da região amazônica,
16:08tecnologia.
16:08Nós temos um projeto no Comitê Gestor,
16:12que é o Povos da Floresta,
16:14onde a gente trabalha com as comunidades
16:18ribeirinhas e originárias aqui da região
16:20para discutir.
16:21Não basta chegar à conexão,
16:24as pessoas precisam saber usar a internet,
16:27usar as tecnologias digitais
16:29para se desenvolverem econômica e socialmente ali.
16:32Então, eu acho que é um processo que vem se alterando
16:37e isso é muito importante.
16:39A urgência de nós termos uma regulação mais sistêmica
16:44para plataformas digitais e inteligência artificial.
16:48Nós precisamos urgentemente garantir
16:52que a regulação seja realizada
16:57para defender direitos fundamentais,
17:00direitos econômicos da sociedade brasileira,
17:02porque isso integra o debate de soberania.
17:06Soberania não é apenas a gente desenvolver
17:09nossas próprias tecnologias,
17:11não é apenas a gente ter a infraestrutura
17:14para que essas tecnologias
17:15sejam utilizadas no nosso país,
17:18mas é também a capacidade de uma nação
17:21de definir as regras
17:23que precisam ser observadas
17:27pelas empresas que prestam serviços aqui.
17:29Então, esse é um debate que tem sido,
17:31digamos, muito relevante
17:35e ele acaba sendo um guarda-chuva
17:37para um conjunto de outras preocupações.
17:40Porque quando a gente está falando
17:41de regulação de plataformas,
17:43nós estamos falando de transparência
17:45para que a sociedade possa ter
17:47mais conhecimento sobre como
17:49essas plataformas funcionam.
17:52Nós estamos falando de empoderar o usuário.
17:55Hoje, o usuário de uma plataforma no Brasil,
17:58para ser assim, não tem um saque.
18:00Se você tiver um problema com a sua conta,
18:02com o seu perfil, tiver um conteúdo removido,
18:04ou se o seu perfil sair do ar,
18:06você reclama para quem?
18:08Então, é o básico.
18:10Nós temos um código de defesa do consumidor,
18:11você não tem para quem reclamar.
18:13Então, por exemplo, é empoderar o usuário,
18:16é garantir que essas tecnologias
18:20não sirvam para perpetuar desigualdades
18:24ou discriminações de gênero,
18:26LGBTQIA+,
18:28que ataquem comunidades
18:29e grupos vulneráveis na sociedade.
18:33Então, quando a gente está falando de regulação,
18:35a gente está olhando sistemático,
18:38de forma sistêmica,
18:39um conjunto de questões
18:41que nós precisamos avançar na sociedade
18:44para que a internet tenha um impacto positivo
18:47na vida das pessoas
18:49e não para que a gente esteja aí
18:52nesses jardins murados
18:54dessas empresas privadas
18:56que acabam tendo uma concentração
18:59de poderes social,
19:01político, econômico,
19:02sem nenhum escrutínio
19:04da sociedade brasileira.
19:05Então, esse tem sido um tema,
19:07mas que é atravessado
19:08por todas essas interseccionalidades,
19:10a questão de gênero,
19:12a questão de raça,
19:13então, como evitar o racismo algorítmico,
19:16a preocupação com o vigilantismo do Estado,
19:20a questão com a preocupação
19:23com a integridade da informação,
19:25com o ambiente informacional
19:27mais saudável,
19:28com a gente ter as pessoas
19:31usando a internet
19:32de forma informada,
19:34então, literacia digital.
19:36Então, esses temas,
19:37eles acabam estando,
19:38eles todos,
19:40sob este grande guarda-chuva
19:42e a gente lançou,
19:45há um ano atrás,
19:4810 princípios
19:49para a regulação de redes sociais
19:50e devemos aí,
19:52no próximo mês,
19:5340 dias,
19:54lançar algo em torno
19:56do que a gente deve estar finalizando,
19:5850 diretrizes
20:00de como implementar esses princípios
20:03para que a gente tenha
20:04regulações de caráter democrático
20:07no nosso país.
20:09Então, essa é a nossa
20:10principal preocupação hoje.
Comentários