'Empresas de tecnologia têm pouco interesse em proteger crianças na internet', diz especialista

As denúncias de presença de imagens de abuso e exploração sexual infantil na internet atingiram um recorde assustador em 2023, marcando o maior número desde que os registros começaram a ser feitos, em 2006. Foram reportadas 71.867 queixas no ano passado, um aumento de 28% em relação ao recorde anterior, estabelecido em 2008, com 56.115 denúncias. Em comparação com 2022, houve um aumento de 77,1%. 

Os dados divulgados pela organização não governamental (ONG) Safernet apontam três principais fatores que impulsionaram o aumento das denúncias de imagens de abuso e exploração sexual infantil.

Primeiro, as demissões em massa realizadas pelas grandes empresas de tecnologia, que afetaram as equipes de segurança, integridade e moderação de conteúdo em algumas plataformas. Segundo, a crescente prática da venda de imagens de nudez e sexo autogeradas por adolescentes. E terceiro, o uso de inteligência artificial na criação desse tipo de conteúdo.

Em entrevista ao R7, a especialista no assunto e superintendente de Programas e Relações Empresariais da ONG Childhood no Brasil, Eva Dengler, comenta os números dos crimes sexuais contra crianças na internet e destaca a preocupação com o papel das redes sociais.

Ela chama a atenção para o uso da Inteligência Artificial na propagação desses crimes e defende que as plataformas sejam responsabilizadas pelos conteúdos compartilhados e distribuídos online.

R7 Entrevista: Primeiro, gostaria que você explicasse a diferença entre exploração sexual infantil e pornografia infantil. Quais são os principais desafios enfrentados hoje no combate a esses crimes tanto no contexto online quanto no offline?

Eva Dengler: A exploração sexual de crianças e adolescentes é uma violação dos direitos fundamentais, muitas vezes invisível e naturalizada pela sociedade. Esta realidade ocorre em nosso cotidiano, mas nem sempre é percebida como tal. A falta de percepção se deve a várias questões, sendo uma delas a naturalização do problema. Essa situação persiste no Brasil, apesar dos esforços para combatê-la.

Estamos diante de uma realidade em que a prostituição não é considerada crime, ao contrário de outros países onde é ilegal. Aqui, a prostituição é aceita como uma profissão regular pela sociedade, permitindo que as pessoas trabalhem nessa área voluntariamente para sustentar a si mesmas. No entanto, quando vemos crianças ou adolescentes em situação de exploração sexual, muitas vezes tendemos a raciocinar que estão ali para prover sustento para suas famílias ou atender às suas necessidades básicas. Essa percepção muitas vezes leva à naturalização da exploração sexual, em vez de reconhecê-la como uma violação, porque é vista como uma necessidade da família ou da própria pessoa.

Na internet, exploração sexual abrange atos como relações sexuais com trocas, como dinheiro, favores ou presentes. Além disso, envolve pessoas pagando ou fazendo favores em troca. Também há a criação e distribuição de imagens ou materiais que sexualizam ou mostram violência sexual contra vítimas, com o objetivo de vender ou compartilhar esses materiais.

Vocês têm noção da quantidade e do volume de informações e de imagens de crianças exploradas sexualmente e que circulam atualmente na internet?

Existe uma pesquisa feita pela WeProtect Global Alliance — que hoje é a maior aliança global de organizações que trabalham a questão da internet — que trouxe números alarmantes nos estudos que foram feitos em 2023. Um deles é de que houve um aumento de 87% nas denúncias de imagens de abuso sexual com crianças e adolescentes desde 2019

Ainda houve aumento de mais de 360% em imagens autogeradas de crianças de 7 a 10 anos entre 2020 e 2022, isso é muito peculiar, porque, num primeiro momento, a imagem não foi produzida com finalidade de exploração sexual.

Também houve aumento na questão da extorsão sexual. Em 2021, haviam 139 casos registrados. Em 2022, passou para mais de 10 mil relatos desse tipo, que envolve justamente um operador que prepara e manipula uma criança e depois compartilha as imagens que produziu. A partir do momento que ele tem essas imagens, ele começa a extorquir a criança ou o adolescente para ter algum ganho financeiro. Essa situação tem tido um crescimento exponencial.

No Brasil, não tem nem controle, nem dados consolidados sobre cada um desses casos. Mas, por exemplo, em 2022, a gente teve mais de 112 mil denúncias de violências que são chamadas de pornografia infantil só aqui no Brasil.

Como que as tecnologias e as redes sociais têm influenciado na proliferação da exploração sexual infantil na internet e qual a sua opinião sobre o papel das empresas de tecnologia e das grandes plataformas online no combate a esse crime, como que elas têm se comportado no sentido de detectar. de prevenir e de interromper o compartilhamento dessas imagens?

Nós temos trabalhado muito na questão de como as redes sociais não conseguem proteger crianças e adolescentes. Um aspecto bastante complexo é que as redes sociais mais comuns têm normas de idade mínima, mas não há um controle rígido sobre isso.

Sabemos que milhares de crianças mais novas do que a idade mínima estipulada estão usando essas plataformas. Portanto, se conectam e interagem nelas. Empresas como Facebook, TikTok, Google e Snapchat — as maiores redes sociais atualmente —, têm feito esforços para prevenir e eliminar esses problemas. Não podemos dizer que elas não fazem nada, elas têm se movimentado nessa direção.

Além das empresas de redes sociais, ainda temos inúmeras plataformas, a de jogos online, por exemplo, que não fazem nem o mínimo para mitigar os riscos. E aí, as crianças estão cada vez mais expostas, tanto a riscos que podem ser físicos, psicológicos e emocionais.

Qual o cenário do arcabouço legal hoje no Brasil? Como que você avalia? As leis que temos hoje no Brasil para responder esses desafios são suficientes?

A primeira coisa que temos que ter como base é que não tem como não regulamentar [as redes sociais]. É unânime que todas as organizações e especialistas em direito da criança e do adolescente defendem que a ausência de regulamentação expõe a criança e o adolescente a um imenso risco.

As empresas de tecnologia têm poucos interesses em proteger as crianças, já que isso pode limitar suas atividades lucrativas. Elas não veem vantagem em criar plataformas que restrinjam suas operações, as quais geram grandes lucros. Isso indica que a segurança e a proteção de crianças e adolescentes não são prioridades centrais no desenvolvimento dos produtos dessas empresas.

O que a gente percebe é que quando há uma legislação adequada, ela impulsiona respostas ao problema. A Inglaterra, por exemplo, tem implementado uma série de legislações específicas para essas questões, no sentido de colocar responsabilidade entre todos os atores da sociedade e exigir uma resposta rápida das plataformas.

É nessa direção que a gente tem que caminhar. E aí, naturalmente, as grandes empresas ligadas às redes sociais terão que ter um compromisso sério de garantir a segurança dessas crianças. Nós temos uma série de leis que estão sendo aprovadas no Congresso no sentido de proteger crianças online, mas elas ainda não são suficientes.

E, às vezes, a gente até tem as leis, mas qual é a regulamentação? Qual decreto que vai colocar essa lei para ser implementada? Quem está fiscalizando? Quem está acompanhando essa fiscalização? Falta muita coisa ainda a fazer nesse sentido.

Como você vê essa resistência das grandes plataformas contra a regulamentação das redes sociais?

É evidente que quanto mais pressionamos por um design de segurança para proteger crianças, maior será a resistência das grandes empresas. Primeiro porque isso implica em um grande investimento inicial e uma significativa mudança em suas operações e modelos de lucro. Além disso, há o desafio de promover dentro dessas empresas uma discussão no sentido do uso da Inteligência Artificial para proteção de crianças e adolescentes.

Por que essa IA não é direcionada para esse fim? Por que é usada para facilitar, em vez de bloquear, conteúdos inadequados? A resistência das empresas em realizar mudanças significativas na estrutura das plataformas é clara.

Se existe tanta tecnologia que pode até ver quando uma postagem falsa está sendo publicada, por que isso não está sendo barrado? Então, existe aí um interesse, que é ter milhões de pessoas seguindo todo tipo de conteúdo, inclusive, os 'não interessantes'. É bem complexo.

Como a Inteligência Artificial (IA) tem sido utilizada para lidar com a questão da exploração sexual infantil? Como você tem visto o uso dessa tecnologia?

Estamos muito preocupados, porque, no momento, o que estamos vendo são imagens sendo geradas pela inteligência artificial e que oferecem crianças em situações de sexualidade e erotizadas. Mas existe a argumentação de que esse produto não é ilegal, porque essa criança não existe de verdade e foi criada a partir de uma imagem de IA. Então, isso é uma violação do direito de alguém?

Nós entendemos que sim, que a partir do momento em que se coloca a imagem de uma criança em situação de erotização ou abuso na internet, essa é uma violação dos direitos de todas as crianças, mesmo que essa criança não exista de verdade. Mas a gente não tem legislação sobre isso e ainda há muito o que discutir. É um assunto complexo que precisa ser regulamentado, ainda temos muito chão pela frente.

Quais são as principais orientações que você sugeriria para adultos que estão ativos na internet e visam combater crimes contra crianças no ambiente online?

Acredito que a principal abordagem é compreender e identificar essas formas de exploração, além de iniciar diálogos sobre o tema não apenas com outros adultos, mas também com crianças e adolescentes.

É essencial conversar abertamente com eles, pois, sem diálogo, podem ser facilmente envolvidos sem perceberem. Devemos lembrar que a exploração sexual online pode se manifestar de várias maneiras distintas, e a primeira delas é através do compartilhamento de material.

Nossa recomendação é que os pais conversem abertamente com seus filhos sobre o uso seguro e responsável do celular, evitando o compartilhamento de imagens, fotos ou qualquer conteúdo com pessoas desconhecidas.

Sempre reforçamos: se você não conhece pessoalmente alguém e não tem certeza de quem é no mundo digital, é preferível não enviar nada para essa pessoa. Não se sabe quais são suas intenções, pois não há um relacionamento seguro estabelecido. Portanto, é essencial alertar constantemente as crianças sobre esses cuidados.