Produção de vídeos falsos de abuso com IA revitimiza crianças, diz relatório

Cada vez mais a internet tem registrado vídeos de abuso infantil feitos com IA (Inteligência Artificial), é o que mostrou um relatório da IWF (Internet Watch Foundation), divulgado no início da semana. Além do aumento no número de materiais desse tipo em circulação, a fundação também percebeu o uso de imagens de crianças reais que já foram vítimas de abuso sendo colocadas em novas situações de violações. Para os técnicos, a prática é uma “revitimização” das crianças abusadas, e uma forma de alimentar um ciclo sem fim para os criminosos.

A fundação acompanha, desde 2018, a situação de fóruns da deepweb, um espaço virtual em que a difusão de conteúdo criminoso é comum. Um dos casos acompanhados é de uma menina, chamada de Olívia pelos pesquisadores. A menina foi vítima de abuso quando tinha entre três e oito anos. As imagens da violência foram disponibilizadas online pelo abusador. Olívia foi resgatada, no entanto, mesmo anos depois as imagens dela continuam circulando na internet e agora em novas situações de violência em vídeos “cruéis e horrendos de abuso” feita por IA.

“Vemos Olívia todos os dias, cinco anos depois que ela foi resgatada. Para mostrar o que significa a ‘revitimização’, nós contamos o número de vezes que vimos a imagem dela online em três meses. Neste período, vimos — ao menos — 347 vídeos, uma média de cinco arquivos por dia”, constatou o relatório.

A situação é tão horrendo que há na internet um modelo de IA com imagens da criança disponível para download gratuitamente. “Antes do advento das imagens geradas por IA, os sobreviventes de experiências sexuais na infância como Olivia já tiveram que lidar com as imagens e vídeos mostrando seus abusos sendo compartilhados pela Internet. Cada vez que uma dessas imagens foi compartilhada ou visualizada, é adicionado outro link em uma longa cadeia de abuso sexual infantil”, afirmam os pesquisadores no relatório.

‘Brinquedoteca para criminosos’

A CEO da Fundação, Susie Hargreaves, defende que a tecnologia está evoluindo a tal ritmo que a capacidade dos infratores de produzirem, à vontade, vídeos gráficos mostrando abuso sexual de crianças é bastante assustadora.

“Sem controles adequados, as ferramentas generativas de IA oferecem um playground para os predadores online realizarem suas fantasias mais perversas e doentias. Mesmo agora, a IWF está começando a ver mais deste tipo de material sendo compartilhado e vendido em sites comerciais de abuso sexual infantil na Internet”, explica.

Ela chama atenção que 90% dos arquivos são tão convincentes que poderiam ser avaliados pela mesma lei dos abusos sexuais infantis. Os analistas também confirmaram, segundo Susie, que a maioria das vítimas são mulheres.

“O fato de alguns destes vídeos manipularem imagens de vítimas conhecidas é ainda mais horrível. Os sobreviventes de alguns dos piores tipos de traumas agora não têm trégua, sabendo que os agressores podem usar imagens do seu sofrimento para criar qualquer cenário de abuso que desejarem”, disse.

Conteúdo

Os 12 pesquisadores analisaram mais de 130 horas de mais de 12.148 imagens. Desses arquivos, 29% foram considerados indecentes ou proibidas, ou seja, 3.512 forma consideradas cenas de abuso sexual infantil.

O estudo também traz dados sobre a suposta idade que as crianças aparentam ter nos vídeos falsos: 48% teriam entre 11 e 13 anos, seguido pela faixa etária de 7 a 10 anos, com 34%.

Entrevista com Guilherme Alves, gerente de projetos da Safernet, responsável pelo programa Disciplina de Cidadania Digital

1- Como analisa o cenário atual no qual temos a criação de “imagens” de abuso infantil por meio da IA?

É um cenário extremamente preocupante, uma vez que as ferramentas de IA generativa estão cada vez mais acessíveis e os usos abusivos tendem a se tornar também mais comuns. Há casos de alteração de conteúdos reais, quando uma foto ou vídeo de criança ou adolescente sem conotação sexual é manipulado para esse fim, e também criação de conteúdos artificiais hiperrealistas.

2- Quais seriam algumas medidas emergenciais para coibir esse tipo de comportamento?

No contexto das famílias, a orientação imediata é que evitem postar quaisquer fotos ou vídeos em que é mostrado o rosto da criança. É possível também usar estratégias como cobrir o rosto com um emoji ou priorizar o compartilhamento apenas com família em grupos fechados. Crianças e adolescentes famosos na internet estão mais em risco a esse tipo de violência, já que estão mais expostos e têm à disposição de criminosos mais conteúdos, o que torna a manipulação mais realista.

3- Você defende a regulamentação da ferramenta? Por quê?

Sim. No Brasil, essas práticas já são crimes. No caso de criança ou adolescente, o art. 241-C do Estatuto da Criança e do Adolescente prevê desde 2008 pena de até três anos de prisão para quem cria ou de qualquer forma armazena ou distribui conteúdo simulando a participação desse público em cena de sexo ou nudez. No caso de adultos, o art. 216-B do Código Penal prevê pena de até um ano de prisão desde 2018.

4- Como os pais podem proteger os filhos do uso dessas imagens?

Além de evitar a postagem de conteúdos com o rosto dos filhos, é importante que haja diálogo sobre os riscos virtuais desde o primeiro contato com as tecnologias. A privacidade é um direito e é importante que crianças e adolescentes cresçam com a visão de que a exposição nas redes é um risco, não um mérito. Também é importante que as famílias procurem as escolas para entender se os temas de uso seguro e consciente das tecnologias estão sendo abordados nos currículos. Desde 2018 a Base Nacional Comum Curricular prevê que essas são temáticas que devem fazer parte da educação no ensino infantil, fundamental e médio. A Safernet desenvolveu com o governo do Reino Unido um projeto gratuito que auxilia escolas públicas e secretarias de educação nesse desafio, com recursos pedagógicos, curso de formação de professores, acompanhamento e uma premiação para escolas.

5- O problema é global, mas como analisa o Brasil perante o mundo? Estamos mais vulneráveis?

O Brasil é um país reconhecido pelo uso intenso de internet, principalmente redes sociais e aplicativos de mensagens, o que colabora para uma cultura de hiperexposição online também de crianças e adolescentes, com muitos casos conhecidos de “influencers” mirins ou de famílias que postam diariamente vídeos e fotos de crianças em todo tipo de situação, inclusive vexatória, com objetivo de ganhar likes. Esse tipo de cultura deve ser combatida, inclusive nas escolas, seguindo o que já prevê a Base Nacional Comum Curricular. Há também o fenômeno crescente da venda de “packs” de conteúdos, quando adolescentes criam e vendem conteúdos de nudez e sexo de si mesmos (conteúdo autogerado), ou quando adultos fazem isso. No ano passado, a Safernet registrou recorde no número de denúncias de páginas com indícios de conteúdos de abuso e exploração sexual infantojuvenil (quase 72 mil denúncias no site denuncie.org.br).