Circulação de vídeos de abuso infantil feitos com IA aumenta no mundo, diz relatório

Um relatório da IWF (Internet Watch Foundation) mostrou que a circulação de vídeos com cenas de abuso infantil produzidas por IA (Inteligência Artificial) aumento no mundo desde outubro de 2023. De acordo com o estudo, publicado nesta segunda-feira (22), esse tipo de material está cada vez mais comum “à medida que as ferramentas de IA se tornam mais difundidas e fáceis de usar”. Outro fator revelado é que as cenas estão cada vez mais graves e explícitas.

Já no ano passado, foi possível constatar que os predadores conseguiam baixar legalmente todo o material necessário para produzir imagens “realistas” de abuso infantil com o uso da ferramenta. Ambos os relatórios também afirmam que imagens de vítimas conhecidas de abuso sexual infantil ou crianças famosas são utilizadas na produção do material criminoso.

“O fato de alguns destes vídeos manipularem imagens de vítimas conhecidas é ainda mais horrível. Os sobreviventes de alguns dos piores tipos de traumas agora não têm trégua, sabendo que os agressores podem usar imagens do seu sofrimento para criar qualquer cenário de abuso que desejarem”, afirmou a CEO da IWF, Susie Hargreaves.

Entre março e abril desde ano, a IWF identificou nove vídeos deepfake em apenas um fórum da dark web dedicado a material de abuso sexual infantil. Em uma primeira vistoria, nenhum material deste tipo tinha sido identificado. “Como os vídeos originais de abuso sexual são de crianças reais, os analistas da IWF dizem que os deepfakes são especialmente convincentes”, diz o relatório.

Os pesquisadores entraram em fóruns da “deep web” — uma parte “oculta” da rede global — para observar esse tipo de comportamento. Um usuário chamou a atenção da equipe ao compartilhar uma página anônima contendo links para modelos de 128 diferentes vítimas identificadas de abuso sexual infantil. “Muitos tinham opções para versões mais novas ou mais velhas”.

Outro ponto destacado no relatório é a rapidez com que a tecnologia está melhorando na capacidade de gerar vídeos totalmente sintéticos. Um vídeo “chocante” de 18 segundos totalmente gerado por IA, encontrado por analistas na web, mostra um homem adulto estuprando uma menina que parece ter aproximadamente 10 anos. O vídeo treme e apresenta falhas, mas os técnicos descrevem a atividade como clara e contínua.

Regulamentação

Os pesquisadores defendem investimentos em pesquisa de segurança de IA, colaborações entre governos e regulamentação para evitar os danos a indivíduos reais.