Autoridades brasileiras cobram do X medidas contra uso do Grok para criação de conteúdos sexualizados

Órgãos do governo federal e o MPF (Ministério Público Federal) recomendaram à empresa responsável pela plataforma X a adoção de providências urgentes para coibir a geração e a disseminação de conteúdos sexualizados produzidos pelo Grok — ferramenta de inteligência artificial integrada à rede social. A iniciativa foi tomada após denúncias de que usuários estariam criando imagens sintéticas de pessoas reais sem consentimento.

As apurações tiveram como base reportagens publicadas no Brasil e no exterior, além de testes conduzidos pelas próprias instituições.

De acordo com os relatos, o Grok vem sendo utilizado para produzir deepfakes, montagens feitas com inteligência artificial, com conotação sexual, incluindo casos envolvendo mulheres, crianças e adolescentes. A plataforma também exibe imagens de mulheres e menores de idade em situações de nudez ou roupas íntimas. O acesso livre ao conteúdo amplia o alcance do material e o potencial de danos às vítimas.

A atuação conjunta envolve a ANPD (Autoridade Nacional de Proteção de Dados), a Senacon (Secretaria Nacional do Consumidor), vinculada ao Ministério da Justiça e Segurança Pública, e o MPF. Para os órgãos, os fatos relatados atingem simultaneamente a proteção de dados pessoais, os direitos do consumidor e princípios fundamentais como a dignidade da pessoa humana, com impacto direto em grupos vulneráveis.

Entre as orientações enviadas à empresa, consta a exigência de que o Grok bloqueie imediatamente a geração de imagens, vídeos ou áudios que retratem crianças e adolescentes em contextos sexualizados.

A recomendação também se estende a conteúdos envolvendo adultos identificáveis, quando produzidos sem autorização. As restrições devem valer para todas as versões, planos e formatos da ferramenta.

Medidas de controle e sanções

As instituições também cobraram a criação, em até 30 dias, de procedimentos técnicos claros para localizar, avaliar e remover conteúdos desse tipo que já tenham sido gerados e ainda estejam disponíveis no X. Outro ponto é a suspensão imediata das contas responsáveis pela produção do material irregular, com a aplicação efetiva dos termos de uso da própria plataforma. O cumprimento dessa medida deverá ser comprovado por meio de relatórios mensais enviados às autoridades.

Além disso, foi recomendada a implementação de um canal transparente e acessível para que titulares de dados possam denunciar usos indevidos, abusivos ou ilegais de suas informações pessoais, especialmente em casos de conteúdos sintéticos sexualizados criados sem consentimento. As respostas às denúncias devem ocorrer em prazo razoável.

As autoridades também solicitaram a elaboração de um relatório de impacto à proteção de dados pessoais específico para as atividades do Grok relacionadas à manipulação de imagens, vídeos e áudios enviados por usuários, sempre que houver possibilidade de identificação direta ou indireta de pessoas.

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp