China amplia uso de inteligência artificial para reforçar censura e vigilância, diz relatório

A China está intensificando o uso de inteligência artificial para reforçar mecanismos de controle social, ampliando o alcance da censura e da vigilância sobre a população.

A conclusão faz parte de um novo relatório do Australian Strategic Policy Institute (ASPI), instituição australiana que detalha como o governo de Pequim tem integrado tecnologias de ponta ao sistema de monitoramento digital e ao aparato judicial do país.

Segundo o estudo, a inteligência artificial está sendo utilizada para tornar mais eficiente o rastreamento e a supressão de conteúdos considerados politicamente sensíveis. A prática, que já é marca registrada do aparato de censura chinês, ganha velocidade e precisão com sistemas capazes de varrer grandes volumes de dados, identificar palavras-chave e reduzir a disseminação de mensagens críticas ao governo ou ao líder Xi Jinping.

Nathan Attrill, analista sênior do ASPI e coautor da pesquisa, afirmou ao jornal Washington Post que a tecnologia não inaugura um novo modelo de repressão, mas intensifica métodos já consolidados. Para ele, a IA permite que o Partido Comunista Chinês monitore “mais pessoas, mais de perto e com menos esforço”, aprofundando padrões de controle antes executados majoritariamente por equipes humanas.

A disputa tecnológica com os Estados Unidos também influencia esse cenário. Enquanto EUA e China competem pela liderança global em inteligência artificial, Pequim amplia o uso doméstico da tecnologia, contando com a colaboração de grandes empresas nacionais como Baidu, Tencent e ByteDance. Essas companhias recebem acesso a imensos conjuntos de dados governamentais, o que acelera o desenvolvimento de modelos mais avançados.

O relatório destaca que as empresas atuam como “xerifes adjuntos”, encarregadas de moderar conteúdos que vão além do escopo normalmente adotado por plataformas no Ocidente. Enquanto redes sociais de outros países removem apenas material ilegal, como pornografia, as firmas chinesas também precisam eliminar conteúdos que possam provocar irritação no governo central. Ferramentas como o sistema de auditoria de segurança de conteúdo da Tencent, por exemplo, atribuem pontuações de risco a usuários e rastreiam reincidentes em diversas plataformas.

Essa indústria de vigilância também virou negócio. Empresas como a Baidu comercializam sistemas de moderação automatizada para outras companhias, expandindo o alcance da censura e, segundo os pesquisadores, “armazenando princípios de mercado a serviço do autoritarismo”. Apesar da automação crescente, o modelo adotado é híbrido: equipes humanas seguem essenciais para interpretar nuances políticas, identificar códigos usados para driblar a supervisão e complementar falhas técnicas.

A vigilância é ainda mais intensa sobre minorias étnicas, como uigures e tibetanos, alvos de monitoramento ampliado nos últimos anos. Como barreiras linguísticas dificultavam o rastreamento, o governo está investindo no desenvolvimento de modelos de linguagem específicos para idiomas regionais. Um laboratório criado em 2023 em Pequim trabalha com línguas como mongol, tibetano e uigur, com o objetivo de analisar opiniões públicas e promover o que o governo chama de “unidade étnica”.

O relatório também detalha como a IA está sendo incorporada ao sistema de justiça criminal. A tecnologia já aparece na identificação de suspeitos em protestos por meio de reconhecimento facial, na triagem de documentos judiciais por “tribunais inteligentes” e até em prisões capazes de prever o estado emocional de detentos. Pesquisadores que tiveram acesso a um desses sistemas em Xangai alertaram que as ferramentas podem comprometer a imparcialidade judicial ao introduzir múltiplas “caixas-pretas” impossíveis de auditar.

Especialistas apontam que o uso de IA na justiça chinesa passou por fases distintas: começou com entusiasmo e expectativas exageradas, seguiu por um período de cautela e agora vive um estágio de reflexão sobre limitações e riscos. A adoção acelerada da tecnologia, incentivada por diretrizes do governo central, faz com que autoridades locais e empresas frequentemente exagerem suas capacidades para obter contratos, o que torna difícil medir o impacto real desses sistemas.

O relatório conclui que, apesar de avanços e eficiência em alguns processos, a expansão da IA na China levanta preocupações profundas sobre privacidade, transparência e discriminação. Para pesquisadores, a falta de clareza sobre como os modelos funcionam e o risco de viés embutido tornam o ecossistema particularmente perigoso, ainda mais porque empresas chinesas têm ambições globais e exportam esses sistemas para outros países.

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp