Funcionário do governo chinês revela operação global de intimidação após usar o ChatGPT
Relatório mostra uso de inteligência artificial para ações de censura por parte do regime chinês
Internacional|Sean Lyngaas, da CNN Internacional
LEIA AQUI O RESUMO DA NOTÍCIA
Produzido pela Ri7a - a Inteligência Artificial do R7
Uma ampla operação de influência chinesa — revelada acidentalmente pelo uso do ChatGPT por um oficial de aplicação da lei chinês — concentrou-se em intimidar dissidentes chineses no exterior, inclusive ao se passar por oficiais de imigração dos EUA (Estados Unidos), de acordo com um novo relatório da OpenAI, fabricante do ChatGPT.
O oficial de aplicação da lei chinês usou o ChatGPT como um diário para documentar a suposta campanha secreta de repressão, disse a OpenAI.
Em um exemplo, operadores chineses supostamente se disfarçaram de oficiais de imigração dos EUA para alertar um dissidente chinês baseado nos EUA que suas declarações públicas teriam supostamente violado a lei, segundo o usuário do ChatGPT.
LEIA MAIS:
Em outro caso, eles descrevem um esforço para usar documentos forjados de um tribunal de condado dos EUA para tentar remover a conta de mídia social de um dissidente chinês.
O relatório oferece um dos exemplos mais vívidos até agora de como regimes autoritários podem usar ferramentas de IA (Inteligência Artificial) para documentar seus esforços de censura.
A operação de influência pareceu envolver centenas de operadores chineses e milhares de contas on-line falsas em várias plataformas de mídia social, de acordo com a OpenAI.
“É assim que se parece a moderna repressão transnacional chinesa”, disse Ben Nimmo, investigador principal da OpenAI, a repórteres antes do lançamento do relatório.
“Não é apenas digital. Não se trata apenas de trolling. É industrializado. Trata-se de tentar atingir críticos do Partido Comunista Chinês com tudo, em todos os lugares, ao mesmo tempo.”
A CNN Internacional solicitou comentários sobre o relatório à Embaixada da China em Washington.
‘Diário’
O ChatGPT serviu como um diário para o agente chinês acompanhar a rede secreta, enquanto grande parte do conteúdo da rede era gerada por outras ferramentas e espalhada por contas de mídia social e sites. A OpenAI baniu o usuário após descobrir a atividade.
Os investigadores da OpenAI conseguiram combinar as descrições do usuário do ChatGPT com atividades e impactos on-line no mundo real.
O usuário descreveu um esforço para fingir a morte de um dissidente chinês ao criar um obituário falso e fotos de uma lápide e postá-los on-line. Rumores falsos sobre a morte do dissidente de fato surgiram online em 2023, de acordo com um artigo em chinês da Voice of America.
Em outro caso, o usuário do ChatGPT pediu ao agente de IA que elaborasse um plano de várias partes para difamar a futura primeira-ministra japonesa, Sanae Takaichi, em parte fomentando a raiva online sobre as tarifas dos EUA sobre produtos japoneses.
O ChatGPT se recusou a responder ao comando, segundo a OpenAI. Mas, no final de outubro, quando Takaichi assumiu o poder, surgiram hashtags em um fórum popular para artistas gráficos japoneses atacando-a e reclamando das tarifas dos EUA, de acordo com a OpenAI.
O relatório surge em meio a uma batalha entre os EUA e a China pela supremacia sobre a IA. O que está em jogo é como a tecnologia é usada no campo de batalha e nas salas de reuniões das duas maiores economias do mundo.
Impasse
O Pentágono está em um impasse com outra empresa proeminente de IA, a Anthropic, sobre o uso de seu modelo de IA.
O Secretário de Defesa, Pete Hegseth, deu ao CEO da Anthropic, Dario Amodei, um prazo até sexta-feira (27) para cumprir as exigências de reduzir as salvaguardas em seu modelo de IA ou correr o risco de perder um contrato lucrativo com o Pentágono.
O relatório da OpenAI “demonstra claramente a maneira como a China está empregando ativamente ferramentas de IA para aprimorar as operações de informação”, disse Michael Horowitz, ex-funcionário do Pentágono focado em tecnologias emergentes, à CNN Internacional.
“A competição de IA entre EUA e China continua a se intensificar”, disse Horowitz, que agora é professor na Universidade da Pensilvânia.
“Essa competição não está ocorrendo apenas na fronteira, mas em como o governo da China está planejando e implementando o dia a dia de seu aparato de vigilância e informação.”
Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp
