Deepfakes preocupam autoridades na Coreia do Sul às vésperas da eleição presidencial

A proliferação de vídeos deepfake nas redes sociais está alarmando autoridades sul-coreanas e especialistas, que temem que a tecnologia seja usada para manipular a opinião pública às vésperas da eleição presidencial marcada para 3 de junho.

Mesmo com restrições legais ao uso de conteúdos gerados por inteligência artificial em campanhas eleitorais, plataformas como TikTok e X estão repletas de vídeos falsos que ridicularizam ou atacam os principais candidatos. Entre os alvos estão o líder da oposição, Lee Jae-myung, o ex-ministro da Justiça Han Dong-hoon e o deputado Ahn Cheol-soo.

Um dos vídeos mais vistos, com mais de 1,4 milhão de visualizações, mostra, falsamente, o ex-presidente Yoon Suk Yeol arrancando a peruca de Han. Outro retrata Lee em uma cela de detenção.

Graças ao avanço das ferramentas generativas de IA, vídeos realistas podem ser produzidos em poucos minutos, mesmo por usuários comuns.

A lei eleitoral sul-coreana, atualizada recentemente, proíbe o uso de conteúdos gerados por IA que sejam difíceis de diferenciar da realidade durante os 90 dias que antecedem a votação. A punição prevista inclui até sete anos de prisão ou multas de até 50 milhões de wons (cerca de R$ 190 mil). No entanto, até o momento, ninguém foi indiciado sob essa nova legislação.

A Comissão Eleitoral Nacional e a polícia sul-coreana estão em estado de alerta. Equipes de investigação foram mobilizadas em 278 distritos eleitorais para monitorar crimes relacionados à campanha, incluindo a disseminação de deepfakes.

Ainda assim, especialistas apontam que as medidas podem ser insuficientes, já que a obrigatoriedade de marca d’água em conteúdos gerados por IA só entra em vigor no próximo ano.

Crise política e eleição antecipada

A eleição presidencial foi antecipada após a destituição do presidente Yoon Suk Yeol.

Yoon foi removido do cargo por violar deveres constitucionais ao decretar, em 3 de dezembro, uma breve lei marcial e ordenar a mobilização de tropas para interromper atividades no Parlamento.

No julgamento do ex-presidente, a promotoria argumentou que Yoon “planejou incitar uma revolta com a intenção de subverter a ordem constitucional”. Entre as evidências citadas estão os planos de Yoon de declarar a lei marcial e o envio de militares ao Parlamento com ordens de quebrar janelas e cortar o fornecimento de energia elétrica.

Em janeiro, Yoon se tornou o primeiro presidente sul-coreano no exercício do cargo a ser preso, por conta do processo penal contra ele, embora tenha sido posteriormente libertado por questões técnicas.

Se for considerado culpado das acusações de insurreição, Yoon poderá ser condenado à prisão perpétua ou até à pena de morte. No entanto, a Coreia do Sul mantém, desde 1997, uma moratória não oficial sobre as execuções.

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp