Deepfakes podem apresentar batimentos cardíacos para dificultar a sua identificação

Imagine um mundo onde os deepfakes se tornaram tão eficazes que nenhum mecanismo de detecção consegue desmascará-los como impostores. Isso seria uma mina de ouro para criminosos. Por exemplo, eles poderiam usar deepfakes para caluniar candidatos políticos rivais ou incriminar pessoas inocentes.

Este cenário de pesadelo ainda não é real, mas há anos os métodos para criar deepfakes travam uma “corrida armamentista tecnológica” contra algoritmos de detecção. E agora, cientistas demonstraram que os deepfakes ganharam uma vantagem significativa: a ausência de pulso não os denuncia mais.

“Aqui mostramos pela primeira vez que vídeos deepfake recentes de alta qualidade podem apresentar batimentos cardíacos realistas e pequenas mudanças na cor do rosto, o que os torna muito mais difíceis de detectar”, disse Peter Eisert, professor da Universidade Humboldt de Berlim e autor correspondente de um novo estudo, publicado na revista científica Frontiers in Imaging.

Como se descobre um deepfake

Os criadores de deepfakes usam aprendizado profundo para manipular vídeos e arquivos de áudio. Eles alteram expressões faciais e gestos, por exemplo, trocando-os entre pessoas diferentes. Seu propósito não é necessariamente maligno. Por exemplo, aplicativos que podem te transformar em um gato ou te envelhecer digitalmente são imensamente populares, divertidos e inofensivos.

A análise da transmissão de luz através da pele e dos vasos sanguíneos subjacentes é há muito indispensável na medicina, por exemplo, em oxímetros de pulso. Sua prima digital, a chamada fotopletismografia remota (rPPP), é um método emergente em telemedicina, que utiliza webcams para estimar sinais vitais. Mas a rPPP também pode, em teoria, ser usada em detectores de deepfakes.

Nos últimos anos, esses detectores experimentais de deepfakes baseados em rPPP têm se mostrado eficazes na distinção entre vídeos reais e deepfakes. Esses sucessos levaram alguns especialistas a concluir que os deepfakes atuais ainda não conseguem imitar uma frequência cardíaca realista. Mas agora, parece que essa visão complacente está ultrapassada.

Como foi feita a pesquisa

Eisert e colegas codificaram inicialmente um detector de deepfake de última geração que extrai e analisa automaticamente a frequência cardíaca de vídeos. Ele utiliza métodos inovadores para compensar movimentos e remover ruídos, e precisa de um vídeo de entrada do rosto de uma única pessoa com apenas 10 segundos de duração para funcionar.

Os autores também criaram seu próprio conjunto de dados de vídeos de direção, usados ​​para criar deepfakes de diferentes identidades de alvos com o movimento facial dos vídeos capturados.

Durante as filmagens, um ECG rastreou os batimentos cardíacos dos protagonistas, o que permitiu aos pesquisadores confirmar que as medições de rPPP feitas por seu novo detector eram altamente precisas. Havia uma diferença de apenas dois a três batimentos por minuto entre as estimativas e a frequência cardíaca real.

Para garantir, os autores também usaram seu detector em duas coleções mais antigas e amplamente utilizadas de vídeos de pessoas reais. Aqui, também, eles conseguiram extrair sinais de batimentos cardíacos de todos os vídeos genuínos.

Mas o que aconteceria se eles usassem o mesmo detector para analisar deepfakes conhecidos?

Para testar isso, Eisert e colegas usaram métodos recentes de deepfake para trocar rostos entre vídeos genuínos em sua coleção. Para sua surpresa, seu detector detectou um pulso nos deepfakes também – mesmo que eles não tivessem inserido um conscientemente. Esse pulso inexistente normalmente parecia altamente realista.

Quais foram as conclusões

“Nossos resultados mostram que um batimento cardíaco realista pode ser adicionado propositalmente por um invasor, mas também pode ser ‘herdado’ inadvertidamente do vídeo original da pessoa dirigindo. Pequenas variações no tom de pele da pessoa real são transferidas para o deepfake junto com os movimentos faciais, de modo que o pulso original é replicado no vídeo falso”, disse Eisert.

Felizmente, há motivos para otimismo, concluíram os autores. Os detectores de deepfakes poderiam alcançar os deepfakes novamente se se concentrassem no fluxo sanguíneo local dentro do rosto, em vez da frequência cardíaca global.

“Nossos experimentos mostraram que os deepfakes atuais podem mostrar batimentos cardíacos realistas, mas não mostram variações fisiologicamente realistas no fluxo sanguíneo através do espaço e do tempo dentro do rosto”, disse Eisert.

“Sugerimos que essa fraqueza dos deepfakes de última geração seja explorada pela próxima geração de detectores de deepfakes.”