Por Dr. Mohamed Lazzouni
Este artigo foi publicado originalmente no BetaNews.
Nas últimas semanas, o termo “cheapfake” ganhou destaque na consciência coletiva nacional. Os cheapfakes — e sua contraparte igualmente perturbadora, os deepfakes — estão se tornando cada vez mais comuns atualmente, com o volume desse conteúdo enganoso estimando-se que dobre na internet a cada seis meses. É por isso que os principais mecanismos de busca, redes sociais e editores de conteúdo do mundo estão prestando atenção ao assunto. Nas últimas semanas, o Google anunciou um plano abrangente para reduzir a visibilidade dos deepfakes em seus rankings de busca.
Felizmente, você não precisa dos recursos do Google para identificar mídias alteradas. Aqui, vamos examinar as principais diferenças entre “cheapfakes” e “deepfakes”, bem como as ferramentas baseadas em IA que podem ser usadas para detectá-las com precisão.
“Cheapfakes” são conteúdos de mídia que foram manipulados por meio de recursos baratos e mais acessíveis, como softwares comerciais de edição de fotos e vídeos. Muitos “cheapfakes” são criados com ferramentas como a Adobe, que permite acelerar e desacelerar vídeos, bem como criar animações, movimentos e troca de rostos. Os “cheapfakes” costumam ter um ar amador — na verdade, qualquer adolescente que tenha feito cursos básicos de animação por computador é capaz de criá-los. Eles são, essencialmente, o equivalente a efeitos especiais de baixo orçamento, e é muito fácil produzi-los mesmo com habilidades limitadas.
Os deepfakes, por outro lado, são mais realistas do que os cheapfakes e muito mais difíceis de detectar. Sua criação exige um nível muito mais elevado de treinamento, competência e ferramentas sofisticadas. Mesmo no nível mais básico, é necessário um certo conhecimento em programação. No nível mais avançado, os criadores precisam de especialização em design e engenharia de prompts para alimentar essas informações em ferramentas de IA generativa, como o Sora. O nível mais sofisticado de deepfakes utiliza redes neurais adversariais generativas (GANs), nas quais dois algoritmos competem e evoluem: um algoritmo aprende a criar deepfakes, enquanto outro aprende a detectá-los. É aí que se torna muito difícil distinguir entre o que é real e o que não é.
A boa notícia em tudo isso? É perfeitamente possível distinguir entre um “cheapfake” ou “deepfake” e um conteúdo autêntico, pois esses materiais costumam apresentar inconsistências que podem ser detectadas.
Fique atento aos seguintes aspectos ao tentar determinar a autenticidade de uma mídia:
- As posturas corporais e faciais parecem estranhas ou incomuns no primeiro plano ou no fundo?
- A cor parece artificial?
- O envelhecimento da pele não combina com os olhos ou o cabelo do sujeito?
- As pessoas no vídeo não estão piscando ou estão piscando de forma não natural?
- O áudio está fora de sincronia com as imagens?
- Os membros estão mal integrados ao fundo ou parecem estranhos?
Recomendamos uma combinação do bom e velho olho humano — que geralmente é perspicaz o suficiente para perceber quando algo está “errado” — com uma ou mais das seguintes ferramentas de IA, que são muito eficazes na detecção de manipulação. Trata-se, por assim dizer, de “usar IA para detectar IA”.
No caso das imagens, um indício claro de que se trata de uma “cheapfake” ou de um “deepfake” é a marca d’água incorporada à imagem. Com base nessas marcas d’água, as ferramentas conseguem identificar facilmente se uma imagem é autêntica ou não. Já os vídeos falsos podem ser detectados por meio de várias técnicas, incluindo:
- A análise de pontos de referência faciais, que funciona analisando o posicionamento das principais características do rosto no vídeo, como os olhos, o nariz e a boca. Essa análise demonstrou a capacidade de identificar manipulações de vídeo no nível do pixel, a fim de detectar imagens faciais falsas. A consistência temporal permite analisar ainda mais como as características faciais se movem ao longo do tempo; as “cheapfakes” e as “deepfakes” costumam apresentar inconsistências sutis nesses movimentos.
- Além disso, a detecção de tremulação pode identificar sinais resultantes da junção de diferentes fontes. Essas ferramentas são capazes de detectar inconsistências na iluminação ou na cor ao longo de um vídeo, indicando a possibilidade de manipulação.
- Outra técnica se concentra nos movimentos labiais e nos erros de sincronização labial. A fala consiste em sons que correspondem aos contornos dos lábios. Existem ferramentas capazes de comparar os movimentos labiais com os sons; qualquer discrepância pode indicar um “cheapfake” ou um “deepfake”.
- Por fim, outras ferramentas se concentram na análise das variações nos tons de cinza dentro de um vídeo. O olho humano é capaz de distinguir cerca de dez tons diferentes de cinza, e os “cheapfakes” e “deepfakes” podem apresentar inconsistências nesses tons de cinza que podem ser detectadas.
Dada a crescente proliferação de falsificações baratas e deepfakes e seu potencial para provocar agitação social — além de ameaçar a privacidade individual —, acreditamos que as ferramentas de detecção precisam ser implantadas de forma mais agressiva e proativa. Por exemplo:
- Os sites de compartilhamento de vídeos poderiam integrar ferramentas de detecção de deepfakes para sinalizar ou verificar a autenticidade do conteúdo enviado.
- As técnicas de detecção de “cheapfakes” e “deepfakes” podem se tornar parte das ferramentas educacionais para capacitar os alunos a avaliar criticamente o conteúdo online e reconhecer os “deepfakes” quando se depararem com eles.
- Os artistas podem ter sua reputação e sua arte comprometidas pelos deepfakes. A comunidade artística pode adotar a detecção de cheapfakes/deepfakes para autenticar a origem de obras de arte digitais ou determinar se a aparição de uma celebridade em um filme é real ou sintética.
- Protegendo crianças e pessoas vulneráveis: a detecção de deepfakes pode ser usada para identificar e sinalizar deepfakes criados com o objetivo de praticar cyberbullying. Isso poderia ajudar a proteger as vítimas e responsabilizar os agressores.
É claro que as tecnologias de detecção de deepfakes baseadas em IA ainda estão em desenvolvimento e não alcançaram total maturidade. Isso porque essas soluções são de natureza estatística e “adivinham” se uma imagem ou vídeo é um “cheapfake” ou um “deepfake”, podendo chegar a conclusões incorretas. A verdade é que os criadores de “cheapfakes” e “deepfakes” e as ferramentas de detecção estão em uma constante corrida armamentista. E o que fica claro é que os resultados estão se tornando cada vez mais sofisticados, tornando mais difícil para as ferramentas de detecção distinguir o que é real do que é fabricado. Também é importante lembrar que as ferramentas de detecção por IA são treinadas com grandes conjuntos de dados de imagens ou vídeos, e esses conjuntos de dados podem introduzir viés.
A eficácia dos algoritmos de detecção depende da qualidade dos dados de treinamento com os quais são alimentados. Novos deepfakes são desenvolvidos constantemente, desafiando continuamente as ferramentas de detecção existentes. A boa notícia é que houve um avanço considerável nessas ferramentas, e cada interação está ficando melhor. No entanto, ainda temos um longo caminho a percorrer para garantir que a sociedade não seja vítima dessas imagens falsificadas.
