Por Dr. Mohamed Lazzouni
Este artigo foi publicado pela primeira vez no BetaNews.
Nas últimas semanas, o termo "cheapfake" ganhou destaque em nossa consciência nacional. Os cheapfakes (falsificações baratas) - e sua contraparte igualmente perturbadora, deepfakes ) - estão se tornando muito mais predominantes hoje em dia, com o volume desse conteúdo enganoso estimado em dobrar on-line a cada seis meses. É por isso que os principais mecanismos de pesquisa, redes de mídia social e editores de conteúdo do mundo estão percebendo. Nas últimas semanas, o Google anunciou um plano de longo alcance para reduzir a capacidade de descoberta de deepfakes em suas classificações de pesquisa.
Felizmente, você não precisa dos recursos do Google para identificar mídias alteradas. Aqui, examinaremos as principais diferenças entre cheapfakes e deepfakes , bem como as ferramentas IA que podem ser usadas para detectá-las de forma decisiva.
Cheapfakes são mídias que foram manipuladas por meios baratos e mais acessíveis, como softwares comerciais de edição de fotos e vídeos. Muitos cheapfakes são criados com ferramentas como o Adobe, que permite acelerar e desacelerar o vídeo, bem como criar animação, movimento e troca de face . Os cheapfakes geralmente têm um toque amadorístico - na verdade, qualquer adolescente que tenha tido aulas básicas de animação por computador pode criá-los. Eles são essencialmente o equivalente a efeitos especiais de baixo orçamento e é muito fácil produzi-los com habilidades limitadas.
Deepfakes, por outro lado, são mais realistas do que as cheapfakes e muito mais difíceis de detectar. Elas exigem um nível muito mais alto de treinamento, competência e ferramentas sofisticadas para serem criadas. Mesmo no nível mais baixo, é necessário um certo nível de conhecimento de software programático. Na extremidade mais alta, os criadores precisam de experiência em design e engenharia de prontidão para alimentar essa entrada em ferramentas IA generativas, como a Sora. O escalão mais sofisticado de deepfakes faz uso de redes neurais adversárias generativas (GANs), em que dois algoritmos competem e evoluem: um algoritmo aprende a criar deepfakes, enquanto outro aprende a detectá-los. É nesse ponto que se torna muito difícil discernir entre o que é real e o que não é.
A boa notícia em tudo isso? É altamente possível distinguir entre um cheapfake/deepfake e um conteúdo real, porque esses materiais geralmente apresentam inconsistências que podem ser detectadas.
Fique atento ao seguinte ao tentar determinar a autenticidade da mídia:
- As posições do corpo e do rosto são estranhas ou incomuns no primeiro ou no segundo plano?
- A coloração não é natural?
- O envelhecimento da pele não combina com os olhos ou o cabelo do indivíduo?
- As pessoas no vídeo não estão piscando ou estão piscando de forma não natural?
- O áudio é inconsistente com os recursos visuais?
- Os membros estão estranhamente misturados ao fundo ou parecem estranhos?
Recomendamos uma combinação do bom e velho olho humano, que geralmente é perspicaz o suficiente para perceber quando algo está "errado", e uma ou mais das seguintes ferramentas IA , que são muito eficazes na detecção de manipulação. Isso é "usar IA para detectar IA", por assim dizer.
No exemplo das imagens, uma das principais características de uma cheapfake ou deepfake é a marca d'água incorporada à imagem. Com base nessas marcas d'água, as ferramentas podem facilmente dizer se uma imagem é genuína ou não. Os vídeos falsos, por outro lado, podem ser detectados por meio de várias técnicas, inclusive:
- Análise de marcas faciais, que funciona por meio da análise do posicionamento dos principais recursos de um face no vídeo, como olhos, nariz e boca. A análise do marco facial demonstrou a capacidade de identificar a manipulação de vídeo no nível do pixel para detectar imagens falsas face . A consistência temporal pode analisar ainda mais como os recursos faciais se movem ao longo do tempo; cheapfakes e deepfakes geralmente apresentam inconsistências sutis nesses movimentos.
- Além disso, a detecção de cintilação pode encontrar sinais que consistem na junção de diferentes fontes. Essas ferramentas podem detectar inconsistências na iluminação ou na cor em um vídeo para apontar a possibilidade de manipulação.
- Outra técnica se concentra nos movimentos dos lábios e nos erros de sincronização labial. A fala consiste em sons que correspondem às formas dos lábios. As ferramentas podem comparar os movimentos dos lábios com os sons; qualquer discrepância pode indicar um cheapfake ou deepfake.
- Por fim, outras ferramentas se concentram na análise das variações dos tons de cinza em um vídeo. Na verdade, o olho humano consegue distinguir cerca de dez tons de cinza diferentes, e as falsificações baratas e deepfakes podem introduzir inconsistências nos tons de escala de cinza que podem ser detectadas.
Dada a crescente proliferação de cheapfakes e deepfakes e seu potencial de provocar agitação social, além de ameaçar a privacidade individual, acreditamos que as ferramentas de detecção precisam ser implantadas de forma mais agressiva e proativa. Por exemplo:
- Os sites de compartilhamento de vídeos poderiam integrar ferramentas de detecção de deepfake para sinalizar ou verificar a autenticidade do conteúdo carregado.
- As técnicas de detecção de cheapfake e deepfake podem se tornar parte de ferramentas educacionais para capacitar os alunos a avaliar criticamente o conteúdo on-line e reconhecer deepfakes quando se depararem com eles.
- Os artistas podem ter sua reputação e sua arte comprometidas por deepfakes. A comunidade artística pode adotar a detecção de cheapfake/deepfake para autenticar a origem da obra de arte digital ou determinar se a aparição de uma celebridade em um filme é real ou sintética.
- Proteção de crianças e pessoas vulneráveis: a detecção de deepfake pode ser usada para identificar e sinalizar deepfakes criados para fins de cyberbullying. Isso pode ajudar a proteger as vítimas e responsabilizar os agressores.
Está claro que as tecnologias de detecção de deepfake IA ainda estão em desenvolvimento e ainda não atingiram a maturidade total. Isso ocorre porque essas soluções são de natureza estatística e "adivinham" se uma imagem ou vídeo é um cheapfake ou um deepfake ou não, e podem fazer uma determinação incorreta. A verdade é que os criadores de cheapfake/deepfake e as ferramentas de detecção estão em uma constante corrida armamentista. E o que está claro é que os resultados estão ficando cada vez mais sofisticados, tornando mais difícil para as ferramentas de detecção distinguir o que é real do que é fabricado. Também é importante lembrar que as ferramentas de detecção de IA são treinadas em grandes conjuntos de dados de imagens ou vídeos, e esses conjuntos de dados podem introduzir Viés.
Os algoritmos de detecção são tão bons quanto os dados de treinamento fornecidos a eles. Novas deepfakes são constantemente desenvolvidas, desafiando constantemente as ferramentas de detecção existentes. A boa notícia é que houve um progresso considerável com essas ferramentas e cada interação está melhorando. No entanto, ainda temos um longo caminho a percorrer para garantir que a sociedade não seja vítima dessas imagens fabricadas.
