Se você já passou algum tempo nas redes sociais, talvez tenha se deparado com o que é um avanço tecnológico potencialmente preocupante: o deepfake. As imagens de deepfake podem ser vistas como algo que varia de divertido a preocupante — ou até mesmo assustador. Uma figura política divulgando propaganda que, na verdade, não divulgou. Uma figura histórica fazendo um discurso que, na verdade, não fez. Um ator famoso fazendo ou dizendo coisas que não fez nem disse. Algumas perguntas que talvez estejam passando pela sua cabeça: como essas imagens são criadas? Quais são as implicações de segurança dos deepfakes? Devo me preocupar? Fique tranquilo: embora a tecnologia deepfake esteja avançando, não há motivo para pânico quanto ao que isso possa significar para a segurança da pessoa comum.
O que é a tecnologia deepfake?
A expressão “deepfake” deriva da combinação dos termos “deep learning” e “fake”. Embora não haja uma definição universalmente aceita, um deepfake geralmente significa que uma pessoa em um vídeo existente é substituída pela imagem de outra pessoa. Essencialmente, um deepfake é uma foto, um áudio ou um vídeo que foi manipulado por Aprendizado de Máquina (ML) e Inteligência Artificial (IA) para parecer algo que não é.
Os deepfakes não são vídeos que foram retrabalhados por softwares de edição de vídeo. Eles geralmente são gerados por aplicativos ou algoritmos especializados, por meio da combinação de imagens de vídeo antigas com outras recém-criadas. Esses aplicativos de deepfake, baseados em aprendizado de máquina, deconstruem as características sutis do rosto de uma pessoa e aprendem a manipulá-las com base nas condições específicas do vídeo. Essas manipulações podem então ser integradas a um segundo vídeo, resultando em uma criação totalmente nova.
Aplicativos e softwares de deepfake
O funcionamento interno de um algoritmo de deepfake é complexo. Mas o “segredo” desses algoritmos tem dois componentes importantes. O primeiro é que eles desenvolvem uma compreensão profunda do rosto de uma pessoa e aprendem a mapear esses atributos para outro rosto. Como a maioria das pessoas tem boca, olhos e nariz mais ou menos no mesmo lugar, um algoritmo de deepfake pode analisar as características dessa anatomia e aprendê-las com um nível excepcional de detalhes. Em seguida, ele manipula as características em um segundo vídeo para que correspondam às características observadas no primeiro. O algoritmo faz tudo isso mantendo o estilo e a aparência gerais do vídeo original.
Outra característica interessante dos algoritmos de deepfake é que eles são compostos por partes que atuam de forma oposta entre si. Enquanto uma parte gera dados falsos, há uma segunda parte treinada para identificar esses dados falsos, ajudando a melhorar os resultados ao apontar o que parece ser falso. Um programa de deepfake pode atuar como seu próprio treinador e professor para aprimorar o resultado final.
O resultado é um vídeo sintético que pode ser usado com boas ou más intenções. Ao pensar em um vídeo sintético, não é difícil imaginar por que ele pode ser perigoso. Existe o risco óbvio de que as palavras ou ações sintéticas de uma pessoa possam incitar alguém a fazer algo ruim ou perigoso. Mas um risco adicional é que os vídeos sintéticos possam começar a minar a credibilidade dos vídeos genuínos. Especialistas em privacidade estão, compreensivelmente, preocupados com a possibilidade de um deepfake ser usado para espalhar desinformação nas redes sociais ou contornar medidas de segurança, como plataformas de autenticação biométrica.
Quais são as outras preocupações?
Morphs, ataques de apresentação e outras ameaças em evolução
As preocupações não se limitam aos deepfakes. Os “morphs” são um tipo de método de ataque biométrico que combina os rostos de duas ou mais pessoas em um único rosto. Como pode haver elementos do rosto de um usuário autorizado e de um usuário não autorizado no “morph”, o reconhecimento facial poderia, potencialmente, ser enganado a conceder acesso de forma fraudulenta. Os “morphs” também podem ser usados para falsificar documentos de identidade, como passaportes, para pessoas que não podem obtê-los legalmente ou cruzar fronteiras. Nesse caso, um “morph” seria criado combinando as características da pessoa que não pode obter um passaporte com as de alguém que pode. Essa imagem combinada poderia então ser usada para solicitar um novo passaporte. Depois de receber o passaporte, o viajante não autorizado poderia usá-lo na tentativa de contornar a segurança nas fronteiras.
Apesar do que poderia ser considerado um potencial preocupante, as notícias sobre deepfakes, morphs e outras ameaças potenciais em evolução não são todas ruins. Por um lado, o tipo de aprendizado não supervisionado que está sendo aperfeiçoado nos algoritmos e aplicativos de deepfake tem potencial para o bem. O aprendizado de máquina, semelhante ao observado na tecnologia de deepfake, pode ajudar carros autônomos a reconhecer o ambiente ao redor, incluindo pedestres, e contribuir para melhorar a pesquisa por voz e os aplicativos de realidade virtual.
Uma das razões pelas quais os deepfakes têm se concentrado em celebridades e figuras históricas é que há muitos dados de referência disponíveis sobre elas. Um algoritmo de aprendizado de máquina, como os utilizados no processamento de deepfakes, precisa compreender profundamente a aparência de um sujeito. Isso significa que ele deve analisar dados do sujeito sob diferentes ângulos, em diferentes condições de iluminação e em diversas situações. Portanto, para uma pessoa comum, é difícil ter dados de referência suficientes para que ela se torne alvo de um ataque de deepfake.
A notícia também é promissora para organizações ou pessoas físicas que possam utilizar a autenticação biométrica para proteger seus ativos. As melhores estruturas biométricas da categoria utilizam a detecção de vida ( liveness detection ) – que determina se o usuário é uma pessoa viva e real, apresentada ao vivo ao dispositivo de captura de imagem, ou se trata de uma apresentação fraudulenta ou um ataque de falsificação destinado a violar o sistema. Seja uma simples foto falsificada, um deepfake ou um vídeo de morphing, sistemas de autenticação biométrica confiáveis possuem uma capacidade sólida de distinguir entre uma pessoa viva e uma réplica de uma pessoa viva.
Ataques de apresentação, deepfakes e morphs
Sempre foi de vital importância proteger os ativos sensíveis e valiosos das organizações e de seus clientes contra ameaças externas e acessos indesejados. No mundo atual, isso se torna ainda mais evidente, com o roubo de identidade atingindo níveis sem precedentes e as violações de dados aumentando em 17%¹ somente desde 2020.
As senhas têm sido, tradicionalmente, a espinha dorsal da maioria dos métodos de autenticação para segurança de acesso, mas, como 61% das violações de dados ocorrem em decorrência de senhas fracas ou roubadas², as organizações estão buscando alternativas mais seguras. A autenticação biométrica, que utiliza as características físicas únicas de uma pessoa para conceder acesso a informações ou ativos confidenciais, praticamente elimina os problemas associados aos métodos de autenticação baseados em senhas, oferecendo às organizações uma alternativa muito mais segura.
No entanto, com a transição da autenticação baseada em senha para a biométrica, que está ocorrendo atualmente para melhorar a segurança, hackers externos e agentes mal-intencionados têm tentado acompanhar essa tendência com novos métodos de ataque projetados para contornar essas medidas de segurança reforçadas e obter acesso de forma fraudulenta. Esses métodos incluem ataques de apresentação, deepfakes e morphs, e o aumento de sua frequência resultou em maior conscientização e receio em relação a eles. Felizmente, existem muitos equívocos em torno desses métodos e do grau real de ameaça que representam. Organizações munidas de informações sobre cada uma dessas ameaças em constante evolução podem se proteger de forma eficaz e garantir aos clientes e às partes interessadas que seus ativos permanecem seguros.
