Se você passa algum tempo nas mídias sociais, talvez tenha se deparado com um avanço tecnológico potencialmente preocupante: o deepfake. As imagens deepfake podem ser vistas como algo divertido, preocupante ou até mesmo assustador. Uma figura política fazendo propaganda que não fez de fato. Uma figura histórica fazendo um discurso que não fez de fato. Um ator famoso fazendo ou dizendo coisas que não fez ou disse. Algumas perguntas que podem estar surgindo em sua mente - como essas imagens são criadas? Quais são as implicações de segurança das deepfakes? Devo me preocupar? Fique tranquilo, embora a tecnologia deepfake esteja avançando, não há necessidade de entrar em pânico sobre o que isso pode significar para a segurança de uma pessoa comum.
O que é a tecnologia Deepfake?
A expressão "deepfake" vem da combinação dos termos "deep learning" (aprendizado profundo) e "fake" (falso). Embora não exista uma definição universalmente aceita, um deepfake geralmente significa que uma pessoa em um vídeo existente é substituída pela semelhança de outra pessoa. Essencialmente, um deepfake é uma foto, um áudio ou um vídeo que foi manipulado pelo aprendizado de máquina (ML) e pela inteligência artificialIA) para fazer com que pareça ser algo que não é.
Deepfakes não são vídeos que foram retrabalhados por um software de edição de vídeo. Em geral, são gerados por aplicativos ou algoritmos especializados, por uma mistura de vídeos antigos e recém-fabricados. Esses aplicativos de deepfake, baseados em aprendizado de máquina, desconstroem os recursos sutis do face de alguém e aprendem a manipulá-los com base nas condições individuais do vídeo. Essas manipulações podem, então, ser integradas em um segundo vídeo, formando uma criação totalmente nova.
Aplicativos e software Deepfake
O funcionamento interno de um algoritmo de deepfake é complexo. Mas o "molho secreto" dos algoritmos tem dois componentes importantes. O primeiro é que eles desenvolvem uma compreensão profunda do face de uma pessoa e aprendem a mapear esses atributos para outro face. Como a maioria das pessoas tem a boca, os olhos e o nariz mais ou menos no mesmo lugar, um algoritmo de deepfake pode analisar as características dessa anatomia e aprendê-la em um nível excepcional de detalhes. Em seguida, ele manipula os recursos em um segundo vídeo para corresponder aos recursos vistos no primeiro. O algoritmo faz tudo isso mantendo o estilo e a aparência geral do vídeo original.
Outra característica interessante do algoritmo deepfake é que ele é composto de partes que trabalham em oposição umas às outras. Como uma parte fabrica dados falsos, há uma parte secundária que é treinada para sinalizar esses dados falsos, ajudando a melhorar os resultados ao apontar o que parece ser falso. Um programa deepfake pode atuar como seu próprio treinador e professor para melhorar o resultado.
O resultado é um vídeo sintético que pode ser usado com boas ou más intenções. Ao considerar um vídeo sintético, não é difícil imaginar por que ele pode ser perigoso. Há o risco óbvio de que as palavras ou ações sintéticas de uma pessoa possam incitar alguém a fazer algo ruim ou perigoso. Mas um risco adicional é que os vídeos sintéticos podem começar a minar a credibilidade dos vídeos genuínos. Os especialistas em privacidade estão compreensivelmente preocupados com a possibilidade de um deepfake ser usado para espalhar desinformação nas mídias sociais ou contornar medidas segurança , como plataformas Autenticação biométrica.
Quais são as outras preocupações?
Morphs, Apresentações, Ataques e Outras Ameaças em Evolução
As preocupações não se limitam aos deepfakes. Os morphs são um tipo de método de ataque biométrico que combina os rostos de dois ou mais indivíduos em um único face. Como pode haver elementos do face de um usuário autorizado e de um usuário não autorizado no morph, o reconhecimento facial pode ser induzido a fornecer acesso de forma fraudulenta. Os morphs também podem ser usados para fabricar documentos Identidade , como passaportes, para indivíduos que não podem obtê-los legalmente ou cruzar fronteiras. Nesse caso, um morph seria criado combinando as semelhanças da pessoa que não pode obter um passaporte com uma pessoa que pode. Essa imagem transformada poderia então ser usada para registrar-se para obter um novo passaporte. Uma vez recebido o passaporte, o viajante não autorizado poderia usá-lo em uma tentativa de contornar segurança nas fronteiras.
Apesar do que poderia ser considerado um potencial preocupante, as notícias sobre deepfakes, morphs e outras ameaças potenciais em evolução não são de todo ruins. Por um lado, o tipo de aprendizagem não supervisionada que está sendo aperfeiçoada nos algoritmos e aplicativos de deepfake tem potencial para o bem. O aprendizado de máquina semelhante ao que é visto na tecnologia deepfake pode ajudar os carros autônomos a reconhecer os arredores, inclusive os pedestres, e ajudar a melhorar a pesquisa de voz e os aplicativos de realidade virtual.
Um dos motivos pelos quais deepfakes se concentraram em celebridades e figuras históricas é o fato de que há muitos dados de fundo disponíveis sobre eles. Um algoritmo de aprendizado de máquina, como os usados no processamento de deepfake, precisa entender profundamente a aparência de um objeto. Isso significa que ele deve analisar os dados do sujeito de diferentes ângulos, em diferentes condições de iluminação e em várias condições. Portanto, para uma pessoa comum, é difícil ter dados de fundo suficientes disponíveis para que ela seja o alvo de um ataque de deepfake.
As notícias também são promissoras para organizações ou indivíduos que possam usar a Autenticação biométrica para proteger seus ativos. As melhores estruturas biométricas da categoria usam a detecção de liveness , que determina se o usuário é uma pessoa viva, respirando, sendo apresentada ao vivo ao dispositivo de imagem ou se é uma apresentação ou um ataque de falsificação projetado para violar o sistema. Quer se trate de uma simples foto falsa ou de uma falsificação profunda, ou de um vídeo morfológico, os sistemas de Autenticação biométrica de boa reputação têm uma sólida capacidade de distinguir entre uma pessoa viva e um fac-símile de uma pessoa viva.
Ataques de apresentação, Deepfakes e Morphs
Sempre foi de vital importância proteger os ativos confidenciais e valiosos das organizações e de seus clientes contra ameaças externas e acesso indesejado. No mundo de hoje, isso é ainda mais acentuado com o roubo de Identidade em um nível mais alto de todos os tempos e as violações de dados aumentando em 17%1 somente desde 2020.
As senhas normalmente formam a espinha dorsal da maioria dos métodos deAutenticação de segurança de acesso, mas com 61% das violações de dados ocorrendo como resultado de senhas fracas ou roubadas2, as organizações estão procurando alternativas mais seguras. Autenticação biométrica, que aproveita as características físicas exclusivas de uma pessoa para conceder acesso a informações ou ativos seguros, praticamente elimina os problemas associados aos métodos Autenticação baseados em senhas, oferecendo às organizações uma alternativa muito mais segura.
Com a mudança da Autenticação baseada em senhas para a Autenticação biométrica, que agora está ocorrendo para melhorar segurança, no entanto, hackers externos e partes mal-intencionadas tentaram seguir o exemplo com novos métodos de ataque projetados para frustrar essas medidas segurança aprimoradas e obter acesso de forma fraudulenta. Esses métodos incluem ataques de apresentação, deepfakes e morphs, e seu aumento na frequência resultou em maior conscientização e medo em relação a eles. Felizmente, existem muitos conceitos errôneos sobre esses métodos e o grau de ameaça que eles realmente representam. As organizações munidas de informações sobre cada uma dessas ameaças em evolução podem se proteger com eficácia e garantir aos clientes e às partes interessadas que seus ativos permaneçam seguros.
