Os deepfakes utilizam inteligência artificial para manipular mídias, incluindo áudio ou vídeo, a fim de criar conteúdo hiper-realista, mas totalmente falso, de pessoas reais. Embora possam ser divertidos ou até mesmo inofensivos em alguns casos, eles também podem representar ameaças reais — incluindo manipulação política, fraude e violação da privacidade.
O avanço da inteligência artificial e da tecnologia deepfake tornou mais fácil do que nunca criar conteúdos falsos convincentes. E com o aumento da desinformação e da informação errônea em nossa sociedade moderna politicamente polarizada, as consequências podem ser perigosas. Seja uma celebridade endossando uma causa que não apoia ou alguém enganando uma instituição financeira com uma voz falsa, os deepfakes estão se tornando um problema sério no mundo digital atual.
Deepfakes políticos
Em julho de 2024, Elon Musk, CEO da Tesla e proprietário do X (antigo Twitter), compartilhou com seus 199,2 milhões de seguidores no X um vídeo deepfake da vice-presidente e candidata à presidência Kamala Harris xingando e fazendo declarações fora do seu padrão de comportamento. Um mês depois, o ex-presidente e presidente eleito Donald Trump compartilhou com seus 7,78 milhões de seguidores em sua plataforma Truth Social uma imagem deepfake da popular cantora Taylor Swift endossando sua campanha presidencial de 2024, juntamente com várias imagens geradas digitalmente de jovens mulheres vestindo camisetas com os dizeres “Swifties for Trump”. Essas deepfakes rapidamente se tornaram virais.
Além de serem desonestos, os deepfakes que retratam figuras públicas podem polarizar a opinião pública, criar caos e até mesmo influenciar eleições — e na velocidade da luz! Um deepfake pode passar de alguns retuítes a uma confusão global em questão de horas.
Embora alguns considerem esse tipo de conteúdo apenas uma paródia engraçada e inofensiva, quando compartilhado por figuras públicas e políticas com grande alcance e retratando figuras públicas e políticas com impacto desproporcional em nossas eleições (quando Taylor Swift acabou apoiando um candidato, 35 mil novos eleitores se registraram em 24 horas), o risco de confundir os eleitores é bastante alto.
Independentemente da sua posição no espectro político, os deepfakes são um obstáculo lamentável na busca pela verdade.
Deepfakes de voz para fins de fraude
Não é apenas o conteúdo de vídeo que é utilizado na manipulação por IA. Os deepfakes de voz surgiram como uma tendência nova e preocupante nos golpes. Um caso de grande repercussão envolveu uma empresa de energia sediada no Reino Unido, que foi vítima de um golpe de US$ 243.000 quando criminosos realizaram uma campanha de “vishing” (“vishing” é a abreviação de “voice phishing”, a tática de enganar vítimas por telefone) usando uma voz artificial tão semelhante à do chefe da matriz alemã da empresa que os funcionários não perceberam a diferença. Esse incidente marca a primeira vez que uma fraude de voz baseada em IA rendeu um ganho tão alto, de acordo com o The Next Web.
Ao imitar uma voz conhecida, os golpistas conseguiram executar um roubo financeiro com uma precisão chocante. Esse tipo de ataque destaca a crescente ameaça à segurança financeira e pessoal. Quando você não pode confiar nas vozes que ouve, a verificação de identidades se torna um grande desafio para empresas e indivíduos.
A crise da pornografia deepfake
O lado sombrio da tecnologia deepfake também invade os espaços mais íntimos das pessoas. A pornografia deepfake, em que o rosto de uma pessoa é sobreposto a conteúdo explícito sem seu consentimento, tornou-se um problema crescente, afetando desproporcionalmente as mulheres. A política Alexandria Ocasio-Cortez tem sido alvo de pornografia deepfake, e um estudo recente constatou que 98% dos vídeos deepfake na internet eram pornográficos e que 99% das pessoas visadas eram mulheres ou meninas.
Esse uso indevido da IA constitui uma grave violação da privacidade e da segurança pessoal. Isso não apenas mancha a reputação das pessoas, mas também causa danos psicológicos. As vítimas muitas vezes ficam com poucos recursos legais (há muitos estados que ainda não criminalizaram a pornografia de vingança com deepfakes), e os danos causados às suas vidas pessoais e profissionais podem ser irreversíveis.
Anúncios com deepfakes e endossos falsos
Os deepfakes também estão, aos poucos, invadindo o mundo da publicidade. Esses anúncios gerados por IA podem induzir os consumidores a acreditar que sua celebridade favorita está por trás de um produto ou serviço quando, na verdade, ela não tem nenhum envolvimento.
Esses anúncios com tecnologia deepfake levantam sérias questões legais e éticas. Eles podem manchar a imagem de uma celebridade e levar a ações judiciais por propaganda enganosa. Para os consumidores, trata-se de mais uma camada de engano com a qual precisam lidar em um mundo da publicidade digital já de si complexo.
5 dicas práticas para identificar conteúdo deepfake
Então, como você pode se proteger para não cair no golpe de um deepfake? Aqui vão algumas dicas práticas:
- Fique atento a movimentos oculares não naturais – a tecnologia deepfake tem dificuldade em reproduzir a frequência natural de piscadas e os movimentos oculares sutis de seres humanos reais.
- Verifique se há inconsistências na iluminação – Se a iluminação da pessoa não combinar com o fundo, pode ser um deepfake.
- Fique atento a expressões faciais estranhas – os deepfakes costumam apresentar movimentos faciais que parecem um pouco fora do normal, como um sorriso que não combina muito bem com o tom da conversa.
- Preste atenção – Se for um deepfake de voz, o tom pode ser monótono, ou o jeito de falar pode soar pouco natural.
- Fontes de referência cruzada – Se um conteúdo parecer suspeito, compare-o com fontes de notícias confiáveis para confirmar sua autenticidade.
Um futuro com deepfakes
Os deepfakes não são mais apenas coisa de ficção científica — eles estão aqui e estão causando danos reais. Desde manipulação política e fraudes financeiras até violações de privacidade e anúncios enganosos, o potencial para uso indevido é enorme. Como vimos nesses exemplos, a lição principal é permanecer vigilante e crítico em relação ao conteúdo que consumimos — sempre investigar as fontes e conferir com outros veículos de notícias se uma imagem ou áudio parecer suspeito.
O futuro dos deepfakes continuará a desafiar nossos sistemas jurídicos, nossos padrões éticos, nossos processos eleitorais e até mesmo a maneira como percebemos a realidade. À medida que a tecnologia por trás dos deepfakes evolui, o mesmo deve acontecer com nossas estratégias para detectá-los e prevenir seu uso indevido.
https://www.aware.com/wp-content/uploads/2025/01/angela-enrique-webinar.jpg
Desmascarando os deepfakes: protegendo sua empresa na era da fraude com IA
A fraude gerada por IA — por meio de deepfakes, vídeos de IA de geração e imagens sintéticas — está evoluindo rapidamente, representando um risco cada vez maior para as organizações.
Junte-se a Enrique Caballero, especialista em identidade digital, e a Angela Diaco, diretora sênior de marketing da Aware, para uma análise detalhada das últimas tendências em fraudes e para conhecer as ferramentas e estratégias que protegem sua empresa.
Durante a sessão, vamos abordar:
- Os setores mais afetados pela fraude com IA atualmente e o que está por vir.
- Como os vídeos deepfakes e gerados por IA (GenAI) prejudicam a verificação da identidade digital.
- As tecnologias biométricas desenvolvidas para combater essas ameaças emergentes.
- Análises sobre os rankings do NIST FATE e como a Aware lidera o setor de segurança biométrica.
