Por Mario Cesar Santos
No Mind the Sec 2025, o vice-presidente da Aware para a América Latina, Mario Cesar Santos, falou sobre um assunto que está transformando rapidamente o cenário desegurança Identidade : o surgimento da IA generativa e de grandes modelos de linguagem como facilitadores da Fraude.
Para quem não conhece, um modelo de linguagem grande (LLM) é um sistema de inteligência artificial treinado em grandes quantidades de dados de texto para entender e gerar linguagem semelhante à humana. Ferramentas como ChatGPT ou Bard são exemplos. Os LLMs podem escrever textos convincentes, responder a perguntas, traduzir idiomas ou até mesmo imitar estilos de comunicação. Esses são recursos que os fraudadores podem explorar para criar mensagens de phishing realistas, scripts ou personas falsas em escala.
Durante anos, as organizações lutaram contra fraudadores que se valiam de e-mails de phishing grosseiros, documentos falsificados e credenciais roubadas. Essas táticas não desapareceram, mas estão sendo ampliadas (e, em muitos casos, eclipsadas) por ferramentas IA que permitem que Fraude opere em escala industrial.
A ascensão da Fraude IA
IA generativa reduziu a barreira de entrada para a Fraude e turbinou sua execução. Os fraudadores agora estão criando identidades sintéticas combinando fragmentos de dados pessoais reais com imagens, vídeos e documentos IA que são cada vez mais indistinguíveis do artigo genuíno. Deepfakes e manipulações de vídeo podem contornar verificações básicas de liveness e enganar até mesmo revisores humanos treinados. Ao mesmo tempo, grandes modelos de linguagem estão sendo usados para criar scripts de engenharia social altamente convincentes em vários idiomas, tornando os ataques mais personalizados e eficazes do que nunca.
O impacto não se limita a phishing ou falsificação de identidade. IA também está possibilitando a emulação de aplicativos legítimos, principalmente aplicativos bancários e de verificação de Identidade , ou a injeção de códigos maliciosos em aplicativos existentes. Além disso, os LLMs podem ajudar os fraudadores a encontrar vulnerabilidades nos sistemas e a escrever códigos maliciosos sem a necessidade de serem totalmente versados em linguagens de programação.
Os invasores agora podem orquestrar campanhas maciças com agentes automatizados, produzindo variações infinitas de conteúdo fraudulento para evitar a detecção.
Em contraste com as tentativas manuais e oportunistas de Fraude do passado, esses novos métodos são realistas, adaptáveis e implacáveis.
Por que as defesas atuais são insuficientes
A verdade incômoda é que muitas organizações ainda não se adaptaram a essa mudança radical nas táticas de Fraude . As defesas tradicionais foram projetadas para uma era diferente e são ineficazes contra identidades sintéticas, deepfakes ou Fraude IA em escala. As empresas que continuam a confiar em sistemas de Identidade legados ou na revisão humana de transações de alto risco correm o risco de se tornarem presas fáceis nesse novo ambiente.
Setores como o de serviços financeiros e o de governo eletrônico continuam sendo os principais alvos, onde os riscos são mais altos e as possíveis recompensas mais atraentes. Telecom, comércio eletrônico e saúde também estão cada vez mais na mira, juntamente com as redes corporativas, onde sistemas fracos de gerenciamento de Identidade e acesso oferecem aos invasores um ponto de entrada fácil. No entanto, em todos os setores, a maioria das organizações continua despreparada. A dependência de senhas, verificações Documento e revisão manual não é mais suficiente. Muitas empresas continuam a depender de regras de verificação de Identidade desatualizadas ou de métodos rudimentares de detecção de liveness que os adversários equipados com IA podem contornar com relativa facilidade.
Mudança de prioridades nasegurança Identidade
Para enfrentar essa nova realidade, as organizações estão começando a mudar suas prioridades. A verificação Identidade não pode mais girar em torno apenas de documentos e senhas. As soluções baseadas em biometria, especialmente aquelas que incorporam várias camadas de defesa, estão se tornando centrais. As ferramentas Avançada de detecção deFraude , capazes de identificar artefatos invisíveis para revisores humanos, agora são essenciais, assim como o monitoramento contínuo que avalia o risco em toda a Etapas do usuário. Ao mesmo tempo, as empresas devem equilibrar a eficácia com a Equidade e compliance, garantindo que seus sistemas não introduzam Viés demográficos ou usem indevidamente dados pessoais confidenciais.
Os órgãos reguladores estão prestando muita atenção, exigindo transparência, Equidade e responsabilidade. Padrões como as avaliações biométricas do Departamento de segurança interna dos EUA e o programa FATE do NIST fornecem referências para precisão e Equidade. Enquanto isso, normas de privacidade como o GDPR, a LGPD do Brasil e as leis estaduais dos EUA em evolução exigem que as organizações provem que estão protegendo dados biométricos e pessoais de forma responsável. O ônus da compliance está aumentando, assim como o risco de danos à reputação das empresas que não atendem às expectativas de equidade e transparência.
O que o futuro reserva para a Fraude
A perspectiva para os próximos anos sugere que Fraude só se tornará mais Avançada. Os deepfakes hiper-realistas, os modelos Fraude e as identidades sintéticas multimodais borrarão a linha entre o real e o artificial.
Na Aware, acreditamos que a resposta está na biometria fortificada por defesas em camadas. Nosso trabalho está concentrado no avanço da detecção de liveness por meio de métodos passivos e dinâmicos, na criação de "supermodelos" de fusão que integram várias modalidades e no fornecimento de inteligência Fraude em tempo real que evolui tão rapidamente quanto os adversários. Igualmente importante, nossa plataforma foi projetada para oferecer transparência, flexibilidade e validação independente para garantir Confiança em cada implementação.
Principais conclusões para os líderes
A principal conclusão é clara: Fraude generativa IA não é simplesmente um desafio incremental, é uma mudança radical. Para permanecerem seguras, as organizações devem:
- Reconheça a mudança de etapa - Fraude habilitada por IA não é um negócio comum.
- Investir em biometria como um pilar central da Identidade segurança.
- Adote defesas em camadas que combinem liveness, monitoramento contínuo e biometria multimodal.
- Aproveite os benchmarks e a validação externa para garantir Equidade, compliance e Confiança.
- Desenvolva a agilidade, pois a adaptabilidade é tão importante quanto a força.
Mario encerrou sua palestra com um lembrete que vale a pena repetir: a tecnologia em si é neutra. São as pessoas que decidem como ela será usada. Os fraudadores estão usando IA para explorar as fraquezas humanas. Nosso trabalho é usar o aprendizado de máquina e a biometria Avançada para fortalecer as defesas, proteger Confiança e dar às empresas a confiança necessária para crescer nesta nova era. A luta mudou, mas com as ferramentas e a mentalidade certas, é uma luta que podemos vencer.
