Do Dr. Mohamed Lazzouni e Betanew
Este artigo foi publicado originalmente no betanews .
À medida que nos afastamos das senhas e adotamos outras formas de autenticação, há uma crescente dependência de tecnologias como a biometria.
Verificação biométrica – conceito de reconhecimento facial de jovens
Mas há cada vez mais evidências de que essa tecnologia pode ser falha, com o reconhecimento facial apresentando taxas de erro mais altas para pessoas com pele mais escura, por exemplo. Conversamos com o Dr. Mohamed Lazzouni, diretor de tecnologia da Aware, para discutir a questão ética do viés na biometria e o que precisa ser feito para evitá-lo.
BN: Nos últimos meses, houve muita cobertura sobre os sistemas de reconhecimento facial serem tendenciosos e inerentemente falhos. Você acha que essa é uma avaliação justa da tecnologia como um todo?
ML: A biometria pode ser uma grande força para o bem e é lamentável que a maior parte, senão toda, da negatividade que vemos se deva ao uso de tecnologia inadequada. O exemplo mais recente é o da Rite Aid, que no final de dezembro foi proibida pela FTC de usar tecnologia de reconhecimento facial em suas lojas nos EUA por cinco anos. Isso porque foi descoberto que a tecnologia da Rite Aid, usada para identificar ladrões de lojas, gerou milhares de falsos positivos entre 2012 e 2020, impactando desproporcionalmente mulheres e pessoas negras.
Felizmente, outras tecnologias biométricas são muito mais precisas e conseguem superar esse tipo de viés, tornando a biometria positiva para os negócios e, mais ainda, para a sociedade. Hoje, os 150 principais algoritmos biométricos apresentam mais de 99% de precisão em uma ampla variedade de perfis demográficos. O resultado são sistemas com vieses mitigados, que entregam um desempenho próximo do ideal, com taxas médias de erro em torno de apenas 0,1%. Esses tipos de tecnologias biométricas estão entre as formas mais confiáveis e precisas de verificação de identidade disponíveis atualmente.
BN: Existem diferenças no funcionamento dos vários sistemas de reconhecimento facial? Alguns são mais ou menos propensos a erros?
ML: Existem diferenças fundamentais no funcionamento dos diversos sistemas de reconhecimento facial. Nos últimos anos, houve avanços extraordinários no reconhecimento facial nas áreas de aprendizado profundo, disponibilidade de grandes quantidades de dados para treinamento de algoritmos e testes extensivos. Um algoritmo facial só pode ser eficaz e preciso se for treinado com os conjuntos de dados mais abrangentes do mundo, incluindo todos os gêneros, nacionalidades e minorias.
Em um ambiente comercial, por exemplo, precisão é fundamental para quem acessa um aplicativo de serviços financeiros com o face ou faz o check-in da bagagem em um aeroporto. A velocidade e a conveniência também são essenciais. Os algoritmos com melhor desempenho serão aqueles capazes de alcançar o verdadeiro santo graal: eliminar vieses raciais, de gênero e outros, atingindo um desempenho equilibrado entre diferentes grupos, sem perder de vista a experiência do cliente.
BN: O que precisa acontecer para que esses sistemas se tornem universalmente mais precisos?
ML: O treinamento contínuo em diversos conjuntos de dados é fundamental para continuar a ensinar algoritmos IA e melhorar seu desempenho. No entanto, o aumento das deepfakes está criando a necessidade de aumentar esse precisão à prova de balas com algo mais - detecção de liveness , uma técnica em que um algoritmo detecta com segurança se a fonte de uma amostra biométrica vem de uma representação falsa ou de um ser humano vivo.
Deepfakes podem produzir imagens e vídeos falsos incrivelmente convincentes — essencialmente, inserindo qualquer pessoa no mundo em uma imagem ou vídeo do qual ela nunca participou. A troca de rostos é um exemplo comum disso. Liveness detection Funciona com base na premissa fundamental de que qualquer gerador de deepfake cria artefatos e padrões que são distintamente diferentes das interações humanas naturais e dos atributos fisiológicos. Há alguns avanços interessantes acontecendo nessa área. liveness detection A Intel, por exemplo, lançou recentemente um detector de deepfakes em tempo real capaz de determinar se o sujeito de um vídeo é real, verificando se há fluxo sanguíneo no rosto.
BN: Quais são algumas diretrizes que as organizações devem considerar ao avaliar a implementação de sistemas de reconhecimento facial?
ML: Antes de mais nada, certifique-se de selecionar um algoritmo com histórico comprovado de obtenção de paridade demográfica ideal. Amplamente considerado o padrão ouro em cibersegurança, os rankings divulgados regularmente pelo Instituto Nacional de Padrões e Tecnologia (NIST) são fruto de um processo altamente rigoroso e constituem uma excelente validação.
Em segundo lugar, certifique-se de que seu algoritmo possa fornecer resultados precisos sem comprometer a velocidade e a conveniência para os usuários. Como a biometria é cada vez mais utilizada em aplicações que envolvem dinheiro — como investimentos e apostas online, por exemplo, onde o tempo, até mesmo segundos, é essencial — manter uma excelente experiência do cliente é fundamental. Em ambientes comerciais, oferecer biometria como principal forma de autenticação pode proporcionar uma clara vantagem competitiva para muitas organizações. De fato, de acordo com uma de nossas pesquisas recentes, mais da metade dos consumidores prefere se cadastrar em um novo produto ou serviço usando biometria, e essa verificação fácil aumenta a probabilidade de continuarem usando o produto ou serviço.
Além disso, existem diversas considerações éticas a serem feitas ao implementar biometria em um ambiente comercial físico. Alega-se que a Rite Aid não informou os clientes sobre o uso de reconhecimento facial, e notificar os clientes sobre o uso dessa tecnologia em qualquer estabelecimento é essencial.
À medida que as organizações implementam a autenticação biométrica, devem envidar todos os esforços para educar os usuários, oferecendo procedimentos claros de adesão/recusa, que dão a todos controle total sobre como seus dados biométricos são usados (ou não). Se uma pessoa não desejar fornecer seus dados biométricos, as organizações devem sempre oferecer um meio alternativo de verificação. Na grande maioria dos casos, o desejo de conveniência prevalecerá e a maioria das pessoas escolherá o método biométrico. Um excelente exemplo disso: aeroportos em todo o mundo observaram que, ao usar a biometria, conseguem embarcar passageiros em voos em uma fração do tempo necessário com documentos de identificação padrão, e os passageiros apreciam muito a entrada mais rápida nas aeronaves.
Por fim, ao implementar a biometria, as organizações devem ser totalmente transparentes em relação à forma como os dados são coletados, transferidos para processamento, armazenados e como e quando são descartados. Especificamente, as organizações devem destacar para os usuários finais as proteções adicionais implementadas e a extensão (se houver) em que os dados biométricos são compartilhados com terceiros.
