Do Dr. Mohamed Lazzouni e da Betanew
Este artigo foi publicado pela primeira vez no betanews.
À medida que nos afastamos das senhas para outras formas de Autenticação, há uma dependência cada vez maior de tecnologias como a biometria.
Verificação biométrica - conceito de reconhecimento face de um jovem
Mas há cada vez mais evidências de que essa tecnologia pode ser falha, com o reconhecimento facial apresentando taxas de erro mais altas para pessoas de pele mais escura, por exemplo. Conversamos com o Dr. Mohamed Lazzouni, CTO da Aware, para discutir a questão ética dos Viés na biometria e o que precisa ser feito para evitá-la.
BN: Nos últimos meses, houve uma ampla cobertura sobre o fato de os sistemas de reconhecimento facial serem tendenciosos e inerentemente falhos. Você acha que essa é uma avaliação justa da tecnologia como um todo?
ML: A biometria pode ser uma grande força para o bem e é lamentável que a maior parte, se não toda a negatividade que vemos, se deva ao uso de tecnologia inferior. O exemplo mais recente é a Rite Aid, que no final de dezembro foi proibida pela FTC de usar a tecnologia de reconhecimento facial em suas lojas nos EUA por cinco anos. Isso se deve ao fato de ter sido descoberto que a tecnologia da Rite Aid, usada para identificar ladrões de lojas, gerou milhares de falsos positivos entre 2012 e 2020, afetando desproporcionalmente mulheres e pessoas de cor.
Felizmente, outras tecnologias biométricas são muito mais precisas e capazes de superar esse Viés, tornando a biometria boa para os negócios e, além disso, para a sociedade. Atualmente, os 150 principais algoritmos biométricos têm mais de 99% de precisão em uma variedade de dados demográficos. O resultado são sistemas Viés que estão proporcionando um desempenho "quase perfeito", com taxas de erro em média de apenas 0,1%.Esses tipos de biometria são as formas mais confiáveis e precisas de verificação de Identidade do mundo.
BN: Existem diferenças na maneira como os vários sistemas de reconhecimento facial funcionam? Alguns são mais ou menos propensos a erros?
ML: Há diferenças importantes na maneira como vários sistemas de reconhecimento facial funcionam. Nos últimos anos, houve enormes avanços no reconhecimento facial nas áreas de aprendizagem profunda, disponibilidade de grandes quantidades de dados para treinamento de algoritmos e testes extensivos. Um algoritmo facial só pode ser eficaz e preciso se for treinado nos conjuntos de dados mais extensos do mundo, incluindo todos os gêneros, nacionalidades e minorias.
Em um ambiente comercial, por exemplo, Precisão é fundamental para quem acessa um aplicativo de serviços financeiros com o face ou faz o check-in da bagagem em um aeroporto. A velocidade e a conveniência também são essenciais. Os algoritmos com melhor desempenho serão aqueles capazes de oferecer o Santo Graal - eliminar preconceitos raciais, de gênero e outros para alcançar a paridade demográfica ideal, mantendo a experiência do cliente em primeiro lugar.
BN: O que precisa acontecer para que esses sistemas sejam universalmente mais precisos?
ML: O treinamento contínuo em diversos conjuntos de dados é fundamental para continuar a ensinar algoritmos IA e melhorar seu desempenho. No entanto, o aumento das deepfakes está criando a necessidade de aumentar esse Precisão à prova de balas com algo mais - detecção de liveness , uma técnica em que um algoritmo detecta com segurança se a fonte de uma amostra biométrica vem de uma representação falsa ou de um ser humano vivo.
Deepfakes podem produzir imagens e vídeos incrivelmente convincentes, basicamente unindo qualquer pessoa do mundo em uma imagem ou vídeo do qual ela nunca participou. A troca de Face é um exemplo comum disso. A detecção de Liveness funciona com a premissa básica de que qualquer gerador de deepfake cria artefatos e padrões que são nitidamente diferentes das interações humanas naturais e dos atributos fisiológicos. Há alguns avanços interessantes acontecendo na detecção de liveness . A Intel, por exemplo, lançou recentemente um detector de deepfake em tempo real capaz de determinar se o tema de um vídeo é real, verificando se há fluxo sanguíneo no face.
BN: Quais são algumas diretrizes que as organizações devem considerar ao avaliarem a implementação de sistemas de reconhecimento facial?
ML: Antes de mais nada, certifique-se de selecionar um algoritmo com um histórico comprovado de obtenção de paridade demográfica ideal. Considerado amplamente o padrão ouro em segurança cibernética, as classificações divulgadas regularmente pelo National Institute of Standards and Technology (NIST) são resultado de um processo altamente rigoroso e são uma excelente validação.
Em segundo lugar, certifique-se de que seu algoritmo possa fornecer resultados precisos sem comprometer a velocidade e a conveniência para os usuários. Como a biometria é cada vez mais utilizada em aplicativos que envolvem o dinheiro das pessoas - investimentos e apostas on-line, por exemplo, em que o tempo, até mesmo segundos, é essencial -, manter uma excelente experiência do cliente é fundamental. Em ambientes comerciais, oferecer a biometria como a principal forma de Autenticação pode oferecer uma vantagem competitiva distinta para muitas organizações. De fato, de acordo com uma de nossas pesquisas recentes, mais da metade dos consumidores prefere se inscrever em um novo produto ou serviço usando a biometria, e essa verificação fácil os torna mais propensos a continuar usando o produto ou serviço.
Além disso, há uma série de considerações éticas ao implementar a biometria em um ambiente comercial físico. A Rite Aid supostamente não informou os clientes sobre o uso do reconhecimento facial, e é essencial avisar os clientes sobre o uso dessa tecnologia em um determinado local.
À medida que as organizações implementam a Autenticação biométrica, elas devem se esforçar para educar os usuários, oferecendo procedimentos claros de Opt-In/Opt-Out, o que dá a todos o controle total sobre como seus dados biométricos são usados (ou não). Se uma pessoa não quiser fornecer seus dados biométricos, as organizações devem sempre oferecer um meio alternativo de verificação. Na grande maioria dos casos, o desejo de conveniência vencerá e a maioria das pessoas escolherá o método biométrico. Um excelente exemplo: aeroportos de todo o mundo notaram que, com o uso da biometria, eles podem embarcar em voos em uma fração do tempo necessário para usar documentos de identificação padrão, e os passageiros apreciam muito a entrada mais rápida nos aviões.
Por fim, ao implementar a biometria, as organizações devem ser totalmente transparentes em termos de como os dados são coletados, transferidos para processamento, retidos e como e quando são descartados. Especificamente, as organizações devem destacar, para os usuários finais, as proteções adicionais implementadas e a extensão (se houver) em que os dados biométricos são compartilhados com terceiros.
