Del Dr. Mohamed Lazzouni y Betanew
Este artículo se publicó por primera vez en betanews.
A medida que vamos dejando atrás las contraseñas para pasar a otras formas de autenticación, se recurre cada vez más a tecnologías como la biometría.
Verificación biométrica: concepto de reconocimiento facial de un joven
Sin embargo, cada vez hay más indicios de que esta tecnología podría tener fallos, ya que el reconocimiento facial presenta, por ejemplo, mayores índices de error en el caso de las personas de piel más oscura. Hemos hablado con el Dr. Mohamed Lazzouni, director técnico de Aware, para abordar la cuestión ética del sesgo en la biometría y lo que hay que hacer para evitarlo.
BN: En los últimos meses se ha hablado mucho de que los sistemas de reconocimiento facial son sesgados y presentan fallos inherentes. ¿Crees que se trata de una valoración justa de la tecnología en su conjunto?
ML: La biometría puede ser una gran fuerza para el bien, y es una lástima que la mayor parte, si no toda, de la imagen negativa que vemos se deba al uso de una tecnología deficiente. El ejemplo más reciente es el de Rite Aid, a la que la FTC prohibió a finales de diciembre utilizar tecnología de reconocimiento facial en sus establecimientos minoristas de EE. UU. durante cinco años. Esto se debe a que se descubrió que la tecnología de Rite Aid, que se utilizaba para identificar a los ladrones, había generado miles de falsos positivos entre 2012 y 2020, lo que afectaba de manera desproporcionada a las mujeres y a las personas de color.
Afortunadamente, otras tecnologías biométricas son mucho más precisas y capaces de superar este sesgo, lo que hace que la biometría sea beneficiosa para las empresas y, además, para la sociedad. Hoy en día, los 150 mejores algoritmos biométricos tienen una precisión superior al 99 % en una amplia variedad de grupos demográficos. El resultado son sistemas libres de sesgos que ofrecen un rendimiento «casi perfecto», con tasas de error que rondan, de media, apenas el 0,1 %. Este tipo de datos biométricos constituyen las formas más fiables y precisas de verificación de identidad que existen en el mundo.
BN: ¿Existen diferencias en el funcionamiento de los distintos sistemas de reconocimiento facial? ¿Hay algunos que sean más o menos propensos a cometer errores?
ML: Existen diferencias fundamentales en el funcionamiento de los distintos sistemas de reconocimiento facial. En los últimos años se han producido avances enormes en el reconocimiento facial en los ámbitos del aprendizaje profundo, la disponibilidad de cantidades ingentes de datos para el entrenamiento de algoritmos y la realización de pruebas exhaustivas. Un algoritmo de reconocimiento facial solo puede ser eficaz y preciso si se entrena con los conjuntos de datos más amplios del mundo, que incluyan todos los géneros, nacionalidades y minorías.
En un entorno comercial, por ejemplo, la precisión es fundamental para cualquiera que acceda a una aplicación de servicios financieros mediante reconocimiento facial o que facture su equipaje en un aeropuerto. La rapidez y la comodidad también son aspectos clave. Los algoritmos más eficaces serán aquellos que logren el «santo grial»: eliminar los sesgos raciales, de género y de otro tipo para alcanzar una paridad demográfica óptima, sin dejar de dar prioridad a la experiencia del cliente.
BN: ¿Qué hay que hacer para que estos sistemas sean más precisos en general?
ML: El entrenamiento continuo con conjuntos de datos diversos es fundamental para seguir entrenando los algoritmos basados en IA y mejorar su rendimiento. Sin embargo, el auge de los «deepfakes» está creando la necesidad de complementar esta precisión a toda prueba con algo más: la « liveness detection », una técnica mediante la cual un algoritmo detecta de forma segura si el origen de una muestra biométrica procede de una representación falsa o de un ser humano vivo.
Los «deepfakes» pueden generar imágenes y vídeos falsos increíblemente convincentes; básicamente, consisten en insertar a cualquier persona del mundo en una imagen o un vídeo en el que, en realidad, nunca ha participado. El intercambio de rostros es un ejemplo habitual de ello. Liveness detection parte de la premisa básica de que cualquier generador de deepfakes crea artefactos y patrones que difieren claramente de las interacciones humanas naturales y los atributos fisiológicos. Se están produciendo avances muy interesantes en liveness detection. Intel, por ejemplo, ha lanzado recientemente un detector de deepfakes en tiempo real capaz de determinar si el sujeto de un vídeo es real comprobando si hay flujo sanguíneo en el rostro.
BN: ¿Qué directrices deberían tener en cuenta las organizaciones a la hora de evaluar la implantación de sistemas de reconocimiento facial?
ML: En primer lugar, asegúrate de elegir un algoritmo con un historial demostrado a la hora de lograr una paridad demográfica óptima. Las clasificaciones que publica periódicamente el Instituto Nacional de Estándares y Tecnología (NIST), consideradas por muchos como el referente en ciberseguridad, son fruto de un proceso muy riguroso y constituyen una excelente validación.
En segundo lugar, asegúrate de que tu algoritmo pueda ofrecer resultados precisos sin comprometer la velocidad y la comodidad de los usuarios. Dado que la biometría se utiliza cada vez más en aplicaciones relacionadas con el dinero de las personas —como la inversión y las apuestas en línea, por ejemplo, donde el tiempo, incluso unos segundos, es fundamental—, mantener una excelente experiencia del cliente es crucial. En el ámbito comercial, ofrecer la biometría como principal método de autenticación puede suponer una clara ventaja competitiva para muchas organizaciones. De hecho, según una de nuestras últimas encuestas, más de la mitad de los consumidores prefiere registrarse en un nuevo producto o servicio utilizando la biometría, y esta sencilla verificación hace que sean más propensos a seguir utilizando dicho producto o servicio.
Además, existen una serie de consideraciones éticas a tener en cuenta a la hora de implantar la biometría en un entorno comercial físico. Al parecer, Rite Aid no informó a los clientes del uso del reconocimiento facial, y es fundamental informar a los clientes sobre el uso de esta tecnología en cualquier establecimiento.
A medida que las organizaciones van implantando la autenticación biométrica, deben hacer todo lo posible por informar a los usuarios ofreciéndoles procedimientos claros de participación y exclusión voluntaria, lo que permite a cada persona tener un control total sobre cómo se utilizan (o no) sus datos biométricos. Si una persona no desea facilitar sus datos biométricos, las organizaciones deben ofrecer siempre un método alternativo de verificación. En la gran mayoría de los casos, el deseo de comodidad prevalecerá y la mayoría de las personas optarán por el método biométrico. Un excelente ejemplo de ello: los aeropuertos de todo el mundo han observado que, al utilizar la biometría, pueden realizar el embarque en una fracción del tiempo que se tarda con los documentos de identificación habituales, y los pasajeros valoran enormemente esta entrada más rápida a los aviones.
Por último, a la hora de implementar la biometría, las organizaciones deben mantener una transparencia total en cuanto a cómo se recogen los datos, cómo se transfieren para su tratamiento, cómo se conservan y cómo y cuándo se eliminan. En concreto, las organizaciones deberán destacar ante los usuarios finales las medidas de protección adicionales que se han establecido, así como el alcance (si lo hubiera) con el que se comparten los datos biométricos con terceros.
