Del Dr. Mohamed Lazzouni y Betanew
Este artículo apareció por primera vez en betanews.
A medida que nos alejamos de las contraseñas y adoptamos otras formas de Autenticación, se recurre cada vez más a tecnologías como Biometría.
Biometric Verificación - young man Rostro recognition concept
Pero cada vez hay más pruebas de que esta tecnología podría ser defectuosa, ya que, por ejemplo, el reconocimiento facial presenta mayores tasas de error en las personas de piel más oscura. Hablamos con el Dr. Mohamed Lazzouni, CTO de Aware, para analizar la cuestión ética Sesgo en la Biometría y lo que hay que hacer para evitarlo.
BN: En los últimos meses se ha hablado mucho de que los sistemas de reconocimiento facial son parciales e intrínsecamente defectuosos. Cree que es una valoración justa de la tecnología en su conjunto?
ML: Biometría puede ser una gran fuerza para el bien y es lamentable que la mayor parte, si no toda, la negatividad que vemos se deba al uso de una tecnología deficiente. El ejemplo más reciente es Rite Aid, a la que la FTC prohibió a finales de diciembre utilizar tecnología de reconocimiento facial en sus establecimientos minoristas de Estados Unidos durante cinco años. Esto se debe a que se descubrió que la tecnología de Rite Aid, que se utilizaba para identificar a los ladrones de tiendas, había generado miles de falsos positivos entre 2012 y 2020, afectando desproporcionadamente a las mujeres y a las personas de color.
Afortunadamente, otras tecnologías biométricas son mucho más precisas y capaces de superar este Sesgo, lo que hace que Biometría sea buena para las empresas y, más aún, para la sociedad. En la actualidad, los 150 principales algoritmos biométricos tienen una precisión superior al 99% en una gran variedad de datos demográficos. El resultado son sistemas Sesgo que ofrecen un rendimiento "casi perfecto", con una media de errores de apenas el 0,1%.Estos tipos de Biometría son las formas deVerificación Identidad más fiables y precisas del mundo.
BN: ¿Existen diferencias en el funcionamiento de los distintos sistemas de reconocimiento facial? ¿Son algunos más o menos propensos a cometer errores?
ML: Existen diferencias clave en el funcionamiento de los distintos sistemas de reconocimiento facial. En los últimos años, se han producido enormes avances en el reconocimiento facial en los ámbitos del aprendizaje profundo, la disponibilidad de cantidades masivas de datos para el entrenamiento de algoritmos y las pruebas exhaustivas. Un algoritmo facial solo puede ser eficaz y preciso si se entrena con los conjuntos de datos más amplios del mundo, incluidos todos los géneros, nacionalidades y minorías.
En un entorno comercial, por ejemplo, Precisión es vital para cualquiera que acceda a una aplicación de servicios financieros con su Rostro o facture su equipaje en un aeropuerto. La rapidez y la comodidad también son fundamentales. Los algoritmos más eficaces serán los que consigan el santo grial: eliminar los sesgos raciales, de género y de otro tipo para lograr una paridad demográfica óptima, sin perder de vista la experiencia del cliente.
BN: ¿Qué hay que hacer para que estos sistemas sean universalmente más precisos?
ML: El entrenamiento continuo en diversos conjuntos de datos es fundamental para seguir enseñando algoritmos IA y mejorar su rendimiento. Sin embargo, el auge de deepfakes está creando la necesidad de aumentar esta Precisión a prueba de balas con algo más: la detección prueba de vida facial , una técnica en la que un algoritmo detecta de forma segura si la fuente de una muestra biométrica procede de una representación falsa o de un ser humano vivo.
Deepfakes pueden generar imágenes y vídeos falsos increíblemente convincentes, en los que cualquier persona del mundo aparece en una imagen o vídeo en el que nunca ha participado. La detección facial de prueba de vida facial de vida parte de la premisa básica de que cualquier generador de deepfakes crea artefactos y patrones que difieren claramente de las interacciones humanas naturales y de los atributos fisiológicos. Se están produciendo algunos avances interesantes en la detección facial de prueba de vida facial . Intel, por ejemplo, acaba de lanzar un detector de deepfakes en tiempo real capaz de determinar si el sujeto de un vídeo es real determinando si hay flujo sanguíneo en el Rostro.
BN: ¿Cuáles son algunas de las directrices que las organizaciones deberían tener en cuenta a la hora de evaluar la implantación de sistemas de reconocimiento facial?
ML: Ante todo, asegúrese de seleccionar un algoritmo con un historial probado en la consecución de una paridad demográfica óptima. Las clasificaciones que publica periódicamente el Instituto Nacional de Estándares y Tecnología (NIST, por sus siglas en inglés), ampliamente consideradas el estándar de oro en ciberseguridad, son fruto de un proceso muy riguroso y constituyen una excelente validación.
En segundo lugar, asegúrese de que su algoritmo puede ofrecer resultados precisos sin comprometer la rapidez y la comodidad para los usuarios. Dado que Biometría se utiliza cada vez más en aplicaciones en las que interviene el dinero de las personas -inversiones y apuestas en línea, por ejemplo, en las que el tiempo, incluso los segundos, son esenciales-, es fundamental mantener una excelente experiencia del cliente. En entornos comerciales, ofrecer Biometría como forma principal de Autenticación puede suponer una clara ventaja competitiva para muchas organizaciones. De hecho, según una de nuestras encuestas recientes, más de la mitad de los consumidores preferirían registrarse en un nuevo producto o servicio utilizando Biometría y esta fácil Verificación les hace más propensos a seguir utilizando el producto o servicio.
Además, hay una serie de consideraciones éticas a la hora de desplegar Biometría en un entorno comercial físico. Rite Aid supuestamente no informó a los clientes de su uso del reconocimiento facial, y es esencial avisar a los clientes del uso de esta tecnología en un lugar determinado.
A medida que las organizaciones despliegan la Autenticación biométrica, deben hacer todo lo posible por educar a los usuarios ofreciéndoles procedimientos claros de Opt-In/Opt-Out, lo que da a todos un control total sobre cómo se utilizan (o no) sus datos biométricos. Si una persona no desea facilitar sus datos biométricos, las organizaciones deben ofrecer siempre un medio alternativo de Verificación. En la gran mayoría de los casos, el deseo de comodidad se impondrá y la mayoría de la gente elegirá el método biométrico. Un excelente ejemplo: los aeropuertos de todo el mundo han observado que, gracias a Biometría, pueden embarcar en los vuelos en una fracción del tiempo que se tarda utilizando documentos de identificación estándar, y los pasajeros aprecian enormemente la admisión más rápida a los aviones.
Por último, al implantar Biometría, las organizaciones deben ser totalmente transparentes en cuanto a cómo se recopilan los datos, cómo se transfieren para su tratamiento, cómo se conservan y cómo y cuándo se desechan. En concreto, las organizaciones querrán poner de relieve para los usuarios finales las protecciones añadidas que se aplican y la medida (en su caso) en que los datos biométricos se comparten con terceros.
