Si has pasado tiempo en las redes sociales, es posible que te hayas topado con lo que supone un avance tecnológico potencialmente preocupante: el «deepfake». Las imágenes deepfake pueden percibirse como algo que va desde lo entretenido hasta lo preocupante, o incluso lo aterrador. Una figura política difundiendo propaganda que en realidad no difundió. Un personaje histórico pronunciando un discurso que en realidad no pronunció. Un actor famoso haciendo o diciendo cosas que en realidad no hizo ni dijo. Quizás te estés planteando algunas preguntas: ¿cómo se crean estas imágenes? ¿Qué implicaciones tiene el «deepfake» para la seguridad? ¿Debería preocuparme? No te preocupes: aunque la tecnología del «deepfake» está avanzando, no hay motivo para alarmarse por lo que esto podría suponer para la seguridad de la persona de a pie.
¿Qué es la tecnología deepfake?
El término «deepfake» proviene de la combinación de los términos «deep learning» y «fake». Aunque no existe una definición universalmente aceptada, un deepfake suele referirse a la sustitución de una persona que aparece en un vídeo existente por el rostro de otra persona. En esencia, un «deepfake» es una fotografía, un archivo de audio o un vídeo que ha sido manipulado mediante el aprendizaje automático (ML) y la inteligencia artificial (IA) para que parezca algo que no es.
Los deepfakes no son vídeos que hayan sido retocados con programas de edición de vídeo. Por lo general, se generan mediante aplicaciones o algoritmos especializados, a partir de una mezcla de material de vídeo antiguo y de nueva creación. Estas aplicaciones de deepfake, basadas en el aprendizaje automático, descomponen los rasgos sutiles del rostro de una persona y aprenden a manipularlos en función de las características específicas del vídeo. A continuación, esas manipulaciones pueden integrarse en un segundo vídeo, dando lugar a una creación totalmente nueva.
Aplicaciones y programas de deepfake
El funcionamiento interno de un algoritmo de deepfake es complejo. Sin embargo, el «ingrediente secreto» de estos algoritmos tiene dos componentes importantes. El primero es que desarrollan un profundo conocimiento del rostro de una persona y aprenden a trasladar esos atributos a otro rostro. Dado que la mayoría de las personas tienen la boca, los ojos y la nariz situados más o menos en el mismo lugar, un algoritmo de deepfake puede analizar las características de esa anatomía y aprenderlas con un nivel de detalle excepcional. A continuación, manipula los rasgos de un segundo vídeo para que coincidan con los que se ven en el primero. El algoritmo hace todo esto manteniendo el estilo y el aspecto general del vídeo original.
Otra característica interesante de los algoritmos de deepfake es que se componen de partes que funcionan en oposición entre sí. Mientras una parte genera datos falsos, hay una segunda parte que está entrenada para detectar esos datos falsos, lo que ayuda a mejorar los resultados al señalar lo que parece ser falso. Un programa de deepfake puede actuar como su propio entrenador y profesor para mejorar el resultado final.
El resultado es un vídeo sintético que podría utilizarse con buenas o malas intenciones. Al pensar en un vídeo sintético, no es difícil imaginar por qué podría ser peligroso. Existe el riesgo evidente de que las palabras o acciones sintéticas de una persona puedan incitar a alguien a hacer algo malo o peligroso. Pero hay un riesgo adicional: que los vídeos sintéticos empiecen a socavar la credibilidad de los vídeos auténticos. A los expertos en privacidad les preocupa, con razón, que un «deepfake» pueda utilizarse para difundir información errónea en las redes sociales o eludir medidas de seguridad como las plataformas de autenticación biométrica.
¿Qué otras preocupaciones hay?
Morfos, ataques de presentación y otras amenazas en constante evolución
Las preocupaciones no se limitan a los «deepfakes». Los «morphs» son un tipo de método de ataque biométrico que combina los rostros de dos o más personas en un único rostro. Dado que en el «morph» pueden aparecer elementos del rostro tanto de un usuario autorizado como de uno no autorizado, el reconocimiento facial podría verse engañado y conceder acceso de forma fraudulenta. Los «morphs» también pueden utilizarse para falsificar documentos de identidad, como pasaportes, para personas que no pueden obtenerlos legalmente o cruzar fronteras. En este caso, se crearía un «morph» combinando los rasgos de la persona que no puede obtener un pasaporte con los de otra que sí puede. Esta imagen combinada podría utilizarse para solicitar un nuevo pasaporte. Una vez recibido el pasaporte, el viajero no autorizado podría utilizarlo para intentar eludir los controles de seguridad fronterizos.
A pesar de lo que podría considerarse un potencial preocupante, las noticias sobre los deepfakes, los morphs y otras amenazas potenciales en constante evolución no son del todo malas. Por un lado, el tipo de aprendizaje no supervisado que se está perfeccionando en los algoritmos y aplicaciones de deepfake tiene un potencial positivo. El aprendizaje automático, similar al que se observa en la tecnología de deepfake, puede ayudar a los coches autónomos a reconocer su entorno, incluidos los peatones, y contribuir a mejorar la búsqueda por voz y las aplicaciones de realidad virtual.
Una de las razones por las que los deepfakes se han centrado en famosos y personajes históricos es que se dispone de una gran cantidad de datos de referencia sobre ellos. Un algoritmo de aprendizaje automático, como los que se utilizan en el procesamiento de deepfakes, debe comprender a fondo el aspecto de un sujeto. Eso significa que debe analizar datos del sujeto desde diferentes ángulos, con distinta iluminación y en diversas condiciones. Por lo tanto, en el caso de una persona corriente, es difícil que se disponga de suficientes datos de referencia como para que sea objeto de un ataque de deepfake.
Las noticias también son prometedoras para las organizaciones o particulares que puedan utilizar la autenticación biométrica para proteger sus activos. Los mejores sistemas biométricos del mercado utilizan la tecnología « liveness detection », que determina si el usuario es una persona viva y real que se presenta en directo ante el dispositivo de captura de imágenes o si se trata de un ataque de suplantación diseñado para violar la seguridad del sistema. Ya se trate de una simple suplantación con una foto, de un «deepfake» o de un vídeo morphing, los sistemas de autenticación biométrica de prestigio cuentan con una gran capacidad para distinguir entre una persona real y una réplica de una persona real.
Ataques a presentaciones, deepfakes y morfos
Siempre ha sido de vital importancia proteger los activos sensibles y valiosos de las organizaciones y de sus clientes frente a amenazas externas y accesos no autorizados. En el mundo actual, esto cobra aún más relevancia, ya que el robo de identidad ha alcanzado niveles sin precedentes y las filtraciones de datos han aumentado un 17 %¹ solo desde 2020.
Las contraseñas han constituido tradicionalmente la columna vertebral de la mayoría de los métodos de autenticación para la seguridad de acceso, pero dado que el 61 % de las filtraciones de datos se producen como consecuencia de contraseñas débiles o robadas², las organizaciones buscan alternativas más seguras. La autenticación biométrica, que aprovecha las características físicas únicas de una persona para conceder acceso a información o activos protegidos, elimina prácticamente los problemas asociados a los métodos de autenticación basados en contraseñas, lo que ofrece a las organizaciones una alternativa mucho más segura.
Sin embargo, ahora que se está produciendo un cambio de la autenticación basada en contraseñas a la biométrica para mejorar la seguridad, los piratas informáticos externos y las partes malintencionadas han intentado seguir el ejemplo con nuevos métodos de ataque diseñados para burlar estas medidas de seguridad reforzadas y obtener acceso de forma fraudulenta. Estos métodos incluyen los ataques de presentación, los «deepfakes» y los «morphs», y el aumento de su frecuencia ha dado lugar a una mayor concienciación y temor al respecto. Afortunadamente, existen muchos conceptos erróneos en torno a estos métodos y al grado real de amenaza que suponen. Las organizaciones que cuenten con información sobre cada una de estas amenazas en constante evolución podrán protegerse de forma eficaz y garantizar a los clientes y a las partes interesadas que sus activos permanecen seguros.
