Si pasas tiempo en las redes sociales, es posible que te hayas topado con un avance tecnológico potencialmente preocupante: el deepfake. Las imágenes deepfake pueden ser desde divertidas hasta preocupantes, o incluso aterradoras. Un personaje político difundiendo propaganda que en realidad no difundió. Un personaje histórico pronunciando un discurso que en realidad no pronunció. Un actor famoso haciendo o diciendo cosas que no hizo ni dijo. Algunas preguntas a las que puede estar dando vueltas en su mente: ¿cómo se crean estas imágenes? ¿Cuáles son las implicaciones Seguridad de deepfakes? ¿Debería preocuparme? Tenga la seguridad de que, aunque la tecnología de deepfakes está avanzando, no hay necesidad de alarmarse por lo que esto podría significar para la Seguridad de una persona normal.
¿Qué es la tecnología Deepfake?
La expresión "deepfake" procede de la combinación de los términos "deep learning" (aprendizaje profundo) y "fake" (falso). Aunque no tiene una definición universalmente aceptada, un deepfake generalmente significa que una persona en un vídeo existente se sustituye por la imagen de otra persona. Esencialmente, un deepfake es una foto, audio o vídeo que ha sido manipulado mediante Machine Learning (ML) e inteligenciaIA) para que parezca algo que no es.
Deepfakes no son vídeos reelaborados mediante programas de edición de vídeo. Suelen ser generados por aplicaciones o algoritmos especializados, mediante una mezcla de vídeos antiguos y de nueva factura. Estas aplicaciones de deepfake, basadas en machine learning, deconstruyen los rasgos sutiles del Rostro de alguien y aprenden a manipularlos en función de las condiciones individuales del vídeo. Esas manipulaciones pueden luego integrarse en un segundo vídeo, dando lugar a una creación totalmente nueva.
Aplicaciones y software Deepfake
El funcionamiento interno de un algoritmo de deepfake es complejo. Pero la "salsa secreta" de los algoritmos tiene dos componentes importantes. El primero es que desarrollan un profundo conocimiento del Rostro de una persona y aprenden a trasladar esos atributos al Rostro de otra. Como la mayoría de la gente tiene la boca, los ojos y la nariz más o menos en el mismo sitio, un algoritmo de deepfake puede analizar las características de esa anatomía y aprenderlas con un nivel de detalle excepcional. A continuación, manipula los rasgos en un segundo vídeo para que coincidan con los que se ven en el primero. El algoritmo hace todo esto manteniendo el estilo y el aspecto generales del vídeo original.
Otra característica interesante de los algoritmos deepfake es que se componen de piezas que trabajan en oposición unas de otras. Mientras una pieza fabrica datos falsos, hay una parte secundaria que está entrenada para señalar estos datos falsos, ayudando a mejorar los resultados al señalar lo que parece ser falso. Un programa de deepfake puede actuar como su propio entrenador y profesor para mejorar los resultados.
El resultado es un vídeo sintético que podría utilizarse con buena o mala intención. Al considerar un vídeo sintético, no es difícil imaginar por qué podría ser peligroso. Existe el riesgo obvio de que las palabras o acciones sintéticas de una persona puedan incitar a alguien a hacer algo malo o peligroso. Pero otro riesgo es que los vídeos sintéticos empiecen a restar credibilidad a los auténticos. A los expertos en privacidad les preocupa, como es lógico, que un deepfake pueda utilizarse para difundir información errónea en las redes sociales o eludir medidas de Seguridad como las plataformas de Autenticación biométrica.
¿Qué otras cosas le preocupan?
Morphs, Presentaciones Ataques y Otras Amenazas en Evolución
Las preocupaciones no se detienen en deepfakes. Los morphs son un tipo de método de ataque biométrico que combina los rostros de dos o más individuos en un único Rostro. Dado que en el morph puede haber elementos del Rostro de un usuario autorizado y de un usuario no autorizado, el reconocimiento facial podría ser engañado para proporcionar acceso de forma fraudulenta. Los morphs también pueden utilizarse para fabricar documentos de Identidad , como pasaportes, para personas que no pueden obtenerlos legalmente o cruzar fronteras. En este caso, se crearía un morph combinando los parecidos de la persona que no puede obtener un pasaporte con una persona que sí puede. Esta imagen transformada podría utilizarse para solicitar un nuevo pasaporte. Una vez recibido el pasaporte, el viajero no autorizado podría utilizarlo para intentar eludir Seguridad fronteriza.
A pesar de lo que podría considerarse un potencial preocupante, las noticias sobre deepfakes, morphs y otras amenazas potenciales en evolución no son del todo malas. Por un lado, el tipo de aprendizaje no supervisado que se está perfeccionando en los algoritmos y aplicaciones de deepfake tiene potencial para el bien. El Machine learning automático similar al que se observa en la tecnología deepfake puede ayudar a los coches autoconducidos a reconocer el entorno, incluidos los peatones, y contribuir a mejorar las aplicaciones de búsqueda de Voz y realidad virtual.
Una de las razones por las que deepfakes se han centrado en celebridades y personajes históricos es que se dispone de muchos datos de fondo sobre ellos. Un algoritmo de machine learning como los utilizados en el procesamiento de deepfakes debe comprender en profundidad el aspecto de un sujeto. Esto significa que debe analizar los datos del sujeto desde distintos ángulos, con distinta iluminación y en diversas condiciones. Así que, para una persona normal, es difícil que disponga de suficientes datos de fondo como para ser el objetivo de un ataque de deepfake.
La noticia también es prometedora para las organizaciones o particulares que puedan utilizar Autenticación biométrica para proteger sus activos. Los mejores marcos biométricos utilizan la detección prueba de vida facial , que determina si el usuario es una persona viva que se presenta en directo al dispositivo de imagen o si se trata de una presentación o un ataque de suplantación de identidad diseñado para violar el sistema. Tanto si se trata de una simple foto falsa como de un deepfake o de un vídeo morph, los sistemas de Autenticación biométrica de buena reputación tienen una sólida capacidad para distinguir entre una persona viva y un facsímil de una persona viva.
Ataques de presentación, Deepfakes y Morphs
Siempre ha sido de vital importancia proteger los activos sensibles y valiosos de las organizaciones y sus clientes frente a amenazas externas y accesos no deseados. En el mundo actual, esto es aún más pronunciado, con el robo de Identidad en un nivel sin precedentes y las filtraciones de datos aumentando un 17 %1 solo desde 2020.
Las contraseñas han constituido normalmente la columna vertebral de la mayoría de los métodos deAutenticación Seguridad acceso, pero con el 61% de las violaciones de datos que se producen como resultado de contraseñas débiles o robadas2, las organizaciones están buscando alternativas más seguras. La Autenticación biométrica, que aprovecha las características físicas únicas de una persona para conceder acceso a información o activos seguros, elimina prácticamente los problemas asociados a los métodos de Autenticación basados en contraseñas, ofreciendo a las organizaciones una alternativa mucho más segura.
Sin embargo, con el paso de la Autenticación basada en contraseñas a la Autenticación biométrica para mejorar Seguridad, los hackers externos y las partes malintencionadas han intentado seguir el ejemplo con nuevos métodos de ataque diseñados para frustrar estas medidas de Seguridad mejoradas y obtener acceso de forma fraudulenta. Estos métodos incluyen ataques de presentación, deepfakes y morphs, y su aumento en frecuencia ha dado lugar a una mayor conciencia y temor acerca de ellos. Afortunadamente, existen muchos conceptos erróneos en torno a estos métodos y al grado de amenaza que realmente suponen. Las organizaciones armadas con información sobre cada una de estas amenazas en evolución pueden protegerse eficazmente y garantizar a los clientes y partes interesadas que sus activos permanecen seguros.
