Los «deepfakes» utilizan la inteligencia artificial para manipular contenidos multimedia, como audio o vídeo, con el fin de crear contenidos hiperrealistas, aunque totalmente falsos, de personas reales. Si bien en algunos casos pueden resultar entretenidos o incluso inofensivos, también pueden suponer amenazas reales, como la manipulación política, el fraude y la violación de la privacidad.
Los avances en inteligencia artificial y en la tecnología «deepfake» han facilitado más que nunca la creación de contenidos falsos y convincentes. Y, dado que la desinformación y la información errónea van en aumento en nuestra sociedad moderna, tan polarizada políticamente, las consecuencias pueden ser peligrosas. Ya se trate de una celebridad que respalda una causa con la que no está de acuerdo o de alguien que engaña a una entidad financiera con una voz falsa, los «deepfakes» se están convirtiendo en un grave problema en el mundo digital actual.
Deepfakes políticos
En julio de 2024, Elon Musk, director ejecutivo de Tesla y propietario de X (antes Twitter), compartió con sus 199,2 millones de seguidores en X un vídeo deepfake en el que la vicepresidenta y candidata presidencial Kamala Harris aparecía diciendo palabrotas y haciendo declaraciones poco propias de ella. Un mes más tarde, el expresidente y presidente electo Donald Trump compartió con sus 7,78 millones de seguidores en su plataforma Truth Social una imagen deepfake de la popular cantante Taylor Swift apoyando su campaña presidencial de 2024, junto con varias imágenes generadas digitalmente de mujeres jóvenes con camisetas que decían «Swifties for Trump». Estos deepfakes se hicieron virales rápidamente.
Además de ser engañosos, los «deepfakes» que representan a figuras públicas pueden polarizar la opinión pública, generar caos e incluso influir en las elecciones, ¡y todo ello a la velocidad de la luz! Un «deepfake» puede pasar de unos pocos retuits a provocar confusión a escala mundial en cuestión de horas.
Aunque hay quien considera que este tipo de contenido no es más que una parodia divertida e inofensiva, cuando lo comparten figuras públicas y políticas con gran alcance y retrata a figuras públicas y políticas con una influencia desmesurada en nuestras elecciones (cuando Taylor Swift acabó apoyando a un candidato, se inscribieron 35 000 nuevos votantes en menos de 24 horas), el riesgo de que los votantes se sientan confundidos es bastante elevado.
Independientemente de cuál sea tu posición en el espectro político, los «deepfakes» constituyen un obstáculo lamentable en la búsqueda de la verdad.
Falsificaciones de voz para cometer fraudes
El contenido de vídeo no es el único que se utiliza en la manipulación mediante IA. Los «deepfakes» de voz se han convertido en una nueva y preocupante tendencia en el ámbito de las estafas. Un caso muy sonado fue el de una empresa energética con sede en el Reino Unido a la que estafaron 243 000 dólares cuando unos delincuentes llevaron a cabo una campaña de «vishing» («vishing» es la abreviatura de «voice phishing», la táctica de engañar a las víctimas por teléfono) utilizando una voz artificial tan parecida a la del director de la empresa matriz alemana de la compañía que los empleados no notaron la diferencia. Según The Next Web, este incidente supone la primera vez que el fraude de voz basado en IA ha conseguido una ganancia tan elevada.
Al imitar una voz conocida, los estafadores lograron llevar a cabo un robo financiero con una precisión sorprendente. Este tipo de ataque pone de manifiesto la creciente amenaza tanto para la seguridad financiera como para la personal. Cuando no se puede confiar en las voces que se oyen, verificar las identidades se convierte en un gran reto tanto para las empresas como para los particulares.
La crisis de la pornografía «deepfake»
El lado oscuro de la tecnología «deepfake» también invade los espacios más íntimos de las personas. La pornografía «deepfake», en la que se superpone el rostro de una persona a contenido explícito sin su consentimiento, se ha convertido en un problema cada vez mayor que afecta de manera desproporcionada a las mujeres. La política Alexandria Ocasio-Cortez ha sido objeto de pornografía deepfake y un estudio reciente reveló que el 98 % de los vídeos deepfake que circulan por Internet eran pornográficos y que el 99 % de las personas afectadas eran mujeres o niñas.
Este uso indebido de la inteligencia artificial constituye una grave violación de la privacidad y la seguridad personal. No solo empaña la reputación de las personas, sino que también les causa daño psicológico. Las víctimas suelen disponer de escasos recursos legales (hay muchos estados que no han tipificado como delito el «deepfake» con fines de pornografía vengativa), y el daño causado a su vida personal y profesional puede ser irreversible.
Anuncios «deepfake» y recomendaciones falsas
Los «deepfakes» también se están colando poco a poco en el mundo de la publicidad. Estos anuncios generados por IA pueden inducir a error a los consumidores haciéndoles creer que su famoso favorito está detrás de un producto o servicio cuando, en realidad, no tiene nada que ver con ello.
Estos anuncios «deepfake» plantean importantes problemas legales y éticos. Pueden empañar la imagen de marca de una celebridad y dar lugar a demandas por publicidad engañosa. Para los consumidores, supone una capa más de engaño con la que lidiar en un mundo de la publicidad digital que ya de por sí es complejo.
5 consejos prácticos para detectar contenidos «deepfake»
Entonces, ¿cómo puedes evitar caer en la trampa de un «deepfake»? Aquí tienes algunos consejos prácticos:
- Fíjate en los movimientos oculares poco naturales: a la tecnología deepfake le cuesta reproducir la frecuencia natural de parpadeo y los movimientos oculares sutiles de las personas reales.
- Comprueba si hay inconsistencias en la iluminación: si la iluminación de la persona no coincide con la del fondo, podría tratarse de un deepfake.
- Fíjate en las expresiones faciales extrañas: los «deepfakes» suelen presentar movimientos faciales que parecen un poco fuera de lugar, como una sonrisa que no encaja del todo con el tono de la conversación.
- Presta mucha atención: si se trata de un «deepfake» de voz, el tono puede resultar monótono o el modo de hablar puede sonar poco natural.
- Fuentes de referencia: si un contenido te parece sospechoso, compáralo con fuentes de noticias fiables para confirmar su autenticidad.
Un futuro con deepfakes
Los «deepfakes» ya no son solo cosa de ciencia ficción: están aquí y están causando un daño real. Desde la manipulación política y el fraude financiero hasta las violaciones de la privacidad y los anuncios engañosos, las posibilidades de uso indebido son enormes. Como hemos visto en estos ejemplos, la lección clave es mantenernos alerta y adoptar una actitud crítica ante los contenidos que consumimos: hay que investigar siempre las fuentes y contrastar la información con otros medios de comunicación si una imagen o un audio nos parecen sospechosos.
El futuro de los «deepfakes» seguirá planteando retos a nuestros sistemas jurídicos, nuestras normas éticas, nuestros procesos electorales e incluso a nuestra forma de percibir la realidad. A medida que evolucione la tecnología que hay detrás de los «deepfakes», también deberán hacerlo nuestras estrategias para detectarlos y prevenir su uso indebido.
https://www.aware.com/wp-content/uploads/2025/01/angela-enrique-webinar.jpg
Desenmascarando los «deepfakes»: cómo proteger tu empresa en la era del fraude basado en la IA
El fraude generado por la inteligencia artificial —a través de deepfakes, vídeos generados por IA y imágenes sintéticas— está evolucionando rápidamente, lo que supone un riesgo cada vez mayor para las organizaciones.
Acompaña a Enrique Caballero, experto en identidad digital, y a Angela Diaco, directora sénior de marketing de Aware, mientras analizan las últimas tendencias en materia de fraude y te revelan herramientas y estrategias para proteger tu negocio.
Durante la sesión, abordaremos:
- Los sectores más afectados actualmente por el fraude basado en la inteligencia artificial y lo que está por venir.
- Cómo los «deepfakes» y los vídeos generados por IA socavan la verificación de la identidad digital.
- Las tecnologías biométricas diseñadas para combatir estas amenazas emergentes.
- Análisis de las clasificaciones FATE del NIST y de cómo Aware lidera el sector de la seguridad biométrica.
