Por el Dr. Mohamed Lazzouni
Este artículo se publicó por primera vez en BetaNews.
En las últimas semanas, el término «cheapfake» ha pasado a ocupar un lugar destacado en la conciencia colectiva nacional. Los «cheapfakes» —y su contraparte igualmente perturbadora, los «deepfakes»— son cada vez más frecuentes hoy en día, y se estima que el volumen de este contenido engañoso se duplica en Internet cada seis meses. Por eso, los principales motores de búsqueda, redes sociales y editores de contenidos del mundo están prestando atención a este fenómeno. En las últimas semanas, Google ha anunciado un plan de gran alcance para reducir la visibilidad de los «deepfakes» en sus resultados de búsqueda.
Por suerte, no hace falta disponer de los recursos de Google para detectar contenidos manipulados. A continuación, analizaremos las principales diferencias entre los «cheapfakes» y los «deepfakes», así como las herramientas basadas en inteligencia artificial que pueden utilizarse para detectarlos de forma fiable.
Los «cheapfakes» son contenidos multimedia que han sido manipulados mediante herramientas económicas y más accesibles, como los programas comerciales de edición de fotos y vídeos. Muchos «cheapfakes» se crean con herramientas como Adobe, que permiten acelerar o ralentizar el vídeo, así como crear animaciones, movimientos e intercambiar rostros. Los «cheapfakes» suelen tener un aire amateur; de hecho, cualquier adolescente que haya asistido a clases básicas de animación por ordenador puede crearlos. Son, en esencia, el equivalente a los efectos especiales de bajo presupuesto, y es muy fácil producirlos con conocimientos limitados.
Los «deepfakes», por su parte, son más realistas que los «cheapfakes» y mucho más difíciles de detectar. Para crearlos se requiere un nivel mucho mayor de formación, competencia y herramientas sofisticadas. Incluso en el nivel más básico, se necesita un cierto conocimiento de programación. En el extremo superior, los creadores necesitan experiencia en el diseño y la ingeniería de prompts para introducir esta información en herramientas de IA generativa, como Sora. El nivel más sofisticado de deepfakes utiliza redes neuronales generativas adversarias (GAN), en las que dos algoritmos compiten y evolucionan: un algoritmo aprende a crear deepfakes, mientras que otro aprende a detectarlos. Es aquí donde resulta muy difícil distinguir entre lo que es real y lo que no lo es.
¿Cuál es la buena noticia en todo esto? Es muy factible distinguir entre un «cheapfake» o «deepfake» y un contenido auténtico, ya que estos materiales suelen presentar incoherencias que pueden detectarse.
Ten en cuenta lo siguiente a la hora de determinar la autenticidad de un contenido multimedia:
- ¿Las posturas corporales y faciales resultan extrañas o inusuales, tanto en primer plano como en el fondo?
- ¿El color resulta poco natural?
- ¿El envejecimiento de la piel no concuerda con los ojos o el pelo del sujeto?
- ¿Es que las personas del vídeo no parpadean o lo hacen de forma poco natural?
- ¿El audio no coincide con las imágenes?
- ¿Las extremidades se funden de forma poco natural con el fondo o tienen un aspecto extraño?
Recomendamos combinar el buen ojo humano de toda la vida —que suele ser lo suficientemente agudo como para darse cuenta de cuándo algo «no cuadra»— con una o varias de las siguientes herramientas de IA, que resultan muy eficaces a la hora de detectar manipulaciones. Se trata, por así decirlo, de «utilizar la IA para detectar la IA».
En el caso de las imágenes, un indicio claro de que se trata de una «cheapfake» o una «deepfake» es la marca de agua incrustada en la imagen. A partir de estas marcas de agua, las herramientas pueden determinar fácilmente si una imagen es auténtica o no. Los vídeos falsos, por su parte, pueden detectarse mediante varias técnicas, entre las que se incluyen:
- El análisis de puntos de referencia faciales, que consiste en analizar la posición de los rasgos clave del rostro en el vídeo, como los ojos, la nariz y la boca. Este análisis ha demostrado su capacidad para identificar la manipulación de vídeos a nivel de píxel con el fin de detectar imágenes faciales falsas. La consistencia temporal permite analizar con mayor detalle cómo se mueven los rasgos faciales a lo largo del tiempo; las «cheapfakes» y las «deepfakes» suelen presentar sutiles inconsistencias en estos movimientos.
- Además, la detección de parpadeos permite identificar señales resultantes de la unión de diferentes fuentes. Estas herramientas pueden detectar inconsistencias en la iluminación o el color a lo largo de un vídeo para señalar la posibilidad de que se haya manipulado.
- Otra técnica se centra en los movimientos de los labios y en los errores de sincronización labial. El habla se compone de sonidos que se corresponden con la forma de los labios. Existen herramientas capaces de comparar los movimientos de los labios con los sonidos; cualquier discrepancia puede indicar que se trata de un «cheapfake» o un «deepfake».
- Por último, hay otras herramientas que se centran en analizar las variaciones en los tonos de escala de grises de un vídeo. De hecho, el ojo humano es capaz de distinguir unos diez tonos de gris diferentes, y los «cheapfakes» y los «deepfakes» pueden presentar inconsistencias en los tonos de escala de grises que pueden detectarse.
Dada la creciente proliferación de falsificaciones baratas y «deepfakes», y su potencial para desencadenar disturbios sociales —además de suponer una amenaza para la privacidad individual—, creemos que es necesario implementar herramientas de detección de forma más enérgica y proactiva. Por ejemplo:
- Las plataformas de intercambio de vídeos podrían integrar herramientas de detección de deepfakes para señalar o verificar la autenticidad del contenido subido.
- Las técnicas de detección de «cheapfakes» y «deepfakes» pueden integrarse en las herramientas educativas para capacitar a los alumnos a evaluar de forma crítica los contenidos en línea y a reconocer los «deepfakes» cuando se encuentren con ellos.
- Los deepfakes pueden poner en peligro la reputación y la obra de los artistas. La comunidad artística puede adoptar sistemas de detección de «cheapfakes» y «deepfakes» para autentificar el origen de las obras de arte digitales o determinar si la aparición de una celebridad en una película es real o sintética.
- Protección de los niños y las personas vulnerables: la detección de deepfakes puede utilizarse para identificar y señalar los deepfakes creados con fines de ciberacoso. Esto podría ayudar a proteger a las víctimas y a exigir responsabilidades a los acosadores.
Está claro que las tecnologías de detección de deepfakes basadas en la inteligencia artificial aún se encuentran en fase de desarrollo y todavía no han alcanzado su plena madurez. Esto se debe a que estas soluciones son de naturaleza estadística y «adivinan» si una imagen o un vídeo es un «cheapfake» o un «deepfake», por lo que pueden llegar a una conclusión errónea. La verdad es que los creadores de «cheapfakes» y «deepfakes» y las herramientas de detección se encuentran inmersos en una carrera armamentística constante. Y lo que está claro es que los resultados son cada vez más sofisticados, lo que dificulta que las herramientas de detección distingan lo que es real de lo que es falso. También es importante recordar que las herramientas de detección basadas en IA se entrenan con grandes conjuntos de datos de imágenes o vídeos, y que estos conjuntos de datos pueden introducir sesgos.
La eficacia de los algoritmos de detección depende en gran medida de la calidad de los datos de entrenamiento con los que se alimentan. Constantemente se desarrollan nuevos «deepfakes», lo que supone un desafío continuo para las herramientas de detección existentes. La buena noticia es que se han logrado avances considerables con estas herramientas y que cada interacción es cada vez mejor. Sin embargo, aún nos queda un largo camino por recorrer para garantizar que la sociedad no caiga en la trampa de estas imágenes falsificadas.
