Redes generativas adversariales: cuando la IA aprende mintiendo
Hay algo profundamente paradójico en la base de los deepfakes más convincentes: la tecnología que los genera aprende a engañar siendo engañada ella misma. Las redes generativas adversariales —las GANs— funcionan porque dos sistemas de inteligencia artificial se enfrentan el uno al otro en un duelo sin fin, y ese conflicto interno produce resultados que ninguno de los dos podría alcanzar solo. Es una lección que va más allá de la informática: a veces, la falsificación perfecta nace de la competencia, no de la cooperación.
Para quienes analizan amenazas cognitivas, desinformación o manipulación audiovisual, entender qué son las redes generativas adversariales no es un ejercicio académico. Es una necesidad operativa. En los últimos tres años, los deepfakes generados con GANs han protagonizado estafas millonarias, campañas de desinformación política y casos de pornografía no consensuada en toda Europa. Y la curva de accesibilidad tecnológica sigue bajando.
Caso detonante: la estafa del CEO de 243.000 euros
En 2019, el director financiero de una empresa energética del Reino Unido transfirió 220.000 libras esterlinas (aproximadamente 243.000 euros) a una cuenta en Hungría convencido de estar siguiendo las instrucciones telefónicas de su jefe en Alemania. La voz era perfecta: el acento, los matices, incluso los giros idiomáticos habituales del director general. Era una clonación de voz generada con IA. Lo informó The Wall Street Journal en septiembre de aquel año, y Europol lo recogió posteriormente como caso paradigmático en su informe Facing Reality? Law Enforcement and the Challenge of Deepfakes (2022).
Este caso no fue el primero ni el último. Pero sí el que demostró con claridad que las redes generativas adversariales habían salido del laboratorio para convertirse en una herramienta de fraude financiero sofisticado. El análisis forense posterior reveló que el audio había sido generado probablemente con una arquitectura GAN o un modelo de síntesis de voz neural entrenado con grabaciones públicas del directivo real.
Cómo funcionan las redes generativas adversariales
El duelo que genera realidad
Ian Goodfellow propuso las GANs en 2014, y su paper original sigue siendo una de las citas más reproducidas en la historia del machine learning. La idea es elegante hasta resultar desconcertante: en lugar de enseñarle a un sistema cómo es una cara humana real, lo pones a competir contra otro sistema que intenta detectar si lo que el primero produce es falso.
El sistema consta de dos redes neuronales que trabajan en oposición:
- El generador: produce imágenes, vídeos o audio sintéticos a partir de ruido aleatorio. Su objetivo es que el discriminador no pueda distinguir su output de contenido real.
- El discriminador: recibe muestras reales y muestras generadas mezcladas, y tiene que clasificarlas correctamente. Su objetivo es no ser engañado.
Cada vez que el discriminador detecta una falsificación, el generador recibe esa información y ajusta sus parámetros. Cada vez que el generador consigue engañar al discriminador, éste aprende a ser más exigente. El proceso se repite millones de veces. Lo que emerge de ese entrenamiento adversarial es un generador capaz de producir contenido sintético extraordinariamente convincente.
De las imágenes estáticas a los vídeos en tiempo real
Las primeras GANs generaban rostros que, aunque impresionantes, presentaban artefactos evidentes: orejas asimétricas, dientes irregulares, fondos incoherentes. Los investigadores del MIT Media Lab y equipos como el de Hao Li —entonces en la Universidad del Sur de California, luego referente mundial en deepfakes— desarrollaron arquitecturas especializadas que mejoraron exponencialmente la calidad.
Una variante clave para los deepfakes faciales son las GANs condicionales (cGANs), que no generan contenido desde cero sino que lo condicionan: toman el rostro de una persona real y aprenden a superponerlo sobre otro cuerpo o a manipular sus expresiones. Esto es exactamente lo que hace tecnologías como DeepFaceLab o los sistemas comerciales que permiten generar vídeos falsos de figuras públicas.
Más recientemente, los modelos de difusión —como los que subyacen a Stable Diffusion o DALL-E— han complementado y en algunos casos superado a las GANs clásicas en calidad visual. Pero para vídeo facial en tiempo real, las arquitecturas GAN siguen siendo dominantes en muchas aplicaciones de deepfake.
Línea temporal: evolución de las GANs y los deepfakes
- 2014 — Goodfellow publica el paper original de las GANs. Las primeras imágenes generadas son borrosas, apenas reconocibles.
- 2017 — Aparece el término «deepfake» en Reddit. Las primeras aplicaciones son intercambios de rostros en contenido pornográfico.
- 2018 — NVIDIA presenta StyleGAN: rostros sintéticos indistinguibles de los reales para el ojo humano no entrenado.
- 2019 — Primera estafa financiera documentada con clonación de voz por IA. Sensity AI (antes Deeptrace) publica el primer informe sistemático sobre deepfakes en circulación.
- 2021-2022 — Los deepfakes de vídeo se usan en campañas de desinformación política en Europa del Este. Europol alerta sobre el fenómeno.
- 2023-2024 — Las herramientas de generación se democratizan. Aparecen los primeros deepfakes en tiempo real operativos en videollamadas. El AI Act de la UE incluye obligaciones específicas.
La carrera armamentista: generación contra detección
Lo que hace especialmente compleja la situación es que generación y detección se retroalimentan en un ciclo que los investigadores describen como una carrera armamentista tecnológica. Cada avance en detección obliga a mejorar los generadores; cada mejora en los generadores invalida parte de las capacidades de detección existentes.
Hoy, las principales herramientas de detección incluyen:
- Microsoft Video Authenticator: analiza artefactos de mezcla y señales de manipulación fotograma a fotograma.
- Intel FakeCatcher: detecta el flujo sanguíneo en píxeles del rostro (señales PPG) que los deepfakes actuales no replican correctamente.
- Reality Defender: plataforma empresarial que combina múltiples modelos de detección para audio, imagen y vídeo.
- Hive Moderation: API de moderación de contenido con módulo específico para detección de deepfakes.
El análisis forense revela que los detectores actuales funcionan bien con deepfakes de baja y media calidad, pero presentan tasas de error significativas con contenido de alta gama. Sensity AI estima que la detección fiable al 100% sigue siendo un problema abierto, especialmente cuando el material ha sido comprimido o recodificado.
Impacto y vectores de amenaza
Desinformación política
En el contexto de la guerra cognitiva, las redes generativas adversariales representan un multiplicador de capacidad para actores que buscan influir en la opinión pública. El marco conceptual de la OTAN sobre amenazas híbridas incluye explícitamente los medios sintéticos como vector de operaciones de influencia. Durante las elecciones europeas de 2024, se documentaron varios intentos de difusión de vídeos manipulados de líderes políticos, incluyendo material que involucraba a figuras españolas.
Fraude financiero
El CEO fraud con clonación de voz es ya una amenaza documentada en España. La Agencia Española de Protección de Datos (AEPD) ha publicado guías específicas sobre el uso fraudulento de datos biométricos, incluyendo la voz. Las pérdidas estimadas por este tipo de fraude en Europa superan los 25 millones de euros anuales según datos de Europol.
Pornografía no consensuada y acoso
El informe de Sensity AI de 2019 ya señalaba que más del 96% del contenido deepfake en circulación era pornografía no consensuada, principalmente de mujeres. Este fenómeno tiene implicaciones directas en términos de violencia de género digital, y ha generado legislación específica en varios estados miembro de la UE.
Erosión de la confianza epistémica
Quizás el impacto más difuso pero más duradero es lo que Chesney y Citron denominaron en 2019 el «dividendo del mentiroso»: en un entorno donde cualquier vídeo puede ser falso, los actores deshonestos pueden desacreditar evidencia real simplemente alegando que es un deepfake. La erosión de la confianza en la evidencia audiovisual tiene consecuencias profundas para el periodismo, la justicia y la democracia.
Guía práctica de detección
Los artefactos característicos que el análisis forense identifica con mayor frecuencia incluyen inconsistencias en la iluminación facial, bordes del cabello con textura antinatural y parpadeo irregular. Aquí una guía accionable para el análisis básico:
- Examina los ojos: Las GANs suelen generar reflejos especulares inconsistentes entre ambos ojos. En vídeos, el parpadeo puede ser demasiado infrecuente o mecánico.
- Observa los bordes del cabello y las orejas: Son zonas de alta frecuencia espacial donde los artefactos de fusión se manifiestan antes. Busca halos, texturas borrosas o geometrías imposibles.
- Analiza la consistencia temporal: Pausa el vídeo fotograma a fotograma cerca de los bordes del rostro. Las transiciones abruptas entre frames son señal de manipulación.
- Comprueba la sincronía labial: En clonaciones de voz sobre vídeo original, el audio y el movimiento labial raramente encajan perfectamente en todas las consonantes oclusivas.
- Usa herramientas automatizadas: FakeCatcher (Intel, acceso limitado), Deepware Scanner (gratuito, para vídeo), o las APIs de Hive Moderation y Reality Defender para uso profesional.
- Verifica la fuente original: La metodología OSINT básica sigue siendo imprescindible. Una búsqueda inversa de imagen o el rastreo de la cadena de publicación puede revelar el origen real sin necesidad de análisis técnico.
- Comprueba metadatos: Herramientas como ExifTool pueden revelar incongruencias en la cadena de creación del archivo, aunque los metadatos pueden ser manipulados.
Marco legal: dónde estamos en Europa y en España
El AI Act de la Unión Europea, aprobado en 2024 y en aplicación progresiva hasta 2026, incluye obligaciones específicas para los sistemas de IA que generan contenido sintético. Los artículos 50 y concordantes exigen que el contenido generado por IA sea marcado como tal mediante mecanismos técnicos detectables (watermarking). Los deepfakes con fines de desinformación pueden clasificarse como prácticas de IA prohibidas en el artículo 5.
En España, la normativa vigente aplica varias capas de protección: la Ley Orgánica de Protección de Datos (LOPDGDD) cuando se tratan datos biométricos sin consentimiento, el Código Penal en los artículos relativos a injurias, calumnias, suplantación de identidad y pornografía no consensuada, y la Ley de Servicios Digitales (transposición de la DSA europea) que obliga a las plataformas a actuar ante contenido manipulado. La AEPD ha emitido resoluciones específicas sobre uso no autorizado de datos biométricos con IA.
El vacío normativo más significativo sigue siendo la ausencia de una regulación específica sobre deepfakes no pornográficos con fines de desinformación, y la dificultad práctica de atribución y persecución cuando los actores operan desde terceros países.
Conclusiones: lo que el análisis revela
- Las redes generativas adversariales son la arquitectura tecnológica central detrás de los deepfakes más sofisticados, y su comprensión básica es prerequisito para cualquier análisis serio de amenazas cognitivas.
- La democratización de las herramientas de generación ha superado a la de las herramientas de detección. La brecha se amplía, no se estrecha.
- El impacto más duradero puede no ser el deepfake concreto sino la erosión sistémica de la confianza en la evidencia audiovisual, lo que beneficia estructuralmente a los actores que operan en la ambigüedad.
- El marco legal europeo es el más avanzado del mundo en este ámbito, pero su aplicación efectiva requiere capacidades técnicas periciales que todavía escasean en el sistema judicial español.
- La alfabetización mediática y la verificación OSINT siguen siendo la primera línea de defensa, más accesible y más resiliente que cualquier herramienta automatizada de detección.
La pregunta que queda abierta no es técnica sino filosófica y política: ¿en qué tipo de ecosistema informativo queremos vivir cuando ya no podamos confiar en que «verlo» equivale a «creerlo»? ¿Qué nuevas instituciones de confianza necesitamos construir? ¿Y quién tiene el poder —y la responsabilidad— de hacerlo?
Fuentes
- Chesney, R. & Citron, D. (2019). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, 107(6).
- Europol (2022). Facing Reality? Law Enforcement and the Challenge of Deepfakes. Europol Innovation Lab.
- Sensity AI (2019). The State of Deepfakes: Landscape, Threats, and Impact. Sensity AI (anteriormente Deeptrace).
- Goodfellow, I. et al. (2014). Generative Adversarial Networks. Advances in Neural Information Processing Systems (NeurIPS).
- Agencia Española de Protección de Datos — AEPD (2023). Guía sobre tratamientos de datos biométricos. AEPD.
- Unión Europea (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo — Ley de Inteligencia Artificial (AI Act). Diario Oficial de la UE.