Deepfake, el nuevo riesgo digital que podría engañarte y perjudicarte fácilmente

Kevin Saltos
21 may
4 Min. de lectura

La frase “ver para creer” perdió vigencia con la llegada de los deepfakes y otros contenidos sintéticos. Ahora, casi cualquier usuario de Internet puede crear videos, imágenes o audios falsos con herramientas de IA al alcance de todos. Entiende cómo se crea, aprende sus pros y contras, reconócelo, protégete y conoce algunas herramientas para detectarlo.

¿Qué entendemos por Deepfakes?

Son videos, audios o imágenes modificadas mediante algoritmos de inteligencia artificial que imitan con alta precisión la voz y la apariencia de una persona. Son parte de un ámbito más amplio de contenidos generados por IA que abarca textos producidos por potentes modelos de lenguaje y réplicas de voz automatizadas.

Video explicativo de Deepfake con Deepfake de Donald Trump, Diep Nep.

Mecanismos de creación de un Deepfake, el nuevo riesgo digital.

Redes Generativas Antagónicas: un generador crea datos falsos y un discriminador los compara con los reales, mejorando iterativamente la calidad hasta que resultan casi indistinguibles.
Autocodificadores: funcionan capturando y re ensamblando rasgos característicos del rostro o la voz, lo que permite mezclar con precisión los datos de dos identidades.

Vídeo Deepfake de Morgan Freeman. This is not Morgan Freeman, Diep Nep.

Clasificación de deepfakes

Audio (Deepvoice): genera réplicas de la voz humana con apenas unos segundos de muestra, creando audios casi indistinguibles de la grabación original.
Video (Deepface): inserta o modifica rostros en secuencias filmadas, simulando gestos y palabras que no ocurrieron.
Imagen fija (Deepimage): genera o retoca fotografías, fabricando retratos o escenarios con apariencia auténtica.

Historia y democratización

La denominación “deepfake” se popularizó en 2017 cuando en Reddit comenzaron a difundirse videos pornográficos retocados con los rostros de personajes célebres. Desde entonces, la mejora de algoritmos y la disponibilidad de datos han hecho posible crear estos montajes en cuestión de minutos.

Aplicaciones dañinas y beneficiosas

Riesgos principales

Contenido íntimo sin consentimiento: la gran mayoría de los deepfakes encontrados en línea tienen un propósito pornográfico.
Manipulación política: falsificaciones que buscan influir en la opinión pública y los procesos electorales.
Ingeniería social: uso de audios y vídeos manipulados para persuadir a individuos de confianza y lograr engaños o extracciones de información y recursos.
Suplantación de identidad: creación de perfiles y documentos falsificados para defraudar o extorsionar.

Usos positivos

Parodias creativas: producción de memes y humor informativo.
Recreaciones históricas: animación de fotografías antiguas o simulación de narrativas pasadas.
Industria audiovisual: efectos especiales y rehabilitación de voces de artistas fallecidos.
Educación lingüística: doblaje de vídeos con la entonación original para aprender idiomas.

Repercusión en empresas

La facilidad para generar deepfakes impacta a las organizaciones de varias maneras:

Daños reputacionales: la difusión de grabaciones falsas puede empañar la imagen corporativa.
Brecha en la seguridad digital: la simulación de identidades mediante voz y rostro puede burlar los sistemas de verificación biométrica.
Inversión en defensa: necesidad de adquirir soluciones basadas en IA para detección de falsificaciones y programas de capacitación continua para el equipo.

Consecuencias sociales

La difusión masiva de medios manipulados mina la fe del público en las fuentes informativas y plantea retos tanto para el funcionamiento democrático como para la protección de la privacidad personal y la verdad.

Casos emblemáticos y aplicaciones usadas

Obama y Jordan Peele (2018): un video divulgó un mensaje ficticio de Obama usando la voz de Peele para alertar sobre los deepfakes.
Elecciones presidenciales (Ecuador 2025): Un periodista español da una notica en vivo sobre Noboa asociado con casos de corrupción; otro video en el que González, de ser elegida, incrementará un impuesto del 47% a herencias.
This Person Does Not Exist: plataforma que genera rostros humanos únicos con GANs, mostrando aciertos y extrañeza.
Reface (App): aplicación móvil popular que intercambia rostros en clips y GIFs, demostrando el potencial de la IA de consumo.

Parece convincente, pero este video es falso. Video Deepfake de Luisa Gónzales, ex-candidata presidencial del Ecuador, manifestando su intención de "desdolarizar" al Ecuador, Ecuazuela Ecuazuela.

Técnicas para reconocer deepfakes

Revisión de la fuente: corroborar el origen con medios fiables.
Análisis visual: parpadeo irregular, labios desincronizados, texturas faciales anómalas.
Evaluación de audio: detecta reverberaciones inusuales o un timbre de voz artificialmente impecable.
Uso de herramientas: plataformas especializadas como WeVerify y Sentinel para validar la autenticidad.

Deepfake vs. Shallowfake

Deepfake: creación de nuevo material con IA profunda.
Shallowfake: edición básica de medios existentes, como cortar o ralentizar clips.

Responsabilidades compartidas

Desarrolladores de IA: implementar salvaguardas en sus productos para evitar cualquier Deepfake, el nuevo riesgo digital.
Empresas y organizaciones: emplear prácticas transparentes y formar a sus miembros.
Gobiernos y reguladores: diseñar normas adaptables y coordinadas.
Ciudadanía: cultivar habilidades de pensamiento crítico y alfabetización digital.

Estrategias de mitigación

Políticas de plataformas: detección activa y etiquetado de contenido alterado.
Avances en detección: creación de antivirus para medios sintéticos.
Capacitación continua: programas de entrenamiento para reconocer manipulaciones.
Marco normativo y penalizaciones: imponer sanciones a conductas dañinas como la creación de pornografía sin consentimiento y la suplantación de identidad.