Un «deepfake» es un vídeo, una foto o un fragmento de audio generado o manipulado mediante inteligencia artificial en el que se imita el rostro o la voz de una persona. Es tan convincente que, a simple vista, apenas se distingue de lo real.
Lo que empezó como un vídeo de Will Smith comiendo espaguetis de forma un tanto extraña se ha convertido ahora en una herramienta para cometer fraude. En enero de 2024, un empleado de la consultora de ingeniería Arup realizó quince transferencias a cinco cuentas, por un total de unos 25 millones de dólares, tras una videoconferencia con su director financiero y sus compañeros. Todos los participantes en esa llamada eran falsos. Y el 2 de agosto de 2026 cambiará el panorama jurídico: a partir de entonces entrará en vigor la obligación de notificar los deepfakes prevista en la Ley de Inteligencia Artificial (AI Act).
Este artículo explica qué es un «deepfake», cómo funciona esta técnica, para qué se utiliza y por qué el ojo humano está perdiendo esta carrera.
En resumen
- Un «deepfake» es un contenido multimedia sintético: una imagen, un vídeo o un sonido generado por IA de una persona que nunca ha dicho ni hecho eso.
- El término proviene de aprendizaje profundo además falso. La técnica se basa en las redes GAN y, desde hace poco, en los modelos de difusión.
- Cada vez se necesita menos material de referencia. A menudo basta con unos segundos de vídeo o unas cuantas fotos de un perfil público.
- Los deepfakes se utilizan para cometer fraudes relacionados con directores generales, fraudes en procesos de selección de personal y para eludir los sistemas de reconocimiento facial en los controles de identidad.
- El ojo humano ya no es un detector fiable. Los consejos para el reconocimiento ayudan, pero la tecnología va un paso por delante.
- A partir del 2 de agosto de 2026, el artículo 50 de la Ley de IA (AI Act) obligará a notificar los deepfakes. Las multas pueden ascender hasta 15 millones de euros o el 3 % de la facturación mundial.
- La detección funciona por capas: detección de vida, análisis de la imagen mediante IA y verificación del chip del documento de identidad.
Índice
- ¿Qué es exactamente un «deepfake»?
- ¿Cómo se crea un deepfake?
- ¿Qué tipos de deepfakes hay?
- ¿Para qué se utilizan los deepfakes?
- ¿Cómo se reconoce un deepfake?
- ¿Deepfake, suplantación de identidad o identidad sintética?
- ¿Es delito crear un deepfake?
- ¿Qué haces si eres víctima?
- Cómo detecta la tecnología los «deepfakes»
¿Qué es exactamente un «deepfake»?
Un deepfake Son contenidos sintéticos: imágenes, vídeos o sonidos generados o manipulados por inteligencia artificial, en los que una persona real parece decir o hacer algo que nunca ha ocurrido.
El nombre es una contracción de aprendizaje profundo, la tecnología de IA que hay detrás, y falso. La palabra apareció en 2017 como nombre de usuario en Reddit y, desde entonces, se ha convertido en el término genérico para todo aquello que se simula de forma realista mediante la IA.
Lo importante es lo que no es un deepfake. Un vídeo recortado, un fragmento ralentizado o una grabación sacada de contexto de forma engañosa se denomina shallowfake. No interviene ninguna IA, solo un truco de montaje. La distinción es importante, porque un «shallowfake» puede desmentirse con el contexto adecuado. En cambio, un «deepfake» hay que demostrarlo técnicamente.
En resumen: En un «shallowfake», la grabación es real, pero ha sido retocada o sacada de contexto. En un «deepfake», la grabación en sí es falsa: ese suceso nunca ha tenido lugar.
¿Cómo se crea un deepfake?
La técnica clásica es la Red generativa adversaria (GAN): dos modelos de IA que funcionan en oposición. El generador crea imágenes falsas. El discriminador intenta distinguir lo falso de lo real. A lo largo de miles de iteraciones, se corrigen mutuamente hasta que el generador crea imágenes que el discriminador ya no es capaz de detectar como falsas.
Además, los deepfakes más recientes se basan en modelos de difusión, las mismas técnicas que se utilizan en los generadores de imágenes. Estas producen resultados más nítidos con menos entrenamiento.
Lo que más ha cambiado es la cantidad de material de partida que se necesita. Antes había que recopilar cientos de fotos tomadas desde distintos ángulos, mientras que ahora suele bastar con unos segundos de vídeo. Los deepfakes de los directivos de Arup se crearon a partir de material disponible públicamente: presentaciones grabadas, vídeos y perfiles en redes sociales. Material que cualquier directivo de una gran empresa tiene publicado en Internet.
Del material original al deepfake en tiempo real
Cuatro pasos, con cada vez menos material de referencia que hace unos años
01
Recopilar material de referencia
Presentaciones grabadas, vídeos, perfiles públicos. A menudo bastan unos segundos de vídeo.
02
Entrenamiento de modelos
Una red GAN o un modelo de difusión aprende a reconocer el rostro y la voz hasta que el resultado ya no se nota.
03
Proyectar el rostro
El rostro generado se superpone a la imagen de la cámara del estafador.
04
En directo durante la conversación
El otro ve a un compañero, a un candidato o a un directivo. No a la persona que está allí.
¿Qué tipos de deepfakes hay?
Intercambio de caras. Se superpone el rostro de la persona A sobre el cuerpo de la persona B, en un vídeo ya existente. La forma clásica.
Intercambio de caras en tiempo real. Lo mismo, pero en directo durante una videollamada. El estafador está delante de su propia cámara; lo que ve la otra persona es otra cara. Esta es la técnica que se esconde tras el fraude de Arup y tras los fraudes en las entrevistas de trabajo por videollamada.
Clonación de voz. Se imita una voz a partir de una grabación de unos segundos. Se utiliza en casos de fraude de directores generales y en estafas a particulares.
Personas totalmente sintéticas. No se imita a ninguna persona real, sino que se crea un rostro que nunca ha existido. Si a eso se le añaden datos personales reales o sustraídos, el resultado es una identidad sintética: una persona que, sobre el papel, es válida, pero que no existe. Eso constituye una forma de fraude en sí misma, y merece un artículo propio.
¿Para qué se utilizan los deepfakes?
A particulares
La gran mayoría de los deepfakes son de carácter pornográfico y no consentido. Además, se producen estafas con voces clonadas de familiares y daños a la reputación. El daño suele ser permanente, incluso después de que se haya desmentido la imagen.
Contra las empresas
Aquí es donde se producen los mayores perjuicios económicos, y el incidente de Arup es el ejemplo más claro.
En enero de 2024, un empleado del departamento financiero de la oficina de Hong Kong de la empresa británica de ingeniería Arup recibió un correo electrónico del director financiero del Reino Unido sobre una transacción confidencial. No se lo creyó. Hizo exactamente lo que se recomienda en cualquier formación sobre seguridad: solicitó una videollamada para confirmarlo.
En esa videollamada estaba el director financiero. Y unos cuantos compañeros a los que reconoció. Todos ellos eran imágenes generadas por IA, creadas a partir de material audiovisual disponible públicamente.
Realizó quince transferencias a cinco cuentas de Hong Kong, por un total de 200 millones de HK$, unos 25,6 millones de dólares. El fraude no salió a la luz hasta que, más tarde, llamó a la sede central. Arup confirmó posteriormente que no se había pirateado ningún sistema interno. No hubo malware ni ningún exploit. Solo una videollamada y una historia creíble.
Eso es precisamente lo que hace que esta amenaza sea tan difícil de combatir. Las medidas de seguridad en las que más invierten las organizaciones —autenticación multifactorial, detección en terminales y filtros de correo electrónico— apenas afectan a este tipo de ataque.
En contra de los procesos de selección y verificación
Y luego está la categoría a la que pertenecemos DataChecker con las que nos enfrentamos a diario.
En cuanto se realiza la verificación de identidad a distancia —lo cual ya es la norma en el proceso de incorporación—, el rostro que aparece en la pantalla se convierte en la prueba de identidad. Y precisamente ese rostro es el que ahora se puede generar.
Fraude en las solicitudes de empleo. Un candidato pasa por un proceso de incorporación totalmente digital: entrevista inicial por vídeo, envío del documento de identidad y verificación mediante selfie. El rostro que aparece ante la cámara no es el suyo. El documento de identidad ha sido robado o falsificado. La consecuencia puede ser la contratación de un trabajador que no está autorizado a trabajar, con toda la responsabilidad que ello conlleva en virtud de la Ley de responsabilidad en cadena.
Cómo eludir el reconocimiento facial. Esto no es una teoría. La policía de Hong Kong informó, en el mismo periodo en que se produjo el caso Arup, de que unos estafadores habían presentado noventa solicitudes de préstamo y habían abierto cincuenta y cuatro cuentas bancarias utilizando ocho documentos de identidad robados. En al menos veinte de esos intentos se utilizó un «deepfake» generado por IA para engañar a un sistema de reconocimiento facial.
Uso múltiple de una misma identidad. Las redes delictivas asocian identidades robadas a un rostro generado y utilizan esa misma identidad legal simultáneamente en diferentes agencias de trabajo temporal.
En resumen: Una videollamada nunca se concibió como un método de verificación de identidad. Sin embargo, se utilizó con ese fin, ya que, durante décadas, ver un rostro en la pantalla fue prueba suficiente. Ahora eso ya no es así.
¿Cómo se reconoce un deepfake?
Hay señales. Pero cada año son más débiles.
Los ojos y el parpadeo. Los primeros «deepfakes» apenas parpadeaban. Los modelos actuales lo hacen mucho mejor, pero una mirada poco natural o una expresión rígida siguen siendo un indicio.
Los contornos del rostro. Alrededor del pelo, las orejas y la línea de la mandíbula, a veces se aprecian transiciones difusas, diferencias de color o píxeles que no encajan del todo.
Lipsync. Los movimientos de los dientes, la lengua y los labios no siempre se corresponden con el sonido. Las consonantes como la «f» y la «v» son técnicamente difíciles.
Luz y sombra. El rostro está iluminado de forma diferente al entorno, o las sombras caen en la dirección equivocada.
La voz. Las voces clonadas suelen sonar demasiado artificiales: les falta respiración y hay poca variación en el tono.
Piel. Sospechosamente uniforme. Sin poros, sin imperfecciones.
Y ahora la conclusión sincera: esto ya no es una defensa fiable. Un deepfake bien hecho, visto por un responsable de selección que realiza treinta entrevistas a la semana, pasa desapercibido. El empleado de Arup estuvo lo suficientemente atento como para sospechar del correo electrónico. Sin embargo, acabó creyéndolo porque vio y oyó a su director financiero.
El ojo frente a la tecnología
Dos formas de ver la misma imagen
Lo que ve el ojo humano
- ¿Esa persona parpadea con normalidad?
- ¿Se sincronizan los labios con el sonido?
- ¿La sombra que se proyecta sobre el rostro es correcta?
- ¿La piel tiene un aspecto realista?
Cada año es menos fiable. Un deepfake bien hecho se cuela por aquí.
Lo que mide la tecnología de detección
- ¿Hay alguien vivo delante de la cámara?
- ¿La imagen presenta artefactos propios de la generación por IA?
- ¿Coincide la geometría de la cara de un fotograma a otro?
- ¿Es válida la firma que figura en el chip del documento?
Cualidades que un rostro no puede imitar.
Consejo: En caso de solicitudes inusuales, nunca te fíes de la imagen que aparece en la pantalla, por muy convincente que sea. Confírmalo siempre a través de un segundo canal independiente: vuelve a llamar a un número que hayas buscado tú mismo, no a uno que se haya mencionado durante la conversación.
¿Deepfake, suplantación de identidad o identidad sintética?
Estos términos se confunden entre sí. La diferencia determina qué defensa funciona.
| Qué es | A qué ataca | |
|---|---|---|
| deepfake | Imagen o sonido de una persona generado por IA | Tu confianza en lo que ves y oyes |
| Suplantación de identidad | Hacerse pasar por otra persona a través de un canal falso, como un número de teléfono o una dirección de correo electrónico | Tu confianza en el remitente |
| Identidad sintética | Una persona que no existe, creada a partir de datos reales y ficticios | Tu confianza en el expediente |
En la práctica, ambas cosas se combinan. El fraude de Arup comenzó con un correo electrónico falso y se intensificó hasta convertirse en una videollamada deepfake.
¿Es delito crear un deepfake?
En los Países Bajos no existe ningún artículo legal que se denomine «deepfake». Lo que sí hay son disposiciones penales ya existentes que se aplican a este fenómeno.
En el caso de los deepfakes sexuales, el punto de referencia es el artículo 139h del Código Penal, que desde 2020 tipifica como delito la producción y la difusión de material audiovisual de carácter sexual sin consentimiento. El Tribunal de Ámsterdam dictaminó en 2023 que un vídeo porno deepfake entra dentro del ámbito de aplicación de este artículo, siempre que la imagen parezca tan real que una persona con un juicio razonable pueda considerarla auténtica. Además, pueden entrar en juego delitos como el fraude, la difamación, la coacción y la suplantación de identidad, dependiendo del caso.
El WODC ya había llegado a la conclusión de que el problema no radica tanto en la legislación como en su aplicación: demostrar que algo es un deepfake requiere conocimientos técnicos que aún son escasos.
Cambios a partir del 2 de agosto de 2026
A partir del 2 de agosto de 2026 entrará en vigor el artículo 50 de la Ley de IA (Reglamento (UE) 2024/1689). Dicho artículo establece una obligación explícita de notificación para los «deepfakes»: quien publique imágenes, audio o vídeo generados o manipulados mediante IA que sean lo suficientemente realistas como para ser confundidos con material auténtico, deberá indicar claramente que se trata de contenido artificial.
Hay dos aspectos importantes que hay que tener en cuenta. En primer lugar, esta obligación no se ha aplazado. Las obligaciones de alto riesgo previstas en la Ley de IA se han pospuesto mediante el paquete «Digital Omnibus», pero la obligación de notificar los deepfakes sigue vigente a partir del 2 de agosto. En segundo lugar, no se requiere intención dolosa: incluso un deepfake bienintencionado, ya sea comercial o artístico, está sujeto a la obligación de notificación. Las multas pueden ascender hasta 15 millones de euros o el 3 % de la facturación anual mundial.
Por supuesto, se trata de una obligación de transparencia para quienes crean deepfakes, no de una protección frente a quienes los utilizan con fines maliciosos. Los estafadores no etiquetarán sus deepfakes. Por lo tanto, para las organizaciones que verifican identidades, poco cambia desde el punto de vista jurídico; la defensa sigue siendo de carácter técnico.
Para más información sobre cómo afecta la Ley de IA a las aplicaciones biométricas, consulta nuestro artículo sobre La Ley de IA y la identificación biométrica.
¿Qué debes hacer si eres víctima de un deepfake?
- Recopila pruebas. Haz capturas de pantalla o descarga el contenido antes de que desaparezca. Anota dónde y cuándo lo encontraste.
- Notifícalo a la plataforma. En virtud de la Ley de Servicios Digitales, las plataformas sociales están obligadas a eliminar los contenidos ilícitos y cuentan con procedimientos de denuncia para ello.
- Presenta la declaración. En el caso de los deepfakes de carácter sexual o relacionados con la identidad, es posible y conveniente presentar una denuncia, aunque la presentación de pruebas resulte complicada.
- Pide ayuda. La organización «Slachtofferhulp Nederland» presta apoyo a las víctimas de abusos en Internet.
- Notifícalo a la Autoridad de Protección de Datos. Al crear un deepfake, casi siempre se tratan datos personales de forma ilícita, lo que da lugar a la posibilidad de presentar una reclamación ante la AP.
Cómo detecta la tecnología los «deepfakes»
Si el ojo humano ya no da abasto, la verificación debe tomar el relevo. Una detección eficaz funciona por capas, ya que cada capa por separado puede eludirse.
Así, DataChecker lo ha decorado.
Detección en cuatro capas
Cada capa por separado se puede eludir. Juntas, no es tan fácil.
Capa 1 · Detección de actividad
Activo y pasivo a la vez. ¿Hay una persona viva delante de la cámara, o se trata de una foto, una grabación o un rostro generado por ordenador?
Nivel 2 · Detección mediante IA de contenidos sintéticos
Análisis de patrones de textura, geometría facial y artefactos de generación. Ofrece una puntuación de riesgo, no una simple respuesta de «sí» o «no».
Capa 3 · El chip del documento
La capa más segura. Los datos del chip están firmados digitalmente por la entidad emisora. Una cara generada no puede rebatir eso.
Nivel 4 · ¿Dónde están los datos?
Certificada según la norma ISO/IEC 27001:2022 por BSI. Todos los datos de verificación se tratan dentro de la UE, de conformidad con la AVG.
Capa 1: detección de actividad
FaceVerify No solo compara una selfie con la foto del documento de identidad. Comprueba si hay una persona viva delante de la cámara, y no una foto, una captura de pantalla o un rostro generado por IA.
Esto ocurre de dos formas a la vez. La «liveness» activa requiere que el usuario realice una acción. La «liveness» pasiva analiza la imagen en segundo plano, sin que el usuario se dé cuenta. La combinación es intencionada: un ataque que elude una de las capas suele tropezar con la otra.
Nivel 2: Detección mediante IA de contenidos sintéticos
Además de la capa de «liveness», analiza DataChecker los fotogramas del vídeo en cuanto a características propias de la generación por IA: patrones de textura anómalos, inconsistencias en la geometría facial y artefactos típicos de las imágenes generadas.
El resultado no es un simple «sí» o «no», sino una puntuación de riesgo en tiempo real. Se trata de una decisión deliberada. Un «sí» o un «no» rotundo obliga al sistema a decantarse siempre por una de las opciones en los casos dudosos y, por lo tanto, a equivocarse en ocasiones. Una puntuación permite que sea el propio evaluador quien sopese la situación, teniendo en cuenta el contexto de la solicitud.
Capa 3: el chip del documento
Esta es la capa más sólida, y la razón por la que la verificación de documentos es fundamentalmente diferente de la verificación facial.
Un rostro se puede generar. Los datos del chip de un pasaporte conforme a la OACI, no. Esos datos están firmados digitalmente por la autoridad que ha expedido el documento, y esa firma es imposible de falsificar. DataChecker lee los datos originales del documento directamente desde el chip NFC y comprueba si la firma es válida.
Por lo tanto, la verificación mediante chip es el método más fiable que existe para comprobar la autenticidad de un documento de identidad. Por muy convincente que sea un deepfake, no tiene nada que hacer frente a un documento cuya autenticidad esté demostrada criptográficamente.
Capa 4: dónde se almacenan los datos
DataChecker cuenta con la certificación ISO/IEC 27001:2022 otorgada por BSI (certificado ISC 365), para el desarrollo y la realización de la verificación de datos personales. Todos los datos de verificación se tratan dentro de la UE, de conformidad con la AVG.
Última actualización: julio de 2026. La entrada en vigor del artículo 50 de la Ley de IA está prevista para el 2 de agosto de 2026; la Comisión Europea aún está ultimando las directrices y el código de conducta.
Preguntas frecuentes sobre los deepfakes
¿Qué significa «deepfake»?
«Deepfake» es una contracción de aprendizaje profundo y falso. Se refiere a una imagen, un vídeo o un sonido generado o manipulado por IA en el que una persona parece decir o hacer algo que nunca ha ocurrido.
¿Cuál es la diferencia entre un «deepfake» y un «shallowfake»?
En el caso de un «shallowfake», la grabación es real, pero ha sido manipulada mediante montaje o un contexto engañoso. En el caso de un «deepfake», la propia grabación ha sido generada por IA.
¿Se pueden utilizar los deepfakes en las entrevistas de trabajo?
Sí. En los procesos de incorporación digital y las videollamadas, un estafador puede utilizar un «face swap» en tiempo real. La policía de Hong Kong constató que, en al menos veinte casos, los «deepfakes» generados por IA lograron engañar a los sistemas de reconocimiento facial.
¿Es delito crear un deepfake en los Países Bajos?
No existe ningún artículo legal específico sobre los deepfakes. Sin embargo, se aplican las disposiciones vigentes: el Tribunal de Ámsterdam dictaminó en 2023 que un vídeo pornográfico deepfake entra dentro del ámbito de aplicación del artículo 139h del Código Penal. Dependiendo del caso, también pueden aplicarse los delitos de estafa, difamación o suplantación de identidad.
¿Qué cambios habrá el 2 de agosto de 2026?
En ese caso, se aplica el artículo 50 de la Ley de IA, que establece la obligación de notificar los «deepfakes». Quien publique una imagen generada por IA que parezca realista deberá indicar que es artificial, incluso sin intención dolosa. Las multas pueden ascender hasta 15 millones de euros o el 3 % de la facturación mundial.
¿Se puede reconocer un deepfake a simple vista?
Cada vez menos fiable. Señales como el parpadeo antinatural, los contornos borrosos del rostro y la sincronización labial anómala ayudan, pero los deepfakes bien hechos logran pasar desapercibidos. Es necesaria la detección técnica.
¿Es eficaz la detección de vida real contra los deepfakes?
La detección de actividad en tiempo real por sí sola no es suficiente para hacer frente a los ataques más sofisticados. Por eso, combina DataChecker autenticación activa y pasiva con detección mediante IA de contenidos sintéticos y lectura del chip NFC del documento de identidad. Los datos de ese chip están firmados digitalmente por la autoridad emisora y son independientes del grado de verosimilitud del rostro captado por la cámara.
