Deepfakes: cómo detectar vídeos y voces falsas creadas con inteligencia artificial
Hasta hace poco, ver a una persona en vídeo o escuchar su voz era una forma bastante convincente de comprobar su identidad.
La inteligencia artificial está cambiando esa regla.
Hoy existen herramientas capaces de generar imágenes, imitar voces y modificar vídeos con un nivel de realismo cada vez mayor. Una persona puede parecer que dice algo que nunca dijo. Una voz puede sonar como la de un familiar. Incluso una videollamada puede utilizar técnicas de manipulación para reforzar una identidad falsa.
Estos contenidos se conocen habitualmente como deepfakes.
La tecnología tiene aplicaciones legítimas en entretenimiento, producción audiovisual, doblaje o accesibilidad. El problema aparece cuando se utiliza para suplantar identidades, fabricar contenidos falsos, acosar o cometer fraudes.
Para protegerse no hace falta convertirse en experto en inteligencia artificial. Lo importante es entender qué puede falsificarse, reconocer las principales señales de alerta y aprender a verificar una identidad por vías independientes antes de tomar una decisión importante.
Qué es un deepfake
Un deepfake es un contenido audiovisual generado o manipulado mediante tecnologías de inteligencia artificial para representar de manera realista algo que no ocurrió de esa forma.
Puede utilizarse para modificar o generar:
- rostros;
- expresiones faciales;
- movimientos;
- fotografías;
- vídeos;
- voces.
Por ejemplo, podría crearse un vídeo donde aparentemente una persona pronuncia unas palabras que nunca dijo.
También podría generarse un audio que imite la voz de alguien conocido.
Cuando la manipulación se concentra específicamente en la voz, también pueden utilizarse términos como clonación de voz o deepvoice.
La calidad varía enormemente.
Algunos contenidos falsos resultan evidentes. Otros pueden ser mucho más difíciles de reconocer simplemente observándolos.
¿Todos los deepfakes son peligrosos?
No.
La tecnología que permite generar o transformar contenido audiovisual tiene aplicaciones legítimas.
Puede utilizarse en películas, videojuegos, doblaje, herramientas creativas o sistemas de accesibilidad.
El problema no es necesariamente la tecnología.
Es cómo se utiliza.
Un contenido generado con IA puede convertirse en un problema cuando intenta hacer creer deliberadamente que una persona real ha dicho o hecho algo que nunca ocurrió.
Un deepfake puede utilizarse para:
- suplantar una identidad;
- cometer una estafa;
- fabricar contenido íntimo falso;
- acosar;
- chantajear;
- desacreditar a alguien;
- manipular una conversación;
- conseguir información confidencial.
Por eso resulta importante aprender a distinguir entre contenido sintético utilizado legítimamente y contenido diseñado para engañar.
Cómo pueden utilizar los deepfakes para estafar
Uno de los mayores riesgos aparece cuando la inteligencia artificial se combina con ingeniería social.
La tecnología crea la apariencia.
La manipulación psicológica consigue que actuemos.
Un delincuente no necesita convencerte durante semanas de que un vídeo es auténtico. Quizá solo necesita que lo creas durante treinta segundos.
Clonación de la voz de un familiar
Imagina que recibes una llamada.
Al responder escuchas:
“Mamá, he tenido un problema. Necesito que me envíes dinero.”
La voz parece la de tu hijo.
Existe además una situación de emergencia.
Eso genera dos elementos muy poderosos:
reconocimiento + urgencia.
La reacción natural puede ser ayudar inmediatamente.
Pero las herramientas de inteligencia artificial pueden utilizar muestras de audio para generar imitaciones de determinadas voces.
Por eso reconocer una voz ya no debería considerarse suficiente para autorizar una operación económica extraordinaria.
Suplantación de empresas y profesionales
El mismo mecanismo puede utilizarse en un entorno profesional.
Imagina que recibes un audio aparentemente enviado por tu responsable:
“Necesito que hagas esta transferencia inmediatamente. Es confidencial.”
La voz parece correcta.
La forma de hablar también.
Pero una orden económica excepcional debería verificarse mediante los procedimientos habituales de la empresa.
La IA no elimina los controles de seguridad.
Los hace todavía más importantes.
Videollamadas falsas: ver a alguien ya no es una prueba absoluta
Una videollamada continúa siendo una herramienta útil para comprobar que existe una persona detrás de un perfil.
Pero ya no debería considerarse una prueba absoluta de identidad.
Existen tecnologías capaces de modificar elementos del rostro, voz y vídeo.
Esto es especialmente relevante cuando hablamos con desconocidos por Internet.
Una persona podría utilizar fotografías ajenas para crear un perfil y posteriormente intentar reforzar el engaño mediante contenido audiovisual manipulado.
Este comportamiento está estrechamente relacionado con el catfishing y los perfiles falsos, donde una persona construye una identidad falsa o engañosa para relacionarse con otros usuarios.
La llegada de los deepfakes añade una dificultad adicional: una fotografía ya no es el único elemento que puede manipularse.
Por eso la verificación debería basarse en varias señales, no exclusivamente en una videollamada.
Deepfakes y estafas románticas
Las relaciones online constituyen un escenario especialmente sensible.
Supongamos que conoces a alguien por Internet.
Hablas durante semanas.
La relación avanza.
Empiezas a sospechar porque nunca os habéis visto personalmente.
Entonces propones una videollamada.
La persona acepta.
La ves y escuchas.
Parece auténtica.
Es fácil pensar:
“Entonces ya sé que es real.”
Pero esa conclusión es cada vez menos segura.
Una videollamada puede aportar información, pero debemos observar también el comportamiento general de la persona.
¿Su historia es coherente?
¿Evita constantemente un encuentro?
¿La relación ha avanzado extremadamente rápido?
¿Empieza a hablar de inversiones?
¿Aparecen emergencias económicas?
¿Te pide dinero?
Una videollamada aparentemente convincente no convierte una solicitud económica sospechosa en legítima.
Si una relación nacida en Internet empieza a incluir préstamos, transferencias, criptomonedas o emergencias económicas, conviene conocer las señales habituales de las estafas románticas online antes de enviar dinero.
Cómo detectar un deepfake
Aquí conviene desmontar una idea peligrosa.
No existe una lista de cinco trucos que permita detectar absolutamente todos los deepfakes.
La tecnología evoluciona.
Los errores que hoy resultan habituales pueden desaparecer en generaciones posteriores de herramientas.
Por eso la detección debería combinar dos estrategias:
analizar el contenido y verificar el contexto.
Observa el rostro y sus movimientos
Algunos vídeos manipulados pueden presentar inconsistencias visuales.
Presta atención a elementos como:
- expresiones poco naturales;
- movimientos faciales extraños;
- problemas alrededor de ojos o boca;
- cambios repentinos de textura;
- bordes anómalos;
- deformaciones durante movimientos rápidos.
Estas señales pueden despertar sospechas.
Pero no constituyen una prueba.
Una mala conexión, la compresión de vídeo o una iluminación deficiente también pueden provocar efectos extraños.
Y un deepfake de alta calidad podría no mostrar ninguno de esos defectos.
Comprueba labios y voz
Observa si el movimiento de la boca coincide realmente con lo que estás escuchando.
En determinadas manipulaciones pueden aparecer pequeños desfases.
También puedes prestar atención a:
- cambios de tono;
- pausas extrañas;
- pronunciaciones inconsistentes;
- falta de emoción;
- ritmo poco natural.
Pero ocurre lo mismo que con el vídeo.
Una voz artificial puede ser muy convincente.
Por eso la mejor defensa no consiste en confiar en nuestra capacidad para reconocer perfectamente una voz falsa.
Consiste en no utilizar únicamente la voz como prueba de identidad.
Busca errores de iluminación
Las imágenes manipuladas pueden mostrar inconsistencias en:
- sombras;
- reflejos;
- iluminación;
- tonos de piel;
- gafas;
- cabello;
- fondo.
Por ejemplo, la iluminación del rostro podría no coincidir completamente con la escena.
Pero tampoco conviertas un defecto gráfico en una acusación.
Busca varias señales y analiza el contexto.
Fíjate en pequeños detalles
Históricamente, determinados sistemas generativos han cometido errores con elementos complejos como manos, dedos, dientes o accesorios.
Estos defectos pueden ayudar a identificar algunos contenidos.
Pero confiar en ellos como método permanente sería un error.
Los modelos evolucionan.
La recomendación más resistente al paso del tiempo sigue siendo verificar el origen.
El contexto puede revelar más que la imagen
Imagina que recibes una videollamada de alguien que parece ser tu hermano y te pide 3.000 euros urgentemente.
Puedes dedicar diez minutos a analizar su cara buscando defectos.
Pero existe una comprobación mucho más sencilla.
Cuelga.
Llama tú a tu hermano utilizando el número que ya conocías.
La verificación independiente puede resultar más fiable que intentar determinar técnicamente si el contenido es sintético.
Utiliza una segunda vía para peticiones importantes
Esta regla es especialmente útil.
Cuando alguien solicita algo sensible o extraordinario:
- detén la operación;
- no actúes por presión;
- contacta mediante un canal independiente;
- confirma la petición.
Si alguien que parece ser tu hijo llama desde un número desconocido, llama tú a su teléfono habitual.
Si recibes un audio de un compañero solicitando información confidencial, verifica mediante otro canal.
Si una persona que conociste online pide dinero, no consideres una videollamada suficiente para demostrar que la historia es legítima.
Verificar por otra vía rompe gran parte del poder de la suplantación.
Establece una palabra de seguridad familiar
Las familias pueden acordar una palabra o frase que sirva como comprobación adicional ante determinadas emergencias.
Debe ser algo que no aparezca públicamente.
Preguntar:
“¿Cómo se llama nuestro perro?”
puede resultar inútil si existen cincuenta fotografías del animal en redes sociales.
La pregunta debería basarse en información que un desconocido no pueda localizar fácilmente.
No es un sistema perfecto.
Pero puede añadir una capa adicional de verificación.
¿Pueden clonar mi voz con un audio?
La clonación de voz mediante inteligencia artificial utiliza muestras de audio para intentar reproducir características de una voz.
La cantidad y calidad del material necesario depende de la tecnología utilizada.
Esto significa que el contenido que publicamos en Internet puede tener usos que originalmente no habíamos imaginado:
- vídeos;
- podcasts;
- historias;
- directos;
- notas de voz;
- entrevistas.
No significa que debamos dejar de utilizar Internet.
Pero sí merece la pena entender que nuestra huella digital audiovisual también forma parte de nuestra identidad.
Además, fotografías, nombres de usuario, lugares, números de teléfono y otros datos pueden combinarse para construir un perfil mucho más completo sobre nosotros. Si quieres reducir esa exposición, en WebyChat tienes una guía específica sobre doxing y cómo proteger tus datos personales.
¿Pueden crear un deepfake a partir de una fotografía?
Sí.
Las herramientas de inteligencia artificial pueden generar y transformar imágenes utilizando fotografías como referencia.
Eso abre posibilidades creativas, pero también riesgos relacionados con la privacidad.
Una fotografía pública podría ser descargada por otra persona y utilizada fuera del contexto para el que fue publicada.
Por eso conviene tener especial cuidado con las imágenes de otras personas.
Que una fotografía pueda verse públicamente no significa que sea apropiado utilizarla para cualquier finalidad.
Deepfakes sexuales: cuando crean contenido íntimo falso
Uno de los usos más graves consiste en generar imágenes o vídeos sexuales falsos utilizando el rostro de una persona real.
La víctima puede no haber creado jamás contenido íntimo.
Sin embargo, el material manipulado puede intentar aparentar lo contrario.
Este contenido puede utilizarse para:
- humillar;
- acosar;
- difamar;
- amenazar;
- chantajear.
Y aquí aparece un cambio importante provocado por la inteligencia artificial.
Un vídeo íntimo aparentemente real ya no demuestra necesariamente que la persona haya participado en esa grabación.
¿Qué ocurre si utilizan un deepfake para chantajearte?
Imagina que recibes un mensaje:
“Tengo este vídeo tuyo. Si no pagas, lo enviaré a tus contactos.”
El vídeo puede ser auténtico.
Puede estar manipulado.
O puede ser completamente generado.
La estrategia de respuesta no debería consistir en pagar simplemente para que desaparezca.
Cuando alguien utiliza contenido íntimo —real o generado con IA— para exigir dinero, imágenes adicionales o cualquier otra cosa, el problema pasa a ser una forma de chantaje. En ese caso consulta directamente nuestra guía sobre qué hacer ante una sextorsión.
No sigas pagando porque el extorsionador prometa borrar el material.
Esa promesa no ofrece ninguna garantía.
¿Qué hacer si crean un deepfake tuyo?
La respuesta dependerá del contexto.
No es igual una creación humorística claramente identificada como ficticia que una suplantación utilizada para cometer un fraude.
Cuando el contenido pueda perjudicarte, existen varias medidas iniciales.
Conserva pruebas
Antes de que el contenido desaparezca, guarda información sobre lo ocurrido.
Por ejemplo:
- URL;
- capturas;
- nombre de usuario;
- plataforma;
- fecha;
- mensajes;
- amenazas;
- publicaciones relacionadas.
Si existe un vídeo, conserva también la ubicación donde se encontraba publicado cuando sea posible.
Denuncia el contenido
Utiliza las herramientas de la plataforma para denunciar suplantaciones, contenido manipulado, acoso o vulneraciones de privacidad cuando corresponda.
Evita amplificarlo innecesariamente
Existe una reacción comprensible:
“Mirad el vídeo falso que han hecho sobre mí.”
Pero compartirlo públicamente puede aumentar su alcance.
Si necesitas enseñárselo a una plataforma, autoridad o profesional, utiliza los canales adecuados.
Avisa a personas que puedan convertirse en víctimas
Si están utilizando tu voz o imagen para solicitar dinero a tus contactos, informa de la situación.
Puedes explicar claramente que cualquier petición económica extraordinaria debe verificarse contigo mediante un canal previamente conocido.
¿Qué hacer si ya has enviado dinero?
Actúa rápidamente.
Contacta con tu entidad financiera mediante sus canales oficiales.
Explica que puedes haber sido víctima de una suplantación y proporciona los datos de la operación.
Conserva:
- números de teléfono;
- mensajes;
- audios;
- correos;
- cuentas bancarias;
- justificantes;
- perfiles;
- URLs.
No elimines inmediatamente todo por vergüenza.
Las evidencias pueden resultar importantes.
Deepfake y spoofing telefónico
Existe otra técnica que puede aumentar considerablemente la credibilidad de una llamada fraudulenta: el spoofing del identificador de llamada.
El número mostrado en la pantalla no siempre demuestra el origen real de una comunicación.
Eso crea una combinación especialmente convincente:
número conocido + voz conocida + emergencia.
Las tres señales parecen confirmar la identidad.
Pero pueden manipularse.
Por eso una petición extraordinaria debe verificarse independientemente aunque aparentemente proceda de una persona conocida.
La urgencia sigue siendo una de las mayores señales
La inteligencia artificial puede ser nueva.
La manipulación psicológica no.
Los fraudes siguen utilizando mecanismos clásicos:
“Tiene que ser ahora.”
“No se lo digas a nadie.”
“Solo tú puedes ayudarme.”
“Dame el código inmediatamente.”
“Haz la transferencia antes de que sea demasiado tarde.”
La urgencia busca reducir tu capacidad para pensar y verificar.
Cuando alguien intenta acelerar una decisión económica o relacionada con información sensible, haz exactamente lo contrario:
reduce la velocidad.
No compartas códigos de verificación
Ninguna videollamada debería convencerte para proporcionar un código temporal de seguridad.
Tampoco una voz conocida.
Si alguien solicita:
- códigos SMS;
- contraseñas;
- códigos de autenticación;
- claves bancarias;
- PIN;
- credenciales;
detente.
Una identidad aparentemente verificada no convierte en segura una petición que normalmente nunca debería realizarse.
Protege también tus fotografías y vídeos públicos
No necesitas eliminar toda tu presencia online.
Pero conviene revisar periódicamente qué contenido mantienes público.
Pregúntate:
- ¿necesito que esta información sea pública?
- ¿qué datos revela este vídeo?
- ¿aparece mi domicilio?
- ¿se identifica mi trabajo?
- ¿estoy mostrando documentos?
- ¿estoy publicando información de otras personas?
La privacidad no consiste únicamente en ocultar secretos.
Consiste también en controlar razonablemente qué información dejamos disponible.
Cómo verificar mejor a alguien conocido por Internet
La videollamada continúa siendo útil.
Pero debería formar parte de un conjunto de señales.
Coherencia
¿Su historia permanece estable durante el tiempo?
Presencia digital
¿Los perfiles parecen tener una trayectoria razonable o aparecieron recientemente?
Comportamiento
¿Respeta tus límites?
Encuentros
¿Evita continuamente cualquier posibilidad razonable de conoceros?
Dinero
¿Empiezan a aparecer emergencias, inversiones o préstamos?
Presión
¿Intenta que tomes decisiones rápidamente?
Información
¿Quiere conseguir datos personales, documentos o códigos?
Una persona puede ser exactamente quien dice ser y aun así intentar estafarte.
Por eso verificar la identidad es solamente una parte del proceso.
Deepfake, catfishing y suplantación de identidad: diferencias
Los tres conceptos pueden relacionarse.
Pero no significan exactamente lo mismo.
Deepfake
Hace referencia al contenido audiovisual manipulado o generado mediante tecnologías como la inteligencia artificial.
Catfishing
Consiste en presentarse mediante una identidad falsa o engañosa para relacionarse con otras personas.
Suplantación de identidad
Consiste en hacerse pasar por otra persona utilizando elementos de su identidad.
Un mismo fraude puede combinar los tres.
Por ejemplo:
- alguien roba fotografías de una persona;
- crea un perfil falso;
- empieza una relación online;
- utiliza IA para modificar una videollamada;
- posteriormente solicita dinero.
En lugar de intentar decidir qué única etiqueta describe el caso, resulta más útil reconocer las diferentes técnicas utilizadas.
La IA también puede hacer más convincente una mentira
Este es probablemente el aprendizaje más importante.
Los deepfakes no crean necesariamente nuevas formas de manipulación psicológica.
Lo que hacen es mejorar las herramientas utilizadas para hacer creíble una historia falsa.
Antes un estafador podía enviarte una fotografía robada.
Ahora puede intentar generar imágenes nuevas.
Antes podía inventar una excusa para evitar una videollamada.
Ahora puede intentar manipular el vídeo.
Antes podía hacerse pasar por un familiar mediante mensajes.
Ahora puede intentar imitar su voz.
La tecnología cambia.
La defensa fundamental sigue siendo parecida:
verifica antes de actuar.
Preguntas frecuentes sobre deepfakes
¿Qué es un deepfake?
Es contenido audiovisual generado o manipulado mediante tecnologías de inteligencia artificial para representar de forma realista algo que una persona no dijo o hizo realmente.
¿Cómo puedo saber si un vídeo es deepfake?
Puedes buscar inconsistencias visuales, problemas de sincronización, cambios extraños de iluminación o movimientos poco naturales. Sin embargo, ninguna de estas señales garantiza la detección. Comprobar el origen y contexto del vídeo es fundamental.
¿Pueden clonar mi voz?
Sí, existen herramientas de inteligencia artificial capaces de generar imitaciones a partir de muestras de audio.
Por eso no deberíamos considerar una voz reconocible como única prueba de identidad cuando existe una petición sensible.
¿Una videollamada demuestra que alguien es real?
Aporta información, pero no debería considerarse una garantía absoluta. Existen técnicas capaces de modificar vídeo, rostro y voz.
¿Qué hago si un familiar me llama pidiendo dinero?
Si la petición es inesperada, intenta verificarla contactando con esa persona mediante un número o canal que ya conocieras anteriormente.
¿Pueden crear fotografías falsas mías?
Las herramientas generativas pueden modificar fotografías existentes y producir imágenes nuevas basándose en diferentes referencias.
¿Qué hago si publican un vídeo falso mío?
Conserva pruebas, utiliza los mecanismos de denuncia de la plataforma y valora las vías correspondientes cuando exista fraude, amenaza, acoso, vulneración de privacidad u otra conducta potencialmente ilícita.
¿Puede utilizarse un deepfake para una estafa romántica?
Sí. Las técnicas de manipulación audiovisual pueden utilizarse para intentar hacer más creíble una identidad falsa.
¿Debo dejar de hacer videollamadas con desconocidos?
No.
Las videollamadas siguen aportando información útil.
Simplemente no deberías considerarlas una prueba definitiva cuando existen otras señales sospechosas.
En la era de la IA, verificar importa más que reconocer
Durante años hemos utilizado una regla intuitiva:
“Lo he visto con mis propios ojos.”
También:
“He reconocido su voz.”
La inteligencia artificial obliga a matizar ambas afirmaciones.
No significa que debamos considerar falso todo lo que vemos y escuchamos.
Significa que, cuando una decisión tiene consecuencias importantes —enviar dinero, compartir documentos, proporcionar códigos o confiar información sensible—, una cara o una voz no deberían ser nuestra única comprobación.
Si algo resulta extraño, verifica por otro canal.
Si alguien te presiona, detente.
Si una persona conocida online empieza a pedir dinero, analiza el conjunto de señales.
Y si un vídeo o una llamada parecen diseñados para provocar una reacción inmediata, recuerda que esa urgencia puede formar parte de la manipulación.
La inteligencia artificial puede conseguir que una mentira resulte mucho más convincente.
Nuestra mejor defensa sigue siendo sencilla:
no tomar decisiones importantes basándonos únicamente en aquello que alguien quiere que veamos o escuchemos.