Por qué la IA alucina: 7 señales para detectar datos falsos
La IA no miente: predice. Te explicamos por qué ChatGPT y otros modelos inventan datos y las 7 señales para detectar una alucinación antes de fiarte.
Cómo los deepfakes combinan face swap y camera injection para saltarse el KYC, señales rojas y el checklist mínimo para proteger empresas y usuarios.
CIBERSEGURIDAD · DEEPFAKES · IDENTIDAD DIGITAL
Imagina que te llega un email: “Tu cuenta ha sido verificada. Bienvenido”.
Tú no has abierto nada. No has mandado ningún documento. No has hecho ningún selfie. Y aun así… alguien ha pasado un KYC con tu cara. Esto no es ciencia ficción: el World Economic Forum viene avisando de una evolución peligrosa de los deepfakes que combina face swap con “camera injection” (inyección de cámara) para colarse en verificaciones de identidad.
Hoy vamos a aterrizarlo sin humo: cómo funciona el truco, por qué algunos sistemas caen, qué señales rojas puedes detectar tú, y el checklist mínimo (de verdad mínimo) para empresas y usuarios: liveness bien hecho, detección de inyección, MFA/passkeys y revisión.
El cambio clave
No basta con “detectar deepfake”: hay que detectar el canal por el que entra el vídeo.
Objetivo
Pasar KYC con selfie + vídeo, incluso con “liveness”, si el sistema confía en la cámara equivocada.
Impacto
Cuentas, líneas de crédito, wallets, SIM swaps… el fraude se vuelve más barato y más escalable.
KYC (“Know Your Customer”) es el proceso con el que un banco, fintech o plataforma verifica que tú eres tú antes de abrirte una cuenta o dejarte operar. Normalmente mezcla tres capas:
El problema: muchos sistemas han mejorado en detectar “cara falsa”, pero siguen confiando en que lo que entra viene de una cámara real. Y ahí aparece la trampa: si el atacante controla el “feed” de cámara, puede alimentar al verificador con un vídeo perfecto (y “vivo”) sin necesidad de engañar a una webcam física.
Vamos por partes, como si lo vieras en cámara lenta. Ojo: entenderlo no es para asustarte, es para que tengas criterio cuando te vendan “liveness infalible”.
Fotos públicas, vídeos de redes, stories, entrevistas, videollamadas grabadas… con muy poco ya se puede entrenar o ajustar un face swap convincente. Si quieres ver hasta dónde ha llegado el negocio alrededor de esto, echa un ojo a cómo se alquilan identidades (cara y voz) como servicio.
Aquí viene lo inteligente: no es solo poner tu cara encima de otra. Es crear un vídeo que responda a retos: girar la cabeza, sonreír, mirar a un punto, decir una frase… Si el sistema pide acciones predecibles, el atacante puede preparar respuestas. Si pide acciones aleatorias, entran técnicas para reaccionar en tiempo real.
En lugar de grabar con una cámara de verdad, el atacante inyecta una cámara virtual o un feed manipulado para que la app/web de verificación crea que está viendo “la cámara”. Es como hacerle creer a Zoom que tu webcam es real cuando en realidad le estás dando un vídeo procesado.
Idea clave: si tu verificación solo mira “la cara” pero no valida “la cámara”, estás peleando con una mano atada. En 2026 el fraude se parece cada vez más a un ataque al pipeline, no solo a la biometría.
El KYC “aprobado” es el billete de entrada. A partir de ahí: intentos de crédito, tarjetas virtuales, compras rápidas, cash-out, o preparar un fraude más grande (por ejemplo, juntar varias identidades y automatizarlo). En paralelo, crece el ecosistema de estafas con contenido falso: los anuncios con deepfakes son el primo viral del mismo problema.
Mucha gente piensa que liveness = “parpadea y ya está”. Eso era 2019. En 2026, un liveness robusto suele combinar:
Cuando un sistema cae, suele ser por una mezcla de dos cosas: reto demasiado simple + confianza ciega en el canal. Por eso el “camera injection” es tan peligroso: convierte el problema en “¿puede el atacante alimentar un vídeo convincente?”. Y esa respuesta, hoy, es demasiado a menudo “sí”.
Lo más frustrante del fraude de identidad es que muchas veces te enteras tarde. Aun así, hay señales típicas que merecen reacción rápida:
Regla de oro: un OTP inesperado no es “solo spam”. A veces es la única pista temprana de que alguien está intentando “ensamblar” tu identidad.
No puedes controlar el KYC de una empresa, pero sí puedes reducir muchísimo el daño si alguien intenta usar tu identidad. Aquí va un checklist que cabe en tu vida real:
Y si trabajas en una empresa donde la gente usa herramientas por su cuenta, ojo con el caos silencioso: el problema no es solo técnico, también es organizativo. Te puede encajar esta guía sobre cómo documentar el uso de IA en una empresa para evitar agujeros tontos que luego se pagan caros.
Si estás en fintech, cripto, marketplaces, movilidad, apuestas, telco… este tema te va a morder. No necesitas “la solución mágica”, necesitas un stack con capas. Mi mínimo, sin postureo:
Si tuviera que elegir solo dos medidas: (1) detección de inyección/cámara virtual con step-up automático, y (2) MFA fuerte en acciones críticas. El resto suma, pero esas dos cortan el 80% de los golpes “baratos”.
Aquí no hay épica: hay velocidad. Si sospechas que alguien ha usado tu identidad:
La moraleja es incómoda pero útil: en un mundo con deepfakes buenos, tu seguridad depende menos de “que no te copien la cara” y más de que tus cuentas estén blindadas con autenticación fuerte y procesos que no se dejen engañar por un vídeo bonito.
La batalla no es “IA contra humanos”. Es procesos bien diseñados contra ataques cada vez más industriales. Y aquí, un checklist claro vale más que mil promesas de “detector infalible”.
Es una técnica donde el atacante inyecta una cámara virtual o un feed manipulado para que el sistema de verificación crea que está recibiendo una cámara real, en lugar de detectar solo si la cara es falsa. Así puede colar un vídeo de face swap que además supera los retos de liveness.
Porque muchos confían en que el vídeo viene de una cámara real y solo comprueban retos predecibles (parpadear, girar la cabeza). Cuando el atacante controla el canal de la cámara mediante camera injection, puede alimentar un vídeo "vivo" y convincente sin engañar a una webcam física.
Mensajes de "verificación completada" de servicios que no recuerdas, códigos OTP que no pediste, alertas de nuevo dispositivo o inicio de sesión, microcargos de prueba en tarjetas, o que te digan que ya existe una cuenta a tu nombre al intentar abrir una.
Combinar cuatro capas: liveness robusto con retos aleatorios, detección de cámaras virtuales o rutas de captura anómalas, MFA/step-up inteligente en acciones sensibles, y una capa de revisión humana con rate limiting para casos dudosos.
La IA no miente: predice. Te explicamos por qué ChatGPT y otros modelos inventan datos y las 7 señales para detectar una alucinación antes de fiarte.
El caso real, por qué afecta especialmente a adolescentes y 9 medidas para no regalar tus conversaciones (ni las de terceros).
Señales rojas, patrones típicos de “cebo emocional”, y el protocolo de 30 segundos para no caer (ni reenviarlo a otros).