Por qué la IA alucina: 7 señales para detectar datos falsos
La IA no miente: predice. Te explicamos por qué ChatGPT y otros modelos inventan datos y las 7 señales para detectar una alucinación antes de fiarte.
Cómo funciona la estafa de fotos retocadas con IA para pedir reembolsos en Deliveroo o Uber Eats, por qué es difícil de detectar y cómo frenarla.
CURIOSIDADES · DELIVERY · FRAUDE CON IA
Te llega la comida. Está perfecta. Y aun así alguien consigue un reembolso… con una foto “retocada” por IA.
Lo que antes era “me llegó frío” ahora se está convirtiendo en algo mucho más sofisticado: imágenes falsas que hacen que un plato normal parezca crudo, mohoso o contaminado. No voy a explicarte cómo se hace el truco. Sí voy a explicarte por qué está explotando, por qué cuesta tanto pararlo y qué medidas realmente sirven sin castigar a quien reclama de forma legítima.
El “arma”
Editores con IA que alteran detalles: textura, color, “defectos” y pequeños elementos que disparan una devolución.
El “agujero”
Políticas de satisfacción que priorizan rapidez: si la prueba “parece” válida, el sistema tiende a pagar.
El “daño”
Restaurantes asumiendo costes y repartidores bajo sospecha, mientras la confianza del usuario se erosiona.
El patrón que se está viendo en redes es simple de entender (y por eso se copia tan rápido): alguien hace un pedido, recibe la comida y luego presenta una reclamación con una imagen que “demuestra” un problema grave. Esa imagen, en realidad, ha sido manipulada para parecer más convincente.
Lo viral no es solo el dinero. Es la narrativa: “mira qué fácil engañar al sistema”. Y cuando algo se convierte en reto social, la fricción moral baja y el número de intentos se dispara.
Cuando el reembolso se decide en minutos, la “prueba” visual se convierte en una palanca enorme.
La mecánica tiene tres pasos, y lo importante no es el detalle técnico, sino el ángulo psicológico:
Lo que buscan “fabricar”
1) Un defecto que active alarma: algo que parezca peligroso o inaceptable (y que un agente, humano o automático, no quiera discutir).
2) Una historia que encaje: “esto llegó así”, “no me lo puedo comer”, “es un riesgo”. Cuanto más emocional, menos se cuestiona.
3) Una reclamación rápida: antes de que el restaurante pueda reaccionar o pedir más contexto.
La clave es que la imagen no necesita ser perfecta. Solo necesita ser lo bastante plausible como para que el sistema prefiera pagar a investigar. Y eso conecta con un problema más amplio: vivimos en la era del “contenido como evidencia”. Si te interesa esta tendencia a gran escala, encaja con lo que ya se ve en estafas con deepfakes y anuncios falsos: cuando la prueba visual se abarata, el fraude escala.
Si estás pensando “pues que la plataforma pase un detector de imágenes falsas y ya”, ojalá. El problema es que en el mundo real hay dos enemigos:
• Falsos positivos: penalizar a clientes honestos porque una foto real “parece” retocada (mala luz, compresión, reflejos, cámara barata).
• Falsos negativos: colarte una imagen manipulada porque está editada con sutileza, o porque llega al sistema re-comprimida y sin señales claras.
Este dilema es el mismo que aparece con detectores de textos o contenido generado: cuando intentas automatizar “la verdad” con un botón, te comes errores por ambos lados. Si quieres profundizar en esa trampa de los detectores, mira este análisis sobre falsos positivos en detectores de IA. La idea clave es aplicable aquí: el detector no puede ser juez único.
Cuando todos hacemos fotos de la comida, la foto deja de ser excepcional… y se vuelve “moneda” para reclamar.
La solución no es sospechar de todo el mundo. Es meter verificación inteligente donde duele al estafador y casi no molesta al usuario honesto. Algunas medidas razonables:
Para ciertos motivos (contaminación, comida cruda, objetos extraños), pedir un segundo tipo de evidencia reduce el fraude sin obligar a todo el mundo a pasar por un interrogatorio. No hace falta hacerlo siempre: basta con activarlo por señales de riesgo (historial de reembolsos, patrones repetidos, reclamaciones idénticas).
Si la foto se toma dentro de la app, puedes guardar el original, su hash y algunos datos de integridad. Esto no convierte la imagen en incuestionable, pero sube el coste del engaño. Importante: hacerlo con privacidad por delante y minimizando datos. (Aquí conecta con un principio general que también aparece cuando hablamos de errores y privacidad en IA: menos datos, pero mejor escogidos. Te puede servir esta guía de alucinaciones y privacidad aplicada al día a día).
Si el restaurante absorbe parte del golpe, necesita un proceso de disputa que no sea simbólico. No hablo de burocracia eterna: hablo de que vea evidencias, categorías, tiempos y motivos. Si no, el incentivo es perverso: pagar rápido siempre, aunque te estén explotando.
Aquí hay una verdad incómoda: el restaurante suele ir con desventaja porque no controla el “momento foto”. Pero sí puede reducir superficie de ataque con hábitos simples:
Sello y stickers
Precintos visibles y pegatinas de cierre. No evitan la foto falsa, pero obligan al estafador a “explicar” por qué el pedido estaba intacto.
Foto interna del pedido
Una foto rápida del contenido antes de cerrar (sin datos del cliente) ayuda en disputas. Útil sobre todo en pedidos caros.
Consistencia
Embalaje y presentación consistentes: reduce “zonas grises” donde una foto ambigua puede parecer un desastre.
Lo importante: que estas medidas no se conviertan en trabajo extra infinito. Piensa en “protocolos por nivel”: pedidos pequeños, fricción cero; pedidos grandes o clientes con incidencias repetidas, un poco más de control.
En el delivery, la evidencia suele ser una sola imagen. Por eso el contexto vale oro.
Si el sistema siempre reembolsa para evitar quejas, el fraude se vuelve rentable. Y cuando se vuelve rentable, escala. ¿Qué pasa entonces?
• Suben comisiones o bajan márgenes (alguien paga ese dinero).
• Se endurecen políticas para todos (y el cliente honesto sufre).
• Se normaliza la desconfianza (restaurantes sospechando, usuarios enfadados, soporte saturado).
Traducción: si no se frena, acabas pagando tú. Con peores precios, peor experiencia o ambos.
Si te llega un pedido mal de verdad, reclamar es legítimo. Y lo más inteligente que puedes hacer (para que te crean y para que no endurecer reglas) es aportar claridad:
• Fotos con contexto: no solo el “defecto”, también el envase y el conjunto.
• Rapidez y precisión: explicar qué parte está mal y por qué es inaceptable.
• Evitar exageraciones: cuando todo suena apocalíptico, el caso se parece más a fraude que a incidencia real.
Antes, una foto era “lo que había”. Ahora, una foto es “lo que alguien quiere que parezca”. Y eso obliga a plataformas y restaurantes a evolucionar: no con paranoia, sino con procesos que separen mejor el error real del abuso.
La buena noticia es que se puede frenar sin cargarse la experiencia: basta con poner la verificación donde tiene sentido, tratar la imagen como una señal (no como una sentencia) y diseñar sistemas que no premien al tramposo por ser el más rápido. Porque si el fraude se hace rutina, el delivery se vuelve peor para todos.
El estafador recibe su pedido en buen estado, pero presenta una imagen manipulada con IA que hace parecer el plato crudo, mohoso o contaminado, junto con una historia emocional convincente, para conseguir un reembolso rápido antes de que nadie pueda investigar.
Porque un detector automático se enfrenta a dos problemas: penalizar a clientes honestos cuya foto real "parece" retocada por mala luz o compresión, o dejar pasar imágenes editadas con sutileza. La imagen no necesita ser perfecta, solo lo bastante plausible para que el sistema prefiera pagar antes que investigar.
Pedir una segunda evidencia en reclamaciones de riesgo (contaminación, comida cruda), capturar la foto dentro de la propia app guardando el original y su hash, y dar a los restaurantes un proceso de disputa real con evidencias, categorías y tiempos claros.
Usar precintos y pegatinas de cierre visibles, hacer una foto interna del pedido antes de cerrarlo (sin datos del cliente) y mantener un embalaje y presentación consistentes para reducir las "zonas grises" donde una foto ambigua puede parecer un desastre.
La IA no miente: predice. Te explicamos por qué ChatGPT y otros modelos inventan datos y las 7 señales para detectar una alucinación antes de fiarte.
El caso real, por qué afecta especialmente a adolescentes y 9 medidas para no regalar tus conversaciones (ni las de terceros).
El World Economic Forum alerta de ataques con deepfakes para burlar verificaciones de identidad. Te explico cómo funcionan, señales rojas y el checklist mínimo para empresas y usuarios (liveness, detección de inyección, MFA y revisión).