Por qué la IA alucina: 7 señales para detectar datos falsos
La IA no miente: predice. Te explicamos por qué ChatGPT y otros modelos inventan datos y las 7 señales para detectar una alucinación antes de fiarte.
El caso McHire (Olivia/Paradox.ai) y la lección: IA + datos personales + mala seguridad = desastre. Qué auditar si tú automatizas RRHH.
CURIOSIDADES · VIRAL · IA · RRHH · CIBERSEGURIDAD
Lo viral
Un login “123456” abrió la puerta a datos de candidaturas y conversaciones del proceso.
La trampa
No era “la IA”: era seguridad básica (credenciales, paneles, entornos de prueba, permisos).
La lección
Si automatizas RRHH, necesitas auditoría antes de lanzar, no después del incendio.
¿Te imaginas que pides un trabajo y, sin saberlo, dejas tu teléfono, tu email y tus respuestas en un sistema que cualquiera podría abrir con una contraseña de meme?
Eso es lo que hace que este caso sea tan incómodo: porque no suena a “hackers geniales”, suena a “nadie revisó lo mínimo”. Y cuando el proceso es masivo, el fallo también lo es.
Según destapó WIRED, el problema giró alrededor de McHire, el portal usado por McDonald’s para gestionar candidaturas con ayuda del chatbot Olivia (de Paradox.ai). La cara visible es una conversación amable. El riesgo real vive detrás: paneles de administración, bases de datos, integraciones y permisos.
La escena es tan simple que parece una broma: investigadores de seguridad lograron entrar en un entorno del sistema usando una contraseña extremadamente débil, del estilo “123456”. A partir de ahí, se abría acceso a información asociada a candidaturas y chats del proceso.
En algunas coberturas se habla de decenas de millones de solicitudes registradas en el sistema (ojo: no necesariamente “personas únicas”; una persona puede generar varias solicitudes). Lo importante no es el número exacto: es el patrón. Si el sistema escala a millones, la superficie de ataque escala a millones.
¿Qué tipo de datos te puede dejar expuesto un flujo así? No necesitas “tarjetas de crédito” para que sea peligroso. Con que existan estos elementos, ya hay problema:
La moraleja aquí es cruel: no “falló la IA”, falló la higiene. La IA solo estaba en primera fila, recogiendo y moviendo datos a gran velocidad. Y ahí es cuando un descuido pequeño se convierte en desastre grande.
Si tú fueras un estafador, ¿a quién atacarías? ¿A alguien que está tranquilo… o a alguien que está esperando un trabajo?
Un candidato es vulnerable por definición: busca oportunidades, responde rápido y confía más de lo que debería en mensajes “del proceso”.
Y un sistema automatizado amplifica: más volumen, más integraciones, más copias de datos, más puertas.
Resultado: con una fuga así no solo pierdes reputación, también facilitas campañas de phishing con una precisión escalofriante.
Si te interesa el lado humano (y oscuro) de esto, te encaja muy bien esta lectura: IA que filtra tu CV y tus entrevistas. Porque aquí no hablamos solo de tecnología, hablamos de poder sobre oportunidades.
Esta frase la he oído demasiadas veces: “Eso lo lleva un tercero”. Ya. Pero cuando el tercero recoge datos en tu nombre, tu marca es la que aparece en la experiencia. Y el candidato no distingue entre “McDonald’s” y “el proveedor del chatbot”. Distinge entre “me pasó a mí” y “me da miedo volver a dejar mis datos”.
Aquí se mezcla todo: seguridad, privacidad, reputación y cumplimiento. Si quieres tener claro el mapa de errores típicos (los que parecen pequeños hasta que revientan), guarda este artículo: errores típicos al usar IA: alucinaciones y privacidad.
Vamos a lo práctico. Si tienes un bot, un formulario inteligente o un flujo automático de selección, esta es la auditoría que yo haría. No hace falta ser una multinacional: hace falta ser ordenado.
Si quieres convertir este checklist en algo operativo (no en un PDF que nadie abre), te va a ayudar mucho: documentar el uso de IA en la empresa. La documentación bien hecha no es burocracia: es memoria y control.
Lo más útil que puedes sacar de McHire no es el chiste de la contraseña. Es esta idea: la automatización no solo acelera procesos, también acelera consecuencias. Si tu funnel procesa miles de candidaturas al día, un fallo mínimo puede afectar a una cantidad absurda de personas antes de que alguien lo note.
Si estás montando IA en RRHH: piensa primero en accesos, datos y entornos. Lo “inteligente” viene después.
Si ya lo tienes en marcha: revisa hoy mismo si existen cuentas demo/test, credenciales heredadas o paneles sin MFA.
Si dependes de proveedor: pídeles evidencias, no promesas. Y si se molestan por preguntas básicas, eso ya es una señal.
La próxima vez que alguien te venda “un bot de IA para contratar más rápido”, pregúntate algo más importante: ¿y para contratar más seguro? Porque la diferencia entre innovación y desastre, muchas veces, es tan triste como un “123456”.
Investigadores de seguridad accedieron a un entorno del sistema McHire (con el chatbot Olivia de Paradox.ai) usando una contraseña extremadamente débil, tipo "123456". Eso abrió acceso a datos de candidaturas y a las conversaciones que los aspirantes habían mantenido con el bot durante el proceso de selección.
Datos de contacto como nombre, email y teléfono, metadatos como IP y trazas de actividad, respuestas sobre disponibilidad y localización, y el contenido de las conversaciones con el bot, que para un atacante es material muy útil para montar campañas de phishing dirigidas.
No falló la IA en sí, falló la higiene básica de seguridad: credenciales por defecto, paneles sin protección adecuada y entornos de prueba mal aislados. La IA solo estaba en primera fila recogiendo y moviendo datos a gran velocidad cuando el fallo humano ya existía detrás.
Como mínimo: MFA obligatorio en paneles admin, eliminar credenciales por defecto, minimizar los datos que pides, definir tiempos de retención, separar entornos de test y producción, limitar los scopes de las integraciones y exigir a tu proveedor evidencias de seguridad, no solo promesas.
La IA no miente: predice. Te explicamos por qué ChatGPT y otros modelos inventan datos y las 7 señales para detectar una alucinación antes de fiarte.
El caso real, por qué afecta especialmente a adolescentes y 9 medidas para no regalar tus conversaciones (ni las de terceros).
El World Economic Forum alerta de ataques con deepfakes para burlar verificaciones de identidad. Te explico cómo funcionan, señales rojas y el checklist mínimo para empresas y usuarios (liveness, detección de inyección, MFA y revisión).