Por qué la IA alucina: 7 señales para detectar datos falsos
La IA no miente: predice. Te explicamos por qué ChatGPT y otros modelos inventan datos y las 7 señales para detectar una alucinación antes de fiarte.
Cómo podría ser una escuela con IA en cada clase dentro de una década: tutores digitales personalizados, evaluación continua y el nuevo papel del profesor.
EDUCACIÓN · IA · FUTURO
El dato incómodo
En el curso 2024–25, un informe en EE. UU. estimaba que el 85 % de los docentes y el 86 % de los alumnos ya usaban IA en el aula o para tareas. La “escuela sin IA” ya casi no existe.
La predicción
Hay expertos que anticipan que cada estudiante tendrá un mentor digital personalizado en menos de 10 años, capaz de guiar su aprendizaje día a día.
Ya está pasando
Proyectos como Khanmigo o tutores cognitivos similares ya están en cientos de escuelas y llegando a sistemas públicos completos en países como India o Brasil.
Imagina la reunión de final de curso de tu hijo en 2035.
No te enseñan un boletín de notas con números. En una pantalla, ves un mapa vivo: qué domina, qué le cuesta, cómo ha evolucionado su curiosidad, su colaboración, su resiliencia. Todo ello construido por miles de microevaluaciones hechas por sistemas de IA que lo han acompañado durante el año.
No hubo exámenes finales como tú los conociste. Pero sí hubo evaluación constante, personalizada y mucho más rica. Y, sobre todo, hubo algo nuevo: una IA en cada clase, no para sustituir al profesor, sino para darle superpoderes.
Este artículo no es ciencia ficción, es una extrapolación bastante conservadora de lo que ya está ocurriendo con tutores digitales, sistemas adaptativos y modelos de lenguaje en educación. Y se conecta de forma directa con cómo la IA ya toma decisiones por ti en tu día a día, como explicas en 9 decisiones diarias que ya toma la IA por ti.
08:30 — Llegada. Cada alumno entra en clase y su tablet, portátil o gafas de realidad mixta se sincronizan con el “gemelo educativo” que le acompaña desde primaria: una IA que conoce su historial, sus motivaciones y hasta qué tipo de explicaciones le funcionan mejor.
09:00 — Matemáticas sin libro de texto. El profesor plantea un reto: diseñar un parque con un presupuesto limitado, trabajando conceptos de geometría, proporciones y estadística. La IA propone a cada estudiante un recorrido diferente: a unos les lanza simulaciones, a otros problemas paso a paso, a otros pequeños juegos. Si se atascan, no les da la solución, sino pistas guiadas al estilo de los tutores socráticos que ya vemos en plataformas como Khanmigo.
11:00 — Lengua y comunicación. Los alumnos escriben un discurso sobre un tema que les apasiona. La IA corrige ortografía y estilo en tiempo real, sugiere estructuras narrativas y propone ejemplos, pero el profesor se centra en lo que de verdad importa: la intención, el mensaje, la autenticidad. Los modelos de lenguaje sirven para practicar escritura y conversación, algo que ya está mostrando impacto en estudios recientes.
13:00 — Evaluación invisible. No hay examen al final de la mañana. Pero cada interacción —problema resuelto, pregunta formulada, reflexión grabada en vídeo— alimenta un panel de progreso. La evaluación es continua, no concentrada en dos horas de estrés al final del trimestre, como sugieren muchos pilotos actuales de IA en escuelas.
16:00 — Tutoría 1:1… con IA y con humano. El sistema propone una tutoría corta para un alumno que lleva días algo desconectado. La IA detecta patrones (baja participación, menos tiempo en tareas complejas) y se lo señala al profesor, que es quien decide cómo intervenir. Esta combinación “IA que ve, humano que interpreta” es clave, y ya se empieza a probar en proyectos como los documentados por el gobierno británico con centros educativos pioneros.
La gran diferencia no es que desaparezcan todos los exámenes del planeta, sino que dejan de ser el centro del sistema. En lugar de jugarte el curso a una prueba de dos horas, tu rendimiento se mide a lo largo de cientos de pequeñas evidencias: ejercicios, proyectos, debates, simulaciones.
Esto no es simplemente “más deberes”. Es un cambio de paradigma: la IA puede corregir ejercicios, proponer variaciones y generar feedback en tiempo real a una escala imposible para un profesor solo. Informes recientes muestran que el uso de IA mejora el desempeño en tareas y exámenes, pero también que hay diferencias claras entre quienes la usan para aprender y quienes la usan solo para entregar.
Paradójicamente, una parte de la reacción inicial a la IA fue justo lo contrario: volver al papel para evitar copias, como ya ocurrió en universidades australianas, o endurecer normas de plagio. Pero a medio plazo, esa carrera armamentística es insostenible. La solución no es vigilar cada vez más, sino diseñar tareas donde usar IA de forma responsable sea parte del aprendizaje, no un truco para hacer trampas. En tu artículo sobre supervisión de exámenes e IA ya planteas muy bien este giro: del “policía” al “arquitecto de experiencias de evaluación”.
En este escenario, el profesor no desaparece, cambia de rol. Deja de ser la fuente principal de contenido para convertirse en diseñador de experiencias, curador de recursos y, sobre todo, referente emocional y ético.
Mientras la IA se encarga de adaptar ejercicios, detectar lagunas y proponer rutas personalizadas, el docente se enfoca en lo que ninguna máquina puede hacer igual: entender el contexto familiar, motivar, leer lo que no se dice, enseñar a trabajar en equipo, acompañar los tropiezos vitales que no caben en un dashboard.
Si hoy la relación profesor–alumno ya es frágil en muchos sistemas masificados, en una escuela con IA ubicua esa relación se vuelve aún más estratégica. De lo contrario, pasamos de una educación industrial a una educación algorítmica igual de deshumanizada. En este punto engancha muy bien tu reflexión sobre qué pasa cuando tu “jefe” es un algoritmo: en educación, el riesgo es que el jefe del aula sea el modelo, no el docente.
Por debajo de esa experiencia “mágica” hay un sistema relativamente complejo, muy parecido a los que describes en tu artículo de diseño de sistemas de machine learning:
Una capa de datos educativos, que integra tareas, notas, tiempo dedicado, interacción social, contenido consumido y señales del contexto (por ejemplo, si el alumno trabaja desde casa con mala conexión). El peligro obvio aquí es la privacidad, y es uno de los puntos que reguladores y organismos como el Parlamento Europeo ya señalan como críticos al hablar de IA y acceso a la educación.
Modelos de IA especializados para distintas tareas: comprensión de lenguaje, análisis de voz, generación de ejercicios, evaluación de proyectos, detección de riesgos (desmotivación, abandono, incluso señales tempranas de problemas emocionales). Algunos estarán en la nube, otros incrustados en los propios dispositivos para reducir dependencia y mejorar privacidad, como planteas en Private AI Compute de Google.
Una capa de orquestación que decide qué modelo usar, con qué parámetros y con qué límites según el contexto. Esa misma capa puede aplicar políticas del centro o del país: por ejemplo, qué usos de la IA se consideran aceptables en tareas evaluables. Aquí entran también las restricciones legales y geopolíticas que ya analizas en la nueva guerra fría de la IA y en qué pasa si tu país bloquea una IA.
Una de las promesas más potentes de la IA en educación es que, por fin, un alumno en una zona rural pobre pueda tener un tutor tan competente como el de un colegio de élite. Hay ya proyectos en países en desarrollo que usan tutores de IA y plataformas adaptativas para salvar la falta de profesorado y mejorar resultados básicos en matemáticas y lectura.
Si se hace bien, la IA puede ser el gran ecualizador: acceso a explicaciones en tu idioma, adaptadas a tu ritmo, disponibles a cualquier hora desde un móvil barato. Si se hace mal, tenemos justo lo contrario: escuelas ricas con sistemas avanzados y humanos guiando, frente a escuelas pobres enchufadas a una IA barata sin apoyo ni contexto humano.
Tus análisis sobre modelos multilingües y sobre herramientas de investigación profunda apuntan a un mismo lugar: el conocimiento de calidad estará técnicamente al alcance de cualquiera, pero que llegue o no a tus hijos dependerá de políticas públicas, infraestructura y decisiones de diseño.
No puedes imaginar escuelas con IA en todas partes sin hablar de riesgos. Algunos ya se ven hoy: dependencia excesiva (alumnos incapaces de escribir sin un asistente), sesgos en los modelos, vigilancia excesiva, presión por la hiperproductividad académica, o incluso vínculos emocionales con tutores digitales similares a los que ya describes en novios de IA y amigos sintéticos.
También está el lado oscuro de la evaluación automática: si un modelo decide quién “vale” o “no vale” basándose en datos incompletos o sesgados, podemos reforzar desigualdades en lugar de corregirlas. Por eso, muchos expertos insisten en que la IA debe usarse como apoyo a la decisión humana, no como sustituto, y que los sistemas deben ser auditables y explicables.
Y luego está la presión psicológica: saber que “todo cuenta”, que cada interacción queda registrada, puede ser agotador si no se gestiona bien. Aquí el papel de la escuela será enseñar también higiene digital y emocional con IA: cuándo usarla, cuándo apagarla, cómo no delegar toda tu autoestima a un panel de métricas.
La pregunta clave no es si habrá IA en las escuelas dentro de 10 años (ya la hay), sino qué tipo de relación quieres que tus hijos tengan con ella. Algunas ideas prácticas que encajan con el resto de tus artículos:
Si eres padre o madre, pregúntale al centro cómo está usando la IA: ¿solo se prohíbe o se enseña a usarla bien? ¿Hay transparencia sobre qué datos se recogen? ¿Se habla de sesgos, de límites, de salud mental digital? Las mismas preguntas que uno debería hacerse cuando una IA empieza a tomar decisiones financieras, de salud o de empleo por nosotros, como comentas en liderazgo de IA en la empresa.
Si eres profesor, experimenta con IA primero para ti: preparación de clases, generación de ejemplos, diseño de rúbricas. Luego, introduce su uso en actividades concretas, marcando muy bien qué parte debe hacer el alumno y qué parte puede delegar. Tus reflexiones sobre asistentes de IA para contenidos son una buena inspiración.
Si eres alumno, acostúmbrate a usar la IA como espejo, no como muleta: pídele que te haga preguntas, que te explique tus errores, que genere ejercicios extra. Lo que cuentes en tu artículo sobre estancamiento del engagement con chatbots aplica aquí: si solo entras para que te haga los deberes, te aburres y no aprendes.
Dentro de 10 años, lo más probable es que tus hijos no recuerden los exámenes como tú: filas de pupitres, silencio tenso, hojas de papel y un bolígrafo azul. Recordarán paneles de progreso, proyectos, simulaciones, conversaciones con tutores digitales y humanos, pequeños retos diarios que juntos pintan la foto de quiénes son y cómo aprenden.
Que ese futuro sea una utopía (más equidad, más personalización, menos ansiedad) o una distopía (más vigilancia, más desigualdad, más presión algorítmica) no está escrito en el código de ningún modelo. Depende de decisiones políticas, de diseño y de cultura educativa que se están tomando ahora mismo.
Lo único que parece seguro es esto: tus hijos estudiarán en escuelas con IA en todas partes. La pregunta es si esas escuelas seguirán siendo espacios de humanidad, curiosidad y pensamiento crítico, o si delegarán demasiado en sistemas que no entienden. Y ahí, como padre, profesora, desarrollador o responsable político, todavía tienes mucho que decir.
No, según el artículo el profesor cambia de rol: deja de ser la fuente principal de contenido para convertirse en diseñador de experiencias, curador de recursos y referente emocional y ético, mientras la IA adapta ejercicios y detecta lagunas de aprendizaje.
El examen final deja de ser el centro del sistema: el rendimiento se mide con cientos de pequeñas evidencias (ejercicios, proyectos, debates, simulaciones) que alimentan un panel de progreso continuo, en vez de jugarse el curso a una prueba de dos horas.
Puede ser un "gran ecualizador" si un alumno en una zona rural pobre accede a un tutor tan competente como el de un colegio de élite, pero si se hace mal puede ocurrir lo contrario: escuelas ricas con humanos guiando frente a escuelas pobres solo con IA barata y sin apoyo.
Dependencia excesiva de los alumnos, sesgos en los modelos, vigilancia excesiva, presión por la hiperproductividad académica y vínculos emocionales con tutores digitales, además del riesgo de que la evaluación automática refuerce desigualdades si se basa en datos incompletos.
La IA no miente: predice. Te explicamos por qué ChatGPT y otros modelos inventan datos y las 7 señales para detectar una alucinación antes de fiarte.
El caso real, por qué afecta especialmente a adolescentes y 9 medidas para no regalar tus conversaciones (ni las de terceros).
El World Economic Forum alerta de ataques con deepfakes para burlar verificaciones de identidad. Te explico cómo funcionan, señales rojas y el checklist mínimo para empresas y usuarios (liveness, detección de inyección, MFA y revisión).