Gary Marcus contra los LLM: ¿burbuja de la IA o crítica que nadie quiere escuchar?

IA · CRÍTICA · FUTURO DE LOS MODELOS

1. Quién es Gary Marcus y por qué molesta tanto en plena fiebre de la IA

Gary Marcus es profesor emérito de Psicología y Neurociencia en la NYU, investigador en desarrollo del lenguaje y coautor del libro Rebooting AI, donde defiende que la IA actual no es fiable y que necesitamos replantearla desde la base. También ha fundado varias startups de IA, como Geometric Intelligence, adquirida por Uber, y ha participado en proyectos de robótica y sistemas híbridos.

No es, por tanto, un “anti-IA”. Es alguien que lleva dos décadas dentro del campo y que nunca ha comprado del todo la promesa de que basta con apilar capas de redes neuronales y más datos para llegar a algo parecido a la inteligencia humana. En Rebooting AI y en artículos posteriores, insiste en que necesitamos enfoques neurosimbólicos: mezclar aprendizaje automático con representación explícita de conocimiento, lógica y reglas, una línea que se solapa con el tipo de sistemas avanzados que comentamos en diseño de sistemas de machine learning.

Cuando llegaron ChatGPT y compañía, Marcus no cambió de opinión. Al contrario: aprovechó el momento para actualizar su crítica. Para él, el problema no es que los LLM no sean impresionantes, sino que el mercado y muchos directivos están confundiendo capacidad de imitar lenguaje con comprensión real y fiabilidad.

2. Su caso contra los LLM: modelos brillantes… pero sin sentido común

El núcleo de la crítica de Marcus es sencillo: los modelos de lenguaje de hoy son, en el fondo, máquinas de correlaciones. Predicen qué token viene después de otro a partir de enormes cantidades de texto, pero no tienen un modelo explícito del mundo, ni comprenden causas, ni manejan de verdad conceptos como tiempo, espacio o intención. De ahí que puedan escribir un ensayo brillante y, a la vez, inventarse referencias o mezclar hechos incompatibles.

En su famoso artículo Deep Learning Is Hitting a Wall, argumentaba que el enfoque puramente conexionista se vuelve cada vez más caro y ofrece retornos decrecientes: cada punto extra de rendimiento exige más datos, más cómputo y más ingeniería, pero los modelos siguen fallando en las mismas cosas de siempre: razonamiento abstracto, extrapolación fuera de distribución, explicaciones claras de sus decisiones.

Según Marcus, los LLM actuales son excelentes en demos controladas, pero mucho menos impresionantes cuando los pones a prueba en condiciones adversas: datos ruidosos, instrucciones ambiguas, contextos cambiantes. Cualquiera que haya intentado convertir un asistente en backend fiable para procesos críticos lo ha visto de cerca, algo que analizamos en detalle en por qué tantos pilotos de IA fracasan.

Por eso insiste tanto en que, sin estructuras más “simbólicas” por debajo, la inteligencia generativa se queda en una mezcla de autocomplete avanzado y teatro estadístico. Es útil, sí, pero muy lejos del tipo de inteligencia robusta que querríamos para medicina, justicia o infraestructuras críticas.

3. La burbuja de la IA generativa según Marcus

Si a esto le sumas valoraciones estratosféricas, promesas de AGI a la vuelta de la esquina y una avalancha de productos que son básicamente “la misma app con un prompt distinto”, se entiende por qué Marcus habla de burbuja de la IA generativa. En su newsletter y en artículos recientes, ha llegado a predecir que el boom podría empezar a pincharse alrededor de 2025, con empresas descubriendo que muchos casos de uso no devuelven el ROI prometido.

No está solo. En los últimos meses, bancos centrales y organismos como el FMI han empezado a alertar de un posible exceso de entusiasmo en torno a las empresas de IA, con valoraciones que se apoyan más en expectativas que en beneficios reales. Al mismo tiempo, vemos cómo el uso cotidiano de algunos asistentes se estabiliza o incluso retrocede cuando pasa el efecto novedad, algo que ya hemos estudiado en estancamiento y fatiga en el uso de ChatGPT.

Desde esta perspectiva, la pregunta de Marcus no es si la IA generativa es útil, sino si está sobrevalorada. Para él, hay un desajuste claro entre lo que la tecnología hace bien (ayudar a redactar, programar, resumir, asistir en tareas creativas, como comentamos en IA en PCs para creatividad y productividad) y lo que se le está prometiendo al mercado: una especie de inteligencia general casi mágica que resolverá cualquier problema con suficiente escala.

4. Regulación dura: licencias, pruebas y supervisión independiente

Marcus no se queda en la crítica técnica. En 2023 testificó ante el Senado de Estados Unidos defendiendo la creación de una agencia específica para regular la IA, con un régimen de licencias similar al de la aviación o los medicamentos. Su idea es que los sistemas de alto impacto no deberían lanzarse sin pruebas rigurosas, transparencia en los datos y monitorización continua.

En resumen, propone tres pilares. Primero, licencias para modelos potentes: no cualquiera podría desplegar un sistema de cierto tamaño sin pasar por auditorías técnicas y de seguridad. Segundo, evaluaciones estandarizadas que no dependan solo de pruebas internas, sino de organismos independientes capaces de medir riesgos de alucinaciones, sesgos, ciberataques o abuso. Aquí encajan bien ideas como las que vemos en análisis de ciberataques con IA. Y tercero, transparencia sobre datos de entrenamiento, límites del sistema y mecanismos de mitigación.

Este enfoque contrasta con la visión más “ligera” de quienes prefieren códigos de conducta voluntarios o autorregulación. Para Marcus, la analogía es clara: si exigimos normas estrictas a la industria aeroespacial o farmacéutica, no tiene mucho sentido dejar a la IA, con su potencial impacto sistémico, en un régimen de “ya nos vigilamos nosotros mismos”. De fondo está el mismo debate que atraviesa iniciativas como Private AI Compute de Google: cómo equilibrar innovación con protección real de datos y usuarios.

5. Dónde tiene razón y dónde se queda corto

Visto desde 2025, es difícil negar que Marcus acertó en varias cosas. Señaló problemas de alucinaciones, seguridad y falta de sentido común mucho antes de que estuvieran en todos los titulares. También fue de los primeros en insistir en que los modelos gigantes no son, por sí solos, una vía directa hacia la AGI, algo que cada vez más gente reconoce aunque siga habiendo promesas agresivas de hoja de ruta.

Sin embargo, también es justo decir que la realidad ha sido más matizada que algunas de sus predicciones. Modelos de nueva generación, arquitecturas más sofisticadas, agentes y flujos de trabajo orquestados han demostrado capacidades que pocos anticipaban a este ritmo. Herramientas como las que analizamos en Gemini 3, o combinaciones avanzadas de modelos y herramientas como las que describimos en Skills para Claude y agentes, muestran que hay margen para seguir mejorando sin necesidad de “entender” como un humano.

También hay verticales donde la IA ya está generando valor tangible, aunque sea con muchas capas de control encima. Un ejemplo claro son las plataformas legales como Harvey para despachos y departamentos jurídicos, que combinan LLMs con flujos auditables, permisos granulares y supervisión humana. No son AGI, pero sí son herramientas que cambian procesos concretos de forma medible.

Mi lectura es que Marcus es más preciso cuando critica el discurso de “todo está resuelto” que cuando intenta poner fecha al techo de la tecnología. Tiene razón al pedir prudencia, transparencia y regulación seria; quizá es menos justo cuando minimiza el progreso real en capacidades y la creatividad que estamos viendo en nuevas arquitecturas, como las basadas en recuperación aumentada y grafos que explicamos en Graph-RAG.

6. Qué implica todo esto para empresas que están metiendo IA en todo

Si trabajas en una empresa que quiere “meter IA en todas partes”, la crítica de Marcus es menos un frenazo y más un checklist. Primero: no des por hecho que un LLM genérico es la solución a todo. Empieza por entender bien el problema, los datos, los riesgos y el proceso, como insistimos en encaje producto-mercado para startups de IA.

Segundo: invierte en ingeniería de datos y diseño de sistemas, no solo en prompts. Documentar fuentes, versionar datasets, controlar accesos y monitorizar el rendimiento del modelo en producción marca la diferencia entre un juguete y una plataforma seria. Es el tipo de enfoque que desarrollamos en ingeniería de datos para IA y en diseño de sistemas de ML.

Tercero: diseña con el fracaso en mente. Asume que el modelo se va a equivocar, que habrá casos límite y que algunos procesos no pueden quedar al 100 % en manos de un generador de texto. Eso significa poner humanos en el bucle donde toque, delimitar claramente qué tareas sí se automatizan y cuáles no, y aprender de los errores en lugar de esconderlos. Si no se hace, acabas en el escenario que contamos en pilotos de IA que nunca pasan de prototipo.

Por último, piensa en gobernanza desde el principio: quién puede lanzar un nuevo modelo, quién puede tocar prompts críticos, cómo se evalúan riesgos legales y de seguridad antes de poner nada en manos de clientes. Ahí vuelven a cruzarse los argumentos de Marcus con marcos más amplios como los que proponemos en liderazgo en IA empresarial.

7. Qué significa para tu carrera en plena ola generativa

A nivel individual, la crítica de Marcus también es una invitación a pensar a largo plazo. Si tiene razón y la parte más inflada del hype se desinfla, sobrevivirán los perfiles que aporten algo más que saber escribir prompts bonitos. Hablamos de gente que entiende la tecnología, sí, pero también el negocio, los datos, los riesgos y la arquitectura.

Eso se traduce en tres movimientos claros. Uno: dejar de ver los LLM como oráculos y empezar a tratarlos como componentes dentro de sistemas más grandes, donde entran recuperación de contexto, herramientas externas, flujos de agentes y mediciones de calidad. Es justo el tipo de mentalidad que exploramos cuando hablamos de agentes y habilidades especializadas en Skills para Claude.

Dos: combinar entusiasmo con escepticismo informado. Probar cosas nuevas, sí, pero midiendo impacto, revisando sesgos, entendiendo límites. Si miras cómo ha evolucionado el uso de asistentes generalistas que analizamos en ChatGPT Business y neuroproductividad, verás que los que más se benefician no son quienes lo usan para todo sin filtro, sino quienes diseñan sistemas de trabajo alrededor de la IA.

Tres: mantener un ojo en lo que viene después de la ola generativa pura. Eso incluye modelos multimodales, integración profunda con flujos de datos empresariales, cómputo más cercano al usuario (como el que tratamos en modelos pequeños y eficientes) o capacidades de investigación automatizada al estilo de NotebookLM y el deep research. En ese mundo, entender bien qué criticaba Marcus te ayuda a no repetir los mismos errores de sobreprometer y subentregar.

En resumen, no hace falta estar de acuerdo con todas las tesis de Marcus para aprovecharlas. Basta con dejar que sus preguntas pinchen la narrativa fácil y nos obliguen a construir IA que aguante algo más que una demo espectacular y un titular de moda.

Si quieres seguir explorando el lado menos obvio de la IA generativa, puedes enlazar este artículo con la autopsia de pilotos de IA que fracasan, con el análisis de cómo los asistentes cambian el ecosistema informativo en asistentes de IA para noticias y con la visión más estructural de liderazgo en IA empresarial para pasar del hype a la ejecución real.