Sparks of AGI: lo que el paper de GPT-4 revela (de verdad) sobre inteligencia general

PAPERS · GPT-4 · AGI

El informe se titula Sparks of Artificial General Intelligence: Early experiments with GPT-4. No lo firma OpenAI, sino un grupo de investigadores de Microsoft que pudieron jugar con una versión temprana de GPT-4 antes de su lanzamiento público. En lugar de publicar un paper clásico de arquitectura, se centran en lo que ven “desde fuera”: qué es capaz de hacer el modelo si lo tratas como una especie de cerebro textual multimodal.

Leído junto a libros e ideas como Architects of Intelligence, Vida 3.0 o The Alignment Problem, este paper funciona casi como documento histórico: es el momento en el que un actor grande dice en voz alta “creemos que aquí hay algo que se parece a inteligencia general”.

1. Qué es exactamente “Sparks of AGI” (y qué no)

Lo primero: no es un paper que “explique GPT-4 por dentro”. OpenAI no abre la arquitectura ni los datos de entrenamiento. Lo que hace Microsoft es algo distinto: toma una versión previa al lanzamiento, la bombardea con problemas difíciles en muchos campos y documenta lo que ve. Es casi un estudio de comportamiento de un sistema opaco, como si fuera un animal inteligente al que observas sin poder mirarle el cerebro.

El informe recorre habilidades de GPT-4 en matemáticas, código, visión, derecho, medicina, razonamiento lógico, creatividad literaria, música, análisis de gráficos, explicación de chistes y más. En cada apartado comparan, cuando pueden, con modelos anteriores (por ejemplo GPT-3.5, el ChatGPT “clásico”) para subrayar la sensación de salto cualitativo. Sobre esa base lanzan su hipótesis: no es una inteligencia general completa, pero sí ven “chispas” de algo que se parece bastante.

2. Cómo evalúan GPT-4: menos benchmark, más “psicología experimental”

A diferencia de muchos papers recientes, aquí los autores no se centran solo en benchmarks cuantitativos. Argumentan que exámenes y tests estándar son útiles, pero no suficientes para capturar lo que de verdad nos interesa: ¿el modelo es flexible?, ¿generaliza?, ¿combina ideas?, ¿puede manejar tareas raras que nadie ha predefinido como benchmark?

Por eso el enfoque recuerda más a la psicología que a la ingeniería clásica. Le piden a GPT-4 que imagine nuevos juegos de mesa con reglas coherentes, que analice dilemas morales, que explique por qué cierto chiste hace gracia, que invente un experimento científico razonable o que escriba diálogos al estilo de Platón sobre los propios modelos de lenguaje. Y comparan sus respuestas con las de modelos previos para ver si hay algo más que “más de lo mismo, pero más grande”.

Si estás pensando en producto —como cuando se diseña un sistema de machine learning real o se busca encaje producto–mercado en IA— hay aquí una lección clara: si solo miras tablas de métricas, te pierdes gran parte de lo que hace que un modelo sea útil (o peligroso) en el mundo real.

3. Las demos que encendieron el hype

3.1 Matemáticas y razonamiento más allá del “copy paste”

Una parte célebre del informe muestra a GPT-4 resolviendo problemas de matemáticas no triviales: olimpíadas, combinatoria, teoría de números, demostraciones sencillas… muchas veces con explicaciones paso a paso que, leídas por un humano, “suenan” a razonamiento estructurado. Los autores insistían en que no eran simplemente ejercicios calcados de libros de texto, sino composiciones nuevas que requerían combinar varias ideas.

¿Significa eso que GPT-4 “entiende” matemáticas como un investigador? No. Pero deja bastante atrás la etapa en la que los LLM se perdían en cuanto salías de reglas mecánicas sencillas. Es un ejemplo muy visual de lo que pasa cuando escalas la familia de modelos que nació con papers como Attention Is All You Need.

3.2 Código: de resolver LeetCode a diseñar pequeñas apps

Otra sección fuerte es la de programación. El informe muestra a GPT-4 pasando entrevistas técnicas, resolviendo problemas de plataformas tipo LeetCode y, lo más interesante, construyendo herramientas completas a partir de instrucciones textuales: pequeñas aplicaciones web, scripts de análisis de datos, refactors de código existente, integración de APIs, etcétera. También se ve cómo el modelo corrige su propio código al leer mensajes de error.

Ahí se entiende por qué el mundo dev cambió tan rápido cuando salieron los copilots. Lo que en el paper son demos, en la práctica se ha convertido en tendencia en productos y contenidos sobre cosas como Claude Code para desarrolladores o ChatGPT aplicado a negocio: parte del trabajo de programación pasa de escribir todo a mano a orquestar y revisar lo que propone la IA.

3.3 Sentido común, juegos mentales y multimodalidad

Las partes más vistosas son las de sentido común y visión. Ejercicios como “tienes huevos, un libro, un portátil, una botella y un clavo; ¿cómo los apilas sin romper nada?” o “explica este meme” muestran que GPT-4 maneja intuiciones razonables sobre peso, equilibrio, fragilidad y contexto cultural, algo en lo que modelos anteriores patinaban mucho más.

Además, la versión de GPT-4 que analizan ya es multimodal: puede interpretar imágenes, gráficos o bocetos y razonar sobre ellos. Esa capacidad está detrás de muchas aplicaciones que aparecen cuando se habla de IA generativa en cine y series o de vídeo por IA.

4. Limitaciones que el propio informe reconoce

Importante: el tono del paper no es “mirad qué dios todopoderoso”, sino más bien “mirad qué es capaz de hacer esta cosa, y mirad también dónde se rompe”. Hay secciones completas dedicadas a fallos de planificación, alucinaciones y errores de sentido común que invalidan el uso de GPT-4 como oráculo.

Por ejemplo, el modelo inventa referencias o datos factuales que no están en el enunciado, responde con seguridad a preguntas en las que debería decir “no lo sé” y puede generar razonamientos convincentes pero incorrectos en contextos médicos o legales. Justo el tipo de cosa que se analiza en artículos como chatbots y trastornos alimentarios, triaje de urgencias con IA o IA que filtra CV y entrevistas.

El informe deja claro que GPT-4 no tiene memoria persistente propia, no aprende online de cada conversación y no tiene un modelo explícito del mundo físico. Es muy bueno jugando con representaciones internas en forma de texto e imagen, pero eso no equivale a “entender el mundo” al estilo humano.

5. “Chispas de AGI”: qué querían decir, qué se entendió fuera

La expresión “sparks of AGI” fue dinamita. Los autores la usan para decir algo sutil: que GPT-4 muestra capacidades que, en humanos, asociamos al “núcleo” de la inteligencia general (razonamiento flexible, abstracción, creatividad combinatoria), aunque todavía con fallos graves. Hablan de “versión temprana”, “incompleta” y “todavía limitada”.

Pero fuera del paper esa sutileza se pierde. Muchos titulares se convirtieron en “Microsoft dice que GPT-4 ya es una AGI incipiente”, mientras que críticos respondían que esto era puro marketing disfrazado de ciencia. Otros investigadores apuntaron que hablar de AGI sin tener una definición consensuada es, como mínimo, confuso.

Si has leído Human Compatible o La nueva guerra fría de la IA, se ve claro el problema: llamar “AGI” a un sistema opaco, propiedad de una empresa gigante y con capacidad de impacto global no es solo un detalle técnico, es parte de una narrativa de poder y de carreras por no quedarse atrás.

6. Las principales críticas al informe

Varias voces de la comunidad de IA y de filosofía de la mente criticaron el informe casi desde el día uno. Las objeciones se pueden resumir en tres bloques.

1. Se apoya en muchos ejemplos escogidos a mano. Es decir, vemos sobre todo lo brillante, no un muestreo sistemático de casos donde el modelo falla. El riesgo es confundir “presentación de producto” con evaluación científica.

2. Trabaja con una caja negra. La metodología es casi exclusivamente “mirar salidas”, sin acceso al entrenamiento ni a las representaciones internas. Para mucha gente, eso hace prematuro hablar de “inteligencia general”: no sabes si el modelo ha visto algo muy parecido antes, ni qué estructuras internas está usando.

3. Juega con una etiqueta (AGI) que no está bien definida. Usar ese término en un informe asociado a Microsoft, en medio de la carrera por modelos fundacionales como Gemini o Ernie y modelos chinos, no es neutro: influye en reguladores, prensa, inversión y opinión pública.

7. Qué significa este paper para tu relación diaria con GPT-4 y compañía

Más allá del debate filosófico, “Sparks of AGI” deja lecciones muy prácticas si estás construyendo cosas con modelos tipo GPT-4, Claude o Gemini, ya sea como maker individual o dentro de una empresa.

1. GPT-4 es realmente “generalista”. El informe documenta que funciona razonablemente bien en docenas de dominios sin entrenamiento específico. Eso lo convierte en muy buen candidato para ser un copiloto horizontal en una organización: documentación, código, análisis, resúmenes, borradores, etcétera. Esa versatilidad se refleja en casos como PCs de IA para productividad o usar IA para crear un blog que atrae clientes.

2. Pero no es un sistema autónomo de confianza. Las mismas demos muestran alucinaciones y errores peligrosos. Eso significa que, en negocio real, tienes que diseñar “barandillas”: flujos de revisión humana, límites claros de uso y métricas que vigilen los fallos críticos. Encaja con muchas historias de por qué tantos pilotos de IA fracasan.

3. Evaluar modelos es parte de tu producto, no un detalle técnico. El enfoque del informe (probar cosas creativas, diseñar escenarios ad hoc) es una buena inspiración: cada equipo debería tener su propia “batería de Sparks” alineada con su dominio, sus riesgos y sus usuarios. Eso se cruza con ideas sobre ingeniería de datos y liderazgo en IA empresarial.

8. Cómo encaja “Sparks of AGI” en el mapa de papers clave

Si te gusta ordenar los grandes artículos técnicos en un mapa mental, este informe ocupa un lugar bastante claro. Si AlexNet es el “boom” de las CNN, Attention Is All You Need el nacimiento de los Transformers y AlphaGo Zero el experimento extremo de autojuego y refuerzo, entonces “Sparks of AGI” es el paper que pregunta qué pasa cuando escalamos esa familia de modelos hasta GPT-4 y lo soltamos sobre todo tipo de tareas.

A la vez, se conecta con temas más políticos y sociales: desde economía de máquinas predictivas hasta decisiones diarias que ya toma la IA por ti, pasando por qué pasa cuando la IA decida qué es “verdad” en internet. GPT-4 es, muchas veces, la infraestructura silenciosa detrás de esas historias.

9. ¿Deberías leer el informe entero? Cómo abordarlo sin morir en el intento

“Sparks of AGI” ronda las 150 páginas. No es imposible, pero tampoco algo que apetezca leer de una sentada si no vives en arXiv. La recomendación depende mucho de quién seas en esta historia.

1. Si eres perfil técnico (ML engineer, data scientist, investigador), merece la pena leer al menos la introducción, la parte de metodología y algunos capítulos de dominios que te interesen: código, matemáticas, visión. Te puede dar ideas para diseñar tus propios tests de modelos fundacionales, igual que pasa cuando se piensa en Graph-RAG o en arquitecturas de agentes en migración a nube con IA y agentes.

2. Si estás en liderazgo, estrategia o política pública, céntrate en el abstract, la introducción, las secciones de capacidades generales y las de limitaciones. Léelo como un documento que muestra el estado del arte de los modelos de propósito general y el tipo de promesas que hacen sus fabricantes. Cruzarlo con análisis sobre liderazgo en IA y guerra fría de la IA ayuda a ponerlo en contexto.

3. Si eres lector curioso, este resumen más algún vídeo de presentaciones del trabajo probablemente te dan todo lo que necesitas. Puedes dedicar tu tiempo de lectura a piezas que complementan la parte social y ética, como Atlas of AI, relaciones con chatbots o niños criados por asistentes de IA.

Al final, lo interesante de “Sparks of AGI” no es decidir si GPT-4 merece o no la etiqueta de “inteligencia general”, sino la pregunta que deja flotando: con modelos capaces de hacer tantas cosas tan bien, pero que seguimos sin entender del todo ni controlar del todo, ¿qué tipo de mundo queremos construir? El resto de este blog —desde la geopolítica hasta el negocio local que organiza su WhatsApp con IA— es, en el fondo, una serie de intentos de responder a eso.