Cuando la IA aprenda de la IA: el extraño futuro de los datos sintéticos

DATOS · IA GENERATIVA · FUTURO

Este giro ocurre al mismo tiempo que llegan nuevas generaciones de modelos como los que analizas en tu artículo sobre Gemini 3 o en tu pieza sobre modelos “thinking” tipo ERNIE 4.5 VL. Más capacidad de razonamiento arriba, más infraestructura por debajo, como cuentas en las inversiones en centros de datos, y en medio una pregunta incómoda: ¿qué pasa cuando la materia prima también es generada por la propia máquina?

1. De “raspar la web” a fabricar datos: por qué la IA se está quedando sin mundo

Durante más de una década, la receta ha sido clara: coge modelos cada vez más grandes, añádeles más cómputo y aliméntalos con cantidades brutales de texto, imágenes y código. Pero la fiesta de los datos no es infinita. Varios estudios estiman que el stock razonablemente usable de texto público de calidad se agotará en esta década. A partir de cierto nivel, ya no queda mucho contenido “nuevo” que rascar sin caer en duplicados, ruido, spam o información extremadamente sensible.

Al mismo tiempo, los requisitos legales y reputacionales aprietan: derechos de autor, privacidad, litigios abiertos contra grandes modelos. Lo que ya explorabas cuando hablabas de arte japonés y entrenamientos sin permiso se multiplica cuando hablamos de escalar modelos a niveles de país o planeta. Necesitamos más datos, pero no podemos simplemente chupar más internet sin consecuencias legales, éticas y de calidad.

Resultado: cada vez más empresas miran a dos sitios. Uno, datos privados de altísima calidad, normalmente caros y cerrados. Dos, datos sintéticos: contenido generado por otros modelos, curado y pensado ex profeso para entrenar a los siguientes.

2. Qué son realmente los datos sintéticos (más allá del hype)

Datos sintéticos no significa “datos falsos sin más”, sino datos generados artificialmente para imitar ciertas propiedades de los datos reales. Pueden ser tablas, imágenes médicas, tráfico de red, diálogos de atención al cliente o escenas de conducción urbana. La idea no es solo rellenar huecos, sino controlar mejor qué casos extremos, combinaciones raras o escenarios imposibles en la vida real quieres que tu modelo vea.

En salud, por ejemplo, se usan para simular pacientes con arritmias raras sin exponer datos reales, muy en la línea de los modelos que comentas en tu pieza sobre detección de arritmias en ECG. En vídeo, se generan escenas imposibles de rodar en la calle pero clave para seguridad, algo conectado con los avances que reseñas en vídeo por IA y edición avanzada. Y en texto, se generan millones de diálogos sintéticos para entrenar asistentes que luego se desplegarán en banca, soporte o educación.

Bien usados, estos datos permiten entrenar modelos donde antes era inviable por falta de volumen o por restricciones de privacidad. Mal usados, se convierten en una fotocopiadora de baja resolución haciendo copias de copias hasta que el texto, la imagen o la señal se degrada.

3. IA aprendiendo de IA: recursión, bucles y el fantasma del “model collapse”

El problema realmente interesante aparece cuando el porcentaje de datos sintéticos deja de ser pequeño. No es lo mismo usar IA para generar variaciones de un dataset humano que entrenar a la siguiente generación casi exclusivamente con contenido generado por la anterior. Es aquí donde entran conceptos como “model collapse” o “model autophagy”: modelos que, al entrenarse demasiadas veces sobre sus propios outputs, empiezan a olvidar los extremos de la distribución original y a quedarse solo con lo más típico, lo más frecuente, lo más aburrido.

Varios trabajos teóricos y empíricos han mostrado que, si repites el ciclo demasiadas veces sin inyectar suficiente datos humanos frescos, la diversidad y la calidad acaban bajando. El modelo se vuelve muy seguro en lo que ya sabía… pero deja de ver matices, rarezas, contraejemplos, creatividad auténtica. Exactamente lo que no quieres en sistemas que tienen que generalizar a casos nuevos o razonar en escenarios raros, como los que comentas en tu análisis de Claude Code o en la pieza sobre skills.

Intuitivamente, es como entrenar a una generación de estudiantes solo con apuntes resumidos por la generación anterior, sin volver nunca al libro original. Cada generación pierde un poquito de contexto, hasta que lo que queda es un esquema esquemático de otro esquema. Ordenado, sí. Pero muy limitado.

4. Lo bueno: acelerar, cubrir huecos y proteger lo que no puede salir de casa

No todo es riesgo. Hay razones muy buenas para apostar por datos sintéticos. La primera, la más obvia: velocidad. Generar datos con un modelo ya entrenado es muchas veces más rápido y barato que diseñar un estudio, reclutar usuarios, anotar miles de ejemplos y repetir el ciclo. Para ciertos tipos de tareas, sobre todo en dominios muy controlados, el ahorro temporal y económico es brutal.

Segunda razón: privacidad y cumplimiento. Sectores como salud, banca o legal se mueven entre ganas de usar IA y miedo a filtrar información sensible. La combinación entre técnicas de ejecución privada como las que explicas en Private AI Compute y datos sintéticos bien evaluados permite entrenar modelos sin sacar datos reales del perímetro de la organización. Es un compromiso interesante mientras la regulación y los acuerdos comerciales se estabilizan.

Tercera: cobertura de casos extremos. Igual que cuentas con IA generativa en cine y Netflix que la máquina puede crear escenas que jamás rodarías, aquí puede generar ejemplos de errores raros, patrones de fraude poco frecuentes o configuraciones de red peligrosas que aún no han ocurrido en producción. Usados con cabeza, los datos sintéticos son una manera de vacunar a tu modelo contra futuros que todavía no aparecen en tu histórico.

5. Lo raro: burbujas de información, sesgos reciclados y creatividad en bucle

El lado oscuro aparece cuando olvidamos que los datos sintéticos vienen de algún sitio. Si el modelo original ya tenía sesgos, puntos ciegos o zonas donde “alucina”, esos defectos se cuelan en el dataset sintético y, a menudo, se amplifican al generar millones de variantes. Es el mismo fenómeno que veíamos con los deepfakes: basta con un vídeo convincente para que la desinformación escale, como analizabas en tu pieza sobre deepfakes de figuras históricas. La diferencia es que aquí el “público objetivo” es otro modelo.

Además, cuando los sistemas generativos inundan la web de contenido sintético, otro problema se cuela por la puerta de atrás: los próximos scrapers que montemos para entrenar futuros modelos se llevarán, sin saberlo, toneladas de texto e imagen generados por modelo anteriores. Es un círculo de retroalimentación donde distinguir “lo humano” de “lo generado” se vuelve clave, exactamente el tipo de reto que comentas en detección de contenido tipo IA en vídeo.

El efecto cultural también importa. Si gran parte del contenido nuevo que consumimos viene de modelos entrenados, a su vez, con contenido previo generado por modelos, el espacio creativo se puede ir estrechando sin darnos cuenta. Menos sorpresas, menos estilos raros, menos voces que se salgan de la norma. Justo lo que no quieres en un ecosistema de creadores donde ya estás viendo tensiones entre IA y originalidad, como contabas en tu análisis de la industria audiovisual.

6. Qué significa esto para modelos fundacionales… y para tu empresa

A nivel de frontier models, el mensaje es claro: el valor de los datos humanos frescos se dispara. En un mundo donde “todo” lo que había público ya se ha usado, las plataformas que consigan recopilar interacciones auténticas con usuarios, anotaciones de calidad y señales de uso real tendrán ventaja. Justo la lógica de negocio que se intuye cuando miras cómo se posicionan grandes actores en tu artículo sobre inversiones de Anthropic o en las apuestas de Google con Gemini.

Para empresas que “solo” quieren usar IA, no entrenarla desde cero, el impacto es más sutil pero igual de serio. Si el modelo que te vende tu proveedor está cada vez más entrenado sobre datos sintéticos, necesitas nuevas garantías: qué porcentaje de datos reales hay, cómo se evalúa, qué métricas de degradación se monitorizan. Es el mismo tipo de preguntas incómodas que propones para evaluar encaje producto–mercado en IA o para entender por qué tantos pilotos de IA fracasan: sin datos buenos y sin evaluación honesta, da igual lo brillante que sea el pitch del modelo.

También cambia la ingeniería de datos. Si antes tu flujo era “ingesta, limpieza, etiquetado”, ahora necesitas una rama adicional para generación y auditoría de datos sintéticos. Esto conecta directamente con lo que ya has analizado en ingeniería de datos para IA y con arquitecturas de sistemas complejos como las de diseño de sistemas de ML. El modelo ya no se alimenta solo de la base de datos, sino también de una fábrica propia de datos.

7. Si vas a usar datos sintéticos, algunas líneas rojas razonables

Aquí no se trata de “datos sintéticos sí” o “datos sintéticos no”, sino de cómo, cuánto y para qué. Igual que en tus piezas sobre liderazgo en IA insistes en la gobernanza, con datos sintéticos pasa lo mismo. Algunas ideas prácticas:

1. Nunca dejes que el modelo evalúe solo en el mismo tipo de datos que has generado.
Mantén conjuntos de evaluación puramente humanos, variedad geográfica, cultural y temporal. Si tu modelo solo brilla en el universo que él mismo ha inventado, tienes un problema.

2. Piensa en mezcla, no en sustitución.
Los mejores resultados suelen venir de estrategias híbridas: datos reales cuidadosamente filtrados más sintéticos generados con objetivos claros. Algo similar a la filosofía que cuentas en tu artículo sobre cerebro y negocio: el modelo amplifica, no reemplaza, lo que ya tienes.

3. Etiqueta el origen siempre que puedas.
Saber qué ejemplos son sintéticos y cuáles reales te permitirá entender mejor dónde falla el modelo y evitar que, años después, nadie sepa de dónde viene cada fila de entrenamiento. Encaja muy bien con la disciplina de auditoría y seguridad que exploras en seguridad para IA y en ciberataques impulsados por IA.

4. No olvides que cada dataset sintético es un activo sensible.
Aunque no contenga datos reales, un dataset sintético filtrado puede revelar cosas sobre tus sistemas, tu negocio o tus usuarios. Trátalo con el mismo respeto que tendrías con la base original: cifrado, controles de acceso, planes de borrado y planes de contingencia ante caídas, como las que analizas en tu artículo sobre apagones cloud.