Architects of Intelligence: lo que los grandes nombres de la IA piensan que viene después

LIBROS · IA · FUTURO

Leído hoy, el libro funciona casi como un documento histórico: fue escrito antes de que explotara del todo la ola de modelos fundacionales, pero muchas de las tensiones que analizas en tu blog —de el estancamiento en engagement de ChatGPT a la guerra fría de la IA— ya estaban ahí, en bruto, en estas conversaciones.

1. Qué es “Architects of Intelligence” y por qué importa

Publicado en 2018, Architects of Intelligence: The Truth About AI from the People Building It recoge entrevistas largas con CEOs, investigadores y pioneros de la IA. Ford ya venía de explorar el impacto de la automatización en el empleo en Rise of the Robots, y aquí decide ir directamente a la fuente: preguntar a quienes están construyendo la tecnología qué creen que va a pasar.

Por sus páginas pasan nombres como Demis Hassabis (DeepMind), Yoshua Bengio, Geoffrey Hinton, Yann LeCun, Fei-Fei Li, Andrew Ng, Stuart Russell, Ray Kurzweil, Rodney Brooks y muchos otros. Algunos están obsesionados con la AGI y los riesgos existenciales; otros son mucho más escépticos y ven la IA como una ola potente pero incremental. El choque de visiones es justo lo que hace interesante el libro.

Si lo conectas con otras reseñas de tu sitio, como Vida 3.0 o Human Compatible, “Architects of Intelligence” es como colarse en la sala donde las personas de esos libros discuten entre sí.

2. Estructura del libro: una batería de preguntas, muchas respuestas cruzadas

El formato es sencillo: Ford plantea un conjunto de temas —futuro del trabajo, cronograma de la AGI, riesgos, regulación, impacto social— y los va repitiendo con cada entrevistado. Eso permite comparar fácilmente qué piensa cada persona sobre las mismas cuestiones, y detectar patrones, optimismos y miedos compartidos.

No es un libro de “teoría unificada”, es más bien un mosaico de opiniones de gente con muchísimo contexto técnico. Y eso tiene una ventaja: ves que ni siquiera dentro del “club de expertos” hay consenso sobre casi nada importante. Algunos prevén una disrupción radical del empleo en pocas décadas; otros creen que nos adaptaremos como siempre. Algunos hablan de riesgos existenciales; otros los ven lejanos y priorizan problemas éticos inmediatos.

Esa diversidad de opiniones encaja con la forma en la que tú sueles abordar la IA en el blog: no como algo inevitable, sino como un abanico de futuros posibles dependiendo de decisiones técnicas, empresariales y políticas. Se conecta bien con artículos como la nueva guerra fría de la IA o cuando una IA elija tu voto.

3. Empleo: ¿automatización masiva o transición gestionable?

Uno de los bloques más jugosos es el dedicado al trabajo. Ford pregunta una y otra vez: ¿cuánto empleo crees que la IA destruirá en las próximas décadas? ¿Cuánto crees que se podrá crear? ¿Necesitaremos renta básica u otras medidas radicales?

Las respuestas varían. Algunos entrevistados, especialmente los que ya veían venir la automatización del conocimiento, son relativamente pesimistas: apuntan a que no estamos ante una simple repetición de la revolución industrial, porque ahora también se automatizan tareas cognitivas de cualificación media y alta. Otros insisten en que, históricamente, cada ola tecnológica ha creado nuevas categorías de empleo que no podíamos imaginar a priori, y que pasará algo similar con la IA.

Lo interesante para alguien que diseña productos o negocios con IA (como los funnels 24/7 de embudos de venta automatizados o la centralita inteligente de WhatsApp a centralita IA) es que casi todos coinciden en algo: los trabajos que sobreviven se rediseñan alrededor de la IA, y quienes antes aprendan a delegar bien tareas en modelos y agentes tendrán ventaja brutal en el mercado laboral.

4. AGI: desde “muy pronto” hasta “quizá nunca”

El otro gran tema: ¿cuándo (y si) alcanzaremos una inteligencia artificial general, capaz de realizar cualquier tarea cognitiva que pueda hacer un humano? Ford pide plazos concretos y probabilidades, y aquí la tabla de respuestas parece una quiniela.

Hay entrevistados que se atreven a hablar de un 50% de probabilidad de AGI antes de 2045 o incluso 2030. Otros se niegan a poner fechas o son claramente escépticos, argumentando que no entendemos lo suficiente la inteligencia humana y que podríamos encontrarnos límites técnicos o físicos imprevistos. Lo llamativo es que, incluso entre quienes creen que la AGI está lejos, casi todos aceptan que los sistemas específicos (traducción, visión, planificación) van a volverse muchísimo más potentes y ubicuos.

Para lectoras que ya han pasado por tus artículos sobre modelos que diseñan tu vida o clones de IA que trabajan por ti, este capítulo aterriza algo importante: incluso sin AGI, el impacto de la IA narrow bien orquestada ya es enorme y políticamente delicado.

5. Riesgos: del desempleo masivo a la pérdida de control

Cuando Ford pregunta por riesgos, aparecen dos grandes familias de respuestas. Por un lado, los riesgos “aquí y ahora”: sesgos algorítmicos, vigilancia masiva, manipulación política, concentración de poder en unas pocas plataformas. Por otro, los riesgos “a largo plazo”: sistemas fuera de control, carreras armamentísticas con IA, escenarios de superinteligencia mal alineada.

Gente como Stuart Russell empuja hacia la preocupación por el problema de control y la alineación de objetivos, en línea con lo que desarrolla luego en Human Compatible. Otros, como algunos líderes empresariales, ponen más énfasis en aspectos como la disrupción del empleo o la necesidad de marcos regulatorios robustos para usos en sanidad, justicia o finanzas. Casi nadie compra el relato optimista de “no pasa nada, ya lo iremos viendo”.

Si cruzas esto con las historias de tu blog sobre policía predictiva, deepfakes políticos o jueces algorítmicos, las preocupaciones del libro dejan de ser teorías abstractas y se convierten en ejemplos bastante cotidianos.

6. Regulación, poder y geopolítica de la IA

Otro tema recurrente en las entrevistas es quién debería poner límites a la IA. Muchos de los entrevistados reconocen que el incentivo de “moverse rápido y romper cosas” no es compatible con un despliegue responsable en sectores sensibles. Se habla de regulación sectorial (sanidad, transporte, armas), de estándares de seguridad y transparencia y de la necesidad de cooperación internacional, especialmente entre Estados Unidos, Europa y China.

Visto desde hoy, es interesante comparar esas intuiciones con las batallas actuales por chips, centros de datos y control de modelos, justo lo que analizas en la nueva guerra fría de la IA o en las inversiones en centros de datos. “Architects of Intelligence” captura el momento en el que se veía venir esta carrera, pero aún no había explotado del todo.

7. Lo que acertaron, lo que se quedaron cortos

Leer el libro con la perspectiva de 2024 en adelante es casi un juego de “qué pronóstico se cumplió”. Muchos acertaron al anticipar que el aprendizaje profundo seguiría escalando de forma brutal y que aparecerían modelos de propósito general capaces de texto, imagen y más. Algunos subestimaron la velocidad a la que llegarían interfaces tipo chat que cualquiera puede usar; otros sobreestimaron lo cerca que estaba la AGI completa en los plazos que daban.

Aun así, el valor del libro no está en que alguien adivine el año exacto de un breakthrough, sino en ver qué supuestos estaban haciendo: qué consideraban fácil y qué difícil, qué riesgos les parecían urgentes, qué límites daban por hechos. Si escribes o piensas sobre temas como las decisiones que ya toma la IA por ti o quién decide qué es verdad en internet, es muy útil entender desde qué mentalidad se diseñaban estos sistemas hace solo unos años.

8. Conexión con otros libros clave de tu biblioteca de IA

En el mapa de libros que vas reseñando, “Architects of Intelligence” cumple una función muy concreta. Si The Master Algorithm te cuenta las “tribus” del machine learning y Maquinas predictivas analiza el impacto económico, aquí lo que tienes es una galería de personajes hablando sin PowerPoints de sus miedos y apuestas personales.

También complementa bien libros más normativos o críticos como Atlas of AI o ensayos sobre control y alineación como Human Compatible. Donde Crawford disecciona estructuras de poder, aquí ves a las personas concretas que se benefician de, intentan regular o intentan redirigir ese poder.

9. Lecciones para builders, policymakers y gente curiosa

Aunque el libro no es una guía práctica, deja varias ideas muy utilizables si trabajas con IA, diseñas producto o solo quieres entender por dónde van los tiros.

1. No hay consenso, y eso es una oportunidad. El desacuerdo entre expertos implica que el futuro no está escrito. Hay margen para que políticas públicas, movimientos sociales y decisiones empresariales cambien el rumbo. No estás obligado a aceptar la narrativa más agresiva de “automatízalo todo”.

2. Prepárate para trabajos rediseñados, no solo para trabajos eliminados. Los entrevistados repiten que la clave está en complementar, no solo sustituir. Eso se traduce en aprender a usar copilots de código como los que comentas en herramientas tipo Claude Code, o en rediseñar procesos de negocio completos como explicas en cuánto dinero pierdes sin automatizar con IA (ajusta slug real en tu CMS).

3. Toma en serio los riesgos, incluso si no te crees la AGI a corto plazo. Aunque descartes los escenarios de superinteligencia rebelde, hay riesgos muy inmediatos: sesgos, desinformación, ciberataques potenciados por IA como los que analizas en ciberataques potenciados con modelos o en casos reales de ataques.

4. La conversación sobre IA no puede quedar solo en manos de los “arquitectos”. Escuchar a Hassabis, Hinton o LeCun es valioso, pero el libro deja entrever lo homogéneo que es ese círculo en términos de geografía, género y trayectoria. Tus artículos sobre chatbots en salud mental, IA que decide urgencias o filtros de CV algorítmicos recuerdan que la gente afectada también debería tener voz.

10. ¿Para quién es este libro y cómo aprovecharlo mejor?

“Architects of Intelligence” es ideal si quieres entender el “imaginario” de la élite de la IA a finales de la década de 2010, sin pasar por filtros de PR. No vas a encontrar demostraciones matemáticas, sino intuiciones, miedos y apuestas cuantificadas en forma de plazos y probabilidades.

En tu blog tiene sentido recomendarlo especialmente a:

· Builders y emprendedores que están lanzando productos basados en IA y quieren situar sus decisiones en el contexto de hacia dónde creen los “insiders” que va el sector.
· Gente de política pública, regulación y empresa que necesita una visión amplia de riesgos y oportunidades sin perderse en papers técnicos.
· Lectores y lectoras que ya han disfrutado de libros como “Vida 3.0”, “Human Compatible” o “Atlas of AI” y quieren ahora escuchar directamente a quienes salen citados en esos ensayos.

Leído junto al resto de tu serie de reseñas —desde los libros más técnicos hasta los más críticos— “Architects of Intelligence” funciona como una pieza clave del puzzle: te enseña no solo qué puede hacer la IA, sino qué creen sus arquitectos que deberíamos hacer con ella. Y, por contraste, te ayuda a decidir si compartes esa visión o si quieres construir algo distinto.