Atlas of AI: la cara oculta de la inteligencia artificial que no sale en las keynotes

LIBROS · IA · PODER

El libro funciona como la pieza que complementa otras reseñas que quizá ya conoces en tu propio sitio, como Maquinas predictivas o The Master Algorithm: si esos libros explican el “cómo funciona” del machine learning, “Atlas of AI” se obsesiona con el “quién gana, quién pierde y qué se destruye por el camino”.

1. Qué es “Atlas of AI” y qué intenta desvelar

Publicado en 2021 por Yale University Press, Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence es un ensayo de Kate Crawford, investigadora de referencia en las implicaciones sociales de la IA. No es un manual de algoritmos, sino un mapa de las infraestructuras, cuerpos y territorios sobre los que se levanta la industria de la inteligencia artificial moderna.

Crawford propone una idea sencilla pero demoledora: la IA no es “artificial” ni particularmente “inteligente”. Es un sistema industrial construido sobre extracciones masivas de recursos naturales, trabajo humano precarizado y datos personales capturados a gran escala. Lo que en las keynotes se vende como magia en la nube, en realidad empieza en minas, granjas de servidores y centros logísticos muy físicos.

El libro está organizado en capítulos que funcionan como un atlas, cada uno centrado en una capa distinta: tierra (minerales y energía), trabajo (logística y etiquetadores), datos (datasets polémicos), clasificación (cómo etiquetamos personas y emociones), afectos (IA que pretende leer emociones), vigilancia (estado y empresas) y potencia (cómo se articula el poder político y militar alrededor de la IA).

2. IA como industria de extracción: minerales, energía y agua

Uno de los golpes de realidad del libro está en la parte más “geológica”. Para que funcione tu modelo de lenguaje favorito hacen falta servidores, chips y redes globales que dependen de minería intensiva de litio, cobalto y tierras raras. Crawford dedica páginas a lugares como el lago tóxico de Baotou, en Mongolia Interior, creado por los residuos de la extracción de tierras raras que alimentan la electrónica moderna.

Lejos del marketing verde, la autora insiste en que los sistemas de IA están anclados a redes eléctricas concretas, muchas alimentadas por carbón o gas. Y no solo es energía: también es agua para refrigerar centros de datos en regiones que ya sufren estrés hídrico. Lo que para el usuario es “poner un prompt”, para ciertas comunidades es más consumo eléctrico, más emisiones y más presión sobre recursos que ya estaban al límite.

Aquí el libro conversa muy bien con debates que ya has abierto en tu blog sobre cómputo privado y eficiencia energética o sobre la carrera por construir nuevos centros de datos. “Atlas of AI” pone el foco en algo incómodo para la industria: no basta con hacer modelos mágicamente más inteligentes, hay que mirar su huella física y climática.

3. Trabajo humano oculto: del almacén al clickworker

Otro eje del atlas es el trabajo. Antes de que una IA pueda “ver” o “entender lenguaje”, alguien ha etiquetado millones de imágenes, audios y textos. Crawford repasa tanto el trabajo brutalmente físico de almacenes robotizados (con ejemplos de Amazon y sus métricas de productividad casi inhumanas) como el trabajo ultra-fragmentado y mal pagado en plataformas tipo Mechanical Turk o empresas de etiquetado de datos repartidas por el Sur Global.

Lo paradójico es que cuanto más se celebra la “automatización” de procesos, más gente hay resolviendo tareas mínimas para que los modelos funcionen: moderando contenido traumático, identificando caras, corrigiendo outputs, marcando spam. La promesa de una IA que nos libera del trabajo se sostiene sobre muchas personas atrapadas en labores invisibles, repetitivas y difíciles de sindicalizar.

Enlaza de manera natural con tus análisis sobre creatividad y productividad con PCs de IA o sobre qué pasa cuando tu jefe es un algoritmo: la automatización no solo cambia herramientas, cambia relaciones de poder en la empresa y en la economía global.

4. Datasets, clasificación y el negocio de etiquetar cuerpos

Una parte especialmente tensa del libro es la dedicada a los datasets que se han convertido en estándares de facto en la investigación en IA. Crawford repasa el origen de conjuntos como ImageNet y otros repositorios de imágenes faciales donde millones de personas terminaron etiquetadas sin saberlo, clasificadas por raza, género o supuestos rasgos de personalidad. Muchos de esos datos se recolectaron sin consentimiento explícito y con criterios de clasificación que arrastran teorías pseudocientíficas del siglo XIX.

Crawford también recuerda el famoso experimento interno de Amazon, que intentó entrenar un sistema para filtrar currículums y terminó creando un modelo misógino que penalizaba candidatas por ser mujeres, porque se entrenó con un histórico de contratación dominado por hombres. El proyecto se canceló, pero el dato clave permanece: es muy fácil convertir los sesgos de la historia en filtros automáticos que parezcan “objetivos”.

Aquí el libro se cruza con temas que ya has tratado, como policía predictiva y sesgos o IA que filtra tu CV. “Atlas of AI” aporta el contexto histórico y político: no es solo que un modelo salga mal, es que muchas taxonomías de personas que damos por hechas vienen de tradiciones clasificatorias profundamente problemáticas.

5. IA que pretende leer emociones y estados mentales

Uno de los capítulos más incendiarios se centra en la llamada “affective computing”: empresas que prometen que sus modelos pueden detectar emociones o intenciones a partir de la cara, la voz o microexpresiones. Crawford desmonta esa promesa mirando a las raíces científicas de muchas de estas técnicas, en particular la influencia del trabajo de Paul Ekman y su sistema de codificación facial, y cómo esa visión se ha cuestionado desde la psicología contemporánea.

El problema no es solo teórico. Esos modelos se están probando en entrevistas de trabajo, controles fronterizos, aulas o sistemas de supervisión remota de exámenes. Se vende como una forma de objetividad, pero en realidad es una externalización algorítmica de intuiciones muy cuestionables sobre cómo se “ve” la emoción humana. Cuando lo cruzas con tus piezas sobre supervisión con IA en exámenes o terapia con chatbots, aparece una pregunta inquietante: ¿queremos delegar la lectura de nuestros estados internos a modelos entrenados con datos dudosos?

No es difícil imaginar el siguiente paso: plataformas educativas que monitorizan el rostro de los niños para “medir atención”, empresas que rastrean emociones de empleados, o publicidad hiperpersonalizada basada en micromovimientos faciales. Es el tipo de futuro que conectas en tu blog cuando escribes sobre niños criados por asistentes de IA o sobre chatbots y trastornos alimentarios.

6. Vigilancia, militarización y la nueva cartografía del poder

Hacia el final, el libro se adentra en el uso de la IA para vigilancia estatal y militar. Crawford repasa lo que revelaron los documentos de Snowden sobre la recolección masiva de metadatos, la colaboración entre grandes tecnológicas y agencias de inteligencia, y casos como Project Maven, donde modelos de visión por computador desarrollados para usos aparentemente civiles terminaron integrados en sistemas militares de análisis de vídeo.

También hay espacio para Cambridge Analytica y para campañas de desinformación alimentadas por datos personales y microsegmentación política. Todo ello encaja con la idea de la IA como “registro de poder”: quien controla los modelos y las infraestructuras controla nuevas formas de ver, clasificar y gobernar poblaciones enteras.

Esto se conecta directamente con tus artículos sobre la nueva guerra fría de la IA o sobre armas autónomas. “Atlas of AI” recuerda que detrás de las demos simpáticas hay una carrera por el control de infraestructuras que pueden servir para reforzar regímenes autoritarios, intensificar la vigilancia o automatizar decisiones de seguridad nacional.

7. La tesis central: la IA como sistema planetario de extracción

Si tuviéramos que condensar el libro en una imagen, sería esta: la IA como una especie de mina extendida por todo el planeta. Extrae minerales de la tierra, energía de la red, agua de acuíferos, trabajo de trabajadores invisibles y datos de nuestra vida cotidiana. Todo ello se convierte en modelos que se comercializan desde unas pocas empresas y ciudades que acumulan la mayor parte del beneficio económico y político.

Crawford insiste en que la expansión de la IA no es inevitable ni neutra: responde a visiones específicas de futuro defendidas por un grupo relativamente homogéneo de actores, con intereses concretos. En ese sentido, “Atlas of AI” es un libro sobre poder tanto como sobre tecnología. Nos saca del “debate de features” para preguntar quién decide hacia dónde empujamos esta infraestructura y con qué límites.

Aquí la conversación encaja con las preocupaciones que exploras al hablar de quién decide qué es verdad en internet, o de cuerpos diseñados por IA. En todos esos casos, la cuestión no es solo lo que la tecnología permite, sino quién fija las reglas del juego.

8. Cómo encaja con otros libros sobre IA que ya has reseñado

Si “The Alignment Problem” de Brian Christian explora cómo conseguimos que los modelos optimicen lo que de verdad valoramos, “Atlas of AI” desciende a la capa anterior: quién pone los datos, los recursos y las reglas sobre la mesa. Y si “Vida 3.0” de Tegmark se proyecta hacia escenarios futuros de superinteligencia, Crawford se queda en el presente y pregunta qué estamos normalizando ya mismo.

Para lectoras que sigan tu blog, tiene mucho sentido leerlo en paralelo con Vida 3.0, Human Compatible y Maquinas predictivas. Juntos dibujan un panorama bastante completo: riesgos técnicos, escenarios futuros y, con Crawford, los costes materiales y políticos de todo ese sistema.

9. Lecciones prácticas para builders, reguladores y usuarios

El libro no es una checklist de buenas prácticas, pero deja varios mensajes muy accionables si trabajas con IA o diseñas políticas alrededor de ella.

1. Pregunta siempre “dónde” y “quién”, no solo “cómo”. No es suficiente enamorarse de un modelo fundacional. Pregunta en qué servidores corre, con qué energía, quién etiquetó los datos, quién puede impugnar una decisión automatizada. Esta mirada encaja con tus análisis de ingeniería de datos para IA.

2. La ética de la IA es, ante todo, política. Hablar solo de “IA ética” sin hablar de concentración de poder, regulación, sindicatos o derechos digitales es quedarse en la superficie. Si te preocupa el futuro que comentas en democracia delegada por IA, este libro te fuerza a mirar quién controla la infraestructura que hace posible ese escenario.

3. Los costes no son solo climáticos, también psicológicos y sociales. Etiquetar contenido violento o moderar discursos de odio pasa factura a quienes hacen ese trabajo. Introducir sistemas de scoring automatizado cambia cómo las personas se perciben a sí mismas. Aquí conectan tus textos sobre terapia con chatbots o deepfakes históricos.

4. No compres sin más el relato de inevitabilidad. Una idea recurrente del libro es que la expansión de la IA puede parecer inevitable, pero responde a decisiones muy concretas de inversión, regulación y diseño. Eso abre espacio para alternativas: políticas que limiten ciertos usos, movimientos laborales que negocien condiciones, ciudadanía que exija transparencia. No estamos ante una avalancha natural, sino ante un conjunto de decisiones contestables.

10. ¿Para quién es “Atlas of AI” y cómo leerlo?

“Atlas of AI” es un libro perfecto para cruzar mundos. Si vienes de lo técnico, te obliga a levantar la vista del modelo y mirar toda la cadena de suministro de tu sistema. Si vienes de ciencias sociales, te da ejemplos muy concretos de cómo se traducen las estructuras de poder en código y producto.

Tiene sentido recomendarlo especialmente a:

· Gente que diseña productos con IA y quiere incorporar criterios de sostenibilidad, justicia y gobernanza desde el principio, no como parche de marketing.
· Responsables de políticas públicas y regulación que necesitan aterrizar debates abstractos de “ética de la IA” en decisiones concretas sobre vigilancia, contratación, salud o educación.
· Personas preocupadas por la IA generativa que ya han jugado con modelos de texto, imagen o vídeo, pero sienten que falta una conversación seria sobre lo que hay debajo, como la que inicias en artículos sobre IA generativa en cine y streaming.

Leído junto a otras obras de tu biblioteca de IA, “Atlas of AI” cumple una función muy concreta: bajar el hype al suelo y recordar que cada demo deslumbrante tiene un coste distribuido de forma muy desigual. Es el libro que te pone la pregunta incómoda sobre la mesa: cuando hablamos de “progreso en IA”, ¿para quién es progreso exactamente?