Timnit Gebru: ¿está la IA construida sobre un nuevo colonialismo digital?

IA · ÉTICA · DESIGUALDAD

1. Quién es Timnit Gebru y por qué la escuchan en todo el mundo

Timnit Gebru nació en Etiopía y se formó como ingeniera e investigadora en Estados Unidos. Se hizo conocida por su trabajo sobre sesgos de IA en reconocimiento facial (el proyecto Gender Shades) y por ser co-líder del equipo de Ética de IA en Google. También cofundó Black in AI, una comunidad para aumentar la presencia de personas negras en la investigación en inteligencia artificial.

En 2020, su salida forzada de Google tras un conflicto por un artículo crítico con los grandes modelos de lenguaje (On the Dangers of Stochastic Parrots) encendió titulares y péticiones de apoyo dentro y fuera de la industria. Una de las críticas de ese paper: que entrenar modelos gigantes implica absorber cantidades masivas de texto de internet, con sesgos, lenguaje tóxico, cultura ajena y trabajo creativo que rara vez se reconoce o remunera.

Tras el choque, Gebru fundó el Distributed AI Research Institute (DAIR), un instituto independiente para investigar IA “enraizada en la comunidad”, lejos del control directo de big tech. Su objetivo explícito: estudiar cómo la IA afecta a comunidades reales, en especial en el Sur global, y proponer alternativas que vayan más allá del “lanzar modelos cada vez más grandes y ver qué pasa”.

2. Qué significa “colonialismo de datos” cuando hablamos de IA

El concepto de “colonialismo de datos” no lo inventa Gebru, pero ella lo aterriza en el mundo de la IA. La idea básica es que la relación entre las grandes plataformas tecnológicas y el resto del mundo se parece peligrosamente a la lógica colonial clásica: unos pocos actores poderosos extraen recursos de muchos sin remuneración ni control local.

Solo que ahora el recurso no es tierra, oro o petróleo, sino datos, atención y trabajo cognitivo. Tus textos, tus clics, tus imágenes, tus conversaciones, los foros donde se articulan luchas sociales… se convierten en materia prima para entrenar modelos que luego se venden como productos de alto margen. Las decisiones de qué se incluye, cómo se etiqueta y qué riesgos se aceptan se toman, mayoritariamente, desde el Norte global.

Gebru se centra en tres niveles. Primero, el nivel de datos: qué contenidos se raspan, de quién, con qué consentimiento y qué sesgos arrastran. Lo vemos de forma muy clara en polémicas como la de las ilustraciones de manga y anime usadas sin permiso para entrenar modelos generativos, que analizamos en el caso de OpenAI y el arte japonés.

Segundo, el nivel de trabajo: quién etiqueta, modera y limpia esos datos. Y tercero, el nivel de poder: quién controla la infraestructura de cómputo, decide las políticas de uso y recoge la mayor parte de los beneficios económicos. Para Gebru, si juntas estas tres capas, lo que ves se parece mucho a un nuevo régimen de extracción digital.

3. Trabajo invisible, trauma barato y el Sur global

Cuando Gebru habla de colonialismo de datos no se queda en lo teórico. Señala casos concretos donde el brillo de la IA descansa sobre trabajo que casi no vemos. Piensa en moderadores de contenido en Kenia o Filipinas cobrando menos de dos dólares la hora para filtrar violencia extrema, abusos y discursos de odio de los conjuntos de entrenamiento de modelos de grandes compañías.

También en ejércitos de etiquetadores que clasifican imágenes, transcriben audio o corrigen traducciones desde plataformas de microtrabajo. Muchos viven en países del Sur global, con poca protección laboral y escasa capacidad para negociar condiciones. Su trabajo alimenta a sistemas que luego se venden como “inteligencia artificial” limpia y pulida, pero sus nombres no aparecen en ninguna nota de prensa.

A esto se suma el impacto de la IA en cómo se produce y distribuye la información. Si los modelos que generan resúmenes de noticias, recomendaciones o vídeos se entrenan principalmente con medios dominantes en inglés, las narrativas locales y las lenguas minorizadas quedan en desventaja. Lo vemos en cómo los asistentes de IA pueden filtrar qué vemos, algo que analizamos en asistentes de IA para noticias, y también en cómo los deepfakes y la desinformación se infiltran en contextos frágiles, como mostramos en la pieza sobre deepfakes y el legado de Martin Luther King.

Desde esta mirada, la IA no es neutral: amplifica las estructuras de poder que ya existen. Si las reglas del juego no cambian, la IA corre el riesgo de convertirse en otra capa de desigualdad más, aunque venga envuelta en retórica de “inclusión” y “oportunidad para todos”.

4. Por qué la postura de Gebru incomoda tanto a las big tech

Gran parte de la industria está cómoda hablando de “sesgos” como si fueran errores técnicos arreglables con más datos, mejores métricas o nuevos modelos. Gebru, en cambio, insiste en que muchos problemas no son bugs, sino consecuencia directa del modelo de negocio: capturar tantos datos y atención como sea posible, al menor coste posible, y monetizarlos desde una posición de dominio.

Cuando señala colonialismo de datos, está cuestionando el corazón económico de las plataformas, no solo detalles de implementación. Eso significa hablar de quién se sienta en los comités de decisión, quién tiene poder de veto sobre proyectos de ética, qué condicionan los contratos de datos y qué tipo de investigación se financia o se frena.

Su salida de Google es, en ese sentido, simbólica. Marca una frontera entre la investigación crítica que cabe dentro de una gran empresa y la que tiene que hacerse fuera, en espacios independientes como DAIR. También explica por qué Gebru se muestra tan escéptica con ciertas narrativas de “seguridad de la IA” centradas en riesgos existenciales abstractos, mientras se minimizan daños actuales sobre trabajadores, comunidades racializadas o personas vulnerables. Estos últimos los hemos visto aparecer en temas como los chatbots que agravan trastornos alimentarios o en escenarios de ciberataques potenciados por IA.

5. ¿Es exagerado hablar de “colonialismo”? Matices y críticas

No todo el mundo está cómodo con el lenguaje de “colonialismo” aplicado a la IA. Algunos académicos y tecnólogos consideran que la metáfora puede ser demasiado amplia y diluir la especificidad del colonialismo histórico. Otros temen que el término se use de forma tan general que pierda fuerza, o que bloquee debates más detallados sobre regulación, competencia o modelos de negocio.

También hay quien recuerda que, bien usada, la IA puede ser herramienta para comunidades históricamente marginadas: modelos adaptados a lenguas africanas, sistemas de análisis de datos para salud pública, herramientas de transparencia para gobiernos. En MoriahTech hemos visto ejemplos positivos en ámbitos como la detección de ataques o fallos críticos, como en el caso del ciberataque a Jaguar Land Rover, o en la aplicación creativa de la IA en industrias como el cine que comentamos en IA generativa y Netflix.

Gebru suele responder que el problema no es que la IA se use “también” para cosas buenas, sino que el patrón dominante de extracción de datos y trabajo continúa una historia muy larga de desigualdad. El término “colonialismo de datos”, entonces, no pretende negar los beneficios potenciales, sino obligarnos a mirar con más honestidad quién paga el precio y quién se lleva el premio.

6. Qué implica todo esto para empresas que están adoptando IA

Si diriges una empresa o trabajas en un equipo que está desplegando IA, el debate sobre colonialismo de datos no es solo filosófico: tiene consecuencias muy prácticas. Empieza por la procedencia y el gobierno de los datos. ¿Sabes realmente de dónde vienen los conjuntos que usas? ¿Tienes derechos claros de uso? ¿Hay comunidades afectadas que no han sido informadas ni compensadas?

Otra dimensión es la arquitectura. No es lo mismo mandar todos tus datos a una API opaca que diseñar soluciones donde haya control local, anonimización, segmentación, logging claro y capacidad de auditoría. Ahí encajan bien enfoques como los que revisamos en Private AI Compute de Google, donde parte del cómputo se acerca al dato para reducir fuga de información y dependencia extrema de terceros.

El tercer eje es el gobierno interno: quién toma decisiones, qué perfiles se sientan en la mesa y qué procesos existen para parar un despliegue si se ve un riesgo grave. Eso implica tratar la IA como algo estratégico, no como un juguete experimental, y está muy alineado con el enfoque que desarrollamos en liderazgo en IA empresarial.

7. El papel de la ingeniería de datos y del diseño de sistemas

Todo este debate aterriza en algo muy concreto: cómo diseñamos los sistemas de IA por dentro. Quien controla el pipeline de datos tiene una parte enorme del poder. Seleccionar fuentes, documentarlas, versionarlas y auditar quién accede a qué es una tarea crítica, tanto técnica como política. De eso va, en buena parte, la disciplina que exploramos en ingeniería de datos para IA.

También es clave cómo conectas modelos y datos con el dominio de negocio. Arquitecturas de recuperación aumentada (RAG), grafos de conocimiento y contextos controlados marcan la diferencia entre un sistema que solo escupe texto y otro que respeta límites, fuentes y políticas de uso. En MoriahTech lo vemos muy claro cuando usamos enfoques como Graph-RAG para limitar qué ve y qué no ve un modelo.

Además, la forma en la que orquestas agentes, herramientas y flujos afecta directamente a cuánto control real tienen las personas. Un diseño descuidado puede multiplicar el riesgo de errores o filtraciones; un diseño consciente puede reforzar el principio de “la última decisión importante la toma un humano con contexto”. Cuando hablamos de sistemas complejos, como los que describimos en diseño de sistemas de machine learning, estas decisiones dejan de ser detalles y pasan a ser estrategia.

8. Y tú, como profesional o usuario de IA, ¿qué puedes hacer?

No necesitas dirigir Google para que las ideas de Gebru te afecten. Si eres desarrollador, puedes empezar por documentar mejor tus datos, plantear preguntas incómodas cuando alguien propone “raspar todo” y dar visibilidad al trabajo de quienes anotan, moderan o mantienen los sistemas. Si trabajas en producto, puedes incorporar criterios de impacto social y de gobernanza en tus hojas de ruta, igual que ya haces con métricas de negocio.

Si eres responsable de negocio, puedes revisar tu estrategia de IA con doble lente: oportunidad y responsabilidad. No se trata de dejar de innovar, sino de hacerlo de forma que no se base en extraer sin permiso ni en desplazar riesgos hacia quienes tienen menos voz. Ese equilibrio es, básicamente, lo que buscamos cuando hablamos de encaje producto-mercado para startups de IA y de cómo construir propuestas de valor que no quemen la confianza de usuarios y socios por el camino.

Y como usuario, puedes empezar a fijarte en detalles: qué piden las apps de IA, de dónde dicen sacar sus datos, cómo tratan a creadores de contenido, cómo hablan de “clientes” frente a “trabajadores”. Puede parecer poco, pero esa presión cultural es parte de lo que permite que surjan alternativas más sanas.

En resumen, hablar de “colonialismo de datos” no es un capricho retórico, sino una invitación a mirar la IA como lo que es: una infraestructura de poder. Entenderlo es el primer paso para que, cuando construyas o adoptes estas tecnologías, no contribuyas sin querer a reforzar las mismas desigualdades que muchos decimos querer solucionar.

Si quieres profundizar en cómo se cruzan poder, datos y modelos de IA, puedes complementar este artículo con el análisis de NotebookLM y el “deep research” automatizado, con la lupa de seguridad en Private AI Compute y con la parte más táctica de por qué tantos pilotos de IA fracasan cuando se ignoran datos, personas y contexto.