Google DeepMind bajo presión: 60 diputados británicos la acusan de romper sus promesas de seguridad en IA

IA · SEGURIDAD · POLÍTICA

La controversia ha saltado a titulares porque toca un tema sensible: qué pasa cuando las promesas solemnes que las big tech hacen en cumbres internacionales chocan con la urgencia por sacar modelos cada vez más competitivos. Gemini 2.5 Pro es el primer gran test de estrés para esos compromisos de seguridad y transparencia.

1) Qué ha pasado con Gemini 2.5 Pro

En marzo de 2025, Google lanzó Gemini 2.5 Pro, un modelo que la compañía presentó como un salto claro frente a sus competidores: mejor en benchmarks, más capacidad de razonamiento y disponible tanto en la nube como integrado en productos de consumo. La narrativa era simple: “nuestro modelo más potente, ya en tus manos”.

Lo que no llegó el mismo día fue el informe detallado de seguridad. Durante semanas, la única información pública fue una ficha de modelo bastante superficial; no había documentación clara sobre pruebas de ciberseguridad, bioseguridad, resistencia a usos maliciosos o capacidad del modelo para ayudar en ataques complejos. El detalle completo de las evaluaciones llegó más de un mes después, cuando millones de usuarios ya habían interactuado con el sistema.

Para un usuario normal puede parecer un matiz burocrático. Para quienes llevan años insistiendo en que los modelos de frontera deben ser evaluados antes de su despliegue, fue justo lo contrario de lo que Google había prometido unos meses antes en la cumbre de Seúl.

2) Las promesas de Seúl: qué firmó realmente Google

En febrero de 2024, en la cumbre de IA de Seúl organizada por los gobiernos de Reino Unido y Corea del Sur, Google, OpenAI, Anthropic y otras compañías firmaron los llamados Frontier AI Safety Commitments. El objetivo era fijar unas reglas mínimas para los modelos de última generación que puedan suponer riesgos sistémicos.

En ese documento, Google se comprometió a tres cosas clave: probar rigurosamente los modelos de alto riesgo antes de lanzarlos, incluyendo evaluaciones con terceros independientes cuando fuera apropiado; ofrecer transparencia pública sobre los métodos y resultados de esas pruebas; y explicar cómo participan actores externos, incluidos gobiernos e institutos de seguridad, en la evaluación de los sistemas.

Sobre el papel, el mensaje era fuerte: no basta con que las empresas se auditen a sí mismas. Tiene que haber ojos externos revisando lo que hacen los modelos antes de llegar al público. Precisamente por eso, el caso Gemini 2.5 Pro ha encendido tantas alarmas entre legisladores y expertos en gobernanza de IA.

3) La carta de los 60 diputados: “un peligroso precedente”

A finales de agosto de 2025, un grupo transversal de 60 parlamentarios británicos —de varios partidos, con nombres como la baronesa Beeban Kidron o el exministro de Defensa Des Browne— firmó una carta abierta dirigida a Demis Hassabis, CEO de Google DeepMind. La carta fue coordinada por el grupo activista PauseAI, que lleva meses presionando para que las big tech hagan públicas sus pruebas de seguridad.

En esa carta, los diputados acusan a Google DeepMind de incumplir las promesas de Seúl. Su argumento central es que Gemini 2.5 Pro se lanzó sin que se hicieran públicos los tests de seguridad antes del despliegue ni quedara claro qué papel había tenido el Instituto de Seguridad de la IA del Reino Unido (AISI) u otros evaluadores externos. Solo semanas después apareció un informe detallado.

Los firmantes hablan de una “brecha de confianza” con los gobiernos y advierten de un “peligroso precedente”: si una de las compañías que lideran el desarrollo de modelos de frontera trata sus compromisos como algo opcional, el resto del sector tiene un incentivo fuerte para hacer lo mismo y acelerar a toda costa. Dicho de otro modo, si el mensaje para las empresas es “firma hoy, ya veremos mañana”, el resultado no es más seguridad, sino más riesgo.

La carta no surge de la nada. Meses antes, el mismo grupo de activistas organizó una protesta frente a la sede de Google DeepMind en Londres, con un “juicio” simbólico en plena calle y consignas como “test, don’t guess”. La idea era clara: si aceptamos que estos modelos pueden tener riesgos sistémicos, no vale con probar después de lanzar.

4) La respuesta de Google DeepMind: cumplimiento… pero con letra pequeña

Google DeepMind, por su parte, niega haber roto sus compromisos. En declaraciones a medios como TIME, la compañía insiste en que está “cumpliendo sus compromisos públicos, incluidos los de Seúl” y que Gemini 2.5 Pro pasó por “rigurosas comprobaciones de seguridad” antes de su despliegue.

En su defensa, la empresa señala que el modelo fue compartido con el AISI británico y con otros evaluadores externos como Apollo Research, Dreadnode o Vaultis. El matiz clave, y el que molesta a los diputados, es el cuándo: según la propia Google, ese acceso se produjo después de lanzar el modelo al público, no antes.

Además, el primer modelo de ficha de Gemini 2.5 Pro que se publicó incluía solo unas pocas líneas sobre seguridad. El documento detallado de 17 páginas —con pruebas de hacking, bioseguridad y otros escenarios sensibles— llegó semanas más tarde. Para los críticos, eso convierte la transparencia en algo reactivo, no preventivo.

Google explica este desfase como parte de un enfoque de “lanzamientos experimentales”: se despliega el modelo de forma limitada, se recogen datos de uso y después se completa la documentación. El problema es que, en la práctica, ese despliegue “limitado” llegó a cientos de millones de usuarios a través de productos como el buscador o el asistente, lo que hace que la etiqueta experimental suene mucho más amable de lo que es en realidad.

5) El verdadero debate: promesas voluntarias vs reglas con dientes

Este caso no va solo de Google. Va de si podemos confiar en compromisos voluntarios firmados en grandes cumbres mientras el negocio empuja a sacar modelos cada vez más potentes al mercado. Es la misma tensión que vemos en otros acuerdos entre gobiernos y empresas de IA: mucha foto, poca claridad sobre qué pasa si alguien no cumple.

En Estados Unidos, por ejemplo, los acuerdos recientes entre el Gobierno y empresas como OpenAI o Anthropic para que la nueva Agencia de Seguridad de la IA evalúe sus modelos han sido criticados por carecer de mecanismos claros de cumplimiento: si una empresa ignora los resultados de las pruebas, ¿qué pasa exactamente? Varios analistas lo resumen así: es un buen primer paso, pero con muy poco colmillo regulatorio.

En Europa, el AI Act empieza a dibujar un escenario distinto, con obligaciones más duras para modelos de propósito general de alto impacto, auditorías y requisitos de documentación. Aun así, gran parte de la práctica real se está escribiendo en tiempo real con casos como el de Gemini 2.5 Pro: ¿vale publicar el informe un mes tarde? ¿qué nivel de detalle es suficiente? ¿quién decide si un test es aceptable?

Investigadores en gobernanza de IA llevan tiempo avisando de que basar la seguridad en promesas voluntarias es insuficiente cuando lo que está en juego son sistemas capaces de amplificar ciberataques, desinformación o riesgos biológicos. Es la misma lógica que exploramos cuando analizamos escenarios de ciberataques asistidos por modelos avanzados en nuestro artículo sobre Anthropic y ciberseguridad.

6) Gemini, innovación y presión competitiva

La paradoja es que Gemini es, a la vez, uno de los proyectos de IA más ambiciosos y uno de los más observados del planeta. En nuestro análisis sobre Gemini 3 ya vimos cómo Google intenta combinar modelos multimodales, integración profunda en sus productos y un discurso de seguridad avanzada, y en NotebookLM y el “deep research” analizamos hasta qué punto quiere que sus modelos se conviertan en la capa cognitiva de todo lo que leemos y escribimos.

El problema es que esa narrativa convive con un mercado feroz, donde cada mes sin nuevo modelo se vive como una ventaja para OpenAI, Meta u otros competidores. Cuando la señal interna es “hay que sacar el modelo ya” y la señal externa es “hay que ser extremadamente cautelosos”, el resultado son decisiones como la de Gemini 2.5 Pro: se publica primero y se explica después.

La carta de los 60 diputados no solo cuestiona a Google, también envía un aviso al resto de actores de frontera: si firmas algo en una cumbre internacional y luego actúas como si fuera flexible, no te sorprendas si los reguladores acaban pidiendo reglas más duras y menos margen de interpretación.

7) Lecciones para empresas que quieren usar estos modelos

Si diriges un equipo que quiere usar modelos de Google en productos reales, la conclusión práctica no es “huye de Gemini”, sino “no externalices tu responsabilidad en la nota de prensa de nadie”. El hecho de que un proveedor firme compromisos o publique un informe no te exime de construir tu propia capa de seguridad.

Tiene sentido ver estos incidentes como un recordatorio de que la seguridad no termina en la API. Necesitas tu propia capa de controles: políticas de uso, monitorización, filtros, evaluación continua y, en muchos casos, arquitectura técnica que limite qué puede hacer el modelo con tus datos y sistemas. Ese enfoque de contención es muy similar al que explicábamos al hablar de Private AI Compute de Google: acercar la IA a tus datos sin exponerlos innecesariamente.

También merece la pena pensar en cómo combinas modelos de propósito general con sistemas que apoyan mejor el control y la trazabilidad, como arquitecturas tipo RAG y grafos de conocimiento que comentábamos en nuestro artículo sobre Graph RAG. Cuanto más puedas limitar el ámbito de acción del modelo y apoyarlo en datos bien gobernados, menos dependerás de que el proveedor haya hecho los deberes perfectos.

Por último, esto es una conversación de liderazgo. No es solo un tema del equipo de machine learning. Implica a tecnología, legal, cumplimiento y negocio. En nuestro marco de liderazgo en IA empresarial y en por qué tantos pilotos de IA fracasan insistimos en lo mismo: sin gobernanza, los proyectos se atascan o se convierten en riesgo reputacional.

Conclusión: lo que revela el caso Gemini 2.5 Pro

El caso de Google DeepMind, Gemini 2.5 Pro y la carta de los 60 diputados británicos es, al final, una prueba de estrés para todo el sistema de gobernanza de la IA moderna. Nos muestra hasta qué punto estamos confiando en promesas voluntarias, en documentos vagos y en la buena voluntad de unas pocas empresas para gestionar tecnologías que, ellas mismas, describen como potencialmente peligrosas si se usan mal.

No hace falta demonizar a Google para reconocer que aquí algo ha fallado: si los propios firmantes de los compromisos sienten la tentación de reinterpretarlos cuando chocan con sus plazos de producto, el problema no es solo de una compañía, sino del diseño entero de esas promesas.

En los próximos años veremos más cartas, más protestas y, casi seguro, más regulación. La cuestión clave será si aprendemos la lección a tiempo: que la seguridad en IA no se demuestra con una frase en un escenario, sino con decisiones incómodas tomadas antes de pulsar el botón de “lanzar modelo”. Gemini 2.5 Pro pasará; la pregunta es qué tipo de cultura de seguridad quedará después.