Jueces algorítmicos y leyes escritas por IA: ¿justicia perfecta o pesadilla digital?

JUSTICIA · IA · PODER

En tu blog ya has contado cómo herramientas como Harvey están cambiando el trabajo de los despachos legales, cómo la gestión algorítmica se cuela en las empresas en cuando tu jefe sea una IA y cómo la geopolítica tecnológica abre una nueva guerra fría de la IA. El siguiente paso lógico es la justicia: ¿qué pasa cuando también aquí el teclado lo empieza a pulsar un modelo?

1. 2035: la escena de un juicio con juez humano y cerebro algorítmico

Imagina una sala de vistas en 2035. Al fondo sigue habiendo una persona con toga, un juez de carne y hueso. Pero en la pantalla frente a él hay algo que hoy nos parecería ciencia ficción: un panel de IA que muestra riesgos de reincidencia, comparativas con miles de casos similares, sugerencias de pena y posibles recursos que podrían interponer las partes.

La fiscalía y la defensa se apoyan en asistentes jurídicos tipo Harvey, como los que ya has analizado en despachos multijugador con IA, que les han preparado argumentos, explicaciones para legos y simulaciones de probabilidad de éxito en apelación. El expediente es un grafo navegable donde cada prueba, cada testimonio y cada precedente están enlazados y resumidos por modelos.

Formalmente, “decide el juez”. Materialmente, casi todo ha pasado antes por un filtro algorítmico: qué casos llegan a juicio, qué delitos se persiguen, qué acuerdos se ofrecen, qué pena “recomienda” el sistema. Es la versión judicial de lo que contabas en nueve decisiones diarias que ya toma la IA por ti, pero aplicado al corazón del Estado de derecho.

2. De los “scores” de riesgo a los jueces copiloto

El camino hacia ese juez algorítmico no nace de cero. Durante años, sistemas de evaluación de riesgo han ayudado a jueces a decidir fianzas, libertad condicional o medidas cautelares. El siguiente paso han sido los asistentes de IA que leen expedientes, recomiendan jurisprudencia y redactan borradores de resolución para que el juez los revise.

Países con reformas judiciales digitales agresivas, como los “smart courts” chinos, ya han desplegado plataformas que recomiendan casos similares, estructuran pruebas y ofrecen plantillas de sentencias para acelerar el trabajo. Al mismo tiempo, proyectos como los que se anunciaron en Estonia con “robot judges” para pequeñas reclamaciones han puesto sobre la mesa la idea de automatizar partes del juicio, aunque luego se hayan matizado y limitado a asistentes, no sustitutos.

La frontera entre “ayuda tecnificada” y “decisión de facto” es fina. Igual que en las empresas que describes en la primera empresa sin jefes humanos dirigida por IAs, el juez sigue ahí, pero cada vez cuesta más distinguir qué parte de la decisión es humana y cuál es seguir la recomendación del sistema.

3. Cómo se entrena un juez algorítmico: datos, sesgos y cajas negras

Un “juez modelo” se entrena con todo lo que pueda tragar: millones de sentencias, expedientes digitalizados, doctrinas, códigos, reglamentos, incluso noticias y comentarios doctrinales. El modelo aprende patrones: qué hechos suelen llevar a qué delito, qué circunstancias agravan o atenúan, qué tipo de perfiles reciben penas más duras o más blandas.

El problema obvio es que todos esos datos son producto de un mundo ya sesgado. Si históricamente la justicia ha tratado peor a ciertas minorías, barrios o perfiles socioeconómicos, el modelo lo aprenderá como “normal”. No estará siendo injusto “a pesar” del entrenamiento, sino precisamente porque replica al milímetro lo que ha visto. Es la lógica que ya has abordado al hablar de modelos que amplifican riesgos y sesgos, pero aplicada a derechos fundamentales.

A esto se añade la opacidad técnica. Muchos modelos usados hoy en justicia son propietarios, cerrados, imposibles de auditar a fondo por defensa y acusación. El riesgo es terminar en un escenario donde se encarcela a alguien en base a un score que “no se puede explicar” porque está protegido por secreto comercial o porque ni los propios ingenieros saben desgranarlo a nivel humano.

4. El lado brillante: coherencia, velocidad y acceso a la justicia

Sería fácil caer en la distopía total, pero hay un lado luminoso difícil de ignorar. Una justicia apoyada en modelos buenos puede ser mucho más coherente: mismas circunstancias, penas similares, menos lotería según qué juez te toque o en qué día de la semana se celebre el juicio.

Los retrasos crónicos podrían reducirse: asistentes que preparan borradores de sentencia, sistemas que limpian y estructuran expedientes, agentes que generan automáticamente los documentos de notificación y seguimiento. Lo que ya cuentas para otras industrias en PCs con IA para productividad se traslada al mundo judicial: menos tiempo en tareas mecánicas, más en deliberar.

Y para el ciudadano medio, un buen copiloto legal podría suponer acceso real a asesoramiento básico gratuito: entender qué implica firmar un contrato, qué opciones tienes ante una multa, cómo recurrir una resolución injusta. Algo que conecta con tu visión de una IA en cada aula, pero aplicado a la alfabetización jurídica.

5. El lado oscuro: sesgo congelado en código y justicia estadística

El riesgo más profundo no es que un modelo “se equivoque” a veces, sino que congele en código los sesgos y prioridades del sistema. Si un país decide que es aceptable sacrificar un poco de presunción de inocencia a cambio de “seguridad”, el modelo lo amplificará a escala. Diseñar un juez algorítmico es, en realidad, fijar por escrito qué errores preferimos cometer.

Además, la justicia algorítmica tiende a ser estadística. No pregunta solo “¿qué hizo esta persona?”, sino “¿a qué grupo se parece y qué suele pasar con ese grupo?”. Eso puede llevar a decisiones que son razonables en promedio pero terriblemente injustas para individuos concretos. Es la misma lógica de las herramientas de supervisión automática de exámenes que analizabas en supervisión con IA y fraude: sistemas que etiquetan como sospechosos comportamientos perfectamente inocentes por encajar en un patrón.

Cuando eso pasa en un examen es grave. Cuando pasa en un proceso penal, es una pesadilla. Sobre todo si no tienes forma real de discutir la predicción porque ni los jueces ni los abogados tienen acceso a las entrañas del sistema o formación técnica para rebatirlo.

6. Leyes escritas por modelos: el nuevo “copy-paste” legislativo

Mientras los jueces usan modelos para sentenciar, los parlamentos empiezan a usarlos para legislar. Al principio como atajo: redactar exposiciones de motivos, armonizar definiciones entre distintas leyes, localizar incoherencias internas. Después, como coautor real: el modelo propone el esqueleto de un proyecto de ley, sugiere umbrales, sanciones, excepciones y cláusulas transitorias basadas en miles de textos previos.

Un legislador puede pedir: “dame una versión de esta ley de protección de datos que minimice litigios futuros”, o “genera un régimen sancionador compatible con el de este otro país”. Y el modelo le devuelve un borrador pulcro, con menos errores técnicos que muchos humanos y capaz de simular qué pasaría con distintos escenarios, igual que los agentes que describes en arquitecturas con agentes.

La ventaja es evidente: leyes más consistentes, procesos más rápidos. El peligro es sutil: que el marco legal termine siendo “optimizado” por modelos para reducir conflictos, costes o carga de los tribunales, sacrificando complejidad o derechos minoritarios que no encajan bien en la función objetivo de la IA.

7. Geopolítica de la justicia automatizada

No todos los países quieren la misma justicia automática. Lo que ya explicas en tu análisis de la nueva guerra fría de la IA se traslada aquí: es muy distinto entrenar modelos en democracias liberales con separación de poderes que en regímenes donde los jueces responden al partido.

China, por ejemplo, puede priorizar eficiencia, control social y alineamiento con la línea oficial. Europa puede obsesionarse con garantías procesales, explicabilidad y derechos fundamentales. Estados Unidos puede centrarse en evitar demandas masivas y proteger la propiedad intelectual de los proveedores. Cada bloque construirá “jueces modelo” con valores distintos y querrá exportarlos, igual que exporta hoy tecnologías de vigilancia o estándares de datos.

Eso abre escenarios raros: ¿qué pasa si una multinacional quiere usar el mismo sistema de resolución de disputas asistido por IA en múltiples países? ¿O si una plataforma global ofrece arbitraje automatizado entrenado en un marco legal concreto? Lo que en qué pasaría si tu país bloquea una IA planteabas como bloqueo a un modelo generalista, aquí se vuelve bloqueo a una “justicia empaquetada” que no encaja con los valores locales.

8. Ciberataques, captura y errores en cadena

Si la justicia se automatiza, los atacantes irán a por el cerebro algorítmico. Un fallo de seguridad en el modelo que ayuda a decidir condenas o redactar leyes puede ser mucho más devastador que un ataque a un expediente individual. Inyectar datos contaminados, manipular precedentes o explotar prompts mal definidos puede sesgar decisiones sin que nadie lo note durante años.

Lo que ya alertabas en ciberataques potenciados por IA y en tu pieza sobre seguridad con IA aquí escala a otra dimensión: un ataque exitoso no solo roba datos, altera la forma en que se interpreta la ley.

Además, veremos pilotos que fracasan. Igual que en tus historias de pilotos de IA que se estrellan, los primeros proyectos de jueces algorítmicos pueden salir mal precisamente porque se subestima la complejidad social de la justicia y se sobreestima lo que un modelo puede capturar en sus parámetros.

9. Lo que habría que diseñar hoy: garantías mínimas para no despertar en la pesadilla

Para evitar la peor versión de este futuro, hay varias líneas rojas razonables. La primera: mantener siempre un humano responsable último de la decisión, con obligación de poder apartarse del modelo y de justificar por escrito por qué lo sigue o lo ignora. Igual que en tus escenarios de jefes-IA, el diseño organizativo importa tanto como el algoritmo.

La segunda: transparencia y derecho a explicación. No basta con que el modelo funcione; debe existir un procedimiento para que defensa y acusación puedan cuestionarlo, pedir auditorías independientes y explorar hasta qué punto se ha apoyado el juez en esa recomendación. Eso implica documentar usos, logs, versiones de modelo y criterios de entrenamiento, igual que ya exigen regulaciones como el AI Act para sistemas de alto riesgo.

La tercera: diversidad de modelos y competencia. Si un solo proveedor controla las plataformas que usan ministerios, juzgados y parlamentos, el riesgo de captura es enorme. Necesitamos ecosistemas en los que distintos modelos compitan, se comparen y se sometan a benchmarks de equidad, robustez y respeto a derechos, al estilo de lo que planteas cuando hablas de encaje producto-mercado para IA, pero aplicado a instituciones públicas.

10. ¿Justicia perfecta o pesadilla digital?

La fantasía de muchos tecnólogos es tentadora: una justicia fría, coherente, inmune a humores y prejuicios individuales, capaz de tratar casos similares de forma similar en todo el territorio. Una justicia sin retrasos, sin papeles perdidos, sin diferencias abismales entre el abogado caro y el de oficio.

La pesadilla es igual de clara: un sistema donde tus derechos dependen de un modelo entrenado con datos que no entiendes, gobernado por empresas que no eliges y desplegado por gobiernos que pueden tener incentivos para priorizar “orden” sobre justicia. Un mundo donde apelar ya no es convencer a una persona, sino intentar que una instancia superior corrija la lógica de un algoritmo al que casi nadie puede contradecir.

Entre una y otra visión hay espacio para algo más adulto: aceptar que los modelos van a entrar en la justicia, pero pelear para que lo hagan como herramientas transparentes, auditables y discutibles. Igual que en la educación de escuelas con IA en cada clase, la clave no es prohibirlos, sino enseñar a convivir con ellos sin arrodillarse. Si dejamos que las próximas leyes las escriban y apliquen modelos sin esas garantías, quizá descubramos demasiado tarde que lo que parecía justicia perfecta era, en realidad, una elegante pesadilla digital.