Algoritmos que te señalan antes de delinquir: el lado oscuro de la policía predictiva

VIGILANCIA · DERECHOS CIVILES · INTELIGENCIA ARTIFICIAL

Si llevas tiempo siguiendo la IA en tu día a día, sabes que ya hay decisiones diarias que la IA toma por ti: qué noticias ves, qué anuncios te persiguen, qué contenido se hace viral en tu barrio. La policía predictiva es la versión extrema de esa misma lógica aplicada a la seguridad: “si podemos predecir tu próxima compra, también podemos predecir tu próximo delito”.

El problema es que aquí no hablamos de clics ni de embudos de venta, como en tu análisis sobre embudos de ventas 24/7 con IA. Hablamos de patrullas, cacheos, bases de datos de sospechosos y decisiones que pueden marcar el expediente de una persona para siempre.

1. Qué es exactamente la policía predictiva

“Policía predictiva” es un paraguas donde caben varias cosas, pero la idea central es sencilla: usar datos históricos y modelos matemáticos para anticipar dónde, cuándo y a veces quién es más probable que se vea implicado en un delito. En la práctica se suele dividir en dos familias.

Por un lado están los sistemas basados en lugares. Herramientas como PredPol (rebautizada como Geolitica) ingieren bases de datos de delitos pasados, las cruzan con información geográfica y generan cuadrículas en un mapa: pequeños polígonos donde “es más probable que ocurra un determinado tipo de crimen” en las próximas horas o días. Esas cajas rojas orientan dónde poner patrullas, dónde hacer controles o dónde “estar más atentos”.

Por otro lado están los sistemas centrados en personas. Son más típicos de la justicia que de la patrulla, pero encajan en la misma lógica. Modelos que calculan un score de riesgo para cada individuo: probabilidad de reincidir, de faltar a juicio, de cometer ciertos delitos. Es la idea que diseccionas cuando hablas de jueces algorítmicos: la vida de una persona convertida en una puntuación que empuja a un juez o policía en uno u otro sentido.

Sobre el papel, suena eficiente: más datos, menos intuición, recursos limitados desplegados “donde hace falta”. En la práctica, como veremos, es una forma bastante sofisticada de darle un barniz de objetividad a decisiones que siguen apoyadas en datos profundamente sesgados y en una visión muy concreta de lo que es la seguridad.

2. Cómo funciona un algoritmo que “predice” el crimen

Si desmontas la caja negra, lo que encuentras se parece mucho a otros sistemas de recomendación que ya conoces. Primero, datos de entrada. No son “todos los delitos”, sino los delitos que acabaron registrados: denuncias, partes policiales, arrestos, a veces datos de cámaras o sensores. Esa base ya está filtrada por décadas de prácticas policiales: a quién se para, en qué barrio se patrulla más, qué delitos se persiguen y cuáles se dejan pasar.

Después vienen las variables derivadas: tipo de delito, hora, día de la semana, calle, distancia a colegios, bares, estaciones, datos socioeconómicos del barrio. El modelo busca patrones: lugares y horarios donde ciertas combinaciones aparecen repetidas y las proyecta hacia el futuro. En los sistemas person-based, las variables son otras: edad, historial, código postal, contactos, consumo de servicios públicos, incluso redes sociales en algunos proyectos experimentales.

En esencia, haces lo mismo que en cualquier problema de diseño de sistemas de machine learning: defines una variable objetivo (por ejemplo, “¿hubo robo en esta cuadrícula en este turno?”), alimentas al modelo con miles de ejemplos del pasado y lo sueltas a predecir el futuro. La diferencia no está en la técnica, está en las consecuencias de equivocarse y en quién paga el precio del error.

3. La promesa oficial: menos crimen, recursos optimizados, policía “objetiva”

Si lees los folletos comerciales de estas empresas, el mensaje es luminoso. Con la misma plantilla, las ciudades podrían colocar agentes justo donde van a ocurrir los delitos, disuadir crímenes con su sola presencia, ahorrar tiempo de análisis manual y, de paso, “eliminar sesgos humanos” al dejar que los modelos decidan de forma “fría y racional”. Una especie de jefe algorítmico, pero aplicado a patrullas y comisarías.

También seduce la idea de la eficiencia. Ciudades con presupuestos policiales ajustados, presión mediática sobre la inseguridad y alcaldes que necesitan resultados rápidos encuentran en estas herramientas un relato perfecto: “estamos usando IA de última generación para protegerte mejor”. En la era de la nueva guerra fría de la IA, ningún político quiere parecer más atrasado que su ciudad vecina.

Sobre el papel, suena bien: si podemos usar modelos para anticipar ciberataques o para detectar arritmias antes que un cardiólogo, ¿por qué no hacer lo mismo con el crimen? La respuesta corta: porque el delito no es un fenómeno natural como una tormenta, sino el resultado de decisiones humanas, desigualdades y políticas que un algoritmo no entiende pero sí puede reforzar.

4. Lo que pasa en realidad: aciertos mínimos, sesgos máximos y bucles de retroalimentación

Cuando miras los datos sin el humo del marketing, la policía predictiva empieza a parecer menos a “Minority Report” y más a “Excel con prejuicios”. Investigaciones independientes han mostrado que algunas herramientas de predicción geográfica aciertan en menos de un 1 % de sus predicciones al intentar anticipar dónde ocurrirá un delito concreto. El resto son cajas rojas que no se corresponden con nada… salvo con más presencia policial en ciertas zonas.

Lo peor es el bucle que se genera. Si durante años la policía ha patrullado más un barrio pobre y racializado, habrá más registros, más denuncias, más arrestos allí. El modelo aprende que “ahí hay crimen”, marca de nuevo esa zona como caliente, se envían más patrullas, se generan más incidentes… y el círculo se cierra. El algoritmo no ve un sesgo histórico, ve “evidencia”. Y las personas que viven allí ven lo de siempre: más presencia policial, más controles, más fricción diaria.

Varios análisis de organizaciones de derechos humanos han llegado a la misma conclusión: lejos de neutralizar el sesgo humano, muchos sistemas de policía predictiva sirven para tecnificar el perfilado racial y de clase. Cambias intuiciones por modelos, pero los datos de entrenamiento siguen contando la misma historia: determinadas comunidades como “objetivo legítimo” de vigilancia intensiva, como ya alertas en tu artículo sobre IA que decide qué es verdad en Internet: lo que entra sesgado, sale amplificado.

5. De la geografía a la biografía: cuando el algoritmo te etiqueta a ti

El salto más delicado llega cuando la predicción deja de ser sobre “zonas” y pasa a ser sobre personas concretas. Listas de “individuos de interés”, rankings de jóvenes “en riesgo” de entrar en bandas, puntuaciones de reincidencia que se usan para decidir fianzas o condenas. Es el mismo patrón que analizas en tu pieza sobre IA que predice tu ruina financiera, pero aplicado a tu expediente penal en vez de a tu crédito.

A nivel técnico, el modelo sólo ve variables: edad, número de detenciones previas, barrio, historial familiar, a veces escolarización o empleo. A nivel humano, el resultado es otra cosa: un joven etiquetado como “alto riesgo” aunque nunca haya cometido un delito grave; un juez que duda en darle una segunda oportunidad porque el sistema le marca en rojo; una policía que decide pararlo “por si acaso” una vez más. El algoritmo no detiene a nadie, pero inclina el tablero.

Aquí chocan de frente la lógica de la predicción y la lógica del derecho. Como planteas en el problema del control de la IA, optimizar una función sin contexto puede llevar a resultados inaceptables. En seguridad, la variable a optimizar (“bajar el delito” en ciertas estadísticas) puede chocarse con principios básicos como la presunción de inocencia, la igualdad ante la ley o el derecho a no ser discriminado por tu pasado o tu código postal.

6. Regulación, parches y prohibiciones a medias: el caso europeo

Europa ha empezado a reaccionar. El AI Act cataloga la IA para fuerzas de seguridad como “alto riesgo” y prohíbe algunos sistemas que predicen la probabilidad de cometer un crimen a nivel individual. Es decir, el escenario más agresivo de “puntuación de sospechosos” choca de frente con la nueva legislación. Sobre el papel, es una victoria importante para organizaciones que llevan años pidiendo un freno a este tipo de tecnologías en el ámbito penal.

Pero hay matices serios. Muchos sistemas de predicción geográfica quedan fuera de esa prohibición directa y sólo se consideran “alto riesgo”, lo que implica requisitos de transparencia, evaluación de impacto en derechos fundamentales y supervisión humana, pero no un veto total. En la práctica, deja espacio para que ciudades europeas sigan usando mapas predictivos siempre que pasen por esos controles, algo que dependerá mucho de cómo se implementen las guías, como analizas cuando hablas de la batalla regulatoria entre bloques.

Además, los plazos de puesta en marcha de muchas de estas normas se han ido retrasando, mientras la tecnología sigue avanzando. Esa brecha entre despliegue técnico y control jurídico es un patrón que ves en otros sectores en los que se cuela la IA: del uso de modelos en despachos de abogados a la gestión algorítmica del trabajo que narras en empresas sin jefes humanos.

7. El corazón del problema: quién define qué es “riesgo aceptable”

Más allá de la técnica y de la regulación, la pregunta incómoda es otra: ¿quién decide qué riesgos son aceptables y para quién? Un alcalde puede considerar razonable sacrificar intimidad y libertad de movimiento en cierto barrio a cambio de bajar ciertas estadísticas de delito. Una aseguradora puede ver lógico subir primas en función de tu código postal. Un modelo sólo hace números; los valores vienen de quienes lo diseñan, lo compran y lo integran en su estrategia.

Lo que llamas en tu artículo sobre IA que diseña tu vida una “biografía optimizada por modelos” aquí se convierte en un territorio y una comunidad optimizados para las métricas de una comisaría. Si tu barrio no aparece en el mapa, nadie invierte; si aparece demasiado, se llena de patrullas. En ambos casos, las decisiones se sienten lejanísimas a quien sólo ve más controles en su portal.

Si además sumas otras capas de IA en la ciudad —desde asistentes que filtran noticias hasta modelos que deciden quién accede a un crédito o a un alquiler— el riesgo es terminar en un entorno donde una parte importante de tu vida está mediada por decisiones algorítmicas que nunca ves. La policía predictiva es sólo una pieza especialmente visible (y peligrosa) de ese puzzle.

8. Si tu ciudad quiere implantarla: preguntas incómodas que conviene hacer

No hace falta ser técnico para participar en este debate. Si alguna vez lees que tu ciudad está probando “soluciones de IA para mejorar la seguridad”, hay varias preguntas muy simples que cualquier vecino puede plantear sin entrar en fórmulas. La primera: ¿qué datos se usan? ¿Sólo delitos graves denunciados? ¿También identificaciones, registros, pequeñas sanciones? Si la base incluye prácticas históricamente discriminatorias, el modelo las va a heredar.

La segunda: ¿quién audita el sistema y con qué criterios? Igual que exiges certificaciones y pruebas en un medicamento, puedes exigir evaluaciones independientes sobre si la herramienta realmente reduce delitos o sólo redistribuye la vigilancia. No basta con informes internos de la empresa vendedora: hacen falta universidades, organizaciones de derechos civiles, incluso mecanismos de supervisión ciudadana, como planteas en tus textos sobre gobernanza y seguridad en IA.

La tercera: ¿qué alternativas no policiales se han explorado? Si el análisis de datos muestra que los robos se concentran en zonas sin iluminación, con abandono urbano y falta de servicios, la respuesta no tiene por qué ser sólo enviar más patrullas; puede ser urbanismo, vivienda, trabajo social. Como decía un experto crítico con estos sistemas, “el problema de la policía predictiva no es la predicción, es la parte de policía”. Los mismos datos que sirven para mandar coches patrulla pueden servir para mandar recursos sociales, si así se decide políticamente.

9. Algoritmos que te señalan antes de delinquir: y ahora, ¿qué?

Es tentador pensar que todo esto va de “ordenadores fríos” frente a “policías subjetivos”, pero la realidad es más compleja. La policía predictiva junta lo peor de los dos mundos si se implementa mal: la opacidad y rigidez de un modelo matemático con la historia cargada de sesgos de nuestras instituciones. El resultado puede ser una ciudad donde se patrulla más a quien ya estaba sobreexpuesto, con la excusa de que “lo dice el algoritmo”.

Tus artículos sobre Vida 3.0 y el “algoritmo maestro” apuntan a algo que aquí se vuelve urgente: ¿queremos un futuro donde la IA se limite a ayudarnos a ver mejor lo que pasa, o uno donde empiece a decidir por adelantado quién merece más vigilancia, menos movilidad o más sospecha? La policía predictiva es, en el fondo, un ensayo general de esa pregunta aplicado a la seguridad.

Quizá el debate no debería centrarse en si estos algoritmos son “buenos” o “malos” en abstracto, sino en algo más concreto: ¿aceptas vivir en una ciudad donde un modelo estadístico puede señalarte a ti o a tu barrio como problema antes de que exista ningún hecho? Entender cómo funcionan, de dónde sacan sus datos y quién responde por sus errores es el primer paso para decidir si queremos que patrullen nuestras calles… o si preferimos que se queden como lo que son: herramientas de análisis, no oráculos de futuro con placa.