La IA que decide si te atienden en urgencias: salud bajo el mando del algoritmo

URGENCIAS · SALUD · INTELIGENCIA ARTIFICIAL

Aviso rápido: esto es divulgación, no consejo médico. Si tienes una urgencia, la respuesta no es “preguntar a un modelo”, es acudir a los servicios de emergencia de tu país.

Si ya te inquietaba la idea de una vida optimizada por modelos o de jueces que consultan algoritmos, aquí damos un paso más: dejar que funciones de probabilidad y dashboards influyan en algo tan básico como “¿me atienden ya o espero?” y “¿me autorizan esto o no?”.

Vamos por capas: urgencias, seguros y, entre medias, un ecosistema donde delegar decisiones clínicas se vuelve tentador cuando faltan médicos, camas y tiempo.

1. El triaje clásico: pocos segundos, mucha responsabilidad

Antes de meter IA, merece la pena entender el drama de base. Un servicio de urgencias funciona como un embudo: entran más pacientes de los que se pueden atender a la vez, así que alguien tiene que decidir a quién se ve primero. No es “orden de llegada”, es “orden de gravedad”. Ahí entra el triaje: enfermeras y médicos que, en cuestión de segundos o pocos minutos, clasifican a la gente según riesgo vital.

Existen escalas formales (ESI, Manchester, etc.), pero en la práctica también cuenta mucho la experiencia y el famoso ojo clínico. Un leve cambio en la coloración de la piel, una forma de respirar, un gesto raro, un “algo no me cuadra” que sólo se aprende después de miles de guardias. Aun así, el triaje humano se equivoca: hay pacientes que parecen banales y se complican, y otros que parecen muy mal y luego no tanto. El error aquí no es un KPI, es la diferencia entre ingresar a tiempo o llegar tarde a la UCI.

En ese contexto no sorprende que alguien dijera: “si ya usamos modelos para detectar arritmias en un ECG mejor que el ojo humano, ¿por qué no usar IA para ayudar a decidir qué paciente está realmente al borde del precipicio?”.

2. Qué hace hoy la IA en urgencias (más de lo que crees)

Lo primero que hay que aclarar: la mayoría de sistemas de IA en urgencias no están aún “apretando botones”. No deciden ellos solos, pero sí generan puntuaciones que influyen. Algunos ejemplos reales:

Modelos que, con tus signos vitales, edad, motivo de consulta y algunas variables del historial, calculan la probabilidad de que entres en parada, necesites UCI o mueras en las próximas horas. Esa probabilidad puede subir tu prioridad en el triaje, incluso si a simple vista no parecías tan grave.

Sistemas que, con lo que se recoge en el triaje inicial, predicen si lo más probable es que te ingresen o te manden a casa. Eso ayuda a gestionar camas, avisar a planta, organizar pruebas. Un paso más y puede ayudar a decidir si te hacen ese TAC ya o lo pueden retrasar dos horas.

Proyectos que usan vídeo corto del paciente al llegar, como un “eye-balling automatizado”: el modelo analiza postura, respiración, expresión facial y otros microdetalles para estimar su gravedad, imitando el vistazo rápido que hace un médico cuando entra en la sala. Si el score sale rojo, saltan alertas aunque la tensión y el pulso estén “razonables”.

Sobre el papel, muchas de estas herramientas muestran algo que ya hemos visto en otros dominios: los modelos detectan combinaciones de variables que al humano se le escapan y, en promedio, mejoran la capacidad de separar “realmente crítico” de “urgente pero estable”. El problema, como siempre, está cuando pasas de “asistente” a “árbitro”.

3. De urgencias al seguro: el modelo que decide qué se paga y qué no

La otra pata de la historia está fuera del hospital: las aseguradoras. Si un algoritmo puede estimar la probabilidad de que acabes en UCI, también puede estimar cuántos días de UCI, cuántos días de rehabilitación, cuántas visitas a urgencias a futuro. Esa lógica es prima hermana de la IA que predice si te vas a arruinar: puntuaciones de riesgo que optimizan dinero, no bienestar.

En los últimos años han salido a la luz casos de aseguradoras que usan modelos para decidir cuántos días de centro de rehabilitación pagan a ancianos, cuándo cortan la financiación de cuidados post-agudos o qué pruebas de alto coste autorizan. Si el modelo dice “estadísticamente, la gente como tú debería estar recuperada en 14 días”, el sistema empieza a denegar a partir de ahí aunque tu médico diga que necesitas 21. Si apelas, muchas decisiones se revierten… pero no todo el mundo apela ni tiene fuerza para pelearlo.

Es el reverso oscuro de esa visión que te entusiasma cuando una IA te ayuda a optimizar tu negocio en embudos de ventas automatizados: aquí el embudo es de cuidados y el “cliente ideal” es el que cuesta menos que la media. La tentación de usar la IA principalmente como tijera es demasiado grande cuando tu objetivo es recortar costes sanitarios.

4. Lo bueno que podría salir de todo esto (si se hace bien)

No todo es distopía. Sería injusto ignorar el potencial real de estos sistemas en un entorno donde urgencias viven permanentemente al límite. Un triaje apoyado en IA puede:

Detectar antes a pacientes “silenciosamente críticos”: esa persona joven, sin antecedentes, que entra caminando con “dolor de pecho raro” y signos vitales casi normales pero un patrón en los datos que se parece mucho a los que acaban en parada. Ahí, un algoritmo puede salvar vidas simplemente subiendo su prioridad.

Reducir variabilidad entre profesionales. Que te clasifiquen como nivel 2 o 3 no debería depender tanto de si te toca una enfermera agotada o una con 20 años de experiencia. Un modelo bien calibrado puede hacer de “segundo par de ojos” y ayudar a homogeneizar decisiones injustamente dispares.

Gestionar mejor recursos caros: camas de UCI, TAC, quirófanos, ambulancias. Igual que usamos IA para anticipar ciberataques o para optimizar cadenas de suministro, anticipar picos de demanda en urgencias puede evitar colapsos que luego se pagan en vidas y burnout del personal.

Y si miras el sistema completo, hay un argumento potente: en muchos países simplemente no hay suficiente personal ni dinero para dar atención perfecta a todo el mundo siempre. Usar IA para organizar mejor lo que hay puede ser la diferencia entre un caos injusto y un caos algo más racional. La clave, como veremos, está en quién define “racional” y quién asume el coste cuando la máquina se equivoca con tu caso concreto.

5. Y ahora, lo que da miedo: sesgos, cajas negras y fallos masivos

Empezamos por lo básico: ningún modelo es neutral. Igual que en tu artículo sobre policía predictiva explicas que los algoritmos aprenden de datos policiales sesgados, aquí aprenden de historias clínicas donde ya hay desigualdades: quién llega antes al hospital, quién se marcha contra consejo médico, quién recibe más pruebas, qué perfiles se subdiagnostican. Si históricamente ciertos grupos han recibido menos cuidados, el modelo puede confundir eso con “menor necesidad” y perpetuarlo.

Luego está la caja negra. Muchos de estos sistemas son modelos complejos, con miles de parámetros y relaciones no lineales. Si el score dijera “prioridad baja” y alguien pregunta “¿por qué?”, la respuesta honesta suele ser “por un patrón estadístico en los datos”, no algo intuitivo tipo “porque tienes la tensión bien”. Eso dificulta que el personal sanitario pueda discutir, corregir o ignorar a tiempo una recomendación absurda.

Y por último, los fallos masivos. Un humano que se equivoca se equivoca caso a caso; un modelo mal calibrado o alimentado con datos rotos se puede equivocar en masa. Igual que describías en el apagón global de AWS, cuando se cae la infraestructura, se cae todo. Si media red de urgencias depende de un algoritmo concreto para priorizar y un día ese algoritmo falla o sufre un ataque, el impacto no es que a ti te vaya más lento Netflix: es que cientos de pacientes se ordenan mal durante horas.

6. La mirada del AI Act: por qué la IA clínica es “alto riesgo” por definición

En Europa, el mensaje regulatorio es claro: la IA que toca sistemas sanitarios no es un juguete de laboratorio, es un sistema de alto riesgo. El AI Act obliga a que el software médico basado en IA cumpla requisitos estrictos: gestión de riesgos, datos de entrenamiento de calidad, documentación, explicabilidad razonable y supervisión humana efectiva. Nada de “lo hemos metido en el hospital y ya veremos”.

Eso incluye precisamente los modelos que participan en triaje, diagnóstico, priorización de pruebas o soporte a la decisión terapéutica. En teoría, deberían estar auditados, monitorizados y sometidos a evaluación de impacto en derechos fundamentales. En la práctica, la implementación irá a dos velocidades: gigantes con recursos para cumplir, y sistemas más pequeños que pueden intentar colarse “por detrás” presentándose como simples herramientas de apoyo.

Aquí conecta con tu análisis de la guerra fría de la IA: países que exijan más garantías pueden moverse más lento pero con menos escándalos; otros priorizarán despliegue rápido y ahorro de costes. En medio, millones de pacientes que no tienen ni idea de que un modelo estaba presente cuando el médico decidió si hacerles un TAC o mandarlos a casa con paracetamol.

7. ¿Qué puedes hacer tú como paciente… sin volverte paranoico?

No puedes auditar el código de urgencias cada vez que entras con fiebre, pero sí puedes hacer algunas cosas sensatas para no ser un número pasivo en el dashboard. Por ejemplo, preguntar. Si estás estable y hay tiempo, preguntar “¿hay algún sistema informático que priorice a los pacientes?” no es una locura. A veces te explicarán que usan una escala clásica; otras, que hay soporte algorítmico. Saberlo cambia tu percepción de dónde viene la decisión.

También puedes asumir que, igual que revisas la letra pequeña de tu seguro, conviene revisar qué pone sobre algoritmos de decisión. Si una póliza dice que usará “modelos automatizados para gestionar autorizaciones”, tienes derecho a saber cómo puedes apelar, si hay revisión humana y qué plazos maneja. El patrón se parece mucho al que describías en gobernanza de datos e IA: sin transparencia y sin vías de reclamación, la promesa de “IA para ayudarte” se convierte en “IA para cerrarte puertas más rápido”.

Y, por supuesto, si la decisión te parece claramente injusta (urgencia dada de alta sin explicaciones, prueba importante denegada por el seguro), la respuesta no es pedirle al modelo que lo reconsidere, es pedir segundas opiniones humanas y usar los canales de reclamación disponibles. No porque “la IA sea mala” por defecto, sino porque cualquier sistema que decide a gran escala necesita frenos y contrapesos, especialmente cuando te afecta en primera persona.

8. Desde dentro: médicos con copiloto de IA o médicos supervisados por IA

Hay una diferencia gigantesca entre usar IA como copiloto o como supervisor silencioso. En el primer escenario, el médico sigue decidiendo, y el modelo está ahí para señalar cosas: “ojo, este paciente se parece a otros que se complicaron”, “quizá te estás olvidando de este diagnóstico”. Es el mismo enfoque que propones en asistentes de IA para empresas: herramienta que amplifica capacidad, no que sustituye juicio.

En el segundo escenario, la IA está integrada en los sistemas de gestión y calidad de tal forma que las decisiones que se salen del camino recomendado quedan marcadas, auditadas, explicadas. Eso puede ser bueno para detectar errores graves, pero también puede generar presión para obedecer al modelo, aunque el clínico intuya que en este caso concreto no aplica. Si cada vez que te sales del score te piden un informe extra, muchos acabarán obedeciendo al algoritmo para evitar fricción, como ya ocurre en entornos donde “el sistema” manda más que los jefes humanos.

Llevado al extremo, se parece demasiado a la empresa sin jefes humanos que imaginas: médicos convertidos en ejecutores de rutas decididas por modelos, con poca capacidad real de adaptar la atención a cada caso sin justificarse ante un sistema que sólo ve estadísticas.

9. La pregunta final: ¿cuánta medicina estás dispuesto a dejar en manos de un modelo?

Es fácil imaginar el momento. Llegas a urgencias saturadas, ves pantallas por todas partes, te ponen una pulsera y, en algún servidor, un modelo calcula que eres “prioridad media”. A tu lado, alguien con una puntuación más alta entra antes; detrás, alguien con menos prioridad empieza a desesperarse. Nadie ve el algoritmo, pero todos viven sus consecuencias: tiempos de espera, pruebas sí o no, camas libres o no tantas.

Igual que en tus lecturas de Vida 3.0 o Human Compatible, la pregunta de fondo no es si la IA es capaz de ayudar, sino qué tipo de control y responsabilidad queremos mantener cuando la dejamos entrar en decisiones que afectan a vidas humanas. En urgencias, esa pregunta no es filosófica: se mide en minutos, en saturación de camas y, a veces, en líneas de monitor que se vuelven planas.

Quizá la forma más honesta de plantearlo no sea “¿permitirías que una IA decida si te atienden antes en urgencias?”, porque en parte eso ya está ocurriendo, aunque no lo veas. La pregunta más interesante es otra: ¿qué límites quieres poner a esos sistemas, qué transparencia exiges y cuánta medicina estás dispuesto a dejar en manos de modelos entrenados con datos que no se parecen tanto a ti como crees? La tecnología seguirá avanzando; que lo haga como aliada de los clínicos o como jefe silencioso depende, bastante más de lo que parece, de lo que aceptemos hoy sin hacer demasiadas preguntas.