Un gigante hospitalario estadounidense y una red de radiología recurrieron a Palantir para optimizar la programación de turnos de su personal. Según un reportaje de Wired publicado el 2 de octubre, el resultado ha sido justo el contrario: enfermeras y otros trabajadores sanitarios aseguran que el nuevo software está generando errores, agotamiento y frustración, y advierten de que el problema va más allá de una simple molestia administrativa: lo consideran una cuestión de seguridad para los pacientes.
El software en el centro de la polémica
El sistema se llama Timpani, diseñado por Palantir para automatizar la programación de turnos de enfermería. HCA Healthcare, la mayor cadena hospitalaria con ánimo de lucro de Estados Unidos, con 186 hospitales y más de 2.000 centros de atención en 20 estados, lo ha implementado en más de 80 hospitales desde enero de 2023. Palantir mantiene además una relación similar con MaineHealth.
Lo que reportan las propias enfermeras
Trabajadores sanitarios de los hospitales afectados describen un patrón persistente de errores desde la implementación del sistema: asignaciones a turnos para los que no estaban disponibles, avisos insuficientes ante cambios de horario, y ajustes de última hora que trastocan tanto su vida personal como sus compromisos profesionales. United Healthcare Workers East, otro sindicato afectado, ha denunciado además casos de denegación de tiempo libre remunerado y medidas disciplinarias aplicadas con poco o ningún conocimiento por parte de la dirección de lo que realmente estaba ocurriendo en el sistema.
Protestas que se han extendido por el país
El sindicato National Nurses United ha organizado manifestaciones en al menos ocho ciudades estadounidenses contra el uso de la tecnología de Palantir en hospitales. Una de esas protestas, celebrada el 27 de agosto en Palo Alto, frente a la que fuera sede de Palantir, reunió a más de un centenar de enfermeras colegiadas. Cedotal, una de las manifestantes con 32 años de experiencia como enfermera, lo resumió así: «está afectando a las decisiones de personal y de cuidado de formas que no están en línea con lo que debería ser la sanidad». Según Cedotal, la preocupación principal es que los humanos ya no forman parte real de la ecuación: las recomendaciones del software suelen acabar siendo desfavorables para el personal, para la atención al paciente, o para ambos a la vez.
Una barrera adicional: la falta de transparencia
Más allá de los errores de programación en sí, parte del personal admite tener dificultades para entender o navegar los resultados que genera el propio sistema de IA. Esa falta de transparencia sobre cómo se toman determinadas decisiones de programación ha alimentado el escépticismo y erosionado la confianza del personal en que el sistema refleje con precisión la realidad de las operaciones clínicas del día a día.
La versión de los hospitales
HCA Healthcare, por su parte, sostiene que su plataforma apoyada en Palantir ha mejorado la eficiencia de la programación y ha ahorrado tiempo a los responsables de enfermería. Los administradores hospitalarios han reconocido públicamente los problemas surgidos durante la fase de implementación, y aseguran estar trabajando activamente para resolver las quejas planteadas por el personal. Es una versión claramente en tensión con los testimonios directos del personal de enfermería sobre el terreno.
Un contexto más amplio
Las protestas contra Palantir en el sector sanitario forman parte de una campaña más amplia, que ya se había documentado meses antes centrada específicamente en el uso de Timpani por parte de HCA y en la relación de Palantir con MaineHealth. La presencia creciente de la compañía en infraestructura de datos sanitarios, junto a su actividad conocida en otros sectores como la defensa, ha generado un escrutinio adicional sobre su papel en hospitales, más allá únicamente de si el software funciona correctamente o no.
Qué implica en la práctica
- Para los hospitales que evalúan este tipo de software: el caso sugiere que la implementación de sistemas de programación automatizada necesita canales claros de retroalimentación del personal antes de un despliegue a gran escala, no solo después de que aparezcan los problemas.
- Para el personal de enfermería: la organización colectiva a través de sindicatos ha sido, hasta ahora, la vía principal para visibilizar públicamente estos problemas y presionar por cambios concretos en el sistema.
- Para el debate sobre IA en sanidad: el caso contrasta con estudios académicos que muestran el potencial de la IA para mejorar la equidad en la programación de turnos, lo que sugiere que el diseño concreto de cada sistema, y no la tecnología en abstracto, es lo que determina el resultado real.
Nuestra lectura
Este caso ilustra una tensión que probablemente se repetirá con más frecuencia a medida que la IA se adopte en sectores con consecuencias humanas directas: la distancia entre lo que promete una herramienta de optimización y lo que experimenta realmente el personal que debe convivir con sus decisiones a diario. Que hospitales y sindicatos sostengan versiones tan opuestas sobre el mismo sistema sugiere que, más allá de la tecnología en sí, el problema de fondo podría estar en cómo se diseñó su implementación y qué voz tuvo, o no tuvo, el propio personal afectado en ese proceso.
Fuentes: Wired (vía Bioethics.com), KQED y Telehealth.org.