El ML sanitario llega a escala productiva pero la gobernanza no lo sigue

El machine learning en el sector sanitario ha alcanzado una adopción a escala de producción en hospitales y sistemas de salud de todo el mundo, según el cuarto informe anual de Black Book Research. Sin embargo, el avance tecnológico está superando con creces la capacidad institucional para gobernarlo de manera responsable.

El estudio detecta una brecha crítica entre la implementación de modelos clínicos y la existencia de políticas internas, comités de ética algorítmica y mecanismos de auditoría. Muchas organizaciones de salud operan con herramientas de IA en áreas sensibles —diagnóstico, gestión de riesgos y asignación de recursos— sin protocolos formales de validación continua.

Entre los hallazgos más destacados figura la ausencia de roles dedicados a la supervisión de IA en la mayoría de las instituciones encuestadas, así como la falta de transparencia hacia los pacientes sobre el uso de algoritmos en decisiones clínicas. Black Book advierte que este vacío aumenta los riesgos de sesgos sistémicos y errores difíciles de detectar en entornos reales.

El informe concluye con un llamado urgente a que los líderes del sector salud prioricen marcos de gobernanza antes de expandir aún más sus capacidades de IA. Los investigadores señalan que la regulación externa, aunque necesaria, no puede sustituir la responsabilidad organizacional interna en un campo donde los errores algorítmicos pueden tener consecuencias directas sobre la vida de los pacientes.