Expertos proponen marco regulatorio para limitar la IA en la prescripción médica

Un nuevo artículo académico publicado en la revista Cureus advierte sobre los riesgos de permitir que sistemas de inteligencia artificial actúen de forma autónoma en la prescripción de medicamentos, y propone un marco de gobernanza farmacéutica basado en la estratificación del riesgo clínico.

El trabajo se enfoca en los llamados sistemas agénticos, es decir, aquellos modelos de IA capaces de tomar decisiones y ejecutar acciones de manera encadenada sin intervención humana constante. Los autores sostienen que esta capacidad, aplicada al entorno clínico, representa un riesgo significativo si no se establecen controles claros sobre cuándo y cómo puede operar la tecnología sin supervisión médica directa.

El marco propuesto clasifica las intervenciones farmacéuticas en distintos niveles según su potencial de daño, y establece que solo las tareas de menor riesgo podrían delegarse completamente a la IA. Para decisiones de mayor complejidad o impacto, el modelo exige la validación obligatoria de un profesional de la salud antes de cualquier acción.

Los investigadores concluyen que la IA puede ser una herramienta valiosa para optimizar procesos en farmacia clínica, pero que su integración debe ir acompañada de estructuras de supervisión robustas, marcos legales claros y una definición precisa de responsabilidades para evitar errores que pongan en riesgo la seguridad del paciente.