La tutela en la era de la IA: por qué el juicio humano sigue siendo clave

En un nuevo informe, la consultora global Teneo aborda el concepto de “tutela” (trusteeship) como marco ético y estratégico para gestionar el desarrollo de la inteligencia artificial. El documento argumenta que, a medida que los sistemas de IA asumen más responsabilidades en organizaciones públicas y privadas, la capacidad humana de emitir juicios contextuales se vuelve más valiosa, no menos.

El análisis sostiene que delegar decisiones críticas en algoritmos sin una supervisión adecuada genera riesgos institucionales y reputacionales significativos. Teneo propone que líderes y directorios adopten un rol activo de “custodios” de los sistemas de IA que operan bajo su responsabilidad, estableciendo mecanismos claros de rendición de cuentas.

El informe también destaca la tensión entre la velocidad de adopción tecnológica y la madurez de los marcos de gobernanza existentes. Según Teneo, muchas organizaciones implementan herramientas de IA antes de haber definido quién es responsable cuando estas fallan o producen resultados no deseados.

En un contexto de creciente regulación en Europa y debate legislativo en otras regiones, el documento concluye que el juicio humano no es un obstáculo para la innovación, sino una garantía de sostenibilidad a largo plazo para las organizaciones que apuestan por la IA como ventaja competitiva.