Sesgo islamofóbico en la IA: análisis del racismo religioso en los datos de entrenamiento

Un análisis académico publicado en el portal Race, Racism and the Law examina la presencia de sesgos islamofóbicos en los sistemas de inteligencia artificial desarrollados en Estados Unidos, con foco en los conjuntos de datos utilizados para entrenar modelos de lenguaje y herramientas de reconocimiento automatizado.

El estudio sostiene que la IA no es neutral: refleja los prejuicios presentes en los datos con los que aprende. En el caso de la comunidad musulmana, los investigadores identificaron patrones sistemáticos de asociación negativa, vinculación con violencia y subrepresentación de perspectivas propias, lo que deriva en sistemas que discriminan de forma algorítmica.

Los autores señalan que este problema no es técnico sino estructural. La composición de los equipos de desarrollo, la falta de diversidad religiosa y cultural en las etapas de diseño, y la ausencia de auditorías específicas sobre sesgo religioso contribuyen a perpetuar estereotipos a escala masiva en plataformas de uso cotidiano.

El trabajo llama a incorporar marcos legales y éticos que aborden el sesgo religioso con la misma urgencia que el racial o de género, e insta a reguladores y empresas tecnológicas a implementar revisiones independientes antes del despliegue de sistemas de IA en contextos sensibles.