El Pentágono solicitó a OpenAI una IA diseñada para rechazar pocas solicitudes

De acuerdo con una investigación de The Intercept, el Pentágono habría solicitado a OpenAI el desarrollo de un modelo de inteligencia artificial configurado para aceptar la mayoría de las instrucciones, con capacidad limitada para rechazar solicitudes. El pedido habría surgido en el contexto de proyectos de defensa y aplicaciones militares potenciales.

La solicitud plantea cuestionamientos sobre los mecanismos de seguridad y los sistemas de salvaguarda que típicamente incorporan los grandes modelos de lenguaje. OpenAI ha manifestado públicamente su compromiso con el desarrollo responsable de IA, incluyendo controles de seguridad diseñados para prevenir usos potencialmente peligrosos.

Esta información genera debate sobre los límites éticos y operacionales en la colaboración entre empresas de tecnología privadas y agencias gubernamentales de defensa. El caso ejemplifica las tensiones entre capacidades técnicas solicitadas por organismos militares y los principios de seguridad en IA que las empresas desarrolladoras buscan mantener.