OpenAI defiende su contrato con el Pentágono ante preocupaciones de seguridad

OpenAI ha finalizado un acuerdo para implementar sus modelos de inteligencia artificial (IA) dentro del Pentágono, el Departamento de Defensa de EE. UU. La medida sigue a la exclusión de su competidor Anthropic. El viernes, las negociaciones entre Anthropic y el Pentágono fracasaron. Tras esto, el presidente de EE. UU., Donald Trump, ordenó a las agencias federales que dejaran de usar la tecnología de Anthropic después de un periodo de transición de seis meses. El secretario de Defensa de EE. UU., Pete Hegseth, designó a la empresa de IA competidora como un riesgo para la cadena de suministro.

En respuesta al escrutinio público, OpenAI publicó una entrada de blog describiendo su enfoque de seguridad. La empresa destacó tres áreas donde sus modelos no pueden ser utilizados:

• Vigilancia doméstica masiva
• Sistemas de armas autónomos
• Decisiones automatizadas de alto riesgo

OpenAI declaró que su acuerdo protege estos límites mediante un enfoque de múltiples capas. Según el blog de OpenAI, la empresa conserva total discreción sobre su pila de seguridad, realiza la implementación a través de la nube, mantiene al personal de OpenAI con autorización de seguridad al tanto y cuenta con sólidas protecciones contractuales. La empresa añadió que no sabía por qué Anthropic no pudo llegar a este acuerdo.

Sin embargo, los críticos han expresado preocupaciones sobre los términos del contrato. El escritor de Techdirt, Mike Masnick, reportó que el acuerdo permite la vigilancia doméstica porque cumple con la Orden Ejecutiva 12333 (una directiva de inteligencia de EE. UU.). Masnick señaló que esta directiva se utiliza para capturar comunicaciones interviniendo líneas fuera de EE. UU., lo que puede incluir información sobre personas estadounidenses.

“La arquitectura de implementación importa más que el lenguaje del contrato”, dijo Katrina Mulligan, jefa de asociaciones de seguridad nacional de OpenAI. Mulligan argumentó que limitar la implementación a una API en la nube garantiza que los modelos no puedan integrarse directamente en hardware operativo o sistemas de armas para el Departamento de Guerra, un término que utilizó para referirse al Departamento de Defensa.

El CEO de OpenAI, Sam Altman, reconoció la intensa reacción pública, señalando en X que el acuerdo fue definitivamente apresurado y que la imagen no es buena. La controversia coincidió con el hecho de que Claude, de Anthropic, superó a ChatGPT, de OpenAI, en la App Store de Apple el sábado. Altman declaró que la empresa quería reducir las tensiones entre la industria y el sector de defensa. Señaló que si la medida no logra reducir estas relaciones, OpenAI seguirá siendo caracterizada como apresurada y descuidada.

Por qué importa

OpenAI está defendiendo su nuevo contrato con el Pentágono frente a las críticas públicas sobre la seguridad y el potencial de uso indebido, mientras navega simultáneamente las consecuencias de la exclusión de un competidor del uso gubernamental.