OpenAI modificará el acuerdo de defensa para prohibir el uso de su IA para la vigilancia doméstica

El CEO de OpenAI, Sam Altman, anunció que la empresa revisará su contrato con el Departamento de Defensa de EE. UU. para prohibir explícitamente el uso de su sistema de inteligencia artificial para la vigilancia masiva de estadounidenses. En un memorándum interno compartido en X, Altman detalló el nuevo lenguaje que vincula la restricción a la Cuarta Enmienda y otras leyes aplicables, y dijo que preferiría ir a la cárcel antes que cumplir con una orden ilegal.

Compromiso de OpenAI con la privacidad doméstica

Sam Altman, director ejecutivo de OpenAI, comunicó a los empleados a través de un memorándum interno publicado en X que la empresa modificará su acuerdo con el Departamento de Defensa de EE. UU. La enmienda contendrá un lenguaje explícito que establece que, de acuerdo con las leyes aplicables, incluyendo la Cuarta Enmienda, la Ley de Seguridad Nacional de 1947 y la Ley FISA de 1978, el sistema de inteligencia artificial de OpenAI no se utilizará intencionalmente para la vigilancia doméstica de personas o nacionales de EE. UU.

Postura ante órdenes inconstitucionales

Altman afirmó que si la empresa recibiera una orden que considerara inconstitucional, preferiría enfrentar el encarcelamiento antes que cumplir. También señaló que el Departamento ha afirmado que sus servicios no se emplearán por agencias de inteligencia, como la NSA, sin una modificación del contrato que respete las nuevas restricciones.

Contexto del acuerdo y presión gubernamental

La enmienda llega después de un período de intensa escrutinio sobre el uso de la IA en el gobierno. El presidente Trump ordenó anteriormente a todas las agencias de EE. UU. que cesaran el uso de los servicios de Anthropic, como Claude. El Departamento de Defensa, liderado por el secretario Pete Hegseth, presionó a Anthropic para que eliminara los guardrails de la IA para que la tecnología pudiera emplearse para todos los "propósitos legales", incluyendo la vigilancia masiva y el desarrollo de armas autónomas completamente. Anthropic se negó, afirmando que la intimidación no cambiaría su posición sobre la vigilancia doméstica o las armas autónomas, lo que provocó la orden presidencial.

Preocupaciones sobre la cadena de suministro y reacciones de la industria

El Departamento también consideró designar a Anthropic como un "riesgo para la cadena de suministro", una etiqueta reservada típicamente para las empresas chinas que se consideran que plantean amenazas de seguridad. Altman les dijo a los funcionarios que Anthropic no debería recibir tal designación y expresó la esperanza de que el Departamento de Defensa extendiera los mismos términos del acuerdo a Anthropic que OpenAI había asegurado.

Impacto en el mercado y actualizaciones de productos

Después de la divulgación pública de la enmienda de OpenAI, Anthropic experimentó un aumento en la popularidad, ascendiendo a la cima de la lista de aplicaciones gratuitas de la App Store y superando a ChatGPT y Google Gemini. La empresa introdujo una herramienta de importación de memoria diseñada para facilitar a los usuarios la transición a Claude desde chatbots competidores. Mientras tanto, Sensor Tower informó un aumento significativo en las desinstalaciones de la aplicación ChatGPT, con un aumento del 295% día a día.

Reflexión sobre el proceso de negociación

Altman admitió que OpenAI había apresurado el acuerdo original, describiendo los problemas como "super complejos" y necesitados de una comunicación clara. Enmarcó la enmienda como un esfuerzo por reducir las tensiones y evitar un resultado peor, reconociendo que el lanzamiento rápido parecía oportunista. En una AMA posterior en X, Altman aclaró que no estaba al tanto de los términos específicos del acuerdo de Anthropic con el Departamento, aunque creía que si los términos eran idénticos, Anthropic debería haber aceptado.