Departamento de Justicia Declara a Anthropic como No Confiable para el Uso de IA Militar
Puntos clave
- El Departamento de Justicia argumenta que la etiqueta de la cadena de suministro en Anthropic es legal y está impulsada por preocupaciones de seguridad nacional.
- Anthropic alega que la designación viola sus derechos y amenaza su negocio, solicitando una suspensión del tribunal.
- Los funcionarios de defensa temen que Anthropic pueda sabotear o alterar los modelos de IA si se cuestionan las políticas corporativas.
- El Pentágono planea reemplazar las herramientas de IA de Anthropic con productos de otros proveedores de tecnología.
- Varios grupos de la industria y el trabajo han presentado escritos que apoyan a Anthropic, mientras que ninguno apoya la postura del gobierno.
El Departamento de Justicia de EE. UU. defendió la decisión del Pentágono de etiquetar a la desarrolladora de IA Anthropic como un riesgo en la cadena de suministro, argumentando que la empresa no puede ser confiada con sistemas de guerra. Anthropic demandó, alegando que la etiqueta viola sus derechos y amenaza su negocio, pero el gobierno mantuvo que la acción fue legal y necesaria para la seguridad nacional.
El Gobierno Defiende la Designación de la Cadena de Suministro
El Departamento de Justicia presentó una respuesta a la demanda de Anthropic, afirmando que la agencia designó legalmente a la empresa de IA como un riesgo en la cadena de suministro debido a preocupaciones sobre la integridad de su tecnología en contextos militares. Los abogados argumentaron que las preocupaciones de la empresa sobre la pérdida de ingresos no constituyen un daño irreparable y que las acciones del gobierno están motivadas por consideraciones de seguridad nacional, no por un intento de limitar la actividad expresiva.
El Desafío Legal de Anthropic
Anthropic sostiene que el Pentágono excedió su autoridad al aplicar una etiqueta que podría prohibir a la empresa contratos de defensa. La empresa busca reanudar las operaciones normales mientras la litigación esté sin resolver y ha solicitado al tribunal una suspensión. El juez que supervisa el caso programó una audiencia para decidir sobre la solicitud.
Preocupaciones de Seguridad Citadas por el Pentágono
Los funcionarios de defensa expresaron preocupaciones de que el personal de Anthropic podría sabotear o alterar el comportamiento de los modelos de IA si perciben que se cruzan las "líneas rojas" corporativas. El Departamento de Defensa destacó la vulnerabilidad de los sistemas de IA a la manipulación y argumentó que permitir el acceso continuo podría introducir un riesgo inaceptable en la infraestructura de guerra.
Impacto en el Uso de IA Militar
Los modelos de Claude de Anthropic se han utilizado en las herramientas de análisis de datos del Pentágono, pero el departamento ahora busca reemplazarlos con alternativas de otras empresas de tecnología. El cambio refleja un esfuerzo más amplio para diversificar las fuentes de IA y reducir la dependencia de un solo proveedor considerado riesgoso.
Reacción Legal y de la Industria en General
Una serie de partes, incluyendo investigadores de IA, otras empresas de tecnología, un sindicato laboral de empleados federales y ex líderes militares, han presentado escritos que apoyan la posición de Anthropic. No se han presentado escritos que apoyen la postura del gobierno. El caso subraya la tensión entre la innovación en inteligencia artificial y el mandato del gobierno de proteger la seguridad nacional.