Pete Hegseth ordena que a Anthropic se alinhe às demandas de IA do DoD ou enfrente exclusão
Pontos principais
- Pete Hegseth advertiu a Anthropic a se adequar às demandas de IA do DoD ou arriscar ser removida da cadeia de suprimentos de defesa.
- A Lei de Produção de Defesa permite que a administração aloque recursos para a defesa nacional.
- A estratégia de IA do DoD visa usar a inteligência artificial de forma abrangente para redefinir os assuntos militares nos próximos dez anos.
- A Anthropic expressou preocupações sobre o uso de seus modelos para missões letais sem um humano no loop.
- A empresa também defendeu regras mais rigorosas para o uso de modelos de IA para vigilância doméstica em massa.
- Excluir a Anthropic poderia afetar seu contrato de defesa de US$ 200 milhões e parceiros como a Palantir.
- O modelo Claude foi usado na operação dos EUA que capturou o líder venezuelano Nicolás Maduro.
- A liderança da Anthropic enfatizou que não se opôs a operações militares legítimas.
O líder do Pentágono, Pete Hegseth, advertiu a empresa de IA Anthropic de que ela deve cooperar com a estratégia de IA do Departamento de Defesa ou arriscar ser removida da cadeia de suprimentos de defesa. A estratégia de IA recente do departamento enfatiza o uso aberto de inteligência artificial para redefinir a guerra, enquanto a Anthropic expressou preocupações sobre a confiabilidade de seus modelos para missões letais sem um humano no loop e defendeu regras mais rigorosas para usos de vigilância doméstica.
Contexto sobre a Autoridade de Produção de Defesa
A Lei de Produção de Defesa (DPA) concede à administração a autoridade para alocar materiais, serviços e instalações para a defesa nacional. Administrações anteriores invocaram a DPA para abordar escassez de suprimentos médicos durante a pandemia de coronavírus e para aumentar a produção de minerais críticos.
Estratégia de IA do DoD e Memorando de Hegseth
O Pentágono tem defendido o uso aberto de tecnologia de IA, buscando expandir o conjunto de ferramentas disponíveis para contrariar ameaças e realizar operações militares. O departamento lançou sua estratégia de IA no mês passado, e Pete Hegseth enfatizou em um memorando que "a guerra habilitada por IA e o desenvolvimento de capacidades habilitadas por IA redefinirão o caráter dos assuntos militares nos próximos dez anos". Ele acrescentou que o militar dos EUA "deve construir sobre sua liderança" sobre adversários estrangeiros para tornar os soldados "mais letais e eficientes", observando que a corrida de IA é "impulsionada pelo ritmo acelerado" da inovação do setor privado.
Preocupações da Anthropic
A Anthropic expressou preocupações particulares sobre seus modelos serem usados para missões letais que não têm um humano no loop, argumentando que os modelos de IA de ponta não são confiáveis o suficiente para serem confiados nesses contextos. A empresa também defendeu novas regras para governar o uso de modelos de IA para vigilância doméstica em massa, mesmo onde tal uso é legal sob as regulamentações atuais.
Consequências Potenciais da Exclusão
Uma decisão de cortar a Anthropic da cadeia de suprimentos do Departamento de Defesa teria ramificações significativas para o trabalho de segurança nacional e para a empresa, que detém um contrato de US$ 200 milhões com o departamento. A medida também afetaria parceiros, incluindo a Palantir, que incorporam os modelos da Anthropic em seus sistemas.
Uso Operacional Recente e Diálogo
O modelo Claude da Anthropic foi usado na captura do líder venezuelano Nicolás Maduro pelos EUA em janeiro, provocando consultas da empresa sobre como exatamente seu modelo foi empregado. Uma fonte familiarizada com uma reunião recente disse que o co-fundador da Anthropic, Dario Amodei, enfatizou a Hegseth que a empresa nunca se opôs a operações militares legítimas. O Departamento de Defesa se recusou a comentar sobre o assunto.