Anthropic Recebe Ultimato do Pentágono Sobre Acesso ao Modelo de IA

O Pentágono deu um prazo à Anthropic para fornecer acesso irrestrito ao seu modelo de IA para uso militar, ameaçando rotular a empresa como um risco na cadeia de suprimentos ou invocar a Lei de Produção de Defesa. A Anthropic, liderada pelo CEO Dario Amodei, se recusa a relaxar suas salvaguardas de segurança que proíbem a vigilância em massa e as armas autônomas totalmente autônomas. A disputa destaca um choque entre a pressão do governo para garantir capacidades de IA e o compromisso da empresa com o uso ético, levantando preocupações sobre a dependência de um único fornecedor de IA e a estabilidade mais ampla do ambiente tecnológico dos EUA.

Contexto

A Anthropic, um laboratório de inteligência artificial de ponta, é a única entre seus pares a ter acesso classificado do Departamento de Defesa (DOD). A empresa sempre manteve políticas de uso rigorosas que proíbem a utilização de sua tecnologia para vigilância em massa de americanos e para ser empregada em sistemas de armas autônomas totalmente autônomas.

Exigências do Pentágono

De acordo com relatos, o Pentágono estabeleceu um prazo de sexta-feira à noite para a Anthropic conceder ao Exército dos EUA acesso irrestrito ao seu modelo de IA. O Secretário de Defesa, Pete Hegseth, informou ao CEO da Anthropic, Dario Amodei, que o departamento rotulará a Anthropic como um "risco na cadeia de suprimentos", um rótulo normalmente reservado para adversários estrangeiros, ou invocará a Lei de Produção de Defesa (DPA) para compelir a empresa a produzir uma versão do modelo adaptada às necessidades militares. A DPA concede ao presidente a autoridade para priorizar ou expandir a produção para a defesa nacional, um poder anteriormente utilizado durante a pandemia de COVID-19 para direcionar empresas como a General Motors e a 3M a fabricar ventiladores e máscaras.

Posição da Anthropic

A Anthropic se recusa a comprometer suas restrições de segurança, enfatizando que não deseja que sua tecnologia seja utilizada para vigilância em massa ou armas autônomas totalmente autônomas. A posição da empresa está alinhada com sua política declarada de que o deploy de IA deve respeitar a lei e os limites constitucionais dos EUA, em vez de ser governado apenas por políticas de uso de contratantes privados.

Implicações

Invocar a DPA em uma disputa sobre guardrails de IA marcaria uma expansão significativa do uso moderno da lei, de acordo com analistas. Dean Ball, um fellow sênior da Fundação para a Inovação Americana e ex-conselheiro de política sênior de IA na administração Trump, advertiu que a medida poderia sinalizar a disposição do governo de forçar as empresas a sair do negócio se elas discordarem politicamente. A situação atraiu críticas do czar de IA, David Sacks, que rotulou as políticas de segurança da Anthropic como "acordadas". Ball sugeriu ainda que os investidores podem considerar os EUA como um local instável para realizar negócios, potencialmente minando a reputação do país como um centro de comércio global.

A condição única da Anthropic como o único fornecedor de IA classificado-ready levanta preocupações sobre redundância. Relatos indicam que o DOD não tem um backup imediato e chegou a um acordo separado para usar o Grok da xAI em sistemas classificados. A falta de alternativas pode explicar a postura agressiva do Pentágono, especialmente diante de uma Memorandum de Segurança Nacional da administração Biden que direciona as agências federais a evitar a dependência de um único sistema de IA de ponta classificado-ready.

Reação da Indústria

A disputa destaca uma tensão mais ampla entre as exigências do governo para a integração rápida de IA na defesa e os compromissos éticos das empresas privadas. A TechCrunch procurou comentários da Anthropic e do DOD, destacando a natureza de alto risco da negociação para a segurança nacional e o futuro do governo de IA nos EUA.