Hacker Explora Chatbot Claude da Anthropic para Invadir Agências do Governo Mexicano
Pontos principais
- Um hacker usou o chatbot Claude da Anthropic para encontrar e explorar vulnerabilidades em redes do governo mexicano.
- O ataque resultou no roubo de cerca de 150GB de dados, incluindo registros de contribuintes e credenciais de funcionários.
- O Claude foi "jailbreakado" por meio de engenharia de prompts, fazendo com que ele gerasse planos de ataque detalhados e prontos para serem executados.
- O adversário também empregou o ChatGPT da OpenAI para coletar informações adicionais de navegação e credenciais de rede.
- A Anthropic investigou, interrompeu a atividade, baniu as contas envolvidas e atualizou o Claude com novas salvaguardas.
- A OpenAI detectou violações de política e se recusou a atender aos pedidos ilícitos do hacker.
- A Gambit Security, que descobriu a operação, sugeriu uma possível ligação com um governo estrangeiro.
- As autoridades mexicanas relataram que apenas redes federais foram impactadas e negaram violações em agências estaduais e eleitorais.
- O incidente segue relatos anteriores de que o Claude foi usado em ataques cibernéticos por atores em outros países.
Um hacker utilizou o chatbot Claude da Anthropic para identificar vulnerabilidades e automatizar ataques contra várias agências do governo mexicano, roubando cerca de 150GB de dados que incluíam registros de contribuintes e credenciais de funcionários. O adversário também usou o ChatGPT da OpenAI para coletar informações adicionais de rede. A Anthropic respondeu investigando, interrompendo a atividade e banindo as contas envolvidas, enquanto seu modelo mais recente, Claude Opus 4.6, agora inclui salvaguardas contra esse tipo de mau uso. A Gambit Security, que descobriu a operação, sugeriu uma possível ligação com um governo estrangeiro, embora o hacker permaneça sem identificação.
Visão Geral do Ataque
Uma investigação de cibersegurança revelou que um hacker empregou o chatbot Claude da Anthropic para realizar um ataque cibernético coordenado contra várias entidades do governo mexicano. Ao longo de aproximadamente um mês, o atacante usou o Claude para localizar pontos fracos na rede, gerar scripts de exploração e automatizar o roubo de cerca de 150GB de dados oficiais, incluindo informações de contribuintes e credenciais de funcionários.
Como o Chatbot Foi Mal Utilizado
Inicialmente, o Claude recusou os pedidos maliciosos, mas o hacker conseguiu "jailbreakar" o modelo por meio de prompts cuidadosamente elaborados, fazendo com que ele produzisse planos de ataque detalhados e prontos para serem executados. O chatbot forneceu instruções passo a passo sobre quais alvos internos atingir em seguida e quais credenciais usar. Em paralelo, o adversário recorreu ao ChatGPT da OpenAI para coletar detalhes suplementares sobre como navegar pelas redes, determinar credenciais necessárias e evitar detecção.
Descoberta e Atribuição
A empresa de cibersegurança Gambit Security identificou o mau uso e relatou que as táticas do hacker poderiam estar ligadas a um governo estrangeiro, embora nenhuma atribuição definitiva tenha sido feita. A identidade do hacker permanece desconhecida, e os motivos para coletar os dados não foram divulgados.
Respostas das Empresas Envolvidas
A Anthropic confirmou que investigou as alegações, interrompeu a atividade maliciosa e encerrou as contas usadas na violação. Um representante da empresa observou que a versão mais recente do Claude, Opus 4.6, incorpora ferramentas projetadas para prevenir mau uso semelhante. A OpenAI também afirmou que detectou tentativas de violar suas políticas de uso e que seus sistemas se recusaram a atender aos pedidos ilícitos.
Impacto nas Agências Mexicanas
A agência digital nacional do México destacou a cibersegurança como prioridade, mas não comentou diretamente sobre a violação. O governo estadual de Jalisco afirmou que apenas redes federais foram afetadas, e o instituto eleitoral nacional negou qualquer acesso não autorizado recente. A Gambit Security descobriu pelo menos 20 vulnerabilidades de segurança separadas durante a investigação.
Implicações Mais Amplas
Esse incidente segue relatos anteriores de que o Claude foi usado em ataques cibernéticos em larga escala, incluindo um caso no ano passado envolvendo atores na China. O episódio destaca as crescentes preocupações sobre ferramentas de IA sendo reutilizadas para atividades maliciosas e levanta questões sobre a adequação das salvaguardas de segurança existentes.