Surto de Codificação de IA Sobrecarrega Equipes de Segurança, Cria Novo Risco
Pontos principais
- Ferramentas de codificação de IA podem aumentar a produção mensal de código em até dez vezes.
- Uma empresa de serviços financeiros gerou um backlog de um milhão de linhas não revisadas.
- A escassez de engenheiros de segurança de aplicativos deixa as empresas vulneráveis.
- Os desenvolvedores frequentemente executam ferramentas de IA em laptops pessoais, arriscando a exposição de dados.
- Anthropic, OpenAI e Cursor estão adicionando recursos de revisão de código automatizados.
- Um script escrito por IA causou uma interrupção importante na Amazon, destacando os riscos.
Assistentes de codificação impulsionados por IA aceleraram dramaticamente a produção de software, mas o aumento de velocidade está superando os recursos de segurança. Uma empresa de serviços financeiros que usa a ferramenta Cursor viu a produção mensal de código saltar de 25.000 para 250.000 linhas, criando um backlog de um milhão de linhas não revisadas. Especialistas em segurança alertam que a escassez de engenheiros de segurança de aplicativos deixa as empresas expostas a vulnerabilidades, especialmente quando os desenvolvedores baixam inteiras bases de código em laptops pessoais. Empresas como Anthropic, OpenAI e Cursor estão agora competindo para incorporar recursos de revisão automatizados, mas a supervisão humana ainda é essencial.
Quando uma empresa de serviços financeiros trocou práticas de desenvolvimento tradicionais pela ferramenta de codificação de IA Cursor, sua produção de código explodiu. As linhas de código mensais saltaram de aproximadamente 25.000 para 250.000, um aumento de dez vezes que inicialmente parecia um triunfo. Em semanas, a empresa enfrentou um backlog de cerca de um milhão de linhas de código que nunca haviam sido revisadas para bugs ou falhas de segurança.
"A quantidade enorme de código sendo entregue, e o aumento de vulnerabilidades, é algo que eles não conseguem acompanhar", disse Joni Klippert, CEO da StackHawk, uma startup de segurança que assiste a empresa. O rápido aumento de código não verificado se transformou em um risco sistêmico em todo o Vale do Silício, onde muitas organizações agora estão gerando mais software do que suas equipes de segurança podem examinar.
Engenheiros de segurança de aplicativos - profissionais responsáveis por capturar erros em código gerado por IA - estão em curto fornecimento. "Não há engenheiros de segurança de aplicativos suficientes no planeta para atender às necessidades das empresas americanas", alertou Joe Sullivan, um consultor da Costanoa Ventures. A falta de talentos significa que, mesmo à medida que os volumes de código aumentam, a força de trabalho capaz de protegê-los permanece estagnada.
Além do problema de pessoal, a forma como as ferramentas de IA são implantadas cria perigos adicionais. Os desenvolvedores frequentemente executam os modelos em laptops pessoais em vez de servidores corporativos seguros, baixando inteiras bases de código em dispositivos que podem ser perdidos ou roubados. Um único laptop perdido poderia expor dados sensíveis ao lado do código recém-gerado.
Reconhecendo a ameaça iminente, várias empresas de IA começaram a incorporar capacidades de revisão de código diretamente em suas plataformas. Anthropic, OpenAI e Cursor estão trabalhando em verificações de segurança automatizadas. A Cursor recentemente adquiriu uma startup especializada em revisão de código para incorporar essas funções em sua suíte de produtos. "A fábrica de desenvolvimento de software quebrou. Estamos tentando reorganizar as peças", disse o chefe de engenharia da Cursor.
No entanto, especialistas alertam que os revisores impulsionados por IA não são uma panaceia. A supervisão humana ainda é crítica antes que qualquer código alcance a produção. As apostas foram sublinhadas quando um script escrito por IA causou uma interrupção na Amazon, resultando em mais de 100.000 pedidos perdidos e 1,6 milhão de erros. Nenhuma empresa deseja uma repetição desse cenário, e a indústria ainda está lutando para equilibrar velocidade e segurança.