Bot de Codificação de IA da AWS Kiro Ligado a Erros de Usuário, Acionando Novas Salvaguardas
Pontos principais
- Dois incidentes com o Kiro foram rastreados até erros de usuário e problemas de permissão, e não falhas de IA.
- O primeiro incidente foi um "evento extremamente limitado" que afetou um único serviço na China continental.
- O segundo incidente não teve impacto em um serviço de AWS voltado para o cliente.
- A AWS introduziu revisões por pares obrigatórias, treinamento de funcionários e controles de acesso mais rigorosos após os incidentes.
- O Kiro agora solicita autorização antes de tomar qualquer ação por padrão.
- A AWS tem como meta que 80 por cento dos desenvolvedores usem IA para tarefas de codificação ao menos uma vez por semana.
- Alguns funcionários permanecem céticos sobre as ferramentas de IA devido ao risco de erro.
- Os incidentes seguem uma interrupção de 15 horas em outubro de 2025 que impactou serviços como o ChatGPT.
- A AWS relata um forte crescimento de clientes para o Kiro e enfatiza os ganhos de eficiência.
A Amazon Web Services (AWS) experimentou dois incidentes envolvendo seu assistente de codificação de IA Kiro, que foram atribuídos a erros de usuário e problemas de permissão, e não a falhas na própria IA. Os incidentes levaram a AWS a introduzir revisões por pares obrigatórias, treinamento de funcionários e controles de acesso mais rigorosos.
Contexto
A Amazon Web Services (AWS) lançou o Kiro, um assistente de codificação impulsionado por IA, em julho. Projetado para ir além das ferramentas de construção rápida, o Kiro escreve código com base em especificações detalhadas, visando aumentar a eficiência dos desenvolvedores. A AWS também havia confiado anteriormente em seu chatbot Amazon Q Developer para assistência de código.
Incidentes Envolvendo o Kiro
Dois eventos separados destacaram desafios com a nova ferramenta. No primeiro caso, descrito pela Amazon como "erro de usuário, não erro de IA", um "evento extremamente limitado" afetou um único serviço em partes da China continental. O segundo incidente, também atribuído a erro de usuário, não afetou um "serviço de AWS voltado para o cliente". Ambas as situações decorreram de engenheiros terem permissões mais amplas do que o pretendido, um problema de controle de acesso de usuário e não um problema de autonomia de IA.
Resposta da Empresa e Salvaguardas
Após o incidente de dezembro, a AWS implementou várias salvaguardas. Essas incluem revisão por pares obrigatória de alterações, treinamento de funcionários aprimorado e controles de permissão mais rigorosos para ações assistidas por IA. Por padrão, o Kiro agora "solicita autorização antes de tomar qualquer ação", reforçando a supervisão humana.
Sentimento dos Funcionários
Alguns funcionários da AWS permanecem céticos sobre a utilidade das ferramentas de IA para a maior parte de seu trabalho, citando o risco de erro. No entanto, a empresa estabeleceu uma meta interna para que 80 por cento dos desenvolvedores usem IA para tarefas de codificação ao menos uma vez por semana e está acompanhando de perto as taxas de adoção.
Contexto Mais Amplo
Os incidentes ocorreram contra o pano de fundo de uma interrupção de 15 horas da AWS em outubro de 2025 que forçou várias aplicações de clientes, incluindo o ChatGPT da OpenAI, a ficarem offline. A AWS relata um forte crescimento de clientes para o Kiro e enfatiza os potenciais ganhos de eficiência para ambos, clientes e funcionários.
Perspectiva Futura
Com as novas salvaguardas em vigor, a AWS busca equilibrar o desenvolvimento rápido impulsionado por IA com medidas de segurança robustas, esperando aumentar a confiança entre os engenheiros enquanto expande a adoção de IA por seus serviços de nuvem.