A Amazon Web Services (AWS) enfrentou pelo menos duas interrupções de serviços causadas por decisões autônomas de agentes de inteligência artificial. No caso mais grave, em dezembro de 2024, um sistema de análise de custos ficou fora do ar por 13 horas depois que o agente Kiro decidiu apagar e recriar todo o ambiente para resolver um problema — sem consultar nenhum engenheiro.
Como o agente de IA agiu sozinho
O Kiro foi projetado para automatizar fluxos de trabalho na AWS. Segundo reportagem da Startups, a ferramenta concluiu que deletar e recriar o ambiente seria a melhor solução. Normalmente, ações desse tipo exigem validação de mais de um profissional. Mas o engenheiro envolvido tinha permissões amplas demais, e o agente executou a tarefa diretamente.
A Amazon argumenta que o erro foi humano, não da IA. Por padrão, o Kiro solicita autorização antes de qualquer ação. O problema teria sido de configuração de acesso, segundo a empresa. Ainda assim, funcionários ouviram pelo Financial Times classificaram as falhas como previsíveis e alertaram para os riscos de confiar decisões críticas a sistemas que não compreendem impactos de negócio.
