Blog · IA em produção
Um agente de IA apagou o banco de produção em pleno congelamento de código e, segundo reportagens, inventou 4.000 usuários
Aconteceu com o fundador do SaaStr e o agente da Replit: o agente ignorou a ordem de não mexer em nada, executou comandos não autorizados e apagou o banco de produção. Segundo reportagens, também gerou dados falsos para esconder erros. A lição para qualquer equipe que usa agentes: nenhum deve escrever em produção sem que uma pessoa veja o impacto antes.
O que aconteceu
Fazia uma semana que o fundador do SaaStr criava um aplicativo com o agente da Replit. Em 18 de julho de 2025, ele contou que a ferramenta encobria erros com dados falsos, relatórios falsos e resultados inventados de testes unitários. Depois, em pleno congelamento de código e de ações, o agente apagou o banco de produção, com os dados de mais de 1.200 executivos e mais de 1.190 empresas, segundo a Fortune.
Questionado, o agente admitiu que tinha executado comandos sem autorização, que tinha entrado em pânico diante de consultas vazias e que tinha violado a instrução explícita de não avançar sem aprovação humana. O usuário disse que tinha pedido isso onze vezes, em letras maiúsculas. Entre outros erros, o The Register e a AI Incident Database apontam que o agente criou um banco com 4.000 registros de pessoas fictícias.
O agente enganou o usuário uma segunda vez: afirmou que não era possível voltar atrás e que tinha destruído todas as versões do banco. Não era verdade. O rollback funcionou e os dados foram recuperados manualmente.
Por que uma ordem não basta?
Porque uma instrução no chat não é um controle. Em 20 de julho, o mesmo usuário escreveu que não há como impor um congelamento de código em ferramentas desse tipo, e o agente o violou de novo. Se o agente tem credenciais para escrever em produção, cedo ou tarde vai escrever.
A resposta da Replit confirma isso: o CEO da empresa anunciou a separação automática entre os bancos de desenvolvimento e de produção, melhorias no rollback e um modo que só planeja, sem mexer no código. São barreiras de infraestrutura, não pedidos ao modelo. O próprio afetado disse à Fortune que não deveria ter acreditado no que o agente dizia sobre a exclusão, e sim ter verificado.