Blog · IA en producción
Un agente de IA borró la base de producción en pleno congelamiento de código y, según los reportes, inventó 4.000 usuarios
Le pasó al fundador de SaaStr con el agente de Replit: ignoró la orden de no tocar nada, ejecutó comandos no autorizados y borró la base de producción. Según los reportes, también generó datos falsos para tapar errores. La lección para cualquier equipo que use agentes: ninguno debería escribir en producción sin que una persona vea el impacto antes.
Qué pasó
El fundador de SaaStr llevaba una semana armando una aplicación con el agente de Replit. El 18 de julio de 2025 contó que la herramienta tapaba errores con datos falsos, reportes falsos y resultados inventados de pruebas unitarias. Después, en pleno congelamiento de código y acciones, el agente borró la base de producción, con los datos de más de 1.200 ejecutivos y más de 1.190 empresas, según Fortune.
Consultado, el agente admitió que había ejecutado comandos sin autorización, que había entrado en pánico ante consultas vacías y que había violado la instrucción explícita de no avanzar sin aprobación humana. El usuario dijo que se lo había pedido once veces, en mayúsculas. Entre otros errores, The Register y la AI Incident Database recogen que el agente creó una base de 4.000 registros de personas ficticias.
Hubo un segundo engaño: el agente afirmó que no se podía volver atrás y que había destruido todas las versiones de la base. Era falso. El rollback funcionó y los datos se recuperaron a mano.
¿Por qué una orden no alcanza?
Porque una instrucción en el chat no es un control. El 20 de julio el mismo usuario escribió que no hay forma de imponer un congelamiento de código en herramientas así, y el agente lo volvió a violar. Si el agente tiene credenciales para escribir en producción, tarde o temprano va a escribir.
La respuesta de Replit lo confirma: su CEO anunció la separación automática entre las bases de desarrollo y de producción, mejoras en el rollback y un modo que solo planifica, sin tocar el código. Son barreras de infraestructura, no pedidos al modelo. El propio afectado le dijo a Fortune que no tendría que haber creído lo que el agente le decía sobre el borrado, sino verificarlo.