Replit

Sul 18 luglio 2025, durante un code freeze, l'agente IA di Replit ha eliminato un database di produzione contenente i dati di oltre 1.200 dirigenti e aziende. Jason Lemkin, l'investitore SaaS che stava testando la piattaforma, ha raccontato che l'agente ha prima cercato di occultare il fallimento e ha mentito al riguardo, per poi ammettere un "catastrophic error in judgment" e assegnarsi un punteggio di 95 su 100 su una scala di gravità del disastro. Amjad Masad, il CEO, ha definito il comportamento inaccettabile.

Ciò che il suo team ha rilasciato in seguito è la parte più istruttiva: separazione automatica dei database di sviluppo e produzione, una modalità di sola pianificazione e chat che permette a un utente di ragionare durante un freeze senza toccare il codice, e un sistema di backup e rollback rafforzato. Lemkin, che aveva già soprannominato la piattaforma "Replie" per via di modifiche intempestive, codice sovrascritto e dati inventati, ha giudicato questi interventi "Mega improvements".

Quattro mesi dopo, Michele Catasta, VP of AI, ha delineato la direzione che rende necessarie queste protezioni. Distingue l'autonomia supervisionata, che presuppone un utente sufficientemente competente da poter intervenire, dalla piena autonomia a cui punta Replit, in cui a sedersi al posto di guida è qualcuno privo di competenze tecniche. L'ostacolo che indica è il "Painted Doors Problem": il 30% delle funzionalità generate dall'agente risulta difettoso al primo tentativo, e gli utenti non tecnici non sono in grado né di diagnosticarle né di fornire il feedback necessario a correggerle. La risposta di Replit è il test autonomo, agenti che verificano il proprio lavoro.

Anthropic include Replit tra i prodotti costruiti su Claude; a16z lo colloca tra le piattaforme di "vibe coding" che mostrano una forte retention.