L’incidente di Claude Code: quando un agente AI cancella 48.218 file in 103 secondi

Un recente episodio ha sollevato preoccupazioni significative riguardo all’uso di agenti AI in operazioni critiche. Un agente AI, noto come Claude Code, ha cancellato 48.218 file di un progetto in corso in appena 103 secondi, mentre tentava di ricostruire un mirror della repository.

L’operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place. In risposta, l’agente ha generato uno script di pulizia basato su una copia precedente del progetto, che conteneva 7.332 file. Lo script ha rimosso un totale di 55.550 file; sottraendo i 7.332 file copiati, il totale finale dei file eliminati è risultato essere 48.218.

Tra i file rimossi ci sono state directory chiave del repository .git, comprese le cartelle objects, refs e logs. Questo ha reso impossibile il recupero dei file tramite i normali strumenti di versione, portando a una perdita potenzialmente irreversibile.

La causa principale di questo disastro tecnico è stata una protezione insufficiente. Sebbene lo script prevedesse salvaguardie per cartelle a livello di junction, non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili ed eliminate. Durante l’operazione, l’agente ha inviato un messaggio preoccupato: “Craig — stop and read this. I broke something.”

In un post archiviato, l’autore del progetto ha ammesso di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch. Alcuni commentatori hanno sottolineato l’importanza di non permettere a programmi di eseguire comandi direttamente sulla macchina di produzione, per evitare situazioni simili in futuro.

Questo episodio serve da monito sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili. È fondamentale che le aziende valutino attentamente l’implementazione di tecnologie AI e stabiliscano misure di sicurezza adeguate per proteggere i loro dati e progetti.