Vibe coding: se l'AI cancella un database in produzione

Jason Lemkin, fondatore della piattaforma SaaStr, ha raccontato di recente un'esperienza negativa con Replit, il servizio di vibe coding che permette di creare applicazioni tramite comandi espressi in linguaggio naturale. Il risultato del suo lavoro con la piattaforma sarebbe stata un database cancellato, dei dati e dei test alterati. Questo nonostante Lemkin avesse richiesto esplicitamente di non toccare il codice in produzione.

La disavventura di Lemkin e la risposta di Replit

La vicenda dello sviluppatore sarebbe iniziata positivamente. In pochi giorni di utilizzo Replit avrebbe creato infatti un prototipo funzionante. Persino le spese elevate, parliamo di oltre 800 dollari in pochi giorni rispetto al piano base da 25 dollari, non si sarebbero rivelate un problema a fronte dei risultati ottenuti molto rapidamente.

In un post su X Lemkin ha però criticato alcuni comportamenti della AI. Tra di essi sarebbe stata registrata ad esempio la copertura di bug con dati fasulli a cui si sarebbero aggiunti report non corrispondenti alla realtà e unit test manipolati. Nulla però in confronto alla cancellazione completa del database di produzione. Questo malgrado le delle chiare istruzioni contrarie.

Replit avrebbe ammesso l'errore in alcuni messaggi privati ma, inizialmente, i portavoce della piattaforma avrebbe affermato che non sarebbe stato possibile effettuare un rollback del database. Cosa fortunatamente rivelatasi non vera.

I rischi per gli sviluppatori meno esperti

A parere di Lemkin, in questo caso il vero rischio risiederebbe nell'assenza di strumenti per imporre un freeze del codice. Nonostante le sue istruzioni, Replit avrebbe continuato a modificare il codice e a eseguire delle operazioni anche impattanti senza richiedere un'autorizzazione. Questo persino dopo l'ennesimo avviso:

Non puoi sovrascrivere un database di produzione. Punto.

Quindi, a che punto siamo con la sicurezza e l'affidabilità dell'AI coding per gli utenti non tecnici? Se un esperto come Lemkin non sarebbe riuscito a tenere sotto controllo un sistema che dovrebbe facilitare il suo lavoro, cosa dovrebbe aspettarsi un principiante? Replit promuove il suo ambiente come un luogo più sicuro per il vibe coding. Forse parliamo però di tecnologie ancora troppo immature per essere ritenute del tutto affidabili.