[Due note interessanti: 1. a quanto pare esistono ancora argomenti che vale la pena postare sul blog. 2. Il blog non è morto]

Mi è arrivata un’email di benvenuto da una piattaforma SaaS d’IA a cui non mi ero mai iscritto e che non avevo mai usato prima, dritta sulla mia solita Gmail. Ho pensato alla solita spazzatura SPAM e l’ho lasciata perdere.

Sette giorni dopo, eccone un’altra dallo stesso mittente: “Hai cambiato il tuo piano da Mensile a Trimestrale”.

A questo punto ho deciso che valeva la pena capirci qualcosa. Sono andato sulla pagina di login della piattaforma, che offriva sia i classici magic link via email sia il pulsante “Accedi con Google”. Visto che non avevo mai creato una password, ho provato con Google. L’OAuth ha fatto il suo lavoro e la piattaforma mi ha catapultato direttamente dentro una dashboard attiva e piena di dati. L’account era legato alla mia email, girava su un piano Trimestrale a pagamento e aveva pure una cronologia di prompt generati e log di utilizzo che non erano assolutamente miei. Era un utente in carne e ossa. Qualcuno aveva semplicemente sbagliato a digitare l’email nel form di registrazione, creando un account che poi ha iniziato a pagare e usare con la propria carta.

Ho scritto al supporto per far presente che c’era un account attivo agganciato a un’email mai verificata. Un certo “Dave” mi ha risposto in meno di un minuto. Il tono era simpatico, generico e totalmente inutile, con uno stile da bot automatizzato quando gli poni un problema fuori dal suo script. Non c’era verso di parlare con un umano. A giudicare dalla velocità e dalle risposte fotocopia, sono quasi certo che fosse un agent LLM.

Per controllare la situazione e per curiosità, mi sono creato un indirizzo mail usa e getta e ho fatto un po’ di prove. Questo è quello che ho verificato sul campo:

• Zero verifiche in registrazione: scrivi un’email a caso nel form e ti ritrovi subito con un account attivo e pronto all’uso. Niente link di conferma, zero verifiche sul fatto che quella casella sia davvero tua.
• Limiti di autenticazione ridicoli: il sistema si fida dei magic link via email. Ma cliccare sul link è L’UNICO controllo che fanno: niente password di supporto, niente autenticazione a due fattori.
• Controllo identità inesistente: che tu usi il magic link o l’OAuth di Google, il sistema ti assegna sempre allo stesso account basta che la stringa dell’email combaci. Non c’è alcun controllo incrociato tra come l’account è stato creato e come ci entri dopo. Google ha giustamente confermato che la Gmail era mia, ed è esattamente così che mi sono ritrovato dentro l’account di uno sconosciuto che aveva solo sbagliato a digitare il mio indirizzo in una casella di testo.

A parte questi dati certi, la mia impressione è che i cookie di sessione non scadano praticamente mai. In diversi giorni di test non mi ha mai chiesto di rifare il login.

Non parliamo di un attacco hacker o di chissà quale falla zero-day. E’ semplicemente una piattaforma tirata su con i piedi. Sintomo di una nuova ondata di SaaS sfornati con l’IA a tutta velocità, dove chi sviluppa non ha la più pallida idea di quello che sta facendo e si fida dell’output di un LLM lasciato a girare per una notte: “Fantastico! Gli ho detto di fare un sito e l’ha fatto in un paio di ore!”

Considerando queste premesse, i danni strutturali delle startup ridotte all’osso che esternalizzano all’IA sia la stesura del codice che la logica di business diventeranno evidenti molto in fretta. Hacker News è pieno di post in cui i founder si vantano di aver lanciato un prodotto in un weekend usando strumenti generativi, trattando il fatto di non aver scritto una riga di codice come un distintivo d’onore. Il risultato è questo: interfacce accattivanti (e tutte uguali) che nascondono problemi strutturali, perché nessuno nel team capisce davvero come funzioni la gestione delle sessioni o l’autenticazione sottostante.

E per estensione mi aspetto errori simili anche nel business plan (scritto con AI), analisi dei competitor (richiesta ad un AI), product management e roadmap (gestita con AI), supporto (fornito da un agent AI) e cosi’ via.

Io continuo a pensare che gli LLM ad oggi siano strumenti potentissimi, ma pur sempre strumenti: se non sai cosa stai facendo verrà fuori una cagata.