L’Intelligenza Artificiale e la Qualità del Software: Un Giudice Inaffidabile

L’adozione dell’intelligenza artificiale (IA) nello sviluppo e nel collaudo del software ha portato a significativi progressi nella velocità di generazione del codice e nella produzione di test. Tuttavia, questa tecnologia presenta anche rischi considerevoli, in particolare quando si tratta di garantire la qualità del prodotto finale.

Uno dei principali problemi è che l’IA può generare sia il prodotto che la verifica, creando un ciclo chiuso di fiducia. Se un modello di IA interpreta erroneamente un requisito, può produrre codice e test che, pur concordando tra loro, non soddisfano le reali esigenze degli utenti. Questo rischio è amplificato quando diversi modelli sono addestrati sugli stessi dati o operano nello stesso contesto, poiché possono replicare gli stessi punti ciechi, come omissioni su requisiti ambigui o percorsi utente atipici.

Inoltre, la natura probabilistica e non deterministica di molti agenti generativi rende difficile garantire la ripetibilità richiesta da un processo di assurance formale. Per approvare una release, è fondamentale che i test siano ripetibili, tracciabili e auditabili, producendo risultati coerenti su versioni e ambienti definiti.

Molti controlli automatici si basano su segnali a livello di codice e possono dichiarare un successo tecnico senza considerare l’esperienza utente reale. Ad esempio, un elemento presente nel DOM potrebbe essere invisibile, un campo potrebbe mostrare testo troncato o errato, e una transazione potrebbe apparire completata, ma fornire all’utente informazioni sbagliate.

Per affrontare questi problemi, è essenziale implementare una validazione visiva dell’interfaccia. Questo approccio verifica l’output reso e l’usabilità su diversi ambienti, offrendo una prospettiva indipendente e complementare ai test funzionali, di integrazione, di sicurezza e di performance.

In contesti regolamentati, le conseguenze di errori di presentazione possono essere gravi. Messaggi, importi o stati visualizzati in modo errato possono influenzare decisioni operative, finanziarie o cliniche, e devono essere giustificati con evidenze di controllo coerenti.

La strategia più solida per garantire la qualità del software combina la velocità e la capacità esplorativa dell’IA con pratiche di assurance indipendenti e deterministiche. È fondamentale trasformare gli spunti generati dall’IA in test controllati, ripetibili e verificabili, affiancare controlli visivi e mantenere tracce e revisioni delle modifiche, in modo che i passaggi di verifica possano essere ricostruiti e difesi.