Salta al contenuto

Blog

Il codice generato dall'AI è sicuro? Cosa chiedere alla software house

Il report 2026 di Veracode e il sondaggio 2025 di Stack Overflow dicono dove il codice generato dall'AI sbaglia sulla sicurezza. Cosa chiedere alla software house che usa assistenti AI per scrivere una web app: controlli, revisione, input degli utenti, log, ISO/IEC 27001.

Christian Ascone

Non sempre. Nei test del 2026 GenAI Code Security Report di Veracode, circa il 44% dei task di generazione di codice con AI ha introdotto una vulnerabilità di sicurezza, mentre la sintassi, secondo lo stesso report, è corretta quasi nel 100% dei casi. Alla software house conviene chiedere quali controlli passa il codice prima della produzione e chi lo rivede.

Le cifre vengono da due fonti: il report di Veracode, che fa scrivere codice a modelli AI e ne misura la sicurezza, e lo Stack Overflow Developer Survey 2025, un sondaggio fra gli sviluppatori.

Che cosa ha misurato Veracode nel report 2026?

Quante volte un modello AI, messo davanti a un compito di programmazione, produce codice con una vulnerabilità nota. Nel report 2026 Veracode ha testato 11 modelli nuovi su 80 task. Contando anche le edizioni precedenti, i modelli provati in quattro anni sono oltre 100.

Il risultato principale sta nel blog che presenta il report, del 28 luglio 2026: «roughly 44% of AI code generation tasks introduced a risky security vulnerability in tests». Il pass rate di sicurezza medio fra i modelli è del 56%, quasi uguale al 55% del primo report, quello del 2025.

Il 44% riguarda i task del benchmark di Veracode, cioè compiti di programmazione preparati per il test, e va letto così: misura quanto spesso i modelli sbagliano su quei compiti, e dice poco su quanta parte del codice scritto oggi con l’AI nelle aziende sia vulnerabile. Il confronto fra le due edizioni dice che in un anno la media si è mossa di un punto.

Il codice sintatticamente corretto è anche sicuro?

Non necessariamente. Secondo Veracode i modelli di oggi generano codice sintatticamente corretto quasi nel 100% dei casi, e la sicurezza segue un’altra strada: «Syntax is effectively solved. But secure coding is not following the same curve».

Nel blog del report c’è anche la frase che riguarda chi riceve il codice: il codice che compila, gira e sembra pulito può comunque introdurre debolezze sfruttabili.

Dove sbaglia di più il codice generato dall’AI?

Sul cross-site scripting e sulla log injection. Il report divide i risultati per tipo di vulnerabilità, e la distanza è grande:

Tipo di vulnerabilità Pass rate medio di sicurezza
Algoritmi crittografici 87%
SQL injection 83%
Cross-site scripting (XSS) 15%
Log injection 12%

I dati sono nel blog di Veracode del 28 luglio 2026.

Il cross-site scripting nasce quando un dato inserito da un utente torna in una pagina senza essere trattato; la log injection quando un dato inserito da un utente finisce nei log così com’è. In una web app questi dati arrivano da moduli, commenti, campi di ricerca e nomi utente.

Il primo report, quello del 2025, andava nella stessa direzione. Nel report 2025, su oltre 100 modelli in Java, Python, C# e JavaScript, il 45% dei campioni di codice non ha superato i test di sicurezza e ha introdotto vulnerabilità della OWASP Top 10. Sul cross-site scripting (CWE-80) gli strumenti hanno fallito nell’86% dei campioni pertinenti.

Conta anche il linguaggio. Nel report 2026 Java è ultimo, con un pass rate medio del 30%.

Basta scegliere il modello AI migliore?

La scelta del modello conta, e da sola lascia scoperti molti task. Nel dataset dell’estate 2026 il modello migliore arriva al 68%, mentre sei modelli su undici stanno fra il 50 e il 53%, secondo la pagina del report. Anche il migliore sbaglia quasi un task di sicurezza su tre.

La specializzazione cambia poco. I modelli addestrati per il codice hanno un pass rate medio del 51%, quelli generalisti del 52%. Veracode lo riassume così: «Being trained to write code faster does not mean writing it safer».

Quale assistente AI usa un fornitore è quindi una domanda utile, da fare insieme a quella sui controlli che il codice passa dopo essere stato scritto.

Gli sviluppatori si fidano del codice generato dall’AI?

Meno di quanto lo usino. Nello Stack Overflow Developer Survey 2025 l’84% degli sviluppatori usa o intende usare strumenti AI. Il 46% non si fida dell’accuratezza del loro output, contro il 33% che si fida; solo il 3% si fida molto.

Le frustrazioni più citate vanno nella stessa direzione. Il 66% indica le soluzioni AI «almost right, but not quite», quasi giuste. Il 45% dice che fare il debug del codice generato dall’AI richiede più tempo.

Il sondaggio è del 2025, e la domanda sulla fiducia riguarda l’accuratezza dell’output in generale. Il dato da tenere è il rapporto fra i due gruppi: fra gli sviluppatori, chi diffida dell’output di questi strumenti è più numeroso di chi se ne fida.

Cosa chiedere alla software house che usa l’AI per scrivere codice?

Come viene verificato il codice prima che vada in produzione. Queste sono le domande che, lette le fonti, faremmo a qualunque fornitore di una web app:

  • Quali controlli di sicurezza passa il codice prima del rilascio? Analisi statica, test di sicurezza, e in quale momento del lavoro: su ogni modifica o solo alla fine. Se la risposta è che il codice viene provato prima della consegna, chiedete che cosa viene provato e con quali strumenti.
  • Chi rivede il codice, e che cosa cerca? Chiedete se c’è una revisione dedicata alle vulnerabilità, oltre a quella sul funzionamento.
  • Come vengono trattati gli input degli utenti? È la domanda sul cross-site scripting. Chiedete un esempio concreto su un modulo del vostro progetto.
  • Che cosa finisce nei log, e come? È la domanda sulla log injection, il tipo di vulnerabilità con il pass rate più basso nel report 2026.
  • In quale linguaggio sarà scritto, e con quali controlli specifici? Nel report 2026 Java è il linguaggio con il pass rate medio più basso: se il vostro progetto è in Java, la domanda pesa di più.
  • In quali parti del progetto usate assistenti AI? Serve a sapere dove concentrare le altre domande, e a capire se chi rivede il codice sa quali parti sono state generate.

Le risposte, date per iscritto, si possono confrontare fra fornitori diversi. Per ognuna conviene chiedere un esempio preso da un progetto già consegnato.

A che cosa serve la certificazione ISO/IEC 27001 di una software house?

Dice che l’azienda ha un sistema di gestione della sicurezza delle informazioni verificato da un ente terzo, con una data di scadenza. Si possono chiedere il certificato, l’ente che lo ha rilasciato e la scadenza. Sul codice di un singolo progetto le domande della sezione precedente restano da fare.

Anche dotenv usa assistenti AI per scrivere codice, e le stesse domande si possono fare a noi. La nostra certificazione è la UNI CEI EN ISO/IEC 27001:2024, rilasciata da Dasa-Räegister S.p.A., ente accreditato ACCREDIA, con scadenza il 15 dicembre 2028.

Da dove si parte?

Dalle sei domande, poste per iscritto al fornitore attuale o a quelli che state valutando, prima di firmare.

Se state valutando una web app nuova, sulla pagina dello sviluppo di web app si vede che tipo di web app costruiamo, con tre progetti, e da lì si può chiedere un primo incontro. Se per ora serve un documento da allegare alla valutazione, sulla pagina delle certificazioni ci sono norma, numero e scadenza del certificato ISO/IEC 27001.

Un problema simile, in azienda vostra?