Due angolazioni
Mettere in sicurezza i sistemi AI che mettete in produzione. Penetration test di applicazioni LLM — prompt injection (diretta e attraverso i vostri documenti), fuga di dati sensibili, gestione non sicura dell’output, eccessiva autonomia degli strumenti, rischi di supply chain e plugin — secondo la OWASP Top 10 per le applicazioni LLM. Revisione architetturale di prompt, retrieval, memoria, chiamate agli strumenti e logging. Una policy d’uso per gli strumenti AI che il vostro personale già usa.
Preparazione all’AI Act UE. Una lettura pratica e indicativa di dove un dato sistema può collocarsi nei livelli di rischio dell’Act, quali obblighi si applicherebbero, in quali date e quali evidenze vi servirebbero. Ad agosto 2026: gli obblighi di trasparenza dell’articolo 50 (informativa del fornitore per l’interazione diretta con le persone, contrassegno leggibile dalle macchine degli output sintetici, dichiarazione da parte dei deployer di deepfake e testi di interesse pubblico con l’eccezione del controllo editoriale, e gli obblighi su riconoscimento delle emozioni/categorizzazione biometrica) si applicano dal 2 agosto 2026; dopo l’AI Omnibus (in vigore dal 27 luglio 2026) gli obblighi sull’alto rischio si applicano dal 2 dicembre 2027 (Allegato III) e dal 2 agosto 2028 (Allegato I). Consapevolezza e preparazione, non consulenza legale né una classificazione garantita — firma il vostro legale, noi la rendiamo concreta.
Cosa testiamo, concretamente
- Prompt injection: diretta, indiretta (documenti, pagine web, email che il vostro sistema legge) e multi-step attraverso agenti
- Fuga di dati: system prompt, dati di altri utenti, segreti nel contesto o nei log
- Gestione non sicura dell’output: output del modello renderizzato come HTML, eseguito come codice o passato a strumenti senza validazione
- Eccessiva autonomia: quali strumenti il modello può chiamare, con i permessi di chi, e cosa succede quando viene ingannato
- Evasione dei guardrail e jailbreak contro la vostra configurazione specifica
- L’applicazione web e l’API circostanti, secondo la OWASP Web Security Testing Guide (WSTG v4.2)
Cosa deliberatamente non affermiamo
Non certifichiamo sistemi AI come sicuri o conformi, non garantiamo una classificazione legale del rischio ai sensi dell’AI Act, non facciamo benchmark di bias o robustezza dei modelli come servizio principale e non vendiamo una “piattaforma di sicurezza AI”. Questo è lavoro di ingegneria e test, fatto dalle stesse persone che testano le vostre applicazioni web.
Fonti: OWASP Gen AI Security Project — OWASP GenAI LLM Top 10 (edizione 2026); OWASP Web Security Testing Guide; Commissione europea — AI Omnibus (in vigore dal 27 luglio 2026) e linee guida sulla trasparenza dell’articolo 50. Ultima revisione agosto 2026.