OWASP LLM Top 10 – Sicurezza dei Sistemi basati su Large Language Models

Il percorso formativo analizza le superfici di attacco specifiche dei sistemi AI, le tecniche di compromissione dei modelli e le strategie di mitigazione necessarie per proteggere pipeline di machine learning, agenti AI, chatbot enterprise e sistemi di automazione intelligente.

Il corso integra teoria avanzata, analisi di scenari reali, simulazioni di attacco controllato e laboratori pratici, consentendo ai partecipanti di acquisire competenze nella progettazione sicura di sistemi AI e nella gestione del rischio applicativo legato ai modelli linguistici.

Obiettivi formativi

Il corso permette di:

• comprendere le vulnerabilità dei sistemi LLM;
• analizzare tecniche di attacco contro sistemi AI;
• progettare architetture AI resilienti;
• implementare controlli di sicurezza avanzati per modelli generativi;
• integrare la sicurezza nei processi MLOps;
• sviluppare strategie di governance e gestione del rischio AI.

Risultati attesi

Al termine del corso i partecipanti saranno in grado di:

• progettare sistemi AI sicuri;
• identificare vulnerabilità nei modelli LLM;
• definire strategie di mitigazione avanzate;
• integrare la sicurezza nei processi MLOps;
• valutare la maturità della sicurezza AI aziendale;
• supportare audit e compliance normativa nei sistemi AI.

Livello e competenze EQF

Livello EQF: 7

Il corso consente di acquisire competenze avanzate nella:

• progettazione sicura di architetture AI e LLM;
• analisi delle superfici d’attacco dei sistemi generativi;
• gestione del rischio nei sistemi AI;
• protezione delle pipeline di training e inference;
• definizione di strategie di mitigazione multi-layer;
• integrazione della sicurezza nei processi MLOps e DevSecOps AI;
• governance e compliance dei sistemi di intelligenza artificiale.

Il corso è rivolto a:

• AI Security Specialist
• Machine Learning Engineer
• Data Scientist
• Software Architect
• Security Architect
• DevSecOps Engineer
• Cybersecurity Consultant
• Responsabili sicurezza applicativa AI

• Conoscenza dei principi di machine learning
• Familiarità con architetture AI e modelli linguistici
• Conoscenze di sicurezza applicativa
• Conoscenza base di sviluppo software e API
• Familiarità con ambienti cloud e pipeline CI/CD

Modulo 1 – AI Security Landscape e Introduzione agli LLM

• Evoluzione delle minacce nei sistemi AI
• Architetture LLM e pipeline di machine learning
• Superfici di attacco nei sistemi generativi
• Modelli di rischio per sistemi AI

Modulo 2 – Prompt Injection

• Tecniche di manipolazione dei prompt
• Jailbreaking e bypass dei controlli
• Attacchi indiretti tramite contenuti esterni
• Strategie di mitigazione e validazione input

Modulo 3 – Training Data Poisoning

• Compromissione dei dataset di training
• Manipolazione del comportamento del modello
• Tecniche di detection e validazione dei dati
• Sicurezza della supply chain dei dataset

Modulo 4 – Model Inversion e Data Leakage

• Tecniche di estrazione delle informazioni dal modello
• Ricostruzione dei dati sensibili
• Privacy risk nei sistemi AI
• Strategie di protezione dei dati

Modulo 5 – Model Extraction e Intellectual Property Risk

• Tecniche di clonazione dei modelli
• Attacchi tramite query ripetute
• Protezione della proprietà intellettuale
• Rate limiting e tecniche di difesa

Modulo 6 – Supply Chain AI e MLOps Security

• Sicurezza delle pipeline di training
• Protezione degli artefatti del modello
• Gestione delle dipendenze AI
• SBOM per sistemi AI

Modulo 7 – Over-reliance e Output Manipulation

• Rischi legati all’automazione decisionale
• Bias e manipolazione dei risultati
• Validazione e verifica dell’output AI
• Implementazione Human-in-the-loop

Modulo 8 – Agent Security e Autonomous Systems

• Sicurezza degli agenti AI autonomi
• Attacchi multi-step e chaining
• Protezione delle integrazioni API
• Gestione dei privilegi degli agenti

Modulo 9 – Runtime Security e Monitoring AI

• Logging e monitoring dei sistemi AI
• Rilevamento anomalie nei modelli
• Incident response per sistemi AI
• Continuous security testing

Modulo 10 – Governance, Compliance e Risk Management AI

• Modelli di governance AI
• Risk assessment per sistemi LLM
• Compliance normativa e privacy
• Metriche di sicurezza e maturity model AI

Metodologia didattica

• Lezioni frontali avanzate
• Laboratori hands-on
• Simulazioni di attacco controllato
• Analisi di casi reali
• Workshop di progettazione sicura AI

Materiale didattico

• Slide tecniche avanzate
• Laboratori guidati
• Dataset e scenari di attacco
• Framework di valutazione della sicurezza AI
• Checklist di secure AI development

Modalità di erogazione

• Aula
• Live Virtual Training
• On demand

Valutazione finale

• Test teorico avanzato
• Analisi di scenario pratico
• Progettazione di strategia di mitigazione AI

Durata

24 – 40 ore (configurabile in base alle esigenze organizzative)

Attestato

Attestato di completamento del corso OWASP LLM Top 10 – Livello Avanzato EQF 7