Durata
Metodologia didattica
Attestato
Attestato di Frequenza e Profitto
L’integrazione dell’IA nei processi produttivi ha ampliato una superficie d’attacco già estesa, introducendo classi di vulnerabilità che gli strumenti di sicurezza tradizionali non intercettano. Questo corso tecnico affronta la AI Security da entrambe le prospettive, sia offensiva, sia difensiva, mostrando come un attaccante manipola gli input tramite Prompt Injection, corrompe i dataset di addestramento con il data poisoning o estrae informazioni riservate dai modelli, per poi progettare le contromisure.
L’impostazione è pratica: ogni modulo alterna inquadramento metodologico, con riferimento a framework come OWASP Top 10 for LLM Applications e MITRE ATLAS ed esercitazioni di laboratorio su ambienti isolati e controllati. Dalla modellazione delle minacce all’implementazione di guardrail su input e output, i partecipanti imparano a mettere in sicurezza applicazioni RAG e sistemi multi-agente, a condurre attività di AI Red Teaming e a proteggere i dati aziendali e degli utenti con tecniche di Privacy Enhancing come Differential Privacy e Federated Learning. Un percorso verticale per chi costruisce sistemi IA sicuri, robusti e resistenti ad attacchi avversari.
A chi è rivolto il corso AI Security & Technical Safety?
Il corso è rivolto a chi deve garantirne l’integrità strutturale dei sistemi di Intelligenza artificiale in azienda:
- AI & Machine Learning Engineers che vogliono integrare la sicurezza nel ciclo di vita dei modelli.
- Cybersecurity Architect & PenTester che devono evolvere le proprie competenze verso le vulnerabilità specifiche degli LLM.
- CISO & Security Manager, per definire protocolli di difesa contro minacce di nuova generazione.
- Sviluppatori Software Senior, che integrano API di GenAI in applicazioni enterprise e devono prevenire vulnerabilità applicative.
Programma didattico
AI Threat Modeling e superficie d’attacco
- Superficie d’attacco dei sistemi di machine learning e delle applicazioni basate su LLM
- Ciclo di vita del modello e punti di esposizione: dati, addestramento, inferenza, deployment
- Threat modeling applicato ai sistemi IA; framework di riferimento OWASP Top 10 for LLM Applications e MITRE ATLAS
- Differenze sostanziali rispetto alla sicurezza del software tradizionale
- Inquadramento normativo: classificazione del rischio secondo l’AI Act e coordinamento con il GDPR
Attacchi ai modelli e Prompt Security
- Prompt Injection diretta e indiretta; jailbreak e aggiramento delle istruzioni di sistema
- Adversarial Attacks: tecniche di evasione, data poisoning e inserimento di backdoor
- Model extraction e model inversion
- Sensitive information disclosure: memorizzazione dei dati di training e leakage di informazioni riservate
- Esercitazione: conduzione di attacchi su modelli in ambiente isolato
Sicurezza delle applicazioni RAG e dei sistemi multi-agente
- Vulnerabilità delle architetture RAG: injection tramite documenti e contaminazione della knowledge base
- Sistemi multi-agente: excessive agency, gestione dei permessi e tool-use non sicuro
- Sicurezza della supply chain dei modelli: pesi, dataset e dipendenze di terze parti
- Insecure output handling e conseguenze a valle sui sistemi integrati
- Esercitazione: analisi e compromissione di un’applicazione AI su caso reale
Difesa, Guardrail, Privacy e Red Teaming
- Progettazione di guardrail e sistemi di filtering su input e output; validazione e sanitizzazione dei dati
- Principio del privilegio minimo e isolamento nei sistemi ad agenti
- Privacy Enhancing Technologies: Differential Privacy, Federated Learning e Synthetic Data Generation
- AI Red Teaming: metodologia e conduzione
- Monitoring, logging e rilevamento degli attacchi in produzione
- Esercitazione: hardening di un’applicazione AI vulnerabile
Obiettivi del corso
Alla fine del corso, i partecipanti saranno in grado di:
- Identificare la superficie d’attacco di un sistema basato su IA e condurre analisi di threat modeling
- Riconoscere e riprodurre le principali classi di attacco: Prompt Injection, Adversarial Machine Learning, data poisoning, model extraction e leakage di dati
- Mettere in sicurezza applicazioni RAG e sistemi multi-agente, limitando i privilegi di accesso ai tool e prevenendo escalation ed excessive agency
- Configurare guardrail e sistemi di validazione e filtering sull’output dei modelli generativi
- Applicare tecniche di Differential Privacy e Federated Learning nelle pipeline di produzione
- Eseguire sessioni di AI Red Teaming e impostare monitoring e detection degli attacchi in produzione
Compila il form per maggiori informazioni
Compila il form: ti risponderemo il più presto possibile. Puoi selezionare più corsi tenendo premuto il tasto CTRL. Non trovi il corso che cerchi? Contattaci per raccontarci le tue esigenze e costruire insieme un programma formativo su misura.
Formazione finanziata
I Fondi Paritetici Interprofessionali offrono alle aziende aderenti la possibilità di coprire i costi della formazione aziendale e individuale destinata ai propri dipendenti.
Kinetikon ti offre un supporto completo in ogni fase: dall’analisi di fattibilità alla presentazione della domanda, fino alla rendicontazione e all’ottenimento del finanziamento.
Compila il form qui sopra e scopri come finanziare questo corso.
FAQ – Domande Frequenti
In quali date si svolge il corso?
Non ci sono date programmate, ma puoi scegliere il periodo di partenza della formazione.
Il corso viene erogato in presenza o online?
Puoi scegliere la formazione online, in presenza o blended. Per quanto riguarda la formazione online, mettiamo a disposizione la nostra piattaforma dedicata e conforme ai requisiti di monitoraggio dei Fondi Interprofessionali.
Il corso è finanziabile?
Collaboriamo attivamente con i Fondi Interprofessionali e siamo specializzati nella gestione della formazione finanziata. Ti forniremo tutte le informazioni sulle opportunità di finanziamento disponibili per il corso di tuo interesse.
Il corso è adatto a professionisti con diversi livelli di esperienza?
Certo: durante la sessione di allineamento, adeguiamo i contenuti formativi in base al livello di esperienza dei partecipanti, garantendo un percorso adatto sia ai principianti, sia agli esperti.
Come viene strutturato il corso per garantire una formazione su misura per la mia azienda?
Il programma didattico che trovi in questa pagina è solamente una traccia. Prima dell’avvio del corso, organizziamo una sessione di allineamento con il consulente che condurrà la formazione, per definire insieme un programma completamente personalizzato.
In quali termini il corso è personalizzabile?
Il percorso formativo si adatta alle tecnologie e alle piattaforme già in uso nella tua azienda. In caso di prima adozione, Kinetikon offre anche consulenza per la scelta della piattaforma, del linguaggio, del vendor o dello strumento più idoneo. Inoltre, la formazione è modulare e focalizzabile sugli argomenti in cui il tuo team necessita di approfondimenti specifici.
Come posso richiedere maggiori informazioni o una consulenza personalizzata?
Contattaci via email all’indirizzo formazione@kinetikon.com, oppure utilizza il form dedicato su questa pagina o nella sezione contatti del nostro sito. Il nostro team è sempre pronto a fornire supporto e consulenza personalizzata.
