Risques de l'IA générative et cybersécurité : sécurité LLM

What you'll learn

---

• Expliquer le fonctionnement d'un LLM du point de vue de la sécurité et cartographier sa surface d'attaque

• Exécuter des injections de prompt directes et indirectes et des jailbreaks dans un lab local

• Relier chaque attaque aux risques de l'OWASP Top 10 pour les LLM et aux techniques MITRE ATLAS

• Concevoir une défense en profondeur : validation des entrées, garde-fous, filtrage des sorties et isolation

• Surveiller un système d'IA générative et détecter les incidents de sécurité

• Intégrer la sécurité au cycle de développement de l'IA et mener un exercice de red team

• Appliquer l'AI Act, le NIST AI RMF et l'ISO/IEC 42001 à un système d'IA générative

• Évaluer les risques émergents de l'IA agentique et de la cryptographie post-quantique

Who this course is for:

---

• Professionnels de la cybersécurité qui doivent sécuriser des applications d'IA générative
• Développeurs et architectes qui intègrent des LLM dans leurs produits
• RSSI, responsables des risques et de la conformité qui encadrent l'usage de l'IA
• Pentesteurs et membres de red team qui veulent tester des systèmes d'IA
• Toute personne qui veut comprendre concrètement les risques de sécurité de l'IA générative

Description

---

Ce cours utilise l'intelligence artificielle.

À quoi vous attendre : Environ 5 heures de vidéo. Prévoyez 1 heure pour installer les outils du lab (Ollama et un modèle local), puis environ 9 à 12 heures pour réaliser les 14 labs et leurs exercices. Les 14 labs tournent dans un seul fichier sur votre ordinateur, avec un modèle Llama local et gratuit via Ollama : aucune clé d'API ni compte payant n'est nécessaire. L'interface du lab, les prompts d'attaque saisis et les réponses du modèle restent en anglais.

L'IA générative est arrivée en production plus vite que les pratiques de sécurité capables de la protéger. Injection de prompt, jailbreak, empoisonnement des données, hallucinations exploitées : les attaques contre les grands modèles de langage ne ressemblent pas à celles que les équipes de sécurité connaissent. Ce cours vous apprend à les comprendre, à les exécuter vous-même dans un environnement sûr, puis à construire les défenses qui les arrêtent.

Tout le cours suit une entreprise fictive, NovaStar AI, et ses trois produits : NovaAssist, un chatbot de support client, NovaCode, un assistant de programmation, et NovaComply, un outil de documentation réglementaire. Avec son RSSI Alex Rivera et son équipe, nous analysons chaque incident, nous reproduisons l'attaque au lab, puis nous mettons en place le contrôle qui l'aurait empêchée.

En neuf sections, nous allons :

• Cartographier la surface d'attaque d'une application LLM avec l'OWASP Top 10 pour les LLM et MITRE ATLAS
• Mener des injections de prompt directes et indirectes et des jailbreaks contre un modèle local
• Traiter l'empoisonnement des données, les biais, la SSRF, l'épuisement des ressources et les hallucinations comme des menaces
• Bâtir une défense en profondeur : validation des entrées, garde-fous, filtrage des sorties, isolation et surveillance
• Intégrer la sécurité au cycle de développement et conduire des exercices de red team
• Maîtriser le règlement européen sur l'IA (AI Act), le NIST AI RMF, l'ISO/IEC 42001, les audits et la propriété intellectuelle
• Anticiper les menaces de l'IA agentique, de l'IA contre l'IA et de l'informatique quantique

Chaque section se termine par un quiz, et le cours s'achève sur un exercice complet de red team qui mobilise tout ce que vous avez appris. Vous repartez avec une méthode concrète pour évaluer, attaquer et sécuriser les systèmes d'IA générative de votre organisation.