Construire des applications LLM sécurisées : Agents, RAG et défense contre l'injection de prompts

Alors que les grands modèles linguistiques (LLM) sont intégrés dans les processus métier essentiels, de nouvelles vulnérabilités de sécurité critiques émergent, notamment en ce qui concerne la gestion des entrées utilisateur et la confidentialité des données. Ce cours fournit les connaissances fondamentales et les techniques pratiques requises pour identifier, atténuer et tester les risques les plus critiques auxquels sont confrontées les applications LLM modernes. À l'issue de ce cours, vous serez en mesure de concevoir, construire et déployer des systèmes alimentés par des LLM (tels que les agents et les applications RAG) qui fonctionnent de manière sûre et prévisible, même face à des entrées adverses. Ce que vous apprendrez : * Comprendre les 10 principales vulnérabilités LLM de l'OWASP et comment appliquer la modélisation des menaces aux architectures LLM courantes comme RAG. * Mettre en œuvre des défenses robustes contre l'injection de prompts, l'injection indirecte et la fuite de données sensibles dans les systèmes déployés. * Configurer les agents LLM et les appels de fonctions pour prévenir les abus d'outils et imposer des limites strictes sur l'utilisation des ressources et les cycles. * S'entraîner à utiliser des méthodes de validation de données et des techniques de sortie structurée (comme JSON Schema) pour garantir des réponses prévisibles du modèle. * Appliquer des techniques de masquage et d'assainissement des données pour protéger les informations sensibles circulant dans le pipeline LLM. * Intégrer des tests de sécurité de base (red teaming) et des portes de validation dans les flux d'intégration et de déploiement continus (CI/CD). Le cours commence par définir les concepts clés de la sécurité des LLM et le paysage actuel des menaces, avant de passer à la mise en œuvre pratique des modèles de codage défensifs et de l'application des politiques pour les agents et les systèmes RAG. Ce cours est conçu pour les développeurs, les scientifiques des données et les professionnels de la sécurité qui débutent dans la sécurisation des applications alimentées par des LLM. Aucune expérience préalable en sécurité LLM n'est requise, seulement des connaissances de base en programmation. Commencez dès aujourd'hui à construire des systèmes d'IA fiables et résilients.