Réponse aux incidents IA : incidents de LLM et d'agents

Ce cours utilise l'intelligence artificielle. Il est quatre heures du matin. Votre agent autonome vient d'envoyer à mille quatre cents clients une lettre que personne n'a validée.

La disponibilité est bonne. La latence est bonne. Le taux d'erreur est resté à zéro toute la nuit.

Tous les tableaux de bord dont vous avez la charge sont au vert — et c'est précisément le problème. C'est un cours d'exploitation. Pas de gouvernance, pas de red teaming, pas d'architecture.

L'alerte s'est déjà déclenchée, et c'est vous qui tenez le pager. Vous apprendrez à détecter, trier, contenir, préserver les preuves, enquêter et rétablir le service face aux défaillances de systèmes LLM et d'agents en production — avec une organisation par mode de défaillance, jamais par référentiel. Tout est enseigné sur l'exemple de Meridian Health, un assureur santé fictif qui exploite un assistant LLM pour les demandes de prise en charge et un agent d'exploitation autonome ayant accès, par ses outils, à une base de données des demandes, au courrier sortant et à un serveur MCP interne.

Chaque incident que vous traitez frappe d'abord Meridian. Ce qui distingue ce coursFondé sur l'AI Incident Response Framework V1. 0 de la Coalition for Secure AI (CoSAI) — la première référence qui fasse véritablement autorité dans ce domaine — et rendu opérationnel plutôt que simplement résumé.

Onze playbooks nommés, tous construits sur la même colonne vertébrale en cinq parties : signaux, confinement, preuves, éradication, verrou de rétablissement. Des cas réels, dont la décision du tribunal canadien qui a rejeté la défense « le chatbot est une entité juridique distincte », et les incidents documentés de coûts hors de contrôle de 2025–26. Le coût traité comme un incident, et traité à fond — un sujet peu développé même dans les référentiels, et le mode de défaillance le mieux documenté de 2025–26.

Vous repartirez avec cinq livrables prêts pour la production : une matrice de gravité des incidents IA, des procédures de confinement pour votre propre pile, votre propre playbook d'incident, une liste de contrôle des preuves avec chaîne de conservation, et un modèle de revue post-incident attentif au modèle. Le projet final assemble les cinq, avec un état des lacunes et une feuille de route à 90 jours. Neuf ateliers pratiques tournent entièrement sur votre propre machine, avec un modèle local — pas de clé d'API, pas de dépense cloud.

Vous instrumenterez un agent, évaluerez des incidents en cours, mènerez un exercice de confinement chronométré, reconstituerez un incident à partir de preuves brutes et reconstruirez un verrou d'évals qui refuse de s'ouvrir tant que le correctif n'est pas prouvé. Aucune expérience du développement d'attaques n'est nécessaire. Chaque incident des ateliers vous est confié alors qu'il est déjà en cours.

Vous êtes l'intervenant, jamais l'attaquant.