Politique de surveillance post-deploiement

1. Objectif

La presente politique etablit comment [Nom de l'organisation] surveille les systemes d'IA apres leur deploiement en production. La surveillance post-deploiement detecte la degradation des performances, les risques emergents et les lacunes de conformite qui n'etaient pas apparents lors des tests pre-deploiement. Pour les systemes d'IA a haut risque, cette surveillance est une obligation legale au titre du Reglement europeen sur l'IA.

2. Perimetre

La presente politique s'applique a :

La profondeur de la surveillance est proportionnelle a la classification des risques : les systemes a haut risque ont les exigences de surveillance les plus frequentes et les plus detaillees.

• Tous les systemes d'IA deployes en production, quelle que soit la classification des risques.
• Les systemes d'IA developpes en interne et tiers.
• La periode de surveillance debute au deploiement et se poursuit jusqu'au retrait du systeme.

3. Plan de surveillance

Chaque systeme d'IA doit disposer d'un plan de surveillance documente precisant :

Pour les systemes a haut risque, le plan de surveillance fait partie de la documentation technique requise par l'Annexe IV du Reglement europeen sur l'IA.

• Les indicateurs suivis et leurs seuils acceptables.
• Comment les donnees sont collectees (surveillance automatisee, retours d'utilisateurs, rapports des deployers).
• La frequence de revue des indicateurs (continue, quotidienne, hebdomadaire, mensuelle, trimestrielle).
• Le responsable de l'examen des resultats et des actions a entreprendre.
• Les declencheurs de revalidation ou d'escalade d'incident.

4. Elements a surveiller

Texte de remplacement. Complétez avec le langage de votre organisation pour 4. Elements a surveiller.

4.1 Indicateurs de performance

• Exactitude, precision, rappel ou indicateurs equivalents suivis par rapport aux references de deploiement.
• Taux d'erreur, taux de defaillance et disponibilite.
• Latence et debit sous la charge de production reelle.
• Evaluations de la qualite des resultats (pour l'IA generative : taux d'hallucination, scores de pertinence).

4.2 Detection de derive

• Distribution des donnees d'entree comparee a la distribution des donnees d'entrainement (derive des caracteristiques).
• Changements dans la distribution des resultats pouvant indiquer un changement de comportement du modele (derive conceptuelle).
• Changements dans les schemas d'interaction des utilisateurs pouvant indiquer que le contexte operationnel a change.

4.3 Biais et equite

• Indicateurs d'equite suivis dans le temps par groupes proteges.
• Nouveaux schemas de biais emergents des donnees de production mais absents des donnees de test.
• Retours d'utilisateurs ou de personnes concernees signalant des resultats discriminatoires.

4.4 Surete et securite

• Taux de declenchement des garde-fous (requetes bloquees, contenu masque, tentatives d'injection).
• Schemas d'utilisation anormaux pouvant indiquer une activite adversariale.
• Divulgations de vulnerabilites affectant les dependances ou l'infrastructure du modele.

4.5 Changements reglementaires et contextuels

• Nouvelles reglementations ou orientations affectant le domaine d'exploitation du systeme.
• Changements dans le contexte operationnel du systeme susceptibles de modifier son profil de risque.
• Changements fournisseurs (mises a jour du modele, changements de sous-traitants, modifications des conditions d'utilisation).

5. Frequence de surveillance

6. Declencheurs d'escalade

Les conditions suivantes declenchent une escalade de la surveillance de routine vers une reponse active :

Les problemes escalades suivent la Politique de reponse aux incidents IA pour le triage et la resolution.

• Indicateur de performance descendant en dessous du seuil defini.
• Derive detectee au-dela de la tolerance definie dans le plan de surveillance.
• Indicateur de biais depassant la limite acceptable.
• Taux de declenchement des garde-fous augmentant de plus de 50 % par rapport a la reference.
• Plainte ou retour d'utilisateur indiquant un prejudice ou une discrimination.
• Notification du fournisseur d'un changement significatif du modele.
• Changement reglementaire affectant le statut de conformite du systeme.

7. Cycles de surveillance

Pour les systemes a haut risque, la surveillance est structuree en cycles recurrents :

• Chaque cycle implique une revue structuree de toutes les dimensions de surveillance.
• La partie prenante designee repond a un ensemble de questions de surveillance et consigne les constatations.
• Les constatations sont documentees dans un rapport de surveillance.
• Les preoccupations signalees declenchent une escalade immediate au Responsable de la gouvernance IA.
• Les cycles acheves produisent un rapport PDF pour la piste d'audit.

8. Retours des deployers

L'article 72 du Reglement europeen sur l'IA exige que le systeme de surveillance collecte des donnees « fournies par les deployers ou collectees par d'autres moyens ». L'organisation doit :

• Etablir un canal permettant aux deployers de signaler les problemes, les retours et les dysfonctionnements observes.
• Examiner les retours des deployers dans le cadre du cycle de surveillance.
• Agir sur les problemes signales par les deployers dans les delais de reponse definis dans le plan de surveillance.

9. Roles et responsabilites

10. Alignement reglementaire

• Reglement europeen sur l'IA : Article 72 (systeme et plan de surveillance post-deploiement), Article 73 (signalement des incidents graves), Annexe IV (plan de surveillance dans la documentation technique).
• ISO/IEC 42001 : Clause 9.1 (surveillance, mesurage, analyse et evaluation).
• NIST AI RMF : Fonction MANAGE (MG-1 : reponses aux risques deployees, MG-2 : decisions de deploiement revisitees).

11. Revue

La presente politique est revue annuellement. Les plans de surveillance individuels sont revus lorsque les systemes changent, lorsque les constatations de surveillance indiquent une inadequation du plan ou lorsque la Commission europeenne publie le modele officiel de plan de surveillance (prevu d'ici le 2 fevrier 2026).

Controle du document