Cadre de gestion des risques de l'IA

Résumé

Le cadre de gestion des risques de l'IA du NIST (AI RMF 1.0) représente l'approche de gestion des risques de l'IA la plus complète soutenue par le gouvernement disponible aujourd'hui. Publié en janvier 2023 après une consultation publique extensive, ce cadre fournit une méthodologie structurée pour identifier, évaluer et atténuer les risques liés à l'IA tout au long du cycle de vie du système.

L'architecture à quatre fonctions

Le NIST AI RMF organise la gestion des risques en quatre fonctions interconnectées créant un cycle d'amélioration continue :

• Gouverner établit les politiques fondamentales, les procédures et les mécanismes de supervision.
• Cartographier se concentre sur la contextualisation des systèmes IA dans leurs cas d'usage prévus, l'identification des impacts potentiels et la compréhension de l'écosystème plus large des parties prenantes.
• Mesurer fournit des méthodologies pour évaluer, benchmarker et surveiller les systèmes IA par rapport aux métriques et seuils définis.
• Gérer traduit les mesures en stratégies actionnables d'atténuation des risques, incluant la réponse aux incidents et les protocoles de surveillance continue.

Ce qui distingue ce cadre

Contrairement aux approches purement techniques de la sécurité de l'IA, le cadre NIST aborde explicitement la nature sociotechnique des systèmes IA. Il reconnaît que les risques de l'IA émergent non seulement des défaillances algorithmiques, mais des interactions complexes entre technologie, personnes et systèmes organisationnels.