Marco de gestion de riesgos de l'IA

Resumen

Le marco de gestion de riesgos de l'IA du NIST (AI RMF 1.0) représente l'approche de gestion de riesgos de l'IA la plus complète soutenue par le gouvernement disponible aujourd'hui. Publié en janvier 2023 après une consultation publique extensive, ce marco fournit une méthodologie structurée pour identifier, évaluer et atténuer les riesgos liés à l'IA tout au long du cycle de vie du système.

L'architecture à quatre fonctions

Le NIST AI RMF organise la gestion de riesgos en quatre fonctions interconnectées créant un cycle d'amélioration continue :

• Gouverner établit les politicas fondamentales, les procédures et les mécanismes de supervision.
• Cartographier se concentre sur la contextualisation des systèmes IA dans leurs cas d'usage prévus, l'identification des impactos potentiels et la compréhension de l'écosystème plus large des parties prenantes.
• Mesurer fournit des méthodologies pour évaluer, benchmarker et surveiller les systèmes IA par informe aux métriques et seuils définis.
• Gérer traduit les mesures en stratégies actionnables d'atténuation des riesgos, incluant la réponse aux incidentes et les protocoles de vigilancia continue.

Ce qui distingue ce marco

Contrairement aux approches purement techniques de la seguridad de l'IA, le Marco NIST aborde explicitement la nature sociotechnique des systèmes IA. Il reconnaît que les riesgos de l'IA émergent non seulement des défaillances algorithmiques, mais des interactions complexes entre technologie, personnes et systèmes organizacionnels.