Cartes de modèle pour le reporting de modèles

Résumé

C'est l'article qui a tout commencé. Margaret Mitchell et son équipe chez Google Research ont introduit les cartes de modèle comme solution pratique au problème de la boîte noire en apprentissage automatique. S'inspirant des fiches techniques électroniques et des étiquettes nutritionnelles, cette recherche fondamentale présente un cadre standardisé pour documenter les modèles ML qui va bien au-delà des spécifications techniques.

Composants essentiels

• Détails du modèle et utilisation prévue : Va au-delà de l'architecture de base pour définir clairement ce que le modèle devrait et ne devrait pas être utilisé.
• Métriques de performance entre groupes : La contribution la plus innovante de l'article. Plutôt que de rapporter des performances agrégées, les cartes de modèle décomposent les métriques par groupes démographiques.
• Données d'entraînement et d'évaluation : Documente non seulement quelles données ont été utilisées, mais comment elles ont été collectées et quels biais elles pourraient contenir.
• Considérations éthiques : Fait ressortir les risques potentiels, les biais et les impacts sociétaux de manière structurée.

À qui s'adresse cette ressource

• Praticiens ML et data scientists construisant des modèles trouveront des modèles pratiques et des exemples pour documenter leur propre travail.
• Chefs de produit et décideurs déployant des systèmes IA obtiennent un cadre pour comprendre les capacités et limitations des modèles.
• Équipes de risque et conformité peuvent utiliser les cartes de modèle comme artefacts standardisés pour la gouvernance IA.