MITRE ATLAS : Paysage des amenazas adversariales pour les systèmes d'inteligencia artificial

Resumen

MITRE ATLAS (Adversarial Threat Landscape for AI Systems) est une base de connaissances qui documente les tactiques et techniques adversariales ciblant les systèmes d'inteligencia artificial. Modelé sur le framework MITRE ATT&CK largement adopté pour la cyberseguridad traditionnelle, ATLAS fournit un langage commun pour discuter et défendre contre les amenazas de seguridad de l'IA.

Structure du framework

• Tactiques : Les objectifs de haut niveau des adversaires
• Techniques : Méthodes spécifiques utilisées pour atteindre les objectifs
• Sous-techniques : Variations détaillées des techniques
• Atténuations : Approches défensives recommandées
• Études de cas : Attaques réelles documentées

Couverture

ATLAS couvre les amenazas à travers le cycle de vie complet des systèmes ML :

• Collecte et préparation des datos
• Desarrollo et entraînement des modelos
• Despliegue et inférence
• Maintenance et mises à jour

A quien va dirigido este recurso

• Equipos de seguridad protégeant les systèmes ML
• Desarrolladors ML construisant des modelos sécurisés
• Red teams testant la seguridad des systèmes IA
• Architectes de seguridad concevant des défenses