MITRE ATLAS : Paysage des menaces adversariales pour les systèmes d'intelligence artificielle
MITRE Corporation
Voir la ressource originaleMITRE ATLAS : Paysage des menaces adversariales pour les systèmes d'intelligence artificielle
Résumé
Cette ressource fournit une vue d'ensemble complète du framework MITRE ATLAS, détaillant sa couverture étendue des menaces contre les systèmes d'IA. ATLAS offre une base de connaissances structurée couvrant l'ensemble du paysage des menaces pour l'apprentissage automatique et les systèmes d'intelligence artificielle.
Couverture du framework
- 15 tactiques : Catégories d'objectifs adversariaux de haut niveau
- 66 techniques : Méthodes spécifiques utilisées par les attaquants
- 46 sous-techniques : Variations granulaires des méthodes d'attaque
- 26 atténuations : Stratégies défensives recommandées
- 33 études de cas : Incidents d'attaques réelles documentés
Catégories de menaces
Le framework organise les menaces en catégories incluant :
- Reconnaissance et collecte de ressources
- Développement et empoisonnement de modèles
- Évasion et manipulation d'inférence
- Exfiltration et impact
À qui s'adresse cette ressource
- Analystes de sécurité surveillant les systèmes IA
- Équipes de renseignement sur les menaces suivant les menaces IA
- Équipes de réponse aux incidents enquêtant sur les compromissions IA
Mots-clés
En bref
Publié
2021
Juridiction
Mondial
Catégorie
Risk taxonomies
Accès
Accès public
Ressources connexes
Politique de mise à l'échelle responsable d'Anthropic
Policies and internal governance • Anthropic
Gouvernance de l'IA : Qu'est-ce que c'est et comment l'implémenter
Policies and internal governance • Diligent Corporation
Divulgations de systèmes IA
Transparency and documentation • National Telecommunications and Information Administration
Construisez votre programme de gouvernance de l'IA
VerifyWise vous aide à implémenter des cadres de gouvernance de l'IA, à suivre la conformité et à gérer les risques dans vos systèmes d'IA.