Vue d'ensemble de la sécurité IA

Résumé

La vue d'ensemble de la sécurité IA de l'OWASP fournit un framework technique pour comprendre et traiter les risques de sécurité dans les systèmes d'intelligence artificielle. Ce document sert de compagnon au OWASP Top 10 for LLM Applications en fournissant une couverture plus large des préoccupations de sécurité de l'IA.

Structure du framework

• Catégories de menaces : Classification complète des menaces de sécurité IA
• Mappings de contrôles : Mesures de sécurité recommandées pour chaque menace
• Conseils d'implémentation : Étapes pratiques pour le déploiement des contrôles
• Intégration : Connexion aux exigences de sécurité existantes via OpenCRE

Domaines clés de sécurité

Le framework traite de la sécurité à travers :

• Pipeline de données et sécurité d'entraînement
• Protection de l'intégrité du modèle
• Sécurité du runtime d'inférence
• Sécurité de déploiement et d'exploitation

À qui s'adresse cette ressource

• Architectes de sécurité concevant des systèmes IA sécurisés
• Équipes d'ingénierie de sécurité implémentant des contrôles
• Auditeurs évaluant la posture de sécurité de l'IA