OWASP Top 10 pour les applications LLM

Résumé

Le projet OWASP Top 10 pour les applications de grands modèles de langage est devenu la référence de l'industrie pour comprendre et atténuer les risques de sécurité dans les applications alimentées par LLM. Développé par la communauté OWASP avec les contributions d'experts en sécurité du monde entier, cette liste fournit des conseils actionnables pour les développeurs et les équipes de sécurité.

Les 10 principaux risques

1. Injection de prompt : Manipulation des entrées pour faire exécuter des actions non prévues au LLM
2. Manipulation de sortie : Exploiter les sorties du LLM pour des activités malveillantes
3. Empoisonnement des données d'entraînement : Corruption des données utilisées pour entraîner le modèle
4. Déni de service du modèle : Surcharger le LLM pour dégrader les performances
5. Vulnérabilités de la chaîne d'approvisionnement : Risques des composants et dépendances tiers
6. Divulgation d'informations sensibles : Fuite de données confidentielles via les réponses du LLM
7. Conception de plugin non sécurisée : Vulnérabilités dans les extensions et intégrations LLM
8. Autorité excessive : Donner trop de permissions au LLM
9. Sur-confiance : S'appuyer excessivement sur les sorties du LLM sans vérification
10. Vol de modèle : Extraction ou réplication non autorisée du modèle

À qui s'adresse cette ressource

• Développeurs d'applications construisant avec des LLM
• Équipes de sécurité évaluant les applications LLM
• Architectes concevant des systèmes LLM sécurisés
• Professionnels de la conformité comprenant les risques spécifiques aux LLM