OWASP Top 10 pour les applications LLM

Resumen

Le projet OWASP Top 10 pour les applications de grands modelos de langage est devenu la référence de l'industrie pour comprendre et atténuer les riesgos de seguridad dans les applications alimentées par LLM. Développé par la communauté OWASP avec les contributions d'experts en seguridad du monde entier, cette liste fournit des conseils actionnables pour les desarrolladors et les equipos de seguridad.

Les 10 principaux riesgos

1. Injection de prompt : Manipulation des entrées pour faire exécuter des actions non prévues au LLM
2. Manipulation de sortie : Exploiter les sorties du LLM pour des activités malveillantes
3. Empoisonnement des datos d'entraînement : Corruption des datos utilisées pour entraîner le modelo
4. Déni de service du modelo : Surcharger le LLM pour dégrader les performances
5. Vulnerabilidads de la chaîne d'approvisionnement : Riesgos des composants et dépendances tiers
6. Divulgation d'informations sensibles : Fuite de datos confidentielles via les réponses du LLM
7. Conception de plugin non sécurisée : Vulnerabilidads dans les extensions et intégrations LLM
8. Autorité excessive : Donner trop de permissions au LLM
9. Sur-confiance : S'appuyer excessivement sur les sorties du LLM sans vérification
10. Vol de modelo : Extraction ou réplication non autorisée du modelo

A quien va dirigido este recurso

• Desarrolladors d'applications construisant avec des LLM
• Equipos de seguridad évaluant les applications LLM
• Architectes concevant des systèmes LLM sécurisés
• Professionnels de la cumplimiento comprenant les riesgos spécifiques aux LLM