Base de données des incidents IA

Résumé

La base de données des incidents IA est une collection complète et consultable d'incidents réels où les systèmes d'IA ont causé des préjudices. Maintenue par le Responsible AI Collaborative, la base de données sert de ressource critique pour comprendre comment les systèmes d'IA échouent dans la pratique.

Caractéristiques

• Archive consultable : Recherche à travers des centaines d'incidents documentés
• Taxonomie des incidents : Classification structurée par type, gravité et domaine
• Études de cas : Analyse détaillée des incidents majeurs
• Soumissions de la communauté : Contributions continues des chercheurs et praticiens

Types d'incidents couverts

• Décisions algorithmiques discriminatoires
• Accidents de véhicules autonomes
• Défaillances de modération de contenu
• Dysfonctionnements de systèmes de reconnaissance faciale
• Échecs de chatbots et de génération de texte
• Préjudices liés à l'IA de santé

À qui s'adresse cette ressource

• Équipes de développement IA apprenant des échecs passés
• Gestionnaires de risques identifiant les modes de défaillance potentiels
• Décideurs politiques comprenant les préjudices réels de l'IA
• Chercheurs étudiant les échecs et la sécurité de l'IA