Risk taxonomies
Structured risk thinking.
20 recursos
Repositorio de riesgos IA del MIT
El MIT AI Risk Repository es una base de datos integral de riesgos de IA identificados a partir de literatura académica, documentos de políticas e informes de la industria. Proporciona una taxonomía estructurada para categorizar y comprender el diverso panorama de riesgos relacionados con la IA.
OWASP Top 10 para las aplicaciones LLM
El OWASP Top 10 for LLM Applications identifica los riesgos de seguridad más críticos en aplicaciones de modelos de lenguaje de gran escala. Abarca inyección de prompts, fuga de datos, sandboxing inadecuado, ejecución de código no autorizado y otras vulnerabilidades específicas de LLM.
Taxonomía del aprendizaje automático adversarial del NIST
Taxonomía del NIST de ataques y mitigaciones de aprendizaje automático adversarial. Clasifica los ataques en categorías de evasión, envenenamiento y ataques a la privacidad, proporcionando un marco estructurado para comprender y defenderse contra las amenazas de seguridad en ML.
Base de datos de incidentes de IA
La Base de Datos de Incidentes de IA cataloga daños reales causados por sistemas de IA. Proporciona un archivo de incidentes con función de búsqueda para ayudar a investigadores, desarrolladores y formuladores de políticas a aprender de fallas pasadas y prevenir daños futuros.
Cartografía de las mitigaciones de los riesgos de IA
Una revisión sistemática actualizada y base de datos de marcos de riesgos de IA que proporciona un mapeo integral de mitigaciones de riesgos de IA. El repositorio incluye una taxonomía de dominios que cubre riesgos multiagente y sirve como recurso centralizado para comprender diversos enfoques de evaluación de riesgos de IA.
Informe del repositorio de riesgos de IA
Un repositorio integral que categoriza los riesgos de IA utilizando dos taxonomías: una Taxonomía Causal que clasifica los riesgos por causalidad (humano vs IA), intención (intencional vs no intencional) y temporalidad (pre- vs post-despliegue), y una Taxonomía de Dominio que organiza los riesgos en siete áreas temáticas. El repositorio sirve como un marco sistemático para comprender y categorizar diversos tipos de riesgos relacionados con la IA.
MITRE ATLAS: Panorama de amenazas adversariales para los sistemas de inteligencia artificial
MITRE ATLAS es una base de conocimientos de tácticas adversarias, técnicas y casos de estudio para sistemas de aprendizaje automático basada en observaciones del mundo real. Proporciona un marco para comprender y defenderse contra amenazas a sistemas de IA mediante la catalogación de patrones de ataque y estrategias de mitigación.
Framework MITRE ATLAS - Guía para asegurar los sistemas de IA
El MITRE ATLAS Framework es una base de conocimiento integral que cataloga tácticas, técnicas y procedimientos de adversarios dirigidos específicamente a sistemas de inteligencia artificial. Proporciona a los profesionales de seguridad estudios de caso reales y orientación práctica para identificar y mitigar amenazas contra implementaciones de IA.
MITRE ATLAS: Panorama de amenazas adversariales para los sistemas de inteligencia artificial
MITRE ATLAS es una base de conocimientos sobre tácticas adversarias, técnicas y casos de estudio para sistemas de aprendizaje automático basada en observaciones del mundo real. Proporciona un marco para comprender y defenderse contra amenazas a sistemas de IA mediante la catalogación de patrones de ataque y estrategias de mitigación.
Visión general de la seguridad de la IA
Un marco técnico de OWASP que se enfoca en amenazas de seguridad de IA, controles y prácticas relacionadas. Proporciona un enfoque estructurado para comprender y gestionar los riesgos de seguridad en los sistemas de IA, con integración planificada en el catálogo OpenCRE de requisitos comunes de seguridad.
AI Exchange
OWASP AI Exchange es un marco comunitario para mapear superficies de ataque de IA y codificar metodologías de pruebas de seguridad específicas para IA. Sirve como recurso para que las organizaciones implementen estándares de mitigación de riesgos de IA y prácticas de seguridad a escala.
Proyecto de seguridad de la IA generativa OWASP
Marco de seguridad integral de OWASP para sistemas de IA generativa, que abarca agentes autónomos, flujos de trabajo de IA de múltiples pasos y protección de datos contra filtraciones y manipulación. El proyecto proporciona herramientas, metodologías de prueba incluyendo red teaming adversarial, y orientación para abordar los principales riesgos de seguridad de GenAI, incluyendo amenazas de deepfakes.
Lista de taxonomías
Un repositorio integral que contiene múltiples taxonomías para categorizar incidentes y riesgos de IA. Incluye taxonomías detalladas que cubren factores tecnológicos y de proceso que contribuyen a incidentes de IA, con conexiones al MIT AI Risk Repository para una categorización de riesgos completa.
Esquema y taxonomía estandarizados para bases de datos de incidentes de IA en infraestructura digital crítica
Esta investigación establece un esquema estandarizado para la notificación de incidentes de IA con el objetivo de mejorar la consistencia en la recopilación de datos entre distintas bases de datos. Introduce una taxonomía para clasificar incidentes de IA específicamente en infraestructura digital crítica, mejorando la exhaustividad y claridad de los datos de incidentes para una mejor gestión de riesgos.
Taxonomía de los perjuicios del seguimiento de incidentes IA
Una taxonomía integral y base de datos que rastrea incidentes de IA categorizados por niveles de daño y características de amenaza, incluyendo novedad, autonomía e inminencia. El repositorio proporciona análisis temporal de patrones de incidentes en diferentes categorías e incluye evaluaciones de impacto en seguridad nacional para cada incidente de IA documentado.
Una Taxonomía Colaborativa y Centrada en las Personas de los Daños de la IA, Algorítmicos y de la Automatización
Esta investigación presenta una taxonomía integral para categorizar los daños relacionados con IA, algoritmos y automatización, basada en el análisis de más de 10,000 casos reales provenientes de medios de comunicación, investigaciones y reportes legales a nivel global. La taxonomía aborda las limitaciones de los sistemas de clasificación existentes e incorpora los riesgos emergentes de la IA generativa y las tecnologías de reconocimiento de emociones.
Una taxonomía colaborativa y centrada en el ser humano de los daños de la IA, los algoritmos y la automatización
Esta investigación presenta una taxonomía integral para categorizar los daños causados por IA, algoritmos y automatización, basada en el análisis de más de 10,000 casos reales provenientes de medios de comunicación, investigaciones y reportes legales a nivel mundial. La taxonomía aborda las limitaciones de los sistemas de clasificación existentes e incorpora los riesgos emergentes de la IA generativa y las tecnologías de reconocimiento de emociones.
Taxonomía de los modos de fallo en los agentes IA
El whitepaper de Microsoft presenta una taxonomía integral de modos de falla en agentes de IA, desarrollada a través de actividades internas de red teaming. La investigación tiene como objetivo mejorar la seguridad y protección en sistemas de IA mediante la catalogación de fallas realistas y riesgos en sistemas agénticos.
Modos de fallo en el aprendizaje automático
Un documento exhaustivo que cataloga diversos modos de falla en sistemas de aprendizaje automático, abarcando tanto ataques adversarios como fallas inherentes de diseño. El recurso tiene como objetivo proporcionar una referencia unificada para comprender cómo los sistemas de ML pueden fallar en la práctica.
Taxonomía de los modos de fallo en los sistemas de IA agénticos
Un documento técnico que proporciona una taxonomía integral de modos de falla específicamente para sistemas de IA agéntica, distinguiendo entre fallas novedosas exclusivas de la IA agéntica y modos de falla existentes. El análisis se fundamenta en el Responsible AI Standard de Microsoft y mapea las fallas a través de múltiples dimensiones para ayudar a identificar y categorizar riesgos potenciales.