Incident and accountability
Everything related to failures and accountability.
17 recursos
Base de datos de incidentes de IA de Partnership on AI
Una base de datos integral que cataloga incidentes y daños relacionados con IA. La base de datos permite a investigadores y profesionales aprender de fallas pasadas de IA, identificar patrones y desarrollar medidas preventivas.
Répertoire AIAAIC
El repositorio AI, Algorithmic, and Automation Incidents and Controversies rastrea incidentes que involucran IA y sistemas automatizados. Proporciona estudios de caso detallados con cronologías, partes interesadas y resultados.
Requisitos de notificación de incidentes de la Ley de IA de la UE
El EU AI Act establece requisitos obligatorios de notificación de incidentes para sistemas de IA de alto riesgo. Los proveedores deben informar incidentes graves y fallas de funcionamiento a las autoridades competentes dentro de los plazos establecidos.
Algorithmic Accountability Act américain (Proposé)
Legislación estadounidense propuesta que exige a las empresas realizar evaluaciones de impacto sobre sistemas de toma de decisiones automatizadas. El proyecto de ley establecería requisitos de rendición de cuentas para sistemas algorítmicos de alto riesgo que afectan decisiones críticas.
Rastreador de incidentes de IA
Una herramienta de seguimiento integral que proporciona análisis detallado de incidentes de IA desde 2015 hasta 2024. El rastreador utiliza taxonomías causales y de dominio del MIT AI Risk Repository para categorizar y analizar cómo han evolucionado los incidentes de IA a lo largo del tiempo.
Base de datos de incidentes de IA
La AI Incident Database es una colección integral de más de 1,200 casos documentados en los que sistemas de IA han causado problemas de seguridad, equidad u otros problemas en el mundo real. Sirve como una herramienta para ayudar a las partes interesadas a comprender mejor, anticipar y mitigar los riesgos relacionados con la IA a través de la documentación y el análisis sistemático de incidentes.
Seguimiento de incidentes IA: OECD AIM y repertorio AIAIAC
Un recurso que abarca dos iniciativas importantes de seguimiento de incidentes de IA: el OECD AI Incidents and Hazards Monitor (AIM) y el AIAAIC Repository. Estos esfuerzos se centran en documentar incidentes de IA del mundo real para mejorar la transparencia e informar las decisiones de gobernanza.
Répertoire AIAAIC (OCDE)
El repositorio AI, Algorithmic, and Automation Incidents and Controversies rastrea incidentes que involucran IA y sistemas automatizados. Proporciona estudios de caso detallados con cronologías, partes interesadas y resultados.
Inteligencia artificial: Un marco de responsabilidad para las agencias federales
Un marco de rendición de cuentas integral desarrollado por la U.S. GAO para ayudar a las agencias federales y otras entidades a garantizar una implementación responsable de la IA. El marco está organizado en torno a cuatro principios complementarios que abordan gobernanza, datos, desempeño y monitoreo para promover la rendición de cuentas en los sistemas de IA.
Marco de Responsabilidad de IA de ITI
Un marco integral de rendición de cuentas desarrollado por el Information Technology Industry Council que delimita la distribución de responsabilidades entre los diferentes actores en el desarrollo y despliegue de sistemas de IA. El marco aborda específicamente los roles de diversas partes interesadas, incluidos los integradores, y define cómo debe distribuirse la rendición de cuentas en función de sus funciones únicas dentro del ecosistema de IA.
Informe de política sobre la responsabilidad de la inteligencia artificial
Un informe de políticas de NTIA que examina los marcos de responsabilidad en IA y su implementación. El informe hace referencia y se basa en el NIST AI Risk Management Framework, centrándose en el desarrollo de sistemas de IA confiables y responsables dentro de las estructuras de gobernanza federal.
Resistencia y rechazo frente a los perjuicios algorítmicos
Esta investigación examina diversas formas de resistencia y rechazo a los daños algorítmicos a través de diferentes 'proyectos de conocimiento'. El trabajo se basa en periodismo de investigación como Machine Bias, que reveló cómo los sistemas algorítmicos pueden replicar y amplificar sesgos raciales en la justicia penal y otros ámbitos donde se implementan sistemas de decisión algorítmica.
Perjuicios sociotécnicos de los sistemas algorítmicos: Elaboración de una taxonomía
Este artículo de investigación presenta una revisión de alcance y una taxonomía de los daños sociotécnicos causados por sistemas algorítmicos. El estudio utiliza análisis temático reflexivo de la investigación en computación para categorizar diferentes tipos de daños y proporciona un marco para la reducción de daños en sistemas algorítmicos.
Después del daño: Un alegato por la reparación moral tras los fallos algorítmicos
Este artículo de investigación examina el concepto de reparación moral como respuesta al daño algorítmico, yendo más allá de los enfoques tradicionales centrados en el infractor para enfocarse en lo que las víctimas realmente necesitan. Utilizando la controversia de calificaciones de Ofqual como caso de estudio, aboga por la conciencia de la huella algorítmica y enfatiza la importancia de abordar las consecuencias extendidas de las fallas algorítmicas a través de procesos de reparación moral centrados en las víctimas.
Respuesta a incidentes impulsada por la IA: Definición y componentes
Este recurso proporciona orientación sobre sistemas de respuesta a incidentes impulsados por IA que ofrecen marcos estructurados de toma de decisiones para amenazas de ciberseguridad. Se enfoca en cómo la IA puede entregar información respaldada por datos y acciones sugeridas basadas en el análisis de entornos de amenazas e incidentes históricos.
Marco de respuesta a incidentes de IA, Versión 1.0
Un marco integral desarrollado por la Coalition for Secure AI que proporciona a los equipos de seguridad enfoques estructurados, herramientas y conocimientos para proteger los sistemas de IA de amenazas emergentes. El marco ofrece orientación para la respuesta a incidentes específicamente adaptada a los desafíos únicos de las implementaciones de tecnología de IA.
Planes de respuesta a incidentes de IA: Lista de control y mejores prácticas
Una guía práctica que proporciona listas de verificación y mejores prácticas para desarrollar planes de respuesta a incidentes de IA. El recurso cubre elementos clave que incluyen la asignación de coordinadores de respuesta, el establecimiento de canales de comunicación y la documentación de procedimientos para detectar, evaluar, contener y recuperarse de incidentes relacionados con IA.