Una Taxonomía Colaborativa y Centrada en las Personas de los Daños de la IA, Algorítmicos y de la Automatización

Resumen

Esta investigación pionera aborda una brecha crítica en la gobernanza de la IA: ¿cómo categorizamos sistemáticamente los daños reales que están ocurriendo a causa de los sistemas de IA? En lugar de especulación teórica, esta taxonomía se construye a partir de más de 10,000 casos documentados del mundo real de daños por IA, algoritmos y automatización, recopilados de informes de medios globales, investigación académica y documentos legales. Los investigadores adoptaron un enfoque centrado en las personas, enfocándose en cómo las personas realmente experimentan el daño en lugar de en los modos de falla técnicos. El resultado es un sistema de clasificación práctico que abarca desde el sesgo en el reconocimiento facial hasta la desinformación generada por IA, proporcionando un lenguaje común para discutir los riesgos de la IA entre disciplinas y jurisdicciones.

Qué diferencia a esta taxonomía de las existentes

La mayoría de los marcos de riesgos de IA se construyen de arriba hacia abajo por expertos que hacen suposiciones informadas sobre daños potenciales. Esta taxonomía invierte ese enfoque al partir de evidencia documentada de daños reales. Los investigadores analizaron miles de casos reales para identificar patrones en cómo los sistemas de IA realmente perjudican a las personas, no solo cómo podrían hacerlo.

Diferenciadores clave:

• Base fundamentada en evidencia: Construida a partir de más de 10,000 casos documentados de daños en lugar de escenarios teóricos
• Perspectiva centrada en las personas: Categoriza los daños según el impacto humano en lugar de tipos de fallas técnicas
• Alcance global: Incluye casos de diversas jurisdicciones y contextos culturales
• Cobertura de tecnología actual: Incorpora riesgos emergentes de la IA generativa, el reconocimiento de emociones y otros desarrollos recientes
• Metodología colaborativa: Desarrollada mediante aportes de múltiples partes interesadas en lugar de paneles exclusivos de expertos

La taxonomía también aborda explícitamente las limitaciones de los sistemas existentes que a menudo pasan por alto los daños interseccionales, los impactos sistémicos y las experiencias vividas de las comunidades afectadas.

Estructura central y categorías

La taxonomía organiza los daños de la IA en una estructura jerárquica que va desde áreas de impacto amplias hasta tipos de daños específicos. Este enfoque multinivel permite a los usuarios acercarse o alejarse según sus necesidades: los responsables de políticas podrían trabajar a nivel alto mientras que los equipos de respuesta a incidentes necesitan categorías granulares.

Las dimensiones principales incluyen:

• Daños individuales vs. colectivos
• Impactos directos vs. indirectos
• Consecuencias inmediatas vs. a largo plazo
• Tipos de daño físico, psicológico, económico y social
• Las categorías de daños emergentes que la investigación identifica incluyen:
• Manipulación de medios sintéticos y abuso de deepfakes
• Desinformación generada por IA a escala
• Violaciones de privacidad por reconocimiento de emociones
• Sesgo en la moderación automatizada de contenido
• Problemas de derechos de autor y consentimiento en IA generativa

La taxonomía está diseñada para ser un documento vivo que puede evolucionar a medida que nuevos tipos de sistemas de IA crean nuevas categorías de daños.

A quién está dirigido este recurso

Audiencias principales:

• Equipos de gobernanza de IA que desarrollan procesos internos de monitoreo y respuesta ante daños
• Responsables de políticas y reguladores que crean marcos de supervisión de IA y necesitan categorías de daños estandarizadas
• Investigadores en seguridad de IA que estudian impactos reales de la IA en lugar de riesgos teóricos
• Profesionales del derecho que trabajan en casos de responsabilidad por IA y necesitan una clasificación consistente de daños
• Periodistas y organizaciones de la sociedad civil que investigan e informan sobre incidentes de IA

Audiencias secundarias:

• Equipos de producto que construyen sistemas de IA y desean comprender los posibles impactos negativos
• Compañías de seguros que desarrollan cobertura de responsabilidad por IA
• Investigadores académicos que estudian la rendición de cuentas algorítmica
• Organizaciones internacionales que trabajan en estándares de gobernanza de IA. Esto es particularmente valioso para organizaciones que necesitan ir más allá de discusiones vagas sobre "riesgos de la IA" hacia categorías específicas y accionables de daños que pueden medirse, monitorearse y abordarse.

Poniendo la taxonomía en práctica

• Para respuesta a incidentes: Use el sistema de clasificación para categorizar los informes de daños por IA de manera consistente en toda su organización. Esto permite un mejor seguimiento de patrones de daño y estrategias de mitigación más focalizadas.
• Para evaluación de riesgos: Mapee sus sistemas de IA contra las categorías de daños para identificar impactos negativos potenciales que podría haber pasado por alto en evaluaciones de riesgo tradicionales enfocadas en fallas técnicas.
• Para desarrollo de políticas: Consulte la taxonomía al crear políticas de gobernanza de IA para asegurar que está abordando el espectro completo de daños documentados, no solo los más obvios.
• Para investigación y monitoreo: Use las categorías como un marco para recopilar y analizar sistemáticamente casos de daños por IA en su sector o jurisdicción.

Los investigadores proporcionan definiciones detalladas y ejemplos para cada categoría, lo que hace práctico capacitar a los equipos en enfoques de clasificación consistentes.

Metodología de investigación y limitaciones

El estudio empleó un enfoque de métodos mixtos que combina análisis cuantitativo de casos de daños con aportes cualitativos de comunidades afectadas y expertos en el dominio. Los casos se obtuvieron de literatura académica, informes noticiosos, presentaciones legales y documentación de organizaciones de defensa que abarcan múltiples idiomas y regiones.

Limitaciones clave a considerar:

• Sesgo de reporte: Los casos que llegan a la documentación pública pueden no representar el espectro completo de daños por IA
• Contexto cultural: Algunos tipos de daños pueden reportarse o reconocerse más fácilmente en ciertas jurisdicciones
• Panorama en rápida evolución: Las nuevas tecnologías de IA crean nuevas categorías de daños más rápido de lo que pueden estudiarse sistemáticamente
• Desafíos de definición: Determinar qué constituye "daño por IA" vs. problemas tecnológicos o sociales más amplios requiere juicios de valor

Los investigadores reconocen estas limitaciones y posicionan la taxonomía como un punto de partida para sistemas de seguimiento de daños más completos, en lugar de un catálogo definitivo.