Una taxonomía colaborativa y centrada en el ser humano de los daños de la IA, los algoritmos y la automatización

Resumen

Esta investigación pionera aborda una brecha crítica en la gobernanza de IA: ¿cómo categorizamos sistemáticamente los daños reales que ocurren con los sistemas de IA? En lugar de especulación teórica, esta taxonomía se construye a partir de más de 10,000 casos documentados del mundo real sobre daños causados por IA, algoritmos y automatización, recopilados de reportajes de medios globales, investigación académica y documentos legales. Los investigadores adoptaron un enfoque centrado en las personas, enfocándose en cómo la gente realmente experimenta el daño en lugar de en los modos de falla técnica. El resultado es un sistema de clasificación práctico que abarca desde el sesgo en reconocimiento facial hasta la desinformación generada por IA, proporcionando un lenguaje común para discutir los riesgos de IA entre disciplinas y jurisdicciones.

Qué diferencia a esta taxonomía de las existentes

La mayoría de los marcos de riesgo de IA se construyen de arriba hacia abajo, con expertos haciendo conjeturas fundamentadas sobre posibles daños. Esta taxonomía invierte ese enfoque comenzando con evidencia documentada de daños reales. Los investigadores analizaron miles de casos reales para identificar patrones en cómo los sistemas de IA realmente perjudican a las personas, no solo cómo podrían hacerlo.

Diferenciadores clave:

• Base fundamentada en evidencia: Construida a partir de más de 10,000 casos de daño documentados en lugar de escenarios teóricos
• Perspectiva centrada en las personas: Categoriza los daños según el impacto humano en lugar de tipos de falla técnica
• Alcance global: Incluye casos de diversas jurisdicciones y contextos culturales
• Cobertura de tecnología actual: Incorpora riesgos emergentes de IA generativa, reconocimiento de emociones y otros desarrollos recientes
• Metodología colaborativa: Desarrollada mediante aportaciones de múltiples partes interesadas en lugar de paneles exclusivos de expertos

La taxonomía también aborda explícitamente las limitaciones de los sistemas existentes que frecuentemente pasan por alto los daños interseccionales, los impactos sistémicos y las experiencias vividas por las comunidades afectadas.

Estructura central y categorías

La taxonomía organiza los daños de IA en una estructura jerárquica que va desde áreas de impacto amplias hasta tipos de daño específicos. Este enfoque multinivel permite a los usuarios acercar o alejar la perspectiva según sus necesidades: los responsables de políticas pueden trabajar a alto nivel mientras que los equipos de respuesta a incidentes necesitan categorías granulares.

Las dimensiones primarias incluyen:

• Daños individuales vs. colectivos
• Impactos directos vs. indirectos
• Consecuencias inmediatas vs. a largo plazo
• Tipos de daño físico, psicológico, económico y social
• Las categorías de daño emergentes que la investigación identifica incluyen:
• Manipulación de medios sintéticos y abuso de deepfakes
• Desinformación generada por IA a escala
• Violaciones de privacidad por reconocimiento de emociones
• Sesgo en moderación automatizada de contenido
• Problemas de derechos de autor y consentimiento con IA generativa

La taxonomía está diseñada como un documento vivo que puede evolucionar a medida que nuevos tipos de sistemas de IA crean nuevas categorías de daño.

A quién está dirigido este recurso

Audiencias primarias:

• Equipos de gobernanza de IA que desarrollan procesos internos de monitoreo y respuesta ante daños
• Responsables de políticas y reguladores que crean marcos de supervisión de IA y necesitan categorías estandarizadas de daño
• Investigadores de seguridad en IA que estudian impactos reales de IA en lugar de riesgos teóricos
• Profesionales del derecho que trabajan en casos de responsabilidad por IA y necesitan clasificación consistente de daños
• Periodistas y organizaciones de la sociedad civil que investigan y reportan sobre incidentes de IA

Audiencias secundarias:

• Equipos de producto que construyen sistemas de IA y quieren entender posibles impactos negativos
• Compañías de seguros que desarrollan cobertura de responsabilidad por IA
• Investigadores académicos que estudian la rendición de cuentas algorítmica
• Organizaciones internacionales que trabajan en estándares de gobernanza de IA

Esto es particularmente valioso para organizaciones que necesitan ir más allá de discusiones vagas sobre "riesgos de IA" hacia categorías específicas y accionables de daño que pueden medirse, monitorearse y abordarse.

Cómo poner la taxonomía en práctica

• Para respuesta a incidentes: Use el sistema de clasificación para categorizar reportes de daños por IA de manera consistente en toda su organización. Esto permite mejor seguimiento de patrones de daño y estrategias de mitigación más focalizadas.
• Para evaluación de riesgos: Mapee sus sistemas de IA contra las categorías de daño para identificar posibles impactos negativos que podría haber pasado por alto en evaluaciones de riesgo tradicionales enfocadas en fallas técnicas.
• Para desarrollo de políticas: Referencie la taxonomía al crear políticas de gobernanza de IA para asegurar que está abordando el espectro completo de daños documentados, no solo los más obvios.
• Para investigación y monitoreo: Use las categorías como marco para recopilar y analizar sistemáticamente casos de daño por IA en su sector o jurisdicción.

Los investigadores proporcionan definiciones detalladas y ejemplos para cada categoría, haciendo práctico capacitar a los equipos en enfoques de clasificación consistentes.

Metodología de investigación y limitaciones

El estudio empleó un enfoque de métodos mixtos combinando análisis cuantitativo de casos de daño con aportes cualitativos de comunidades afectadas y expertos en el dominio. Los casos se obtuvieron de literatura académica, reportajes de noticias, expedientes legales y documentación de organizaciones de defensa de derechos, abarcando múltiples idiomas y regiones.

Limitaciones clave a considerar:

• Sesgo de reporte: Los casos que llegan a la documentación pública pueden no representar el espectro completo de daños por IA
• Contexto cultural: Algunos tipos de daño pueden reportarse o reconocerse más fácilmente en ciertas jurisdicciones
• Panorama en rápida evolución: Las nuevas tecnologías de IA crean nuevas categorías de daño más rápido de lo que pueden estudiarse sistemáticamente
• Desafíos de definición: Determinar qué constituye "daño por IA" vs. problemas tecnológicos o sociales más amplios requiere juicios de valor

Los investigadores reconocen estas limitaciones y posicionan la taxonomía como un punto de partida para sistemas de seguimiento de daños más completos, en lugar de un catálogo definitivo.