Declaración de Toronto sobre el aprendizaje automático y los derechos humanos

Resumen

La Declaración de Toronto se destaca como la primera declaración importante de la sociedad civil que aborda específicamente los derechos humanos en la era del aprendizaje automático. Nacida de una colaboración entre Amnistía Internacional y Access Now, esta declaración de 2018 no solo plantea preocupaciones, sino que proporciona un marco concreto para garantizar que los sistemas de IA respeten los derechos humanos fundamentales. A diferencia de las iniciativas lideradas por gobiernos o la autorregulación de la industria, esta declaración surge de la sociedad civil, ofreciendo una perspectiva orientada a la incidencia que enfatiza la rendición de cuentas y la justicia por encima del cumplimiento técnico.

La diferencia de la sociedad civil

Lo que hace única a la Declaración de Toronto es su origen y enfoque. Mientras que la mayoría de los marcos de gobernanza de IA provienen de gobiernos, organismos de normalización o empresas tecnológicas, esta declaración representa la voz colectiva de organizaciones de derechos humanos de todo el mundo. No se preocupa por la ventaja competitiva o el cumplimiento normativo. Se centra directamente en proteger a las personas del daño algorítmico.

La declaración adopta un enfoque basado en derechos, fundamentando sus recomendaciones en el derecho internacional de los derechos humanos establecido en lugar de crear nuevos principios desde cero. Esta conexión con marcos legales existentes le otorga tanto autoridad moral como una base práctica en décadas de jurisprudencia de derechos humanos.

Derechos humanos fundamentales en juego

La declaración identifica cuatro derechos fundamentales amenazados por los sistemas de aprendizaje automático:

• Derecho a la igualdad y la no discriminación: Va más allá de la simple detección de sesgos para exigir medidas proactivas que aseguren que los sistemas de ML no perpetúen ni amplifiquen las desigualdades sociales existentes. Esto incluye la discriminación interseccional que afecta a personas con múltiples identidades marginalizadas.
• Derecho a la privacidad: Aborda tanto la privacidad de los datos como el concepto más amplio de autodeterminación informativa. La declaración argumenta que la privacidad no se trata solo de protección de datos. Se trata de mantener la autonomía humana en un mundo algorítmico.
• Derecho al debido proceso: Enfatiza que las personas afectadas por decisiones algorítmicas deben tener oportunidades significativas para comprender, impugnar y apelar esas decisiones. Esto va mucho más allá de los simples requisitos de "explicabilidad".
• Derecho a un recurso efectivo: Insiste en que cuando los sistemas de ML causan daño, las personas deben tener acceso a una reparación significativa, no solo correcciones técnicas, sino una rendición de cuentas genuina y compensación cuando corresponda.

Para quién es este recurso

• Organizaciones de la sociedad civil que abogan por una IA responsable encontrarán que esta declaración proporciona tanto fundamentos filosóficos como argumentos prácticos para interactuar con responsables de políticas y empresas tecnológicas.
• Responsables de políticas pueden usar este marco para comprender cómo las obligaciones de derechos humanos existentes se aplican a los nuevos sistemas de IA, ayudando a cerrar la brecha entre los marcos tradicionales de derechos y las tecnologías emergentes.
• Profesionales de ética en empresas tecnológicas se beneficiarán de la perspectiva externa de la declaración sobre los impactos de la IA, especialmente al construir incidencia interna para protecciones de derechos humanos más sólidas.
• Profesionales del derecho que trabajan en gobernanza de IA pueden usar el fundamento de la declaración en el derecho de los derechos humanos establecido para fortalecer argumentos sobre la rendición de cuentas y los recursos en materia de IA.
• Investigadores que estudian los impactos de la IA en la sociedad encontrarán útil la declaración para comprender cómo los marcos de derechos humanos pueden aplicarse para evaluar sistemas algorítmicos.

Cómo poner esto en práctica

Comience usando el marco de la declaración para auditar los sistemas de IA existentes. Para cada sistema, pregunte: ¿Respeta la igualdad? ¿Protege la privacidad? ¿Pueden las personas impugnar significativamente las decisiones? ¿Existe un recurso efectivo para el daño?

La declaración funciona particularmente bien como herramienta de incidencia. Sus orígenes en la sociedad civil y su fundamento en derechos humanos le otorgan credibilidad al interactuar con partes interesadas escépticas que podrían desestimar la autorregulación de la industria o los marcos académicos.

Considere combinar la Declaración de Toronto con marcos más técnicos como el NIST AI RMF o las evaluaciones de impacto algorítmico. La declaración proporciona el "por qué" (protección de derechos humanos) mientras que los marcos técnicos proporcionan el "cómo" (pasos específicos de implementación).

Use la declaración para interactuar con las comunidades afectadas. Su énfasis en la participación significativa y los recursos la convierte en un punto de partida natural para procesos de gobernanza de IA inclusivos.

Preguntas frecuentes

¿Es esto legalmente vinculante?

• ¿Cómo se relaciona esto con el EU AI Act u otras regulaciones de IA? ¿Pueden las empresas usar esto para propósitos de cumplimiento?
• ¿Cómo mido el éxito usando este marco?