Algorithmic Accountability Act américain (Proposé)

Resumen

La Algorithmic Accountability Act representa el intento más integral hasta la fecha de regular los sistemas automatizados de toma de decisiones en Estados Unidos. Presentada en 2023, esta legislación propuesta requeriría que las empresas que utilizan sistemas de IA de alto riesgo realicen evaluaciones de impacto detalladas, similares a los estudios de impacto ambiental. A diferencia de los marcos voluntarios o la autorregulación de la industria, este proyecto de ley crearía obligaciones legalmente vinculantes para la auditoría algorítmica, con facultades de aplicación otorgadas a la Federal Trade Commission. De aprobarse, cambiaría fundamentalmente la forma en que las empresas implementan la IA en áreas críticas como contratación, préstamos, atención médica y justicia penal.

El contexto: ¿Por qué ahora?

Este no es el primer intento de legislación sobre responsabilidad algorítmica en EE. UU. Se presentaron versiones anteriores en 2019 y 2022, pero no lograron avanzar. La versión de 2023 surge en un panorama radicalmente diferente: después de fallas de alto perfil en algoritmos de contratación, preocupaciones sobre el sesgo en el reconocimiento facial y el crecimiento explosivo de la IA generativa. Los patrocinadores del proyecto aprendieron de la implementación del GDPR en la UE y de las negociaciones del EU AI Act, elaborando requisitos más específicos y aplicables que los intentos anteriores.

El momento coincide con una creciente preocupación bipartidista sobre el impacto de la IA en los trabajadores y consumidores estadounidenses, lo que hace que esta versión tenga más probabilidades de avanzar que sus predecesoras.

Qué hace diferente a este enfoque de los existentes

• Fuerza legal sobre cumplimiento voluntario: A diferencia del NIST AI RMF o los principios de IA de las empresas, esto crea requisitos legales exigibles con supervisión de la FTC y autoridad para imponer sanciones.
• Enfoque en evaluaciones de impacto, no solo documentación: Las empresas deben realizar evaluaciones de impacto algorítmico que evalúen sesgo, precisión, equidad e implicaciones de privacidad, yendo más allá de los simples requisitos de divulgación.
• Definición amplia de sistemas cubiertos: El proyecto de ley se dirige a "sistemas automatizados de decisión" que "toman o facilitan decisiones humanas" que afectan a los consumidores, abarcando un espectro más amplio que las regulaciones específicas de IA de alcance limitado.
• Auditoría externa obligatoria: Los sistemas de alto riesgo requieren evaluaciones independientes de terceros, evitando que las empresas simplemente autocertifiquen su cumplimiento.

A quién está dirigido este recurso

• Los equipos legales y de cumplimiento en empresas que utilizan sistemas automatizados de toma de decisiones necesitan comprender las posibles obligaciones futuras y comenzar a preparar marcos de cumplimiento.
• Los profesionales de IA y científicos de datos que trabajan en sistemas que afectan contratación, préstamos, atención médica u otras decisiones críticas deben entender cómo sus decisiones técnicas podrían enfrentar escrutinio regulatorio.
• Los defensores de políticas públicas e investigadores que siguen los desarrollos en gobernanza de IA pueden usar esto como referencia sobre el estado actual de los esfuerzos de regulación federal de IA en EE. UU.
• Los equipos de adquisiciones y gestión de proveedores que evalúan herramientas y plataformas de IA necesitan evaluar si los proveedores cumplirían con los requisitos de responsabilidad propuestos.

Principales obstáculos de cumplimiento

• Definir "alto riesgo": El proyecto de ley establece criterios para sistemas de alto riesgo pero deja una interpretación significativa a la reglamentación de la FTC, creando incertidumbre para las empresas que intentan evaluar la cobertura.
• Disponibilidad de auditores externos: El requisito de evaluaciones independientes asume un mercado maduro de auditores algorítmicos calificados que aún no existe completamente.
• Estándares técnicos de evaluación: Si bien el proyecto de ley exige evaluaciones de impacto, no especifica metodologías, lo que podría llevar a enfoques inconsistentes entre empresas.
• Consideraciones para pequeñas empresas: La legislación incluye exenciones para entidades más pequeñas, pero los umbrales y definiciones siguen siendo poco claros.

Estado actual y cronograma

Hasta 2023, el proyecto de ley ha sido presentado en el Senado pero no ha recibido audiencias ni revisiones en comité. La actividad de política de IA en el Congreso sugiere un posible movimiento en 2024, pero la aprobación no está garantizada. Las empresas deben monitorear:

• Audiencias en comités y testimonios de expertos
• Períodos de retroalimentación de la industria
• Posibles enmiendas que aborden las preocupaciones empresariales
• Legislación complementaria en la Cámara de Representantes
• Proyectos de ley estatales sobre responsabilidad algorítmica que podrían crear complejidad en el cumplimiento

El cronograma de implementación del EU AI Act ofrece una vista previa de cómo las regulaciones de gobernanza algorítmica típicamente se implementan de forma gradual durante 2-4 años, dando a las empresas tiempo para preparar sistemas de cumplimiento.