Divulgations de systèmes IA

Resumen

El marco de políticas de Divulgaciones de Sistemas de IA de la NTIA aborda uno de los desafíos más complejos de la gobernanza de IA: cómo hacer transparentes los sistemas de IA sin revelar secretos comerciales ni crear vulnerabilidades de seguridad. Este recurso presenta un enfoque de doble vía para la divulgación: informes confidenciales a los reguladores y mecanismos de transparencia pública estandarizados, incluyendo el concepto innovador de "etiquetas nutricionales" de IA. A diferencia de otros marcos de transparencia que se centran principalmente en la documentación, esta política equilibra explícitamente la rendición de cuentas pública con los intereses comerciales legítimos, ofreciendo vías prácticas tanto para regímenes de divulgación obligatorios como voluntarios.

El Modelo de Divulgación de Doble Vía

El marco distingue entre dos flujos de divulgación complementarios:

• Informes Regulatorios Confidenciales permite a las empresas proporcionar detalles técnicos sensibles sobre sistemas de IA directamente a las autoridades gubernamentales sin exposición pública. Esto incluye datos de entrenamiento propietarios, procesos algorítmicos detallados, vulnerabilidades de seguridad e inteligencia competitiva que podrían ser perjudiciales si se divulgaran públicamente.
• Mecanismos de Transparencia Pública se enfocan en la información que los usuarios, investigadores y la sociedad civil necesitan para comprender las capacidades, limitaciones e impactos potenciales de los sistemas de IA. Esto incluye métricas de rendimiento, límites de casos de uso, fuentes de datos (en términos generales) y riesgos o sesgos conocidos.

Este enfoque dual reconoce que la gobernanza efectiva de IA requiere diferentes tipos de información para diferentes partes interesadas: los reguladores necesitan profundidad técnica para la supervisión, mientras que el público necesita información accesible y estandarizada para la toma de decisiones informada.

Etiquetas Nutricionales de IA: La Estandarización en Acción

La contribución más innovadora de la política es el concepto de "etiquetas nutricionales" de IA: formatos de divulgación estandarizados y comparables que presentan información clave del sistema de IA de manera accesible. Así como las etiquetas de alimentos permiten a los consumidores comparar productos de diferentes fabricantes utilizando métricas consistentes, las etiquetas nutricionales de IA permitirían a las partes interesadas evaluar diferentes sistemas de IA utilizando categorías estandarizadas.

Estas etiquetas incluirían secciones estandarizadas para:

• Casos de uso previstos y limitaciones explícitas
• Métricas de rendimiento entre diferentes grupos demográficos
• Características de los datos de entrenamiento sin revelar fuentes propietarias
• Riesgos conocidos y estrategias de mitigación
• Impacto ambiental del entrenamiento y despliegue
• Requisitos y capacidades de supervisión humana

El aspecto de estandarización es crucial: previene la situación actual donde cada empresa crea su propio formato de divulgación, haciendo casi imposible una comparación significativa.

Vías de Implementación

El marco reconoce que los requisitos de divulgación pueden surgir a través de múltiples vías regulatorias. Las agencias federales podrían implementar reglas de divulgación específicas por sector, los estados podrían requerir divulgaciones para sistemas de IA utilizados en ciertos contextos, y la industria podría adoptar estándares voluntarios que posteriormente se conviertan en expectativas regulatorias.

La política sugiere comenzar con aplicaciones de alto riesgo (salud, justicia penal, empleo) y expandirse gradualmente a otros dominios a medida que las prácticas de divulgación maduren. También enfatiza la importancia de la coordinación internacional para prevenir la fragmentación regulatoria que podría socavar tanto la innovación como la rendición de cuentas.

Para Quién Es Este Recurso

• Formuladores de políticas que desarrollan regulaciones de transparencia de IA y necesitan marcos prácticos que equilibren intereses en competencia mientras permanezcan aplicables y técnicamente viables.
• Empresas de IA que buscan enfoques proactivos hacia la transparencia que puedan satisfacer las demandas de las partes interesadas mientras protegen intereses comerciales legítimos, particularmente aquellas que anticipan requisitos de divulgación.
• Agencias regulatorias a nivel federal, estatal y local que necesitan enfoques estructurados para la supervisión de IA que puedan escalar a través de diferentes contextos técnicos y niveles de riesgo.
• Organizaciones de la sociedad civil e investigadores que abogan por la transparencia de IA y quieren comprender mecanismos de política viables y contribuir a los esfuerzos de estandarización.
• Organismos regulatorios internacionales que buscan modelos que puedan informar marcos globales de gobernanza de IA y cooperación transfronteriza en estándares de divulgación.

Qué Hace Diferente a Este Recurso

A diferencia de los marcos de transparencia que tratan la divulgación como binaria (divulgado o no), esta política reconoce la divulgación como un espectro donde diferentes audiencias necesitan diferentes tipos de información. También es singularmente práctica en su reconocimiento de que los enfoques puramente voluntarios a menudo fallan en crear una transparencia integral, mientras que los enfoques puramente obligatorios pueden sofocar la innovación o impulsar la actividad al extranjero.

El concepto de etiqueta nutricional se inspira en precedentes exitosos de otras industrias, lo que hace más probable que logre viabilidad política y comprensión pública. Lo más importante es que el marco proporciona vías concretas para la implementación en lugar de solo principios de alto nivel, haciéndolo inmediatamente accionable para los formuladores de políticas.