Principios de inteligencia artificial de Pekín

Resumen

Los Principios de IA de Beijing se destacan como uno de los primeros marcos éticos integrales que abordan explícitamente los riesgos a largo plazo de la inteligencia artificial general (AGI) y la superinteligencia. Publicados en mayo de 2019 por la Academia de Inteligencia Artificial de Beijing, estos principios proporcionan un enfoque de ciclo de vida completo para la gobernanza de la IA, abarcando las fases de investigación, desarrollo y aplicación. A diferencia de muchos marcos éticos occidentales de IA que se centran principalmente en los sistemas actuales de IA estrecha, los Principios de Beijing adoptan una postura orientada al futuro, abordando escenarios en los que los sistemas de IA podrían eventualmente igualar o superar la inteligencia humana en todos los dominios.

La perspectiva china sobre la ética de la IA

Los Principios de IA de Beijing representan el enfoque único de China hacia la gobernanza de la IA, equilibrando el avance tecnológico con la responsabilidad social. Enfatizan el beneficio colectivo y la estabilidad social a largo plazo, reflejando las tradiciones filosóficas y de gobernanza chinas. Los principios hacen un llamado explícito a la cooperación internacional mientras mantienen que el desarrollo de la IA debe servir al bien común de la humanidad, una perspectiva que conecta las preocupaciones sobre derechos individuales comunes en los marcos occidentales con las consideraciones de bienestar colectivo prominentes en la formulación de políticas chinas.

Los diferenciadores clave respecto a los marcos occidentales incluyen:

• Enfoque explícito en prevenir que los sistemas de IA dañen la civilización humana
• Énfasis en mantener el control humano sobre las trayectorias de desarrollo de la IA
• Integración de consideraciones de riesgo existencial a largo plazo en la gobernanza actual
• Equilibrio entre la promoción de la innovación y las medidas precautorias

Por qué importan aquí la AGI y la superinteligencia

Lo que hace particularmente notable a los Principios de Beijing es su tratamiento serio de los riesgos avanzados de la IA. Mientras que la mayoría de los documentos de ética de IA de la era 2019 se enfocaban en el sesgo, la privacidad y la transparencia en los sistemas actuales, estos principios abordan explícitamente:

• Controlabilidad: Asegurar que los humanos mantengan el control a medida que avanzan las capacidades de la IA
• Decidibilidad: Mantener la agencia humana en decisiones críticas incluso con IA altamente capaz
• Confiabilidad: Construir salvaguardas robustas que funcionen en todos los niveles de capacidad
• Planificación a largo plazo: Establecer estructuras de gobernanza que puedan adaptarse a las capacidades de IA en rápida evolución

Este enfoque visionario ha demostrado ser profético dado el rápido avance en los modelos de lenguaje grandes y el creciente enfoque de la industria en el desarrollo de AGI desde 2019.

Desglose de los principios fundamentales

Fase de investigación y desarrollo:

• Desarrollo beneficioso que asegure que la IA sirva al bienestar humano
• Divulgación responsable de los hallazgos de investigación
• Cooperación internacional en investigación de seguridad
• Integración de evaluación de riesgos a largo plazo

Fase de aplicación:

• Diseño centrado en el humano que priorice la agencia del usuario
• Equidad y no discriminación en el despliegue
• Transparencia en las capacidades y limitaciones de los sistemas de IA
• Mecanismos de rendición de cuentas para la toma de decisiones de la IA

Fase de gobernanza:

• Regulación adaptativa que evolucione con la tecnología
• Colaboración entre múltiples partes interesadas a través de sectores
• Coordinación internacional en estándares y normas
• Monitoreo continuo del impacto social de la IA

Para quién es este recurso

• Investigadores y desarrolladores de IA que trabajan en sistemas avanzados de IA y necesitan directrices éticas que escalen con los niveles de capacidad
• Formuladores de políticas que desarrollan marcos de gobernanza de IA nacionales o regionales, particularmente aquellos interesados en la gestión de riesgos a largo plazo
• Organizaciones internacionales que trabajan en la coordinación de gobernanza global de IA y el establecimiento de estándares
• Equipos corporativos de ética de IA en empresas que desarrollan sistemas de IA cada vez más capaces
• Investigadores académicos que estudian enfoques comparativos de gobernanza de IA en diferentes contextos culturales y políticos
• Profesionales de gestión de riesgos enfocados en riesgos de tecnologías emergentes y planificación institucional a largo plazo

Guía práctica de implementación

Los Principios de Beijing están diseñados para ser operacionalizados en diferentes contextos organizacionales. Comience realizando una evaluación de capacidades de sus sistemas de IA actuales y mapeándolos a las categorías de principios relevantes. Para organizaciones de investigación, enfóquese en los componentes de desarrollo beneficioso y divulgación responsable. Para organizaciones enfocadas en el despliegue, enfatice el diseño centrado en el humano y los mecanismos de rendición de cuentas.

Considere establecer procesos de revisión interna que escalen con las capacidades del sistema de IA: los sistemas más avanzados deberían desencadenar revisiones éticas más exhaustivas. Los principios también sugieren desarrollar relaciones institucionales para el monitoreo y ajuste a largo plazo a medida que evolucionan las capacidades de la IA.

El énfasis en la cooperación internacional hace que estos principios sean particularmente valiosos para organizaciones que operan a través de fronteras o participan en esfuerzos globales de desarrollo de IA.