Órgano consultivo de alto nivel sobre la inteligencia artificial

Resumen

El Órgano Asesor de Alto Nivel sobre IA del Secretario General de las Naciones Unidas representa el intento más ambicioso hasta la fecha por crear un verdadero consenso global sobre gobernanza de IA. Lanzado en 2023 y presentando su informe final en 2024, este órgano de 39 miembros reunió una coalición sin precedentes de funcionarios gubernamentales, líderes tecnológicos, defensores de la sociedad civil y académicos de todo el mundo. A diferencia de las iniciativas típicas de la ONU que se centran en principios amplios, este órgano fue encargado específicamente de producir recomendaciones accionables para la coordinación internacional en IA, abordando desde estándares de seguridad hasta el acceso equitativo a los beneficios de la IA.

El desafío del consenso global

Crear acuerdos internacionales sobre gobernanza de IA enfrenta obstáculos únicos que este órgano asesor fue diseñado para abordar de frente. A diferencia del cambio climático o las armas nucleares, el desarrollo de IA está ocurriendo en tiempo real en decenas de países con filosofías regulatorias, capacidades técnicas e intereses económicos muy diferentes. El enfoque del órgano reconoció que la gobernanza efectiva de IA requiere más que simples acuerdos entre gobiernos. Necesita la aceptación del sector privado que desarrolla la tecnología, los grupos de la sociedad civil que representan a las comunidades afectadas y los expertos técnicos que comprenden las capacidades en rápida evolución.

La composición del órgano asesor refleja esta realidad, con miembros que incluyen exministros de gobierno, ejecutivos tecnológicos en activo, investigadores líderes en IA y representantes de naciones en desarrollo frecuentemente excluidas de las discusiones sobre gobernanza de IA dominadas por Estados Unidos, la UE y China.

Recomendaciones clave y marco de trabajo

El informe final del órgano asesor se centra en siete recomendaciones fundamentales que en conjunto forman lo que denominan un "Pacto Digital Global" para la IA:

• Arquitectura institucional: Establecimiento de un Panel Científico Internacional sobre IA (similar al IPCC para el clima) y un Marco Global de Gobernanza de IA que los países pueden adaptar a sus contextos específicos mientras mantienen compatibilidad internacional.
• Seguridad y gestión de riesgos: Desarrollo de estándares compartidos para pruebas de seguridad de IA, mecanismos de reporte de incidentes y respuestas coordinadas a riesgos relacionados con IA que cruzan fronteras.
• Desarrollo inclusivo: Medidas concretas para asegurar que las naciones en desarrollo puedan participar y beneficiarse del avance de la IA, incluyendo mecanismos de transferencia tecnológica y programas de desarrollo de capacidades.
• Integración de derechos humanos: Incorporación de consideraciones de derechos humanos en los procesos de desarrollo y despliegue de IA, con especial atención a la protección de poblaciones vulnerables.
• Gobernanza económica: Marco para abordar el impacto de la IA en los mercados laborales globales, el comercio y la desigualdad económica entre naciones con diferentes capacidades de IA.

Las recomendaciones evitan notablemente los estándares técnicos prescriptivos, enfocándose en cambio en mecanismos de gobernanza que pueden adaptarse conforme evoluciona la tecnología de IA.

Qué hace diferente a esta iniciativa

A diferencia de enfoques regionales como el EU AI Act o las estrategias nacionales, esta iniciativa diseñó explícitamente sus recomendaciones para funcionar en diferentes sistemas políticos, niveles de desarrollo económico y contextos culturales. El órgano asesor dedicó un esfuerzo significativo a lo que llaman "universalidad operacionalizable", creando principios lo suficientemente concretos para guiar decisiones de política reales, pero lo suficientemente flexibles para implementarse en docenas de contextos nacionales diferentes.

El órgano también se distinguió por interactuar directamente con la investigación en curso sobre seguridad de IA e incorporar aportes de expertos técnicos sobre riesgos emergentes, como el potencial de los sistemas avanzados de IA para desarrollar capacidades inesperadas o ser mal utilizados.

A quién está dirigido este recurso

• Funcionarios gubernamentales que desarrollan estrategias nacionales de IA encontrarán orientación detallada sobre mecanismos de coordinación internacional y plantillas para acuerdos de cooperación transfronteriza.
• Organizaciones internacionales que trabajan en gobernanza tecnológica pueden usar el marco como base para sus propias iniciativas relacionadas con IA y comprender cómo alinearse con los esfuerzos más amplios de gobernanza digital de la ONU.
• Investigadores de políticas públicas y think tanks que estudian gobernanza de IA se beneficiarán de la extensa documentación del proceso de consulta con partes interesadas y el análisis comparativo de diferentes enfoques regulatorios.
• Líderes del sector privado en empresas de desarrollo de IA pueden comprender las expectativas internacionales emergentes para el desarrollo responsable de IA y anticipar la futura coordinación regulatoria.
• Organizaciones de la sociedad civil que abogan por una IA responsable pueden referenciar el marco de derechos humanos y las recomendaciones de desarrollo inclusivo en su propia incidencia política.

Hoja de ruta de implementación

El órgano asesor no solo hizo recomendaciones. Proporcionó un cronograma específico para la implementación. Los próximos pasos inmediatos (2024-2025) se enfocan en establecer el Panel Científico Internacional sobre IA e iniciar programas piloto para los mecanismos de transferencia tecnológica. Los objetivos a mediano plazo (2025-2027) incluyen operacionalizar el Marco Global de Gobernanza de IA a través de acuerdos bilaterales y multilaterales. La visión a largo plazo (2027-2030) contempla un mecanismo de coordinación internacional funcional que pueda adaptarse a cualquier desarrollo de IA que surja.

Es importante destacar que la hoja de ruta reconoce que no todos los países avanzarán al mismo ritmo y proporciona mecanismos para que los adoptantes tempranos avancen mientras se mantienen las puertas abiertas para que otros se unan después.