El DoD adopta principios éticos para la inteligencia artificial

Resumen

En febrero de 2020, el U.S. Department of Defense se convirtió en una de las primeras organizaciones militares importantes a nivel mundial en adoptar formalmente principios éticos para el desarrollo y despliegue de IA. Esta política histórica establece cinco principios fundamentales (Responsable, Equitativo, Trazable, Confiable y Gobernable) que deben guiar todas las iniciativas de IA en las vastas operaciones del DoD. Los principios surgieron del extenso proceso de revisión del Defense Innovation Board y representan un cambio crítico hacia el uso responsable de la IA en contextos militares, sentando un precedente que ha influido en organizaciones de defensa a nivel global.

Los cinco pilares explicados

• Responsable: Las capacidades de IA deben desarrollarse y utilizarse con niveles apropiados de juicio y cuidado, asegurando que la responsabilidad humana siga siendo primordial en los procesos de toma de decisiones militares.
• Equitativo: Los sistemas de IA deben tener usos explícitos y bien definidos, y no deben diseñarse para dañar o engañar intencionalmente a los humanos. La mitigación de sesgos es esencial a lo largo del ciclo de vida del desarrollo.
• Trazable: El personal debe poseer una comprensión adecuada de las capacidades y limitaciones de la IA, con pistas de auditoría claras para las decisiones asistidas por IA, especialmente en escenarios de combate.
• Confiable: Los sistemas de IA deben funcionar según lo previsto en condiciones realistas y mantener un rendimiento consistente en diversos entornos operativos.
• Gobernable: Las capacidades de IA deben incorporar controles de seguridad por diseño y permitir la supervisión humana, incluyendo la capacidad de detectar, evitar y terminar comportamientos no deseados.

Qué hace diferente a este marco

A diferencia de los marcos de ética de IA civiles que se centran principalmente en la equidad y la transparencia, los principios del DoD abordan explícitamente los desafíos únicos del despliegue de IA militar. El marco reconoce que los sistemas de IA militares pueden necesitar operar en entornos disputados con amenazas adversarias, requieren tolerancias al riesgo diferentes a las aplicaciones comerciales, y deben mantener estructuras claras de autoridad de mando. Los principios también reconocen que la IA militar puede involucrar decisiones de vida o muerte, requiriendo una gobernanza más estricta que las aplicaciones empresariales típicas.

A quién está dirigido este recurso

• Contratistas y proveedores de defensa que desarrollan sistemas de IA para aplicaciones militares
• Profesionales de adquisiciones militares responsables de la contratación de tecnologías de IA
• Investigadores de IA de defensa que trabajan en capacidades de IA específicas para el ámbito militar
• Formuladores de políticas en naciones aliadas que desarrollan sus propios marcos de gobernanza de IA militar
• Oficiales de ética y equipos de cumplimiento dentro de organizaciones de defensa
• Investigadores académicos que estudian la ética y gobernanza de la IA militar
• Expertos en relaciones internacionales que analizan las tendencias de políticas de IA militar

Implementación en la práctica

Los principios sirven como orientación vinculante para todos los proyectos de IA del DoD, desde sistemas de armas autónomas hasta herramientas de optimización logística. Cada sistema de IA debe someterse a una evaluación contra los cinco principios antes de su despliegue. El DoD ha establecido juntas de revisión en múltiples niveles para evaluar el cumplimiento, y los contratistas deben demostrar adhesión a estos principios en sus propuestas y entregables.

Los mecanismos clave de implementación incluyen capacitación obligatoria en ética para los equipos de desarrollo de IA, protocolos de prueba estandarizados para la evaluación de confiabilidad de la IA, y requisitos de IA explicable en sistemas críticos de apoyo a la toma de decisiones. Los principios también se han integrado en las directrices de adquisición de IA del DoD y en los marcos de gestión de programas.

Influencia y adopción global

Desde la adopción por parte del DoD, NATO ha incorporado principios similares en su estrategia de IA, y varias naciones aliadas han referenciado estos principios al desarrollar sus propias políticas de IA militar. El marco se ha convertido en un punto de referencia para la gobernanza de IA militar, influyendo en las discusiones en foros internacionales sobre sistemas de armas autónomas y acuerdos de cooperación en IA militar.

Conceptos erróneos comunes

• "Estos principios prohíben las armas autónomas letales": Los principios no prohíben explícitamente las armas autónomas, pero requieren supervisión humana y responsabilidad para su uso.
• "Esto aplica solo a sistemas de combate": Los principios rigen todas las aplicaciones de IA del DoD, incluyendo funciones administrativas, logísticas y de apoyo.
• "El cumplimiento es opcional": Estos son principios obligatorios que deben incorporarse en todos los proyectos de IA del DoD y acuerdos con contratistas.