Riesgos de usar sistemas de terceros para la gobernanza de la IA

El Reglamento de IA de la UE impone una larga lista de requisitos de documentacion a los proveedores de IA de alto riesgo. En el momento en que guarda esos documentos en un SaaS de terceros, vienen con ellos varios problemas de privacidad y seguridad.

Como quienes construyen la plataforma de gobernanza de codigo disponible VerifyWise, y a partir de nuestro trabajo con plataformas locales dentro de empresas, hemos visto estos riesgos de cerca.

Asi es como entregar esa informacion a un sistema de terceros puede exponer propiedad intelectual sensible y secretos comerciales.

Divulgar documentacion tecnica sensible

El Reglamento de IA de la UE exige que los proveedores de alto riesgo creen y mantengan documentacion tecnica detallada. Eso abarca:

• Arquitectura del sistema y especificaciones de diseño
• Requisitos de datos y procedimientos de gobernanza
• Metodologias y tecnicas de desarrollo
• Metricas de rendimiento y resultados de pruebas

La mayoria de las empresas de IA de alto riesgo con requisitos estrictos de privacidad no divulgan publicamente esa informacion. Las instituciones financieras, las aseguradoras, los proveedores de salud y las telcos suelen usar plataformas autoalojadas e instaladas localmente para almacenar los datos relevantes.

Divulgar el registro de riesgos

Los proveedores tambien tienen que operar un sistema de gestion de riesgos y documentar:

• Identificacion y analisis de riesgos
• Estimacion y evaluacion de riesgos
• Medidas de control de riesgos

Esta documentacion tambien puede contener informacion sensible sobre las vulnerabilidades del sistema de la empresa y las estrategias de mitigacion.

Documentacion sobre datos de entrenamiento

El Reglamento tambien quiere registros detallados de sus conjuntos de datos de entrenamiento, validacion y prueba, incluidos:

• Fuentes y caracteristicas de los datos
• Tecnicas de preprocesamiento
• Procedimientos de etiquetado

Subir documentos con esta informacion podria arriesgar la exposicion de conjuntos de datos propietarios o de metodos de manejo de datos a plataformas SaaS de terceros.

Capacidades de registro de eventos

Los sistemas de IA de alto riesgo deben tener capacidades de registro para anotar eventos y decisiones. La documentacion de estas capacidades puede incluir:

• Tipos de datos registrados
• Politicas de almacenamiento y retencion
• Medidas de control de acceso

Esta informacion podria revelar las operaciones del sistema y las practicas de manejo de datos, lo que plantea riesgos al compartir documentos con un proveedor de gobernanza de IA de terceros. El riesgo se agrava cuando los empleados adoptan herramientas de IA sin aprobacion de TI, un problema que la deteccion de shadow AI esta disenada para atender, sacando a la luz el uso no autorizado a partir de los registros de red que ya tiene.

En las cuatro areas, subir esta documentacion a un SaaS de gobernanza de terceros puede exponer detalle operativo sensible, y eso puede ir erosionando la posicion competitiva de un proveedor de IA.

Hay tambien un filo mas afilado. Si la informacion llega a las manos equivocadas, puede usarse para atacar los puntos debiles del sistema de IA o de la forma en que la organizacion responde a los incidentes.

Para evitar que eso ocurra, los proveedores de alto riesgo deberian examinar a fondo la seguridad del proveedor SaaS, establecer controles de acceso estrictos y cifrar las partes mas sensibles de la documentacion. Tambien vale la pena considerar un montaje hibrido, manteniendo el material critico en las instalaciones locales y usando la plataforma SaaS solo para las piezas menos sensibles.

Como aborda esto VerifyWise

VerifyWise es de codigo disponible y se puede instalar en las instalaciones locales, lo que da a los proveedores de IA de alto riesgo algunas ventajas reales en privacidad y seguridad:

• Control de los datos: tiene la propiedad y el control totales sobre la documentacion y los datos sensibles. No hay necesidad de subir informacion critica a sistemas de terceros, lo que reduce el riesgo de acceso no autorizado o de violaciones de datos.

• Personalizacion e integracion: como tiene el codigo fuente completo, puede adaptar la plataforma a las necesidades especificas de la organizacion y a los requisitos de seguridad, e integrarla con la infraestructura de seguridad local existente.

• Menor exposicion de secretos comerciales: los detalles sensibles de su sistema de IA y sus algoritmos permanecen dentro de la organizacion, lo que reduce el riesgo de fuga de propiedad intelectual.

Operar la gobernanza en las instalaciones locales con codigo que puede leer atiende la mayoria de las preocupaciones de privacidad y seguridad que vienen con un SaaS de terceros. Mantiene un control mas estricto sobre sus datos e infraestructura y aun asi obtiene una forma estructurada de gobernar su IA.

Quiere ver como funciona esto en la practica? Agende una demostracion y se lo mostramos paso a paso.