VerifyWise asiste a la Cumbre de IA Generativa

El equipo de gobernanza de IA de código abierto de VerifyWise asistió a la Cumbre de IA Generativa del AI Accelerator Institute en Toronto esta semana. Fue un gran evento con una agenda completa.

¡Gracias a Tim Mitchell y al equipo por organizar un evento tan bien organizado!

Muchos líderes de la industria y de diversos sectores como Brijesh Mandan, Manav Gupta, Himanshu Joshi, Amna Jamal, Nassim Tayari, Parth Dave, Akash Sharma, Christie Mealo, Eli Goldberg, Rob Dunlop, Amit Satpathy, Helen Oakley y Amin Atashi compartieron sus perspectivas y sugerencias sobre cómo la IA generativa moldeará nuestro futuro.

Sus reflexiones sobre la gobernanza de IA y la inteligencia artificial generativa nos dieron mucho en qué pensar. Nos gustaría agradecerles por impulsar estas conversaciones.

Aquí hay algunas de las conclusiones de la cumbre:

Gobernanza

• La IA generativa presenta desafíos de gobernanza no triviales que necesitan una resolución cuidadosa.
• Los procesos de gobernanza a menudo avanzan lentamente, lo que complica la capacidad de abordar estos problemas de manera efectiva.
• Lograr un ROI positivo en IA generativa es difícil debido a las complejidades inherentes.
• Los sesgos en los datos son inevitables, lo que requiere que los modelos de lenguaje grande (LLMs) filtren y gestionen los sesgos de manera efectiva.

ROI y tendencias de inversión

• El ROI en IA generativa tiene un componente de serie temporal, lo que dificulta predecir el éxito.
• Se han invertido $250 mil millones en empresas relacionadas con IA, pero este capital tiende a moverse entre compañías.
• Una dura realidad es que muchas empresas de IA puede que nunca alcancen la rentabilidad.
• Los inversores de capital riesgo eventualmente pueden darse cuenta de que las oportunidades de salida son limitadas debido a la intensa competencia y los largos plazos.
• Construir una aplicación regulada y bien gobernada sin crear conflictos o "pisar los dedos" en la industria es particularmente desafiante.
• Al desarrollar IA generativa, comienza con el problema, no con la solución. Piensa a futuro planificando para 2 años en adelante.
• Comienza con un enfoque pequeño y centrado—una API simple o una interfaz de usuario mínima—y mejora de forma incremental.

Confianza y seguridad

• La IA generativa se siente como vivir en una realidad de ciencia ficción—muchas predicciones de hace 20 años ahora se están haciendo realidad.
• Sin embargo, la IA viene con problemas únicos como dependencias vulnerables, ataques de troyanos y manipulación de inferencias.
• Un marco adecuado de evaluación de riesgos para la IA generativa debería involucrar la identificación y evaluación de riesgos, la decisión de estrategias de mitigación y el monitoreo de riesgos a lo largo del tiempo.
• La IA generativa aumenta las superficies de ataque, lo que hace necesarias medidas de seguridad robustas.
• El concepto de AI Bill of Materials (AI-BOM) es crucial, enumerando las dependencias de software de terceros (ya que el 90% del software es de código abierto), información sobre modelos, conjuntos de datos y procesos de entrenamiento.