El equipo de gobernanza de IA de código abierto de VerifyWise asistió a la Cumbre de IA Generativa del AI Accelerator Institute en Toronto esta semana. Fue un gran evento con una agenda completa.
¡Gracias a Tim Mitchell y al equipo por organizar un evento tan bien organizado!
Muchos líderes de la industria y de diversos sectores como Brijesh Mandan, Manav Gupta, Himanshu Joshi, Amna Jamal, Nassim Tayari, Parth Dave, Akash Sharma, Christie Mealo, Eli Goldberg, Rob Dunlop, Amit Satpathy, Helen Oakley y Amin Atashi compartieron sus perspectivas y sugerencias sobre cómo la IA generativa moldeará nuestro futuro.
Sus reflexiones sobre la gobernanza de IA y la inteligencia artificial generativa nos dieron mucho en qué pensar. Nos gustaría agradecerles por impulsar estas conversaciones.
Aquí hay algunas de las conclusiones de la cumbre:
Gobernanza
- La IA generativa presenta desafíos de gobernanza no triviales que necesitan una resolución cuidadosa.
- Los procesos de gobernanza a menudo avanzan lentamente, lo que complica la capacidad de abordar estos problemas de manera efectiva.
- Lograr un ROI positivo en IA generativa es difícil debido a las complejidades inherentes.
- Los sesgos en los datos son inevitables, lo que requiere que los modelos de lenguaje grande (LLMs) filtren y gestionen los sesgos de manera efectiva.
ROI y tendencias de inversión
- El ROI en IA generativa tiene un componente de serie temporal, lo que dificulta predecir el éxito.
- Se han invertido $250 mil millones en empresas relacionadas con IA, pero este capital tiende a moverse entre compañías.
- Una dura realidad es que muchas empresas de IA puede que nunca alcancen la rentabilidad.
- Los inversores de capital riesgo eventualmente pueden darse cuenta de que las oportunidades de salida son limitadas debido a la intensa competencia y los largos plazos.
- Construir una aplicación regulada y bien gobernada sin crear conflictos o "pisar los dedos" en la industria es particularmente desafiante.
- Al desarrollar IA generativa, comienza con el problema, no con la solución. Piensa a futuro planificando para 2 años en adelante.
- Comienza con un enfoque pequeño y centrado—una API simple o una interfaz de usuario mínima—y mejora de forma incremental.
Confianza y seguridad
- La IA generativa se siente como vivir en una realidad de ciencia ficción—muchas predicciones de hace 20 años ahora se están haciendo realidad.
- Sin embargo, la IA viene con problemas únicos como dependencias vulnerables, ataques de troyanos y manipulación de inferencias.
- Un marco adecuado de evaluación de riesgos para la IA generativa debería involucrar la identificación y evaluación de riesgos, la decisión de estrategias de mitigación y el monitoreo de riesgos a lo largo del tiempo.
- La IA generativa aumenta las superficies de ataque, lo que hace necesarias medidas de seguridad robustas.
- El concepto de AI Bill of Materials (AI-BOM) es crucial, enumerando las dependencias de software de terceros (ya que el 90% del software es de código abierto), información sobre modelos, conjuntos de datos y procesos de entrenamiento.