El equipo de gobernanza de IA de c贸digo abierto de VerifyWise asisti贸 a la Cumbre de IA Generativa del AI Accelerator Institute en Toronto esta semana. Fue un gran evento con una agenda completa.
隆Gracias a Tim Mitchell y al equipo por organizar un evento tan bien organizado!
Muchos l铆deres de la industria y de diversos sectores como Brijesh Mandan, Manav Gupta, Himanshu Joshi, Amna Jamal, Nassim Tayari, Parth Dave, Akash Sharma, Christie Mealo, Eli Goldberg, Rob Dunlop, Amit Satpathy, Helen Oakley y Amin Atashi compartieron sus perspectivas y sugerencias sobre c贸mo la IA generativa moldear谩 nuestro futuro.
Sus reflexiones sobre la gobernanza de IA y la inteligencia artificial generativa nos dieron mucho en qu茅 pensar. Nos gustar铆a agradecerles por impulsar estas conversaciones.
Aqu铆 hay algunas de las conclusiones de la cumbre:
Gobernanza
- La IA generativa presenta desaf铆os de gobernanza no triviales que necesitan una resoluci贸n cuidadosa.
- Los procesos de gobernanza a menudo avanzan lentamente, lo que complica la capacidad de abordar estos problemas de manera efectiva.
- Lograr un ROI positivo en IA generativa es dif铆cil debido a las complejidades inherentes.
- Los sesgos en los datos son inevitables, lo que requiere que los modelos de lenguaje grande (LLMs) filtren y gestionen los sesgos de manera efectiva.
ROI y tendencias de inversi贸n
- El ROI en IA generativa tiene un componente de serie temporal, lo que dificulta predecir el 茅xito.
- Se han invertido $250 mil millones en empresas relacionadas con IA, pero este capital tiende a moverse entre compa帽铆as.
- Una dura realidad es que muchas empresas de IA puede que nunca alcancen la rentabilidad.
- Los inversores de capital riesgo eventualmente pueden darse cuenta de que las oportunidades de salida son limitadas debido a la intensa competencia y los largos plazos.
- Construir una aplicaci贸n regulada y bien gobernada sin crear conflictos o "pisar los dedos" en la industria es particularmente desafiante.
- Al desarrollar IA generativa, comienza con el problema, no con la soluci贸n. Piensa a futuro planificando para 2 a帽os en adelante.
- Comienza con un enfoque peque帽o y centrado鈥攗na API simple o una interfaz de usuario m铆nima鈥攜 mejora de forma incremental.
Confianza y seguridad
- La IA generativa se siente como vivir en una realidad de ciencia ficci贸n鈥攎uchas predicciones de hace 20 a帽os ahora se est谩n haciendo realidad.
- Sin embargo, la IA viene con problemas 煤nicos como dependencias vulnerables, ataques de troyanos y manipulaci贸n de inferencias.
- Un marco adecuado de evaluaci贸n de riesgos para la IA generativa deber铆a involucrar la identificaci贸n y evaluaci贸n de riesgos, la decisi贸n de estrategias de mitigaci贸n y el monitoreo de riesgos a lo largo del tiempo.
- La IA generativa aumenta las superficies de ataque, lo que hace necesarias medidas de seguridad robustas.
- El concepto de AI Bill of Materials (AI-BOM) es crucial, enumerando las dependencias de software de terceros (ya que el 90% del software es de c贸digo abierto), informaci贸n sobre modelos, conjuntos de datos y procesos de entrenamiento.