VerifyWise participe au Generative AI Summit

L'equipe de gouvernance de l'IA de VerifyWise a participe au Generative AI Summit de l'AI Accelerator Institute a Toronto cette semaine. Ce fut un excellent evenement avec un programme complet.

Merci a Tim Mitchell et a l'equipe pour avoir organise un evenement remarquable !

De nombreux leaders de l'industrie et du secteur tels que Brijesh Mandan, Manav Gupta, Himanshu Joshi, Amna Jamal, Nassim Tayari, Parth Dave, Akash Sharma, Christie Mealo, Eli Goldberg, Rob Dunlop, Amit Satpathy, Helen Oakley et Amin Atashi ont partage leurs perspectives et suggestions sur la facon dont l'IA generative va faconner notre avenir.

Leurs reflexions sur la gouvernance de l'IA et l'IA generative nous ont donne beaucoup a reflechir. Nous tenons a les remercier de faire avancer ces conversations.

Voici quelques points cles du sommet :

Gouvernance

• L'IA generative presente des defis de gouvernance non triviaux qui necessitent une resolution attentive.
• Les processus de gouvernance evoluent souvent lentement, compliquant la capacite a traiter ces enjeux efficacement.
• Atteindre un ROI positif avec l'IA generative est difficile en raison des complexites inherentes.
• Les biais de donnees sont inevitables, ce qui exige que les grands modeles de langage (LLM) filtrent et gerent les biais efficacement.

ROI et tendances d'investissement

• Le ROI de l'IA generative comporte une composante temporelle, rendant le succes plus difficile a predire.
• 250 milliards de dollars ont ete investis dans des projets lies a l'IA, mais ce capital tend a se deplacer entre les entreprises.
• Une realite difficile est que de nombreuses entreprises d'IA pourraient ne jamais atteindre la rentabilite.
• Les investisseurs en capital-risque pourraient finalement realiser que les opportunites de sortie sont limitees en raison de la concurrence intense et des delais longs.
• Construire une application reglementee et bien gouvernee sans creer de conflits dans l'industrie est particulierement difficile.
• Lors du developpement de l'IA generative, commencez par le probleme, pas par la solution. Anticipez en planifiant pour les 2 prochaines annees.
• Commencez avec une approche reduite et ciblee — une API simple ou une interface utilisateur minimale — et ameliorez progressivement.

Confiance et securite

• L'IA generative donne l'impression de vivre dans une realite de science-fiction — de nombreuses predictions d'il y a 20 ans se realisent maintenant.
• Cependant, l'IA s'accompagne de problemes uniques comme les dependances vulnerables, les attaques de type cheval de Troie et la manipulation d'inference.
• Un cadre d'evaluation des risques adapte a l'IA generative devrait impliquer l'identification et l'evaluation des risques, la definition de strategies d'attenuation et la surveillance des risques dans le temps.
• L'IA generative augmente les surfaces d'attaque, necessitant des mesures de securite robustes.
• Le concept de nomenclature des composants d'IA (AI-BOM) est crucial, repertoriant les dependances logicielles tierces (puisque 90 % des logiciels sont open source), les informations sur les modeles, les jeux de donnees et les processus d'entrainement.