Principes de confiance et de transparence d'IBM

Résumé

Les principes de confiance et de transparence d'IBM, lancés en 2018, représentent l'un des premiers cadres éthiques complets en matière d'IA d'une grande entreprise technologique. Ces principes établissent la position d'IBM selon laquelle l'IA devrait être conçue pour augmenter plutôt que remplacer la prise de décision humaine, avec un fort accent sur l'explicabilité et le contrôle des utilisateurs sur les données. Ce qui distingue ces principes est leur concentration sur les applications commerciales pratiques - ce ne sont pas des théories académiques mais des lignes directrices nées de l'expérience réelle d'IBM dans le déploiement de systèmes d'IA dans des industries comme la santé, la finance et la fabrication.

Les trois principes fondamentaux

• IA orientée vers un objectif : Le premier principe d'IBM affirme que l'IA devrait augmenter l'intelligence humaine, pas remplacer le jugement humain. Cela signifie que les systèmes d'IA devraient améliorer les capacités humaines et fournir des insights qui aident les gens à prendre de meilleures décisions, plutôt que de prendre des décisions de manière autonome sans supervision humaine.
• Droits et propriété des données : Le cadre établit que les données et insights appartiennent à leur créateur. Les utilisateurs maintiennent la propriété et le contrôle sur leurs données, avec une transparence claire sur la façon dont elles sont utilisées, stockées et traitées. C'était révolutionnaire en 2018 quand la propriété des données était moins clairement définie dans les politiques d'entreprise.
• Transparence et explicabilité : Peut-être l'aspect le plus influent, IBM s'engage à rendre les systèmes d'IA interprétables et leurs processus de prise de décision compréhensibles pour les utilisateurs. Cela signifie s'éloigner de l'IA « boîte noire » vers des systèmes qui peuvent expliquer leur raisonnement en termes compréhensibles par les humains.

Pourquoi l'approche d'IBM est importante

Les principes d'IBM ont émergé pendant une période critique où l'IA se développait rapidement dans les environnements d'entreprise mais les cadres éthiques étaient en retard. Contrairement aux approches purement académiques, ces principes reflètent les réalités du déploiement de l'IA dans des industries réglementées où l'auditabilité et la responsabilité sont essentielles.

Le cadre a influencé les normes de l'industrie et la réflexion réglementaire à l'échelle mondiale. L'accent d'IBM sur l'IA explicable, par exemple, est devenu une exigence fondamentale dans les applications d'IA des services financiers et de la santé. Les principes ont également anticipé de nombreuses exigences qui sont apparues plus tard dans des réglementations comme le Règlement européen sur l'IA.

À qui s'adresse cette ressource

• Équipes IA d'entreprise construisant ou déployant des systèmes d'IA qui ont besoin de lignes directrices éthiques pratiques équilibrant innovation et responsabilité. Particulièrement précieux pour les équipes dans les industries réglementées où l'explicabilité est cruciale.
• Directeurs de l'IA et responsables de la gouvernance de l'IA établissant des politiques éthiques organisationnelles en matière d'IA. Le cadre d'IBM fournit un modèle éprouvé qui a été testé dans des environnements commerciaux réels dans plusieurs industries.
• Équipes d'approvisionnement et de gestion des fournisseurs évaluant les solutions d'IA. Ces principes offrent une référence pour évaluer si les fournisseurs potentiels d'IA ont des cadres éthiques robustes en place.
• Équipes réglementaires et de conformité dans les organisations utilisant les services d'IA d'IBM ou des outils d'IA d'entreprise similaires, qui ont besoin de comprendre les engagements éthiques sous-jacents à leur pile technologique.

Mise en pratique des principes

Les principes s'accompagnent de conseils pratiques de mise en œuvre qu'IBM a affinés au fil des années de déploiement en entreprise. Les domaines clés de mise en œuvre incluent l'établissement de comités de révision de l'IA, la création d'exigences d'explicabilité pour les modèles d'IA, la mise en œuvre de cadres de gouvernance des données qui respectent la propriété des utilisateurs, et la construction de pistes d'audit pour la prise de décision par l'IA.

IBM fournit des outils et méthodologies spécifiques pour soutenir ces principes, notamment leur boîte à outils AI Explainability 360 et Watson OpenScale pour surveiller les systèmes d'IA en production. L'entreprise a également publié des études de cas montrant comment ces principes s'appliquent dans différents contextes industriels.

Points d'attention

Bien que complets, ces principes ont été développés principalement pour des contextes B2B d'entreprise. Les organisations déployant de l'IA orientée consommateur ou travaillant dans des domaines émergents comme l'IA générative peuvent avoir besoin de compléter ces principes avec des considérations supplémentaires.

Le cadre reflète également le modèle commercial et l'approche technique d'IBM vers 2018. À mesure que la technologie et les cas d'utilisation de l'IA ont évolué, certaines interprétations peuvent nécessiter une mise à jour - particulièrement concernant la propriété des données à l'ère des grands modèles de langage et de la génération de données synthétiques.