Principios de confiance et de Transparencia d'IBM

Resumen

Les Principios de confiance et de Transparencia d'IBM, lancés en 2018, représentent l'un des premiers marcos Eticas complets en matière d'IA d'une grande empresa technologique. Ces Principios établissent la position d'IBM selon laquelle l'IA devrait être conçue pour augmenter plutôt que remplacer la prise de decision humaine, avec un fort accent sur l'explicabilidad et le control des utilisateurs sur les datos. Ce qui distingue ces Principios est leur concentration sur les applications commerciales pratiques - ce ne sont pas des théories Academicos mais des directrices nées de l'expérience réelle d'IBM dans le despliegue de systèmes d'IA dans des industries comme la Salud, la Finanzas et la fabrication.

Les trois Principios fondamentaux

• IA orientée vers un objectif : Le premier principe d'IBM affirme que l'IA devrait augmenter l'intelligence humaine, pas remplacer le jugement humain. Cela signifie que les systèmes d'IA devraient améliorer les capacités humaines et fournir des insights qui aident les gens à prendre de meilleures decisions, plutôt que de prendre des decisions de manière autonome sans supervision humaine.
• Droits et propriété des datos : Le marco établit que les datos et insights appartiennent à leur créateur. Les utilisateurs maintiennent la propriété et le control sur leurs datos, avec une Transparencia claire sur la façon dont elles sont utilisées, stockées et traitées. C'était révolutionnaire en 2018 quand la propriété des datos était moins clairement définie dans les politicas d'empresa.
• Transparencia et explicabilidad : Peut-être l'aspect le plus influent, IBM s'engage à rendre les systèmes d'IA interprétables et leurs Procesos de prise de decision compréhensibles pour les utilisateurs. Cela signifie s'éloigner de l'IA « boîte noire » vers des systèmes qui peuvent expliquer leur raisonnement en termes compréhensibles par les humains.

Pourquoi l'approche d'IBM est importante

Les Principios d'IBM ont émergé pendant une période critique où l'IA se développait rapidement dans les environnements d'empresa mais les marcos Eticas étaient en retard. Contrairement aux approches purement Academicos, ces Principios reflètent les réalités du despliegue de l'IA dans des industries réglementées où l'auditoriaabilité et la Responsabilidad sont essentielles.

Le marco a influencé les normas de l'industrie et la réflexion réglementaire à l'échelle mondiale. L'accent d'IBM sur l'IA explicable, par exemple, est devenu une exigence fondamentale dans les applications d'IA des services financiers et de la Salud. Les Principios ont également anticipé de nombreuses exigences qui sont apparues plus tard dans des réglementations comme le Règlement européen sur l'IA.

A quien va dirigido este recurso

• Equipos IA d'empresa construisant ou déployant des systèmes d'IA qui ont besoin de directrices Eticas pratiques équilibrant innovation et Responsabilidad. Particulièrement précieux pour les equipos dans les industries réglementées où l'explicabilidad est cruciale.
• Directeurs de l'IA et responsables de la gobernanza de l'IA établissant des politicas Eticas organizacionnelles en matière d'IA. Le marco d'IBM fournit un modelo éprouvé qui a été testé dans des environnements commerciaux réels dans plusieurs industries.
• Equipos d'approvisionnement et de gestion des fournisseurs évaluant les solutions d'IA. Ces Principios offrent une référence pour évaluer si les fournisseurs potentiels d'IA ont des marcos Eticas robustes en place.
• Equipos réglementaires et de cumplimiento dans les organizacions utilisant les services d'IA d'IBM ou des Herramientas d'IA d'empresa similaires, qui ont besoin de comprendre les engagements Eticas sous-jacents à leur pile technologique.

Mise en pratique des Principios

Les Principios s'accompagnent de conseils pratiques de implementacion qu'IBM a affinés au fil des années de despliegue en empresa. Les domaines clés de implementacion incluent l'établissement de comités de révision de l'IA, la création d'exigences d'explicabilidad pour les modelos d'IA, la implementacion de marcos de gobernanza des datos qui respectent la propriété des utilisateurs, et la construction de pistes d'auditoria pour la prise de decision par l'IA.

IBM fournit des Herramientas et méthodologies spécifiques pour soutenir ces Principios, notamment leur boîte à Herramientas AI Explainability 360 et Watson OpenScale pour surveiller les systèmes d'IA en production. L'empresa a également publié des études de cas montrant comment ces Principios s'appliquent dans différents contextes industriels.

Puntos de atencion

Bien que complets, ces Principios ont été développés principalement pour des contextes B2B d'empresa. Les organizacions déployant de l'IA orientée consommateur ou travaillant dans des domaines émergents comme l'IA générative peuvent avoir besoin de compléter ces Principios avec des considérations supplémentaires.

Le marco reflète également le modelo commercial et l'approche technique d'IBM vers 2018. À mesure que la technologie et les cas d'utilisation de l'IA ont évolué, certaines interprétations peuvent nécessiter une mise à jour - particulièrement concernant la propriété des datos à l'ère des grands modelos de langage et de la génération de datos synthétiques.