Principios d'IA de Google

Resumen

Les Principios d'IA de Google représentent l'un des premiers engagements publics complets en faveur du desarrollo responsable de l'IA par une grande empresa technologique. Publiés en 2018 suite aux protestations internes des employés contre le Project Maven (un contrat IA du Pentagone), ces Principios établissent sept objectifs fondamentaux pour le desarrollo de l'IA et listent explicitement quatre domaines où Google ne développera pas d'applications d'IA. Contrairement à de nombreuses politicas d'empresa axées uniquement sur la cumplimiento, les Principios de Google combinent engagements Eticas et considérations commerciales pratiques, les rendant à la fois ambitieux et exploitables pour les organizacions cherchant à établir leurs propres marcos de gobernanza de l'IA.

Le contexte : Du Project Maven aux Principios publics

Les Principios d'IA de Google n'ont pas émergé dans le vide. En 2018, des milliers d'employés de Google ont signé une lettre protestant contre l'implication de l'empresa dans le Project Maven, une initiative du Département de la Défense visant à utiliser l'IA pour analyser des images de drones. Ce soulèvement interne a forcé Google à réfléchir à l'utilisation de sa technologie IA et a conduit le PDG Sundar Pichai à établir ces Principios comme guia directeur pour le desarrollo de l'IA.

Ce contexte est important car il montre comment la pression externe et les valeurs internes peuvent façonner la politica IA d'empresa. Les Principios représentent la tentative de Google d'équilibrer les intérêts commerciaux avec la Responsabilidad Etica tout en maintenant la Transparencia sur leur Procesos de decision.

Les sept Principios décodés

• Socialement bénéfique : L'IA devrait bénéficier à de nombreuses personnes et servir le bien commun, pas seulement générer du profit ou servir des intérêts étroits.
• Éviter les sesgo injustes : Travailler activement pour éliminer les impactos discriminatoires sur les personnes, particulièrement concernant les caractéristiques sensibles comme la race, le genre et la religion.
• La seguridad d'abord : Intégrer des tests et une vigilancia rigoureux pour empêcher les systèmes d'IA de causer des dommages ou de fonctionner de manière imprévue.
• Responsable envers les personnes : Concevoir des systèmes d'IA avec une supervision et un control humains appropriés, garantissant un examen humain significatif des decisions importantes.
• Confidencialidad dès la conception : Incorporer des protections de confidencialidad dès le départ, donnant aux utilisateurs le control sur leurs datos et étant transparent sur leur utilisation.
• Excellence scientifique : Maintenir des normas élevées de Investigacion et desarrollo, partageant les connaissances de manière responsable avec la communauté scientifique.
• Disponibilité appropriée : Rendre les Herramientas et technologies IA disponibles pour des utilisations alignées avec ces Principios et les marcos juridiques.

La liste des « interdits » : Où Google trace la ligne

Peut-être plus révélateur que ce que Google fera est ce qu'il ne fera explicitement pas :

• Armes : Technologies conçues pour causer des dommages ou faciliter le desarrollo d'armes
• Vigilancia : Herramientas qui violent les normas Internacionalement acceptées en matière de droits humains
• Prédiction nuisible : Technologies qui contreviennent aux Principios largement acceptés du droit Internacional et des droits humains
• Violations générales : Applications qui entrent en conflit avec ces Principios dans l'ensemble

A quien va dirigido este recurso

• Equipos IA d'empresa construisant des marcos de gobernanza internes peuvent utiliser les Principios de Google comme modelo éprouvé, adaptant la structure et le langage au contexte et aux valeurs de leur organizacion.
• Investigadors et défenseurs des politicas étudiant la gobernanza IA d'empresa trouveront ceci comme document source primaire clé qui a influencé l'approche d'autres empresas technologiques envers les engagements publics en matière d'IA.
• Profesionals de l'Etica de l'IA peuvent référencer ces Principios lors du desarrollo de marcos d'evaluacion des riesgos, particulièrement l'équilibre entre objectifs ambitieux et conseils pratiques de implementacion.
• Fondateurs de startups et directeurs techniques dans les empresas d'IA peuvent utiliser ceci comme point de départ pour développer leurs propres Principios.
• Responsables gouvernementaux et reguladors examinant le fonctionnement pratique de l'autorégulation industrielle trouveront les Principios de Google utiles pour comprendre les approches d'empresa en matière de gobernanza de l'IA.

Comment ces Principios fonctionnent en pratique

Google a mis en œuvre ces Principios à travers plusieurs mécanismes :

• Procesos de révision des Principios IA : Des comités de révision internes évaluent les projets par informe à ces Principios avant que le desarrollo ne se poursuive
• Conseil consultatif externe : Bien que de courte durée, Google a tenté de créer une supervision externe (dissous en 2019 en raison de controverses sur la sélection des membres)
• Informes réguliers : Des informes annuels sur l'avancement des Principios IA détaillent comment Google applique ces Principios aux produits et decisions réels
• Formation des employés : Des programmes de formation internes aident les ingénieurs et chefs de produit à intégrer ces Principios dans le travail quotidien

Les Principios ont conduit à des decisions concrètes, notamment la fin du contrat Project Maven, la limitation du desarrollo de la technologie de reconnaissance faciale et l'établissement de Procesos de révision pour les contrats gouvernementaux d'IA.