Politicas d'utilisation d'OpenAI

Resumen

Les politicas d'utilisation d'OpenAI servent de règlement définitif pour quiconque construit avec ou utilise les systèmes d'IA d'OpenAI, de ChatGPT aux intégrations API GPT-4. Ces politicas vont au-delà des conditions d'utilisation typiques en établissant des garde-fous spécifiques autour du contenu généré par l'IA et des interactions avec les systèmes. Elles interdisent explicitement des activités allant de la génération de contenu illégal aux tentatives de contournement des mesures de seguridad, tout en établissant des attentes de cumplimiento pour les desarrolladors construisant des applications commerciales sur les plataformas d'OpenAI.

A quien va dirigido este recurso

• Desarrolladors et ingénieurs intégrant les API d'OpenAI dans des applications ou services
• Chefs de produit planifiant des fonctionnalités alimentées par l'IA utilisant les modelos d'OpenAI
• Equipos de cumplimiento s'assurant que l'utilisation organizacionnelle de l'IA est alignée avec les exigences de la plataforma
• Investigadors en seguridad de l'IA comprenant les approches de gobernanza des plataformas d'IA commerciales
• Equipos juridiques examinant les accords de services d'IA tiers et les obligations associées
• Entrepreneurs construisant des startups ou produits IA sur l'infrastructure d'OpenAI

La réalité de l'application

Contrairement à de nombreuses politicas de plataforma qui reposent principalement sur les signalements des utilisateurs, OpenAI emploie à la fois une vigilancia automatisée et une révision humaine pour faire respecter ces politicas. Les violations peuvent entraîner une suspension immédiate de l'accès à l'API, la résiliation du compte ou une interdiction permanente de la plataforma. Les politicas déclarent explicitement qu'OpenAI surveille l'utilisation de l'API pour la cumplimiento, ce qui signifie que les desarrolladors doivent implémenter leur propre filtrage de contenu et validation des entrées utilisateur plutôt que de se fier uniquement aux mesures de seguridad d'OpenAI.

Lignes rouges à ne pas franchir

Les politicas établissent plusieurs catégories de contenu et comportements strictement interdits :

• Interdictions de génération de contenu incluent la création de matériel illégal, de contenu d'abus sexuel d'enfants, de campagnes de harcèlement, de logiciels malveillants ou de contenu promouvant la violence.
• Tentatives de manipulation du système telles que l'injection de prompt, le jailbreaking ou l'ingénierie inverse du comportement du modelo sont explicitement interdites.
• Restrictions commerciales empêchent l'utilisation des modelos d'OpenAI pour développer des systèmes d'IA concurrents ou pour générer du contenu pour des campagnes politicas sans divulgations appropriées.

Notamment, les politicas interdisent également l'utilisation des systèmes d'OpenAI pour la prise de decision gouvernementale à haut riesgo, la reconnaissance faciale par les forces de l'ordre ou les systèmes de notation sociale automatisés.

Obligations de cumplimiento des desarrolladors

Si vous construisez sur la plataforma d'OpenAI, vous héritez de Responsabilidads spécifiques au-delà du simple évitement de contenu interdit. Vous devez implémenter des garde-fous raisonnables pour prévenir les abus par vos utilisateurs, établir vos propres politicas de contenu qui s'alignent ou dépassent les standards d'OpenAI, et fournir une divulgation claire que l'IA est utilisée dans votre application.

Pour les applications impliquant des cas d'utilisation sensibles comme la Salud, la Finanzas ou l'éducation, des exigences de diligence raisonnable supplémentaires s'appliquent. Les desarrolladors sont censés effectuer des tests appropriés, implémenter une supervision humaine si nécessaire et maintenir des pistes d'auditoria des decisions du sistema de IA.

Ce qui manque et ce qu'il faut compléter

Les politicas d'OpenAI se concentrent fortement sur les restrictions de contenu et d'utilisation mais fournissent des conseils limités sur l'Implementacion technique des mesures de cumplimiento. Les organizacions doivent généralement compléter ces politicas avec leurs propres marcos de gobernanza de l'IA internes, programmes d'éducation des utilisateurs et procédures de réponse aux incidentes.

Les politicas n'abordent pas non plus en détail la rétention des datos, les transferts de datos transfrontaliers ou l'intégration avec d'autres systèmes d'IA, nécessitant des considérations supplémentaires pour les despliegues en empresa.

Puntos de atencion

• Responsabilidad héritée : Vos applications construites sur la plataforma d'OpenAI doivent se conformer à la fois aux politicas d'OpenAI et à toutes les lois applicables dans votre juridiction. Les politicas d'OpenAI ne remplacent pas les exigences légales locales.
• Évolution des politicas : OpenAI met régulièrement à jour ces politicas, et l'accès continu à l'API nécessite une cumplimiento continue avec la version actuelle. Implémentez une vigilancia des changements de politica plutôt que de supposer des exigences statiques.
• Contenu généré par les utilisateurs : Si votre application permet aux utilisateurs de saisir des prompts ou du contenu traité par les modelos d'OpenAI, vous êtes responsable de prévenir les violations de politica par vos utilisateurs, pas seulement votre utilisation directe.