Políticas de uso de OpenAI

Resumen

Las Políticas de Uso de OpenAI sirven como el reglamento definitivo para cualquier persona que desarrolle con o utilice los sistemas de IA de OpenAI, desde ChatGPT hasta integraciones con la API de GPT-4. Estas políticas van más allá de los términos de servicio típicos al establecer salvaguardas específicas en torno al contenido generado por IA y las interacciones con los sistemas. Prohíben explícitamente actividades que van desde la generación de contenido ilegal hasta intentos de eludir medidas de seguridad, mientras también establecen expectativas de cumplimiento para desarrolladores que construyen aplicaciones comerciales sobre las plataformas de OpenAI.

A quién está dirigido este recurso

• Desarrolladores e ingenieros que integran las APIs de OpenAI en aplicaciones o servicios
• Gerentes de producto que planifican funcionalidades impulsadas por IA utilizando los modelos de OpenAI
• Equipos de cumplimiento que aseguran que el uso organizacional de IA se alinee con los requisitos de la plataforma
• Investigadores de seguridad en IA que buscan comprender los enfoques de gobernanza de plataformas comerciales de IA
• Equipos legales que revisan acuerdos de servicios de IA de terceros y obligaciones asociadas
• Emprendedores que construyen startups o productos de IA sobre la infraestructura de OpenAI

La realidad de la aplicación

A diferencia de muchas políticas de plataforma que dependen principalmente de reportes de usuarios, OpenAI emplea tanto monitoreo automatizado como revisión humana para hacer cumplir estas políticas. Las violaciones pueden resultar en suspensión inmediata del acceso a la API, terminación de cuenta o prohibición permanente de la plataforma. Las políticas establecen explícitamente que OpenAI monitorea el uso de la API para verificar el cumplimiento, lo que significa que los desarrolladores necesitan implementar su propio filtrado de contenido y validación de entradas de usuario en lugar de depender únicamente de las medidas de seguridad de OpenAI.

Líneas rojas que no se pueden cruzar

Las políticas establecen varias categorías de contenido y comportamientos estrictamente prohibidos:

• Las prohibiciones de generación de contenido incluyen crear material ilegal, contenido de abuso sexual infantil, campañas de acoso, malware o contenido que promueva la violencia.
• Los intentos de manipulación del sistema como inyección de prompts, jailbreaking o ingeniería inversa del comportamiento del modelo están explícitamente prohibidos.
• Las restricciones comerciales impiden usar modelos de OpenAI para desarrollar sistemas de IA competidores o para generar contenido para campañas políticas sin las divulgaciones apropiadas.

Notablemente, las políticas también prohíben usar los sistemas de OpenAI para toma de decisiones gubernamentales de alto riesgo, reconocimiento facial para fuerzas del orden o sistemas automatizados de puntuación social.

Obligaciones de cumplimiento para desarrolladores

Si estás construyendo sobre la plataforma de OpenAI, heredas responsabilidades específicas más allá de simplemente evitar contenido prohibido. Debes implementar salvaguardas razonables para prevenir el mal uso por parte de tus usuarios, establecer tus propias políticas de contenido que se alineen con o excedan los estándares de OpenAI, y proporcionar divulgación clara de que se está utilizando IA en tu aplicación.

Para aplicaciones que involucran casos de uso sensibles como salud, finanzas o educación, aplican requisitos adicionales de diligencia debida. Se espera que los desarrolladores realicen pruebas apropiadas, implementen supervisión humana cuando sea necesario y mantengan registros de auditoría de las decisiones del sistema de IA.

Qué falta y qué complementar

Las políticas de OpenAI se enfocan fuertemente en restricciones de contenido y uso pero proporcionan orientación limitada sobre la implementación técnica de medidas de cumplimiento. Las organizaciones típicamente necesitan complementar estas políticas con sus propios marcos internos de gobernanza de IA, programas de educación para usuarios y procedimientos de respuesta a incidentes.

Las políticas tampoco abordan en detalle la retención de datos, transferencias transfronterizas de datos o la integración con otros sistemas de IA, requiriendo consideración adicional para implementaciones empresariales.

Puntos de atención

• Responsabilidad heredada: Tus aplicaciones construidas sobre la plataforma de OpenAI deben cumplir tanto con las políticas de OpenAI como con todas las leyes aplicables en tu jurisdicción. Las políticas de OpenAI no anulan los requisitos legales locales.
• Evolución de políticas: OpenAI actualiza regularmente estas políticas, y el acceso continuo a la API requiere cumplimiento continuo con la versión actual. Implementa monitoreo de cambios de políticas en lugar de asumir requisitos estáticos.
• Contenido generado por usuarios: Si tu aplicación permite que los usuarios ingresen prompts o contenido que es procesado por los modelos de OpenAI, eres responsable de prevenir violaciones de políticas por parte de tus usuarios, no solo de tu uso directo.