Open source governance projects
Code and open initiatives.
21 recursos
VerifyWise - Plataforma source-available de gobernanza IA
Plataforma source-available de gobernanza de IA para gestionar el cumplimiento normativo, evaluaciones de riesgo y documentación de IA. Compatible con flujos de trabajo de cumplimiento del EU AI Act, ISO 42001 y NIST AI RMF.
AI Fairness 360 (AIF360)
Conjunto de herramientas integral para detectar y mitigar sesgos en modelos de aprendizaje automático. Incluye más de 70 métricas de equidad y 10 algoritmos de mitigación de sesgos con soporte para Python y R.
InterpretML - Interpretabilidad del aprendizaje automático
Kit de herramientas source-available para entrenar modelos interpretables y explicar sistemas de caja negra. Incluye Explainable Boosting Machines (EBM) y varios métodos de explicación como SHAP y LIME.
MLflow - Gestión del ciclo de vida de ML
Plataforma de código abierto para gestionar el ciclo de vida de ML incluyendo la experimentación, la reproducibilidad, el despliegue y el registro de modelos. Proporciona las bases para los flujos de trabajo de gobernanza de ML.
Giskard - Framework de pruebas y calidad ML
Framework de código abierto para probar modelos de ML, incluyendo LLMs. Proporciona detección automatizada de vulnerabilidades, pruebas de sesgo y evaluación de calidad para sistemas de IA.
AI Fairness 360
AI Fairness 360 (AIF360) es un conjunto de herramientas de código abierto integral que proporciona métricas para detectar sesgos no deseados en conjuntos de datos y modelos de aprendizaje automático. Incluye algoritmos de última generación para mitigar el sesgo identificado, ayudando a los desarrolladores a construir sistemas de IA más justos y equitativos.
AI Fairness 360
AI Fairness 360 (AIF360) es un conjunto de herramientas de código abierto integral que proporciona métricas para detectar sesgos no deseados en conjuntos de datos y modelos de aprendizaje automático. Incluye algoritmos de vanguardia para mitigar los sesgos identificados, ayudando a los desarrolladores a construir sistemas de IA más justos y equitativos.
Boite a Herramientas AI Explainability 360
Un conjunto de herramientas source-available extensible diseñado para ayudar a los usuarios a comprender cómo los modelos de aprendizaje automático realizan predicciones. El conjunto de herramientas proporciona diversos métodos para explicar el comportamiento de los modelos de IA a lo largo de todo el ciclo de vida de las aplicaciones de IA.
Microsoft Responsible AI Toolbox
Microsoft Responsible AI Toolbox es una colección de herramientas integradas y funcionalidades diseñadas para ayudar a las organizaciones a operacionalizar los principios de IA responsable en la práctica. Proporciona recursos prácticos y capacidades para implementar enfoques de IA responsable a lo largo de los flujos de trabajo de desarrollo e implementación de IA.
Herramientas y prácticas de IA responsable
Colección de herramientas y prácticas de IA responsable de Microsoft que incluye paquetes de código abierto para evaluar la equidad de los sistemas de IA y mitigar sesgos. La plataforma proporciona kits de herramientas para comprender tanto modelos de ML de caja transparente como de caja negra, con el fin de apoyar el desarrollo responsable de IA.
Responsible AI Toolbox
Un conjunto de herramientas source-available que proporciona interfaces y bibliotecas para la exploración de modelos y datos, facilitando una mejor comprensión de los sistemas de IA. Incluye widgets de visualización y un panel de IA responsable que permite a los desarrolladores y partes interesadas desarrollar, evaluar y monitorear sistemas de IA de manera más responsable, al tiempo que toman decisiones informadas basadas en datos.
Responsible AI Toolkit
El Responsible AI Toolkit de TensorFlow es una colección de recursos y herramientas de código abierto diseñada para ayudar a los profesionales de machine learning a desarrollar sistemas de IA de manera responsable. El toolkit proporciona orientación práctica e implementaciones técnicas para apoyar las prácticas de desarrollo responsable de IA dentro de la comunidad de ML.
IA responsable con TensorFlow
Colección de herramientas de IA Responsable de TensorFlow diseñadas para ayudar a los desarrolladores a incorporar equidad, interpretabilidad, privacidad y seguridad en los sistemas de IA. Las herramientas proporcionan orientación práctica de implementación para el desarrollo responsable de IA dentro del ecosistema de TensorFlow.
Tutoriales de IA responsable
Una colección de tutoriales y herramientas proporcionada por TensorFlow para ayudar a los desarrolladores a implementar prácticas de IA Responsable en el desarrollo de aprendizaje automático. El recurso se basa en los principios de IA de Google introducidos en 2018 y proporciona orientación práctica para el desarrollo ético de IA.
Fairlearn
Fairlearn es un toolkit de código abierto diseñado para ayudar a evaluar y mejorar la equidad en modelos de aprendizaje automático. Proporciona métricas, algoritmos y visualizaciones para identificar y mitigar sesgos en sistemas de IA, construido de manera colaborativa por contribuidores con diversos antecedentes y experiencia.
Fairlearn: un paquete Python para evaluar y mejorar la equidad de los modelos de aprendizaje automático
Fairlearn es un paquete de Python de código abierto que permite a los desarrolladores evaluar y mitigar problemas de equidad en sistemas de inteligencia artificial. Proporciona algoritmos de mitigación y métricas para evaluar la equidad de los modelos entre diferentes grupos demográficos.
Fairlearn: Evaluar y mejorar la equidad de los sistemas de IA
Fairlearn es una biblioteca y proyecto de Python de código abierto diseñado para ayudar a los profesionales a evaluar y mejorar la equidad de los sistemas de inteligencia artificial. La herramienta proporciona capacidades para evaluar los resultados de los modelos en diferentes grupos afectados e implementar mejoras de equidad en los sistemas de IA.
Top 5 de las Herramientas de código abierto de gobernanza de datos alimentadas por la IA en 2026
Un análisis integral de las principales herramientas de gobernanza de datos de código abierto impulsadas por IA, que incluye proyectos como Egeria bajo la Linux Foundation. El informe abarca la sincronización automatizada de metadatos, capacidades de búsqueda con reconocimiento de contexto y soporte de zonas de gobernanza para mejorar la visibilidad e interoperabilidad de los datos.
LLM Transparency Tool (LLM-TT)
Un conjunto de herramientas interactivo source-available diseñado para analizar el funcionamiento interno de modelos de lenguaje basados en Transformer. La herramienta proporciona capacidades de transparencia para ayudar a investigadores y profesionales a comprender cómo operan internamente los modelos de lenguaje de gran escala, apoyando la gobernanza de IA a través de una mejor interpretabilidad de modelos.
Las 6 mejores herramientas de IA de código abierto para 2026
Una guía integral que evalúa y clasifica los principales modelos de IA de código abierto, incluyendo LLaMA 4, Mixtral y Gemma, según criterios de rendimiento, velocidad y licenciamiento. El informe sirve como recurso para seleccionar herramientas de IA de código abierto apropiadas con consideraciones de transparencia para 2026.
Transparencia de modelos: Seguridad de la cadena de suministro para el ML
Un proyecto de código abierto enfocado en proporcionar seguridad en la cadena de suministro para modelos de aprendizaje automático. La herramienta tiene como objetivo mejorar la transparencia y la confianza en la distribución e implementación de modelos de ML a través de mecanismos de firma y verificación criptográfica.