开源技术 * IBM 微讲堂:Kubeflow 系列(观看回放 | 下载讲义) 了解详情

IBM Developer 博客

通过 IBM Developer 关注最新动态并获取信息

AI Fairness 360 工具箱可供范围更广阔的各类开发者更加轻松地使用


人工智能 (AI) 领域致力于改善各行各业与社会,并取得很大进展。但是,随着技术的不断进步,“为性能而构建”的理念不再足以作为 AI 设计范式。在我们现在所处的时代,必须构建、评估和监控 AI 以取得信任。

IBM® 继续作为行业领导者推进我们所称的可信 AI,专注于开发多样化的方法,用于在 AI 应用程序的整个生命周期中实现公平性、可解释性和责任的要素。

IBM AI Fairness 360 工具箱

根据我们的“可信 AI”工作,IBM 于 2018 年发布了 AI Fairness 360 工具箱 (AIF360),这是一个可扩展的开源工具箱,可以帮助您在整个 AI 应用程序生命周期内检查、报告和减少机器学习模型中的歧视和偏见。它包含了由研究团体开发的 70 多个公平性度量和 11 个最先进的偏见消除算法,旨在将实验室中的算法研究转化为金融、人力资本管理、医疗保健和教育等广泛领域的实际实践。

为 AI Fairness 360 增加新功能

现在,IBM 正在增加两种新的方式,使 AIF360 可供范围更广阔的各类开发者更加轻松地使用,并增加了功能:兼容 scikit-learn 和 R。

R 用户现在可以使用 AI Fairness 360 工具箱

AI 公平性是一个重要的话题,因为机器学习模型越来越多地用于高风险决策。机器学习发现并概括了数据中的模式,因此可以复制特权组的系统性优势。为了确保公平性,我们必须分析并解决我们的训练数据或模型中可能存在的任何认知偏见。

我们很高兴地宣布了 AI Fairness 360 R 包的发布,这是一个开源库,其中包含的技术有助于检测和缓解整个 AI 应用程序生命周期内数据集和机器学习模型中的偏见。要了解详细信息,请阅读 R 用户现在可以使用 AIF360 Fairness 工具包

AI Fairness 360 现在兼容 scikit-learn

scikit-learn 数据科学库对于训练已建立的机器学习算法、计算基本度量和构建模型管道极其有用。事实上,AI Fairness 360 中的许多示例 Notebook 已经在使用带有预处理或后处理工作流程的 scikit-learn 分类器。然而,在 AI Fairness 360 工具箱算法和 scikit-learn 算法之间进行切换将破坏工作流程,迫使您来回转换数据结构。您也无法使用 scikit-learn 中的一些功能强大的元编程工具,如管道和交叉验证。

因此,AIF360 团队在 AIF360 的最新发布版本 0.3.0 中增加了一个新的 aif360.sklearn 模块。您可以在本模块中找到所有目前已完成的兼容 scikit-learn 的 AIF360 函数。可在“AIF360 团队增加了与 scikit-learn 的兼容性”中获取有关此更新的所有信息。

推动可信 AI 的发展

用户可以使用 AIF360 在训练时从 Watson Studio 中检测公平性问题,并使用 Watson® OpenScale™ 在运行时检测公平性。Watson OpenScale 已经支持部分 AIF360 度量,更长期来看,我们致力于在设计时以及运行时将更多的 AIF360 度量集成到 Watson OpenScale 中。AIF360 还将通过 IBM Cloud Pak for Data Open Source 目录提供。

本文翻译自:IBM continues momentum in AI and trust leadership(2020-06-03)