随着开源人工智能技术的发展，AI 系统必需能够做出公正决策、不会被篡改且具备可解释性，这一需求比以往任何时候都更加重要。在 IBM，我们坚信 AI 信任始于开源，代码应保持透明，任何人都可以访问。为了兑现我们对可信 AI 的承诺，IBM 先前发布了 3 个开源可信 AI 软件包：AI Fairness 360、AI Explainability 360 和 Adversarial Robustness Toolbox。

开发者应能够将信任纳入其数据和模型以及在项目中使用软件包的方式，从而避免使用具有漏洞或法律问题的软件包。在最新的 IBM Cloud Pak for Data 版本中，我们添加了一项功能，帮助开发者通过 IBM Cloud Pak for Data 的 Open Source Management 服务安全地访问我们可信的 AI 软件包。

让我们仔细了解一下可信 AI 软件包以及如何在 IBM Cloud Pak for Data 中访问它们。

可信 AI 软件包

• AI Fairness 360 Toolkit (AIF360)：AI Fairness 360 软件包提供 Python 和 R 两种版本，其中包括适用于数据库和模型的一组全面的公平度量指标（超过 70 个）以测试偏差、这些指标的解释以及用来减少数据集和模型偏差的算法（约 11 种）。AIF360 将来自实验室的算法研究转化为金融、人力资本管理、医疗保健和教育等广泛领域的实际实践。查找指南以了解如何使用工具。
• AI Explainability 360 Toolkit (AIX360)：一个开源库，在整个 AI 应用程序生命周期中支持数据集和机器学习模型的可解释性和可解读性。AI Explainability 360 Python 软件包中包括一组全面的算法，涵盖了解释的不同维度以及代理可解释性指标。查找指南以了解如何使用工具。
• Adversarial Robustness Toolbox (ART)：一个 Python 库，支持开发者和研究人员保护机器学习模型免遭对抗性威胁（包括逃避、提取和中毒），并有助于提高 AI 系统的安全可靠性。ART 包括各种攻击，旨在使用最新的威胁模型来测试防御能力。查找有关 Notebook 和 examples 的教程，了解如何使用该工具。

IBM Cloud Pak for Data 用户可以通过产品中的 Open Source Management 服务来利用这些软件包。

在 Open Source Management 服务中使用可信 AI 软件包

在 5 月份，IBM 宣布了在 Cloud Pak for Data 3.0 中提供 Open Source Management (OSM) 服务。该服务可让您访问 800 个预先批准的开源软件包的精选列表，并引导您完成请求添加新软件包产品的受控工作流程，从而洞察安全和漏洞风险。这样您便可以更准确地了解使用率最高的开源软件包，清楚组织中使用这些软件包的人员，并认识到与每个项目相关的漏洞。

现在，您可以使用 Open Source Management 服务来访问可信 AI 软件包。

了解如何访问这些工具

现在您已经了解了这些工具，让我们来看看如何通过 IBM Cloud Pak for Data 访问这些软件包。

登录到 IBM Cloud Pak for Data 之后，启用并打开 Open Source Management 服务。选择开源软件包，查看预先批准软件包的列表，包括可信 AI 软件包。

单击软件包磁贴，获取有关软件包摘要、许可证、源链接和安装指南（在附件下）、使用详细信息、评级和评论的信息。

要链接到项目，可单击 Link to projects。选择您需要使用软件包的项目。

现在，开发者可以安全地在项目中安装和使用批准的软件包。

如果某个新软件包未列示在现有的软件包列表中，用户还可以发起请求以将新软件包添加到 OSM 批准列表中。

查找有关开源软件包的精细数据

为了帮助您更好地管理开源使用情况，Open Source Management 服务为您提供有关项目使用的开源软件包、许可证使用情况、漏洞报告、用户与开源软件包的交互以及大多数活跃用户的整体数据视图。

管理员还可以批准开发者的软件包请求。

亲自试用

查看我们的文档，了解有关 Open Source Management 服务的更多信息。如果您已准备好自行尝试 Cloud Pak for Data，请考虑完全免费的 7 天试用。

本文翻译自：Securely access open source trusted AI packages in IBM Cloud Pak for Data（2020-06-26）