随着人工智能(AI)融入到越来越多的业务流程中,证明 AI 系统以公平的方式制定决策、不易遭到篡改并且可向不同利益相关方作出解释是很有必要的,并且其必要性正变得越来越重要。简而言之,迫切需要提升 AI 系统的可信度。开源是建立信任的主要推动因素,因为它会向所有人公开代码和技术。

为继续致力于提供更可信的 AI,IBM 今天宣布它正在与 Linux Foundation AI(LF AI 基金会)合作,共同加快制定开源可信的 AI 工作流程。根据 IBM 研究院先前发布的开源 AI 项目,IBM 开放技术副总裁 Todd Moore 在 Linux 基金会开源峰会(Linux Foundation Open Source Summit)上发表的演讲中声称:

“开发者和数据科学家现在已经可以使用一些基本工具在企业级 AI 工作流程中建立公平性、稳健性和可解释性,因此 IBM 是时候与 Linux Foundation AI 和其他合作伙伴一起踏入这一重要领域,携手为可信的 AI 奠定坚实的基础。”

LF AI 通过开放治理提供了一种供应商中立的环境,支持以协作的方式加速开发开源技术项目。LF AI 支持在多元化的繁荣社区中以开放的方式来开发项目。

AI 中的公平性、稳健性和可解释性是实现可信的 AI 的关键基石。借助其开源项目,IBM 和 IBM 研究院将携手开发者、数据科学家和研究界来共同加速 AI 创新并为 AI 构筑可信度。

公平性、稳健性和可解释性是实现可信的 AI 的关键因素

IBM 研究院在过去两年内对三个最先进的可信的 AI 工具包实现开源,它们分别是:AI Fairness 360、Adversarial Robustness 360 和 AI Explainability 360。每个工具包都具有自己独特的用途,并且可轻松进行扩展以便包融新开发的技术。通过加入 Linux Foundation AI(LF AI),IBM 可以与 LF AI 的其他成员和其他贡献者密切合作,继续发展和完善这些工具包。

  • AI Fairness 360 工具包是一个开源工具包,可帮助检测并减少机器学习模型和数据集中不需要的偏差。利用此工具包,开发者和数据科学家可以使用适合其环境的相应公平性指标,轻松检测并减少机器学习生命周期中多个点的偏差。
  • Adversarial Robustness 360 工具包是一个开源库,支持研究人员和开发者检测针对深度神经网络的对抗性攻击、展开自我保护来抵御此类攻击,并设计模拟攻击来使 AI 系统更安全。
  • AI Explainability 360 工具包是包含多种算法、代码、指南、教程和演示的综合开源工具包,支持机器学习模型的可解释性。

随着在 AI 系统中实施公平性、稳健性和可解释性的技术数量不断增多,IBM 深厚的企业 AI 专业知识可帮助开发者和数据科学家从中选择适合自己的技术手段。在这些讨论中,经常会出现“开源技术”这个词汇。

Linux Foundation AI 致力于普及 AI 系统的构建和部署

LF AI 是 Linux 基金会的下属基金会,支持人工智能、机器学习和深度学习领域的开源创新。通过可持续的开源 AI 生态系统,开发者、数据科学家和供应商可以使用开源技术构建模块来快速创建 AI 产品和服务。随着 IBM 加入 LF AI,我们的目标是让所有 LF AI 项目都可以使用可信的 AI 技术,包括 Acumos

LF AI 已经建立了委员会来推进制定合乎道德的可信的 AI 和机器学习工作流程。IBM 将与 LF AI 合作来共同设计参考架构和最佳实践,以便在生产和业务场景中使用这些开源工具,从而使其可用于机器学习(ML)工作流程。我们将与 LF AI 一起主持工作,共同定义有关如何构建可信的 AI 系统的技术流程和准则。

在过去六个月内,LF AI 愿景中描述的整体开源 AI 生态系统已经从 80 个项目发展到 170 多个项目,共计有超过 3.5 亿行代码来自于全球 80 多个不同的组织。这种开源的发展水平和速度与早期的 Linux、区块链、云和容器的发展非常相似。

与 Linux 基金会的其他 AI 注入计划协同发展成为现实

通过加入 LF AI,我们可以将 IBM 同样参与其中的多项其他计划结合起来协同发展,其中包括:

  • LF Edge:从无人驾驶车辆,到智能手机,再到自动化工厂和农场,各种边缘设备中都需要使用可信的 AI。行业分裂是边缘技术发展所面临的主要挑战。LF Edge 汇集了物联网 (IoT)、云和企业的项目,从而提高了跨平台、社区和生态系统的统一性。LF Edge 促进与最终用户、供应商和开发者的合作,共同转变边缘技术的各个方面并加速开源开发。
  • LF ODPi:数据是构建开源可信的 AI 系统的核心,因此数据治理显得尤为必要。ODPi 提供了一种仅供应商中立的开源标准,能够为数据治理、连接、商业智能、分析和 AI 系统提供最佳实践。
  • LF Energy:能源行业的各种业务流程都需要使用开源可信的 AI,从预测需求到预测性设备维护等。LF Energy 提供了一种供应商中立的协作环境,“支持扩展万物电气化”,从而将全球关系转化为重要的能源资源。
  • LF ONAP:对于通信行业而言,首先要做的是将可信的 AI 嵌入网络中。Open Network Automation Platform(ONAP)已准备好注入 AI,以便增强物理和虚拟网络功能的策略驱动的实时编排和自动化。通信行业提供商和开发者可以利用开源技术来快速自动执行新服务和支持完整的生命周期管理。
  • LF CNCF:由于企业业务流程将通过云端来访问 AI 功能,因此在 AI 中建立信任至关重要。云原生计算基金会(CNCF)托管了全球技术基础架构的关键组件。

这些项目是 Linux 基金会总体框架下的相关计划和下属基金会的样本。随着可信的 AI 系统时代的到来以及 AI 系统功能的增强,协同工作将会变得越来越普遍。

加入我们,共同开发开源可信的 AI 工作流程

IBM 选择在此时加入 LF AI,是为了与现有的 LF AI 成员更加密切地合作,并与各行各业中需要在业务流程中使用可信的 AI 的潜在企业合作伙伴进行接洽。加入 LF AI 可帮助我们将可信的 AI 带到各行各业中,以便在保证公平性、稳健性和可解释性的前提下使 AI 得到充分利用。

IBM 在开展开源社区相关工作方面具有悠久的历史。今天,IBM 与我们新的 LF AI 合作伙伴一起邀请其他合作伙伴加入 LF AI,共同贡献代码和最佳实践来构建开源可信的人工智能。

参考资源

本文翻译自:IBM joins Linux Foundation AI to advance trustworthy AI(2019-08-21)

加入讨论