揭秘NIST的新AI风险管理框架

目录

• 介绍
• AI风险管理框架的开发动机
• 值得信赖的AI系统的特征
• 参与AI治理的角色
• 合作对于有效的AI治理的重要性
• AI治理和风险管理框架的建设基于现有文件
• AI RMF的未来发展和计划

AI风险管理框架：确保公正、透明和安全的人工智能

介绍

在本期的govcast合集中，我们将聚焦于人工智能（AI）风险管理框架（AI RMF）。国家标准与技术研究所（NIST）的资深研究员Sarah Seibert与NIST信息技术实验室（ITL）首席幕僚Elham Tabasi进行了一次访谈，讨论了AI的最新发展以及他们如何努力确保这些技术公正、透明和安全。

AI风险管理框架的开发动机

NIST作为一个具有大量研究资源和丰富历史的机构，致力于培育技术的信任和可靠性，开发了一系列的框架和标准，以使技术更加安全和可靠。AI作为一项迅猛发展的技术，使得安全和验证变得尤为重要。因此，NIST创造性地采取了一种深思熟虑的方式来进行风险管理，从而推动AI的可信度。AI RMF于2023年1月发布，是一个自愿性的框架，旨在在管理风险的同时，帮助机构和国家开发和部署能够增强AI可信度的AI技术，根据民主价值观来管理风险。这一框架有助于加速AI创新和增长，并在提升而非限制或损害权利的同时，提供了一个结构化的、灵活的、可衡量的方式来解决传统的准确性、有效性和可靠性等方面的问题，更重要的是，它还提供了处理安全、安全性、隐私和偏见等社会技术风险的流程。

值得信赖的AI系统的特征

值得信赖的AI系统意味着通过测试和测量结果来确保AI算法没有偏见，并提供准确的结果。尽管这听起来很简单，但确保AI的可信度在实际操作中非常困难和复杂。衡量AI的可信度包括评估隐私、可解释性、公平性、透明度等各个方面，以减少AI的风险因素。尽管如此，Tabasi指出AI并非零风险的，就像在使用技术时要承担风险一样，网络安全也是如此。因此，AI RMF侧重于管理这种固有的风险。关于什么是值得信赖和负责任的AI系统的讨论现在仍在进行中，通过开放、透明、协作的进程来开发AI RMF。

参与AI治理的角色

NIST的AI RMF专门介绍了AI治理的相关内容，包括各个阶段的角色和责任、过程和机制，以实现有效的风险管理。Tabasi解释道，AI的开发过程中，不同的利益相关方在设计、开发和实施方面的角色不同，因此治理和规定这些具体职能应该相应地进行个性化调整。风险管理不仅仅是开发者或部署者的责任，而是在整个生命周期中共同承担的责任。AI RMF还强调了高层领导和执行部门对AI风险管理负责的重要性。

合作对于有效的AI治理的重要性

Tabasi解释说，AI的一切都取决于背景，即它在现实世界中的使用方式以及如何影响风险水平，以及这种可信度应该如何衡量。因此，AI RMF的创建旨在了解不同情境的背景和结果，以及因此如何测量可信度。因为AI是如此多学科的，因此需要与法律学者、哲学家、心理学家等广泛的专业知识进行沟通和合作，以了解AI系统在不同阶段的影响。这对于我们理解AI系统的影响至关重要，从设计、开发、部署到定期监控系统的各个阶段。

AI治理和风险管理框架的建设基于现有文件

在AI RMF的制定过程中，NIST的目标是避免与现有的AI指导文件重复。她指出，已经有针对特定AI子领域的专门文件，比如AI和网络安全。AI RMF并不试图复制或重新发明现有文件中的一些内容，而是基于这些当前标准，并概述了先前提到的一些功能。在AI风险管理框架的发展过程中，我们设定了一个标准，即确保利用已有成果，并在此基础上进行建设，避免任何矛盾或重复的情况。未来，我们计划不断评估AI风险管理框架，并根据AI的发展速度进行完善。AI是一项快速发展的技术，存在AI系统、软件系统和信息系统等特定的风险，这些风险在其他框架中没有捕捉到。因此，在AI RMF的发展中，我们有一个附录，介绍了AI风险如何与其他系统不同，并且在AI的特殊风险上提供了一些解决方案。此外，我们还在AI RMF和其他标准和文件之间提供了过度对应，这样可以在语义上对齐这些文档。我们认为，理解这种对齐关系并在此基础上进行建设非常重要，因此我们计划继续建立更多的对应关系。

AI RMF的未来发展和计划

在AI RMF仅推出两个月后，NIST的下一步计划是将其落地应用。这意味着传播这一框架，向社区展示如何使用。她强调了采用和教育的重要性。我们在不远的将来还将花费大量时间来开发AI RMF协议。AI RMF是一个面向技术的、科技不可知的文件，但AI的风险管理是根据具体场景进行的，例如招聘、医学图像诊断等。因此，我们需要将AI RMF文档中的特定指南定制为特定行业的使用情况。我们呼吁整个社区共同开发AI RMF的性能配置文件，即针对特定用例和特定行业的定制指南。示例包括招聘、医疗保健等领域。这些是我们未来计划中的重点项目和活动。

感谢大家的收听，如果你喜欢今天的内容，请订阅并在您选择的播客平台上留下评论。如果您有任何主题希望我们研究，请通过Newsletter@govcio.com与我们联系。

资源：

• gov CIO media