AI模型风险评估 第2部分：核心内容

人工智能风险管理框架核心提供了能够进行对话、理解和管理人工智能风险的活动的结果和行动。核心由三个元素组成：功能、类别和子类别。如图5所示，职能部门在其最高级别组织人工智能风险管理活动，以映射、测量、管理和治理人工智能风险。在每个职能中，有类别和子类别将职能细分为具体的结果和行动。

Map

Map函数建立上下文并应用AI RMF分类法的属性来设计框定与AI系统相关的风险。执行该功能时收集的信息为有关模型管理的决策提供了信息，包括关于是否合适或是否需要人工智能解决方案的初步决策。通过对收益、成本和风险的定性或更正式的定量分析，与现状相比，可以考虑确定人工智能的使用是否合适或是否合理。配套文件描述了与映射人工智能风险相关的实践。表1列出了Map 函数的类别和子类别。
表一

Measure

度量功能包括分析、定量或定性评估，跟踪风险及其影响。风险分析和测量可能涉及对不确定性、权衡、后果、可能性、事件、控制及有效性的详细考虑。一个事件可能有多种原因和后果，并可能影响多个目标。定量或定性测量的方法和指标迅速发展，应使用定性和定量方法来跟踪风险。配套文件描述了与测量人工智能风险相关的实践。表2列出了度量函数的类别和子类别。

表2

Manage

该功能处理已映射和测量的风险，并对其进行管理，以实现利益最大化和不利影响最小化。这些是与AI RMF分类法的属性相关的风险。这一职能的决定考虑了环境以及对外部和内部利益相关者的实际和感知后果，包括人工智能系统与现状世界的互动以及潜在的利益或成本。如果风险被认为可以容忍，管理层可以采取按原样部署系统的形式；在需要增加测试或其他控制的生产环境中部署系统；如果风险被视为太大且无法充分解决，则应完全停用系统。与其他风险管理工作一样，人工智能风险管理必须持续进行。配套文件中讨论了与人工智能风险管理相关的实践。表3列出了管理功能的类别和子类别。

表3

Govern

治理职能部门在开发、部署或获取人工智能系统的组织内培养和实施风险管理文化。治理旨在确保有效、一致地识别、衡量和管理风险和潜在影响。专注于人工智能技术潜在影响的治理过程是风险管理的支柱。治理应解决供应链，包括第三方软件或硬件系统和数据以及内部开发的人工智能系统。治理是一项与所有其他职能相关的职能，反映了在整个风险管理过程和程序中注入治理考虑的重要性。治理是在人工智能系统的整个生命周期内进行有效人工智能风险管理的持续和内在要求。例如，遵守内部和外部政策或法规是风险管理中治理职能的一个普遍方面。同样，治理提供了一种结构，通过该结构，人工智能风险管理功能可以与组织政策和战略优先事项相一致，包括与人工智能系统没有直接关系的政策和战略优先事项。配套文件描述了与人工智能风险管理治理相关的实践。表4列出了治理函数的类别和子类别。