第3期 丁俐夫，等：多智能体系统安全性问题及防御机制综述 ·427· 性模型。 如果某个智能体出现过载，将无法承担其安全要 2.1多智能体系统安全性问题的分类 求的部分，因此开发人员必须能够合理地定义系 多智能体系统安全性问题尚未形成完善的分 统设计，平均分配子系统的负载。因此，降低 类体系。Jung等山曾提出MAS安全问题分类的 MAS的复杂性与单个智能体关键性成为了MAS 不同角度。本文总结为如图1所示的分类体系。 的安全要求之一。 从MAS系统环节的角度，MAS的安全性应分为 此外，从系统设计者的角度来说，针对MAS 分布式调控中的安全问题与单个智能体中的安全 的特点考虑其安全需求是很有必要的。首先，MAS 问题。从MAS安全性需求考虑，其安全性问题 的每个智能体逻辑或物理上分布的位置特征，将 可以分为信息来源安全(information origin secur- 成为身份验证的一个关键问题。其次，由于智能 ity)、授权机制安全(authorization mechanism secur- 体的自治性可能带来的安全问题，需要每个智能 ity)、通信安全(communication security)、主机保护 体拥有识别并预防未授权访问的能力，以此保护 安全(host protection security)、智能体保护安全 MAS免受开放网络中恶意智能体的入侵。对于 (agent protection security)以及共享资源安全(re- 智能体的社交性，MAS的设计者需要保证沟通过 sources sharing security)。另外，根据攻击造成的 程中的安全性。 MAS安全损害分类，MAS安全问题可分为完整 2.3多智能体系统的通用安全模型 性安全(integrity security)、可用性安全(availability 针对MAS系统性能的评估，很多研究者已经 security)和私密性安全(privacy security)o 逐渐将系统安全性纳入考虑范围。因此，对于现 在的MAS设计人员而言，有很多通用的安全模 多智能系统安全性问题分类 型可供参考。 系统环节 安全需求类型 安全损害类型 2002年Poslad等M提出了MAS资产安全模 型，他们以FIPA安全条例为标准，将MAS的数 分布式调控安全 信息来源安全 完整性安全 据信息视为一组有价物品，并通过类比建立了安 智能体安全 授权机制安全 可用性安全 全措施与数据保护系统的通用模型。这一模型也 成为MAS通用安全模型的基础，图2给出了这种 通信安全 私密性安全 通用模型的概念图。 主机保护安全 此后，有关MAS安全模型的理论不断完善。 智能体保护安全 Tropos方法1)作为智能体软件系统开发的常用 方法，在安全方面被不断完善920，通过添加安全 共享资源安全 约束，成为了MAS的软件开发过程中安全建模 图1多智能体系统的安全问题分类体系 的重要方法。Beydoun等2提出了一种MAS建 Fig.1 Taxonomy of the security issues of MAS 模的元模型(metamodel),Moradian2在元模型基 2.2多智能体系统的安全需求 础上基于Gaia方法增加了认证模块、搜索模块和 为了实现MAS安全问题的标准化，智能物 检查模块以增强安全性。2015年Basheer等2a1通 理Agent基金会(Foundation Intelligent Physical 过智能体的可信度建立了AgentOpCo(agent opin-. Agents,FIPA)很早就着手于将MAS安全要求纳 ion confidence)模型，这种通用模型通过检测 入其规范中。从2002年起，FIPA已制定了若干 MAS中智能体的置信度来保证系统安全。2006 结构规范条例，对智能体系统的访问控制、数据 年Huynh等9提出了有关MAS中智能体的信任 传输以及智能体管理等方面21安全要求进行了 与声誉认证模型，为子系统验证提供了框架。 定义。 2016年，Zikratov等设计了动态网络下的信任 但是，迄今为止，依旧只有少数MAS设计者 模型，由于加入了时间驱动的信任级别认证，提 会将合理的安全防范纳入系统开发阶段。这种 升了MAS在开放网络下的安全性。Cheribi等I 瓶颈来自于两个方面16。一方面，很多情况下安 提出了一个用于保护复杂的应用程序MAS安全 全要求会与MAS功能要求相冲突，权衡安全性 模型。该安全模型规范了智能体个体及智能体群 与功能性之间平衡的过程十分耗时。另一方面， 体内的统一行为。Majd等2则通过设置传递性 很多开发人员缺乏安全软件开发的专业知识。尤 符合性、相似性与可靠性4个信任组件，提出了 其是在MAS中，每个智能体会分配不同的职能， 名为TtSSR的信任模型。性模型。 2.1 多智能体系统安全性问题的分类 多智能体系统安全性问题尚未形成完善的分 类体系。Jung 等 [11] 曾提出 MAS 安全问题分类的 不同角度。本文总结为如图 1 所示的分类体系。 从 MAS 系统环节的角度，MAS 的安全性应分为 分布式调控中的安全问题与单个智能体中的安全 问题。从 MAS 安全性需求考虑，其安全性问题 可以分为信息来源安全 (information origin secur￾ity)、授权机制安全 (authorization mechanism secur￾ity)、通信安全 (communication security)、主机保护 安全 (host protection security)、智能体保护安全 (agent protection security) 以及共享资源安全 (re￾sources sharing security)。另外，根据攻击造成的 MAS 安全损害分类，MAS 安全问题可分为完整 性安全 (integrity security)、可用性安全 (availability security) 和私密性安全 (privacy security)。 多智能系统安全性问题分类 系统环节 分布式调控安全 智能体安全 安全需求类型 安全损害类型 完整性安全 可用性安全 私密性安全 信息来源安全 授权机制安全 通信安全 主机保护安全 智能体保护安全 共享资源安全 图 1 多智能体系统的安全问题分类体系 Fig. 1 Taxonomy of the security issues of MAS 2.2 多智能体系统的安全需求 为了实现 MAS 安全问题的标准化，智能物 理 Agent 基金会 (Foundation Intelligent Physical Agents, FIPA) 很早就着手于将 MAS 安全要求纳 入其规范中。从 2002 年起，FIPA 已制定了若干 结构规范条例，对智能体系统的访问控制、数据 传输以及智能体管理等方面[12-14] 安全要求进行了 定义。 但是，迄今为止，依旧只有少数 MAS 设计者 会将合理的安全防范纳入系统开发阶段[15]。这种 瓶颈来自于两个方面[16]。一方面，很多情况下安 全要求会与 MAS 功能要求相冲突，权衡安全性 与功能性之间平衡的过程十分耗时。另一方面， 很多开发人员缺乏安全软件开发的专业知识。尤 其是在 MAS 中，每个智能体会分配不同的职能， 如果某个智能体出现过载，将无法承担其安全要 求的部分，因此开发人员必须能够合理地定义系 统设计，平均分配子系统的负载。因此，降低 MAS 的复杂性与单个智能体关键性成为了 MAS 的安全要求之一。 此外，从系统设计者的角度来说，针对 MAS 的特点考虑其安全需求是很有必要的。首先，MAS 的每个智能体逻辑或物理上分布的位置特征，将 成为身份验证的一个关键问题。其次，由于智能 体的自治性可能带来的安全问题，需要每个智能 体拥有识别并预防未授权访问的能力，以此保护 MAS 免受开放网络中恶意智能体的入侵。对于 智能体的社交性，MAS 的设计者需要保证沟通过 程中的安全性。 2.3 多智能体系统的通用安全模型 针对 MAS 系统性能的评估，很多研究者已经 逐渐将系统安全性纳入考虑范围。因此，对于现 在的 MAS 设计人员而言，有很多通用的安全模 型可供参考。 2002 年 Poslad 等 [17] 提出了 MAS 资产安全模 型，他们以 FIPA 安全条例为标准，将 MAS 的数 据信息视为一组有价物品，并通过类比建立了安 全措施与数据保护系统的通用模型。这一模型也 成为 MAS 通用安全模型的基础，图 2 给出了这种 通用模型的概念图。 此后，有关 MAS 安全模型的理论不断完善。 Tropos 方法[18] 作为智能体软件系统开发的常用 方法，在安全方面被不断完善[19-20] ，通过添加安全 约束，成为了 MAS 的软件开发过程中安全建模 的重要方法。Beydoun 等 [21] 提出了一种 MAS 建 模的元模型 (metamodel)，Moradian[22] 在元模型基 础上基于 Gaia 方法增加了认证模块、搜索模块和 检查模块以增强安全性。2015 年 Basheer 等 [23] 通 过智能体的可信度建立了 AgentOpCo(agent opin￾ion confidence) 模型，这种通用模型通过检测 MAS 中智能体的置信度来保证系统安全。2006 年 Huynh 等 [9] 提出了有关 MAS 中智能体的信任 与声誉认证模型，为子系统验证提供了框架。 2016 年，Zikratov 等 [24] 设计了动态网络下的信任 模型，由于加入了时间驱动的信任级别认证，提 升了 MAS 在开放网络下的安全性。Cheribi 等 [25] 提出了一个用于保护复杂的应用程序 MAS 安全 模型。该安全模型规范了智能体个体及智能体群 体内的统一行为。Majd 等 [26] 则通过设置传递性、 符合性、相似性与可靠性 4 个信任组件，提出了 名为 TtSSR 的信任模型。 第 3 期 丁俐夫，等：多智能体系统安全性问题及防御机制综述 ·427·