第3期 丁俐夫，等：多智能体系统安全性问题及防御机制综述 ·429· 能体破坏MAS。状态评估法B旨在确定智能体 分析了通信延时下的非线性MAS的安全一致性 的状态是否已被修改或其信息是否已被破环，状 问题，本文根据相邻节点的延迟信息设计了延迟 态评估依赖于评估函数，根据条件因素和状态不 鲁棒安全一致性(delay robust secure consensus, 变量来判断智能体的状态。携带证明口令B]的 DRSC)算法。对于有限时间问题，Meng等2] 方法使MAS能够自动运行由智能体提供的程序 通过智能体协作和对抗，使用邻近规则构造了两 代码，无需解释或运行时检查，证明口令是系统 个一致性协议。结果表明，该协议可以保证所有 开发者为子系统预置的安全凭据。 智能体在有限时间内达成一致性。作者在随后的 策略随机化是近几年作用于单一智能体的 研究中，提出了另一种分布式非线性协议)，实现 一个新方法。Paruchuri等3！运用滚动随机化 了MAS在固定时间内的安全一致性。Liu等 (rolling down randomization,RDR)算法，在单个智能 设计了一个集中式切换的一致性协议，实现了快 体中实现策略随机化，以避免恶意攻击对智能体 速的有限时间一致性问题。迭代学习控制(iterat-. 的可预测性。 ive learning control,,LC)被应用于MAS一致性研 3.2针对分布式调控的防御技术 究后4，成为智能体安全一致性控制的新方法。 MAS的分布式调控中，除了关注每个子系统 为了应对恶意攻击，随后的研究6基于LC实现 的安全防御问题，对于全局的安全控制，系统设 了有限时间内的智能体一致性控制。对于量化通 计者也需要合适的防御手段。本文主要研究了协 信下的安全一致性，2016年的一种基于量化数据 同控制、数据交换、访问控制以及群体身份验证 的安全控制算法4叨，通过确定攻击节点在邻域中 等几个阶段的防御技术。 的有界性，在有恶意智能体的情况下达到安全一 3.2.1协同控制安全防御 致性。此外，Feng等在连接维持和连接断开两 为了保证各自独立的智能体共同协作实现 类攻击下，研究了一种安全一致性追踪算法。作 目标，MAS的设计者需要考虑对智能体进行协同 者通过定向拓扑交换对问题进行了建模和探究， 控制。因此，一致性算法成为MAS协同控制问 并在之后的研究中，用此方法研究了DoS攻击下 题的核心内容。多智能体系统中，一致性算法保 的MAS安全一致性问题90。 证了网络有向信息流的作用，对链路与节点故障 3.2.2数据交换安全防御 引起的网络拓扑变化的鲁棒性以及通信时延下 针对数据交换的保护首先需要设计合理的通 的系统新能提供了支持。在此过程中，恶意攻击 信结构和通信协议。 可能影响复杂网络的频率和结构特性之间的直 Pit等sI定义了MAS通信的通用语义框架， 接联系以及一致性算法的信息扩散速度，对具有 并提出了智能体通信语言(agent communation lan- 非局部信息流的网络系统的性能造成危害31。 guage,.ACL)。ACL被FIPA纳入MAS通信框架 因此，近年来MAS一致性的安全成为该领域一 标准之后，FIPA-ACL也成为MAS数据交换和通 个新的热点。 信协议的规范准则。在此基础上，之后的研究 很多研究者关注MAS一致性算法和结构的 添加了安全性内容。 设计。He等361提出了一种分布式脉冲控制器， Yokoo等s2设计了动态加密的MAS通信协 研究了在数据欺骗攻击下，错误数据注入引起的 议。通过使用这种方法，多个智能体可以在解决 有界协同控制问题。Amullen等B提出了一种基 组合优化问题的同时，避免泄露隐私信息。Zhu 于模型的安全编队控制算法，该算法对一组智能 等51基于传统代理通信语言，提出了一种多智能 体进行编队并记录其状态，通过状态恢复的方法 体安全通信协议和3种多智能体组重新密钥协 使得MAS不受DoS攻击的影响。Torre等IB8I开 议，并提出了一种更加完善的ACL。Abdennadher 发了一个新的分布式自适应控制架构，当存在行 等s4在2010年提出了MAS动态通信协议，它使 为不当的智能体的情况下，算法会启用本地状态 MAS能够在不完美的通信环境中灵活，快速且顺 仿真器对其进行控制。 畅地进行通信。2017年提出的一种基于广播的 其他研究从通信延时、有限时间、量化通信 移动智能体协议BROSMAP(broadcast based secure 等几个条件B优化MAS一致性算法，使得MAS mobile agent protocol)s,使用对称和非对称混合 的性能可以不受特定攻击的影响。针对通信延时 加密的方法保证了分布式应用安全性。Elshaafi 的情况，2011年Liu等o提出了时延和噪声干扰 等s实现了JADE平台通用协议的实例化，并为 下的多智能体系统的安全一致性算法。Wu等 JADE平台添加了JAVA安全库，使得JADE平台能体破坏 MAS。状态评估法[32] 旨在确定智能体 的状态是否已被修改或其信息是否已被破坏，状 态评估依赖于评估函数，根据条件因素和状态不 变量来判断智能体的状态。携带证明口令[33] 的 方法使 MAS 能够自动运行由智能体提供的程序 代码，无需解释或运行时检查，证明口令是系统 开发者为子系统预置的安全凭据。 策略随机化是近几年作用于单一智能体的 一个新方法。Paruchuri 等 [ 3 4 ] 运用滚动随机化 (rolling down randomization,RDR) 算法,在单个智能 体中实现策略随机化，以避免恶意攻击对智能体 的可预测性。 3.2 针对分布式调控的防御技术 MAS 的分布式调控中，除了关注每个子系统 的安全防御问题，对于全局的安全控制，系统设 计者也需要合适的防御手段。本文主要研究了协 同控制、数据交换、访问控制以及群体身份验证 等几个阶段的防御技术。 3.2.1 协同控制安全防御 为了保证各自独立的智能体共同协作实现 目标，MAS 的设计者需要考虑对智能体进行协同 控制。因此，一致性算法成为 MAS 协同控制问 题的核心内容。多智能体系统中，一致性算法保 证了网络有向信息流的作用，对链路与节点故障 引起的网络拓扑变化的鲁棒性以及通信时延下 的系统新能提供了支持。在此过程中，恶意攻击 可能影响复杂网络的频率和结构特性之间的直 接联系以及一致性算法的信息扩散速度，对具有 非局部信息流的网络系统的性能造成危害[35]。 因此，近年来 MAS 一致性的安全成为该领域一 个新的热点。 很多研究者关注 MAS 一致性算法和结构的 设计。He 等 [36] 提出了一种分布式脉冲控制器， 研究了在数据欺骗攻击下，错误数据注入引起的 有界协同控制问题。Amullen 等 [37] 提出了一种基 于模型的安全编队控制算法，该算法对一组智能 体进行编队并记录其状态，通过状态恢复的方法 使得 MAS 不受 DoS 攻击的影响。Torre 等 [38] 开 发了一个新的分布式自适应控制架构，当存在行 为不当的智能体的情况下，算法会启用本地状态 仿真器对其进行控制。 其他研究从通信延时、有限时间、量化通信 等几个条件[39] 优化 MAS 一致性算法，使得 MAS 的性能可以不受特定攻击的影响。针对通信延时 的情况，2011 年 Liu 等 [40] 提出了时延和噪声干扰 下的多智能体系统的安全一致性算法。Wu 等 [41] 分析了通信延时下的非线性 MAS 的安全一致性 问题，本文根据相邻节点的延迟信息设计了延迟 鲁棒安全一致性 (delay robust secure consensus, DRSC) 算法。对于有限时间问题，Meng 等 [ 4 2 ] 通过智能体协作和对抗，使用邻近规则构造了两 个一致性协议。结果表明，该协议可以保证所有 智能体在有限时间内达成一致性。作者在随后的 研究中，提出了另一种分布式非线性协议[43] ，实现 了 MAS 在固定时间内的安全一致性。Liu 等 [44] 设计了一个集中式切换的一致性协议，实现了快 速的有限时间一致性问题。迭代学习控制 (iterat￾ive learning control, ILC) 被应用于 MAS 一致性研 究后[45] ，成为智能体安全一致性控制的新方法。 为了应对恶意攻击，随后的研究[46] 基于 ILC 实现 了有限时间内的智能体一致性控制。对于量化通 信下的安全一致性，2016 年的一种基于量化数据 的安全控制算法[47] ，通过确定攻击节点在邻域中 的有界性，在有恶意智能体的情况下达到安全一 致性。此外，Feng 等 [48] 在连接维持和连接断开两 类攻击下，研究了一种安全一致性追踪算法。作 者通过定向拓扑交换对问题进行了建模和探究， 并在之后的研究中，用此方法研究了 DoS 攻击下 的 MAS 安全一致性问题[49-50]。 3.2.2 数据交换安全防御 针对数据交换的保护首先需要设计合理的通 信结构和通信协议。 Pitt 等 [51] 定义了 MAS 通信的通用语义框架， 并提出了智能体通信语言 (agent communation lan￾guage, ACL)。ACL 被 FIPA 纳入 MAS 通信框架 标准之后，FIPA-ACL 也成为 MAS 数据交换和通 信协议的规范准则[13]。在此基础上，之后的研究 添加了安全性内容。 Yokoo 等 [52] 设计了动态加密的 MAS 通信协 议。通过使用这种方法，多个智能体可以在解决 组合优化问题的同时，避免泄露隐私信息。Zhu 等 [53] 基于传统代理通信语言，提出了一种多智能 体安全通信协议和 3 种多智能体组重新密钥协 议，并提出了一种更加完善的 ACL。Abdennadher 等 [54] 在 2010 年提出了 MAS 动态通信协议，它使 MAS 能够在不完美的通信环境中灵活，快速且顺 畅地进行通信。2017 年提出的一种基于广播的 移动智能体协议 BROSMAP(broadcast based secure mobile agent protocol)[55] ，使用对称和非对称混合 加密的方法保证了分布式应用安全性。Elshaafi 等 [56] 实现了 JADE 平台通用协议的实例化，并为 JADE 平台添加了 JAVA 安全库，使得 JADE 平台 第 3 期 丁俐夫，等：多智能体系统安全性问题及防御机制综述 ·429·