第七章多处理机系统 71多处理机系统结构 72多处理机的互连网络 73多处理机的系统控制 74并行处理语言及算法 75多处理机的性能 76多处理机的系统实例
第七章 多处理机系统 7.1 多处理机系统结构 7.2 多处理机的互连网络 7.3 多处理机的系统控制 7.4 并行处理语言及算法 7.5 多处理机的性能 7.6 多处理机的系统实例
第一节多处理机的系统结构 多处理机系统由多台独立的处理机组成,每台处理机 都能够独立执行自己的程序和指令流,相互之间通过 专门的网络连接,实现数据的交换和通信,共同完成 某项大的计算或处理任务。系统中的各台处理机由统 -的操作系统进行管理,实现指令级以上并行,这种 并行性一般是建立在程序段的基础上,也就是说,多 处理机的并行是作业或任务级的并行。从硬件结构、 存储器组织方式等区分,多处理机系统有多种分类方 法,接下来将逐一介绍
第一节 多处理机的系统结构 多处理机系统由多台独立的处理机组成，每台处理机 都能够独立执行自己的程序和指令流，相互之间通过 专门的网络连接，实现数据的交换和通信，共同完成 某项大的计算或处理任务。系统中的各台处理机由统 一的操作系统进行管理，实现指令级以上并行，这种 并行性一般是建立在程序段的基础上，也就是说，多 处理机的并行是作业或任务级的并行。从硬件结构、 存储器组织方式等区分，多处理机系统有多种分类方 法，接下来将逐一介绍
硬件结构 1、紧密耦合多处理机系统 系统中各处理机相互之间的联系是比较紧密的通 过系统中的共享主存储器实现彼此间的数据传送和通信 /OPo /OPI IOPn-I CPU-OP互连网络 CPU CPU1 CPU n-I CPU-MN互连网络 MMoD MMIO MMm-10 MMOn-I MMIn- MMm1,n-1
一、硬件结构 1、紧密耦合多处理机系统 系统中各处理机相互之间的联系是比较紧密的,通 过系统中的共享主存储器实现彼此间的数据传送和通信。 I/OP0 I/OP1 I/OPn-1 CPU-I/OP 互连网络 CPU0 CPU1 CPU n-1 CPU-M M 互连网络 M M0,0 M M0,n-1 M M1,0 M M1,n-1 M Mm-1,0 M Mm-1,n-1 … …
优点: 通过共享存储器,处理机间的通信和数据传输 速度快、效率高 缺点 存在访问冲突,总线带宽限制导致处理及数量 不能太多。 为每个处理机配置较大的独立 cache可以缓解访 问冲突问题,但同时 cache同步也是较大问题
优点： 通过共享存储器，处理机间的通信和数据传输 速度快、效率高 缺点： 存在访问冲突，总线带宽限制导致处理及数量 不能太多。 为每个处理机配置较大的独立cache可以缓解访 问冲突问题，但同时cache同步也是较大问题
2、松散耦合多处理机系统 这种系统多由一些功能较强,相对独立的模块组成。 每个模块至少包括一个功能较强的处理机,一个局部存储器 和一个ⅣO设备,模块间以消息的方式通信。系统中每台处理 机都有处理单元,各自的存储器和ⅣO设备子系统。 CPU CPU1 CPUn-1 LMo LMI LMn-1 VOP WOPI WOPn-I 互连网络
2、松散耦合多处理机系统 这种系统多由一些功能较强，相对独立的模块组成。 每个模块至少包括一个功能较强的处理机，一个局部存储器 和一个I/O设备，模块间以消息的方式通信。系统中每台处理 机都有处理单元，各自的存储器和I/O设备子系统。 CPU0 CPU1 CPUn-1 互连网络 LM0 I/OP0 LM1 I/OP1 LMn-1 I/OPn-1 …
存储器组织 1、集中式共享存储器系统 处理机数目较少的多处理机,各个处理机可以共享单 个集中式存储器。在使用大容量 Cache的情况下,单一存储 器(可能是多组)能够确保小数目处理机的存储访问得到及 CPU2 一级或多级 一级或多级 一级或多级 一级或多级 I/0系统
二、存储器组织 1、 集中式共享存储器系统 处理机数目较少的多处理机，各个处理机可以共享单 个集中式存储器。在使用大容量Cache的情况下，单一存储 器（可能是多组）能够确保小数目处理机的存储访问得到及 时响应 一级或多级 Cache 一级或多级 Cache 存储器 一级或多级 Cache CPU1 CPU2 CPU3 一级或多级 Cache CPU0 I/O系统
对所有的处理而言是对等的,既每个处理机 访问存储器的时间相同,也称为对称式共享存 储器多处理机系统(SMPs),这种系统结构也称 为均匀存储器访问(UMA)。 大容量、多层次的 Cache能够大量减少单个处 理机对存储器带宽的要求,减少访问时延,减 少多个处理机同时读取共享数据时的竞争现象
对所有的处理器而言是对等的，既每个处理机 访问存储器的时间相同，也称为对称式共享存 储器多处理机系统(SMPs)，这种系统结构也称 为均匀存储器访问（UMA）。 大容量、多层次的Cache能够大量减少单个处 理机对存储器带宽的要求，减少访问时延，减 少多个处理机同时读取共享数据时的竞争现象
2、分布式式共享存储器系统 处理机 处理机 处理机 处理机 +Cache +Cache +Cache +Cache 存储器 I/0 存储器 I/0 存储器 I/0 存储器I/ 互连网络 存储器 I/0 存储器 I/0 存储器 I/0 存储器 I/0 处理机 处理机 处理机 处理机 +Cache +Cache +Cache +Cache
2、分布式式共享存储器系统 处理机 ＋Cache 处理机 ＋Cache 处理机 ＋Cache 处理机 ＋Cache 存储器 I/O 存储器 I/O 存储器 I/O 互 连 网 络 处理机 ＋Cache 处理机 ＋Cache 处理机 ＋Cache 处理机 ＋Cache 存储器 I/O 存储器 I/O 存储器 I/O 存储器 I/O 存储器 I/O
为了支持更多的处理机,存储器不能按照集中 共享方式组织,而必须分布于各个处理机。否 则由于访问冲突以及总线带宪的限制,当处理 机数量很大时,访问延迟就会很大。 分布式存储器多处理机由多个独立结构组成, 每个节点包括处理机(可以多个)、存储器 输入输出系统和互联网络的接口,各个节点通 过互联网络连接在一起
为了支持更多的处理机，存储器不能按照集中 共享方式组织，而必须分布于各个处理机。否 则由于访问冲突以及总线带宽的限制，当处理 机数量很大时，访问延迟就会很大。 分布式存储器多处理机由多个独立结构组成， 每个节点包括处理机（可以多个）、存储器、 输入输出系统和互联网络的接口，各个节点通 过互联网络连接在一起
存储器优缺点 大部分访问是在节点内的本地存储器中进行的 这种做是增大存储器带比较经济的方法 缩短了本地存储器访问的时延 处理节点之间的数据通信在某种程度上变得更 加复杂,且时延也更大
存储器优缺点 ▪ 大部分访问是在节点内的本地存储器中进行的， 这种做是增大存储器带宽比较经济的方法 ▪ 缩短了本地存储器访问的时延 ▪ 处理节点之间的数据通信在某种程度上变得更 加复杂，且时延也更大
