欲第七章多处理机 篑 构成多处理机协同工作的互连网络 机系狗 (性能参数、类型、机理) 支持多处理机协同工作的同步技术 并行化技术—把一个具体问题用 并行化方式解决的支持技术 多处理机奥例
• 构成多处理机协同工作的互连网络 (性能参数、类型、机理) • 支持多处理机协同工作的同步技术 • 并行化技术---把一个具体问题用 并行化方式解决的支持技术 • 多处理机实例 第七章 多处理机
7.1引 单处理机的发展正在走向尽头,并行计算机在未来将 发挥更大的作用? 1.获得超过单处理器的性能,最直接的方法就是把 多个处理器连在一起; 2.自1985年以来,体系结构的改进使性能迅速提高, 这种改进的速度能否持续下去还不清楚,但通过 复杂度和硅技术的提高而得到的性能的提高正在 减小; 3.并行计算机应用软件己有缓慢但稳定的发展
7.1 引 言 单处理机的发展正在走向尽头,并行计算机在未来将 会发挥更大的作用? 1. 获得超过单处理器的性能,最直接的方法就是把 多个处理器连在一起; 2. 自1985年以来,体系结构的改进使性能迅速提高, 这种改进的速度能否持续下去还不清楚,但通过 复杂度和硅技术的提高而得到的性能的提高正在 减小; 3. 并行计算机应用软件已有缓慢但稳定的发展
本章重点 中小规模的机器(处理器的个数<100) (多处理机设计的主流) 7.1.1并行计算机体系结构的分类 1.按照Fynn分类法,可把计算机分成 °单指令流单数据流(SISD) °单指令流多数据流(SIMD) 多指令流单数据流(MISD) °多指令流多数据流(MIMD)
本章重点: 中小规模的机器(处理器的个数<100) (多处理机设计的主流) 7.1.1 1. 按照Flynn分类法,可把计算机分成 • 单指令流单数据流(SISD) • 单指令流多数据流(SIMD) • 多指令流单数据流(MISD) • 多指令流多数据流(MIMD)
2.MIMD已成为通用多处理机体系结构的选择,原因: (1)MIMD具有灵活性 高性能单用户机 多道程序机器 (2)MIMD可以充分利用商品化微处理器在性能价格 比方面的优势。 3.根据多处理机系统中处理器个数的多少,可把现 有的MMD机器分为两类 (每一类代表了一种存储器的结构和互连策略) (1)集中式共享存储器结构 这类机器有时被称为 JMA(uniform memory access)机器
2. MIMD已成为通用多处理机体系结构的选择,原因: (1) MIMD具有灵活性: 高性能单用户机 (2) MIMD可以充分利用商品化微处理器在性能价格 3. 根据多处理机系统中处理器个数的多少,可把现 有的MIMD机器分为两类 (每一类代表了一种存储器的结构和互连策略) (1) 集中式共享存储器结构 这类机器有时被称为UMA(uniform memory access)机器
CPU aPUl aPUD aPUB Cache Cache Cache 存储器 I/O 适用于处理机数目不大情况
CPU0 Cache CPU1 Cache CPU2 Cache CPU3 Cache 存储器 I / O 适用于处理机数目不大情况
(2)分布式存储器结构 每个结点包含: °处理器 °存储器 ◆在许多情况下,分布式存储器结构优于采用 集中式共享存储器结构。 ◆分布式存储器结构需要高带竞的互连
(2) 分布式存储器结构 每个结点包含: ◆ 在许多情况下,分布式存储器结构优于采用 集中式共享存储器结构。 ◆ • 处理器 • 存储器 • I/O
CPU CPL CPU2 CPU3 Cache Cache Cache Cache 存储器 □[HcH四 存储器 互连网络 存储器 [aH四aH 存储器 CPU4 CPUS CPU CPU Cache Cache Cache Cache 适用于处理机数目较大情况
互连网络 存储器 I/o 存储器 I/o 存储器 I/o 存储器 I/o CPU0 Cache CPU1 Cache CPU2 Cache CPU3 Cache 存储器 I/o 存储器 I/o 存储器 I/o 存储器 I/o CPU4 Cache CPU5 Cache CPU6 Cache CPU7 Cache 适用于处理机数目较大情况
◆分布式存储器结构的优点 (1)如果大多数的访问是针对本结点的局部存储器, 则可降低对存储器和互连网络的带宽要求; (2)对局部存储器的访问延迟低。 ◆主要缺点 处理器之间的通信较为复杂,且各处理器之间 访问延迟较大。 ◆簇:超结点-每个结点有多个处理器(2~8
◆ 分布式存储器结构的优点 (1) 如果大多数的访问是针对本结点的局部存储器, 则可降低对存储器和互连网络的带宽要求; (2) 对局部存储器的访问延迟低。 ◆ 主要缺点 处理器之间的通信较为复杂,且各处理器之间 访问延迟较大。 ◆ 簇:超结点----每个结点有多个处理器(2 ~ 8)
篑 7.1.2通信模型和存储器的结构模型 1.两种地址空间的组织方案 (1)物理上分离的多个存储器可作为一个逻辑上共 享的存储空间进行编址 这类机器的结构被称为分布式共享存储器DSM) 狗 或可缩放共享存储器(SSM)体系结构。 DSM机器被称为 NUMA(non-uniform memory access机 (2)整个地址空间由多个独立的地址空间构成,它 们在逻辑上也是独立的,远程的处理器不能对 其直接寻址
7.1.2 1. 两种地址空间的组织方案 (1) 物理上分离的多个存储器可作为一个逻辑上共 享的存储空间进行编址。 这类机器的结构被称为分布式共享存储器(DSM) 或可缩放共享存储器(SSM)体系结构。 DSM机器被称为NUMA(non-uniform memory access)机器。 (2) 整个地址空间由多个独立的地址空间构成,它 们在逻辑上也是独立的,远程的处理器不能对 其直接寻址
讲算系狗 每一个处理器-存储器模块实际上是一个单独的 计算机,这种机器也称为多计算机 2.两种通信模型 ●共享地址空间的机器 利用Load和 Store指令中的地址隐含地进行 数据通讯。 ●多个地址空间的机器 通过处理器间显式地传递消息完成。 这种机器常称为消息传递机器
每一个处理器-存储器模块实际上是一个单独的 计算机,这种机器也称为多计算机。 2. 两种通信模型 这种机器常称为消息传递机器 •共享地址空间的机器 利用Load和Store指令中的地址隐含地进行 数据通讯。 •多个地址空间的机器 通过处理器间显式地传递消息完成