第11章并行处理
第11章 并 行 处 理
本章主要内容: 本章讲述并行处理及SIMD并行处理计算 机。介绍共享存储和分布式存储处理机的 结构、典型的并行算法等。以典型的 SIMD处理机为例,深入讲述处理机内部 结构。最后讲述SIMD计算机应用领城和 阵列处理机算法。学习时重点掌握并行处 理的有关概念与处理方式、阵列算法等
本章主要内容： ⚫ 本章讲述并行处理及SIMD并行处理计算 机。介绍共享存储和分布式存储处理机的 结构、 典型 的并行 算法 等。以 典型 的 SIMD处理机为例，深入讲述处理机内部 结构。最后讲述SIMD计算机应用领域和 阵列处理机算法。学习时重点掌握并行处 理的有关概念与处理方式、阵列算法等
1.1并行处理的念 1.2并行处理机基碑结构 1.135m计算机基本结构 1145m计算机的液用
11.1 并行处理的概念 11.2 并行处理机基本结构 11.3 SIMD计算机基本结构 11.4 SIMD计算机的应用
111并行处理的概念 ●1111并行性 并行性有两个含义:一是同时性 ( Simultaneity!y),是指两个或多个事件 在同一时刻发生在多个资源中;二是并发 性 Concurrency ),指两个或多个事件 在同一时间间隔内发生在多个资源中
11.1 并行处理的概念 ⚫ 11.1.1 并行性 ⚫ 并行性有两个含义：一是同时性 （Simultaneity），是指两个或多个事件 在同一时刻发生在多个资源中；二是并发 性（Concurrency），指两个或多个事件 在同一时间间隔内发生在多个资源中
111.2并行性的等级和分类 1.从计算机信息加工的各个步骤和阶段的 角度,并行性等级可分为如下4种 (1)存储器操作并行性。 °(2)处理器操作步骤并行。 (3)处理器操作并行。 (4)指令、任务、作业的并行
11.1.2 并行性的等级和分类 1．从计算机信息加工的各个步骤和阶段的 角度，并行性等级可分为如下4种。 ⚫ （1）存储器操作并行性。 ⚫ （2）处理器操作步骤并行。 ⚫ （3）处理器操作并行。 ⚫ （4）指令、任务、作业的并行
2.从系统结构发展来看,并行性可分为 如下4种。 3.程序划分和并行粒度。 并行粒度和通信时延密切相关,用以下公 式表示(假设系统有P个处理器) o G=TWTc
⚫ 2．从系统结构发展来看，并行性可分为 如下4种。 ⚫ 3．程序划分和并行粒度。 ⚫ 并行粒度和通信时延密切相关，用以下公 式表示（假设系统有P个处理器） ⚫ G=Tw/Tc
(1)指令级 (2)循环级 (3)子任务级 °(4)任务级 (5)作业(程序)级
⚫ （1）指令级 ⚫ （2）循环级 ⚫ （3）子任务级 ⚫ （4）任务级 ⚫ （5）作业（程序）级
112并行处理机基本结构 ●112.1并行处理机的典型结构 CU PE PE PE 互连网络(ICN) Mo MI M 图1-2共亨存储器的并行处理柷结构图一
11.2 并行处理机基本结构 ⚫ 11.2.1 并行处理机的典型结构 图11-2 共享存储器的并行处理机结构图 互连网络（ICN） M0 M1 Mm-1 PE0 PE1 PEn-1 CU … …
PEMo PEMI PEMn-l PEo PEL PEn-I 互连网络(ICN) 图11-3分布存储器的并行处理机结构图
PEMn-1 互连网络（ICN） PE0 PE1 PEn-1 PEM0 PEM1 CU … … 图11-3 分布存储器的并行处理机结构图
1122并行处理机的特点 1.并行处理机依靠的并行措施主要是资 源重复,而不像向量机是时间的重叠。 2.并行处理机使用的多处理单元通过互 连网络连接在一起
11.2.2 并行处理机的特点 ⚫ 1．并行处理机依靠的并行措施主要是资 源重复，而不像向量机是时间的重叠。 ⚫ 2．并行处理机使用的多处理单元通过互 连网络连接在一起
