、并行编程基础知识 并行编程模式 ◆并行编程模式,主要指并行编程时,程序员将程序各模块并行执行时, 模块间的通信方式,目前并行编程模式主要包括以下三种: 共享内存:共享内存是进程间传递数据的一种高效方法。在共享内存 模型中,并行进程共享一个进行异步读取的全局地址空间。异步并发 访问可能导致条件竞争,因此需要同步机制来避免条件竞争,这些机 制包括锁,信号量,管程(n moni tor )。传统的多核处理器是直接支持 共享内存的,所以导致很多利用该特性的语言和库出现,以0 penMP为 代表; 》消息传递:在消息传递模型中,并行进程是通过消息传递来交换数据 的。这些通信可以是异步的,即消息可以在接收者做好准备前发送, 也可以是同步的,即只有接受者准备好接收消息时才能发送。消息传 递的csP( Communi cat ing sequential processes)模型使用同步通 channe来连接进程,以MP|,PW为代表; 数据并行模式:数据并行化关注在数据集上执行的操作。一组任务对 数据集进行运算,但是会对不同的分区进行运算,以 Fortran为代表。一、并行编程基础知识 ◆ 并行编程模式，主要指并行编程时，程序员将程序各模块并行执行时， 模块间的通信方式，目前并行编程模式主要包括以下三种： ➢ 共享内存：共享内存是进程间传递数据的一种高效方法。在共享内存 模型中，并行进程共享一个进行异步读取的全局地址空间。异步并发 访问可能导致条件竞争，因此需要同步机制来避免条件竞争，这些机 制包括锁，信号量，管程（monitor）。传统的多核处理器是直接支持 共享内存的，所以导致很多利用该特性的语言和库出现，以OpenMP为 代表； ➢ 消息传递：在消息传递模型中，并行进程是通过消息传递来交换数据 的。这些通信可以是异步的，即消息可以在接收者做好准备前发送， 也可以是同步的，即只有接受者准备好接收消息时才能发送。消息传 递的CSP（Communicating sequential processes）模型使用同步通信 channel来连接进程，以MPI,PVM为代表； ➢ 数据并行模式：数据并行化关注在数据集上执行的操作。一组任务对 数据集进行运算，但是会对不同的分区进行运算，以Fortran为代表。 并行编程模式