MPI中不同的通讯类型及编程模式
1、通讯类型
MPI最基本的通信模式是在⼀对进程之间进⾏的消息收发操作： ⼀个进程发送消息，另⼀个进程接收消息。这种通信⽅式称为点对点通信 (point to point communications)。
MPI 提供两⼤类型的点对点通信函数。第⼀种类型称为塞阻型 (blocking)，第⼆种类型称为⾮阻塞型 (non blocking)。
阻塞型函数需要等待指定操作的实际完成，或⾄少所涉及的数据已被 MPI 系统安全地备份后才返回。如 MPI_Send 和 MPI_Recv 都是阻塞型的。MPI_Send函数返回时表明数据已经发出或已被MPI 系统复制，随后对发送缓冲区的修改不会影响所发送的数据。⽽MPI_Recv 返回时，则表明数据已经接收到并且可以⽴即使⽤。阻 塞型函数的操作是⾮局部的，它的完成可能需要与其他进程进⾏通 信。
⾮阻塞型函数调⽤总是⽴即返回，⽽实际操作则由MPI系统在后台进⾏。⾮阻塞型函数名 MPI_ 前缀之后的第⼀个字母为 “I”，最 常⽤的⾮阻塞型点对点通信函数包括 MPI_Isend 和 MPI_Irecv。在 调⽤了⼀个⾮阻塞型通信函数后，⽤户必须随后调⽤其他函数，如MPI_Wait或MPI_Test 等，来等待操作完成或查询操作的完成情况。 在操作完成之前对相关数据区的操作是不安全的，因为随时可能与 正在后台进⾏的通信
发⽣冲突。⾮阻塞型函数调⽤是局部的，因为 它的返回不需要与其他进程进⾏通信。在有些并⾏系统上，通过⾮ 阻塞型函数的使⽤可以实现计算与通信的重叠进⾏。 此外，对于点对点消息发送，MPI 提供四种发送模式，这四种
发送模式的相应函数具有⼀样的调⽤参数，但它们发送消息的⽅式 或对接收⽅的状态要求不同。
**标准模式 (standard mode) **由 MPI 系统来决定是先将消息拷贝 ⾄⼀个缓冲区然后⽴即返回 (此时消息的发送由 MPI 系统在 后台进⾏)，还是等待将数据发送出去后再返回。⼤部分 MPI 系统预留了⼀定⼤⼩的缓冲区，当发送的消息长度⼩于缓冲区 ⼤⼩时会将消息拷贝到缓冲区然后⽴即返回，否则则当部分或 全部消息发送完成后才返回。标准模式发送操作是⾮局部的因为它的完成需要与接收⽅联络。标准模式阻塞型发送函数是 MPI_Send。
**缓冲模式 (buffered mode) **MPI 系统将消息拷贝⾄⼀个⽤户提供 的缓冲区然后⽴即返回，消息的发送由 MPI 系统在后台进⾏。 ⽤户必须确保所提供的缓冲区⾜以容下采⽤缓冲模式发送的消 息。缓冲模式发送操作是局部的， 因为函数不需要与接收⽅联络 即可⽴即完成(返回)。缓冲模式阻塞型发送函数为MPI_Bsend。
**同步模式 (synchronous mode) **在标准模式的基础上要求确认接 收⽅已经开始接收数据后函数调⽤才返回。显然，同步模式的 发送是⾮局部的。同步模式阻塞型发送函数为 MPI_Ssend。
就绪模式 (ready mode) 调⽤就绪模式发送时必须确保接收⽅已经 处于就绪状态(正在等待接收该消息)，否则将产⽣⼀个错误。 该模式设⽴的⽬的是在⼀些以同步⽅式⼯作的并⾏系统上由于发 送时可以假设接收⽅已经准备好接收⽽减少⼀些握⼿开销。如 果⼀个使⽤就绪模式的MPI程序是正确的，则将其中所有就绪 模式的消息发送改为标准模式后也应该是正确的。就绪模式阻 塞型发送函数为 MPI_Rsend。
MPI 点对点通信类型及模式汇总
2、编程模式
进程通信方式
主从模式
构成并⾏程序的进程中有⼀个主进程 (master)，通常是进程 0，其余为从进程 (slave)。主进程与从进程运⾏不同的代码，但所有从进程运⾏的代码是相同的。在这种模式中，主进程⼀般负责整个并 ⾏程序的控制，分配数据和计算任务给从进程，⽽从进程负责完成计算的从进程退出。实际实现中，数据可以存储在主进程中，分配任 务时将数据⼀起发送给从进程，从进程完成计算后将结果发回给主 进程；也可以将数据和结果分布存储在各从进程中，主进程只发布 ⽤于控制计算的少量参数。后⼀种通信⽅式往往要复杂⼀些，但它 有助于避免在主进程中形成通信、内存容量⽅⾯的瓶颈。 主从模式便于处理某些动态负载平衡的问题，特别是在异构并⾏中各处理机的容量和速度不同时的负载平衡问题。但在⼤规模并 ⾏程序中，主进程需要管理⼤量从进程，容易成为性能瓶颈，影响并 ⾏可扩展性。主从模式可以看成⼀个⼆层树型模式，主进程是根，从 进程是叶⼦，它的⼀个⾃然扩展是多层树型模式。例如在三层树形 模式中，⼀个主进程管理数个“从”主进程，每个“从”主进程再分 别管理数个从进程。多级主进程的设⽴有助于缓解或消除可扩展性 瓶颈，但它也使得并⾏程序更加复杂。
SPMD模式
在这种编程模式中，没有主从进程之分，各个进程的地位是相同的，它们运⾏的代码是⼀样的。当然事实上在实际并⾏实现中，总 有⼀个进程，通常是进程 0，或多或少会担负⼀些基本控制任务。这 种模式由于没有明显的性能瓶颈并且便于有效利⽤ MPI 的聚合通信函数，往往能够达到理想的并⾏可扩展性，⾮常适合于⼤规模并 ⾏。在SPMD模式中，各进程负责计算的部分通常由各进程根据它们的进程号以及
总问题的规模来⾃动确定。在确定计算任务的划分 ⽅案时需要综合考虑各进程间的负载平衡、进程间的通信、进程间 的数据相关性等多⽅⾯因素，以实现总体性能的最优。
MPMD模式
并⾏程序的各进程分别运⾏多个不同的代码。不同的进程所执⾏的代码可能相同，也可能不同。这种模式在实际并⾏应⽤程序中 ⽐较少见。

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。