MPI并行计算for循环

你的想法很独特，比如for(i=0;i<15;i++){}，如果你确定这15次都要做，并且他们的执行顺序无所谓，并且他们都很慢并行能大大提高效率，那可以把i=014作为15个任务下发，用线程池去处理

MPI（message passing interface），是一个消息传递接口。MPI的函数总共有287个。

想实现一个MPI并行计算的程序的话，只要掌握MPI的工作机理和6个简单的MPI函数便可以了，本文介绍4个简单MPI函数：MPI_INIT、MPI_COMM_RANK、MPI_COMM_SIZE和MPI_FINALIZE。

注意：以下调用格式为Fortran格式，大部分教程都是C语言的MPI介绍，这里以及以后的文章都是以Fortran为基础，尤其要注意Fortran不分大小写。

先给出一个最简单的Hello_world的Fortran + MPI的程序，在此基础上来分析MPI的4个最简单的函数——MPI_INIT、MPI_COMM_RANK、MPI_COMM_SIZE和MPI_FINALIZE。

MPI_Init用来初始化MPI执行环境，建立多个MPI进程之间的联系，为后续通信做准备。

MPI_Finalize则是结束MPI执行环境。

MPI_Comm_rank就是来标识各个MPI进程的，告诉调用该函数的进程“我是谁？”。

MPI_COMM_SIZE用来标识相应进程组中有多少个进程。

21 将以上内容保存为hello_worldf90，上传到服务器的文件夹/home/xldeng/mpi里面：

22 编译hello_worldf90为hello_world，并用ls查看内容：

23 使用服务器里面的命令来调用不同的节点上面的核来计算：

31 注意程序中的一个小细节：

含义为调用mpi的库函数，因为使用的是Intel MPI + Fortran90，所以调用的方式为：use mpi。Fortran77可能需要 include "mpifh"。

32 在22节中的mpiifort是ifort的并行使用方法，检验mpiifort的用法：which mpiifort或者是mpiifort -v。

33 在23节中的说明：本程序的运行平台为服务器上，所以使用的是 MPI使用指南 | 武汉大学超算中心 中提供的提交方法。如果在单台服务器上面，可以使用如下命令：

来运行程序。

OpenMP和MPI是并行编程的两个手段，对比如下：

OpenMP:线程级（并行粒度）；共享存储；隐式（数据分配方式）；可扩展性差。

MPI：进程级；分布式存储；显式；可扩展性好。OpenMP采用共享存储，意味着它只适应于SMP,DSM机器，不适合于集群。MPI虽适合于各种机器，但它的编程模型复杂。

需要分析及划分应用程序问题，并将问题映射到分布式进程集合。需要解决通信延迟大和负载不平衡两个主要问题。

延伸论述：

我认为，要理解OpenMP和MPI，首先要有一些 *** 作系统知识和系统编程基础——OpenMP对应的实际上是单进程多线程的并发编程模型，可以将一个单线程的程序按for循环拆分成多线程——相当于pthread_create。

对于同一个进程的多个线程来说，由于它们只是独占自己的栈内存，堆内存是共享的，因此数据交换十分地容易，直接通过共享变量就可以进行交换，编程模型非常简单易用，并且对于 *** 作系统来说，线程的上下文切换成本也比进程低很多。

然而另一方面，由于线程不能脱离进程独立存在，而一个进程不能存在于多台机器上，所以OpenMP只适用于拥有多个CPU核心的单台电脑。并且多线程编程存在临界区（Critical Section），需要你自己去加锁，解决Race Condition问题，否则的话很容易导致不可预知的后果。

而MPI则是多进程的并发编程模型，相当于你自己调用fork——每一个进程的内存地址空间都是独立的，它们彼此之间几乎什么都不共享，只能通过进程间通信（IPC）来交换彼此的数据，因此编程难度明显要大很多。

MPI有一个非常显著的优点，那就是对于一个分布式系统来说，进程是可以在分布式系统的每一台电脑之间转移的，因此对于拥有多台电脑的分布式系统来说，其并发性要明显好于OpenMP。

以上就是关于MPI并行计算for循环全部的内容，包括:MPI并行计算for循环、【Fortran并行科学计算】——Hello World程序、从并行计算的角度对比,MPI 与 OpenMP 有什么区别等相关内容解答，如果想了解更多相关内容，可以关注我们，你们的支持是我们更新的动力！