如何与多个用户环境中运行的PBS

如何与多个用户环境中运行的PBS,第1张

如何在集群环境中使用fluent计算——fluent并行计算初步(超小白入门,老鸟略过:)

作者:jinsw

现在国内的开放式机群环境越来越多,许多都部署了fluent(大好事),不过还是有许多人不太清楚如何利用这些有用的资源。这里结合我所在单位的情况做一个简单的介绍,其他的机群环境大同小异。

1、 什么是机群?有什么特点?

机群又叫集群,当然就是许多的计算机(废话),因为机器太多了,又需要协同工作,所以需要按照一定的方式来管理,管理的结构形式叫做拓扑(这个不用管)。机群使用的电脑是刀片(又薄又长的机箱)形式(为了便于插入机柜),一个刀片一般称为一个节点

一般而言,机群会分为三种节点:管理节点(若干台),编译节点(若干台),计算节点(其余全部)。这三种节点的配置略有不同(废话),管理节点主要用来存储使用机群的用户的信息,如名字,密码,可以使用机器数的权限,用户状态等等;编译节点一般用来预查程序故障,用户的程序先在这里试运行,查看是否与系统兼容等;计算节点用来直接计算其他节点提供来的程序。

就配置而言,管理节点和编译节点一般相同,会部署软件环境;计算节点只会部署简单的必要运行文件。计算机点之间会采用高速交换机,速度可达几十GB/s,如IB等;计算节点与编译、登陆节点之间采用普通的万兆交换机。

2、 如何使用机群?

机群中一般采用linux *** 作系统来 *** 作(多用户情况下效率高),用户会通过远程登录软件(如xshell)来登录到登陆节点进行个人的 *** 作(一般会通过VPN网络加密数据传输)。

Linux集群将程序任务分解发送到计算节点上时,是通过LSF作业调度系统(也有其他的,如PBS等)来实现的,这个系统的作用是使整个机群负载均衡,便于管理,所以我们使用fluent也要通过这个系统。在成熟的集群中,用户登录之后,默认便可以使用作业调度系统了。使用时,除了常见的linux命令以外,调度系统也有一些简单的命令,这个一般会有手册介绍,常用的就3、5个,很好记。

3、 如何在集群中使用fluent?

因为fluent是成熟的封装好的商业软件,所以用户直接使用命令调用即可。

但是因为大部分的linux下的远程登录是不支持图形界面的,所以我们看不到在windows下的熟悉界面,无法进行 *** 作。其实,fluent最早也是linux下的软件,它提供了一种jou脚本来 *** 作各种命令(即帮助中的TUI命令),我们在windows的图形界面中,也可以在控制台窗口中查看如何使用。这样,我们在启动fluent软件时,指定它的jou执行脚本即可使软件按照我们的意图来进行 *** 作了。如果在帮助中找太慢,可以在windows的fluent图形界面下,右下角控制台中用回车键显示文字命令,q键返回。

4、 实例

这里给出一个在LSF调度系统中使用fluent的实例:

首先,使用bsub命令提交LSF脚本(名字为fluent.lsf),在命令窗口中键入:bsub fluent.lsf即可。

脚本内容如下:

#!/bin/sh (这句话是说此脚本使用/bin/sh来解释执行,小白可以略过)

APP_NAME=fluent (这句话是说此脚本调用名字为fluent的集群排序提交队列,小白继续略过)

NP=2 (这句话是说此脚本的任务将调用2个CPU core来执行)

NP_PER_NODE=1 (这句话是说此脚本的任务将在分配用来执行任务的每个节点上调用1个CPU core来执行)

RUN="fluent 2ddp -g -i fluent.jou -r15.0.0 -pib –mpi=pcmpi" (这句话是说此脚本的执行命令以及参数,2ddp 是指二维双精度类型计算,这个大家应该熟悉了;fluent.jou就是我们使用的fluent命令执行脚本的名字)

fluent.jou脚本内容实例:

/file/read-case ./boil-unstdy.cas (读取cas文件,boil-unstdy.cas)

/file/read-data ./boil-unstdy.dat (读取dat文件,boil-unstdy.dat)

define/user-defined/compiled-function/compile (定义编译函数库并制定编译文件)

libudf

yes

boiling-rpi-model.c

define/user-defined/compiled-function/load (加载编译函数库)

libudf

/file/auto-save/data-frequency 100 (自动保存)

/solve/initialize/initialize-flow(初始化)

/solve/dual-time-iterate (求解循环设置)

500

20

/file/read-data ./boil-unsteady-out.dat (保存结果)

exit (退出fluent)

yes

之前R都是在Windows运行比较多,Rstudio基本满足数据分析和绘图需求。但是这次通过R进行WGCNA,基因数目比较多Windows带不动,所以转战Linux。学校的大型机是不允许login直接跑计算的,而bsub如何提交R作业?

格式:R CMD BATCH [options] [infile] [outfile]

在linux下,因为BATCH指令的权限问题,将会导致非root权限无法调用此条指令。这时使用方法三Rscript file代替即可。

格式:R [options] [<infile] [>outfile]

运行:

查看输出结果:

格式:Rscript [--options] [-e expr] file [args] [>outfile]

参考资料:

https://www.cnblogs.com/xianghang123/archive/2013/01/08/2851480.html

http://www.360doc.com/content/11/1201/22/5013584_169013651.shtml


欢迎分享,转载请注明来源:内存溢出

原文地址: https://outofmemory.cn/yw/7331546.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-04-04
下一篇 2023-04-04

发表评论

登录后才能评论

评论列表(0条)

保存