Lom

Version 9 (Andrey Golovin, 19.02.2016 21:24)

1 1 Andrey Golovin
h1. Ломоносов
2 1 Andrey Golovin
3 1 Andrey Golovin
* В корне есть директория *_scratch* запус программ надо делать в этой директории.
4 1 Andrey Golovin
* Интересные директории с предустановленными программам можно найти в */opt* Например:
5 1 Andrey Golovin
<pre>
6 1 Andrey Golovin
ls /opt
7 1 Andrey Golovin
baqus    Accelrys.old  ccoe  cuda-5.0  dislib    install  mellanox     molpro2010.1       mpi  nmon  octo     pathscale  pdde      pgi             software  toolworks  VRTSpbx  xcat
8 1 Andrey Golovin
Accelrys  acml5.3.0     cuda  dimonta   distribs  intel    modulefiles  molpro2010.1.orig  MS   nvc   old-opt  pdag       pdshared  pgi-backup.tgz  Symantec  VASP       wien2k
9 1 Andrey Golovin
</pre>
10 1 Andrey Golovin
<pre>
11 1 Andrey Golovin
ls /opt/software
12 1 Andrey Golovin
DL_POLY  FF8  FlowVision  ga-5-1  Gromacs  netCDF  OpenFOAM  openfoam-2.1  OpenFOAM-2.1  OpenFOAM-2.1.1-impi41  openfoam-2.2  OpenFOAM-2.2  TURBOMOLE  wrapper
13 1 Andrey Golovin
</pre>
14 1 Andrey Golovin
15 3 Andrey Golovin
h3. Сборка Gromacs:
16 1 Andrey Golovin
17 4 Andrey Golovin
** Надо зайти на <pre>ssh compiler</pre>
18 3 Andrey Golovin
** Задать параметры компилятора и mpi 
19 1 Andrey Golovin
<pre>
20 1 Andrey Golovin
└─> module load 
21 1 Andrey Golovin
dot                impi/4.0.3         mkl/4.0.2.146      module-info        null               openmpi/1.5.5-pgi  use.own            
22 1 Andrey Golovin
ekopath/4.0.11     impi/4.1.0-32bit   module-cvs         modules            openmpi/1.5.5-icc  pgi/12.9           
23 1 Andrey Golovin
24 1 Andrey Golovin
└─> module list 
25 1 Andrey Golovin
Currently Loaded Modulefiles:
26 1 Andrey Golovin
  1) impi/4.1.0          2) intel/13.1.0        3) cuda/5.0.35       
27 1 Andrey Golovin
</pre>
28 1 Andrey Golovin
** Скачать и распаковать Gromacs
29 1 Andrey Golovin
** Конфигурация и компиляция
30 2 Andrey Golovin
<pre>
31 2 Andrey Golovin
mkdir build 
32 3 Andrey Golovin
cd build
33 3 Andrey Golovin
cmake28 .. -DCMAKE_INSTALL_PREFIX=/home/users/golovin/progs/gmx-4.6.1-mpi -DGMX_X11=OFF -DGMX_MPI=OFF -DGMX_PREFER_STATIC_LIBS=ON -DBUILD_SHARED_LIBS=OFF -DGMX_DEFAULT_SUFFIX=OFF -GMX_BINARY_SUFFIX=_plu -DGMX_LIBS_SUFFIX=_plumed -DGMX_BUILD_OWN_FFTW=ON -DGMX_GPU=OFF
34 3 Andrey Golovin
make
35 3 Andrey Golovin
make install
36 3 Andrey Golovin
make clean
37 3 Andrey Golovin
cmake28 .. -DCMAKE_INSTALL_PREFIX=/home/users/golovin/progs/gmx-4.6.1-mpi -DGMX_X11=OFF -DGMX_MPI=ON -DGMX_PREFER_STATIC_LIBS=ON -DBUILD_SHARED_LIBS=OFF -DGMX_DEFAULT_SUFFIX=OFF -GMX_BINARY_SUFFIX=_plu -DGMX_LIBS_SUFFIX=_plumed -DGMX_BUILD_OWN_FFTW=ON -DGMX_GPU=ON
38 1 Andrey Golovin
make mdrun
39 1 Andrey Golovin
make install-mdrun
40 1 Andrey Golovin
</pre>
41 3 Andrey Golovin
** Надо выйти из среды compiler <pre>exit</pre>
42 3 Andrey Golovin
** Добавить исполняймы файлы в путь
43 3 Andrey Golovin
<pre> 
44 3 Andrey Golovin
export PATH=${PATH}:/home/users/golovin/progs/gmx-4.6.1-mpi
45 3 Andrey Golovin
</pre>
46 3 Andrey Golovin
** И тут нечто странное, надо скопировать <pre>cp -r ~/progs ~/_scratch</pre>
47 3 Andrey Golovin
48 3 Andrey Golovin
* Вот оно и должно работать
49 3 Andrey Golovin
<pre>
50 3 Andrey Golovin
sbatch -n 32 -e md.out -t 2400 impi /home/users/golovin/progs/gmx-4.6.3-impi-gpu/bin/mdrun_gpu -deffnm tro_md -cpi tro_md -noappend -v
51 3 Andrey Golovin
</pre>
52 3 Andrey Golovin
53 3 Andrey Golovin
54 8 Andrey Golovin
* Новое для сборки gromacs 5.0.4 c plumed gpu impi, основная новость, то что собрать c intel compiler не получится в принципе, собираем с gcc. Лучше всего, конечно использовать версии 4.7 и 4.8,  но не сегодня (27.2.15). Cmake установленый в системе стар как гумно мамонта, собрал свой в ~/progs/bin/cmake. Он неправильно определяет кой чего в системе, поэтому надо править CMakeCache.txt, отключаем HAVE__ALIGNED_MALLOC:INTERNAL= и _finite_compile_ok:INTERNAL= :
55 5 Andrey Golovin
<pre>
56 5 Andrey Golovin
1374c1423
57 5 Andrey Golovin
< HAVE__ALIGNED_MALLOC:INTERNAL=
58 5 Andrey Golovin
---
59 5 Andrey Golovin
> HAVE__ALIGNED_MALLOC:INTERNAL=1
60 5 Andrey Golovin
61 5 Andrey Golovin
1511,1513c1560,1562
62 5 Andrey Golovin
< _finite_compile_ok:INTERNAL=
63 5 Andrey Golovin
< //Result of isfinite check
64 5 Andrey Golovin
< isfinite_compile_ok:INTERNAL=
65 5 Andrey Golovin
---
66 5 Andrey Golovin
> _finite_compile_ok:INTERNAL=1
67 5 Andrey Golovin
> //Result of _isfinite check
68 1 Andrey Golovin
> _isfinite_compile_ok:INTERNAL=1
69 6 Andrey Golovin
70 6 Andrey Golovin
┌─[golovin @ compiler-1 ~/distr/gromacs-5.0.4/build ] 
71 6 Andrey Golovin
└─> module list 
72 6 Andrey Golovin
Currently Loaded Modulefiles:
73 6 Andrey Golovin
  1) slurm/2.5.6      2) impi/5.0.1-ofa   3) cuda/6.5.14
74 6 Andrey Golovin
75 6 Andrey Golovin
76 5 Andrey Golovin
</pre>
77 5 Andrey Golovin
78 3 Andrey Golovin
h3. Сборка СPMD
79 3 Andrey Golovin
80 3 Andrey Golovin
** Важный кусок Makefile
81 3 Andrey Golovin
82 3 Andrey Golovin
<pre>
83 3 Andrey Golovin
SRC  = .
84 3 Andrey Golovin
DEST = .
85 3 Andrey Golovin
BIN  = .
86 3 Andrey Golovin
FFLAGS = -i-static -O2  
87 3 Andrey Golovin
LFLAGS = -L/opt/intel/mkl/lib/intel64  -Wl,--start-group \
88 3 Andrey Golovin
             -lmkl_intel_lp64 -lmkl_intel_thread -lmkl_core -Wl,--end-group \
89 3 Andrey Golovin
             -lm -lpthread  -liomp5
90 3 Andrey Golovin
CFLAGS = -D__alpha
91 3 Andrey Golovin
CPP = /lib/cpp -P -C -traditional
92 3 Andrey Golovin
CPPFLAGS = -D__alpha -DPOINTER8 -DFFT_DEFAULT -DALPHALINUX -D__HPC \
93 3 Andrey Golovin
         -DMYRINET -DPARALLEL=parallel -DLINUX_IA64_INTEL -DINTEL_MKL  
94 3 Andrey Golovin
NOOPT_FLAG = 
95 3 Andrey Golovin
CC = mpicc -c -O
96 3 Andrey Golovin
FC = mpif90 -c
97 3 Andrey Golovin
LD = mpif90
98 3 Andrey Golovin
AR = /usr/bin/ar -r
99 3 Andrey Golovin
</pre>
100 3 Andrey Golovin
101 9 Andrey Golovin
102 9 Andrey Golovin
h3. Сборка Gromacs+libMOPA2012+Plumed  и запуск 
103 9 Andrey Golovin
Итак сборка:
104 9 Andrey Golovin
<pre>
105 9 Andrey Golovin
Currently Loaded Modulefiles:
106 9 Andrey Golovin
  1) slurm/2.5.6         2) intel/15.0.090      3) mkl/11.2.0          4) openmpi/1.8.4-ic
107 9 Andrey Golovin
</pre>
108 9 Andrey Golovin
MPI нам нужен для массового multidir
109 9 Andrey Golovin
110 9 Andrey Golovin
Вероятно придется собрать MPI Plumed:
111 9 Andrey Golovin
<pre>
112 9 Andrey Golovin
make clean
113 9 Andrey Golovin
./configure --enable-mpi --prefix=$HOME/progs && make && make install
114 9 Andrey Golovin
</pre>
115 9 Andrey Golovin
116 9 Andrey Golovin
Патчим Gromacs Артура:
117 9 Andrey Golovin
<pre>
118 9 Andrey Golovin
cd ~/distr/gromacs-5.0.4-mopac-new
119 9 Andrey Golovin
~/progs/bin/plumed patch -r
120 9 Andrey Golovin
~/progs/bin/plumed patch -p
121 9 Andrey Golovin
</pre>
122 9 Andrey Golovin
123 9 Andrey Golovin
Собираем :
124 9 Andrey Golovin
<pre>
125 9 Andrey Golovin
mkdir build-mpi && cd build-mpi
126 9 Andrey Golovin
rm -rf *
127 9 Andrey Golovin
cmake  .. -DGMX_QMMM_PROGRAM=MOPAC2012 -DGMX_MPI=ON -DGMX_DOUBLE=yes -DBUILD_SHARED_LIBS=OFF  -DGMX_BUILD_MDRUN_ONLY=ON -DGMX_BUILD_OWN_FFTW=ON
128 9 Andrey Golovin
make  -j8
129 9 Andrey Golovin
cp bin/mdrun_mpi_d ~/_scratch/progs/bin/mdrun_504_plumed_mopac_mpi_icc
130 9 Andrey Golovin
</pre>
131 9 Andrey Golovin
132 9 Andrey Golovin
Используем:
133 9 Andrey Golovin
<pre>
134 9 Andrey Golovin
└─> module list 
135 9 Andrey Golovin
Currently Loaded Modulefiles:
136 9 Andrey Golovin
  1) slurm/2.5.6         2) mkl/11.2.0          3) openmpi/1.8.4-icc   4) intel/15.0.090
137 9 Andrey Golovin
138 9 Andrey Golovin
parallel --gnu "cd {1};ln -s ../meta.dat; ln -s ../2_meta_amd.tpr meta_amd.tpr" ::: {1..64}
139 9 Andrey Golovin
sbatch -t 800 -N8 --ntasks-per-node=8 ompi /home/users/golovin/progs/bin/mdrun_504_plumed_mopac_mpi_icc -deffnm meta_amd -plumed meta.dat -v  -multidir {1..64}
140 9 Andrey Golovin
</pre>
141 9 Andrey Golovin
142 9 Andrey Golovin
Обратите внимание на COLVAR.0 ... COLVAR.64
143 9 Andrey Golovin
144 3 Andrey Golovin
h3. Мои практикумы и лекции:
145 3 Andrey Golovin
146 3 Andrey Golovin
* Курсы
147 3 Andrey Golovin
http://vsb.fbb.msu.ru/redmine/projects/edu/wiki
148 3 Andrey Golovin
149 3 Andrey Golovin
* Практикум для ФББ
150 3 Andrey Golovin
https://kodomo.fbb.msu.ru/wiki/2010/6/Modelling