PARALLEL.RU

Расскажите, пожалуйста, если кто-нибудь знает как настраиваются кластеры в принципе. Я новичок в этом деле.

У меня стоит следующая задача:

Есть программа VASP, она поддерживает OpenMPI и необходимо, чтобы расчетом занимались все машины, которые находятся в локальной сети (скажем 10-20 компьюетеров). Сеть Gigabit Ethernet, все машины получают адрес от DHCP и соединены DLinkовским свитчем. Операционноя система Gentoo Linux, возможен вариант другого Linuxа.

Что для этого необходимо сделать, какие действия произвести? Может нужно поднять nfs, ntp-синхронизацию, настроить SSH или что-то другое. Подскажите с чего начать и какую документацию почитать.

программа-минимум - поднять общий NFS-диск, синхронизировать базу пользователей, обеспечить безпарольный вход по ssh (по ключу) тем пользователям, которые будут запускать VASP и др. параллельные программы, установить OpenSSH, проверить работоспособность на тестах.

Спасибо за ответ, но я пошел другим путем.

Установил Torque затем OpenMPI. Затем скомпилировал VASP с поддержкой MPI. На одной двухпроцессорной машине, если запускать VASP (тестовая задача) командой ./vasp, то он выполняет задачу за 280 секунд (провели 10 тестов). А если командой mpirun -n 2 ./vasp, то за 180 секунд (10 тестов). В обоих случаях результат тестовой задачи совпадает.

Запускаем таким образом:


Таким образом задача добавляется, но не исполняется. Пользователь testuser создан только на серверной машине (т. е. на узлах его нет). Папка пользователя не расшарена по NFS.

Вопрос: нужно ли расшаривать папку пользователя по NFS и заводить аналогичные записи на узлах? Или что-то другое принципиально не правильно? Подскажите, кто сталкивался с такой проблемой.

Простите, а как по-Вашему будет запускаться процесс задачи на вычислительных узлах? Как туда попадёт исполняемый файл, от имени какого пользователя он будет запущен? Минимум миниморум я написал выше. Добейтесь запуска хотя бы вручную. А уж потом городите Torque и т.п.

Спасибо, сегодня попробую без torque по ssh и отпишусь.

Урааа!!! Работает!
Настроил ssh на безпарольную авторизацию с public key. Домашний каталог пользователя testuser (на сервере) смонтирован по NFS на каждом узле в домашний каталог пользователя с тем же именем, UID и GID. В нем и находится папка с vasp. В папке с vasp создан файл hosts такого содержания:

Запускаю программу сначала так:

затем так:

В первом случае на каждом узле запускается 2 процесса с именем vasp и время расчета оказывается 160 секунд, а во втором - по 1 процессу на машину и время 125 секунд.
На каждой машине top показывает загрузку процессора 30-40% (dual core 2140).
Подскажите пожалуйста, можно ли увеличить эффективность работы так, чтобы процессор каждой машины был полностью или хотя бы почти полностью загружен? Или это проблема способа которым компилировался vasp (использовался gfortran, а не ifort)?
Используется сеть 100Мбит.

И компилятор и сеть имеют значение. Можно проверить потери на сети, посмотрев в top время ожидания и системное. Если эти величины большие, значит задача долго простаивает на сетевых или дисковых операциях.
По эффективности кода ifort на относительно новых процессорах даёт до 100% прироста. Но это редко, обычно 10-15%.

Cпасибо за подсказку, скомпилировал с ifort (ох и много же с ним возни... ) прирост составил 30-40%.

Теперь возникла другая проблема:
На узлах смонтированы по ssh папка пользователя и /usr. При попытке просто запустить VASP на каком-либо узле (без mpirun)
VASP выдает следующую ошибку:

Файл libimf.so находится в /usr/opt/intel/fc/10.0.026/lib/ .

По NFS, вероятно?


Добавьте этот каталог в /etc/ld.so.conf на узлах и выполните там команду /sbin/ldconfig

Конечно по NFS ))

Решил проблему по другому:
Создал в /usr/lib символические ссылки на все библиотеки ifort в /usr/opt/intel/fc/10../lib.
Теперь вроде все работает.

Cпасибо за отличные ответы!

LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/opt/intel/fc/10.0.026/lib/
export LD_LIBRARY_PATH

На мой взгляд более правильный вариант