PARALLEL.RU

Доброго дня!

Есть задача поиска глобального минимума. Эту задачу решает MPI_Reduce, но MPI_Reduce - блокирующая операция. Будет ли эффективнее выполнить N неблокирующих MPI_Isend точка-точка для одного double, а затем N MPI_Irecv и MPI_Waitall, благо потребность в минимуме возникает несколько позже, чем появляются значения по которым надо искать минимум? Или знатоки подскажут, что сотни 8-байтовых пересылок безнадежно медленнее одного MPI_Reduce? Тест на 64 процессах дал неопределенный результат...

Я думаю, что на сотне 8-байтовых double'ов вы особо не заметите разницы, что у вас быстрее или медленее... переслать 800 байт по сети, это даже для Ethernet плевая задача.
Поэтому выбирайте MPI_Reduce и не думайте - будет меньше работы по части программирования.
Также, думаю, что те кто пишут MPI тоже не дураки, и наверняка в исходниках того же OpenMPI можно найти реализацию MPI_Reduce, которая в том числе учитывает вопросы оптимизации пересылки и выполнения самой операции редукции.

Спасибо за ответ! Меня беспокоит то, что, например, при распараллеливании на 1000 процессов каждый процесс создаст по 1000 пересылок. Всего - 1000000 пересылок. И это не пересылка 8 мегабайт по езернету одим пакетом, а миллион отдельно управляемых операций.

Вы спутали MPI_Reduce и MPI_All_Reduce. В reduce будет 1000 пересылок.

Не спутал! Я говорил о своей попытке использовать удаленность времени вычисления локального (на процессе) параметра от времени его использования. Мое сомнение было в том, что если каждый из 1000 процессов сделает 1000 MPI_Isend в адрес всех, то это будет миллион операций. И, даже, если есть какой-то запас времени до 1000х1000 MPI_Irecv, то будет ли это быстрее MPI_Reduce? Но, впрочем, я уже отдал предпочтение MPI_Reduce. Тему можно считать закрытой. Всем спасибо!