Эффективность выполнения тестов NAS NPB 3.3

Результаты получены в Январе 2020 г.

C помощью системы автоматизированного распараллеливания SAPFOR были распараллелены тесты производительности из пакета NAS Parallel Benchmarks, нацеленные на проверку возможностей высокопараллельных суперкомпьютеров. Было выполнено распараллеливание последовательных версий тестов, написанных на языке Си [1]. Тесты были разработаны в рамках программы NASA Numerical Aerodynamic Simulation Program и поддерживаются в NASA Advanced Supercomputing (NAS) Division. Было выполнено автоматизированное распараллеливание следующих тестов:

  • CG (Conjugate Gradient) – Приближение к наименьшему собственному значению большой разреженной симметричной положительно определенной матрицы с использованием метода обратной итерации вместе с методом сопряженных градиентов в качестве подпрограммы для решения СЛАУ.
  • EP (Embarrassingly Parallel) – Генерация независимых нормально распределенных случайных величин при помощи Marsaglia polar метода.
  • BT (Block Tridiagonal) и LU (Lower-Upper) – Решают синтетическую систему нелинейных дифференциальных уравнений в частных производных (3-х мерная система уравнений Навье-Стокса для сжимаемой жидкости или газа), используя два алгоритма: блочная трехдиагональная схема с методом переменных направлений (BT) и метод симметричной последовательной верхней релаксации (алгоритм SSOR, задача LU).

Для каждой задачи существует набор входных данных. Данный набор определяется классом теста. Всего существует 7 классов: S и W – задают очень маленькие входные данные, используются в основном для тестирования и отладки во время разработки; A, B, и С – задают маленькие, средние и большие входные данные, которые предназначены для тестирования одного узла; D и E – задают очень большие и огромные входные данные, которые предназначены для тестирования нескольких узлов.

В циклах тестов CG, EP  нет зависимостей по данным. В циклах тестов LU, BT присутствуют регулярные зависимости по данным, так как в основном алгоритме используется метод попеременных направлений (BT) и метод последовательной верхней релаксации (LU), который образует зависимость по трем измерениями массива.

В процессе распараллеливание под руководством пользователя с помощью системы SAPFOR тесты были приведены к потенциально параллельному виду, для которого возможно автоматическое распараллеливания с помощью автоматически распараллеливающего компилятора входящего в состав системы SAPFOR.

В Таблице 1 представлены времена выполнения распараллеленных тестов:

  • Последовательные версии исходных тестов, выполненных на одном ядре процессора Intel Xeon E5 1660 v2.
  • Параллельные версии тестов, написанные на  языке Fortran-DVMH,  выполненные на NVIDIA GTX Titan (поколения Kepler).
  • Параллельные версии тестов, написанные на  языке Fortran-DVMH,  выполненные на 6-ти ядерном процессоре Intel Xeon E5 1660 v2 с включенным Hyper Threading (2 потока на ядро) и отключенным Turbo Boost.

Последовательные версии программ были скомпилированы с помощью Intel Fortran Compiler V19.0 c опциями -O3 -mcmodel=medium -shared-intel. Для компиляции СDVMH программ использовались:

  • Intel Fortran Compiler V19.0 с опциями -O3 -no-scalar-rep -qopenmp;
  • Intel C/C++ Compiler V19.0 с опциями -O3 -no-scalar-rep -qopenmp;
  • NVIDIA Compiler V8.0 с опциями -arch=sm_35 -O3 -DCUDA_NO_SM_20_INTRINSICS.

В связи с отсутствием MPI-версий для программ, написанных на языке C, для сравнения приведены времена запусков версий программ на Fortran DVMH, написанных вручную и времена MPI-версий от разработчиков пакета программ. Последовательные C версии близки к оригинальным Фортран-версиям программ, времена последовательного выполнения также близки. Есть небольшое преимущество в выполнении последовательных С версий, которое связано, скорее, с особенностями реализации компиляторов с языка Си, чем с отличиями между исходными кодами версий. Это позволяет говорить о возможности сравнения ускорений получаемых для Фортран и Си версий программ между собой. На Рис. 1 приведено сравнение эффективности выполнения тестов распараллеленных с помощью MPI (Fortran), Fortran-DVMH и C-DVMH. Стоит отметить, что запуск MPI-версий тестов возможен только на определенных конфигурациях, в отличие от DVMH-версий, которые могут быть запущены на всех имеющихся ресурсах. При указании времени выполнения MPI-версий тестов в скобках также указана конфигурация запуска.

Таблица 1. Времена выполнения тестов NAS NPB 3.3
Таблица 1. Времена (.c) выполнения тестов NAS NPB 3.3
ТестыFortranCFortran-DVMHFortran-MPIC-DVMH (SAPFOR)
Intel Xeon E5 1660 v2NVIDIA GTX Titan
(без ECC)
Intel Xeon E5 1660 v2Intel Xeon E5 1660 v2 (конфигурация)NVIDIA GTX Titan
(без ECC)
Intel Xeon E5 1660 v2
BTA37,6139,712,597,2311,03 (n=9)18,178,73
B157,3169,728,3527,8950,32 (n=9)51,4235,62
C679,18720,8627,63114,43194,13 (n=9)159,49153,71
LUA27,9129,024,025,036,86 (n=12)5,685,07
B119,46121,811,1823,0628,35 (n=12)15,2918,79
C522,22552,3933,29100,98222,34 (n=12)51,0974,47
EPA15,9715,830,431,492,35 (n=8)0,461,65
B63,9463,21,045,929,45 (n=8)1,37,08
C255,75252,943,8923,6835,58 (n=8)4,2628,3
CGA0,840,820,660,360,3 (n=12)0,710,36
B78,1675,9922,9515,3920,37 (n=12)14,6915,96
C210,23213,1166,5940,8956,2 (n=12)44,2541,81
GPU-MG-CG-FT-05-2017-ru
Рис. 1.  Эффективность выполнения тестов, распараллеленных с помощью MPI (Fortran), Fortran-DVMH и C-DVMH.

[1] Seo, S., Jo, G., Lee, J.: Performance Characterization of the NAS Parallel Benchmarks in OpenCL. In: 2011 IEEE International Symposium on. Workload Characterization (IISWC), pp. 137-148. (2011)