На первой неделе сентября этого года вышла в свет новая версия продукта Intel Parallel Studio XE 2017. Давайте разбираться, что интересного появилось в ней.

Как обычно, пакет студии доступен в трёх вариантах: Composer, Professional и Cluster Edition.
В первый вариант входят компиляторы (С/С++ и Fortran) и различные библиотеки. Ещё с прошлой версии XE 2016 таковых имелось целых 4 штуки:

  • быстрая математическая библиотека Intel Math Kernel Library (MKL)
  • библиотека для обработки данных и мультимедиа Intel Integrated Performance Primitives (IPP)
  • библиотека шаблонов С++ Intel Threading Building Blocks (TBB)
  • библиотека для машинного обучения и аналитики данных Intel Data Analytics Acceleration Library (DAAL).

В Professional Edition добавляются средства динамического анализа приложений, такие как профилировщик Intel VTune Amplifier, средство для прототипирования параллелизма и работы с векторизацией кода Intel Advisor, а так же поиска ошибок с памятью и потоками Intel Inspector. В флагманской версии Intel Parallel Studio XE Cluster Edition в наших руках весь набор инструментов, который поможет создать и оптимизировать наше приложение уже на кластере, с помощью Intel MPI и средств для работы с ним.

Кроме всего этого имеется библиотека IMSL от сторонних разработчиков Rogue Wave, часто используемая при вычислениях. Она доступна как в пакете с компилятором Fortran, так и как отдельное дополнение. Следующая табличка показывает распределение средств разработки по пакетам:



Важное дополнение во всех версиях студии (и не только) – появился пакет Intel Distribution for Python*, который позволяет использовать Python (2.7 и 3.5), «оптимизированный» заботливыми инженерами компании Intel, на Windows, Linux и OS X. В самом языке ничего нового не появилось, просто пакеты NumPy, SciPy, pandas, scikit-learn, Jupyter, matplotlib, и mpi4py теперь оптимизированы под «железо» с использованием библиотек Intel MKL, TBB, DAAL и MPI, за счёт чего приложение выполняется более эффективно и быстро. Кстати, выкачать этот пакет можно абсолютно безвозмездно с сайта Intel. Там же можно увидеть, чем же так хорош «затюненый» Python:



Очевидно, что производительность Intel Python приближает его по скорости работы к С/Intel MKL, при этом значительно опережая конкурентов. Кстати, хорошо известный профилировщик VTune Amplifier теперь так же поддерживает Python.

Из глобально новых продуктов в пакете Intel Parallel Studio XE это, пожалуй, самое главное.
Теперь о том, что появилось в каждом из составляющих пакета.

Компиляторы


По ним я обязательно напишу отдельный, более подробный блог. А здесь, «коротенько» перечислю то, что там появилось:

  • Библиотека шаблонов С++ SIMD Data Layout Templates (SDLT) для решения проблемы перехода от массива структур (AoS – Array of Structures) к структуре массивов (SoA – Structure of Arrays), что приводит к уменьшению непоследовательных доступов к памяти и gather/scatter инструкций при векторизации.

  • Поддержка процессоров второго поколения Intel Xeon Phi и новое имя mic_avx512.

  • Ещё более полная поддержка OpenMP (как стандарта 4.0, так и более позднего 4.5).

  • Новый функционал по оффлоду на Intel Xeon Phi с помощью OpenMP

  • Возможность генерировать файлы (html или текстовые) с исходным кодом и интегрированным отчетом об оптимизации, что будет очень полезно разрабочтикам, работающим из командной строки без среды разработки. Кроме того, информативность самих отчетов об оптимизации и векторизации улучшена по многим направлениям.

  • Новый атрибут, директива и опция компилятора для выравнивания кода (не данных, а именно самих инструкций для функций или циклов).

  • Более широкая поддержка стандарта C++14, в частности теперь мы можем использовать шаблоны переменных, освобождать память определенного размера глобальным оператором delete, пользоваться constexpr функциями с заметно меньшими ограничениями, чем было в стандарте С++11. Полный список поддерживаемых возможностей стандарта можно найти на этой страничке.

  • Стандарт С11 поддерживается теперь полностью (не путать с С++11, который уже давно поддерживается), за исключением ключевого слова _Atomic и соответствующего атрибута __attribute((atomic)).

  • Появился ряд новых опций компилятора, призванных упростить его использование. Например, ключик /fp:consistent (Windows) и -fp-model consistent (Linux), который включает в себя ряд других (/fp:precise /Qimf-arch-consistency:true /Qfma-).

  • Новые возможности по оффлоду вычислений на интегрированную графику с использованием OpenMP. Например, теперь возможен асинхронный оффлод с помощью клаузы DEPEND в TARGET директиве. Кроме этого, компилятор может производить векторизацию с типом short.

  • В компиляторе Fortran так же произошло много изменений. Особенно интересным будет существенное увеличение производительности кода на Coarray Fortran. В ряде случаев ускорение достигает трёх раз по сравнению с предыдущей реализацией. Так же появилась возможность говорить компилятору о выравнивании динамически выделяемых массивов, а стандарты Fortran 2008 и 2015 поддерживаются ещё более широко. В частности, теперь на вооружение опытного разработчика массив констант с подразумеваемой формой, возможность использовать BIND© для внутренних процедур, а указатели могут быть инициализированы при объявлении (да, до 2008 стандарта в Фортране это не поддерживалось).

И это лишь верхушка айсберга. На самом деле изменений огромное количество. В целом, компилятор, как и ожидалось, стал генерировать ещё более производительный код, поддерживая все последние новшества в «железе». А сравнения компилятора Intel на бенчмарках с конкурентами лишний раз доказывает это.



Как видно, на тестах SPECfp и SPECint преимущество версии 17.0 компилятора достаточно внушительное.

Intel VTune Amplifier XE 2017


Раз уж на рынок вышел процессор второго поколения Intel Xeon Phi (кодовое имя Knights Landing (KNL)), то конечно же в профилировщике появилась поддержка различных типов анализа для него, чтобы ваши приложения просто «полетели» после оптимизации. Здесь и анализ пропускной способности памяти, чтобы понять, какие данные нужно положить в быструю MCDRAM, и микроархитектурный анализ, и анализ масштабируемости MPI и OpenMP, и ещё много всего вкусного.

Кстати, у VTune имеется анализ HPC Performance Characterization, являющийся своего рода точкой входа для оценки производительности вычислительно-интенсивных приложений, и позволяющий посмотреть в деталях (в отличии от Application Performance Snapshot, про который речь пойдёт позднее) на три важных аспекта утилизации «железа» — СPU, память и FPU:


Как я уже говорил, теперь VTune умеет профилировать приложения на Python, выполняя анализ хотспотов через программное сэмплирование (Basic Hotspots analysis). Ещё одно нововведение – возможность профилировать приложения на языке Go, собирая аппаратные события PMU.

Новый тип анализа появился в версии 2017 – анализ дискового ввода-вывода (Disk Input and Output analysis). С его помощью можно отслеживать использование дисковой подсистемы, шин CPU и PCIe:



Кроме того, анализ помогает находить операции ввода-вывода с высокой латентностью, а так же дисбаланс между ними и реальными вычислениями.

Размер максимальной пропускной способности DRAM теперь определяется автоматически при анализе доступа к памяти (Memory Access analysis), позволяя тем самым понимать насколько хорошо она используется. В этом типе анализа так же добавлена поддержка кастомных аллокаторов памяти, что позволяет правильно определять объекты в памяти. Есть возможность соотнести промахи по кэшу к конкретной структуре данных, а не просто коду, приводящему к нему. Кстати, теперь не требуется установка специальных драйверов на Линуксе для выполнения этого анализа.

Дополнения появились и при профилировании OpenCL и GPU. VTune покажет общую сводку по проблемам с подробным описанием:


Кроме этого можно посмотреть исходный код или ASM для ядер OpenCL, а так же отлавливать случаи использование общей виртуальной памяти (Shared Virtual Memory).
Пользоваться профилировщиком удалённо и через командную строку стало ещё проще.
Новая группа Arbitrary Targets позволяет сгенерировать командную строку для анализа производительности на системе, недоступной с текущего хоста. Это может быть весьма полезным для микроархитектурного анализа, так как дает доступ к аппаратным событиям, доступным на платформе, которую мы выбрали:



В пакете с Parallel Studio появляются специальные «легковесные» инструменты, позволяющие получать общее представление о нашем приложении. Они получили вывеску Performance Snapshots, и имеют на данный момент три варианта:

  • Application – для не MPI приложений
  • MPI – правильно, для MPI приложений
  • Storage – для анализа использования хранилища

Что они из себя представляют? Рассмотрим, для примера, инструмент Application Performance Snapshot:



Запустив его, на выходе мы имеем выосокоуровневую сводку по тому, где наше приложение может потеницально выиграть. С другой стороны, можем назвать это слабыми местами, которые нужно поправить. Мы получаем время выполнения приложения, производительность в флопсах, а так же ответ на 3 вопроса: как эффективно использовались вычислительные ядра CPU (CPU Utilization), как много мы тратили на работу с памятью (Memory Bound), и как использовался FPU (FPU Utilization). В итоге нам представляется общая картина о приложении. Если CPU Utilization показывает слишком маленькие значения, значит имеются проблемы с «параллельностью» приложения и эффективностью использования ядер. Например, дисбаланс нагрузки, слишком большие накладные расходы при планировке, проблемы синхронизации или же просто большое количество регионов, выполняемых последовательно. Следующая метрика скажет нам, упирается ли приложение в ограничения по памяти. Если цифры велики, значит возможны проблемы с использованием кэшей, ложным разделением данных (false sharing) или мы упираемся в пропускную способность.

Ну а характеристика FPU Utilization может показать, что имеются проблемы с векторизацией (её отсутствием или неэффективностью), при условии наличия вычислений с числами с плавающей точкой.

Intel Advisor


Начиная с прошлой версии 2016, Advisor получил огромный функционал для работы с векторизацией, который был расширен и улучшен в новой версии.

Конечно появилась поддержка нового поколения Xeon Phi, как и в других средствах, и AVX-512. Например, Advisor может показать использование нового набора инструкций AVX-512 ERI, специфичного для KNL. Но даже если у нас нет пока новой железки, мы сможем получить определенные данные для AVX-512. Для этого необходимо дать указание компилятору генерировать две ветки кода (AVX и AVX-512) для циклов с помощью опций –axMIC-AVX512 –xAVX, а Advisor в своих результатах покажет информацию даже для той ветки, которая реально не выполнялась:



Кроме этого, появилась возможность измерения FLOPS'ов для всех процессоров, за исключением Xeon Phi предыдущего поколения, основанная на использовании инструментации и сэмплирования. Был также улучшен анализ доступа к памяти (Memory Access Analysis), который теперь даст нам ещё больше полезной информации (сравнение с размером кэша, выявление ненужных gather/scatter). В плане удобства использования также ряд улучшений. «Умный режим» (Smart Mode) позволит показать только те циклы, которые нам наиболее интересны, нажатием одной кнопки:



А выбрать сразу несколько типов анализа и запустить их за один раз стало возможным с помощью пакетного режима Batch Mode.

В сухом остатке с новой версией 2017 мы имеем большой набор новых фич, которые обязательно будут полезны при оптимизации приложений для разработчиков во всех областях. Попробовать в течение 30 дней новую версию можно, как всегда, абсолютно безвозмездно на этой страничке, как говорит один мой коллега: «С регистрацией, но без SMS».
Поделиться с друзьями
-->

Комментарии (11)


  1. Terras
    06.10.2016 10:34
    -1

    Ребят, привет.

    Вы могли бы уточнить, для чего эта штука нужна? Для выполнения параллельных вычислений на многоядерной машине?


    1. ivorobts
      06.10.2016 12:04

      В самом начале поста я рассказываю о том, что входит в Parallel Studio. Это и компиляторы, и библиотеки, различные средства динамического анализа. В целом, «эта штука» для разработчиков, которые заботятся о производительности своего кода.


    1. iroln
      06.10.2016 12:46
      -1

      Эта штука для разработчиков, у которых есть много денег.


      Composer Edition From $699

      При этом, если вы хотите кроссплатформенности, придётся купить всё это под все платформы. :)


      Хотя, Intel MKL вроде как была доступна бесплатно, но я в своё время так и не разобрался, как её получить. Поэтому использую numpy и scipy, собранный с MKL отсюда. Жаль, что пакеты там только под Windows.


      1. ivorobts
        06.10.2016 12:53

        Это не совсем правда. Все библиотеки доступны по Community лицензии здесь. Пакет с Python так же бесплатен, а вот за компиляторы придётся платить денежку. Но имеется большое разнообразие лицензий, в том числе и бесплатных. Так что это всё же не для тех, у кого много денег, а для тех, кто заинтересован в более высокой производительности.


        1. DistortNeo
          06.10.2016 22:20
          +1

          С библиотеками проблем действительно нет, а вот получить бесплатную лицензию на компилятор сильно сложнее. Например, Intel разрешает использовать библиотеки для научных исследований, в т.ч. и коммерческих, но компилятор — только для обучения.

          А компилятор — действительно стоящая вещь. Не могу сравнить с GCC и LLVM, но вычислительный код с ICC получается раза в 2 быстрее, чем с MSVC.


          1. phprus
            07.10.2016 10:16

            Кстати да, почему-бы Интелу не сделать и Community версию компиляторов, по аналогии с Community версией Visual Studio…


            1. ivorobts
              07.10.2016 14:43

              Идея отличная, и лично я двумя руками за неё, но пока этого нет. На данный момент есть такие варианты получить лицензию: https://software.intel.com/en-us/qualify-for-free-software
              Отмечу, что её можно получить (для Linux) активным участникам Open Source проектов, а так же студентам и преподавателям в образовательных целях (уже без ограничений на ОС).


              1. DistortNeo
                07.10.2016 15:07

                Вот именно, что в образовательных, но не научных. Впрочем, раньше и этого не было, так что грех жаловаться.


              1. phprus
                07.10.2016 16:48

                И, к сожалению, только в пределах университета. Поставить экземпляр домой для подготовки к занятиям, как я понял, уже нельзя.
                Для научных целей тоже только платно.

                Ну и домашние (которые потенциально могут приносить $, но не окупят ничего) проекты тоже не покомпилировать. Пожалуй это, в совокупности с платностью для научных целей, есть самый большой недостаток в сравнении с Community от M$.


  1. AndreyDmitriev
    06.10.2016 13:11

    Странно, что триала Professional нет:

    Я правильно понимаю, что если помимо компилятора (там мне векторизацию short хочется погонять) также хочется поиграться с VTune/Advizor/Inspector, то надо Cluster Edition скачивать и ставить эти продукты оттуда?


    1. ivorobts
      06.10.2016 13:44

      У Intel несколько поменялась концепция установщика. Теперь доступны не 3 разных версии для скачивания, а можно выбирать компоненты. В результате сгенериться установщик, содержащий только необходимые вам части, который и нужно скачать. Так вот в рамках этой концепции, триал на Professional не очень и нужен. Просто получаем триал на Cluster (он содержит в себе все компоненты Pro), и выбираем что будем качать.