Уверен, вы в курсе, что видеокарты нужны не только криптомайнерам. Чем «умнее» становятся сервисы и сферы производства, тем больше самым разным организациям требуется инфраструктура с GPU – как в выделенных серверах, так и в облаке.

Сегодня я расскажу о нескольких интересных кейсах клиентов Selectel, которые арендуют выделенные серверы с GPU. Разделю их на секторы бизнеса и укажу, какие видеокарты и конфиги они используют.

Дисклеймер: у нас нет доступа к серверам клиентов, мы не знаем, какие конкретно приложения на них запускаются. Вся информация, которую я использую в статье, получена из открытых источников: интервью с клиентами, их отзывов, сайтов компаний. Названия части компаний не упоминаются.


Как выбрать GPU


Учитывая развитие технологий в различных сферах повседневной жизни, аренда сервера с GPU становится необходимой для целого ряда сфер бизнеса — не только «исконно технологичных». На данный момент в Selectel есть более десяти моделей видеокарт. Все они есть либо в готовых сборках (если сервер нужен в течение 10 минут), либо в конфигураторе — нужна особая конфигурация и есть время подождать сервер (до 5 рабочих дней). Если вам интересно, почему у нас так много видеокарт и как мы их выбираем, читайте мой предыдущий текст.

Что мы можем предложить сейчас?

GPU RAM GeekBench 5 Конфигурации готовых серверов VDI ML Ренд. Транскод.
A2 16 ГБ GDDR6 39 180 нет, только в конфигураторе + + + +
Tesla T4 16 ГБ GDDR6 79 454 Intel Xeon E-2236: 6 × 3.4 ГГц,16 ГБ DDR4, 2 × 240 ГБ SSD SATA, GPU Tesla T4 + + + +
A2000 6 ГБ GDDR6 81 638 AMD Ryzen 5 5600X: 6 × 3.7 ГГц, 64 ГБ DDR 4, 2 × 1 ТБ SSD NVMe, GPU A2000 - + + +
A4000 16 ГБ GDDR6 137 850 Intel Core i7-11700K: 8 × 3.6 ГГц, 64 ГБ DDR4, 2 × 1 ТБ SSD NVMe, GPU A4000 16 ГБ GDDR6 - + + +
A5000 24 ГБ GDDR6 182 930 2 × Intel Xeon Gold 6240R: 24 × 2.4 ГГц, 512 ГБ DDR4, 2 × 480 ГБ SSD SATA, 2 × 1920 ГБ SSD SATA, 4 × RTX A5000 + + + +
V100 32 ГБ HBM2 193 619* нет, только в конфигураторе + + + +
A100 40 ГБ HBM2 213 899* 2 × Intel Xeon Silver 4314: 16 × 2.4 ГГц, 256 ГБ DDR4, 2 × 480 ГБ SSD SATA, 2 × 1920 ГБ SSD SATA, GPU Tesla A100 + + + -

*CUDA API

Все эти карты можно установить в различные платформы с подходящими процессорами в нашем конфигураторе выделенных серверов.

Tesla T4, A2 и A2000 в конфигурации с одной GPU не требуют специального корпуса, что позволяет использовать их с широкой линейкой процессоров, в том числе десктопных. О том, почему мы предлагаем десктопные процессоры, мы уже писали.

A4000 и A5000 также можно комбинировать с десктопными процессорами, однако для серверного сегмента потребуется специальный GPU-корпус.

V100 и A100 работают только с серверными процессорами, материнскими платами и корпусами, и это настоящие «монстры» производительности.

NVIDIA A100

Сконфигурировать систему можно от простого решения с одной картой до сервера с 8 GPU. A100 можно подключить с помощью шины NVLink для увеличения производительности.

Как подойти к выбору карты? К сожалению, универсальных рецептов не существует. В каких-то случаях эффективнее взять несколько дешевых GPU, которые с легкостью заменят одну более производительную карту. Где-то подойдет исключительно A100. Лучший способ узнать — экспериментировать с разными картами, чтобы получить лучшую производительность. Для фиксированных конфигураций доступна аренда сервера на сутки, что сделает тесты не такими затратными. В облаке можно протестировать те же карты — с оплатой по модели pay-as-you-go.

Если у вас есть особый подход к выбору видеокарты, напишите о них в комментариях!

Теперь посмотрим, какие GPU выбирают те или иные сферы бизнеса.

Медицина


Начну с решений, буквально продлевающих жизнь людям. Медицинский софт способен распознавать данные со снимков рентгена, КТ, МРТ, обращать внимание врача на отклонения от нормы, предполагать диагноз. Здесь подключаются системы распознавания изображений, текста, звука. Все они работают на серверах с видеокартами, которые хорошо подходят для обучения и инференса моделей.

Более распространенный кейс использования — это медицинские исследования: разработка вакцин, изучение ДНК и т.д. Все это работа с большими данными, которую не произвести без мощных видеокарт.

Пример клиента Selectel. Компания предоставляет продукт, анализирующий КТ-снимки органов грудной клетки. С помощью разработанных алгоритмов и обученной модели система распознает на снимках такие патологии, как COVID, рак легкого, аневризмы, остеопороз, новообразования печени и почек.

Выбор компании: используют NVIDIA A100 — с ними легче проводить такую аналитику.

Также в сфере медицины развиваются сервисы чат-ботов — например, их можно встретить в мобильных приложениях страховых компаний. Обучение ботов в сфере здравоохранения особо важно: по описанию симптомов «помощник» может направить к нужному специалисту или даже поставить диагноз. Для «тренировки» таких ботов используются мощности видеокарт. Возможно, вы реже пишете в чат «Позови оператора» отчасти из-за серверов Selectel.

Какие карты применять?


Для описанных задач можно применять любую карту в линейке GPU – в зависимости от объема данных и желаемой скорости их обработки. Можно работать с проверенной временем Tesla T4 или выйти на новый уровень с восемью картами A100 на многоядерных масштабируемых процессорах, таких как Intel® Xeon® Gold 6240R, установленных в двух сокетах.

RTX A4000

Архитектура, строительство, урбанистика


Эти направления интересны активным использованием VDI. На серверах создаются удаленные рабочие столы с высоконагруженными приложениями для проектирования и визуализации: AutoCAD, Revit, Autodesk 3ds MAX и другие. Корректная работа этих сервисов требует хороших GPU. Покупать сотрудникам компьютеры и ноутбуки, способные тянуть это ПО, дорого. Отдельной задачей станет администрирование парка корпоративных ПК и обеспечение безопасности удаленной работы.

С технологией VDI сотрудники компаний-девелоперов могут использовать ресурсы серверов с GPU, подключившись в режиме «тонкого клиента» из любого удобного места.

Пример клиента Selectel. Проектное бюро BIMTeam проекта ПИК в начале пандемии коронавируса развернуло более 1 000 виртуальных рабочих мест для удаленной работы сотрудников. Проектировщики компании работают с требовательным к производительности программным обеспечением. При этом могут делать это с любого рабочего компьютера, так как последний является лишь тонким клиентом.

Выбор компании: видеокарты Tesla T4, которые позволяют поддерживать совместную работу над проектирования 3D-моделей домов.

Подробнее о кейсе:

Как ПИК-Проект перевел 2 000 сотрудников на удаленку
Больше про технологию VDI и решение ПИК-Проекта

Аналогичные серверы и технологии применяются для систем «умный город», позволяющих распознавать граждан, номерные знаки автомобилей и т.п.

Какую карту выбрать?


Не все видеокарты поддерживают технологию VDI. Бюджетно технологию удаленных рабочих столов можно развернуть на конфиге GL10-1-T4 с процессором Intel Xeon E-2236, 16 ГБ RAM и видеокартой Tesla T4. Если требуется более мощный сервер, можно собрать сервер в конфигураторе с GPU A5000 и A100, в качестве бюджетного решения — сервер с видеокартой A2.

Производство, добыча ископаемых, наука


Я был приятно удивлен, обнаружив среди клиентов Selectel ряд научно-исследовательских организаций. Наука в России живет и делает CUDA-вычисления — например, в таких областях, как квантовая физика и квантовая оптика.

Пример клиента Selectel. Сразу два научных центра используют серверы для исследований по квантовым технологиям и разработке новых технических устройств.

Выбор компаний: единогласно используется GPU Tesla T4 в вариациях от одной до одиннадцати видеокарт в сервере.

Не отстает и тяжелая промышленность. На интервью клиенты из этой сферы также рассказывают про построение нейронных сетей и 3D-моделировании на графических ускорителях.

Особо востребованы видеокарты в добыче полезных ископаемых. Здесь огромный простор для использования серверов с GPU — например, для гидродинамического моделирования, геологических расчетов, создания 3D-моделей месторождений.

Пример клиента Selectel. Одна из компаний, которая как раз занимается добычей полезных ископаемых, рассчитывает на серверах с GPU модели гидроразрывов пласта. Тем самым они сокращают расходы и повышают эффективность работы.

Выбор компании: сервер с восемью картами A5000.



Еще один прикладной кейс — работа поставщика оборудования для добывающей промышленности. Компания использует 3D-сканер для оцифровки запчастей и комплектующих, чтобы предлагать клиентам практически любую номенклатуру товаров на заказ собственного производства. Для обработки таких данных также подходят серверы с GPU.

Какие карты использовать?


Для подобных задач подойдут даже десктопные серверы с GPU — например, в конфигурациях AR32G-NVMe или CL63G-NVMe.

Видеопродакшн, стримы и онлайн-образование


Основные задачи, которые решают в этой сфере с помощью GPU, — это рендеринг и обработка видео, а также организация различных стримов и трансляций. Соответственно такими серверами пользуются стриминговые сервисы, хостеры видео и студии продакшена.

Пример клиента Selectel. Одна из крупнейших видеохостингов в России. Используется серверы с GPU для стриминга и обработки видео.

Выбор компании: обширный список серверов, от простых решений на Tesla T4, до платформ с четырьмя или восемью GPU.

Отдельный кластер составляют EdTech-компании, использующие видео для обучения своих студентов. От мини-курсов английского языка до платформ онлайн-образования и школ DevOps-специалистов.

Какие карты использовать?


Согласно нашему тесту видеокарт, здесь оптимально использовать линейку GPU А2000, А4000, A5000. Чаще всего клиенты выбирают A4000 в серверах произвольной конфигурации как золотую середину.


Системные интеграторы и разработка


Мобильная и веб-разработка, сервисы знакомств, управление автосервисом, системы управления рабочим временем, софт для e-commerce — всего лишь несколько примеров профилей клиентов, которые заказали у нас выделенные серверы с GPU.

Нередко это системные интеграторы, комплексно решающие задачи создания IT-инфраструктуры клиентов, в том числе с дальнейшим использованием искусственного интеллекта в бизнесе компании.

Сюда же могу отнести агрегаторов различных предложений: фитнес-услуг, языковых курсов, финансовых услуг.

Какие карты использовать?


Поскольку задачи клиентов существенно различаются, сложно выделить безусловных лидеров. Здесь могут пригодиться базовые конфигурации из конфигуратора с видеокартой A2 либо мощные фиксы GL70-1-A100 или GL90-4-A5000.

Кто еще?


Аналитика вождения и контроль топлива. Целый ряд клиентов этой сферы используют серверы c видеокартой для построения нейронных сетей. Также серверы применяют для контроля городского транспорта и каршеринга. Четко прослеживается использование «младших» — видеокарт — A2 и A2000.

Маркетинг. Серверы с GPU используют для аналитики и быстрого формирования отчетов с визуализацией.

Криптовалюта и блокчейн. Два слова, тесно связанные между собой, — майнинг и видеокарты. Было бы странно не упомянуть это направления. Здесь кейсы меняются со скоростью света, и, что ждать завтра, совершенно непонятно. Помните, год назад был Chia Coin?

Нашли себя в перечне сфер и задач? Если нет, напишите в комментариях, нужны ли вам GPU и для каких целей?

Безусловно, вариаций клиентов, сфер бизнеса и задач, в которых они применяют серверы с GPU, существенно больше перечисленных. Кроме того, не всегда компании выполняют на серверах работу, соответствующую их сфере деятельности. Ресурсы могут понадобиться для тестов нового ПО или разового выполнения непрофильной задачи. В этом тексте я постарался выбрать явно повторяющиеся и схожие по конфигурациям кейсы.

Серверы с GPU можно найти в аукционе выделенных серверов Selectel — удачливый пользователь может арендовать годную конфигурацию со значительной скидкой. На этой неделе — три конфигурации с GPU! Подписывайтесь на Telegram-канал аукциона, чтобы не упустить выгоду.

Комментарии (3)


  1. rPman
    15.11.2022 22:34
    +5

    Забыли упомянуть главную характеристику, влияющую на выбор видеокарты и задач, которые на ней можно решать — ее стоимость.

    Указанные 'серверные' ревизии через лицензирование и запрет использование 'десктопных' gpu на серверах (или как именно nvidia контролирует этот процесс) имеют повышенную стоимость на единицу мощности примерно в десять раз, дороже чем обычные игровые. Очевидно что ограничение и повышение стоимости искусственное и напрямую влияет на предоставление этого железа как облачные услуги.

    'Обычный человек', которому нужно решить его задачу, откроет прайслист облака, затем заглянет в соседний магазин и приобретет игровые карты в свой домашний мини сервер, собранный из мусора, и по стоимости это будет сравнимо с арендой сравнимого по мощности железа за 3-4 месяца (а то и 2, если оперативной памяти нужно мало).

    Те кому нужна gpu ram выше 20Гб те возможно пока еще будут вынуждены идти в облака, но! много ли таких задач на текущий момент? все ли они не могут эффективно быть решены на более слабом железе?

    Да у облака есть бонус в виде скорости сборки сервера (а виртуальные так вообще за минуты собираются) и можно в очень короткое время собрать кластер, загрузить его задачей и удалить, что само собой позволит сэкономить время за счет денег.

    p.s. если говорить про майнеров, они отличный пример сказаному, у них стоимость железа влияет напрямую на выбор, решать ли на нем свою задачу или пройти мимо… и проходят.


    1. snakers4
      16.11.2022 10:11
      +1

      Видимо надо поднять утилизацию серверного парка после спада ажиотажного бума … чтобы иметь повод не понижать цены обратно?)

      Раз упомянули обзор карточек, я упомяну свой обзор.


  1. Shluzzz
    15.11.2022 23:46
    +2

    Ещё применение видеокарт - для фотограмметрии, обработки материалов аэрофотосьемки и лазерного сканирования (например в меташейп).