Небольшая инструкция, как открыть полноценный JupyterLab-сервер на выделенной A100 / A40 и получить до 4 бесплатных часов в день.

Почему это удобно

• R&D без DevOps – запускаете ноутбук с gpu прямо из веб-интерфейса PrimeWay; никаких терминалов и Docker-команд.

• Меньше чеков – оплачиваете только время фактической работы (помесячных или idle-счётов нет).

• Гранты на старт – каждому новому аккаунту автоматически начисляется 500 ₽; если пройдете наш опрос - добавим 4 ч JupyterLab ежедневно.

Как все выглядит в UI

1. Открываем dashboard
→ Notebooks → “Запустить JupyterLab”.

2. Выбираем конфигурацию
GPU: A40 48 GB, A100 80 GB PCIe/SXM, L40 48 GB
Диск: от 30 GB до 200 GB
Название сессии – любое удобное.

3. Жмём “Создать” – через пару минут появляется активная карточка.
Там же отображается URL вида http://jupyter-id.proxy.primeway.io. Нажимаем – и сразу попадаем в знакомый интерфейс JupyterLab.

4. Работаем
– качаем датасеты, ставим зависимости, запускаем тренировки или инференс.

5. Останавливаем одной кнопкой
“Stop” в карточке → биллинг прекращается, диск остаётся в хранилище, чтобы можно было быстро возобновить работу.

Мини-пример: Mistral-7B-v0.3 в ноутбуке

В новом терминале JupyterLab выполните:

pip install vllm==0.4.*
python -m vllm.entrypoints.api_server \
       --model mistralai/Mistral-7B-v0.3 \
       --tensor-parallel-size 1

Через несколько секунд REST-эндпоинт будет доступен прямо из ноутбука:

import requests
payload = {"prompt": "Расскажи шутку про GPU", "max_tokens": 32}
print(requests.post("http://localhost:8000/generate", json=payload).json())

Хотите +4 ч/день бесплатно?

Мы проводим серию коротких интервью с разработчиками, чтобы лучше понять их задачи и сложности. Формат простой: 100% про ваши реальные проблемы и задачи. Я задам 5 коротких вопросов, все ответы строго конфиденциальны.

Если готовы — напишите в тг команды или мой, когда вам будет удобно:

Мой телеграм - https://t.me/WhiteRbbt
Телеграм команды - https://t.me/PrimeWayio
https://primeway.io/