Распределённый инференс и шардирование LLM. Часть 3: настройка авторизации и интеграция с Open WebUI +13
- Блог компании Флант
- Блог компании Московский кредитный банк
- Искусственный интеллект
- DevOps
- IT-инфраструктура
Публикации с хабом Блог компании Московский кредитный банк
Распределённый инференс и шардирование LLM. Часть 2: скрипт vLLM, Ray Serve для вывода API и настройка KubeRay Cluster +23
- Блог компании Флант
- Блог компании Московский кредитный банк
- Искусственный интеллект
- DevOps
- IT-инфраструктура
Распределённый инференс и шардирование LLM. Часть 1: настройка GPU, проброс в Proxmox и настройка Kubernetes +53
- Видеокарты
- Блог компании Флант
- Блог компании Московский кредитный банк
- Искусственный интеллект
- Kubernetes
- DevOps
Кодирование UTF-8 без ветвления +14
Девопс, инфобез и ИИ: рассказываем, как прошел митап МКБ +4
Автоматизация тестирования с использованием SoapUI — Практическое руководство +8
«Нерешаемых задач не бывает»: история о том, как я пришла в разработку в 27 -1
Облачная инфраструктура в помощь продуктовым командам — как мы это делаем в МКБ
Fine BI Jump в «никуда»
Как мы делали редизайн сайта МКБ
Как и зачем мы внедрили Snapshot Testing
Архитектура — всё. Да здравствует архитектура +6
Динамическое отображение содержимого в Confluence +3
Confluence — агрегация данных таблицы +4
Каталог данных — почему без него непросто и как всё организовать с максимальной пользой +11
