Будущее ИИ — формальные грамматики +6
- Блог компании Postgres Professional
- Искусственный интеллект
- Математика
- Машинное обучение
- Natural Language Processing
Публикации с тегом vllm
Эффективный инференс множества LoRA адаптеров +3
Распределённый инференс и шардирование LLM. Часть 2: скрипт vLLM, Ray Serve для вывода API и настройка KubeRay Cluster +23
- Блог компании Флант
- Блог компании Московский кредитный банк
- Искусственный интеллект
- DevOps
- IT-инфраструктура
Построение инфраструктуры для работы с языковыми моделями: опыт X5 Tech +9
