Как запустить свою LLM для инференса. Руководство по запуску: Ollama, vLLM, Triton, LM Studio, llama.cpp, SGLang +24
Публикации с тегом LM Studio
NVIDIA CMP – микроскопы для забивания гвоздей? Копаем глубже… +20
Локальный AI: Прагматичное руководство по запуску LLM на своем железе +11
Темные лошадки ИИ – инференс LLM на майнинговых видеокартах Nvidia CMP 50HX, CMP 90HX +33
Учим LM Studio ходить в интернет при ответах на вопросы +13
Как запустить нейросеть у себя на компьютере: 4 простых инструмента +21
Георгий Герганов, автор llama.cpp и звукового кейлогера +103
15 минут — и у тебя бесплатная ИИ-модель для генерации кода, текста, иллюстраций +33
- Блог компании Minervasoft
- Искусственный интеллект
- Тестирование IT-систем
- Машинное обучение
- Open source
Запускаем DeepSeek-R1 на обычном сервере с 768Гб ОЗУ в LM-Studio +8
