GPU-серверы

Сервер для LLM: конфигурации под языковые модели

Сколько памяти нужно под Llama, Qwen, DeepSeek и gpt-oss и какой сервер это закрывает дешевле всего. С установленным стеком vLLM и Open WebUI.

Посчитать под свою модель

Сервер от20,8 млн ₽Сервер 4U 8× RTX PRO 6000 Server

Память на узел384–2 160 ГБPCIe-карты и HGX

Проверка72 часаDCGM, NCCL, нагрузка

ОплатаНДС 22 %лизинг, отсрочка

Какой сервер нужен под модель

Минимум — один пользователь в 4 битах, контекст 32K. Рабочий режим — 8 одновременных запросов в FP8. Цены — от самой доступной подходящей конфигурации.

Модель	Минимум, память	Минимальная конфигурация	Рабочий режим, память	Конфигурация
Llama 3.1 8B	8 ГБ	4090 48 ГБ (мод.) — 471 000 ₽	27 ГБ	4090 48 ГБ (мод.) — 471 000 ₽
Mistral Small 24B	18 ГБ	4090 48 ГБ (мод.) — 471 000 ₽	48 ГБ	DGX Spark — 858 000 ₽
Qwen3 32B	25 ГБ	4090 48 ГБ (мод.) — 471 000 ₽	71 ГБ	DGX Spark — 858 000 ₽
Llama 3.3 70B	49 ГБ	DGX Spark — 858 000 ₽	119 ГБ	4× 4090 48 ГБ (мод.) — 2,78 млн ₽
gpt-oss-120b	68 ГБ	DGX Spark — 858 000 ₽	77 ГБ	DGX Spark — 858 000 ₽
Qwen3 235B-A22B	144 ГБ	4× 4090 48 ГБ (мод.) — 2,78 млн ₽	276 ГБ	4× RTX PRO 6000 Max-Q — 14,8 млн ₽
Llama 3.1 405B	250 ГБ	4× RTX PRO 6000 Max-Q — 14,8 млн ₽	498 ГБ	Сервер 4U 8× RTX PRO 6000 Server — 20,8 млн ₽
DeepSeek V3 / R1	401 ГБ	Сервер 4U 8× RTX PRO 6000 Server — 20,8 млн ₽	722 ГБ	Сервер 8× Instinct MI300X/MI325X — 34,1 млн ₽
Kimi K2	620 ГБ	Сервер 4U 8× RTX PRO 6000 Server — 20,8 млн ₽	1 113 ГБ	Сервер 8× Instinct MI300X/MI325X — 34,1 млн ₽

Готовые конфигурации

Цена — ориентир с НДС на 19.10.2026. Процессоры, память, сеть и диски меняем под задачу в конфигураторе.

Конфигурация	Что это	Память	Цена от	Срок
Сервер 4U 8× RTX PRO 6000 Server	сервер 4U	768 ГБ	20,8 млн ₽	4–8 нед.
Сервер 2U 4× RTX PRO 6000 Server	сервер 2U	384 ГБ	22,9 млн ₽	4–8 нед.
Atlas 800I A2	сервер Huawei	512 ГБ	25,4 млн ₽	4–8 нед.
Сервер 8× Instinct MI300X/MI325X	сервер AMD	1 536 ГБ	34,1 млн ₽	4–8 нед.
Сервер HGX 8× H100 SXM	HGX-сервер	640 ГБ	39,7 млн ₽	4–8 нед.
Сервер HGX 8× H200 SXM	HGX-сервер	1 128 ГБ	41,4 млн ₽	4–8 нед.
Сервер HGX 8× B200	HGX-сервер	1 440 ГБ	54,7 млн ₽	4–8 нед.
Сервер HGX 8× B300	HGX-сервер	2 160 ГБ	66,3 млн ₽	4–8 нед.

Как подобрать сервер

Размер сервера определяет память: веса модели плюс KV-кеш под контекст и число одновременных пользователей. Для чата на 30–50 сотрудников обычно закладывают 8–16 одновременных запросов.

Модели до 70B в FP8 закрывает сервер на 4 карты RTX PRO 6000. Qwen3 235B — 4–8 карт RTX PRO 6000 или 2–4 H200. DeepSeek V3 и R1 в FP8 — HGX 8×H200 или 8×MI300X.

Ставим сервер с готовым стеком: драйверы, CUDA, vLLM, Open WebUI или API, совместимый с OpenAI. Модель отвечает в день поставки, а данные не уходят из вашего контура.

Частые вопросы

Какой сервер нужен для локальной LLM на компанию?

Для 30–50 сотрудников и модели класса 70B — сервер на 4 карты RTX PRO 6000 или 2 H200. Для DeepSeek в полном размере — HGX 8×H200. Точный сайзинг сделаем по вашей нагрузке.

Можно ли установить модель за вас?

Да. Ставим драйверы, vLLM или другой движок, модель и веб-интерфейс, проверяем скорость под вашей нагрузкой и передаём документацию.

Коммерческое предложение

Пришлём КП с ценой, сроком и заменами

Опишите задачу своими словами — модель, нагрузку, бюджет или просто «нужно 8 карт к декабрю». Инженер подберёт 2–3 варианта и честно скажет, где можно сэкономить.

2 чКП в рабочее время, цена фиксируется на 3 дня

72 чстресс-тест каждой карты, отчёт и серийники до оплаты

22 %счёт с НДС, договор поставки, ГТД, УПД

Какой сервер нужен под модель

Готовые конфигурации

Серверы в каталоге

Как подобрать сервер

Частые вопросы

Смотрите также

Пришлём КП с ценой, сроком и заменами

Запрос КП