Локальная нейросеть · Qwen3

Qwen3 локально: железо для 32B и 235B

Qwen3 32B — сильная модель для одной карты, 235B-A22B — уровень крупных моделей на сервере из 4–8 карт. Считаем память и конфигурации.

Посчитать под свою модель

Параметров32BQwen3 32B

4 бита, 1 пользователь25 ГБс контекстом 32K

FP8, команда71 ГБ8 запросов по 32K

Установкапод ключvLLM, Open WebUI, API

Qwen3 32B: сколько видеопамяти нужно

Веса, KV-кеш и служебная память. Один пользователь — контекст 32K; команда — 8 одновременных запросов по 32K.

Точность	Веса	1 пользователь	Команда (8 запросов)	Минимальная конфигурация для команды
FP16 / BF16	66 ГБ	80 ГБ	140 ГБ	4× 4090 48 ГБ (мод.) — 2,78 млн ₽
FP8	33 ГБ	41 ГБ	71 ГБ	DGX Spark — 858 000 ₽
4 бита	18 ГБ	25 ГБ	55 ГБ	DGX Spark — 858 000 ₽

Qwen3 32B: что подойдёт

Самые доступные конфигурации из каталога, в которые модель помещается в 4 битах с контекстом 32K.

Конфигурация	Что это	Память	Цена от	Срок
4090 48 ГБ (мод.)	1 карта, турбина	48 ГБ	471 000 ₽	4–8 нед.
L20	1 карта, пассивная — в сервер	48 ГБ	493 000 ₽	1–3 дня
DGX Spark	настольная, память 273 ГБ/с	128 ГБ	858 000 ₽	1–3 дня
RTX PRO 5000 72 ГБ	1 карта	72 ГБ	1,81 млн ₽	1–3 дня
Сервер 4U 8× RTX PRO 6000 Server	сервер 4U	768 ГБ	20,8 млн ₽	4–8 нед.

Qwen3 235B-A22B: сколько видеопамяти нужно

Веса, KV-кеш и служебная память. Один пользователь — контекст 32K; команда — 8 одновременных запросов по 32K.

Точность	Веса	1 пользователь	Команда (8 запросов)	Минимальная конфигурация для команды
FP16 / BF16	470 ГБ	506 ГБ	550 ГБ	Сервер 4U 8× RTX PRO 6000 Server — 20,8 млн ₽
FP8	235 ГБ	254 ГБ	276 ГБ	4× RTX PRO 6000 Max-Q — 14,8 млн ₽
4 бита	132 ГБ	144 ГБ	166 ГБ	4× 4090 48 ГБ (мод.) — 2,78 млн ₽

Qwen3 235B-A22B: что подойдёт

Самые доступные конфигурации из каталога, в которые модель помещается в 4 битах с контекстом 32K.

Конфигурация	Что это	Память	Цена от	Срок
4× 4090 48 ГБ (мод.)	рабочая станция	192 ГБ	2,78 млн ₽	4–8 нед.
2× RTX PRO 6000 Workstation	рабочая станция	192 ГБ	7,38 млн ₽	1–3 дня
Сервер 4U 8× RTX PRO 6000 Server	сервер 4U	768 ГБ	20,8 млн ₽	4–8 нед.
Atlas 800I A2	сервер Huawei	512 ГБ	25,4 млн ₽	4–8 нед.
Сервер 8× Instinct MI300X/MI325X	сервер AMD	1 536 ГБ	34,1 млн ₽	4–8 нед.

Что важно знать

Qwen3 32B — плотная модель, которая в 4 битах помещается в RTX 5090 или 4090, а в 8 битах — в карту на 48 ГБ. Для рабочей станции на одного-двух пользователей это хороший баланс качества и цены.

Qwen3 235B-A22B — смесь экспертов: 235 млрд параметров, из них на токен работают 22 млрд. Генерация быстрая, но веса занимают около 240 ГБ в FP8 и около 135 ГБ в 4 битах. Это 2–4 карты RTX PRO 6000 или 1–2 H200.

Обе модели хорошо работают с русским языком и подходят для корпоративного чата, RAG по документам и агентов.

Частые вопросы

Какая видеокарта нужна для Qwen3 32B?

В 4 битах — 24–32 ГБ: RTX 4090 или RTX 5090. В 8 битах — 48 ГБ: L40S, RTX 6000 Ada, 4090 48 ГБ.

Сколько нужно для Qwen3 235B?

В 4 битах — около 135 ГБ плюс контекст: 2 RTX PRO 6000 или 1 H200 с коротким контекстом. В FP8 для команды — 4 RTX PRO 6000 или 2 H200.

Коммерческое предложение

Пришлём КП с ценой, сроком и заменами

Опишите задачу своими словами — модель, нагрузку, бюджет или просто «нужно 8 карт к декабрю». Инженер подберёт 2–3 варианта и честно скажет, где можно сэкономить.

2 чКП в рабочее время, цена фиксируется на 3 дня

72 чстресс-тест каждой карты, отчёт и серийники до оплаты

22 %счёт с НДС, договор поставки, ГТД, УПД