Какая видеокарта нужна для вашей нейросети
Выберите модель, задачу и точность — покажем, сколько видеопамяти уйдёт на веса, KV-кеш и служебные буферы, и какие конфигурации из каталога это закрывают дешевле всего.
Как считаем
Веса = число параметров × байт на параметр: FP16 — 2 байта, FP8 — 1, INT4 — около 0,56 (с масштабами квантования).
KV-кеш = 2 × слои × KV-головы × размер головы × длина контекста × число одновременных запросов. У DeepSeek кеш сжат (MLA), поэтому он в разы меньше.
Дообучение LoRA добавляет адаптеры, состояния оптимизатора и активации. Полное обучение со смешанной точностью и AdamW требует около 16 байт на параметр плюс активации — поэтому даже 8B-модель не помещается в одну 80-гигабайтную карту без шардирования.
В подбор берём не больше 92 % памяти карты — остальное уйдёт на драйвер и фрагментацию.
Готовые ответы: модель → железо
| Модель | Параметры | INT4, 32K | FP8, 32K | FP16, 32K | Дешевле всего (INT4) |
|---|---|---|---|---|---|
| Llama 3.1 8B | 8B | 8 ГБ | 12 ГБ | 23 ГБ | 4090 48 ГБ (мод.) — от 471 000 ₽ |
| Mistral Small 24B | 24B | 18 ГБ | 29 ГБ | 57 ГБ | 4090 48 ГБ (мод.) — от 471 000 ₽ |
| Qwen3 32B | 32B | 25 ГБ | 41 ГБ | 80 ГБ | 4090 48 ГБ (мод.) — от 471 000 ₽ |
| Llama 3.3 70B | 70B | 49 ГБ | 82 ГБ | 162 ГБ | DGX Spark — от 858 000 ₽ |
| gpt-oss-120b | 117B | 68 ГБ | 68 ГБ | 252 ГБ | DGX Spark — от 858 000 ₽ |
| Qwen3 235B-A22B | 235B | 144 ГБ | 254 ГБ | 506 ГБ | 4× 4090 48 ГБ (мод.) — от 2,78 млн ₽ |
| Llama 3.1 405B | 405B | 250 ГБ | 439 ГБ | 877 ГБ | 4× RTX PRO 6000 Max-Q — от 14,8 млн ₽ |
| DeepSeek V3 / R1 | 671B | 401 ГБ | 714 ГБ | 1 426 ГБ | Сервер 4U 8× RTX PRO 6000 Server — от 20,8 млн ₽ |
| Kimi K2 | 1T | 620 ГБ | 1 105 ГБ | 2 209 ГБ | Сервер 4U 8× RTX PRO 6000 Server — от 20,8 млн ₽ |
Инференс, один запрос, контекст 32K токенов. Оценка ±15 %.
Генерация картинок и видео
| Модель | Задача | Минимум VRAM | Комфортно | Что взять |
|---|---|---|---|---|
| FLUX.1 [dev] | картинки 1024×1024 | 16 ГБ (FP8) | 24–32 ГБ | RTX 4090 / RTX 5090 |
| Stable Diffusion 3.5 Large | картинки | 12 ГБ | 24 ГБ | RTX 4090 / RTX 5090 |
| Wan 2.2 14B | видео 720p, 5 с | 24 ГБ (FP8, offload) | 48–96 ГБ | RTX 4090 48 ГБ / RTX PRO 6000 |
| HunyuanVideo | видео 720p | 45 ГБ | 80 ГБ | RTX PRO 6000 / H100 |
| Обучение LoRA для FLUX | дообучение стиля/лица | 24 ГБ | 32–48 ГБ | RTX 5090 / RTX 4090 48 ГБ |
Пришлём КП с ценой, сроком и заменами
Опишите задачу своими словами — модель, нагрузку, бюджет или просто «нужно 8 карт к декабрю». Инженер подберёт 2–3 варианта и честно скажет, где можно сэкономить.