RTX PRO 6000 Blackwell против H100: где выгоднее 96 ГБ
Сервер на 8 карт RTX PRO 6000 против HGX H100: цена гигабайта, NVLink, инференс и обучение.
RTX PRO 6000 Blackwell — профессиональная карта с 96 ГБ GDDR7 ECC памяти в обычном PCIe-формате. Восемь таких карт — это 768 ГБ видеопамяти в одном 4U-сервере, больше, чем у HGX-сервера на 8×H100 (640 ГБ), при заметно меньшей цене.
| Параметр | RTX PRO 6000 | H100 (PCIe/NVL) | H100 SXM |
|---|---|---|---|
| Память | 96 ГБ GDDR7 ECC | 80 ГБ HBM2e | 80 ГБ HBM3 |
| Пропускная способность | 1,8 ТБ/с | 2,0 ТБ/с | 3,4 ТБ/с |
| FP8, TFLOPS (dense) | 1 000 | 1 513 | 1 979 |
| Связь между картами | PCIe 5.0 | NVLink-мост (NVL) | NVLink 900 ГБ/с |
| Цена | от 3,24 млн ₽ | от 2,75 млн ₽ | от 4,39 млн ₽ |
| ₽ за 1 ГБ | 33 750 ₽ | 34 375 ₽ | 54 875 ₽ |
Где выигрывает RTX PRO 6000
- Инференс, особенно MoE-моделей и моделей до 120B на одной-двух картах: память дешевле в разы, а поддержка FP4 в Blackwell ускоряет квантованные модели.
- Генерация видео и изображений, 3D и рендеринг — у карты есть графический конвейер, которого нет у H100.
- Рабочие станции: версия Max-Q на 300 Вт ставится по 4 штуки в обычный корпус.
Где нужен H100/H200
- Обучение на нескольких картах. Без NVLink карты обмениваются градиентами через PCIe — на больших моделях это съедает до половины времени.
- Высоконагруженный инференс с тензорным параллелизмом на 8 карт: HBM и NVLink дают больше токенов на сервер.
Итог: для инференса и генерации берите RTX PRO 6000, для обучения и тяжёлого продакшена — HGX H100/H200. Не уверены — пришлите задачу, посчитаем оба варианта в КП.
Карточки: NVIDIA RTX PRO 6000 Blackwell Workstation Edition 96 ГБ · NVIDIA H100 SXM5 80 ГБ
Коммерческое предложение
Пришлём КП с ценой, сроком и заменами
Опишите задачу своими словами — модель, нагрузку, бюджет или просто «нужно 8 карт к декабрю». Инженер подберёт 2–3 варианта и честно скажет, где можно сэкономить.
2 чКП в рабочее время, цена фиксируется на 3 дня
72 чстресс-тест каждой карты, отчёт и серийники до оплаты
22 %счёт с НДС, договор поставки, ГТД, УПД