H100 или H200: что брать в 2026 году
Одинаковые вычисления, разная память. Когда +76 % HBM окупаются, а когда хватит H100.
H200 — это та же архитектура Hopper и те же тензорные ядра, что у H100, но с новой памятью: 141 ГБ HBM3e против 80 ГБ HBM3 и пропускная способность 4,8 ТБ/с против 3,4 ТБ/с. На вычислениях FP8/FP16 разницы почти нет; разница — в том, сколько модели и контекста помещается на ускоритель и как быстро он их читает.
| Параметр | H100 | H200 |
|---|---|---|
| Память | 80 ГБ HBM3 | 141 ГБ HBM3e |
| Пропускная способность | 3,4 ТБ/с | 4,8 ТБ/с |
| FP8, TFLOPS (dense) | 1 979 | 1 979 |
| TDP | 700 Вт | 700 Вт |
| Цена в РФ | от 4,39 млн ₽ | от 5,18 млн ₽ |
| Наличие | Под заказ | Под заказ |
Когда брать H200
- Инференс больших моделей. 8×H200 — это 1,1 ТБ HBM: DeepSeek V3/R1 в FP8 помещается на один сервер, на 8×H100 (640 ГБ) — только в 4 битах.
- Длинный контекст и много пользователей. KV-кеш растёт линейно с контекстом и числом запросов — лишние 61 ГБ на ускоритель превращаются в кратно больший батч.
- Скорость генерации. +43 % пропускной способности памяти дают сопоставимый прирост токенов в секунду на задачах, упирающихся в память.
Когда хватит H100
- Обучение и дообучение моделей до 70B, где узкое место — вычисления, а не память.
- Инференс моделей до 70B в FP8 с умеренным контекстом.
- Бюджет ограничен, а задачу можно разнести на больше карт.
Карточки: NVIDIA H100 SXM5 80 ГБ · NVIDIA H200 SXM 141 ГБ, в составе HGX H200 8× · NVIDIA H200 NVL 141 ГБ (PCIe)
Пришлём КП с ценой, сроком и заменами
Опишите задачу своими словами — модель, нагрузку, бюджет или просто «нужно 8 карт к декабрю». Инженер подберёт 2–3 варианта и честно скажет, где можно сэкономить.