48 ГБ — минимум для Llama 70B на одной карте в 4 битах и запас для моделей до 32B в 8 битах. Сравнили все карты этого объёма по цене и скорости.
| Модель | Память | Пропускная | Производительность | TDP | Наличие | Цена от | ₽ за ГБ |
|---|---|---|---|---|---|---|---|
| Huawei Atlas 300V Pro 48 ГБ | LPDDR4X | 0,20 ТБ/с | 70 TFLOPS FP16 | 72 Вт | В наличии | 184 000 ₽ | 3 833 ₽ |
| MTT S4000 48 ГБ | GDDR6 | 0,77 ТБ/с | 100 TFLOPS FP16 | 450 Вт | Нет в РФ | 279 000 ₽ | 5 812 ₽ |
| Arc Pro B60 Dual 48 ГБ (2× B60 на одной плате) | GDDR6 | 0,91 ТБ/с | 196 TFLOPS FP16 | 400 Вт | Под заказ | 315 000 ₽ | 6 562 ₽ |
| MLU370-X8 48 ГБ | LPDDR5 | 0,61 ТБ/с | 96 TFLOPS FP16 | 250 Вт | Под заказ | 446 000 ₽ | 9 292 ₽ |
| RTX 4090 48 ГБ — модифицированная, на базе AD102 | GDDR6X | 1,0 ТБ/с | 661 TFLOPS FP8 | 450 Вт | Под заказ | 471 000 ₽ | 9 812 ₽ |
| NVIDIA L20 48 ГБ (китайская версия L40S) | GDDR6 ECC | 0,86 ТБ/с | 239 TFLOPS FP8 | 275 Вт | В наличии | 493 000 ₽ | 10 271 ₽ |
| AMD Radeon PRO W7900 48 ГБ | GDDR6 ECC | 0,86 ТБ/с | 123 TFLOPS FP16 | 295 Вт | Под заказ | 542 000 ₽ | 11 292 ₽ |
| NVIDIA RTX 5880 Ada 48 ГБ | GDDR6 ECC | 0,96 ТБ/с | — | 285 Вт | Под заказ | 649 000 ₽ | 13 521 ₽ |
| NVIDIA A40 48 ГБ | GDDR6 ECC | 0,70 ТБ/с | 150 TFLOPS FP16 | 300 Вт | Под заказ | 765 000 ₽ | 15 938 ₽ |
| NVIDIA RTX A6000 48 ГБ | GDDR6 ECC | 0,77 ТБ/с | 155 TFLOPS FP16 | 300 Вт | В наличии | 923 000 ₽ | 19 229 ₽ |
| NVIDIA L40S 48 ГБ | GDDR6 ECC | 0,86 ТБ/с | 733 TFLOPS FP8 | 350 Вт | В наличии | 987 000 ₽ | 20 562 ₽ |
| NVIDIA RTX PRO 5000 Blackwell 48 ГБ | GDDR7 ECC | 1,3 ТБ/с | 535 TFLOPS FP8 | 300 Вт | Под заказ | 1,37 млн ₽ | 28 542 ₽ |
| NVIDIA RTX 6000 Ada 48 ГБ | GDDR6 ECC | 0,96 ТБ/с | 728 TFLOPS FP8 | 300 Вт | Под заказ | 1,39 млн ₽ | 28 958 ₽ |
| NVIDIA L40 48 ГБ | GDDR6 ECC | 0,86 ТБ/с | 362 TFLOPS FP8 | 300 Вт | Под заказ | 1,88 млн ₽ | 39 167 ₽ |
Объём одинаковый, различаются скорость памяти, вычисления и охлаждение. Пассивные L40S и L20 ставятся только в серверы. Турбинные RTX A6000, 6000 Ada, 5880 Ada и RTX PRO 5000 подходят для рабочих станций на 2–4 карты.
Модифицированная RTX 4090 48 ГБ даёт скорость 4090 и самую низкую цену, но это не продукт NVIDIA и гарантия на неё продавца. Официальные карты дороже, зато с гарантированной совместимостью и драйверами для ЦОД.
Опишите задачу своими словами — модель, нагрузку, бюджет или просто «нужно 8 карт к декабрю». Инженер подберёт 2–3 варианта и честно скажет, где можно сэкономить.