Главное — видеопамять. Для моделей до 32B хватает одной RTX 5090 на 32 ГБ, для 70B нужны 48–96 ГБ: две 5090, одна RTX PRO 6000 или 4090 48 ГБ. Четыре RTX PRO 6000 Max-Q дают 384 ГБ — этого хватает для Qwen3 235B в 8 битах.
Вторая часть — платформа. Для 2–4 карт нужен процессор с достаточным числом линий PCIe (Threadripper PRO или Xeon W), блок питания от 1 600 до 2 800 Вт и корпус с продувом. Турбинные карты (Max-Q, 4090 48 ГБ) лучше подходят для плотной установки.
DGX Spark — отдельный вариант: 128 ГБ общей памяти в корпусе размером с книгу при 240 Вт. Подходит для разработки и одного пользователя, но генерация на больших моделях медленнее, чем на станции с RTX PRO 6000.