DGX Spark удобна тем, что 128 ГБ памяти доступны и процессору, и GPU. Модель на 70B в 8 битах или gpt-oss-120b помещаются целиком, а система размером с книгу потребляет около 240 Вт.
Ограничение — пропускная способность памяти: 273 ГБ/с, в 6–7 раз меньше, чем у RTX 5090. Поэтому генерация токенов на больших моделях медленная. DGX Spark хороша для разработки, тестов, дообучения и запуска моделей одним пользователем, а не для обслуживания десятков запросов.
Для той же суммы станция на одной RTX PRO 6000 даёт 96 ГБ и в несколько раз большую скорость. Выбор зависит от того, что важнее: объём модели или скорость ответа.