96 ГБ в одной карте меняют расчёт: Llama 3.3 70B в FP8 и gpt-oss-120b помещаются на одну RTX PRO 6000, а четыре карты в рабочей станции дают 384 ГБ — достаточно для Qwen3 235B в FP8.
Против H100 у RTX PRO 6000 больше памяти и ниже цена, но нет NVLink и меньше пропускная способность памяти. Для инференса и дообучения LoRA это часто выгоднее. Для обучения больших моделей на многих картах H100 и H200 с NVLink остаются быстрее.
Карты профессиональной линейки работают с драйверами NVIDIA для ЦОД без лицензионных ограничений драйвера GeForce. Поэтому их ставят и в серверы, и в рабочие станции.