H100 PCIe стоит лишь немного дороже A100 80 ГБ, но даёт аппаратный FP8 и примерно вдвое большую производительность в инференсе и обучении. Для новой системы под LLM H100 выгоднее почти всегда.
A100 оправдана в трёх случаях: апгрейд существующих серверов A100, учебные кластеры, где важна цена гигабайта (A100 40 ГБ), и задачи в FP64 для научных расчётов.