Все три карты — на архитектуре Ada Lovelace с 48 ГБ GDDR6 с ECC и пассивным охлаждением для серверов. Памяти хватает на модели до 32B в 8 битах или 70B в 4 битах на двух картах.
Пропускная способность памяти у L40S — 864 ГБ/с, примерно вдвое ниже, чем у H100 PCIe. Поэтому для чата с длинными ответами L40S медленнее, но для генерации изображений, видео и пакетной обработки это часто лучшая цена за результат.
L20 — способ получить 48 ГБ в серверном исполнении дешевле всех. Вычислений у неё меньше, но для инференса небольших моделей и RAG это часто не узкое место.