Локальная нейросеть — это открытая языковая модель (Qwen, Llama, DeepSeek, gpt-oss), запущенная на вашем сервере. Сотрудники работают с ней через веб-интерфейс, похожий на ChatGPT, а программы — через API, совместимый с OpenAI.
Размер железа определяют три вещи: размер модели, длина контекста и число одновременных запросов. Чем больше людей пишут одновременно, тем больше памяти уходит на KV-кеш.
Мы поставляем сервер или станцию с установленным стеком: драйверы, vLLM, модель, веб-интерфейс и подключение к вашим документам. Проверяем скорость под вашей нагрузкой до отгрузки.