КороткоСервер для нейросетей выбирают от видеопамяти: сколько её нужно модели, столько и ставят графических ускорителей. Под них подбирают процессоры, оперативную память, шину PCIe и питание. В реестре Минпромторга есть серверы и платформы, рассчитанные на установку ускорителей, — ниже двенадцать моделей из нашего каталога с номерами записей.
Сколько видеопамяти нужно
Для работы готовой модели (инференса) видеопамять занимают веса модели и кэш контекста. По оценке NVIDIA, веса модели на 7 млрд параметров в формате FP16 занимают около 14 ГБ, а кэш растёт с длиной контекста и числом одновременных запросов.
Обучение требует в разы больше. По расчёту в документации Hugging Face, при обучении в смешанной точности с оптимизатором Adam на каждый параметр модели приходится около 18 байт: 6 — веса, 8 — состояния оптимизатора, 4 — градиенты. Обучение модели на 4 млрд параметров с размером пакета 16 занимает около 85 ГБ видеопамяти.
Точный объём зависит от точности вычислений, длины контекста и того, как модель разнесена по ускорителям. Поэтому конфигурацию считают под конкретную модель и нагрузку.
Что NVIDIA рекомендует для сервера с ускорителями
Ориентиры из руководства NVIDIA по сертифицированным системам (редакция, обновлённая 30.09.2026):
| Узел | Рекомендация NVIDIA |
|---|---|
| Ускорители | 2, 4 или 8 на сервер |
| Процессоры | не меньше двух сокетов, базовая частота от 2,0 ГГц, не меньше 6 физических ядер на каждый ускоритель |
| Оперативная память | не меньше двукратного объёма видеопамяти всех ускорителей |
| Шина | для H200 NVL — PCIe Gen5 x16, для L40S — PCIe Gen4 x16 |
| Сеть | от 200 Гбит/с, если инференс идёт на нескольких серверах |
| Накопители | по одному NVMe на процессорный сокет, от 1 ТБ |
Мощность одного ускорителя — от 72 Вт у L4 до 600 Вт у H200 NVL и RTX PRO 6000 Blackwell Server Edition. Питание и охлаждение стойки под такие серверы считают в проекте ЦОД.
Модели из реестра с поддержкой ускорителей
Что заявляют производители в описаниях моделей. Проверяйте по документации конкретного исполнения: число и тип ускорителей зависят от комплектации.
| Модель | Процессоры | Ускорители | Номер записи |
|---|---|---|---|
| Delta Sprut XL (Дельта Солюшнс) | Intel Xeon Scalable 4-го или 5-го поколения | платформа для обучения и инференса; модули JBOG с графическими ускорителями | 10860882 |
| Delta Sprut (Дельта Солюшнс) | Intel Xeon Scalable 4-го или 5-го поколения | то же, базовое исполнение | 10877177 |
| OpenYard HN203I-3MPF | Intel Xeon 6-го поколения | до 4 ускорителей A100, L4, L40, L40S или H100; по оговорке производителя, не все модели карт ставятся по 4 штуки | 10841699 |
| НОРСИ-ТРАНС «КИТ GPU» | 2 × Intel Xeon Scalable 3-го поколения, корпус 4U | до 6 модулей GPU | 10637772 |
| Kraftway Trusted TS2000 | 2 × Intel Xeon Scalable 2-го поколения, корпус 2U | до 2 двухслотовых ускорителей PCIe x16 | 10401214 |
| Гравитон С2084И | x86-64, до 2 процессоров | полноразмерные ускорители | 10520502 |
| Гравитон С2124ОГ | 2 × Intel Xeon | параллельные вычисления на GPU | 10800496 |
| Гравитон С2124АГ | 2 × AMD EPYC 7002/7003 | параллельные вычисления на GPU | 10800495 |
| AMUR LUNA B02R20 | Intel Xeon 3-го поколения | GPU-сервер | 10765179 |
| AMUR LUNA B02R10 | Intel Xeon 3-го поколения | GPU-сервер | 10765172 |
| FPLUS SR-421S13-212I | до 2 × Intel Xeon Scalable 3-го поколения | графические ускорители; у модели 17 исполнений с отдельными записями | 10636721 |
| OpenYard RS201I-65B | Intel Xeon 3-го поколения | поддержка графического ускорителя | 10691494 |
Ускоритель и реестр
В реестр Минпромторга вносят сервер целиком, а не ускоритель. Баллы серверу начисляют по ПП № 719 за операции и компоненты, выполненные и произведённые в России: процессор, системную плату, модули, корпус, блоки питания. Видеоплата в этом перечне относится к электронным модулям. Сколько баллов даёт или не даёт иностранный ускоритель в конкретной модели, видно только по её записи.
С 2026 года в реестре радиоэлектронной продукции есть отметка об отнесении изделия к сфере искусственного интеллекта. Если изделие отвечает критериям ПП № 400 от 13.04.2026 и набирает требуемое суммарное количество баллов, баллы увеличивают на коэффициент 1,25.
NVIDIA прекратила работу в России в 2022 году. Поставку ускорителей, гарантию и сервис обеспечивает поставщик сервера — уточняйте их до закупки.
Вопросы и ответы
Сколько видеопамяти нужно для нейросети на 7 млрд параметров?
Только веса такой модели в формате FP16 занимают около 14 ГБ. Сверху нужен запас под кэш контекста: он растёт с длиной запросов и их числом. Для обучения памяти нужно в несколько раз больше.
Есть ли в реестре Минпромторга серверы с NVIDIA?
В реестр вносят модель сервера, а не ускоритель. Из моделей нашего каталога ускорители NVIDIA прямо называет OpenYard HN203I-3MPF: до 4 карт A100, L4, L40, L40S или H100, хотя не все модели карт ставятся по 4 штуки. Состав конкретной поставки проверяйте по документации исполнения.
Сколько оперативной памяти ставить в GPU-сервер?
NVIDIA рекомендует не меньше двукратного объёма видеопамяти всех ускорителей сервера. Для четырёх ускорителей по 48 ГБ это от 384 ГБ.
Можно ли купить GPU-сервер из реестра для госзакупки?
По п. 3 ПП № 1875 происхождение сервера подтверждают номером записи в реестре российской промышленной продукции. В записи должны быть баллы не ниже значения из ПП № 719 и уровень радиоэлектронной продукции. Пришлите задачу через форму ниже — подберём модели и проверим их записи.
