NVIDIA перевела платформу Run:ai в open source полностью
NVIDIA 13 октября 2026 года открыла исходный код всей платформы Run:ai, системы распределения и планирования GPU для Kubernetes-кластеров, об этом сообщила компания в техническом блоге. Релиз расширяет NVIDIA DSX AI Factory Platform: control plane, веб-интерфейс, CLI и остальные компоненты вышли под открытыми лицензиями, а планировщик KAI Scheduler ранее уже получил Apache 2.0.
Краткий ответ
NVIDIA открыла исходный код полной платформы Run:ai для распределения GPU между воркблоудами в Kubernetes. Раньше в открытом доступе был только планировщик KAI Scheduler под Apache 2.0. Теперь доступны control plane, нативное дробление GPU, управление квотами по департаментам через KAI Resource Management и единый контракт для описания воркблоудов — Workload Map. Код лежит на GitHub и NGC, платная подписка для базового использования не нужна.
Что открыла NVIDIA
Run:ai несколько лет помогал организациям запускать AI-нагрузки на Kubernetes: платформа динамически выделяла GPU и управляла воркблоудами на всём жизненном цикле, от обработки данных до обучения и инференса. До этого релиза в открытом доступе лежал только планировщик KAI Scheduler: NVIDIA ранее выпустила его код под лицензией Apache 2.0 и передала проект в CNCF как Sandbox-проект.
Теперь открыта вся платформа. В неё входят control plane для управления воркблоудами, квотами, политиками и доступами из одной точки на несколько кластеров; cluster-сервисы — контроллеры и admission-вебхуки внутри каждого кластера; инсталлер, CLI, веб-интерфейс и REST API. Полный исходный код собран в монорепозитории организации NVIDIA DSX AI Factory на GitHub, отдельно от репозитория KAI Scheduler, который продолжает развиваться в сообществе CNCF.
Авторы анонса, Экин Карабулут и Сэм Хейвуд из NVIDIA, описывают релиз как открытый фундамент, на котором экосистема DSX сможет быстрее выводить собственные решения на рынок. По их формулировке, цель — дать любому партнёру DSX и любому AI-облаку возможность повышать пропускную способность воркблоудов, утилизацию GPU и эффективность общей инфраструктуры без необходимости строить оркестрацию с нуля.
Четыре модуля платформы
Релиз включает четыре компонента, которые можно внедрять независимо друг от друга и от остальной платформы.
- KAI Scheduler — Kubernetes-нативный планировщик, который координирует gang scheduling с предварительной симуляцией размещения в памяти (чтобы многоподовые задания ставились по принципу «всё или ничего» и не вытеснялись без нужды), fair-share-распределение с поддержкой распределения по времени, квоты, учёт топологии и bin-packing на уровне решений планировщика, а также разделение GPU через MIG, MPS, time sharing, HaMi и нативное MPS-дробление CUDA 13.4. Планировщик поддерживает Dynamic Resource Allocation (DRA) и остаётся тем же движком, что работает внутри коммерческого Run:ai;
- GPU Fractioning Operator — оператор для дробления GPU на нативной поддержке CUDA. Драйвер CUDA ограничивает объём памяти GPU, видимый каждому воркблоуду, жёстким лимитом; оператор переносит эту возможность на уровень Kubernetes и добавляет экспортер метрик для наблюдения за фракциями на уровне пода. Он заменяет прежнюю проприетарную реализацию fractional GPU в Run:ai и не привязан к конкретному планировщику, хотя интегрируется с KAI Scheduler для перевода доступной ёмкости GPU в конкретное решение о размещении;
- KAI Resource Management — организационный слой: проекты и департаменты как структура, которая привязывает ресурсы к командам и инициативам; гарантии и доли GPU-ёмкости внутри этой иерархии с fair-share- и квотной семантикой; node pools для группировки разнородного железа. Такой слой нужен, например, когда платформенная команда хочет гарантировать одному из отделов фиксированную долю кластера и не дать остальным командам занять всю оставшуюся мощность;
- Workload Map — единый контракт для описания разных типов воркблоудов, включая PyTorchJob, RayCluster, JobSet, KServe InferenceService и собственные custom resources команд. KAI Scheduler использует его для gang-семантики, остальная платформа — для обнаружения воркблоудов, мониторинга и управления жизненным циклом. Компонент поставляется как Go-библиотека, работает офлайн с неструктурированными объектами и намеренно ограничен в задачах: сам он не планирует, не ставит в очередь, не масштабирует и не распространяет нагрузку между кластерами.
Весь код, кроме KAI Scheduler, лежит в едином монорепозитории NVIDIA DSX AI Factory на GitHub; у KAI Scheduler, GPU Fractioning Operator, KAI Resource Management и Workload Map также есть собственные репозитории и документация для точечного внедрения.
Model Streamer и Grove: смежные открытые проекты
NVIDIA упомянула рядом с релизом два открытых проекта, которые решают смежные задачи инференса и не входят в саму платформу Run:ai, но дополняют её.
Model Streamer ускоряет загрузку весов модели в память GPU. Холодный старт воркблоуда инференса на Kubernetes может занимать несколько минут, и большую часть этого времени GPU выделен, но простаивает — пока веса грузятся с хранилища. Model Streamer читает веса параллельно и стримит их напрямую в память GPU, что сокращает время загрузки больших моделей. Проект уже интегрирован в инференс-движки vLLM и SGLang (включается флагом --load-format runai_streamer), а также в ModelExpress; поддерживает локальные файловые системы, S3-совместимые хранилища и сетевые файловые шары. Крупные облачные провайдеры задокументировали его в собственных руководствах: AWS включила Model Streamer в контейнер глубокого обучения vLLM и рекомендует его в официальной документации EKS по инференсу; Google Cloud сделала нативную поддержку Cloud Storage совместно с NVIDIA и описала её в документации GKE для потоковой загрузки весов прямо в память ускорителя; Microsoft Azure совместно с NVIDIA Run:ai разработала интеграцию с Azure Blob Storage. По опубликованным бенчмаркам на восьми виртуальных машинах с NVIDIA H100 загрузка идёт в 3-6 раз быстрее дефолтного загрузчика при стабильных 80 Гбит/с против примерно 40 Гбит/с на стандартном пути. Независимые тесты поставщиков хранилищ дают схожую картину: WEKA сообщила о загрузке в память GPU за 3,5 секунды, примерно на 40% быстрее загрузки с локального NVMe; VAST Data зафиксировала 1,7 секунды, улучшение на 60% относительно локального NVMe; DDN передала 65,5 ГБ весов модели Qwen3-32B на 8 GPU менее чем за четыре секунды и перевела это в экономию: до 10% суточного времени работы GPU по сравнению с загрузкой из локального хранилища.
Grove — Kubernetes API для оркестрации многокомпонентных воркблоудов: агентных пайплайнов, disaggregated serving и обучения mixture-of-experts, где несколько связанных компонентов должны масштабироваться вместе, от одного пода до развёртываний на десятки тысяч GPU. Grove даёт топологически осведомлённое автомасштабирование и иерархический gang scheduling, позволяя компонентам вроде prefill и decode стартовать как неделимые единицы «всё или ничего». На платформе NVIDIA GB200 NVL72 Grove также автоматически управляет ресурсами ComputeDomain, включая производительность multinode NVLink одной аннотацией вместо вручную написанного YAML. Grove — модульная часть NVIDIA Dynamo, которую можно использовать отдельно; по данным NVIDIA, проект уже работает в пайплайнах обучения и инференса у ряда компаний. Среди недавних доработок — поддержка llm-d и Volcano как бэкенда планировщика, поддержка Kueue в разработке.
Доступ, лицензии и партнёры экосистемы
Полный репозиторий доступен на GitHub, готовая сборка — на NVIDIA NGC как Community Product с Helm-чартом для установки всего стека разом. Для загрузки с NGC нужно принять лицензионное соглашение NVIDIA и специфичные условия для AI-продуктов компании, но платная подписка Run:ai или контракт на поддержку не требуются; при этом техподдержка NVIDIA в комплект Community Product тоже не входит. Для KAI Scheduler лицензия прямо названа — Apache 2.0, и проект передан в CNCF как Sandbox-проект. Для остального кода платформы в источнике говорится об «применимых открытых лицензиях» без указания конкретной схемы для каждого компонента отдельно. Компаниям с запросом на коммерческую поддержку Run:ai остаётся доступен как платный продукт: отдельно, через NVIDIA Mission Control, NVIDIA AI Enterprise или облачные маркетплейсы; доступность, лицензирование и условия поддержки различаются по каждому из этих предложений.
Открытый код уже интегрируют восемь партнёров NVIDIA DSX. Crusoe встраивает платформу в Crusoe Managed Kubernetes, объединяя оркестрацию GPU-воркблоудов с управляемым Kubernetes и GPU-инфраструктурой. Mirantis расширяет k0rdent AI, собирая стек от железа до модели с автоматизацией провижининга инфраструктуры и максимизацией утилизации GPU. Nebius даёт Run:ai как развёртывание в один клик в Nebius AI Cloud поверх Nebius Managed Service for Kubernetes. OpenNebula Systems интегрирует платформу с OpenNebula AI Cloud Platform через OneKS для открытых и суверенных AI-облаков. Rafay расширяет интеграцию до полностью управляемого сервиса, автоматизируя весь стек от GPU-инфраструктуры и кластеров до control plane и тенантов Run:ai, чтобы AI-облачные провайдеры и компании могли предлагать его через собственные каталоги самообслуживания. Saturn Cloud использует интеграцию, чтобы операторы AI-облаков запускали white-label инференс-сервисы через платформу Token Factory с посимвольным учётом и автоматизированным биллингом. Spectro Cloud встраивает платформу в PaletteAI с развёртыванием через PaletteAI Studio. vCluster предоставляет Run:ai через готовые шаблоны развёртывания, которые поднимают полное окружение на каждого тенанта, усиливая границы между тенантами, пока сам Run:ai продолжает планировать работу на едином пуле GPU.
Почему это важно
Для платформенных команд на Kubernetes открытие Run:ai означает доступ к готовому набору компонентов GPU-оркестрации без обязательной подписки: раньше для похожего результата приходилось собирать стек из отдельных open source проектов и доводить интеграцию руками. Платформенные команды получают ещё один вариант GPU-оркестрации без обязательной привязки к коммерческой лицензии, но пока рано говорить, станет ли открытый Run:ai стандартом де-факто или просто добавится к списку альтернатив вроде Kueue или Volcano.
Что дальше
Команды, которые уже строят мультитенантные GPU-кластеры на Kubernetes, могут начать с модульного внедрения: поставить отдельно KAI Scheduler или GPU Fractioning Operator рядом с текущим стеком, не меняя всю платформу разом. Тем, кто строит собственное AI-облако, стоит изучить референсные интеграции партнёров — Nebius, Crusoe, Rafay — как готовые схемы развёртывания. Компаниям, которым важна гарантированная поддержка NVIDIA, по-прежнему нужен коммерческий путь через Enterprise AI Factory, Mission Control или AI Enterprise. А платформенным инженерам, которые уже столкнулись с холодным стартом инференса или нестабильным масштабированием многокомпонентных пайплайнов, имеет смысл отдельно посмотреть на Model Streamer и Grove — они не требуют перехода на весь Run:ai и решают узкие, но дорогие по времени проблемы.
FAQ
Что такое NVIDIA Run:ai и зачем он нужен командам на Kubernetes?
Run:ai — платформа для распределения GPU между воркблоудами в Kubernetes-кластерах: тренировкой, инференсом и обработкой данных. Она планирует запуск подов с учётом доступности GPU, их топологии и честного доступа разных команд к общему пулу ресурсов.
Чем открытый релиз отличается от KAI Scheduler, который уже был открыт раньше?
KAI Scheduler — только планировщик, он решает, куда поставить под, и вышел под Apache 2.0 ещё до этого релиза. Новый релиз добавляет control plane, веб-интерфейс, CLI, API, управление квотами по департаментам через KAI Resource Management, дробление GPU через GPU Fractioning Operator и единый контракт над воркблоудами через Workload Map — то есть всю платформу вокруг планировщика, под открытыми лицензиями.
Нужна ли платная подписка NVIDIA, чтобы пользоваться открытым Run:ai?
Нет. Готовая сборка доступна на NVIDIA NGC как Community Product с Helm-чартом. Для установки нужно принять лицензионное соглашение NVIDIA и условия для AI-продуктов, но платная подписка и техподдержка NVIDIA не требуются, хотя и не включены в Community Product.
Что меняется для команд, которые уже используют другие open source планировщики GPU?
Прямой миграции никто не требует: KAI Scheduler, GPU Fractioning Operator и другие компоненты можно установить по отдельности в существующий кластер рядом с текущим стеком. Командам, которым не хватает управления квотами по департаментам или дробления GPU, открытый Run:ai, на наш взгляд, может служить альтернативой — без перехода на всю платформу сразу.
Как получить доступ к открытому коду Run:ai?
Полный исходный код лежит в организации NVIDIA DSX AI Factory на GitHub: монорепозиторий с control plane и отдельные репозитории KAI Scheduler, GPU Fractioning Operator, KAI Resource Management и Workload Map. Там же есть документация и способы установки, включая Helm-чарт с NVIDIA NGC.