Как развернуть AI-агента в production с Docker Compose
Docker Compose — стандартный инструмент для описания multi-container приложений одним YAML-файлом. Летом 2025 года Docker расширил его для AI-агентов: добавил agent-паттерны, cloud offload для GPU-нагрузок и интеграции с LLM-провайдерами, о чём компания сообщила в пресс-релизе от 10 июля 2025 года.
Краткий ответ
С середины 2025 года Docker Compose умеет описывать агентов, модели и инструменты как обычные сервисы в одном YAML-файле. Тяжёлые по GPU задачи можно вынести в облако через Docker Offload (на момент анонса — статус Beta), а подключение инструментов к LLM идёт через открытый протокол MCP. Для запуска agentic-стека больше не нужен отдельный оркестратор — достаточно compose.yml и docker compose up.
Что изменилось
AI-агент редко живёт в одном контейнере. Обычно это связка из LLM-backend, векторной базы, tool runner’ов и слоя мониторинга — и все эти части должны обмениваться состоянием и контекстом друг с другом. Docker Compose исторически решал более простую задачу: поднять веб-сервер, базу и кеш и связать их сетью. Управления состоянием между сервисами, discovery инструментов для агентов и облачного вычисления под GPU в нём не было.
10 июля 2025 года Docker объявил, что расширяет Compose именно под этот сценарий: агенты, модели и инструменты теперь можно описывать как сервисы в привычном YAML. Одновременно компания представила Docker Offload в статусе Beta — способ выносить GPU-нагрузку в облако без изменения локального workflow, а также партнёрства с Google Cloud, Microsoft Azure и AI-SDK CrewAI, Embabel, LangGraph, Sema4.ai, Spring AI и Vercel AI SDK.
«Agentic-приложения быстро развиваются, но собрать production-grade agent-систему до сих пор слишком сложно», — заявил в пресс-релизе Docker Tushar Jain, EVP of Engineering компании. По его словам, Docker хочет сделать agent-based разработку такой же простой и повторяемой, какой десять лет назад стала контейнеризация микросервисов.
Как это работает
Ключевая идея — агенты, модели и инструменты становятся сервисами того же файла, где раньше жили только контейнеры приложения. Согласно пресс-релизу, новый Compose даёт три возможности:
- определять агентов, модели и инструменты как сервисы в едином Compose-файле;
- запускать стек локально или разворачивать в облако — на Google Cloud Run или Azure Container Apps;
- подключаться к открытому MCP Gateway от Docker для безопасного discovery и коммуникации инструментов.
MCP (Model Context Protocol) — открытый протокол, который описывает, как LLM-агент находит и вызывает внешние инструменты. Docker поддерживает его через собственный MCP Gateway, так что discovery инструментов не нужно писать вручную для каждого агента.
Условно паттерн выглядит так (это иллюстрация подхода, а не точный синтаксис из документации):
services:
agent:
image: my-agent:latest
depends_on: [model, tools]
model:
image: docker/model-runner:llm
environment:
- PROVIDER=openai
tools:
image: mcp-gateway:latestДля GPU-тяжёлых частей — например, инференса модели — предусмотрен Docker Offload. По описанию Docker, он позволяет разработчику сохранить скорость локальной разработки, но выполнять GPU-нагрузку в облаке: запускать крупные модели и multi-agent системы там, где есть вычислительные ресурсы, а не грузить ими ноутбук.
Аналитик Torsten Volk из Enterprise Strategy Group отметил в том же пресс-релизе: «Сделать переход AI-приложений из прототипа в production таким же простым, как для обычного кода — вот следующий большой шаг в разработке приложений. Возможность запускать модели прямо в облаке, не забивая ноутбук — ещё один заметный шаг вперёд».
Что это меняет в эксплуатации
Для platform-команды главное следствие — исчезает необходимость писать custom orchestration под каждый agent-проект. Compose-файл теперь описывает не только контейнеры, но и модели, инструменты и их связи — то есть фактически становится инфраструктурным описанием (IaC) для AI-workflow. Тот же файл можно версионировать, шарить между окружениями и деплоить без переписывания инфраструктурного кода — обещание из пресс-релиза звучит именно так.
Партнёрства с CrewAI, LangGraph, Sema4.ai, Spring AI и Vercel AI SDK снижают порог входа для команд, которые уже используют один из этих фреймворков: интеграция с Compose не требует написания своего слоя оркестрации.
Порог входа в эксплуатацию agent-стеков в проде явно снижается, но это не отменяет вопросы стоимости GPU в облаке и наблюдаемости самих agent-flow — про эти детали в пресс-релизе конкретики нет. Наблюдаемость agent-цепочек — отдельная задача, которую одним Compose-файлом не закрыть.
Что ломается при обновлении
Формально это не breaking change: новые возможности добавляются к существующему Compose, старые файлы продолжают работать. Но при переходе на agentic-паттерны стоит учитывать несколько рисков.
Docker Offload на момент анонса имел статус Beta — нет более свежих данных о том, вышел ли он из бета-стадии, поэтому закладывать его в production SLA без проверки текущего статуса рискованно. Облачный offload означает новую статью расходов на GPU-инстансы, при этом деталей по ценообразованию в пресс-релизе не приводится. Деплой через Google Cloud Run или Azure Container Apps привязывает вашу цель к конкретным облачным платформам — если ваша инфраструктура живёт в другом облаке или on-prem, придётся либо адаптировать деплой самостоятельно, либо оставаться только на локальном запуске. И наконец, если хранить API-ключи LLM-провайдеров прямо в сервисах Compose-файла, это добавляет обычные вопросы безопасности секретов, которые нужно закрывать штатными средствами — vault, переменными окружения, секрет-менеджерами.
Кому и когда обновляться
Это релевантно платформенным и DevOps-командам, которые уже используют Docker Compose и хотят попробовать разворачивать AI-агентов без отдельного оркестратора. Особенно тем, кто уже работает с LangGraph, CrewAI, Vercel AI SDK или другими партнёрскими фреймворками — интеграция для них готова из коробки.
Экспериментировать стоит уже сейчас: барьер входа низкий, а Compose-файл легко откатить или изменить. Для production-нагрузок с жёсткими SLA разумно сначала проверить текущий статус Docker Offload и убедиться, что нужный вам LLM-провайдер или tool runner входит в список поддерживаемых интеграций, а не рассчитывать на них по умолчанию.
Заключение
Docker подошёл к agentic-приложениям так же, как десять лет назад подошёл к микросервисам: взял знакомый формат YAML и расширил его вместо того, чтобы предлагать инженерам новый язык или инструмент. Compose-файл, который описывает агентов, модели и инструменты рядом с обычными сервисами, — логичный шаг для команд, которые не хотят держать отдельный стек оркестрации только для экспериментов с AI. Вопрос стоимости GPU в облаке и observability agent-flow пока остаётся за рамками того, что решает сам Compose.
FAQ
Что такое Docker Offload?
Это возможность Docker Compose выносить AI и GPU-нагрузку в облако, сохраняя локальную скорость разработки. На момент анонса в июле 2025 года находилась в статусе Beta.
Нужно ли переписывать существующие Compose-файлы?
Нет. Новые возможности добавляются к существующему синтаксису Compose — старые файлы продолжают работать без изменений, agent-сервисы описываются рядом с обычными.
Какие LLM-фреймворки поддерживает интеграция Docker?
Согласно пресс-релизу Docker, партнёрские интеграции есть с CrewAI, Embabel, LangGraph, Sema4.ai, Spring AI и Vercel AI SDK, а также с облачными платформами Google Cloud и Microsoft Azure для деплоя.
Что такое MCP Gateway?
Это открытый компонент Docker, реализующий Model Context Protocol — открытый протокол для discovery и вызова инструментов LLM-агентами. Он используется, чтобы агентам не нужно было вручную искать и подключать внешние инструменты.
Можно ли уже использовать это в production?
Зависит от конкретного компонента: сам расширенный Compose-синтаксис для описания агентов заявлен как рабочий, а Docker Offload на момент анонса имел статус Beta — перед продовым использованием стоит проверить его текущий статус.