Azure API Management запускает выделенный AI Gateway: управление моделями и MCP

Microsoft представила публичное предварительное обозрение нового выделенного уровня AI Gateway в Azure API Management. Он объединяет доступ к моделям OpenAI, Azure Foundry, Bedrock и Vertex AI через единую точку входа, предлагая управление на основе политик вместо XML.

Microsoft выпустила публичное предварительное обозрение выделенного уровня AI Gateway в Azure API Management. Это решение, ориентированное на модели и инструменты MCP, а не на классические API, призвано упростить управление и обеспечить безопасность при работе с генеративными ИИ-сервисами.

Новый уровень AI Gateway позволяет организациям подключать модели из Azure OpenAI, Azure Foundry, Amazon Bedrock, Google Vertex AI и OpenAI через один конечный пункт. Вместо традиционных API, где основным объектом управления является интерфейс, здесь в центре внимания находятся модели, MCP-серверы и инструменты. Управление осуществляется с помощью «политик» — декларативных карточек, которые заменяют XML-конфигурации, привычные для классического Azure API Management.

Предыстория и контекст

Рост популярности генеративных ИИ-сервисов поставил перед компаниями новые задачи: как обеспечить безопасный доступ к моделям, контролировать расходы и соблюдать корпоративные политики. Традиционные API-шлюзы, такие как Azure API Management, хорошо справляются с REST API, но не учитывают специфику ИИ-нагрузок: потоковые ответы, токены, сложные запросы к нескольким провайдерам.

Microsoft уже предлагала возможности ИИ-шлюза в Azure API Management, но они были частью общего продукта и требовали настройки через XML. Новый выделенный уровень AI Gateway представляет собой отдельный продукт, который с самого начала проектировался с учетом потребностей ИИ-приложений. Это шаг к унификации управления ИИ-сервисами, аналогичный тому, что делают специализированные стартапы, такие как Lunary или Helicone.

Чем отличается от предыдущей версии?

Главное отличие — подход к управлению. В классическом API Management вы определяете API, операции и политики в XML. В AI Gateway вы определяете модели, MCP-серверы и инструменты. Политики задаются в виде декларативных карточек, которые проще читать и поддерживать. Это снижает порог входа для разработчиков, не знакомых с XML.

Кроме того, AI Gateway имеет встроенную поддержку MCP (Model Context Protocol) — открытого стандарта для подключения инструментов к ИИ-моделям. Это позволяет легко интегрировать внешние сервисы и данные в ИИ-приложения, не беспокоясь о совместимости.

Технические подробности

AI Gateway предоставляет единый конечный пункт для всех поддерживаемых моделей. Это означает, что разработчики могут использовать один API для вызова моделей из разных облаков, что упрощает миграцию между провайдерами и снижает зависимость от одного поставщика. Политики позволяют контролировать доступ, устанавливать лимиты на количество токенов, ограничивать стоимость и обеспечивать соответствие требованиям безопасности.

Интересно, что Microsoft позиционирует AI Gateway как решение, которое охватывает не только собственные модели, но и конкурентные платформы. Это стратегически важно: компании, которые используют несколько облаков, могут управлять всеми ИИ-ресурсами из одного места. Однако возникает вопрос: где проходит граница между управлением и контролем? Архитекторы приветствуют консолидацию, но задаются вопросом, насколько глубоко AI Gateway может управлять моделями, размещенными вне Azure.

Кого затронет и как

Новый AI Gateway будет полезен разработчикам, создающим ИИ-приложения, особенно тем, кто работает с несколькими облачными провайдерами. Он упрощает управление ключами доступа, мониторинг использования и соблюдение политик безопасности. Для бизнеса это означает более предсказуемые расходы на ИИ и централизованный контроль.

Для российских компаний, которые активно используют облачные сервисы, это также актуально, хотя доступ к Azure может быть ограничен. Тем не менее, понимание архитектуры AI Gateway полезно для тех, кто планирует строить ИИ-инфраструктуру.

Что будет дальше

Пока AI Gateway находится в публичном предварительном обозрении. Microsoft, вероятно, будет расширять функциональность на основе отзывов пользователей. Ожидается, что в будущем появятся дополнительные политики, интеграции и возможности мониторинга. Компании, которые начнут использовать AI Gateway сейчас, смогут влиять на его развитие.

Итог

Azure AI Gateway — это значимый шаг в эволюции управления ИИ-сервисами. Он предлагает единую точку управления для моделей и инструментов, упрощая разработку и эксплуатацию ИИ-приложений. Следить за развитием этого продукта стоит всем, кто работает с генеративными ИИ-сервисами в корпоративной среде.