Модель GLM 5.2 Fast от Wafer теперь доступна в AI Gateway от Vercel

Vercel объявила о добавлении высокоскоростной модели GLM 5.2 Fast от Wafer в свой сервис AI Gateway. Это позволяет разработчикам использовать унифицированный API для вызова модели с вдвое большей пропускной способностью по сравнению с другими провайдерами, обслуживающими GLM-5.2 на serverless-инфраструктуре. Нововведение расширяет возможности быстрой генерации текста для приложений, где критичны низкая задержка и высокая скорость вывода.

Что такое GLM 5.2 Fast и почему она появилась в AI Gateway

GLM 5.2 Fast — это оптимизированная версия китайской языковой модели GLM-5.2, разработанная компанией Wafer. Модель ориентирована на сценарии, требующие высокой скорости генерации текста, такие как чат-боты, ассистенты, обработка запросов в реальном времени и автоматизация контента. Vercel включила её в свой AI Gateway, чтобы предоставить разработчикам доступ к быстрому инференсу через единый API, который уже поддерживает множество других моделей.

AI Gateway от Vercel — это сервис-посредник, который унифицирует вызовы к различным языковым моделям, предоставляя инструменты для мониторинга использования, управления затратами, настройки повторных попыток и отказоустойчивости. Добавление GLM 5.2 Fast расширяет портфель высокоскоростных моделей, доступных через этот сервис, что особенно важно для разработчиков, которым нужна максимальная производительность.

Какие преимущества дает модель GLM 5.2 Fast

По данным внутреннего бенчмаркинга Vercel, Wafer демонстрирует вдвое более высокую пропускную способность по сравнению с другими провайдерами, обслуживающими GLM-5.2. Это подтверждено для разных сценариев: как для маленьких, так и для больших контекстов, а также для вызова инструментов. Конкретные измеренные скорости: для маленького контекста — более 170 токенов в секунду, для большого контекста — более 200 токенов в секунду. Такая производительность позволяет сократить время ожидания ответа, что критично для интерактивных приложений.

Кроме того, AI Gateway предлагает дополнительные возможности: кастомную отчётность, политику Zero Data Retention (данные не сохраняются), бюджеты для API-ключей и другие функции безопасности и контроля. Сервис отражает цены провайдера без наценки и не взимает платформенную плату за инференс, включая запросы Bring Your Own Key (BYOK). Это делает использование модели прозрачным и экономически эффективным.

Как начать использовать GLM 5.2 Fast в AI Gateway

Для использования модели разработчикам необходимо указать model: "zai/glm-5.2-fast" в AI SDK. После этого можно отправлять запросы через единый API, который автоматически маршрутизирует их к Wafer. AI Gateway также поддерживает настройку повторных попыток в случае сбоев, балансировку нагрузки и мониторинг задержек. Все эти функции доступны без дополнительной платы за платформу.

Какие сценарии подходят для GLM 5.2 Fast

Модель особенно полезна в задачах, где требуется быстрая генерация текста: чат-приложения, голосовые ассистенты, генерация кода, автоматизация ответов на запросы, обработка больших объёмов данных в реальном времени. Благодаря высокой пропускной способности, GLM 5.2 Fast может обслуживать больше параллельных запросов, что снижает задержки для конечных пользователей.

Какие ограничения и неизвестные моменты

На данный момент не раскрыты конкретные сценарии, в которых модель превосходит альтернативы, а также точное сравнение стоимости с другими провайдерами. Кроме того, GLM — это китайская модель, и информация о поддержке других языков, кроме китайского, отсутствует. Разработчикам, работающим с другими языками, стоит протестировать модель на своих данных.

Кому будет полезна эта новость

Новость в первую очередь адресована разработчикам, которые уже используют AI Gateway для интеграции языковых моделей, а также тем, кто ищет высокоскоростные решения для генерации текста. Если ваше приложение требует низкой задержки и высокой пропускной способности, GLM 5.2 Fast может стать хорошим дополнением к инструментарию.

Заключение

Добавление GLM 5.2 Fast от Wafer в AI Gateway Vercel — это шаг к расширению выбора высокопроизводительных моделей для разработчиков. Удвоенная пропускная способность и интеграция с универсальным API делают модель привлекательной для сценариев, где скорость критична. Однако стоит учитывать, что модель ориентирована на китайский язык, и полная информация о стоимости и областях применения пока не раскрыта.