Новая кредитная система OpenAI для Codex и Sora: как это работает

OpenAI объявила о внедрении новой системы управления доступом к своим API Codex и Sora, которая сочетает лимиты частоты запросов, отслеживание использования и кредитную систему. Это позволяет обеспечивать непрерывный доступ для пользователей, избегая блокировок при пиковых нагрузках. Новая система призвана решить давнюю проблему: традиционные rate limits часто мешают разработчикам и пользователям, работающим с AI-инструментами в реальном времени. Вместо жестких ограничений OpenAI предлагает гибкий механизм, который распределяет ресурсы в зависимости от активности и потребностей каждого пользователя.

Как устроена новая система доступа

Система использует комбинацию из трех компонентов: rate limits (максимальное количество запросов в секунду или минуту), usage tracking (суммарное потребление за период) и credits (кредиты, которые тратятся на выполнение задач). Кредиты могут накапливаться и расходоваться по мере необходимости, что позволяет сглаживать пиковые нагрузки. Для Codex и Sora реализованы разные модели: Codex использует токены, Sora — вычислительные единицы. Это значит, что разработчики, использующие Codex для автодополнения кода, будут тратить кредиты на основе количества обработанных токенов, а пользователи Sora, генерирующие видео, — на основе вычислительной сложности каждой задачи.

Почему OpenAI меняет систему доступа

Традиционные rate limits часто критикуют за негибкость: они могут блокировать легитимных пользователей во время пиковых нагрузок или, наоборот, позволять злоупотреблениям. Новая система OpenAI решает эти проблемы, давая приоритет активным пользователям и предотвращая злоупотребления. Благодаря кредитной системе пользователи могут планировать свои расходы и избегать неожиданных блокировок. Для бизнес-клиентов это означает более предсказуемые расходы и меньше простоев, что особенно важно для интеграций в реальном времени.

Как кредиты влияют на разработчиков Codex

Разработчики, которые активно используют Codex для автодополнения кода, теперь могут работать более эффективно. Вместо того чтобы сталкиваться с ограничениями на количество запросов в секунду, они получают пул кредитов, который расходуется по мере использования. Это позволяет им выполнять больше задач в периоды высокой активности, не опасаясь блокировки. Система также отслеживает суммарное потребление за период, что помогает OpenAI распределять ресурсы между всеми пользователями.

Что меняется для пользователей Sora

Sora, инструмент для генерации видео, использует вычислительные единицы в качестве кредитов. Пользователи могут накапливать кредиты и тратить их на создание видео различной сложности. Это дает гибкость: например, можно сгенерировать несколько коротких видео в один день или одно длинное — в другой. Система также предотвращает злоупотребления, так как каждый запрос требует определенного количества кредитов.

Кого затронут изменения

Новая система затронет всех пользователей API Codex и Sora: от индивидуальных разработчиков до крупных бизнес-клиентов. Разработчики, использующие Codex для автодополнения кода, получат более предсказуемый доступ, а пользователи Sora, генерирующие видео, смогут лучше планировать свои проекты. Бизнес-клиенты OpenAI выиграют от снижения простоев и более прозрачного ценообразования.

Что пока неизвестно

OpenAI пока не раскрыла точные тарифы на кредиты и пороги для разных уровней доступа. Компания обещает опубликовать подробности в ближайшее время. Также неизвестно, как система будет работать для бесплатных пользователей и изменится ли стоимость использования по сравнению с текущими тарифами. Ожидается, что OpenAI предоставит дополнительную информацию в документации и блоге.