OpenAI обновила API: вызов функций, контекст 16K и снижение цен

OpenAI представила масштабное обновление своего API, которое включает три ключевых улучшения: поддержку вызова функций (function calling), увеличение контекста до 16 тысяч токенов и значительное снижение стоимости использования. Эти изменения делают API более гибким, мощным и доступным для разработч

Вызов функций — это, пожалуй, самое важное нововведение. Теперь модели OpenAI могут не просто генерировать текст, но и возвращать структурированные JSON-объекты, которые описывают вызов внешних функций. Это означает, что разработчики могут легко интегрировать ИИ с базами данных, сторонними API и другими инструментами, не прибегая к сложным обходным путям. Например, чат-бот может автоматически получать информацию о погоде, бронировать билеты или обновлять записи в CRM, просто сгенерировав соответствующий JSON. Это открывает путь к созданию truly autonomous agents.

Как именно работает вызов функций и почему это важно?

По сути, теперь при запросе к API разработчик может передать описание доступных функций — их названия, параметры и типы данных. Модель анализирует запрос пользователя и, если нужно, возвращает структурированный вызов одной из этих функций. Разработчик на своей стороне выполняет функцию и возвращает результат модели для дальнейшей обработки. Это не просто улучшение — это фундаментальный сдвиг в том, как ИИ взаимодействует с внешним миром. Раньше приходилось вручную парсить ответы, писать сложные промпты и надеяться, что модель выдаст нужный формат. Теперь всё стандартизировано и надёжно.

Какие модели получили обновления и как изменился контекст?

OpenAI обновила как GPT-3.5 Turbo, так и GPT-4. GPT-3.5 Turbo теперь поддерживает контекст до 16 384 токенов — это в четыре раза больше предыдущего лимита в 4096 токенов. Для GPT-4 контекст остался прежним (8K и 32K), но сама модель стала более управляемой благодаря улучшенной поддержке системных сообщений. Системные сообщения позволяют задать тон, стиль и правила поведения модели на всём протяжении диалога. Это особенно полезно для создания ассистентов с чётко определённой ролью, например, для технической поддержки или обучения.

Насколько снизилась стоимость использования API?

Цены были снижены существенно. Для GPT-3.5 Turbo стоимость входных токенов уменьшилась на 25% — теперь она составляет $0.0015 за 1K токенов, а выходных — $0.002 за 1K токенов. Для GPT-4 снижение ещё более внушительное: входные токены подешевели на 75% — с $0.03 до $0.01 за 1K токенов. Выходные токены остались по $0.03 за 1K. Это делает GPT-4 гораздо доступнее для задач, требующих высокой точности, таких как анализ контрактов или генерация кода.

Кому в первую очередь пригодятся эти обновления?

В первую очередь — разработчикам, создающим чат-ботов, виртуальных ассистентов и инструменты автоматизации. Вызов функций особенно ценен для тех, кто строит сложные мультиагентные системы или интегрирует ИИ в существующие бизнес-процессы. Например, можно создать бота для службы поддержки, который не только отвечает на вопросы, но и автоматически создаёт тикеты в Jira или обновляет статусы заказов в SAP. Бизнес-пользователи выиграют от снижения затрат: теперь можно обрабатывать больше запросов за те же деньги или использовать более мощную модель GPT-4 без резкого роста бюджета.

Какие ограничения и нерешённые вопросы остаются?

Несмотря на все плюсы, есть и неопределённость. OpenAI пока не объявила точные даты, когда новые функции станут доступны во всех регионах. Также неясно, планируется ли расширение вызова функций на другие модели, например, на GPT-4 с контекстом 32K. Кроме того, хотя вызов функций упрощает интеграцию, он требует от разработчика чёткого описания схемы функций — ошибки в схеме могут привести к некорректным вызовам. Также стоит учитывать, что модель может иногда «галлюцинировать» и возвращать вызов функции, даже когда он не нужен, поэтому необходима валидация на стороне клиента.

Как эти изменения повлияют на рынок AI-решений?

Обновления OpenAI — это сигнал для всей индустрии. Снижение цен и увеличение контекста делают API ещё более конкурентоспособным по сравнению с открытыми моделями и другими провайдерами. Вызов функций — это шаг к платформе, где ИИ не просто генерирует текст, а действует как полноценный исполнитель. Это может ускорить внедрение ИИ в бизнес-процессы, особенно в тех сферах, где требуется интеграция с существующими системами. В ближайшие месяцы мы, вероятно, увидим появление множества новых приложений, использующих эти возможности.

Что ещё стоит знать разработчикам?

Для работы с вызовом функций необходимо обновить API до последней версии. OpenAI предоставила примеры кода на Python и Node.js, которые демонстрируют, как описывать функции и обрабатывать ответы модели. Также стоит обратить внимание на то, что модели с контекстом 16K требуют больше памяти и могут быть медленнее, но для длинных диалогов или анализа больших документов это оправдано. Рекомендуется тестировать на небольшом трафике, чтобы оценить производительность и стоимость.

В целом, это одно из самых значительных обновлений API OpenAI за последнее время. Оно даёт разработчикам инструменты для создания более умных и автономных приложений, а бизнесу — возможность снизить затраты и повысить эффективность. Если вы ещё не пробовали новые функции, сейчас самое время начать.