OpenAI запустила новые модели эмбеддингов text-embedding-3 и обновила API: детали и возможности

Компания OpenAI выпустила две новые модели эмбеддингов — text-embedding-3-small и text-embedding-3-large, которые уже доступны через API. Вместе с этим обновлены методы работы с токенами и добавлена гибкая настройка размерности, что позволяет разработчикам точнее контролировать стоимость и производительность. Эмбеддинги — это числовые представления текста, которые лежат в основе поиска, кластеризации, рекомендательных систем и RAG (Retrieval-Augmented Generation). Новые модели обещают более высокое качество при меньшей стоимости, а также вводят параметр dimensions для уменьшения размерности без существенной потери точности.

Что такое эмбеддинги и почему они важны

Эмбеддинги преобразуют текст в вектор чисел, который отражает смысл и контекст. Это позволяет компьютерам «понимать» семантику, а не просто искать по ключевым словам. Например, в поисковых системах эмбеддинги помогают находить релевантные документы, даже если в запросе и тексте нет общих слов. В рекомендательных системах они группируют похожие товары или статьи. А в RAG-пайплайнах эмбеддинги используются для извлечения релевантной информации из базы знаний перед генерацией ответа. Качество эмбеддингов напрямую влияет на точность этих систем, поэтому появление новых моделей от OpenAI — значимое событие для разработчиков и бизнеса.

Подробности о новых моделях

text-embedding-3-small

Эта модель предназначена для задач, где важна скорость и низкая стоимость. По умолчанию она создает эмбеддинги размерностью 512, но поддерживает до 8191 токена на вход. Цена составляет $0.02 за 1K токенов, что делает её одной из самых доступных на рынке. Несмотря на компактность, OpenAI утверждает, что качество превосходит предыдущую версию text-embedding-ada-002. Размерность 512 уже достаточна для многих приложений, таких как семантический поиск или классификация текстов, а при необходимости её можно уменьшить через параметр dimensions.

text-embedding-3-large

Эта модель ориентирована на максимальную точность. Размерность по умолчанию — 3072, что позволяет захватывать больше нюансов смысла. Вход также поддерживает до 8191 токена, а стоимость составляет $0.13 за 1K токенов. Хотя это дороже, чем small-версия, качество на сложных задачах, таких как тонкая кластеризация или детальный семантический поиск, должно быть выше. OpenAI заявляет, что large-модель превосходит ada-002 по всем метрикам, хотя точные цифры на бенчмарке MTEB пока не опубликованы.

Как работает новый параметр dimensions

Одно из ключевых нововведений — возможность уменьшать размерность эмбеддинга через параметр dimensions. Ранее модели выдавали векторы фиксированной длины, и единственным способом сэкономить было использовать другую модель. Теперь вы можете, например, запросить у text-embedding-3-large эмбеддинг размерностью 1024 вместо 3072. Это снижает затраты на хранение и вычисления, но, по заявлению OpenAI, без существенной потери качества. Параметр dimensions работает за счет проекции: модель сначала вычисляет полный вектор, а затем обрезает его до нужной размерности. Это не так эффективно, как обучение модели под конкретную размерность, но даёт гибкость в рамках одной модели.

Какие изменения в API

OpenAI обновила методы создания эмбеддингов для коротких текстов. Теперь поддерживается новый эндпоинт, оптимизированный для быстрой обработки небольших фрагментов. Это особенно полезно для чат-ботов и систем реального времени, где задержка критична. Также улучшена обработка токенов: модели теперь точнее подсчитывают количество токенов, что помогает избежать неожиданных расходов. Все обновления обратно совместимы, так что существующий код продолжит работать, но для использования новых функций потребуется обновить версию API.

Кого затронут изменения

В первую очередь — разработчиков, которые строят поисковые системы, рекомендательные алгоритмы или NLP-пайплайны. Если вы используете эмбеддинги для семантического поиска, кластеризации документов или RAG, новые модели могут повысить точность и снизить затраты. Бизнес, внедряющий AI-решения, также выиграет: более дешёвые и качественные эмбеддинги позволяют строить более эффективные системы без увеличения бюджета. Например, стартапы в области legaltech или medtech могут обрабатывать больше документов за те же деньги.

Чего пока не хватает

OpenAI пока не опубликовала точные результаты на бенчмарке MTEB (Massive Text Embedding Benchmark). Компания лишь заявляет, что новые модели превосходят text-embedding-ada-002. Без независимых тестов сложно оценить реальный прирост качества. Также неясно, как модели ведут себя на специфических доменах, таких как медицинские или юридические тексты. Разработчикам стоит провести собственные тесты на своих данных перед миграцией. Кроме того, параметр dimensions, хоть и удобен, может не дать такого же качества, как модель, обученная именно под нужную размерность.

Как начать использовать новые модели

Чтобы попробовать text-embedding-3-small или text-embedding-3-large, достаточно отправить запрос к API OpenAI с указанием модели. Например, для Python с библиотекой openai: response = openai.Embedding.create(model="text-embedding-3-small", input="Ваш текст"). Для уменьшения размерности добавьте параметр dimensions: response = openai.Embedding.create(model="text-embedding-3-large", input="Текст", dimensions=1024). Стоимость будет рассчитана исходя из количества токенов во входном тексте. Рекомендуется начать с small-версии для тестирования, а затем перейти на large, если требуется более высокая точность.

Что дальше

OpenAI продолжает улучшать свои модели эмбеддингов, и можно ожидать появления ещё более эффективных версий в будущем. Параметр dimensions, вероятно, станет стандартом для индустрии. Разработчикам стоит следить за обновлениями и тестировать новые модели на своих задачах. В ближайшее время стоит ожидать публикации бенчмарков, которые позволят сравнить text-embedding-3 с конкурентами, такими как Cohere или Google.

Заключение

Запуск text-embedding-3-small и text-embedding-3-large — важный шаг для OpenAI. Новые модели предлагают лучшее качество, гибкость размерности и конкурентоспособные цены. Разработчики и бизнес могут уже сегодня начать использовать их для улучшения своих систем поиска, рекомендаций и RAG. Однако до появления независимых тестов стоит подходить к заявлениям о превосходстве с осторожностью и проводить собственные эксперименты.