Turbopuffer против Manticore Search: бенчмарк на недорогих VPS — кто быстрее и дешевле

При выборе векторной базы данных для семантического поиска разработчики часто сталкиваются с дилеммой: использовать serverless-решение, которое обещает простоту и отсутствие забот об инфраструктуре, или развернуть open-source инструмент на собственных серверах, получив полный контроль и потенциально более низкую стоимость. Turbopuffer, известный быстрый движок векторного поиска на object storage, популярен среди таких гигантов, как Cursor, Notion и Linear. Однако его managed-модель не бесплатна. Возникает вопрос: насколько эти преимущества оправданы для небольшого, четко определенного сценария, и во что обойдется та же нагрузка на двух недорогих VPS с Manticore Search — по цене и производительности? Свежий бенчмарк, проведенный автором на Habr, дает неожиданный ответ: Manticore Search не только в 16 раз дешевле, но и превосходит Turbopuffer по скорости индексации, предлагая сопоставимую задержку поиска.

Условия и методология бенчмарка

Для чистоты эксперимента автор использовал два недорогих VPS-сервера с 4 vCPU и 8 ГБ RAM каждый. В качестве датасета выступил 1 миллион векторов размерностью 768 — типичный сценарий для поиска семантически похожих текстов или изображений, например, при работе с эмбеддингами от OpenAI. Замерялись три ключевых метрики: скорость индексации, задержка поиска (p95) и пропускная способность (RPS). Turbopuffer разворачивался как managed-сервис с оплатой по факту использования, в то время как Manticore Search устанавливался на VPS вручную, без дополнительных затрат на облачную инфраструктуру. Оба решения настраивались на максимальную производительность в рамках выделенных ресурсов.

Как проводилось тестирование?

Индексация выполнялась на одном VPS, а поиск — на втором, чтобы имитировать реальную архитектуру приложения. Manticore Search использовал HNSW-индекс (Hierarchical Navigable Small World) — современный алгоритм для приближенного поиска ближайших соседей, обеспечивающий высокую скорость. Turbopuffer применял свой проприетарный движок на основе object storage. Автор стремился к максимальной объективности, повторяя каждый тест несколько раз и усредняя результаты.

Результаты: производительность и стоимость

По скорости индексации Manticore Search оказался в 2,3 раза быстрее: 12 минут против 28 минут у Turbopuffer. Задержка поиска (p95) оказалась практически одинаковой — около 15 мс у обеих систем. Пропускная способность: Manticore обработал 3200 запросов в секунду, Turbopuffer — 2800 RPS. Разница в 14% не критична для большинства сценариев.

Главный сюрприз — стоимость. За месяц работы с нагрузкой 1000 запросов в секунду при 8 часах активного использования в день Turbopuffer обойдется примерно в $500. Два VPS с Manticore Search — около $30. Разница более чем в 16 раз. При этом Manticore Search не уступает в производительности, а по индексации даже превосходит.

Почему serverless не всегда выгоден?

Serverless-модель позиционируется как способ избавиться от администрирования и платить только за потребление. Для стартапов и небольших проектов это часто оправдано: не нужно нанимать DevOps, а инфраструктура масштабируется автоматически. Однако по мере роста нагрузки стоимость может стать непредсказуемой. Векторные базы данных — ресурсоемкая задача, и каждая операция поиска стоит денег.

Manticore Search — open-source решение, которое можно развернуть на собственных серверах. Оно изначально создавалось для полнотекстового поиска, но с недавних пор поддерживает и векторный поиск. Это делает его альтернативой не только Turbopuffer, но и таким сервисам, как Pinecone или Weaviate. Для проектов с фиксированным бюджетом и предсказуемой нагрузкой собственный хостинг часто оказывается выгоднее.

Что это значит для разработчиков?

Если вы выбираете между serverless-векторной БД и самостоятельным развертыванием, оцените не только удобство, но и долгосрочные затраты. Для прототипов и MVP serverless подходит идеально — не нужно думать об инфраструктуре. Но как только нагрузка становится стабильной, миграция на собственные серверы может сократить расходы в десятки раз. При этом производительность не пострадает — как показал бенчмарк, даже недорогие VPS способны обслуживать тысячи запросов в секунду.

Технические подробности: как устроен бенчмарк

Для теста использовались векторы размерностью 768 — стандарт для моделей вроде text-embedding-ada-002 от OpenAI. Индексация проводилась на одном VPS, поиск — на втором, чтобы имитировать реальную архитектуру. Manticore Search настраивался с использованием HNSW-индекса — алгоритма, обеспечивающего высокую скорость приближенного поиска ближайших соседей. Turbopuffer использовал свой проприетарный движок на основе object storage.

Ключевой вывод: Manticore Search не только дешевле, но и быстрее на этапе индексации. Задержка поиска практически идентична. Это означает, что для большинства задач с фиксированным объемом данных собственное развертывание предпочтительнее.

Кого затронет и как: разработчики, стартапы и инженеры данных

Для разработчиков, создающих приложения с семантическим поиском (чат-боты, рекомендательные системы, поиск изображений), выбор векторной БД становится критическим. Если проект на ранней стадии, serverless удобен. Но как только появляется стабильная аудитория, стоит пересмотреть архитектуру. Стартапы с ограниченным бюджетом могут сэкономить тысячи долларов в месяц, перейдя на Manticore Search.

Инженерам данных и DevOps придется освоить настройку Manticore, но это не сложнее, чем поддерживать PostgreSQL с расширением pgvector. В российском контексте, где импортозамещение и локализация данных важны, open-source решение дает больше контроля.

Что будет дальше: тенденции на рынке векторных БД

Ожидается, что serverless-провайдеры будут снижать цены, чтобы конкурировать с self-hosted решениями. Но open-source проекты, такие как Manticore Search, Qdrant и Milvus, не стоят на месте. Они активно добавляют новые функции и оптимизируют производительность. Вероятно, в ближайшие годы мы увидим консолидацию: serverless останется для прототипов и переменной нагрузки, а для production — собственные серверы или гибридные схемы.

Итог

Бенчмарк показал, что для сценария с 1 миллионом векторов и нагрузкой 1000 RPS Manticore Search на двух недорогих VPS в 16 раз дешевле Turbopuffer при сопоставимой производительности. Если ваш проект вырос из прототипа и имеет стабильную нагрузку, стоит рассмотреть миграцию на open-source векторную БД. Это не только сэкономит бюджет, но и даст больше гибкости в настройке.