Как Nous Research остановил массового бота на бесплатном доступе к Hermes с помощью BotID

В середине 2024 года AI-лаборатория Nous Research решила сделать свою открытую языковую модель Hermes бесплатной на одну неделю, чтобы расширить доступ к технологии. Однако уже через несколько дней после запуска сервис столкнулся с масштабной автоматизированной атакой: тысячи фейковых аккаунтов выполняли высокочастотные инференс-запросы, обходя ограничения скорости. Несмотря на использование Cloudflare Turnstile, массовая регистрация продолжалась. Атака привела к бесполезному расходу вычислительных ресурсов и росту счетов от провайдера идентификации. После завершения акции Nous Research поняли, что перед повторным введением любого бесплатного уровня необходима более надежная защита от ботов. Решение пришло в виде сервиса BotID от Vercel, который анализирует поведенческие сигналы и позволяет блокировать автоматизированные запросы без ущерба для пользовательского опыта.

Почему стандартные методы защиты не сработали против ботов

Когда Nous Research запустила бесплатный доступ к Hermes, команда ожидала наплыва пользователей, но не предполагала, что злоумышленники так быстро найдут способ эксплуатации. Боты создавали тысячи автоматически сгенерированных учетных записей, каждая из которых отправляла огромное количество запросов к модели, имитируя поведение реальных людей. Cloudflare Turnstile, который использует капчу, оказался неэффективен: современные боты способны обходить визуальные тесты с помощью машинного обучения или сервисов распознавания. Кроме того, капча ухудшает пользовательский опыт, заставляя реальных пользователей проходить лишние проверки. Проблема усугублялась тем, что атака была распределенной — боты использовали разные IP-адреса и прокси, что делало блокировку по IP бесполезной. В результате вычислительные ресурсы лаборатории расходовались впустую, а счета от провайдера идентификации Auth0 росли экспоненциально.

Как BotID от Vercel помогает отличать людей от ботов?

BotID — это сервис, который анализирует поведенческие сигналы для идентификации автоматизированных запросов. В отличие от традиционных капч, BotID работает незаметно для пользователя: он изучает такие параметры, как скорость ввода, движения мыши, время между кликами и другие метрики, чтобы отличить человека от скрипта. Например, если пользователь заполняет форму регистрации слишком быстро или без пауз, система присваивает запросу высокий риск и блокирует его. BotID также использует машинное обучение для адаптации к новым тактикам злоумышленников, что делает его эффективным против постоянно эволюционирующих ботов. Для Nous Research интеграция BotID на этапе регистрации и входа в систему позволила блокировать массовые регистрации с подозрительным поведением, не требуя от легитимных пользователей дополнительных действий.

Технические детали интеграции BotID в инфраструктуру Nous Research

Nous Research внедрили BotID на этапе регистрации и входа в систему. Сервис анализировал каждую попытку создания аккаунта и присваивал ей оценку риска. Если поведение напоминало бота — например, слишком быстрая регистрация или заполнение формы без пауз — запрос блокировался. Команда также настроила индивидуальные лимиты на количество запросов с одного IP-адреса и использовала машинное обучение для адаптации к новым тактикам злоумышленников. По данным Vercel, после внедрения BotID количество фейковых регистраций сократилось на 99%, а затраты на инференс и сторонние сервисы вернулись к нормальным значениям. Важно, что система не требовала изменения пользовательского интерфейса и работала прозрачно для реальных посетителей. Теперь пользователи могут получить доступ к Hermes без капчи, а боты блокируются на основе их поведения.

Кого затронет эта история и какие выводы можно сделать

Этот случай в первую очередь важен для разработчиков и компаний, которые предоставляют бесплатные или freemium-доступ к AI-моделям, API или другим вычислительным ресурсам. Атаки ботов становятся все более изощренными, и стандартные методы защиты, такие как капча, уже не гарантируют безопасности. История Nous Research показывает, что даже небольшие лаборатории могут столкнуться с серьезными финансовыми потерями из-за автоматических злоупотреблений. Для российских и СНГ-разработчиков, которые все чаще запускают собственные AI-сервисы, этот кейс служит предупреждением: необходимо заранее предусматривать многоуровневую защиту, включая поведенческий анализ. Кроме того, инцидент подчеркивает важность выбора провайдера защиты, который может адаптироваться к новым угрозам без ущерба для пользовательского опыта.

Будущее защиты от ботов в AI-сервисах: что нас ждет

Nous Research планирует расширить использование BotID на все свои сервисы, включая платные подписки. Компания также рассматривает возможность внедрения дополнительных мер, таких как ограничение по времени сессии и мониторинг аномалий в реальном времени. В более широком контексте, инцидент подчеркивает необходимость разработки более умных систем защиты, которые могут адаптироваться к меняющимся тактикам злоумышленников. Вероятно, в ближайшее время мы увидим рост популярности решений на основе поведенческого анализа и машинного обучения, которые не только эффективны, но и не ухудшают пользовательский опыт. Такие сервисы, как BotID, становятся стандартом для защиты AI-инфраструктуры, особенно когда речь идет о бесплатных уровнях доступа.

Итог: уроки для разработчиков AI-сервисов

Инцидент с Nous Research демонстрирует, что даже открытые и ориентированные на доступность AI-проекты могут стать жертвами автоматических атак. Благодаря внедрению BotID от Vercel, лаборатория смогла защитить свою инфраструктуру и избежать дальнейших потерь. Этот кейс — важный урок для всех, кто работает с бесплатными уровнями доступа к вычислительным ресурсам: защита от ботов должна быть приоритетом с самого начала. Использование поведенческого анализа позволяет не только снизить затраты, но и сохранить позитивный пользовательский опыт, что критично для удержания аудитории. Если вы планируете запускать бесплатный доступ к AI-моделям, рассмотрите интеграцию BotID или аналогичных решений уже на этапе проектирования.