Okta снижает расходы на токены ИИ-агентов с помощью MCP scoping

Okta представила новый подход к снижению затрат на токены для ИИ-агентов: ограничение списка инструментов Model Context Protocol (MCP) на основе идентичности. Это позволяет уменьшить «налог на инструменты» — накладные расходы на токены, возникающие при каждом запросе к модели.

Компания Okta, известная своими решениями в области управления идентификацией, предложила новый способ сократить расходы на токены для ИИ-агентов. Суть подхода — в ограничении списка инструментов Model Context Protocol (MCP) на основе идентичности пользователя или агента. Это снижает так называемый «налог на инструменты» — дополнительные токены, которые модель тратит на обработку схем, названий, описаний и параметров каждого доступного инструмента.

Каждый вызов модели, который делает ИИ-агент, может включать в себя полные метаданные о всех инструментах, доступных через MCP-сервер. Если инструментов много, это создает значительную нагрузку на контекстное окно модели, увеличивая стоимость каждого запроса. Okta утверждает, что, ограничивая список инструментов в зависимости от того, кто и что запрашивает, можно существенно сократить эти накладные расходы.

Okta представляет MCP scoping для снижения затрат ИИ-агентов

Okta анонсировала новую функцию в своей платформе, которая позволяет применять политики идентификации для фильтрации инструментов MCP. Это означает, что ИИ-агент, работающий от имени конкретного пользователя, будет видеть только те инструменты, которые этому пользователю разрешены, а не все доступные в системе.

Такой подход не только повышает безопасность, но и оптимизирует расходы на токены. По данным Okta, в некоторых случаях количество токенов, потребляемых на вызов модели, может сократиться на 30–50%. Компания приводит примеры, где список инструментов уменьшался с сотен до нескольких десятков, что напрямую влияет на стоимость и скорость работы агентов.

Предыстория и контекст

Model Context Protocol (MCP) — это открытый протокол, разработанный Anthropic, который позволяет ИИ-агентам взаимодействовать с внешними инструментами и данными. Он быстро стал стандартом в индустрии, его поддерживают такие компании, как OpenAI, Google и Microsoft. Однако с ростом популярности MCP возникла проблема: чем больше инструментов подключено, тем больше токенов тратится на их описание.

Okta, как лидер в области управления доступом, увидела возможность применить свои технологии для решения этой проблемы. Идея заключается в том, чтобы использовать контекст идентичности для динамического формирования списка инструментов, которые агент может использовать. Это похоже на то, как в традиционных системах безопасности применяется принцип наименьших привилегий: агент получает доступ только к тому, что ему действительно нужно.

Как работает MCP scoping от Okta?

MCP scoping работает следующим образом: когда ИИ-агент отправляет запрос к модели, Okta перехватывает этот запрос и, основываясь на политиках идентичности, определяет, какие инструменты MCP доступны пользователю. Затем Okta формирует сокращенный список инструментов и передает его модели. Таким образом, модель обрабатывает только релевантные инструменты, что уменьшает количество токенов на запрос.

Это отличается от предыдущих подходов, где все инструменты были доступны всем пользователям, что приводило к раздуванию контекста. Okta также интегрирует это с другими своими продуктами, такими как Identity Governance, что позволяет администраторам гибко настраивать политики доступа для агентов.

Технические детали и преимущества

Технически Okta использует промежуточный слой между ИИ-агентом и MCP-сервером. Этот слой выполняет роль прокси, который фильтрует инструменты на основе атрибутов пользователя, таких как роль, отдел, местоположение и другие параметры. Для разработчиков это означает, что они могут легко внедрить MCP scoping без изменения кода агента.

Преимущества очевидны: снижение затрат на токены, уменьшение задержек, повышение безопасности за счет ограничения доступа к чувствительным инструментам. Кроме того, это позволяет масштабировать ИИ-агентов на большее количество пользователей без пропорционального роста расходов на инфраструктуру.

Кого затронет и как

Нововведение Okta в первую очередь затронет компании, которые активно используют ИИ-агентов в своих бизнес-процессах. Это могут быть организации, внедряющие чат-ботов, автоматизированных помощников, системы обработки заявок и другие решения. Для разработчиков это упрощает развертывание агентов, так как не нужно вручную настраивать доступ к инструментам.

В России и СНГ эта технология также может найти применение, особенно в банковской сфере, телекоме и крупных корпорациях, где вопросы безопасности и оптимизации затрат стоят особенно остро. Однако стоит отметить, что внедрение может потребовать адаптации к локальным требованиям по защите данных.

Что будет дальше

Okta планирует расширять возможности MCP scoping, добавляя поддержку более сложных политик, а также интеграцию с другими протоколами и платформами. Ожидается, что другие компании в сфере безопасности и управления идентификацией также начнут предлагать подобные решения, что приведет к стандартизации подходов к оптимизации токенов.

В ближайшие месяцы Okta представит бета-версию для разработчиков, а полноценный релиз запланирован на конец 2025 года. Компания также активно сотрудничает с Anthropic и другими участниками экосистемы MCP для развития протокола.

Итог

Okta сделала важный шаг в решении проблемы растущих затрат на ИИ-агентов. MCP scoping — это практичный способ сократить расходы на токены, одновременно повысив безопасность. Для бизнеса, который внедряет ИИ-агентов, это может стать ключевым фактором экономической эффективности. Следите за развитием этой технологии — она может изменить экономику ИИ-развертываний.