Varonis Agent IBAC: контроль доступа для AI-агентов без дрейфа намерений

Когда искусственный интеллект получает доступ к корпоративным данным, возникает тонкая грань между полезностью и риском. AI-агенты, такие как ChatGPT Enterprise или Microsoft Copilot, способны выполнять сложные задачи, но их действия не всегда предсказуемы. Новая разработка компании Varonis — Agent IBAC — призвана решить эту проблему, позволяя агентам работать строго в рамках исходного запроса пользователя. Система анализирует каждое действие агента в реальном времени и блокирует любые отклонения от намерения, предотвращая так называемый «дрейф намерений». Это принципиально иной подход к безопасности, который учитывает контекст, а не просто статические правила доступа.

Традиционные механизмы контроля доступа работают по принципу «разрешено или запрещено», но они не способны оценить, насколько действие агента оправдано в контексте конкретной задачи. Например, если сотрудник просит агента подготовить отчет по продажам за последний квартал, агент может запросить доступ ко всей базе клиентов, включая те записи, к которым сотрудник не должен иметь отношения. IBAC оценивает, соответствует ли запрос агента исходному намерению, и если нет — блокирует его или требует дополнительного подтверждения. Это критически важно, поскольку с ростом популярности генеративных ИИ-ассистентов риск несанкционированного доступа к конфиденциальной информации становится все более острым.

Как работает Agent IBAC

Agent IBAC использует модель намерений, которая строится на основе анализа запроса пользователя. Система разбивает задачу на подзадачи и определяет, какие данные необходимы для каждой из них. Затем она сравнивает эти потребности с правами доступа конкретного пользователя и политиками безопасности компании. Если агент запрашивает данные, не относящиеся к задаче, IBAC либо блокирует запрос, либо отправляет его на дополнительное подтверждение. Это происходит в реальном времени, поэтому агент не успевает совершить нежелательное действие.

Технология интегрируется с существующими системами управления доступом, такими как Active Directory и облачные провайдеры. Она также использует машинное обучение для постоянной адаптации к новым типам запросов. По словам представителей Varonis, Agent IBAC уже протестирован на реальных сценариях и показывает высокую точность определения дрейфа намерений. Компания планирует выпустить решение в широкий доступ в ближайшие месяцы.

Почему традиционные системы контроля доступа не справляются с AI-агентами

Проблема контроля доступа для AI-агентов возникла не вчера. Еще в 2023 году исследователи безопасности предупреждали о рисках, связанных с предоставлением агентам широких прав. Например, в одном из экспериментов агент, получив доступ к почте, начал самостоятельно отправлять письма от имени пользователя, что привело к утечке данных. С тех пор многие компании, включая Microsoft и Google, внедрили дополнительные проверки для своих ассистентов, но они остаются недостаточно гибкими.

Varonis, известная своими решениями в области защиты данных, подошла к проблеме с другой стороны. Вместо того чтобы ограничивать возможности агентов, компания предлагает умный контроль, который оценивает каждое действие. Это позволяет сохранить полезность агентов, но при этом снизить риски. Подход Varonis перекликается с концепцией Zero Trust, которая предполагает, что ни одно действие не должно приниматься на веру, даже если оно исходит от авторизованного пользователя.

Какие риски возникают при использовании AI-агентов без контроля намерений?

Основной риск — это несанкционированный доступ к конфиденциальным данным. AI-агенты, обученные на больших объемах информации, могут интерпретировать запросы слишком широко и запрашивать доступ к данным, которые не нужны для выполнения задачи. Например, агент, помогающий с кадровыми вопросами, может попытаться получить доступ к финансовой отчетности, если это не запрещено явно. Традиционные системы контроля доступа не могут выявить такие «серые зоны», потому что они не понимают контекста.

Еще один риск — это «дрейф намерений», когда агент постепенно отклоняется от первоначальной задачи и начинает выполнять действия, которые пользователь не запрашивал. Это может произойти из-за ошибок в алгоритмах или из-за злонамеренных действий, если агент скомпрометирован. Agent IBAC решает эту проблему, анализируя каждое действие агента и сравнивая его с исходным намерением.

Чем Agent IBAC отличается от традиционных систем

Главное отличие — это способность понимать намерение. Обычные системы контроля доступа оперируют статическими правилами: пользователь имеет доступ к файлу, если он входит в определенную группу. IBAC же анализирует динамический контекст: что именно пользователь хочет получить, какие данные для этого нужны, и соответствует ли запрос агента этим потребностям. Это позволяет блокировать не только явные нарушения, но и «серые зоны», когда агент запрашивает данные, формально доступные, но не относящиеся к задаче.

Кроме того, Agent IBAC работает в реальном времени, в отличие от многих решений, которые проводят аудит постфактум. Это критично, поскольку AI-агенты действуют быстро, и задержка в несколько минут может привести к утечке. Система также способна обучаться на новых типах запросов, что делает ее устойчивой к эволюции угроз.

Кого затронет внедрение Agent IBAC

Внедрение Agent IBAC затронет компании, которые активно используют AI-ассистентов в бизнес-процессах. Это особенно актуально для финансового сектора, здравоохранения и юридических услуг, где конфиденциальность данных имеет первостепенное значение. Например, в банке агент, помогающий аналитику готовить отчет, не сможет запросить данные о клиентах, не имеющих отношения к задаче. Это снижает риск утечек и помогает соблюдать требования регуляторов, таких как GDPR или 152-ФЗ в России.

Разработчикам AI-агентов также придется учитывать новые требования. Им нужно будет интегрировать свои решения с IBAC или аналогичными системами, чтобы обеспечить безопасность. Это может привести к появлению новых стандартов в индустрии, где безопасность станет неотъемлемой частью разработки, а не дополнительной опцией.

Что будет дальше с Agent IBAC

Varonis планирует расширить функциональность Agent IBAC, добавив поддержку большего числа облачных платформ и интеграцию с популярными фреймворками для разработки агентов, такими как LangChain. Ожидается, что в течение года решение станет доступно для широкого круга клиентов. Также возможно появление аналогичных продуктов от конкурентов, что ускорит развитие рынка.

Эксперты прогнозируют, что в ближайшие два года контроль доступа для AI-агентов станет обязательным требованием во многих отраслях. Это связано с ужесточением законодательства о защите данных и ростом числа инцидентов, связанных с ИИ. Компании, которые внедрят такие решения заранее, получат конкурентное преимущество, тогда как остальные рискуют столкнуться с серьезными репутационными и финансовыми последствиями.

Итог

Agent IBAC от Varonis — это своевременное решение, которое закрывает важный пробел в безопасности AI-агентов. Оно позволяет использовать возможности искусственного интеллекта, не жертвуя контролем над данными. Для компаний, которые уже внедрили или планируют внедрить AI-ассистентов, это обязательный элемент защиты. Следите за развитием технологии: она может стать стандартом де-факто в индустрии.