Thales Group: ИИ-агенты меняют ландшафт кибербезопасности — отчёт 2025

Более трети организаций по всему миру уже используют в работе ИИ-агентов, а почти три четверти планируют внедрить их в течение года. К такому выводу пришли авторы отчёта Thales Group — транснациональной корпорации, специализирующейся на аэрокосмических, оборонных и морских технологиях. Исследование, в котором приняли участие свыше 3000 респондентов из 20 стран, показывает, что стремительное распространение агентного ИИ создаёт новые вызовы для информационной безопасности. Одновременно Ассоциация по защите деловой информации (BISA) опросила представителей российских компаний и выявила схожие риски, связанные с использованием ИИ в рабочих процессах.

ИИ-агенты: новый фактор риска для информационной безопасности

Согласно данным Thales Group, 34% организаций уже применяют ИИ-агентов в своей деятельности. Под агентами понимаются автономные программные системы, способные выполнять задачи без постоянного контроля человека. Ещё более показательно, что 73% компаний, которые пока не используют такие решения, планируют начать внедрение в ближайшие двенадцать месяцев. Это означает, что в течение года большинство предприятий столкнутся с новым классом угроз, связанных с агентными приложениями.

Отмечается, что появление агентных ИИ резко увеличило скорость и объёмы обрабатываемых данных. Традиционные методы защиты перестают справляться: системы безопасности не успевают анализировать потоки информации в реальном времени. В результате растёт риск утечек и несанкционированного доступа. Эксперты Thales подчёркивают, что если не адаптировать механизмы внутренней безопасности под новые реалии, ИИ-агенты сами могут стать источником угрозы — например, из-за ошибок в алгоритмах или злонамеренного использования.

Предыстория и контекст: как ИИ меняет подходы к защите данных

Проблема безопасности ИИ не нова, но с появлением агентных систем она вышла на принципиально иной уровень. Ранее основное внимание уделялось защите данных, используемых для обучения моделей, и предотвращению атак на сами модели (например, состязательных атак). Однако агентные ИИ действуют в реальной среде, принимают решения и взаимодействуют с другими системами — это расширяет поверхность атаки.

Thales Group уже несколько лет отслеживает тренды в области кибербезопасности. В прошлых отчётах компания фиксировала рост числа инцидентов, связанных с облачными сервисами и удалённой работой. Нынешнее исследование впервые столь детально фокусируется именно на ИИ-агентах как отдельном классе угроз. Дополнительный контекст дают данные BISA: российские компании отмечают, что основными рисками при использовании ИИ становятся утечка конфиденциальной информации, непредсказуемое поведение моделей и сложности с аудитом действий агентов.

Чем ИИ-агенты отличаются от традиционных систем ИИ?

Традиционные модели ИИ, как правило, работают по запросу: пользователь вводит данные, модель выдаёт результат. Агенты же действуют автономно: они могут ставить подзадачи, обращаться к внешним API, изменять своё поведение на основе обратной связи. Например, агент для управления корпоративной почтой может самостоятельно сортировать письма, назначать встречи и даже вести переписку от имени сотрудника. Такая автономность требует принципиально иных мер безопасности: нужно контролировать не только входные и выходные данные, но и цепочки решений, которые принимает агент.

Технические подробности: как агентные ИИ усложняют защиту

С точки зрения архитектуры, ИИ-агенты часто строятся на базе больших языковых моделей (LLM) и дополняются модулями планирования и выполнения действий. Это означает, что агент может генерировать новые запросы к базам данных, запускать скрипты или взаимодействовать с другими сервисами. Каждое такое действие — потенциальная точка уязвимости. Исследование Thales Group показывает, что количество организаций, выделяющих отдельный бюджет на безопасность ИИ, выросло на 50% по сравнению с предыдущим годом. Компании вынуждены инвестировать в системы мониторинга поведения агентов, инструменты для аудита их действий и средства контроля доступа.

Одна из ключевых проблем — отсутствие стандартов безопасности для агентных систем. Традиционные методы, такие как шифрование данных и управление доступом, не учитывают динамический характер взаимодействий агента. Например, агент может получить доступ к базе данных для выполнения задачи, но затем использовать те же права для несанкционированного извлечения информации. Thales рекомендует внедрять политики «нулевого доверия» (Zero Trust) для всех действий агентов, а также использовать специализированные песочницы для изоляции их операций.

Кого затронет и как: бизнес, разработчики и конечные пользователи

Для бизнеса внедрение ИИ-агентов сулит рост производительности, но одновременно требует пересмотра стратегий безопасности. Компании, которые уже используют агентов, отмечают необходимость обучения сотрудников работе с новыми угрозами. Разработчики агентных систем сталкиваются с вызовом: как обеспечить безопасность, не снижая автономность и эффективность. Для конечных пользователей главный риск — потеря контроля над данными: агент может случайно раскрыть личную информацию или совершить действие от имени пользователя без его ведома.

В российском контексте данные BISA показывают, что отечественные компании обеспокоены теми же проблемами. Особенно остро стоит вопрос регулирования: пока нет чётких нормативных требований к безопасности ИИ-агентов, что создаёт правовую неопределённость. Эксперты рекомендуют разрабатывать внутренние политики использования агентов и проводить регулярные аудиты.

Что будет дальше: прогнозы и ожидания

Thales Group прогнозирует, что в течение двух-трёх лет большинство крупных компаний внедрит ИИ-агентов, а рынок средств защиты для них вырастет в несколько раз. Ожидается появление специализированных решений для мониторинга агентов, а также стандартов безопасности от профильных организаций. В то же время эксперты предупреждают: без активных действий со стороны бизнеса и регуляторов количество инцидентов, связанных с агентными ИИ, будет расти экспоненциально.

Итог

Распространение ИИ-агентов становится главным трендом в области информационной безопасности 2025 года. Компании, которые не адаптируют свои защитные механизмы, рискуют столкнуться с серьёзными утечками и финансовыми потерями. Отчёт Thales Group — важный сигнал для всех, кто планирует внедрять агентные системы: безопасность должна закладываться на этапе проектирования, а не добавляться постфактум. Следите за развитием этой темы, чтобы не пропустить новые угрозы и способы защиты.