Thales Group: 34% компаний уже используют ИИ-агентов, 73% планируют внедрение за год

Искусственный интеллект стремительно проникает в корпоративную среду, и вместе с ним появляются новые вызовы для информационной безопасности. Согласно отчёту Thales Group, основанному на опросе более 3000 респондентов из 20 стран, уже 34% организаций используют ИИ-агентов в своей работе. При этом 73% компаний, которые ещё не внедрили такие решения, планируют сделать это в течение года. Исследование также показывает, что количество организаций, выделяющих бюджет на информационную безопасность именно для защиты от рисков, связанных с ИИ, выросло на 50% по сравнению с прошлым годом. Эти цифры сигнализируют о смене парадигмы: бизнес не просто экспериментирует с ИИ, а активно интегрирует его в ключевые процессы, одновременно осознавая необходимость усиления защиты.

ИИ-агенты: новый вызов для корпоративной безопасности

ИИ-агенты — это автономные программные системы, способные выполнять задачи без постоянного участия человека. Они могут анализировать данные, принимать решения и взаимодействовать с другими системами. Однако с их появлением резко выросли скорость и объём используемых данных, что усложняет обеспечение должного уровня безопасности. Thales Group отмечает, что традиционные методы защиты, такие как межсетевые экраны и антивирусы, часто не справляются с новыми угрозами, которые создают ИИ-агенты. Эксперты подчёркивают: если не улучшить внутренние механизмы безопасности, ИИ может стать серьёзной внутренней угрозой. Агенты действуют в реальном времени, обрабатывая огромные массивы информации, и любая уязвимость в их архитектуре способна привести к масштабным утечкам.

Предыстория и контекст

Тема безопасности искусственного интеллекта не нова, но последние два года принесли качественные изменения. Если раньше компании в основном беспокоились о защите данных, используемых для обучения моделей, то теперь на первый план выходит безопасность самих ИИ-агентов. В 2023 году атаки на модели ИИ участились: злоумышленники научились манипулировать выходными данными через инъекции промптов и отравление обучающих выборок. Отчёт Thales Group подтверждает, что 67% респондентов считают ИИ-агентов одним из главных векторов атак в ближайшие два года. В России аналогичные тенденции отметила Ассоциация по защите деловой информации (BISA): по её данным, 42% отечественных компаний уже сталкивались с инцидентами, связанными с использованием ИИ в рабочих процессах. Это подчёркивает глобальный характер проблемы: безопасность ИИ-агентов становится приоритетом для бизнеса по всему миру.

Какие риски несут ИИ-агенты для бизнеса?

ИИ-агенты создают уникальные риски, которые отличаются от традиционных угроз. Во-первых, их автономность означает, что скомпрометированный агент может действовать без контроля человека, нанося ущерб до обнаружения. Во-вторых, агенты часто интегрируются с внешними сервисами через API, что расширяет поверхность атаки. Thales Group приводит пример: в 2024 году участились случаи, когда злоумышленники использовали уязвимости в RAG-системах для извлечения конфиденциальных данных. Кроме того, агенты могут стать инструментом для автоматизации атак: фишинговые кампании на основе ИИ стали более персонализированными и трудно распознаваемыми. Для бизнеса это означает не только финансовые потери, но и репутационный ущерб, особенно если утечка затрагивает клиентские данные.

Технические детали: как ИИ-агенты меняют ландшафт угроз

С архитектурной точки зрения ИИ-агенты часто используют технологию Retrieval-Augmented Generation (RAG), которая позволяет им обращаться к внешним базам данных в реальном времени. Это увеличивает объём обрабатываемой информации, но и расширяет поверхность атаки. Thales Group отмечает, что 58% компаний, использующих ИИ-агентов, уже зафиксировали как минимум одну утечку данных через этот канал. Кроме того, агенты могут быть использованы для автоматизации фишинговых атак: с их помощью злоумышленники генерируют персонализированные письма, которые сложнее отличить от настоящих. Исследование BISA дополняет: в российских компаниях наиболее частыми инцидентами стали несанкционированный доступ к данным через ИИ-агенты (34%) и манипуляция выходными данными (28%). Эти цифры показывают, что уязвимости носят не теоретический, а практический характер.

Кого затронет и как

Новые риски касаются прежде всего крупных корпораций, активно внедряющих автоматизацию. Финансовый сектор, ритейл и логистика — в зоне особого риска, так как там ИИ-агенты управляют критическими процессами. Разработчики и DevOps-инженеры столкнутся с необходимостью внедрять дополнительные механизмы контроля: например, мониторинг действий агентов в реальном времени и системы автоматического отката. Для бизнеса это означает рост затрат на безопасность: в среднем компании уже тратят на 30% больше бюджета на защиту ИИ-систем по сравнению с прошлым годом. Российские компании, по данным BISA, пока отстают: только 18% имеют выделенный бюджет на безопасность ИИ, но 62% планируют увеличить его в ближайшие 12 месяцев. Это говорит о том, что осознание проблемы приходит, но внедрение мер безопасности идёт медленнее, чем хотелось бы.

Что будет дальше

В ближайшие год-два следует ожидать ужесточения регулирования: Евросоюз уже работает над поправками к AI Act, касающимися автономных агентов. В США Национальный институт стандартов и технологий (NIST) выпустил проект рекомендаций по безопасной разработке ИИ-агентов. Эксперты Thales Group прогнозируют, что к 2026 году не менее 80% крупных компаний будут обязаны внедрить системы контроля действий ИИ-агентов. В России, вероятно, последуют аналогичные меры — BISA уже анонсировала разработку методических рекомендаций по безопасному использованию ИИ в корпоративной среде. Кроме того, ожидается рост рынка решений для безопасности ИИ: по оценкам аналитиков, к 2027 году его объём может превысить 10 миллиардов долларов.

Итог

Отчёт Thales Group со всей очевидностью показывает: ИИ-агенты становятся неотъемлемой частью корпоративного ландшафта, но их внедрение требует пересмотра подходов к информационной безопасности. Компаниям, которые планируют использовать такие технологии, стоит уже сейчас инвестировать в защиту от новых угроз — иначе ИИ, призванный повысить эффективность, может стать источником серьёзных проблем. Игнорирование рисков может привести к утечкам данных, финансовым потерям и репутационному ущербу. Поэтому бизнесу необходимо действовать на опережение: внедрять мониторинг, обучать сотрудников и сотрудничать с регуляторами для создания безопасной среды использования ИИ-агентов.