Сбербанк открыл доступ к модели угроз для систем ИИ: что изменилось

Сбербанк опубликовал обновлённую модель угроз для систем искусственного интеллекта, сделав её доступной для всех желающих. Документ, размещённый на официальном сайте кредитной организации, детально описывает риски, связанные с внедрением генеративных моделей, мультиагентных систем, RAG (Retrieval-Augmented Generation) и LLM-адаптеров. Эта модель предназначена для специалистов по информационной безопасности и разработчиков ИИ-решений и, по замыслу авторов, может стать основой для отраслевого стандарта.

Сбербанк представил обновлённую модель угроз для ИИ-систем

Обновлённая версия модели угроз, разработанная экспертами Сбербанка, была опубликована 30 июля 2026 года. Она учитывает усложнение архитектур современных ИИ-систем и появление новых векторов атак. В частности, в документе подробно разбираются риски, связанные с генеративными моделями, которые могут генерировать не только текст, но и изображения, аудио и видео. Также рассматриваются угрозы, характерные для мультиагентных систем, где несколько ИИ-агентов взаимодействуют друг с другом, и RAG-систем, дополняющих ответы модели данными из внешних источников.

По словам представителей Сбербанка, модель угроз охватывает все этапы жизненного цикла ИИ-системы: от сбора данных и обучения модели до её эксплуатации и вывода из эксплуатации. Для каждого этапа определены возможные угрозы, их источники и методы противодействия. Документ доступен для скачивания на сайте Сбербанка без ограничений, что позволяет использовать его как коммерческим, так и государственным организациям.

Предыстория и контекст

Сбербанк уже несколько лет занимается разработкой стандартов безопасности для искусственного интеллекта. Первая версия модели угроз была опубликована в 2023 году и с тех пор неоднократно обновлялась. Необходимость новой версии связана с бурным развитием генеративного ИИ: появление ChatGPT и его аналогов привело к массовому внедрению LLM в бизнес-процессы, что породило новые классы уязвимостей.

Одновременно с этим растёт количество атак на ИИ-системы. По данным аналитиков, в 2025 году число инцидентов, связанных с компрометацией моделей машинного обучения, увеличилось на 40% по сравнению с предыдущим годом. Особую озабоченность вызывают атаки типа prompt injection, когда злоумышленник манипулирует входными данными, чтобы заставить модель выполнить нежелательные действия, и атаки на цепочки поставок, когда вредоносный код внедряется в открытые библиотеки или датасеты.

Какие новые угрозы вошли в модель угроз Сбербанка?

Обновлённая модель угроз Сбербанка включает несколько новых категорий рисков. Во-первых, это угрозы, связанные с генеративными моделями: возможность генерации фейкового контента, утечка конфиденциальных данных через запросы пользователей, а также атаки на механизмы фильтрации. Во-вторых, для мультиагентных систем описаны риски координации агентов, когда один скомпрометированный агент может повлиять на поведение других. В-третьих, для RAG-систем выделены угрозы, связанные с подменой данных в векторных базах и манипуляцией результатами поиска.

Кроме того, модель учитывает риски, связанные с адаптерами LLM — компактными модулями, которые дообучаются для решения конкретных задач. Злоумышленник может внедрить вредоносный адаптер, который будет незаметно изменять поведение модели. Документ также описывает методы защиты от этих угроз, включая регулярное тестирование на проникновение, мониторинг поведения модели и использование криптографических методов для верификации целостности данных.

Технические детали и архитектура модели угроз

Модель угроз Сбербанка построена на основе методологии STRIDE (Spoofing, Tampering, Repudiation, Information Disclosure, Denial of Service, Elevation of Privilege), адаптированной для ИИ-систем. Для каждой угрозы определён уровень критичности и предложены контрмеры. Особое внимание уделено атакам на этапе обучения: например, отравление данных (data poisoning), когда злоумышленник внедряет в обучающую выборку некорректные примеры, чтобы модель научилась принимать неверные решения.

Документ также рассматривает атаки на этапе эксплуатации, такие как adversarial attacks (создание специальных входных данных, которые вводят модель в заблуждение) и model inversion (восстановление данных обучения по ответам модели). Для каждой угрозы приведены примеры реальных инцидентов и рекомендации по минимизации рисков. Интересно, что модель угроз Сбербанка не только описывает технические аспекты, но и учитывает организационные меры: например, необходимость разграничения доступа к моделям и данным, а также регулярное обучение персонала.

Кого затронет новая модель угроз

Публикация модели угроз в первую очередь полезна для специалистов по информационной безопасности, которые внедряют ИИ-решения в своих компаниях. Документ даёт им готовую основу для построения системы защиты, что особенно важно для небольших организаций, где нет собственных экспертов по безопасности ИИ. Также модель будет интересна разработчикам, создающим ИИ-продукты: она поможет им заранее предусмотреть возможные уязвимости и заложить защиту на этапе проектирования.

Для российского рынка появление открытой модели угроз от Сбербанка особенно значимо, поскольку регуляторы всё активнее требуют от организаций соблюдения требований безопасности при работе с ИИ. Например, Центробанк и ФСТЭК уже выпустили рекомендации по безопасному использованию генеративных моделей, и модель угроз Сбербанка может стать практическим инструментом для их выполнения. Кроме того, документ может лечь в основу будущих ГОСТов или отраслевых стандартов.

Что будет дальше

Сбербанк планирует регулярно обновлять модель угроз по мере появления новых технологий и векторов атак. В ближайшее время ожидается публикация методических рекомендаций по внедрению модели в практику работы организаций. Также возможно создание открытой базы данных инцидентов, связанных с безопасностью ИИ, на основе которой модель будет дополняться.

Эксперты полагают, что инициатива Сбербанка может стимулировать другие крупные компании и государственные органы к публикации собственных моделей угроз, что в конечном итоге приведёт к формированию единого стандарта безопасности ИИ в России. На международном уровне аналогичные работы ведутся под эгидой OWASP (проект OWASP Top 10 for LLM Applications) и Национального института стандартов и технологий США (NIST AI Risk Management Framework). Российская модель может быть интегрирована в эти международные наработки.

Итог

Публикация Сбербанком обновлённой модели угроз для систем искусственного интеллекта — важный шаг к повышению безопасности ИИ-решений в России. Документ учитывает современные реалии: генеративные модели, мультиагентные системы и RAG-архитектуры, и предлагает практические методы защиты. Для специалистов по безопасности это готовый инструмент, который поможет снизить риски при внедрении ИИ. Следите за обновлениями модели и внедряйте рекомендации, чтобы ваши ИИ-системы были защищены от новых угроз.