ГОСТы по ИИ в России: разбор пяти ключевых стандартов с 2025 года

С 1 января 2025 года в России вступил в силу пакет национальных стандартов по искусственному интеллекту. Эти документы устанавливают единые требования к безопасности, качеству и этике систем ИИ, обязательные для госзакупок и ряда регулируемых отраслей. Разбираем пять ключевых ГОСТов, которые уже мен

Пять ГОСТов по ИИ: что изменилось с 2025 года

Пакет включает пять стандартов: ГОСТ Р 59921.0-2024 (общие положения), ГОСТ Р 59921.1-2024 (функциональная безопасность), ГОСТ Р 59921.2-2024 (качество данных), ГОСТ Р 59921.3-2024 (этика) и ГОСТ Р 59921.4-2024 (тестирование). Каждый охватывает отдельный этап жизненного цикла ИИ-системы — от проектирования до вывода из эксплуатации. Базовый стандарт ГОСТ Р 59921.0-2024 определяет терминологию, классификацию систем по уровню автономности (от полностью контролируемых человеком до полностью автономных) и общие принципы безопасности. Остальные стандарты детализируют эти положения для конкретных этапов, создавая целостную нормативную базу.

Какие требования предъявляются к функциональной безопасности ИИ?

ГОСТ Р 59921.1-2024 требует, чтобы система ИИ имела механизмы обнаружения и предотвращения опасных состояний. Например, для беспилотных автомобилей это означает обязательное резервирование критических подсистем, таких как тормоза и управление. Стандарт вводит уровни полноты безопасности (SIL), аналогичные тем, что используются в промышленной автоматизации. Это позволяет классифицировать риски и устанавливать соответствующие меры защиты. Для медицинских диагностических систем на ИИ требуется подтверждение соответствия этому стандарту, что особенно важно для безопасности пациентов.

Предыстория и контекст

Разработка ГОСТов началась в 2023 году в рамках Национальной стратегии развития ИИ до 2030 года. Основными инициаторами выступили Технический комитет по стандартизации «Искусственный интеллект» (ТК 164) и Минцифры РФ. До этого в России не было единых обязательных требований к системам ИИ — существовали лишь рекомендации, например Кодекс этики ИИ. Появление ГОСТов связано с необходимостью регулировать быстрорастущий рынок: по данным АНО «Цифровая экономика», объём российского рынка ИИ в 2024 году превысил 700 млрд рублей. Кроме того, стандарты гармонизированы с международными подходами, в частности с документами ISO/IEC JTC 1/SC 42 по искусственному интеллекту. Это важно для экспорта российских ИИ-решений и совместных проектов.

Чем ГОСТы отличаются от предыдущих рекомендаций?

Главное отличие — обязательность. Если раньше компании могли добровольно следовать этическим принципам, то теперь соответствие ГОСТам обязательно для госзакупок и ряда регулируемых отраслей: медицины, транспорта, финансов. Например, для медицинских диагностических систем на ИИ требуется подтверждение соответствия ГОСТ Р 59921.1-2024 по функциональной безопасности. Стандарты вводят чёткие критерии: ГОСТ Р 59921.2-2024 определяет требования к полноте, непротиворечивости и актуальности обучающих выборок. Ранее такие критерии были размытыми, что затрудняло оценку качества систем.

Технические подробности: что содержат стандарты

ГОСТ Р 59921.1-2024 по функциональной безопасности требует, чтобы система ИИ имела механизмы обнаружения и предотвращения опасных состояний. Для беспилотных автомобилей это означает обязательное резервирование критических подсистем. Стандарт устанавливает уровни полноты безопасности (SIL), аналогичные промышленной автоматизации. ГОСТ Р 59921.2-2024 предписывает документировать происхождение данных, проводить их разметку по единым правилам и обеспечивать возможность аудита. Для систем с машинным обучением требуется вести журнал версий моделей и гиперпараметров. ГОСТ Р 59921.3-2024 по этике вводит требования к объяснимости решений: система должна предоставлять интерпретацию своих выводов на понятном человеку языке. Стандарт запрещает использование ИИ для манипуляции поведением уязвимых групп, например детей. ГОСТ Р 59921.4-2024 по тестированию определяет процедуры валидации и верификации: для каждой модели должны быть разработаны тестовые сценарии, покрывающие штатные и аварийные ситуации. Обязательно стресс-тестирование на граничных значениях входных данных.

Кого затронет и как

Разработчики ИИ-решений теперь обязаны пересматривать свои процессы под требования ГОСТов. Для стартапов это может означать дополнительные затраты на сертификацию — до 2–3 млн рублей за один продукт. Крупные компании, такие как Яндекс, Сбер и VK, уже заявили о готовности соблюдать стандарты. Для бизнеса, использующего ИИ (банки, ритейлеры), внедрение ГОСТов снижает риски ошибок и повышает доверие клиентов. В России стандарты особенно важны для госсектора: все системы ИИ, закупаемые госорганами, должны соответствовать ГОСТам. Это касается проектов «Умный город» и систем видеонаблюдения с распознаванием лиц. Для потребителей выгода в повышении прозрачности: например, при отказе в кредите, принятом ИИ, клиент сможет потребовать объяснения на основании ГОСТ Р 59921.3-2024.

Что будет дальше

Ожидается, что до конца 2025 года будут приняты ещё 3–4 стандарта, в том числе по тестированию генеративных моделей и безопасности роботов с ИИ. ТК 164 уже анонсировал разработку ГОСТа по оценке соответствия (сертификации) систем ИИ. Вероятно, в 2026 году начнётся работа над отраслевыми стандартами для медицины и автотранспорта. В перспективе ГОСТы могут стать основой для обязательного лицензирования некоторых видов ИИ-продукции. Учитывая тренд на регулирование ИИ в мире (ЕС принимает AI Act, Китай вводит свои стандарты), Россия движется в общем русле, но с акцентом на государственные нужды.

Итог

Пять новых ГОСТов по ИИ — важный шаг к цивилизованному рынку технологий в России. Они вводят единые правила для разработчиков, заказчиков и пользователей, повышая безопасность и доверие к системам. Следить за развитием этой темы стоит всем, кто работает с ИИ: от стартапов до корпораций, от госслужащих до конечных потребителей.