США создают орган для контроля над выпуском передовых ИИ-моделей: что изменится

В США формируется новый механизм государственного контроля за распространением передовых моделей искусственного интеллекта. Как сообщает CNBC, в администрации президента создаётся специальный орган, который будет одобрять выпуск наиболее мощных ИИ-моделей американского происхождения. Это означает, что правительство получает больше власти над тем, какие технологии попадают на рынок, чем сами разработчики. Инициатива направлена на предотвращение рисков, связанных с автономными системами, дезинформацией и биологическими угрозами.

Новый орган для контроля ИИ-моделей

По данным CNBC, структура, получившая неофициальное название «Управление по контролю за ИИ» (AI Control Office), будет оценивать потенциальные риски передовых моделей перед их публичным выпуском. Речь идёт о системах, способных к автономным действиям, генерации дезинформации или созданию опасных биологических агентов. Разработчики, включая OpenAI и Anthropic, обязаны будут предоставлять результаты внутренних тестов и планы по смягчению рисков. Без одобрения нового органа выпуск модели может быть заблокирован или отложен.

Официальные представители Белого дома подтвердили, что работа над созданием такого механизма ведётся уже несколько месяцев. Ожидается, что орган будет действовать в рамках существующих законов о национальной безопасности и экспортном контроле. Однако юридические детали его полномочий пока не раскрыты. По мнению экспертов, это может стать прецедентом для глобального регулирования искусственного интеллекта.

Предыстория и контекст

Усиление контроля над ИИ-моделями стало логичным продолжением политики администрации Байдена. В октябре 2023 года был подписан исполнительный указ о безопасном и надёжном развитии ИИ, который обязал разработчиков отчитываться о тестировании моделей. Однако тогда речь шла о добровольных обязательствах. Новый орган превращает эти рекомендации в обязательные требования.

Интересно, что подобные меры обсуждаются и в других странах. В Евросоюзе вступил в силу AI Act, который классифицирует ИИ-системы по уровню риска. Китай уже ввёл строгие правила для генеративных моделей. Таким образом, США догоняют мировые тренды, но с акцентом на национальную безопасность. Отличие американского подхода в том, что контроль будет сосредоточен на самых мощных системах, а не на всех ИИ-продуктах.

Как новый орган повлияет на разработчиков ИИ в США?

Для компаний вроде OpenAI и Anthropic новый орган означает дополнительный бюрократический барьер. Если раньше они могли самостоятельно решать, когда выпускать модель, то теперь потребуется правительственное одобрение. Это может замедлить темпы инноваций, но одновременно снизить риски появления опасных систем. Разработчики уже выражают обеспокоенность: они опасаются, что контроль может быть использован для ограничения конкуренции или задержки полезных технологий.

В то же время некоторые эксперты считают, что регулирование может стимулировать доверие к ИИ. Если общество будет уверено в безопасности моделей, это ускорит их внедрение в критически важные сферы, такие как здравоохранение и транспорт. Однако баланс между безопасностью и инновациями остаётся ключевым вызовом.

Технические детали контроля

Новый орган будет оценивать модели по нескольким критериям. Во-первых, способность к автономной работе — может ли ИИ выполнять сложные задачи без вмешательства человека. Во-вторых, потенциал для злоупотреблений, включая создание вредоносного кода или убедительной дезинформации. В-третьих, возможность утечки данных или нарушения приватности. Для каждого критерия будут установлены пороговые значения, превышение которых потребует обязательного одобрения.

По данным источников, в основе системы лежит шкала «уровней ИИ» (AI Levels), аналогичная шкале ASIL в автомобильной безопасности. Чем выше уровень, тем строже контроль. Например, модели, способные самостоятельно находить уязвимости в программном обеспечении, могут быть отнесены к высокому уровню риска. Разработчики должны будут предоставлять не только результаты тестов, но и планы по мониторингу после выпуска.

Кого затронет новый порядок

Прежде всего, под контроль попадут крупные лаборатории в США. Это OpenAI, Anthropic, Google DeepMind, Meta — все, кто разрабатывает фундаментальные модели. Стартапы с менее мощными системами могут быть освобождены от обязательного одобрения. Однако точные критерии ещё не опубликованы.

Для бизнеса, использующего ИИ-решения, изменения будут косвенными. Если модель не получит одобрения, её нельзя будет внедрить в коммерческие продукты. Это может затронуть облачные сервисы, медицинские приложения и оборонные технологии. Российские разработчики, которые используют американские модели через API, также могут столкнуться с ограничениями, если экспортный контроль будет ужесточён.

Что будет дальше

Ожидается, что официальное объявление о создании органа последует в ближайшие недели. Параллельно администрация готовит законопроект, который закрепит полномочия структуры на законодательном уровне. В Конгрессе уже есть несколько инициатив по регулированию ИИ, но единого мнения пока нет.

Эксперты прогнозируют, что новый орган столкнётся с вызовами: как оценивать риски, не замедляя инновации, и как избежать политизации процесса. В любом случае, США делают важный шаг к централизованному контролю за ИИ, и это изменит правила игры для всей индустрии.

Итог

Создание правительственного органа по контролю за ИИ-моделями знаменует переход от добровольных обязательств к обязательному регулированию. Теперь не только разработчики, но и государство будет решать, какие технологии безопасно выпускать на рынок. Это усилит защиту от потенциальных угроз, но может замедлить темпы развития ИИ. За ситуацией стоит следить всем, кто связан с технологиями: от стартапов до крупных корпораций.