Почему ООН не может влиять на разработчиков ИИ: анализ ограничений

ООН активизирует усилия в сфере искусственного интеллекта, но её стратегия охватывает лишь потребителей технологии, а не её создателей. 7 июля в рамках Женевской цифровой недели открылся первый Глобальный диалог по управлению ИИ, где новая Независимая международная научная панель по искусственному интеллекту представила правительствам первый глобальный научный отчёт о состоянии ИИ. Это событие стало кульминацией трёхлетней работы ООН, включающей Глобальный цифровой компакт, доклад «Управление ИИ во имя человечества», рекомендации ЮНЕСКО по этике ИИ и ежегодные саммиты Международного союза электросвязи. Весь этот массив документов объединяет единый подход: ООН рассматривает ИИ как нечто, что нужно «получать» — направлять на благие цели, согласовывать с Целями устойчивого развития, отслеживать социальные последствия и снабжать этическими ограничителями. Это так называемая сторона спроса на технологию, и именно в ней сосредоточена вся содержательная деятельность ООН. Однако, несмотря на амбициозные заявления, реальное влияние на разработчиков передового ИИ остаётся минимальным. В этой статье разберём, почему ООН не может влиять на создателей ИИ, какие технические и политические ограничения мешают, и кого это затронет.

ООН не влияет на создателей передового ИИ

Сторона предложения — места, где создаётся, оценивается и выпускается передовой ИИ — практически лишена присутствия ООН. Нет многостороннего органа с техническими специалистами, способными проверять работу лабораторий, нет механизма оценки тренировочных запусков, нет общей инфраструктуры для сообщения об инцидентах через границы. Управляющая архитектура на ближайшие десятилетия формируется сейчас в двусторонних соглашениях между передовыми лабораториями и правительствами стран их базирования, в частных инициативах вроде Project Glasswing от Anthropic и в решениях по экспортному контролю со стороны стран, где размещена технология. Как только эти институциональные факты закрепятся, путь наименьшего сопротивления для каждого последующего решения будет вести к их расширению, а не к созданию многосторонней альтернативы.

Почему ООН не может контролировать разработчиков ИИ?

Основная причина — отсутствие технической экспертизы и механизмов принуждения. Научная панель ООН состоит из учёных, но не имеет полномочий проверять лаборатории или требовать данные о тренировках моделей. В отличие от Международного агентства по атомной энергии (МАГАТЭ), у неё нет инспекторов, нет права на проведение аудитов. Кроме того, ведущие компании — OpenAI, Google DeepMind, Anthropic, Meta — базируются в США и Китае, которые не заинтересованы в передаче суверенитета над ИИ наднациональному органу. Даже если бы ООН получила доступ, у неё нет ресурсов для анализа гигантских моделей: например, тренировочный запуск GPT-4 стоил около 100 миллионов долларов и потребовал тысяч GPU-часов. Политическая воля ключевых стран также отсутствует: США и Китай предпочитают собственные регуляторные рамки, а не глобальные.

Предыстория и контекст

ООН начала активно заниматься ИИ после резкого ускорения развития технологии в 2022–2023 годах. Генеральный секретарь Антониу Гутерриш неоднократно призывал к созданию глобального органа по управлению ИИ, сравнивая его с МАГАТЭ. В 2023 году был запущен Консультативный совет по ИИ, а в 2024 году — сама научная панель. Однако структура ООН остаётся медленной и ориентированной на консенсус, что контрастирует с динамикой частных компаний. Параллельно США и ЕС разрабатывают собственные регуляторные рамки, а Китай продвигает свои стандарты. В результате ООН рискует остаться на периферии реального управления ИИ, если не изменит подход.

Технические и политические ограничения подхода ООН

Подход ООН к ИИ — это классическая модель «спроса», при которой технология воспринимается как готовый продукт, который нужно лишь правильно направить. Но передовой ИИ развивается настолько быстро, что рекомендации устаревают к моменту публикации. Например, доклад «Governing AI for Humanity» вышел в 2024 году, а уже через несколько месяцев Anthropic выпустила Claude 3.5, а OpenAI — GPT-4o, превзошедшие многие ожидания. Без доступа к предрелизным тестам и данным о безопасности ООН не может давать актуальные оценки. Кроме того, инциденты с ИИ (например, галлюцинации в медицинских рекомендациях или предвзятость в найме) не имеют единой системы отчётности, и каждая страна собирает данные по-своему. Политические ограничения также играют роль: ключевые государства не готовы передавать контроль над технологией, которая может дать экономическое и военное преимущество.

Кого затронет и как

Отсутствие влияния ООН на разработчиков ИИ напрямую затрагивает развивающиеся страны. Они не участвуют в двусторонних соглашениях между лабораториями и правительствами США или Китая, не имеют доступа к передовым моделям (как в случае с временной блокировкой Anthropic в США) и не могут влиять на стандарты безопасности. Для бизнеса это означает фрагментацию рынка: каждая страна или блок (ЕС, США, Китай) вводит свои правила, что увеличивает издержки на compliance. Для потребителей — риск того, что ИИ-системы будут оптимизированы под интересы стран-разработчиков, а не глобального большинства. Россия и страны СНГ пока остаются наблюдателями, но могут столкнуться с ограничениями доступа к технологиям, если не присоединятся к одной из регуляторных зон.

Что будет дальше

ООН, вероятно, продолжит наращивать аналитическую работу: научная панель будет выпускать ежегодные отчёты, а Глобальный диалог станет постоянной площадкой. Однако без изменения мандата — получения права на инспекции и доступа к данным — эти усилия останутся символическими. Более реалистичный сценарий: создание многостороннего органа по типу Financial Stability Board, который координирует национальные регуляторы, но не имеет прямой власти. В краткосрочной перспективе ключевые решения будут приниматься в рамках двусторонних соглашений, таких как американо-британское партнёрство по безопасности ИИ или экспортный контроль США.

Итог

ООН проделала огромную работу по формированию глобальной повестки в области ИИ, но её влияние ограничено стороной спроса. Без доступа к лабораториям и механизмам принуждения организация рискует остаться наблюдателем в то время, как реальное управление ИИ формируется за её пределами. Для изменения ситуации ООН необходимо получить технические полномочия и мандат на проверки, что маловероятно без поддержки ключевых стран. Пока же читателям стоит следить за двусторонними соглашениями и национальными регуляциями — именно они определят будущее ИИ.