Nvidia возглавила альянс Open Secure AI для безопасности открытого ИИ — без OpenAI и Google

Nvidia объявила о создании альянса Open Secure AI Alliance, который сосредоточится на разработке и распространении инструментов безопасности для систем искусственного интеллекта с открытым исходным кодом. В коалицию вошли Microsoft, SpaceX, IBM, Meta, Cisco, Hewlett Packard Enterprise, AMD, Intel, Dell, Red Hat, Google Cloud (отдельно от материнской компании), а также ряд академических учреждений. Примечательно, что ключевые игроки в области ИИ — OpenAI, Google DeepMind и Anthropic — не были приглашены к участию. Этот шаг подчеркивает стремление Nvidia занять лидирующую позицию в экосистеме открытого ИИ, где безопасность становится критическим фактором.

Nvidia, Microsoft и SpaceX объединяются для защиты открытого ИИ

Альянс Open Secure AI Alliance, официально представленный 24 апреля 2025 года, ставит перед собой задачу создать экосистему открытых инструментов для защиты ИИ-моделей от атак, включая состязательные атаки (adversarial attacks) и утечки данных. Nvidia выступила инициатором и лидером альянса, предоставив свою платформу NeMo Guardrails в качестве основы для совместной работы. Участники планируют разрабатывать стандарты, библиотеки и фреймворки, которые будут доступны под открытыми лицензиями.

Microsoft и SpaceX подтвердили участие на уровне корпоративных ресурсов: Microsoft предоставит интеграцию с Azure AI, а SpaceX — тестовые полигоны для моделирования атак в реальных условиях. IBM внесёт вклад в разработку методов верификации моделей, а Meta — инструменты для анализа уязвимостей в больших языковых моделях (LLM). Всего в альянсе уже более 30 организаций, включая стартапы и университеты. Это объединение ресурсов позволяет надеяться на создание комплексного подхода к безопасности, который будет доступен широкому кругу разработчиков.

Предыстория и контекст

Рост популярности открытых ИИ-моделей, таких как LLaMA от Meta и Mistral, создал новые вызовы в области безопасности. В отличие от проприетарных систем, открытые модели могут быть свободно модифицированы, что увеличивает риск их использования для вредоносных целей. В 2024 году участились случаи атак на open-source ИИ, включая инъекции промптов и отравление данных. Эти инциденты показали, что существующие меры безопасности недостаточны, и отрасль нуждается в скоординированных действиях.

До создания Open Secure AI Alliance существовали разрозненные инициативы, такие как OpenSSF (Open Source Security Foundation) и OWASP AI Security, но они не охватывали полный цикл безопасности ИИ. Nvidia, имеющая сильные позиции в области аппаратного ускорения ИИ, решила консолидировать усилия, предложив единую платформу. Отсутствие OpenAI, Google и Anthropic объясняется их ориентацией на проприетарные решения и коммерческие интересы. Эти компании активно инвестируют в собственную безопасность, но не заинтересованы в открытии своих наработок, что может ограничить конкурентоспособность их продуктов.

Почему альянс не пригласил OpenAI, Google и Anthropic?

Главная причина — различие в подходах к открытости. Альянс фокусируется на открытом исходном коде, в то время как OpenAI, Google и Anthropic продвигают проприетарные модели с закрытыми весами. Включение этих компаний могло бы привести к конфликту интересов и замедлить разработку открытых стандартов. Кроме того, Nvidia стремится занять лидирующую позицию в экосистеме open-source ИИ, а присутствие крупных конкурентов могло бы ослабить её влияние.

Некоторые эксперты полагают, что альянс может стать платформой для давления на регуляторов, демонстрируя, что отрасль способна самостоятельно решать проблемы безопасности. Однако отсутствие ключевых игроков может снизить доверие к инициативе со стороны сообщества. В долгосрочной перспективе это может привести к фрагментации стандартов безопасности, если OpenAI и Google создадут собственные альтернативы.

Технические подробности и финансовые аспекты

В основе работы альянса лежит платформа Nvidia NeMo Guardrails, которая позволяет задавать границы поведения ИИ-моделей. Участники будут расширять её функционал, добавляя модули для обнаружения атак, шифрования данных и аудита. Планируется выпуск открытой библиотеки Adversarial Robustness Toolkit, которая включит методы тренировки моделей, устойчивых к состязательным примерам. Это позволит разработчикам интегрировать защиту на всех этапах жизненного цикла модели.

Финансирование альянса осуществляется за счёт взносов участников: Nvidia ежегодно вносит $10 млн, Microsoft — $5 млн, остальные — от $500 тыс. до $2 млн. Бюджет на первые три года составит около $100 млн. Средства пойдут на разработку, проведение конкурсов по взлому моделей (bug bounty) и сертификацию. Важным аспектом станет создание реестра известных уязвимостей для ИИ-систем (CVE для ИИ), который будет поддерживаться совместно с MITRE. Это позволит стандартизировать отчётность об уязвимостях и ускорить их устранение.

Кого затронет и как

Разработчики open-source ИИ получат доступ к бесплатным инструментам безопасности, что снизит порог входа для стартапов. Однако им придётся адаптировать свои модели под стандарты альянса, что может увеличить время разработки. Для небольших команд это может стать вызовом, но в долгосрочной перспективе повысит доверие к их продуктам.

Бизнес, использующий ИИ-решения, сможет внедрять проверенные методы защиты, но компаниям, которые уже инвестировали в проприетарные системы безопасности, возможно, придётся пересмотреть архитектуру. Конкуренты, не вошедшие в альянс, рискуют остаться в стороне от стандартов, что может повлиять на их рыночные позиции. Для российского рынка, где активно развиваются open-source модели, участие в альянсе пока не предусмотрено, но доступ к инструментам остаётся открытым. Это даёт возможность локальным разработчикам интегрировать лучшие практики без формального членства.

Что будет дальше

Ожидается, что первые версии инструментов будут выпущены в течение года. Альянс планирует провести серию хакатонов по поиску уязвимостей в популярных моделях. В перспективе возможно расширение за счёт привлечения регуляторов, таких как Европейское агентство по кибербезопасности (ENISA). Наиболее вероятный сценарий — альянс станет главной площадкой для стандартизации безопасности открытого ИИ, что усилит позиции Nvidia как лидера инфраструктуры ИИ. Однако без участия OpenAI и Google стандарты могут не получить всеобщего признания, что создаст параллельные экосистемы.

Итог

Создание Open Secure AI Alliance знаменует собой попытку индустрии взять под контроль безопасность открытого ИИ. Успех инициативы будет зависеть от того, насколько широко сообщество примет её стандарты и сможет ли Nvidia удержать лидерство без ключевых конкурентов. Для разработчиков и бизнеса это шанс получить проверенные инструменты, но и вызов — необходимость адаптации к новым правилам. В ближайшие годы мы увидим, станет ли этот альянс доминирующей силой или же фрагментация рынка безопасности ИИ продолжится.