Hugging Face ответил на запрос Белого дома по плану действий в области ИИ: ключевые предложения

Белый дом впервые открыто запросил мнение сообщества для формирования Национального плана действий в области искусственного интеллекта. Hugging Face, ведущая платформа для хостинга и совместной работы с моделями машинного обучения, опубликовала свой ответ, который может существенно повлиять на будущ

Что произошло и почему это важно

Hugging Face направила свой ответ в рамках публичного сбора мнений (RFI) от Белого дома. Это первый случай, когда администрация США напрямую обращается к сообществу разработчиков ИИ для выработки стратегии. Ответ Hugging Face отражает позицию значительной части разработчиков открытого ИИ, которые выступают за доступность моделей и данных. Если эти предложения будут учтены, они могут кардинально изменить ландшафт ИИ-регулирования, сделав его более инклюзивным и прозрачным.

Ключевые предложения Hugging Face

Поддержка открытых моделей и наборов данных

Hugging Face настаивает, что открытые модели и наборы данных являются основой для инноваций и безопасности. Они позволяют исследователям проверять и улучшать алгоритмы, а также снижают зависимость от нескольких крупных корпораций. Платформа предлагает создать государственные стимулы для публикации моделей и данных под открытыми лицензиями, что ускорит развитие ИИ и повысит его надежность.

Прозрачность обучения и развертывания ИИ-систем

Организация требует обязательного раскрытия источников данных, методов обучения и архитектуры моделей. Это позволит аудиторам и регуляторам проверять системы на предвзятость, безопасность и соответствие этическим нормам. Hugging Face предлагает ввести стандарты документирования, аналогичные паспортам моделей, которые уже используются на платформе.

Стандарты оценки безопасности и надежности

Для обеспечения доверия к ИИ-системам необходимы единые критерии оценки. Hugging Face рекомендует разработать бенчмарки и тесты, которые будут обязательными для всех моделей, используемых в критически важных сферах. Это поможет выявлять уязвимости до того, как система будет развернута.

Инвестиции в инфраструктуру и образование

Чтобы снизить доминирование крупных технологических компаний, Hugging Face призывает к государственным инвестициям в вычислительные ресурсы, облачные платформы и образовательные программы. Это позволит стартапам и академическим исследователям конкурировать на равных, а также подготовит новое поколение специалистов по ИИ.

Создание общедоступных репозиториев

Платформа предлагает создать национальные репозитории для моделей и данных, аналогичные GitHub для кода. Такие репозитории обеспечат воспроизводимость исследований и подотчетность разработчиков. Hugging Face готова предоставить свою инфраструктуру в качестве основы для такого проекта.

Как ответ Hugging Face повлияет на регулирование ИИ

Позиция Hugging Face может усилить движение за открытый ИИ и заставить регуляторов учитывать интересы сообщества. Если Белый дом включит эти предложения в финальный план, это может привести к обязательной прозрачности для всех ИИ-систем, используемых в государственном секторе. Однако крупные корпорации, такие как Google и OpenAI, могут сопротивляться, так как их бизнес-модели основаны на закрытых технологиях.

Кого затронет план действий Белого дома

Новый план затронет всех участников экосистемы ИИ: разработчиков, исследователей, политиков, компании и конечных пользователей. Для разработчиков открытого кода это шанс получить поддержку на государственном уровне. Для бизнеса — необходимость адаптироваться к новым требованиям прозрачности. Для пользователей — повышение безопасности и надежности ИИ-сервисов.

Какие вопросы остаются открытыми

Пока неизвестно, какие именно пункты из ответа Hugging Face будут учтены в финальном документе. Администрация может пойти на компромисс с крупными игроками, смягчив требования к прозрачности. Также неясно, как будут финансироваться предложенные инициативы и будет ли создан независимый орган для контроля за соблюдением стандартов.

Что будет дальше

Белый дом продолжит сбор мнений до конца 2024 года, после чего представит проект плана. Hugging Face и другие организации будут лоббировать свои предложения. Исход этой работы определит, станут ли США лидером в области открытого и безопасного ИИ или сохранят текущую модель, где доминируют несколько корпораций.