Цукерберг отвечает на опасения по ИИ: доверять людям

Марк Цукерберг в новом эссе заявил, что рост безопасности ИИ зависит от доверия к людям. Meta выпустила открытую модель Muse Glimmer, усилив дебаты о рисках открытого ИИ.

Марк Цукерберг ответил на растущие опасения по поводу безопасности искусственного интеллекта, заявив, что ключ к безопасному развитию — доверять людям. В эссе, опубликованном вместе с релизом новой открытой модели Muse Glimmer, глава Meta подчеркнул: «Дуга человеческой цивилизации склонялась к тому, чтобы давать людям больше власти жить и формировать мир так, как мы считаем лучшим». Это заявление прозвучало на фоне усиливающихся призывов регулировать ИИ и опасений, что открытые модели могут быть использованы во вред.

Цукерберг: безопасность ИИ через доверие

В эссе, опубликованном в блоге Meta, Цукерберг изложил свою позицию: вместо того чтобы ограничивать доступ к мощным ИИ-моделям, следует полагаться на ответственность разработчиков и пользователей. Он отметил, что открытые модели, такие как Muse Glimmer, позволяют большему числу людей участвовать в развитии ИИ, что способствует инновациям и демократизации технологий. Однако критики указывают, что такой подход игнорирует риски злоупотреблений, включая дезинформацию и кибератаки.

Muse Glimmer — это новая открытая модель веса, которая, по словам Meta, предназначена для генерации изображений и видео. Она основана на архитектуре, схожей с другими моделями компании, но отличается открытостью: любой разработчик может скачать и адаптировать её под свои задачи. Это шаг в русле стратегии Meta по продвижению открытого ИИ, которую Цукерберг последовательно отстаивает.

Предыстория и контекст

Споры об открытости ИИ обострились в последние годы. С одной стороны, открытые модели, такие как LLaMA от Meta, стимулируют исследования и позволяют небольшим компаниям создавать свои продукты. С другой — эксперты предупреждают, что открытый доступ к мощным моделям может привести к их использованию для создания вредоносного ПО, фейковых видео и дезинформации. В 2023 году ряд исследователей призвали приостановить разработку сверхмощных ИИ, опасаясь потери контроля. Цукерберг последовательно выступает против жёсткого регулирования, утверждая, что открытость способствует безопасности за счёт коллективного надзора.

Meta уже сталкивалась с критикой из-за своих моделей: например, LLaMA была слита в открытый доступ, что вызвало обеспокоенность. Тем не менее компания продолжает развивать открытые модели, видя в них конкурентное преимущество.

Почему Цукерберг доверяет людям?

Цукерберг аргументирует это тем, что человеческая история показывает: прогресс достигается через расширение прав и возможностей людей, а не через ограничения. Он считает, что открытые ИИ-модели позволяют обществу быстрее выявлять ошибки и угрозы, чем закрытые системы. Однако оппоненты отмечают, что не все люди действуют ответственно, и примеры злоупотреблений уже есть: от создания дипфейков до автоматизированных фишинговых атак.

Технические детали Muse Glimmer

Muse Glimmer — это модель с открытыми весами, обученная на большом наборе данных изображений и текста. Она способна генерировать изображения по текстовому описанию, а также выполнять задачи редактирования. В отличие от проприетарных моделей, таких как DALL-E или Midjourney, Muse Glimmer доступна для скачивания, что позволяет разработчикам адаптировать её без ограничений. Meta утверждает, что модель достигла высоких результатов в бенчмарках, но независимые оценки пока не проводились.

Кого затронет и как

Открытость Muse Glimmer повлияет на несколько групп. Разработчики получат инструмент для создания генеративных приложений без затрат на API крупных компаний. Малый бизнес сможет интегрировать ИИ в свои продукты, что снизит барьер входа. Потребители, вероятно, увидят рост числа приложений, генерирующих изображения и видео, что может усилить проблему дезинформации. Для России и СНГ открытая модель может стать альтернативой западным сервисам, которые ограничены санкциями. Однако это также создаёт риски использования модели для создания фейков, что требует внимания со стороны регулирующих органов.

Что будет дальше

Meta планирует продолжать выпуск открытых моделей, и Muse Glimmer — лишь один из шагов. Ожидается, что компания представит более мощные версии с улучшенными возможностями. Цукерберг, вероятно, продолжит отстаивать открытость в публичных выступлениях, усиливая давление на регуляторов. В то же время, эксперты прогнозируют, что дебаты о безопасности ИИ будут нарастать, и возможно, появятся новые инициативы по добровольным стандартам.

Итог

Цукерберг делает ставку на доверие к людям в вопросах безопасности ИИ, но этот подход вызывает обоснованные сомнения. Открытые модели, такие как Muse Glimmer, открывают новые возможности, но требуют ответственного использования. Следить за развитием этой темы важно каждому, кто работает с технологиями или зависит от них.