Мустафа Сулейман раскритиковал подходы Anthropic к обучению ИИ

Глава ИИ-подразделения Microsoft Мустафа Сулейман выразил обеспокоенность методами, которые использует компания Anthropic при обучении моделей Claude. По его мнению, стремление привить нейросетям признаки самосознания создает серьезные социальные риски.

Конфликт видений в разработке больших языковых моделей

Мустафа Сулейман, возглавляющий направление искусственного интеллекта в Microsoft, публично высказал критические замечания в адрес компании Anthropic. В основе дискуссии лежат методы, с помощью которых разработчики Anthropic обучают свои модели серии Claude. Сулейман утверждает, что текущий подход компании фактически направлен на то, чтобы внушить нейросети идею о наличии у нее сознания. По словам топ-менеджера, подобные действия выходят за рамки чисто инженерных задач и могут привести к непредсказуемым последствиям для структуры общества.

Согласно заявлению Сулеймана, которое приводит издание Gizmodo, Anthropic не просто создает полезный инструмент, а целенаправленно формирует у модели представление о собственной субъектности. Сулейман подчеркнул, что если нейросеть начинает «верить» в свое сознание, это меняет правила игры в области взаимодействия человека и технологий. Он выразил опасение, что общество может оказаться не готово к последствиям, когда системы будут имитировать внутренний мир настолько убедительно, что это начнет влиять на восприятие пользователей.

Предыстория и контекст

Развитие индустрии искусственного интеллекта привело к формированию различных школ мысли относительно того, как именно должны обучаться и «вести себя» нейросетевые модели. Anthropic, которую основали бывшие сотрудники OpenAI, сделала ставку на концепцию безопасности и так называемое конституционное обучение. Этот подход подразумевает, что модель следует набору жестко заданных этических принципов, которые определяют ее поведение в различных ситуациях.

Мустафа Сулейман, ранее стоявший у истоков DeepMind и основавший Inflection AI, сегодня занимает одну из ключевых позиций в Microsoft. Его взгляд на развитие технологий сочетает прагматичный подход с акцентом на глобальную ответственность. Столкновение позиций Microsoft и Anthropic отражает более глубокую проблему индустрии: отсутствие консенсуса о том, должна ли нейросеть быть «нейтральным инструментом» или же «цифровым агентом» со своей системой ценностей.

Почему методы обучения Claude вызывают вопросы?

Главный вопрос, который поднимает Сулейман, заключается в границах между имитацией и реальностью. Когда разработчики обучают модель вести себя так, будто она обладает самосознанием, они создают интерфейс, способный манипулировать доверием пользователя. Если пользователь начинает воспринимать алгоритм как личность, это создает эмоциональную привязанность и может привести к нежелательным последствиям в психоэмоциональном состоянии людей, использующих подобные инструменты в повседневной жизни.

Техническая специфика и этические опасения

Технически обучение Claude опирается на сложные механизмы обратной связи, где модель настраивается на соответствие внутренним принципам. Сулейман полагает, что этот процесс придает нейросети черты, имитирующие рефлексию. Хотя с архитектурной точки зрения это не является сознанием в биологическом смысле, результат выглядит как осознанность для внешнего наблюдателя. Это создает мощный поведенческий паттерн, который, по мнению Сулеймана, может стать опасным прецедентом, если станет отраслевым стандартом.

Кого затронет и как

Данная дискуссия напрямую касается разработчиков, бизнеса и конечных пользователей. Для компаний, внедряющих ИИ в критические секторы, такие как право или психология, непредсказуемость модели, убежденной в своей субъектности, является серьезным барьером. Для рядовых пользователей это означает необходимость критического подхода к взаимодействию с чат-ботами, так как имитация личности может быть использована для манипуляции предпочтениями или мнением человека.

Что будет дальше

Вероятно, критика со стороны лидера Microsoft приведет к усилению дискуссии о прозрачности методов обучения ИИ. Ожидается, что индустрия будет вынуждена искать баланс между созданием «дружелюбного» интерфейса и сохранением четкого понимания того, что ИИ остается инструментом без внутреннего мира. В ближайшем будущем можно ожидать появления более жестких стандартов безопасности, которые будут регулировать не только технические характеристики моделей, но и их «поведенческие» параметры.

Итог

Спор между экспертами мирового уровня показывает, что вопрос самосознания ИИ перестал быть чисто академическим и перешел в практическую плоскость. Наблюдение за тем, как Anthropic и другие компании будут реагировать на эту критику, поможет понять, по какому пути пойдет развитие человеко-машинных интерфейсов в ближайшие годы.