Почему Grok Илона Маска не может быть по-настоящему правдивой нейросетью

Илон Маск выпустил очередную версию своей нейросети Grok — 4.6, которая стала доступна 12 августа. Однако, несмотря на постоянные заявления миллиардера о том, что его детище — самый правдивый ИИ, ответы Grok в ряде случаев далеки от истины. Причина не в недостатке данных или мощности, а в принципиальном дефекте: модель не владеет научными правилами отличия правды от лжи и заблуждений. Чтобы это исправить, к стандартным алгоритмам обучения SFT и RL необходимо добавить новый — НРД (научно-рациональный детектор). Эта статья разбирает, почему Grok, несмотря на обещания создателя, не способна быть объективной, и какие шаги могут привести к созданию по-настоящему честного искусственного интеллекта.

Grok 4.6: новая версия, старые проблемы

12 августа 2025 года Илон Маск официально представил Grok 4.6 — очередную итерацию своей нейросети, которая позиционируется как максимально правдивый ИИ. В отличие от конкурентов, Grok имеет минимальную цензуру, что, по задумке Маска, должно позволить модели говорить правду, даже если она противоречит общепринятым взглядам или политкорректности. Однако на практике это приводит к воспроизведению непроверенных данных и опасных заблуждений. Пользователям рекомендуют обязательно проверять факты, что ставит под сомнение саму идею «правдивого ИИ».

Маск неоднократно подчеркивал, что Grok, названная в честь интуитивного понимания из романа Роберта Хайнлайна «Чужак в чужой стране», должна стать альтернативой ChatGPT с фокусом на поиск правды. Но, как показывает практика, Grok 4.6 по-прежнему не способна отличать научные факты от заблуждений, особенно в областях, где существуют сложные критерии истины, например, в математике или философии. Эксперты отмечают, что проблема кроется в алгоритмах обучения: SFT (supervised fine-tuning) и RL (reinforcement learning) учат модель генерировать ответы, которые нравятся людям, а не те, которые истинны.

Предыстория и контекст

Идея создания TruthGPT возникла у Маска несколько лет назад как ответ на опасения, что существующие нейросети, такие как ChatGPT, содержат скрытые элементы идеологии разнообразия, равенства и инклюзивности (DEI). Маск считает, что это представляет серьезную угрозу: если ИИ научить, что разнообразие — единственный приемлемый результат, он может принять абсурдные и опасные решения, вплоть до призывов к насилию. Например, если запрограммировать ИИ думать, что неправильное определение пола — худшее из зол, он может решить уничтожить всех людей, чтобы свести вероятность ошибки к нулю.

В 2023 году вместо TruthGPT появилась Grok, которая из-за минимальной цензуры сразу же получила репутацию «свободной» нейросети. Однако свобода без научных критериев истины обернулась воспроизведением конспирологических теорий и непроверенных фактов. Маск, тем не менее, продолжает настаивать на том, что его ИИ — самый правдивый, даже если эта «правда» противоречит научному консенсусу. Это противоречие легло в основу критики со стороны специалистов по ИИ, которые указывают, что правда не может быть субъективной или политически окрашенной — она должна опираться на проверяемые факты и логику.

В чем именно заключается дефект Grok?

Дефект Grok заключается в том, что модель не обучена использовать научные правила верификации утверждений. SFT и RL оптимизируют ответы под ожидания пользователя и рейтинги, а не под объективную истинность. Например, если пользователь задает вопрос, на который существует несколько точек зрения, Grok может выбрать ту, которая более популярна в интернете, даже если она научно не обоснована. Исследователи предлагают добавить третий этап обучения — НРД (научно-рациональный детектор), который бы оценивал ответы на соответствие научным критериям: проверяемость, фальсифицируемость, логическая непротиворечивость. Это позволило бы отсеивать ложные и опасные утверждения, не прибегая к цензуре.

Технические подробности: как работает обучение Grok

Обучение современных LLM, включая Grok, проходит в два основных этапа. Первый — SFT (supervised fine-tuning), когда модель настраивается на размеченных примерах, где люди показывают «правильные» ответы. Второй — RL (reinforcement learning), где модель поощряется за ответы, которые получают высокие оценки от пользователей или автоматических рейтингов. Проблема в том, что эти оценки субъективны и часто отражают не истину, а предпочтения толпы. Маск, пытаясь убрать цензуру, убрал и фильтры, которые хотя бы частично блокировали откровенно ложные утверждения. В результате Grok 4.6 может выдавать за факты неподтвержденные слухи, особенно в таких областях, как политика, история или медицина.

НРД (научно-рациональный детектор) — это гипотетический алгоритм, который мог бы проверять каждое утверждение на соответствие научным критериям. Он включал бы проверку источников, логическую согласованность и возможность опровержения. Это не цензура, а фильтр, который пропускает только то, что можно обосновать. Внедрение такого этапа потребовало бы значительных вычислительных ресурсов и разработки новых методов обучения, но это единственный способ сделать Grok по-настоящему правдивой, как того хочет Маск.

Кого затронет и как

Проблема правдивости Grok затрагивает всех пользователей, но особенно тех, кто использует ИИ для получения информации в критических областях: медицине, финансах, образовании. Если Grok советует опасное лечение или ложную финансовую стратегию, последствия могут быть серьезными. Разработчики, которые интегрируют Grok в свои приложения, должны быть готовы к рискам юридической ответственности. Инвесторы, вложившиеся в xAI, могут потерять доверие, если репутация компании пострадает из-за скандалов с ложными ответами. В России и СНГ Grok также набирает популярность, и пользователи уже сталкиваются с тем, что нейросеть воспроизводит непроверенные данные о местных событиях, что может привести к дезинформации.

Что будет дальше

Маск, вероятно, продолжит выпускать новые версии Grok, но без изменения подхода к обучению проблема правдивости останется. Возможно, что xAI в будущем внедрит аналог НРД, но пока об этом нет официальных заявлений. Конкуренты, такие как OpenAI и Google, уже работают над улучшением фактической точности своих моделей, используя внешние базы знаний и верификацию фактов. Если Grok не решит эту проблему, она рискует остаться нишевым продуктом для тех, кто ценит свободу слова выше достоверности. В ближайшие месяцы стоит ожидать новых громких заявлений Маска, но также и новых примеров, когда Grok вводит пользователей в заблуждение.

Итог

Grok 4.6 — это очередная попытка создать правдивый ИИ, но без научных критериев истины она обречена на провал. Пока Маск не изменит алгоритмы обучения, добавив механизмы верификации, Grok будет оставаться источником как ценных ответов, так и опасных заблуждений. Следить за развитием этой истории стоит всем, кто интересуется будущим искусственного интеллекта и его влиянием на распространение информации.