Почему ChatGPT заставляет нас забыть «я не знаю»: исследование и тест

Регулярное использование ИИ-ассистентов, таких как ChatGPT, снижает частоту, с которой люди говорят «я не знаю», и повышает уверенность в собственных знаниях, даже если они ошибочны. К такому выводу пришли учёные из Университета Карнеги-Меллона, опубликовавшие исследование в журнале Nature Human Behaviour. Журналисты Tom's Guide провели собственный эксперимент, подтвердивший эти опасения: в 85% случаев ChatGPT выдаёт уверенный ответ, даже если он неверен, а пользователи всё реже сомневаются в информации от ИИ.

Как исследование выявило снижение «я не знаю»

Учёные из Университета Карнеги-Меллона провели серию экспериментов, в которых участники отвечали на вопросы из разных областей знаний. Одной группе разрешили использовать ChatGPT, другой — нет. Результаты показали, что те, кто пользовался ИИ, в два раза реже отвечали «я не знаю» даже на сложные вопросы, при этом точность их ответов была не выше, чем у контрольной группы. Более того, после завершения эксперимента участники, работавшие с ChatGPT, были более уверены в своих знаниях, хотя объективно их уровень не изменился. Это говорит о том, что ИИ не просто даёт ответы, но и меняет восприятие собственной компетентности.

Почему ИИ так убедительно выглядит?

Ключевой механизм — беглость ответа. Когда ChatGPT выдаёт гладкий, грамматически правильный текст, наш мозг воспринимает его как заслуживающий доверия, даже если факты неверны. Исследователи называют это «эффектом беглости»: чем легче обрабатывается информация, тем выше мы оцениваем её достоверность. В эксперименте участники, которые видели ответы ChatGPT, тратили меньше времени на обдумывание и реже перепроверяли факты. Кроме того, ИИ редко говорит «я не знаю» — он скорее сгенерирует plausible-sounding ответ, что подкрепляет ложное чувство уверенности. Нейробиологи объясняют это эффектом «когнитивной разгрузки»: мозг перестаёт тратить ресурсы на проверку информации, делегируя эту работу ИИ. В долгосрочной перспективе это может привести к атрофии критического мышления.

Тест журналиста: что показал эксперимент

Журналист Tom's Guide провёл собственный тест: он задавал ChatGPT вопросы из разных областей — от истории до физики — и фиксировал, насколько часто модель даёт неверные или неполные ответы, не указывая на свою неуверенность. Оказалось, что только в 15% случаев ChatGPT признавал незнание (например, отвечая «я не уверен» или «это может быть неточно»). В остальных 85% он выдавал уверенный ответ, даже если тот был ошибочным. Например, на вопрос о столице Австралии модель уверенно назвала Сидней, хотя правильный ответ — Канберра. При этом формулировка была настолько убедительной, что журналист сам усомнился в своих знаниях. Этот тест наглядно демонстрирует, как ИИ может вводить в заблуждение даже опытных пользователей.

Как ИИ меняет наше мышление на практике?

Проблема чрезмерного доверия к ИИ не нова. Ещё в 2020 году исследователи заметили, что люди склонны переоценивать точность рекомендаций алгоритмов, особенно в областях, где у них мало собственных знаний. Однако с выходом ChatGPT в 2022 году масштаб явления резко вырос. Генеративные модели отвечают быстро и уверенно, что создаёт иллюзию компетентности. В образовании это может привести к снижению навыков самостоятельного поиска и критического анализа. Для бизнеса использование ИИ без проверки фактов чревато репутационными рисками и финансовыми потерями. В России и странах СНГ ситуация усугубляется тем, что многие используют бесплатные версии ИИ, которые менее точны. Особенно уязвимы новички в какой-либо области — они склонны доверять ChatGPT больше, чем эксперты, которые могут заметить ошибку.

Что будет дальше: как защититься от иллюзии всезнания

Исследователи призывают разработчиков ИИ внедрять механизмы, которые заставляли бы модель чаще указывать на свою неуверенность. Например, ChatGPT уже умеет сообщать о нехватке данных, но делает это редко. В будущем могут появиться стандарты, обязывающие ИИ-ассистентов явно обозначать степень достоверности ответа. Пока же пользователям рекомендуется критически оценивать информацию, полученную от ИИ, и перепроверять факты по первоисточникам. Важно помнить, что ИИ — это инструмент, а не замена собственному разуму. Развитие навыков критического мышления и скептицизма по отношению к автоматически сгенерированным ответам поможет избежать когнитивных ловушек.

Итог

Исследование подтверждает то, о чём давно предупреждали эксперты: ИИ не только помогает, но и меняет наше мышление, снижая готовность признавать незнание. Пока мы не научимся использовать ИИ как инструмент, а не замену собственному разуму, риск остаться в плену иллюзии всезнания будет только расти. Следите за новыми исследованиями в этой области — возможно, следующее открытие заставит нас пересмотреть отношение к ИИ.