Ученые с ИИ публикуют больше, но хуже: прогноз моделирования

Использование больших языковых моделей (LLM) в научной работе обещает рост продуктивности, но скрывает серьезную угрозу: исследователи, активно полагающиеся на ИИ, рискуют выпускать больше статей, но с меньшей научной ценностью. К такому выводу пришла группа ученых, опубликовавшая результаты компьютерного моделирования в журнале Nature. Согласно их прогнозам, к 2026 году до четверти всех научных работ может создаваться с помощью ИИ, что приведет к снижению среднего качества исследований и замедлению реальных открытий. Это не просто гипотеза, а результат сложного агентного моделирования, которое имитирует поведение научного сообщества в условиях массового внедрения LLM.

Модель, разработанная исследователями, учитывает множество факторов: от доли ученых, использующих ИИ, до того, насколько глубоко они делегируют модели ключевые этапы анализа. Оказалось, что в долгосрочной перспективе это приводит к так называемому «эффекту плацебо»: исследователи верят, что ИИ повышает их продуктивность, но на деле объем новых знаний растет медленнее, а количество «мусорных» публикаций увеличивается. Авторы подчеркивают, что их работа — не приговор, а предупреждение: без пересмотра норм научной этики и стандартов проверки результатов мы рискуем получить лавину некачественных исследований.

Моделирование показывает: количество растет, качество падает

В исследовании, опубликованном в Nature 19 февраля 2026 года, ученые использовали агентное моделирование, чтобы оценить, как внедрение LLM повлияет на научную продуктивность. Они варьировали параметры: от доли ученых, использующих ИИ, до уровня «лени» — насколько часто исследователи перекладывают на модель не только рутинные задачи, но и ключевые этапы анализа. Результаты оказались неоднозначными: при умеренном использовании ИИ (до 10% задач) качество даже немного растет, но при массовом внедрении (более 30%) начинается деградация.

Ключевой механизм — «эффект плацебо»: ученые, доверяющие LLM, перестают критически оценивать результаты, что ведет к накоплению ошибок и поверхностных выводов. Модель также предсказывает, что через пять лет после массового внедрения ИИ средняя цитируемость статей упадет на 15–20%, а количество ретракций (отзывов публикаций) вырастет втрое. Авторы подчеркивают, что их прогнозы — не фатальность, а сценарий, который можно изменить, если научное сообщество выработает четкие правила использования ИИ.

Что такое «эффект плацебо» в контексте ИИ?

«Эффект плацебо» в данном контексте означает, что ученые переоценивают пользу LLM: они чувствуют, что стали продуктивнее, но на деле их работа не становится глубже. Модель показывает, что это происходит из-за «когнитивной разгрузки»: исследователи перестают запоминать детали и критически осмысливать результаты, полагаясь на ИИ. В результате они публикуют больше статей, но каждая из них содержит меньше новых знаний.

Этот эффект особенно опасен в областях, где сложно провести воспроизводимые эксперименты, например, в социальных науках или медицине. Авторы исследования подчеркивают, что «эффект плацебо» можно преодолеть, если внедрить обязательную проверку ИИ-сгенерированных результатов и обучать ученых критически оценивать выводы моделей.

Предыстория: как LLM уже меняют науку

Интерес к использованию LLM в науке возник задолго до появления ChatGPT. Еще в 2020-х годах модели, подобные GPT-3, использовались для генерации текстов, но их применение ограничивалось черновиками и переводами. Ситуация изменилась после выхода GPT-4 и последующих версий, которые научились анализировать данные, писать код и даже предлагать гипотезы. Сегодня, по данным опросов, около 40% исследователей хотя бы раз использовали LLM в своей работе, а в некоторых областях — например, в биоинформатике — этот показатель превышает 60%.

Однако научное сообщество разделилось: одни видят в LLM мощный инструмент для ускорения открытий, другие опасаются, что ИИ подорвет основы научного метода. Предыдущие исследования уже показывали, что ИИ может генерировать правдоподобные, но ложные результаты, а также усиливать предвзятость. Новое моделирование добавляет количественные оценки: оно впервые связывает масштабы использования LLM с долгосрочными последствиями для всей научной экосистемы.

Технические детали моделирования

Агентное моделирование, использованное в работе, имитирует поведение тысяч виртуальных ученых, каждый из которых принимает решения о публикациях, цитировании и использовании ИИ. Модель учитывает такие факторы, как «стоимость» генерации статьи (время и ресурсы), «качество» результата (вероятность быть принятым в хороший журнал) и «репутацию» ученого. Параметры калибровались на реальных данных о публикационной активности за последние десять лет.

Одним из ключевых выводов стало то, что «порог деградации» наступает, когда более 30% ученых начинают использовать LLM для генерации ключевых идей. При этом даже умеренное использование (10–20%) может быть полезным, если ИИ применяется только для рутинных задач — форматирования, поиска литературы, первичного анализа данных. Авторы также отмечают, что их модель не учитывает возможные «умные» стратегии использования ИИ, например, когда ученые используют LLM для генерации альтернативных гипотез, но проверяют их экспериментально.

Кого затронет и как

В первую очередь изменения затронут молодых ученых и аспирантов, которые чаще других используют LLM для ускорения своей работы. Им грозит риск выучить «ленивые» подходы и не развить навыки критического мышления. Для опытных исследователей опасность в другом: они могут потерять способность отличать важные результаты от шума, если будут полагаться на ИИ при рецензировании.

Научные журналы и издательства также окажутся под давлением: им придется внедрять новые инструменты для выявления ИИ-сгенерированного контента и проверки достоверности данных. В России и СНГ, где наука часто финансируется по количеству публикаций, риск особенно велик: гонка за «валом» статей может стимулировать массовое использование LLM без должного контроля. Уже сейчас некоторые российские журналы вводят обязательное раскрытие использования ИИ, но единых стандартов пока нет.

Что будет дальше

Авторы исследования призывают научное сообщество к срочным действиям: разработать этические нормы использования LLM, создать инструменты для проверки результатов, а также пересмотреть критерии оценки научной продуктивности — в сторону качества, а не количества. Ожидается, что в ближайшие годы ведущие научные фонды, такие как NSF и РНФ, введут обязательные требования к раскрытию использования ИИ в заявках на гранты.

Возможен и более оптимистичный сценарий: если ученые научатся использовать LLM как «ассистентов», а не «замену» мышлению, качество исследований может вырасти. Модель показывает, что при «умном» использовании (когда ИИ генерирует гипотезы, но все выводы проверяются экспериментально) научный прогресс ускоряется на 10–20%. Однако для этого потребуется серьезная перестройка научной культуры и образования.

Итог

Массовое использование LLM в науке — это палка о двух концах: оно может ускорить открытия, но без контроля рискует превратить научные публикации в «фабрику мусора». Исследование Nature дает четкий сигнал: пора вырабатывать правила, пока эффект плацебо не стал реальностью. Следить за этой темой стоит каждому, кто связан с наукой — от аспирантов до руководителей институтов, ведь от того, как мы ответим на вызов ИИ, зависит будущее научного знания.