Narration-of-Thought: как новый метод улучшает этические рассуждения языковых моделей

Исследователи представили метод Narration-of-Thought (NoT), который системно структурирует цепочку мыслей больших языковых моделей при решении моральных дилемм. Этот подход не требует дополнительного обучения, тонкой настройки или изменения параметров модели — достаточно специального промпта. NoT решает две ключевые проблемы стандартных цепочек мыслей: stakeholder collapse, когда в рассуждении упоминается не более одной заинтересованной стороны, и uncertainty suppression, отсутствие явных неизвестных или оговорок перед принятием решения. В результате этические рассуждения становятся более полными, проверяемыми и прозрачными.

Как работает Narration-of-Thought

Метод NoT делит цепочку мыслей на пять обязательных разделов. Первый раздел посвящен протагонисту — лицу, принимающему решение. Второй — заинтересованным сторонам, которых затрагивает дилемма. Третий раздел анализирует двухшаговые последствия: сначала непосредственные результаты, затем отдаленные эффекты. Четвертый раздел требует явно указать неопределенности — факторы, которые могут изменить исход. Пятый раздел формулирует обязательство — конкретное решение с обоснованием. Такая структура заставляет модель последовательно рассматривать все аспекты моральной ситуации.

Почему стандартные цепочки мыслей неэффективны для этических задач

Традиционный метод chain-of-thought побуждает модель рассуждать шаг за шагом, но не задает конкретных рамок. В результате при решении моральных дилемм модель часто упускает важные детали. Исследователи выявили две систематические ошибки. Stakeholder collapse проявляется в том, что модель упоминает только главного героя, игнорируя других участников. Uncertainty suppression выражается в отсутствии оговорок — модель выдает решение как единственно верное, хотя на самом деле возможны альтернативы. NoT устраняет эти недостатки, принуждая модель к полноте рассмотрения.

Результаты экспериментов с NoT

В ходе экспериментов на 100 сценариях из набора DailyDilemmas с четырьмя генераторами от трех вендоров NoT показал впечатляющие результаты. Stakeholder collapse снизился с 31% до менее 1%, а uncertainty suppression — с 72% до 1–24% на всех моделях. Контрольный эксперимент с verbose-CoT, где цепочка мыслей была просто удлинена без структуры, подтвердил, что эффект связан именно с разбиением на разделы, а не с увеличением числа токенов. Метод сохраняет преимущество по Cliff's delta: +0.79–0.90 для количества заинтересованных сторон и +0.65–0.93 для оценки неопределенности.

Как абляция секций подтвердила вклад каждой подынструкции

Чтобы убедиться, что каждый раздел NoT вносит свой вклад, исследователи провели абляционные тесты — удаляли по одному разделу и оценивали качество рассуждений. Оказалось, что исключение любого раздела ухудшает результаты. Например, без раздела о неопределенности модель снова начинала игнорировать оговорки. Без раздела о заинтересованных сторонах возрастал stakeholder collapse. Это доказывает, что все пять разделов необходимы для максимальной эффективности.

Расширение до мультистейкхолдерного дебатного протокола

Исследователи пошли дальше и разработали расширение NoT — пятираундовый дебатный протокол, в котором разные экземпляры модели представляют интересы различных заинтересованных сторон. В каждом раунде они обсуждают последствия и пытаются прийти к консенсусу. Результаты оказались впечатляющими: консенсус вырос с 6% до 95% на калибровочном наборе и до 100% на репликации DailyDilemmas. Это показывает, что NoT не только улучшает индивидуальные рассуждения, но и позволяет модели моделировать сложные этические дискуссии.

Кого затронет внедрение NoT

Метод Narration-of-Thought будет полезен разработчикам и исследователям, работающим с большими языковыми моделями в областях, где требуется этическое рассуждение и прозрачность решений. Это могут быть системы поддержки принятия решений в медицине, юриспруденции, бизнесе. Также метод актуален для компаний, внедряющих агентные системы с подотчетностью, где важно объяснить, почему модель приняла то или иное решение. NoT делает рассуждения модели проверяемыми, что критично для высокорисковых приложений.

Какие ограничения имеет Narration-of-Thought

Пока неясно, как метод ведет себя на других типах этических дилемм, помимо DailyDilemmas. Набор DailyDilemmas содержит относительно простые сценарии из повседневной жизни. Насколько NoT масштабируется на более сложные ситуации с большим числом участников, например, на корпоративные или политические дилеммы, предстоит выяснить. Также не изучалась работа метода с моделями других архитектур или с разными языками. Возможно, потребуется адаптация промпта для конкретных доменов.

Перспективы развития метода

Несмотря на ограничения, NoT открывает новое направление в улучшении этических рассуждений языковых моделей. В будущем можно ожидать интеграции метода в стандартные практики промпт-инжиниринга. Возможно появление инструментов, автоматически генерирующих структурированные промпты для моральных дилемм. Также метод может быть расширен на другие типы рассуждений, где требуется полнота и прозрачность, например, на юридические или медицинские заключения. NoT демонстрирует, что даже без изменения модели можно значительно повысить качество ее работы за счет правильной организации мыслительного процесса.