Фреймворк G-Frame снижает галлюцинации ИИ на 79%: что это значит для науки

Новый фреймворк G-Frame, основанный на теории игр, позволяет снизить уровень галлюцинаций у языковых моделей на 79%. Это открытие, сделанное группой исследователей, может кардинально изменить подход к использованию искусственного интеллекта в научных дисциплинах, где точность данных имеет первостепенное значение. Разработка объединяет байесовские и командные игровые принципы для автоматизированного синтеза данных и обучения моделей, что позволяет создавать более надежные и точные системы.

Как работает G-Frame

G-Frame представляет собой адаптивный многолетний фреймворк, который интегрирует байесовские и командные игровые принципы. Основная идея заключается в том, чтобы принудить модель к интернализации доменных ограничений через структурированные рассуждения. Вместо того чтобы просто имитировать языковые шаблоны, модель учится аксиоматически рассуждать в рамках заданной предметной области. Это достигается за счет синтеза большого корпуса данных, включающего 363 045 цепочек рассуждений (CoT) и 199 589 пар вопрос-ответ. Такой подход позволяет модели не только запоминать факты, но и понимать логические связи между ними.

Каких результатов удалось достичь

На основе G-Frame была создана модель OmniChem с 7 миллиардами параметров. В тестах на пользовательских бенчмарках и специализированном наборе ChemBench эта модель достигла паритета с GPT-4o mini, которая значительно превосходит ее по размеру. При этом уровень галлюцинаций снизился на 79,46% по сравнению с базовой архитектурой. Это означает, что OmniChem гораздо реже выдает ложные или неточные сведения, что критически важно для таких областей, как химия, где ошибки могут привести к неверным выводам или даже опасным ситуациям.

Почему легковесные модели часто ошибаются

Легковесные языковые модели, как правило, имеют ограниченные вычислительные ресурсы и обучаются на больших, но не всегда качественных наборах данных. В результате они часто полагаются на статистические закономерности в языке, а не на глубокое понимание предмета. Это приводит к тому, что модель может сгенерировать правдоподобный, но фактически неверный ответ — явление, известное как галлюцинация. В научных доменах, где каждое утверждение должно быть обосновано, такие ошибки недопустимы. G-Frame решает эту проблему, заставляя модель следовать строгим логическим правилам и проверять свои выводы на соответствие аксиомам.

Какие возможности открывает OmniChem

OmniChem демонстрирует продвинутые возможности в молекулярном дизайне и планировании синтеза. Это означает, что модель может не только анализировать существующие химические соединения, но и предлагать новые структуры, а также разрабатывать пошаговые планы их синтеза. Такие задачи требуют высокой точности и понимания сложных химических закономерностей, что ранее было доступно только крупным моделям или экспертам-людям. Благодаря снижению галлюцинаций, OmniChem может стать надежным инструментом для исследователей в области хемоинформатики и материаловедения.

Как G-Frame может изменить научные исследования

Применение G-Frame не ограничивается химией. Фреймворк может быть адаптирован для других научных доменов, где важны аксиоматические рассуждения, например, физики или биологии. Однако пока неизвестны детали архитектуры G-Frame и его применимость к другим областям. Исследователи не раскрыли, будет ли исходный код и данные открытыми, что может замедлить внедрение технологии. Тем не менее, сам подход уже показывает впечатляющие результаты и может стать основой для нового поколения легковесных моделей, которые будут не только компактными, но и точными.

Кого затронет эта разработка

В первую очередь G-Frame и OmniChem будут полезны разработчикам легковесных языковых моделей, которые стремятся повысить их надежность без значительного увеличения вычислительных затрат. Также технология заинтересует исследователей в области хемоинформатики и материаловедения, которые нуждаются в точных инструментах для анализа и прогнозирования. Наконец, специалисты, работающие с правилами и аксиомами в научных приложениях, смогут использовать G-Frame для создания более достоверных систем искусственного интеллекта.

Что пока остается неизвестным

Несмотря на успешные тесты, многие детали остаются за кадром. Исследователи не опубликовали полную архитектуру G-Frame, что затрудняет его воспроизведение и адаптацию. Также неясно, насколько хорошо фреймворк будет работать в других научных областях, таких как физика или биология, где аксиомы и правила могут быть менее формализованы. Кроме того, отсутствие открытого исходного кода и данных может ограничить распространение технологии. Однако если эти вопросы будут решены, G-Frame может стать стандартом для создания точных и надежных языковых моделей в науке.