Обучение социальным нормам улучшает координацию между человеком и ИИ

Взаимодействие с искусственным интеллектом часто кажется неестественным: роботы и алгоритмы не понимают негласных правил, которые люди используют каждый день. Однако новое исследование показывает, что обучение AI-систем социальным нормам может кардинально улучшить качество совместной работы. Ученые разработали метод, позволяющий AI-агентам, включая большие языковые модели (LLM), учитывать эти нормы при взаимодействии с людьми. В экспериментах с пешеходно-автомобильными взаимодействиями AI-агент, обученный социальным нормам, превзошел базовые стратегии и даже человеческие пары. Это открытие может изменить подход к созданию автономных автомобилей, роботов-помощников и других систем, где требуется плавная координация с человеком.

Почему социальные нормы критичны для ИИ Современные AI-системы часто ведут себя неестественно в социальных контекстах, игнорируя негласные правила, которые люди усваивают с детства. Например, водитель-человек может уступить дорогу пешеходу, даже если формально имеет преимущество, просто из вежливости. Автономный автомобиль без понимания социальных норм может действовать строго по правилам, что приводит к неловким ситуациям или даже авариям. Формализация социальных норм может сделать взаимодействие с ИИ более комфортным и эффективным, что критично для автономных автомобилей, роботов-помощников и других приложений. Исследователи подчеркивают, что без учета этих норм AI-системы остаются "социально слепыми", что ограничивает их принятие обществом.

Как ученые обучали ИИ социальным нормам Создание платформы для моделирования взаимодействий Исследователи создали упрощенную платформу для моделирования взаимодействия пешеходов и автомобилей. В ходе экспериментов они собрали 3456 примеров динамических взаимодействий, где пешеходы и автомобили должны были координировать свои действия. На основе этих данных были выявлены три ключевых принципа социальных норм: предсказуемость результата, согласованность ценностей и осведомленность о преимуществах. Предсказуемость означает, что действия AI должны быть ожидаемы для человека; согласованность ценностей — что AI должен разделять приоритеты человека (например, безопасность); осведомленность о преимуществах — что AI должен понимать, как его действия влияют на общий результат.

Интеграция норм в большие языковые модели При интеграции этих принципов в LLM, AI-агент достиг почти четырехкратного улучшения общего счета по сравнению с базовой стратегией и на 43% превзошел взаимодействия между людьми. Это означает, что ИИ, обученный социальным нормам, не только лучше понимает намерения человека, но и способен предлагать более эффективные сценарии совместных действий. В тестах AI-агент быстрее принимал решения, реже создавал конфликтные ситуации и лучше адаптировался к поведению человека.

Какие социальные нормы были выявлены Три принципа социальных норм Исследователи выделили три универсальных принципа, которые можно применить к различным сценариям взаимодействия. Первый принцип — предсказуемость результата: AI должен действовать так, чтобы человек мог предвидеть его следующие шаги. Второй — согласованность ценностей: AI должен стремиться к тем же целям, что и человек, например, к безопасности или эффективности. Третий — осведомленность о преимуществах: AI должен учитывать, как его действия влияют на общий успех взаимодействия. Эти принципы были формализованы в виде математических функций, которые LLM может использовать для принятия решений.

Примеры из эксперимента В эксперименте с пешеходом и автомобилем AI-агент, следуя этим нормам, выбирал такие действия, которые минимизировали неопределенность для пешехода. Например, если пешеход начинал переходить дорогу, AI-агент замедлялся, даже если имел преимущество, чтобы пешеход чувствовал себя в безопасности. В результате взаимодействие становилось более плавным и быстрым, чем в парах людей-водителей.

Кого затронет это исследование Разработчики AI-систем В первую очередь результаты важны для разработчиков AI-систем, особенно в областях автономного транспорта, робототехники и виртуальных ассистентов. Внедрение социальных норм может повысить доверие пользователей к таким системам и улучшить их производительность. Например, робот-помощник, понимающий социальные нормы, будет лучше взаимодействовать с людьми в доме или офисе.

Исследователи human-AI interaction Также исследование представляет интерес для ученых, изучающих взаимодействие человека и ИИ. Оно предлагает конкретный метод формализации социальных норм, который можно адаптировать для других контекстов, таких как переговоры, совместная работа или игры. Это открывает новые направления для исследований в области социальной робототехники.

Что пока неизвестно Универсальность принципов Несмотря на впечатляющие результаты, пока неясно, насколько универсальны выявленные принципы для других типов взаимодействий. Например, в переговорах или совместной работе нормы могут отличаться. Требуется дальнейшая проверка на более сложных и реалистичных сценариях, таких как городское движение с множеством участников или взаимодействие в толпе.

Ограничения текущего исследования Кроме того, эксперименты проводились в упрощенной среде, где все участники следовали определенным правилам. В реальном мире люди могут вести себя непредсказуемо, и AI должен быть готов к таким ситуациям. Исследователи планируют расширить свою платформу, включив в нее больше факторов, таких как эмоциональное состояние человека или культурные различия в социальных нормах.

Перспективы применения Автономные автомобили Одним из наиболее перспективных применений является разработка автономных автомобилей, которые могут безопасно и комфортно взаимодействовать с пешеходами. Учет социальных норм позволит таким автомобилям предсказывать поведение людей и принимать решения, которые не вызовут стресса у окружающих.

Роботы-помощники и виртуальные ассистенты В робототехнике социальные нормы помогут создать роботов, которые естественно впишутся в человеческую среду. Например, робот-уборщик, понимающий, что не следует мешать людям во время разговора, будет более принят в офисах. Виртуальные ассистенты, такие как голосовые помощники, смогут лучше интерпретировать просьбы, учитывая контекст и социальные ожидания.

Заключение Обучение ИИ социальным нормам — это шаг к созданию систем, которые не только эффективны, но и приятны в использовании. Исследование показывает, что формализация негласных правил может значительно улучшить координацию между человеком и машиной. Хотя предстоит еще много работы, этот подход обещает сделать взаимодействие с ИИ более естественным и безопасным.