OpenAI снизил небезопасные ответы ChatGPT на 80%: как ИИ научился эмпатии

OpenAI объявил о значительном улучшении способности ChatGPT вести деликатные разговоры. В сотрудничестве с более чем 170 специалистами по психическому здоровью компания доработала модель, чтобы она лучше распознавала признаки эмоционального дистресса, давала эмпатичные ответы и направляла пользователей к профессиональной поддержке. В результате количество небезопасных ответов сократилось на 80%. Это важный шаг в развитии ответственного ИИ, особенно в чувствительных областях, таких как психическое здоровье.

Почему это важно для пользователей Миллионы людей обращаются к ИИ-ассистентам в моменты стресса или кризиса. Неадекватная реакция может усугубить состояние пользователя. Улучшение эмпатии и точности ChatGPT в таких ситуациях не только повышает безопасность, но и демонстрирует ответственный подход к разработке ИИ. Пользователи теперь могут рассчитывать на более чуткие и корректные ответы в сложных эмоциональных ситуациях.

Как OpenAI улучшил ChatGPT для деликатных разговоров OpenAI привлек экспертов из организаций, включая Mental Health America и National Suicide Prevention Lifeline. Специалисты помогли разработать новые правила поведения модели, обучить её распознавать косвенные признаки дистресса и предлагать проверенные ресурсы, такие как горячие линии. Тестирование показало снижение числа небезопасных или вредных ответов на 80% по сравнению с предыдущей версией. Модель теперь лучше понимает нюансы эмоционального состояния и избегает советов, которые могут навредить.

Какие сценарии были улучшены Хотя OpenAI не раскрыл точные метрики оценки небезопасных ответов, известно, что изменения коснулись сценариев, связанных с тревогой, депрессией, суицидальными мыслями и другими эмоциональными кризисами. Модель стала реже давать банальные или опасные советы, а вместо этого предлагает обратиться к профессионалам. Например, если пользователь пишет о чувстве безнадежности, ChatGPT теперь может ответить: "Мне жаль, что вы чувствуете это. Важно поговорить с кем-то, кто может помочь. Вы можете позвонить на линию поддержки по номеру..."

Кого затронут изменения Изменения коснутся всех пользователей ChatGPT, включая бесплатных и подписчиков Plus. Особенно важны эти улучшения для людей, переживающих эмоциональные трудности, а также для организаций, использующих ChatGPT в службах поддержки или образовательных проектах. Теперь любой пользователь может чувствовать себя безопаснее, обращаясь к ИИ в уязвимые моменты.

Что осталось неизвестным OpenAI не раскрыл точные метрики оценки небезопасных ответов и не уточнил, какие именно сценарии были улучшены. Также пока нет информации о планах по регулярному обновлению модели с учётом новых данных от экспертов. Возможно, в будущем компания опубликует более подробные отчеты о результатах тестирования.

Будущее эмпатичного ИИ Это обновление — часть более широкой тенденции к созданию ИИ, который учитывает эмоциональное состояние пользователей. В будущем мы можем ожидать, что ChatGPT и другие ассистенты станут еще более чуткими и смогут адаптироваться к индивидуальным потребностям. OpenAI продолжает сотрудничать с экспертами, чтобы сделать ИИ безопасным и полезным для всех.