OpenAI усиливает защиту подростков и внедряет родительский контроль в ChatGPT

OpenAI объявила о масштабном обновлении ChatGPT, которое существенно повышает безопасность несовершеннолетних пользователей. Компания внедряет родительский контроль, усиливает защиту конфиденциальности и привлекает экспертов по детской безопасности для разработки новых политик. Это решение вызвано растущей популярностью ChatGPT среди подростков, которые используют чат-бот для учёбы, общения и развлечений, что создаёт риски доступа к неподходящему контенту или небезопасным разговорам.

Почему безопасность подростков стала приоритетом

Подростки активно используют ChatGPT: по данным OpenAI, около 18% пользователей сервиса — молодые люди в возрасте от 13 до 17 лет. Однако использование ИИ-помощника без ограничений может привести к нежелательным последствиям. Например, чат-бот может генерировать ответы на деликатные темы, такие как насилие, суицид или наркотики, без должной осторожности. Родители и педагоги выражали обеспокоенность по поводу отсутствия инструментов контроля, что побудило OpenAI действовать.

Какие конкретно риски существовали для подростков?

До обновления ChatGPT не имел специальных механизмов для фильтрации контента, предназначенного для несовершеннолетних. Подростки могли получать советы по опасным действиям, сталкиваться с нецензурной лексикой или вовлекаться в разговоры, которые могли навредить их психике. Кроме того, отсутствовала возможность для родителей отслеживать, как их дети используют чат-бот. Это создавало правовые и этические риски, особенно в странах со строгими законами о защите детей, таких как США и страны Европейского союза.

Что изменится: новые функции безопасности

OpenAI внедряет несколько ключевых изменений, которые затронут как подростков, так и их родителей. Во-первых, появляется родительский контроль: теперь взрослые смогут отслеживать активность ребёнка в ChatGPT, ограничивать доступ к определённым функциям и устанавливать временные лимиты. Во-вторых, компания усиливает модерацию контента: деликатные разговоры — например, о насилии, суициде или самоповреждении — будут автоматически направляться на специализированные модели рассуждений, обученные безопасно обрабатывать такие темы. Эти модели прошли дополнительное обучение с участием психологов и экспертов по детской безопасности.

Как именно будет работать родительский контроль?

Родители смогут привязать аккаунт подростка к своему профилю через специальный интерфейс. После этого им станут доступны отчёты об использовании: частота запросов, темы разговоров (без раскрытия деталей переписки) и время, проведённое в чате. Также можно будет заблокировать определённые категории контента или полностью отключить доступ к ChatGPT в ночное время. Важно, что все данные обрабатываются с учётом конфиденциальности: OpenAI обещает не передавать личную информацию третьим лицам и не использовать её для обучения моделей.

Кого затронут изменения

Новые функции в первую очередь коснутся подростков в возрасте от 13 до 17 лет и их родителей. Однако изменения также повлияют на разработчиков, которые используют API ChatGPT в продуктах для молодёжи: им придётся адаптировать свои приложения под новые стандарты безопасности. Образовательные учреждения, внедряющие ИИ-инструменты, также получат более безопасные решения для использования в учебном процессе.

Будут ли изменения доступны в России?

На данный момент OpenAI не раскрывает полный список стран, где родительский контроль будет доступен в первую очередь. Однако компания традиционно запускает новые функции в США и Великобритании, а затем постепенно расширяет географию. Пользователи из других регионов, включая Россию, могут столкнуться с задержками из-за регуляторных ограничений. Тем не менее, основные улучшения модерации контента будут применяться глобально для всех аккаунтов, где указан возраст пользователя.

Что остаётся неизвестным

Несмотря на анонс, OpenAI пока не раскрыла точные технические детали реализации родительского контроля. Например, неясно, будет ли возможность настраивать уровень фильтрации для разных возрастных групп (13-15 и 16-17 лет). Также остаётся открытым вопрос о том, как компания будет проверять возраст пользователей: существующая система самоотчёта легко обходится. Эксперты по безопасности отмечают, что без надёжной верификации возраста родительский контроль может быть неэффективен.

Перспективы развития

OpenAI планирует продолжать сотрудничество с организациями по защите детей, такими как Common Sense Media и Национальный центр пропавших и эксплуатируемых детей (NCMEC). В будущем компания может внедрить более продвинутые инструменты, такие как автоматическое уведомление родителей о подозрительных разговорах или интеграция с образовательными платформами. Эти шаги показывают, что OpenAI серьёзно относится к безопасности молодых пользователей и стремится соответствовать растущим регуляторным требованиям в разных странах.