Reddit передаёт модерацию ИИ: алгоритм теперь может удалять ваши посты

Reddit официально представил новые инструменты модерации на основе искусственного интеллекта, которые могут автоматически удалять посты и комментарии, нарушающие правила сообщества. Система, получившая название Rules Hub, уже тестируется на нескольких крупных сабреддитах и, по словам представителей платформы, позволяет модераторам делегировать часть своих полномочий алгоритмам. Это означает, что решение о том, нарушает ли ваш пост правила, всё чаще будет приниматься машиной, а не человеком. В этой статье мы разберём, как работает новая система, какие риски она несёт для пользователей и модераторов, и что ждёт Reddit в ближайшем будущем.

Reddit внедряет ИИ-модерацию: как это работает

Rules Hub — это новый раздел в инструментарии модераторов Reddit, который позволяет настраивать автоматические действия на основе ИИ. Согласно официальному блогу Reddit, система использует большие языковые модели, обученные на правилах конкретного сообщества, чтобы определять, нарушает ли пост или комментарий те или иные нормы. Модераторы могут выбрать, какие правила будет контролировать ИИ, и задать действия: пометить контент для ручной проверки, скрыть его или полностью удалить.

По данным Android Authority, в тестовом режиме Rules Hub уже применяется в сабреддитах с аудиторией более 100 миллионов пользователей. Первые результаты показывают, что ИИ правильно определяет нарушения в 80% случаев, но при этом часто даёт ложные срабатывания — удаляет контент, который на самом деле не нарушает правила. Reddit утверждает, что алгоритм постоянно обучается на решениях модераторов и со временем точность будет расти.

Чем отличается от предыдущих инструментов модерации?

Раньше модераторы могли использовать простые фильтры на основе ключевых слов и регулярных выражений, но они не понимали контекст. Новый ИИ анализирует не только текст, но и тон, намёки, сарказм и даже изображения. Например, если пользователь пишет «Это лучший способ умереть» в ответ на шутку, старый фильтр мог бы пометить это как призыв к суициду, а новый ИИ распознает иронию. Однако именно с контекстом возникают проблемы: алгоритм часто не различает шутки в дружеском сабреддите и оскорбления в серьёзном обсуждении.

Предыстория и контекст

Reddit долгое время полагался на ручную модерацию: более 60 тысяч активных модераторов добровольно следят за порядком в сообществах. Однако с ростом платформы — сейчас это более 500 миллионов пользователей в месяц — нагрузка на модераторов стала критической. По данным самой компании, в 2024 году модераторы удалили более 2 миллиардов постов и комментариев, что на 30% больше, чем годом ранее.

Идея автоматизировать модерацию обсуждалась давно, но только в 2025 году Reddit решился на внедрение ИИ в боевых условиях. Это часть более широкой стратегии компании по монетизации и упрощению управления платформой. В прошлом году Reddit уже тестировал ИИ-переводчики и автоматические сводки обсуждений, но теперь алгоритмы впервые получили право удалять контент.

Как устроен Rules Hub: технические детали

Rules Hub базируется на фирменной ИИ-модели Reddit, обученной на миллионах постов и решений модераторов. Система работает в два этапа: сначала она оценивает вероятность нарушения каждого правила, а затем применяет заранее заданное действие. Модераторы могут видеть все действия ИИ в специальном журнале и отменять их вручную, что позволяет контролировать алгоритм.

Важно, что ИИ не банит пользователей автоматически — пока. Сейчас он может только удалять контент или скрывать его до проверки. Однако в Reddit уже обсуждают возможность расширения полномочий: например, автоматические временные баны для нарушителей, которые трижды попались на одном и том же правиле. По словам представителей компании, это должно снизить нагрузку на модераторов и ускорить реакцию на нарушения.

Какие риски для пользователей?

Новая система напрямую затрагивает всех пользователей Reddit, особенно тех, кто активно пишет посты и комментарии. Если ваш контент будет ошибочно удалён ИИ, вы получите уведомление с объяснением, но апелляция будет рассматриваться человеком-модератором, что может занять дни. Это создаёт риск несправедливых удалений, особенно в сабреддитах с противоречивыми правилами.

Для модераторов Rules Hub — это палка о двух концах: с одной стороны, он снимает часть рутины, с другой — требует постоянного контроля за действиями ИИ. Многие модераторы уже высказали опасения, что алгоритм не сможет учитывать нюансы конкретного сообщества, где правила могут быть неоднозначными. Например, в сабреддите r/AskHistorians действуют строгие требования к источникам, и ИИ пока не способен оценить их достоверность.

Для российских пользователей ситуация осложняется тем, что Reddit официально не работает в РФ, но многие используют VPN. Автоматические удаления на основе ИИ могут затронуть и их, особенно если контент касается чувствительных тем. Однако Reddit вряд ли будет учитывать локальные законы при настройке ИИ, что может привести к конфликтам.

Что будет дальше

Reddit планирует расширить Rules Hub на все сабреддиты в течение 2025 года. Ожидается, что к концу года ИИ будет обрабатывать до 50% всех модерационных действий. Параллельно компания работает над улучшением точности модели и уменьшением ложных срабатываний. Возможно, в будущем появится возможность настраивать «жёсткость» ИИ для каждого сообщества.

Эксперты по цифровым правам уже предупреждают, что автоматизация модерации может привести к цензуре и подавлению дискуссий, особенно в политических и социальных темах. Reddit, в свою очередь, утверждает, что ИИ лишь помогает модераторам, а окончательное решение всегда остаётся за человеком. Но с ростом объёмов контента всё больше решений будет приниматься автоматически.

Итог

Reddit вступает в новую эру, где ИИ становится полноправным участником модерации. Для пользователей это означает, что их посты могут быть удалены без участия человека, и важно понимать, как работает система, чтобы избежать ошибок. Для модераторов — необходимость осваивать новые инструменты и контролировать алгоритмы. Будет ли это шагом к более чистой платформе или началом тотальной цензуры — покажет время, но уже сейчас ясно: машины пришли в модерацию всерьёз и надолго. Следите за обновлениями, чтобы не пропустить изменения в правилах и не потерять свой контент.