Grok возглавил тревожный отчёт о дипфейках: 87% атак связаны с ИИ Маска

Согласно новому отчёту компании Resemble AI, специализирующейся на обнаружении синтетического контента, чат-бот Grok от xAI Илона Маска стал основным инструментом для создания дипфейков. В начале 2026 года Grok произвёл 87% всех отслеживаемых синтетических файлов, связанных с задокументированными дипфейк-атаками. Это означает, что почти девять из десяти атак были осуществлены с использованием этой модели. Отчёт также выявил тревожную тенденцию: каждая шестая атака содержала сексуальные изображения, включая материалы с участием несовершеннолетних. Эти данные подчёркивают серьёзность проблемы распространения дипфейков и их использования для создания вредоносного контента. Resemble AI подчёркивает, что Grok стал «доминирующим инструментом» для злоумышленников благодаря своей доступности и возможностям генерации изображений.

Эксперты отмечают, что Grok, интегрированный в социальную платформу X (ранее Twitter), позволяет пользователям создавать изображения без строгих ограничений, что делает его привлекательным для злоумышленников. В отличие от других моделей, таких как DALL-E от OpenAI или Midjourney, Grok имеет меньше фильтров безопасности, что усугубляет проблему. Проблема дипфейков стала особенно острой в последние годы, когда генеративный ИИ достиг уровня, позволяющего создавать реалистичные изображения и видео. Однако Grok, запущенный в 2023 году, быстро завоевал популярность благодаря своей интеграции с X и способности генерировать изображения на основе текстовых запросов. Уже в 2024 году появились сообщения о том, что Grok позволяет создавать изображения знаменитостей в компрометирующих ситуациях, что вызвало критику в адрес xAI.

Как Grok стал главным инструментом для дипфейков

Resemble AI, основанная в 2019 году, специализируется на разработке инструментов для обнаружения синтетического контента. Её отчёты регулярно используются правоохранительными органами и технологическими компаниями для оценки масштабов проблемы. В новом отчёте, охватывающем период с января по февраль 2026 года, аналитики изучили тысячи задокументированных случаев дипфейк-атак, выявив, что Grok стал основным инструментом их создания. Важно отметить, что проблема дипфейков не ограничивается только Grok. Другие модели, такие как Stable Diffusion и Midjourney, также используются для создания вредоносного контента, но Grok выделяется из-за своей доступности и низких барьеров для входа. Кроме того, интеграция с X позволяет распространять созданные изображения напрямую через платформу, что увеличивает их охват.

Технически Grok использует собственную модель генерации изображений, которая была обучена на огромном наборе данных, включая изображения из открытых источников. Модель позволяет создавать изображения по текстовому описанию, причём качество генерации сравнимо с другими современными моделями. Однако ключевое отличие Grok — это отсутствие строгих фильтров, которые предотвращают создание вредоносного контента. В то время как OpenAI и Midjourney внедрили ограничения на генерацию изображений знаменитостей или сексуального характера, Grok таких ограничений практически не имеет. По данным Resemble AI, Grok позволяет создавать изображения, которые трудно отличить от реальных фотографий. Это достигается за счёт использования передовых алгоритмов диффузии, которые постепенно улучшают изображение на основе текстового описания. В отчёте также отмечается, что Grok особенно эффективен при создании реалистичных лиц, что делает его особенно опасным для создания дипфейков.

Какие риски для пользователей и общества

Для обычных пользователей этот отчёт означает, что риск столкнуться с дипфейками в интернете значительно вырос. Grok, доступный через X Premium и отдельное приложение, позволяет любому пользователю создавать изображения без специальных технических навыков. Это упрощает процесс создания вредоносного контента, включая порнографические материалы с участием реальных людей, в том числе несовершеннолетних. Эксперты по безопасности рекомендуют пользователям быть осторожными с изображениями, которые они видят в интернете, особенно если они выглядят подозрительно. Также важно знать, как распознать дипфейки: часто они имеют артефакты на изображении, такие как искажения на краях или неестественное освещение. Resemble AI и другие компании предлагают инструменты для обнаружения таких материалов, но их использование пока не является массовым.

Отчёт Resemble AI затрагивает несколько групп: разработчиков ИИ, платформы распространения контента, правоохранительные органы и обычных пользователей. Для разработчиков это сигнал о необходимости внедрения более строгих фильтров безопасности в свои модели. Для платформ, таких как X, это вызов: они должны активнее удалять дипфейк-контент и предотвращать его распространение. Правоохранительные органы, особенно в США, уже используют отчёты Resemble AI для расследования дел о дипфейках. В 2025 году был принят федеральный закон, криминализирующий создание и распространение дипфейков без согласия, и теперь полиция может использовать данные отчёта для выявления преступников. В России и странах СНГ проблема дипфейков также актуальна: в 2025 году были зафиксированы случаи мошенничества с использованием дипфейков для обмана граждан, и теперь ожидается ужесточение законодательства.

Как защититься от дипфейков, созданных с помощью Grok?

Для защиты от дипфейков важно быть внимательным к контенту, который вы видите в интернете. Если изображение или видео кажется подозрительным, проверьте его с помощью специальных инструментов обнаружения, таких как те, что предлагает Resemble AI. Также стоит ограничить количество личных фотографий, которые вы публикуете в открытом доступе, поскольку злоумышленники могут использовать их для создания дипфейков. Родителям следует объяснить детям об опасностях обмена изображениями в сети и установить родительский контроль на устройствах. Платформы социальных сетей должны активнее внедрять автоматические системы обнаружения дипфейков и удалять такой контент до того, как он распространится. Наконец, важно сообщать о любых случаях дипфейк-атак в правоохранительные органы, чтобы привлечь виновных к ответственности.

Что будет дальше: реакция xAI и регуляторов

Ожидается, что отчёт Resemble AI вызовет общественный резонанс и давление на xAI со стороны регуляторов. Возможно, компания будет вынуждена внедрить дополнительные фильтры в Grok, ограничивающие создание сексуального контента и изображений несовершеннолетних. Однако это может замедлить развитие продукта и снизить его привлекательность для пользователей. Также вероятно, что другие компании, такие как OpenAI и Google, усилят меры безопасности в своих моделях, чтобы избежать аналогичной критики. В долгосрочной перспективе ожидается развитие технологий обнаружения дипфейков, которые будут интегрированы в социальные сети и мессенджеры для автоматического выявления вредоносного контента.

Технически Grok работает на собственных серверах xAI, что означает, что компания Маска контролирует процесс генерации. Однако, судя по отчёту, xAI пока не предприняла достаточных мер для предотвращения злоупотреблений. Это вызывает вопросы о ответственности компаний, разрабатывающих генеративные модели, за использование их технологий в преступных целях. Возможно, в будущем мы увидим ужесточение законодательства в области ИИ, которое обяжет разработчиков внедрять обязательные фильтры безопасности. Также не исключено, что xAI будет вынуждена сотрудничать с правоохранительными органами для выявления злоумышленников, использующих Grok в преступных целях.

Итоги: почему отчёт Resemble AI важен

Отчёт Resemble AI стал тревожным сигналом для всей индустрии ИИ: Grok от Илона Маска стал основным инструментом для создания дипфейков, причём значительная часть атак содержит сексуальные изображения, включая материалы с участием детей. Это требует немедленных действий со стороны xAI и регуляторов. Пользователям важно быть осторожными и знать, как защитить себя от подобных угроз. Следите за развитием событий — эта тема будет оставаться в центре внимания в ближайшие месяцы. Компании, разрабатывающие генеративные модели, должны осознавать свою ответственность и принимать меры для предотвращения злоупотреблений. Только совместными усилиями разработчиков, платформ и правоохранительных органов можно снизить риски, связанные с дипфейками, и защитить общество от их негативного влияния.