OpenAI блокирует аккаунты, связанные с русскоязычными киберпреступниками

OpenAI, как сообщает свой блог, приостановила доступ к платформе для ряда аккаунтов, которые, по оценке компании, были связаны с русскоязычными киберпреступными группировками. Злоумышленники использовали языковые модели для создания вредоносных компонентов, включая загрузчики, слои уклонения, скрипты кражи учётных данных и инфраструктуру команд‑управления.

OpenAI объявляет о блокировке аккаунтов В недавнем посте на официальном блоге OpenAI компания сообщила, что отключила доступ к своей платформе для нескольких аккаунтов. По словам представителей, эти аккаунты были связаны с русскоязычными киберпреступными группировками, которые использовали возможности языковых моделей для разработки вредоносных компонентов. Среди упомянутых инструментов – загрузчики, слои уклонения от обнаружения, скрипты кражи учётных данных и инфраструктура команд‑управления (C2).

Почему это важно Проблема использования ИИ в киберпреступности становится всё более актуальной. С выходом продвинутых языковых моделей, таких как GPT‑4, злоумышленники получили доступ к мощным средствам генерации кода, что ускоряет разработку сложных вредоносных программ. OpenAI, как один из крупнейших поставщиков ИИ‑инструментов, подчёркивает, что соблюдение политики использования критически важно для предотвращения злоупотреблений.

Как злоумышленники применяли ИИ Согласно заявлению OpenAI, киберпреступники использовали модели для генерации исходного кода, который затем дорабатывался вручную. Это позволило им создавать более изощрённые атаки, обходящие современные антивирусные решения и системы обнаружения вторжений. В частности, модели генерировали загрузчики, которые скачивали и запускали последующие модули, а также скрипты, адаптирующиеся к разным протоколам и форматам хранения паролей.

Технические детали В открытом сообщении компания подчеркнула, что злоумышленники использовали ИИ для создания нескольких ключевых компонентов вредоносного ПО. Загрузчики, сгенерированные языковыми моделями, служили точкой входа, скачивая и запускали последующие модули. Слои уклонения, основанные на ИИ‑генерируемом коде, обеспечивали обход стандартных механизмов защиты. Скрипты кражи учётных данных, написанные с помощью ИИ, позволяли быстро адаптироваться к различным протоколам и форматам хранения паролей. Инфраструктура команд‑управления, построенная на основе ИИ‑генерируемого кода, обеспечивала надёжное и скрытое взаимодействие между заражёнными машинами и контролирующими серверами.

Влияние на пользователей и отрасль Блокировка аккаунтов подчеркивает необходимость строгого контроля за использованием ИИ‑инструментов. Пользователи и организации, использующие OpenAI, должны убедиться, что их взаимодействие с платформой не связано с запрещёнными действиями. Для компаний, которые используют модели OpenAI, это сигнал о необходимости пересмотра политики безопасности и мониторинга. Регуляторы и правоохранительные органы, в свою очередь, могут усилить контроль над распространением ИИ‑технологий в киберпреступных кругах.

Что делает OpenAI дальше В заявлении компании указано, что она продолжит мониторинг аккаунтов и будет проводить внутренние аудиты, чтобы убедиться, что подобные нарушения не повторятся. OpenAI также заявила о планах усилить механизмы обнаружения и предотвращения злоупотреблений, включая более строгую проверку запросов и улучшение системы сигнализации о подозрительной активности.

Итог OpenAI предприняла конкретные шаги, чтобы остановить злоупотребление своими моделями в киберпреступности. Блокировка аккаунтов, связанных с русскоязычными киберпреступниками, подтверждает, что ИИ уже активно используется для создания вредоносного ПО. Это событие подчёркивает важность постоянного контроля за использованием ИИ и сотрудничества между технологическими компаниями, правоохранительными органами и сообществом безопасности.