Microchip ZeroQ: прямой доступ ИИ-ядер к NVMe SSD

Компания Microchip Technology представила технологию ZeroQ, которая позволяет тысячам ИИ-ядер напрямую обращаться к NVMe SSD, минуя традиционные очереди. Это снижает задержки и энергопотребление в крупных ИИ-системах.

Microchip Technology анонсировала технологию ZeroQ, которая радикально меняет способ взаимодействия ИИ-ядер с NVMe SSD. Вместо традиционных пар очередей, ZeroQ создает «зеленую супермагистраль», позволяя десяткам тысяч ядер напрямую получать доступ к данным на твердотельных накопителях. Это снижает задержки и энергопотребление, что критично для современных ИИ-систем.

ZeroQ: новая парадигма доступа к данным

В традиционных архитектурах каждый CPU-ядро общается с NVMe SSD через пару очередей: Submission Queue (SQ) и Completion Queue (CQ). В SQ ядро помещает запросы на операции, а в CQ получает результаты. Этот механизм гарантирует упорядоченность и надежность, но создает накладные расходы: каждый запрос требует системного вызова и копирования данных в памяти.

ZeroQ устраняет эти очереди. Теперь ИИ-ядра могут напрямую обращаться к NVMe SSD, как к обычной памяти, без промежуточных буферов. Это достигается за счет специального аппаратного ускорителя, который управляет передачей данных. В результате сокращается время ожидания и освобождаются ресурсы CPU для других задач.

Предыстория и контекст

Проблема узкого места между хранилищем и вычислительными ядрами особенно остра в ИИ-системах, где модели обучаются на огромных объемах данных. Традиционные методы, такие как RDMA и NVMe-oF, решают эту проблему частично, но все еще требуют участия CPU. Microchip пошла дальше, предложив полностью аппаратное решение.

ZeroQ базируется на более ранних разработках Microchip в области PCIe-коммутации и контроллеров. Компания уже несколько лет работает над технологиями для высокопроизводительных вычислений, и ZeroQ — логичное продолжение этой линейки.

Как работает ZeroQ?

ZeroQ использует специальный контроллер, который подключается к PCIe-шине и берет на себя управление передачей данных между NVMe SSD и ИИ-ядрами. Контроллер создает виртуальные каналы, по которым данные передаются напрямую, минуя CPU. Это похоже на то, как GPU работает с видеопамятью, но для хранилища.

Технические детали и сравнение с конкурентами

ZeroQ поддерживает PCIe 5.0 и 6.0, что обеспечивает пропускную способность до 128 ГТ/с. Это в несколько раз быстрее, чем у традиционных решений. По заявлению Microchip, задержка снижается на 40% по сравнению с обычными очередями, а энергопотребление — на 30%.

Конкуренты, такие как Intel и NVIDIA, предлагают свои решения для ускорения доступа к данным, но они требуют изменения архитектуры системы. ZeroQ интегрируется с существующими NVMe SSD, что делает его более гибким и экономичным.

Кого затронет и как

Технология ZeroQ будет интересна разработчикам ИИ-систем, операторам дата-центров и производителям серверов. Для бизнеса это означает снижение стоимости обучения моделей и повышение производительности. В России и СНГ технология может найти применение в исследовательских центрах и облачных провайдерах.

Что будет дальше

Microchip планирует начать поставки образцов ZeroQ в конце 2025 года. Ожидается, что первые коммерческие продукты появятся в 2026 году. Компания уже ведет переговоры с несколькими крупными производителями серверов.

В будущем ZeroQ может стать стандартом для ИИ-систем, особенно с ростом объемов данных и требований к скорости обработки.

Итог

ZeroQ — это значительный шаг вперед в области хранения данных для ИИ. Технология обещает снизить задержки и энергопотребление, что сделает ИИ-системы более эффективными. Следите за развитием этой технологии — она может изменить индустрию.