Серверная стойка AMD с 31 ТБ видеопамяти и 256-ядерным CPU: новый стандарт для ИИ

AMD представила серверную стойку, которая вмещает до 31 терабайта высокоскоростной видеопамяти HBM3 и оснащается 256-ядерным процессором. Это решение нацелено на рынок искусственного интеллекта и высокопроизводительных вычислений, где объём памяти и вычислительная мощность критичны. Анонс состоялся

AMD Instinct MI300X и новая серверная платформа

Ключевой компонент стойки — ускоритель Instinct MI300X, каждый из которых содержит 192 ГБ памяти HBM3. В стандартной конфигурации серверная стойка объединяет 160 таких ускорителей, что в сумме даёт 30 720 ГБ (31 ТБ) видеопамяти. Для сравнения: топовые потребительские видеокарты имеют 16–24 ГБ, а серверные решения NVIDIA H100 предлагают 80 ГБ на чип. Платформа также включает новый процессор AMD EPYC с 256 ядрами на базе архитектуры Zen 5, известный под кодовым именем Turin. Эти чипы обеспечивают высокую пропускную способность для работы с массивами данных и поддерживают 12 каналов памяти DDR5. AMD утверждает, что решение превосходит конкурентов от NVIDIA по соотношению цена/производительность в задачах обучения и инференса ИИ-моделей.

Как объём памяти влияет на производительность ИИ?

Объём видеопамяти напрямую определяет, какие модели можно запускать на одном ускорителе. Большие языковые модели с триллионами параметров требуют сотен гигабайт памяти, и 31 ТБ позволяет обучать их без необходимости разбивать данные на множество узлов. Это снижает задержки и упрощает инфраструктуру. Кроме того, HBM3 обеспечивает пропускную способность до 5,2 ТБ/с на чип, что критично для интенсивных вычислений. В потребительских картах используется GDDR6 или GDDR6X с гораздо меньшей пропускной способностью, поэтому серверные решения остаются вне конкуренции для ИИ-задач.

Предыстория и контекст

Гонка за объёмом памяти в серверном сегменте усилилась с ростом популярности больших языковых моделей (LLM). NVIDIA доминирует на рынке ИИ-ускорителей с H100 и B200, но AMD пытается отвоевать долю, предлагая больше памяти за меньшие деньги. MI300X уже используется в облачных сервисах Microsoft Azure и Meta. Параллельно на потребительском рынке геймеры критикуют NVIDIA за ограничение видеопамяти на картах вроде RTX 4060 Ti (8 ГБ) и даже RTX 4080 (16 ГБ). AMD же в своих игровых GPU (RX 7000) предлагает до 24 ГБ, но серверный сегмент — совсем другая история: здесь 31 ТБ становится новым стандартом для ИИ-инфраструктуры.

Технические подробности: как устроена стойка

Стойка AMD представляет собой интегрированную систему из 8 серверных блоков, каждый из которых содержит 20 ускорителей MI300X. Общая потребляемая мощность — около 80 кВт. Для охлаждения используется жидкостная система, что позволяет размещать стойки плотнее. Процессоры EPYC Turin с 256 ядрами работают на частоте до 5 ГГц. В сочетании с HBM3 это даёт совокупную пропускную способность более 200 ТБ/с. AMD заявляет, что такая конфигурация способна обучать модели с триллионами параметров. Ускорители объединяются через Infinity Fabric, что обеспечивает низкую задержку и высокую пропускную способность между чипами.

Кого затронет и как

Новинка в первую очередь адресована облачным провайдерам, исследовательским центрам и крупным технологическим компаниям. Для них 31 ТБ памяти означает возможность запускать модели, которые ранее требовали кластеров из сотен отдельных серверов. Это снижает задержки и упрощает инфраструктуру. Для разработчиков ИИ это означает доступ к более мощным ресурсам по более низкой цене. AMD активно продвигает открытую экосистему ROCm, конкурирующую с CUDA от NVIDIA. Если удастся убедить разработчиков портировать код, доля AMD на рынке ИИ может существенно вырасти. В России и СНГ такие решения пока малодоступны из-за санкционных ограничений, но для локальных облачных проектов это может стать ориентиром для будущих закупок.

Что будет дальше

AMD планирует начать поставки новых серверов в первой половине 2025 года. Компания уже объявила о сотрудничестве с несколькими крупными заказчиками, включая Microsoft и Oracle. В дальнейшем ожидается выход ускорителя Instinct MI400 с ещё большим объёмом памяти. Конкуренты не дремлют: NVIDIA готовит ускоритель Blackwell B200 с 384 ГБ памяти на чип, а Intel развивает линейку Gaudi. Рынок ИИ-железа продолжит расти, и AMD делает ставку на объём памяти как ключевое преимущество.

Итог

Серверная стойка AMD с 31 ТБ видеопамяти — это не просто рекорд, а ответ на потребности ИИ-индустрии, где объём данных растёт экспоненциально. Пока геймеры спорят о 16 ГБ, AMD показывает, что для настоящих вычислений нужны терабайты. Следить за развитием этой платформы стоит всем, кто интересуется будущим искусственного интеллекта.