AMD EPYC Venice 9006: до 256 ядер на сокет без оглядки на дефицит DRAM

Вместе с EPYC Venice 9006 компания AMD предлагает не только свои самые производительные серверные платформы, но широкий перечень CPU, рассчитанных на самые разные нагрузки — от решений с максимальной плотностью (2 × 256С/512T) до энергоэффективных систем с широкими возможностями I/O и памятью LPDDR5 Главная особенность семейства EPYC 9006 ( Venice ) — наличие до 256 ядер на сокет, что на треть больше, чем у предшествующего поколения EPYC 9005 ( Turin ), при этом показатели IPC выросли на 20 %, а тактовые частоты стали выше. В числе особенностей — новая подсистема I/O PCIe 6.0 и более чем двукратное увеличение пропускной способности памяти. Также следует отметить обновлённую микроархитектуру Zen 6 и переработанную архитектуру системы на кристалле (SoC). Кроме того, AMD разделила линейку на несколько семейств для различных задач, используя два основных типа сокетов. Возвращаются модели с увеличенным объёмом кеш-памяти (Venice-X), а также появилась версия Verano с поддержкой памяти LPDDR5X. Новая серия охватывает гораздо более широкий спектр задач и представляет собой, пожалуй, самый амбициозный шаг в развитии линейки EPYC со времен перехода на архитектуру с отдельным кристаллом I/O — решение, которое позволило процессорам EPYC 7002 ( Rome ) совершить настоящий прорыв. В процессорах EPYC 9006 используются микроархитектуры Zen 6 и Zen 6c. Они практически идентичны и не требуют какой-либо специальной программной оптимизации для работы друг с другом, но ориентированы на разные сегменты рынка и целевые показатели производительности. Ядра Zen 6c оптимизированы для обеспечения высокой плотности размещения и занимают меньше площади на кристалле, тогда как ядра Zen 6 рассчитаны на достижение более высоких тактовых частот. В компактных ядрах Zen 6c отсутствует поддержка технологии 3D V-Cache, а рабочие частоты несколько ниже, чем у «классических» ядер Zen 6 — это позволило разместить больше ядер на ограниченной площади кремниевого кристалла. Первоначально было объявлено, что флагманский чип EPYC 9686F будет поставляться с пиковой частотой 5,0 ГГц, но, как оказалось, его частота ещё выше — 5,3 ГГц. Почти вся линейка чипов для разъёма SP7 получила повышение тактовой частоты — примерно до +100 МГц больше по сравнению с предварительными спецификациями AMD. Для микроархитектуры Zen 6 компания AMD заявляет о 20-% приросте показателя IPC по сравнению с Zen 5. В зависимости от конкретной задачи, такой прирост IPC в корпоративных (серверных) нагрузках станет одним из самых весомых улучшений в истории микроархитектуры Zen. Ещё более впечатляющий рост IPC — на 31 % — заявлен в задачах, связанных с ИИ. Это стало возможным благодаря улучшениям в системе команд (ISA) Zen 6: компания добавила новые инструкции, которые особенно эффективны при выполнении ИИ-нагрузок.

💡 Где захостить и как запустить: рассчитать точные требования к объёму VRAM под разные типы квантования этой модели (4-bit Q4, FP8, FP16), оценить скорость генерации токенов в секунду и подобрать совместимый сервер с GPU можно на ServerSales в интерактивном подборщике AI-моделей или каталоге GPU-серверов.