Компания HighPoint только что открыла новую эру высокопроизводительных вычислений, представив на минувшей неделе свою революционную карту-коммутатор Rocket 7638D PCIe 5.0, созданную для поддержки передовой технологии Nvidia GPUDirect! Это устройство обещает радикально ускорить процессы обучения и вывода в системах искусственного интеллекта, обеспечивая прямое взаимодействие между ИИ-графическими процессорами и NVMe-накопителями при использовании программного обеспечения, совместимого с GPUDirect. Это настоящий прорыв для дата-центров и суперкомпьютеров, ориентированных на ИИ!
Современные графические процессоры Nvidia, начиная с модели A100 и включая новейшие H100 и B200, поддерживают технологию GPUDirect, которая позволяет данным обходить центральный процессор и системную память, передаваясь напрямую между GPU и устройствами хранения, такими как NVMe SSD, или сетевыми интерфейсами. Это не только повышает производительность до 30% в сравнении с традиционными архитектурами (по данным Nvidia), но и освобождает ресурсы процессора для параллельных задач, что критически важно для ресурсоемких приложений ИИ. Однако для реализации GPUDirect необходимы специализированные PCIe-коммутаторы с поддержкой P2P DMA, и здесь Rocket 7638D от HighPoint выходит на сцену с блеском!
Эта карта оснащена мощным коммутатором Broadcom PEX 89048, который предоставляет 48 линий PCIe 5.0, обеспечивающих пропускную способность до 128 ГБ/с на линию в идеальных условиях. Распределение линий впечатляет: 16 линий для подключения к хост-системе, 16 линий для внешнего блока GPU через высокоскоростной разъем CDFP CopprLink и еще 16 линий для внутренних NVMe-накопителей через разъемы MCIO 8i. Последние поддерживают до 16 NVMe-дисков, что позволяет создавать массивы хранения объемом до 2 петабайт! Это идеальное решение для работы с гигантскими наборами данных, которые используются, например, в обучении больших языковых моделей или анализе геномных данных.
Rocket 7638D раскрывает весь потенциал GPUDirect Storage, обеспечивая прямую передачу данных с предсказуемой пропускной способностью до 64 ГБ/с и минимальной задержкой. Это достигается благодаря полной независимости от процессора и оперативной памяти хоста, что требует совместимости с операционной системой (например, Linux с ядром 5.15+), драйверами Nvidia CUDA 12.0+ и файловыми системами, такими как ext4 или NVMe-oF. Такие характеристики делают устройство незаменимым для сценариев, где требуется обработка терабайт данных в реальном времени, будь то научные исследования или генеративный ИИ.
Интеграция процессора на архитектуре Arm в чип Broadcom PEX 89048 делает карту полностью автономной и универсальной, обеспечивая совместимость с платформами Arm и x86 без необходимости установки специальных драйверов. Это plug-and-play решение, которое работает с Windows, Linux и даже специализированными ОС, используемыми в дата-центрах, прямо из коробки! Добавьте к этому функции обслуживания, такие как VPD-отслеживание для синхронизации оборудования и прошивки, а также утилиту для мониторинга состояния PCIe-линий и производительности в реальном времени. Эти инструменты превращают Rocket 7638D в мечту системных администраторов, упрощая диагностику и обслуживание в гипермасштабируемых средах, таких как облачные платформы или суперкомпьютерные кластеры.
HighPoint пока не раскрыла стоимость Rocket 7638D, но, учитывая ее потенциал и масштабы применения, цена, вероятно, будет зависеть от объемов заказов и конфигураций. Это устройство — не просто карта-коммутатор, а ключ к новой эре высокоскоростных вычислений для ИИ, обещающий перевернуть представление о производительности дата-центров!
Оригинал
Уникальность
