Уилл Брик (Will Bryk), исполнительный директор ExaAILabs, объявил в пятницу, что его компания развернула свой Exacluster, один из первых в отрасли кластеров на базе графических процессоров Nvidia H200 для ИИ и высокопроизводительных вычислений. Кластер будет использоваться для создания поисковой системы, которая сможет понимать пользователей лучше, чем Google, и выдавать более качественные результаты поиска, чем Google.
По правде говоря, Exacluster не имеет ничего общего с производительностью в масштабе ExaFLOPS. Кластер называется Exacluster, потому что он состоит из 18 8-полосных серверов на базе NVIDIA H200 (exa означает квинтиллион, или 10 18). Кластер предоставляет 144 графических процессора H200 с 20 ТБ памяти HBM3E (141 ГБ HBM3E на GPU), обеспечивая суммарную вычислительную производительность в 569 958 TOPS (около 570 PetaTOPS). Кластер будет использоваться для обучения нейронных сетей ExaAI.
Кластер построен на базе 192 96-ядерных процессоров (3 456 ядер) и оснащен 36 ТБ памяти DDR5 и 270 ТБ твердотельных накопителей NVMe. Суперкомпьютер потребляет 100 кВт энергии. В каждой стойке установлено только два таких компьютера, чтобы обеспечить достаточное охлаждение всех серверов. В машинах используется стандартное воздушное охлаждение, которого, по мнению Брайка, будет достаточно для длительной работы под нагрузкой.
Стоимость кластера составляет около 5 миллионов долларов (по данным Bryk), то есть 277 777 долларов за машину, что сопоставимо с одной 8-полосной платой H200, а не со стоимостью всего сервера. Непонятно, как именно ExaAI удалось получить такую низкую цену и машины на базе H200, опередив многие другие компании. Тем не менее, Nvidia является одним из ведущих инвесторов компании, наряду с Lightspeed и YCombinator.
Как правило, компании, так или иначе связанные с Nvidia, получают оборудование этой компании раньше других. Возможно, учитывая довольно скромные требования, ExaAI удалось получить свои машины даже без использования своих значимых связей только потому, что ее использование ИИ уникально и представляет большой интерес для различных сторон. Конечной целью ExaAI является создание поисковой системы, способной понимать и обрабатывать сложные запросы и возвращать достойные результаты. Если компания добьется успеха, это может полностью изменить поиск, каким мы его знаем.
Оригинал
УНикальность
