Когда около года назад компания AMD выпустила ускорители Instinct MI300X для ИИ и высокопроизводительных вычислений, Amazon Web Services (AWS) выразила заинтересованность в их развертывании в облаке. Однако, по словам представителей Amazon, о которых сообщает Business Insider, из-за отсутствия высокого спроса компания до сих пор не сделала этого.
«Мы следуем за спросом клиентов», - сказал Business Insider Гади Хатт, директор по продуктам и клиентскому инжинирингу в Annapurna Labs, компании Amazon. «Если клиенты убедительно говорят о том, что они нужны, то нет причин отказываться от развертывания».
По крайней мере, по словам Хатта, интерес к ускорителям AMD Instinct MI300X в AWS был недостаточен для их развертывания. Хотя Instinct MI300X от AMD стоит дешевле, чем H100 от Nvidia, его программное обеспечение не такое надежное, как CUDA от Nvidia, что отпугивает многих разработчиков. По мере совершенствования аппаратных предложений AMD (например, Instinct MI325X) должно совершенствоваться и ее программное обеспечение.
В некоторой степени Хатт может считаться заинтересованной стороной, поскольку Trainium, разработанные Annapurna, конкурируют с Trainium от AMD и Nvidia в центрах обработки данных AWS. Тем не менее, если предположить, что он говорил под запись, это позиция AWS.
Что касается Trainium, то благодаря собственным разработкам Trainium и Trainium2 AWS не приходится платить премию AMD или Nvidia, поэтому она может предлагать инстансы Trn1 и Trn2 по очень выгодным ценам по сравнению с инстансами на базе графических процессоров H100 от Nvidia. Это может быть еще одной причиной низкого интереса к решениям сторонних производителей, не относящихся к Nvidia.
Кстати, о Nvidia: на своей конференции re:Invent компания AWS объявила о намерении усилить свои предложения в области искусственного интеллекта с помощью новых графических процессоров Blackwell от Nvidia для ИИ и высокопроизводительных вычислений. Во время конференции re:Invent AWS представила свои серверы P6, оснащенные графическими процессорами Blackwell, что говорит о том, что эти машины будут пользоваться большим спросом.
Несмотря на то, что AMD не предлагает Instinct MI300X в облаке, AWS продолжает тесно сотрудничать с компанией и предлагает множество инстансов на базе процессоров AMD EPYC. Учитывая количество ядер и подсистему памяти, эти процессоры имеют значительные преимущества перед конкурентами Intel Xeon для вычислительных машин и машин с большим объемом памяти.
Оригинал
Уникальность
