Американская компания Groq, занимающаяся разработкой аппаратного и программного обеспечения для искусственного интеллекта (не путать с проектом Илона Маска Grok), объявила о создании своего первого дата-центра в Европе в рамках усилий по конкуренции в быстро растущей отрасли искусственного интеллекта на рынке ЕС, сообщает CNBC. Компания намерена занять значительную долю рынка инференса, используя свои эффективные чипы Language Processing Unit (LPU) и ASIC (application-specific integrated circuit) для обеспечения быстрого и эффективного инференса, который, по ее утверждению, превзойдет альтернативные решения на базе GPU.
«Около четырех недель назад мы приняли решение о строительстве дата-центра в Хельсинки, и сейчас мы как раз загружаем в него стойки», — сказал генеральный директор Groq Джонатан Росс в интервью CNBC. «Мы ожидаем, что к концу этой недели он начнет обслуживать трафик. Он построен быстро, и это совершенно иное предложение, чем то, что вы видите на остальной части рынка».
Именно скорость и эффективность оборудования и работы, по мнению Росса, дадут Groq преимущество на рынке, который в настоящее время доминирует Nvidia. Хотя известный производитель графических карт захватил рынок оборудования для обучения ИИ, Росс считает, что Groq имеет все возможности для того, чтобы взять на себя повседневную работу этих алгоритмов, обеспечивая вычисления, которые позволяют им функционировать так эффективно.
«Вывод, как правило, является бизнесом с большим объемом, но низкой маржой», — пояснил он, давая понять, что Groq с удовольствием возьмется за это. Он даже предположил, что акционеры Nvidia будут довольны, поскольку это поможет продвинуть отрасль вперед, что в долгосрочной перспективе принесет пользу Nvidia.
Однако он не стеснялся в выражениях, нападая на Nvidia как на конкурента в этом бизнесе. Хотя Росс высоко оценил мощность и впечатляющие возможности графических процессоров Nvidia, он предположил, что эти универсальные чипы не были разработаны с учетом искусственного интеллекта. А LPU Groq — да.
Это ASIC, специально разработанные для вычислений искусственного интеллекта. Они используют встроенную память для уменьшения задержки задач, а чипы предназначены для обработки линейных алгебраических вычислений, которые требуются для больших языковых моделей искусственного интеллекта.
Росс утверждает, что это делает LPU быстрыми и эффективными, поскольку они используют примерно треть мощности традиционных GPU для получения того же результата. Однако Росс делает ставку не только на скорость оборудования своей компании, но и на его скорость отклика.
«Генеральный директор Nvidia Дженсен сказал на GTC, что если вы хотите получить GPU через два года, вам нужно разместить свои заказы на покупку сейчас. Это просто смешное требование», — сказал он. «Для нас это около шести месяцев. Это в четыре раза меньше, и это полностью меняет вашу способность делать прогнозы о том, что вам нужно».
«Nvidia может произвести только столько графических процессоров, сколько планирует произвести в этом году, потому что использует очень экзотические компоненты, такие как HBM Мы не используем ничего подобного, поэтому у нас нет ограничений по поставкам, а это очень важно для инференса».
При поддержке крупных инвестиций от Samsung и Cisco новый дата-центр Groq строится в партнерстве с американской компанией Equinix, специализирующейся на дата-центрах. Это поможет ему быстрее заработать и предоставит возможности для дальнейшего расширения. Nvidia имеет свой собственный длинный список партнеров в области искусственного интеллекта, с которыми она строит по всему миру то, что генеральный директор Jensen Huang назвал «фабриками искусственного интеллекта», обещая инвестиции в размере сотен миллиардов долларов.
Создается впечатление, что компании занимают ту или иную сторону, и это может быть столь же важно с точки зрения программного обеспечения, как и с точки зрения аппаратного обеспечения. Nvidia в течение некоторого времени доминировала на рынке профессиональных графических карт благодаря своему программному стеку CUDA, который стал частью многих ранних наборов инструментов для разработки ИИ, построенных на платформе CUDA-X, в дополнение к огромному размеру и масштабу всего бизнеса.
Но даже несмотря на гигантскую позицию Nvidia на рынке, Groq, похоже, уверена в своей конкурентоспособности. Благодаря LPU, использующим гораздо более простую конструкцию, чем GPU Nvidia, и использованию универсального компилятора, Groq утверждает, что ее аппаратное и программное обеспечение может быть более компактным, быстрым и не менее, а то и более, функциональным.
Жесткая конкуренция
Росс заявил, что Groq готова и к конкуренции со стороны более мелких, начинающих компаний. Он предположил, что, несмотря на высокую популярность индустрии искусственного интеллекта, Groq должна опередить стартапы, которые начинают создавать свои альтернативные продукты.
«Появится много стартапов, но создание чипа искусственного интеллекта — дорогое удовольствие.
Оригинал
Уникальность
