Мы видели немало модифицированных видеокарт из Китая — региона, куда ограничен экспорт большинства высокопроизводительных моделей. Эти экспортные ограничения, введённые Белым домом, породили подпольный рынок, где игровые видеокарты разбираются на части, а их компоненты устанавливаются на специально разработанные печатные платы для задач ИИ. Для ИИ требуется большой объём памяти, и, несмотря на то, что флагманские видеокарты, такие как RTX 4090, уже имеют значительные буферы памяти, этого всё равно недостаточно для задач, таких как локальный запуск больших языковых моделей (LLM).
Новейшей в линейке модифицированных видеокарт стала RTX 5090 с поразительными 128 ГБ видеопамяти. Да, у этой видеокарты, вероятно, больше памяти, чем у всего вашего ПК. Она описывается как прототип, поскольку модификатор использует память GDDR7X, которая пока не доступна в больших масштабах, но упоминается «сверхограниченное» количество таких карт, что намекает на возможность производства новых единиц. По умолчанию RTX 5090 оснащена 32 ГБ памяти GDDR7, что кажется внушительным, но, очевидно, есть простор для улучшений.
Интересно, что эта модификация превосходит всё, что мы видели раньше или считали возможным. Ранее RTX 4090 была улучшена до 96 ГБ видеопамяти с использованием лучших доступных модулей GDDR7 в двусторонней конфигурации. Это тоже было исключением, так как обычно модифицированные RTX 4090 имеют около 48 ГБ видеопамяти. Причина в сложности кастомных печатных плат, необходимых для таких изменений. На данный момент самые плотные чипы GDDR7 имеют ёмкость 24 Гбит (или 3 ГБ) на модуль, что позволяет достичь до 48 ГБ видеопамяти. Для достижения больших объёмов, таких как 96 ГБ, используются двусторонние платы с модулями памяти сверху и снизу, как в Nvidia RTX Pro 6000.
Таким образом, чтобы RTX 5090 имела 128 ГБ видеопамяти, заводу потребовались бы либо ещё не выпущенные чипы GDDR7 на 32 Гбит — о которых пока не объявил ни один производитель, — либо создание «франкенштейновской» кастомной платы с гораздо большим количеством чипов памяти, чем обычно: 64 ГБ с каждой стороны, что в сумме даёт 128 ГБ в двусторонней конфигурации.
Кроме того, для правильного распознавания и использования этой видеопамяти системой требуются кастомные прошивки и BIOS. Скриншот из исходного твита, сделанный в Nvidia-SMI, ясно показывает, что полный объём памяти в 128 ГБ распознаётся, что означает, что модификация работает и это не просто концепт. Более того, наличие цены на эту карту — ещё одно доказательство того, что это потенциально коммерчески жизнеспособный продукт, готовый к продаже.
По данным I_Leak_VN, RTX 5090 с 128 ГБ стоит около $13,200, что более чем в 4 раза превышает рыночную цену обычной 5090. Удивительно, но это почти оправдано, учитывая, что RTX 6000 Pro с 96 ГБ продаётся за $10,000. Если посчитать, то это на 33% больше памяти за на 33% большую цену у улучшенной 5090. При этом не учитывается «мастерство» ручной модификации. Несмотря на незаконный характер таких видеокарт, кто-то должен тщательно работать, чтобы сделать их возможными, и это не простая задача — заменить ядро GPU и чипы видеопамяти.
К сожалению, после извлечения ядра и памяти из обычной 5090, они часто попадают на вторичные рынки, где продаются как настоящие 5090, чтобы обмануть покупателей. Важно оставаться бдительным, особенно сейчас, когда бум ИИ создал новый прецедент, из-за которого рынок наводнили различные «пустые» 4090 и 5090 по низким ценам. Если что-то кажется слишком хорошим, чтобы быть правдой, скорее всего, так оно и есть.
Оригинал
Уникальность