На выставке потребительской электроники в Лас-Вегасе компания Nvidia представила Project Digits, «персональный суперкомпьютер ИИ», который предоставляет доступ к аппаратной платформе Grace Blackwell в компактном форм-факторе.
Project Digits предназначен для исследователей ИИ, ученых, изучающих данные, и студентов и оснащен новым суперчипом Nvidia GB10 Grace Blackwell, который обеспечивает вычислительную производительность до петафлоп для создания прототипов, тонкой настройки и запуска моделей ИИ.
Nvidia утверждает, что Project Digits может запускать модели размером до 200 миллиардов параметров. Параметры примерно соответствуют навыкам модели в решении задач, и модели с большим количеством параметров обычно работают лучше, чем модели с меньшим количеством параметров.
GB10, разработанный в партнерстве с MediaTek, оснащен графическим процессором Nvidia Blackwell, соединенным с 20-ядерным процессором Nvidia Grace. В корпусе Project Digits эти чипы работают в паре с 128 ГБ оперативной памяти и NVMe-накопителем объемом до 4 ТБ.
Nvidia утверждает, что две машины Project Digits могут быть соединены вместе для выполнения моделей с 405 миллиардами параметров, если это необходимо.
Оригинал
Уникальность