По сообщению BlockBeats, 31 января, на сайте NVIDIA (NVDA.O) была опубликована предварительная версия NIM-микросервиса DeepSeek R1 671b в качестве части предварительной версии NIM от NVIDIA на build.nvidia.com. Микросервис NIM DeepSeek R1 может обрабатывать до 3 872 токенов в секунду на одной системе NVIDIA HGX H200. Разработчики могут проводить тестирование и эксперименты с API, и ожидается, что это API в скором времени станет частью программного обеспечения NVIDIA AI Enterprise в виде загружаемого NIM-микросервиса. (Kin10)
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
NVIDIA: DeepSeek R1 официально запущен на платформе NIM от NVIDIA
По сообщению BlockBeats, 31 января, на сайте NVIDIA (NVDA.O) была опубликована предварительная версия NIM-микросервиса DeepSeek R1 671b в качестве части предварительной версии NIM от NVIDIA на build.nvidia.com. Микросервис NIM DeepSeek R1 может обрабатывать до 3 872 токенов в секунду на одной системе NVIDIA HGX H200. Разработчики могут проводить тестирование и эксперименты с API, и ожидается, что это API в скором времени станет частью программного обеспечения NVIDIA AI Enterprise в виде загружаемого NIM-микросервиса. (Kin10)