"Nvidia lancia DeepSeek R1 671b: il nuovo microservizio NIM per elaborare 3.872 token al secondo"

Giorno: 31 | Ora: 02:14 Il 31 gennaio, secondo quanto riportato da PANews, è stata annunciata la pubblicazione della versione preliminare del microservizio NIM di Nvidia, denominato DeepSeek R1 671b, sul sito build.nvidia.com. Questo microservizio è in grado di elaborare fino a 3.872 token al secondo su un singolo sistema Nvidia HGX H200. Gli sviluppatori hanno la possibilità di testare e sperimentare con l'API, che si prevede sarà disponibile a breve come parte della piattaforma software Nvidia AI Enterprise, in formato di microservizio NIM scaricabile. https://www.panewslab.com/zh/sqarticledetails/i9c26nt9.html