🔵"DeepSeek lancia DeepGEMM: la nuova libreria CUDA che rivoluziona il calcolo delle matrici dense"

Giorno: 2025-02-26 | Ora: 02:52:55 Il 26 febbraio, durante la terza giornata della sua OpenSourceWeek, DeepSeek ha annunciato il lancio di DeepGEMM, una libreria CUDA progettata per supportare FP8 GEMM, utile per i calcoli di matrici dense e per le architetture di esperti misti (MoE). Questa nuova libreria ottimizza l'addestramento e l'inferenza del modello V3/R1, offrendo prestazioni eccezionali con oltre 1350 TFLOPS FP8 su GPU Hopper. Tra le sue caratteristiche principali ci sono un'elevata semplicità di utilizzo, senza dipendenze pesanti, e un codice estremamente snello di circa 300 righe, che supera le prestazioni dei kernel ottimizzati di livello esperto nella maggior parte delle dimensioni delle matrici. Inoltre, DeepGEMM supporta sia layout densi che due configurazioni di MoE. https://www.panewslab.com/zh/sqarticledetails/wj107r2o.html