2月26日，國內(nèi)AI領(lǐng)域迎來技術(shù)突破——DeepSeek在”開源周”第三日發(fā)布革命性矩陣計(jì)算庫DeepGemm。這款專為FP8精度設(shè)計(jì)的矩陣乘法引擎，以300行極簡代碼實(shí)現(xiàn)超越行業(yè)標(biāo)桿的性能表現(xiàn)，為大規(guī)模語言模型訓(xùn)練推理注入新動(dòng)能。

▍性能狂飆：Hopper架構(gòu)實(shí)測1350+ TFLOPS
基于NVIDIA Hopper GPU架構(gòu)深度優(yōu)化，DeepGemm在H800計(jì)算卡上實(shí)測突破1350 FP8 TFLOPS性能大關(guān)。該庫特別針對DeepSeek-V3/R1模型架構(gòu)優(yōu)化，覆蓋預(yù)填充、解碼等典型推理場景，在多數(shù)矩陣尺寸下性能表現(xiàn)超越專業(yè)團(tuán)隊(duì)手工優(yōu)化的Cutlass 3.6實(shí)現(xiàn)。

▍技術(shù)特性：三大創(chuàng)新突破
? 智能精度管理：采用DeepSeek-V3獨(dú)創(chuàng)的精細(xì)化縮放技術(shù)，通過CUDA核心兩級累加方案，有效解決FP8張量核心累加精度損失難題
? 架構(gòu)輕量化：完全基于JIT即時(shí)編譯技術(shù)，零預(yù)編譯依賴，核心代碼精簡至300行級，堪稱深度學(xué)習(xí)框架的”教科書式”實(shí)現(xiàn)
? 多模態(tài)支持：兼容標(biāo)準(zhǔn)稠密矩陣與MoE混合專家模型兩種布局，為復(fù)雜AI模型提供靈活算力支持

▍開發(fā)者友好設(shè)計(jì)
項(xiàng)目采用模塊化架構(gòu)，剝離傳統(tǒng)框架復(fù)雜的模板依賴，代碼可讀性堪比教學(xué)案例。開發(fā)者可快速掌握Hopper架構(gòu)的FP8優(yōu)化精髓，官方特別開放性能待優(yōu)化場景，誠邀社區(qū)共同完善。

開源地址：https://github.com/deepseek-ai/deepgemm
（注：當(dāng)前版本僅支持NVIDIA Hopper架構(gòu)GPU，需配合CUDA 12.8環(huán)境使用）

此次開源標(biāo)志著國產(chǎn)AI基礎(chǔ)設(shè)施取得重要突破，DeepGemm的極簡哲學(xué)與極致性能，或?qū)⒅厮苌疃葘W(xué)習(xí)計(jì)算庫的開發(fā)范式。正如開發(fā)者所言：“我們相信優(yōu)雅的代碼不應(yīng)以性能為代價(jià)，這正是DeepGemm存在的意義?！?/p>