?家人們誰懂啊?！DeepSeek連續(xù)兩天向AI圈扔出炸彈后，今天又甩出一個王炸——?DeepGEMM?！

這玩意兒簡直可以稱作一鍵榨干顯卡性能，讓算法速度原地蕪湖起飛??。

本摸魚小編帶你們盤一盤這個讓碼農(nóng)狂喜、資本沉默的「算力永動機」！

一、啥是 DeepGEMM？

先來給大家介紹一下，DeepGEMM 是一款專注于 FP8 高效通用矩陣乘法（GEMM） 的庫。咱都知道，矩陣乘法在深度學習里那可是家常便飯，就像是蓋房子時的磚頭，少了它啥都干不成。而 DeepGEMM 就是專門來優(yōu)化這個“磚頭”的生產(chǎn)效率的。

它的原理說起來有點復雜，但簡單來講，就是通過動態(tài)優(yōu)化資源分配，讓算力效率像坐了火箭一樣飆升。而且它是基于 CUDA 開發(fā)的，還用了輕量級即時編譯（JIT）模塊，這意味著啥呢？就是你不用提前編譯和安裝，直接就能用，是不是很方便？就像你早上起來，不用自己做飯，直接就有熱乎乎的早餐等著你一樣。

二、性能咋樣？

DeepGEMM 的性能可不是吹出來的，那是實打?qū)嵉膮柡?。根?jù)官方數(shù)據(jù)，在 Hopper 架構(gòu)的 GPU 上，它的性能可以達到 1350+ FP8 TFLOPS，這數(shù)字聽著就讓人熱血沸騰！

（圖1）

（圖2）

（圖3）

而且，DeepGEMM 在普通 GEMM（密集模型）中，矩陣運算的提速最高可達 2.7 倍（圖1）；在分組 GEMM（MoE 模型）中，連續(xù)性布局和掩碼布局下的提速也能達到 1.1 倍至 1.2 倍（圖2）、（圖3）。這就好比你平時開車上班要一個小時，用了 DeepGEMM 就像開了掛，半小時就能到，是不是很爽？

三、有啥作用？

DeepGEMM 的作用可大了去了！它主要是為 DeepSeek-V3/R1 模型的訓練與推理提供高效支持，就像是給這些模型裝上了超級引擎，讓它們跑得更快、更穩(wěn)。而且，它還特別適合大規(guī)模模型的訓練和推理，能顯著提升計算效率，為研究人員節(jié)省大量時間和精力，就像給科研人員配備了一個超級助手，讓他們能更專注于模型的優(yōu)化和創(chuàng)新。

此外，你以為DeepGEMM只是個“速度外掛”？格局小了！

• 小廠狂喜?：再也不用跪求英偉達老仙“賜我算力”了！
• 科研狗淚目?：論文實驗從“等到海枯石爛”變成“再來億次！”

關鍵的是——?它！免！費！?

（某廠CTO哀嚎：“我花10億買的算力方案，不如人家GitHub一行README？”）

四、未來影響幾何？

DeepGEMM 的開源，對整個 AI 行業(yè)來說，那簡直就是一場及時雨。它不僅降低了高性能計算技術的應用門檻，讓更多開發(fā)者能夠輕松上手，還可能推動整個行業(yè)向更高效、更經(jīng)濟的方向發(fā)展。就像打開了潘多拉魔盒，未來可能會有更多基于 DeepGEMM 的創(chuàng)新應用涌現(xiàn)出來。

本文轉(zhuǎn)載自 ??智駐未來??，作者： 小智