今晚，DeepSeek-V3.2-Exp模型正式發(fā)布。優(yōu)刻得模型服務(wù)平臺UModelVerse極速完成接入，作為AI應(yīng)用開發(fā)者，無需關(guān)注底層算力資源調(diào)度、基礎(chǔ)環(huán)境的模型部署，UModelVerse控制臺全面覆蓋從模型訓(xùn)練到應(yīng)用上線的全流程，輕松實(shí)現(xiàn)業(yè)務(wù)模型的快速落地與迭代，歡迎登陸體驗(yàn)！

UModelVerse控制臺模型廣場

官方表示DeepSeek-V3.2-Exp是一個(gè)實(shí)驗(yàn)性（Experimental）的版本，是邁向新一代架構(gòu)的中間步驟。V3.2-Exp在V3.1-Terminus的基礎(chǔ)上引入了DeepSeek Sparse Attention（一種稀疏注意力機(jī)制），針對長文本的訓(xùn)練和推理效率進(jìn)行了探索性的優(yōu)化和驗(yàn)證。

(相關(guān)資料圖)

稀疏注意力機(jī)制（DSA）

DeepSeek Sparse Attention（DSA）首次實(shí)現(xiàn)了細(xì)粒度稀疏注意力機(jī)制，在幾乎不影響模型輸出效果的前提下，實(shí)現(xiàn)了長文本訓(xùn)練和推理效率的大幅提升。

V3.1-Terminus和V3.2-Exp在BrowseComp和SWE Verified上的強(qiáng)化學(xué)習(xí)訓(xùn)練曲線，實(shí)線和虛線分別表示準(zhǔn)確率和平均輸出tokens

V3.1-Terminus和V3.2-Exp推理成本對比

與之前模型最大的不同在于，DSA不再要求每個(gè)Token關(guān)注序列中的所有其他Token，而是引入了一個(gè)名為「閃電索引器」（lightning indexer）的高效組件。這個(gè)索引器能以極快的速度判斷，對于當(dāng)前正在處理的Token，序列中哪些歷史Token是最重要的。隨后，模型僅從這些關(guān)鍵Token中篩選出少量（例如Top-k，取2048個(gè)）進(jìn)行精細(xì)計(jì)算，從而在處理長文本時(shí)顯著提升效率。更重要的是，這種設(shè)計(jì)在實(shí)現(xiàn)效率飛躍的同時(shí)，并未犧牲模型的核心性能。

DeepSeek-V3.2-Exp的注意力架構(gòu)

根據(jù)官方公布的評測結(jié)果，在與前代模型V3.1-Terminus嚴(yán)格對齊的訓(xùn)練設(shè)置下，V3.2-Exp在各大公開基準(zhǔn)測試中的表現(xiàn)與前者基本持平。

V3.1-Terminus和V3.2-Exp在各基準(zhǔn)下測評對比

此外，為支持社區(qū)研究，DeepSeek還開源了新模型研究中設(shè)計(jì)和實(shí)現(xiàn)的GPU 算子，包括TileLang和CUDA兩種版本。官方團(tuán)隊(duì)建議在進(jìn)行研究性實(shí)驗(yàn)時(shí)，優(yōu)先使用基于TileLang的版本，以便于調(diào)試和快速迭代。

得益于新模型服務(wù)成本的大幅降低，官方API價(jià)格也相應(yīng)下調(diào)，新價(jià)格即刻生效。在新的價(jià)格政策下，開發(fā)者調(diào)用DeepSeek API的成本將降低50%以上。

關(guān)鍵詞： 財(cái)經(jīng)頻道 財(cái)經(jīng)資訊