DeepSeek于知乎開設(shè)官方賬號,獨家發(fā)布《DeepSeek-V3/R1推理系統(tǒng)概覽》技術(shù)文章,首次公布模型推理系統(tǒng)優(yōu)化細節(jié),并披露成本利潤率關(guān)鍵信息,標志著全球關(guān)注的“DeepSeek開源周”正式收官。
文章寫道:“DeepSeek-V3 / R1 推理系統(tǒng)的優(yōu)化目標是:更大的吞吐,更低的延遲?!睘閷崿F(xiàn)這兩個目標,DeepSeek的方案是使用大規(guī)??绻?jié)點專家并行(EP),但該方案也增加了系統(tǒng)復(fù)雜性。文章的主要內(nèi)容就是關(guān)于如何使用EP增長批量大小(batch size)、隱藏傳輸耗時以及進行負載均衡。
值得一提的是,文章還率先披露了DeepSeek的成本和利潤率等關(guān)鍵信息?!凹俣℅PU租賃成本為2美金/小時,總成本為$87,072/天?!绻?tokens全部按照DeepSeek R1的定價計算,理論上一天的總收入為$562,027,成本利潤率545%?!?/span>
據(jù)了解,“DeepSeek開源周”自2月24日至2月28日,陸續(xù)開源最新技術(shù)進展。其中包括,F(xiàn)lashMLA、DeepEP、DeepGEMM和3FS四個開源項目,以及DualPipe、EPLB等代碼庫。每一項開源發(fā)布,都在知乎引發(fā)了業(yè)內(nèi)人士的熱烈討論和贊嘆。
“話不多說,DeepSeek和OpenAI一樣重要。”知乎大模型話題優(yōu)秀答主、算法工程師“劉聰NPL”如此評價。業(yè)內(nèi)人士甚至認為,“DeepSeek開源周”的重要性已經(jīng)超過了不久前OpenAI的發(fā)布會。DeepSeek用“量大管飽”的開源有力回擊了歐美關(guān)于DeepSeek故意說低訓(xùn)練成本的說法,并且證明了在訓(xùn)練鏈路上存在極大的優(yōu)化空間?!皠⒙擭PL”在開源周最后一天就感嘆:“真沒想到,最后一天DeepSeek對存儲下手?。 倍蹙幊淘掝}優(yōu)秀答主“平凡”在第三天就做出判斷:“這些工作幾乎不可能在國外的AI公司里面完成?!?/span>
來源:環(huán)球網(wǎng)科技頻道