DeepSeek向公眾開源DeepEP



DeepSeek日前宣布本周為開源周,並將連續開源五個軟件庫。公司於今日(25日)宣布向公眾開源DeepEP。在宣布開源20分鐘左右,微軟(MSFT.US)旗下代碼託管平台軟件GitHub上DeepEP已獲得超過1,000Star收藏。

DeepEP是一個用於混合專家(MoE)模型訓練和推理的專家並行(Expert Parallelism)通信庫,可實現高效且優化的全對全通信,支援包括FP8在內的低精度運算,適配現代高性能計算需求。同時,DeepEP針對NVLink到RDMA的非對稱帶寬轉發場景進行深度優化,不僅提供高吞吐量,還支援Streaming Multiprocessors數量控制,兼顧訓練和推理任務的高吞吐量表現。(jl/da)~

阿思達克財經新聞
網址: www.aastocks.com
系統開發、資訊提供:精誠資訊股份有限公司
資料來源:台灣證券交易所、櫃買中心、台灣期貨交易所
本資料僅供參考所有資料以台灣證券交易所、櫃買中心公告為準
網路家庭版權所有、轉載必究 Copyright © PChome Online