中國研究機構開源DeepSeek-R1多芯片版本
中新網(wǎng)北京2月25日電(記者 宋宇晟)智源研究院25日宣布,已聯(lián)合多個芯片廠商一同開發(fā)并開源DeepSeek-R1多芯片版本,旨在推動大模型在不同芯片的適配應用,打破生態(tài)墻和算力束縛,構建多元芯片的統(tǒng)一技術棧和開源軟硬件生態(tài)。
智源研究院稱,此次發(fā)布基于FlagOS的DeepSeek-R1多芯片版本,是業(yè)界首次通過統(tǒng)一開源軟件棧實現(xiàn)DeepSeek-R1的多芯片開源版本,并同時給出了嚴謹?shù)哪P蛯R結果,保證了開源可用、統(tǒng)一易用。
智源研究院副院長兼總工程師林詠華在接受中新網(wǎng)記者采訪時表示,基于FlagOS,只需要幾步,用戶即可在支持的AI芯片服務器上完成環(huán)境搭建和模型部署。這意味著國產芯片也可部署滿血版DeepSeek-R1。
林詠華稱,DeepSeek-R1多芯片版本,使用同一套開源代碼和底層框架,實現(xiàn)了不同AI芯片架構的DeepSeek-R1推理,推動生態(tài)統(tǒng)一、開放;在各個芯片服務器上,均與英偉達芯片上的DeepSeek-R1進行嚴格評測,保證在不同芯片架構上的DeepSeek-R1版本與原始英偉達版本效果對齊。
據(jù)介紹,多芯片版本的源代碼、各個芯片的DeepSeek-R1模型文件、各個芯片的一站式Docker運行鏡像文件分別開放到Github/Gitee,Huggingface和魔搭,云廠商鏡像倉庫等平臺,方便廣大開發(fā)者用戶的獲取。依托各芯片適配的基礎鏡像,安裝 FlagOS 核心組件,其中涵蓋異構并行訓推框架 FlagScale 與大模型通用算子庫 FlagGems。在此基礎上,能夠一鍵部署 DeepSeek - R1 模型服務和自動分布式推理調優(yōu)能力,同時提供與 OpenAI 兼容的 API,極大降低使用門檻,提升部署效率。(完)
本網(wǎng)站所刊載信息,不代表中新經緯觀點。 刊用本網(wǎng)站稿件,務經書面授權。
未經授權禁止轉載、摘編、復制及建立鏡像,違者將依法追究法律責任。
[京B2-20230170] [京ICP備17012796號-1]
違法和不良信息舉報電話:18513525309 報料郵箱(可文字、音視頻):zhongxinjingwei@chinanews.com.cn
Copyright ©2017-2025 jwview.com. All Rights Reserved
北京中新經聞信息科技有限公司