中新網(wǎng)北京2月25日電(記者 宋宇晟)智源研究院25日宣布，已聯(lián)合多個(gè)芯片廠商一同開(kāi)發(fā)并開(kāi)源DeepSeek-R1多芯片版本，旨在推動(dòng)大模型在不同芯片的適配應(yīng)用，打破生態(tài)墻和算力束縛，構(gòu)建多元芯片的統(tǒng)一技術(shù)棧和開(kāi)源軟硬件生態(tài)。
智源研究院稱(chēng)，此次發(fā)布基于FlagOS的DeepSeek-R1多芯片版本，是業(yè)界首次通過(guò)統(tǒng)一開(kāi)源軟件棧實(shí)現(xiàn)DeepSeek-R1的多芯片開(kāi)源版本，并同時(shí)給出了嚴(yán)謹(jǐn)?shù)哪Ｐ蛯?duì)齊結(jié)果，保證了開(kāi)源可用、統(tǒng)一易用。
智源研究院副院長(zhǎng)兼總工程師林詠華在接受中新網(wǎng)記者采訪(fǎng)時(shí)表示，基于FlagOS，只需要幾步，用戶(hù)即可在支持的AI芯片服務(wù)器上完成環(huán)境搭建和模型部署。這意味著國(guó)產(chǎn)芯片也可部署滿(mǎn)血版DeepSeek-R1。
林詠華稱(chēng)，DeepSeek-R1多芯片版本，使用同一套開(kāi)源代碼和底層框架，實(shí)現(xiàn)了不同AI芯片架構(gòu)的DeepSeek-R1推理，推動(dòng)生態(tài)統(tǒng)一、開(kāi)放；在各個(gè)芯片服務(wù)器上，均與英偉達(dá)芯片上的DeepSeek-R1進(jìn)行嚴(yán)格評(píng)測(cè)，保證在不同芯片架構(gòu)上的DeepSeek-R1版本與原始英偉達(dá)版本效果對(duì)齊。
據(jù)介紹，多芯片版本的源代碼、各個(gè)芯片的DeepSeek-R1模型文件、各個(gè)芯片的一站式Docker運(yùn)行鏡像文件分別開(kāi)放到Github/Gitee，Huggingface和魔搭，云廠商鏡像倉(cāng)庫(kù)等平臺(tái)，方便廣大開(kāi)發(fā)者用戶(hù)的獲取。依托各芯片適配的基礎(chǔ)鏡像，安裝 FlagOS 核心組件，其中涵蓋異構(gòu)并行訓(xùn)推框架 FlagScale 與大模型通用算子庫(kù) FlagGems。在此基礎(chǔ)上，能夠一鍵部署 DeepSeek - R1 模型服務(wù)和自動(dòng)分布式推理調(diào)優(yōu)能力，同時(shí)提供與 OpenAI 兼容的 API，極大降低使用門(mén)檻，提升部署效率。(完)