重磅!黃河水利DeepSeek本地化部署!
2025-03-12 17:09:24 來(lái)源: 責(zé)任編輯:李春芝
中新河南網(wǎng)3月12日電 3月10日,黃河水利職業(yè)技術(shù)學(xué)院本地化部署的DeepSeek-R1大模型投入使用。結(jié)合本地化部署的DeepSeek大模型,學(xué)校智慧校園門(mén)戶(hù)和i水院APP同步啟動(dòng)了“黃河水利DeepSeek水源精靈”,不僅標(biāo)志著DeepSeek大模型投入實(shí)際使用,也開(kāi)啟了學(xué)校利用人工智能技術(shù)處理師生查詢(xún)校情、學(xué)情、處理日常事務(wù)的新篇章。
隨著年初國(guó)產(chǎn)人工智能推理大模型DeepSeek的重磅發(fā)布,國(guó)產(chǎn)人工智能行業(yè)迎來(lái)重大發(fā)展機(jī)遇。學(xué)校信息化管理辦公室第一時(shí)間組織人員研討發(fā)展趨勢(shì),聯(lián)合信息工程學(xué)院?jiǎn)?dòng)DeepSeeK本地化部署的工作,不斷根據(jù)現(xiàn)有資源與試運(yùn)行情況,優(yōu)化調(diào)整算力資源及系統(tǒng)適配策略。經(jīng)過(guò)信息化管理辦公室對(duì)云端部署和本地私有化部署等不同部署模式的考察、驗(yàn)證,測(cè)試Ollama、Transformers、vLLM等多種模型框架后,科學(xué)整合算力設(shè)備,深度優(yōu)化算力資源,成功本地化部署了70B(700億參數(shù)、16bit精度)進(jìn)階版DeepSeek-R1大模型。
DeepSeek作為人工智能領(lǐng)域的“國(guó)產(chǎn)黑馬”,以其強(qiáng)大的自然語(yǔ)言處理能力和高效的學(xué)習(xí)能力,今年初其母公司開(kāi)放共享后迅速成為全球人工智能技術(shù)的焦點(diǎn)。今后信息化管理辦公室將逐步開(kāi)放DeepSeek大模型的教研、科研、服務(wù)等功能接口,為學(xué)校廣大師生提供更加高效的人工智能技術(shù)服務(wù)。(黃河水利職業(yè)技術(shù)學(xué)院供稿)