舒迪：DeepSeek本地部署加速端側(cè)AI推廣落地

　　中新經(jīng)緯2月5日電 題：DeepSeek本地部署加速端側(cè)AI推廣落地

　　作者 舒迪 國泰君安證券研究所電子行業(yè)首席分析師

　　春節(jié)期間，DeepSeek以其獨(dú)特的創(chuàng)新力，正逐步打開AI應(yīng)用產(chǎn)業(yè)的上升通道。模型正式發(fā)布以來，DeepSeek連續(xù)多日登頂蘋果App Store和谷歌Play Store全球下載榜首。DeepSeek通過多項(xiàng)工程創(chuàng)新，成功降低了訓(xùn)練成本和推理成本，同時(shí)提升了模型效果。

　　盡管DeepSeek觸發(fā)了模型降本，但算力需求卻并未減少，在多個(gè)層面呈現(xiàn)出增長趨勢。隨著AI應(yīng)用模型向更高智能維度躍遷，訓(xùn)練需要更多算力；AI應(yīng)用的推理也廣泛需要算力支持，更多人開始訓(xùn)練和推理自己的模型；同時(shí)，轉(zhuǎn)向?qū)Φ犬悩?gòu)計(jì)算的新主流計(jì)算形態(tài)也需要更多GPU(圖形處理器)。未來，從對話到任務(wù)、到多模態(tài)，AI的發(fā)展將需要更多算力加持。

　　同時(shí)，以DeepSeek為代表的開源模型興起加速了人工智能生態(tài)的構(gòu)建，而DeepSeek的本地部署更是讓個(gè)人知識庫的構(gòu)建成為可能。許多企業(yè)已經(jīng)意識到，開源且具有廣泛共識的模型更容易構(gòu)建生態(tài)系統(tǒng)。DeepSeek蒸餾(指的是通過一系列算法和策略，將原始的、復(fù)雜的數(shù)據(jù)進(jìn)行去噪、降維、提煉等操作)后的小模型表現(xiàn)出色，使得本地部署知識庫從企業(yè)端擴(kuò)展到個(gè)人用戶。通過高效且靈活地構(gòu)建私有化的AI知識管理系統(tǒng)，不僅保護(hù)了數(shù)據(jù)隱私，還可以根據(jù)特定需求進(jìn)行定制優(yōu)化。

　　在端側(cè)產(chǎn)品設(shè)計(jì)中，算力和傳輸是關(guān)鍵因素。隨著蒸餾模型能力的提升，未來端側(cè)SoC(系統(tǒng)級芯片)將更加注重模型的本地部署和推理能力。端云協(xié)同升級將成為未來技術(shù)發(fā)展的必然趨勢，端側(cè)產(chǎn)品需要在有限的硬件資源下實(shí)現(xiàn)高效的計(jì)算和傳輸，而云端則需要提供更強(qiáng)大的計(jì)算能力和存儲支持。

　　此外，DeepSeek的開源發(fā)展也降低了成本，推動了應(yīng)用的繁榮。對于B端應(yīng)用來說，優(yōu)質(zhì)開源模型可以更好地用于垂類場景。成本的壓低將帶來使用場景的普及，從而帶動新的供給和需求。如今的AIGC(人工智能生成內(nèi)容)創(chuàng)作已經(jīng)呈現(xiàn)出類似的趨勢，若推理成本進(jìn)一步降低，對于AI(人工智能)內(nèi)容的發(fā)展將有顯著推動。

　　展望未來，DeepSeek將繼續(xù)以其創(chuàng)新力和開源精神，推動AI技術(shù)的普及和應(yīng)用。從教育、娛樂應(yīng)用到電商場景，從AI視頻生成技術(shù)到AI硬件落地發(fā)展，DeepSeek都有望推動相關(guān)行業(yè)的變革與發(fā)展。(中新經(jīng)緯APP)

　　中新經(jīng)緯版權(quán)所有，未經(jīng)授權(quán)，不得轉(zhuǎn)載或以其他方式使用。

責(zé)任編輯：孫慶陽