“正如大家沒法猜到，做游戲顯卡的英偉達，最后會成為AI界最重要的公司。大家也沒法猜到，中國AI大模型的希望，可能就在炒股的公司身上?！币幻鹑诳萍紭I(yè)內人士表示。

今日，國內AI初創(chuàng)公司DeepSeek出現了短時閃崩現象。據DeepSeek回應，其服務再次“宕機”，源自新模型發(fā)布后，用戶訪問量激增所致。

這家由知名私募巨頭幻方量化于2023年4月創(chuàng)立的大模型公司，近日正式發(fā)布推理大模型DeepSeek-R1。在國外大模型排名Arena上，DeepSeek-R1基準測試已經升至全類別大模型第三，其中在風格控制類模型（StyleCtrl）分類中與OpenAI o1并列第一。

1月27日，DeepSeek應用登頂蘋果美國地區(qū)應用商店免費APP下載排行榜，超越了ChatGPT。同日，蘋果中國區(qū)應用商店免費榜顯示，DeepSeek成為中國區(qū)第一。

“DeepSeek AI已經能思考了，這是質的飛躍。以前的模型在思考/推理方面不夠穩(wěn)定可靠，武漢大學計算機學院教授、中國人工智能學會心智計算專委會副主任委員蔡恒進如此評價DeepSeek。

在DeepSeek引發(fā)業(yè)內震動的同時，以科技股為主的納斯達克100指數期貨跌幅達3%，原因是市場擔憂DeepSeek的AI模型可能會擾亂科技行業(yè)。

市場分析認為，DeepSeek R1的成功可能削弱了市場對英偉達AI芯片需求的預期。因為DeepSeek似乎以極低的成本構建了一個突破性的人工智能模型，并且無需使用頂尖芯片。這令人質疑對AI芯片投入數千億美元支出的實際效用。

此前有消息稱，DeepSeek僅用2048顆英偉達H800 GPU和約550萬美元，就訓練出6710億參數的開源大模型，是Llama-3405B超6000萬美元訓練成本的十分之一不到。

不過，《科創(chuàng)板日報》記者了解到，550萬美金只是DeepSeek-V3訓練成本的一部分。根據DeepSeek的論文表述，這僅僅包括DeepSeek-V3的正式訓練，不包括與架構、算法、數據相關的前期研究、消融實驗的成本。而DeepSeek r1的真實算力成本投入遠不止600萬美元。

多名業(yè)內人士認為，OpenAI對大模型的前沿探索與DeepSeek的后發(fā)追趕，所需的算力原本就不是一個量級。創(chuàng)新和探索必然伴隨著算力和各項成本的浪費，在確定性的路徑上優(yōu)化所付出的代價，與探索未知所付出的代價之間不宜簡單對比。

但是，DeepSeek大模型的推出，無疑展示了模型架構在算法和數據層面創(chuàng)新的價值。

曾幾何時，OpenAI的火爆來自“大力出奇跡”，即算力越大、數據越多，就能得到越強的大模型。這種“軍備競賽”型開發(fā)模式，帶來了驚人的能源消耗和訓練成本。受大模型訓練的高昂成本拖累，OpenAI在2024年的虧損額可能達到50億美元，預計到2026年其虧損將進一步攀升至140億美元。

“DeepSeek則帶來了對算力/能耗的需求十余倍的降低?！辈毯氵M強調。

魔形智能創(chuàng)始人徐凌杰向《科創(chuàng)板日報》介紹，DeepSeek巧妙利用了多種優(yōu)化手段來降低成本，其中包括采用低精度數據格式進行訓練，復用和共享參數，以及通過MoE混合專家的架構動態(tài)激活部分參數。

除了降低AI大模型的硬件門檻和能源消耗，DeepSeek的成功，更重要的是為AI未來的應用落地鋪平了道路。

隨著模型性能的逐步穩(wěn)定和應用的陸續(xù)落地，未來算力的推理需求將超過訓練需求。Arm基礎設施事業(yè)部產品解決方案副總裁Dermot O’Driscoll在接受《科創(chuàng)板日報》采訪時就曾表示，接下來將看到更多關于AI推理領域的更多突破，即AI的實際應用?！斑@些創(chuàng)新將從數據中心延伸到邊緣計算，再進一步擴展至終端設備。因此，下一輪創(chuàng)新的重點將從AI訓練轉向AI推理。這意味著在AI推理領域將迎來巨大的機遇?！?/p>

“歷史數據表明，10倍成本下降可激發(fā)百倍需求，當前模型推理成本已進入快速下降通道，或將推動AI應用爆發(fā)?！毙炝杞鼙硎?，“針對-V3模型（參數量6710億），其推理采用創(chuàng)新兩階段架構：32張H800 GPU并行處理預填充任務，320張H800集群加速流式解碼。為追求極致性價比，需將數百GPU通過超高速網絡組成‘超節(jié)點’，這一需求正推動智算中心集群化的演進，加速AI算力基礎設施升級?！?/p>

目前，DeepSeek模型的端側落地已在推進中。近日，AMD宣布將新的DeepSeek-V3模型集成到Instinct MI300X GPU上,該模型經過SGLang強化,針對Al推理進行了優(yōu)化。而英特爾中國區(qū)技術部總經理高宇也表示：Deepseek-R1已經在AI PC上跑起來了！Flowy大模型AI PC應用平臺現已支持在Intel Core Ultra AI PC上運行Deepseek-r。

端側大模型正開始在智能手機、智能汽車、PC等多種設備上嶄露頭角。然而，硬件資源限制、模型壓縮等多重挑戰(zhàn)始終困擾著端側大模型。Deepseek r1端側大模型的推出，有望為下游應用的繁榮帶來了更大的空間，推動更多推理芯片的涌現，以及大模型應用生態(tài)的發(fā)展。

[超站]友情鏈接：

四季很好，只要有你，文娛排行榜：https://www.yaopaiming.com/
關注數據與安全，洞悉企業(yè)級服務市場：https://www.ijiandao.com/