AI 科技評論獲悉，離開光年之外的袁進輝“再創(chuàng)業(yè)”又有新動向。

2024年還沒過去兩天，一個名為“硅基流動”的公眾號悄然上線，而這也是袁進輝在 AGI 領(lǐng)域創(chuàng)業(yè)的全新品牌。

分析“硅基流動”（SiliconFlow）的名字，“硅基”是指芯片，“流動”有一層意思是軟件，軟件讓芯片的算力流動起來，也與袁進輝原先的“OneFlow”遙相呼應。

“我們認為大模型一定會無處不在，而現(xiàn)在最大的障礙之一就是推理和部署成本太高，”袁進輝對 AI 科技評論表示道，“就像微軟 Copilot 雖然有100多萬付費用戶，但在每位用戶身上還在虧錢，OpenAI 的業(yè)務擴張也正受到GPU服務能力的限制?！?/p>

而在為大模型推理而設(shè)計的專用硬件出來之前，如何降低推理成本？軟件基礎(chǔ)設(shè)施或許正是解決答案。

“我們團隊在深度學習系統(tǒng)優(yōu)化領(lǐng)域是世界上經(jīng)驗最豐富、最專業(yè)的團隊之一，特別適合來解決大模型推理成本這個關(guān)鍵問題。”

“目前我們?yōu)?Stable Diffusion 開發(fā)的系統(tǒng)，和為大模型開發(fā)的系統(tǒng)已經(jīng)出來了，推理速度都顯著領(lǐng)先于國內(nèi)外的同類產(chǎn)品，其中 Stable Diffusion 那個產(chǎn)品出來的更早一些，目前已經(jīng)積累起了第一批的海外付費客戶?！庇嘘P(guān)團隊近期的進展，袁進輝這樣說道。

Mixtral 8X7B MoE 在不同并發(fā)度下的 Token 吞吐對比結(jié)果

袁進輝當屬中國近年來最被低估的 AI 大牛之一。他本科畢業(yè)于西安電子科技大學，2003年以計算機系的頭名直博清華，師從 AI 巨擘張鈸，博士畢業(yè)又進修博后，在清華園度過了近十載光陰。

原本讀博就是為了謀個教職，清華“師資博士后”的身份，讓袁進輝距離清華的講臺，幾乎只差臨門一腳。

但當時的袁進輝并不滿足只在頂會發(fā)文，他想做原創(chuàng)，做開創(chuàng)性的工作，不想一輩子跟在別人屁股后面，填別人挖開的坑。

而時運不濟，袁進輝負責的跨學科研究——計算神經(jīng)科學等——在計算機學術(shù)領(lǐng)域的影響力并不盡如人意。袁進輝不得不離開清華，來到工業(yè)界闖蕩。

象牙塔的多年鉆研，讓袁進輝與中國互聯(lián)網(wǎng)的高速發(fā)展期擦肩而過。歷經(jīng)有道、360、MSRA，袁進輝深受深度學習高速發(fā)展的感召，意在開發(fā)新一代深度學習系統(tǒng)。

而在理想無法在微軟實現(xiàn)后，袁進輝和多個大廠交流這些設(shè)想，但沒有得到理解和支持，就只好用創(chuàng)業(yè)的方式來實現(xiàn)理想。第一次創(chuàng)業(yè)，袁進輝取名“OneFlow”，與“TensorFlow”名出同源，并在宿華等老朋友的支持，開始就融到了1000萬人民幣。

創(chuàng)業(yè)多年，袁進輝歷經(jīng)過行業(yè)與公司的高潮與低谷。2024年，大模型應用賽道的競逐，正在高速進入第二個賽段。

在海外需求更加高漲的當下，大模型應用的出海之戰(zhàn)已經(jīng)打響，袁進輝和他的“硅基流動”將會首先將軟件系統(tǒng)推向海外市場，再基于這些系統(tǒng)，搭建云上的MaaS 和 PaaS 產(chǎn)品，并針對國內(nèi)需求推出符合國情的產(chǎn)品。

“海外市場主要比拼的還是產(chǎn)品力，”袁進輝表示道，“目前我們正在做大模型推理方案，并且很快會推出極具競爭力的產(chǎn)品，性能上比市面上現(xiàn)有方案會有數(shù)量級的提升。”

[超站]友情鏈接：

四季很好，只要有你，文娛排行榜：https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全，洞悉企業(yè)級服務市場：https://www.ijiandao.com/