
聯(lián)發(fā)科端側(cè)AI新突破:天璣全面優(yōu)化微軟小語(yǔ)言模型Phi-3.5
聯(lián)發(fā)科官方宣布,聯(lián)發(fā)科天璣系列移動(dòng)平臺(tái)現(xiàn)已針對(duì)微軟最新推出的Phi-3.5小語(yǔ)言模型(SLM)進(jìn)行了專門適配與優(yōu)化。
該優(yōu)化目前已經(jīng)落地天璣9400、天璣9300兩款旗艦芯片,以及天璣8300次旗艦芯片,而包括天璣8400在內(nèi)的未來(lái)的生成式AI技術(shù)芯片也都會(huì)支持。
開(kāi)發(fā)人員可以通過(guò)微軟Azure AI模型目錄,以及聯(lián)發(fā)科的NeuroPilot SDK開(kāi)發(fā)工具包,使用微軟Phi-3.5進(jìn)行相關(guān)開(kāi)發(fā),尤其是在內(nèi)置NPU AI引擎的聯(lián)發(fā)科平臺(tái)上進(jìn)行和優(yōu)化生成式AI推理。
所謂小語(yǔ)言模型,就是相對(duì)于大語(yǔ)言模型(LLM)而言,最大區(qū)別就是參數(shù)量更少,從數(shù)千億甚至數(shù)萬(wàn)億參數(shù),通常會(huì)減少到幾百萬(wàn)至幾十億,從而大幅降低了模型體積與復(fù)雜度,運(yùn)行效率更高,獲取更容易,還可以優(yōu)化定制。
因此,小語(yǔ)言模型非常適合智能手機(jī)這樣處理器、內(nèi)存等硬件資源相對(duì)有限的設(shè)備。
隨著生成式AI尤其是端側(cè)AI的快速發(fā)展和廣泛應(yīng)用,AI正在全面革新現(xiàn)代人的生活、娛樂(lè)、工作方式。
事實(shí)上,在生成式AI浪潮來(lái)臨之前,聯(lián)發(fā)科就已經(jīng)深耕端側(cè)AI生態(tài)的推進(jìn),天璣移動(dòng)平臺(tái)每一代都在演進(jìn)NPU AI硬件引擎,始終保持旗艦級(jí)性能,蘇黎世AI Benchmark測(cè)試中幾乎一直都是AI性能冠軍。
強(qiáng)大的端側(cè)AI性能,疊加聯(lián)發(fā)科在生態(tài)開(kāi)發(fā)方面的持續(xù)投入,為天璣平臺(tái)智能手機(jī)的AI智能化體驗(yàn)打下了強(qiáng)大軟硬件基礎(chǔ)。
為了加速端側(cè)AI應(yīng)用落地、普及,聯(lián)發(fā)科還打造了全新的“天璣AI智能體化引擎”,通過(guò)強(qiáng)大的端側(cè)AI性能,將傳統(tǒng)應(yīng)用轉(zhuǎn)化為更加智能化的AI應(yīng)用,已經(jīng)與多款知名應(yīng)用達(dá)成深度合作,讓年輕人的各方面生活都更智慧、更好玩。
未來(lái),聯(lián)發(fā)科也會(huì)持續(xù)推動(dòng)端側(cè)AI的深入發(fā)展,帶來(lái)更加豐富的端側(cè)AI應(yīng)用。
[超站]友情鏈接:
四季很好,只要有你,文娛排行榜:https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全,洞悉企業(yè)級(jí)服務(wù)市場(chǎng):https://www.ijiandao.com/

隨時(shí)掌握互聯(lián)網(wǎng)精彩
- 1 看總書記關(guān)心的清潔能源這樣發(fā)電 7904174
- 2 今年最強(qiáng)臺(tái)風(fēng)來(lái)襲 7809623
- 3 澳加英宣布承認(rèn)巴勒斯坦國(guó) 7713627
- 4 長(zhǎng)春航空展這些“首次”不要錯(cuò)過(guò) 7618607
- 5 43歲二胎媽媽患阿爾茨海默病 7521370
- 6 iPhone 17橙色斜挎掛繩賣斷貨 7425342
- 7 老奶奶去世3年 鄰居幫打掃門前落葉 7331845
- 8 三所“零近視”小學(xué)帶來(lái)的啟示 7236423
- 9 女兒發(fā)現(xiàn)父親500多萬(wàn)遺產(chǎn)用于保健 7141458
- 10 英國(guó)航母從南?!傲锪恕?/a> 7042247