
國(guó)產(chǎn)中文大語(yǔ)言模型“天河天元”發(fā)布:由天河超算訓(xùn)練
5月21日消息,5月18日,2023第七屆世界智能大會(huì)于國(guó)家會(huì)展中心(天津)正式開(kāi)始。而天河新一代超級(jí)計(jì)算機(jī)是中國(guó)新一代百億億次超級(jí)計(jì)算機(jī),也在此次展會(huì)迎來(lái)首次亮相。
同時(shí),為充分發(fā)揮超算在算力方面的優(yōu)勢(shì),推動(dòng)國(guó)產(chǎn)異構(gòu)超級(jí)計(jì)算機(jī)平臺(tái)在AI應(yīng)用開(kāi)發(fā)和服務(wù)領(lǐng)域中的應(yīng)用。
國(guó)家超算天津中心在大會(huì)上發(fā)布了“天河E級(jí)智能計(jì)算開(kāi)放創(chuàng)新平臺(tái)”和“天河天元大模型”。
據(jù)介紹,中文大語(yǔ)言模型的數(shù)據(jù)集非常稀缺。國(guó)家超算天津中心搜集整理了網(wǎng)頁(yè)數(shù)據(jù)、各種開(kāi)源訓(xùn)練數(shù)據(jù)、中文小說(shuō)數(shù)據(jù)、古文數(shù)據(jù)、百科數(shù)據(jù)、新聞數(shù)據(jù),以及專(zhuān)業(yè)領(lǐng)域的中醫(yī)、醫(yī)藥、問(wèn)診、法律等多種數(shù)據(jù)集。
訓(xùn)練數(shù)據(jù)集總token數(shù)達(dá)到350B,最終訓(xùn)練打造出了自己的中文語(yǔ)言大模型——天河天元大模型。
據(jù)悉,“天河E級(jí)智能計(jì)算開(kāi)放創(chuàng)新平臺(tái)”將帶來(lái)突破百億億次的跨模態(tài)的超級(jí)計(jì)算算力,支撐傳統(tǒng)的科學(xué)工程計(jì)算,并服務(wù)智能混合計(jì)算,打造全方位的算力賦能創(chuàng)新和數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展載體。
[超站]友情鏈接:
四季很好,只要有你,文娛排行榜:https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全,洞悉企業(yè)級(jí)服務(wù)市場(chǎng):https://www.ijiandao.com/

隨時(shí)掌握互聯(lián)網(wǎng)精彩
- 1 看總書(shū)記關(guān)心的清潔能源這樣發(fā)電 7904633
- 2 今年最強(qiáng)臺(tái)風(fēng)來(lái)襲 7808843
- 3 澳加英宣布承認(rèn)巴勒斯坦國(guó) 7713285
- 4 長(zhǎng)春航空展這些“首次”不要錯(cuò)過(guò) 7616028
- 5 43歲二胎媽媽患阿爾茨海默病 7521510
- 6 iPhone 17橙色斜挎掛繩賣(mài)斷貨 7428535
- 7 老奶奶去世3年 鄰居幫打掃門(mén)前落葉 7329280
- 8 三所“零近視”小學(xué)帶來(lái)的啟示 7239197
- 9 女兒發(fā)現(xiàn)父親500多萬(wàn)遺產(chǎn)用于保健 7143995
- 10 英國(guó)航母從南?!傲锪恕?/a> 7047149