
百川智能王小川:美國OpenAI要把1000萬個GPU連接起來做大模型 這種想法像登月一樣
聲明:該文章來自(快科技)版權(quán)由原作者所有,K2OS渲染引擎提供網(wǎng)頁加速服務(wù)。
在今天上午舉辦的2023云棲大會上,百川智能創(chuàng)始人兼CEO王小川發(fā)表演講稱,今年年底之前,國內(nèi)會有幾家公司能夠做到GPT3.5的水平,明年國內(nèi)會有若干款超級應(yīng)用。
王小川表示,百川智能做大模型的理念是“理想上慢一步,落地上快三步”。4月下場之后,百川在兩個月時間就完成了第一個70億參數(shù)的模型的發(fā)布,行業(yè)一般需要半年,比預(yù)期時間節(jié)省了三倍。
他直言,在大模型領(lǐng)域,確實(shí)得承認(rèn)跟美國存在差距。他預(yù)計(jì)今年年底之前國內(nèi)會有幾家公司能達(dá)到GPT 3.5的水平,到明年也有信心能夠達(dá)到GPT4.0的水平,但是達(dá)到之后,可能很難去超越他們。
他在發(fā)言中還談到在美國與OpenAI交流時了解到的情況。
“他們在正在設(shè)計(jì)一個把1000萬顆GPU連在一起做模型的技術(shù)。咱們做GPT3.5的時候用了4000顆GPU,做GPT4的時候是25000顆,英偉達(dá)一年生產(chǎn)能力才100萬顆,而OpenAI在設(shè)計(jì)把1000萬個GPU連接起來,這樣一種想法像登月一樣?!?/strong>
“我對他們充滿了敬畏。我更自豪的地方是,我們在做應(yīng)用方面可能比美國走得更快?!蓖跣〈ū硎?。
王小川認(rèn)為,在做應(yīng)用方面,中國企業(yè)會走得很快?;诂F(xiàn)在已有的技術(shù),相信中國明年有若干款超級應(yīng)用。
公開資料顯示,百川智能成立于2023年4月10日,由前搜狗公司CEO王小川創(chuàng)立。其核心團(tuán)隊(duì)來自搜狗、Google、騰訊、百度、華為、微軟、字節(jié)等知名科技公司,目前團(tuán)隊(duì)規(guī)模170余人,研發(fā)人員占比超80%。
成立半年,百川智能便接連發(fā)布baichuan-7B/13B,Baichuan2-7B/13B四款開源可免費(fèi)商用大模型及Baichuan-53B、Baichuan2-53B兩款閉源大模型,平均每28天就會發(fā)布一款新的大模型。
10月30日,百川智能發(fā)布Baichuan2-192K大模型,其上下文窗口長度達(dá)192K,是目前全球最長的上下文窗口,能夠處理約35萬個漢字,是目前支持長上下文窗口最優(yōu)秀大模型Claude2(支持100K上下文窗口,實(shí)測約8萬字)的 4.4倍,更是 GPT-4(支持32K上下文窗口,實(shí)測約 2.5萬字)的14倍。
據(jù)悉,Baichuan2-192K現(xiàn)已正式開啟內(nèi)測,以API(應(yīng)用程序接口)調(diào)用的方式開放給核心合作方,目前已經(jīng)與財(cái)經(jīng)類媒體及律師事務(wù)所等機(jī)構(gòu)達(dá)成了合作,將全球領(lǐng)先的長上下文能力應(yīng)用到了傳媒、金融、法律等具體場景當(dāng)中,不久后將全面開放。
[超站]友情鏈接:
四季很好,只要有你,文娛排行榜:https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全,洞悉企業(yè)級服務(wù)市場:https://www.ijiandao.com/
- 1 像石榴籽一樣緊緊抱在一起 7904751
- 2 殲-35完成在福建艦上彈射起飛 7809602
- 3 深圳:建議準(zhǔn)備至少3天的應(yīng)急物資 7713011
- 4 唱著民歌迎豐收 7618253
- 5 日本“蘋果病”流行達(dá)歷史頂點(diǎn) 7523818
- 6 孩子的數(shù)學(xué)邏輯比運(yùn)算結(jié)果重要 7427786
- 7 榴蓮降至15元一斤 7333364
- 8 港珠澳大橋主橋?qū)⒎忾] 7237873
- 9 背簍老人等公交被拒載 司機(jī)被開除 7139000
- 10 六旬男子連挖10座墓偷11個骨灰盒 7044157