
NVLINK升級(jí)至1.4TB/s!NVIDIA Blackwell已在數(shù)據(jù)中心運(yùn)行
據(jù)媒體報(bào)道,NVIDIA在近期的吹風(fēng)會(huì)上,展示了Blackwell在數(shù)據(jù)中心的運(yùn)行情況,并駁斥了此前關(guān)于Blackwell推遲上市的傳聞。
不僅如此,NVIDIA NVLINK技術(shù)也迎來了重大升級(jí),帶寬翻倍達(dá)到1.4TB/s。
Blackwell平臺(tái)不僅包含Blackwell GPU,還集成了Grace CPU、NVLINK Switch Chip、Bluefield-3、ConnectX-7、ConnectX-8、Spectrum-4和Quantum-3等多種芯片,形成了一個(gè)全面的數(shù)據(jù)中心解決方案。
Blackwell平臺(tái)的設(shè)計(jì)目標(biāo)是滿足現(xiàn)代人工智能的需求,特別是針對(duì)超大型語言模型的計(jì)算需求,隨著AI模型參數(shù)的不斷增長,數(shù)據(jù)中心對(duì)計(jì)算能力和低延遲的要求也越來越高。
Blackwell平臺(tái)的多GPU推理方法,通過在多個(gè)GPU上分配計(jì)算任務(wù),實(shí)現(xiàn)了低延遲和高吞吐量的處理能力。
NVIDIA通過Blackwell推出了速度更快的NVLINK交換機(jī),該交換機(jī)基于臺(tái)積電4NP節(jié)點(diǎn),提供了1.8TB/s的雙向NVLINK帶寬,能夠連接72個(gè)GPU,大幅提高了數(shù)據(jù)中心的通信效率。
NVIDIA還分享了全球首張使用FP4計(jì)算生成的人工智能圖像,展示了FP4量化模型在速度上的顯著優(yōu)勢(shì),同時(shí)保持了與FP16模型相似的圖像質(zhì)量。
[超站]友情鏈接:
四季很好,只要有你,文娛排行榜:https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全,洞悉企業(yè)級(jí)服務(wù)市場(chǎng):https://www.ijiandao.com/

隨時(shí)掌握互聯(lián)網(wǎng)精彩
- 1 傳統(tǒng)產(chǎn)業(yè)“綠”動(dòng)“智”變 7904815
- 2 女兒發(fā)現(xiàn)父親500多萬遺產(chǎn)用于保健 7809477
- 3 為阻止印籍員工返美 美國人組團(tuán)搶票 7714633
- 4 殲-20的首次靜態(tài)展示有何重要意義 7619157
- 5 大爺蹲點(diǎn)進(jìn)周杰倫演唱會(huì)賣水:5元1瓶 7524254
- 6 菲軍方宣布“紅色警戒”狀態(tài) 7424186
- 7 “我爸給我寄了兩枝路邊看到的花” 7328882
- 8 央視曝光??永夏耆说乃接蛑辈ラg 7231887
- 9 中企回應(yīng)在非洲遭800億美元天價(jià)索賠 7142403
- 10 樊振東賽場(chǎng)上演“憑空取球” 7042071