
NVLINK升級至1.4TB/s!NVIDIA Blackwell已在數(shù)據(jù)中心運行
聲明:該文章來自(快科技)版權(quán)由原作者所有,K2OS渲染引擎提供網(wǎng)頁加速服務。
據(jù)媒體報道,NVIDIA在近期的吹風會上,展示了Blackwell在數(shù)據(jù)中心的運行情況,并駁斥了此前關于Blackwell推遲上市的傳聞。
不僅如此,NVIDIA NVLINK技術(shù)也迎來了重大升級,帶寬翻倍達到1.4TB/s。
Blackwell平臺不僅包含Blackwell GPU,還集成了Grace CPU、NVLINK Switch Chip、Bluefield-3、ConnectX-7、ConnectX-8、Spectrum-4和Quantum-3等多種芯片,形成了一個全面的數(shù)據(jù)中心解決方案。
Blackwell平臺的設計目標是滿足現(xiàn)代人工智能的需求,特別是針對超大型語言模型的計算需求,隨著AI模型參數(shù)的不斷增長,數(shù)據(jù)中心對計算能力和低延遲的要求也越來越高。
Blackwell平臺的多GPU推理方法,通過在多個GPU上分配計算任務,實現(xiàn)了低延遲和高吞吐量的處理能力。
NVIDIA通過Blackwell推出了速度更快的NVLINK交換機,該交換機基于臺積電4NP節(jié)點,提供了1.8TB/s的雙向NVLINK帶寬,能夠連接72個GPU,大幅提高了數(shù)據(jù)中心的通信效率。
NVIDIA還分享了全球首張使用FP4計算生成的人工智能圖像,展示了FP4量化模型在速度上的顯著優(yōu)勢,同時保持了與FP16模型相似的圖像質(zhì)量。
[超站]友情鏈接:
四季很好,只要有你,文娛排行榜:https://www.yaopaiming.com/
關注數(shù)據(jù)與安全,洞悉企業(yè)級服務市場:https://www.ijiandao.com/
- 1 看總書記關心的清潔能源這樣發(fā)電 7904308
- 2 今年最強臺風來襲 7809469
- 3 澳加英宣布承認巴勒斯坦國 7713492
- 4 長春航空展這些“首次”不要錯過 7616959
- 5 43歲二胎媽媽患阿爾茨海默病 7522318
- 6 iPhone 17橙色斜挎掛繩賣斷貨 7427385
- 7 女兒發(fā)現(xiàn)父親500多萬遺產(chǎn)用于保健 7331821
- 8 英國航母從南海“溜了” 7234717
- 9 女子花10萬云養(yǎng)豬生重病難退錢 7141494
- 10 三所“零近視”小學帶來的啟示 7044484