NVIDIA推出新一代Blackwell GPU，效能提升五倍，開拓生成式AI微服務市場

隨著大型語言模型（LLM）的規模不斷擴大，對性能的需求也在增加。現有的GPU難以充分滿足未來模型的需求，因此需要更大更強大的GPU。因應這一需求，NVIDIA日前在「GTC 2024」活動上宣布推出針對生成式人工智慧（AI）時代最佳化的下一代「Blackwell」圖形處理單元（GPU）和平台。這款新型GPU將帶來顯著的性能提升，為AI應用開發者提供更大的計算能力和效率。

圖片來源：NVIDIA - Blackwell GPU

新型的「Blackwell」GPU採用了台積電定制的4NP製程，每個矽集成了超過1,040億個電晶體，並搭載了192GB的HBM3e記憶體，提供8TB/s的記憶體頻寬。相較於上一代「Hopper」，Blackwell GPU在AI效能方面提升了5倍，並且擁有更大的晶體管數量和記憶體容量。這款GPU可以應用於現有基礎架構的HGX配置，也可以與Grace CPU結合，提供更高效的計算能力和更大的內存空間。其支援的新FP4格式運算將顯著推動生成式人工智慧AI的發展。

圖片來源：NVIDIA GTC - 黃執行長介紹 Blackwell GPU（左）和 Hopper GPU（右）

此外，NVIDIA還宣布將推出生成式AI的微服務，以幫助企業更輕鬆地構建和利用優化的生成式AI環境。透過提供合作夥伴們在雲端基礎設施中使用Blackwell GPU和平台，為開發人員提供更多的選擇和支持，加速人工智慧應用程式的開發和部署。

這次的GTC 2024活動對於NVIDIA來說是一個重要的里程碑，展示了該公司在AI技術領域的最新進展和未來發展方向。隨著Blackwell GPU和相關平台的推出，我們可以預見在生成式AI時代將迎來更加革命性的應用和創新。

參考資料：엔비디아, 생성형 AI 최적화 ‘블랙웰’ GPU 발표…“이전 대비 성능 5배 향상”

近期熱門文章：

1.三星電子瞄準下一代高寬頻記憶體市場，打造下一代HBM4記憶體巨星！

2.NTT創新器件公司，提升融合光電技術進軍矽光子領域，推出具備高性能和極速傳輸的PEC設備

3.「Google x 光環」超高速資料中心合作：開啟1.6T矽光子時代