生成式AI、LLM、人型機器人等大規模演算上被運用期待的「NVIDIA Blackwell」,與以往的成本與能源消耗相比最低可到二十五分之一

NVIDIA新發表、預計於2025年下半年出貨的GPU架構NVIDIA Blackwell平台,和過去的NVIDIA Hopper架構相比,最低可用1/25的成本和能源使用量來實現基於大型語言模型(Large Language Model,LLM)的生成式AI,對於降低負荷、促進運算的應用有巨大的正面效果,例如Blackwell平台與以往的CPU系統相比,可將氣象模擬的成本、能耗降低至1/200和1/300。

Blackwell提升大規模模擬的效率

在科學計算和模擬物理環境等常常需要用到雙精度浮點運算的場合中,使用NVIDIA Blackwell GPU架構的速度可以比CPU快30倍,且能源使用效率也較好。物理環境的模擬可以幫助管理者掌握資料中心等現實設施的電力、空氣、熱量流動狀況,從而擬定節能改善對策。

科學計算與AI

Blackwell GPU架構不只被期待用來促進模型模擬,也被期待能加速科學研究。

美國能源部所轄的Sandia國家實驗室正在建立用於並行程式設計的LLM協同編譯器,希望能夠讓LLM有效地生成用於高性能計算應用的並行計算代碼。Sandia國家實驗室設計了專門用於自動生成並行代碼的編程語言Kokkos,以在世界上最強的超級計算機上利用數萬個處理器執行任務,其初步成果令人樂觀。通過克服基於AI的自動並行代碼生成的課題,可望開拓超級計算設施中高性能計算在氣候科學、藥物開發等科研領域的新可能性。

推進量子計算

在量子計算領域也有GPU的發揮空間,研究人員正致力於使用基於NVIDIA GPU的系統和軟件來模擬未來量子計算機,以便以前所未有的速度開發和測試量子算法。NVIDIA CUDA-Q平台通過統一的編程模型實現CPU、GPU和QPU(量子處理單元)的協同作業,從而實現量子計算機的模擬和混合應用的開發。NVIDIA Blackwell架構對推動量子模擬技術達到新的高度發揮貢獻。同時,最新的NVIDIA NVLink多節點互連技術也加快了數據傳輸速度,實現了量子模擬的加速。

 

資料來源:robostart新聞(2024-06-01)

【出處/來源】

0 回復

發表評論

Want to join the discussion?
Feel free to contribute!

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *