2024年11月12日
- 軟銀攜手 NVIDIA Blackwell 打造全國最強 AI 超級計算機，協助廣泛主權 AI 計劃宣布 Grace Blackwell 的計劃
- NVIDIA AI Aerial 協助軟銀打造 世界首創 居住 5G AI-RAN，解鎖 全球電信業數十億美元的新收入機會
- 軟銀利用 NVIDIA AI Enterprise 創建 AI 市場，滿足國家對本地安全 AI 運算的需求
NVIDIA 日本 AI 高峰會—NVIDIA 今天宣布與軟銀公司進行一系列合作，旨在加速日本自主 AI 計劃並進一步鞏固其全球技術領先地位，同時為全球電信提供商釋放數十億美元的 AI 收入機會。
NVIDIA 創辦人兼執行長黃仁勳在 NVIDIA AI 高峰會日本主題演講中宣布，軟銀正在利用 NVIDIA Blackwell 平台，並計劃在其下一代超級電腦上使用 NVIDIA Grace Blackwell 平台。
此外，NVIDIA 也透露，軟銀將利用 NVIDIA AI 航拍 加速運算平台已成功試運行全球首個 AI 與 5G 電信網路——這是運算領域的突破，將為電信業者帶來價值數十億美元的 AI 收入來源。
NVIDIA 和軟銀也宣布，利用 NVIDIA AI 企業版 軟銀致力於打造一個能滿足本地安全AI運算需求的AI市場。這項新服務支援AI訓練和邊緣AI推理，使軟銀成為日本的AI網格，為日本各行各業、消費者和企業創造、分發和使用AI服務創造新的商機。
黃仁勳表示：「日本長期以來致力於引領具有全球影響力的技術創新。隨著軟銀對NVIDIA全端AI、Omniverse和5G AI-RAN平台的大力投資，日本正躍入AI產業革命，成為全球領導者，推動電信、交通、機器人和醫療保健行業進入新的增長時代，這將極大地造福AI時代的人類。」
軟銀總裁兼執行長宮川淳一表示：「全球各個國家和地區正在加速應用人工智慧，以促進社會和經濟成長，社會正在經歷重大變革。透過與 NVIDIA 的長期合作，軟銀正引領這場變革。憑藉我們極其強大的人工智慧基礎設施，以及我們為人工智慧重塑 5G 網路的全新分散式 RAN RAN 並將
軟銀率先接收布萊克威爾，並計畫接收葛蕾絲·布萊克威爾
軟銀預計將獲得全球首個 NVIDIA DGX™ B200 系統，這將成為其新 NVIDIA DGX SuperPOD™ 超級電腦。
軟銀計畫將其由 Blackwell 驅動的 DGX SuperPOD 用於其自身的生成式 AI 開發和 AI 相關業務，以及日本各地的大學、研究機構和企業的業務。
軟銀的 DGX SuperPOD 建成後預計將成為日本迄今性能最高的超級運算平台。該平台搭載 NVIDIA AI Enterprise 軟體和 NVIDIA Quantum-2 InfiniBand 網路，它也是開發大型語言模型的理想選擇。
除了 DGX SuperPOD 之外，軟銀還計劃打造另一台 NVIDIA 加速超級計算機，以運行極其計算密集型的工作負載。這款超級電腦的初步設計是基於 NVIDIA Grace Blackwell 平台，其特點是 NVIDIA GB200 NVL72 多節點、液冷、機架規模系統，將 NVIDIA Blackwell GPU 與節能的基於 Arm 的 NVIDIA Grace™ CPU 結合。
AI-RAN邁向新里程碑
軟銀與 NVIDIA 密切合作，實現了一項技術里程碑——開發了一種可以同時運行 AI 和 5G 工作負載的新型電信網絡，業界稱之為人工智慧無線接入網絡，或 人工智慧.
這種新型基礎設施得到了電信行業廣泛的生態系統支持，因為它使營運商能夠將其基地台從成本中心轉變為人工智慧創收資產。
透過在神奈川縣進行的室外試驗，軟銀證明其 NVIDIA 加速的 AI-RAN 解決方案已實現運營商級 5G 性能，並且能夠利用網路的過剩容量同時運行 AI 推理工作負載。
傳統電信網路的設計目標是處理尖峰負載，平均而言，僅使用了三分之一的容量。借助AI-RAN提供的通用運算能力，預計電信業者現在有機會將剩餘的三分之二容量轉化為AI推理服務。
NVIDIA 和 SoftBank 估計，電信業者每投資 $1 的新 AI-RAN 基礎設施資本支出，就可以獲得約 $5 的 AI 推理收入。(1) 考慮到營運支出和資本支出成本，軟銀估計其基礎設施中添加的每個 AI-RAN 伺服器都可以獲得高達 219% 的回報。(2)
現實世界推理在 AI-RAN 上運行
在此次試驗中，軟銀使用 NVIDIA AI Enterprise 構建了真實的 AI 推理應用，包括自動駕駛汽車遠端支援、機器人控制以及邊緣的多模態檢索自動生成。所有推理工作負載均能夠在軟銀的 AI-RAN 網路上以最佳狀態運作。
SoftBank 的全軟體定義 5G 無線電堆疊針對 NVIDIA 的 AI 運算平台進行了最佳化，並包含 SoftBank 基於以下技術增強的 L1 軟體 NVIDIA Aerial™ CUDA® 加速 RAN 庫. 軟銀計劃合併 NVIDIA 空中 RAN 計算機-1 據估計，這些系統的功耗比傳統 5G 網路基礎設施低 40%，(3) 並進一步推進其解決方案。
為軟銀 AI-RAN 解決方案試驗做出貢獻的 NVIDIA 和軟銀合作夥伴包括富士通和紅帽。
匹配供給與需求
由於 AI-RAN 解決方案需要根據需求和供應動態地增加或減少運算量，且無法即時影響營運商級效能，因此軟銀旨在利用 NVIDIA AI Enterprise 無伺服器應用程式介面及其內部開發的編排器，建構一個連接 AI 技術需求和供應的生態系統。這使得軟銀能夠在計算資源可用時將外部 AI 推理作業調度到 AI-RAN 伺服器，以提供本地化、低延遲、安全的推理服務。
NVIDIA 電信高級副總裁 Ronnie Vasishta 表示：“從單一用途 AI-RAN 網絡轉向多用途網絡，意味著每投入一美元資本支出就能獲得 5 倍的收益。軟銀的現場試驗標誌著 AI-RAN 商業化邁出了重要一步，驗證了技術的可行性、性能和經濟性。”
軟銀副總裁兼先進技術研究所所長脇川隆司表示：「軟銀的『AITRAS』是與NVIDIA合作五年後開發的首個AI-RAN解決方案。它透過軟銀開發的編排器整合並協調AI和RAN工作負載，透過在單一NVIDIA加速的GPU伺服器上運行密集單元來提高通訊裝置來提高通訊效率。
詳細了解 NVIDIA 解決方案 人工智慧.