跳到主要內容
科技應用專題2026 / >U3 超級電腦工程

📄 第三階段學習單:超級電腦工程——Vera Rubin 與極致冷卻

適用範圍:影片 01:10:00 - 01:45:00

🎯 學習目標

  1. 認識大規模超級電腦系統的硬體組件與工程挑戰(如散熱)。

  2. 理解「解耦式推理(Disaggregated Inference)」如何優化運算。

🧩 核心詞彙

  • Liquid Cooling (液冷技術): 利用液體循環帶走高性能晶片產生的廢熱。

  • NVLink: 讓數以百計的 GPU 能像「一顆巨大晶片」一樣溝通的橋樑。

  • Digital Twin (數位孿生): 在電腦裡建立一個一模一樣的虛擬工廠,先進行模擬實驗。

✍️ 重點摘要

  • Vera Rubin 平台: 全新全液冷架構,將整個超級電腦整合進單一機架,徹底解決散熱與物理線纜限制。

  • Kyber 機架: 垂直滑入式設計,實現 144 個 GPU 的高速互連。

  • Groq 技術整合:

    • 引入 LPU(代幣加速器)解決「低延遲」生成問題。

    • 解耦式推理: Rubin 負責處理龐大記憶體的「思考」,Groq 負責「即時回答」,兩者結合達成 35 倍效能提升。

  • NVIDIA DSX: 利用數位孿生技術在虛擬世界模擬工廠的電力與散熱,降低數十億美元的建設風險。

💡 思辨練習

  • Q1: 面對極致的運算效能,傳統的風扇散熱已不足。請查閱資料或運用物理知識,解釋為什麼「液體冷卻」比「空氣冷卻」更有效率?

  • Q2: NVIDIA 建立「數位孿生」來規劃工廠。如果你要為你的學校建立一個數位孿生系統,你覺得最需要模擬的是什麼(如人流、冷氣耗電、防災模擬)?

消息公佈欄

跳至網頁頂部