📄 第三階段學習單:超級電腦工程——Vera Rubin 與極致冷卻
適用範圍:影片 01:10:00 - 01:45:00
🎯 學習目標
認識大規模超級電腦系統的硬體組件與工程挑戰(如散熱)。
理解「解耦式推理(Disaggregated Inference)」如何優化運算。
🧩 核心詞彙
Liquid Cooling (液冷技術): 利用液體循環帶走高性能晶片產生的廢熱。
NVLink: 讓數以百計的 GPU 能像「一顆巨大晶片」一樣溝通的橋樑。
Digital Twin (數位孿生): 在電腦裡建立一個一模一樣的虛擬工廠,先進行模擬實驗。
✍️ 重點摘要
Vera Rubin 平台: 全新全液冷架構,將整個超級電腦整合進單一機架,徹底解決散熱與物理線纜限制。
Kyber 機架: 垂直滑入式設計,實現 144 個 GPU 的高速互連。
Groq 技術整合:
引入 LPU(代幣加速器)解決「低延遲」生成問題。
解耦式推理: Rubin 負責處理龐大記憶體的「思考」,Groq 負責「即時回答」,兩者結合達成 35 倍效能提升。
NVIDIA DSX: 利用數位孿生技術在虛擬世界模擬工廠的電力與散熱,降低數十億美元的建設風險。
💡 思辨練習
Q1: 面對極致的運算效能,傳統的風扇散熱已不足。請查閱資料或運用物理知識,解釋為什麼「液體冷卻」比「空氣冷卻」更有效率?
Q2: NVIDIA 建立「數位孿生」來規劃工廠。如果你要為你的學校建立一個數位孿生系統,你覺得最需要模擬的是什麼(如人流、冷氣耗電、防災模擬)?
