📄 第二階段學習單:智能的推理——Blackwell 與代幣經濟
適用範圍:影片 35:00 - 01:10:00
🎯 學習目標
區分 AI 「訓練(Training)」與「推理(Inference)」的差別。
理解為什麼「每瓦效能」是未來企業競爭的關鍵。
🧩 核心詞彙
Inference (推理): AI 模型在完成學習後,實際回答問題、生成內容的過程。
Token (代幣): AI 產出的基本單位(如一個字或一塊像素),也是未來的「數位貨幣」。
Blackwell: NVIDIA 的強大運算平台,專為大規模推理設計。
✍️ 重點摘要
推理轉折點(Inference Inflection): AI 需求已從「學習(訓練)」轉向「執行(推理)」,計算需求激增百萬倍。
Blackwell 架構:
專為大規模推理設計,每瓦電力產出的 Token 數量比前代提高 35-50 倍。
引入 FP4 精度,在不損害智慧的前提下大幅提升速度。
Token 經濟學: 智能的基本單位是 Token,數據中心轉型為「Token 工廠」,並根據生成速度與智慧等級分級定價。
推理型 AI(o1): 展示 AI 如何透過自我思考、規畫與查證,解決更複雜的邏輯問題。
💡 思辨練習
Q1: 根據黃仁勳的說法,未來工程師會擁有「Token 預算」而非僅僅是工資。想像你是一名設計師,擁有大量的 Token 可以讓 AI 幫你產出設計草圖,這會如何改變你的工作流程?
Q2: 為什麼 NVIDIA 要強調「每瓦產出的 Token 數量」?這對全球環境永續發展有什麼關聯?
