跳到主要內容
科技應用專題2026 / >U2 智能的推理

📄 第二階段學習單:智能的推理——Blackwell 與代幣經濟

適用範圍:影片 35:00 - 01:10:00

🎯 學習目標

  1. 區分 AI 「訓練(Training)」與「推理(Inference)」的差別。

  2. 理解為什麼「每瓦效能」是未來企業競爭的關鍵。

🧩 核心詞彙

  • Inference (推理): AI 模型在完成學習後,實際回答問題、生成內容的過程。

  • Token (代幣): AI 產出的基本單位(如一個字或一塊像素),也是未來的「數位貨幣」。

  • Blackwell: NVIDIA 的強大運算平台,專為大規模推理設計。

✍️ 重點摘要

  • 推理轉折點(Inference Inflection): AI 需求已從「學習(訓練)」轉向「執行(推理)」,計算需求激增百萬倍。

  • Blackwell 架構:

    • 專為大規模推理設計,每瓦電力產出的 Token 數量比前代提高 35-50 倍。

    • 引入 FP4 精度,在不損害智慧的前提下大幅提升速度。

  • Token 經濟學: 智能的基本單位是 Token,數據中心轉型為「Token 工廠」,並根據生成速度與智慧等級分級定價。

  • 推理型 AI(o1): 展示 AI 如何透過自我思考、規畫與查證,解決更複雜的邏輯問題。

💡 思辨練習

  • Q1: 根據黃仁勳的說法,未來工程師會擁有「Token 預算」而非僅僅是工資。想像你是一名設計師,擁有大量的 Token 可以讓 AI 幫你產出設計草圖,這會如何改變你的工作流程?

  • Q2: 為什麼 NVIDIA 要強調「每瓦產出的 Token 數量」?這對全球環境永續發展有什麼關聯?

消息公佈欄

跳至網頁頂部