科技

黃仁勳演講,有哪些 Agentic AI 架構認知你需要更新?

Vendor Icon

CIO Taiwan

6月. 01, 2026

從 Computex 開展前夕的 NVIDIA GTC Taipei 2026主題演講看企業 IT 的四層位移。

編撰/何信達


企業資訊長而言,NVIDIA 執行長黃仁勳在 NVIDIA GTC Taipei 2026 主題演講的開場方式值得細讀——他沒有從產品規格切入,而是先用一組商業數據,為接下來所有技術發表確立戰略座標。

一組數據,宣告時代轉折

他指向 GitHub 的 commit 統計:2023 年全球提交次數為 3 億次,2024 年 4 億次,2025 年 5 億次,而 2026 年才過幾個月,數字已近乎翻三倍。黃仁勳的換算方式直指企業決策層的語言:全球約 3,000 至 4,000 萬名職業軟體工程師,薪資總額估計達 3 兆美元,這 3 兆美元的人力過去支撐了全球約 100 兆美元產業的運轉。而今,同樣規模的人力,產出正在逼近三倍——以 3 兆美元的薪資成本,創造接近 9 兆美元的生產力,這將是資本配置邏輯的根本改變。

[ 加入 CIO Taiwan 官方 LINE FacebookLinkedIn,與全球CIO同步獲取精華見解 ]

他也直接回應了「AI 搶走工作」的論點,以他的原話:「complete nonsense(完全是無稽之談)。」邏輯是:當一名工程師能產出三倍成果,企業反而更有動機增聘,而非裁員。這個觀點對正在評估 AI 投資與人力規劃的資訊長而言,具有直接的組織管理意涵。

這組數據是整場演講的核心前提:有用的 AI(useful AI)已經到來,AI 現在是利潤引擎,也是 GDP 引擎。而驅動這一切的,不只是大型語言模型本身,而是一種全新的運算模式——Agent(代理程式)。黃仁勳明確宣告:「今天我們要談的幾乎所有事情,都會以這個為基礎。」對資訊長而言,這意味著理解 Agent 架構,已不再是選修,而是必修。

Agent 四件組:取代傳統三層架構的新運算模型

黃仁勳在演講中花了相當篇幅拆解 Agent 的內部結構,這是在告訴每一位企業決策者:你即將採購、部署、或被要求支援的系統,運作邏輯已經從根本上改變。

過去的運算模型是:1.應用程式、2.程式碼、3.作業系統三層結構。今天這個結構被 Agent 取代。

黃仁勳在演講中明確拆解 Agent 的四個組成:1.模型(Model)、2.控制橋接器(Harness)、3.工具與技能(Tools & Skills)、以及 4.執行環境(Runtime)。

他用一個具體比喻說明:模型是大腦,Harness 是身體,工具是它使用的器械,Runtime 則是它工作的場所——「就像一個工人,帶著工具,在工作坊裡運作。」

這個四件組架構有一個關鍵特性:它是分散式與異質性(disaggregated and heterogeneous)的運算模型。Agent 運行時,推論思考發生在 GPU 叢集,工具調用發生在 CPU,記憶體存取發生在儲存系統,安全管控發生在 DPU。這意味著企業的 IT 基礎設施,從網路、儲存、運算到安全,每一層都將因 Agent 的工作負載特性而面臨重新設計的壓力。

Harness 為何是資訊長必修

在四件組中,Harness 是資訊長最需要深入理解的概念,也是最容易被產品行銷語言帶過的環節。Harness 負責協調整個 Agent 的運作:處理上下文(context)、管理記憶體、決定何時呼叫哪個工具、以及確保整個流程在安全政策框架內執行。黃仁勳明確指出,Harness 的安全機制運行在 CPU 與名為 DPU(Data Processing Unit)的安全處理器上,確保模型的身份、權限與隱私均受到保護。

記憶體管理是 Harness 另一個關鍵職責。Agent 的短期記憶稱為 KV Cache(鍵值快取),長期記憶的管理則涉及結構化與非結構化資料的檢索、資料本體論(ontology)的建立。黃仁勳的原話是:「AI 的記憶體系統,將會讓儲存系統面臨一場徹底的革命。」對負責企業資料架構的資訊長而言,Agent 的導入,將連帶重塑儲存與資料治理的整體設計。

Harness 並非綁定單一 AI 模型的封閉系統,而是一個可容納不同模型、統一治理的企業級執行層。演講中展示的兩個 Harness 實例是 Open Shell 與 Hermes,兩者均為開源框架,支援 Claude Code、Codex 等外部 Agent 在其中安全運行。資訊長選擇 Harness,本質上是在選擇企業 AI 的治理框架,而非只是選擇一套軟體工具。

Open Shell:身份、權限、行為邊界的新治理框架

Agent 能做什麼,資訊長或許已有概念;但 Agent 在企業環境中如何被管控,才是真正決定導入成敗的關鍵。黃仁勳在演講中特別點出 NVIDIA Open Shell,並將它定位為企業部署 Agent 的核心安全機制。

Open Shell 的功能是為 Agent 建立一個受控的執行沙盒(sandbox)。黃仁勳的說明是:「這個 shell 保護 Agent,讓它在安全政策的框架內運作。隱私受到保護,權限被明確賦予,身份受到驗證。」換言之,Open Shell 處理的,是模型在組織內部的身份、權限與行為邊界——這三件事,恰好是資訊長在任何系統導入前都必須回答的問題。

[ 推薦閱讀:運算即營收 黃仁勳:Agentic AI 將重構企業運算架構 ]

Open Shell 是開源專案,已獲得 Red Hat、Canonical、Microsoft 公開支持,並可跨雲端、地端(on-premises)及裝置端部署。同一套治理框架,不因基礎設施的差異而產生管控破口,這對混合架構已成常態的企業 IT 環境具有實際意義。

演講展示的建築設計 Agent demo 揭示了一個重要的架構模式:本地端的 RTX Spark 執行 Open Shell 沙盒,搭載 Hermes harness,同時連接雲端的 Claude Sonnet 模型。本地端負責治理與安全,雲端負責模型運算,兩者透過 Harness 銜接。對資訊長而言,這代表 Agent 的導入不必然是全雲或全地端的二選一,而是一個需要重新定義「邊界」的混合治理命題。

四個 IT 層次正在同步位移

綜觀這場演講,Agentic AI 帶來的衝擊,同時發生在企業 IT 的每一個層次。

1.基礎設施層

AI 工廠的建設邏輯已與傳統資料中心根本不同。黃仁勳在演講中反覆強調的核心指標是每瓦 token 數(tokens per watt),這個指標將運算效能直接換算為營收能力——「每一個 token 都是利潤,每一個 token 都是營收。」資訊長在評估 AI 基礎設施時,參考框架已從過去的 TCO(總持有成本)與效能規格,擴展為必須納入資產生命週期與每瓦產出的複合商業模型。

2.應用系統層

Agent 的四件組架構正在成為新一代企業應用的標準模式。黃仁勳在演講中說:「每一家公司都會是 Agent 公司,每一家公司內部都會有 Agent 在運行。」這個趨勢的實際意涵是,企業現有的軟體資產必須重新評估是否能以 Agent 可調用的方式呈現,否則將在新的運算生態中逐漸失去相關性。NVIDIA 與 Cadence 合作將晶片驗證週期從數週壓縮至數小時,效率提升超過 40 倍,是這個方向最具說服力的早期例證。

3.治理層

Open Shell 的出現標誌著 Agent 安全管控正在從概念走向具體實作。身份驗證、權限管理、行為邊界——這三件事在傳統應用系統中已有成熟框架,但 Agent 的自主性與跨工具調用能力,使既有的資安治理模型面臨新的挑戰。Open Shell 獲得主要平台廠商的公開背書,顯示產業正在往標準化治理框架的方向聚合。

4.端點層

企業端點設備正從「執行應用程式的工具」轉變為「持續運行 Agent 的計算節點」。這個轉變的時間軸或許仍有爭議,但端點 AI 運算能力的快速提升,已是可觀察的現實。

黃仁勳在演講尾聲說了一句話,或許是整場最值得資訊長記住的一句:「過去六個月,電腦產業已經徹底改變。一切都變了。」這個「一切」,指的是從運算模式、應用架構、硬體設計哲學到商業評估框架的全面位移。理解這個架構,是在接下來的技術決策中保持判斷力的前提。


(本文授權非營利轉載,請註明出處:CIO Taiwan)

Image 271
The post 黃仁勳演講,有哪些 Agentic AI 架構認知你需要更新? first appeared on CIO Taiwan.
author avatar
CIO Taiwan
IDG集團的媒體品牌CIO於1987年創刊,為國際性最權威的IT管理專業雜誌。擁有全球最頂尖的IT管理專家作者群,因此能寫出最權威的分析評論、最先進的IT管理觀念。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持

瞭解詳情