你以為人工智慧只是省時間的工具嗎？其實，如果不去管理它，企業付出的代價超乎想像。目前全球已經有百分之九十九的企業，因為人工智慧風險而蒙受財務損失，平均損失金額高達四百四十萬美元，換算成台幣超過一億三千萬元。
到底為什麼現在是關鍵時刻？因為我們正迎來「代理式人工智慧」的大爆發，這也就是所謂的 Agentic AI。這裡要特別解釋一下這個新名詞，傳統的程式是給一個指令動一個動作，但「代理式人工智慧」具備自主性，它可以在你授權的範圍內自己判斷、自己執行任務。當人工智慧開始幫你存取內部系統、代替你執行業務流程，如果沒有管好，就像是給了一個陌生人你家門口的鑰匙，卻沒人看著他到底做了什麼。
根據 台灣 CIO 雜誌 所進行的 CIO Insight 調查顯示，雖然大家都在用人工智慧，但在防止出錯的護欄機制上，只有百分之十四的企業優先選擇部署專業的治理框架。大多數台灣企業目前只停留在人工作業流程的規範，這在面對反應速度極快的人工智慧代理人時，完全跟不上腳步。
那麼，企業該從哪裡開始做起？你不需要自己發明新規則，全球已經有現成的地圖可以參考。像是美國國家標準暨技術研究院發布的 AI RMF 框架，它把管理拆解成四個持續運作的循環：治理、盤點、衡量與管理。另外還有 ISO 42001，這是一個可以取得認證的國際標準，如果你想向客戶證明你的系統很安全，拿這張證書就對了。
對於想要馬上行動的經營者，這裡有兩個立即可執行的建議。第一是建立「可見性」，白話一點說就是「看得到才治得到」。你要先有一份清冊，搞清楚員工到底在用哪些人工智慧工具、資料流向哪裡、是誰授權的。
第二是明確「問責鏈」。每個系統都要有一個具名的負責人，當董事會問起「出了事誰負責」時，必須要有人能回答，而且這個答案必須有紀錄可查。治理做得早，回報其實很可觀，研究發現建立監控機制的企業，營收改善的機率比其他公司高出百分之三十四。
人工智慧的治理不是為了阻礙創新，而是為了讓創新能夠安全地大規模運作。現在就選一個起點開始吧，別讓你的企業在科技浪潮中裸奔。
[ 文章來源：未治理 AI 將付出代價 ]
The post 人工智慧時代沒人管的代價是上億台幣！ first appeared on CIO Taiwan.