產業

AWS推Agentic AI三階段治理藍圖 助企業兼顧創新與合規

Vendor Icon

商傳媒

37 分鐘前

圖/示意圖

商傳媒|責任編輯/綜合外電報導

隨著具備自主決策能力的 AI Agent(人工智慧代理)成為企業技術焦點,如何安全落地並兼顧法規成為關鍵課題。雲端服務巨擘 AWS 近期發布針對 Agentic AI 的「負責任 AI」階段性實踐框架,提出為期 12 週的建構藍圖,明確界定基礎架構與應用開發團隊的協作權責,協助企業在部署自動化流程時降低營運風險。

過去傳統的負責任 AI 實踐主要以模型為核心,聚焦在機器學習的模型訓練、測試與推論階段;但如今自主執行的 AI Agent 會主動串接企業內部系統、動用工具並執行任務,讓防護重心轉向更動態的整體系統運作。

AWS 指出,企業在導入這類架構時,普遍面臨四大核心挑戰:執行期行為難以完全預測、資料存取與權限邊界控管、法規快速更迭,以及團隊間協作機制不清。對此,該框架將負責維護底層環境的「平台工程團隊」與專注於商務邏輯的「應用開發團隊」分工——由平台團隊建立安全邊界與基礎防護,應用團隊則在規範的防護框架內建構具體功能,避免彼此權責重疊或產生技術缺口。

該治理藍圖共分為三大成熟度階段:第一階段為「治理基礎」,重點在於風險分類、法務合規審查以及雲端登陸區基礎架構設定,主打安全性與隱私權;第二階段進入「概念驗證部署」,導入安全護欄、脈絡錨定與關鍵操作的「真人覆核」機制,強化系統產出真實度與可控性;第三階段為「評估與強化」,涵蓋公平性基準測試、可解釋性分析,以及持續性的紅隊安全演練。

在實際應用層面,金融科技公司 Robinhood 藉由 Amazon Bedrock 開發防範金融犯罪的生成式 AI Agent。該專案在 60 天內累積了 2,000 次與專家判斷一致的決策並通過人工作業審核,最終在符合金融監管規範的前提下,順利提升了 20% 的作業效率。

針對評估標準,該架構設計了 1 至 5 分的成熟度評量指標,凡得分低於 4 分即代表系統仍存有顯著風險。企業除可參考 AWS 負責任 AI 資源 與架構文件外,也應在模型升級或新增業務情境等關鍵時間點,定期重新評估內部治理架構,確保自動化代理能在受控邊界內穩定運作。


author avatar
商傳媒
商傳媒是由一群在媒體界超過十年的採訪團隊,是一個提供財經、科技、智慧製造、醫療、電玩資訊為主要服務內容的金融科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更朝向將台灣中小企業產品獎持續推向全世界。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持

瞭解詳情