產業

防範AI代理誤刪敏感資料 語義快取成企業治理新利器

Vendor Icon

商傳媒

1 小時前

圖/示意圖

商傳媒|何映辰/台北報導

隨著企業陸續放行 AI 代理(Agent)讀取、修改甚至刪除內部敏感資料,傳統資安架構正面臨失效危機。為了在不拖慢系統效能的前提下控管風險,業界開始轉向「語義快取(Semantic Caching)」技術,直接在資料傳輸路徑中實施即時治理。

根據外媒《SiliconANGLE》報導,企業內部如智慧財產權、客戶資料庫及專利演算法等核心資產,已逐漸開放給自主運作的 AI 代理存取。然而,防火牆與資料外洩防護(DLP)等傳統資安工具,過去都是針對人類使用者與一般應用程式設計,難以防範新型態風險。

新創業者 Daxa Inc. 共同創辦人暨執行長 Huseni Saboowala 指出,AI 代理運作在所謂的「認知層」(Cognitive Layer,或稱第 8 層)。該層級是 Prompt、模型回應、資料檢索與工具呼叫(Tool Calls)實際發生的場域,傳統工具根本無法在此運作。

為解決這項痛點,業界提出運用語義快取作為即時控管機制。這項技術——簡單來說就是在快取中辨識指令語義而非僅比對字面文字——能讓系統在資料串流中即時攔截並採行控制措施,同時避免拖慢 AI 代理的反應速度。此外,搭配具備推理能力的存取控制,由特定代理負責標記異常行為,可進一步降低認知層的資安威脅。

伺服器大廠慧與科技(Hewlett Packard Enterprise Co.)也採取相應防範措施。該公司將治理機制直接內建於旗下產品 HPE Private Cloud AI 架構中,避免在工作流程成形後才以拼裝方式補強。

報導指出,目前已有區域銀行採用 Daxa Inc. 與慧與科技的解決方案,將內部 AI 代理安全連接至原始程式碼與受高度監管的客戶資料庫中。


author avatar
商傳媒
商傳媒是由一群在媒體界超過十年的採訪團隊,是一個提供財經、科技、智慧製造、醫療、電玩資訊為主要服務內容的金融科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更朝向將台灣中小企業產品獎持續推向全世界。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持

瞭解詳情