商傳媒｜責任編輯／綜合外電報導
隨著人工智慧（AI）代理在企業應用中日益普及，其帶來的安全與管理挑戰也浮上檯面。網路設備龍頭思科（Cisco）近日宣布推出一系列創新解決方案，包括「前沿AI紅隊測試」（Frontier AI Red Teaming）與「AI代理可觀測性」（Agent Observability）功能，旨在協助企業確保AI代理的安全、治理與效能。
思科的「AI防禦」（AI Defense）框架將整合Anthropic公司開發的Claude Mythos模型，強化AI應用程式與AI代理的紅隊測試能力。紅隊測試是一種模擬攻擊的資安演練，目的是找出系統潛在的弱點。透過Claude Mythos的先進推理能力，安全團隊能更有效地規劃測試，並將結果轉化為針對不同AI系統的攻擊策略，確保AI應用在投入生產前就能找出關鍵缺陷。
此外，思科正加強Splunk Agent Observability與Cisco IQ的功能，為企業大規模部署AI代理做好準備。可觀測性（Observability）指的是監控系統內部運作狀況，以理解其行為與效能。「Tokenomics」是Splunk Agent Observability的強化功能之一，能將AI代理的運行成本與其工作品質和業務影響連結，提供企業在AI投資上的單一視圖（ROI）。透過新推出的Eval-G1評估模型與「評估調優器」（The Evaluation Tuner），企業能以更低成本、更快速度執行AI代理的評估與安全防護措施，實現即時的AI代理控制。
業界研究顯示，AI代理的普及速度已超越了企業建立管控與問責制度的腳步。去年有超過一半（52%）的企業曾發生AI代理相關的資安或隱私事件，而僅有不到一成的企業有專人負責AI代理的行為。同時，員工未經授權使用AI工具（俗稱「影子AI」）也為企業帶來數據外洩、智慧財產損失等風險。思科的這些新作法，正是為了因應這些日益嚴峻的挑戰。
思科總裁暨產品長Jeetu Patel表示，企業必須確保AI代理在安全、治理與可觀測的框架下運作，才能擴展其應用價值。而Anthropic的資安負責人Michael Moore也指出，Claude Mythos整合至思科的AI防禦框架，將能協助資安團隊更深入地對AI代理進行測試。
為提供更全面的防護，思科也將Cisco IQ的威脅情報整合至 Splunk平台，並透過模型上下文協議（Model Context Protocol, MCP）與ServiceNow連接器，將資安發現自動轉化為可執行的IT服務管理紀錄，協助企業快速協調修復工作。
目前，採用Claude Mythos的調適性紅隊測試將開放給特定企業使用，而Tokenomics預計於今年12月提供私人預覽，並於2027年初在亞馬遜網路服務公司（AWS Marketplace）全面上市。Eval-G1評估模型與評估調優器則已於本月全面上市。
參考來源
-
Cloudsmith secures the AI software supply chain with agent s…（VMblog）
-
Enterprises Have Learned to Deploy AI Agents. They Have Not…（VMblog）
-
Snowflake Powers the Agentic Enterprise, Giving Every AI Age…（Biz Today）
-
E2B Tests NVIDIA Vera for High-Density Agent Sandbox Fleets（Unite.ai）
-
Shadow AI Exposes Data, Systems Beyond IT Control（Mexico Business）
-
Cisco Unveils Frontier AI Red Teaming and Agent Observabilit…（Cision PR Newswire）
-
The next breakthrough is software built on the battlefield b…（Breaking Defense）
-
Google, Amazon, Microsoft, Meta could dominate AI agents, Op…（PPC Land）
-
At-Home Care Providers Face High-Stakes Learning Curves With…（Home Health Care News）
-
Red Hat OpenShift 5 Brings AI Agents to Cluster Troubleshoot…（Virtualization Review）
