從多模型整合到企業治理
當生成式 AI 興起後，軟體業者陸續在既有產品中加入 AI 助理，企業不僅得面對模型選擇與版本管理問題，也難以讓 AI 跨越系統與部門，真正參與完整的工作流程。思邁智能推出 MaiAgent，以一站式解決方案解決前述種種挑戰。
採訪／施鑫澤・文／林裕洋
長年以來，ERP、CRM 等核心系統一直是企業營運的重要基礎，在生成式 AI 興起後，不少軟體業者也開始在既有產品中加入 AI 功能，透過提供 AI 助理方式，試圖提升用戶的使用效率。只是這種從既有產品出發的思維，在各系統 AI 功能難以協同合作下，對企業帶來的效益相當有限。另外，各應用系統採用的 AI 模型也不同，後續版本管理上也是一大困擾。
為此，思邁智能推出一個獨立於 AI 模型之外、以公司資產為基礎的 MaiAgent，定位為企業級 AI 對話平台。產品支援 GPT、Claude、Gemini 等 20 多種大型語言模型，並提供文件分析、深度研究、工具串接與團隊協作等功能，讓企業員工能透過單一介面運用不同 AI 能力，降低跨平台切換與管理的複雜度。
思邁智能執行長張介騰認為，若要讓 AI 真正參與企業核心運作，唯有整合企業內部的檔案、系統、標準作業程序與存取權限，建立統一的運作基礎，才能讓 AI 掌握完整脈絡與權限規範，提供企業期待的專案效益。MaiAgent 核心定位是讓企業擁有自主的 AI 核心，建立一套符合自身需求的運作流程，在兼顧資料安全與權限管理的前提下，逐步擴大 AI 的應用範圍，將零散員工經驗轉化為企業整體的營運能力。
從多模型整合出發 建立企業 AI 應用架構
有別於軟體廠商在自家產品加上 AI Agent 的做法，思邁智能 MaiAgent 方案是在模型之上建立一層專屬架構，整合企業治理、資料與知識等功能，可以搭配多種 AI 模型使用。
此外，產品支援私有化部署，且企業資料不會被用於模型訓練，搭配單一登入（SSO）、角色權限（RBAC）、審計日誌與用量分析等治理功能，一次滿足企業推動 AI 專案的種種需求。隨著 AI 模型快速演進，不僅開源與閉源模型輪番領先，傳統 AI Agent 綁定單一 AI 模型的風險非常高，MaiAgent 方案支援多種 AI 模型的模式，自然可以避免此種事情發生，同時還能享受最新模型帶來的優勢。
[ 加入 CIO Taiwan 官方 LINE、Facebook 與 LinkedIn，與全球 CIO 同步獲取精華見解 ]
因應企業用戶需求，MaiAgent 內建 MaiAgent Work、MaiAgent Serve、MaiAgent Build 等三大產品模組，搭配 AI 治理與資安合規機制、Hook 檢核與防越權技術，可兼顧場景應用與治理等要求。
- MaiAgent Work 主要應用於個人生產力提升，適合 PM 專案管理、程式撰寫、人資、會計日常作業等用途。
- MaiAgent Serve 扮演企業對外客戶互動的角色，適合 AI 客服、業務 Sales Agent、與經銷商或終端用戶互動。
- MaiAgent Build 則是為 IT 彈性工作流開發設計，供 IT 部門或進階用戶自訂 Agent，如撰稿機器人、客製化流程。
張介騰指出，多數企業推動 AI 專案時，往往陷入不知道從何著手的窘境，我們建議可從高重複性、高知識性、投資報酬率可被監測等三大面向，選擇最優先的導入場景。
以思邁智能協助台灣櫻花為例，正是從客服與維修起步，從概念驗證到正式上線，大約 3～4 個月完成，目前已擴充到九個以上的 AI 助理場景，AI 回答正確率由 73％ 提升至 90％ 以上。
Hook 扮演監考機制 阻斷越權與幻覺
企業推動生成式 AI 專案的疑慮，莫過於擔心產生幻覺或錯誤。畢竟在資料報告或對外客服場景中，一旦出現 AI 幻覺的代價極高，對外訊息若被截圖流傳，對商譽影響極大，對內若相關數字錯誤，可能會導致決策失準。為此，MaiAgent 解決方案是採用 Hook 機制，即在技術架構上設置一個獨立於執行 Agent 之外的「監考 Agent」，專責審核輸出內容是否符合預定規範。
MaiAgent 系統內建模板，使用者可像組樂高一樣無程式碼（no code）插入，並提供調校工具，在檢核關卡與回應速度之間取得平衡。而攔截與放行的紀錄也會完整留存，配合 AgentOps 的測試集、自動評分與監測，讓上線前有測、上線後有看。
簡單來說，Agent 在回覆送出前，先由 Hook 檢核機制確認是否符合必須遵守的規範，通過才放行，不通過就會要求重新調整命令。Hook 同樣會管控 Agent 的自主行為，當執行刪除檔案、直接發信給客戶等高風險動作時，會先要求由專屬員工進行審核，避免 AI 自主運作造成對公司的損失。
張介騰解釋，在資料安全方面，MaiAgent 內建 DLP 與 PII 遮罩功能，敏感資料送往雲端模型前先進行遮蔽，回傳後再還原，讓金融等法規要求嚴格的產業能採用雲地混合架構。
他說明，MaiAgent 支援 SaaS、私有雲與地端部署，並取得 ISO 27001 與 ISO 27701 雙認證，截至目前服務超過 100 家企業與公部門客戶，累計建置逾兩萬個 AI 助理，每月處理超過百億個 LLM Token，整體能力深受企業用戶肯定。
支援多種 GPU 晶片 AI 算力效益最大化
隨著企業對生成式 AI 服務日益熟悉，加上 AI Agent 部署數量攀升，企業也開始關注 AI 使用成本，期盼透過掌握 Token 使用狀況搭配地端部署方式，降低雲端 AI 算力的費用支出。
張介騰說，MaiAgent 內建的用量儀表板，可依照企業的使用情境，將 AI 助理、部門與個人等 Token 拆解，作為後續 AI 算力分攤的依據。另外，MaiAgent 也支援地端部署模式，滿足政府法規、資料保護要求，加上產品也支援 AMD MI300 等系列的 GPU 晶片，可讓企業選擇更為多元。
[ 推薦閱讀：2027 CIO Insight (5) IT 資源：資源有限，成本控管與效益分析，為企業 AI 導入成功關鍵 ]
今年中期間，MaiAgent 與半導體封測客戶、SI 夥伴及研究機構，在單張 AMD Instinct MI300X（192GB HBM3）上，以 ROCm 與 vLLM 執行開放權重的 Gemma 4 模型，並透過 AI Gateway 以 BYOK 方式接入，整體效能非常亮眼。
隨著企業 AI 應用從個別工作輔助，逐步延伸至跨部門流程與自主執行任務，也面臨整合內部知識、控管 AI 的使用權限、掌握應用成效與運作成本等挑戰。MaiAgent 透過多模型整合、AI Agent 治理與彈性部署，將分散的 AI 工具轉化為可管理、可持續擴充的營運能力，扮演企業邁向 AI 時代的數位助理。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
