IBM AI Gateway 加速企業 AI 專案落地規模化

CIO 價值學院第一堂課會後報導

企業 AI 應用浪潮席捲全球，只是仍有高達 80% 的 AI 專案止於概念驗證階段。面對 AI 落地的三大核心痛點，IBM 提出以 AI Gateway 為核心的企業級解決方案，結合 watsonx 平台完整生態系，協助企業跨越從概念到價值的關鍵鴻溝。

文／林裕洋

綜觀現今企業推動 AI 應用的最大困境，在於擁有大量的概念驗證（PoC）專案，卻始終無法將其推進至正式生產環境。根據 IBM 公布的研究報告指出，有高達 80% 的 AI 專案停留在 PoC 階段，真正落地的比例不到 20%，背後關鍵原因包含「模型破碎化」、「資安與合規風險」及「影子 AI」等三大挑戰。而 IBM 提出以 AI Gateway 為核心的企業級解決方案，可透過統一的中介軟體架構，快速解決上述種種問題，助企業快速將 AI 應用落地。

IBM 臺灣目標市場區暨軟體事業群首席 AI 科學家／資深顧問總監藍郁青指出，AI Gateway 的概念是包含專屬中介軟體，扮演應用程式與多個 AI 模型之間的統一橋樑，並負責強制執行安全與合規政策。此概念核心功能涵蓋「API 標準化」、「模型管理與編排」、「監控與記錄」、「數據整合」、「安全性與合規性」以及「推理與服務」。此設計的重點在自動處理協議轉換、降低開發整合成本之外，也能將請求自動導向最適模型，滿足企業的多元應用場景需求。

watsonx 三位一體串起 AI 完整價值鏈

IBM 的 AI 企業級平台完整技術解決方案以 watsonx 為核心，涵蓋「AI 治理」、「AI 開發」、「AI 儲存與管線」等三大領域，共同構成企業從數據到部署的完整價值鏈。其中，watsonx.data 負責 AI 儲存與管線的任務，支援結構化與非結構化數據的整合，涵蓋靈活儲存架構及多種格式儲存相容性，並透過多重 Catalog 支援全面實現統一的數據治理。

藍郁青說，watsonx.ai 提供完整的 AI 開發環境，涵蓋機器學習開發工具、生成式 AI 開發工具與模型管理庫，並有 AI Agent 實驗室（watsonx Orchestrate），支援主流模型，像 IBM Granite 系列、Mistral AI、Meta Llama 及 OpenAI 等模型，企業可依業務需求靈活選擇最適搭配，不受限於特定廠商；至於 watsonx.governance 則是整個平台的治理核心，提供模型生命週期治理、模型健康狀況監控、流程稽核與法規遵循管理等功能，並對應金管會六大 AI 指引和 MODA 的 AI 建議，確保企業 AI 部署過程中符合相關法規要求。藉由 IBM AI 企業級平台協助，企業可從規劃、驗證、實施到擴展，建立完整的智能助理 AI 應用建置成功方程式，讓過去停留在 PoC 的 AI 投資，真正轉化為可量化、可規模化的企業級生產力，實現從概念到價值的關鍵跨越。