科技

「信任」隱憂日益加深,AI 仍進入流程

Vendor Icon

CIO Taiwan

7月. 22, 2024

近五分之四受訪的企業組織已在流程中引進 AI,僅少數企業還在測試這項技術。除了公家機關,民營機構也已廣泛採用 AI,來自 Foundry Research 的新報告指出,這兩個領域只有少數人認為他們至少還需要 2 年才能成功藉助 AI 實現目標。

文/Shweta Sharma·譯/柳百郁


份由 Splunk 委託的研究,調查兩百間企業組織的資深決策者,組織規模平均 4,255 位員工,發現與 AI 系統建立信任,是在民營機構與公家機關擴展 AI 用途的頭號阻礙。

[ 熱門精選:得安全 AI 系統者 得天下 ]

報告指出,「這份調查旨在瞭解公家機關與民營機構如何利用 AI,與如何因應政府法規、道德考量與保障 AI 賦能系統帶來的挑戰這類阻礙。」這份調查的受訪者中,有 54% 位居副總裁或更高職位,公家機關與民營機構比例幾乎一致 (49% vs 51%)。

自動化加快引進 AI 的腳步

據這份調查指出,多數企業組織 (79% 公家機關與 83% 私人機構 ) 已開始在生產中利用 AI。僅少部份現仍處於測試技術 (9%)、審查解決方案 (8%) 或正計劃審查這項技術 (4%)。

這股推動的力量,絕大多數歸因於這兩大領域轉向「自動化」。有 44% 公家機關受訪者表示已正在使用,或正在規劃透過自動化提升生產力,而私人機構的比例則略高為 53%。

其他領域引進 AI 的前幾名則包括促進改革與創意發想 (30%)、改善產品與服務 (30%)、提升公民或顧客體驗 (29%),以及偵測與評估網路風險 (26%)。

[ 加入 CIO Taiwan 官方 LINE Facebook ,與全球 CIO 同步獲取精華見解 ]

此外,57% 公家機關受訪者與 65% 私人企業受訪者深信所處單位會在一年內準備好充份利用 AI 推動任務或營運策略。僅 11% 與 12% 公家機關與私人機構受訪者認為所處企業組織至少還需要兩年才做得到。

AI 引進與擴展的主要障礙依然是「AI 系統的信任建立」,有 48% 公家機關與 44% 私人機構因資料隱私與資安疑慮而不願意採用。

收益增長中 隱然出現的法規疑慮

觀察發現,AI 主要效益之一在於處理網路安全重要性考量。其中包括 AI 賦能的監控 (34%)、風險評估 (33%) 與威脅資料分析 (29%)。

這份研究報告還指出,私人機構受訪者顯然比公家機關更多比例回報會利用 AI 技術分析威脅資料  (35% 對 22%)、提升生產力 (30% 對 17%)、生成程式碼 (22% 對 7%) 或分析營運技術 (OT) 資料  (20% 對 9%)。

「我認為 AI 發揮積極作用的領域會有識別弱點、威脅偵測、預防攻擊、使用者行為分析、實體分析、巨量資料安全性分析、風險、治理、身份驗證管理等。」Sequretek 共同創辦人暨 CEO Pankit Desai 如此表示。

[ 推薦閱讀:生成式 AI 企業應用與導入現況 ]

以文字為基礎生成式 AI 技術的大型語言模型 (LLMs) 的普及化,近幾年急速成長,有近乎十分之七公家機關受訪者 (69%) 回報所處單位已採用或正想引進外部建立的 LLM,相較之下私人機構的比例為 57%。

隨著 LLM 成長範疇的擴增,對模型訓練、使用與偏差的隱憂也與日俱增。研究報告指出,整體產業有超過四分之三 (78%) 決策者深信,應有全球性道德準則,引導 AI 與 LLM 規章。


(本文授權非營利轉載,請註明出處:CIO Taiwan)

The post 「信任」隱憂日益加深,AI 仍進入流程 first appeared on CIO Taiwan.

內容來源

author avatar
CIO Taiwan
IDG集團的媒體品牌CIO於1987年創刊,為國際性最權威的IT管理專業雜誌。擁有全球最頂尖的IT管理專家作者群,因此能寫出最權威的分析評論、最先進的IT管理觀念。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持

瞭解詳情