Technology

生成式 AI 調查:網路安全專家的機遇與挑戰

Vendor Icon

CIO Taiwan

5月. 09, 2024

1200x630 Person Interacting With Ai Robot

巴菲特本月四日出席波克夏海瑟威(Berkshire Hathaway)年度股東大會表示,當他首次見到一支 「AI 生成的巴菲特」影片時,產生了對生成式 AI 的不安感,他示警 AI 詐騙恐怕將高速成長!而知名認證組織 ISC2 的一項調查結果顯示,網路安全專家對生成式 AI 的優缺點表達了廣泛的意見。

文/Jon Gold‧譯/Frances


成式 AI 的迅速擴散對網路安全專業人員的每日工作帶來了顯著影響,非營利組織 ISC2 發布的一項研究發現。該研究調查了超過 1,120 名網路安全專家,他們大多擁有 CISSP 認證並任管理職,結果發現他們對生成式 AI 在安全領域能發揮的作用持樂觀態度。超過四分之三(82%)的受訪者至少「有點同意」(somewhat agree)AI 可能會提升他們工作效率。

[ 推薦文章:將生成式 AI 落地是一個移動目標 ]

受訪者還從生成式 AI 的趨勢看到了其在網路安全工作中應用潛力的廣度。例如調查中便發現,從主動偵測和阻止威脅、識別潛在安全弱點,再到用戶行為分析,都被列為生成式 AI 的潛在應用方式。另外像自動化重複性的工作也被視為該技術有價值的應用。

生成式 AI 助長黑客活動弊多於利?

然而,對於生成 AI 從網路安全的角度來看是否會產生正面影響,則有不同意見。對社交工程、換臉技術和假訊息的嚴重擔憂;許多人也認為某些人擁有 AI 技能後,會使得 AI 技能不足的人變得過時;更重要的 – 更多受訪者認為 AI 可能更有利於不法者,而非安全專業人員。

[ 推薦文章:生成式 AI 究竟對資安長來說是福還是禍? ]

研究作者寫道:「網路安全專業人員指出,這些 AI 類型的資訊和欺騙攻擊是最大的擔憂,在當前正為政治活動頻繁、政治議題備受關注的一年,無疑是組織、政府和公民的巨大擔憂。」

事實上,受訪者認為一些最大的問題並非具體的網路安全問題,一般的監管和道德問題則需要更加被看重。調查中,有 59% 的人認為生成式 AI 缺乏監管是一個大問題,55% 選擇隱私,而 52% 選擇資料中毒(不論無意或有意)是一大擔憂。

[ 加入 CIO Taiwan 官方 LINE Facebook ,與全球CIO同步獲取精華見解 ]

由於這些擔憂,的確一些比例的受訪者表示他們正在阻止員工使用生成式 AI 工具:12%的人說他們的限制是全面的,32% 的人說是部分的,只有 29% 的人說他們允許使用生成 AI 工具,另有 27% 的人說他們沒有討論過這個問題,不然就是不確定他們組織對此事的政策。


(本文授權非營利轉載,請註明出處:CIO Taiwan)

The post 生成式 AI 調查:網路安全專家的機遇與挑戰 first appeared on CIO Taiwan.

內容來源

author avatar
CIO Taiwan
IDG集團的媒體品牌CIO於1987年創刊,為國際性最權威的IT管理專業雜誌。擁有全球最頂尖的IT管理專家作者群,因此能寫出最權威的分析評論、最先進的IT管理觀念。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持