科技

美官方實測AI助攻恐攻 四大聊天機器人全能規劃襲擊電網

Vendor Icon

商傳媒

34 分鐘前

圖/示意圖

商傳媒|方承業/綜合外電報導

美國聯邦政府的一份最新調查揭露,當前頂尖的人工智慧系統若缺乏妥善防護,極可能成為實體攻擊的策劃工具。根據外媒引述美國政府問責署(GAO)發布的報告,調查人員實測市面上四款主流 AI 聊天機器人——ChatGPT、Claude、Gemini 與 Grok,發現所有模型都能在 12 小時內產出具備可行性的攻擊計畫,內容涵蓋破壞美國關鍵電力設施與策劃大規模爆裂物襲擊。

在其中一項實測案例中,AI 聊天機器人指出了四處特定的變電所;經調查團隊實際前往現場勘查,證實其中兩處在實體防護上確實存在嚴重漏洞。調查人員更成功繞過了各大平台內建的防護機制——也就是俗稱的提示詞注入(Prompt Injection,指透過特殊設計的文字指令騙過安全過濾,誘使 AI 違反使用規定並吐出危險資訊)。受測模型不僅能推薦可用於襲擊的無人機型號,還生成了攻擊行動的視覺示意資料;甚至有兩套平台依要求產出了針對飯店與會議中心的土製爆裂物襲擊方案。

儘管報告指出 AI 提供的部分資訊仍有錯誤(例如地圖不夠精準或目標資訊瑕疵),但其整合情報與降低恐攻門檻的能力已引起國安單位高度警戒。這項測試於 2026 年春季採用當時的模型版本進行,相關科技業者隨後陸續強化安全過濾機制。

系統自動化帶來的連鎖風暴

AI 技術不僅在潛在實體威脅上敲響警鐘,在數位與基礎設施維運上也逐漸暴露出失控風險。近期美國接連發生多起重大系統癱瘓事件,包括聯邦航空總署(FAA)因系統當機導致上萬架次航班延誤,以及微軟服務與國家安全局網絡的連線中斷。官方調查隨後證實,這些事故並非來自敵對勢力的網路攻擊,而是與修補程式的執行失敗有關。

多位資安專家向外媒指出,隨著防護端廣泛採用 AI 快速偵測軟體漏洞,修補程式的產出速度已遠超人類團隊測試與驗證的負荷。當 IT 人員被迫在舊型架構上大量且快速地套用 AI 建議的更新時,反而頻繁引發非預期的連鎖崩潰。

企業與監管機構急設防線

針對 AI 代理(AI Agent,指能自主呼叫外部工具與 API 代替人類執行操作的軟體系統)在各領域快速普及所伴隨的失控風險,產官兩界已著手劃定界線。資安業者 Salt Security 最新調查顯示,近半數受訪企業在過去一年曾遭遇 AI 代理執行未經授權或非預期的動作,其中超過五成涉及外部 API 呼叫與系統權限變更,但僅有約 17.5% 的企業具備在系統運作中即時攔截異常 AI 的能力。

為防堵潛在財務與法律漏洞,美國銀行業已率先調整規則。花旗銀行(Citibank)本週更新使用者條款,明確規定客戶若授權第三方 AI 代理存取帳戶,該代理執行的所有交易與存取行為皆視為客戶本人授權,相關損失或駭侵風險由客戶自行承擔;富國銀行、摩根大通與美國銀行也先後採取了類似的免責規範。

美國國會跨黨派議員隨後於 11 月 18 日提出法案,研擬在網路安全和基礎設施安全局(CISA)旗下設立國家級獨立調查委員會,將調查範疇從傳統駭客攻擊正式擴大至 AI 系統異常行為與軟體瑕疵,全面防堵自主技術對關鍵基礎設施構成的系統性威脅。

參考來源


author avatar
商傳媒
商傳媒是由一群在媒體界超過十年的採訪團隊,是一個提供財經、科技、智慧製造、醫療、電玩資訊為主要服務內容的金融科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更朝向將台灣中小企業產品獎持續推向全世界。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持

瞭解詳情