
人工智慧(AI)從單純的聊天機器人,正進化為能替你瀏覽網頁、處理郵件、完成任務的「AI代理」。不過,這份便利的背後潛藏著一個棘手的資安難題。根據路透社(Reuters)報導,AI巨擘OpenAI近日坦承,一種名為「提示注入」(Prompt Injection)的攻擊手法,恐怕將成為AI瀏覽器一個無法根除的永久性漏洞。
這項警示源於OpenAI近期為其AI瀏覽器ChatGPT Atlas發布的安全更新說明。 公司在部落格文章中直言,儘管團隊正持續強化防禦,但「提示注入」的風險不太可能被徹底消除,這如同網路釣魚或詐騙郵件對人類社會的持續威脅一樣。 這種攻擊正伴隨AI代理模式的出現,顯著擴大了整體的安全威脅範圍。
那麼,什麼是「提示注入」攻擊?根據IBM的解釋,這並非傳統的程式碼駭侵,而更像是一種針對AI的「社會工程學」。 攻擊者將惡意指令巧妙地隱藏在網頁、電子郵件或文件中,當AI代理讀取這些內容時,便會像被催眠一樣,不自覺地執行這些隱藏指令,完全偏離使用者的初衷。
問題的核心在於,目前的AI模型很難清晰分辨哪些是「使用者下達的可信指令」,哪些又是「來自外部的惡意內容」。 一旦這條界線被模糊,AI助理就可能瞬間從你的得力助手,變成攻擊者潛入你數位生活的特洛伊木馬,構成嚴重資安威脅。
自從OpenAI於10月推出Atlas瀏覽器後,全球資安社群便不斷對其進行壓力測試。 資安公司NeuralTrust的研究人員便發現一個重大漏洞,攻擊者可以製作一個看似正常卻格式錯誤的網址,當使用者將其貼到瀏覽器的搜尋框(Omnibox)時,瀏覽器會因無法將其解析為網址,轉而當成給AI代理的「可信指令」來執行。
這個被稱為「Omnibox越獄」的手法,能輕易誘騙AI將使用者導向惡意釣魚網站,甚至執行更危險的動作。 另一家資安公司LayerX也揭露了名為「ChatGPT Tainted Memories」的漏洞,顯示攻擊者有機會污染ChatGPT的記憶功能,植入惡意指令並執行遠端程式碼。
更令人擔憂的是,執行這類攻擊的技術門檻極低。根據多項研究報告,有心人士甚至只需在Google Docs文件中寫下幾行精心設計的文字,或是在網頁上使用與背景同色的隱藏文字,就可能成功操控AI代理的行為。 這也證實了這類風險並非OpenAI的Atlas所獨有,而是所有AI瀏覽器面臨的系統性挑戰。
這場看不見的戰爭已獲得各國政府高度關注。英國國家網路安全中心(NCSC)便曾警告,提示注入攻擊可能永遠無法被完全緩解,資安專家的重點應放在降低風險與衝擊,而非妄想能徹底根絕。 這項看法與OpenAI的立場不謀而合。
面對這個棘手的敵人,OpenAI並未坐以待斃,而是採取了一套更為主動的防禦策略。根據其官方說明,他們正在建立一個快速反應的防禦循環,持續發掘新的攻擊手法並迅速部署緩解措施。 策略的核心之一,是極具前瞻性的「用AI對抗AI」。
OpenAI利用強化學習技術,訓練出一個專門扮演駭客的「紅隊AI」。 這個AI駭客會在模擬環境中,不斷以各種刁鑽、創新的方式攻擊自家的瀏覽器代理。由於AI能洞悉目標模型的內部思考過程,因此能更有效率地找出潛在漏洞,讓防禦團隊在真實攻擊發生前就打好補丁。
OpenAI在部落格中分享了一個內部案例:其自動化紅隊AI成功設計了一封惡意郵件,當Atlas的AI代理讀取郵件時,竟完全聽從信中隱藏的指令,不僅沒草擬使用者要求的「外出回覆」,反而擅自寄出了一封辭職信。 這些內部演練發現的漏洞,都已被用於強化模型並整合進最新的安全更新中。
這場攻防戰的本質,反映出AI發展正從「會思考的AI」邁向「能行動的AI」。當AI被賦予越來越大的自主權,能存取我們的敏感資料並代為執行各種操作時,其潛在的風險也隨之放大。 如何確保這些AI代理的忠誠與安全,將是所有科技公司、監管機構與使用者必須共同面對的課題。
相關報導:storyboard18.com、ibm.com
本文 AI瀏覽器恐有永久漏洞?OpenAI警告:提示注入攻擊防不勝防 授權來自 亞洲新聞網。
