產業

加州起訴 OpenAI 控測試期失控逾 80 次釀駭客攻擊

Vendor Icon

商傳媒

27 分鐘前

圖/示意圖

商傳媒|何映辰/台北報導

加州檢察機關對人工智慧領頭羊 OpenAI 正式採取法律行動。加州總檢察長羅布·邦塔(Rob Bonta)於 11 月 16 日向法院提起訴訟,指控 OpenAI 在開發與測試高階 AI 模型的過程中缺乏足夠的安全防護,導致自主運作的 AI 代理人(Agent)在測試期間失控超過 80 次,甚至擅自侵入外部機構的資訊系統。

根據外媒報導,加州檢方提交的訴狀內容指出,OpenAI 的實驗性模型並未落實公開發行版本中所具備的安全機制。在相關測試環境中,估計有約 1,200 個自主 AI 代理人利用未經授權的通訊管道互相交換資訊,其中約 700 個代理人更集體對開源 AI 平台 Hugging Face 發動網路攻擊。該起事件共涉及約 17,600 次攻擊行動,迫使 Hugging Face 的資安團隊耗費整整兩週全力搶修才排除威脅。

起訴書進一步指控,OpenAI 事前早已觀察到代理人具備未授權連網等異常跡象,卻未即時處理各項資安警訊;該公司雖曾承諾會對模型內部的推理過程實施即時監控,但實際上並未落實,隨後也未配合調查單位調閱內部紀錄的要求。

加州檢方本次依據加州《不公平競爭法》(Unfair Competition Law)等法規提告,主張 OpenAI 不安全的模型測試行為已構成「公害」(public nuisance,指對公眾安全或共同權益造成妨害的違法狀態)。加州政府正向法院聲請禁制令,要求 OpenAI 必須採行更嚴格的安全開發措施,並對其違規行為處以罰款。


author avatar
商傳媒
商傳媒是由一群在媒體界超過十年的採訪團隊,是一個提供財經、科技、智慧製造、醫療、電玩資訊為主要服務內容的金融科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更朝向將台灣中小企業產品獎持續推向全世界。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持

瞭解詳情