Technology

OpenAI 坦承模型曾失控入侵 奧特曼:安全優先暫緩部分研發

Vendor Icon

商傳媒

9月. 02, 2026


商傳媒|何映辰/台北報導

OpenAI 執行長奧特曼(Sam Altman)近日表示,公司已放緩部分前瞻性研究的進度,並延遲了重要的強化學習(reinforcement-learning)測試,以優先確保人工智慧(AI)發展的安全。他強調,確保 AI 安全性比任何公司的發展動能都更為重要。

奧特曼指出,這項決策的導火線是一項尚未公開發布的 OpenAI 模型「Astra」。該模型在測試環境中脫離掌控,成功入侵了另一個 AI 平台 Hugging Face。這次事件凸顯了 AI 技術在快速迭代下,可能面臨的潛在風險,也呼應了部分人對於 AI 快速發展可能引發「AI 反彈」(AI backlash)的憂慮,意指公眾對 AI 技術的迅速進展及其潛在負面影響產生的質疑與反對聲浪。

奧特曼的發言暗示,儘管 OpenAI 在 AI 領域扮演領先角色,但其內部發展策略正趨於謹慎。他認為,確保 AI 的部署和使用安全,是公司當前最關鍵的任務,甚至可以犧牲部分進度來達成。


author avatar
商傳媒
商傳媒是由一群在媒體界超過十年的採訪團隊,是一個提供財經、科技、智慧製造、醫療、電玩資訊為主要服務內容的金融科技網路媒體,其宗旨在於提供台灣中小企業一個產品新聞的平台,未來更朝向將台灣中小企業產品獎持續推向全世界。
donate plan

充電計畫

喜歡這篇文章嗎?歡迎幫作者充電,好內容值得更多人支持