文／萬里雲創辦人暨執行長 Spencer Liu 劉永信
我一直覺得，真正誠實的話，聽了都會有點不舒服，但我看了 Anthropic 發表了一份報告〈When AI builds itself〉後，我發現 AI 已經把「執行」這一層拿下了，人類剩下的優勢集中在「判斷」，而判斷這道防線正在變窄。
今年六月，由 Anthropic Institute 發表這份報告，作者是 Marina Favaro 與共同創辦人 Jack Clark，沒有拿來吹噓模型多強，而是攤開一份內部資料，說出一個他們大可不必公開的數字。
截至 2026 年 5 月，Anthropic 內部超過八成合併進生產環境的程式碼，已經不是人寫的，而是 Claude 自己寫的，而在 2025 年 2 月 Claude Code 推出研究預覽版之前，這個數字還只是個位數。
值得一提的是，Anthropic 高層曾在公開場合估計，含腳本與實驗性程式碼在內，公司九成以上的程式碼出自 Claude。但這份報告刻意採用比較保守的八成，因為那是能明確歸因、且真正合併進生產環境的行數。
[ 加入 CIO Taiwan 官方 LINE、Facebook 與 LinkedIn，與全球 CIO 同步獲取精華見解 ]
Anthropic 為什麼要自曝八成程式碼由 Claude 撰寫
Anthropic 從創辦以來就同時做兩件看似衝突的事，把模型推到最前沿，同時公開談論這件事的風險，這次揭露內部數據，其實是同一個立場的延伸。
比較少被注意到的是，Anthropic 在同一份報告裡，主動把自己的數字往下修。
他們揭露工程師每人每日的程式碼產出，在 2026 年第二季達到 2024 年的八倍，但緊接著補了一句「這個指標算的是數量不是品質」，八倍幾乎確定高估了真正的生產力提升，內部一份調查顯示，研究員自評的效率提升中位數大約是四倍，而且連這個數字都可能因為開發者評估自身 AI 生產力的已知偏誤而膨脹。
一家公司願意在自己的成績單上加註「這個數字高估了」，這件事本身比八倍更值得停下來讀兩遍。
真正紮實的證據其實在另一組數字上，Anthropic 內部追蹤 Claude 在不同難度任務的成功率，最關鍵的是那條「開放式問題」的曲線，也就是那些沒有預設解法、必須自己定義路徑的題目，2025 年 9 月，成功率大約是四分之一；到 2026 年 5 月，變成 76%，半年之內拉高了 50 個百分點。
容易的題目模型早就做得好，難的題目才是分水嶺，而改善最快的正是難的那一端。
更值得注意的是那些「本來根本不會發生」的工作，2026 年 4 月，Claude 一口氣完成八百多項修復，把某一類 API 錯誤的發生率降低了一千倍。
替別人收拾程式碼裡的舊帳既慢又痛苦，如果交給人做，大概要花四年，因為而且人腦很難同時裝下那麼多不熟悉的脈絡。
遞迴式自我改進（RSI）是什麼？為什麼是通往超級智慧最快的一條路
這個現象有一個學界跟業界都在用的名字，叫遞迴式自我改進（recursive self-improvement，簡稱 RSI），這個詞流傳了數十年，Anthropic 只是把它從一個抽象的思想實驗，變成一件有內部數據可以驗證的事。
簡單說，就是讓 AI 參與改進 AI 自己的研發流程，AI 寫程式碼、跑實驗、優化模型，甚至提出下一步該做什麼實驗，一旦這個迴圈完全不需要人類介入，AI 進步的速度，就不再受限於人類的手速和判斷力，這也是為什麼很多人相信，這是通往超級智慧最快的一條路。
Anthropic 講得很小心，他們說「我們還沒到那一步，這也不是必然會發生的事。」但他們緊接著補上一句話「這件事可能比大部分機構準備好的時間點還要早到來。」
報告共同作者 Jack Clark 則在其他公開場合給過一個更具體的數字「RSI 在 2028 年前出現的機率，大約六成。」
AI 攻下執行層，人類只剩「研究判斷力」這道護城河
報告裡有個拆解方式我覺得特別有意思，他們把 AI 研發拆成「執行」跟「判斷」兩層。
執行層，也就是寫程式碼、跑實驗、優化參數這些事，Claude 已經從很好用的助手，走到超越人類。
Anthropic 每次發布模型都會跑同一個內部測試，給 Claude 一份訓練小模型的程式碼，要它在通過相同正確性檢查的前提下，讓這份程式碼跑得愈快愈好。2025 年 5 月，Claude Opus 4 平均達到約三倍加速；到 2026 年 4 月，尚未發布的 Mythos Preview 達到約五十二倍，作為對照，一名熟練的研究員要達到四倍，需要四到八小時。
至於判斷層，也就是「這個問題值不值得做」「這個方向該不該放棄」，目前還是人類的護城河，但這道護城河也在變窄。
Anthropic 回頭檢視研究員與 Claude 協作的真實工作紀錄，找出那些研究員走了冤枉路的時刻，只把岔路發生前的資料餵給模型，問它接下來會怎麼做，再由另一個看得到最終結果的 Claude 評判誰的選擇更好。2025 年 11 月的 Opus 4.5 勝過人類的比例是 51%，到 2026 年 4 月的 Mythos Preview，變成 64%。
這裡有個必須說清楚的但書，而且是 Anthropic 自己主動說的「這不是對等比較。」他們刻意挑的是人類判斷本來就有改善空間的一百多個時刻，當他們改用另一組人類判斷本來就正確的時刻做對照，模型被判定更好的比例只有約兩成。
換句話說，人類還沒有輸，但可能正在被追上。
[ 推薦閱讀：從半導體優勢切入 AI 價值鏈 荷蘭聚焦降低關鍵技術依賴 ]
Anthropic 推演的三種 AI 未來，以及一個全球暫停機制的請求
報告最後推演了三種可能的未來，每個做技術決策的人都該想清楚自己在賭哪一種。
第一種，是這波成長曲線其實是個 S 型曲線，現在只是還沒轉彎。
第二種，是效率會持續複合式提升，但迴圈永遠不會真正封閉，人類還是握著方向盤，只是握得愈來愈輕。
第三種，是迴圈真正閉合，AI 開始設計自己的繼任者。
Anthropic 自己壓的是第二種，第一種則被他們判定為不太可能，理由是目前每一項可量測的能力，包括程式碼品質、開放式任務成功率這些比較「軟」的指標，都還走在同一條沒有轉彎的曲線上。
但他們也老實承認，如果第二種變成第三種，對齊問題（alignment）能不能被妥善解決，他們自己也沒有把握。他們特別點出一個容易被低估的風險：現在偶爾出現、還算可控的模型偏差，一旦由 AI 來打造下一代 AI，可能會一代一代疊加放大，變得更頻繁，也更難被理解。
報告裡還有一個對企業特別實用的觀察，叫 Amdahl 定律：加速流程中的某一段，往往只是把瓶頸推到別的地方，整體速度仍然被那些沒有加速的環節綁住。Anthropic 自己就撞上了，當程式碼產出暴增，人類的程式碼審查就變成了新的瓶頸。工程之外也一樣，員工提出的新點子、新工具、新實驗多到公司根本消化不完。
他們認為，一個組織發現瓶頸並解除瓶頸的速度，本身可能就是一種會隨時間進步的能力，而且很可能會變成最重要的那一種。
而這份報告真正的重點，其實不是那些數字，是最後那個請求。
Anthropic Institute 呼籲前沿實驗室、政策制定者、研究者與公民社會，現在就開始一起設計一套機制，能在 RSI 的推進速度超前安全研究與社會治理時，用可驗證的方式讓整個產業減速，甚至暫停。
一家正走在最前線的公司，公開要求業界替自己裝一顆煞車，這才是這次攤牌最不尋常的地方。
[ 推薦閱讀：客戶問的是今天，但你交的卻是去年的答案：資安證據的有效邊界 ]
AI 產業的集體難題：為什麼「一起減速」比想像中困難
把 RSI 視為關鍵議題的，並不只有 Anthropic，今年六月，OpenAI 在自家的前沿 AI 治理藍圖裡，也把遞迴式自我改進列為未來十年最重要的前沿安全議題之一。
七月底，OpenAI 更宣布由曾任 AI 安全研究副總裁的 Lilian Weng 回鍋，領導一支專責推進 RSI 相關研究的頂層團隊。換句話說，前沿實驗室對這條路線的判斷高度一致，它既是能力上的關鍵突破口，也是安全上的關鍵風險點。
真正的難題也就在這裡。
Anthropic 在報告裡把這個兩難講得很白，如果減速只是讓最不謹慎的參與者有機會追上，那麼減速本身反而會讓所有人更不安全。
在缺乏全球協調機制的前提下，每一家公司、每一個政府，都必須在競爭壓力與地緣政治壓力之下，獨自做出關於安全的困難判斷。
而 AI 的技術特性又讓協調格外棘手。一次訓練任務遠比飛彈發射井容易隱藏，投入的資源又都是通用型的，這使得「偷偷繼續跑」的誘因大到難以忽視，因為在別人停下來的時候繼續前進的那一方，就會拿下領先，更何況，一套可信的暫停機制還必須說清楚什麼條件啟動、什麼條件解除、由誰來判定。
Anthropic 自己也承認，這件事在原則上並非不可能，人類確實替其他複雜技術建立過查核機制，但那些機制花了數十年才把基礎設施和互信一起建起來，而現在恐怕沒有那麼多時間。
當「先跑到終點」本身就是一種戰略優勢時，呼籲全員減速，永遠是說得比做得容易的那件事。這也正是為什麼 Anthropic 選擇把內部數據攤開來，並且公開邀請政策制定者、研究者與其他 AI 公司一起討論，而不是自己悄悄先停下來。
[ 推薦閱讀：AI 過不了 PoC 關卡？ 資料治理成企業規模化落地關鍵 ]
台灣不在場外：AI 晶片設計與資安防禦的節奏正被改寫
這件事很容易被簡化成「軟體是矽谷的戰場，硬體才是我們的主場」，但 RSI 一旦加速，受影響的不會只有軟體研發這個迴圈。
報告裡有一個訊號，台灣的資安與 IT 主管特別該看，Anthropic 提到自己的 Project Glasswing，在推行的最初幾週，Mythos Preview 就在全球最重要的一批系統中，找出超過一萬個高風險與關鍵等級的軟體漏洞，多到什麼程度？多到資安防禦的瓶頸已經從「找得出漏洞」，變成「補得夠不夠快」。
換句話說，就算模型能力今天就凍結在這裡，攻防的節奏也已經被改寫了。當發現漏洞的成本趨近於零，企業真正的競爭力會落在修補與治理的速度上，而這件事沒有辦法靠採購一個工具解決。
同樣的邏輯已經被搬到晶片設計上。一家叫 Ricursive Intelligence 的新創，創辦人是 Google DeepMind AlphaChip 的共同開發者 Anna Goldie 與 Azalia Mirhoseini，今年 2 月由 Lightspeed 與 NVIDIA 的創投部門領投，募得 3 億美元、估值 40 億美元。他們賭的就是一個迴圈，用 AI 設計出更快、更省電的晶片，訓練出更強的 AI，再由這個更強的 AI 設計下一代晶片，把原本要花數月到數年的設計流程，壓縮到幾天。
而他們的技術血脈 AlphaChip，早就實際運轉在聯發科的產品線裡，用於天璣系列 5G 晶片的設計。
這代表當軟體端的自我加速迴圈跑起來時，晶片設計這個台灣最擅長、也最引以為傲的領域，很可能是下一個被捲進同一場競速賽局的戰場，台灣不能只顧著鞏固製造端的優勢。
對台灣的技術主管來說，這件事也不只是矽谷幾家公司的家務事，當「寫程式碼」的成本趨近於零，團隊裡真正稀缺、也真正值錢的能力，會愈來愈集中在「判斷哪個問題值得投入」這件事上。
我一直覺得，真正誠實的話，可能會讓人擔心，而當這群站在浪潮最前面的人，選擇把不安攤開來講清楚，甚至主動要求替自己裝上煞車時，或許我們該做的，不是急著下結論，而是認真想清楚，自己賭的是哪一種未來。
參考資料
- Anthropic Institute〈When AI builds itself〉https://www.anthropic.com/institute/recursive-self-improvement
- Tom’s Hardware〈Anthropic warns Claude AI is building itself faster than expected〉https://www.tomshardware.com/tech-industry/artificial-intelligence/anthropic-says-claude-now-writes-more-than-80-percent-of-its-merged-code
- Tom’s Hardware〈Google unveils AlphaChip AI-assisted chip design technology〉https://www.tomshardware.com/tech-industry/google-unveils-alphachip-ai-assisted-chip-design-technology-chip-layout-as-a-game-for-a-computer
(本文授權非營利轉載，請註明出處：CIO Taiwan)
