翁荔提醒，Scaling Law 的兩套經典結果（Kaplan 與 Chinchilla）之所以給出不同的最優配比，背後涉及非常具體的技術細節：參數到底怎麼算（embedding 層算不算進去）、loss 函數怎麼擬合、數值精度保留到幾位、實驗覆蓋的規模區間夠不夠大。

這些細節聽起來像帳本問題，但它們最後會影響數十億美金級別的訓練決策。更麻煩的是，Scaling Law 的很多外推默認高品質資料可以繼續增長，但今天唯一的高品質人類生成文本並不是無限的——重複資料、合成資料、強化學習、測試時計算，都在把原來那條乾淨的曲線變得更複雜。

Harness 可以理解成包裹在基礎模型外面的一整套運行系統。它決定模型怎麼理解任務、怎麼規劃、怎麼呼叫工具、怎麼讀取檔案、怎麼管理上下文、怎麼保存中間產物、怎麼執行測試、怎麼從錯誤裡恢復、怎麼評估結果——甚至怎麼決定下一輪要不要改變自己的工作方式。

如果說一個裸模型只是一個會生成文字的智慧核心，那麼 Harness 就像把這個核心放進真實世界的作業系統。沒有這套系統，模型可以回答問題，但很難穩定完成一個長週期任務——它可能在上下文裡迷路、忘記之前的失敗、重複做同一件事、把一次看起來成功的輸出誤認為任務真的完成了。

長週期 Agent 最容易失敗的地方不一定是某一步不會做，而是做著做著忘了自己為什麼這麼做。實驗日誌、程式碼 Diff、報錯記錄、論文摘要、失敗軌跡——這些內容一旦超過上下文視窗，就會變成系統性損失。

好的 Harness 不應該把所有日誌、所有檔案、所有歷史軌跡都塞進模型上下文，而應該把狀態存在檔案系統裡，把長期記憶變成可讀取、可追蹤、可恢復的產物。讀寫檔案、搜尋檔案、修改檔案，本來就是大模型已經學得比較好的基礎能力。

很多人一聽到遞迴自我改進，想到的是模型直接改寫自己的權重——一個 AI 讀懂自己、訓練出更強版本、再由更強版本繼續訓練下一代。這是最戲劇化的版本，但在現實工程裡，近期更可能發生的，是模型先改進自己外面的那套運行系統。

也就是說，它先不改自己的大腦，而是先改自己的工作方式：任務怎麼拆、工具怎麼調、上下文怎麼組織、失敗怎麼記錄、測試怎麼設計、候選改動怎麼驗證。優化的目標也不再是這一次回答寫得更好，而是產生答案的機制變得更好。這個轉向很重要——AI 系統的進步正在從答案層往方法層移動。

翁荔把 Harness 優化的演進放在一條很清楚的線上：

① Prompt：人類優化提示詞。

② 結構化上下文（ACE）：把上下文看成一本持續演化的操作手冊——系統先讓 Agent 產生任務軌跡，再從成功和失敗裡提煉經驗，整理成結構化條目更新到上下文裡。比不斷改寫一整段超長提示詞更穩，因為長提示詞在反覆重寫中很容易丟資訊，也容易越來越短、越來越抽象。

③ Meta Context Engineering：不只優化上下文內容，而是把「怎麼管理上下文」這件事也變成優化對象——系統不只問應該記住什麼，還問應該用什麼機制來決定記住什麼、怎麼篩選、怎麼格式化、怎麼在不同任務裡呼叫。

④ Meta Harness：直接把 Harness 程式碼本身放進搜索空間——資訊如何儲存、如何檢索、如何呈現給模型，不再完全靠人工寫規則，而可以讓編碼 Agent 提出候選方案、測試效果、保留表現更好的版本。

⑤ 工作流搜索（ADAS、AFlow）：ADAS 讓一個元 Agent 去生成新的工作流程式碼；AFlow 把工作流表示成一張圖（節點是模型呼叫，邊是程式碼實現的邏輯操作），用搜索演算法在不同工作流之間探索。

⑥ Self-Harness：用當前 Harness 跑任務、收集軌跡、分析失敗模式，然後讓同一個模型基於這些失敗提出範圍受控的 Harness 修改——修改不能隨便合併，必須經過驗證：一方面看原來的弱點是否修復，另一方面看既有任務上有沒有引入新問題。

只要搜索空間夠大、形狀夠奇怪、而且結果比較容易評估，進化方法就很有用。Prompt Breeder、GEPA、AlphaEvolve 都屬於這個方向——系統維護一組候選方案，透過變異、評估和選擇，不斷保留更好的版本。

Darwin God Machine（DGM）更進一步：把可編輯的 Harness 程式碼倉庫放進進化循環裡。一個編碼 Agent 可以查看自己的評估日誌、修改自己的 Harness 程式碼、生成新版本、接受基準測試。表現夠好的新 Agent 被放回候選池，繼續參與下一輪演化。在固定基礎模型和簡單初始配置下，DGM 發現的 Agent 在 SWE-Bench Verified、Polyglot 等基準上可以達到與手工設計 Agent 相當甚至更好的結果。

自我改進系統最難的地方，不是讓它循環起來，而是讓它優化對的東西。如果獎勵來自單元測試，Agent 可能過擬合測試；如果獎勵來自 judge 模型，它可能學會討好這個 judge；如果獎勵來自公開 benchmark，它可能利用基準本身的漏洞。系統不會天然追求真實價值，它只會優化自己被給定的訊號——這就是獎勵黑客問題。

還有多樣性坍縮：進化和強化學習循環都容易利用已知的高獎勵模式，最後整個候選池變成同一種方案的變體。在開放式研究裡，最有價值的路徑一開始可能得分不高，甚至看起來不夠像成功——如果系統過早收斂，就會把真正新穎的方向篩掉。

自動科研更明顯：一個系統可以很快寫出看起來完整的論文，但它是否提出了好問題、實驗是否回答了問題、結果是否值得繼續追、失敗是否應該被承認——這些都需要研究品味。模型在訓練資料裡看到了大量成功論文，卻很少看到被放棄的假設、失敗的實驗、無效的方向，它可能天然更擅長包裝成功，而不擅長誠實地停下來。

翁荔的判斷很剋制：人類的角色不是被移除，而是向上移動。人不一定要手寫每一條規則、調每一個 prompt、檢查每一次工具呼叫，但人要在更高層次上設計目標、邊界、評估和關鍵節點的審查。

這可能是關於 AI 自我改進最現實的一種理解。短期內，我們看到的不會是某個模型突然自己重寫權重、進入無法理解的爆發式進化——更可能發生的是，模型外面的運行系統一點點變得更像工程化的自我改進機器：記錄失敗、調整上下文、重寫工作流、優化工具呼叫、改進評估流程、在可驗證的任務上持續提高。

這條路沒有那麼神祕，但它同樣深刻——因為一旦「如何獲得更好答案的機制」本身成為優化對象，AI 競爭就不只是模型參數和訓練資料的競爭，而是系統設計、評估設計、記憶設計、權限設計和工程紀律的競爭。