這個「神經符號」框架,直接抹平開源小模型與大模型的代差

影片開頭用「噴火龍」做類比:你教小孩「火很危險」、「動物很危險」,但他從沒在組合裏見過「會噴火的動物」,遇到時會愣住。

大語言模型(Large Language Model)每天都在上演同樣的事。模型認識「火」「危險」這些詞的統計模式,但從來沒被火燙過,沒有把抽象符號和真實世界因果連起來的能力 — 這篇論文稱之爲 Experience Grounding(經驗接地)。

在 ReTroQuest 這個 2D 動作 RPG 環境裏,任務設計 10 個難度遞進的關卡,從「找到金幣」到「有噴火龍擋在房間裏的房間找金幣」。基線 ReAct function agent 的首次嘗試成功率只有 3.3%,在最高難度下直接掉到 0。

關鍵洞察:這不是能力邊界問題,是系統性問題。模型表面看起來在推理,實際上是在拿統計相似度應酬 — 光靠更大的模型或更長的 context window 解決不了。

AGEL-Comp 不是把 LLM 換成更大模型,而是在 LLM 外面套一個神經符號混合框架,把 LLM 的靈活規劃能力 + 一個可動態更新的世界模型 + 一個邏輯驗證層疊起來。

業界三條路線對比 — Prompt 工程(React、CoT,門檻低但脆弱、無積累)、Memory 路線(方向對但沒解決因果結構)、世界模型路線(理論能解組合泛化但傳統世界模型是死的,無法從交互中更新)。AGEL-Comp = 第一條 + 第三條的結合。

關鍵設計:AGEL-Comp 的世界模型是「活的」,每當 Agent 遇到預測錯誤,就從錯誤裏歸納出一條新規則,寫進自己的因果地圖。

結果數據:首次嘗試成功率 3.3% → 60%(提升 18 倍),樣本效率 6.8 倍,最高難度零失敗,最終所有模型成功率 100%。

CPG(因果程序圖,Causal Program Graph) 是 Agent 手上的一張動態地圖,記錄的不是景點而是因果關係 — 例如「火會造成傷害」、「動物會被火燒」。

知識以 Horn 子句(Horn Clause) 的形式儲存,長得像條件反射的公式:右邊是「某個東西是有害的」,箭頭指向左邊就得出結論「它會造成傷害」。整個地圖由這些因果路徑拼接而成。

有了這張地圖,Agent 面對新任務時不是在憑感覺猜,而是在問自己:「如果要拿到金幣而噴火龍擋在中間,這地圖上的因果鏈有沒有哪條路走得通?」

地圖一開始只有最基礎的常識,更多規則要靠 ILP(Inductive Logic Programming,歸納邏輯程序設計)引擎 從經驗裏學。

觸發條件叫 預測誤差(prediction error):Agent 執行計劃,環境反饋跟預期不一致(例如以爲靠近火堆能拿金幣,結果扣血)。

ILP 啓動一個精巧的算法叫 「最小對比搜索(minimal contrastive search)」:在記憶裏找「做過同一動作但沒扣血」的對比案例。如果發現「另一個沒火的房間抓取金幣就沒扣血」,兩次操作唯一變量差異就是「當前地點有火」,系統立刻鎖定「火是造成傷害的原因」。

接着 ILP 把這個發現變成通用規則寫進因果地圖,並進一步抽象化 —「火只是有害物體的一種,所有有害的東西都會造成傷害」。下次再遇到新出現的有毒沼澤,Agent 不用重新試錯被毒死一次,直接就能查到它有害。

這種學習是極其聚焦的,不是海量數據大海撈針,而是隻抓住那個唯一的變量差異,極高的數據利用率,讓 Agent 學得極快,絕不在同一個坑裏跌倒兩次。

這是整個框架最硬核的地方 — 提案驗證雙軌制。

Agent 接到任務後,LLM 先負責生成候選的行動序列,但這些提案在執行前必須經過 NTP(Neural Theorem Prover,神經定理證明器) 的審查。NTP 拿着提案到因果地圖裏做邏輯推導,問「這個計劃走得通嗎?有沒有先決條件衝突?」不通就直接打回給 LLM 重新想,直到找到一條完美路徑。

你可能會問:這不就是幾十年前傳統專家系統寫一堆 if-else 來做邏輯驗證嗎?錯。NTP 前面有兩個字 — 神經(Neural)。

NTP 不是在做死板的字符串匹配,而是把所有的概念都映射成連續的向量嵌入(embedding),在向量空間裏算相似度來做邏輯推導。當 ILP 引擎發明了一個新概念時,系統會給它初始化一個新向量,並通過微調來適應。這讓 NTP 既擁有符號邏輯的嚴密,又兼具神經網絡對模糊世界極強的包容度 — 比讓大模型自我反思要嚴謹一萬倍。

論文把系統拆開做消融實驗(ablation study),三組對比:

① 只保留 ILP 歸納學習,去掉 NTP 邏輯驗證:雖然最終成功率有 91%,但每次遇到新任務還是得撞南牆,首次嘗試成功率掉到 22.5% — 沒有驗證把關,plan 不靠譜。

② 只保留 NTP 邏輯驗證,去掉 ILP 學習能力:最差,成功率掉到 76.7%。沒學習新規則的能力,世界模型殘缺過時,推導出來的計劃在自己邏輯裏完美無缺,但在現實中一執行就死,而且沒法自我糾錯,下次還會繼續這麼幹 — 讀死書的書呆子。

③ 完整系統:成功率 100% + 首試 60%。只有學習和驗證的結合才能產生真正的化學反應。

第一個數字 100%:完整版系統在所有測試模型上,哪怕是專爲大模型設計的最高難度任務(涉及陷阱),最終成功率全部 100%。

第二個數字 3.3%→60%:平均首戰成功率的基線是 3.3%,AGEL-Comp 拉到 60%,18 倍的飛躍。在真實部署中,使用者不再需要等 Agent 試錯 10 次纔得到正確答案。

第三個數字 6.8 倍:樣本效率提升成果,基線需要試錯幾百次,AGEL-Comp 只需要幾十次。

第四個數字 — 差距歸零:論文最亮眼的發現。原本讓模型裸奔時,開源小模型和千億參數閉源大廠模型之間存在巨大的性能代差;一旦套上 AGEL-Comp 框架,所有模型 — 不管是千億參數的昂貴 API 還是幾十億參數的本地開源模型 — 成功率全部被硬生生拉到 100%。

這意味着:這個框架極大地抹平了模型本身的推理能力代差,你可以用極低的推理成本去辦成以前只有頂級大模型才能辦成的事情。

啓發一:語言模型本身不是可靠的規劃器。你不能指望靠更好的 prompt 讓模型自己走迷宮。AGEL-Comp 告訴我們:LLM 應該負責發散生成(divergent generation),而另一套符號系統應該負責收斂把關 — 這是一種分工,不要把全部壓力壓在原模型身上。

啓發二:記憶需要結構化,而不是全文本記錄。把記憶轉化成嚴謹的邏輯規則,好處是它可以被推論引擎嚴格驗證 — 你沒法用代碼去驗證一段自然語言的邏輯一致性,但你可以驗證結構化的因果地圖。

侷限性:ReTroQuest 終究是個 2D 遊戲環境,裏面的因果關係是清晰可枚舉的;而真實世界裏因果關係往往多維、模糊,甚至相互矛盾,很難找到完美的單一變量對比。但正因如此,這篇論文的價值反而更清晰 — 它在一個可控的乾淨環境裏,向我們證明了神經符號混合這條路是完全走得通的。