Cursor 推新版 Composer 代理模型 自我摘要技術助處理程式開發
Cursor 宣佈推出全新 Composer 模型，透過自我摘要的強化學習訓練，讓 AI 代理能夠處理需要數百個動作的複雜程式編寫任務。這項技術成功將壓縮錯誤降低 50%，同時只使用五分之一的 token，標誌著 AI 輔助程式開發的重大突破。
現今 AI 程式設計代理的功能愈來愈強，但面對遠大任務時，思考與探索所需的上下文資訊會快速膨脹，速度遠超模型本身的上下文處理能力。許多代理框架嘗試以壓縮技術繞過限制，不論是提示式摘要模型，還是滑動式上下文視窗，都有機會導致模型遺忘關鍵資訊，最終影響任務完成的質量。
Composer 是 Cursor 專為代理式程式設計打造的專用模型，訓練過程中採用了創新的自我摘要技術。與一般框架不同，Composer 並非在推論時才加入摘要步驟，而是將自我摘要視為一種行為，在訓練階段就讓模型學會判斷哪些資訊最值得保留。
自我摘要運作流程：
- 模型持續生成內容，直至達到固定的 token 長度觸發點
- 系統插入合成查詢，要求模型摘要當前上下文
- 模型獲得草稿空間思考最佳摘要方向
- 生成濃縮後的上下文，包含摘要、對話狀態、規劃狀態及剩餘任務等資訊
- 以濃縮後的上下文繼續執行任務
這項訓練方法的效果從實測數據可見一斑。研究團隊將自我摘要與高度調校的提示詞壓縮基準方法比較，後者需要長達數千 token 的提示詞，輸出亦超過 5,000 token；反觀受過訓練的 Composer，只需要簡短提示如「Please summarize the conversation」，平均輸出僅約 1,000 token，卻能精準保留高價值資訊。
在 80k 及 40k token 兩種觸發條件下測試，結果顯示自我摘要均能顯著提升效能。即使與專門設計的基準方法相比，這項技術仍能將壓縮造成的錯誤降低 50%，同時大幅節省 token 使用量，並能重複利用 KV cache 提高運算效率。
研究團隊更以 Terminal-Bench 2.0 中名為「make-doom-for-mips」的極高難度問題進行案例分析。該任務要求模型處理大量原始程式碼，並進行實作與測試。Composer 在早期研究階段已能正確解出這個問題，歷經 170 輪嘗試，並在過程中將超過 100,000 個 token 濃縮為 1,000 個關鍵資訊。
結語：
自我摘要技術的出現，為 AI 代理處理長程任務開闢了新方向。Cursor 表示，這項研究是邁向更廣泛目標的重要一步，未來將探索如多代理協調等更複雜的訓練流程。官方亦預告將於短期內公佈 Composer 下一版本的更多詳情。
資料來源: https://cursor.com/zh-Hant/blog/self-summarization?_bhlid=812c11e1201a5e9b2a2780906bacf58ca1a1592a
如果你對科技發展有興趣，建議延伸閱讀 Techapple 的推介內容：
