
AI 證明數學題同人類行路不同 研究以「模擬協作」分析 470 萬定義 發現 Agent 三大偏好偏差
AI 輔助數學證明日趨普遍,但 AI 與人類做證明的方式有何不同?arXiv:2611.06995 提出「模擬協作」(simulated collaboration)方法,分析 Lean 數學社群九個大型人類協作項目(470 萬個定義、逾 6,000 次提交),發現 AI Agent 在證明構建過程中系統性地偏離人類偏好。
重點一覽
- 三大發現:AI 遠比人類更容易被「明確標記的缺口」(explicit gaps)吸引;相對迴避連接密集的「證明中心」與複雜或意外的證明目標;相對被意外的證明主體吸引,並傾向將其規整化回基線
- 方法「模擬協作」:在真實人類協作數據上模擬 AI agent 的下一步決策,比較兩者分歧
- 兩大問題:AI 關注表面語法還是深層語義;AI 的行動偏好何處與人類分歧
- 結論:為人機數學協作標出盲點與潛在干預點
AI 集中於標記缺口 迴避複雜目標
分析顯示 AI Agent 與人類的注意力分配有系統性差異:AI 對已標記的「待補缺口」反應遠強於人類,卻傾向避開連接密集的核心區域與複雜、出人意料的證明目標;對意外的證明主體,AI 則傾向將其「規整化」回基線水平。換言之,AI 選位置同人類數學家選位置的直覺並不一致。
對人機協作的啟示
論文稱這些結果凸顯人機數學協作的重要盲點與潛在干預方向:研究為未來人機數學協作標出了潛在干預點。論文稱這些結果標示出未來人機數學協作的重要盲點。
論文:arXiv:2611.06995 Autonomous AI Agents Systematically Diverge From Human Preferences in Proof Formalization(Bálint Gyevnár, Simon DeDeo,2026-11-04 提交)
(開版為AI生成配圖,只供參考會意)
