【專家意見】Harness 工程：打造 AI 能可靠運作的房間

上週，DeepSeek 將 DeepSeek Harness（DSH）以開放原始碼形式釋出，公開供大眾使用。本文介紹 Harness 工程（harness engineering），這門建構 AI 模型周遭環境、使其能夠可靠運作的學科。我們以化學家在實驗室中的比喻，主張僅有工具並不足夠；組織必須建立完整的工作環境：工具、邊界、流程與回饋。我們指出 AI 代理的三個根本弱點，分別是信任盲區、非確定性推理與缺乏回饋，並說明設計良好的 Harness 如何彌補每一項。實際上，每個 AI 專案某種程度上都是一項 Harness 工程專案。這篇文章也回應了一個核心問題：如何讓機率性智能執行確定性的商業營運？

空房間裡的天才化學家

試想一位才華洋溢的化學家被安置在一間空房間裡。這位化學家具備深厚的知識，但沒有儀器、沒有化學品、沒有操作規程、沒有安全設備，也無法知道實驗是否成功。為 AI 加上 API 和軟體工具，就像把化學品和儀器塞進房間，有用，但還不是一間實驗室。真正的實驗室有標示清楚的化學品、經過校正的儀器、標準作業程序、安全屏障與量測系統。這就是給予 AI 隨機工具與給予它一間標準化實驗室之間的差別。Harness 工程就是為 AI 代理打造那間實驗室的實務。它始於一個簡單的前提：模型提供智慧；Harness 提供將智慧轉化為可靠系統的工作環境。

僅靠工具無法彌補的三個弱點

許多企業 AI 失敗源於將模型視為可靠性的主要來源。但即使強大的模型也有三個結構性限制，必須由環境而非 AI 模型本身來解決。

信任盲區

AI 模型並不會自然地理解資訊的信任層級。對模型而言，一項現行有效的法規，與一則隨機討論該法規的論壇貼文，都只是文字。在法律情境中，以下來源並不相等：現行有效的法規、在相關司法管轄區具有拘束力的法院判決、已被推翻的較早判決，以及討論該判決的論壇貼文。同樣地，對金融代理而言，經審計年報中揭露的營收，與分析師部落格中出現的相同數字，本質上截然不同。對資安領域而言，出現在威脅情報封鎖清單上的網域，與僅在論壇中被負面提及的網域，也是不同的。因此，Harness 必須在檢索周圍加上信任與驗證層。工具應回傳結構化詮釋資料，包括來源類型、司法管轄區、法院層級、效力狀態與引用歷史，而不只是原始文字。更重要的是，Harness 可以強制執行規則：若結論依賴判例法，須驗證該案件未被推翻；若來源相互衝突，不得自動下結論；若僅有二手來源可用，則降低信心水準。

非確定性推理

AI 推理能力很強，但並非確定性。同一個問題今天可能用工作流程 A 解決，明天卻用工作流程 B。對腦力激盪而言，這種變異性很有用；對營運系統而言，卻很危險。以法律盡職調查任務為例，一次執行可能依循嚴謹路徑：確定司法管轄區、搜尋法規、搜尋判例、檢查效力、摘要。另一次執行卻可能直接進行一般網路搜尋、找到一篇文章、推斷答案，只搜尋一個判例。兩者聽起來都可能很聰明，但提供的保證並不相同。Harness 工程在不消除 AI 推理的前提下控制流程。原則是讓 AI 在受控的工作流程內推理，而不是每次都自行發明工作流程。AI 仍然決定要搜尋哪些關鍵字、哪些段落相關，以及證據如何連結；但它不能默默跳過必要步驟。這產生的是有界推理，而非不受限的推理，類似於給予科學家一份實驗規程，確保某些檢查必定發生，卻不規定每個想法。

缺乏回饋

人類之所以學習，是因為環境不斷告訴他們某件事是否奏效。化學家得到溫度讀數、光譜儀結果與失敗的反應；軟體工程師得到編譯器錯誤、單元測試與日誌。相較之下，許多 AI 代理產生答案後就停止，幾乎收不到同等的訊號。Harness 應建立機器可讀的回饋。以法律代理為例，在檢索判例之後，系統可以自動提問：這些案件是否來自正確的司法管轄區？它們是否仍然有效？檢索到的段落是否真的支持所主張的命題？是否有較晚的案件與之矛盾？每項重要結論是否都有權威引用？這些檢查可以由工具、規則、資料庫或獨立的 AI 評估器執行。架構從「代理行動、人類檢查一切」，轉變為「代理行動、環境產生證據、評估器檢查結果、代理收到回饋、代理修正路線」。

Harness 的四項工作

實用的 Harness 可以用四個組成部分來描述。工具是儀器，包括搜尋引擎、資料庫、計算機與 API。邊界定義安全界線，包括允許哪些動作、可存取哪些資料、可自主做出哪些決策。流程編碼工作流程，將開放式推理轉化為可重複程序的必要步驟、驗證關卡與決策規則。回饋提供訊號，包括自動化檢查、信心分數與矛盾偵測，讓代理無需等待人類即可修正路線。沒有 Harness 的強大 AI，就像空房間裡的天才化學家。給它 API，就像把化學品和儀器塞進房間。Harness 工程是打造真正的實驗室：標示清楚的化學品、校正過的儀器、標準作業程序、安全屏障，以及出錯時的警報。

從「人類在迴圈中」到「人類在例外中」

Harness 工程的目標不一定是讓「人類脫離迴圈」，而是將人類注意力集中在系統無法自行解決不確定性的地方。例如，當信心為 95% 且所有驗證皆通過時，自動繼續；當信心為 72% 且來源相互衝突時，代理再執行一次搜尋；當信心為 45% 且法律模糊未解時，升級給人類。這將「人類在迴圈中」轉變為「人類在例外中」。它減少了持續人工審查的瓶頸，同時保留對高風險或模糊案件的監督。結果是一個既能擴展又不犧牲控制的系統。

管理意涵

對高階主管而言，意涵很清楚：企業 AI 最困難的部分已不再只是「讓模型更聰明」，而是工程化模型周遭的環境，使機率性智能得以支援確定性的商業營運。投資應相應轉向，投向工作流程設計、驗證基礎設施、回饋機制與治理邊界，而不只是模型選擇。商業訊息很明確：模型提供智慧，工具提供能力，Harness 提供可靠性。或者更技術性地說，Harness 工程將機率性 AI 推理轉化為有界、可衡量且可重複的工作流程。掌握這門學科的組織，將能把 AI 代理部署為核心業務流程中可靠的組成部分，而非實驗性助手。

來源：Data Matters, in AI era.（Antony）

作者 Profile：

馬裕杰 Antony Ma, CTO of Hoplite Tech

雲端還沒成為顯學的年代，他就在 Eclipse 裡跟 Java 搏鬥。現在駭進資安圈，順手顛覆教育。曾任雲端安全聯盟香港及澳門分會主席、專業資訊安全協會主席。 DNS 安全愛好者 ( www.aplens.co)