Moonshot AI 釋出 Kimi-K3 開放權重，推理成本僅為 Claude Fable 三成，直接挑戰 OpenAI 與 Anthropic

中國 AI 公司 Moonshot AI（月之暗面）正式釋出其大型語言模型 Kimi-K3 的權重，此舉被外界視為對 OpenAI 和 Anthropic 等封閉模型巨頭的直接挑戰。根據 Moonshot 公布的基準測試數據，Kimi-K3 在多項指標上接近兩家公司的前沿模型，但推理成本僅為對手的約三分之一至十分之一。

2.8 萬億參數但只激活 1042 億

Kimi-K3 的總參數量達 2.8 萬億（2.8 trillion），但透過混合專家（Mixture of Experts, MoE）架構，每次推理僅激活 896 個專家中的 16 個，實際活躍參數只有約 1042 億。這種稀疏激活設計大幅降低了運算需求。

在推理精度方面，Moonshot 採用了混合精度策略：權重使用 MXFP4 格式，輸入激活使用 MXFP8 格式，兩者均為低精度浮點數格式，能有效減少 VRAM 用量。值得注意的是，Moonshot 的技術文檔顯示其在編碼測試中使用的是 NVIDIA H20 GPU，這是一款相對入門級的晶片，並不原生支援 MX 浮點格式，暗示 Kimi-K3 的優化架構對硬件規格的要求較低。

定價極具競爭力

在價格方面，Kimi-K3 的輸入收費為每百萬 tokens 3 美元。相比之下，Anthropic 的 Claude Fable 收費為 10 美元，OpenAI 的 GPT-5.6 Sol 為 5 美元。對於能命中緩存的查詢，Kimi-K3 的命中率在編碼任務上可達 90%，此時成本進一步降至每百萬 tokens 0.30 美元。

Moonshot 在其技術報告中指出，這些成本數字為內部測量結果，並與其他公司公開的 token 定價進行比較。此外，Kimi-K3 採用了一種名為 Kimi Delta Attention 的固定大小狀態處理器，取代傳統的不斷擴展的 KV（Key-Value）緩存，進一步節省 VRAM 和執行時間。

開放權重不等於開源

Kimi-K3 以開放權重（open-weight）形式釋出，意味著任何擁有合適 GPU 的機構都可以自行部署和運行，甚至可以在此基礎上提供商業服務（在特定限制條件下）。不過值得留意的是，開放權重並不等同於開源（open-source），Moonshot 的訓練過程和數據集並未公開。

Tom’s Hardware 分析指出，這對 OpenAI 和 Anthropic 來說可能是一個不利信號：當任何人只要有足夠的 AI GPU 就能成為它們的直接競爭對手時，封閉模型的市場地位將面臨考驗。而 Kimi-K3 以開放權重形式釋出，也給出了一個「免費軟件」實際上可以接近付費前沿模型的印象。

資料來源：Tom’s Hardware