Google 發表 TimesFM-3 零樣本多變量預測模型

Google Research 發表 TimesFM-3，一款零樣本（zero-shot）時間序列基礎模型，主打多變量預測，能以單次前向傳遞完成高精度的多元時間序列預測，並在多個主要基準上顯著優於其他預測模型。TimesFM-3 擁有 3.3 億參數，以超過 1 兆個時間點的真實與合成語料預訓練。

何謂多變量預測

自 TimesFM 於 2024 年推出以來，時間序列基礎模型已應用於零售、金融、監測、製造、醫療保健及自然科學等多個領域的實際預測任務。直至 2025 年 9 月推出的 TimesFM-2.5，Google 的模型都只限於單變量預測，即只用單一時間序列的歷史數據作預測。然而大部分真實世界的預測問題本質上都屬於多變量：多條時間序列與輔助外部特徵會共同影響一條時間序列的未來預測。

文章舉例，預測連鎖店的雪糕銷售，單靠過往銷售不足以下結論，好的預測還應參考相關產品的銷售（如雪糕筒、糖漿）、歷史人流，以及已知的未來事件，如天氣預報、推廣活動及假期。TimesFM-3 作為新一代時間序列基礎模型，以原生方式預訓練作多變量預測，能同時預測多條共同演化的時間序列，捕捉彼此之間的相依關係，提升整體準確度，毋須針對特定任務進行微調。

三項原生能力

TimesFM-3 原生支援三種情境：多目標，即同時預測多條相關時間序列，所有目標均支援點預測與分位數預測；過去協變量，納入僅在歷史已知的特徵，例如過去的人流；以及過去-未來動態協變量，利用已知的未來事件輔助預測，例如計劃中的推廣活動或天氣預報。

架構與推理

TimesFM-3 建基於其前代驗證有效的 decoder-only 變壓器（transformer）架構，將相連的數據點分為每組 32 個時間步的 patch，並按每條時間序列進行標準化，以應付尺度差異極大的序列。

在多元 token 建構上，目標與過去協變量序列直接由單一 patch 建構 token；至於過去-未來協變量，TimesFM-3 採用「lookahead」策略，每個 token 把目前 patch 與未來 patch 拼接，讓模型能預視即將到來的已知訊號。token 化後，輸入經殘差區塊進入主變壓器堆疊，以二維網格運作，交替進行兩種注意力：隨時間軸的因果時間注意力（token 只能看向自身時間序列內的過去 token）以及跨序列的完整變量注意力（token 可看向同時間步其他所有時間序列），藉此同時融合時間模式與跨序列關係。

單次前向的非自迴歸解碼

以往的 TimesFM 版本逐個 patch 生成預測，會帶來延遲、誤差累積與運算成本。TimesFM-3 採用「連續 patch 遮罩」（Contiguous Patch Masking）策略，在單次前向傳遞中生成整個預測區間：模型在已觀察的脈絡旁附加遮罩的佔位 token，目標與過去協變量在預測區間內被遮罩，過去-未來協變量則保持可見，向模型提供假期或既定活動等已知未來訊號。模型會同時填補所有遮罩的區間 patch，毋須迭代迴圈，並為每個目標時間序列在每個預測步輸出第 10 至第 90 百分位的 9 個分位數，提供完整的機率式不確定性視角。

實例：雪糕銷售

文件以雪糕銷售為例說明多變量預測的價值。標準的單變量模型只參考歷史銷售並把一週模式向外延伸，但不知道特定日期的推廣活動；TimesFM-3 的多變量模式則把計劃的推廣日程作為過去-未來協變量輸入，從歷史脈絡學習推廣與銷售提升之間的關係，再套用至有計劃推廣的未來日子，結果每個推廣日可預期約 20% 的銷售提升，整月下來得到更準確的收入預測。

評測結果

Google 以三個公開基準評測 TimesFM-3：Gift-Eval、FEV-Bench 及 TIME。三個基準上，TimesFM-3 在點預測與機率式預測指標都居於所有預訓練基礎模型之首，並與 Chronos-2、Toto 2.0 家族及前代 TimesFM-2.5 等近期模型比較。作者指即使以單變量模式（不帶協變量或跨序列資訊）評估，TimesFM-3 亦已匹配或超越其他競爭模型；切換至完整多變量模式後，表現再進一步提升。

發布

TimesFM-3 已於 GitHub（google-research/timesfm）及 Hugging Face（google/timesfm-3.0-pytorch）開放下載，其 BigQuery 整合將於未來數週推出。Google 建議，暫時可先在 BigQuery 以 AI.FORECAST 指令試用 TimesFM-2.5 進行單變量任務，毋須機器學習專業知識。

資料來源：Google Research Blog