
OpenAI 推出 GPT-5.6 Sol「Ultrafast」模式 回應速度快 14 倍
OpenAI 推出名為「Ultrafast」的新模式,聲稱可將旗下最新、最強大的模型 GPT-5.6 Sol 的處理速度大幅提升至標準運算的 14 倍,每秒最高輸出 750 個 token。新模式由晶片商 Cerebras 的硬件驅動,目前正以預覽形式提供予一小部分客戶,OpenAI 表示會隨容量增長逐步開放。
- OpenAI 於 8 月 13 日推出「Ultrafast」新模式,專為 GPT-5.6 Sol 加速
- 回應速度為標準處理的 14 倍,每秒最高輸出 750 個 token
- 新模式由晶片商 Cerebras 驅動,官方稱毋須犧牲輸出質素
- 目前僅供少數客戶預覽,將隨容量增長逐步擴大開放
速度與質素兼得
OpenAI 表示,Ultrafast 針對一直以來困擾 AI 開發者的「速度與智能」取捨問題。以往模型規模愈大、智能愈高,運算與數據傳輸成本亦相應增加,回應時間因而變慢。Ultrafast 則試圖在同一模型上同時提供前沿智能與高速回應,官方強調「沒有任何質素妥協」。
該公司在部落格文章中解釋:「到目前為止,要獲得實時速度通常意味著選擇一個較小或較專門的模型。Ultrafast 指向一個新方向:每秒完成更多有用的工作。」
Cerebras 硬件加持
Ultrafast 由 OpenAI 與晶片商 Cerebras 的合作驅動,首先在 OpenAI API 推出。Cerebras 表示,GPT-5.6 Sol 在 Ultrafast 模式下每秒輸出最多 750 個 token,並以其「Humanity’s Last Exam」基準測試作比較:該測試包含 2,500 條一般只有博士級學者才能回答的問題,GPT-5.6 Sol 以 Ultrafast 模式在 11 小時 11 分鐘內完成全部題目,而 Claude Fable 5 需時 78 小時 27 分鐘,兩者準確度相若,速度相差約 7 倍。
按 Artificial Analysis 公布的輸出速度比較,GPT-5.6 Sol 在 Ultrafast 模式下比 Fable 5 快約 11 倍,亦比 Opus 4.8 的 Fast 模式快約 5 倍。
企業應用場景
OpenAI 建議將這款高速版本的 GPT-5.6 Sol 應用於多種企業工作流程,包括事件應對、客戶服務與支援、金融市場分析及電子商務等講求即時反應的場景。競爭對手 Anthropic 亦曾為其模型推出加速版本,Claude 設有 fast 模式,惟官方數字顯示其速度不及 OpenAI 此次提供的水平。
推出時間表
Ultrafast 目前正處於預覽階段,僅向一小部分客戶提供,OpenAI 表示會「隨容量增長」逐步擴大使用權限。有興趣的開發者與企業暫未能即時全面使用,需等待 OpenAI 分批開放。
資料來源:Cerebras Blog · TechCrunch
