Techapple.com
新聞AI時代

OpenAI 推出 GPT-5.6 Sol「Ultrafast」模式 回應速度快 14 倍

OpenAI 推出名為「Ultrafast」的新模式,聲稱可將旗下最新、最強大的模型 GPT-5.6 Sol 的處理速度大幅提升至標準運算的 14 倍,每秒最高輸出 750 個 token。新模式由晶片商 Cerebras 的硬件驅動,目前正以預覽形式提供予一小部分客戶,OpenAI 表示會隨容量增長逐步開放。

重點一覽

  • OpenAI 於 8 月 13 日推出「Ultrafast」新模式,專為 GPT-5.6 Sol 加速
  • 回應速度為標準處理的 14 倍,每秒最高輸出 750 個 token
  • 新模式由晶片商 Cerebras 驅動,官方稱毋須犧牲輸出質素
  • 目前僅供少數客戶預覽,將隨容量增長逐步擴大開放

速度與質素兼得

OpenAI 表示,Ultrafast 針對一直以來困擾 AI 開發者的「速度與智能」取捨問題。以往模型規模愈大、智能愈高,運算與數據傳輸成本亦相應增加,回應時間因而變慢。Ultrafast 則試圖在同一模型上同時提供前沿智能與高速回應,官方強調「沒有任何質素妥協」。

該公司在部落格文章中解釋:「到目前為止,要獲得實時速度通常意味著選擇一個較小或較專門的模型。Ultrafast 指向一個新方向:每秒完成更多有用的工作。」

Cerebras 硬件加持

Ultrafast 由 OpenAI 與晶片商 Cerebras 的合作驅動,首先在 OpenAI API 推出。Cerebras 表示,GPT-5.6 Sol 在 Ultrafast 模式下每秒輸出最多 750 個 token,並以其「Humanity’s Last Exam」基準測試作比較:該測試包含 2,500 條一般只有博士級學者才能回答的問題,GPT-5.6 Sol 以 Ultrafast 模式在 11 小時 11 分鐘內完成全部題目,而 Claude Fable 5 需時 78 小時 27 分鐘,兩者準確度相若,速度相差約 7 倍。

按 Artificial Analysis 公布的輸出速度比較,GPT-5.6 Sol 在 Ultrafast 模式下比 Fable 5 快約 11 倍,亦比 Opus 4.8 的 Fast 模式快約 5 倍。

企業應用場景

OpenAI 建議將這款高速版本的 GPT-5.6 Sol 應用於多種企業工作流程,包括事件應對、客戶服務與支援、金融市場分析及電子商務等講求即時反應的場景。競爭對手 Anthropic 亦曾為其模型推出加速版本,Claude 設有 fast 模式,惟官方數字顯示其速度不及 OpenAI 此次提供的水平。

推出時間表

Ultrafast 目前正處於預覽階段,僅向一小部分客戶提供,OpenAI 表示會「隨容量增長」逐步擴大使用權限。有興趣的開發者與企業暫未能即時全面使用,需等待 OpenAI 分批開放。

資料來源:Cerebras Blog · TechCrunch

Shadow (TechApple.com 編輯)

擁有超過10年線上內容經營經驗,參予大量科技推廣活動,熱心於和大家分享最新科技資訊。 電郵:editor@techapple.com