AI時代

AMD Instinct MI300X 加速器提升 Microsoft Azure OpenAI 服務

AMD 在 Microsoft Build 大會中展示了其最新的端對端運算及軟件功能,旨在提升 Microsoft Azure OpenAI 服務及全新 Azure ND MI300X V5 虛擬機器的效能。通過採用包括 AMD Instinct MI300X 加速器、ROCm 開放式軟件、Ryzen AI 處理器及軟件,以及 Alveo MA35D 媒體加速器等解決方案,Microsoft 能夠為眾多市場提供強大的 AI 部署工具套件。全新的 Microsoft Azure ND MI300X 虛擬機器現已全面推出,Hugging Face 成為首名用戶。

主要技術特點

AMD Instinct MI300X 加速器與 ROCm 軟件

AMD 總裁 Victor Peng 表示:「AMD Instinct MI300X 及 ROCm 軟件堆疊支援 Azure OpenAI Chat GPT 3.5 與 4 服務,處理全球眾多最嚴苛的 AI 工作負載。隨著 Azure 全面推出全新的虛擬機器,AI 客戶可更廣泛採用 MI300X,為 AI 應用帶來高效能及有效的解決方案。」

Azure ND MI300X V5 虛擬機器

Azure ND MI300x v5 虛擬機器系列於 2023 年 11 月公佈預覽版本,現已在加拿大中部地區全面推出,供用戶執行 AI 工作負載。這些虛擬機器提供:

  • 領先業界的運算效能
  • 無與倫比的 HBM 儲存容量及記憶體頻寬
  • 支援 GPT-3.5 及 GPT-4 模型的 Azure OpenAI 服務

這些特性使得客戶能在 GPU 記憶體中安裝更大的模型或使用較少的 GPU,從而節省能源和成本,並縮短運算時間。憑藉 AMD Instinct MI300X 及經驗證且隨時可用的 ROCm 開放式軟件堆疊,Microsoft 能在 GPT 推論工作負載中實現領先的性價比優勢。

Hugging Face 作為首批客戶之一

Hugging Face 僅用一個月便將其模型遷移至 ND MI300X 虛擬機器,實現超卓的效能及性價比。此外,ND MI300X 虛擬機器客戶能將 Hugging Face 模型遷移至虛擬機器,以簡便且有效的方式建立及部署自然語言處理(NLP)應用。

Hugging Face 首席傳訊總監 Julien Simon 表示:「Microsoft、AMD 及 Hugging Face 在 ROCm 開放式軟件生態系統中的深度合作,將令 Hugging Face 用戶無需更改程式碼,便能使用配備 AMD Instinct GPU 的 Azure,運行數十萬種 Hugging Face Hub 所提供的 AI 模型,從而讓 Azure 用戶透過開放式模型及開源碼更輕鬆地建立 AI。」

AMD Ryzen AI 軟件

研發人員能在配備 AMD Ryzen AI 的 PC 上使用 AMD Ryzen AI 軟件,優化及部署 AI 推理。Ryzen AI 軟件讓應用程式能夠在建基於 AMD XDNA 架構的神經處理單元(NPU)上運行,這 NPU 是首款 Windows x86 處理器的專屬 AI 處理晶片。這有助顯著延長電池壽命,讓研發人員有效地在設備上運行大型語言模型(LLM)的 AI 工作負載及應用。

AMD Alveo MA35D 媒體加速器

Microsoft 已選用 AMD Alveo MA35D 媒體加速器來提升 Microsoft Teams、SharePoint video 等實時串流影片工作負載。Alveo MA35D 專為支援大規模實時互動串流服務而設計,將協助 Microsoft 透過影片轉碼、解碼、編碼及自行# AMD Instinct MI300X 加速器提升 Microsoft Azure OpenAI 服務及全新 Azure ND MI300X V5 虛擬機器效能

TechApple.com 編輯部

堅持製作專業科技內容,全員擁有多種不同技術知識的特異科技媒體團隊。 電郵:editor@techapple.com