Techapple.com
新聞AI時代

Perplexity 本地 AI 代理登陸 Windows 須配備 24GB 以上 VRAM 的 NVIDIA RTX 顯示卡

Perplexity 的本地代理平台 Portable Computer 現在支援 Windows RTX 電腦,讓更多用戶可在本機執行 AI 工作流程,毋須消耗雲端額度。該功能適用於相容的 NVIDIA GeForce RTX 電腦及 NVIDIA RTX PRO 工作站,並要求顯示卡具備 24GB 或以上 VRAM。

重點一覽

  • Perplexity 的 Portable Computer 本地代理平台現已支援 Windows RTX 電腦與 RTX PRO 工作站。
  • 使用門檻為 24GB 或以上 VRAM 的 NVIDIA 顯示卡。
  • 內建本地模型例如 Qwen 3.8 27B,經後訓練以配合 Perplexity Computer。
  • 本地完成的工作不消耗 Perplexity Computer 額度,需要雲端運算時會先徵求用戶同意。

本地代理在 PC 上執行

Portable Computer 是代理程式 Perplexity Computer 的本地版本,可按計劃執行多步驟任務。在 NVIDIA GPU 加速下,它以本地模型分析資料、整合不同檔案的資訊,並處理重複性的工作。敏感資料留在裝置上,而本地完成的工作不消耗 Perplexity Computer 的額度。若任務需要更強的推理能力,用戶亦可把工作交由雲端模型處理。

這項發布建立在 NVIDIA DGX Spark 系統及運行 Linux 的 RTX 電腦既有支援之上,並把代理式 AI 帶到更多 Windows PC 用戶。NVIDIA 表示,DGX Station 的支援預計於不久後推出。

簡化本地 AI 設定

應用程式內建本地模型,例如 Qwen 3.8 27B。該模型經後訓練以配合 Perplexity Computer 運作,並針對 NVIDIA RTX GPU 最佳化。用戶毋須自行研究模型或配置運行本地 AI 所需的複雜軟件堆疊,即可開始使用代理功能。

應用程式同時提供連接器,涵蓋 Microsoft Outlook、OneDrive、Word、Google Drive、Gmail、Slack 及 GitHub,把代理能力延伸至用戶日常使用的檔案與應用程式。Perplexity 把本地與雲端 AI 整合在同一個應用程式之中,內建瀏覽器及 SPACE 沙盒等工具,讓用戶在本機處理敏感檔案。

實際應用例子

NVIDIA 列出數個使用情境。在工程場景,代理可檢視已連接 GitHub 專案中的待處理合併請求,按狀態整理並指出下一步,亦可標示過時的說明文件並提交更新建議。在財務場景,用戶可把兩年的券商結單、合併後的 1099 表格及報稅表交給代理,由它找出產生最多可避免費用與稅務拖累的定期持倉,每項數字均標明出自哪個檔案及頁面,而文件不會送往聊天機械人。在初創場景,用戶可詢問啟用率為何停滯,代理會在本機分析漏斗匯出資料,找出新註冊用戶在安裝與首次完成任務之間的流失位置,再把主要洞察發布到團隊的 Slack 頻道。

若任務需要更進階的推理,Portable Computer 可判斷何時需要雲端支援,並在把資料送出裝置前先徵求用戶同意。

資料來源:NVIDIA Blog

Shadow (TechApple.com 編輯)

擁有超過10年線上內容經營經驗,參予大量科技推廣活動,熱心於和大家分享最新科技資訊。 電郵:editor@techapple.com