電腦王阿達
  • 首頁
  • 科技新聞
    • 最新科技新聞
    • AI 新聞與教學
      • AI 工具分享與教學
      • AI 趨勢與相關新聞
    • 產品評測
      • GPS/行車記錄器評測
      • iOS周邊
      • Android周邊
    • 通訊達人
    • 科技廠商專訪報導
    • 電腦硬體周邊情報
    • 相機
  • 酷品開箱
  • 阿達自製工具
    • 電腦王阿達 App:最新3C、AI新知、科技新聞一手掌握
      • 電腦王阿達 App 隱私權政策
    • 非記不可:絕不會錯過重要事件
    • Gemini 即時語音翻譯
      • 即時翻譯王隱私權政策
    • 名片辨識王:免費的名片整理App
      • 名片辨識王隱私權政策
    • 簡繁轉換工具
    • 表情與特殊符號速查表
  • APP/軟體/教學
    • 電腦應用與其他教學
      • 網路與軟體應用
      • 多媒體轉檔/運用
      • 其他文章
    • 跨平台App
    • iPhone/iPad相關
      • iPhone/iPad 軟體介紹
      • iPhone/iPad 使用教學
      • iOS JB/CYDIA應用
    • Android相關資訊
      • Android App分享介紹
      • Android 基礎教學
      • 智慧手機韌體更新
      • Windows Mobile手機相關文章
    • Mac 軟體分享與教學
    • LINE
    • Telegram
    • 攝影教學
    • 語文學習
    • 轉貼好文
    • WordPress 架站教學分享
    • 未分類文章
  • 休閒/懶人包
    • 新聞台直播 頻道大集合!想看新聞不用辦第四台!
    • 遊戲電玩
    • 動漫、玩具、敗家
      • 老弟紙模型作品集
    • KUSO
      • 有趣影片
    • 圖文創作
    • 生活與旅遊
    • 超好用懶人包
    • 最新抽獎情報公告
    • Pokemon GO攻略
  • 電腦王團隊
No Result
View All Result
  • 首頁
  • 科技新聞
    • 最新科技新聞
    • AI 新聞與教學
      • AI 工具分享與教學
      • AI 趨勢與相關新聞
    • 產品評測
      • GPS/行車記錄器評測
      • iOS周邊
      • Android周邊
    • 通訊達人
    • 科技廠商專訪報導
    • 電腦硬體周邊情報
    • 相機
  • 酷品開箱
  • 阿達自製工具
    • 電腦王阿達 App:最新3C、AI新知、科技新聞一手掌握
      • 電腦王阿達 App 隱私權政策
    • 非記不可:絕不會錯過重要事件
    • Gemini 即時語音翻譯
      • 即時翻譯王隱私權政策
    • 名片辨識王:免費的名片整理App
      • 名片辨識王隱私權政策
    • 簡繁轉換工具
    • 表情與特殊符號速查表
  • APP/軟體/教學
    • 電腦應用與其他教學
      • 網路與軟體應用
      • 多媒體轉檔/運用
      • 其他文章
    • 跨平台App
    • iPhone/iPad相關
      • iPhone/iPad 軟體介紹
      • iPhone/iPad 使用教學
      • iOS JB/CYDIA應用
    • Android相關資訊
      • Android App分享介紹
      • Android 基礎教學
      • 智慧手機韌體更新
      • Windows Mobile手機相關文章
    • Mac 軟體分享與教學
    • LINE
    • Telegram
    • 攝影教學
    • 語文學習
    • 轉貼好文
    • WordPress 架站教學分享
    • 未分類文章
  • 休閒/懶人包
    • 新聞台直播 頻道大集合!想看新聞不用辦第四台!
    • 遊戲電玩
    • 動漫、玩具、敗家
      • 老弟紙模型作品集
    • KUSO
      • 有趣影片
    • 圖文創作
    • 生活與旅遊
    • 超好用懶人包
    • 最新抽獎情報公告
    • Pokemon GO攻略
  • 電腦王團隊
No Result
View All Result
電腦王阿達
No Result
View All Result

首頁 » 最新科技新聞與報導 » 最新科技新聞

Tags: AppleM5 UltraMac Studio

網友 M5 Ultra Mac Studio 實測:本地 AI Agent 效能翻倍,256K 上下文讀取快 2.4 倍

達小編 by 達小編
2026 年 09 月 22 日
in 最新科技新聞
讀取中...

Apple 在 8 月 25 日發表搭載 M5 Max 與全新 M5 Ultra 的新款 Mac Studio,台灣自 8 月 27 日上午 9 時開放預購,並在 9 月 22 日正式供貨。搭載 M5 Ultra 的機型售價 NT$199,900 起,教育優惠價 NT$185,390 起;M5 Max 版本則是 NT$84,900 起。國外專門介紹 Mac 的作家 MacStories 在供貨前拿到 256GB 統一記憶體的 M5 Ultra 測試機,花了四天與前代 M3 Ultra(512GB)以及自家搭載 RTX 5090 的桌機對比,量測數據橫跨 4K 到 256K 的提示長度、四種量化精度與並行請求。結論很直接:這台機器把本地端 AI Agent 從「勉強能跑」推進到「可以當日常主力」。

網友 M5 Ultra Mac Studio 實測:本地 AI Agent 效能翻倍,256K 上下文讀取快 2.4 倍 - 電腦王阿達
Source

規格與價格:頻寬是這一代的重點

M5 Ultra 版 Mac Studio 最高可配 36 核心 CPU、80 核心 GPU,每個 GPU 核心都內建一顆神經網路加速器,專門加速矩陣乘法運算。統一記憶體最高維持在 512GB,頻寬則從 M3 Ultra 的 819GB/s 提升到 1.2TB/s,增加 50%。Apple 官方數據稱 AI 峰值運算效能最高達 M3 Ultra 的 4.3 倍、M1 Ultra 的 9.8 倍。
Apple 突襲發表 Mac mini M6 與 M5 Pro:首搭 2 奈米晶片,AI 效能提升 4 倍,台灣 29,900 元起 - 電腦王阿達

新款 Mac Studio 首度支援 Wi-Fi 7 與藍牙 6,並具備 Thunderbolt 5。Apple 也把 RDMA(遠端直接記憶體存取)納入支援,讓多部 Mac Studio 能串成共享記憶體池;官方表示由四部機器組成的叢集,AI 運算速度可達單一系統的 3 倍。MacStories 測試的是 256GB 機型,512GB 版本要到 10 月底才會推出。

比 M3 Ultra 快多少:提示處理快 2.5 倍

對跑 AI Agent 的人來說,最折磨人的是等待模型讀完提示的那段空白(Prefill;預填充 與 TTFT;吐出首TOKEN時間)。現代 Agent 每一輪都會送出系統提示、個人化設定、session 記憶、skill 與 MCP 描述,上下文開場就有一大疊。MacStories 表示,過去用本地模型跑這類 Agent 時,只能盯著載入指示燈,而且對話越長越慢。

這次量測的改善主要落在提示處理。以 Qwen3.8-Flash-Next 為例,M5 Ultra 平均比 M3 Ultra 快 150%,約 2.5 倍。具體數字如下:

  • 4K 提示:M5 Ultra 寫入 90.7 tok/s,M3 Ultra 為 59.0 tok/s
  • 256K 提示:M5 Ultra 74.7 tok/s,M3 Ultra 38.6 tok/s。M5 Ultra 在 256K 的寫入速度,仍高於 M3 Ultra 在 4K 的表現
  • 首字延遲(TTFT):256K 冷快取時,M3 Ultra 要等 246 秒才吐出第一個字,M5 Ultra 是 104 秒
  • 256K 讀取速度:M5 Ultra 2,544 tok/s,M3 Ultra 1,070 tok/s
網友 M5 Ultra Mac Studio 實測:本地 AI Agent 效能翻倍,256K 上下文讀取快 2.4 倍 - 電腦王阿達
Source

短提示下,這顆模型能突破 100 tok/s;即使上下文塞到 64K 至 256K,仍有 60 至 85 tok/s 的水準。MacStories 說,這讓本地模型在 Open Minis 與 Hermes Agent 這類需要反覆呼叫工具的應用裡,終於站得住腳。

對上 RTX 5090:單項更快,但卡在 32GB

RTX 5090 在多數項目仍領先 M5 Ultra。以 Qwen3.8 27B 跑 6,091 token 的提示為例,5090 讀取 3,031 tok/s、寫入 59 tok/s;M5 Ultra 是讀取 1,701 tok/s、寫入 48 tok/s;M3 Ultra 則是 414 tok/s 與 31 tok/s。

網友 M5 Ultra Mac Studio 實測:本地 AI Agent 效能翻倍,256K 上下文讀取快 2.4 倍 - 電腦王阿達
SOURCE

差距的來源分成兩段。提示處理靠的是矩陣運算,這正是 NVIDIA Tensor Core 的主場,Apple 的神經網路加速器縮小了差距但沒追平。生成速度則取決於記憶體頻寬,模型每寫一個 token 就要把整個模型從記憶體拉出來一次,5090 的 1.79TB/s 對上 M5 Ultra 的 1.2TB/s,因此穩定領先約 25%。

網友 M5 Ultra Mac Studio 實測:本地 AI Agent 效能翻倍,256K 上下文讀取快 2.4 倍 - 電腦王阿達
Source

5090 的問題在容量。它只有 32GB VRAM,一旦模型超過這個數字,就得透過 PCIe 把層卸載到速度慢得多的系統記憶體。MacStories 實測,改用借用系統 RAM 的方式後,5090 在 64K、128K、256K 的寫入速度掉到 4.6、2.9、1.5 tok/s。反觀 Mac Studio 是一整塊統一記憶體,256GB 或 512GB 都不會外溢。

體積與散熱也是評測者在意的地方。MacStories 描述,跑高上下文測試後走進辦公室,整間房明顯比其他空間悶熱;相較之下,桌上的 Mac Studio 只是摸起來溫溫的,風扇轉速與噪音都低得多,日常跑 4-bit 量化模型時,除非把耳朵貼到機器上,否則聽不到風扇聲。

量化與記憶體:5-bit 是甜蜜點

MacStories 在 256GB 機型上測試 Qwen 最新的 3.8 Flash-Next 模型四種量化版本,結果是 4-bit 與 5-bit 可以完整放進記憶體,6-bit 與 8-bit 必須把 n-gram 嵌入表卸載到 SSD。

  • oQ4e:峰值佔用 155GB,全數在記憶體
  • oQ5e:179GB,全數在記憶體
  • oQ6e:嵌入表放 SSD 後 156GB。直接載入記憶體時,macOS 在 176.6GB 因記憶體壓力終止了伺服器
  • oQ8e:嵌入表放 SSD 後 187GB。直接載入時 oMLX 拒絕執行,預估載入過程需 244.2GB,超過它允許的 200.4GB

對照組 M3 Ultra 的 512GB 記憶體,四種量化都能完整放進 RAM。MacStories 認為 5-bit 在 256GB 機型上是智慧程度、效能與記憶體佔用的平衡點,也提到若日後能測 512GB 版本,最想量的是不靠 SSD 卸載的 8-bit 表現。

並行與子代理:三條同時跑反而更划算

MacStories 另外測試同時送出三個請求的情境。M5 Ultra 在單一請求時合計輸出 66.2 tok/s,三個同時來則提升到 81.5 tok/s,等於多出 23% 的總吞吐量;M3 Ultra 從 38.4 微升到 39.9 tok/s,只有 4%。每個個別請求都會變慢,但整台機器完成的工作量變多。

在 5090 那台 PC 上,評測者讓主模型把一份帳務工作拆成三份交給子代理,循序執行需要 44.8 秒,改成並行後縮短到 32.1 秒。每個子代理的寫入速度從 63 tok/s 降到 44 tok/s,整體仍提前完成。

實際用途:99 天不間斷、成本 0 元

網友 M5 Ultra Mac Studio 實測:本地 AI Agent 效能翻倍,256K 上下文讀取快 2.4 倍 - 電腦王阿達
Source

MacStories 表示自己並非 AI 開發者,不訓練也不微調模型。他今年夏天為了 iOS 與 iPadOS 27 的評測,自建一套名為 Desk 的內部應用,用來整理數百份筆記、session、PDF 與網頁擷取內容。專案最後累積到 310 份文件,一組以 DeepSeek V4 Flash 為基礎的代理加上 olmOCR 處理 PDF,連續 99 天、24 小時不間斷執行,負責轉錄 WWDC 場次、從各類來源擷取功能、交叉比對,並透過 Notion API 整理資料庫。

他提到,這類長時間常駐的背景工作若改用 OpenAI 或 Anthropic 的 API,成本高到難以負擔,因此轉向本地模型,最後這套研究流程的總花費是 0 元。文章本身仍由他逐字撰寫, AI AGENT 負責的是研究、筆記互連與新功能追蹤。

另外,他用 Qwen-Image-2.1 在本機生成桌布,耗時 180 秒,峰值記憶體佔用 78GB。他也把 Qwen3.8-Flash-Next 設為 Open Minis for iOS 與 Hermes Agent 的預設模型,並在 Codex 裡使用本地模型,讓雲端的主模型負責指揮本地子代理。

結語

MacStories 的結論是,M5 Ultra 的效能成長具體可量測,也反映 Apple 在自研晶片與統一記憶體架構上的投入開始對本地 AI 使用者產生實質回報。評測者坦言四天測試只碰到皮毛,還沒來得及試 DwarfStar、Inco Splash 與 Exo 等專案,其中 Exo 的 RDMA 實作理論上能透過 Thunderbolt 5 把運算分散到 M3 Ultra 與 M5 Ultra 兩台機器上。

至於 512GB 版本能做到什麼程度,他同樣抱持期待。對台灣使用者來說,M5 Ultra 版 NT$199,900 起的門檻並不低(而且本篇文章裡的配置至少要385,400元),這台機器的說服力建立在一個前提上:你真的打算把長時間、高頻率的 AI 工作留在自己的桌面,而不是付月費交給雲端。
網友 M5 Ultra Mac Studio 實測:本地 AI Agent 效能翻倍,256K 上下文讀取快 2.4 倍 - 電腦王阿達

資料來源

Tags: AppleM5 UltraMac Studio

網站搜尋

No Result
View All Result

廣告


歡迎手機廠商、iPhone 周邊產品業者、APP軟體開發商洽談合作或產品測試事宜 koc kocpc.com.tw |隱私政策 |主機維護:Fast Line 台灣速連,阿腸數位科技

No Result
View All Result
  • 最新科技新聞
  • 最新科技產品報導
    • 3C產品開箱/廠商邀測
      • GPS/行車記錄器評測
    • 通訊達人
    • 科技廠商專訪報導
      • 專題報導
    • 電腦硬體周邊情報
    • Android周邊
    • iOS周邊
  • 好用App介紹
    • Android App分享介紹
      • Android 基礎教學
    • iPhone/iPad 軟體介紹
      • iPhone/iPad 使用教學
      • iOS JB教學
      • iOS軟體與JB相關文章
      • iOS JB/CYDIA應用
    • 跨平台App
    • Telegram
  • 電腦應用與其他教學
    • Mac OS 軟體分享與教學
    • 網路與軟體應用
    • WordPress 架站教學分享
    • 多媒體轉檔/運用
    • 語文學習
    • 轉貼好文
    • 其他文章
  • 旅遊與美食
    • 生活與旅遊
    • 圖文創作
    • 有趣影片
    • 動漫、玩具、敗家
    • 老弟紙模型作品集
    • KUSO
    • 阿達玩App
    • Pokemon Go攻略
  • 阿達自製工具
    • 超好用懶人包
    • 電腦王阿達 App:最新3C、AI新知、好用教學與科技新聞一手掌握
    • 2026年14 個最佳免費線上掃毒網站推薦
    • 簡繁轉換工具
    • 表情與特殊符號速查表
  • 電腦王阿達團隊

歡迎手機廠商、iPhone 周邊產品業者、APP軟體開發商洽談合作或產品測試事宜 koc kocpc.com.tw |隱私政策 |主機維護:Fast Line 台灣速連,阿腸數位科技

輸入信箱訂閱每日精選電子報,並依確認信完成訂閱。

No Result
View All Result
  • 最新科技新聞
  • 最新科技產品報導
    • 3C產品開箱/廠商邀測
      • GPS/行車記錄器評測
    • 通訊達人
    • 科技廠商專訪報導
      • 專題報導
    • 電腦硬體周邊情報
    • Android周邊
    • iOS周邊
  • 好用App介紹
    • Android App分享介紹
      • Android 基礎教學
    • iPhone/iPad 軟體介紹
      • iPhone/iPad 使用教學
      • iOS JB教學
      • iOS軟體與JB相關文章
      • iOS JB/CYDIA應用
    • 跨平台App
    • Telegram
  • 電腦應用與其他教學
    • Mac OS 軟體分享與教學
    • 網路與軟體應用
    • WordPress 架站教學分享
    • 多媒體轉檔/運用
    • 語文學習
    • 轉貼好文
    • 其他文章
  • 旅遊與美食
    • 生活與旅遊
    • 圖文創作
    • 有趣影片
    • 動漫、玩具、敗家
    • 老弟紙模型作品集
    • KUSO
    • 阿達玩App
    • Pokemon Go攻略
  • 阿達自製工具
    • 超好用懶人包
    • 電腦王阿達 App:最新3C、AI新知、好用教學與科技新聞一手掌握
    • 2026年14 個最佳免費線上掃毒網站推薦
    • 簡繁轉換工具
    • 表情與特殊符號速查表
  • 電腦王阿達團隊

歡迎手機廠商、iPhone 周邊產品業者、APP軟體開發商洽談合作或產品測試事宜 koc kocpc.com.tw |隱私政策 |主機維護:Fast Line 台灣速連,阿腸數位科技