電腦王阿達
  • 首頁
  • 科技新聞
    • 最新科技新聞
    • 酷品開箱
    • 產品評測
      • GPS/行車記錄器評測
      • iOS周邊
      • Android周邊
    • 通訊達人
    • 科技廠商專訪報導
    • 電腦硬體周邊情報
    • 相機
  • AI 新聞與教學
    • AI 工具分享與教學
    • AI 趨勢與相關新聞
  • APP/軟體/教學
    • 電腦應用與其他教學
      • 網路與軟體應用
      • 多媒體轉檔/運用
      • 其他文章
    • 跨平台App
    • iPhone/iPad相關
      • iPhone/iPad 軟體介紹
      • iPhone/iPad 使用教學
      • iOS JB/CYDIA應用
    • Android相關資訊
      • Android App分享介紹
      • Android 基礎教學
      • 智慧手機韌體更新
      • Windows Mobile手機相關文章
    • Mac 軟體分享與教學
    • LINE
    • Telegram
    • 攝影教學
    • 語文學習
    • 轉貼好文
    • WordPress 架站教學分享
    • 未分類文章
  • 休閒/懶人包
    • 新聞台直播 頻道大集合!想看新聞不用辦第四台!
    • 遊戲電玩
    • 動漫、玩具、敗家
      • 老弟紙模型作品集
    • KUSO
      • 有趣影片
    • 圖文創作
    • 生活與旅遊
    • 超好用懶人包
    • 最新抽獎情報公告
    • Pokemon GO攻略
  • 訂閱電子報
  • 電腦王團隊
    • 阿達自製工具
      • 電腦王阿達 App:最新3C、AI新知、科技新聞一手掌握
        • 電腦王阿達 App 隱私權政策
      • 非記不可:絕不會錯過重要事件
      • Gemini 即時語音翻譯
        • 即時翻譯王隱私權政策
      • 名片辨識王:免費的名片整理App
        • 名片辨識王隱私權政策
      • 簡繁轉換工具
      • 表情與特殊符號速查表
No Result
View All Result
  • 首頁
  • 科技新聞
    • 最新科技新聞
    • 酷品開箱
    • 產品評測
      • GPS/行車記錄器評測
      • iOS周邊
      • Android周邊
    • 通訊達人
    • 科技廠商專訪報導
    • 電腦硬體周邊情報
    • 相機
  • AI 新聞與教學
    • AI 工具分享與教學
    • AI 趨勢與相關新聞
  • APP/軟體/教學
    • 電腦應用與其他教學
      • 網路與軟體應用
      • 多媒體轉檔/運用
      • 其他文章
    • 跨平台App
    • iPhone/iPad相關
      • iPhone/iPad 軟體介紹
      • iPhone/iPad 使用教學
      • iOS JB/CYDIA應用
    • Android相關資訊
      • Android App分享介紹
      • Android 基礎教學
      • 智慧手機韌體更新
      • Windows Mobile手機相關文章
    • Mac 軟體分享與教學
    • LINE
    • Telegram
    • 攝影教學
    • 語文學習
    • 轉貼好文
    • WordPress 架站教學分享
    • 未分類文章
  • 休閒/懶人包
    • 新聞台直播 頻道大集合!想看新聞不用辦第四台!
    • 遊戲電玩
    • 動漫、玩具、敗家
      • 老弟紙模型作品集
    • KUSO
      • 有趣影片
    • 圖文創作
    • 生活與旅遊
    • 超好用懶人包
    • 最新抽獎情報公告
    • Pokemon GO攻略
  • 訂閱電子報
  • 電腦王團隊
    • 阿達自製工具
      • 電腦王阿達 App:最新3C、AI新知、科技新聞一手掌握
        • 電腦王阿達 App 隱私權政策
      • 非記不可:絕不會錯過重要事件
      • Gemini 即時語音翻譯
        • 即時翻譯王隱私權政策
      • 名片辨識王:免費的名片整理App
        • 名片辨識王隱私權政策
      • 簡繁轉換工具
      • 表情與特殊符號速查表
No Result
View All Result
電腦王阿達
No Result
View All Result

首頁 » AI 新聞與教學 » AI 趨勢與相關新聞

Tags: iPhone 17 Pro MaxLLMMAC本機 AI

Mac 記憶體不夠還能借用 iPhone!國外開發者成功讓兩台裝置一起跑 27B AI 模型,速度最高提升 44%

還蠻有趣的

Rocky by Rocky
2026 年 10 月 05 日
in AI 趨勢與相關新聞
讀取中...

想讓 Mac 本機 AI 模型跑得更快,或是讓原本跑不起來的模型成功運行,多數人想到的應該都是換一台記憶體更大的 Mac。不過,現在有開發者真的實現了你可能都曾想過的想法:讓手邊的 iPhone 也一起幫忙跑 AI。

這個開源專案叫做 Backburner。開發者只用一條 USB-C 線,把 iPhone 17 Pro Max 接上 M4 Pro MacBook Pro,就成功讓兩台裝置分工處理 AI 模型。

根據他公布的測試結果,iPhone 加入運算後,AI 處理長篇 Prompt 的 Prefill 速度最高提升 44%。在另一種模式下,還能把部分 KV Cache 放到 iPhone,讓原本約 6.4 萬 Token 的上下文上限,理論上進一步拉高到約 20 萬 Token。

Mac 記憶體不夠還能借用 iPhone!國外開發者成功讓兩台裝置一起跑 27B AI 模型,速度最高提升 44% - 電腦王阿達

iPhone 也能幫 Mac 跑 AI?開源專案 Backburner 用 USB-C 串起兩台裝置,長文讀取最多快 44%

近日開發者 StayLameBro 在 GitHub 上釋出 Backburner 首個預覽版 v0.0.1,並在 Reddit 分享他的測試結果。

測試環境是一台 24GB 記憶體的 M4 Pro MacBook Pro,加上一支 iPhone 17 Pro Max,中間用 10Gb/s 的 USB-C 線連接。跑的模型是 Qwen 3.8-27B,在 16K、32K、48K 三種上下文長度下,加上 iPhone 後的讀取速度分別快了 44%、29%、30%。

I made my iPhone a second GPU for my 24 GB MacBook: Qwen 3.8 27B prefills 29–44% faster & my holds part of the CTX window.
byu/StayLameBro inLocalLLaMA

那 iPhone 到底是怎麼幫上忙的?*簡單來說,就是把 AI 模型的工作拆給兩台裝置一起做。

像這次測試的 Qwen 3.8-27B,模型內部總共有 64 層,每次處理內容時,都要從前面一路算到最後一層。Backburner 會把前 40 層交給 Mac 的 GPU,剩下第 41~64 層則交給 iPhone,等於兩台裝置各自負責模型的一部分:
Mac 記憶體不夠還能借用 iPhone!國外開發者成功讓兩台裝置一起跑 27B AI 模型,速度最高提升 44% - 電腦王阿達

但如果只是 Mac 算完再換 iPhone,速度其實不會快多少,所以 Backburner 還用了類似「工廠流水線」的方式。它會把輸入內容切成一小批一小批,每批 256 Token。Mac 算完第一批的前 40 層後,就立刻透過 USB-C 把結果交給 iPhone,接著自己繼續處理第二批;這時候 iPhone 也同時在算第一批剩下的 24 層。

這樣一來,Mac 和 iPhone 就能同時工作,不用一台算完、另一台才能開始,整體處理速度自然就能提高。

此外,兩台裝置之間的傳輸速度也很重要,如果線材速度太慢,Mac 算完之後還得等資料傳到 iPhone,反而會拖慢整個流程。因此開發者才會使用 10Gb/s 的 USB-C 線,iPhone 隨盒附贈的 USB-C 線只有 USB 2 速度,不適合拿來跑這套系統。

Mac 記憶體不夠還能借用 iPhone!國外開發者成功讓兩台裝置一起跑 27B AI 模型,速度最高提升 44% - 電腦王阿達

下方表格是測試結果,要注意的是,速度提升是指 AI「讀取內容」的速度,不是產生答案的速度:

上下文長度 只用 Mac Mac+iPhone 速度提升 等待時間
16K 109 tok/s 157 tok/s +44% 18.8 秒 → 13.1 秒(少等 31%)
32K 101 tok/s 130 tok/s +29% 20.3 秒 → 15.8 秒(少等 22%)
48K 87 tok/s 113 tok/s +30% 23.5 秒 → 18.1 秒(少等 23%)

Mac 記憶體不夠還能借用 iPhone!國外開發者成功讓兩台裝置一起跑 27B AI 模型,速度最高提升 44% - 電腦王阿達

開發者也另外用 AI 代理工具做了一次更貼近日常使用的測試。他開了一個約 2.7 萬 Token 的新工作階段,使用原版 llama.cpp 時,第一次回應要等 245 秒。換成 Backburner 修改版、但仍只用 Mac,縮短到 228 秒。接上 iPhone 一起運算後,則進一步降到 168 秒,比原本少等了將近 80 秒。

後續繼續對話時,等待時間也從平均 19.2 秒 降到 14.5 秒,代表這套方法不只跑分有提升,實際使用時也能明顯縮短等待時間。

此外,當上下文超過 6.4 萬(64K)Token 之後,iPhone 會變成負責另一件事:「幫 Mac 分擔記憶體壓力」。

AI 讀過的內容,會留下叫做 KV Cache 的暫存資料,可以把它想成 AI 的「筆記」。內容越長,這份筆記就越大,也會吃掉越多記憶體。對 24GB Mac 來說,載入模型之後,剩下的記憶體大約只夠保存 64K 的 8-bit KV Cache,再長就容易塞不下。

這時 Backburner 不再把模型切成兩邊運算,而是改由 Mac 自己跑完整模型,再把較舊的一部分 KV Cache 搬到 iPhone 儲存和處理。簡單來說,就像幫 Mac 接上一個「會自己幫忙查資料的外接筆記本」,讓更多上下文不用全部擠在 Mac 的記憶體裡。

Mac 記憶體不夠還能借用 iPhone!國外開發者成功讓兩台裝置一起跑 27B AI 模型,速度最高提升 44% - 電腦王阿達

開發者目前實際測到,8-bit KV Cache 可以跑到 128K,4-bit 則能到 140K。相比之下,同一台 Mac 如果完全不靠 iPhone,8-bit KV Cache 大約只能撐到 64K。

專案公開後不久,Backburner 又加入了 Split Decode 模式,進一步讓只有 8GB 記憶體的 Mac,也能搭配 iPhone 運行 Qwen3.8-27B。

做法同樣是把模型拆給兩台裝置一起處理:Mac 負責前面的模型層,iPhone 則接手剩下的層數和最後的輸出,因此每產生一個 Token,都需要兩台裝置共同完成運算。

當然,速度部分沒很快,實測結果顯示,文字生成速度約為 3.9 Token/s。

每秒不到 4 個 Token 當然不算快,但對只有 8GB 記憶體的入門款 Mac 來說,原本 27B 模型無法完整載入,現在卻能靠 iPhone 分擔後成功跑起來。

有興趣的人,可到 Backburner 專案了解更多。

Tags: iPhone 17 Pro MaxLLMMAC本機 AI

網站搜尋

No Result
View All Result

熱門文章

超過 47 萬人收藏的免費 API 資源庫!Public APIs 收錄各種類型 API,幾乎什麼資源都找得到

超過 47 萬人收藏的免費 API 資源庫!Public APIs 收錄各種類型 API,幾乎什麼資源都找得到

by Rocky
2026 年 09 月 05 日

...

台灣開發者燒 1 萬美元 AI Token 打造出《臺北GTA:去臺北狂飆》,打開瀏覽器就能免費玩

台灣開發者燒 1 萬美元 AI Token 打造出《臺北GTA:去臺北狂飆》,打開瀏覽器就能免費玩

by Rocky
2026 年 10 月 02 日

...

「流言查證」台積電 2nm 製程集體翻車?中國 8 Elite Gen 6 機型傳當機災情、iPhone 18 Pro 也有重啟問題

「流言查證」台積電 2nm 製程集體翻車?中國 8 Elite Gen 6 機型傳當機災情、iPhone 18 Pro 也有重啟問題

by 達小編
2026 年 10 月 04 日

...

YouTube 影片下載免費線上工具總整理,最高支援到 8K

YouTube 影片下載免費線上工具總整理,最高支援到 8K

by Rocky
2026 年 02 月 02 日 - Updated on 2026 年 08 月 04 日

...

Google AI 訂閱多送 Colab GPU 額度!透過這個技能,就能讓 Codex 呼叫 Colab 生成 MiniMax H3 影片

Google AI 訂閱多送 Colab GPU 額度!透過這個技能,就能讓 Codex 呼叫 Colab 生成 MiniMax H3 影片

by Rocky
2026 年 09 月 29 日

...

廣告


網站搜尋

No Result
View All Result

熱門文章

  • 超過 47 萬人收藏的免費 API 資源庫!Public APIs 收錄各種類型 API,幾乎什麼資源都找得到

    超過 47 萬人收藏的免費 API 資源庫!Public APIs 收錄各種類型 API,幾乎什麼資源都找得到

    0 shares
    Share 0 Tweet 0
  • 台灣開發者燒 1 萬美元 AI Token 打造出《臺北GTA:去臺北狂飆》,打開瀏覽器就能免費玩

    0 shares
    Share 0 Tweet 0
  • 「流言查證」台積電 2nm 製程集體翻車?中國 8 Elite Gen 6 機型傳當機災情、iPhone 18 Pro 也有重啟問題

    0 shares
    Share 0 Tweet 0
  • YouTube 影片下載免費線上工具總整理,最高支援到 8K

    0 shares
    Share 0 Tweet 0
  • Google AI 訂閱多送 Colab GPU 額度!透過這個技能,就能讓 Codex 呼叫 Colab 生成 MiniMax H3 影片

    0 shares
    Share 0 Tweet 0

廣告

熱門文章

超過 47 萬人收藏的免費 API 資源庫!Public APIs 收錄各種類型 API,幾乎什麼資源都找得到

超過 47 萬人收藏的免費 API 資源庫!Public APIs 收錄各種類型 API,幾乎什麼資源都找得到

by Rocky
2026 年 09 月 05 日

...

台灣開發者燒 1 萬美元 AI Token 打造出《臺北GTA:去臺北狂飆》,打開瀏覽器就能免費玩

台灣開發者燒 1 萬美元 AI Token 打造出《臺北GTA:去臺北狂飆》,打開瀏覽器就能免費玩

by Rocky
2026 年 10 月 02 日

...

「流言查證」台積電 2nm 製程集體翻車?中國 8 Elite Gen 6 機型傳當機災情、iPhone 18 Pro 也有重啟問題

「流言查證」台積電 2nm 製程集體翻車?中國 8 Elite Gen 6 機型傳當機災情、iPhone 18 Pro 也有重啟問題

by 達小編
2026 年 10 月 04 日

...

YouTube 影片下載免費線上工具總整理,最高支援到 8K

YouTube 影片下載免費線上工具總整理,最高支援到 8K

by Rocky
2026 年 02 月 02 日 - Updated on 2026 年 08 月 04 日

...

Google AI 訂閱多送 Colab GPU 額度!透過這個技能,就能讓 Codex 呼叫 Colab 生成 MiniMax H3 影片

Google AI 訂閱多送 Colab GPU 額度!透過這個技能,就能讓 Codex 呼叫 Colab 生成 MiniMax H3 影片

by Rocky
2026 年 09 月 29 日

...

歡迎手機廠商、iPhone 周邊產品業者、APP軟體開發商洽談合作或產品測試事宜 koc kocpc.com.tw |隱私政策 |主機維護:Fast Line 台灣速連,阿腸數位科技

No Result
View All Result
  • 最新科技新聞
  • 最新科技產品報導
    • 3C產品開箱/廠商邀測
      • GPS/行車記錄器評測
    • 通訊達人
    • 科技廠商專訪報導
      • 專題報導
    • 電腦硬體周邊情報
    • Android周邊
    • iOS周邊
  • 好用App介紹
    • Android App分享介紹
      • Android 基礎教學
    • iPhone/iPad 軟體介紹
      • iPhone/iPad 使用教學
      • iOS JB教學
      • iOS軟體與JB相關文章
      • iOS JB/CYDIA應用
    • 跨平台App
    • Telegram
  • 電腦應用與其他教學
    • Mac OS 軟體分享與教學
    • 網路與軟體應用
    • WordPress 架站教學分享
    • 多媒體轉檔/運用
    • 語文學習
    • 轉貼好文
    • 其他文章
  • 旅遊與美食
    • 生活與旅遊
    • 圖文創作
    • 有趣影片
    • 動漫、玩具、敗家
    • 老弟紙模型作品集
    • KUSO
    • 阿達玩App
    • Pokemon Go攻略
  • 阿達自製工具
    • 超好用懶人包
    • 電腦王阿達 App:最新3C、AI新知、好用教學與科技新聞一手掌握
    • 2026年14 個最佳免費線上掃毒網站推薦
    • 簡繁轉換工具
    • 表情與特殊符號速查表
  • 訂閱電子報
  • 電腦王阿達團隊

歡迎手機廠商、iPhone 周邊產品業者、APP軟體開發商洽談合作或產品測試事宜 koc kocpc.com.tw |隱私政策 |主機維護:Fast Line 台灣速連,阿腸數位科技

輸入信箱訂閱每日精選電子報,並依確認信完成訂閱。

No Result
View All Result
  • 最新科技新聞
  • 最新科技產品報導
    • 3C產品開箱/廠商邀測
      • GPS/行車記錄器評測
    • 通訊達人
    • 科技廠商專訪報導
      • 專題報導
    • 電腦硬體周邊情報
    • Android周邊
    • iOS周邊
  • 好用App介紹
    • Android App分享介紹
      • Android 基礎教學
    • iPhone/iPad 軟體介紹
      • iPhone/iPad 使用教學
      • iOS JB教學
      • iOS軟體與JB相關文章
      • iOS JB/CYDIA應用
    • 跨平台App
    • Telegram
  • 電腦應用與其他教學
    • Mac OS 軟體分享與教學
    • 網路與軟體應用
    • WordPress 架站教學分享
    • 多媒體轉檔/運用
    • 語文學習
    • 轉貼好文
    • 其他文章
  • 旅遊與美食
    • 生活與旅遊
    • 圖文創作
    • 有趣影片
    • 動漫、玩具、敗家
    • 老弟紙模型作品集
    • KUSO
    • 阿達玩App
    • Pokemon Go攻略
  • 阿達自製工具
    • 超好用懶人包
    • 電腦王阿達 App:最新3C、AI新知、好用教學與科技新聞一手掌握
    • 2026年14 個最佳免費線上掃毒網站推薦
    • 簡繁轉換工具
    • 表情與特殊符號速查表
  • 訂閱電子報
  • 電腦王阿達團隊

歡迎手機廠商、iPhone 周邊產品業者、APP軟體開發商洽談合作或產品測試事宜 koc kocpc.com.tw |隱私政策 |主機維護:Fast Line 台灣速連,阿腸數位科技