Windows 將導入 Hybrid Intelligence！未來 AI 會自動選擇本地或雲端模型來執行任務

雖然本地模型越來越強，但跟雲端 AI 相比還是有很大差距，也因此，現在很多人都是透過雲端 AI 來處理工作。只不過在做一些小專案、不需要用到很強 AI 模型的事情時，一定會想，能不能改用本地?雖然現在有 Ollama、LM Studio 等工具，可以在電腦上執行本地 AI 模型，但要靠自己安裝、設定，而且一直手動切來切去，操作上也非常麻煩。

為了解決這個問題，微軟稍早宣布，將為 Windows 打造全新的「Hybrid Intelligence（混合式智慧）」架構，未來只要支援這套架構的 AI 應用程式，就能根據工作需求，自動選擇使用電腦上的本地模型，或是交給能力更強的雲端模型處理，可說相當不錯。

微軟打造 Windows Hybrid Intelligence，讓本地與雲端 AI 智慧分工

根據微軟在 Windows Experience Blog 發布的官方公告，Windows 將朝 Hybrid Intelligence 平台發展，讓 AI 代理能依照任務需求，選擇直接在電腦本地執行，或是交由運算能力更強的雲端 AI 模型處理。

微軟認為，AI 代理接下來會越來越普及，對運算資源、安全性與管控的要求也會跟著提高，再加上雲端 AI 的開銷越來越大，不少企業的 AI 需求已經超出預算，大家都希望每一個 Token 都能花在刀口上，所以 Windows 需要具備整合本地 AI 與雲端 AI 的能力，而不是把所有工作都丟給雲端。

所謂的「Hybrid Intelligence」，並不是一款新的 AI 模型，也不是 Windows 裡可以直接開啟的單一功能，而是一整套讓本地與雲端 AI 協同工作的架構。

那實際是怎麼運作的？簡單來說，就是把本地 AI 模型和雲端 AI 模型放在同一個系統裡，依照任務難度和需求來分工。

用實際情境來說明，假設你正在透過 GitHub Copilot 寫程式。

當你請 AI 幫程式碼加上註解，或修正一個簡單的語法錯誤時，如果電腦上的本地 AI 模型已經有足夠的能力，就有機會直接透過本地完成，不用呼叫雲端 AI。遇到比較複雜的問題，例如分析一整個大型專案的架構、追查很難重現的程式錯誤，系統則可能改用能力更強的雲端 AI 模型。

在這套架構裡，各自負責的角色大致是這樣：

• 本地 AI：使用電腦上的 CPU、GPU、NPU 等硬體資源執行模型，微軟提供的 Windows ML 執行環境可以把模型部署到這三種硬體上，而且這次還會加入 llama.cpp 支援，讓開發者更容易使用各種開源模型。
• 雲端 AI：負責比較複雜，或本地硬體跑不動、不適合在本地執行的工作。
• 智慧路由：讓支援的 AI 應用程式能依照任務需求，自動決定要用哪個模型。

過去想用本地 AI 模型，都需要透過 Ollama、LM Studio 等工具，自己下載模型、管理版本、調整設定。想用雲端 AI，則要另外打開 ChatGPT、Claude 等服務。兩邊是分開的，什麼時候用哪一個，都要靠使用者自己判斷。

未來導入 Hybrid Intelligence，支援這套架構的應用程式就能自動判斷和切換。差異可以參考下表：

至於有哪些軟體會支援 Hybrid Intelligence，首批是 GitHub Copilot 家族：

• GitHub Copilot App
• GitHub Copilot CLI
• Visual Studio Code

不過微軟也宣布，Windows 內建的 Copilot 也將導入本地與雲端 AI 協作能力。未來 Copilot+ PC 上的 Copilot 將具備三種重要能力：

• Local Context（本地情境）：在取得使用者授權後，理解電腦中相關的檔案與近期活動。
• Local Actions（本地操作）：協助整理檔案、執行診斷、排除裝置問題，以及完成指定的 Windows 工作。
• Local Models（本地模型）：利用電腦上的 AI 模型處理適合的任務，並在需要時結合雲端 AI 的能力。

這也意味著，未來你可以直接叫請 Copilot 幫忙找出某份上個月改過的文件、把下載資料夾裡亂成一團的檔案分類整理，或協助處理系統設定相關的問題等等。

微軟也提到，這些能力會帶進 Copilot 的 Home、Code、Autopilot 三種體驗。Home 是把你正在處理的檔案拉進來一起協作，Code 則代表用一段提示詞即可建立原生 Windows App，Autopilot 會獲得本地情境與操作電腦的能力。

隨著 AI 動手操作電腦能力加入，在安全性部分，微軟這次也同步宣布 Microsoft Execution Containers（MXC）於 Windows 11 正式推出，可限制 AI 代理能存取哪些檔案和網路，並在執行時強制套用。

硬體方面，目前有幾個限制要先知道：

• 不是所有 Windows 11 電腦都確認能使用完整的 Hybrid Intelligence 能力。
• Windows Copilot 新增的本地能力，初期公布的推出對象是 Copilot+ PC，實際開放時間會依裝置、市場與晶片而有差異。
• 本地模型需要足夠的 CPU、GPU、NPU 與記憶體資源。
• 不同模型的硬體需求可能差很多。
• 微軟尚未公布所有相關功能的完整硬體需求與正式推出日期。

下方是目前公布的時程整理表格：