Mac 租用

Mojo 1.0 Apple Silicon 部署:MAX 推理指南

官方 Packages 頁面目前列出的 Mac 條件包括 macOS Sequoia 15 或以上、Apple Silicon M1–M5、Python 3.10–3.14,以及 Xcode 或 Command Line Tools 16 或以上。這代表 不必等待 Mojo 1.0 正式版才開始:先用 MAX 穩定版建立可複現基線,再用獨立的 nightly 環境驗證最新 Apple Silicon GPU 能力;生產工作則保留 PyTorch MPS 或其他成熟路徑作為回退。(官方 Packages 相容性文件)

最後更新於 2026 年 8 月 11 日,資料核實自 Modular 的 Packages、Quickstart、MAX 26.4 發布說明、Mojo 1.0 Beta 文件及 ModCon 2026 官方頁面。2026 年 8 月 18 日 ModCon 後,應重新核對編譯器開源範圍、正式安裝方式、授權條款與 Apple Silicon 支援表。

這篇適合已有 M 系列 Mac、想驗證 MAX 本地推理能力的個人開發者;正在比較 MAX 與 PyTorch MPS、需要建立同條件基準的 AI 工程團隊;以及缺少可長時間佔用測試設備、準備評估遠端 Mac 環境的專案負責人。

先建立雙軌環境,再決定是否等待 Mojo 1.0

截至 2026 年 8 月 11 日,官方已發布 Mojo 1.0 Beta 與 Beta 2,MAX 26.4 亦已擴大 Apple Silicon GPU 支援;但正式版 Mojo 1.0、編譯器具體開源範圍、最終授權細節,以及 ModCon 後可能新增的 Mac 安裝流程,仍不能預先當成已發布功能。官方路線文章只表示編譯器會在 Mojo 1.0 階段開放,沒有給出可直接取代現有安裝流程的完整承諾。(Mojo 1.0 Beta 官方發布說明)

因此,環境策略應該是:

  • 穩定版專案:固定 MAX、Mojo、Python、macOS 與 Xcode 版本,用來保存可重跑的基準。
  • nightly 專案:只用於驗證新模型、新算子或 Apple Silicon GPU 變更。
  • 禁止直接覆蓋升級:穩定版與 nightly 必須使用不同資料夾、虛擬環境與鎖定檔。
  • 生產回退:在模型相容性、輸出一致性與長時間穩定性尚未通過前,不要把 MAX 單獨作為正式服務路徑。

MAX on Mac 應該選穩定版還是 nightly?
若目標是保存基準、交付團隊或重現錯誤,選穩定版;若目標是確認最新 Apple Silicon GPU 能否編譯指定圖形或模型,才使用 nightly。官方 FAQ 也建議把兩者放在不同專案與依賴環境中,而不是在同一環境反覆切換。(MAX 官方 FAQ)

動手前完成 Mac 與模型適配檢查

Apple Silicon 並不等於所有 MAX 模型都能直接執行。MAX 的 Quickstart 明確提醒,Mac 等消費級系統可用於探索與測試,但相容模型較少、效能也可能低於資料中心級 GPU;因此,模型是否適合本機,不能只看參數量。(MAX Quickstart 官方文件)

先完成以下檢查:

  • [ ] 在「關於這部 Mac」確認處理器屬於 M1–M5 範圍。
  • [ ] 核對 macOS 是否為 Sequoia 15 或以上。
  • [ ] 確認 Xcode 或 Command Line Tools 為 16 或以上。
  • [ ] 執行 xcodebuild -downloadComponent MetalToolchain,補齊 Metal 工具鏈。
  • [ ] 確認 Python 落在官方列出的 3.10–3.14 範圍。
  • [ ] 記錄可用統一記憶體,而不是只記錄機器標稱容量。
  • [ ] 先查模型架構、量化格式、上下文長度與 MAX 支援狀態。
  • [ ] 為權重、KV cache、編譯快取及作業系統背景程序預留餘量。

官方 Mojo 系統需求頁目前將 M1、M2、M3、M4 與 M5 都列為已知相容,但這是工具鏈與 GPU 程式設計層面的硬體相容性,不代表每一個 LLM、視覺模型或影像生成模型都已在 Mac 上完成 MAX 驗證。(Mojo 官方系統需求)

決策維度 MAX 穩定版 MAX nightly PyTorch MPS
主要用途 建立可複現基線、團隊交付 驗證最新功能與 GPU 路徑 成熟模型的本地回退
環境風險 相對可控,但仍須逐模型驗證 可能出現回歸或介面變動 既有 PyTorch 工作流較容易保留
Apple Silicon GPU 依當前版本與模型支援表判定 用於追蹤最新支援變化 依 PyTorch 與 Metal 後端行為判定
適合的測試 固定模型、固定精度、固定輸入 新算子、新模型、新編譯器能力 與 MAX 做同條件比較
何時不應作為唯一方案 相容性尚未通過 任何需要穩定交付的服務 MAX 已在目標負載穩定勝出前

第一小時完成隔離安裝與可回退記錄

目前官方安裝文件以 Packages、pixi 與 uv 為主,並特別提醒網頁頂端切換到 stable 或 nightly 後,頁面上的命令會不同;不應直接沿用論壇或舊版 CLI 教學。對團隊而言,pixi.lock 的價值不只在安裝成功,而是把轉移到另一部 Mac 時的相依版本一起固定。(Mojo 安裝官方文件)

第一步:建立穩定版專案。

mkdir -p ~/max-mac-lab/stable ~/max-mac-lab/nightly
cd ~/max-mac-lab/stable
pixi init
pixi add modular
pixi add "python==3.11"
pixi install

實際版本與通道應以安裝當日的官方 Packages 頁面為準;如果頁面要求指定通道或版本,不應把上述示例當成永久不變的命令。

第二步:建立 nightly 專案。

cd ~/max-mac-lab/nightly
pixi init
pixi add modular
pixi add "python==3.11"
pixi install

nightly 版本應在獨立專案中安裝,並將 pixi.toml 與 pixi.lock 一起保存。官方文件說明,鎖定檔會記錄實際安裝版本與間接相依套件,對跨機器重建環境尤其重要。

第三步:記錄環境指紋。

pixi run max --help
pixi run mojo --version
python --version
sw_vers
xcodebuild -version
system_profiler SPHardwareDataType

第四步:確認 CLI、裝置與範例均可執行。

不要只以 max --help 有輸出就判定成功,還要啟動一個官方 Quickstart 範例,確認模型載入、推理回應與裝置選擇都沒有錯誤。Quickstart 的基本方式是啟動本地 MAX 端點,再由 Python 用戶端送出請求;官方示例使用本機 localhost 端點,這也較接近日後把測試腳本搬到遠端 Mac 的模式。

第五步:保存錯誤與回退資料。

mkdir -p logs reports models
pixi run max --help > logs/max-help.txt 2>&1
pixi run mojo --version > logs/mojo-version.txt 2>&1

每次測試至少保存啟動命令、模型識別、精度、輸入長度、輸出長度、錯誤日誌與版本指紋。若 nightly 失敗,可在不改動穩定版的情況下回到 ~/max-mac-lab/stable,避免把一次實驗性升級變成整個團隊的環境事故。

Linux 容器不能自動等同於 Mac GPU 執行環境。 MAX 文件雖然同時提供 Mac、Linux、WSL 及 Docker 路徑,但 Apple Silicon 的 Metal 裝置驗證應先在 macOS 主機環境完成;若把一般 Linux 容器直接搬到 Mac,卻沒有確認 Metal 裝置是否可見,測到的可能只是 CPU 路徑或不同的執行後端。

首次推理從小模型與單一請求開始

MAX 能在 Apple Silicon 上執行哪些推理模型?
正確答案不是「某個參數量以下的模型都可以」,而是「該模型架構、權重格式、算子、量化方式與目前 MAX 版本是否同時相容」。MAX 26.4 的發布說明確認增加了模型架構、量化與推測解碼等能力,也延伸了 Apple Silicon GPU 支援,但沒有宣稱所有模型都能在 Mac 上運行。(MAX 26.4 官方發布說明)

第一輪建議採用以下順序:

  1. 先選官方模型文件已列出的文字模型。
  2. 將並發固定為單一請求,避免把排隊、快取與記憶體壓力混在一起。
  3. 使用較短上下文與固定輸出長度,先確認模型能完成一次回應。
  4. 再測試視覺輸入或影像生成,不要同時更換模型、精度與輸入形式。
  5. 最後才加入多請求、長上下文與長時間服務。

本地測試可分成兩條路徑:

  • 直接執行:適合確認模型能否載入、輸出格式是否正確。
  • 啟動本地介面:適合模擬團隊服務,測試 localhost 連線、請求格式、啟動時間與進程記憶體變化。

模型失敗時,應依序排查四類原因:架構尚未覆蓋、算子或核心不相容、統一記憶體不足,以及 nightly 回歸。不能看到推理中斷就直接結論為 Apple Silicon 算力不足;同一模型若在 CPU、GPU 或另一個後端走了不同路徑,錯誤位置與效能表現也會完全不同。

首輪基準測試要讓 MAX 與 PyTorch MPS 站在同一起跑線

MAX 是否值得取代 PyTorch MPS,不能引用跨裝置宣傳數字,也不能把官方所稱的 leadership performance 直接當成 Mac 結論。ModCon 官方頁面列有 Apple Silicon、Mojo 與 MAX 的展示及工作坊,但議程內容是活動安排,不是已完成的產品支援清單。(ModCon 2026 官方議程)

MAX 與 PyTorch MPS 應怎樣做公平測試?
至少固定以下條件:

  • 相同模型版本與權重。
  • 相同精度與量化格式。
  • 相同輸入長度、輸出長度及取樣設定。
  • 相同預熱次數與清快取方式。
  • 相同單請求或相同並發數。
  • 相同測試資料集與結果驗證方法。

建議記錄五組指標:

  1. 首 token 延遲:反映首次回應速度。
  2. 持續吞吐:反映穩定生成階段的速度。
  3. 峰值記憶體:確認是否接近統一記憶體上限。
  4. 啟動時間:區分編譯、載入權重與伺服器啟動成本。
  5. 結果一致性:比較輸出結構、數值誤差或逐 token 差異。

決策規則應該很保守:只要 MAX 在目標模型上出現未解決的算子錯誤、結果不一致或重啟後無法重現,就保留 PyTorch MPS;只有當 MAX 在同一台 Mac、同一組模型與同一批輸入上,連續多輪測試都通過相容性與穩定性門檻,才擴大遷移到更多模型或服務流程。

若團隊需要更細緻地比較 MPS 的首 token、吞吐與記憶體行為,可先把測試腳本整理成固定輸入與固定輸出,再參考本站的推理環境驗收與測試流程建立統一紀錄格式。

第一週整理成可搬遷的遠端 Mac 測試包

當本地 Mac 只適合偶爾測試,真正的問題通常不是「能不能跑一次」,而是能否長時間佔用、讓多人重複使用,並覆蓋不同 Apple Silicon 代際。此時應先把環境整理成一個可搬遷的測試包:

  • pixi.toml:宣告直接相依套件。
  • pixi.lock:固定實際解析出的版本。
  • run-max.sh:統一啟動命令與環境變數。
  • benchmark.json:保存模型、精度、輸入長度與並發設定。
  • logs/:保存啟動、裝置識別與錯誤輸出。
  • reports/:保存 MAX 與 PyTorch MPS 的比較結果。
  • rollback.md:寫明如何切回穩定版或 MPS。

本地 Mac 記憶體不足時,如何遠端驗證 MAX 推理?
先把本地已通過的單請求腳本搬到遠端 Mac,再逐項核對作業系統、MAX 版本、Metal 工具鏈、模型檔案與鎖定檔;不要先用遠端機器改寫測試條件。若遠端環境的機型、記憶體或系統版本不同,測試報告必須分開標示,不能與本地結果混成一組平均值。

適合繼續使用本地設備的情況,是單人開發、短時間模型驗證、需要直接操作螢幕或實體周邊;適合評估遠端 Mac 的情況,則包括長時間佔用、多人共用、需要覆蓋多代 Apple Silicon,或必須把測試環境與日常工作機分離。若要查看 KuzCloud 的可用入口,可先從控制台確認環境管理方式,再依照測試腳本決定是否需要租用,而不是先按機型名稱猜測效能。

2026 年 8 月 18 日之後應設一個更新檢查點。 ModCon 官方頁面目前只確認活動日期與「Mojo and MAX on the edge」等展示安排;展示或工作坊不能提前寫成正式可用的 Mac 功能。發布後應重新核對安裝命令、編譯器是否開源、授權條款、Apple Silicon 支援範圍,以及 26.4 之後的最新版本日誌。

如果目前方案是直接在個人 Mac 上長期跑,常見限制包括記憶體與其他工作負載互相爭用、多人無法穩定共用,以及每次系統或 Xcode 更新都可能改變測試條件;如果改用一般 Linux 雲端主機,又會失去 Apple Silicon、Metal 與本地統一記憶體的驗證價值。對需要臨時算力、持續在線或同時比較多代 Apple Silicon 的團隊而言,先用本文的基準腳本定義需求,再評估 KuzCloud 的遠端 Mac 租賃,通常比購買一部只在少數測試日使用的 Mac 更容易控制環境差異與設備閒置成本。

用 KuzCloud 快速建立專屬 M4 推理測試環境

租用 KuzCloud 實體獨占 M4 節點,免於採購硬體即可開始驗證推理工作負載。

完整 CPU、GPU 與統一記憶體資源專屬使用,適合進行模型部署、除錯及效能基準測試。