Apple M4 Max の構成:ローカル推論速度(tok/s)、出典付き
2026-11-14 時点で、このデータセットには Apple M4 Max のレシピが 20 件あります。投稿者実測は 14 件です。単一デバイス・シングルストリームのテキスト実測の最速は 78.7 tok/s(Qwen3.8-Flash-Next、エンジン Espetero、Mac Studio M4 Max 128GB、実測、2026-10-29、出典)。日付のあるエントリは 11 件(2026-08-23〜2026-11-05)。
| モデル | エンジン | ハードウェア | tok/s | 指標 | 出典レベル | 日付 | 出典 |
|---|---|---|---|---|---|---|---|
| Qwen3.8-Flash-Next | Splash | Apple M4 Max 40C GPU 128GB (model not stated) | 160.5 | decode Splash 160.5 / llama.cpp 42.3 (3.8×); 32K prefill 744.0 / 486.7; 32K cached resend 62.6 / 58.2 ms; 4 concurrent total 144.8 / 89.1; Ollama does not run it | 実測 | 2026-10-22 | リンク |
| Qwen3.8-27B | Splash | Apple M4 Max 128GB (model not stated) | 102.9 | Same file: decode Splash 102.9 / llama.cpp 20.6 (with MTP 28.1) / Ollama 22.2; 32K prefill 332.5 / 159.5 (155.3) / 158.9; 32K cached resend 265.4 / 136.5 (134.3) / 381.7 ms; 4 concurrent total 107.1 / 25.8 (62.9) / 13.0 | 実測 | 2026-10-22 | リンク |
| Qwen3.8-Flash-Next | Espetero | Mac Studio M4 Max 128GB | 78.7 | 1 user oQ4e: 58.6 without MTP, 78.7 with MTP (oMLX 81.1); aggregate (separate) 8 users 170.7 (oMLX 110.0) | 実測 | 2026-10-29 | リンク |
| Qwen3.8-27B | MLX | Mac Studio M4 Max | 65.76 | native stack 65.76 tok/s (MTP depth 3); same GGUF + llama.cpp without MTP: 21.00 | 実測 | 2026-09-26 | リンク |
| Qwen3.8-Flash-Next | oMLX | Mac Studio M4 Max | 63.38 | mean 63.38 tok/s; sequence 68.85, code 52.20, json 69.09 | 実測 | 2026-09-26 | リンク |
| Qwen3.8-27B | Espetero | Mac Studio M4 Max 128GB | 59.4 | 1 user: MLX 4-bit 30.1 without MTP, 59.4 with MTP (mlx-lm 27.5); UD-Q6_K GGUF 20.2, 47.0 with MTP (llama.cpp 19.5, 33.3 with MTP); aggregate (separate) 8 users 161 (mlx-lm 78) | 実測 | 2026-10-29 | リンク |
| Qwen3.8-27B 4-bit | TensorFold | Mac Studio M4 Max | 57.4 | thinking off 76.7 / on 57.4 tok/s (6,071 / 11,895 tokens) | 実測 | リンク | |
| Qwen3.8-27B | oMLX | Mac Studio M4 Max | 53 | 53 tok/s prose, 72 code, draft acceptance rate 78% | 実測 | 2026-08-23 | リンク |
| Qwen3.8-27B-heretic-ara-oQ4e-mtp | mlx-serve | Mac Studio M4 Max | 42 | code 74 / prose 42 tok/s (temp 0, thinking off) | 実測 | 2026-10-03 | リンク |
| DeepSeek-V4-Flash (V4, not 4.1) | ds4 (DwarfStar) | Mac Studio M4 Max 128GB | 30 | ~30 tok/s write; 37K prompt prefill about 2 min | 実測 | リンク | |
| Qwen3.8-Flash-Next | llama.cpp | Mac Studio M4 Max | 23.2 | Reasoning 22.7 / coding 23.0 / strategy 23.2 tok/s | 実測 | リンク | |
| Qwen3.8-27B 4-bit | oMLX | Mac M4 Max | Numeric 154 / 146 / 146; story 51 / 53 / 54; draft off averages 29–31 | 実測 | リンク | ||
| Qwen3.8-Flash-Next | 未指定 | Mac M4 Max / M2 Ultra | 45 / 25 tok/s | 実測 | リンク | ||
| Qwen3.8-27B | MLX | Mac Studio M4 Max | code 74.1; prose 52.8 | 実測 | リンク | ||
| Qwen3.8-Flash-Next | oMLX | Mac M4 Max 128GB | 83 | Best 83 tok/s; 4 streams total 224 | 伝聞 | リンク | |
| Qwen3.8-Flash-Next-MLX-Serve-mixed-4 | mlx-serve | Mac Studio/MBP M4 Max 128GB | 60 | 60.0 tok/s decode; 730.0 tok/s prefill | 主張 | 2026-08-27 | リンク |
| Qwen3.8-27B | TensorFold | Mac Studio M4 Max | 57.2 | DFlash2: code 99.4 / prose 57.2 (24.9 without draft). tok_s uses prose 57.2 | 主張 | 2026-11-05 | リンク |
| Qwen3.8-27B / Flash-Next / 35B-A3B | MLX | Mac Studio M4 Max 128GB | 27B 70; Flash-Next 83; 35B-A3B 239 tok/s; 27B 4 streams total 119 (old version 72) | 伝聞 | リンク | ||
| FastH3 Trim | MLX | Mac M4 Max 36GB | 480p 5s: 925.2 s (V2 not listed) | 公式 | リンク | ||
| FastH3 Preview (4 steps) | MLX | Mac M4 Max 36GB | 832×480×124 frames: cold start 465–504 s; INT6 456 s (peak 19.5GiB) | 公式 | 2026-09-02 | リンク |
数値は各出典のものです。本プロジェクトでは再計測していません。行ごとにモデルと設定が異なります。出典レベル:公式 = プロジェクトまたはベンダー、実測 = 投稿者が実行(エンジンまたはレシピの作者は生データと再現手順も公開する)、伝聞 = 二次情報、主張 = 予測または再現手順なし。