Apple M4 Max 相关配置:本地推理速度(tok/s),均有出处
截至 2026-11-14,本数据集中 Apple M4 Max 有 20 条配方,其中发帖人实测 14 条。单机单流文字最快实测:78.7 tok/s,模型 Qwen3.8-Flash-Next,引擎 Espetero(Mac Studio M4 Max 128GB;实测;2026-10-29;来源)。其中 11 条有日期,从 2026-08-23 到 2026-11-05。
| 模型 | 引擎 | 硬件 | tok/s | 指标 | 来源等级 | 日期 | 来源 |
|---|---|---|---|---|---|---|---|
| Qwen3.8-Flash-Next | Splash | Apple M4 Max 40C GPU 128GB(机型未注明) | 160.5 | 解码 Splash 160.5 / llama.cpp 42.3(3.8×);32K 读入 744.0 / 486.7;32K 缓存重发 62.6 / 58.2 ms;4 并发合计 144.8 / 89.1;Ollama 跑不起来 | 实测 | 2026-10-22 | 链接 |
| Qwen3.8-27B | Splash | Apple M4 Max 128GB(机型未注明) | 102.9 | 同一文件:解码 Splash 102.9 / llama.cpp 20.6(加多 token 预测 28.1)/ Ollama 22.2;32K 读入 332.5 / 159.5(155.3)/ 158.9;32K 缓存重发 265.4 / 136.5(134.3)/ 381.7 ms;4 并发合计 107.1 / 25.8(62.9)/ 13.0 | 实测 | 2026-10-22 | 链接 |
| Qwen3.8-Flash-Next | Espetero | Mac Studio M4 Max 128GB | 78.7 | 1 用户 oQ4e:不开 MTP 58.6,开 MTP 78.7(oMLX 81.1);聚合(另计)8 用户 170.7(oMLX 110.0) | 实测 | 2026-10-29 | 链接 |
| Qwen3.8-27B | MLX | Mac Studio M4 Max | 65.76 | 原生栈 65.76 tok/s(MTP depth 3);同一 GGUF + llama.cpp 无 MTP:21.00 | 实测 | 2026-09-26 | 链接 |
| Qwen3.8-Flash-Next | oMLX | Mac Studio M4 Max | 63.38 | 均值 63.38 tok/s;sequence 68.85、code 52.20、json 69.09 | 实测 | 2026-09-26 | 链接 |
| Qwen3.8-27B | Espetero | Mac Studio M4 Max 128GB | 59.4 | 1 用户:MLX 4-bit 不开 MTP 30.1,开 MTP 59.4(mlx-lm 27.5);UD-Q6_K GGUF 20.2,开 MTP 47.0(llama.cpp 19.5,开 MTP 33.3);聚合(另计)8 用户 161(mlx-lm 78) | 实测 | 2026-10-29 | 链接 |
| Qwen3.8-27B 4-bit | TensorFold | Mac Studio M4 Max | 57.4 | thinking 关 76.7 / 开 57.4 tok/s(6,071 / 11,895 token) | 实测 | 链接 | |
| Qwen3.8-27B | oMLX | Mac Studio M4 Max | 53 | 53 tok/s prose,72 code,草稿接受率 78% | 实测 | 2026-08-23 | 链接 |
| Qwen3.8-27B-heretic-ara-oQ4e-mtp | mlx-serve | Mac Studio M4 Max | 42 | code 74 / prose 42 tok/s(temp 0,thinking off) | 实测 | 2026-10-03 | 链接 |
| DeepSeek-V4-Flash(V4 非 4.1) | ds4 (DwarfStar) | Mac Studio M4 Max 128GB | 30 | ~30 tok/s 写;37K 提示读入约 2 分钟 | 实测 | 链接 | |
| Qwen3.8-Flash-Next | llama.cpp | Mac Studio M4 Max | 23.2 | 推理 22.7 / 编码 23.0 / 策略 23.2 tok/s | 实测 | 链接 | |
| Qwen3.8-27B 4-bit | oMLX | Mac M4 Max | 数字类 154 / 146 / 146;故事 51 / 53 / 54;关草稿均 29–31 | 实测 | 链接 | ||
| Qwen3.8-Flash-Next | 未注明 | Mac M4 Max / M2 Ultra | 45 / 25 tok/s | 实测 | 链接 | ||
| Qwen3.8-27B | MLX | Mac Studio M4 Max | 代码 74.1;散文 52.8 | 实测 | 链接 | ||
| Qwen3.8-Flash-Next | oMLX | Mac M4 Max 128GB | 83 | 最佳 83 tok/s;4 流合计 224 | 转述 | 链接 | |
| Qwen3.8-Flash-Next-MLX-Serve-mixed-4 | mlx-serve | Mac Studio/MBP M4 Max 128GB | 60 | 60.0 tok/s 生成;730.0 tok/s 读入 | 宣称 | 2026-08-27 | 链接 |
| Qwen3.8-27B | TensorFold | Mac Studio M4 Max | 57.2 | DFlash2:代码 99.4 / 散文 57.2(无 draft 24.9)。tok_s 取散文 57.2 | 宣称 | 2026-11-05 | 链接 |
| Qwen3.8-27B / Flash-Next / 35B-A3B | MLX | Mac Studio M4 Max 128GB | 27B 70;Flash-Next 83;35B-A3B 239 tok/s;27B 4 路合计 119(旧版 72) | 转述 | 链接 | ||
| FastH3 Trim | MLX | Mac M4 Max 36GB | 480p 5s:925.2 s(V2 未列出) | 官方 | 链接 | ||
| FastH3 Preview(4 步) | MLX | Mac M4 Max 36GB | 832×480×124 帧:冷启动 465–504 s;INT6 456 s(峰值 19.5GiB) | 官方 | 2026-09-02 | 链接 |
数字来自各条来源。本项目未复测。各行的模型与设置不同。来源等级:官方 = 项目方或厂商;实测 = 发帖人亲测(引擎或配方作者须公开原始数据和复现步骤);转述 = 二手;宣称 = 预测或无复现细节。