⚡ 本地推理配方

English | 简体中文 | 日本語

Apple M4 Max 相关配置:本地推理速度(tok/s),均有出处

截至 2026-11-14,本数据集中 Apple M4 Max 有 20 条配方,其中发帖人实测 14 条。单机单流文字最快实测:78.7 tok/s,模型 Qwen3.8-Flash-Next,引擎 Espetero(Mac Studio M4 Max 128GB;实测;2026-10-29;来源)。其中 11 条有日期,从 2026-08-23 到 2026-11-05。

在配方库中筛选这些 →

模型引擎硬件tok/s指标来源等级日期来源
Qwen3.8-Flash-NextSplashApple M4 Max 40C GPU 128GB(机型未注明)160.5解码 Splash 160.5 / llama.cpp 42.3(3.8×);32K 读入 744.0 / 486.7;32K 缓存重发 62.6 / 58.2 ms;4 并发合计 144.8 / 89.1;Ollama 跑不起来实测2026-10-22链接
Qwen3.8-27BSplashApple M4 Max 128GB(机型未注明)102.9同一文件:解码 Splash 102.9 / llama.cpp 20.6(加多 token 预测 28.1)/ Ollama 22.2;32K 读入 332.5 / 159.5(155.3)/ 158.9;32K 缓存重发 265.4 / 136.5(134.3)/ 381.7 ms;4 并发合计 107.1 / 25.8(62.9)/ 13.0实测2026-10-22链接
Qwen3.8-Flash-NextEspeteroMac Studio M4 Max 128GB78.71 用户 oQ4e:不开 MTP 58.6,开 MTP 78.7(oMLX 81.1);聚合(另计)8 用户 170.7(oMLX 110.0)实测2026-10-29链接
Qwen3.8-27BMLXMac Studio M4 Max65.76原生栈 65.76 tok/s(MTP depth 3);同一 GGUF + llama.cpp 无 MTP:21.00实测2026-09-26链接
Qwen3.8-Flash-NextoMLXMac Studio M4 Max63.38均值 63.38 tok/s;sequence 68.85、code 52.20、json 69.09实测2026-09-26链接
Qwen3.8-27BEspeteroMac Studio M4 Max 128GB59.41 用户:MLX 4-bit 不开 MTP 30.1,开 MTP 59.4(mlx-lm 27.5);UD-Q6_K GGUF 20.2,开 MTP 47.0(llama.cpp 19.5,开 MTP 33.3);聚合(另计)8 用户 161(mlx-lm 78)实测2026-10-29链接
Qwen3.8-27B 4-bitTensorFoldMac Studio M4 Max57.4thinking 关 76.7 / 开 57.4 tok/s(6,071 / 11,895 token)实测链接
Qwen3.8-27BoMLXMac Studio M4 Max5353 tok/s prose,72 code,草稿接受率 78%实测2026-08-23链接
Qwen3.8-27B-heretic-ara-oQ4e-mtpmlx-serveMac Studio M4 Max42code 74 / prose 42 tok/s(temp 0,thinking off)实测2026-10-03链接
DeepSeek-V4-Flash(V4 非 4.1)ds4 (DwarfStar)Mac Studio M4 Max 128GB30~30 tok/s 写;37K 提示读入约 2 分钟实测链接
Qwen3.8-Flash-Nextllama.cppMac Studio M4 Max23.2推理 22.7 / 编码 23.0 / 策略 23.2 tok/s实测链接
Qwen3.8-27B 4-bitoMLXMac M4 Max数字类 154 / 146 / 146;故事 51 / 53 / 54;关草稿均 29–31实测链接
Qwen3.8-Flash-Next未注明Mac M4 Max / M2 Ultra45 / 25 tok/s实测链接
Qwen3.8-27BMLXMac Studio M4 Max代码 74.1;散文 52.8实测链接
Qwen3.8-Flash-NextoMLXMac M4 Max 128GB83最佳 83 tok/s;4 流合计 224转述链接
Qwen3.8-Flash-Next-MLX-Serve-mixed-4mlx-serveMac Studio/MBP M4 Max 128GB6060.0 tok/s 生成;730.0 tok/s 读入宣称2026-08-27链接
Qwen3.8-27BTensorFoldMac Studio M4 Max57.2DFlash2:代码 99.4 / 散文 57.2(无 draft 24.9)。tok_s 取散文 57.2宣称2026-11-05链接
Qwen3.8-27B / Flash-Next / 35B-A3BMLXMac Studio M4 Max 128GB27B 70;Flash-Next 83;35B-A3B 239 tok/s;27B 4 路合计 119(旧版 72)转述链接
FastH3 TrimMLXMac M4 Max 36GB480p 5s:925.2 s(V2 未列出)官方链接
FastH3 Preview(4 步)MLXMac M4 Max 36GB832×480×124 帧:冷启动 465–504 s;INT6 456 s(峰值 19.5GiB)官方2026-09-02链接

数字来自各条来源。本项目未复测。各行的模型与设置不同。来源等级:官方 = 项目方或厂商;实测 = 发帖人亲测(引擎或配方作者须公开原始数据和复现步骤);转述 = 二手;宣称 = 预测或无复现细节。