⚡ ローカル推論レシピ

English | 简体中文 | 日本語

Apple M4 Max の構成:ローカル推論速度(tok/s)、出典付き

2026-11-14 時点で、このデータセットには Apple M4 Max のレシピが 20 件あります。投稿者実測は 14 件です。単一デバイス・シングルストリームのテキスト実測の最速は 78.7 tok/s(Qwen3.8-Flash-Next、エンジン Espetero、Mac Studio M4 Max 128GB、実測、2026-10-29、出典)。日付のあるエントリは 11 件(2026-08-23〜2026-11-05)。

エクスプローラーで絞り込む →

モデルエンジンハードウェアtok/s指標出典レベル日付出典
Qwen3.8-Flash-NextSplashApple M4 Max 40C GPU 128GB (model not stated)160.5decode Splash 160.5 / llama.cpp 42.3 (3.8×); 32K prefill 744.0 / 486.7; 32K cached resend 62.6 / 58.2 ms; 4 concurrent total 144.8 / 89.1; Ollama does not run it実測2026-10-22リンク
Qwen3.8-27BSplashApple M4 Max 128GB (model not stated)102.9Same file: decode Splash 102.9 / llama.cpp 20.6 (with MTP 28.1) / Ollama 22.2; 32K prefill 332.5 / 159.5 (155.3) / 158.9; 32K cached resend 265.4 / 136.5 (134.3) / 381.7 ms; 4 concurrent total 107.1 / 25.8 (62.9) / 13.0実測2026-10-22リンク
Qwen3.8-Flash-NextEspeteroMac Studio M4 Max 128GB78.71 user oQ4e: 58.6 without MTP, 78.7 with MTP (oMLX 81.1); aggregate (separate) 8 users 170.7 (oMLX 110.0)実測2026-10-29リンク
Qwen3.8-27BMLXMac Studio M4 Max65.76native stack 65.76 tok/s (MTP depth 3); same GGUF + llama.cpp without MTP: 21.00実測2026-09-26リンク
Qwen3.8-Flash-NextoMLXMac Studio M4 Max63.38mean 63.38 tok/s; sequence 68.85, code 52.20, json 69.09実測2026-09-26リンク
Qwen3.8-27BEspeteroMac Studio M4 Max 128GB59.41 user: MLX 4-bit 30.1 without MTP, 59.4 with MTP (mlx-lm 27.5); UD-Q6_K GGUF 20.2, 47.0 with MTP (llama.cpp 19.5, 33.3 with MTP); aggregate (separate) 8 users 161 (mlx-lm 78)実測2026-10-29リンク
Qwen3.8-27B 4-bitTensorFoldMac Studio M4 Max57.4thinking off 76.7 / on 57.4 tok/s (6,071 / 11,895 tokens)実測リンク
Qwen3.8-27BoMLXMac Studio M4 Max5353 tok/s prose, 72 code, draft acceptance rate 78%実測2026-08-23リンク
Qwen3.8-27B-heretic-ara-oQ4e-mtpmlx-serveMac Studio M4 Max42code 74 / prose 42 tok/s (temp 0, thinking off)実測2026-10-03リンク
DeepSeek-V4-Flash (V4, not 4.1)ds4 (DwarfStar)Mac Studio M4 Max 128GB30~30 tok/s write; 37K prompt prefill about 2 min実測リンク
Qwen3.8-Flash-Nextllama.cppMac Studio M4 Max23.2Reasoning 22.7 / coding 23.0 / strategy 23.2 tok/s実測リンク
Qwen3.8-27B 4-bitoMLXMac M4 MaxNumeric 154 / 146 / 146; story 51 / 53 / 54; draft off averages 29–31実測リンク
Qwen3.8-Flash-Next未指定Mac M4 Max / M2 Ultra45 / 25 tok/s実測リンク
Qwen3.8-27BMLXMac Studio M4 Maxcode 74.1; prose 52.8実測リンク
Qwen3.8-Flash-NextoMLXMac M4 Max 128GB83Best 83 tok/s; 4 streams total 224伝聞リンク
Qwen3.8-Flash-Next-MLX-Serve-mixed-4mlx-serveMac Studio/MBP M4 Max 128GB6060.0 tok/s decode; 730.0 tok/s prefill主張2026-08-27リンク
Qwen3.8-27BTensorFoldMac Studio M4 Max57.2DFlash2: code 99.4 / prose 57.2 (24.9 without draft). tok_s uses prose 57.2主張2026-11-05リンク
Qwen3.8-27B / Flash-Next / 35B-A3BMLXMac Studio M4 Max 128GB27B 70; Flash-Next 83; 35B-A3B 239 tok/s; 27B 4 streams total 119 (old version 72)伝聞リンク
FastH3 TrimMLXMac M4 Max 36GB480p 5s: 925.2 s (V2 not listed)公式リンク
FastH3 Preview (4 steps)MLXMac M4 Max 36GB832×480×124 frames: cold start 465–504 s; INT6 456 s (peak 19.5GiB)公式2026-09-02リンク

数値は各出典のものです。本プロジェクトでは再計測していません。行ごとにモデルと設定が異なります。出典レベル:公式 = プロジェクトまたはベンダー、実測 = 投稿者が実行(エンジンまたはレシピの作者は生データと再現手順も公開する)、伝聞 = 二次情報、主張 = 予測または再現手順なし。