⚡ ローカル推論レシピ

English | 简体中文 | 日本語

AMD Strix Halo (Ryzen AI Max+ 395) の構成:ローカル推論速度(tok/s)、出典付き

2026-11-14 時点で、このデータセットには AMD Strix Halo (Ryzen AI Max+ 395) のレシピが 26 件あります。投稿者実測は 10 件です。単一デバイス・シングルストリームのテキスト実測の最速は 78 tok/s(LFM3-1.7B、エンジン llama.cpp、AMD Strix Halo iGPU、実測、2026-11-01、出典)。日付のあるエントリは 20 件(2026-08-26〜2026-11-09)。

エクスプローラーで絞り込む →

モデルエンジンハードウェアtok/s指標出典レベル日付出典
LFM3-1.7Bllama.cppAMD Strix Halo iGPU78ROCm: decode about 78, prefill 4.1K; 7900 XTX + 7900 XT tensor split about 151 / about 7.1K実測2026-11-01リンク
Qwen3.8-Flash-NextHalogenAMD Radeon 8060S iGPU (Strix Halo, 128GB unified memory)66Halogen 0.18.22, 44 agent turns: decode mean 66, peak 89; cold prefill 1,135; prompt cache hits 99.4%; average context about 91K; MTP 3.5 tokens per round実測2026-11-03リンク
Qwen3.8-Flash-Nextllama.cpp (vahpetr fork)AMD Strix Halo 128GB (Ryzen AI Max+ 395, Vulkan)61Empty context 61 t/s, 524K 45, 1M 35.5; prefill 8K 550 / 213K ~420; 1M context uses 102.7 GiB (stock llama.cpp on the same machine ~24–27)実測2026-10-10リンク
Qwen3.8-Flash-NextStrataAMD Strix Halo 39547.78K prompt/128 output: 47.7 tok/s decode, 699 tok/s prefill, TTFT 11.8 s (halogen 0.17.2: 34.3 / 1,573; llama.cpp HIP: 23.2 / 466)実測2026-10-08リンク
Qwen3.8-Flash-NextHalogenStrix Halo 128GB3838.0 tok/s average (old llama.cpp 13.9)実測リンク
Qwen3.8-Flash-NextHalogenAMD Strix Halo 39534.334.3 tok/s decode, 1,573 tok/s prefill, TTFT 5.2 s (8K prompt)実測2026-10-08リンク
DeepSeek-V4.1-Flash-1017gufo1× Bosgame M5 (Strix Halo, 128GB)23.3Greedy, measured over HTTP: depth 0 / 32K / 128K: prefill pp2048 1,077 / 993 / 700; decode 23.3 / 22.9 / 21.7; DSpark on mixed text 28.0 / 30.1 / 27.2; DSpark on repetitive text (separate, reads high) 65.3 / 59.6 / 55.2; aggregate (separate) 8 users 78.5; editing a source file 67.6. tok_s is decode at depth 0実測2026-10-27リンク
GLM-5.3-Flash未指定Strix Halo (Framework Desktop 395+)1717–18 tok/s実測リンク
DeepSeek-V4.1-Flashllama.cppACEMAGIC Strix Halo 128GB (€2,300) + fast SSD15>15 tok/s, peak 31.7実測リンク
DeepSeek-V4.1-FlashStrataAMD Ryzen AI Max+ 395 128GB (Strix Halo, Windows)15Code decode 15–21; prefill 214–233 at 64K context実測2026-10-29リンク
Qwen3.8-Flash-NextStrataStrix Halo + Radeon AI PRO R970096Strata 0.2.11 + Unsloth Dynamic 3.1: single-stream 96 at 4×256k context. Author reports a clear gain vs the prior quant. Note: Dynamic file revisions are not cross-backend comparable. tok_s uses 96主張2026-11-06リンク
DeepSeek-V4.1-Flash-1017Project MayaAMD Strix Halo (Ryzen AI Max+ 395, 128GB) + 2× RX 7900 XTX (OCuLink)82.5Maya-XS v2: decode 82.5; prefill for a 491K prompt 1,195.5 → 1,448.2 (the sparse-attention indexer now uses RDNA 3 WMMA). Maya-S: decode 41.7, prefill at 130K 1,378主張2026-11-03リンク
Qwen3.8-Flash-NextgufoStrix Halo (model and memory not stated)73.17single user 73.17, pp 1,801; aggregate (separate) 8 users 194.37; Qwen3.8-27B Q4_K_XL + DFlash2 on the same engine 70.56主張2026-10-26リンク
Qwen3.8-27Bllama.cppAMD Strix Halo65.6Up to 65.6 tok/s decode伝聞2026-08-26リンク
Qwen3.8-Flash-NextHalowin BuboAMD Strix Halo laptop (70W)57.1Bubo 0.1.2: prose 57.1, agent 66.2, code edits 109; 32K prefill 1,639 (fast mode). Same file compared with gufo. tok_s uses prose 57.1主張2026-11-05リンク
DeepSeek-V4-Flash (V4, not 4.1)未指定Strix Halo + R970051.1vendor homepage 86 tok/s; independent retest 51–57 (median 51.1)主張リンク
Qwen3.8-Flash-Next未指定AMD Strix Halo 128GB mini PC4444–59 tok/s; ~1,400 PP伝聞リンク
Qwen3.8-Flash-NextvLLMAMD Strix Halo 128GB43Single stream on real text: 5.6K prompt prefill 1,539 / decode 43; 26.9K 1,617 / 43; 100.5K 1,572 / 40. Before this work, prefill 684–806 and decode about 18. KLD vs stock 0.008–0.019, GSM8K 93 vs 92主張2026-10-30リンク
Qwen3.8-Flash-NextgufoStrix Halo laptop (gfx1151, 128GB; 96GB to GPU) + Windows 1141gufo v0.31.0 plus five local patches (gist). Two sessions × 262144, q8_0 KV. Long-reply decode about 41 at 55–67K, 36–48 at 230K; cold prefill about 1240–1335; MTP acceptance 70–91%. No raw results; approximate; claim. Launch .bat in the post.主張2026-11-09リンク
DeepSeek-V4.1-Flash-1017libosmosAMD Strix Halo (Ryzen AI Max+ 395, 128GB)38Engine author: up to 38 with drafting, prefill >450 (Reddit post says >480). tok_s uses 38. 2026-11-09 libosmos v0.5.9 on the same Strix Halo 128GB: ud-iq1_s plain/drafted 19.5/42.5; ud-iq1_m 17.5/35.4; ud-iq2_xxs 14.4/26.5. Context omitted. Drafted 42.5 is above this row's peak 38, but without context the headline stays 38.主張2026-11-05リンク
DeepSeek-V4.1-Flash-1017未指定2× AMD Strix Halo (USB4 link)35.3Decode 35.3; 41.9–70.6 with their own speculative drafter; prefill about 1,100 (8K–45K); aggregate (separate) 8 requests about 114主張2026-11-02リンク
Qwen3.6-35B-A3BvLLMAMD Strix Halo (Radeon 8060S, 128GB unified memory)32.6Stock vLLM → with libstrix: decode at 2K 17.8 → 32.6, at 64K 12.8 → 26.9; prefill at 2K 1,583 → 3,581, at 64K 260 → 2,617; a 256K prompt prefill 7,568 s → 241 s. 27B bf16 decode 4.3 → 4.4 (no gain)主張2026-10-29リンク
Qwen3.8-Flash-Next-Gyrollama.cpp (agentionai fork)AMD Strix Halo31.731.7 tok/s decode主張2026-09-30リンク
Laguna S 2.1gufo (mikealanni fork)Ryzen AI MAX+ 395 (Strix Halo)25.9Decode 25.9; DFlash code 44–45, prose about 28; prefill 1,145 (GPU), 1,277 (GPU + NPU)主張2026-11-01リンク
Comet-60B-A12Bllama.cppAMD Ryzen AI Max+ 395 / Radeon 8060S (Strix Halo)24.59Quant-author model card, llama.cpp b12223 Vulkan. Headline is llama-bench default parameters (-fa 1, no draft) tg128: 24.59; pp512 is 466.70. llama-server --spec-type draft-mtp, greedy, short coding request (417 generated tokens) twice 36.5 / 35.9 (87.5% draft accept) is a code figure and is not the headline. The server command does not set -c; context is left null (defaults). No raw log; claim.主張2026-11-09リンク
Qwen3.8-27B未指定AMD R9700 32GB / Strix Halo159 tok/s / 64 tok/s伝聞リンク

数値は各出典のものです。本プロジェクトでは再計測していません。行ごとにモデルと設定が異なります。出典レベル:公式 = プロジェクトまたはベンダー、実測 = 投稿者が実行(エンジンまたはレシピの作者は生データと再現手順も公開する)、伝聞 = 二次情報、主張 = 予測または再現手順なし。