⚡ 本地推理配方

English | 简体中文 | 日本語

AMD Strix Halo (Ryzen AI Max+ 395) 相关配置:本地推理速度(tok/s),均有出处

截至 2026-11-14,本数据集中 AMD Strix Halo (Ryzen AI Max+ 395) 有 26 条配方,其中发帖人实测 10 条。单机单流文字最快实测:78 tok/s,模型 LFM3-1.7B,引擎 llama.cpp(AMD Strix Halo iGPU;实测;2026-11-01;来源)。其中 20 条有日期,从 2026-08-26 到 2026-11-09。

在配方库中筛选这些 →

模型引擎硬件tok/s指标来源等级日期来源
LFM3-1.7Bllama.cppAMD Strix Halo iGPU78ROCm:decode 约 78,预填 4.1K;7900 XTX + 7900 XT 张量切分 约 151 / 约 7.1K实测2026-11-01链接
Qwen3.8-Flash-NextHalogenAMD Radeon 8060S 核显(Strix Halo,128GB 统一内存)66Halogen 0.18.22,44 个 agent 轮次:decode 平均 66,峰值 89;冷预填 1,135;提示缓存命中 99.4%;上下文平均约 91K;MTP 每轮 3.5 token实测2026-11-03链接
Qwen3.8-Flash-Nextllama.cpp (vahpetr fork)AMD Strix Halo 128GB(Ryzen AI Max+ 395,Vulkan)61空上下文 61 t/s,524K 45,1M 35.5;prefill 8K 550 / 213K ~420;1M 上下文占 102.7 GiB(同机 stock llama.cpp ~24–27)实测2026-10-10链接
Qwen3.8-Flash-NextStrataAMD Strix Halo 39547.78K 提示/128 输出:47.7 tok/s 解码,699 tok/s prefill,TTFT 11.8 s(halogen 0.17.2:34.3 / 1,573;llama.cpp HIP:23.2 / 466)实测2026-10-08链接
Qwen3.8-Flash-NextHalogenStrix Halo 128GB3838.0 tok/s 平均(旧 llama.cpp 13.9)实测链接
Qwen3.8-Flash-NextHalogenAMD Strix Halo 39534.334.3 tok/s 解码,1,573 tok/s prefill,TTFT 5.2 s(8K 提示)实测2026-10-08链接
DeepSeek-V4.1-Flash-1017gufo1× Bosgame M5(Strix Halo,128GB)23.3greedy,HTTP 实测:深度 0 / 32K / 128K:预填 pp2048 1,077 / 993 / 700;decode 23.3 / 22.9 / 21.7;DSpark 混合文本 28.0 / 30.1 / 27.2;DSpark 重复文本(另计,偏高)65.3 / 59.6 / 55.2;聚合(另计)8 用户 78.5;改写源文件 67.6。tok_s 取深度 0 的 decode实测2026-10-27链接
GLM-5.3-Flash未注明Strix Halo(Framework Desktop 395+)1717–18 tok/s实测链接
DeepSeek-V4.1-Flashllama.cppACEMAGIC Strix Halo 128GB(€2,300)+ 快速 SSD15>15 tok/s,峰值 31.7实测链接
DeepSeek-V4.1-FlashStrataAMD Ryzen AI Max+ 395 128GB(Strix Halo,Windows)15代码 decode 15–21;64K 上下文预填 214–233实测2026-10-29链接
Qwen3.8-Flash-NextStrataStrix Halo + Radeon AI PRO R970096Strata 0.2.11 + Unsloth Dynamic 3.1:单流 96@4×256k 上下文。作者称相对旧量化明显更好。注:Dynamic 文件版本与其他后端不可直接比。tok_s 取 96宣称2026-11-06链接
DeepSeek-V4.1-Flash-1017Project MayaAMD Strix Halo(Ryzen AI Max+ 395,128GB)+ 2× RX 7900 XTX(OCuLink)82.5Maya-XS v2:decode 82.5;491K 提示预填 1,195.5 → 1,448.2(稀疏注意力索引器改用 RDNA3 WMMA)。Maya-S:decode 41.7,130K 预填 1,378宣称2026-11-03链接
Qwen3.8-Flash-NextgufoStrix Halo(型号与内存未注明)73.17单用户 73.17,pp 1,801;聚合(另计)8 用户 194.37;同引擎 Qwen3.8-27B Q4_K_XL + DFlash2 70.56宣称2026-10-26链接
Qwen3.8-27Bllama.cppAMD Strix Halo65.6最高 65.6 tok/s 解码转述2026-08-26链接
Qwen3.8-Flash-NextHalowin BuboAMD Strix Halo 笔记本(70W)57.1Bubo 0.1.2:散文 57.1,agent 66.2,代码编辑 109;32K 预填 1,639(fast mode)。同文件对照 gufo。tok_s 取散文 57.1宣称2026-11-05链接
DeepSeek-V4-Flash(V4 非 4.1)未注明Strix Halo + R970051.1厂商主页 86 tok/s;独立复测 51–57(中位 51.1)宣称链接
Qwen3.8-Flash-Next未注明AMD Strix Halo 128GB 迷你主机4444–59 tok/s;~1,400 PP转述链接
Qwen3.8-Flash-NextvLLMAMD Strix Halo 128GB43单流真实文本:5.6K prompt 预填 1,539 / decode 43;26.9K 1,617 / 43;100.5K 1,572 / 40。之前同配置预填 684–806,decode 约 18。对原版 KLD 0.008–0.019,GSM8K 93 对 92宣称2026-10-30链接
Qwen3.8-Flash-NextgufoStrix Halo laptop (gfx1151, 128GB; 96GB to GPU) + Windows 1141gufo v0.31.0 + 5 个本地补丁(gist)。2×262144、q8_0 KV。长回复 decode 约 41(55–67K),230K 时 36–48;冷预填约 1240–1335;MTP 接受率 70–91%。无原始 results,约值,降为宣称。启动 .bat 在帖内。宣称2026-11-09链接
DeepSeek-V4.1-Flash-1017libosmosAMD Strix Halo(Ryzen AI Max+ 395,128GB)38引擎作者:带 draft 最高 38,预填 >450(Reddit 同帖写 >480)。tok_s 取 38。2026-11-09 libosmos v0.5.9:同机 Strix Halo 128GB,ud-iq1_s plain/drafted 19.5/42.5;ud-iq1_m 17.5/35.4;ud-iq2_xxs 14.4/26.5。上下文未写。drafted 42.5 高于本行最高 38,但缺上下文,不改主值。宣称2026-11-05链接
DeepSeek-V4.1-Flash-1017未注明2× AMD Strix Halo(USB4 互联)35.3decode 35.3;开自家投机草稿 41.9–70.6;预填约 1,100(8K–45K);聚合(另计)8 请求约 114宣称2026-11-02链接
Qwen3.6-35B-A3BvLLMAMD Strix Halo(Radeon 8060S,128GB 统一内存)32.6原版 vLLM → 加 libstrix:decode 2K 17.8 → 32.6,64K 12.8 → 26.9;预填 2K 1,583 → 3,581,64K 260 → 2,617;256K prompt 预填 7,568 s → 241 s。27B bf16 decode 4.3 → 4.4(无改善)宣称2026-10-29链接
Qwen3.8-Flash-Next-Gyrollama.cpp (agentionai fork)AMD Strix Halo31.731.7 tok/s 生成宣称2026-09-30链接
Laguna S 2.1gufo (mikealanni fork)Ryzen AI MAX+ 395(Strix Halo)25.9decode 25.9;DFlash 代码 44–45,散文约 28;预填 1,145(GPU),1,277(GPU + NPU)宣称2026-11-01链接
Comet-60B-A12Bllama.cppAMD Ryzen AI Max+ 395 / Radeon 8060S(Strix Halo)24.59量化作者模型卡,llama.cpp b12223 Vulkan。主值取 llama-bench 默认参数(-fa 1,无草稿)tg128:24.59;pp512 为 466.70。llama-server --spec-type draft-mtp、greedy、短代码请求(417 生成 token)两次 36.5 / 35.9(接受率 87.5%)为代码口径,另标不作主值。server 命令未设 -c,上下文取默认,不填。无原始日志,降为宣称。宣称2026-11-09链接
Qwen3.8-27B未注明AMD R9700 32GB / Strix Halo159 tok/s / 64 tok/s转述链接

数字来自各条来源。本项目未复测。各行的模型与设置不同。来源等级:官方 = 项目方或厂商;实测 = 发帖人亲测(引擎或配方作者须公开原始数据和复现步骤);转述 = 二手;宣称 = 预测或无复现细节。