AMD Strix Halo (Ryzen AI Max+ 395) 相关配置:本地推理速度(tok/s),均有出处
截至 2026-11-14,本数据集中 AMD Strix Halo (Ryzen AI Max+ 395) 有 26 条配方,其中发帖人实测 10 条。单机单流文字最快实测:78 tok/s,模型 LFM3-1.7B,引擎 llama.cpp(AMD Strix Halo iGPU;实测;2026-11-01;来源)。其中 20 条有日期,从 2026-08-26 到 2026-11-09。
| 模型 | 引擎 | 硬件 | tok/s | 指标 | 来源等级 | 日期 | 来源 |
|---|---|---|---|---|---|---|---|
| LFM3-1.7B | llama.cpp | AMD Strix Halo iGPU | 78 | ROCm:decode 约 78,预填 4.1K;7900 XTX + 7900 XT 张量切分 约 151 / 约 7.1K | 实测 | 2026-11-01 | 链接 |
| Qwen3.8-Flash-Next | Halogen | AMD Radeon 8060S 核显(Strix Halo,128GB 统一内存) | 66 | Halogen 0.18.22,44 个 agent 轮次:decode 平均 66,峰值 89;冷预填 1,135;提示缓存命中 99.4%;上下文平均约 91K;MTP 每轮 3.5 token | 实测 | 2026-11-03 | 链接 |
| Qwen3.8-Flash-Next | llama.cpp (vahpetr fork) | AMD Strix Halo 128GB(Ryzen AI Max+ 395,Vulkan) | 61 | 空上下文 61 t/s,524K 45,1M 35.5;prefill 8K 550 / 213K ~420;1M 上下文占 102.7 GiB(同机 stock llama.cpp ~24–27) | 实测 | 2026-10-10 | 链接 |
| Qwen3.8-Flash-Next | Strata | AMD Strix Halo 395 | 47.7 | 8K 提示/128 输出:47.7 tok/s 解码,699 tok/s prefill,TTFT 11.8 s(halogen 0.17.2:34.3 / 1,573;llama.cpp HIP:23.2 / 466) | 实测 | 2026-10-08 | 链接 |
| Qwen3.8-Flash-Next | Halogen | Strix Halo 128GB | 38 | 38.0 tok/s 平均(旧 llama.cpp 13.9) | 实测 | 链接 | |
| Qwen3.8-Flash-Next | Halogen | AMD Strix Halo 395 | 34.3 | 34.3 tok/s 解码,1,573 tok/s prefill,TTFT 5.2 s(8K 提示) | 实测 | 2026-10-08 | 链接 |
| DeepSeek-V4.1-Flash-1017 | gufo | 1× Bosgame M5(Strix Halo,128GB) | 23.3 | greedy,HTTP 实测:深度 0 / 32K / 128K:预填 pp2048 1,077 / 993 / 700;decode 23.3 / 22.9 / 21.7;DSpark 混合文本 28.0 / 30.1 / 27.2;DSpark 重复文本(另计,偏高)65.3 / 59.6 / 55.2;聚合(另计)8 用户 78.5;改写源文件 67.6。tok_s 取深度 0 的 decode | 实测 | 2026-10-27 | 链接 |
| GLM-5.3-Flash | 未注明 | Strix Halo(Framework Desktop 395+) | 17 | 17–18 tok/s | 实测 | 链接 | |
| DeepSeek-V4.1-Flash | llama.cpp | ACEMAGIC Strix Halo 128GB(€2,300)+ 快速 SSD | 15 | >15 tok/s,峰值 31.7 | 实测 | 链接 | |
| DeepSeek-V4.1-Flash | Strata | AMD Ryzen AI Max+ 395 128GB(Strix Halo,Windows) | 15 | 代码 decode 15–21;64K 上下文预填 214–233 | 实测 | 2026-10-29 | 链接 |
| Qwen3.8-Flash-Next | Strata | Strix Halo + Radeon AI PRO R9700 | 96 | Strata 0.2.11 + Unsloth Dynamic 3.1:单流 96@4×256k 上下文。作者称相对旧量化明显更好。注:Dynamic 文件版本与其他后端不可直接比。tok_s 取 96 | 宣称 | 2026-11-06 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Project Maya | AMD Strix Halo(Ryzen AI Max+ 395,128GB)+ 2× RX 7900 XTX(OCuLink) | 82.5 | Maya-XS v2:decode 82.5;491K 提示预填 1,195.5 → 1,448.2(稀疏注意力索引器改用 RDNA3 WMMA)。Maya-S:decode 41.7,130K 预填 1,378 | 宣称 | 2026-11-03 | 链接 |
| Qwen3.8-Flash-Next | gufo | Strix Halo(型号与内存未注明) | 73.17 | 单用户 73.17,pp 1,801;聚合(另计)8 用户 194.37;同引擎 Qwen3.8-27B Q4_K_XL + DFlash2 70.56 | 宣称 | 2026-10-26 | 链接 |
| Qwen3.8-27B | llama.cpp | AMD Strix Halo | 65.6 | 最高 65.6 tok/s 解码 | 转述 | 2026-08-26 | 链接 |
| Qwen3.8-Flash-Next | Halowin Bubo | AMD Strix Halo 笔记本(70W) | 57.1 | Bubo 0.1.2:散文 57.1,agent 66.2,代码编辑 109;32K 预填 1,639(fast mode)。同文件对照 gufo。tok_s 取散文 57.1 | 宣称 | 2026-11-05 | 链接 |
| DeepSeek-V4-Flash(V4 非 4.1) | 未注明 | Strix Halo + R9700 | 51.1 | 厂商主页 86 tok/s;独立复测 51–57(中位 51.1) | 宣称 | 链接 | |
| Qwen3.8-Flash-Next | 未注明 | AMD Strix Halo 128GB 迷你主机 | 44 | 44–59 tok/s;~1,400 PP | 转述 | 链接 | |
| Qwen3.8-Flash-Next | vLLM | AMD Strix Halo 128GB | 43 | 单流真实文本:5.6K prompt 预填 1,539 / decode 43;26.9K 1,617 / 43;100.5K 1,572 / 40。之前同配置预填 684–806,decode 约 18。对原版 KLD 0.008–0.019,GSM8K 93 对 92 | 宣称 | 2026-10-30 | 链接 |
| Qwen3.8-Flash-Next | gufo | Strix Halo laptop (gfx1151, 128GB; 96GB to GPU) + Windows 11 | 41 | gufo v0.31.0 + 5 个本地补丁(gist)。2×262144、q8_0 KV。长回复 decode 约 41(55–67K),230K 时 36–48;冷预填约 1240–1335;MTP 接受率 70–91%。无原始 results,约值,降为宣称。启动 .bat 在帖内。 | 宣称 | 2026-11-09 | 链接 |
| DeepSeek-V4.1-Flash-1017 | libosmos | AMD Strix Halo(Ryzen AI Max+ 395,128GB) | 38 | 引擎作者:带 draft 最高 38,预填 >450(Reddit 同帖写 >480)。tok_s 取 38。2026-11-09 libosmos v0.5.9:同机 Strix Halo 128GB,ud-iq1_s plain/drafted 19.5/42.5;ud-iq1_m 17.5/35.4;ud-iq2_xxs 14.4/26.5。上下文未写。drafted 42.5 高于本行最高 38,但缺上下文,不改主值。 | 宣称 | 2026-11-05 | 链接 |
| DeepSeek-V4.1-Flash-1017 | 未注明 | 2× AMD Strix Halo(USB4 互联) | 35.3 | decode 35.3;开自家投机草稿 41.9–70.6;预填约 1,100(8K–45K);聚合(另计)8 请求约 114 | 宣称 | 2026-11-02 | 链接 |
| Qwen3.6-35B-A3B | vLLM | AMD Strix Halo(Radeon 8060S,128GB 统一内存) | 32.6 | 原版 vLLM → 加 libstrix:decode 2K 17.8 → 32.6,64K 12.8 → 26.9;预填 2K 1,583 → 3,581,64K 260 → 2,617;256K prompt 预填 7,568 s → 241 s。27B bf16 decode 4.3 → 4.4(无改善) | 宣称 | 2026-10-29 | 链接 |
| Qwen3.8-Flash-Next-Gyro | llama.cpp (agentionai fork) | AMD Strix Halo | 31.7 | 31.7 tok/s 生成 | 宣称 | 2026-09-30 | 链接 |
| Laguna S 2.1 | gufo (mikealanni fork) | Ryzen AI MAX+ 395(Strix Halo) | 25.9 | decode 25.9;DFlash 代码 44–45,散文约 28;预填 1,145(GPU),1,277(GPU + NPU) | 宣称 | 2026-11-01 | 链接 |
| Comet-60B-A12B | llama.cpp | AMD Ryzen AI Max+ 395 / Radeon 8060S(Strix Halo) | 24.59 | 量化作者模型卡,llama.cpp b12223 Vulkan。主值取 llama-bench 默认参数(-fa 1,无草稿)tg128:24.59;pp512 为 466.70。llama-server --spec-type draft-mtp、greedy、短代码请求(417 生成 token)两次 36.5 / 35.9(接受率 87.5%)为代码口径,另标不作主值。server 命令未设 -c,上下文取默认,不填。无原始日志,降为宣称。 | 宣称 | 2026-11-09 | 链接 |
| Qwen3.8-27B | 未注明 | AMD R9700 32GB / Strix Halo | 159 tok/s / 64 tok/s | 转述 | 链接 |
数字来自各条来源。本项目未复测。各行的模型与设置不同。来源等级:官方 = 项目方或厂商;实测 = 发帖人亲测(引擎或配方作者须公开原始数据和复现步骤);转述 = 二手;宣称 = 预测或无复现细节。