AMD Radeon (RX 7900 / R9700) 相关配置:本地推理速度(tok/s),均有出处
截至 2026-11-14,本数据集中 AMD Radeon (RX 7900 / R9700) 有 69 条配方,其中发帖人实测 40 条。单机单流文字最快实测:109.9 tok/s,模型 Qwen3.8-Flash-Next,引擎 Strata(1× Radeon AI PRO R9700 32GB + Ryzen 7 7800X3D + 128GB DDR5;实测;2026-11-02;来源)。其中 62 条有日期,从 2026-09-30 到 2026-11-13。
| 模型 | 引擎 | 硬件 | tok/s | 指标 | 来源等级 | 日期 | 来源 |
|---|---|---|---|---|---|---|---|
| Qwen3.8-Flash-Next | Radiance | 4× Radeon AI PRO R9700 32GB(PCIe5 x16,每卡限 211W)+ 122GB RAM | 236 | Radiance 1.11.0 TP4:单流 236(思考开 4,096 token 197);聚合(另计,思考关、512 token、整批墙钟)c2 371 / c4 591 / c8 890 / c16 1,192;预填约 8.4K。2026-11-09 Anarchaotic:同组合 Radiance v1.17.0 + 4×R9700(210W)+ 同 fp8-iq4r 包,塔式 Phanteks Enthoo Pro 2 Server / EPYC 7402P / ROMED8-2T / 128GB DDR4,约 $16K CAD。单用户 32K 冷 turn1 写速 195(64K/128K 185/189)。与本行 1.11.0 的 236 同引擎×硬件×模型×量化,作版本/主机备注,不改主值、不另开行。 | 实测 | 2026-10-24 | 链接 |
| Qwen3.8-Flash-Next | Radiance (fork) | 2× AMD R9700 32GB + 64GB DDR5 | 176 | 解码 176 tok/s,prefill 6,450 tok/s(BetterBench 截图);同一硬件的 R0 重校准容器(每卡 240W)约 160,见 comm-071 | 实测 | 2026-10-15 | 链接 |
| Qwen3.8-Flash-Next | Radiance (fork) | 2× AMD R9700 32GB(每卡限 240W) | 160 | 1 用户约 160;8 用户不同提示合计 471;Radiance 原版约 155;17–29K 读入 5,900–6,000 | 实测 | 2026-10-23 | 链接 |
| Qwen3.8-27B | SGLang | 2× Radeon AI PRO R9700 32GB(235W 上限)+ Threadripper 9960X + 64GB(Arch,K3s) | 135.1 | SGLang 0.5.23.post957 @fcb32746 + 本地 27 补丁(PyTorch 2.16.0a0,ROCm 10.3.0-dev / HIP 7.18)。共享档(UQS)BetterBench 单路 output decode 135.1 作主值;资格记录公开写出该数。配置的每路上下文上限是 81,888,不是 KV 池 163,840。2 路合计 224.8,不作单流主值。交互聊天探针约 86 是另一负载,另标。11-11 未写版本的 C1 约 139(135–145)只作备注,不改主值。配方仓库与资格 JSON 公开。 | 实测 | 2026-11-11 | 链接 |
| Qwen3.8-Flash-Next | SGLang | 2× AMD R9700 32GB | 130.6 | 顺序 130.6;1/2/4/8 并发合计 147.3 / 238.2 / 268.9 / 374.9;ROCm TP=2 自定义 kernel | 实测 | 2026-10-23 | 链接 |
| Qwen3.8-Flash-Next | Strata | 1× Radeon AI PRO R9700 32GB + Ryzen 7 7800X3D + 128GB DDR5 | 109.9 | 32K 矩阵测试:生成 109.9,提示 2,321.5;短计数任务 146.0;12 个任务加权 119.37,12/12 通过 | 实测 | 2026-11-02 | 链接 |
| Qwen3.8-Flash-Next | Strata | AMD Radeon AI PRO R9700 | 100 | 解码 ~100 tok/s,峰值 128(PR 前 58);prefill ~1,800;TTFT 5.5 s @8.7K | 实测 | 2026-09-30 | 链接 |
| Qwen3.8-Flash-Next | Strata | AMD Radeon PRO W7800 48GB + RX 7900 XTX 24GB + Ryzen 5 7600 + 64GB DDR5-6400 | 88.9 | 默认安装解码 71.5;开 SPLIT_OVERLAP+decode 开关后 88.9(输出逐字相同);再开 PF_FUSED+PF_GEMM 仍 88.9,28K prefill 1,155→2,012(摘要略变,数学基准仍 20/20);双客户端合计增益仅约 5% | 实测 | 2026-10-19 | 链接 |
| Qwen3.8-27B | llama.cpp | 1× RX 7900 XTX 24GB eGPU(PCIe 3.0 x4,291W)+ Ryzen 3 3250U 笔记本(2 核 / 4 线程)+ 9GB RAM(Mesa RADV) | 87.4 | 窗口外补录(测于 2026-10-19,11-11 发帖;今次 Jebbyk1 写明同 fork 提交 370042c,仓库 BENCHMARKS.md 则写明本次测量构建为 8a0b44bdd)。叉作者第一手。配置 -c 220000。16K 提示 decode 87.4(原始 87.43)作主值;32K 88.8 / 128K 69.1 / 200K 66.2 另标。命令、方法与 docs/rdna3/results/ 原始 json 公开。主机是弱规格笔记本经 PCIe 3.0 x4 接 eGPU,不是桌面 x16。 | 实测 | 2026-10-19 | 链接 |
| Qwen3.8-27B | llama.cpp | AMD RX 7900 XTX | 85.4 | 41.0 → 85.4 tok/s(Linux ROCm 36.3→62.6) | 实测 | 链接 | |
| Qwen3.8-Flash-Next | Strata | 1× Radeon AI PRO R9700 32GB | 85 | Strata 0.1.44:UD-Q4_K_XL 故事 63,代码 85–88;Q8_0 故事 53–57,代码 66–74;同机 llama.cpp 16–20。tok_s 取代码下限 | 实测 | 2026-11-01 | 链接 |
| Qwen3.8-Flash-Next Abliterated | Strata | RX 7900 XTX 24GB + 96GB DDR5-6400 + Ryzen 9 9950X(PCIe 4.0 x16,Linux) | 82.5 | 短提示(1,457 token)解码 82.5 tok/s(3 次中位)、prefill 521;98K:prefill 1,809.5 / 解码 77.4;260K(单次):prefill 1,479.6 / 解码 79.9;--pcie-frac 0.5 时解码降至 48.6 | 实测 | 2026-10-18 | 链接 |
| DeepSeek-V4.1-Flash-1017 | 未注明 | 2× Radeon AI PRO R9700 32GB + 128GB RAM | 82 | 缓存热起来后约 82–91,作者说是实际使用场景,不是简单基准。帖子没写引擎 | 实测 | 2026-11-03 | 链接 |
| Qwen3.8-Flash-Next | Strata | 1× RX 7900 XTX 24GB + Ryzen 9 3900X + 31GB RAM(Linux / ROCm 7.2.4) | 80.3 | Strata engine 0.1.57 HIP 预编译包,quick suite(非标准协议):chat decode 中位 80.3;预填 4K/16K/32K 1,051 / 1,385 / 1,381;needle 6/6@32k+128k。功耗上限从 261W 提到 321W(主要影响预填)。tok_s 取 chat 80.3。同作者同Linux/31.2GiB主机的Gyro-M TQ2_0变体,engine0.1.57、131072上限:chat75.0,4K/16K/32K预填1184/1566/1549(github.com/Niko1221/Strata/pull/5584)。自定义pack revision未知,预协议warm server;功率上限261变321W,不把预填差别都归因量化。保留IQ2_XS80.3;不挂到Windows/64GB的comm-286。 | 实测 | 2026-11-06 | 链接 |
| Qwen3.8-27B | Paiton | 1× Radeon AI PRO R9700 32GB + 64GB DDR5 迷你主机 | 80 | 单流 prose 约 80–140,代码 170–190;聚合(另计)多人约 100–140。2026-11-07 release qwen38-rocm10-vllm029-20261107-r2:新 3-bit 权重单请求 decode 165(旧权重 162);4/8 请求多路合计 355/530,不作单流主值。本行 prose 主值 80 不变。 | 实测 | 2026-10-29 | 链接 |
| Qwen3.8-27B | Radiance | 1× Radeon AI PRO R9700 32GB | 79.6 | 解码中位 79.6(1.12.0)/79.5(加 PR #255);8 条约 500 token 回复 | 实测 | 2026-10-26 | 链接 |
| Swift-1.5 | Strata | 1× RX 7900 XTX 24GB + Ryzen 9 5900X + 62.7GiB RAM(Debian 13) | 79.5 | Strata engine 0.1.59 官方 0.1.59-linux-x86_64-hip-rx7900 组件(自带 HIP 栈,不加载系统 ROCm 10.1)。标准协议 custom 轨,n=3 中位 decode 79.5–81.4,tok_s 取下端 79.5。预填 4K/16K 1306.3/2942.1。2 槽,上下文 262,144。21/21,sanity 12/12。Swift-1.5 为 Qwen3.8-Flash-Next 衍生。CPU/内存来自 PR 内 README,不是 runner 探针。后继 #5695 已被作者撤回,不采用。results.json 公开。 | 实测 | 2026-11-10 | 链接 |
| DeepSeek-V4-Flash (0731) | affinity | Threadripper PRO 9955WX + 128GB + 4× Radeon AI PRO R9700 | 79 | greedy 解码 79 tok/s(temp 1.0 为 63;thinking chat 约 90) | 实测 | 2026-10-16 | 链接 |
| Qwen3.8-Flash-Next | Strata | 1× Radeon AI PRO R9700 32GB + 1× RX 6800 XT 16GB(跨架构双卡)+ Ryzen 7 7700X + 48GB RAM(Windows 11) | 77.2 | thinking 开。自编多架构 HIP engine 0.1.57(508227b5,setup PR #4883),不是官方发行包可直接跑的跨架构切分。decode 短/4K/16K 77.2 / 68.4 / 71.8(n=9 中位);预填 4K/16K 696.3 / 1,314.9;三次冷启动。tok_s 取短 decode 77.2。2026-11-08另测UD-IQ4_XS V3.1 rev814db05,engine0.1.58自编跨架构HIP,含#5562必需修复与#4883 setup;短/4K/16K decode56.6/58.1/60.2(github.com/Niko1221/Strata/pull/5565)。与本行旧UD-IQ3_XXS 77.2不同量化,不是倒退;不改主值。stock发布包不能同时启动gfx1030与gfx1201。 | 实测 | 2026-11-07 | 链接 |
| Qwen3.8-Flash-Next | Strata | AMD Radeon AI PRO R9700 32GB(模型部分卸载到系统内存;内存容量未注明) | 75.56 | ELYZA 30 题 decode 平均 75.56(最高 96)/ prefill 约 300;Coding Hard 15 题 decode 平均 77.57 / prefill 196;45 题全部完成 | 实测 | 2026-10-21 | 链接 |
| Qwen3.8-Flash-Next | Strata | 1× RX 7900 XTX 24GB + Ryzen 7 9800X3D + 91.7GiB RAM(Arch Linux) | 69.6 | Strata engine 0.1.58 本地 HIP gfx1100 构建(commit 78362ebc)。tools/strata_bench.py 快速测速(非标准协议,thinking off、温度 0),short chat 中位 69.6(59.1–77.1),波动较大。预填 4K/16K 1684.5/1902.7;agent 跟进 84.8。int8 KV,kv-resident 32768,MTP spec 4,上下文 262,144。results.json 与引擎日志节选在 PR 中公开。 | 实测 | 2026-11-08 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Project Maya | 2× RX 7900 XTX 24GB TP2(各 PCIe 4.0 x4,−100mV、350W 上限)+ Ryzen AI Max+ 395 128GB(8060S 作 helper) | 69.4 | Project Maya v1.1.56(22fc101f)+ 开放 PR #867/#904/#945/#967/#968(tag maya-ds4-exl3-1m-20261112 = 3c4e104)。公开可达提交视为版本。--bench 两次加载 decode 均为 69.4,作主值。配置 --max-context 1048576,DSpark on。长提示 64-token 复制检索最高 85.8 是 structured task,不作单流主值。#967 helper 求和与卡上不逐位一致(作者自注)。同机旧值:2026-11-07 v1.1.56 + PR #867/#904(配方 f5aa4cb,量化 rev 9183eaa),--bench 散文解码 59.6,预填 1,656@160K、651.5@8K,130K 代码 50.3;64-token 复制检索峰值 79.2 / 1.04M 时 67.4 是结构化任务,不作主值(https://github.com/mw00/project-maya/issues/905 )。同一 issue #969 中 v1.1.56 单独构建(#871 旧原版配方)解码 49.8。有 --bench 表与配方。 | 实测 | 2026-11-12 | 链接 |
| Qwen3.8-Flash-Next | Strata | 1× RX 7900 XTX 24GB via OCuLink PCIe4.0 x4 eGPU + UGREEN iDX6011 Pro NAS (Core Ultra 7 255H, 64GB LPDDR5X) | 63.6 | Strata 0.2.12,engine 0.1.58 hip-rx7900(SHA 校验)。standard-v1 package short decode 63.6;预填 4K/16K 788.4/1201.7;strata_bench chat/agent 68.1/73.2。int8 KV,kv-resident 32768,MTP spec4。21/21,sanity 12/12。原始数据在 faf-net/ugreen-idx6011-egpu-llm。调优 DFlash2 固定测 92.6(代码偏重且 114 题仅 51 题与 MTP 输出一致)不作主值。2026-11-09同作者同机复测 Strata 0.2.13 Linux Docker 镜像(engine 0.1.59 hip-rx7900,SHA 校验):默认 short decode 61.9;STRATA_HIPBLASLT_TABLE=on 为 67.4(预填 16K 1,192.5,与 0.2.12 持平)。无 gfx1100 表时 16K 预填慢约 35%(769.2 vs 1,185.8)。旧 63.6 在 ±5% 内,不改主值。原始数据在 faf-net/ugreen-idx6011-egpu-llm。 | 实测 | 2026-11-08 | 链接 |
| Qwen3.8-Flash-Next | Strata | 1× RX 7900 XTX 24GB + Ryzen 9 3900X + 64GB RAM(Windows) | 61.8 | Strata engine 0.1.58(Windows):decode 短/4K/16K 61.8 / 58.7 / 57.5;预填 993 / 1,247。三次冷启动、每案 9 次请求。与 comm-276(Linux、IQ2_XS、同一 7900 XTX 卡族、作者 jkuczera、80.3)不是同量化对拍,不覆盖 80.3。tok_s 取短 decode 61.8 | 实测 | 2026-11-07 | 链接 |
| Qwen3.8-27B | Radiance | 1× Radeon AI PRO R9700 32GB | 61.6 | Radiance 1.12.0,tp1,fp8 KV:decode 冷 / 热 61.6 / 61.8(1.8.1 为 60.1 / 60.2);预填 190K 1,205;短提示(约 1.5K)预填从 1.8.1 的 548 降到 411(−25%,issue #225 报告的回归) | 实测 | 2026-10-25 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Project Maya | 2× RX 7900 XTX 24GB TP2(各 PCIe 4.0 x4,−100mV、350W 上限)+ Ryzen AI Max+ 395 128GB(8060S 作 helper) | 60.1 | 与 comm-366 同机同 issue 的 --bench 表,v1.1.56,无额外 PR。GSQ-RCO IQ2_XS decode 60.1,KL 0.227。配置 1,048,576。量化不同,单列。 | 实测 | 2026-11-12 | 链接 |
| Qwen3.8-Flash-Next | Strata | RX 7900 XT 20GB + Ryzen 7 9800X3D + 62GiB RAM(Linux) | 56.8 | Strata 0.2.7(engine 0.1.52,rx7900 包),standard draft:短 56.8 / 4K 54.3 / 16K 59.2;预填 4K 926.5 / 16K 1,091.7 | 实测 | 2026-10-28 | 链接 |
| Qwen3.8-27B | llama.cpp | AMD RX 7900 XTX 24GB | 47.9 | AIME + LiveCodeBench 长生成平均 47.9 tok/s(1.34M token / 7.8 h) | 实测 | 2026-10-15 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Project Maya | 1× RX 7900 XTX 24GB (Radeon 8060S helper) + Ryzen AI Max+ 395 + 128GB RAM | 45.6 | Maya 1.1.56(22fc101f)+#904,build f5aa4cb。仅一张XTX,PCIe4 x4;Ryzen AI Max+395的Radeon8060S充当helper,128GB共享内存、113GB helper池记在此处。--bench散文decode45.6,stock43.3;上下文上限1048576,bench输入2K/8K。64-token检索峰55.7与1.04M时51.1仅为结构化任务,不作主值。约29GB专家仍在文件,短提示固定I/O约16秒。与comm-366双XTX不同。 | 实测 | 2026-11-07 | 链接 |
| GLM-5.3-Flash Maya-S | Project Maya | 2× Radeon AI PRO R9700 32GB + i5-13500 + 96GB DDR5(Ubuntu 24.04) | 45.2 | Maya v1.1.57,./maya.sh --bench。decode 三次作答均值 45.2(44.1/46.0/45.4,greedy,思考关,各至多 256 token)。8K 提示预填 848。上下文 131072。maya-report.txt 附于 issue。 | 实测 | 2026-11-10 | 链接 |
| Qwen3.8-Flash-Next | Strata | 2× RX 7900 XT 20GB + Ryzen 9 3900X(Windows) | 41.2 | Windows HIP engine 0.1.48:短对话 decode 41.2;agent 会话 54.0;预填 32K 886;限定:Strata 0.2.10 起 Auto 默认改用 DFlash2;双卡 decode 可能弱于 MTP 或弱于单卡(Strata #5206 双 4060 Ti 上 DFlash2≈MTP;#5172 双 RX 9070 比单卡慢 10–50%) | 实测 | 2026-11-01 | 链接 |
| Qwen3.8-Flash-Next | llama.cpp | 2× Radeon AI PRO R9700 32GB(PCIe 5.0 x8)+ Ryzen 9 9950X | 37.76 | llama-bench(b11804,ROCm 7.2.1,-sm layer -fa 1):tg128 37.76,pp512 1,418.85。--n-cpu-moe 6/12/24:tg 32.96 / 29.80 / 26.03,每层专家约 1.1 GiB 显存 | 实测 | 2026-10-31 | 链接 |
| DeepSeek-V4-Flash (0731) | affinity | Threadripper PRO 9955WX + 128GB + 2× Radeon AI PRO R9700 | 36 | 解码 36 tok/s(约 45% 专家在显存,其余自 51GB pinned host 池流式卸载) | 实测 | 2026-10-16 | 链接 |
| GLM-5.3-Flash | Project Maya | R9700 + RX 7900 XT 双卡 | 34 | ~34 tok/s 解码;~490 PP | 实测 | 链接 | |
| GLM-5.3-Flash | Project Maya | AMD R9700 32GB 单卡(+系统内存) | 28 | 解码 ~28 tok/s;PP ~800 | 实测 | 链接 | |
| Ornith-1.5-122B | Strata | RX 7900 XTX 24GB + i7-7700K + 32GB DDR4-2133(PCIe 3.0,NVMe) | 22 | 真实代码输出 decode 约 22(21–25);8.9K 提示预填 407(22 秒);9K 上下文时 decode 12.2。专家按编程任务记录的使用频率分层:显存、内存 18GB、SSD | 实测 | 2026-10-27 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | Radeon AI PRO R9700 32GB + RX 9070 XT 16GB | 13 | 生成 10.1–15.7(均值 13.0);prompt 处理 18.0;ELYZA 10 题 + 难题 5 题 | 实测 | 2026-10-28 | 链接 |
| Ling-3.1-flash-1019 | ExLlama | 1× Radeon AI PRO R9700 32GB + 192GB RAM | 12.07 | 8K 代码 prompt:decode 12.07 | 实测 | 2026-10-28 | 链接 |
| DeepSeek-V4.1-Flash | Strata | 1× AMD RX 7900 XTX 24GB | 10 | 短对话 decode 10.0(8.0–12.3);agent 追问 14.3;预填 4K 164.6 / 16K 282.3 / 32K 252.7;1,896 个专家在显存,其余经 PCIe 读 | 实测 | 2026-10-31 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | Radeon AI PRO R9700 32GB(PCIe 5.0 x16)+ RX 7900 XTX 24GB(PCIe 3.0 x1)+ Ryzen 5 7600X + 62GB DDR5 + Kingston NV3 2TB(Ubuntu 24.04) | 8.29 | 短提示(54 token,256 新 token)解码,DSpark 关(与 comm-079/080/082 同口径):--ssd-cache 32 两次 8.85 / 7.72,tok_s 取中值 8.29;发布默认 6.27;另开 DSpark(--dspark-conf 0.65)三次 9.82–9.94;提示读入约 2;思考关、贪心解码,数字取引擎自身 decode 行 | 实测 | 2026-10-24 | 链接 |
| Gemma 4 31B | Radiance | 4× Radeon AI PRO R9700 32GB | 445.8 | 1 用户 445.8(main chain 352.2);聚合(另计)2/4/8/16 用户 376.4/553.4/727.0/869.7/965.3 区间;PR 未合并,数字只作宣称 | 宣称 | 2026-10-25 | 链接 |
| Gemma 4 31B | Radiance | 4× Radeon AI PRO R9700 32GB | 377.7 | 1 用户 377.7(main chain 352.2,+7.2%);聚合(另计)16 用户 959.6;PR 未合并,数字只作宣称 | 宣称 | 2026-10-25 | 链接 |
| Qwen3.8-Flash-Next | Strata | 4× Radeon AI PRO R9700 32GB | 158 | Strata 0.2.10 发布说明,UD-Q4_K_XL,全卡 split 引擎默认开启:1 用户 158(layer split 98);聚合(另计)8 请求 350(243);103K 提示 33 秒。IQ3_S 仍用 layer split:105,8 请求 318。社区复现 4× R9700 + 256GB RAM 约 70 → 140–160,预填约 3,200(reddit 1xmisvg,u/poofph)。旧值:0.2.8 为 67 | 官方 | 2026-11-03 | 链接 |
| Qwen3.8-27B | vLLM | 1× Radeon AI PRO R9700 32GB(300W,−50mV) | 154.4 | vllm-sly-radiance 1.8.1(ROCm 10.1),BetterBench 0.4.0:单流加权 154.4(code 186.5 / json 210.8 / prose 90.5);预填 1.5K 3,927 / 47K 3,370;聚合(另计)c8 480 / c16 512。权重是 abliterated(heretic)微调版 | 官方 | 2026-10-25 | 链接 |
| Qwen3.8-Flash-Next | Strata (Strata-rdna3 fork) | 2× RX 7900 XTX 24GB | 127 | 双卡散文 127(Q4);预填 7,000+。单卡见 comm-262;限定:Strata 0.2.10 起 Auto 默认改用 DFlash2;双卡 decode 可能弱于 MTP 或弱于单卡(Strata #5206 双 4060 Ti 上 DFlash2≈MTP;#5172 双 RX 9070 比单卡慢 10–50%) | 宣称 | 2026-11-05 | 链接 |
| Qwen3.8-27B | Radiance | 1× Radeon AI PRO R9700 32GB | 100.2 | Radiance m2xfp 分支,BetterBench 0.6.1,32K、fp8 KV:单流 8 类均值 100.2(code 95.8 / math 136.4 / chat 66.1);预填 2K 2,424 / 32K 2,651;聚合(另计)8× 362.1。模型卡标题写 83,以表格为准 | 官方 | 2026-10-25 | 链接 |
| Qwen3.8-27B | llama.cpp | 1× RX 7900 XTX 24GB + Ryzen 5 5600G(iGPU 跑桌面)+ 32GB DDR4-2400 | 97 | vansh-visariya/rx7900-xtx(llama.cpp 0.4.1-dev build 65,作者明写 commit 370042c;基于 LM Studio 2.43.0 / f95b0d953,Vulkan)。decode 约 97–110,取下限 97 作主值;代码输出尖峰 130–150 另标。预填约 890–1015。配置 --ctx-size 161785,q8_0 KV,DFlash2。完整启动命令在帖内。无原始逐次记录,降为宣称。与 comm-370(叉作者、eGPU 笔记本主机、UD-Q4_K_M、测量提交 8a0b44bdd)不同,单列。 | 宣称 | 2026-11-12 | 链接 |
| Qwen3.8-Flash-Next | Strata | Strix Halo + Radeon AI PRO R9700 | 96 | Strata 0.2.11 + Unsloth Dynamic 3.1:单流 96@4×256k 上下文。作者称相对旧量化明显更好。注:Dynamic 文件版本与其他后端不可直接比。tok_s 取 96 | 宣称 | 2026-11-06 | 链接 |
| Qwen3.8-Flash-Next | Strata | 2× RX 7900 XTX 24GB(各 PCIe 4.0 x8)+ Ryzen 7 5800X + 64GB DDR4(ROCm 7.2.4,Linux) | 92 | Strata-rdna3 fork fa5c621(nicejunjie,TP2)。同一作者同机同方法:112 / 3.5K / 32K 提示,512 生成,每档 3 次中位。主值取 112-token 提示。decode 中位 92 / 104 / 99,主值 92。64GB 下需 --resident-budget-gib 24。agent 运行中约 47K token 处两次出现 non-finite logits(#879),已写明。上下文未写,不填。有对照表,无原始逐次文件,降为宣称。 | 宣称 | 2026-11-12 | 链接 |
| Qwen3.8-Flash-Next | Avalon | 1× RX 7900 XTX 24GB(整机另有一张同型号空闲)+ Ryzen 7 5800X + 64GB DDR4(ROCm 7.2.4,Linux) | 89 | Avalon 8c4e4753c,单卡。同一作者同机同方法:112 / 3.5K / 32K 提示,512 生成,每档 3 次中位。主值取 112-token 提示。decode 中位 89 / 98 / 88,主值 89。当前 main 26a215567 在 32K 提示崩溃(作者已报上游),不收作主值。上下文未写,不填。降为宣称。 | 宣称 | 2026-11-12 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 4× Radeon AI PRO R9700 32GB + 251GB RAM | 84.7 | code 76.6/77.0→84.7/84.7,agent 74.2→83.3(0.2.5→0.2.6);RAM 须容下全部 CPU 侧专家并余 8GiB;0.2.4 旧值(2026-10-24,strata-dsv41 0.1.49,IQ2_XXS 2.00bpw GGUF,https://github.com/Niko1221/Strata/releases/tag/v0.2.4 ):输出约 31,提示读入 8K 约 505、32K 约 818。限定:0.2.4 开 DSpark 时输出 55–69,不作主值 | 官方 | 2026-10-25 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Project Maya | AMD Strix Halo(Ryzen AI Max+ 395,128GB)+ 2× RX 7900 XTX(OCuLink) | 82.5 | Maya-XS v2:decode 82.5;491K 提示预填 1,195.5 → 1,448.2(稀疏注意力索引器改用 RDNA3 WMMA)。Maya-S:decode 41.7,130K 预填 1,378 | 宣称 | 2026-11-03 | 链接 |
| Qwen3.8-Flash-Next | Strata (Strata-rdna3 fork) | 1× RX 7900 XTX 24GB | 81 | Strata-rdna3 fork(github.com/nicejunjie/Strata-rdna3,58★):散文最高 81,代码再高 20–25%;预填 3,500+。双卡见 comm-263 | 宣称 | 2026-11-05 | 链接 |
| Qwen3.8-Flash-Next | Strata | 2× RX 7900 XTX 24GB(各 PCIe 4.0 x8)+ Ryzen 7 5800X + 64GB DDR4(ROCm 7.2.4,Linux) | 75 | 上游 Strata 双卡,量化与硬件相同,0.2.11(76)与 0.2.13.1(75)合为一条;主值取当前 0.2.13.1 的 75(3.5K 88 / 32K 75 另标)。同机 0.2.11 为 76(3.5K 83 / 32K 82),作者称与 0.2.13.1 在往返噪声内。上下文未写,不填。降为宣称。 | 宣称 | 2026-11-12 | 链接 |
| Qwen3.8-27B | Radiance | 1× Radeon AI PRO R9700 32GB + Ryzen 5 7600(Windows 11 26200 + WSL2,Adrenalin 26.10.1) | 75 | Radiance 1.17.0,按上游源码与 Dockerfile 构建,加 bruns20/radiance-wsl 的 4 个 WSL 补丁(非官方;补丁仓库未钉 commit),ROCm 10.3 nightly 运行时。131K 上下文。decode prose 约 75–80,取下限 75;code 145–160 另标;读入 9.4K/36K 为 3,223/2,784;约 8 s 开始服务。Linux 原生 Radiance 见 comm-101。无原始日志,记为宣称。补丁 https://github.com/bruns20/radiance-wsl | 宣称 | 2026-11-13 | 链接 |
| Qwen3.8-Flash-Next | Strata | 1× Radeon AI PRO R9700 32GB + Ryzen 9 9900X + 64GB RAM | 72.9 | engine 0.1.59.1 HIP,本机构建自 dbb2d168。strata_bench 默认套件,思考关,温度 0。等槽位扫(9,117 slots)中,代码默认 DFlash2(conf 0.5,--spec 6)短对话 72.9 作主值;MTP 基线 --spec 4 为 70.8,复测 67.9(作者称 4.1% 属噪声,不以首次 70.8 作主值);conf 0.5 + --spec 8 为 74.5 另标。上下文 262,144,--kv int8。issue 未附 results.json,故为宣称。 | 宣称 | 2026-11-11 | 链接 |
| Qwen3.8-Flash-Next | Strata | 1× RX 7900 XTX 24GB(整机另有一张同型号;单卡测量)+ Ryzen 7 5800X + 64GB DDR4(ROCm 7.2.4,Linux) | 69 | Strata 0.2.13.1 单卡,128k 上下文。同一作者同机同方法:112 / 3.5K / 32K 提示,512 生成,每档 3 次中位。主值取 112-token 提示。decode 中位 69 / 72 / 72,主值 69。与双卡 comm-375 卡数不同,单列。降为宣称。 | 宣称 | 2026-11-12 | 链接 |
| Qwen3.8-27B | llama.cpp | 1× RX 7900 XTX 24GB(限 291W,Vulkan)+ i7-9700 + 32GB 内存(Linux 7.3;机内另有一张 GeForce 2060,本项未用) | 65.3 | llama.cpp 1.0.0(build b12359),Vulkan,上下文 262,144,4-bit K/V 缓存,batch 2048/512,MTP 最多 2 个草稿。62 token 提示时 generation 65.3 作主值;3,631 / 33,002 token 提示为 57.0 / 55.8;133,561 token 提示时 Vulkan 设备丢失,无输出。2026-11-13 测。作者在 LexiSuite 对比帖中把它作为对照;同帖 LexiEngine 76.8 没有引擎版本,未收。同时处理的请求数未写。有表,无原始日志,记为宣称。 | 宣称 | 2026-11-13 | 链接 |
| DeepSeek-V4.1-Flash ISTA-DAS Coder(每层保留 384 个专家中的 192 个) | Strata | 4× Radeon AI PRO R9700 32GB(Linux) | 59.2 | decode:4× R9700 59.2,1× R9700 22.8,Strix Halo 20.9–21.9,M5 Max 19.1–22.5,RTX PRO 6000 Blackwell 约 100。单 R9700 限内存:40GB 20.9 / 32GB 18.5 / 24GB 15.0 / 16GB 8.0。模型卡:SWE-bench Verified 77.00(原模型 81.20)。模型 huggingface.co/ISTA-DASLab/DeepSeek-V4.1-Flash-1017-GSQ-RCO-Coder-GGUF | 官方 | 2026-11-03 | 链接 |
| Qwen3.8-Flash-Next-Gyro | llama.cpp (agentionai fork) | AMD Radeon AI PRO R9700 32GB | 57.8 | 57.8 tok/s 生成;1246.0 tok/s 读入 | 宣称 | 2026-09-30 | 链接 |
| DeepSeek-V4-Flash(V4 非 4.1) | 未注明 | Strix Halo + R9700 | 51.1 | 厂商主页 86 tok/s;独立复测 51–57(中位 51.1) | 宣称 | 链接 | |
| Qwen3.8-Flash-Next | llama.cpp (llama-halo-hybrid fork) | Minisforum MS-S1 Max(Ryzen AI Max+ 395,Radeon 8060S,128GB)+ Radeon AI PRO R9700 32GB(PCIe 4.0 x4) | 43 | llama-halo-hybrid 钉在 commit ed0d6cc9,ROCm 7.2.3。2026-11-06 作者自测,单会话 decode 43.0(三次 42.8/43.2/43.1)。2/4/6 会话 多路合计 56.7/78.3/68.4,均不作单流主值。MTP 单会话 60.5(约 80% 接受)因只能放下 2 路 128K 未作主值。-c 524288 -np 4,每路约 131K。有完整复现命令,无公开原始日志,降为宣称。 | 宣称 | 2026-11-06 | 链接 |
| Qwen3.8-Flash-Next | Strata | 1× RX 7900 XTX 24GB + Core i7-14700KF + 160GiB RAM(Windows 11) | 33 | engine 0.1.59,ROCm 10.2 预构建 HIP。tools/strata_bench.py,速度套件无正确性检查。PR 摘要中位:短对话 decode 约 33 作主值;agent 跟进约 54 另标。上下文 131K。正文只给约值,未在摘要中写出精确中位,故为宣称。 | 宣称 | 2026-11-11 | 链接 |
| Qwen3.8-Flash-Next | llama.cpp | 2× RX 7900 XTX 24GB(各 PCIe 4.0 x8)+ Ryzen 7 5800X + 64GB DDR4(ROCm 7.2.4,Linux) | 33 | llama.cpp b11815 双卡,128k 上下文。同一作者同机同方法:112 / 3.5K / 32K 提示,512 生成,每档 3 次中位。主值取 112-token 提示。decode 中位 33 / 36 / 31,主值 33。作者称专家在 CPU 与 GPU 之间切分,262k 装不下。降为宣称。 | 宣称 | 2026-11-12 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 1× Radeon AI PRO R9700 32GB + 251GB RAM | 29.6 | 2.25 code 26.1→29.6,agent 23.1→27.0;2.00 code 24.5→27.6,agent 21.9→27.1(0.2.5→0.2.6);加载 2.00 约 55s(原 34s);0.2.4 旧值(2026-10-24,strata-dsv41 0.1.49,IQ2_XS 2.25bpw GGUF,主机 RAM 未注明,https://github.com/Niko1221/Strata/releases/tag/v0.2.4 ):输出约 11 | 官方 | 2026-10-25 | 链接 |
| DeepSeek-V4.1-Flash-1017 | llama.cpp | Minisforum MS-S1 MAX(Ryzen AI Max+ 395,128GB)+ Radeon AI PRO R9700 32GB(USB4v2 外接显卡坞) | 14 | 生成约 14 / 提示处理约 110–130;128K 上下文;加载约 3.5 分钟;R9700 放前 10 层与输出层,iGPU 放 10–39 层与上下文,CPU 算 4 层专家;两 GPU 间经主机固定内存中转 | 宣称 | 2026-10-22 | 链接 |
| Qwen3.8-Flash-Next | Radiance (fork) | 4× AMD R9700 32GB + TR 9970X + 128GB | 48K/用户:538.5 tok/s 合计解码;128K/用户:365 | 转述 | 链接 | ||
| Qwen3.8-27B | 未注明 | AMD R9700 32GB / Strix Halo | 159 tok/s / 64 tok/s | 转述 | 链接 | ||
| Qwen3.8-27B | Radiance (fork) | 4× R9700(同上 $18k 整机) | 合计解码 900→80 tok/s(4K→128K/会话);PP 6.3–6.8K | 转述 | 链接 |
数字来自各条来源。本项目未复测。各行的模型与设置不同。来源等级:官方 = 项目方或厂商;实测 = 发帖人亲测(引擎或配方作者须公开原始数据和复现步骤);转述 = 二手;宣称 = 预测或无复现细节。