⚡ 本地推理配方

English | 简体中文 | 日本語

DeepSeek:本地推理速度(tok/s),均有出处

截至 2026-11-14,本数据集中 DeepSeek 有 151 条配方,其中发帖人实测 96 条。单机单流文字最快实测:86.1 tok/s,模型 DeepSeek-V4.1-Flash-1017,引擎 Strata(1× RTX PRO 6000 Blackwell Workstation 96GB + Ryzen 7 9800X3D + 61GB RAM(Linux);实测;2026-10-26;来源)。其中 138 条有日期,从 2026-07-31 到 2026-11-14。

在配方库中筛选这些 →

模型引擎硬件tok/s指标来源等级日期来源
DeepSeek-V4.1-Flash-1017spark-ds41f4× DGX Spark(GB10)136代码 decode 136;256K 级提示预填 6,221;1M 提示预填 4,892;作者说同条件下 decode 比 TensorFold 快约 8–13%,预填快约 2.6–2.7 倍;_m_naoki_m_ 2026-11-03 用同一 spark-ds41f 配方(vLLM + TileLang,TP4,200GbE RoCE 交换网):32K 预填约 7,127,聚合(另计)C16 约 235.5(x.com/_m_naoki_m_/status/2117429844824977818);另一位测试者(masa_ai_labo)用 spark-ds41f-1030:4× Spark TP4,256K 散文,10 次平均 decode 74.73,冷预填 6,441(x.com/masa_ai_labo/status/2117875287384097030);2026-11-07 引擎作者 christopherowen 用 spark-ds41f-1030(4× Spark,无交换机):单流 78.6(95% CI 75.3–80.2);聚合(另计)C8 总计 198.7、C16 总计 258.1(x.com/christopherowen/status/2119038167047094467)。不覆盖本条代码 decode 136,也不覆盖 comm-084 的 91.3 或 x-190 的 92。spark-ds41f-1107作者同4Spark原生1017权重、1M上限:单流82.5,C16合计273.2;131K预填8661、1M6015(x.com/christopherowen/status/2119210831812370771)。另kevintheo四Spark coding corpus的C16为361(x.com/kevintheo/status/2119363056333476146),任务不同不能互比;不拿聚合覆盖本行136,也不改comm-084或x-190。2026-11-10 kevintheo 用 christopherowen spark-ds41f-1107,4 台无交换机环形:1 个代码提示约 130,16 个不同代码提示 多路合计 361;130 与本行代码 136 在 ±5% 内,只追加。JimHallers 同日 1107(自 main@51be7406 构建):32K 预填 2,700→8,141,16 流 多路合计 141→257,作者称 decode 与旧栈持平。不改 136。实测2026-11-01链接
DeepSeek-V4.1-Flash-1017TensorFold3× DGX Spark(TP3)126.1LakyFx 配方 1.2.5(K2a,TensorFold TP3;1.2.5 是配方版本,不是 TensorFold 版本),SparkDash:C1 代码 126.1 / 散文 87.7,tok_s 取代码;聚合(另计)C12 代码 246.2;2026-10-31 配方更新:TP3 预填约 2,200 → 约 3,500,并加入 TP4 配方(x.com/laky_fx/status/2116433866340569124)实测2026-10-23链接
DeepSeek-V4.1-FlashTensorFold4× DGX Spark(GB10,无交换机环)111code 单流 3 次中位:stock SGLang 71.6,Mia SGLang 分支 103,TensorFold 111;聚合(另计)4 流 71.5/116/140。作者 handle 更正为 kevintheo(X 用户 ID 952585832115920897;原记 kevintheoo 为拼写错误,该 handle 不存在)。实测2026-10-26链接
DeepSeek-V4.1-Flash-1017vLLM2× DGX Spark(GPU 锁 2300 MHz)+ 1 台 EPYC 主机带 2× RTX 3090(NVLink),共 3 台110sparkDash 协议,3 次中位数,单流:JSON 138,代码 110,散文(温度 0,思考关)66,散文(思考开)56;聚合(另计)4 流:322 / 192 / 130 / 105。预填 4K 2,827,128K 2,650,256K 2,618。128K prompt 后 decode 62实测2026-10-31链接
DeepSeek-V4.1-Flash-1017TensorFold4× DGX Spark(GB10,RoCE)97.2提示集 v1 之外的新 lane(配方 v0.3.5,引擎 0a0b69a + 2 个补丁,RoCE 双链路):1 用户 97.2(代码单流 143.7);聚合(另计)6 用户 195.5 / 16 用户 230.7;93K 提示约 37 秒读入;KV 池 29,360,128(原 2,097,152);600K 针测通过。上一版 lane(LibertAI EXL3 3.5bpw):C1 89.8 / 93.6(开第二条 RoCE),C6 合计 202.9 / 213.8,冷预填 93K 1,929 / 2,215实测2026-10-27链接
DeepSeek-V4.1-FlashTensorFold2× DGX Spark95TensorFold:1 流 95、3 流 147、预填充 1,400;vLLM 对照:51 / 86 / 870实测2026-10-03链接
DeepSeek-V4.1-Flash-1017TensorFold4× DGX Spark(GB10)+ MikroTik CRS804-4DDQ 交换机(1 台)9532k 深度单流:code 约 95–115(tok_s 取下限 95),prose 约 67;预填约 3k(32k 提示 11s);1M 上下文实测2026-10-26链接
DeepSeek-V4.1-Flash-1017vLLM3× DGX Spark + 1× Acer GN100(4 台环形连接)921 个对话 92–104;同机作者自己的 EXL3 4.0bpw(275GB)为 83–88;128K prompt 首 token 18.8 s 对 64.4 s;300K 48.0 s 对 158.3 s;聚合(另计)16 个对话 348 对 202.1实测2026-10-30链接
DeepSeek-V4.1-Flash-1017TensorFold2× DGX Spark(QSFP 直连)88.7单用户 5 次中位数,温度 0.7:json 102.8 / 代码 88.7 / 解释 72.8 / 故事 57.3,tok_s 取代码;8K 提示读入 3.0 s实测2026-10-24链接
DeepSeek-V4.1-Flash-1017Strata1× RTX PRO 6000 Blackwell Workstation 96GB + Ryzen 7 9800X3D + 61GB RAM(Linux)86.1short 解码 86.1(58.5–130.9);32K 预填 2,185.6;Linux。Windows 同卡数据见另一条实测2026-10-26链接
DeepSeek-V4.1-Flash-1017NVIDIA Flare4× DGX Spark(QSFP 环形直连,无交换机)85单流:计数类 92–98 / 代码 85–89;Max effort 生成 114K token 时 62.5;作者称 1–3 流比其 vLLM 配方快实测2026-10-23链接
DeepSeek-V4.1-Flash-1017pico-dgx-ds44× DGX Spark(GB10)TP4,200G RoCE 交换机82pico-dgx-ds4 @7a3b982(blaesus/dsgx10 分支,DSGB10)。配方作者 README 头表,温度 0、9 次中位:单用户 chat decode 82,代码 144 另标。sparkDash 1.8.8 口径散文 101 / 代码 166。8 用户不同提示 多路合计 300,16 用户不同提示 多路合计 380,16 份相同提示 多路合计 438,均不作单流主值。头表为 exact/lossless 构建;有损 relaxed-accept 实验已移除。加图像后 chat/code 81.9/144.4。--max-ctx 1048576。头表未逐行写明官方 checkpoint 与 UNCENSORED-FP8 变体。2026-11-11 同配方 live 构建(stack4 + stack5):同一 3 提示 chat 台 27 次中位 84.6、代码 144.0,较原主值 82 高 3.2%,在 ±5% 内,只追加、不改主值,也不另建条。90.3 是另一组 320 条留存提示的均值(exact 86.2 → stack4 89.5 → stack5 90.3),口径不同。16 用户不同提示 合计 368–376,不作单流主值。日期与来源链接不改。https://github.com/Picom-code/pico-dgx-ds4实测2026-11-09链接
DeepSeek-V4-Flash (0731 GA)未注明2× DGX Spark82单流 82 tok/s(峰值约 95);3 会话 135 tok/s实测2026-07-31链接
DeepSeek-V4.1-Flash-1017未注明2× Radeon AI PRO R9700 32GB + 128GB RAM82缓存热起来后约 82–91,作者说是实际使用场景,不是简单基准。帖子没写引擎实测2026-11-03链接
DeepSeek-V4.1-Flash-1017TensorFold2× DGX Spark(GB10,CX7)80.7sparkDash(CONTEXT=524288,草稿开):单流散文 74.9 / 代码 109.9;4 流合计散文 130.0 / 代码 155.5;冷 prefill 8K–256K 约 2,000–2,183;权重卡注明 experimental、无相对未量化 PPL/KL;同机型 Elevatormusic(comm-038)散文 56.8;yume_arasaki 10-23 更正其复测:散文 70+(不是 58),代码约 107;wei_wang 2026-11-01 按 Mia 双 Spark 配方(EXL3 2.9 bpw,TP=2)复现,单路代码 118(x.com/wei_wang/status/2116925488698449964)。2026-11-09 Mia README 当前 sparkDash 表(CONTEXT=524288,草稿开,温度 0,思考关):单流散文 80.7,改主值;代码 118.1 另标。2 路散文 合计 110.6 / 4 路 合计 154.0,不作单流主值。配方作者第一手表。https://github.com/MiaAI-Lab/DeepSeek-v4.1-Flash-1017-2x-DGX-Sparks实测2026-11-09链接
DeepSeek-V4.1-Flash-1017TensorFoldMac Studio M5 Ultra 256GB80.5code 80.5,prose 70.5;32K 提示首 token 18.6s;聚合(另计)8 请求 88.3实测2026-10-26链接
DeepSeek-V4.1-Flash-1017TensorFold4× DGX Spark(GB10,RoCE)79.1recipe v0.2.0 set b 中位:单流代码 135.9 / 散文 79.1 / 结构化 186.6;4 流合计 141.7,4 流持续 90s 合计 183.1;冷 prefill 8K 2,793、128K 2,679;4.02bpw 比 v0.1.1 的 2.9bpw(pre-1017 Mia 权重)慢约 15–17%;KL 未测;X 帖写代码 136 / 4 流 183;10-23 复核:README v0.3.3 单流代码 135.6 / 散文 78.6,16 流持续合计 255.6;Gael_DDOS 复测散文 78.6实测2026-10-19链接
DeepSeek-V4-Flash (0731)affinityThreadripper PRO 9955WX + 128GB + 4× Radeon AI PRO R970079greedy 解码 79 tok/s(temp 1.0 为 63;thinking chat 约 90)实测2026-10-16链接
DeepSeek-V4.1-Flash-1017spark-ds41f4× DGX Spark 级 GB10(2 台 ASUS Ascent GX10、Gigabyte AI TOP ATOM、Lenovo ThinkStation PGX),TP4,CX7 线缆环(无交换机)76.3Owen 的 spark-ds41f 标准发布 1107(release commit cc20ed18),vLLM 分支 tree ed1bdb7a + TileLang,TP4 线缆环,DSpark 5 草稿,上下文 1,048,576,16 槽。偏离配方:4 KiB 页内核、无内存节省器、GPU 时钟上限 2,200 MHz、镜像自建。思考关,温度 1.0,512 token,decode 各 2 次取中位。decode prose 76.3 作主值;code 76.4。上下文阶梯 decode(prose)16K / 32K / 64K / 128K:76.7 / 81.0 / 76.7 / 74.1。预填 32K 8,355,128K 7,964。8 请求 合计 201.4,不作单流主值。同晚复测 decode 81.5。同测 candidate-54:prose 79.9 / code 89.1,作者称差异在跑间波动内。结果页附 speed2.json、日志与命令 https://niklaslenz.com/v2/deepseek-v41-flash-4sparks-owen-ds41f-1107-tp4-ring/ ,记为实测。同作者 TensorFold 4× Spark 见 x-199。实测2026-11-13链接
DeepSeek-V4.1-Flash-1017-AbliteratedoMLXMac Studio M5 Ultra(64 核 GPU)256GB75decode 75,预填 1,600(默认只有 300,调过设置);同机 Qwen3.8-27B 60(未调)实测2026-10-31链接
DeepSeek-V4.1-Flash-1017TensorFold3× DGX Spark(TP3)74.7TensorFold TP3:聚合 4 会话 108.6(SGLang TP3 68.3),4 流最高 242.9;未给单流数;2026-11-01 测试者补充单流 74.7(德语,思考开;x.com/HandwerkAiLab/status/2116961530550095915)实测2026-10-24链接
DeepSeek-V4.1-Flash-1017TensorFold3× DGX Spark(GB10,3 根 CX7 直连,无交换机;锁频 2000 MHz)73.8单流 set b:代码 122.6 / 散文 73.8 / 结构化 147.6;set a:111.9 / 67.5 / 129.6;2/4/8 流合计 93–102 / 121–136 / 165–181;prefill 8K/32K/128K 2,222/2,257/2,074;同作者 2.9bpw 帖文:TP3 对 TP2 代码 117 对 88、散文 82 对 61实测2026-10-23链接
DeepSeek-V4.1-Flash-1017TensorFold4× DGX Spark(TP4)71Mia 11-01 版本(commit fcef6cf,KV 池 2,097,152,16 请求槽):代码 71.0,散文 68.4,HTML 回答 99.8;8K 首 token 2.2 秒;聚合(另计)1 / 8 个同时请求 62.1 / 144.6。同机 vLLM(ondigo-winder 配方):代码 33.6,散文 30.2,8 个同时 114.8。旧值:10-30 代码 69.5实测2026-11-02链接
DeepSeek-V4.1-Flash-1017TensorFold2× DGX Spark(其中一台 ASUS GX10;QSFP 直连,TP2)70.5bertholomus 配方 v0.7.2 @30a5bf9:decode code 70.5 / prose 70.6;32K 预填 1,830,TTFT 17.9s;聚合(另计)4 请求 107.4、8 请求 106.3(配方只有 4 个 slot);对照 4× Spark 4.0bpw:82.8 / 80.8实测2026-10-25链接
DeepSeek-V4.1-FlashProject Maya4× RTX 3090 + EPYC(Zen 2)70解码 57(stock 33);32K 预填 1,626→2,642;约 30% 专家在 RAM;2026-11-01 内存插满 8 通道(512GB,44→72 GB/s)后,短代码重放 Maya-S 67.7→81.5(各 1 次,x.com/superalesha/status/2116937129569738863);2026-11-03 新帖:4×3090(PCIe 3.0,无 NVLink),Maya v1.1.51 原版与作者改版 decode 都约 70;作者改版预填 16K 1,029 → 1,262、116K 1,753 → 2,651、272K 1,406 → 2,888;历史主值 57(x.com/superalesha/status/2114402413742362907)实测2026-11-03链接
DeepSeek-V4.1-Flash-1017Project Maya2× RX 7900 XTX 24GB TP2(各 PCIe 4.0 x4,−100mV、350W 上限)+ Ryzen AI Max+ 395 128GB(8060S 作 helper)69.4Project Maya v1.1.56(22fc101f)+ 开放 PR #867/#904/#945/#967/#968(tag maya-ds4-exl3-1m-20261112 = 3c4e104)。公开可达提交视为版本。--bench 两次加载 decode 均为 69.4,作主值。配置 --max-context 1048576,DSpark on。长提示 64-token 复制检索最高 85.8 是 structured task,不作单流主值。#967 helper 求和与卡上不逐位一致(作者自注)。同机旧值:2026-11-07 v1.1.56 + PR #867/#904(配方 f5aa4cb,量化 rev 9183eaa),--bench 散文解码 59.6,预填 1,656@160K、651.5@8K,130K 代码 50.3;64-token 复制检索峰值 79.2 / 1.04M 时 67.4 是结构化任务,不作主值(https://github.com/mw00/project-maya/issues/905 )。同一 issue #969 中 v1.1.56 单独构建(#871 旧原版配方)解码 49.8。有 --bench 表与配方。实测2026-11-12链接
DeepSeek-V4.1-Flash-1017TensorFoldMac Studio M5 Ultra 80C 256GB67.5recipe-harness 单流(草稿开、思考关、greedy):散文 67.5 / 代码 87.5 / 结构化 77.6 / 列表 94.4;4 流合计散文 93.5 / 代码 101.4;冷 prefill ~2k–131k(思考关)约 1,093–1,256;1M 针测通过;仓名含 mlx,正文为 TensorFold Metal。2026-11-13 tanchunsiong 用同一 BobClawblaw 配方(TensorFold 原生 Metal,Mac Studio M5 Ultra 256GB)称 decode 126–147;未写 TensorFold 版本、提示类型与草稿设置,口径不清,只作备注,不改主值。https://x.com/tanchunsiong/status/2121072640773574980实测2026-10-19链接
DeepSeek-V4.1-Flash-1017TensorFold3× DGX Spark(GB10 128GB)TP366TensorFold TP3 集成配方(README 基准表 @461d8cd;其后 02b133f 为调度修复,基准早于此)。配方作者表:单请求散文 decode 66,代码 101、结构化 147 另标。短合成提示,thinking off,384 token 上限。C4/C8/C12 多路合计 154/201/222,均不作单流主值;C12 单请求中位 23.4。6.4M 为共享 KV 池,不是单请求上限,上下文设置未写死,不填。最大输出 65,536。实测2026-11-10链接
DeepSeek-V4.1-Flash-1017vLLM2× DGX Spark(TP2)64.9sudoingX vLLM 配方 v2.0 @f8f20b3,思考关单独测速:代码 64.9 / 散文 62.2;聚合(另计)8 请求 66.3实测2026-10-23链接
DeepSeek-V4-FlashvLLM2× DGX Spark(QSFP 直连)63.7单流 63.7 tok/s(带宽上限推算 74.7,达 85%);同机 V4.1-Flash 因内存失败实测2026-09-28链接
DeepSeek-V4.1-FlashSGLang4× DGX Spark(100 GbE 交换机)62.5单流散文 ~62.5 tok/s(tuned;base ~32.6;对照 Moorhead ~58;16 slots 散文 ~228 / 代码 ~293,未达媒体 494)实测2026-10-16链接
DeepSeek-V4.1-Flash-1017SGLang4× DGX Spark(GB10,200G RoCE)62单路解码:代码 106 / 文章 62 tok/s;8 并发合计 190–290;prefill 约 5,300–5,500(8K–128K),240K 约 4,850;TTFT 短提示约 0.22 s、128K 约 24 s实测2026-10-18链接
DeepSeek-V4.1-Flash-1017Project Maya2× RX 7900 XTX 24GB TP2(各 PCIe 4.0 x4,−100mV、350W 上限)+ Ryzen AI Max+ 395 128GB(8060S 作 helper)60.1与 comm-366 同机同 issue 的 --bench 表,v1.1.56,无额外 PR。GSQ-RCO IQ2_XS decode 60.1,KL 0.227。配置 1,048,576。量化不同,单列。实测2026-11-12链接
DeepSeek-V4.1-Flash-1017vLLM2× DGX Spark59.2v1.2 set b:散文 59.2 / 代码 100.7 / 结构化 141.3(同会话 launch 构建 58.0 / 103.0 / 142.6);KLD vs native 1017 0.0243、top-1 95.47%(同面板 LibertAIDAI 2.9 为 KLD 0.0304);v1.2 prefill 未重测;v1.1 的 8K/32K 2,090/2,092 见 x-059实测2026-10-20链接
DeepSeek-V4.1-Flash-1017TensorFold2× DGX Spark(GB10,双 fabric 链路)59.1调优版,思考关、temp 0、400 token 输出上限,两次独立运行中位:C1(单路)散文 59.1 / 代码 103.4 / 结构化计数 91.0;合计 C2/C4/C8:代码 149.7 / 193.3 / 267.0,散文 85.0 / 110.1 / 139.1;冷 prefill 72K 929;早期对照(64 token 输出)C1 解码 TensorFold 58.1 vs vLLM 36.9实测2026-10-18链接
DeepSeek-V4.1-Flash(sudoingX 2.7-bit 专家混合位宽)vLLM2× DGX Spark57.9v1.1:代码 103.0 / 散文 57.9 / 结构化 141.0 tok/s(DSpark 开);prefill 8K 2,090、32K 2,092 tok/s(v1 1,763 / 1,773);32K 首 token 15.7 s实测2026-10-13链接
DeepSeek-V4.1-Flash(sudoingX 2.7-bit 专家混合位宽)vLLM2× DGX Spark57.2复现 sudoingX recipe,单流思考关、3 次 <1% 差:结构化 135.5 / JSON 115.2 / 数学 114.0 / 代码 91.3 / 散文 57.2;关草稿约 44;8K→240K 散文 57.6–61.5;TTFT 8K 4.3 s / 35K ~18 s / 240K 91.8 s;Hermes Agent 回合 82–94实测2026-10-15链接
DeepSeek-V4.1-Flash-1017 BLACKFOLD(去拒答)TensorFold2× DGX Spark(GB10,双 RoCE 链路)57.1125K 上下文 A/B(4 次,temp 0):单流代码 92.8 / 散文 57.1(Python 引擎 89.6 / 55.2);2 流每路代码 69.8;125K 冷 prefill 62.0 s;输出与参考逐 token 一致;作者称散文与 lucataco 持平实测2026-10-20链接
DeepSeek-V4.1-Flash-1017vLLM2× DGX Spark(GB10;GPU 锁频 2000 MHz)57散文约 57 tok/s(1 流)/ 合计约 91(3 流);Elevatormusic 同脚本:散文 50.6、代码 82.4–88.9(对照 TF 56.8/92.2,TF 仍更快);KLD 0.0201 / top-1 95.96%;冷 314K prefill 2,066;本机锁 2000 MHz;Elevatormusic 日志约 2.4 GHz(其帖未写死)实测2026-10-19链接
DeepSeek-V4.1-Flash-1017TensorFold2× DGX Spark(GB10,CX7 直连)56.8单路解码(6 次构建中位,思考关):散文 56.8 / 代码 92.2;思考开 54.2 / 71.6;同机同权重 vLLM(MiaAI kit)27.0 / 39.9;合计(已发布引擎)2/3/4 路 散文 73.5 / 82.3 / 94.4、4 路代码 140.3;冷 prefill 32K 2,165(5 次中位,2,065–2,201);1,035,020 token 针测通过(TTFT 13.6 分钟)实测2026-10-18链接
DeepSeek-V4.1-Flash-1017TensorFold2× DGX Spark(GB10,CX7)55.48 slots、400K 池、含视觉塔:1 路 散文 55.4 / 代码 103.5 / 结构化 62.7 / 列表 70.9;合计 2 路 81.5 / 126.2,4 路 108.8 / 163.8,8 路 134.8 / 202.7(散文 / 代码);首字 0.19–0.26 s;不含视觉塔代码 1 / 4 路 98.1 / 158.5实测2026-10-18链接
DeepSeek-V4.1-Flash-1017 (abliterated)oMLX1× Mac Studio M5 Ultra 256GB55.3oMLX 0.7.4.dev1 完整 bench 表:pp1K decode 55.3 / 预填 640.8;pp4K decode 62.1 / 预填 1,306。同帖两台 M5 Ultra + TB5 RDMA 的 prefill 反而比单机差,开 CEP/INT8 后 decode 也变慢。tok_s 取 pp1K 的 55.3实测2026-11-05链接
DeepSeek-V4.1-Flash-1017TensorFold2× ASUS Ascent GX10(GB10)55.2单流代码 92.9 / JSON 104.3 / 散文 55.2;首 token 0.23 s;代码测试时两台 GPU 合计约 78W实测2026-10-20链接
DeepSeek-V4.1-Flash-1017ds4 (DwarfStar)Mac Studio M5 Ultra 256GB54.5kernelpool ds4 fork @72ccf36,batched 模式 5 槽:单流代码 54.5 / 散文 54.5;聚合(另计)4 请求 56.2、8 请求 50.5;32K 预填 1,475实测2026-10-24链接
DeepSeek-V4.1-Flash-1017ExLlama2× DGX Spark50.3按草稿深度:无草稿 31.3;散文最高 50.3(深度 2);代码最高 87.3(深度 6);结构化任务最高 131.6(深度 5,只适用于结构化输出,不是通用速度)。tok_s 取散文实测2026-10-28链接
DeepSeek-V4.1-FlashvLLM2× DGX Spark48.535K agent 提示 48.5 tok/s;17K–559K 深度约 30–32.6实测链接
DeepSeek-V4.1-Flash-1017Project Maya1× RTX PRO 5000 72GB(eGPU,PCIe 当前 x4)+ Ryzen AI Max+ 395 128GB(CachyOS)48.3Project Maya v1.1.54,DSpark on,--max-context 262144。主值取作者附上的官方 --bench:greedy、thinking off,3 段最多 256 token 回答均值 48.3(代码 47.1 / 说明 43.5 / HTML 54.2);预填 150@2K、506@8K。issue 表与截图写 decode 70、预填 862,与 --bench 不符;日志里可见实时回答约 63–73,不作主值。表中「提示长度 500k」与 256K 上限矛盾,不采用。maya-bench.txt 与日志在评论附件。实测2026-11-12链接
DeepSeek-V4.1-Flash-1017Project Maya1× RX 7900 XTX 24GB (Radeon 8060S helper) + Ryzen AI Max+ 395 + 128GB RAM45.6Maya 1.1.56(22fc101f)+#904,build f5aa4cb。仅一张XTX,PCIe4 x4;Ryzen AI Max+395的Radeon8060S充当helper,128GB共享内存、113GB helper池记在此处。--bench散文decode45.6,stock43.3;上下文上限1048576,bench输入2K/8K。64-token检索峰55.7与1.04M时51.1仅为结构化任务,不作主值。约29GB专家仍在文件,短提示固定I/O约16秒。与comm-366双XTX不同。实测2026-11-07链接
DeepSeek-V4.1-Flash-1017(abliterated)Project MayaRyzen AI Max+ PRO 495(Radeon 8065S,192GB,160GB 给 GPU,Windows 11)43.2Maya v1.1.37 --bench/--report,HIP:decode 43.2(代码 46.1 / 50.9,散文 32.6);预填 453(2K 278)。全部专家在 GPU 内存。同机 GLM-5.3-Flash Maya-S-v2 31.5实测2026-11-03链接
DeepSeek-V4.1-Flash-1017StrataRTX 5090 + 128GB DDR5 + i9-13900KF(Windows 11)40.66Strata Terminal 0.2.4.1:3 次 34.57 / 40.66 / 42.57,中位数 40.66(高于同类配置的其他报告,但 3 次一致且附截图,可信)实测2026-10-24链接
DeepSeek-V4.1-FlashMLX2× Mac Studio M3 Ultra 512GB4040–66 tok/s 解码(接受率 70–81%);~1,100 PP实测链接
DeepSeek-V4.1-Flash-1017Strata1× RTX PRO 5000 72GB + Ryzen 9 9950X3D(Linux)39.05Strata Terminal 0.2.4.2,DSV41 engine 0.1.49.2,512 token 输出,n=3:DSpark 关 39.05、开 42.77(API 级);240K 检索读入 928.5实测2026-10-25链接
DeepSeek-V4.1-Flash-1017vLLM4× Tesla V100 SXM2 32GB(SXM2 转 PCIe 载板,NVLink)+ Threadripper PRO 3945WX + 256GB DDR438.31Cat-vLLM 分支(#1277),TP4,单用户:8K 思考关 38.3(36.6–39.0),75K 35.8,思考开 31.9–37.9;预填约 1,000–1,200(4K–128K);1/3 专家放主机内存;每卡 150–175W;上下文 524,288实测2026-11-02链接
DeepSeek-V4.1-Flash-1017StrataThreadripper 3960X + RTX 5090 + RTX 3080 Ti + 192GB DDR4(Windows)386 轮编程对话平均约 38(37.4–38.7),热身后最高 42.4;打补丁前约 26–30;原版默认 19.4,只调设置 29.1;预填最高 772.1实测2026-10-30链接
DeepSeek-V4.1-Flash-1017Strata1× RTX 5090 32GB + Xeon Gold 6330 + 384GB RAM37strata-dsv41 0.1.55:decode 中位约 37(32–42,含 100K–180K 提示);139K 冷提示预填 1,612实测2026-11-01链接
DeepSeek-V4-Flash (0731)affinityThreadripper PRO 9955WX + 128GB + 2× Radeon AI PRO R970036解码 36 tok/s(约 45% 专家在显存,其余自 51GB pinned host 池流式卸载)实测2026-10-16链接
DeepSeek-V4.1-Flash-1017Strata1× RTX 3090 Ti 24GB + Threadripper 3990X + 128GB DDR435decode 约 35(MTP/DSpark 开)实测2026-11-01链接
DeepSeek-V4.1-Flash-1017Strata1× RTX 5090 32GB35Strata 0.2.10 主值 35(散文 decode 35–38,取下限);历史:长生成平均约 50–51(2.2K token 测试,256K 上下文);预填 1,350。数字取自帖文,截图未核;Strata 0.2.10(2026-11-03):散文 decode 35–38,复制/agent 68;10–36K 预填 890–2,264(x.com/lyesbahi/status/2117672208592220602)实测2026-11-03链接
DeepSeek-V4.1-Flash-1017未注明2× RTX 3090 + 256GB 八通道 DDR4351M 上下文:decode 约 35,预填约 900。帖子没写引擎实测2026-11-03链接
DeepSeek-V4.1-FlashoMLXMac Studio M3 Ultra33约 6 → 33.0 tok/s(32K 6.17→33.0;64K 5.58→33.0)实测链接
DeepSeek-V4.1-Flash-1017TideLM2× DGX Spark(GB10,TP)31.83 次中位,1,024 token,temp 0.6:散文 31.8 / 代码 49.0;8K 提示首 token 4.8 秒。tok_s 取散文实测2026-10-27链接
DeepSeek-V4-Flash (0731)未注明1× DGX Spark31.5x1 31.5 tok/s,TTFT 408ms;x2 合计 29.8实测2026-08-21链接
DeepSeek-V4.1-FlashStrata (Strata-DS fork)RTX 5090 Laptop 24GB + Ryzen 9 9955HX3D + 64GB RAM + 2TB NVMe31.2冷启动短提示 30.0–32.0(5 次中位;代码提示 31.2);服务运行后 API 33.2–39.3;连续 30 分钟 37.6;4K/32K/128K/256K 提示解码 26.1/25.6/25.2/24.4,读入 244/844/904/752 tok/s;跳过开 HumanEval+ 90.2%(关 91.5%),GSM8K 98.0%(关 97.5%)实测2026-10-16链接
DeepSeek-V4.1-Flash-1017Strata (Strata-DS fork)1× DGX Spark(GB10,128GB 统一内存,4TB NVMe)30.8真实编码 agent 会话 48 轮(上下文 10K–91K)共 70,211 token 平均 30.8 tok/s(每轮 23.6–36.4,中位 28.6);单次测:上下文 8K/32K/64K/128K/250K 解码 24.2/27.4/27.4/27.3/22.9;agent 每轮新增 ≤50 token 首字中位 0.57 s,同一 10K 系统提示开新会话 0.25 s;冷 prefill 约 500 tok/s(250K 8.3 分钟);vs 官方 MXFP4 KL 0.074 / top-1 88.6%实测2026-10-18链接
DeepSeek-V4-Flash(V4 非 4.1)ds4 (DwarfStar)Mac Studio M4 Max 128GB30~30 tok/s 写;37K 提示读入约 2 分钟实测链接
DeepSeek-V4.1-Flash-1017oMLX2× Mac Studio 256GB(芯片未注明)30decode 约 30(作者对比云端 171);ctx 和互联方式未给实测2026-10-27链接
DeepSeek-V4.1-Flash-1017vLLM4× DGX Spark(GB10,无交换机 QSFP 环)29单流:散文 29–43 / 代码 65–67;4 流代码合计 115–127;111,840 token 长任务均速 46.5(代码段约 80);32K prefill 3,655;默认关 arx 约慢 3%实测2026-10-20链接
DeepSeek-V4.1-Flash未注明2× DGX Spark29解码 29 tok/s prose / 41 code;预填充 2,000 tok/s;top-token 一致率 92%,KLD 0.07实测2026-10-03链接
DeepSeek-V4.1-Flash-1017Project Maya1× Tesla V100-PCIE-32GB(PCIe 3.0 x16,限 150W)+ Xeon E5-2680 v4(14 核)+ 128GB DDR4-2400(HUANANZHI X99-QD4)23.5Project Maya v1.1.61 @c5842c5(maya-report.txt 记录),配置 context 262144,单 GPU。--calibrate 后 maya-bench.txt:3 个回答逐个 decode 22.0 / 21.3 / 27.1,均值 23.5 作主值(greedy,思考关,每个回答最多 256 token)。安装默认设置 24.5(issue 表,无对应附件)只作备注。预填 2048 / 8192 token:校准后 200 / 510,默认 164 / 355。nvidia-smi 报告确认 V100-PCIE-32GB,PCIe 3.0 x16。CPU 侧专家放内存(复制 99.5GB)。附 maya-report.txt 与 maya-bench.txt,记为实测。实测2026-11-13链接
DeepSeek-V4.1-Flash-1017gufo1× Bosgame M5(Strix Halo,128GB)23.3greedy,HTTP 实测:深度 0 / 32K / 128K:预填 pp2048 1,077 / 993 / 700;decode 23.3 / 22.9 / 21.7;DSpark 混合文本 28.0 / 30.1 / 27.2;DSpark 重复文本(另计,偏高)65.3 / 59.6 / 55.2;聚合(另计)8 用户 78.5;改写源文件 67.6。tok_s 取深度 0 的 decode实测2026-10-27链接
DeepSeek-V4.1-Flash-1017Strata1× AMD Instinct MI50 32GB(gfx906,ROCm 7.1)+ 62GB RAM + NVMe(约 4GB/s)22.6decode:默认 15.8;--cpu-threads 24 为 16.7;加 --experts 5 为 19.6;再开 DSpark(conf 0.65)为 22.6–23。预填 7.5K prompt 约 170。单次测量,200 token 回答,最长测到 8K实测2026-10-29链接
DeepSeek-V4.1-Flash-1017ds412× RTX 3090(PCIe 4.0 x16 + 3.0 x4)+ 128GB DDR4-3200 + i7-12700K + NVMe22通用散文解码 22–24 tok/s;3,000-token agent 提示 31.5(引擎基准,热专家按 agentic 负载排序,偏乐观);prefill 3,000 token 340;vs FP8 KL 0.462 / top-1 71.5%实测2026-10-18链接
DeepSeek-V4.1-Flash-1017Strata3× Tesla V100 32GB PCIe 3.0 + 2× Xeon E5-2696 v3 + 128GB DDR3(Windows 10)22Strata 源码 @7dd5cf1(v0.2.4.2,sm_70,CUDA 12.4),layer split auto,--dspark auto:3072 token 回答 22.0、1024 token 17.4;预填 7K 176。同机 maya-ds4 v1.1.26(Maya-S):27.5 / 24.2 / 425实测2026-10-25链接
DeepSeek-V4.1-FlashStrataRadeon PRO W6800 32GB(gfx1030)+ 192GB RAM(Windows 11)20.2源码编译 gfx1030 引擎,strata_bench --long:--dspark on 短 chat 中位 20.2(auto/off 17.1);一次实时长回答 24.9(关 drafter 15.7)。专家放 192GB 内存实测2026-11-04链接
DeepSeek-V4.1-FlashStrataRTX PRO 4500 32GB + RTX PRO 4000 24GB,HP Z820(2× Xeon E5-2697 v2,无 AVX2;PCIe 3.0 x16)19.9Strata 0.2.13.1 / engine 0.1.59.1,AVX1 源码构建。tools/strata_bench.py --long,3 次中位,思考关,单请求。6 专家(baseline 与 fill 短对话同为 19.9)作主值;5 专家 --speed faster 短对话 31.3、agent 26.5 另标。上下文 64K。Engram 实测热路径在内存。0 失败请求。社区格式,非 standard-v1。塔式工作站,未见机架证据。实测2026-11-10链接
DeepSeek-V4.1-Flash(REAP 256 专家剪枝)vLLM2× DGX Spark19.2c=1、DSpark k=5、32K:代码 30.4 / 推理 28.3 / 聊天 27.0 / 散文 19.2 tok/s(计数类 49.4,作者警告勿用);prefill 700–2,200;25K 提示 TTFT ~22 s实测2026-09-12链接
DeepSeek-V4.1-Flash-1017StrataRTX 4000 Ada 20GB + Xeon w7-3455 + 255GB RAM(Windows 11)15.6decode 15.6–17.4(两次会话,8×200 token 中位);预填 3.8K 237.5 / 20K 506.2;显存内专家 1,283/15,360,其余在内存。tok_s 取区间低值实测2026-10-27链接
DeepSeek-V4.1-Flashllama.cppACEMAGIC Strix Halo 128GB(€2,300)+ 快速 SSD15>15 tok/s,峰值 31.7实测链接
DeepSeek-V4.1-FlashStrataAMD Ryzen AI Max+ 395 128GB(Strix Halo,Windows)15代码 decode 15–21;64K 上下文预填 214–233实测2026-10-29链接
DeepSeek-V4.1-FlashStrata1× RTX 5060 Ti 16GB(PCIe 4.0 x8)+ Ryzen 9 7900X + 64GB RAM(专家/Engram 自 Gen5 NVMe 流式读入)14.8Strata 0.2.13.1 / engine 0.1.59。tools/strata_bench.py --long,3 次中位,思考关,单请求:短对话 decode 14.8(13.6–16.9);agent 16.0。安装默认:上下文 131,072,视觉开,自动 RAM store,DSpark 自动。专家与 Engram 从 Gen5 NVMe 流式读入,与同模型 Z820 内存驻留路径不同。0 失败请求。社区格式,非 standard-v1。实测2026-11-10链接
DeepSeek-V4.1-FlashStrataMacBook Pro M5 Max(40 核 GPU)128GB14.3经服务器(greedy,思考关)短回答和代码 14.3–19.0,3,000 token prompt 预填 268;默认设置只有 5.0–6.5。引擎 CLI:默认 6.66,DS4_BUSY_CAP=2000 为 18.05实测2026-10-31链接
DeepSeek-V4.1-Flash-1017StrataRTX 4090 Laptop 16GB + i9-13900HX + 94GiB RAM(Gentoo)13.62.25 默认:chat 13.6 / agent 16.0 / 带思考代码 16.2;--experts 6:11.2–13.7;2.00 默认:14.9–17.3。预填 4K / 32K:436 / 800(2.00:463 / 833)。速度很依赖内存实测2026-10-28链接
DeepSeek-V4.1-FlashStrata2× RTX 4060 Ti 16GB(--tp 2)+ Xeon W-2145 + 110GiB(WSL2)13.2Strata 0.2.13.1(628f749),启动器拉取的 DeepSeek 引擎包。作者标明非标准测量(复用 Qwen 协议夹具,无 DeepSeek 标准协议)。第一轮 short decode 中位 13.2(12.9–13.3)作主值;约 15 分钟内漂到 7.4–8.4,原因未测,已写入。配置 131,072,q4_0 KV,--tp 2。results.jsonl 与引擎日志在 PR。实测2026-11-12链接
DeepSeek-V4.1-Flash-1017Strata1× Intel Arc Pro B70 32GB + Xeon w5-3435X(容器限 192GiB / 24 CPU,主机 503GiB)13Strata 草稿 PR #5907(head 28952cee;实现提交 730e44a8,基于上游 13eedf55),SYCL JIT 构建,engine 0.1.59.1。配置 16384,1 槽,top-6,DSpark 开、confidence 0,greedy,思考关。1024/256 decode 中位 13.0(12.3–14.5,3 次)作主值;4K 12.6,8K 12.4;读入 1K/4K/8K 为 197/377/601。原始记录 results.jsonl、引擎计时与配置在 PR 提交的 bench/results 目录。https://github.com/Niko1221/Strata/blob/28952cee2c09dad4df8d60f4541a08d1dc8a3bde/bench/results/2026-11-13-community-b70-deepseek41-sycl-1k4k8k/README.md实测2026-11-13链接
DeepSeek-V4.1-Flash-1017StrataRadeon AI PRO R9700 32GB + RX 9070 XT 16GB13生成 10.1–15.7(均值 13.0);prompt 处理 18.0;ELYZA 10 题 + 难题 5 题实测2026-10-28链接
DeepSeek-V4.1-Flash-1017StrataGMKtec K12: Ryzen 7 H 255 + Radeon 780M iGPU (gfx1103) + 80GB DDR5-5600 (Proxmox LXC)11strata-dsv41 0.1.58(146df3c,TheRock ROCm 7.10.0a20251121,STRATA_EXPERIMENTAL_GFX1103=1)。主值取 row7 代码提示 150 tok decode 11.0(--dspark on + HIPK);同表散文 300 tok 为 8.5,不作主值。drafter off 约 6.4–6.7。预填 7K/19K 97.8/121.5(HIPK)。issue 含测量脚本;同机 #5639 strata_bench short chat 7.3 / agent 7.4 分列。实测2026-11-09链接
DeepSeek-V4.1-FlashStrata1× AMD RX 7900 XTX 24GB10短对话 decode 10.0(8.0–12.3);agent 追问 14.3;预填 4K 164.6 / 16K 282.3 / 32K 252.7;1,896 个专家在显存,其余经 PCIe 读实测2026-10-31链接
DeepSeek-V4.1-FlashStrata1× RTX 5070 12GB + i7-12700K + 64GB DDR4(Linux,PCIe gen5)10同机对照 #5435:strata_bench 短 chat decode 中位 10.0(9.1–10.8);mtp-bench 总体 server_decode 12.2(单题 10.1–12.5);起草关闭。tok_s 取短 chat 10.0实测2026-11-06链接
DeepSeek-V4.1-Flash CoderStrata1× RTX 5080 16GB + 127.4GiB RAM(Windows 11;CPU 未写)9.8Strata engine ds4-0.1 / 0.1.56。社区套件,3 次中位。16 GiB 卡默认 Faster(5/6 专家)短对话 decode 9.8(8.9–11.2)作主值;满质量 6 专家 8.4(7.9–8.8)另标。agent 10.4 / 8.4。思考开,温度 0,上下文 131072。CPU 型号未写,不从同作者其他机推断。速度套件未做正确性检查。实测2026-11-11链接
DeepSeek-V4.1-FlashStrata1× RTX 5080 16GB + Ryzen 7 7800X3D + 127.4GiB RAM(Windows 11)9.4Strata 0.1.59(d2f09647,tag v0.2.13 worktree)/ DeepSeek engine ds4-0.1(0.1.56)。tools/strata_bench.py --long --think,与同机 Coder 集 comm-331 同一协议。chat decode 中位 9.4(9.0–10.0,n=9)作主值;agent decode 9.6(9.2–10.9,n=15)另标。默认 5 experts、DSpark 未加载(卡上装不下 115GB 专家集)。配置的上下文上限未写,不填。results.json 在 PR。实测2026-11-12链接
DeepSeek-V4-Flash-0731-Fractalllama-modchipAMD Ryzen 9 9955HX + 64GB DDR5, 纯 CPU (0 GPU)9.06窗口外(v2.4.0 发于 2026-11-04)补录:引擎作者 README 表。无损 Top-6 纯 decode 9.06–9.95,tok_s 取下端;Stockfish-PVS 11.5–14.7 另标。256K 时约 58.9 GiB RSS。不在 841 基线中。实测2026-11-04链接
DeepSeek-V4.1-Flash-1017StrataRTX 5090 D v2 24GB + 128GB DDR5-4800 + i7-14700KF(Windows 10)8.6Strata 0.2.4(DSV4.1 engine 0.1.49)默认设置(--dspark auto):256 token 流式,decode 短提示 8.6 / 1.3K 7.9 / 4.9K 10.2,tok_s 取短提示;4.9K 预填 240;RAM 存储只长到约 50GiB,作者怀疑没跑满实测2026-10-24链接
DeepSeek-V4.1-Flash-1017StrataRadeon AI PRO R9700 32GB(PCIe 5.0 x16)+ RX 7900 XTX 24GB(PCIe 3.0 x1)+ Ryzen 5 7600X + 62GB DDR5 + Kingston NV3 2TB(Ubuntu 24.04)8.29短提示(54 token,256 新 token)解码,DSpark 关(与 comm-079/080/082 同口径):--ssd-cache 32 两次 8.85 / 7.72,tok_s 取中值 8.29;发布默认 6.27;另开 DSpark(--dspark-conf 0.65)三次 9.82–9.94;提示读入约 2;思考关、贪心解码,数字取引擎自身 decode 行实测2026-10-24链接
DeepSeek-V4.1-Flash-1017llama.cppRTX 3090 24GB + i9-9900X + 128GB DDR47.27.2;思考关,上下文 16K;作者称答案里有物理错误,实用性低实测2026-10-21链接
DeepSeek-V4.1-Flash-1017StrataRX 9060 XT 16GB(gfx1200)+ Ryzen 5 5600 + 94GiB DDR4(Linux)6.2decode 6.2–6.6(6 专家)/ 6.8–7.5(5 专家),受 6 核 CPU 限制;预填随 prompt 从约 48 升到约 230;两天无引擎错误实测2026-10-28链接
DeepSeek-V4.1-Flash-1017Strata1× RTX PRO 6000 Blackwell Workstation 96GB + Ryzen 9 9950X3D + 128GB DDR5(Windows 11)Windows:预填大多 40–130(13.5K 新提示 112.5→126.5,PCIe x8→x16),解码 27–61;作者报告为引擎问题,tok_s 不填实测2026-10-26链接
DeepSeek-V4.1-FlashTandem-vLLM1× RTX PRO 6000 96GB + EPYC 9534124Tandem-vLLM 0.1.1(vLLM 0.31 专家卸载构建)。引擎作者表:单流 system decode,DSpark k=3 为 124,作主值;无草稿 65 写入本行,不另建条。4/8/32 流无草稿合计 182/284/414,不作单流主值。GPQA 官方 81.3% → VQ 73.2%(FP4_TOP=52 时 76.8%)写入描述。上下文未写,不填。有对照表,无原始日志,降为宣称。2026-11-14 同作者 Tandem-vLLM 0.2.0 帖:同机单卡单用户 GSM8K decode 75.5;帖中未写是否开 DSpark,口径与主值不同,只作备注,不改主值 124。同帖 1 张 RTX PRO 6000 32 流 合计 414。同帖 2 卡 tensor parallel 93.1:2 张 RTX PRO 6000 按当日最低价 $17,496/张 已超过 $30k,未收。https://www.reddit.com/r/LocalLLaMA/comments/1xvjoa7/宣称2026-11-12链接
DeepSeek-V4.1-Flash-1017TensorFold4× GB10(DGX Spark,TP4)121TensorFold TP4 v0.3.5:decode 约 121;预填 8K 2,668 / 32K 2,900。注:niklaslenz 10-25 测 bertholomus 4× Spark 4.0bpw 为 82.8 / 80.8,quant 和版本不同,不能直接对比官方2026-10-24链接
DeepSeek-V4.1-Flash-1017SGLang4× DGX Spark(RoCE 双链路,TP4)91.3sparkDash 1.8.8,256 新 token,温度 0,思考关:c1 散文 91.3 / 代码 142.9 / json 130.6(3 次中位数),tok_s 取散文;聚合(另计)c16 散文 359.7 / 代码 471.6 / json 726.9;冷预填 4K 4,798 → 128K 6,291(重复 token 填充,偏高)宣称2026-10-24链接
DeepSeek-V4.1-Flash-1017spark-ds41f4× DGX Spark TP4,MikroTik CRS812-DDQ 4× 200GbE RoCE89.2spark-ds41f e90b1e8a + 本地 HEAD 9b13cc2c(镜像 spark-ds41f:1107-local;改动仅 sudo/memguard 与 QEval,无内核改动)。运行配置 1M 上下文,DSpark 5 草稿,TP4。主值取作者更正后的 32K 起始上下文单流 prose 89.2,不用标题里的 structured 188.3;同口径 structured 184.8(32K)/ 188.3(标准上下文)另标。C8 合计 886.2,不作单流主值。方法有,无公开原始日志,降为宣称。线程 https://x.com/FT_IOxCS/status/2120833708693266798 2026-11-14 同作者同机 release 1107:单个 coding 提示,32K 起始上下文 143.8;标准短上下文 C1 coding 110.5;温度 0,思考关。coding 口径另标,主值仍为 prose 89.2。C16(32K)合计 422.8,不作单流主值。https://x.com/FT_IOxCS/status/2121296132630282446宣称2026-11-12链接
DeepSeek-V4.1-Flash-1017mlx-serve2× Mac Studio M3 Ultra(TB5 RDMA 张量并行)88mlx-serve PR 草稿(未合并),llmprobe:DSpark decode 88(单机 56),可预测文本 116;普通 decode 54(单机 41);预填 1,608(单机 1,018);4 并发聚合 94(单机 62)。0.5–256K 平均 decode / 预填:双机 69.5 / 1,365,单机 51.7 / 889(x.com/ivanfioravanti/status/2117658847544525094);2026-11-05 ivanfioravanti 用原始权重跑 DeepSeek Harness:mlx-server 2×M3 Ultra 与 TensorFold 4×Spark 平均 decode 约 52,最大上下文 815K(M3)/ 400K(Spark)(x.com/ivanfioravanti/status/2118222107783873005)宣称2026-11-03链接
DeepSeek-V4.1-Flash-1017Strata4× Radeon AI PRO R9700 32GB + 251GB RAM84.7code 76.6/77.0→84.7/84.7,agent 74.2→83.3(0.2.5→0.2.6);RAM 须容下全部 CPU 侧专家并余 8GiB;0.2.4 旧值(2026-10-24,strata-dsv41 0.1.49,IQ2_XXS 2.00bpw GGUF,https://github.com/Niko1221/Strata/releases/tag/v0.2.4 ):输出约 31,提示读入 8K 约 505、32K 约 818。限定:0.2.4 开 DSpark 时输出 55–69,不作主值官方2026-10-25链接
DeepSeek-V4.1-Flash-1017Project MayaAMD Strix Halo(Ryzen AI Max+ 395,128GB)+ 2× RX 7900 XTX(OCuLink)82.5Maya-XS v2:decode 82.5;491K 提示预填 1,195.5 → 1,448.2(稀疏注意力索引器改用 RDNA3 WMMA)。Maya-S:decode 41.7,130K 预填 1,378宣称2026-11-03链接
DeepSeek-V4.1-Flash-1017spark-engine3× DGX Spark(TP3,ConnectX-7 RoCE)67短上下文单流(greedy):散文 67–70,代码 114,结构化 129;1→4 流散文 67→125;32K–64K 预填约 5.6K;1M 提示首 token 229 秒(约 4.5K),256K–1M 时 decode 53–56。作者另报 1× Spark 跑 Qwen3.8-Flash-Next 散文 68宣称2026-10-31链接
DeepSeek-V4.1-Flash-1017mlx-serveMac Studio M5 Ultra 512GB65.7mlx-serve 26.11.2 默认设置(含 MTP 与 prompt lookup)。128K token 提示,输出 decode 5 次中位 65.7(范围 62.2–70.0)。同机:关 prompt lookup 65.3,关草稿 49.9;预填 3,632,首 token 35.3s。thinking off 短请求:散文 68.8 / 代码 81.2 / 计数 116.9。16 用户新鲜 2K 提示、512 回答 多路合计 112.3(单用户同口径 59.1),不作单流主值。配置的上下文上限未写,不填。无原始日志,降为宣称。同窗 HeyBohu 短请求 60.6(mlx-serve,官方权重,M5 Ultra 512GB),短跑,不改主值。本行已写明 mlx-serve 26.11.2,不因版本再拆条。ApacheAE 另帖称 8-bit 输出头会改变速度,只作备注。https://x.com/HeyBohu/status/2120662512660259266 https://x.com/ApacheAE/status/2120514025239064840宣称2026-11-10链接
DeepSeek-V4.1-Flash-1017BasaltRTX 5090 32GB(400W)+ RTX 5060 Ti 16GB(180W)+ 128GB DDR563.55090 + 5060 Ti 各算专家:解码 63.5 / prefill 610(6.2K 提示);仅 5090:53.6 / 610(热)595(冷);同机 llama.cpp PR #30817 --fit 约 20;作者实验分支未公开宣称2026-10-21链接
DeepSeek-V4.1-Flash-1017sushiMac Studio M5 Ultra 96GB62.2Sushi 1.5.1。配置 1M 上下文。冷阶梯、每档 64 新 token、3 次中位:4k decode 62.2 作主值;64k 41.6、128k 29.9 另标;1M 约 23。测于 11-10,当时引擎还在服务该帖,作者称略保守。无原始日志,故为宣称。宣称2026-11-10链接
DeepSeek-V4.1-Flash ISTA-DAS Coder(每层保留 384 个专家中的 192 个)Strata4× Radeon AI PRO R9700 32GB(Linux)59.2decode:4× R9700 59.2,1× R9700 22.8,Strix Halo 20.9–21.9,M5 Max 19.1–22.5,RTX PRO 6000 Blackwell 约 100。单 R9700 限内存:40GB 20.9 / 32GB 18.5 / 24GB 15.0 / 16GB 8.0。模型卡:SWE-bench Verified 77.00(原模型 81.20)。模型 huggingface.co/ISTA-DASLab/DeepSeek-V4.1-Flash-1017-GSQ-RCO-Coder-GGUF官方2026-11-03链接
DeepSeek-V4.1-Flash-1017Strata1× RTX 5090(仅推理)+ RTX 3070 Ti(显示)+ 128GB DDR5 + i9-13900KF(Windows 11)53.8Strata 0.2.11:中位 53.8(均 52.0,min 41.5 max 57.8)。附截图。tok_s 取中位 53.8宣称2026-11-06链接
DeepSeek-V4-Flash(V4 非 4.1)未注明Strix Halo + R970051.1厂商主页 86 tok/s;独立复测 51–57(中位 51.1)宣称链接
DeepSeek-V4.1-Flash-1017FastLocalExperts1× RTX PRO 4500 Blackwell 32GB + Ryzen 9 9950X3D + 120GB DDR5(Linux)50.6引擎作者 README:v1.2.5,三次新启动 49.8/50.8/50.6,取 50.6 作主值(温度 0,无损草稿);无草稿 37.6 另标。硬件为 9950X3D + 120GB + PRO 4500。正文写明上述速度数字的配置为 262,144 上下文、2 个 slot 共享。同作者 11-11 Reddit 帖 49.9(3 次中位,无草稿 37.2)未写版本,不改主值、不单列。同 README 的 QFN FLE-IQ3_M 91.2 未写版本,不收录。作者表无逐次原始日志,故为宣称。宣称2026-11-11链接
DeepSeek-V4.1-Flash-1017oMLXMac Studio M5 Ultra 512GB(与 x-296 同机)49.1oMLX 0.7.4.dev1,与 x-296 同机、同一 128K 提示协议:输出 decode 49.1。预填 3,848,首 token 33.3s。thinking off 短请求:散文 51.5 / 代码 68.9 / 计数 90.2。16 用户 多路合计 110.2(8 以上排队),不作单流主值。配置的上下文上限未写,不填。无原始日志,降为宣称。宣称2026-11-10链接
DeepSeek-V4.1-Flash-1017Project MayaRTX 4090 24GB + 192GB RAM44.1decode 44.1;8K 预填 539宣称2026-11-04链接
DeepSeek-V4.1-Flash-1017delta-inference-engineRTX 3090 24GB + i5-13600K + 192GB DDR5-5600(Windows)41.7Delta Inference Engine v0.93(同一作者、同一 3090 + 192GB 机):UD-IQ2_XXS @192GB 写速 41(与上版持平);同表 @128/96/64GB 为 34.0 / 29.3 / 21.0;UD-IQ1_S @192/64GB 41.0 / 30.6;预填至约 740@64K(192GB);99 题正确 57/99(上版 ds4 Q2 为 52)。注:Unsloth Dynamic 量化文件版本会影响不同后端,不可跨卡直接比(见 Strata #5296 gfx1151 预填回退 vs 本条 decode 提升)。tok_s 取 UD-IQ2_XXS@192GB 的 41。2026-11-09引擎作者 musicurgy 发 v0.94:同一 3090 + 192GB 机,UD-IQ2_XXS greedy 写速 41.7(默认采样 41.3);长提示预填约 60K 为 811(0.93 同晚 747)。另加一张 x4 槽 RTX 3060 为 42.9 / 42.2。README 与 Reddit 表一致。主值改为 0.94 greedy 41.7;等级仍为宣称。宣称2026-11-05链接
DeepSeek-V4.1-Flash-1017dsx2× RTX 3090 24GB + i7-12700K + 128GB 内存41dsx(Rust + CUDA),expert deferral(--defer-rank 3,会改变计算)+ FP8 投影:自由生成 41官方2026-10-25链接
DeepSeek-V4.1-Flash-streaming-repack-exl3-3.0bpwmlx-serveMacBook M5 Max 128GB39.939.9 tok/s 生成;81.3 tok/s 读入;256K 提示解码 27.1,预填 456.3,首 token 574.5 秒;约 1M(1,047,488)提示解码 11.1,预填 262.6,首 token 3,988.9 秒宣称2026-10-06链接
DeepSeek-V4.1-Flash-1017Project MayaRTX 3090 + RTX 3080 Ti + 128GB RAM38更新 Maya 后 decode 27 → 38(开“跳过低权重 RAM 专家”选项,有损);74K 预填 1,225 → 1,840宣称2026-11-03链接
DeepSeek-V4.1-Flash-1017libosmosAMD Strix Halo(Ryzen AI Max+ 395,128GB)38引擎作者:带 draft 最高 38,预填 >450(Reddit 同帖写 >480)。tok_s 取 38。2026-11-09 libosmos v0.5.9:同机 Strix Halo 128GB,ud-iq1_s plain/drafted 19.5/42.5;ud-iq1_m 17.5/35.4;ud-iq2_xxs 14.4/26.5。上下文未写。drafted 42.5 高于本行最高 38,但缺上下文,不改主值。宣称2026-11-05链接
DeepSeek-V4.1-Flash-1017未注明2× AMD Strix Halo(USB4 互联)35.3decode 35.3;开自家投机草稿 41.9–70.6;预填约 1,100(8K–45K);聚合(另计)8 请求约 114宣称2026-11-02链接
DeepSeek-V4.1-FlashFront_Eagle739 streaming stackMac Studio M3 Ultra 512GB + RTX 5090 PC(32GB RAM,RAID0 NVMe)35长 prompt 预填约 3,800;decode 35(散文)到 60(代码);只用 Mac 约 900 / 60宣称2026-10-30链接
DeepSeek-V4.1-Flash-1017vLLM1× DGX Spark(冷专家放 SSD)30.3基于 ViC305 的 vLLM 运行时,视觉开:真实 17–21K token Hermes 请求 decode 30.3;短 prompt 35–40;32K–128K 预填约 910–1,020;ViC305 转发 AgentSparko 新测称 decode 40、预填 1,020(x.com/ViC305/status/2118028345615229131,属转述,未改主值)宣称2026-11-04链接
DeepSeek-V4.1-FlashProject Maya2× RTX 3090 24GB + 1× RTX 2070 Super(只跑 DSpark 草稿;CPU/内存未写)30Project Maya v1.1.59。两张 RTX 3090 跑主模型,RTX 2070 Super 只跑 DSpark 草稿,n-gram 表放 SSD。decode 30。作者写 Unsloth 新 v3.1 q2 量化,具体档位未写。上下文上限、CPU 与内存未写。无原始日志,记为宣称。宣称2026-11-13链接
DeepSeek-V4.1-Flash-1017Strata1× Radeon AI PRO R9700 32GB + 251GB RAM29.62.25 code 26.1→29.6,agent 23.1→27.0;2.00 code 24.5→27.6,agent 21.9→27.1(0.2.5→0.2.6);加载 2.00 约 55s(原 34s);0.2.4 旧值(2026-10-24,strata-dsv41 0.1.49,IQ2_XS 2.25bpw GGUF,主机 RAM 未注明,https://github.com/Niko1221/Strata/releases/tag/v0.2.4 ):输出约 11官方2026-10-25链接
DeepSeek-V4.1-FlashXolotl1× RTX 4090 + 90GB RAM27最高约 27;专家分层放在显存、锁定内存和 NVMe宣称2026-10-31链接
DeepSeek-V4.1-Flash-1017Tandem-vLLM2× RTX A6000 48GB(主卡 + helper GPU,不需要 P2P 或 NVLink)+ EPYC 7F32(8 核)26.7Tandem-vLLM 0.2.0(vLLM 0.31 专家卸载构建),模型包 ewhacc/DeepSeek-V4.1-Flash-1017-Tandem-VQ2。引擎作者表:单用户 GSM8K decode。helper GPU 模式 26.7 作主值;同机单卡 22.1,tensor parallel 11.8(8 核 CPU 被两卡平分)。A6000 限到 24GB 模拟 3090/4090 显存形状:单卡 16.8 / TP 12.5 / helper 21.7,模拟结果只作备注。上下文未写,不填。无原始日志,记为宣称。同作者 RTX PRO 6000 见 comm-371。限定:帖中未写是否开 DSpark。宣称2026-11-14链接
DeepSeek-V4.1-FlashProject Maya2× RTX 3090 + 128GB RAM26同机对拍:Maya 1.1.54 中位 decode 26.04;Strata 0.2.11 中位 22.75(Strata 读入/总时长约 +19–22%)。tok_s 取 Maya 26.0宣称2026-11-05链接
DeepSeek-V4.1-Flash-1017Tandem-vLLM1× RTX 6000 Ada 48GB + EPYC 7F32(8 核)25.5Tandem-vLLM 0.2.0(vLLM 0.31 专家卸载构建),模型包 ewhacc/DeepSeek-V4.1-Flash-1017-Tandem-VQ2。引擎作者表:单卡单用户 GSM8K decode 25.5。同帖 2× A6000 见 comm-414。上下文未写,不填。无原始日志,记为宣称。限定:帖中未写是否开 DSpark。宣称2026-11-14链接
DeepSeek-V4.1-Flash-1017StrataRTX 5090 32GB + R9 9950X + 96GB DDR525Strata 0.2.4,512K 上下文:decode 25–40(取下限 25;作者说还在调);预填未测宣称2026-10-24链接
DeepSeek-V4.1-FlashProject Maya2× Tesla V100 32GB(150W 限制)+ i9-10940X + 192GB RAM + SATA SSD24.8日文短篇 3 篇 decode 22.8 / 24.8 / 25.0(首次 17.3,缓存预热后变快);思考关,上下文 32K;GPU 未达功率上限,CPU 14 核有时满载宣称2026-10-21链接
DeepSeek-V4.1-Flash-1017 CoderStrataRTX 3090 + 64GB DDR423.2Strata 0.2.10:decode 23.2,预填 659(旧版同量化 6–10 / 约 10)宣称2026-11-04链接
DeepSeek-V4.1-Flash-1017未注明1× RTX 5070 Ti 16GB + Ryzen 5 7600 + 64GB DDR5 + 2× NVMe(Windows 11)20.3专家从 NVMe 流式读取:短上下文 decode 20.3(agent 实际 17–20),快速预设 23–24.7;256K / 512K 16–20;agent 轮次读入约 418。同机原分支约 10,Project Maya v1.1.21 3.9。2026-11-04–06 og 构建:server 短 decode 18.4–18.8(teacher-forced 21.3),256K–1M 已填时 15–19;1M 预填 888;同机 Maya v1.1.54 约 3.3。与本行约 20.3 同量级,不改主值。宣称2026-11-02链接
DeepSeek-V4.1-FlashTandem-vLLM1× RTX 5090 32GB + i5-14600KF + 128GB DDR4-320017与 comm-371 同帖同引擎同量化,硬件改为 5090 + i5-14600KF + 128GB DDR4-3200。作者称 runs, slowly:单用户 17。4 流合计 20 另标,不作单流主值。草稿开关未写,不推断。上下文未写,不填。降为宣称。宣称2026-11-12链接
DeepSeek-V4.1-FlashXeMayaIntel Arc Pro B70 32GB + Arc Pro B65 32GB14.56引擎作者 README 写明:已发布的 0.1.0-alpha.1 构建,B70+B65,常规(非 Coder)IQ2_XXS。decode 14.56 作主值(预填 11.4)。576 token 提示、1,024 token 生成是负载长度,不是配置上下文,上下文不填。仅速度,无正确性检查。同表 GLM 17.4/20.0 与 QFN 76.6/57.1 未写构建版本,不收录、不推断为 alpha.1 或 alpha.2。作者 README 表,无原始日志,故为宣称。宣称2026-11-10链接
DeepSeek-V4.1-Flash-1017vLLM2× DGX Spark(GB10,直连 QSFP/RoCE,专家自本地 NVMe 流式读入)14配方作者 README。Mia 双 Spark 套件 @6f7d1590,vLLM,DSpark,官方 1017 原生权重。测于 2026-11-06,greedy,思考关,bench.py decode。缓存预热后散文 14.0–14.6,取低值 14.0 作主值;代码 20.7–21.8 另标。4 路 合计 23.5,不作单流主值。上下文 262K。表为作者摘要,未见逐次原始日志,故为宣称。补丁哈希 8047fc 未在 README 写明,不记录。宣称2026-11-06链接
DeepSeek-V4.1-Flash-1017llama.cppMinisforum MS-S1 MAX(Ryzen AI Max+ 395,128GB)+ Radeon AI PRO R9700 32GB(USB4v2 外接显卡坞)14生成约 14 / 提示处理约 110–130;128K 上下文;加载约 3.5 分钟;R9700 放前 10 层与输出层,iGPU 放 10–39 层与上下文,CPU 算 4 层专家;两 GPU 间经主机固定内存中转宣称2026-10-22链接
DeepSeek-V4.1-Flash-1017vLLMRTX 5070 Ti 16GB + 128GB RAM + NVMe11.32调优后 11.32(调优前 7.18,+58%);作者称仍为实验性宣称2026-10-21链接
DeepSeek-V4-Flash(V4 非 4.1)ds4 (DwarfStar)1× RTX 3090 + 64GB RAM10.18最终配置(第 7 组)稳态 decode 四类提示总均值 10.18 ± 1.17(代码 10.11 / 数学 9.95 / 散文 11.74 / 合成 8.91),每组 N=20 次预热后运行;基线 1.02。在 7,000+ token 上下文的 ds4-agent 负载下为 5.2–5.5。输出与基线逐位相同(max_abs_diff 0)。tok_s 取总均值宣称2026-10-27链接
DeepSeek-V4.1-Flash-1017StrataRTX 3060 12GB + 46GB RAM + NVMe(Linux)9.9输出约 8–10(代码 9.9,agent 7.8);8K 提示读入 149;DSpark 默认关,开启加 2–13%;热专家放 RAM,其余从 SSD 直读。同一发布说明的“Known limits”写 12GB 卡输出 4–8,与速度表不一致,tok_s 取速度表代码值 9.9官方2026-10-24链接
DeepSeek-V4.1-FlashFront_Eagle739 streaming stack1× RTX 5090 + 32GB DDR5 + RAID0 NVMe(约 25GB/s)7普通 decode 7;router 偏向显存中的专家时约 20(会改变输出);预填最高 1,770宣称2026-10-28链接
DeepSeek-V4.1-Flash-1017Strata1× RX 9070 XT 16GB + 5800X3D + 64GB DDR4 + PCIe 3.0 NVMe71M 上下文,decode 约 7;KV 拼接补丁后新 agent 会话首 token 从约 100 秒降到约 5 秒(约 37K token 系统提示)宣称2026-11-02链接
DeepSeek-V4.1-Flash未注明单 RTX 5090 32GB + 126GB RAM + NVMe5.1冷 5.1 tok/s;缓存热后 21.4转述链接
DeepSeek-V4.1-Flash-1017未注明RTX 4070 12GB + Ryzen 7 5800X3D + 128GB 内存5约 5(衍生版权重,引擎未写明)宣称2026-10-25链接
DeepSeek-V4.1-Flash-1017StrataRTX 5070 12GB + 64GB RAM + Ryzen 5 7600 + NVMe(Windows)4.64输出约 5(代码;DSpark 关 4.64);8K 提示读入 231;RAM 专家库 4.3–4.9,对比 mmap 1.8–2.2;CPU 受限,DSpark 无收益官方2026-10-24链接
DeepSeek-V4.1-FlashInferSSDMac Studio M3 Ultra 96GB + 一对 OWC Envoy Ultra 2TB TB5 SSD(跨端口 RAID 0,一驱动器一端口)4.4InferSSD(版本未写)从 SSD 流式读取专家权重,473GiB 的 Q8_0 装不进 96GB 内存。双 TB5 SSD RAID 0 的 decode 为 4.4–4.6,对比单块 Envoy(与内置 SSD 相当)的 3.5–3.7(约 +23–26%);预填约 +67–77%,4K 提示开始回答约 3.5 分钟→2 分钟。tok_s 取 4.4。作者写 763B;评论里的 11.15GB/s 不是作者本人实测,不用宣称2026-11-07链接
DeepSeek-V4.1-Flash EXL3 3bpwvLLM2× DGX Spark(无头模式,解锁 +2GB)作者称 25–40 tok/s(难散文→结构化),多流 >50;明确“不做精确声明”(无单一数值,tok_s 留空);KV 池约 3M token(最多 6 并发共享)宣称2026-09-18链接
DeepSeek-V4.1-Flash(510GB 权重)未注明1× DGX SparkHTML 游戏 36.6;SQL 31.8;Python 24.3;长故事 17.1;PP 337(>2,000 token 退化)转述链接
DeepSeek-V4.1-Flash未注明3× DGX Spark散文 37.9;4 流合计 78.6(独立 SGLang C1 26.5)转述链接
DeepSeek-V4.1-FlashTensorFold4× DGX SparkMXFP4:C1 峰值 77.2,6 流 214;TensorFold:散文 87,代码 124.8,4 流 246.8;PP 5,800–5,925转述链接
DeepSeek-V4.1-Flash未注明4× DGX Spark(无交换机直连)32 请求时最高 494 tok/s 合计转述链接
DeepSeek-V4.1-FlashMLXM3 Ultra 512GB / M5 Max 128GB~14.6 / 15(SSD 流式)、25(RDMA 张量并行)转述链接
DeepSeek-V4-Flash(V4 非 4.1)oMLXMac Studio M3 Ultra 512GB35(oMLX,Viticci);ds4 短 35.5 / 长 26.6;PP 448.8转述链接

数字来自各条来源。本项目未复测。各行的模型与设置不同。来源等级:官方 = 项目方或厂商;实测 = 发帖人亲测(引擎或配方作者须公开原始数据和复现步骤);转述 = 二手;宣称 = 预测或无复现细节。