DeepSeek:本地推理速度(tok/s),均有出处
截至 2026-11-14,本数据集中 DeepSeek 有 151 条配方,其中发帖人实测 96 条。单机单流文字最快实测:86.1 tok/s,模型 DeepSeek-V4.1-Flash-1017,引擎 Strata(1× RTX PRO 6000 Blackwell Workstation 96GB + Ryzen 7 9800X3D + 61GB RAM(Linux);实测;2026-10-26;来源)。其中 138 条有日期,从 2026-07-31 到 2026-11-14。
| 模型 | 引擎 | 硬件 | tok/s | 指标 | 来源等级 | 日期 | 来源 |
|---|---|---|---|---|---|---|---|
| DeepSeek-V4.1-Flash-1017 | spark-ds41f | 4× DGX Spark(GB10) | 136 | 代码 decode 136;256K 级提示预填 6,221;1M 提示预填 4,892;作者说同条件下 decode 比 TensorFold 快约 8–13%,预填快约 2.6–2.7 倍;_m_naoki_m_ 2026-11-03 用同一 spark-ds41f 配方(vLLM + TileLang,TP4,200GbE RoCE 交换网):32K 预填约 7,127,聚合(另计)C16 约 235.5(x.com/_m_naoki_m_/status/2117429844824977818);另一位测试者(masa_ai_labo)用 spark-ds41f-1030:4× Spark TP4,256K 散文,10 次平均 decode 74.73,冷预填 6,441(x.com/masa_ai_labo/status/2117875287384097030);2026-11-07 引擎作者 christopherowen 用 spark-ds41f-1030(4× Spark,无交换机):单流 78.6(95% CI 75.3–80.2);聚合(另计)C8 总计 198.7、C16 总计 258.1(x.com/christopherowen/status/2119038167047094467)。不覆盖本条代码 decode 136,也不覆盖 comm-084 的 91.3 或 x-190 的 92。spark-ds41f-1107作者同4Spark原生1017权重、1M上限:单流82.5,C16合计273.2;131K预填8661、1M6015(x.com/christopherowen/status/2119210831812370771)。另kevintheo四Spark coding corpus的C16为361(x.com/kevintheo/status/2119363056333476146),任务不同不能互比;不拿聚合覆盖本行136,也不改comm-084或x-190。2026-11-10 kevintheo 用 christopherowen spark-ds41f-1107,4 台无交换机环形:1 个代码提示约 130,16 个不同代码提示 多路合计 361;130 与本行代码 136 在 ±5% 内,只追加。JimHallers 同日 1107(自 main@51be7406 构建):32K 预填 2,700→8,141,16 流 多路合计 141→257,作者称 decode 与旧栈持平。不改 136。 | 实测 | 2026-11-01 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 3× DGX Spark(TP3) | 126.1 | LakyFx 配方 1.2.5(K2a,TensorFold TP3;1.2.5 是配方版本,不是 TensorFold 版本),SparkDash:C1 代码 126.1 / 散文 87.7,tok_s 取代码;聚合(另计)C12 代码 246.2;2026-10-31 配方更新:TP3 预填约 2,200 → 约 3,500,并加入 TP4 配方(x.com/laky_fx/status/2116433866340569124) | 实测 | 2026-10-23 | 链接 |
| DeepSeek-V4.1-Flash | TensorFold | 4× DGX Spark(GB10,无交换机环) | 111 | code 单流 3 次中位:stock SGLang 71.6,Mia SGLang 分支 103,TensorFold 111;聚合(另计)4 流 71.5/116/140。作者 handle 更正为 kevintheo(X 用户 ID 952585832115920897;原记 kevintheoo 为拼写错误,该 handle 不存在)。 | 实测 | 2026-10-26 | 链接 |
| DeepSeek-V4.1-Flash-1017 | vLLM | 2× DGX Spark(GPU 锁 2300 MHz)+ 1 台 EPYC 主机带 2× RTX 3090(NVLink),共 3 台 | 110 | sparkDash 协议,3 次中位数,单流:JSON 138,代码 110,散文(温度 0,思考关)66,散文(思考开)56;聚合(另计)4 流:322 / 192 / 130 / 105。预填 4K 2,827,128K 2,650,256K 2,618。128K prompt 后 decode 62 | 实测 | 2026-10-31 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 4× DGX Spark(GB10,RoCE) | 97.2 | 提示集 v1 之外的新 lane(配方 v0.3.5,引擎 0a0b69a + 2 个补丁,RoCE 双链路):1 用户 97.2(代码单流 143.7);聚合(另计)6 用户 195.5 / 16 用户 230.7;93K 提示约 37 秒读入;KV 池 29,360,128(原 2,097,152);600K 针测通过。上一版 lane(LibertAI EXL3 3.5bpw):C1 89.8 / 93.6(开第二条 RoCE),C6 合计 202.9 / 213.8,冷预填 93K 1,929 / 2,215 | 实测 | 2026-10-27 | 链接 |
| DeepSeek-V4.1-Flash | TensorFold | 2× DGX Spark | 95 | TensorFold:1 流 95、3 流 147、预填充 1,400;vLLM 对照:51 / 86 / 870 | 实测 | 2026-10-03 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 4× DGX Spark(GB10)+ MikroTik CRS804-4DDQ 交换机(1 台) | 95 | 32k 深度单流:code 约 95–115(tok_s 取下限 95),prose 约 67;预填约 3k(32k 提示 11s);1M 上下文 | 实测 | 2026-10-26 | 链接 |
| DeepSeek-V4.1-Flash-1017 | vLLM | 3× DGX Spark + 1× Acer GN100(4 台环形连接) | 92 | 1 个对话 92–104;同机作者自己的 EXL3 4.0bpw(275GB)为 83–88;128K prompt 首 token 18.8 s 对 64.4 s;300K 48.0 s 对 158.3 s;聚合(另计)16 个对话 348 对 202.1 | 实测 | 2026-10-30 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 2× DGX Spark(QSFP 直连) | 88.7 | 单用户 5 次中位数,温度 0.7:json 102.8 / 代码 88.7 / 解释 72.8 / 故事 57.3,tok_s 取代码;8K 提示读入 3.0 s | 实测 | 2026-10-24 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 1× RTX PRO 6000 Blackwell Workstation 96GB + Ryzen 7 9800X3D + 61GB RAM(Linux) | 86.1 | short 解码 86.1(58.5–130.9);32K 预填 2,185.6;Linux。Windows 同卡数据见另一条 | 实测 | 2026-10-26 | 链接 |
| DeepSeek-V4.1-Flash-1017 | NVIDIA Flare | 4× DGX Spark(QSFP 环形直连,无交换机) | 85 | 单流:计数类 92–98 / 代码 85–89;Max effort 生成 114K token 时 62.5;作者称 1–3 流比其 vLLM 配方快 | 实测 | 2026-10-23 | 链接 |
| DeepSeek-V4.1-Flash-1017 | pico-dgx-ds4 | 4× DGX Spark(GB10)TP4,200G RoCE 交换机 | 82 | pico-dgx-ds4 @7a3b982(blaesus/dsgx10 分支,DSGB10)。配方作者 README 头表,温度 0、9 次中位:单用户 chat decode 82,代码 144 另标。sparkDash 1.8.8 口径散文 101 / 代码 166。8 用户不同提示 多路合计 300,16 用户不同提示 多路合计 380,16 份相同提示 多路合计 438,均不作单流主值。头表为 exact/lossless 构建;有损 relaxed-accept 实验已移除。加图像后 chat/code 81.9/144.4。--max-ctx 1048576。头表未逐行写明官方 checkpoint 与 UNCENSORED-FP8 变体。2026-11-11 同配方 live 构建(stack4 + stack5):同一 3 提示 chat 台 27 次中位 84.6、代码 144.0,较原主值 82 高 3.2%,在 ±5% 内,只追加、不改主值,也不另建条。90.3 是另一组 320 条留存提示的均值(exact 86.2 → stack4 89.5 → stack5 90.3),口径不同。16 用户不同提示 合计 368–376,不作单流主值。日期与来源链接不改。https://github.com/Picom-code/pico-dgx-ds4 | 实测 | 2026-11-09 | 链接 |
| DeepSeek-V4-Flash (0731 GA) | 未注明 | 2× DGX Spark | 82 | 单流 82 tok/s(峰值约 95);3 会话 135 tok/s | 实测 | 2026-07-31 | 链接 |
| DeepSeek-V4.1-Flash-1017 | 未注明 | 2× Radeon AI PRO R9700 32GB + 128GB RAM | 82 | 缓存热起来后约 82–91,作者说是实际使用场景,不是简单基准。帖子没写引擎 | 实测 | 2026-11-03 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 2× DGX Spark(GB10,CX7) | 80.7 | sparkDash(CONTEXT=524288,草稿开):单流散文 74.9 / 代码 109.9;4 流合计散文 130.0 / 代码 155.5;冷 prefill 8K–256K 约 2,000–2,183;权重卡注明 experimental、无相对未量化 PPL/KL;同机型 Elevatormusic(comm-038)散文 56.8;yume_arasaki 10-23 更正其复测:散文 70+(不是 58),代码约 107;wei_wang 2026-11-01 按 Mia 双 Spark 配方(EXL3 2.9 bpw,TP=2)复现,单路代码 118(x.com/wei_wang/status/2116925488698449964)。2026-11-09 Mia README 当前 sparkDash 表(CONTEXT=524288,草稿开,温度 0,思考关):单流散文 80.7,改主值;代码 118.1 另标。2 路散文 合计 110.6 / 4 路 合计 154.0,不作单流主值。配方作者第一手表。https://github.com/MiaAI-Lab/DeepSeek-v4.1-Flash-1017-2x-DGX-Sparks | 实测 | 2026-11-09 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | Mac Studio M5 Ultra 256GB | 80.5 | code 80.5,prose 70.5;32K 提示首 token 18.6s;聚合(另计)8 请求 88.3 | 实测 | 2026-10-26 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 4× DGX Spark(GB10,RoCE) | 79.1 | recipe v0.2.0 set b 中位:单流代码 135.9 / 散文 79.1 / 结构化 186.6;4 流合计 141.7,4 流持续 90s 合计 183.1;冷 prefill 8K 2,793、128K 2,679;4.02bpw 比 v0.1.1 的 2.9bpw(pre-1017 Mia 权重)慢约 15–17%;KL 未测;X 帖写代码 136 / 4 流 183;10-23 复核:README v0.3.3 单流代码 135.6 / 散文 78.6,16 流持续合计 255.6;Gael_DDOS 复测散文 78.6 | 实测 | 2026-10-19 | 链接 |
| DeepSeek-V4-Flash (0731) | affinity | Threadripper PRO 9955WX + 128GB + 4× Radeon AI PRO R9700 | 79 | greedy 解码 79 tok/s(temp 1.0 为 63;thinking chat 约 90) | 实测 | 2026-10-16 | 链接 |
| DeepSeek-V4.1-Flash-1017 | spark-ds41f | 4× DGX Spark 级 GB10(2 台 ASUS Ascent GX10、Gigabyte AI TOP ATOM、Lenovo ThinkStation PGX),TP4,CX7 线缆环(无交换机) | 76.3 | Owen 的 spark-ds41f 标准发布 1107(release commit cc20ed18),vLLM 分支 tree ed1bdb7a + TileLang,TP4 线缆环,DSpark 5 草稿,上下文 1,048,576,16 槽。偏离配方:4 KiB 页内核、无内存节省器、GPU 时钟上限 2,200 MHz、镜像自建。思考关,温度 1.0,512 token,decode 各 2 次取中位。decode prose 76.3 作主值;code 76.4。上下文阶梯 decode(prose)16K / 32K / 64K / 128K:76.7 / 81.0 / 76.7 / 74.1。预填 32K 8,355,128K 7,964。8 请求 合计 201.4,不作单流主值。同晚复测 decode 81.5。同测 candidate-54:prose 79.9 / code 89.1,作者称差异在跑间波动内。结果页附 speed2.json、日志与命令 https://niklaslenz.com/v2/deepseek-v41-flash-4sparks-owen-ds41f-1107-tp4-ring/ ,记为实测。同作者 TensorFold 4× Spark 见 x-199。 | 实测 | 2026-11-13 | 链接 |
| DeepSeek-V4.1-Flash-1017-Abliterated | oMLX | Mac Studio M5 Ultra(64 核 GPU)256GB | 75 | decode 75,预填 1,600(默认只有 300,调过设置);同机 Qwen3.8-27B 60(未调) | 实测 | 2026-10-31 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 3× DGX Spark(TP3) | 74.7 | TensorFold TP3:聚合 4 会话 108.6(SGLang TP3 68.3),4 流最高 242.9;未给单流数;2026-11-01 测试者补充单流 74.7(德语,思考开;x.com/HandwerkAiLab/status/2116961530550095915) | 实测 | 2026-10-24 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 3× DGX Spark(GB10,3 根 CX7 直连,无交换机;锁频 2000 MHz) | 73.8 | 单流 set b:代码 122.6 / 散文 73.8 / 结构化 147.6;set a:111.9 / 67.5 / 129.6;2/4/8 流合计 93–102 / 121–136 / 165–181;prefill 8K/32K/128K 2,222/2,257/2,074;同作者 2.9bpw 帖文:TP3 对 TP2 代码 117 对 88、散文 82 对 61 | 实测 | 2026-10-23 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 4× DGX Spark(TP4) | 71 | Mia 11-01 版本(commit fcef6cf,KV 池 2,097,152,16 请求槽):代码 71.0,散文 68.4,HTML 回答 99.8;8K 首 token 2.2 秒;聚合(另计)1 / 8 个同时请求 62.1 / 144.6。同机 vLLM(ondigo-winder 配方):代码 33.6,散文 30.2,8 个同时 114.8。旧值:10-30 代码 69.5 | 实测 | 2026-11-02 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 2× DGX Spark(其中一台 ASUS GX10;QSFP 直连,TP2) | 70.5 | bertholomus 配方 v0.7.2 @30a5bf9:decode code 70.5 / prose 70.6;32K 预填 1,830,TTFT 17.9s;聚合(另计)4 请求 107.4、8 请求 106.3(配方只有 4 个 slot);对照 4× Spark 4.0bpw:82.8 / 80.8 | 实测 | 2026-10-25 | 链接 |
| DeepSeek-V4.1-Flash | Project Maya | 4× RTX 3090 + EPYC(Zen 2) | 70 | 解码 57(stock 33);32K 预填 1,626→2,642;约 30% 专家在 RAM;2026-11-01 内存插满 8 通道(512GB,44→72 GB/s)后,短代码重放 Maya-S 67.7→81.5(各 1 次,x.com/superalesha/status/2116937129569738863);2026-11-03 新帖:4×3090(PCIe 3.0,无 NVLink),Maya v1.1.51 原版与作者改版 decode 都约 70;作者改版预填 16K 1,029 → 1,262、116K 1,753 → 2,651、272K 1,406 → 2,888;历史主值 57(x.com/superalesha/status/2114402413742362907) | 实测 | 2026-11-03 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Project Maya | 2× RX 7900 XTX 24GB TP2(各 PCIe 4.0 x4,−100mV、350W 上限)+ Ryzen AI Max+ 395 128GB(8060S 作 helper) | 69.4 | Project Maya v1.1.56(22fc101f)+ 开放 PR #867/#904/#945/#967/#968(tag maya-ds4-exl3-1m-20261112 = 3c4e104)。公开可达提交视为版本。--bench 两次加载 decode 均为 69.4,作主值。配置 --max-context 1048576,DSpark on。长提示 64-token 复制检索最高 85.8 是 structured task,不作单流主值。#967 helper 求和与卡上不逐位一致(作者自注)。同机旧值:2026-11-07 v1.1.56 + PR #867/#904(配方 f5aa4cb,量化 rev 9183eaa),--bench 散文解码 59.6,预填 1,656@160K、651.5@8K,130K 代码 50.3;64-token 复制检索峰值 79.2 / 1.04M 时 67.4 是结构化任务,不作主值(https://github.com/mw00/project-maya/issues/905 )。同一 issue #969 中 v1.1.56 单独构建(#871 旧原版配方)解码 49.8。有 --bench 表与配方。 | 实测 | 2026-11-12 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | Mac Studio M5 Ultra 80C 256GB | 67.5 | recipe-harness 单流(草稿开、思考关、greedy):散文 67.5 / 代码 87.5 / 结构化 77.6 / 列表 94.4;4 流合计散文 93.5 / 代码 101.4;冷 prefill ~2k–131k(思考关)约 1,093–1,256;1M 针测通过;仓名含 mlx,正文为 TensorFold Metal。2026-11-13 tanchunsiong 用同一 BobClawblaw 配方(TensorFold 原生 Metal,Mac Studio M5 Ultra 256GB)称 decode 126–147;未写 TensorFold 版本、提示类型与草稿设置,口径不清,只作备注,不改主值。https://x.com/tanchunsiong/status/2121072640773574980 | 实测 | 2026-10-19 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 3× DGX Spark(GB10 128GB)TP3 | 66 | TensorFold TP3 集成配方(README 基准表 @461d8cd;其后 02b133f 为调度修复,基准早于此)。配方作者表:单请求散文 decode 66,代码 101、结构化 147 另标。短合成提示,thinking off,384 token 上限。C4/C8/C12 多路合计 154/201/222,均不作单流主值;C12 单请求中位 23.4。6.4M 为共享 KV 池,不是单请求上限,上下文设置未写死,不填。最大输出 65,536。 | 实测 | 2026-11-10 | 链接 |
| DeepSeek-V4.1-Flash-1017 | vLLM | 2× DGX Spark(TP2) | 64.9 | sudoingX vLLM 配方 v2.0 @f8f20b3,思考关单独测速:代码 64.9 / 散文 62.2;聚合(另计)8 请求 66.3 | 实测 | 2026-10-23 | 链接 |
| DeepSeek-V4-Flash | vLLM | 2× DGX Spark(QSFP 直连) | 63.7 | 单流 63.7 tok/s(带宽上限推算 74.7,达 85%);同机 V4.1-Flash 因内存失败 | 实测 | 2026-09-28 | 链接 |
| DeepSeek-V4.1-Flash | SGLang | 4× DGX Spark(100 GbE 交换机) | 62.5 | 单流散文 ~62.5 tok/s(tuned;base ~32.6;对照 Moorhead ~58;16 slots 散文 ~228 / 代码 ~293,未达媒体 494) | 实测 | 2026-10-16 | 链接 |
| DeepSeek-V4.1-Flash-1017 | SGLang | 4× DGX Spark(GB10,200G RoCE) | 62 | 单路解码:代码 106 / 文章 62 tok/s;8 并发合计 190–290;prefill 约 5,300–5,500(8K–128K),240K 约 4,850;TTFT 短提示约 0.22 s、128K 约 24 s | 实测 | 2026-10-18 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Project Maya | 2× RX 7900 XTX 24GB TP2(各 PCIe 4.0 x4,−100mV、350W 上限)+ Ryzen AI Max+ 395 128GB(8060S 作 helper) | 60.1 | 与 comm-366 同机同 issue 的 --bench 表,v1.1.56,无额外 PR。GSQ-RCO IQ2_XS decode 60.1,KL 0.227。配置 1,048,576。量化不同,单列。 | 实测 | 2026-11-12 | 链接 |
| DeepSeek-V4.1-Flash-1017 | vLLM | 2× DGX Spark | 59.2 | v1.2 set b:散文 59.2 / 代码 100.7 / 结构化 141.3(同会话 launch 构建 58.0 / 103.0 / 142.6);KLD vs native 1017 0.0243、top-1 95.47%(同面板 LibertAIDAI 2.9 为 KLD 0.0304);v1.2 prefill 未重测;v1.1 的 8K/32K 2,090/2,092 见 x-059 | 实测 | 2026-10-20 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 2× DGX Spark(GB10,双 fabric 链路) | 59.1 | 调优版,思考关、temp 0、400 token 输出上限,两次独立运行中位:C1(单路)散文 59.1 / 代码 103.4 / 结构化计数 91.0;合计 C2/C4/C8:代码 149.7 / 193.3 / 267.0,散文 85.0 / 110.1 / 139.1;冷 prefill 72K 929;早期对照(64 token 输出)C1 解码 TensorFold 58.1 vs vLLM 36.9 | 实测 | 2026-10-18 | 链接 |
| DeepSeek-V4.1-Flash(sudoingX 2.7-bit 专家混合位宽) | vLLM | 2× DGX Spark | 57.9 | v1.1:代码 103.0 / 散文 57.9 / 结构化 141.0 tok/s(DSpark 开);prefill 8K 2,090、32K 2,092 tok/s(v1 1,763 / 1,773);32K 首 token 15.7 s | 实测 | 2026-10-13 | 链接 |
| DeepSeek-V4.1-Flash(sudoingX 2.7-bit 专家混合位宽) | vLLM | 2× DGX Spark | 57.2 | 复现 sudoingX recipe,单流思考关、3 次 <1% 差:结构化 135.5 / JSON 115.2 / 数学 114.0 / 代码 91.3 / 散文 57.2;关草稿约 44;8K→240K 散文 57.6–61.5;TTFT 8K 4.3 s / 35K ~18 s / 240K 91.8 s;Hermes Agent 回合 82–94 | 实测 | 2026-10-15 | 链接 |
| DeepSeek-V4.1-Flash-1017 BLACKFOLD(去拒答) | TensorFold | 2× DGX Spark(GB10,双 RoCE 链路) | 57.1 | 125K 上下文 A/B(4 次,temp 0):单流代码 92.8 / 散文 57.1(Python 引擎 89.6 / 55.2);2 流每路代码 69.8;125K 冷 prefill 62.0 s;输出与参考逐 token 一致;作者称散文与 lucataco 持平 | 实测 | 2026-10-20 | 链接 |
| DeepSeek-V4.1-Flash-1017 | vLLM | 2× DGX Spark(GB10;GPU 锁频 2000 MHz) | 57 | 散文约 57 tok/s(1 流)/ 合计约 91(3 流);Elevatormusic 同脚本:散文 50.6、代码 82.4–88.9(对照 TF 56.8/92.2,TF 仍更快);KLD 0.0201 / top-1 95.96%;冷 314K prefill 2,066;本机锁 2000 MHz;Elevatormusic 日志约 2.4 GHz(其帖未写死) | 实测 | 2026-10-19 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 2× DGX Spark(GB10,CX7 直连) | 56.8 | 单路解码(6 次构建中位,思考关):散文 56.8 / 代码 92.2;思考开 54.2 / 71.6;同机同权重 vLLM(MiaAI kit)27.0 / 39.9;合计(已发布引擎)2/3/4 路 散文 73.5 / 82.3 / 94.4、4 路代码 140.3;冷 prefill 32K 2,165(5 次中位,2,065–2,201);1,035,020 token 针测通过(TTFT 13.6 分钟) | 实测 | 2026-10-18 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 2× DGX Spark(GB10,CX7) | 55.4 | 8 slots、400K 池、含视觉塔:1 路 散文 55.4 / 代码 103.5 / 结构化 62.7 / 列表 70.9;合计 2 路 81.5 / 126.2,4 路 108.8 / 163.8,8 路 134.8 / 202.7(散文 / 代码);首字 0.19–0.26 s;不含视觉塔代码 1 / 4 路 98.1 / 158.5 | 实测 | 2026-10-18 | 链接 |
| DeepSeek-V4.1-Flash-1017 (abliterated) | oMLX | 1× Mac Studio M5 Ultra 256GB | 55.3 | oMLX 0.7.4.dev1 完整 bench 表:pp1K decode 55.3 / 预填 640.8;pp4K decode 62.1 / 预填 1,306。同帖两台 M5 Ultra + TB5 RDMA 的 prefill 反而比单机差,开 CEP/INT8 后 decode 也变慢。tok_s 取 pp1K 的 55.3 | 实测 | 2026-11-05 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 2× ASUS Ascent GX10(GB10) | 55.2 | 单流代码 92.9 / JSON 104.3 / 散文 55.2;首 token 0.23 s;代码测试时两台 GPU 合计约 78W | 实测 | 2026-10-20 | 链接 |
| DeepSeek-V4.1-Flash-1017 | ds4 (DwarfStar) | Mac Studio M5 Ultra 256GB | 54.5 | kernelpool ds4 fork @72ccf36,batched 模式 5 槽:单流代码 54.5 / 散文 54.5;聚合(另计)4 请求 56.2、8 请求 50.5;32K 预填 1,475 | 实测 | 2026-10-24 | 链接 |
| DeepSeek-V4.1-Flash-1017 | ExLlama | 2× DGX Spark | 50.3 | 按草稿深度:无草稿 31.3;散文最高 50.3(深度 2);代码最高 87.3(深度 6);结构化任务最高 131.6(深度 5,只适用于结构化输出,不是通用速度)。tok_s 取散文 | 实测 | 2026-10-28 | 链接 |
| DeepSeek-V4.1-Flash | vLLM | 2× DGX Spark | 48.5 | 35K agent 提示 48.5 tok/s;17K–559K 深度约 30–32.6 | 实测 | 链接 | |
| DeepSeek-V4.1-Flash-1017 | Project Maya | 1× RTX PRO 5000 72GB(eGPU,PCIe 当前 x4)+ Ryzen AI Max+ 395 128GB(CachyOS) | 48.3 | Project Maya v1.1.54,DSpark on,--max-context 262144。主值取作者附上的官方 --bench:greedy、thinking off,3 段最多 256 token 回答均值 48.3(代码 47.1 / 说明 43.5 / HTML 54.2);预填 150@2K、506@8K。issue 表与截图写 decode 70、预填 862,与 --bench 不符;日志里可见实时回答约 63–73,不作主值。表中「提示长度 500k」与 256K 上限矛盾,不采用。maya-bench.txt 与日志在评论附件。 | 实测 | 2026-11-12 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Project Maya | 1× RX 7900 XTX 24GB (Radeon 8060S helper) + Ryzen AI Max+ 395 + 128GB RAM | 45.6 | Maya 1.1.56(22fc101f)+#904,build f5aa4cb。仅一张XTX,PCIe4 x4;Ryzen AI Max+395的Radeon8060S充当helper,128GB共享内存、113GB helper池记在此处。--bench散文decode45.6,stock43.3;上下文上限1048576,bench输入2K/8K。64-token检索峰55.7与1.04M时51.1仅为结构化任务,不作主值。约29GB专家仍在文件,短提示固定I/O约16秒。与comm-366双XTX不同。 | 实测 | 2026-11-07 | 链接 |
| DeepSeek-V4.1-Flash-1017(abliterated) | Project Maya | Ryzen AI Max+ PRO 495(Radeon 8065S,192GB,160GB 给 GPU,Windows 11) | 43.2 | Maya v1.1.37 --bench/--report,HIP:decode 43.2(代码 46.1 / 50.9,散文 32.6);预填 453(2K 278)。全部专家在 GPU 内存。同机 GLM-5.3-Flash Maya-S-v2 31.5 | 实测 | 2026-11-03 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | RTX 5090 + 128GB DDR5 + i9-13900KF(Windows 11) | 40.66 | Strata Terminal 0.2.4.1:3 次 34.57 / 40.66 / 42.57,中位数 40.66(高于同类配置的其他报告,但 3 次一致且附截图,可信) | 实测 | 2026-10-24 | 链接 |
| DeepSeek-V4.1-Flash | MLX | 2× Mac Studio M3 Ultra 512GB | 40 | 40–66 tok/s 解码(接受率 70–81%);~1,100 PP | 实测 | 链接 | |
| DeepSeek-V4.1-Flash-1017 | Strata | 1× RTX PRO 5000 72GB + Ryzen 9 9950X3D(Linux) | 39.05 | Strata Terminal 0.2.4.2,DSV41 engine 0.1.49.2,512 token 输出,n=3:DSpark 关 39.05、开 42.77(API 级);240K 检索读入 928.5 | 实测 | 2026-10-25 | 链接 |
| DeepSeek-V4.1-Flash-1017 | vLLM | 4× Tesla V100 SXM2 32GB(SXM2 转 PCIe 载板,NVLink)+ Threadripper PRO 3945WX + 256GB DDR4 | 38.3 | 1Cat-vLLM 分支(#1277),TP4,单用户:8K 思考关 38.3(36.6–39.0),75K 35.8,思考开 31.9–37.9;预填约 1,000–1,200(4K–128K);1/3 专家放主机内存;每卡 150–175W;上下文 524,288 | 实测 | 2026-11-02 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | Threadripper 3960X + RTX 5090 + RTX 3080 Ti + 192GB DDR4(Windows) | 38 | 6 轮编程对话平均约 38(37.4–38.7),热身后最高 42.4;打补丁前约 26–30;原版默认 19.4,只调设置 29.1;预填最高 772.1 | 实测 | 2026-10-30 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 1× RTX 5090 32GB + Xeon Gold 6330 + 384GB RAM | 37 | strata-dsv41 0.1.55:decode 中位约 37(32–42,含 100K–180K 提示);139K 冷提示预填 1,612 | 实测 | 2026-11-01 | 链接 |
| DeepSeek-V4-Flash (0731) | affinity | Threadripper PRO 9955WX + 128GB + 2× Radeon AI PRO R9700 | 36 | 解码 36 tok/s(约 45% 专家在显存,其余自 51GB pinned host 池流式卸载) | 实测 | 2026-10-16 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 1× RTX 3090 Ti 24GB + Threadripper 3990X + 128GB DDR4 | 35 | decode 约 35(MTP/DSpark 开) | 实测 | 2026-11-01 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 1× RTX 5090 32GB | 35 | Strata 0.2.10 主值 35(散文 decode 35–38,取下限);历史:长生成平均约 50–51(2.2K token 测试,256K 上下文);预填 1,350。数字取自帖文,截图未核;Strata 0.2.10(2026-11-03):散文 decode 35–38,复制/agent 68;10–36K 预填 890–2,264(x.com/lyesbahi/status/2117672208592220602) | 实测 | 2026-11-03 | 链接 |
| DeepSeek-V4.1-Flash-1017 | 未注明 | 2× RTX 3090 + 256GB 八通道 DDR4 | 35 | 1M 上下文:decode 约 35,预填约 900。帖子没写引擎 | 实测 | 2026-11-03 | 链接 |
| DeepSeek-V4.1-Flash | oMLX | Mac Studio M3 Ultra | 33 | 约 6 → 33.0 tok/s(32K 6.17→33.0;64K 5.58→33.0) | 实测 | 链接 | |
| DeepSeek-V4.1-Flash-1017 | TideLM | 2× DGX Spark(GB10,TP) | 31.8 | 3 次中位,1,024 token,temp 0.6:散文 31.8 / 代码 49.0;8K 提示首 token 4.8 秒。tok_s 取散文 | 实测 | 2026-10-27 | 链接 |
| DeepSeek-V4-Flash (0731) | 未注明 | 1× DGX Spark | 31.5 | x1 31.5 tok/s,TTFT 408ms;x2 合计 29.8 | 实测 | 2026-08-21 | 链接 |
| DeepSeek-V4.1-Flash | Strata (Strata-DS fork) | RTX 5090 Laptop 24GB + Ryzen 9 9955HX3D + 64GB RAM + 2TB NVMe | 31.2 | 冷启动短提示 30.0–32.0(5 次中位;代码提示 31.2);服务运行后 API 33.2–39.3;连续 30 分钟 37.6;4K/32K/128K/256K 提示解码 26.1/25.6/25.2/24.4,读入 244/844/904/752 tok/s;跳过开 HumanEval+ 90.2%(关 91.5%),GSM8K 98.0%(关 97.5%) | 实测 | 2026-10-16 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata (Strata-DS fork) | 1× DGX Spark(GB10,128GB 统一内存,4TB NVMe) | 30.8 | 真实编码 agent 会话 48 轮(上下文 10K–91K)共 70,211 token 平均 30.8 tok/s(每轮 23.6–36.4,中位 28.6);单次测:上下文 8K/32K/64K/128K/250K 解码 24.2/27.4/27.4/27.3/22.9;agent 每轮新增 ≤50 token 首字中位 0.57 s,同一 10K 系统提示开新会话 0.25 s;冷 prefill 约 500 tok/s(250K 8.3 分钟);vs 官方 MXFP4 KL 0.074 / top-1 88.6% | 实测 | 2026-10-18 | 链接 |
| DeepSeek-V4-Flash(V4 非 4.1) | ds4 (DwarfStar) | Mac Studio M4 Max 128GB | 30 | ~30 tok/s 写;37K 提示读入约 2 分钟 | 实测 | 链接 | |
| DeepSeek-V4.1-Flash-1017 | oMLX | 2× Mac Studio 256GB(芯片未注明) | 30 | decode 约 30(作者对比云端 171);ctx 和互联方式未给 | 实测 | 2026-10-27 | 链接 |
| DeepSeek-V4.1-Flash-1017 | vLLM | 4× DGX Spark(GB10,无交换机 QSFP 环) | 29 | 单流:散文 29–43 / 代码 65–67;4 流代码合计 115–127;111,840 token 长任务均速 46.5(代码段约 80);32K prefill 3,655;默认关 arx 约慢 3% | 实测 | 2026-10-20 | 链接 |
| DeepSeek-V4.1-Flash | 未注明 | 2× DGX Spark | 29 | 解码 29 tok/s prose / 41 code;预填充 2,000 tok/s;top-token 一致率 92%,KLD 0.07 | 实测 | 2026-10-03 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Project Maya | 1× Tesla V100-PCIE-32GB(PCIe 3.0 x16,限 150W)+ Xeon E5-2680 v4(14 核)+ 128GB DDR4-2400(HUANANZHI X99-QD4) | 23.5 | Project Maya v1.1.61 @c5842c5(maya-report.txt 记录),配置 context 262144,单 GPU。--calibrate 后 maya-bench.txt:3 个回答逐个 decode 22.0 / 21.3 / 27.1,均值 23.5 作主值(greedy,思考关,每个回答最多 256 token)。安装默认设置 24.5(issue 表,无对应附件)只作备注。预填 2048 / 8192 token:校准后 200 / 510,默认 164 / 355。nvidia-smi 报告确认 V100-PCIE-32GB,PCIe 3.0 x16。CPU 侧专家放内存(复制 99.5GB)。附 maya-report.txt 与 maya-bench.txt,记为实测。 | 实测 | 2026-11-13 | 链接 |
| DeepSeek-V4.1-Flash-1017 | gufo | 1× Bosgame M5(Strix Halo,128GB) | 23.3 | greedy,HTTP 实测:深度 0 / 32K / 128K:预填 pp2048 1,077 / 993 / 700;decode 23.3 / 22.9 / 21.7;DSpark 混合文本 28.0 / 30.1 / 27.2;DSpark 重复文本(另计,偏高)65.3 / 59.6 / 55.2;聚合(另计)8 用户 78.5;改写源文件 67.6。tok_s 取深度 0 的 decode | 实测 | 2026-10-27 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 1× AMD Instinct MI50 32GB(gfx906,ROCm 7.1)+ 62GB RAM + NVMe(约 4GB/s) | 22.6 | decode:默认 15.8;--cpu-threads 24 为 16.7;加 --experts 5 为 19.6;再开 DSpark(conf 0.65)为 22.6–23。预填 7.5K prompt 约 170。单次测量,200 token 回答,最长测到 8K | 实测 | 2026-10-29 | 链接 |
| DeepSeek-V4.1-Flash-1017 | ds41 | 2× RTX 3090(PCIe 4.0 x16 + 3.0 x4)+ 128GB DDR4-3200 + i7-12700K + NVMe | 22 | 通用散文解码 22–24 tok/s;3,000-token agent 提示 31.5(引擎基准,热专家按 agentic 负载排序,偏乐观);prefill 3,000 token 340;vs FP8 KL 0.462 / top-1 71.5% | 实测 | 2026-10-18 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 3× Tesla V100 32GB PCIe 3.0 + 2× Xeon E5-2696 v3 + 128GB DDR3(Windows 10) | 22 | Strata 源码 @7dd5cf1(v0.2.4.2,sm_70,CUDA 12.4),layer split auto,--dspark auto:3072 token 回答 22.0、1024 token 17.4;预填 7K 176。同机 maya-ds4 v1.1.26(Maya-S):27.5 / 24.2 / 425 | 实测 | 2026-10-25 | 链接 |
| DeepSeek-V4.1-Flash | Strata | Radeon PRO W6800 32GB(gfx1030)+ 192GB RAM(Windows 11) | 20.2 | 源码编译 gfx1030 引擎,strata_bench --long:--dspark on 短 chat 中位 20.2(auto/off 17.1);一次实时长回答 24.9(关 drafter 15.7)。专家放 192GB 内存 | 实测 | 2026-11-04 | 链接 |
| DeepSeek-V4.1-Flash | Strata | RTX PRO 4500 32GB + RTX PRO 4000 24GB,HP Z820(2× Xeon E5-2697 v2,无 AVX2;PCIe 3.0 x16) | 19.9 | Strata 0.2.13.1 / engine 0.1.59.1,AVX1 源码构建。tools/strata_bench.py --long,3 次中位,思考关,单请求。6 专家(baseline 与 fill 短对话同为 19.9)作主值;5 专家 --speed faster 短对话 31.3、agent 26.5 另标。上下文 64K。Engram 实测热路径在内存。0 失败请求。社区格式,非 standard-v1。塔式工作站,未见机架证据。 | 实测 | 2026-11-10 | 链接 |
| DeepSeek-V4.1-Flash(REAP 256 专家剪枝) | vLLM | 2× DGX Spark | 19.2 | c=1、DSpark k=5、32K:代码 30.4 / 推理 28.3 / 聊天 27.0 / 散文 19.2 tok/s(计数类 49.4,作者警告勿用);prefill 700–2,200;25K 提示 TTFT ~22 s | 实测 | 2026-09-12 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | RTX 4000 Ada 20GB + Xeon w7-3455 + 255GB RAM(Windows 11) | 15.6 | decode 15.6–17.4(两次会话,8×200 token 中位);预填 3.8K 237.5 / 20K 506.2;显存内专家 1,283/15,360,其余在内存。tok_s 取区间低值 | 实测 | 2026-10-27 | 链接 |
| DeepSeek-V4.1-Flash | llama.cpp | ACEMAGIC Strix Halo 128GB(€2,300)+ 快速 SSD | 15 | >15 tok/s,峰值 31.7 | 实测 | 链接 | |
| DeepSeek-V4.1-Flash | Strata | AMD Ryzen AI Max+ 395 128GB(Strix Halo,Windows) | 15 | 代码 decode 15–21;64K 上下文预填 214–233 | 实测 | 2026-10-29 | 链接 |
| DeepSeek-V4.1-Flash | Strata | 1× RTX 5060 Ti 16GB(PCIe 4.0 x8)+ Ryzen 9 7900X + 64GB RAM(专家/Engram 自 Gen5 NVMe 流式读入) | 14.8 | Strata 0.2.13.1 / engine 0.1.59。tools/strata_bench.py --long,3 次中位,思考关,单请求:短对话 decode 14.8(13.6–16.9);agent 16.0。安装默认:上下文 131,072,视觉开,自动 RAM store,DSpark 自动。专家与 Engram 从 Gen5 NVMe 流式读入,与同模型 Z820 内存驻留路径不同。0 失败请求。社区格式,非 standard-v1。 | 实测 | 2026-11-10 | 链接 |
| DeepSeek-V4.1-Flash | Strata | MacBook Pro M5 Max(40 核 GPU)128GB | 14.3 | 经服务器(greedy,思考关)短回答和代码 14.3–19.0,3,000 token prompt 预填 268;默认设置只有 5.0–6.5。引擎 CLI:默认 6.66,DS4_BUSY_CAP=2000 为 18.05 | 实测 | 2026-10-31 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | RTX 4090 Laptop 16GB + i9-13900HX + 94GiB RAM(Gentoo) | 13.6 | 2.25 默认:chat 13.6 / agent 16.0 / 带思考代码 16.2;--experts 6:11.2–13.7;2.00 默认:14.9–17.3。预填 4K / 32K:436 / 800(2.00:463 / 833)。速度很依赖内存 | 实测 | 2026-10-28 | 链接 |
| DeepSeek-V4.1-Flash | Strata | 2× RTX 4060 Ti 16GB(--tp 2)+ Xeon W-2145 + 110GiB(WSL2) | 13.2 | Strata 0.2.13.1(628f749),启动器拉取的 DeepSeek 引擎包。作者标明非标准测量(复用 Qwen 协议夹具,无 DeepSeek 标准协议)。第一轮 short decode 中位 13.2(12.9–13.3)作主值;约 15 分钟内漂到 7.4–8.4,原因未测,已写入。配置 131,072,q4_0 KV,--tp 2。results.jsonl 与引擎日志在 PR。 | 实测 | 2026-11-12 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 1× Intel Arc Pro B70 32GB + Xeon w5-3435X(容器限 192GiB / 24 CPU,主机 503GiB) | 13 | Strata 草稿 PR #5907(head 28952cee;实现提交 730e44a8,基于上游 13eedf55),SYCL JIT 构建,engine 0.1.59.1。配置 16384,1 槽,top-6,DSpark 开、confidence 0,greedy,思考关。1024/256 decode 中位 13.0(12.3–14.5,3 次)作主值;4K 12.6,8K 12.4;读入 1K/4K/8K 为 197/377/601。原始记录 results.jsonl、引擎计时与配置在 PR 提交的 bench/results 目录。https://github.com/Niko1221/Strata/blob/28952cee2c09dad4df8d60f4541a08d1dc8a3bde/bench/results/2026-11-13-community-b70-deepseek41-sycl-1k4k8k/README.md | 实测 | 2026-11-13 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | Radeon AI PRO R9700 32GB + RX 9070 XT 16GB | 13 | 生成 10.1–15.7(均值 13.0);prompt 处理 18.0;ELYZA 10 题 + 难题 5 题 | 实测 | 2026-10-28 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | GMKtec K12: Ryzen 7 H 255 + Radeon 780M iGPU (gfx1103) + 80GB DDR5-5600 (Proxmox LXC) | 11 | strata-dsv41 0.1.58(146df3c,TheRock ROCm 7.10.0a20251121,STRATA_EXPERIMENTAL_GFX1103=1)。主值取 row7 代码提示 150 tok decode 11.0(--dspark on + HIPK);同表散文 300 tok 为 8.5,不作主值。drafter off 约 6.4–6.7。预填 7K/19K 97.8/121.5(HIPK)。issue 含测量脚本;同机 #5639 strata_bench short chat 7.3 / agent 7.4 分列。 | 实测 | 2026-11-09 | 链接 |
| DeepSeek-V4.1-Flash | Strata | 1× AMD RX 7900 XTX 24GB | 10 | 短对话 decode 10.0(8.0–12.3);agent 追问 14.3;预填 4K 164.6 / 16K 282.3 / 32K 252.7;1,896 个专家在显存,其余经 PCIe 读 | 实测 | 2026-10-31 | 链接 |
| DeepSeek-V4.1-Flash | Strata | 1× RTX 5070 12GB + i7-12700K + 64GB DDR4(Linux,PCIe gen5) | 10 | 同机对照 #5435:strata_bench 短 chat decode 中位 10.0(9.1–10.8);mtp-bench 总体 server_decode 12.2(单题 10.1–12.5);起草关闭。tok_s 取短 chat 10.0 | 实测 | 2026-11-06 | 链接 |
| DeepSeek-V4.1-Flash Coder | Strata | 1× RTX 5080 16GB + 127.4GiB RAM(Windows 11;CPU 未写) | 9.8 | Strata engine ds4-0.1 / 0.1.56。社区套件,3 次中位。16 GiB 卡默认 Faster(5/6 专家)短对话 decode 9.8(8.9–11.2)作主值;满质量 6 专家 8.4(7.9–8.8)另标。agent 10.4 / 8.4。思考开,温度 0,上下文 131072。CPU 型号未写,不从同作者其他机推断。速度套件未做正确性检查。 | 实测 | 2026-11-11 | 链接 |
| DeepSeek-V4.1-Flash | Strata | 1× RTX 5080 16GB + Ryzen 7 7800X3D + 127.4GiB RAM(Windows 11) | 9.4 | Strata 0.1.59(d2f09647,tag v0.2.13 worktree)/ DeepSeek engine ds4-0.1(0.1.56)。tools/strata_bench.py --long --think,与同机 Coder 集 comm-331 同一协议。chat decode 中位 9.4(9.0–10.0,n=9)作主值;agent decode 9.6(9.2–10.9,n=15)另标。默认 5 experts、DSpark 未加载(卡上装不下 115GB 专家集)。配置的上下文上限未写,不填。results.json 在 PR。 | 实测 | 2026-11-12 | 链接 |
| DeepSeek-V4-Flash-0731-Fractal | llama-modchip | AMD Ryzen 9 9955HX + 64GB DDR5, 纯 CPU (0 GPU) | 9.06 | 窗口外(v2.4.0 发于 2026-11-04)补录:引擎作者 README 表。无损 Top-6 纯 decode 9.06–9.95,tok_s 取下端;Stockfish-PVS 11.5–14.7 另标。256K 时约 58.9 GiB RSS。不在 841 基线中。 | 实测 | 2026-11-04 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | RTX 5090 D v2 24GB + 128GB DDR5-4800 + i7-14700KF(Windows 10) | 8.6 | Strata 0.2.4(DSV4.1 engine 0.1.49)默认设置(--dspark auto):256 token 流式,decode 短提示 8.6 / 1.3K 7.9 / 4.9K 10.2,tok_s 取短提示;4.9K 预填 240;RAM 存储只长到约 50GiB,作者怀疑没跑满 | 实测 | 2026-10-24 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | Radeon AI PRO R9700 32GB(PCIe 5.0 x16)+ RX 7900 XTX 24GB(PCIe 3.0 x1)+ Ryzen 5 7600X + 62GB DDR5 + Kingston NV3 2TB(Ubuntu 24.04) | 8.29 | 短提示(54 token,256 新 token)解码,DSpark 关(与 comm-079/080/082 同口径):--ssd-cache 32 两次 8.85 / 7.72,tok_s 取中值 8.29;发布默认 6.27;另开 DSpark(--dspark-conf 0.65)三次 9.82–9.94;提示读入约 2;思考关、贪心解码,数字取引擎自身 decode 行 | 实测 | 2026-10-24 | 链接 |
| DeepSeek-V4.1-Flash-1017 | llama.cpp | RTX 3090 24GB + i9-9900X + 128GB DDR4 | 7.2 | 7.2;思考关,上下文 16K;作者称答案里有物理错误,实用性低 | 实测 | 2026-10-21 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | RX 9060 XT 16GB(gfx1200)+ Ryzen 5 5600 + 94GiB DDR4(Linux) | 6.2 | decode 6.2–6.6(6 专家)/ 6.8–7.5(5 专家),受 6 核 CPU 限制;预填随 prompt 从约 48 升到约 230;两天无引擎错误 | 实测 | 2026-10-28 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 1× RTX PRO 6000 Blackwell Workstation 96GB + Ryzen 9 9950X3D + 128GB DDR5(Windows 11) | Windows:预填大多 40–130(13.5K 新提示 112.5→126.5,PCIe x8→x16),解码 27–61;作者报告为引擎问题,tok_s 不填 | 实测 | 2026-10-26 | 链接 | |
| DeepSeek-V4.1-Flash | Tandem-vLLM | 1× RTX PRO 6000 96GB + EPYC 9534 | 124 | Tandem-vLLM 0.1.1(vLLM 0.31 专家卸载构建)。引擎作者表:单流 system decode,DSpark k=3 为 124,作主值;无草稿 65 写入本行,不另建条。4/8/32 流无草稿合计 182/284/414,不作单流主值。GPQA 官方 81.3% → VQ 73.2%(FP4_TOP=52 时 76.8%)写入描述。上下文未写,不填。有对照表,无原始日志,降为宣称。2026-11-14 同作者 Tandem-vLLM 0.2.0 帖:同机单卡单用户 GSM8K decode 75.5;帖中未写是否开 DSpark,口径与主值不同,只作备注,不改主值 124。同帖 1 张 RTX PRO 6000 32 流 合计 414。同帖 2 卡 tensor parallel 93.1:2 张 RTX PRO 6000 按当日最低价 $17,496/张 已超过 $30k,未收。https://www.reddit.com/r/LocalLLaMA/comments/1xvjoa7/ | 宣称 | 2026-11-12 | 链接 |
| DeepSeek-V4.1-Flash-1017 | TensorFold | 4× GB10(DGX Spark,TP4) | 121 | TensorFold TP4 v0.3.5:decode 约 121;预填 8K 2,668 / 32K 2,900。注:niklaslenz 10-25 测 bertholomus 4× Spark 4.0bpw 为 82.8 / 80.8,quant 和版本不同,不能直接对比 | 官方 | 2026-10-24 | 链接 |
| DeepSeek-V4.1-Flash-1017 | SGLang | 4× DGX Spark(RoCE 双链路,TP4) | 91.3 | sparkDash 1.8.8,256 新 token,温度 0,思考关:c1 散文 91.3 / 代码 142.9 / json 130.6(3 次中位数),tok_s 取散文;聚合(另计)c16 散文 359.7 / 代码 471.6 / json 726.9;冷预填 4K 4,798 → 128K 6,291(重复 token 填充,偏高) | 宣称 | 2026-10-24 | 链接 |
| DeepSeek-V4.1-Flash-1017 | spark-ds41f | 4× DGX Spark TP4,MikroTik CRS812-DDQ 4× 200GbE RoCE | 89.2 | spark-ds41f e90b1e8a + 本地 HEAD 9b13cc2c(镜像 spark-ds41f:1107-local;改动仅 sudo/memguard 与 QEval,无内核改动)。运行配置 1M 上下文,DSpark 5 草稿,TP4。主值取作者更正后的 32K 起始上下文单流 prose 89.2,不用标题里的 structured 188.3;同口径 structured 184.8(32K)/ 188.3(标准上下文)另标。C8 合计 886.2,不作单流主值。方法有,无公开原始日志,降为宣称。线程 https://x.com/FT_IOxCS/status/2120833708693266798 2026-11-14 同作者同机 release 1107:单个 coding 提示,32K 起始上下文 143.8;标准短上下文 C1 coding 110.5;温度 0,思考关。coding 口径另标,主值仍为 prose 89.2。C16(32K)合计 422.8,不作单流主值。https://x.com/FT_IOxCS/status/2121296132630282446 | 宣称 | 2026-11-12 | 链接 |
| DeepSeek-V4.1-Flash-1017 | mlx-serve | 2× Mac Studio M3 Ultra(TB5 RDMA 张量并行) | 88 | mlx-serve PR 草稿(未合并),llmprobe:DSpark decode 88(单机 56),可预测文本 116;普通 decode 54(单机 41);预填 1,608(单机 1,018);4 并发聚合 94(单机 62)。0.5–256K 平均 decode / 预填:双机 69.5 / 1,365,单机 51.7 / 889(x.com/ivanfioravanti/status/2117658847544525094);2026-11-05 ivanfioravanti 用原始权重跑 DeepSeek Harness:mlx-server 2×M3 Ultra 与 TensorFold 4×Spark 平均 decode 约 52,最大上下文 815K(M3)/ 400K(Spark)(x.com/ivanfioravanti/status/2118222107783873005) | 宣称 | 2026-11-03 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 4× Radeon AI PRO R9700 32GB + 251GB RAM | 84.7 | code 76.6/77.0→84.7/84.7,agent 74.2→83.3(0.2.5→0.2.6);RAM 须容下全部 CPU 侧专家并余 8GiB;0.2.4 旧值(2026-10-24,strata-dsv41 0.1.49,IQ2_XXS 2.00bpw GGUF,https://github.com/Niko1221/Strata/releases/tag/v0.2.4 ):输出约 31,提示读入 8K 约 505、32K 约 818。限定:0.2.4 开 DSpark 时输出 55–69,不作主值 | 官方 | 2026-10-25 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Project Maya | AMD Strix Halo(Ryzen AI Max+ 395,128GB)+ 2× RX 7900 XTX(OCuLink) | 82.5 | Maya-XS v2:decode 82.5;491K 提示预填 1,195.5 → 1,448.2(稀疏注意力索引器改用 RDNA3 WMMA)。Maya-S:decode 41.7,130K 预填 1,378 | 宣称 | 2026-11-03 | 链接 |
| DeepSeek-V4.1-Flash-1017 | spark-engine | 3× DGX Spark(TP3,ConnectX-7 RoCE) | 67 | 短上下文单流(greedy):散文 67–70,代码 114,结构化 129;1→4 流散文 67→125;32K–64K 预填约 5.6K;1M 提示首 token 229 秒(约 4.5K),256K–1M 时 decode 53–56。作者另报 1× Spark 跑 Qwen3.8-Flash-Next 散文 68 | 宣称 | 2026-10-31 | 链接 |
| DeepSeek-V4.1-Flash-1017 | mlx-serve | Mac Studio M5 Ultra 512GB | 65.7 | mlx-serve 26.11.2 默认设置(含 MTP 与 prompt lookup)。128K token 提示,输出 decode 5 次中位 65.7(范围 62.2–70.0)。同机:关 prompt lookup 65.3,关草稿 49.9;预填 3,632,首 token 35.3s。thinking off 短请求:散文 68.8 / 代码 81.2 / 计数 116.9。16 用户新鲜 2K 提示、512 回答 多路合计 112.3(单用户同口径 59.1),不作单流主值。配置的上下文上限未写,不填。无原始日志,降为宣称。同窗 HeyBohu 短请求 60.6(mlx-serve,官方权重,M5 Ultra 512GB),短跑,不改主值。本行已写明 mlx-serve 26.11.2,不因版本再拆条。ApacheAE 另帖称 8-bit 输出头会改变速度,只作备注。https://x.com/HeyBohu/status/2120662512660259266 https://x.com/ApacheAE/status/2120514025239064840 | 宣称 | 2026-11-10 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Basalt | RTX 5090 32GB(400W)+ RTX 5060 Ti 16GB(180W)+ 128GB DDR5 | 63.5 | 5090 + 5060 Ti 各算专家:解码 63.5 / prefill 610(6.2K 提示);仅 5090:53.6 / 610(热)595(冷);同机 llama.cpp PR #30817 --fit 约 20;作者实验分支未公开 | 宣称 | 2026-10-21 | 链接 |
| DeepSeek-V4.1-Flash-1017 | sushi | Mac Studio M5 Ultra 96GB | 62.2 | Sushi 1.5.1。配置 1M 上下文。冷阶梯、每档 64 新 token、3 次中位:4k decode 62.2 作主值;64k 41.6、128k 29.9 另标;1M 约 23。测于 11-10,当时引擎还在服务该帖,作者称略保守。无原始日志,故为宣称。 | 宣称 | 2026-11-10 | 链接 |
| DeepSeek-V4.1-Flash ISTA-DAS Coder(每层保留 384 个专家中的 192 个) | Strata | 4× Radeon AI PRO R9700 32GB(Linux) | 59.2 | decode:4× R9700 59.2,1× R9700 22.8,Strix Halo 20.9–21.9,M5 Max 19.1–22.5,RTX PRO 6000 Blackwell 约 100。单 R9700 限内存:40GB 20.9 / 32GB 18.5 / 24GB 15.0 / 16GB 8.0。模型卡:SWE-bench Verified 77.00(原模型 81.20)。模型 huggingface.co/ISTA-DASLab/DeepSeek-V4.1-Flash-1017-GSQ-RCO-Coder-GGUF | 官方 | 2026-11-03 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 1× RTX 5090(仅推理)+ RTX 3070 Ti(显示)+ 128GB DDR5 + i9-13900KF(Windows 11) | 53.8 | Strata 0.2.11:中位 53.8(均 52.0,min 41.5 max 57.8)。附截图。tok_s 取中位 53.8 | 宣称 | 2026-11-06 | 链接 |
| DeepSeek-V4-Flash(V4 非 4.1) | 未注明 | Strix Halo + R9700 | 51.1 | 厂商主页 86 tok/s;独立复测 51–57(中位 51.1) | 宣称 | 链接 | |
| DeepSeek-V4.1-Flash-1017 | FastLocalExperts | 1× RTX PRO 4500 Blackwell 32GB + Ryzen 9 9950X3D + 120GB DDR5(Linux) | 50.6 | 引擎作者 README:v1.2.5,三次新启动 49.8/50.8/50.6,取 50.6 作主值(温度 0,无损草稿);无草稿 37.6 另标。硬件为 9950X3D + 120GB + PRO 4500。正文写明上述速度数字的配置为 262,144 上下文、2 个 slot 共享。同作者 11-11 Reddit 帖 49.9(3 次中位,无草稿 37.2)未写版本,不改主值、不单列。同 README 的 QFN FLE-IQ3_M 91.2 未写版本,不收录。作者表无逐次原始日志,故为宣称。 | 宣称 | 2026-11-11 | 链接 |
| DeepSeek-V4.1-Flash-1017 | oMLX | Mac Studio M5 Ultra 512GB(与 x-296 同机) | 49.1 | oMLX 0.7.4.dev1,与 x-296 同机、同一 128K 提示协议:输出 decode 49.1。预填 3,848,首 token 33.3s。thinking off 短请求:散文 51.5 / 代码 68.9 / 计数 90.2。16 用户 多路合计 110.2(8 以上排队),不作单流主值。配置的上下文上限未写,不填。无原始日志,降为宣称。 | 宣称 | 2026-11-10 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Project Maya | RTX 4090 24GB + 192GB RAM | 44.1 | decode 44.1;8K 预填 539 | 宣称 | 2026-11-04 | 链接 |
| DeepSeek-V4.1-Flash-1017 | delta-inference-engine | RTX 3090 24GB + i5-13600K + 192GB DDR5-5600(Windows) | 41.7 | Delta Inference Engine v0.93(同一作者、同一 3090 + 192GB 机):UD-IQ2_XXS @192GB 写速 41(与上版持平);同表 @128/96/64GB 为 34.0 / 29.3 / 21.0;UD-IQ1_S @192/64GB 41.0 / 30.6;预填至约 740@64K(192GB);99 题正确 57/99(上版 ds4 Q2 为 52)。注:Unsloth Dynamic 量化文件版本会影响不同后端,不可跨卡直接比(见 Strata #5296 gfx1151 预填回退 vs 本条 decode 提升)。tok_s 取 UD-IQ2_XXS@192GB 的 41。2026-11-09引擎作者 musicurgy 发 v0.94:同一 3090 + 192GB 机,UD-IQ2_XXS greedy 写速 41.7(默认采样 41.3);长提示预填约 60K 为 811(0.93 同晚 747)。另加一张 x4 槽 RTX 3060 为 42.9 / 42.2。README 与 Reddit 表一致。主值改为 0.94 greedy 41.7;等级仍为宣称。 | 宣称 | 2026-11-05 | 链接 |
| DeepSeek-V4.1-Flash-1017 | dsx | 2× RTX 3090 24GB + i7-12700K + 128GB 内存 | 41 | dsx(Rust + CUDA),expert deferral(--defer-rank 3,会改变计算)+ FP8 投影:自由生成 41 | 官方 | 2026-10-25 | 链接 |
| DeepSeek-V4.1-Flash-streaming-repack-exl3-3.0bpw | mlx-serve | MacBook M5 Max 128GB | 39.9 | 39.9 tok/s 生成;81.3 tok/s 读入;256K 提示解码 27.1,预填 456.3,首 token 574.5 秒;约 1M(1,047,488)提示解码 11.1,预填 262.6,首 token 3,988.9 秒 | 宣称 | 2026-10-06 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Project Maya | RTX 3090 + RTX 3080 Ti + 128GB RAM | 38 | 更新 Maya 后 decode 27 → 38(开“跳过低权重 RAM 专家”选项,有损);74K 预填 1,225 → 1,840 | 宣称 | 2026-11-03 | 链接 |
| DeepSeek-V4.1-Flash-1017 | libosmos | AMD Strix Halo(Ryzen AI Max+ 395,128GB) | 38 | 引擎作者:带 draft 最高 38,预填 >450(Reddit 同帖写 >480)。tok_s 取 38。2026-11-09 libosmos v0.5.9:同机 Strix Halo 128GB,ud-iq1_s plain/drafted 19.5/42.5;ud-iq1_m 17.5/35.4;ud-iq2_xxs 14.4/26.5。上下文未写。drafted 42.5 高于本行最高 38,但缺上下文,不改主值。 | 宣称 | 2026-11-05 | 链接 |
| DeepSeek-V4.1-Flash-1017 | 未注明 | 2× AMD Strix Halo(USB4 互联) | 35.3 | decode 35.3;开自家投机草稿 41.9–70.6;预填约 1,100(8K–45K);聚合(另计)8 请求约 114 | 宣称 | 2026-11-02 | 链接 |
| DeepSeek-V4.1-Flash | Front_Eagle739 streaming stack | Mac Studio M3 Ultra 512GB + RTX 5090 PC(32GB RAM,RAID0 NVMe) | 35 | 长 prompt 预填约 3,800;decode 35(散文)到 60(代码);只用 Mac 约 900 / 60 | 宣称 | 2026-10-30 | 链接 |
| DeepSeek-V4.1-Flash-1017 | vLLM | 1× DGX Spark(冷专家放 SSD) | 30.3 | 基于 ViC305 的 vLLM 运行时,视觉开:真实 17–21K token Hermes 请求 decode 30.3;短 prompt 35–40;32K–128K 预填约 910–1,020;ViC305 转发 AgentSparko 新测称 decode 40、预填 1,020(x.com/ViC305/status/2118028345615229131,属转述,未改主值) | 宣称 | 2026-11-04 | 链接 |
| DeepSeek-V4.1-Flash | Project Maya | 2× RTX 3090 24GB + 1× RTX 2070 Super(只跑 DSpark 草稿;CPU/内存未写) | 30 | Project Maya v1.1.59。两张 RTX 3090 跑主模型,RTX 2070 Super 只跑 DSpark 草稿,n-gram 表放 SSD。decode 30。作者写 Unsloth 新 v3.1 q2 量化,具体档位未写。上下文上限、CPU 与内存未写。无原始日志,记为宣称。 | 宣称 | 2026-11-13 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 1× Radeon AI PRO R9700 32GB + 251GB RAM | 29.6 | 2.25 code 26.1→29.6,agent 23.1→27.0;2.00 code 24.5→27.6,agent 21.9→27.1(0.2.5→0.2.6);加载 2.00 约 55s(原 34s);0.2.4 旧值(2026-10-24,strata-dsv41 0.1.49,IQ2_XS 2.25bpw GGUF,主机 RAM 未注明,https://github.com/Niko1221/Strata/releases/tag/v0.2.4 ):输出约 11 | 官方 | 2026-10-25 | 链接 |
| DeepSeek-V4.1-Flash | Xolotl | 1× RTX 4090 + 90GB RAM | 27 | 最高约 27;专家分层放在显存、锁定内存和 NVMe | 宣称 | 2026-10-31 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Tandem-vLLM | 2× RTX A6000 48GB(主卡 + helper GPU,不需要 P2P 或 NVLink)+ EPYC 7F32(8 核) | 26.7 | Tandem-vLLM 0.2.0(vLLM 0.31 专家卸载构建),模型包 ewhacc/DeepSeek-V4.1-Flash-1017-Tandem-VQ2。引擎作者表:单用户 GSM8K decode。helper GPU 模式 26.7 作主值;同机单卡 22.1,tensor parallel 11.8(8 核 CPU 被两卡平分)。A6000 限到 24GB 模拟 3090/4090 显存形状:单卡 16.8 / TP 12.5 / helper 21.7,模拟结果只作备注。上下文未写,不填。无原始日志,记为宣称。同作者 RTX PRO 6000 见 comm-371。限定:帖中未写是否开 DSpark。 | 宣称 | 2026-11-14 | 链接 |
| DeepSeek-V4.1-Flash | Project Maya | 2× RTX 3090 + 128GB RAM | 26 | 同机对拍:Maya 1.1.54 中位 decode 26.04;Strata 0.2.11 中位 22.75(Strata 读入/总时长约 +19–22%)。tok_s 取 Maya 26.0 | 宣称 | 2026-11-05 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Tandem-vLLM | 1× RTX 6000 Ada 48GB + EPYC 7F32(8 核) | 25.5 | Tandem-vLLM 0.2.0(vLLM 0.31 专家卸载构建),模型包 ewhacc/DeepSeek-V4.1-Flash-1017-Tandem-VQ2。引擎作者表:单卡单用户 GSM8K decode 25.5。同帖 2× A6000 见 comm-414。上下文未写,不填。无原始日志,记为宣称。限定:帖中未写是否开 DSpark。 | 宣称 | 2026-11-14 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | RTX 5090 32GB + R9 9950X + 96GB DDR5 | 25 | Strata 0.2.4,512K 上下文:decode 25–40(取下限 25;作者说还在调);预填未测 | 宣称 | 2026-10-24 | 链接 |
| DeepSeek-V4.1-Flash | Project Maya | 2× Tesla V100 32GB(150W 限制)+ i9-10940X + 192GB RAM + SATA SSD | 24.8 | 日文短篇 3 篇 decode 22.8 / 24.8 / 25.0(首次 17.3,缓存预热后变快);思考关,上下文 32K;GPU 未达功率上限,CPU 14 核有时满载 | 宣称 | 2026-10-21 | 链接 |
| DeepSeek-V4.1-Flash-1017 Coder | Strata | RTX 3090 + 64GB DDR4 | 23.2 | Strata 0.2.10:decode 23.2,预填 659(旧版同量化 6–10 / 约 10) | 宣称 | 2026-11-04 | 链接 |
| DeepSeek-V4.1-Flash-1017 | 未注明 | 1× RTX 5070 Ti 16GB + Ryzen 5 7600 + 64GB DDR5 + 2× NVMe(Windows 11) | 20.3 | 专家从 NVMe 流式读取:短上下文 decode 20.3(agent 实际 17–20),快速预设 23–24.7;256K / 512K 16–20;agent 轮次读入约 418。同机原分支约 10,Project Maya v1.1.21 3.9。2026-11-04–06 og 构建:server 短 decode 18.4–18.8(teacher-forced 21.3),256K–1M 已填时 15–19;1M 预填 888;同机 Maya v1.1.54 约 3.3。与本行约 20.3 同量级,不改主值。 | 宣称 | 2026-11-02 | 链接 |
| DeepSeek-V4.1-Flash | Tandem-vLLM | 1× RTX 5090 32GB + i5-14600KF + 128GB DDR4-3200 | 17 | 与 comm-371 同帖同引擎同量化,硬件改为 5090 + i5-14600KF + 128GB DDR4-3200。作者称 runs, slowly:单用户 17。4 流合计 20 另标,不作单流主值。草稿开关未写,不推断。上下文未写,不填。降为宣称。 | 宣称 | 2026-11-12 | 链接 |
| DeepSeek-V4.1-Flash | XeMaya | Intel Arc Pro B70 32GB + Arc Pro B65 32GB | 14.56 | 引擎作者 README 写明:已发布的 0.1.0-alpha.1 构建,B70+B65,常规(非 Coder)IQ2_XXS。decode 14.56 作主值(预填 11.4)。576 token 提示、1,024 token 生成是负载长度,不是配置上下文,上下文不填。仅速度,无正确性检查。同表 GLM 17.4/20.0 与 QFN 76.6/57.1 未写构建版本,不收录、不推断为 alpha.1 或 alpha.2。作者 README 表,无原始日志,故为宣称。 | 宣称 | 2026-11-10 | 链接 |
| DeepSeek-V4.1-Flash-1017 | vLLM | 2× DGX Spark(GB10,直连 QSFP/RoCE,专家自本地 NVMe 流式读入) | 14 | 配方作者 README。Mia 双 Spark 套件 @6f7d1590,vLLM,DSpark,官方 1017 原生权重。测于 2026-11-06,greedy,思考关,bench.py decode。缓存预热后散文 14.0–14.6,取低值 14.0 作主值;代码 20.7–21.8 另标。4 路 合计 23.5,不作单流主值。上下文 262K。表为作者摘要,未见逐次原始日志,故为宣称。补丁哈希 8047fc 未在 README 写明,不记录。 | 宣称 | 2026-11-06 | 链接 |
| DeepSeek-V4.1-Flash-1017 | llama.cpp | Minisforum MS-S1 MAX(Ryzen AI Max+ 395,128GB)+ Radeon AI PRO R9700 32GB(USB4v2 外接显卡坞) | 14 | 生成约 14 / 提示处理约 110–130;128K 上下文;加载约 3.5 分钟;R9700 放前 10 层与输出层,iGPU 放 10–39 层与上下文,CPU 算 4 层专家;两 GPU 间经主机固定内存中转 | 宣称 | 2026-10-22 | 链接 |
| DeepSeek-V4.1-Flash-1017 | vLLM | RTX 5070 Ti 16GB + 128GB RAM + NVMe | 11.32 | 调优后 11.32(调优前 7.18,+58%);作者称仍为实验性 | 宣称 | 2026-10-21 | 链接 |
| DeepSeek-V4-Flash(V4 非 4.1) | ds4 (DwarfStar) | 1× RTX 3090 + 64GB RAM | 10.18 | 最终配置(第 7 组)稳态 decode 四类提示总均值 10.18 ± 1.17(代码 10.11 / 数学 9.95 / 散文 11.74 / 合成 8.91),每组 N=20 次预热后运行;基线 1.02。在 7,000+ token 上下文的 ds4-agent 负载下为 5.2–5.5。输出与基线逐位相同(max_abs_diff 0)。tok_s 取总均值 | 宣称 | 2026-10-27 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | RTX 3060 12GB + 46GB RAM + NVMe(Linux) | 9.9 | 输出约 8–10(代码 9.9,agent 7.8);8K 提示读入 149;DSpark 默认关,开启加 2–13%;热专家放 RAM,其余从 SSD 直读。同一发布说明的“Known limits”写 12GB 卡输出 4–8,与速度表不一致,tok_s 取速度表代码值 9.9 | 官方 | 2026-10-24 | 链接 |
| DeepSeek-V4.1-Flash | Front_Eagle739 streaming stack | 1× RTX 5090 + 32GB DDR5 + RAID0 NVMe(约 25GB/s) | 7 | 普通 decode 7;router 偏向显存中的专家时约 20(会改变输出);预填最高 1,770 | 宣称 | 2026-10-28 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | 1× RX 9070 XT 16GB + 5800X3D + 64GB DDR4 + PCIe 3.0 NVMe | 7 | 1M 上下文,decode 约 7;KV 拼接补丁后新 agent 会话首 token 从约 100 秒降到约 5 秒(约 37K token 系统提示) | 宣称 | 2026-11-02 | 链接 |
| DeepSeek-V4.1-Flash | 未注明 | 单 RTX 5090 32GB + 126GB RAM + NVMe | 5.1 | 冷 5.1 tok/s;缓存热后 21.4 | 转述 | 链接 | |
| DeepSeek-V4.1-Flash-1017 | 未注明 | RTX 4070 12GB + Ryzen 7 5800X3D + 128GB 内存 | 5 | 约 5(衍生版权重,引擎未写明) | 宣称 | 2026-10-25 | 链接 |
| DeepSeek-V4.1-Flash-1017 | Strata | RTX 5070 12GB + 64GB RAM + Ryzen 5 7600 + NVMe(Windows) | 4.64 | 输出约 5(代码;DSpark 关 4.64);8K 提示读入 231;RAM 专家库 4.3–4.9,对比 mmap 1.8–2.2;CPU 受限,DSpark 无收益 | 官方 | 2026-10-24 | 链接 |
| DeepSeek-V4.1-Flash | InferSSD | Mac Studio M3 Ultra 96GB + 一对 OWC Envoy Ultra 2TB TB5 SSD(跨端口 RAID 0,一驱动器一端口) | 4.4 | InferSSD(版本未写)从 SSD 流式读取专家权重,473GiB 的 Q8_0 装不进 96GB 内存。双 TB5 SSD RAID 0 的 decode 为 4.4–4.6,对比单块 Envoy(与内置 SSD 相当)的 3.5–3.7(约 +23–26%);预填约 +67–77%,4K 提示开始回答约 3.5 分钟→2 分钟。tok_s 取 4.4。作者写 763B;评论里的 11.15GB/s 不是作者本人实测,不用 | 宣称 | 2026-11-07 | 链接 |
| DeepSeek-V4.1-Flash EXL3 3bpw | vLLM | 2× DGX Spark(无头模式,解锁 +2GB) | 作者称 25–40 tok/s(难散文→结构化),多流 >50;明确“不做精确声明”(无单一数值,tok_s 留空);KV 池约 3M token(最多 6 并发共享) | 宣称 | 2026-09-18 | 链接 | |
| DeepSeek-V4.1-Flash(510GB 权重) | 未注明 | 1× DGX Spark | HTML 游戏 36.6;SQL 31.8;Python 24.3;长故事 17.1;PP 337(>2,000 token 退化) | 转述 | 链接 | ||
| DeepSeek-V4.1-Flash | 未注明 | 3× DGX Spark | 散文 37.9;4 流合计 78.6(独立 SGLang C1 26.5) | 转述 | 链接 | ||
| DeepSeek-V4.1-Flash | TensorFold | 4× DGX Spark | MXFP4:C1 峰值 77.2,6 流 214;TensorFold:散文 87,代码 124.8,4 流 246.8;PP 5,800–5,925 | 转述 | 链接 | ||
| DeepSeek-V4.1-Flash | 未注明 | 4× DGX Spark(无交换机直连) | 32 请求时最高 494 tok/s 合计 | 转述 | 链接 | ||
| DeepSeek-V4.1-Flash | MLX | M3 Ultra 512GB / M5 Max 128GB | ~14.6 / 15(SSD 流式)、25(RDMA 张量并行) | 转述 | 链接 | ||
| DeepSeek-V4-Flash(V4 非 4.1) | oMLX | Mac Studio M3 Ultra 512GB | 35(oMLX,Viticci);ds4 短 35.5 / 长 26.6;PP 448.8 | 转述 | 链接 |
数字来自各条来源。本项目未复测。各行的模型与设置不同。来源等级:官方 = 项目方或厂商;实测 = 发帖人亲测(引擎或配方作者须公开原始数据和复现步骤);转述 = 二手;宣称 = 预测或无复现细节。