Qwen3.8-Flash-Next · Strata · 2× Tesla V100 32GB PCIe(无 NVLink)
来源等级: ✅ 实测 · 日期: 2026-10-09 · 数字来自来源。本仓库未复测。
硬件
- 2× Tesla V100 32GB PCIe(无 NVLink) (二手数据中心卡)
- 参考价格: $650–700/张(二手,2026-09/10)
模型
- Qwen3.8-Flash-Next ·
q3 xs(Strata 教程) - 下载: 未公开。见来源
引擎
- Strata — 安装见 https://github.com/Niko1221/Strata
启动命令
命令未公开。见来源。
关键参数
- 上下文: —
- 并发: 单流(Strata 仅支持单流)
- 标签:
3bit,MoE,multi-GPU
预期速度
- 最高 120 tok/s 解码,2,000 tok/s prefill(llama.cpp 30 / 120) (✅ 实测)
注意事项
- @rewin123 on X
- 速度随驱动、引擎版本、上下文长度和提示长度变化。
来源与致谢
- https://x.com/rewin123/status/2108669905616736529 — @rewin123
- 版权归原作者。本页仅摘要并链接。数据以 CC BY 4.0 发布。