Qwen3.8-Flash-Next · Strata · 2× RTX 3090 (48GB) + 64GB DDR5-6000
来源等级: ✅ 实测 · 日期: 2026-10-11 · 数字来自来源。本仓库未复测。
硬件
- 2× RTX 3090 (48GB) + 64GB DDR5-6000 (NVIDIA 消费级)
- 参考价格: 2×$1,206–1,499(二手成交,2026-10-06/12)(按张)
模型
- Qwen3.8-Flash-Next ·
IQ3_S - 下载: 未公开。见来源
引擎
- Strata — 安装见 https://github.com/Niko1221/Strata
- 备注: Strata v0.1.42
启动命令
命令未公开。见来源。
关键参数
- 上下文: 262K
- 并发: —
- 标签:
3bit,MoE,long-context,multi-GPU
预期速度
- 持续解码 120+ tok/s,峰值 153.4;冷 prefill 2,844 tok/s(191K),峰值 3,113 (✅ 实测)
注意事项
- @geldeki on X
- 速度随驱动、引擎版本、上下文长度和提示长度变化。
来源与致谢
- https://x.com/geldeki/status/2109208295957201171 — @geldeki
- 版权归原作者。本页仅摘要并链接。数据以 CC BY 4.0 发布。