行业观察媒体报道 · github.com
Hacker News 热帖:开发者分享在 RTX 4090 上以 100T/s 运行 Qwen 3.8 Flash Next(125B)模型方案
OmniTools 10月5日消息,GitHub 项目 Strata 近日引发 Hacker News 社区关注。开发者 snehesht 分享称,通过特定优化方案,可在单张消费级 GPU(NVIDIA RTX 4090)上运行通义千问 Qwen 3.8 Flash Next(125B 参数)模型,并声称推理速度可达 100T/s。目前相关代码已开源。需注意的是,该性能数据为社区开发者自测结果,尚未披露具体的量化精度、上下文长度及测试基准,实际表现可能因硬件配置与任务类型存在较大差异。