网友实测 Qwen Flash 在 A100 上推理性能达 3000+ prefill、90+ tps

OmniTools 9月26日消息，X 平台用户 ivanalog_com 发布实测结果称，在谷歌 Colab 环境搭载的 A100 显卡上运行 Qwen Flash 模型，预填充（prefill）速度超过 3000 token/s，生成吞吐量（tokens per second, tps）达 90+。该测试未说明具体上下文长度、批大小或量化配置等细节。目前 Qwen Flash 官方尚未发布该配置下的基准数据。