OTRouterClaude、GPT 一个 Key 调用看价格 →
新品发布编辑精选编程 · 海外

Llmspeed 上线:买硬件前先估本地大模型能跑多快

OmniTools 编辑部
Llmspeed
估算本地大模型推理速度
访问官网 ↗

开源工具 Llmspeed 上线,用来在购置硬件前估算本地大模型在特定设备上的推理速度。估算主要基于 r/LocalLLaMA、localscore.ai 等社区的实测数据,其余配置按相似硬件推导或按规格计算。


相关快讯:Llmspeed 开源工具可预估本地大模型在不同硬件上的推理速度 原文:llmspeed.dev

产品功能与价格以官网为准。

同方向的项目