新品发布编辑精选编程 · 海外
Llmspeed 上线:买硬件前先估本地大模型能跑多快
OmniTools 编辑部
Llmspeed
估算本地大模型推理速度
开源工具 Llmspeed 上线,用来在购置硬件前估算本地大模型在特定设备上的推理速度。估算主要基于 r/LocalLLaMA、localscore.ai 等社区的实测数据,其余配置按相似硬件推导或按规格计算。
产品功能与价格以官网为准。
开源工具 Llmspeed 上线,用来在购置硬件前估算本地大模型在特定设备上的推理速度。估算主要基于 r/LocalLLaMA、localscore.ai 等社区的实测数据,其余配置按相似硬件推导或按规格计算。