返回行业动态

开源工具 WhichLLM 上线:基于基准测试为本地硬件推荐适配大语言模型

2026/05/15 12:52
查看原文

OmniTools 5月15日消息,开源项目 WhichLLM 已在 GitHub 上线。该工具可根据用户设备的硬件配置,结合公开基准测试结果,对主流本地大语言模型进行性能排名与适配推荐。

WhichLLM 旨在帮助开发者和终端用户更高效地选择适合自身计算资源(如显存、CPU 核心数等)的 LLM,降低本地部署试错成本。项目当前支持多种量化格式与推理后端的横向对比。

该项目在 Hacker News 平台获得较高热度,反映出社区对提升本地 AI 模型选型效率工具的关注度持续上升。