编辑点评
"BaseRT 是一款专注性能与隐私的开源本地推理运行时，特别适合 Apple Silicon 设备上的开发者。它不提供托管服务或图形界面，而是以命令行工具和本地 API 形式交付，强调完全离线、零 Token 成本和模型自主可控。"
优势
- • Apple Silicon 上目前最快的开源 LLM 运行时，Prefill 性能显著领先 llama.cpp 和 MLX
- • 开箱即用的本地 API 服务，无缝对接编码智能体等本地工具链
- • 支持多款主流开源模型，且持续扩展模型兼容性
局限
- • 纯命令行工具，无图形界面，新手上手门槛较高
- • 文档尚处早期阶段，缺乏中文支持与详细入门指南
Q&A
快速了解这个工具的常见问题与答案
- 这个工具是否提供免费版？
- Answer
BaseRT 是开源软件，可免费下载、安装和使用，无订阅、无 Token 计费、无功能限制。所有代码与工具均开放在 GitHub。
- 这个工具如何收费？
- Answer
BaseRT 不收取任何费用 — 它是完全开源的本地运行时，用户自行承担硬件与模型资源成本。
- 这个工具支持哪些访问方式？
- Answer
通过命令行安装后，以本地 API 方式提供服务（如
basert serve），支持其他本地应用、脚本或编码智能体直接调用，无需浏览器或移动客户端。 - 这个工具是否支持 API？
- Answer
支持。BaseRT 默认启动一个本地 HTTP API 服务，兼容标准 OpenAI 格式，便于现有工具链快速接入。
- 使用这个工具需要技术背景吗？
- Answer
需要基础的命令行操作能力和本地开发经验，例如熟悉终端、curl、Python 环境及模型路径配置。
Q
Q
Q
Q
Q
工具介绍
核心能力
主能力
开发与编程
次要能力
自动化与智能体
适用场景
应用开发
编码辅助
价格与版本
Free
访问方式
API
支持语言
English