编辑点评
"LiteLLM 以开源网关为核心，统一接入海量模型并提供路由、预算与安全治理，适合需要集中管理 AI 调用与成本的企业与平台团队。"
优势
- • 开源可自托管，数据与密钥完全留在自有基础设施
- • 统一 OpenAI 兼容 API，支持 140+ 提供商与 1800+ 模型零代码切换
- • 内置智能路由、负载均衡、语义缓存与提示压缩，显著降低 AI 调用成本
- • 完善的预算控制、速率限制、审计日志与安全护栏，满足企业级治理需求
局限
- • 企业版功能需按年订阅并联系销售获取报价，初期部署门槛较高
- • 自托管版本需团队具备一定运维能力，社区支持响应速度不及企业 SLA
Q&A
快速了解这个工具的常见问题与答案
- 这个工具是否提供免费版？
- Answer
是的，开源版本可免费自托管，永久免费，包含基础模型接入、虚拟密钥、预算与速率限制、请求日志与 Prometheus 指标等核心功能。
- 这个工具如何收费？
- Answer
开源版免费自托管。企业版按年订阅，定价基于年度网关请求容量、部署架构与支持需求，不按 token 计费，支持 AWS Marketplace 与授权经销商采购。
- 这个工具支持哪些访问方式？
- Answer
仅支持通过 API 调用。LiteLLM 是一个自托管的代理服务，需部署在用户基础设施中，通过标准 HTTP API（兼容 OpenAI）接入。
- 这个工具是否支持 API？
- Answer
支持。LiteLLM 提供统一的 OpenAI 兼容 API，开发者可通过标准接口接入 140+ 提供商与 1800+ 模型，无需修改业务代码即可切换模型。
- 这个工具是否支持中文或多语言？
- Answer
LiteLLM 的官方文档、界面和代码库均为英文，目前未公开支持简体中文或其他语言。
- 这个工具是否适合团队使用？
- Answer
非常适合。LiteLLM 支持按团队、项目或应用划分权限与预算，提供虚拟密钥、角色管理、审计日志与企业级费用分摊，便于多团队协同与资源管控。
- 这个工具是否适合企业使用？
- Answer
适合。企业版提供 SSO/SCIM、OIDC/JWT 认证、审计日志、密钥轮换、多区域控制平面、24/7 支持与 SLA，并支持隔离部署，满足高合规与大规模生产需求。
工具介绍
核心能力
适用场景
产品动态
查看官方发布和相关报道，了解这个产品的最新进展。
相关报道
更多合规初创公司Delve的客户Context AI近日发生重大安全事件，并导致知名托管平台Vercel遭遇数据泄露。据悉，黑客通过Vercel员工下载Context AI应用并连接其Google企业账号，成功入侵了Vercel的部分内部系统并获取客户数据。 Context AI已确认此前使用Delve进行安全认证，但在3月Delve被举报伪造客户数据和审计走过场后，Context AI已终止合作，并转投Vanta和独立审计机构Insight Assurance重新进行认证。此前...