模型发布媒体报道 · aihot.virxact.com
Simon Willison 发布 llm-chat-completions-server 0.1a0,提供本地兼容 OpenAI API 的模型服务
OmniTools 7月31日消息,知名开发者 Simon Willison 发布 llm-chat-completions-server 0.1a0 版本。该工具可在本地 9001 端口启动一个兼容 OpenAI Chat Completions API 的服务器,暴露 LLM 工具中所有已安装的模型,便于统一调用与集成。
当前版本处于 alpha 阶段,主要面向开发者本地测试与调试场景。