OmniTools 10月1日消息，YC S25 孵化项目 Magnitude 正式发布一款专为本地 AI Agent 优化的自优化推理引擎。该引擎支持 macOS、Linux 和 Windows 平台，基于 Rust 构建并采用 Apache 2.0 开源协议，内置自定义 GPU 内核运行时与自动调优器。
官方数据显示，在 Metal 和 CUDA 平台上，Magnitude 的解码速度分别较 llama.cpp 提升 92% 和 19%，预填充速度提升 9% 和 23%，单 Agent 内存占用分别降低 28% 和 27%。项目代码已完全开源至 GitHub，旨在通过动态硬件适配优化本地 Agent 推理性能。
