OmniTools 8月11日消息,8 月 11 日消息,LMSYS 团队提出 Unified Radix Cache 方案,采用单一 token 键控的 radix 树结构,统一管理混合模型中 FULL、SWA 和 MAMBA 等组件的前缀缓存。该方案支持各组件保持独立执行路径,并兼容滑动窗口与检查点复用语义。相关技术细节已公开。