LMSYS 团队提出 Unified Radix Cache，统一混合模型前缀缓存

OmniTools 8月11日消息，8 月 11 日消息，LMSYS 团队提出 Unified Radix Cache 方案，采用单一 token 键控的 radix 树结构，统一管理混合模型中 FULL、SWA 和 MAMBA 等组件的前缀缓存。该方案支持各组件保持独立执行路径，并兼容滑动窗口与检查点复用语义。相关技术细节已公开。