OmniTools 7月3日消息,SGLang团队正推进Agent辅助的开发范式,将LLM服务、分布式运行时、GPU内核及扩散模型管道等工作流编码为可执行的SKILL.md文件、脚本、基准合约与审查循环。目前已构建多项技能模块,涵盖CUDA调试、内核集成、性能分析、扩散模型调优,以及跨框架SOTA优化循环等。
团队提出“SOTA Performance Loop”工程方法,将性能优化分解为公平基准测试、差距识别、性能分析、补丁实施与再验证五个环节,并引入Humanize/RLCR机制增强外部评审,通过Codex Goal降低协同开销。
开发者角色进一步演进:需主动定义问题、筛选Profile证据、设计工作流,并独立判断成果是否达到生产就绪标准。