OmniTools 9月24日消息，据公开技术分析显示，机器学习智能的使用成本正以每年数个数量级的速度下降，且趋势未见放缓。GPU能效每两年提升一倍，主流推理引擎（如vLLM）在15个月内效率提升约40%。 分析指出，未来1–2年内大语言模型有望成为通用计算基础设施，深度集成至各类系统；3–6年内，当前前沿水平的模型或可在消费级硬件上实现本地运行。 该观点基于对硬件演进与软件优化的综合观察，数据源自公开技术文档与性能基准报告。
