OmniTools 9月25日消息，AI初创公司PrismML宣布将其微型语言模型（LLM）部署至基于高通Snapdragon AR1 Gen 1平台的智能眼镜。该模型为20亿参数的1-bit Bonsai LLM，经优化可本地运行，支持实时视觉-语言交互，例如用户可询问眼前物体的名称。
据公开信息，该模型相较原模型体积缩小4倍，同时在标准基准测试中保持接近原模型的性能。PrismML由加州理工学院研究人员创立，顾问包括加州大学伯克利分校的Ion Stoica。
PrismML的长期目标是推动开源权重AI在终端设备上的本地化运行，以更高效利用设备既有算力，减少对云端大模型及专有AI服务的依赖。目前尚无搭载该模型的商用智能眼镜正式发布。
