OmniTools 10月11日消息,The Verge编辑Antonio G. Di Benedetto近日开启本地AI深度测试,在搭载M5 Ultra芯片的Mac Studio上部署开源AI代理工具Hermes Agent,并成功运行参数量达1250亿的Qwen 3.8 Flash Next模型(体积约105GB)。该测试充分利用了Mac Studio的256GB统一内存,验证了本地大模型的运行能力。
Hermes Agent是一款支持macOS、Windows和Linux的开源自托管AI代理桌面应用,使用本地模型完全免费。测试中,作者利用其完成了Steam游戏库自动分类、本地财务数据分析及高保密要求的笔记本规格对比表生成等任务,全程数据均在本地处理,未上传云端。
此外,作者还尝试配置自动化晨间简报(通过Telegram推送)及笔记本基准测试脚本。测试指出,当前本地AI代理仍需手动调试权限与执行逻辑,稳定性与易用性尚处早期阶段。相关体验后续将扩展至M6 Mac Mini、M5 MacBook Air及搭载AMD Strix Halo处理器的Windows设备。