OmniTools 10月29日消息,Unsloth 发布 Mistral Le Chonk(Mistral Large 4,1T 参数 MoE,52B 激活)的动态 1-bit GGUF 量化版本,可在 Mac Studio 上本地运行。
据发布信息,该量化版本保留 91% top-1 准确率,体积约 233GB,相比 1.1TB FP8 缩小约 80%。1-bit 档位需要 256-270GB 内存,最小 UD-IQ1_S 版本约占 233GB 磁盘空间,并支持文本与图像输入、1M 上下文及 160+ 语言。
GGUF 文件与使用指南已公布在 Hugging Face 和 Unsloth 文档页面。