返回行业动态

Unsloth 发布 Mistral Le Chonk 的动态 1-bit GGUF 量化版,可在本地运行 1T 参数模型

2026/10/29 15:04
查看原文

OmniTools 10月29日消息,Unsloth 发布 Mistral Le Chonk(Mistral Large 4,1T 参数 MoE,52B 激活)的动态 1-bit GGUF 量化版本,可在 Mac Studio 上本地运行。

据发布信息,该量化版本保留 91% top-1 准确率,体积约 233GB,相比 1.1TB FP8 缩小约 80%。1-bit 档位需要 256-270GB 内存,最小 UD-IQ1_S 版本约占 233GB 磁盘空间,并支持文本与图像输入、1M 上下文及 160+ 语言。

GGUF 文件与使用指南已公布在 Hugging Face 和 Unsloth 文档页面。

相关背景

想继续了解,可以看这些

从这条动态出发,继续查看相关分析、产品详情和同主题更新。

最新工具

刚收录的 AI 工具,适合顺手发现可用产品。

查看全部