AIHOT · AI 动态聚合· noreply@aihot.news (Unsloth)·· 3 小时前AI 评分58
Unsloth 发布 Mistral Le Chonk 1-bit GGUF 量化版
Unsloth 发布 Mistral Le Chonk 1-bit GGUF 量化版,可本地运行 1T 参数模型
AI 导读
Unsloth 发布 Mistral Le Chonk 的 1-bit GGUF 量化版,称可在本地运行 1T 参数模型。
深度导读
Unsloth 发布 Mistral Le Chonk 的 1-bit GGUF 量化版本,标题称其可在本地运行 1T 参数模型。材料正文本身是 Mistral 关于 Le Chonk 的发布说明,Unsloth 的量化工作体现在标题与来源信息中。
按正文,Le Chonk 的权重已在 Hugging Face 开放下载,定位覆盖智能体编码与网络安全两个方向。编码方面,它在 Cognition 的 FrontierCode 上位列开源模型第一,并在 Artificial Analysis 的 Pareto 效率上刷新基准。
网络安全方面,正文称其达到最先进水平,并经过 CrowdStrike、Cloudflare、Rubrik、Zscaler 等厂商测试。部署上,用户可用 Mistral Forge 对模型做定制,再按需部署到自有环境,正文将其表述为面向主权部署的开放权重。
材料未给出 1-bit 量化后的具体体积、显存占用、推理速度或本地硬件门槛,也未说明量化版与原始权重的精度差异,这些是判断本地运行可行性的关键缺口。
来源:AIHOT · AI 动态聚合 · aihot.news