跳到正文
AI 动态聚合· noreply@aihot.news (Rohan Paul)·· 1 天前精选AI 评分82

Moonshot AI 在 HuggingFace 开放 2.8T 参数 Kimi K3.1 Pro 权重

AI 导读

Moonshot AI 在 HuggingFace 开放 2.8T 参数的 Kimi K3.1 Pro 模型权重,以 4-bit 精度训练并发布,避免 16-bit 副本所需的 5.6TB 存储。

推荐理由

原文汇总了权重开放、架构与基准成绩及许可证条款,读者可据此评估部署成本与能力边界。

深度导读
Moonshot AI 在 HuggingFace 上发布了 2.8T 参数的大规模 Kimi K3.1 Pro 模型权重,仓库地址为 huggingface.co/moonshotai/Kimi-K3.1-Pro。官方表示将继续推进开放智能。 在精度与部署成本上,该模型以 4-bit 权重训练,也以该精度发布,从而避免了 16-bit 副本所需的 5.6TB 存储。架构上,每个 token 仅激活其 104B 参数,93 层中有 69 层使用线性注意力,这使得处理 1M token 上下文更便宜。 基准成绩方面,在 Moonshot 自己的测试中,该模型在 Terminal-Bench 4.0 上得分 65.7%,接近 Claude Opus 5.5 的 66.4%;但在无工具情况下,其在 HLE-Diamond 上仅达 39.4%,而 GPT-6 Astra 为 65.8%。 安全处理上,Moonshot 将稳步上升的漏洞利用技能追溯到其通用中期训练语料和 RL 环境中埋藏的网络安全内容,并在开放权重前将两者移除。 许可证方面,其修改版 MIT 许可证豁免内部使用,但要求年收入超过 2000 万美元的模型托管公司进行谈判,以约束可能压低公司自家 API 价格的转售商。

来源:AI 动态聚合 · aihot.news