跳到正文
与非网 · 半导体与工程·· 1 天前AI 评分72

无锡惠山国产智算中心一期2112张摩尔线程GPU满载运行,新石器拟扩至万卡级

两千张国产GPU在无锡跑满!几十家客户在排队,自动驾驶训练算力直奔万卡

AI 导读

无锡(惠山)国产智算中心一期2112张摩尔线程MTT S5000已全面投运并基本满载,算力使用率92.9%、付费算力占比59.7%,训练业务占比超62%。新石器宣布将在此扩大自动驾驶模型训练规模,算力需求接近万卡级,约为当前投运卡数的5倍。

深度导读
芯东西11月2日报道,摩尔线程与无锡惠山招商集团、L4级自动驾驶无人车企业新石器宣布达成战略合作,新石器计划在无锡(惠山)国产智算中心开展更大规模的自动驾驶模型训练,算力需求接近万卡级。该智算中心按万卡级规模规划,一期于今年6月点亮、7月试运行、10月开始商业运营,落地2112张摩尔线程AI训推一体智算卡MTT S5000,共264台国产GPU服务器,分为4个集群模块,每模块约500张卡。 运营数据显示,集群算力使用率达92.9%,付费算力占比59.7%,对接客户55家,已有20多家客户开展测试或使用,还有数十家单位等待进入测试。业务结构中训练占比超过62%,训推一体占14.7%,推理占23.1%。试运营期间接入33个主流大模型,客户主要来自本地高校、科研院所、医疗及金融机构。 性能方面,在该中心MTT S5000资源池上用DeepSeek V4 Flash模型实测,7K输入/2K输出口径下单机输出吞吐量994.97 tokens/s、有效输出吞吐量1241 token/s,SLA达标最大并发48路,达到英伟达H800的92%,显存带宽1.6Tbps,显存单价不到H800的一半。摩尔线程称其万卡级集群浮点算力达10EFLOPS,有效训练时长90%,训练线性扩展效率95%;混合推理方案中3张S5000加2张H20约等效9张H20,整体吞吐提升约1.87倍,首字延迟降低约50%。 该中心采取分步走策略,一期先建成可支撑普遍客户业务的规模,用于完成适配、验证与客户转化,再根据实际需求推进二三期扩建至万卡规模。惠山招商集团副总经理张涛透露,未来扩容会考虑异构模式,结合摩尔线程PD分离异构推理方案优化性价比。摩尔线程副总裁方朝霞表示,后续可能采用更集约的超节点方式交付。摩尔线程下一步目标是10万卡,已与京东云达成深度合作,拟建设10万卡集群。

来源:与非网 · 半导体与工程 · eefocus.com