直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会
新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。

据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。
具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。
在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。
在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。
在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛)

责任编辑:王翔
(责任编辑:综合)
-
发布者:冬冬 浏览量:7401发布时间:2022/4/14 15:37:36 甜牛奶作为一个新兴的乳业细分品类,在经过几年的发展之后,凭借独特的优势在液态奶市场上崭露头角,深 ...[详细]
-
romSoftwar日前e宣布,《艾尔登法环:黑夜君临》“永夜之王”第二弹将于7月31日开启,之前第一弹的几位“永夜之王”继续登场直到轮换,新增三头野兽、征兆、平衡律法的魔物、雾中裂缝,敬请期待。《艾 ...[详细]
-
萨里奇希尔德当选月最佳新秀 湖人两新星获提名发布时间:2020-07-24 12:53 来源:豫都网 我要投稿[摘要]北京时间4月4日消息,NBA官方宣布,76人队的达里奥-萨里奇和国王队的巴迪-希尔 ...[详细]
-
白鹭洲西公园将打造为“爱心公园”东南网6月5日讯 海峡导报记者 曾宇姗 通讯员 魏道军)爱心之风浩荡来,魅力之城蔚然兴,前有“爱心屋”、“爱 ...[详细]
-
在大学校园开放话题再度引发社会关注之际,澎湃新闻注意到,1月2日,教育部官网公布了《关于政协第十四届全国委员会第一次会议第04329号教育事业类428号)提案答复的函》,就《关于践行人民城市重要理念, ...[详细]
-
技术统计:冈萨加三分球精准 北卡抢断盖帽凶猛发布时间:2020-08-10 17:08 来源:豫都网 我要投稿[摘要]北京时间4月4日,2017年NCAA美国大学篮球锦标赛,也就是俗称的疯狂三月,上演 ...[详细]
-
以“花”为媒持续推动农旅融合 各地经济发展“春暖花开”朝气蓬勃
以“花”为媒持续推动农旅融合 各地经济发展“春暖花开”朝气蓬勃 编辑:汤晓雪 ...[详细]
-
Puma宣布与现任CEO Arne Freundt达成协议 将于4月11日离职
德国运动品牌Puma彪马陷入了一场高层人事变动与裁员风波之中。Puma宣布与现任CEO Arne Freundt达成协议,他将于4月11日正式离职。这一消息来得颇为突然,毕竟此前巴黎奥运明星合作、英超 ...[详细]
-
厦门湖明路一饭店排烟管藏身绿化带 油烟直往外喷 路人也被熏到
▲油烟管道隐藏在绿化带里。海峡网讯文/图厦门日报记者 赵张昀)行人走在马路边,竟被油烟熏了一脸。湖明路上,几家餐饮店的排烟管道穿过绿化带,连通到马路上,每到吃饭时间,油烟都会熏到过路行人。近日,本报读 ...[详细]
-
昨天泉州市上空云系较多,天空阴沉,午后大部分乡镇最高气温在28℃~32℃,但是在西南气流的影响下,空气湿度大,体感仍然较为闷热。中午前后局地对流开始发展,不过较为分散,且强度较前一天有所减弱。预计今天 ...[详细]