今日,北京智源人工智能研究院宣布了一项重大验证成果,推出了六款AI芯片和三大模型,以及同构+异构千卡的众智FlagOS,实现了AI训练“全要素”验证。摩尔线程作为核心参与厂商之一,基于其旗舰级AI训推一体全功能GPU智算卡MTTS5000,成功适配了FlagOS训练全要素软件栈,包括系统调度决策框架、分布式训练框架、加速库、算子库和通信库等。
在验证过程中,MTTS5000针对Qwen3-0.6B语言模型完成了1TTokens从头训练验证,实现了连续6天以上、超过14000步的无中断稳定训练。训练所得模型的Loss曲线与基线高度一致,平均相对误差控制在0.82%以内,而在标准下游任务评测中,相较于行业标杆基线提升了1.65个百分点,充分证明了全功能GPU算力在大模型端到端训练中的稳定性与有效性。

来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。