可训练万亿参数大模型 国内运营商最大单集群智算中心运营
来源:央视新闻客户端
2024-08-31 10:03:32

由中国移动承建的国内运营商最大单集群智算中心8月30日在哈尔滨正式运营,该智算中心具有单集群算力规模最大、国产化网络设备组网规模最大等特点。

单集群智算中心把所有AI加速卡打造成1个集群,用以支持千万亿级参数的大模型进行训练。这个集群智算中心通过先进的智算网络技术把上万块GPU芯片像“积木”一样拼接在一起,大幅提升GPU节点间的通信效率,将数据训练完成时间缩短20%,从而形成超级算力集群。这个单集群智算中心共有超过1.8万张AI加速卡,运算能力达到每秒690亿亿次浮点运算,能满足万亿参数的大模型训练要求。

中国移动黑龙江公司计划建设部项目经理 闫文:它相当于300多万台高性能个人计算机每秒的计算能力,单集群相当于编队,减少互相传输时间,在编队内就把整个计算完成了。

| 微矩阵

 报纸广告服务 新媒体广告刊例价 技术服务

地址:南京市建邺区江东中路369号新华报业传媒广场 邮编:210092 联系我们:025-96096(24小时)

互联网新闻信息服务许可证32120170004 视听节目许可证1008318号 广播电视节目制作经营许可证苏字第394号

版权所有 江苏扬子晚报有限公司

 苏ICP备13020714号 | 电信增值业务经营许可证 苏B2-20140001