设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

中国电信中部智算中心在武汉投运,支持部署万亿参数大模型

2024/1/27 13:21:48 来源:IT之家 作者:泽泷(实习) 责编:泽泷

IT之家 1 月 27 日消息,中国电信中部智算中心在武汉东湖新技术开发区(光谷)举行正式投入运营。中国电信专家介绍,该智算中心的算力、安全、环保及扩展性均达到一流水平,目前在中部地区属于最高等级

IT之家注意到,中国电信中部智算中心建设先进自主液冷智算集群,首次采用基于国产 AI 基础软硬件平台的方案架构,实现算、存、网、电、热整体设计。通过独特的嵌入式液冷单元,盲插总线架构,实现液冷到芯片,液冷到服务器,液冷到机柜,全场景 PUE≤1.15,在达到业内一流绿色节能环保水平的同时,可支持部署万亿参数大模型

中国电信在全国构建了多点智算中心,提供 5000PFLOPS 的智算算力,中部智算中心依托天翼云骁一体化算力平台,提供高性能、高显存、高兼容性的主流大模型训练、训推一体算力和国产自研架构的液冷高性能算力,可满足多场景算力需求。

中部智算中心可提供千卡规模的训练推理能力,并支持主流框架及芯片,基于训练推理的混合调度能力,资源利用率可以提升 20%。基于高性能的基础设施和一系列的优化技术,在千卡模型下并行计算效率可以达到 80%

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

相关文章

软媒旗下网站: IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 软媒手机APP应用 魔方 最会买 要知