加入收藏

环球快消息!十倍提升大模型通信性能!腾讯云首次完整披露自研星脉高性能计算网络

2023-06-28 08:50:21 来源:搜狐数码

AIGC的爆发除了带来算力上的挑战,对网络的要求也达到了前所未有的高度。

6月26日,腾讯云首次对外完整披露自研星脉高性能计算网络:星脉网络具备业界最高的3.2T通信带宽,能提升40%的GPU利用率,节省30%~60%的模型训练成本,为AI大模型带来10倍通信性能提升。基于腾讯云新一代算力集群HCC,可支持10万卡的超大计算规模。

腾讯云副总裁王亚晨表示:“星脉网络是为大模型而生。它所提供的大带宽、高利用率以及零丢包的高性能网络服务,将助力算力瓶颈的突破,进一步释放AI潜能,全面提升企业大模型的训练效率,在云上加速大模型技术的迭代升级和落地应用。”


(相关资料图)

构建大模型专属高性能网络,提升40%GPU利用率

AIGC的火爆带来AI大模型参数量从亿级到万亿级的飙升。为支撑海量数据的大规模训练,大量服务器通过高速网络组成算力集群,互联互通,共同完成训练任务。

大集群不等于大算力,相反,GPU集群越大,产生的额外通信损耗越多。大带宽、高利用率、信息无损,是AI大模型时代网络面临的核心挑战。

千亿、万亿参数规模的大模型,训练过程中通信占比最大可达50%,传统低速网络的带宽远远无法支撑。同时,传统网络协议容易导致网络拥塞、高延时和丢包,而仅0.1%的网络丢包就可能导致50%的算力损失,最终造成算力资源的严重浪费。

基于全面自研能力,腾讯云在交换机、通信协议、通信库以及运营系统等方面,进行了软硬一体的升级和创新,率先推出业界领先的大模型专属高性能网络——星脉网络。

在硬件方面,星脉网络基于腾讯的网络研发平台,采用全自研设备构建互联底座,实现自动化部署和配置。

在软件方面,腾讯云自研的TiTa网络协议,采用先进的拥塞控制和管理技术,能够实时监测并调整网络拥塞,满足大量服务器节点之间的通信需求,确保数据交换流畅、延时低,实现高负载下的零丢包,使集群通信效率达90%以上。

此外,腾讯云还为星脉网络设计了高性能集合通信库TCCL,融入定制化解决方案,使系统实现了微秒级感知网络质量。结合动态调度机制合理分配通信通道,可以避免因网络问题导致的训练中断等问题,让通信时延降低40%。

网络的可用性,也决定了整个集群的计算稳定性。为确保星脉网络的高可用,腾讯云自研了端到端的全栈网络运营系统,通过端网立体化监控与智能定位系统,将端网问题自动定界分析,让整体故障的排查时间由天级降低至分钟级。同时,大模型训练系统的整体部署时间从19天缩减至4.5天,保证基础配置100%准确。

历经三代技术演进,软硬一体深耕自研

星脉网络全方位的升级背后,是腾讯数据中心网络历经三代技术演进的成果。

在腾讯发展初期,数据中心网络流量主要由用户访问数据中心服务器的南北向流量构成,网络架构以接入、汇聚、出口为主。这一阶段主要使用了商用网络设备,搭建标准化数据中心网络,支撑QQ在线人数增长超过1亿,服务器规模增长超10万。

随着大数据和云计算的兴起,服务器之间的东西向流量逐渐增多,云租户对网络产生了虚拟化和隔离的要求。数据中心网络架构逐渐演变为同时承载南北向和东西向流量的云网络架构,腾讯云构建了全自研网络设备与管理系统,打造超大规模数据中心网络,服务器规模近200万台。

如今随着AI大模型的出现,腾讯云在国内率先推出高性能计算网络,采用东西向、南北向流量的分离架构。构建了独立的超大带宽、符合AI训练流量特征的网络架构,并配合自研软硬件设施,实现整套系统的自主可控,满足超强算力对网络性能的新需求。

日前,腾讯云发布的新一代HCC高性能计算集群,正是基于星脉高性能网络打造,可以实现3.2T超高互联带宽,算力性能较前代提升3倍,为AI大模型训练构筑可靠的高性能网络底座。

未来,腾讯云还将持续投入基础技术的研发,为各行各业的数智化转型提供有力的技术支撑。

责任编辑:

关键词:

相关新闻

资讯

大连市应急局:值守不放松 坚守岗位保平安
大连市应急局:值守不放松 坚守岗位保平安

央广网大连6月26日消息(记者王松)为贯彻落实国家、......更多>

银川市各医院上线陪诊服务 破除老人就医的数字鸿沟-环球新资讯
银川市各医院上线陪诊服务 破除老人就医的数字鸿沟-环球新资讯

对于子女不在身边或者腿脚不方便又不会使用智能设备的......更多>

世界报道:立即重启系统什么意思
世界报道:立即重启系统什么意思

1、rebootsystemnow_百度翻译rebootsystemnow英[ri:ˈ......更多>

基督教起源时期 基督教的起源时间
基督教起源时期 基督教的起源时间

1、公元1世纪,基督教起源于巴勒斯坦,相传为犹太的拿撒......更多>

天天热议:毕福剑罕现身_毕福剑昔日全家福曝光
天天热议:毕福剑罕现身_毕福剑昔日全家福曝光

1、2015央视春晚主持人名单:朱军、董卿、康辉、撒贝......更多>

snkrs切换不回中国了怎么办snkrs切换不回中国解决办法
snkrs切换不回中国了怎么办snkrs切换不回中国解决办法

我们在使用snkrs软件时候,有点玩家们可能就会遇到在......更多>

财产安全防范知识_安全防范知识 速看料
财产安全防范知识_安全防范知识 速看料

1、一、飞车抢夺防范方法:是在公共场合不要 "露财 "......更多>

山东慈善奖!临沂市公示28名拟推荐对象 世界百事通
山东慈善奖!临沂市公示28名拟推荐对象 世界百事通

近日,临沂市民政局发布关于第八届“山东慈善奖”临沂......更多>

今年全国快递业务量已达600亿件 微头条
今年全国快递业务量已达600亿件 微头条

原标题:今年全国快递业务量已达600亿件中工网北京6月......更多>

焦点关注:农发行常州市分行“量、质、效”并举 全力支持乡村振兴
焦点关注:农发行常州市分行“量、质、效”并举 全力支持乡村振兴

今年以来,农发行江苏省常州市分行坚守职能定位,创优......更多>

关注

女子遭遇投资骗局,民警面对面止损|世界时快讯
女子遭遇投资骗局,民警面对面止损|世界时快讯
扬子晚报网6月27日讯(记者郭一鹏通讯员 雨公宣杨汉... 更多>
女子遭遇投资骗局,民警面对面止损|世界时快讯
扬子晚报网6月27日讯(记者郭一鹏通讯员 雨公宣杨汉... 更多>
【全球聚看点】世界互联网大会数字文明尼山对话在山东举行
消息(新闻联播):今天(6月26日),世界互联网大会... 更多>
瞄准前沿技术 促进降本增效(经济聚焦)_天天即时
核心阅读从上游硅料技术研发、中游组件生产制造,到下... 更多>
朱啸虎、傅盛激辨GPT背后,AI 大模型“泡沫”要破了?
ChatGPT热潮下,基于大模型的创业是否有价值,猎豹移... 更多>
英国连锁超市Sainsbury进一步降价 表明通胀有所缓解
【英国连锁超市Sainsbury进一步降价表明通胀有所缓解... 更多>
焦点日报:《合金装备4》曾计划登陆Xbox 360 主机遭取消
《合金装备4》曾考虑登录Xbox360主机,但由于需要多张... 更多>
端午节假期国内出游人次破亿
端午节假期,旅游市场表现亮眼。文旅部6月24日晚披露... 更多>
全球头条:南华西社区红歌会奏响,居民欢聚享音乐盛宴
为传承红色基因,厚植爱国主义情怀,赓续红色血脉,6... 更多>
当前消息!@找工作的你 快看!华南理工大学附属实验学校招聘教师4名
五山君了解到,因教学工作需要华南理工大学附属实验学... 更多>
2023上半年中国房地产总结与展望(产品篇)-当前关注
2023上半年中国房地产总结与展望(产品篇),四房,小户... 更多>
“彩云之约”海外台胞云南行正式启动|当前焦点
6月27日,以“同心圆梦融合发展”为主题的“彩云之约... 更多>
让群众成为竞演的主角 让竞演成为群众的节日丨聚焦“乡当潮”竞演大赛 资讯推荐
6月以来,四川省第三届乡村文化振兴魅力竞演大赛在我... 更多>