中科曙光发布词元加速技术体系:IBGDA十万卡级集群完成验证
9月11日消息,中科中科曙光正式发布scaleFabric Token加速技术体系,曙光率先在国内实现IBGDA技术(即InfiniBand GPU直连异步技术)的发布规模化应用。
据中科曙光相关产品负责人介绍,词元scaleFabric通过构建“算存传”三级紧耦合的加速技术集群词元加速通道,在网络层面与计算、体系存储紧密协同,万完成提升词元吞吐效率,卡级实现词元在大模型训练、验证推理到存储复用全链路的中科高速流转。
较低时延可减少数据在多级网络中的曙光传输耗时,使IBGDA与存储直通带来的发布路径优化进一步延伸至大规模集群,推动计算、词元存储与网络协同提升词元生成效率。加速技术集群
在大模型推理时代,体系混合专家模型(MoE)已成为主流架构,IBGDA技术的价值进一步凸显。在MoE通信中,IBGDA通过减少CPU参与关键通信路径,大幅提升并行通信效率。
此前,IBGDA的规模化落地主要由国际厂商主导,国产RDMA网卡与GPU直通的落地案例极为罕见。目前,中科曙光自研IBGDA技术已在十万卡级大规模集群中完成验证,实现该领域的关键补位。
随着IBGDA进入规模化部署阶段,基于scaleFabric的词元加速技术体系有望进一步提升多卡间数据交换效率,为混合专家模型等提供新的国产高速互连选择,也为国产智算基础设施通过系统优化提升整体性能提供支撑。
同类文章排行
- 多项技术突破!京东方推出135寸P0.7超薄高亮COG玻璃基Micro LED
- 8.27欧联杯推荐:比尔森胜利vs贝尔格莱德红星
- 《肖申克的救赎》前字幕组成员怒斥:重映版是在亵渎原作
- 交管12123 App崩了!用户崩溃:电子驾驶证无法查看 驾考缴费也受影响
- 今年最强标准版!vivo X500手机评测:这个中杯有点不讲武德
- 《肖申克的救赎》前字幕组成员怒斥:重映版是在亵渎原作
- 毕尔巴鄂主帅直言巴萨强大,但他不准备去诺坎普认输
- 意大利U18地中海杯3
- 不用写一行代码!阿里云Meoo 1.0发布 企业一句话就能搭建应用
- wwe2k25手机版中文版下载
最新资讯文章
- 网传小米外包员工领中秋月饼遭拒:大厂外包,原来是最体面的职场二等公民
- 孙颖莎给王曼昱支招!亚运会决赛:一场3
- 多名网友吐槽iPhone 18 Pro Max定格照泛绿斑!苹果客服回应
- 全球首台!我国首发全天候浮空器:可连续驻空五年
- 1699元 米家智能洗碗机台式5套开售:能放炒锅 5人餐具一次搞定
- 央视迎来新女主播!气质不输周涛
- 《超级枪弹辩驳 2×2》公开“疯狂模式”登场新角色
- 王慧文声援西贝:有没有人要组局买下来 才不管是不是预制菜
- 多项技术突破!京东方推出135寸P0.7超薄高亮COG玻璃基Micro LED
- 东契奇返回洛城第一时间开练!认真备战新赛季 他能带领湖人走多远?
- 一加16首发全新一代风驰游戏内核:原生185FPS游戏满帧运行 体验起飞
- 不用写一行代码!阿里云Meoo 1.0发布 企业一句话就能搭建应用
- 央视迎来新女主播!气质不输周涛
- 《查无此地》超自然搜打撤预告曝光!支持4人联机游玩
- 任正非:造车之本在于安全与品质 华为愿发挥所长





