中国信息产业风向标 | 专注,才能专业
DeepSeek致谢腾讯大模型网络提速技术方案贡献,助力大模型通信性能提升30%
来源:赛迪网    作者:赛迪网2025-05-07 22:23:35

5月7日,记者获悉,腾讯技术团队针对DeepSeek开源的DeepEP通信框架进行深度优化,使其在多种网络环境下均实现显著性能提升。经测试,优化后的通信框架性能在RoCE网络环境提升100%,IB网络环境提升30%,为企业开展AI大模型训练提供更高效的解决方案。相关技术方案获得了DeepSeek公开致谢,称这是一次“huge speedup”代码贡献。

自今年2月DeepSeek开源包括DeepEP在内的五大代码库以来,该团队便向业界展示了如何利用有限的硬件资源实现接近万卡集群的性能。在这些技术中,DeepEP凭借突破性的方法提升了300%的通信效率,成功解决了MoE架构大模型对英伟达NCCL的依赖问题。

但该技术在成本较低、适用面更广的RoCE网络环境中表现不佳,限制了其在更广泛场景的应用。这一痛点引发了开源社区的持续讨论。

腾讯星脉网络团队基于在RoCE网络领域的深厚积累,在DeepEP开源后便展开技术攻关,发现两大关键瓶颈:一是对于双端口网卡带宽利用率不足,二是CPU控制面交互存在时延。

腾讯在RoCE网络优化方面的突破,首先体现在带宽分配的智能化,通过拓扑感知的多QP建链技术,智能分配数据流,优化了双端口网卡的带宽利用率,确保每条数据通道都能得到充分使用。此举有效避免了带宽浪费,为RoCE网络的性能提升提供了有力支撑。

其次,腾讯还着力解决了GPU通信中的CPU控制瓶颈问题。通过基于IBGDA技术的优化,腾讯使得“控制面”场景的操作也可以绕过CPU的“中转”,进一步降低了延迟和能耗,提升了整体通信效率。

同时,GPU直接“对话”时存在的传输顺序混乱难题,腾讯提出了“QP内时序锁”机制,使得多个GPU间的数据传输能够精准、按顺序完成,即使同时处理1000多个数据传输任务,DeepEP也能自动理顺先后顺序。

在腾讯的技术优化下,DeepEP不仅在RoCE网络实现性能翻倍,反哺到IB(InfiniBand)网络时更使原有通信效率再提升30%。

(腾讯工程师在不同节点服务器上的测试数据)

目前该技术已全面开源,并成功应用于腾讯混元大模型等项目的训练推理,在腾讯星脉与H20服务器构建的高性能环境中,这套方案同样展现出卓越的通用性。

滨海湾新区:华为智能微模块+ DeepSeek 大模型,开启智慧城市...

在这片承载着国家战略的热土上,DeepSeek大模型的落地并非偶然——其背后正是省、市的战略部署,全力打造人工智能新区的结果。

2025-05-07 22:20

施耐德电气推出机器运动控制“黄金四件套...

作为施耐德电气“中国中心”战略下本土自主研发的又一创新成果,ATV305通用型变频器凭借其紧凑型设计、可靠耐用的防护与涂层,以及全系列功能的迭代升级,能够为企业带来灵活易用、稳定可靠和适用性广

2025-05-08 14:44
你可能也喜欢这些文章
联系我们:

sale@staff.ccidnet.com Tel:010-88558955

广告发布:

sale@staff.ccidnet.com Tel:010-88558925

方案、案例展示:

project@staff.ccidnet.com Tel:010-88558955

Copyright 2000-2015 CCIDnet.All rights reserved.京ICP证000080(一)-16京公网安备11010802009845号