全发国际

620 点全场景落地 丨 半导体大厂熙泰科技的云桌面安全与提效实战分享
预约直播
AI时期, ,,,,,,,医疗网络怎么建 丨 全发国际医疗极简以太彩光双超融合网络解决规划颁布
预约直播
全发国际(中国)有限公司官网
产品
< 返回主菜单
产品中心
产品
解决规划
< 返回主菜单
解决规划中心
行业
合作同伴
返回主菜单
选择区域/说话
全发国际(中国)有限公司官网

您订阅的产品有更新, ,,,,,,,请实时查阅

查看详情

IT168 | AIGC海潮之下, ,,,,,,,全发国际若何为算力网络注入“智能”

全发国际(中国)有限公司官网 颁布功夫:2024-07-10
全发国际(中国)有限公司官网

当前, ,,,,,,,AI技术在持续赋能产业刷新。。。。。。。继文本和图像之后, ,,,,,,,Sora的出现让AI海潮席卷至视频领域, ,,,,,,,推动AI多模态领域的急剧发展。。。。。。。以AIGC为代表的业务利用在沉塑人类的进建蹊径、工作模式甚至生涯节拍, ,,,,,,,推动智能化和便捷化的发展。。。。。。。

AIGC时期, ,,,,,,,大模型参数量持续飙升, ,,,,,,,算力需要也随之增长, ,,,,,,,这就要求网络可能承载更大规模的GPU集群。。。。。。。以GPT-4为例, ,,,,,,,其参数量已跃升至惊人的1.8万亿, ,,,,,,,训练所需的算力更是高达4680P, ,,,,,,,只有万卡集群可能提供足够的算力支持, ,,,,,,,满足大模型训练的需要。。。。。。。

由于GPT-4扩大MoE引入了大量的All to All通讯, ,,,,,,,使机内和机间通讯的比例险些达到了1:1, ,,,,,,,机间All to All通讯是依附互换机转发进行传输, ,,,,,,,因而网络通讯对GPU利用率的影响越发显著。。。。。。。这意味着, ,,,,,,,互换机必要升级到800G和1.6T的规格, ,,,,,,,以满足大模型训练过程中的超大带宽需要。。。。。。。

此表, ,,,,,,,在构建大规模训练集群时, ,,,,,,,往往建设罕见以万计的高机能GPU, ,,,,,,,旨在支持并行处置多个复杂的模型训练工作。。。。。。。这种多工作并行环境极大地增长了流量的复杂性和动态性, ,,,,,,,对网络系统的负载平衡能力提出了前所未有的挑战。。。。。。。因而, ,,,,,,,网络架构必要具备肯定的矫捷性和可扩大性, ,,,,,,,以应对不休变动的流量需要。。。。。。。

 

全发国际AIGC智算中心网络 支持大规模算力集群建设

面向下一代AI云服务的智算中心网络建设, ,,,,,,,全发国际网络在去年推出了AI-Fabric智算中心网络解决规划AI-FlexiForce智算中心网络解决规划, ,,,,,,,以其高吞吐、大带宽、高可用的个性, ,,,,,,,可利用于大数据处置、机械进建、AIGC多种业务场景, ,,,,,,,助力客户构建万卡级此外智算中心网络, ,,,,,,,支持AI业务急剧发展。。。。。。。

全发国际网络AI-FlexiForce智算中心网络解决规划选取NCP+NCF为基础????????楹嵯蚶┐蟮娜锻缂芄, ,,,,,,,并基于高机能芯片技术, ,,,,,,,通过将数据流切分成等长的Cell并负载到所有链路, ,,,,,,,提升网络带宽利用率;;;;;;;;基于VOQ+Credit的端到端流控机造实现与业务无关的无损自关环网络, ,,,,,,,助力业务算力提升。。。。。。。

AI-FlexiForce规划通过利用链路负载和拥塞节造技术, ,,,,,,,底子性解决网络中的拥塞矛盾问题, ,,,,,,,提升GPU之间通讯和推算效能, ,,,,,,,加快企业大模型利用的推出。。。。。。。同时, ,,,,,,,全发国际网络打造了散布式OS, ,,,,,,,意在实现散布式规划架构的统一治理基础上, ,,,,,,,最大水平降低系统性风险, ,,,,,,,提升AI训练网络的持久不变运行。。。。。。。

 

全发国际(中国)有限公司官网 

▲全发国际网络数据中心网络事业群高级技术总监 权熙哲

 

为了适应客户的普适性场景, ,,,,,,,全发国际网络在今年创新性地推出了AILB负载平衡解决规划, ,,,,,,,并从1.0版本持续迭代升级至2.0版本。。。。。。。凭借其靠得住的机能与矫捷性, ,,,,,,,AILB规划实现了多工作环境下分歧模型间的数据通讯。。。。。。。权熙哲指出, ,,,,,,,“借助AILB规划, ,,,,,,,客户能够更好地实现端到端的链路选择, ,,,,,,,实现端到端的高吞吐。。。。。。。”

基于GPU间有法规的传输流量特点及Leaf/Spine之间1:1收敛的特点, ,,,,,,,网络设备以Leaf分组, ,,,,,,,为Leaf接入地所有网卡, ,,,,,,,自动预规划全局负载平衡蹊径;;;;;;;;主路由与其它等价蹊径形成1主多备, ,,,,,,,AILB规划的快切技术, ,,,,,,,实现10ms内实现蹊径切换。。。。。。。

据悉, ,,,,,,,AILB规划能够叠加单级PFC(预防“多打一”)构建无损Fabric, ,,,,,,,无需ECN端网对接, ,,,,,,,实现GPU网卡与表部网络解耦。。。。。。。AILB规划在16节点PerfTest测试中, ,,,,,,,带宽利用率高达97.6%, ,,,,,,,其急剧的Failover切换功夫, ,,,,,,,保险训练业务的陆续性。。。。。。。该规划支持智算中心多租户部署模式, ,,,,,,,合用于非Mellanox系列网卡。。。。。。。

目前, ,,,,,,,全发国际网络智算中心网络解决规划为跨行业通用型, ,,,,,,,不特定于某个单一行业, ,,,,,,,而是宽泛合用于AI大模型公司、当局行业、电力能源行业(如光伏企业)、IDC公司等等, ,,,,,,,为客户提供越发专业的技术服务, ,,,,,,,助力他们应对市场挑战, ,,,,,,,实现可持续发展。。。。。。。

 

400G互换机与LPO光????????榫蘖料郙WC2024

在MWC2024展区, ,,,,,,,全发国际网络展出了RG-S6990-128QC数据中心互换机, ,,,,,,,以及高密度、低功耗的400G/800G LPO自研光????????, ,,,,,,,合用于数据中心、高机能推算网络、企业主题散布层, ,,,,,,,为数据中心服务器和互换机提供经济高效的高速互联。。。。。。。

 

400G/800G LPO光???????? 
▲400G/800G LPO光????????

 

RG-S6990-128QC互换机是全发国际网络面向高端数据中心和AIGC智算场景推出的新一代高机能、高密度盒式互换机。。。。。。。它选取先进的硬件架构设计, ,,,,,,,提供128个400GE端口, ,,,,,,,所有端口均支持线速转发, ,,,,,,,转发机能达到51.2Tbps, ,,,,,,,支持冗余可插拔电源和电扇, ,,,,,,,支持AI-Fabric规划RALB和AILB负载平衡技术, ,,,,,,,提升AIGC智算场景下贱量带宽, ,,,,,,,缩短AI训练时长。。。。。。。

权熙哲指出, ,,,,,,,“以51.2T芯片为基础, ,,,,,,,这款互换机可能提供128个400GE端口, ,,,,,,,支持高达1000张GPU卡的通讯规模。。。。。。。同时, ,,,,,,,高密度的接口设计使得单个互换机可能衔接更多服务器, ,,,,,,,支持更大规模的服务器集群, ,,,,,,,满足将来不休增长的数据处置需要。。。。。。。”

400G-QDD-DR4-SM1310????????樯杓朴糜400G光????????, ,,,,,,,选取QSFP-DD封装, ,,,,,,,MPO-12 APC接头接口, ,,,,,,,使用波长1310nm, ,,,,,,,需配套单模光纤使用, ,,,,,,,最大传输距离为500m, ,,,,,,,能够实现功耗降低50%, ,,,,,,,LPO时延降落90%, ,,,,,,,成本降低15%, ,,,,,,,无需1分2跳线, ,,,,,,,规模增长一倍, ,,,,,,,仍可维持传统布线规划。。。。。。。

在成本方面, ,,,,,,,随着400G LPO光????????榈腄SP芯片量产, ,,,,,,,其成本占比已从早期的30%以上降至当前的10%左右, ,,,,,,,提升了产品的性价比。。。。。。。对于更高速度的800G及1.6T光????????, ,,,,,,,全发国际虽面对DSP芯片成本占比力高的挑战, ,,,,,,,但仍致力于通过技术创新与规模效应来降低成本。。。。。。。

权熙哲以为, ,,,,,,,“我们已正式颁布了400G与800G的LPO光????????, ,,,,,,,实现了整体功耗降低超过60%的功效。。。。。。。具体而言, ,,,,,,,传统光????????榭赡芸魉鸶叽15瓦的电力, ,,,,,,,而全发国际LPO光????????榻鲂4~5瓦, ,,,,,,,极大提升了能效比。。。。。。。但愿通过全发国际的互换机加线性光????????, ,,,,,,,给客户提供一个有竞争力的性价比。。。。。。。”

下半年, ,,,,,,,全发国际网络将推出800G及更高密度的互换机产品, ,,,,,,,同时, ,,,,,,,1.6T互换机及配套的线性光????????橐苍诮袈嗝芄牡难蟹⒅, ,,,,,,,预计在将来两年内面世。。。。。。。我们相信, ,,,,,,,通过不懈致力, ,,,,,,,全发国际可能克服技术挑战, ,,,,,,,推动光通讯领域向更高速度、更低功耗、更低成本的方向发展。。。。。。。

 

转载起源:IT168

关注全发国际
关注全发国际官网微信
随时相识公司最新动态
全发国际(中国)有限公司官网

返回顶部

收起
全发国际(中国)有限公司官网 文档AI副手
全发国际(中国)有限公司官网 文档评价
该资料是否解决了您的问题????????
您对当前页面的中意度若何????????
不咋滴
极度好
您中意的原因是(多。。。。。。。????????
您对文档是否还有其它的问题或建议????????
为尽快解决问题, ,,,,,,,请您留下联系方式以便回复
邮箱
手机号
感激您的反。。。。。。。
全发国际(中国)有限公司官网
全发国际(中国)有限公司官网
全发国际(中国)有限公司官网
请选择服务项目
关关征询页
售前征询 售前征询
售前征询
售后服务 售后服务
售后服务
定见反馈 定见反馈
定见反馈
更多联系方式
【网站地图】【sitemap】