CN117176654A - 一种用于减轻网络通讯拥塞的数据处理方法及装置 - Google Patents
一种用于减轻网络通讯拥塞的数据处理方法及装置 Download PDFInfo
- Publication number
- CN117176654A CN117176654A CN202311219381.8A CN202311219381A CN117176654A CN 117176654 A CN117176654 A CN 117176654A CN 202311219381 A CN202311219381 A CN 202311219381A CN 117176654 A CN117176654 A CN 117176654A
- Authority
- CN
- China
- Prior art keywords
- data
- information
- aggregation
- target
- granule
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004891 communication Methods 0.000 title claims abstract description 87
- 238000003672 processing method Methods 0.000 title claims abstract description 34
- 230000002776 aggregation Effects 0.000 claims abstract description 190
- 238000004220 aggregation Methods 0.000 claims abstract description 190
- 239000008187 granular material Substances 0.000 claims abstract description 98
- 238000012545 processing Methods 0.000 claims abstract description 69
- 238000000034 method Methods 0.000 claims abstract description 15
- 230000005540 biological transmission Effects 0.000 claims description 39
- 238000006243 chemical reaction Methods 0.000 claims description 9
- 238000012790 confirmation Methods 0.000 claims description 4
- 230000009286 beneficial effect Effects 0.000 abstract description 12
- 238000010586 diagram Methods 0.000 description 6
- 238000004590 computer program Methods 0.000 description 5
- 230000004931 aggregating effect Effects 0.000 description 2
- 238000012512 characterization method Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种用于减轻网络通讯拥塞的数据处理方法及装置,该方法包括:利用第一设备向第二设备传送第一数据信息;所有数据粒信息的数据长度是相一致的;第二设备包括开关模块、路由器数据聚合模块和数据转发引擎;利用开关模块判断第一数据信息是否聚合条件,得到聚合判断结果;当聚合判断结果为否时,利用第二设备将第一数据信息传送至目标设备;当聚合判断结果为是时,利用路由器数据聚合模块对第一数据信息进行聚合处理,得到目标聚合数据信息;利用数据转发引擎将目标聚合数据信息传输至目标设备。可见,本申请有利于提升网络通讯的处理带宽和数据处理效率,进而减轻网络通讯拥塞情况。
Description
技术领域
本发明涉及网络通讯技术领域,尤其涉及一种用于减轻网络通讯拥塞的数据处理方法及装置。
背景技术
分布式和并行应用程序的性能越来越依赖于通信优化。一种常见的模式科学应用和分布式机器学习(DML)是集体沟通。据统计,聚合通信占MPI应用程序运行总时间的66%。在网计算技术可以通过将此操作卸载到网络设备中来实现Allreduce操作加速。然而,现有的在网计算解决方案都面对一些共同的挑战:高吞吐率、聚合大数据的性能以及结果的可复现性。因此,提供一种用于减轻网络通讯拥塞的数据处理方法及装置,以提升网络通讯的处理带宽和数据处理效率,进而减轻网络通讯拥塞情况。
发明内容
本发明所要解决的技术问题在于,提供一种用于减轻网络通讯拥塞的数据处理方法及装置有利于用于减轻网络通讯拥塞的数据处理。
为了解决上述技术问题,本发明实施例第一方面公开了一种用于减轻网络通讯拥塞的数据处理方法,所述方法包括:
利用第一设备向第二设备传送第一数据信息;所述第一数据信息包括M个数据粒信息;所述数据粒信息表征在所述第一设备和所述第二设备间可传输的最小粒度的数据信息;所有所述数据粒信息的数据长度是相一致的;所述第二设备包括开关模块、路由器数据聚合模块和数据转发引擎;
利用所述开关模块判断所述第一数据信息是否聚合条件,得到聚合判断结果;
当所述聚合判断结果为否时,利用所述第二设备将所述第一数据信息传送至目标设备;
当所述聚合判断结果为是时,利用所述路由器数据聚合模块对所述第一数据信息进行聚合处理,得到目标聚合数据信息;
利用所述数据转发引擎将所述目标聚合数据信息传输至所述目标设备。
作为一种可选的实施方式,在本发明实施例第一方面中,所述利用第一设备向第二设备传送第一数据信息,包括:
利用所述第一设备获取数据流信息;
利用所述第一设备对所述数据流信息进行转化处理,得到第一数据信息;
建立所述第一设备与所述第二设备的数据通讯通道;
利用数据通讯通道,控制所述第一设备向所述第二设备发送数据发送请求信号;所述数据发送请求信号由3个所述数据粒信息构成;
控制所述第二设备在接收所述数据发送请求之后,利用数据通讯通道,控制所述第二设备向所述第一设备发送确认接收信号;所述确认接收信号由2个所述数据粒信息构成;
利用数据通讯通道,控制所述第一设备依序将所述第一数据信息中的所述数据粒信息传送至所述第二设备;
利用数据通讯通道,控制所述第二设备依次接收所述第一设备传送过来的所述第一数据信息中的所述数据粒信息;
判断所述第二设备接收到的所述数据粒信息的数量是否等于Mm,得到数据传送判断结果;所述Mm是所述第二设备在接收到第一个所述数据粒信息时,提取第一个所述数据粒信息中的fitCnt信息得到的;
当所述数据传送判断结果为否时,触发执行所述利用数据通讯通道,控制所述第一设备依序将所述第一数据信息中的所述数据粒信息传送至所述第二设备;
当所述数据传送判断结果为是时,利用数据通讯通道,控制所述第二设备向所述第一设备发送数据传送完成信号;所述数据传送完成信号由2个所述数据粒信息构成;
控制所述第一设备在接收到所述数据传送完成信号之后,关闭所述第一设备与所述第二设备之间的数据通讯通道。
作为一种可选的实施方式,在本发明实施例第一方面中,所述利用所述第一设备对所述数据流信息进行转化处理,得到第一数据信息,包括:
利用所述第一设备对所述数据流信息进行数据转换,得到待用数据包信息;所述待用数据包信息包括数据包头和数据有效载荷;所述数据有效载荷为不大于256字节的数据信息;所述数据包头包括由上而下依次分布的3层包头数据信息;所述数据包头中的第一层包头数据信息由左至右依次包括不大于20比特的destId信息、不大于1比特的head信息、不大于1比特的tail信息、不大于1比特的crcErr信息、不大于4比特的pktType信息、不大于4比特的collFlag信息、不大于9比特的pktLen信息、不大于19比特的pktId信息和不大于8比特的resv信息;所述数据包头中的第二层包头数据信息包括不大于64比特的destAddr信息;所述数据包头中的第三层包头数据信息包括不大于20比特的srcId信息、不大于1比特的rdmaw信息、不大于1比特的reduce信息、不大于20比特的jobId信息、不大于1比特的dataBit信息、不大于4比特的opCode信息、不大于13比特的resv信息、不大于4比特的fitCnt信息;所述dataBit信息表征所述待用数据包信息的数据长度;所述destAddr信息用于指示建立所述第一设备与所述第二设备的数据通讯通道;
对所述待用数据包信息进行分割,得到第一数据信息。
作为一种可选的实施方式,在本发明实施例第一方面中,所述第一数据信息中的数据粒信息包括1个头数据粒信息、1个尾数据粒信息和若干个中间数据粒信息;
所述头数据粒信息的数据格式与所述数据包头的数据格式是相一致的;所述头数据粒信息中的fitCnt信息为所述M;所述数据包头中的fitCnt信息为空缺值;
所述待用数据包信息中的所述数据有效载荷被分割于所述中间数据粒信息和所述尾数据粒信息;所述尾数据粒信息对应的有效载荷小于所述中间数据粒信息对应的有效载荷;所述尾数据粒信息还包括不大于32比特的crc信息和不大于13比特的所述resv信息。
作为一种可选的实施方式,在本发明实施例第一方面中,所述路由器数据聚合模块包括N个数据接收引擎单元和每个所述数据接收引擎单元对应的数据接受队列单元;
所述利用所述路由器数据聚合模块对所述第一数据信息进行聚合处理,得到目标聚合数据信息,包括:
对于任一所述数据接收引擎单元,利用该数据接收引擎单元从所述开关模块接收所述第一数据信息;
利用该数据接收引擎单元对所述第一数据信息进行快速拼接,得到第一聚合数据信息,并将所述第一聚合数据信息存储于该数据接收引擎单元对应的数据接受队列单元;所述第一聚合数据信息的数据格式与待用数据包信息的数据格式是相一致的;
加载所述数据接受队列单元中的所述第一聚合数据信息进行聚合处理,得到目标聚合数据信息。
作为一种可选的实施方式,在本发明实施例第一方面中,所述路由器数据聚合模块还包括存储器分配表和聚合单元;所述聚合单元包括K个可并行数据处理的聚合逻辑子单元;
所述加载所述数据接受队列单元中的所述第一聚合数据信息进行聚合处理,得到目标聚合数据信息,包括:
判断所述存储器分配表中的内存地址是否均已分配,得到内存判断结果;
当所述内存判断结果为否时,判断所述聚合单元中的所述K个聚合逻辑子单元是否均处于运行状态,得到状态判断结果;
当所述状态判断结果为否时,从所述存储器分配表中所有未分配的所述内存地址中确定一个所述内存地址为目标内存地址;
从所述聚合单元中所有未处于运行状态的所述聚合逻辑子单元中确定一个所述聚合逻辑子单元为目标聚合逻辑子单元;
对所述第一聚合数据信息进行分割组合,得到树数据组合包;所述树数据组合包包括若干个树数据组;每个所述树数据组包括Z个树数据段;
基于所述树数据组合包、所述目标内存地址和所述目标聚合逻辑子单元,确定出目标聚合数据信息。
作为一种可选的实施方式,在本发明实施例第一方面中,所述路由器数据聚合模块还包括数据包调度单元和存储器;
所述基于所述树数据组合包、所述目标内存地址和所述目标聚合逻辑子单元,确定出目标聚合数据信息,包括:
对于任一所述树数据组,对该树数据组进行数据信息提取,得到地址偏移量;
基于所述地址偏移量,从所述存储器中加载临时聚合结果信息;
利用所述数据包调度单元将该树数据组从所述数据接受队列单元调度到所述目标聚合逻辑子单元;
利用所述目标聚合逻辑子单元对所述临时聚合结果信息和树数据组进行聚合处理,得到初始聚合结果信息;
将所述初始聚合结果信息存储于所述目标内存地址对应的内存块;所述内存块的存储空间长度与所述树数据组的数据长度是相一致的;
判断所述内存块中的初始聚合结果信息的数量是否等于所述Z,得到数量判断结果;
当所述数量判断结果为否时,触发执行所述利用所述目标聚合逻辑子单元对所述临时聚合结果信息和树数据组进行聚合处理,得到初始聚合结果信息;
当所述数量判断结果为是时,将所述内存块中的所有所述初始聚合结果信息进行整合,得到目标聚合数据信息。
本发明实施例第二方面公开了一种用于减轻网络通讯拥塞的数据处理装置,装置包括:
第一传送模块,用于利用第一设备向第二设备传送第一数据信息;所述第一数据信息包括M个数据粒信息;所述数据粒信息表征在所述第一设备和所述第二设备间可传输的最小粒度的数据信息;所有所述数据粒信息的数据长度是相一致的;所述第二设备包括开关模块、路由器数据聚合模块和数据转发引擎;
判断模块,用于利用所述开关模块判断所述第一数据信息是否聚合条件,得到聚合判断结果;
第二传送模块,用于当所述聚合判断结果为否时,利用所述第二设备将所述第一数据信息传送至目标设备;
聚合模块,用于当所述聚合判断结果为是时,利用所述路由器数据聚合模块对所述第一数据信息进行聚合处理,得到目标聚合数据信息;
第三传送模块,用于利用所述数据转发引擎将所述目标聚合数据信息传输至所述目标设备。
本发明第三方面公开了另一种用于减轻网络通讯拥塞的数据处理装置,所述装置包括:
存储有可执行程序代码的存储器;
与所述存储器耦合的处理器;
所述处理器调用所述存储器中存储的所述可执行程序代码,执行本发明实施例第一方面公开的用于减轻网络通讯拥塞的数据处理方法中的部分或全部步骤。
本发明第四方面公开了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令被调用时,用于执行本发明实施例第一方面公开的用于减轻网络通讯拥塞的数据处理方法中的部分或全部步骤。
与现有技术相比,本发明实施例具有以下有益效果:
本发明实施例中,利用第一设备向第二设备传送第一数据信息;第一数据信息包括M个数据粒信息;数据粒信息表征在第一设备和第二设备间可传输的最小粒度的数据信息;所有数据粒信息的数据长度是相一致的;第二设备包括开关模块、路由器数据聚合模块和数据转发引擎;利用开关模块判断第一数据信息是否聚合条件,得到聚合判断结果;当聚合判断结果为否时,利用第二设备将第一数据信息传送至目标设备;当聚合判断结果为是时,利用路由器数据聚合模块对第一数据信息进行聚合处理,得到目标聚合数据信息;利用数据转发引擎将目标聚合数据信息传输至目标设备。可见,本申请有利于提升网络通讯的处理带宽和数据处理效率,进而减轻网络通讯拥塞情况。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例公开的一种用于减轻网络通讯拥塞的数据处理方法的流程示意图;
图2是本发明实施例公开的一种用于减轻网络通讯拥塞的数据处理装置的结构示意图;
图3是本发明实施例公开的另一种用于减轻网络通讯拥塞的数据处理装置的结构示意图;
图4是本发明实施例公开的一种待用数据包信息的结构示意图;
图5是本发明实施例公开的一种树数据组合包的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、装置、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本发明的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
本发明公开了一种用于减轻网络通讯拥塞的数据处理方法及装置有利于用于减轻网络通讯拥塞的数据处理。以下分别进行详细说明。
实施例一
请参阅图1,图1是本发明实施例公开的一种用于减轻网络通讯拥塞的数据处理方法的流程示意图。其中,图1所描述的用于减轻网络通讯拥塞的数据处理方法应用于网络管理系统中,如用于减轻网络通讯拥塞的数据处理管理的本地服务器或云端服务器等,本发明实施例不做限定。如图1所示,该用于减轻网络通讯拥塞的数据处理方法可以包括以下操作:
101、利用第一设备向第二设备传送第一数据信息。
本发明实施例中,该第一数据信息包括M个数据粒信息。
本发明实施例中,该数据粒信息表征在第一设备和第二设备间可传输的最小粒度的数据信息;所有数据粒信息的数据长度是相一致的。
本发明实施例中,该第二设备包括开关模块、路由器数据聚合模块和数据转发引擎。
102、利用开关模块判断第一数据信息是否聚合条件,得到聚合判断结果。
103、当聚合判断结果为否时,利用第二设备将第一数据信息传送至目标设备。
104、当聚合判断结果为是时,利用路由器数据聚合模块对第一数据信息进行聚合处理,得到目标聚合数据信息。
105、利用数据转发引擎将目标聚合数据信息传输至目标设备。
需要说明的是,上述M为不大于12的正整数。
需要说明的是,上述目标设备可以是第二设备,也可以是第一设备和第二设备以外的其他设别,但不能是第一设备。
需要说明的是,上述开关模块可以是交叉开关,本发明实施例不做限定。
需要说明的是,上述利用第二设备将第一数据信息传送至目标设备则表征数据不需要进行聚合,可直接进行转发,从而减少非必要数据的处理,提高数据处理效率。
需要说明的是,上述利用开关模块判断第一数据信息是否聚合条件是判断reduce信息是否为true。当reduce信息为true时,则聚合判断结果为是,否则聚合判断结果为否。
在该可选的实施例中,作为一种可选的实施方式,上述利用数据转发引擎将目标聚合数据信息传输至目标设备,包括:
利用数据转发引擎将目标聚合数据信息进行转换分割处理,得到目标聚合转化数据信息;目标聚合转化数据信息包括若干个转化数据粒信息;每个转化数据粒信息的数据长度与数据粒信息的数据长度是相一致的;
利用数据转发引擎从目标聚合数据信息中获取目标传输地址;
利用数据转发引擎基于目标传输地址,确定出目标设备;
利用数据转发引擎将目标聚合转化数据信息中的转化数据粒信息依序传送至目标设备;
将目标内存地址对应的存储器分配表的内存地址的使用状态更新为未分配。
需要说明的是,上述转化数据粒信息的数据格式类型与第一数据信息的数据粒信息的数据格式是相一致的。
需要说明的是,数据转发引擎发射每个目标聚合转化数据信息前仍然需要发送3个数据粒信息的数据信息以启动操作。所以只要转发一个内存块中的目标聚合数据信息,数据转发引擎就再发送3个数据粒信息的数据信息。因此,内存块大小的选择会影响系统通讯的性能。如果内存块大小为256字节,等于树数据段的大小,则数据转发引擎每转发12个转化数据粒信息就再发送3个数据粒信息的数据信息(然后将一个数据块划分为12个转化数据粒信息)。因此,相较于满吞吐率,实际吞吐量降低到(12×2)/(12×2+3)=80%的水平。内存块大小为1KB时吞吐率降到94.1%,内存块大小为2KB时吞吐率降到97.0%,内存块大小为4KB时吞吐率只会降到98.5%,内存块大小为8KB时吞吐率则降到99.2%的水平。当聚合较大的消息时,内存块大小等于或大于4KB是合理的,因为这只会牺牲1.5%的吞吐量,此时的系统效率是最优的。
可见,实施本发明实施例所描述的用于减轻网络通讯拥塞的数据处理方法有利于用于减轻网络通讯拥塞的数据处理。
在一个可选的实施例中,上述利用第一设备向第二设备传送第一数据信息,包括:
利用第一设备获取数据流信息;
利用第一设备对数据流信息进行转化处理,得到第一数据信息;
建立第一设备与第二设备的数据通讯通道;
利用数据通讯通道,控制第一设备向第二设备发送数据发送请求信号;数据发送请求信号由3个数据粒信息构成;
控制第二设备在接收数据发送请求之后,利用数据通讯通道,控制第二设备向第一设备发送确认接收信号;确认接收信号由2个数据粒信息构成;
利用数据通讯通道,控制第一设备依序将第一数据信息中的数据粒信息传送至第二设备;
利用数据通讯通道,控制第二设备依次接收第一设备传送过来的第一数据信息中的数据粒信息;
判断第二设备接收到的数据粒信息的数量是否等于Mm,得到数据传送判断结果;Mm是第二设备在接收到第一个数据粒信息时,提取第一个数据粒信息中的fitCnt信息得到的;
当数据传送判断结果为否时,触发执行利用数据通讯通道,控制第一设备依序将第一数据信息中的数据粒信息传送至第二设备;
当数据传送判断结果为是时,利用数据通讯通道,控制第二设备向第一设备发送数据传送完成信号;数据传送完成信号由2个数据粒信息构成;
控制第一设备在接收到数据传送完成信号之后,关闭第一设备与第二设备之间的数据通讯通道。
需要说明的是,上述数据流信息是在第一设备与其他设备进行数据通联的数据流。
需要说明的是,上述数据通讯通道可以是特定局域网间的数据通道,也可以是有线网络建立的数据通道,还可以是无线网络建立的数据通道,本发明实施例不做限定。
可见,实施本发明实施例所描述的用于减轻网络通讯拥塞的数据处理方法有利于用于减轻网络通讯拥塞的数据处理。
在另一个可选的实施例中,利用第一设备对数据流信息进行转化处理,得到第一数据信息,包括:
利用第一设备对数据流信息进行数据转换,得到待用数据包信息;待用数据包信息包括数据包头和数据有效载荷;数据有效载荷为不大于256字节的数据信息;数据包头包括由上而下依次分布的3层包头数据信息;数据包头中的第一层包头数据信息由左至右依次包括不大于20比特的destId信息、不大于1比特的head信息、不大于1比特的tail信息、不大于1比特的crcErr信息、不大于4比特的pktType信息、不大于4比特的collFlag信息、不大于9比特的pktLen信息、不大于19比特的pktId信息和不大于8比特的resv信息;数据包头中的第二层包头数据信息包括不大于64比特的destAddr信息;数据包头中的第三层包头数据信息包括不大于20比特的srcId信息、不大于1比特的rdmaw信息、不大于1比特的reduce信息、不大于20比特的jobId信息、不大于1比特的dataBit信息、不大于4比特的opCode信息、不大于13比特的resv信息、不大于4比特的fitCnt信息;dataBit信息表征待用数据包信息的数据长度;destAddr信息用于指示建立第一设备与第二设备的数据通讯通道;
对待用数据包信息进行分割,得到第一数据信息。
需要说明的是,destId信息表征进程服务对应的编号。
需要说明的是,jobId信息用来区分不同的待用数据包信息.
需要说明的是,srcId信息表征数据源的数据地址。
需要说明的是,collFlag信息用于标记在网计算,并将reduce信息用于数据规约。数据类型和规约操作由opCode信息和dataType信息来确定。
需要说明的是,rdmaw信息表征写入远程地址时,其为true,否则为false。
需要说明的是,resv信息表征资源预留协议,可以根据实际设定。
需要说明的是,pktId信息表征数据包的标识。进一步的,上述pktType信息表征pktId信息对应的数据包的标识的数据类型。
需要说明的是,pktLen信息表征数据包的数据有效负载的大小。
需要说明的是,crcErr信息用于待用数据包信息的错误检查。
需要说明的是,head信息和tail信息表征待用数据包信息对应的数据头开始信息和数据结尾信息。
可见,实施本发明实施例所描述的用于减轻网络通讯拥塞的数据处理方法有利于用于减轻网络通讯拥塞的数据处理。
在又一个可选的实施例中,第一数据信息中的数据粒信息包括1个头数据粒信息、1个尾数据粒信息和若干个中间数据粒信息;
头数据粒信息的数据格式与数据包头的数据格式是相一致的;头数据粒信息中的fitCnt信息为M;数据包头中的fitCnt信息为空缺值;
待用数据包信息中的数据有效载荷被分割于中间数据粒信息和尾数据粒信息;尾数据粒信息对应的有效载荷小于中间数据粒信息对应的有效载荷;尾数据粒信息还包括不大于32比特的crc信息和不大于13比特的resv信息。
需要说明的是,上述中间数据粒信息的数据长度为24字节。
需要说明的是,上述crc信息是用于第一数据信息的错误检查的数据字段。
需要说明的是,上述1个尾数据粒信息和若干个中间数据粒信息不包含第一数据信息中的控制信息,进一步的,上述控制信息只位于头数据粒信息。
可见,实施本发明实施例所描述的用于减轻网络通讯拥塞的数据处理方法有利于用于减轻网络通讯拥塞的数据处理。
在又一个可选的实施例中,路由器数据聚合模块包括N个数据接收引擎单元和每个数据接收引擎单元对应的数据接受队列单元;
利用路由器数据聚合模块对第一数据信息进行聚合处理,得到目标聚合数据信息,包括:
对于任一数据接收引擎单元,利用该数据接收引擎单元从开关模块接收第一数据信息;
利用该数据接收引擎单元对第一数据信息进行快速拼接,得到第一聚合数据信息,并将第一聚合数据信息存储于该数据接收引擎单元对应的数据接受队列单元;第一聚合数据信息的数据格式与待用数据包信息的数据格式是相一致的;
加载数据接受队列单元中的第一聚合数据信息进行聚合处理,得到目标聚合数据信息。
需要说明的是,上述加载数据接受队列单元中的第一聚合数据信息进行聚合处理,得到目标聚合数据信息的聚合时间是由最后到的树数据段确定的。举例来说,第一树数据包(0,0)在时间a到达,是从0号树数据段收到的第一个数据包。第十七树数据包(3,0)是0号树数据段的最后一个数据包。在这两个数据包之间的时间间隔表示为ξ。树数据段0在时间b完成在聚合,因此一个树数据段完成聚合的时间为ξ+τ。第二树数据包(0,1)是树数据段1的第一个数据包,在时间a的δ秒后到达。树数据段1在时间c完成聚合,b和c之间的间隔是δ。因此,如果数据流中没有气泡,每隔δ秒一个段就可以完成聚合。可以通过不同的存储体对不同树数据组并发地进行聚合。如果需要保证结果的再现性,数据包调度单元从数据接受队列单元中以预定义的顺序,按序获取第一数据信息。否则,数据包调度单元将从任意非空数据接受队列单元中取出第一数据信息。另一方面,如果存在一些气泡包(例如,由于网络内系统噪声),allreduce的总吞吐量为取决于最慢的树数据段。
需要说明的是,路由器数据聚合模块包括N个数据接收引擎单元,每个数据接收引擎单元分别连接于开关模块,当从不同的第一设备接收数据时,所有数据都通过开关模块和单个数据接收引擎单元进行并行传输,从而避免数据传输的瓶颈限制,提高数据处理效率。
需要说明的是,上述对第一数据信息进行快速拼接是依据头数据粒信息、若干个中间数据粒信息和尾数据粒信息的顺序进行数据拼接的。
可见,实施本发明实施例所描述的用于减轻网络通讯拥塞的数据处理方法有利于用于减轻网络通讯拥塞的数据处理。
在一个可选的实施例中,上述路由器数据聚合模块还包括存储器分配表和聚合单元;聚合单元包括K个可并行数据处理的聚合逻辑子单元;
加载数据接受队列单元中的第一聚合数据信息进行聚合处理,得到目标聚合数据信息,包括:
判断存储器分配表中的内存地址是否均已分配,得到内存判断结果;
当内存判断结果为否时,判断聚合单元中的K个聚合逻辑子单元是否均处于运行状态,得到状态判断结果;
当状态判断结果为否时,从存储器分配表中所有未分配的内存地址中确定一个内存地址为目标内存地址;
从聚合单元中所有未处于运行状态的聚合逻辑子单元中确定一个聚合逻辑子单元为目标聚合逻辑子单元;
对第一聚合数据信息进行分割组合,得到树数据组合包;树数据组合包包括若干个树数据组;每个树数据组包括Z个树数据段;
基于树数据组合包、目标内存地址和目标聚合逻辑子单元,确定出目标聚合数据信息。
需要说明的是,上述对第一聚合数据信息进行分割组合,得到树数据组合包是在中间路由器就规约了数据,大大减少了在网络中传输的数据包,从而减轻了拥塞。此外,由于网络中的任何数据规约都有助于显著降低整个系统的功耗,通过对第一聚合数据信息进行分割组合可降低15%-50%的系统功耗。
需要说明的是,上述存储器分配表包括内存地址以及该内存地址的使用状态,即是否被分配使用。进一步的,只有当存储器分配表中的内存地址有未被分配的内存地址时,才可进行数据的聚合,即有相应的内存块来存储聚合过程中产生的初始聚合结果信息。进一步的,再确定出目标聚合数据信息后,再利用数据转发引擎将目标聚合数据信息传输至目标设备后,其所对应的内存块将被释放,则此时在存储器分配表对应的内存地址的使用状态将变更为未分配。
需要说明的是,上述聚合逻辑子单元是并行处理的,即每两个聚合逻辑子单元之间是不相互影响的。进一步的,聚合单元中的聚合逻辑子单元可以同时参与不同的allreduce作业,每个由不同的应用程序或相同的应用程序发起。进一步的,第二设备由jobId对正在进行聚合处理的不同聚合逻辑子单元进行标记,以使只有同一树数据组的数据信息才能在相同的聚合逻辑子单元中进行聚合。
如图5所示,将第一聚合数据信息分割成X个树数据段,每个树数据段包括Y个数据元素。进一步的,Z个树数据段可组合成一个树数据组。进一步的,每个树数据段包括4个树数据包,同一行的树数据包由相同的进程服务进行处理。进一步的,每个树数据包的树编号包括进程编号和偏移编号,如第一数据包(0,0)表征第0进程服务产生的第0号树数据包。
需要说明的是,上述树数据组中的树数据段是依次相邻的。
可见,实施本发明实施例所描述的用于减轻网络通讯拥塞的数据处理方法有利于用于减轻网络通讯拥塞的数据处理。
在另一个可选的实施例中,路由器数据聚合模块还包括数据包调度单元和存储器;
基于树数据组合包、目标内存地址和目标聚合逻辑子单元,确定出目标聚合数据信息,包括:
对于任一树数据组,对该树数据组进行数据信息提取,得到地址偏移量;
基于地址偏移量,从存储器中加载临时聚合结果信息;
利用数据包调度单元将该树数据组从数据接受队列单元调度到目标聚合逻辑子单元;
利用目标聚合逻辑子单元对临时聚合结果信息和树数据组进行聚合处理,得到初始聚合结果信息;
将初始聚合结果信息存储于目标内存地址对应的内存块;内存块的存储空间长度与树数据组的数据长度是相一致的;
判断内存块中的初始聚合结果信息的数量是否等于Z,得到数量判断结果;
当数量判断结果为否时,触发执行利用目标聚合逻辑子单元对临时聚合结果信息和树数据组进行聚合处理,得到初始聚合结果信息;
当数量判断结果为是时,将内存块中的所有初始聚合结果信息进行整合,得到目标聚合数据信息。
需要说明的是,上述对该树数据组进行数据信息提取是从树数据包中的数据包头中提取pktId,然后将pktId拆分成两部分,即最低4为的地址偏移量,以及树数据包的数据前缀,即grpId。
需要说明的是,只有同一树数据组对应的数据信息才存储于同一个内存块中。
需要说明的是,上述从存储器中加载临时聚合结果信息是在地址偏移量的基础上加上存储器基础地址以得到临时聚合结果信息的实际存储地址,然后再从存储器中进行数据加载。进一步的,上述存储器是双端口全双工、多存储体(32存储体)字交错存储器。
需要说明的是,上述内存块在存储器分配表确定将目标内存地址对应的内存块分配给第一聚合数据信息以存储初始聚合结果信息时,将同时分配给内存块一个聚合计数器,在内存块每新存储一个初始聚合结果信息时,计数器将加1,以在内存块达到存储阈值,即Z时,将内存块中的初始聚合结果信息整合成目标聚合数据信息。
需要说明的是,上述初始聚合结果信息将通过树数据段中的grpId映射到内存块,以将数据进行存储。
需要说明的是,上述数据包调度单元是预置于第二设备中的调度程序,可直接用于数据的调度。
可见,实施本发明实施例所描述的用于减轻网络通讯拥塞的数据处理方法有利于用于减轻网络通讯拥塞的数据处理。
实施例二
请参阅图2,图2是本发明实施例公开的一种用于减轻网络通讯拥塞的数据处理装置的结构示意图。其中,图2所描述的装置能够应用于网络管理系统中,如用于减轻网络通讯拥塞的数据处理管理的本地服务器或云端服务器等,本发明实施例不做限定。如图2所示,该装置可以包括:
第一传送模块201,用于利用第一设备向第二设备传送第一数据信息;第一数据信息包括M个数据粒信息;数据粒信息表征在第一设备和第二设备间可传输的最小粒度的数据信息;所有数据粒信息的数据长度是相一致的;第二设备包括开关模块、路由器数据聚合模块和数据转发引擎;
判断模块202,用于利用开关模块判断第一数据信息是否聚合条件,得到聚合判断结果;
第二传送模块203,用于当聚合判断结果为否时,利用第二设备将第一数据信息传送至目标设备;
聚合模块204,用于当聚合判断结果为是时,利用路由器数据聚合模块对第一数据信息进行聚合处理,得到目标聚合数据信息;
第三传送模块205,用于利用数据转发引擎将目标聚合数据信息传输至目标设备。
可见,实施图2所描述的用于减轻网络通讯拥塞的数据处理装置有利于用于减轻网络通讯拥塞的数据处理。
在另一个可选的实施例中,如图2所示,第一传送模块201利用第一设备向第二设备传送第一数据信息,包括:
利用第一设备获取数据流信息;
利用第一设备对数据流信息进行转化处理,得到第一数据信息;
建立第一设备与第二设备的数据通讯通道;
利用数据通讯通道,控制第一设备向第二设备发送数据发送请求信号;数据发送请求信号由3个数据粒信息构成;
控制第二设备在接收数据发送请求之后,利用数据通讯通道,控制第二设备向第一设备发送确认接收信号;确认接收信号由2个数据粒信息构成;
利用数据通讯通道,控制第一设备依序将第一数据信息中的数据粒信息传送至第二设备;
利用数据通讯通道,控制第二设备依次接收第一设备传送过来的第一数据信息中的数据粒信息;
判断第二设备接收到的数据粒信息的数量是否等于Mm,得到数据传送判断结果;Mm是第二设备在接收到第一个数据粒信息时,提取第一个数据粒信息中的fitCnt信息得到的;
当数据传送判断结果为否时,触发执行利用数据通讯通道,控制第一设备依序将第一数据信息中的数据粒信息传送至第二设备;
当数据传送判断结果为是时,利用数据通讯通道,控制第二设备向第一设备发送数据传送完成信号;数据传送完成信号由2个数据粒信息构成;
控制第一设备在接收到数据传送完成信号之后,关闭第一设备与第二设备之间的数据通讯通道。
可见,实施图2所描述的用于减轻网络通讯拥塞的数据处理装置有利于用于减轻网络通讯拥塞的数据处理。
在又一个可选的实施例中,如图2所示,第一传送模块201利用第一设备对数据流信息进行转化处理,得到第一数据信息,包括:
利用第一设备对数据流信息进行数据转换,得到待用数据包信息;待用数据包信息包括数据包头和数据有效载荷;数据有效载荷为不大于256字节的数据信息;数据包头包括由上而下依次分布的3层包头数据信息;数据包头中的第一层包头数据信息由左至右依次包括不大于20比特的destId信息、不大于1比特的head信息、不大于1比特的tail信息、不大于1比特的crcErr信息、不大于4比特的pktType信息、不大于4比特的collFlag信息、不大于9比特的pktLen信息、不大于19比特的pktId信息和不大于8比特的resv信息;数据包头中的第二层包头数据信息包括不大于64比特的destAddr信息;数据包头中的第三层包头数据信息包括不大于20比特的srcId信息、不大于1比特的rdmaw信息、不大于1比特的reduce信息、不大于20比特的jobId信息、不大于1比特的dataBit信息、不大于4比特的opCode信息、不大于13比特的resv信息、不大于4比特的fitCnt信息;dataBit信息表征待用数据包信息的数据长度;destAddr信息用于指示建立第一设备与第二设备的数据通讯通道;
对待用数据包信息进行分割,得到第一数据信息。
可见,实施图2所描述的用于减轻网络通讯拥塞的数据处理装置有利于用于减轻网络通讯拥塞的数据处理。
在又一个可选的实施例中,如图2所示,第一数据信息中的数据粒信息包括1个头数据粒信息、1个尾数据粒信息和若干个中间数据粒信息;
头数据粒信息的数据格式与数据包头的数据格式是相一致的;头数据粒信息中的fitCnt信息为M;数据包头中的fitCnt信息为空缺值;
待用数据包信息中的数据有效载荷被分割于中间数据粒信息和尾数据粒信息;尾数据粒信息对应的有效载荷小于中间数据粒信息对应的有效载荷;尾数据粒信息还包括不大于32比特的crc信息和不大于13比特的resv信息。
可见,实施图2所描述的用于减轻网络通讯拥塞的数据处理装置有利于用于减轻网络通讯拥塞的数据处理。
在又一个可选的实施例中,如图2所示,路由器数据聚合模块包括N个数据接收引擎单元和每个数据接收引擎单元对应的数据接受队列单元;
聚合模块204利用路由器数据聚合模块对第一数据信息进行聚合处理,得到目标聚合数据信息,包括:
对于任一数据接收引擎单元,利用该数据接收引擎单元从开关模块接收第一数据信息;
利用该数据接收引擎单元对第一数据信息进行快速拼接,得到第一聚合数据信息,并将第一聚合数据信息存储于该数据接收引擎单元对应的数据接受队列单元;第一聚合数据信息的数据格式与待用数据包信息的数据格式是相一致的;
加载数据接受队列单元中的第一聚合数据信息进行聚合处理,得到目标聚合数据信息。
可见,实施图2所描述的用于减轻网络通讯拥塞的数据处理装置有利于用于减轻网络通讯拥塞的数据处理。
在又一个可选的实施例中,如图2所示,路由器数据聚合模块还包括存储器分配表和聚合单元;聚合单元包括K个可并行数据处理的聚合逻辑子单元;
聚合模块204加载数据接受队列单元中的第一聚合数据信息进行聚合处理,得到目标聚合数据信息,包括:
判断存储器分配表中的内存地址是否均已分配,得到内存判断结果;
当内存判断结果为否时,判断聚合单元中的K个聚合逻辑子单元是否均处于运行状态,得到状态判断结果;
当状态判断结果为否时,从存储器分配表中所有未分配的内存地址中确定一个内存地址为目标内存地址;
从聚合单元中所有未处于运行状态的聚合逻辑子单元中确定一个聚合逻辑子单元为目标聚合逻辑子单元;
对第一聚合数据信息进行分割组合,得到树数据组合包;树数据组合包包括若干个树数据组;每个树数据组包括Z个树数据段;
基于树数据组合包、目标内存地址和目标聚合逻辑子单元,确定出目标聚合数据信息。
可见,实施图2所描述的用于减轻网络通讯拥塞的数据处理装置有利于用于减轻网络通讯拥塞的数据处理。
在又一个可选的实施例中,如图2所示,路由器数据聚合模块还包括数据包调度单元和存储器;
聚合模块204基于树数据组合包、目标内存地址和目标聚合逻辑子单元,确定出目标聚合数据信息,包括:
对于任一树数据组,对该树数据组进行数据信息提取,得到地址偏移量;
基于地址偏移量,从存储器中加载临时聚合结果信息;
利用数据包调度单元将该树数据组从数据接受队列单元调度到目标聚合逻辑子单元;
利用目标聚合逻辑子单元对临时聚合结果信息和树数据组进行聚合处理,得到初始聚合结果信息;
将初始聚合结果信息存储于目标内存地址对应的内存块;内存块的存储空间长度与树数据组的数据长度是相一致的;
判断内存块中的初始聚合结果信息的数量是否等于Z,得到数量判断结果;
当数量判断结果为否时,触发执行利用目标聚合逻辑子单元对临时聚合结果信息和树数据组进行聚合处理,得到初始聚合结果信息;
当数量判断结果为是时,将内存块中的所有初始聚合结果信息进行整合,得到目标聚合数据信息。
可见,实施图2所描述的用于减轻网络通讯拥塞的数据处理装置有利于用于减轻网络通讯拥塞的数据处理。
实施例三
请参阅图3,图3是本发明实施例公开的又一种用于减轻网络通讯拥塞的数据处理装置的结构示意图。其中,图3所描述的装置能够应用于网络管理系统中,如用于减轻网络通讯拥塞的数据处理管理的本地服务器或云端服务器等,本发明实施例不做限定。如图3所示,该装置可以包括:
存储有可执行程序代码的存储器301;
与存储器301耦合的处理器302;
处理器302调用存储器301中存储的可执行程序代码,用于执行实施例一所描述的用于减轻网络通讯拥塞的数据处理方法中的步骤。
实施例四
本发明实施例公开了一种计算机可读读存储介质,其存储用于电子数据交换的计算机程序,其中,该计算机程序使得计算机执行实施例一所描述的用于减轻网络通讯拥塞的数据处理方法中的步骤。
实施例五
本发明实施例公开了一种计算机程序产品,该计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,且该计算机程序可操作来使计算机执行实施例一所描述的用于减轻网络通讯拥塞的数据处理方法中的步骤。
以上所描述的装置实施例仅是示意性的,其中作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理模块,即可以位于一个地方,或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施例的具体描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,存储介质包括只读存储器(Read-Only Memory,ROM)、随机存储器(Random Access Memory,RAM)、可编程只读存储器(Programmable Read-only Memory,PROM)、可擦除可编程只读存储器(ErasableProgrammable Read Only Memory,EPROM)、一次可编程只读存储器(One-timeProgrammable Read-Only Memory,OTPROM)、电子抹除式可复写只读存储器(Electrically-Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(CompactDisc Read-Only Memory,CD-ROM)或其他光盘存储器、磁盘存储器、磁带存储器、或者能够用于携带或存储数据的计算机可读的任何其他介质。
最后应说明的是:本发明实施例公开的一种用于减轻网络通讯拥塞的数据处理方法及装置所揭露的仅为本发明较佳实施例而已,仅用于说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解;其依然可以对前述各项实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或替换,并不使相应的技术方案的本质脱离本发明各项实施例技术方案的精神和范围。
Claims (10)
1.一种用于减轻网络通讯拥塞的数据处理方法,其特征在于,所述方法包括:
利用第一设备向第二设备传送第一数据信息;所述第一数据信息包括M个数据粒信息;所述数据粒信息表征在所述第一设备和所述第二设备间可传输的最小粒度的数据信息;所有所述数据粒信息的数据长度是相一致的;所述第二设备包括开关模块、路由器数据聚合模块和数据转发引擎;
利用所述开关模块判断所述第一数据信息是否聚合条件,得到聚合判断结果;
当所述聚合判断结果为否时,利用所述第二设备将所述第一数据信息传送至目标设备;
当所述聚合判断结果为是时,利用所述路由器数据聚合模块对所述第一数据信息进行聚合处理,得到目标聚合数据信息;
利用所述数据转发引擎将所述目标聚合数据信息传输至所述目标设备。
2.根据权利要求1所述的用于减轻网络通讯拥塞的数据处理方法,其特征在于,所述利用第一设备向第二设备传送第一数据信息,包括:
利用所述第一设备获取数据流信息;
利用所述第一设备对所述数据流信息进行转化处理,得到第一数据信息;
建立所述第一设备与所述第二设备的数据通讯通道;
利用数据通讯通道,控制所述第一设备向所述第二设备发送数据发送请求信号;所述数据发送请求信号由3个所述数据粒信息构成;
控制所述第二设备在接收所述数据发送请求之后,利用数据通讯通道,控制所述第二设备向所述第一设备发送确认接收信号;所述确认接收信号由2个所述数据粒信息构成;
利用数据通讯通道,控制所述第一设备依序将所述第一数据信息中的所述数据粒信息传送至所述第二设备;
利用数据通讯通道,控制所述第二设备依次接收所述第一设备传送过来的所述第一数据信息中的所述数据粒信息;
判断所述第二设备接收到的所述数据粒信息的数量是否等于Mm,得到数据传送判断结果;所述Mm是所述第二设备在接收到第一个所述数据粒信息时,提取第一个所述数据粒信息中的fitCnt信息得到的;
当所述数据传送判断结果为否时,触发执行所述利用数据通讯通道,控制所述第一设备依序将所述第一数据信息中的所述数据粒信息传送至所述第二设备;
当所述数据传送判断结果为是时,利用数据通讯通道,控制所述第二设备向所述第一设备发送数据传送完成信号;所述数据传送完成信号由2个所述数据粒信息构成;
控制所述第一设备在接收到所述数据传送完成信号之后,关闭所述第一设备与所述第二设备之间的数据通讯通道。
3.根据权利要求2所述的用于减轻网络通讯拥塞的数据处理方法,其特征在于,所述利用所述第一设备对所述数据流信息进行转化处理,得到第一数据信息,包括:
利用所述第一设备对所述数据流信息进行数据转换,得到待用数据包信息;所述待用数据包信息包括数据包头和数据有效载荷;所述数据有效载荷为不大于256字节的数据信息;所述数据包头包括由上而下依次分布的3层包头数据信息;所述数据包头中的第一层包头数据信息由左至右依次包括不大于20比特的destId信息、不大于1比特的head信息、不大于1比特的tail信息、不大于1比特的crcErr信息、不大于4比特的pktType信息、不大于4比特的collFlag信息、不大于9比特的pktLen信息、不大于19比特的pktId信息和不大于8比特的resv信息;所述数据包头中的第二层包头数据信息包括不大于64比特的destAddr信息;所述数据包头中的第三层包头数据信息包括不大于20比特的srcId信息、不大于1比特的rdmaw信息、不大于1比特的reduce信息、不大于20比特的jobId信息、不大于1比特的dataBit信息、不大于4比特的opCode信息、不大于13比特的resv信息、不大于4比特的fitCnt信息;所述dataBit信息表征所述待用数据包信息的数据长度;所述destAddr信息用于指示建立所述第一设备与所述第二设备的数据通讯通道;
对所述待用数据包信息进行分割,得到第一数据信息。
4.根据权利要求3所述的用于减轻网络通讯拥塞的数据处理方法,其特征在于,所述第一数据信息中的数据粒信息包括1个头数据粒信息、1个尾数据粒信息和若干个中间数据粒信息;
所述头数据粒信息的数据格式与所述数据包头的数据格式是相一致的;所述头数据粒信息中的fitCnt信息为所述M;所述数据包头中的fitCnt信息为空缺值;
所述待用数据包信息中的所述数据有效载荷被分割于所述中间数据粒信息和所述尾数据粒信息;所述尾数据粒信息对应的有效载荷小于所述中间数据粒信息对应的有效载荷;所述尾数据粒信息还包括不大于32比特的crc信息和不大于13比特的所述resv信息。
5.根据权利要求1所述的用于减轻网络通讯拥塞的数据处理方法,其特征在于,所述路由器数据聚合模块包括N个数据接收引擎单元和每个所述数据接收引擎单元对应的数据接受队列单元;
所述利用所述路由器数据聚合模块对所述第一数据信息进行聚合处理,得到目标聚合数据信息,包括:
对于任一所述数据接收引擎单元,利用该数据接收引擎单元从所述开关模块接收所述第一数据信息;
利用该数据接收引擎单元对所述第一数据信息进行快速拼接,得到第一聚合数据信息,并将所述第一聚合数据信息存储于该数据接收引擎单元对应的数据接受队列单元;所述第一聚合数据信息的数据格式与待用数据包信息的数据格式是相一致的;
加载所述数据接受队列单元中的所述第一聚合数据信息进行聚合处理,得到目标聚合数据信息。
6.根据权利要求5所述的用于减轻网络通讯拥塞的数据处理方法,其特征在于,所述路由器数据聚合模块还包括存储器分配表和聚合单元;所述聚合单元包括K个可并行数据处理的聚合逻辑子单元;
所述加载所述数据接受队列单元中的所述第一聚合数据信息进行聚合处理,得到目标聚合数据信息,包括:
判断所述存储器分配表中的内存地址是否均已分配,得到内存判断结果;
当所述内存判断结果为否时,判断所述聚合单元中的所述K个聚合逻辑子单元是否均处于运行状态,得到状态判断结果;
当所述状态判断结果为否时,从所述存储器分配表中所有未分配的所述内存地址中确定一个所述内存地址为目标内存地址;
从所述聚合单元中所有未处于运行状态的所述聚合逻辑子单元中确定一个所述聚合逻辑子单元为目标聚合逻辑子单元;
对所述第一聚合数据信息进行分割组合,得到树数据组合包;所述树数据组合包包括若干个树数据组;每个所述树数据组包括Z个树数据段;
基于所述树数据组合包、所述目标内存地址和所述目标聚合逻辑子单元,确定出目标聚合数据信息。
7.根据权利要求6所述的用于减轻网络通讯拥塞的数据处理方法,其特征在于,所述路由器数据聚合模块还包括数据包调度单元和存储器;
所述基于所述树数据组合包、所述目标内存地址和所述目标聚合逻辑子单元,确定出目标聚合数据信息,包括:
对于任一所述树数据组,对该树数据组进行数据信息提取,得到地址偏移量;
基于所述地址偏移量,从所述存储器中加载临时聚合结果信息;
利用所述数据包调度单元将该树数据组从所述数据接受队列单元调度到所述目标聚合逻辑子单元;
利用所述目标聚合逻辑子单元对所述临时聚合结果信息和树数据组进行聚合处理,得到初始聚合结果信息;
将所述初始聚合结果信息存储于所述目标内存地址对应的内存块;所述内存块的存储空间长度与所述树数据组的数据长度是相一致的;
判断所述内存块中的初始聚合结果信息的数量是否等于所述Z,得到数量判断结果;
当所述数量判断结果为否时,触发执行所述利用所述目标聚合逻辑子单元对所述临时聚合结果信息和树数据组进行聚合处理,得到初始聚合结果信息;
当所述数量判断结果为是时,将所述内存块中的所有所述初始聚合结果信息进行整合,得到目标聚合数据信息。
8.一种用于减轻网络通讯拥塞的数据处理装置,其特征在于,所述装置包括:
第一传送模块,用于利用第一设备向第二设备传送第一数据信息;所述第一数据信息包括M个数据粒信息;所述数据粒信息表征在所述第一设备和所述第二设备间可传输的最小粒度的数据信息;所有所述数据粒信息的数据长度是相一致的;所述第二设备包括开关模块、路由器数据聚合模块和数据转发引擎;
判断模块,用于利用所述开关模块判断所述第一数据信息是否聚合条件,得到聚合判断结果;
第二传送模块,用于当所述聚合判断结果为否时,利用所述第二设备将所述第一数据信息传送至目标设备;
聚合模块,用于当所述聚合判断结果为是时,利用所述路由器数据聚合模块对所述第一数据信息进行聚合处理,得到目标聚合数据信息;
第三传送模块,用于利用所述数据转发引擎将所述目标聚合数据信息传输至所述目标设备。
9.一种用于减轻网络通讯拥塞的数据处理装置,其特征在于,所述装置包括:
存储有可执行程序代码的存储器;
与所述存储器耦合的处理器;
所述处理器调用所述存储器中存储的所述可执行程序代码,执行如权利要求1-7任一项所述的用于减轻网络通讯拥塞的数据处理方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令被调用时,用于执行如权利要求1-7任一项所述的用于减轻网络通讯拥塞的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311219381.8A CN117176654A (zh) | 2023-09-20 | 2023-09-20 | 一种用于减轻网络通讯拥塞的数据处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311219381.8A CN117176654A (zh) | 2023-09-20 | 2023-09-20 | 一种用于减轻网络通讯拥塞的数据处理方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117176654A true CN117176654A (zh) | 2023-12-05 |
Family
ID=88935361
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311219381.8A Pending CN117176654A (zh) | 2023-09-20 | 2023-09-20 | 一种用于减轻网络通讯拥塞的数据处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117176654A (zh) |
-
2023
- 2023-09-20 CN CN202311219381.8A patent/CN117176654A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11916781B2 (en) | System and method for facilitating efficient utilization of an output buffer in a network interface controller (NIC) | |
US11716409B2 (en) | Packet transmission method and apparatus | |
CN108667739B (zh) | 拥塞控制方法、装置及系统 | |
US10868767B2 (en) | Data transmission method and apparatus in optoelectronic hybrid network | |
US20190342199A1 (en) | Managing congestion in a network | |
CN107623646B (zh) | 数据流传输方法、发送设备及接收设备 | |
US11888744B2 (en) | Spin-leaf network congestion control method, node, system, and storage medium | |
US8310934B2 (en) | Method and device for controlling information channel flow | |
US8953631B2 (en) | Interruption, at least in part, of frame transmission | |
CN104378161A (zh) | 一种基于AXI4总线架构的FCoE协议加速引擎IP核 | |
US11165705B2 (en) | Data transmission method, device, and computer storage medium | |
WO2015027806A1 (zh) | 一种内存数据的读写处理方法和装置 | |
CN103885840A (zh) | 一种基于AXI4总线的FCoE协议加速引擎IP核 | |
WO2022089175A1 (zh) | 网络拥塞控制方法及装置 | |
CN101930417B (zh) | 用于基于串行数据总线的流媒体传输系统终端设备中的仲裁器 | |
TW201717039A (zh) | 用於通用序列匯流排2.0頻寬保留之方法及系統 | |
CN101808037B (zh) | 交换网中流量管理的方法和装置 | |
WO2018000820A1 (zh) | 一种队列管理方法和装置 | |
CN114827292A (zh) | 工业异构协议高速转换优化处理方法及系统 | |
CN113014627B (zh) | 报文转发方法、装置、智能终端及计算机可读存储介质 | |
US20190007319A1 (en) | Technologies for balancing throughput across input ports of a multi-stage network switch | |
CN117176654A (zh) | 一种用于减轻网络通讯拥塞的数据处理方法及装置 | |
CN115756296A (zh) | 缓存管理方法和装置、控制程序及控制器 | |
US20190273693A1 (en) | Technologies for pacing network packet transmissions | |
WO2020143509A1 (zh) | 传输数据的方法和网络设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |