CN117640443B - 一种基于大数据的数据链通信监测系统及方法 - Google Patents
一种基于大数据的数据链通信监测系统及方法 Download PDFInfo
- Publication number
- CN117640443B CN117640443B CN202311617121.6A CN202311617121A CN117640443B CN 117640443 B CN117640443 B CN 117640443B CN 202311617121 A CN202311617121 A CN 202311617121A CN 117640443 B CN117640443 B CN 117640443B
- Authority
- CN
- China
- Prior art keywords
- data
- transmission link
- data transmission
- transmitted
- link
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000006854 communication Effects 0.000 title claims abstract description 78
- 238000004891 communication Methods 0.000 title claims abstract description 77
- 238000012544 monitoring process Methods 0.000 title claims abstract description 39
- 238000000034 method Methods 0.000 title claims description 25
- 230000005540 biological transmission Effects 0.000 claims abstract description 282
- 238000007405 data analysis Methods 0.000 claims abstract description 17
- 238000004458 analytical method Methods 0.000 claims description 29
- 238000011156 evaluation Methods 0.000 claims description 6
- 238000013210 evaluation model Methods 0.000 claims description 3
- 230000002035 prolonged effect Effects 0.000 claims description 3
- 230000015556 catabolic process Effects 0.000 abstract description 2
- 238000006731 degradation reaction Methods 0.000 abstract description 2
- 230000007246 mechanism Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 3
- 230000003139 buffering effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明涉及通信数据监测技术领域。具体为一种基于大数据的数据链通信监测系统及方法,数据链通信监测系统包括数据采集模块、数据分析模块、通信监测管理模块和告警提醒模块;数据采集模块是用于采集传输数据和数据传输链路的数据信息以及缓冲区容量;数据分析模块是分析数据传输链路的通信性能得分和链路状态,并分析传输数据与链路之间的匹配值;通信监测管理模块是监测分析数据传输链路能够传输的数据量以及数据的完整性;告警提醒模块是当数据传输不完整时告警提醒并且重新发送丢失数据;本发明依据数据传输链路的通信性能得分和传输的数据量对待传输数据进行匹配,使得数据传输链路最大化的利用,避免网络拥堵以及数据传输链路的性能下降。
Description
技术领域
本发明涉及通信数据监测技术领域,具体为一种基于大数据的数据链通信监测系统及方法。
背景技术
数据链通信是用于发送和接收数据信息的通信手段,在数据通信网中,数据链是指按照一种链路协议的技术要求连接两个或者多个数据站的电信设施;除了物理线路外,数据链路还必须有通信协议来控制这些数据的传输,若把这些协议的硬件和软件加到链路上,就构成了数据链;
在现有的技术下,在数据链路通信过程中,由于网络拥堵或者链路带宽有限等原因会出现数据拥堵现象,当数据包在传输过程中遇到拥堵时,它们可能会被暂时存储在中间节点或接收方的缓冲区中,等待后续处理。如果拥堵状态持续较长时间或者缓冲区容量已满时,数据可能被丢弃或者被认为不可达,会采用重传机制,对数据进行重传,从而出现数据重复发送现象,频繁的数据重新发送会导致网络拥塞和性能下降。
发明内容
本发明的目的在于提供一种基于大数据的数据链通信监测系统及方法,以解决上述背景技术中提出的问题。
为了解决上述技术问题,本发明提供如下技术方案:一种基于大数据的数据链通信监测方法,所述数据链通信监测方法具体包括以下步骤:
S100、通过系统对内存空间中预留的存储空间进行监测获取得到缓冲区容量和缓冲区中存储的数据量,并且获取数据传输链路的数据信息;依据所述数据传输链路的数据信息分析判断数据传输链路的通信性能得分以及数据传输链路的状态;所述数据量为数据所包含的信息量;所述数据传输链路的数据信息包括带宽数据信息、误码率和延迟速率;其中缓冲区容量是用来缓冲输入或输出的数据,缓冲区根据其对应的是输入设备还是输出设备,分为输入缓冲区和输出缓冲区;
S200、获取待传输数据信息,依据待传输数据信息和数据传输链路的通信性能得分对待传输数据和数据传输链路进行匹配;所述传输数据信息包括传输数据的信息和传输数据的数据量;
S300、依据系统中缓冲区容量分析判断待传输数据缓存至缓冲区时待传输数据的完整性;
S400、当待传输数据不完整时,进行告警提醒并且分析丢失数据对丢失数据进行重新发送。
进一步的,所述S100中依据数据传输链路的数据信息分析判断数据传输链路的通信性能得分以及状态的具体方法如下:
S101、通过系统对内存空间中预留的存储空间进行检测获取得到缓冲区容量M和缓冲区中存储的数据量mi,mi表示为缓冲区中存储的第i个数据量,i=1、2、3...I,I表示为缓冲区中存储数据的个数;利用网络测速工具对数据传输链路的数据信息进行提取,分别得到数据传输链路的带宽为wj、误码率为pj以及延迟速率为cj,系统中的不同数据传输链路可能会表现出不同的带宽、误码率和延迟速率,因为数据传输链路的带宽、误码率以及延迟速率受传输介质、传输距离、网络拓扑结构、信号质量等的影响,当上述传输介质、传输距离、网络拓扑结构、信号质量不同时,数据传输链路的带宽、误码率和延迟速率也会不同;其中wj、pj和cj分别表示为第j个数据传输链路的带宽、误码率以及延迟速率,j=1、2、3...J,J表示为数据传输链路的数量;
S102、构建数据传输链路通信性能得分评估模型:
Kj=k(wj)+k(pj)+k(cj)
其中Kj表示为第j个数据传输链路的通信性能得分,k(wj)、k(pj)和k(cj)分别表示为第j个数据传输链路的带宽得分、误码率得分以及延迟速率得分;k(wj)=a1*wj+b1,其中数据传输链路的带宽得分与数据传输链路的带宽成正比,当带宽越大时,带宽得分越高,a1为系数,b1为误差项;k(pj)=a2/pj+b2,其中数据传输链路的误码率得分与数据传输链路的误码率成反比,当误码率越小时,误码率得分越高,a2为系数,b2为误差项;k(cj)=a3/cj+b3,其中数据传输链路的延迟速率得分与数据传输链路的延迟速率成分比,当延迟速率越小时,延迟速率的得分越高,a3为系数,b3为误差项;
S103、设定距离下一次数据传输的时间间隔为t,由于当数据传输链路的延迟速率较高时,单位时间内可以传输的数据量会减少,所以在t时间内系统中数据传输链路能够传输的数据量为m1’=∑j J =1[wj*(t/cj)],由于延迟速率受到数据传输距离、网络拥塞以及数据传输协议和硬件设备性能等的影响,所以在实际情况中数据传输链路的延迟速率不可能为零;当m1’>∑i I =1mi时,说明系统中的数据传输链路在t时间内能够传输的数据量大于缓冲区的数据量,所以存在数据传输链路处于空闲状态;当m1’≤∑i I =1mi时,说明系统中的数据传输链路在t时间内能够传输的数据量小于等于缓冲区的数据量,数据传输链路无法将缓冲区中的数据进行清空,所以在下一次数据传输的时候数据传输链路处于拥堵状态。
进一步的,所述S200中对待传输数据和数据传输链路进行匹配的具体方法如下:
S211、设定数据传输允许超时时长为T,获取得到待传输数据的数据量为mz和待传输数据,依据所述待传输数据生成集合v,v={v1、v2、v3...vZ},mz表示为第z个待传输数据的数据量,z=1、2、3...Z,Z表示为待传输数据的个数;为了避免由于数据在数据链上长时间传输使得触发重发机制从而导致数据传输链路拥堵等现象;由于数据的大小不同,导致在相同数据传输链路所需要的传输时长不相同,并且每个数据传输允许超时时长又是一致的,所以为了避免数据触发重传机制需要对数据与数据传输链路进行匹配,任意选取一个待传输数据s的数据量为ms,获取任意选取的待传输数据s在缓冲区等待的时长为ts,获取任意一个处于空闲状态的数据传输链路的带宽和延迟速率分别为wj’和cj’,依据公式:
x=ms/[wj’*(T-ts)/cj’]
Qs=F(x)*Kj’
计算得到待传输数据s与任意一个处于空闲状态的数据传输链路之间的匹配值,其中,由于待传输数据的数据量不能大于数据传输链路在限定时间内能够传输的数据量,并且为了数据传输链路能够更好的被利用所以x∈(0,1],F(x)表示为匹配系数,ms/[wj’*(T-ts)/cj’]表示为待传输数据s的数据量与数据传输链路之间能够传输数据量之间的比值,γ=1,Kj’表示为任意一个处于空闲状态下数据传输链路的通信性能得分;
S212、对待传输数据s和处于空闲状态下的数据传输链路之间的匹配值进行遍历得到Qr,r=1、2、3...R,R表示为在对待传输数据s进行传输时处于空闲状态的数据传输链路的数量;依据待传输数据s与数据传输链路之间的匹配值,选取匹配值最高的数据传输链路,作为传输数据s的数据传输链路。
进一步的,所述S300中分析判断待传输数据完整性的具体方法如下:依据所述待传输数据的数据量得到待传输数据的总数据量为∑z Z =1mz,当存储数据传输链路处于空闲状态时,说明缓冲区中存储的数据完成传输,当∑z Z =1mz≤M时,判定待传输数据完整;当数据传输链路都处于拥堵状态时,说明缓冲区中存储的数据没有全部完成传输,即存在部分缓冲区中原有数据没有传输完成,所以当∑z Z =1mz≤M-(∑i I =1mi-m1’)时,判定待传输数据完整;当判定待传输数据完整时,对数据传输允许超时时长进行延长;反之,当∑z Z =1mz>M或者∑z Z =1mz>M-(∑i I =1mi-m1’)时,判定待传输数据不完整,进行告警提醒。
进一步的,所述S400中分析丢失数据对丢失数据进行重新发送的具体方法如下:当终端服务器接收到告警指令时,在TCP/IP协议中,当接收方接收到一个完整的数据包时,接收方会发送一个确认包给发送方,确认收到了该数据包。这个确认包告诉发送方数据传输已经完成,所以依据接收方接收到的确认包获取已经完成传输的数据生成集合u,根据公式:d=v-v∩(u∪g),得到丢失数据集合,其中g表示为缓冲区中的数据集合;当缓冲区中的空余容量大于丢失的数据量时,依据所述丢失数据集合,对丢失的数据进行重新发送。
一种基于大数据的数据链通信监测系统,所述数据链通信监测系统包括数据采集模块、数据分析模块、通信监测管理模块和告警提醒模块;所述数据采集模块的输出端与数据分析模块的输入端连接,所述数据分析模块的输出端与通信监测管理模块的输入端连接,所述通信监测管理模块的输出端与告警提醒模块的输入端连接;所述数据采集模块是用于采集传输数据和数据传输链路的数据信息以及缓冲区容量;所述数据分析模块是用于分析数据传输链路的通信性能得分和链路状态,并且对传输数据与数据传输链路之间的匹配值进行分析;所述通信监测管理模块是对数据传输链路能够传输的数据量以及数据的完整性进行监测分析;所述告警提醒模块是当数据传输不完整时进行告警提醒并且对丢失数据进行重新发送。
进一步的,所述数据采集模块包括缓冲区容量采集单元、传输数据信息采集单元和数据传输链路数据信息采集单元;所述缓冲区容量采集单元是采集缓冲区容量,其中缓冲区能够减轻处理器的负载并且能够提高整体数据传输速率;所述传输数据信息采集单元是用于采集传输数据以及数据量;所述数据传输链路数据信息采集单元是用于采集数据传输链路的带宽、误码率以及延迟速率,数据传输链路的带宽、误码率以及延迟速率受传输介质、传输距离、网络拓扑结构、信号质量等的影响,当上述传输介质、传输距离、网络拓扑结构、信号质量不同时,数据传输链路的带宽、误码率和延迟速率也会不同。
进一步的,所述数据分析模块包括通信性能得分评估单元、数据传输链路状态分析单元和匹配值分析单元;所述通信性能得分评估单元是对数据传输链路的通信性能得分进行评估,当通信性能得分越高说明该数据传输链路的在单位时间内能够传输的数据质量越好;所述数据传输链路状态分析单元是对数据传输链路的状态进行分析,依据数据传输链路的状态分析判断下一次数据传输时缓冲区的剩余容量;所述匹配值分析单元是分析传输数据与数据传输链路之间的匹配值。
进一步的,所述通信监测管理模块包括传输数据量分析单元和数据完整性分析单元;所述传输数据量分析单元是分析判断数据通信链路能够传输的数据量;所述数据完整性分析单元是分析判断数据在传输过程中是否会因为缓冲区的容量不够而导致数据在传输过程中不完整。
进一步的,告警提醒模块包括告警提醒单元和数据重发单元;所述告警提醒单元是传输数据不完整,进行告警提醒;所述数据重发单元是当传输数据不完整且缓冲区中的空余容量大于丢失的数据量时,对丢失的数据进行重新发送。
与现有技术相比,本发明所达到的有益效果是:本发明通过对数据传输链路的带宽、误码率以及延迟速率进行分析得到每个数据传输链路的通信性能得分以及在限定的时间内能够传输的数据量,依据数据传输链路的通信性能得分和在限定的时间内能够传输的数据量对待传输数据进行匹配,为了待传输数据在传输允许超时时长内完成传输,使得每个数据传输链路能够完成最大化的利用,减少由于数据在传输过程时间过长导致重发机制触发,避免加重网络拥堵以及数据传输链路的性能下降。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。在附图中:
图1是本发明一种基于大数据的数据链通信监测系统的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参阅图1,本发明提供技术方案:一种基于大数据的数据链通信监测方法,所述数据链通信监测方法具体包括以下步骤:
S100、通过系统对内存空间中预留的存储空间进行监测获取得到缓冲区容量和缓冲区中存储的数据量,并且获取数据传输链路的数据信息;依据所述数据传输链路的数据信息分析判断数据传输链路的通信性能得分以及数据传输链路的状态;所述数据量为数据所包含的信息量;所述数据传输链路的数据信息包括带宽数据信息、误码率和延迟速率;其中缓冲区容量是用来缓冲输入或输出的数据,缓冲区根据其对应的是输入设备还是输出设备,分为输入缓冲区和输出缓冲区;
S200、获取待传输数据信息,依据待传输数据信息和数据传输链路的通信性能得分对待传输数据和数据传输链路进行匹配;
S300、依据系统中缓冲区容量分析判断待传输数据缓存至缓冲区时待传输数据的完整性;
S400、当待传输数据不完整时,进行告警提醒并且分析丢失数据对丢失数据进行重新发送。
进一步的,所述S100中依据数据传输链路的数据信息分析判断数据传输链路的通信性能得分以及状态的具体方法如下:
S101、通过系统对内存空间中预留的存储空间进行检测获取得到缓冲区容量M和缓冲区中存储的数据量mi,mi表示为缓冲区中存储的第i个数据量,i=1、2、3...I,I表示为缓冲区中存储数据的个数;利用网络测速工具对数据传输链路的数据信息进行提取,分别得到数据传输链路的带宽为wj、误码率为pj以及延迟速率为cj,系统中的不同数据传输链路可能会表现出不同的带宽、误码率和延迟速率,因为数据传输链路的带宽、误码率以及延迟速率受传输介质、传输距离、网络拓扑结构、信号质量等的影响,当上述传输介质、传输距离、网络拓扑结构、信号质量不同时,数据传输链路的带宽、误码率和延迟速率也会不同;其中wj、pj和cj分别表示为第j个数据传输链路的带宽、误码率以及延迟速率,j=1、2、3...J,J表示为数据传输链路的数量;使用ping命令能够检测数据传输链路的网络延迟和带宽,其中Ping命令基于ICMP协议,通过发送数据包并计算返回的时间来测量带宽和延迟;利用网络测试工具例如:Ethereal或Wireshark来抓取网络数据包计算得到误码率;
S102、构建数据传输链路通信性能得分评估模型:
Kj=k(wj)+k(pj)+k(cj)
其中Kj表示为第j个数据传输链路的通信性能得分,k(wj)、k(pj)和k(cj)分别表示为第j个数据传输链路的带宽得分、误码率得分以及延迟速率得分;k(wj)=a1*wj+b1,其中数据传输链路的带宽得分与数据传输链路的带宽成正比,当带宽越大时,带宽得分越高,a1为系数,b1为误差项;k(pj)=a2/pj+b2,其中数据传输链路的误码率得分与数据传输链路的误码率成反比,当误码率越小时,误码率得分越高,a2为系数,b2为误差项;k(cj)=a3/cj+b3,其中数据传输链路的延迟速率得分与数据传输链路的延迟速率成分比,当延迟速率越小时,延迟速率的得分越高,a3为系数,b3为误差项;
S103、设定距离下一次数据传输的时间间隔为t,由于当数据传输链路的延迟速率较高时,单位时间内可以传输的数据量会减少,所以在t时间内系统中数据传输链路能够传输的数据量为m1’=∑j J =1[wj*(t/cj)],由于延迟速率受到数据传输距离、网络拥塞以及数据传输协议和硬件设备性能等的影响,所以在实际情况中数据传输链路的延迟速率不可能为零;当m1’>∑i I =1mi时,说明系统中的数据传输链路在t时间内能够传输的数据量大于缓冲区的数据量,所以存在数据传输链路处于空闲状态;当m1’≤∑i I =1mi时,说明系统中的数据传输链路在t时间内能够传输的数据量小于等于缓冲区的数据量,数据传输链路无法将缓冲区中的数据进行清空,所以在下一次数据传输的时候数据传输链路处于拥堵状态。
进一步的,所述S200中对待传输数据和数据传输链路进行匹配的具体方法如下:
S211、设定数据传输允许超时时长为T,获取得到待传输数据的数据量为mz和待传输数据,依据所述待传输数据生成集合v,v={v1、v2、v3...vZ},mz表示为第z个待传输数据的数据量,z=1、2、3...Z,Z表示为待传输数据的个数;为了避免由于数据在数据链上长时间传输使得触发重发机制从而导致数据传输链路拥堵等现象;由于数据的大小不同,导致在相同数据传输链路所需要的传输时长不相同,并且每个数据传输允许超时时长又是一致的,所以为了避免数据触发重传机制需要对数据与数据传输链路进行匹配,任意选取一个待传输数据s的数据量为ms,获取任意选取的待传输数据s在缓冲区等待的时长为ts,获取任意一个处于空闲状态的数据传输链路的带宽和延迟速率分别为wj’和cj’,依据公式:
x=ms/[wj’*(T-ts)/cj’]
Qs=F(x)*Kj’
计算得到待传输数据s与任意一个处于空闲状态的数据传输链路之间的匹配值,其中,由于待传输数据的数据量不能大于数据传输链路在限定时间内能够传输的数据量,并且为了数据传输链路能够更好的被利用所以x∈(0,1],F(x)表示为匹配系数,ms/[wj’*(T-ts)/cj’]表示为待传输数据s的数据量与数据传输链路之间能够传输数据量之间的比值,γ=1,Kj’表示为任意一个处于空闲状态下数据传输链路的通信性能得分;
S212、对待传输数据s和处于空闲状态下的数据传输链路之间的匹配值进行遍历得到Qr,r=1、2、3...R,R表示为在对待传输数据s进行传输时处于空闲状态的数据传输链路的数量;依据待传输数据s与数据传输链路之间的匹配值,选取匹配值最高的数据传输链路,作为传输数据s的数据传输链路。
进一步的,所述S300中分析判断待传输数据完整性的具体方法如下:依据所述待传输数据的数据量得到待传输数据的总数据量为∑z Z =1mz,当存储数据传输链路处于空闲状态时,说明缓冲区中存储的数据完成传输,当∑z Z =1mz≤M时,判定待传输数据完整;当数据传输链路都处于拥堵状态时,说明缓冲区中存储的数据没有全部完成传输,即存在部分缓冲区中原有数据没有传输完成,所以当∑z Z =1mz≤M-(∑i I =1mi-m1’)时,判定待传输数据完整;当判定待传输数据完整时,对数据传输允许超时时长进行延长;反之,当∑z Z =1mz>M或者∑z Z =1mz>M-(∑i I =1mi-m1’)时,判定待传输数据不完整,进行告警提醒。
进一步的,所述S400中分析丢失数据对丢失数据进行重新发送的具体方法如下:当终端服务器接收到告警指令时,在TCP/IP协议中,当接收方接收到一个完整的数据包时,接收方会发送一个确认包给发送方,确认收到了该数据包。这个确认包告诉发送方数据传输已经完成,所以依据接收方接收到的确认包获取已经完成传输的数据生成集合u,根据公式:d=v-v∩(u∪g),得到丢失数据集合,其中g表示为缓冲区中的数据集合;当缓冲区中的空余容量大于丢失的数据量时,依据所述丢失数据集合,对丢失的数据进行重新发送。
一种基于大数据的数据链通信监测系统,所述数据链通信监测系统包括数据采集模块、数据分析模块、通信监测管理模块和告警提醒模块;所述数据采集模块的输出端与数据分析模块的输入端连接,所述数据分析模块的输出端与通信监测管理模块的输入端连接,所述通信监测管理模块的输出端与告警提醒模块的输入端连接;所述数据采集模块是用于采集传输数据和数据传输链路的数据信息以及缓冲区容量;所述数据分析模块是用于分析数据传输链路的通信性能得分和链路状态,并且对传输数据与数据传输链路之间的匹配值进行分析;所述通信监测管理模块是对数据传输链路能够传输的数据量以及数据的完整性进行监测分析;所述告警提醒模块是当数据传输不完整时进行告警提醒并且对丢失数据进行重新发送。
进一步的,所述数据采集模块包括缓冲区容量采集单元、传输数据信息采集单元和数据传输链路数据信息采集单元;所述缓冲区容量采集单元是采集缓冲区容量,其中缓冲区能够减轻处理器的负载并且能够提高整体数据传输速率;所述传输数据信息采集单元是用于采集传输数据以及数据量;所述数据传输链路数据信息采集单元是用于采集数据传输链路的带宽、误码率以及延迟速率,数据传输链路的带宽、误码率以及延迟速率受传输介质、传输距离、网络拓扑结构、信号质量等的影响,当上述传输介质、传输距离、网络拓扑结构、信号质量不同时,数据传输链路的带宽、误码率和延迟速率也会不同。
进一步的,所述数据分析模块包括通信性能得分评估单元、数据传输链路状态分析单元和匹配值分析单元;所述通信性能得分评估单元是对数据传输链路的通信性能得分进行评估,当通信性能得分越高说明该数据传输链路的在单位时间内能够传输的数据质量越好;所述数据传输链路状态分析单元是对数据传输链路的状态进行分析,依据数据传输链路的状态分析判断下一次数据传输时缓冲区的剩余容量;所述匹配值分析单元是分析传输数据与数据传输链路之间的匹配值。
进一步的,所述通信监测管理模块包括传输数据量分析单元和数据完整性分析单元;所述传输数据量分析单元是分析判断数据通信链路能够传输的数据量;所述数据完整性分析单元是分析判断数据在传输过程中是否会因为缓冲区的容量不够而导致数据在传输过程中不完整。
进一步的,告警提醒模块包括告警提醒单元和数据重发单元;所述告警提醒单元是传输数据不完整,进行告警提醒;所述数据重发单元是当传输数据不完整且缓冲区中的空余容量大于丢失的数据量时,对丢失的数据进行重新发送。
在本实施例中:
设置数据传输链路的带宽、误码率以及延迟速率分别为wj={1、2....}、pj={0.07、0.04...}、cj={0.35、0.37...},缓冲区的容量M=120,根据公式:
k(wj)=10*wj+1,k(pj)=0.1/pj+0.8,k(cj)=0.5/cj+0.6,
Kj=k(wj)+k(pj)+k(cj)
计算得到数据传输链路的通信性能得分为Kj={15.3、48.8...}
设置距离下一次数据传输的时间间隔为t=30,在t时间内系统中数据传输链路能够传输的数据量为m1’=∑j J =1[wj*(t/cj)]=95;
实施例1:设置缓冲区中存储数据的数据量分别为mi={2、5、7...},∑i I =1mi=70;m1’=95>∑i I =1mi=70,存在数据传输链路处于空闲状态;
设置待传输数据的数据量得到待传输数据的总数据量为∑z Z =1mz=100,∑z Z =1mz=100<M=120,判定待传输数据完整;
实施例2:设置缓冲区中存储数据的数据量分别为mi={5、7、15...},∑i I =1mi=100;当m1’=95<∑i I =1mi=100,数据传输链路处于拥堵状态;设置待传输数据的数据量得到待传输数据的总数据量为∑z Z =1mz=100,∑z Z =1mz=100<M-(∑i I =1mi-m1’)=120-(100-95)=115,判定待传输数据完整。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。
最后应说明的是:以上所述仅为本发明的优选实施例而已,并不用于限制本发明,尽管参照前述实施例对本发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (2)
1.一种基于大数据的数据链通信监测方法,其特征在于:所述数据链通信监测方法具体包括以下步骤:
S100、通过系统对内存空间中预留的存储空间进行监测获取得到缓冲区容量和缓冲区中存储的数据量,并且获取数据传输链路的数据信息;依据所述数据传输链路的数据信息分析判断数据传输链路的通信性能得分以及数据传输链路的状态;所述数据量为数据所包含的信息量;
S200、获取待传输数据信息,依据待传输数据信息和数据传输链路的通信性能得分对待传输数据和数据传输链路进行匹配;
S300、依据系统中缓冲区容量分析判断待传输数据缓存至缓冲区时待传输数据的完整性;
S400、当待传输数据不完整时,进行告警提醒并且分析丢失数据对丢失数据进行重新发送;
所述S100中依据数据传输链路的数据信息分析判断数据传输链路的通信性能得分以及状态的具体方法如下:S101、通过系统对内存空间中预留的存储空间进行检测获取得到缓冲区容量M和缓冲区中存储的数据量mi,mi表示为缓冲区中存储的第i个数据量,i=1、2、3...I,I表示为缓冲区中存储数据的个数;利用网络测速工具对数据传输链路的数据信息进行提取,分别得到数据传输链路的带宽为wj、误码率为pj以及延迟速率为cj;其中wj、pj和cj分别表示为第j个数据传输链路的带宽、误码率以及延迟速率,j=1、2、3...J,J表示为数据传输链路的数量;
S102、构建数据传输链路通信性能得分评估模型:
Kj=k(wj)+k(pj)+k(cj)
其中Kj表示为第j个数据传输链路的通信性能得分,k(wj)、k(pj)和k(cj)分别表示为第j个数据传输链路的带宽得分、误码率得分以及延迟速率得分;k(wj)=a1*wj+b1,其中a1为系数,b1为误差项;k(pj)=a2/pj+b2,其中a2为系数,b2为误差项;k(cj)=a3/cj+b3,其中a3为系数,b3为误差项;
S103、设定距离下一次数据传输的时间间隔为t,在t时间内系统中数据传输链路能够传输的数据量为当/>时,存在数据传输链路处于空闲状态;当/>时,数据传输链路处于拥堵状态;
所述S200中对待传输数据和数据传输链路进行匹配的具体方法如下:S211、设定数据传输允许超时时长为T,获取得到待传输数据的数据量为mz和待传输数据,依据所述待传输数据生成集合v,v={v1、v2、v3...vZ},mz表示为第z个待传输数据的数据量,z=1、2、3...Z,Z表示为待传输数据的个数;任意选取一个待传输数据s的数据量为ms,获取任意选取的待传输数据s在缓冲区等待的时长为ts,获取任意一个处于空闲状态的数据传输链路的带宽和延迟速率分别为wj’和cj’,依据公式:
x=ms/[wj’*(T-ts)/cj’]
Qs=F(x)*Kj’
计算得到待传输数据s与任意一个处于空闲状态的数据传输链路之间的匹配值,其中,x∈(0,1],F(x)表示为匹配系数,ms/[wj’*(T-ts)/cj’]表示为待传输数据s的数据量与数据传输链路之间能够传输数据量之间的比值,γ=1,Kj’表示为任意一个处于空闲状态下数据传输链路的通信性能得分;
S212、对待传输数据s和处于空闲状态下的数据传输链路之间的匹配值进行遍历得到Qr,r=1、2、3...R,R表示为在对待传输数据s进行传输时处于空闲状态的数据传输链路的数量;依据待传输数据s与数据传输链路之间的匹配值,选取匹配值最高的数据传输链路,作为传输数据s的数据传输链路;
所述S300中分析判断待传输数据完整性的具体方法如下:依据所述待传输数据的数据量得到待传输数据的总数据量为当存储数据传输链路处于空闲状态时,当时,判定待传输数据完整;当数据传输链路都处于拥堵状态时,当时,判定待传输数据完整;当判定待传输数据完整时,对数据传输允许超时时长进行延长;反之,当/>或者/> 时,判定待传输数据不完整,进行告警提醒;
所述S400中分析丢失数据对丢失数据进行重新发送的具体方法如下:当终端服务器接收到告警指令时,获取已经完成传输的数据生成集合u,根据公式:d=v-v∩(u∪g),得到丢失数据集合,其中g表示为缓冲区中的数据集合;当缓冲区中的空余容量大于丢失的数据量时,依据所述丢失数据集合,对丢失的数据进行重新发送。
2.一种基于大数据的数据链通信监测系统,其特征在于:所述数据链通信监测系统包括数据采集模块、数据分析模块、通信监测管理模块和告警提醒模块;所述数据采集模块的输出端与数据分析模块的输入端连接,所述数据分析模块的输出端与通信监测管理模块的输入端连接,所述通信监测管理模块的输出端与告警提醒模块的输入端连接;所述数据采集模块是用于采集传输数据和数据传输链路的数据信息以及缓冲区容量;所述数据分析模块是用于分析数据传输链路的通信性能得分和链路状态,并且对传输数据与数据传输链路之间的匹配值进行分析;所述通信监测管理模块是对数据传输链路能够传输的数据量以及数据的完整性进行监测分析;所述告警提醒模块是当数据传输不完整时进行告警提醒并且对丢失数据进行重新发送;
所述数据采集模块包括缓冲区容量采集单元、传输数据信息采集单元和数据传输链路数据信息采集单元;所述缓冲区容量采集单元是采集缓冲区容量;所述传输数据信息采集单元是用于采集传输数据以及数据量;所述数据传输链路数据信息采集单元是用于采集数据传输链路的带宽、误码率以及延迟速率;
所述数据分析模块包括通信性能得分评估单元、数据传输链路状态分析单元和匹配值分析单元;所述通信性能得分评估单元是对数据传输链路的通信性能得分进行评估;所述数据传输链路状态分析单元是对数据传输链路的状态进行分析;所述匹配值分析单元是分析传输数据与数据传输链路之间的匹配值;
所述通信监测管理模块包括传输数据量分析单元和数据完整性分析单元;所述传输数据量分析单元是分析判断数据通信链路能够传输的数据量;所述数据完整性分析单元是分析判断数据在传输过程中是否会因为缓冲区的容量不够而导致数据在传输过程中不完整;
所述告警提醒模块包括告警提醒单元和数据重发单元;所述告警提醒单元是传输数据不完整,进行告警提醒;所述数据重发单元是当传输数据不完整且缓冲区中的空余容量大于丢失的数据量时,对丢失的数据进行重新发送。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311617121.6A CN117640443B (zh) | 2023-11-30 | 2023-11-30 | 一种基于大数据的数据链通信监测系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311617121.6A CN117640443B (zh) | 2023-11-30 | 2023-11-30 | 一种基于大数据的数据链通信监测系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117640443A CN117640443A (zh) | 2024-03-01 |
CN117640443B true CN117640443B (zh) | 2024-05-07 |
Family
ID=90019562
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311617121.6A Active CN117640443B (zh) | 2023-11-30 | 2023-11-30 | 一种基于大数据的数据链通信监测系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117640443B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102546106A (zh) * | 2011-12-28 | 2012-07-04 | 南京邮电大学 | 面向卫星网络的多路径并行传输方法 |
CN112751722A (zh) * | 2019-10-31 | 2021-05-04 | 上海哔哩哔哩科技有限公司 | 数据传输质量监控方法和系统 |
CN113329442A (zh) * | 2021-04-20 | 2021-08-31 | 北京连山科技股份有限公司 | 一种通用的多链路载荷压缩与解压缩方法和系统 |
CN116112986A (zh) * | 2023-04-06 | 2023-05-12 | 南京信息工程大学 | 一种通信传输效率监测系统及方法 |
CN116545868A (zh) * | 2023-05-18 | 2023-08-04 | 深圳市欧耐特通讯有限公司 | 一种基于大数据的集成网络质量监控系统及方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210328900A1 (en) * | 2020-04-20 | 2021-10-21 | Mellanox Technologies, Ltd. | Time-Synchronization Testing in a Network Element |
-
2023
- 2023-11-30 CN CN202311617121.6A patent/CN117640443B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102546106A (zh) * | 2011-12-28 | 2012-07-04 | 南京邮电大学 | 面向卫星网络的多路径并行传输方法 |
CN112751722A (zh) * | 2019-10-31 | 2021-05-04 | 上海哔哩哔哩科技有限公司 | 数据传输质量监控方法和系统 |
CN113329442A (zh) * | 2021-04-20 | 2021-08-31 | 北京连山科技股份有限公司 | 一种通用的多链路载荷压缩与解压缩方法和系统 |
CN116112986A (zh) * | 2023-04-06 | 2023-05-12 | 南京信息工程大学 | 一种通信传输效率监测系统及方法 |
CN116545868A (zh) * | 2023-05-18 | 2023-08-04 | 深圳市欧耐特通讯有限公司 | 一种基于大数据的集成网络质量监控系统及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN117640443A (zh) | 2024-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US5307351A (en) | Data communication apparatus for adjusting frame length and method of operating same | |
JP4491257B2 (ja) | 終端間測定に基づくネットワークへのデータストリームの許容の制御 | |
Mathis et al. | The macroscopic behavior of the TCP congestion avoidance algorithm | |
US8085673B2 (en) | Method and apparatus for generating bi-directional network traffic and collecting statistics on same | |
Biaz et al. | Distinguishing congestion losses from wireless transmission losses: A negative result | |
JP4016387B2 (ja) | データフロー制御方法 | |
CN111817977B (zh) | 一种网络拥塞控制方法和装置 | |
CN102150395A (zh) | 用于网络数据路径质量的非协作测量方法 | |
CN103259696A (zh) | 网络带宽检测方法、装置及网络设备 | |
US9667547B2 (en) | Congestion management and latency prediction in CSMA media | |
Ming-Chit et al. | Improving TCP performance over asymmetric networks | |
US7274663B2 (en) | System and method for testing differentiated services in a value add network service | |
US7782830B2 (en) | Extended range wireless packetized data communication system | |
CN117640443B (zh) | 一种基于大数据的数据链通信监测系统及方法 | |
CN112996031B (zh) | 一种ppp链路选择方法及系统 | |
CN105406915A (zh) | 一种面向星地链路的文件传输方法 | |
Peisa et al. | Analytical model for TCP file transfers over UMTS | |
Luan et al. | Throughput analysis of a window-based flow control subject to bandwidth management | |
CN112637055B (zh) | 基于vpn隧道的多链路聚合方法、系统及存储介质 | |
Arvidsson et al. | A model of a TCP link | |
JP2001168871A (ja) | データ転送方式 | |
CN113542215A (zh) | 一种提升流媒体传输性能的方法及相关装置 | |
CN116723133B (zh) | 数据发送、接收设备、网络状态信息提取方法及装置 | |
JP3486182B2 (ja) | 通信装置及びその通信制御方法とプログラム | |
CN116232442B (zh) | 基于tcp/ip协议和ccsds协议的通信方法、装置以及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |