CN111641531B - 一种基于dpdk的数据包分发和特征提取方法 - Google Patents
一种基于dpdk的数据包分发和特征提取方法 Download PDFInfo
- Publication number
- CN111641531B CN111641531B CN202010399499.3A CN202010399499A CN111641531B CN 111641531 B CN111641531 B CN 111641531B CN 202010399499 A CN202010399499 A CN 202010399499A CN 111641531 B CN111641531 B CN 111641531B
- Authority
- CN
- China
- Prior art keywords
- packet
- time
- data
- server
- length
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/145—Network analysis or design involving simulating, designing, planning or modelling of a network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
- H04L63/1416—Event detection, e.g. attack signature detection
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Security & Cryptography (AREA)
- Computer Hardware Design (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Environmental & Geological Engineering (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
一种基于DPDK的数据包分发和特征提取方法,包括:步骤一、设置多台Worker服务器和1台采集Proxy服务器,并对每台服务器预先进行DPDK环境部署;步骤二、采集Proxy服务器从绑定网卡中读取网络数据包并存入缓冲区中,同时,按照每个数据包的五元组信息,将缓存区中五元组信息相对应的所有数据包分发给其中1台对应的Worker服务器;步骤三、每台Worker服务器从收到的数据包中提取数据特征信息。本发明属于信息技术领域,能有效提高对网络海量数据包的处理效率和正确率。
Description
技术领域
本发明一种基于DPDK的数据包分发和特征提取方法,属于信息技术领域。
背景技术
DPDK(数据平面开发工具包:Data Plane Development Kit)是一个开源的数据平面开发工具集,主要基于Linux系统运行,用于快速数据包处理的函数库与驱动集合,可以极大提高数据处理性能和吞吐量,提高数据平面应用程序的工作效率。DPDK通过环境抽象层的旁路OS运行环境、轮询模式的数据无中断收发、优化内存/缓冲区/队列管理、大页内存等多项技术,实现了高性能数据包处理能力。
互联网中流量为了安全或者躲避监管,非明文和加密的流量越来越多,在不解析流量内容的前提下,亟需通过特征提取的方式对流量数据包进行分析和识别,所以对流量数据包处理的效率和正确率提出了更高的要求。
因此,如何有效提高对网络海量数据包的处理效率和正确率,已经成为技术人员普遍关注的技术问题。
发明内容
有鉴于此,本发明的目的是提供一种基于DPDK的数据包分发和特征提取方法,能有效提高对网络海量数据包的处理效率和正确率。
为了达到上述目的,本发明提供了一种基于DPDK的数据包分发和特征提取方法,包括有:
步骤一、设置多台Worker服务器和1台采集Proxy服务器,并对每台服务器预先进行DPDK环境部署;
步骤二、采集Proxy服务器从绑定网卡中读取网络数据包并存入缓冲区中,同时,按照每个数据包的五元组信息,将缓存区中五元组信息相对应的所有数据包分发给其中1台对应的Worker服务器;
步骤三、每台Worker服务器从收到的数据包中提取数据特征信息,
步骤二中,将缓存区中五元组信息相对应的所有数据包分发给其中1台对应的Worker服务器,进一步包括有:
步骤21、采集Proxy服务器每隔一定时间间隔,基于线性回归模型来构建当前时段的数据包分发模型:S=a·c+b·m+d,其中,S为Worker服务器在当前时段的数据包处理速度,c为Worker服务器在当前时刻的剩余CPU逻辑核数,m为Worker服务器在当前时刻的剩余内存数,a、b分别是c、m对应自变量的系数,d为常数项,然后提取比当前时刻早一个时间周期的数据对当前时段的数据包分发模型进行拟合,计算当前时段的数据包分发模型中的a、b和d的值;
步骤22、采集Proxy服务器根据当前时段的数据包分发模型、每台Worker服务器在当前时刻发送来的剩余CPU逻辑核数和剩余内存数,预测每台Worker服务器在当前时段的数据包处理速度;
步骤23、采集Proxy服务器根据所预测的每台Worker服务器在当前时段的数据包处理速度和缓存区中待分发的数据包数量,计算每台Worker服务器处理待分发的数据包所需的时间T,并将T发送给对应的Worker服务器;
步骤24、每台Worker服务器在收到采集Proxy服务器发送来的T后,预估处理完自身现有的数据包所需的剩余时间U,并将U返回给采集Proxy服务器,若Worker服务器当前处于空闲状态,则向采集Proxy服务器返回的U为0;
步骤25、采集Proxy服务器计算每台Worker服务器完成待分发的数据包所需的时间Z:Z=T+U,然后将待分发的数据包发给Z最小的Worker服务器。
与现有技术相比,本发明的有益效果是:本发明针对互联网时代下大流量,基于DPDK高性能高并发的流量数据包处理的框架,充分利用CPU资源,构建基于当前时段数据的数据包分发模型,有效提高特征提取效率,提升特征提取的正确率,为后续的数据分析和挖掘提供夯实的基础;本发明可以强有利于相关业务需求的开展,比如网络异常检测、网络流量监测识别等业务。
附图说明
图1是本发明一种基于DPDK的数据包分发和特征提取方法的流程图。
图2是图1步骤一的具体步骤流程图。
图3是图1步骤二中,将缓存区中五元组信息相对应的所有数据包分发给其中1台对应的Worker服务器的具体步骤流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面结合附图对本发明作进一步的详细描述。
如图1所示,本发明一种基于DPDK的数据包分发和特征提取方法,包括有:
步骤一、设置多台Worker服务器和1台采集Proxy服务器,并对每台服务器预先进行DPDK环境部署;
步骤二、采集Proxy服务器从绑定网卡中读取网络数据包并存入缓冲区中,同时,按照每个数据包的五元组信息,将缓存区中五元组信息相对应的所有数据包分发给其中1台对应的Worker服务器;
步骤三、每台Worker服务器从收到的数据包中提取数据特征信息。
步骤一中,DPDK环境部署包括设置运行环境与系统变量、加载驱动模块、绑定网卡、设置大页内存。如图2所示,步骤一可以进一步包括有:
步骤11、设置运行环境和系统变量,安装编译DPDK开源框架,配置DPDK环境变量RTE_SDK和RTE_TARGET;
步骤12、加载驱动程序,先加载uio:modprobe uio,再加载insmod igb_uio;
步骤13、绑定网卡,通过DPDK自带的工具dpdk-devbind.py进行网卡绑定;
步骤14、设置大页内存,在系统文件etc/grub2.cfg添加hugepagesz大小。
步骤二中的数据包的五元组信息包括有:源端口、源地址、目的端口、目的地址、协议。五元组信息相对应的数据包是指五元组信息一致、或者五元组中的源与目的地址及端口对调后信息一致的数据包。这样,基于上下行消息列为一类的原则,本发明可以将五元组信息相对应的所有数据包发送给同一台Worker服务器,从而有助于提高特征提取的准确度。
如图3所示,步骤二中,将缓存区中五元组信息相对应的所有数据包分发给其中1台对应的Worker服务器,可以进一步包括有:
步骤21、采集Proxy服务器每隔一定时间间隔,基于线性回归模型来构建当前时段的数据包分发模型:S=a·c+b·m+d,其中,S为Worker服务器在当前时段的数据包处理速度(单位:个数/秒),c为Worker服务器在当前时刻的剩余CPU逻辑核数,m为Worker服务器在当前时刻的剩余内存数(单位:GB),a、b分别是c、m对应自变量的系数,d为常数项,时间间隔可以根据实际业务需要而设置,然后提取比当前时刻早一个时间周期的数据对当前时段的数据包分发模型进行拟合,计算当前时段的数据包分发模型中的a、b和d的值;
由于Worker服务器对数据包处理速度在在每个时间区间内与其自身的CPU核数和内存二元线性相关,所以本发明基于线性回归模型设计当前时段的数据包分发模型。例如时间间隔可以设置为5秒,时间周期可以设置为1小时,这样,采集Proxy服务器每隔5秒,提取比当前时刻早1小时的数据对当前时段的数据包分发模型进行拟合,从而获得模型中的a、b和d;
步骤22、采集Proxy服务器根据当前时段的数据包分发模型、每台Worker服务器在当前时刻发送来的剩余CPU逻辑核数和剩余内存数,预测每台Worker服务器在当前时段的数据包处理速度;
步骤23、采集Proxy服务器根据所预测的每台Worker服务器在当前时段的数据包处理速度和缓存区中待分发的数据包数量,计算每台Worker服务器处理待分发的数据包所需的时间T(单位:秒),并将T发送给对应的Worker服务器;
步骤24、每台Worker服务器在收到采集Proxy服务器发送来的T后,预估处理完自身现有的数据包所需的剩余时间U(单位:秒),并将U返回给采集Proxy服务器,若Worker服务器当前处于空闲状态,则向采集Proxy服务器返回的U为0;
步骤25、采集Proxy服务器计算每台Worker服务器完成待分发的数据包所需的时间Z:Z=T+U,然后将待分发的数据包发给Z最小的Worker服务器。
本发明中,采集Proxy服务器每隔一定时间间隔就更新当前时段的数据包分发模型,可以有效保证各Worker服务器并行处理的时间最短,且最大化利用Worker服务器的可分配资源。当采集Proxy服务器刚启动对数据包的分发,其运行时间小于一个时间周期时,采集Proxy服务器可以采取随机的方式,将待分发的数据包分发给空闲的Worker服务器。同时,为了使得采集Proxy服务器能基于已积累的数据定期更新当前时段的数据包分发模型,还包括有:
每台Worker服务器每隔一定时间间隔,向采集Proxy服务器发送其在当前时刻的剩余CPU逻辑核数、剩余内存数、以及在上一时间间隔内已处理的数据包数量。
步骤三中,每台Worker服务器从收到的数据包中提取的数据特征信息可以包括但不限于:本地IP、对端IP、本地端口、对端端口、协议类型、流长度、流开始时间、流结束时间、流持续时间、包时间间隔的统计指标、包长度的统计指标、包到达速率、传输码率、包头部总长度占比、包长度时间序列的特征值,其中,本地IP、对端IP、本地端口、对端端口、协议类型这些数据特征信息可以直接提取,其他数据特征信息的计算方法如下:
(1)流长度:数据包的数量;
(2)流开始时间:最早的数据包传输时间;
(3)流结束时间:最晚的数据包传输时间;
(4)流持续时间:流结束时间和流开始时间的差值;
(5)包时间间隔的统计指标:包时间间隔是将数据包按传输时间排列后,后一个包的传输时间与前一个包的传输时间的差值,其统计指标包括平均值、最大值、最小值和标准差;
(6)包长度的统计指标:包长度为数据包的数据位数(以字节为单位),其统计指标包括总和、平均值、最小值、最大值和标准差;
(7)包到达速率:流持续时间和流长度的比值;
(8)传输码率:包长度的总和除以流持续时间;
(9)包头部总长度占比:包头部总长度为数据包头部的数据位数(以字节为单位)之和,包头部总长度占比为包头部总长度除以包长度总和;
(10)包长度时间序列的特征值:提取每个数据包的传输时间和包长度,构建包长度时间序列:{x(t1)、x(t2)、...、x(tn)},其中,n是数据包总数,t1、t2、...、tn分别是按照时间先后次序排列的所有数据包的传输时间,x(ti)是ti时间节点的数据包长度,i∈[1,n]。包长度时间序列的特征值可以包括但不限于:自相关特征、ARCH值、二值化均值、穿插点数、圆内占比、熵、自相关最小值时间、首次零点位、最大行程长度、波动特征、异质性、直方图众数、光滑系数、Hurst指数、块度,其中:
自相关特征:包长度时间序列与其自身在不同时间节点的互相关特征;
ARCH值:包长度时间序列自回归条件异方差模型的统计量;
二值化均值:将包长度时间序列二值化(0,1)后的平均值;
穿插点数:包长度时间序列穿过均值线的次数;
圆内占比:二维嵌入空间中落入内切圆内的包占比;
熵:包长度时间序列的信息熵;
自相关最小值时间:包序列自相关系数最小值第一次出现的时间;
首次零点位:自相关函数首次取零所对应的包长度时间序列位置;
最大行程长度:将包长度时间序列分为M等份并计算每份的最大行程长度;
波动特征:将包长度时间序列拟合一阶多项式后的值域;
异质性:包长度时间序列白化后的ARCH值;
直方图众数:包长度时间序列按直方图排列后的众数;
光滑系数:根据Holt的线性趋势算法估计包长度时间序列的光滑参数;
Hurst指数:反映包长度时间序列长期记忆性的指标;
块度:将包长度时间序列划分时间窗口后计算各窗口方差的方差。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明保护的范围之内。
Claims (7)
1.一种基于DPDK的数据包分发和特征提取方法,其特征在于,包括有:
步骤一、设置多台Worker服务器和1台采集Proxy服务器,并对每台服务器预先进行DPDK环境部署;
步骤二、采集Proxy服务器从绑定网卡中读取网络数据包并存入缓冲区中,同时,按照每个数据包的五元组信息,将缓存区中五元组信息相对应的所有数据包分发给其中1台对应的Worker服务器;
步骤三、每台Worker服务器从收到的数据包中提取数据特征信息,
步骤二中,将缓存区中五元组信息相对应的所有数据包分发给其中1台对应的Worker服务器,进一步包括有:
步骤21、采集Proxy服务器每隔一定时间间隔,基于线性回归模型来构建当前时段的数据包分发模型:S=a·c+b·m+d,其中,S为Worker服务器在当前时段的数据包处理速度,c为Worker服务器在当前时刻的剩余CPU逻辑核数,m为Worker服务器在当前时刻的剩余内存数,a、b分别是c、m对应自变量的系数,d为常数项,然后提取比当前时刻早一个时间周期的数据对当前时段的数据包分发模型进行拟合,计算当前时段的数据包分发模型中的a、b和d的值;
步骤22、采集Proxy服务器根据当前时段的数据包分发模型、每台Worker服务器在当前时刻发送来的剩余CPU逻辑核数和剩余内存数,预测每台Worker服务器在当前时段的数据包处理速度;
步骤23、采集Proxy服务器根据所预测的每台Worker服务器在当前时段的数据包处理速度和缓存区中待分发的数据包数量,计算每台Worker服务器处理待分发的数据包所需的时间T,并将T发送给对应的Worker服务器;
步骤24、每台Worker服务器在收到采集Proxy服务器发送来的T后,预估处理完自身现有的数据包所需的剩余时间U,并将U返回给采集Proxy服务器,若Worker服务器当前处于空闲状态,则向采集Proxy服务器返回的U为0;
步骤25、采集Proxy服务器计算每台Worker服务器完成待分发的数据包所需的时间Z:Z=T+U,然后将待分发的数据包发给Z最小的Worker服务器。
2.根据权利要求1所述的方法,其特征在于,DPDK环境部署包括设置运行环境与系统变量、加载驱动模块、绑定网卡、设置大页内存,步骤一包括有:
步骤11、设置运行环境和系统变量,安装编译DPDK开源框架,配置DPDK环境变量RTE_SDK和RTE_TARGET;
步骤12、加载驱动程序,先加载uio:modprobe uio,再加载insmod igb_uio;
步骤13、绑定网卡,通过DPDK自带的工具dpdk-devbind.py进行网卡绑定;
步骤14、设置大页内存,在系统文件etc/grub2.cfg添加hugepagesz大小。
3.根据权利要求1所述的方法,其特征在于,步骤二中的数据包的五元组信息包括有:源端口、源地址、目的端口、目的地址、协议,五元组信息相对应的数据包是指五元组信息一致、或者五元组中的源与目的地址及端口对调后信息一致的数据包。
4.根据权利要求1所述的方法,其特征在于,当采集Proxy服务器启动对数据包的分发,其运行时间小于一个时间周期时,采集Proxy服务器采取随机的方式,将待分发的数据包分发给空闲的Worker服务器。
5.根据权利要求1所述的方法,其特征在于,还包括有:
每台Worker服务器每隔一定时间间隔,向采集Proxy服务器发送其在当前时刻的剩余CPU逻辑核数、剩余内存数、以及在上一时间间隔内已处理的数据包数量。
6.根据权利要求1所述的方法,其特征在于,步骤三中,每台Worker服务器从收到的数据包中提取的数据特征信息包括但不限于:本地IP、对端IP、本地端口、对端端口、协议类型、流长度、流开始时间、流结束时间、流持续时间、包时间间隔的统计指标、包长度的统计指标、包到达速率、传输码率、包头部总长度占比、包长度时间序列的特征值,其中,本地IP、对端IP、本地端口、对端端口、协议类型这些数据特征信息直接提取,其他数据特征信息的计算方法如下:
(1)流长度:数据包的数量;
(2)流开始时间:最早的数据包传输时间;
(3)流结束时间:最晚的数据包传输时间;
(4)流持续时间:流结束时间和流开始时间的差值;
(5)包时间间隔的统计指标:包时间间隔是将数据包按传输时间排列后,后一个包的传输时间与前一个包的传输时间的差值,其统计指标包括平均值、最大值、最小值和标准差;
(6)包长度的统计指标:包长度为数据包的数据位数,其统计指标包括总和、平均值、最小值、最大值和标准差;
(7)包到达速率:流持续时间和流长度的比值;
(8)传输码率:包长度的总和除以流持续时间;
(9)包头部总长度占比:包头部总长度为数据包头部的数据位数之和,包头部总长度占比为包头部总长度除以包长度总和;
(10)包长度时间序列的特征值:提取每个数据包的传输时间和包长度,构建包长度时间序列:{x(t1)、x(t2)、…、x(tn)},其中,n是数据包总数,t1、t2、…、tn分别是按照时间先后次序排列的所有数据包的传输时间,x(ti)是ti时间节点的数据包长度,i∈[1,n]。
7.根据权利要求6所述的方法,其特征在于,包长度时间序列的特征值包括但不限于:自相关特征、ARCH值、二值化均值、穿插点数、圆内占比、熵、自相关最小值时间、首次零点位、最大行程长度、波动特征、异质性、直方图众数、光滑系数、Hurst指数、块度,其中:
自相关特征:包长度时间序列与其自身在不同时间节点的互相关特征;
ARCH值:包长度时间序列自回归条件异方差模型的统计量;
二值化均值:将包长度时间序列二值化(0,1)后的平均值;
穿插点数:包长度时间序列穿过均值线的次数;
圆内占比:二维嵌入空间中落入内切圆内的包占比;
熵:包长度时间序列的信息熵;
自相关最小值时间:包序列自相关系数最小值第一次出现的时间;
首次零点位:自相关函数首次取零所对应的包长度时间序列位置;
最大行程长度:将包长度时间序列分为M等份并计算每份的最大行程长度;
波动特征:将包长度时间序列拟合一阶多项式后的值域;
异质性:包长度时间序列白化后的ARCH值;
直方图众数:包长度时间序列按直方图排列后的众数;
光滑系数:根据Holt的线性趋势算法估计包长度时间序列的光滑参数;
Hurst指数:反映包长度时间序列长期记忆性的指标;
块度:将包长度时间序列划分时间窗口后计算各窗口方差的方差。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010399499.3A CN111641531B (zh) | 2020-05-12 | 2020-05-12 | 一种基于dpdk的数据包分发和特征提取方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010399499.3A CN111641531B (zh) | 2020-05-12 | 2020-05-12 | 一种基于dpdk的数据包分发和特征提取方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111641531A CN111641531A (zh) | 2020-09-08 |
CN111641531B true CN111641531B (zh) | 2021-08-17 |
Family
ID=72331997
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010399499.3A Active CN111641531B (zh) | 2020-05-12 | 2020-05-12 | 一种基于dpdk的数据包分发和特征提取方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111641531B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112615781B (zh) * | 2020-12-09 | 2023-04-18 | 网宿科技股份有限公司 | 一种在dpdk中实现bgp报文交互的方法及服务器 |
CN114024758B (zh) * | 2021-11-09 | 2022-12-23 | 清华大学 | 流量特征提取方法、系统、存储介质及电子设备 |
CN114124503B (zh) * | 2021-11-15 | 2022-09-27 | 北京邮电大学 | 一种逐级并发缓存优化效能的智能网络感知方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1370048A1 (fr) * | 2002-06-06 | 2003-12-10 | Alcatel | Application des réseaux actifs pour la répartition de charge au sein d'une pluralité de serveurs de service |
CN104156389A (zh) * | 2014-07-04 | 2014-11-19 | 重庆邮电大学 | 基于Hadoop平台的深度包检测系统及方法 |
CN106815112A (zh) * | 2015-11-27 | 2017-06-09 | 大唐软件技术股份有限公司 | 一种基于深度包检测的海量数据监控系统及方法 |
CN107294801A (zh) * | 2016-12-30 | 2017-10-24 | 江苏号百信息服务有限公司 | 基于海量实时互联网dpi数据的流式处理方法及系统 |
CN109873858A (zh) * | 2018-12-27 | 2019-06-11 | 中科曙光南京研究院有限公司 | 一种业务数据分布式监控方法和分布式监控集群 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7672236B1 (en) * | 2005-12-16 | 2010-03-02 | Nortel Networks Limited | Method and architecture for a scalable application and security switch using multi-level load balancing |
CN103036979B (zh) * | 2012-12-12 | 2015-07-01 | 广州尚融网络科技有限公司 | 一种服务器负载均衡方法及负载均衡器 |
-
2020
- 2020-05-12 CN CN202010399499.3A patent/CN111641531B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1370048A1 (fr) * | 2002-06-06 | 2003-12-10 | Alcatel | Application des réseaux actifs pour la répartition de charge au sein d'une pluralité de serveurs de service |
CN104156389A (zh) * | 2014-07-04 | 2014-11-19 | 重庆邮电大学 | 基于Hadoop平台的深度包检测系统及方法 |
CN106815112A (zh) * | 2015-11-27 | 2017-06-09 | 大唐软件技术股份有限公司 | 一种基于深度包检测的海量数据监控系统及方法 |
CN107294801A (zh) * | 2016-12-30 | 2017-10-24 | 江苏号百信息服务有限公司 | 基于海量实时互联网dpi数据的流式处理方法及系统 |
CN109873858A (zh) * | 2018-12-27 | 2019-06-11 | 中科曙光南京研究院有限公司 | 一种业务数据分布式监控方法和分布式监控集群 |
Also Published As
Publication number | Publication date |
---|---|
CN111641531A (zh) | 2020-09-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111641531B (zh) | 一种基于dpdk的数据包分发和特征提取方法 | |
EP3407562B1 (en) | Coflow recognition method and system, and server using method | |
Chow et al. | The mystery machine: End-to-end performance analysis of large-scale internet services | |
CN107634848B (zh) | 一种采集分析网络设备信息的系统和方法 | |
CN106330602B (zh) | 一种云计算虚拟租户网络监控方法及系统 | |
CN110868336A (zh) | 数据管理方法、装置和计算机可读存储介质 | |
US7818150B2 (en) | Method for building enterprise scalability models from load test and trace test data | |
CN103200046A (zh) | 监控网元设备性能的方法及系统 | |
CN111585837B (zh) | 物联网数据链路监控方法、装置、计算机设备和存储介质 | |
CN112751726B (zh) | 一种数据处理方法、装置、电子设备和存储介质 | |
CN111522786A (zh) | 日志处理系统及方法 | |
Quoc et al. | Approximate stream analytics in apache flink and apache spark streaming | |
CN104252458A (zh) | 数据分析方法和装置 | |
WO2023123956A1 (zh) | 一种io全生命周期时延监测方法及相关装置 | |
Wan et al. | Analysis and modeling of the end-to-end i/o performance on olcf's titan supercomputer | |
US20100329146A1 (en) | Flow information collection apparatus | |
Kassim et al. | Statistical analysis and modeling of internet traffic IP-based network for tele-traffic engineering | |
CN109144837B (zh) | 一种支持精准服务推送的用户行为模式识别方法 | |
US8271643B2 (en) | Method for building enterprise scalability models from production data | |
CN108063814B (zh) | 一种负载均衡方法及装置 | |
WO2016201876A1 (zh) | 一种加密流量的业务识别方法、装置和计算机存储介质 | |
CN110781950B (zh) | 一种报文处理方法及装置 | |
CN106599005B (zh) | 一种数据归档方法及装置 | |
CN115378881B (zh) | 基于联邦学习的家庭路由器数据流识别方法和识别架构 | |
US20160110234A1 (en) | Apparatus and method for processing complex event based on high load path |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CP01 | Change in the name or title of a patent holder | ||
CP01 | Change in the name or title of a patent holder |
Address after: 100029 Beijing city Chaoyang District Yumin Road No. 3 Patentee after: NATIONAL COMPUTER NETWORK AND INFORMATION SECURITY MANAGEMENT CENTER Patentee after: Xinxun Digital Technology (Hangzhou) Co.,Ltd. Address before: 100029 Beijing city Chaoyang District Yumin Road No. 3 Patentee before: NATIONAL COMPUTER NETWORK AND INFORMATION SECURITY MANAGEMENT CENTER Patentee before: EB Information Technology Ltd. |