CN111953552B - 数据流的分类方法和报文转发设备 - Google Patents
数据流的分类方法和报文转发设备 Download PDFInfo
- Publication number
- CN111953552B CN111953552B CN201910399861.4A CN201910399861A CN111953552B CN 111953552 B CN111953552 B CN 111953552B CN 201910399861 A CN201910399861 A CN 201910399861A CN 111953552 B CN111953552 B CN 111953552B
- Authority
- CN
- China
- Prior art keywords
- service
- application
- message forwarding
- address
- services
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/22—Parsing or analysis of headers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
- H04L41/5041—Network service management, e.g. ensuring proper service fulfilment according to agreements characterised by the time relationship between creation and deployment of a service
- H04L41/5054—Automatic deployment of services triggered by the service manager, e.g. service implementation by automatic configuration of network components
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/02—Capturing of monitoring data
- H04L43/026—Capturing of monitoring data using flow identification
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/74—Address processing for routing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
- H04L47/2441—Traffic characterised by specific attributes, e.g. priority or QoS relying on flow classification, e.g. using integrated services [IntServ]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
- H04L47/2475—Traffic characterised by specific attributes, e.g. priority or QoS for supporting traffic characterised by the type of applications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/16—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using machine learning or artificial intelligence
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/40—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using virtualisation of network functions or resources, e.g. SDN or NFV entities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L61/00—Network arrangements, protocols or services for addressing or naming
- H04L61/45—Network directories; Name-to-address mapping
- H04L61/4505—Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols
- H04L61/4511—Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols using domain name system [DNS]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Security & Cryptography (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Probability & Statistics with Applications (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本申请实施例公开了一种数据流的分类方法,应用于内部网络和互联网之间的报文转发设备。本申请实施例方法包括:报文转发设备获取多条数据流,并提取多条数据流中每条数据流的地址信息和时间信息;根据每条数据流的源IP地址,从多条数据流中筛选出第一客户端设备访问多个服务产生的数据流集合;根据数据流集合中每条数据流的目的IP地址和目的端口号,确定第一客户端设备访问的包括第一服务和第二服务的服务集合;根据数据流集合中每条数据流的时间信息,确定服务集合中的各服务之间的相关性;进而确定第一服务和第二服务用于实现第一应用;由此报文转发设备确定第一服务和第二服务对应的数据流为第一应用的数据流。
Description
技术领域
本申请涉及通信技术领域,特别涉及一种数据流的分类方法和报文转发设备。
背景技术
软件定义广域网(software defined wide area network,SD-WAN)场景中存在多种企业私有应用,识别网络流量中承载哪些应用的数据,对于网络管理是重要的。
深度报文解析(deep packet inspection,DPI)技术被应用于对数据流进行应用分类。在流量转发的过程中,DPI设备基于数据流中的字节信息提取流量特征,然后将提取的流量特征与预设的识别规则进行匹配可以得到分类结果。
由于现有技术中,DPI设备对流量进行分类所用的识别规则需要由技术人员总结获取,耗时费力。
发明内容
本申请实施例提供了一种数据流的分类方法,应用于内部网络和互联网之间的报文转发设备,可以减少技术人员的工作量,避免应用更新带来的无法识别数据流的问题。
本申请实施例第一方面提供了一种数据流的分类方法,应用于内部网络和互联网之间的报文转发设备,包括:报文转发设备获取多条数据流,并提取该多条数据流中每条数据流的地址信息和时间信息,该多条数据流是多个客户端设备分别访问多个服务产生的数据流,该服务用于实现应用的子功能,该地址信息包括源IP地址、源端口号、目的IP地址和目的端口号;该报文转发设备根据该每条数据流的源IP地址,从该多条数据流中筛选出第一客户端设备访问多个服务产生的数据流集合,该第一客户端设备是该多个客户端设备中被分配使用第一IP地址的客户端设备;该报文转发设备根据该数据流集合中每条数据流的目的IP地址和目的端口号,确定该第一客户端设备访问的服务集合,该服务集合包括第一服务和第二服务,该第一服务对应的目的IP地址和目的端口号的组合与该第二服务对应的目的IP地址和目的端口号的组合不同;该报文转发设备根据该数据流集合中每条数据流的时间信息,确定该服务集合中的各服务之间的相关性;该报文转发设备根据该相关性,确定该第一服务和该第二服务用于实现第一应用;该报文转发设备确定该第一服务和该第二服务对应的数据流为该第一应用的数据流。
应用由一组服务组成,服务用于实现应用的子功能。当客户端设备访问某一应用时,会应用提供方服务器建立多条数据流,多条数据流用于实现属于该应用的多个服务,该多条数据流的时间信息将存在较强的相关性。多个客户端设备分别访问一个或多个应用时,将建立多条数据流。报文转发设备获取多条数据流,该多条数据流是多个客户端设备分别访问多个服务产生的数据流。报文转发设备提取该多条数据流中每条数据流的地址信息和时间信息,根据该每条数据流的源IP地址,可以从该多条数据流中筛选出第一客户端设备产生的第一数据流集合。报文转发设备根据该数据流集合中每条数据流的该目的IP地址和目的端口号,可以确定该第一客户端设备访问的服务集合,根据该数据流集合中每条数据流的时间信息。报文转发设备确定该服务集合中的各服务之间的相关性,各服务之间的相关性是指各服务在时间信息层面的相关程度。报文转发设备根据该相关性,可以确定用于实现第一应用的该第一服务和该第二服务,由此,报文转发设备可以确定该第一服务和该第二服务对应的数据流为该第一应用的数据流,实现了对于多条数据流的分类。本申请实施例提供的数据流分类方法,通过时间信息的内在关联性进行分类,不需要根据识别规则对数据流中的字节信息进行识别,可以减少技术人员的工作量,避免应用更新带来的无法识别数据流的问题。
在第一方面的一种可能的实现方式中,该时间信息包括:数据流的开始时刻和/或结束时刻。
本申请实施例提供的数据流的分类方法,提供了时间信息的几种具体形式,可以是数据流的开始时刻、结束时刻,或者,开始时刻和结束时刻,这样在实现数据流分类的过程中可以增加方案实现的灵活性,此外,根据开始时刻和结束时刻共同完成数据流分类还可以增加分类的准确度。
在第一方面的一种可能的实现方式中,该报文转发设备根据该相关性,确定该第一服务和该第二服务用于实现第一应用包括:该报文转发设备根据该相关性,通过非监督算法进行聚类,确定该第一服务和该第二服务用于实现第一应用。
本申请实施例提供的数据流的分类方法,使用机器学习中的非监督算法来进行流量分类,在算法开发训练过程中,不需要使用标签样本,仅被用来验证算法的有效性,可以简化分类流程,降低技术人员的工作量。
在第一方面的一种可能的实现方式中,该聚类的方法包括:谱聚类算法、K-Means聚类算法或DBSCAN密度聚类算法。
本申请实施例提供的数据流的分类方法,提供了多种可能的聚类方法,提高了方案实现的灵活性。
在第一方面的一种可能的实现方式中,该报文转发设备根据该数据流集合中每条数据流的时间信息,确定该服务集合中的各服务之间的相关性,包括:该报文转发设备根据该数据流集合中每条数据流的时间信息,确定第一同现服务集合,该第一服务和该第二服务属于该第一同现服务集合,该第一同现服务集合中包括至少两个服务、且访问该至少两个服务产生的数据流的时间信息的间隔时长小于或等于预设的时长;该报文转发设备根据该第一同现服务集合,确定该第一服务与该第二服务之间的相关性。
本申请实施例提供的数据流的分类方法,可以从单一客户端设备访问的多个服务中筛选出间信息的间隔时长小于或等于预设的时长的服务,得到同现服务集合,再确定服务之间的相关性,增强了方案的可实现性。
在第一方面的一种可能的实现方式中,该方法还包括:该报文转发设备根据该第一同现服务集合确定该第一服务和该第二服务之间的相似度,得到相似度矩阵;该报文转发设备根据该相关性,确定该第一服务和该第二服务用于实现第一应用包括:该报文转发设备根据该相似度矩阵确定该第一服务和该第二服务用于实现第一应用。
本申请实施例提供的数据流的分类方法,通过同现服务集合可以确定服务之间的相似度,得到相似度矩阵,进而根据相似度矩阵确定服务是否用于实现同一应用,该方案可以提高分类的准确度。
在第一方面的一种可能的实现方式中,该报文转发设备根据该第一同现服务集合确定该第一服务和该第二服务之间的相似度包括:该报文转发设备根据余弦相似度计算法、交并比计算法或者欧式距离计算法确定该第一服务和该第二服务之间的相似度。
本申请实施例提供的数据流的分类方法,提供了计算服务之间相似度的几种具体计算方法,提高了方案的可实现性和灵活性。
在第一方面的一种可能的实现方式中,该方法还包括:该报文转发设备通过图嵌入技术从该相似度矩阵中提取该第一服务的第一特征向量和该第二服务的第二特征向量;该报文转发设备根据该相关性,确定该第一服务和该第二服务用于实现第一应用包括:该报文转发设备根据该第一特征向量和该第二特征向量,确定该第一服务和该第二服务用于实现第一应用。
本申请实施例提供的数据流的分类方法,得到相似度矩阵后可以进一步通过图嵌入技术提取服务的特征向量,进而根据特征向量确定用于实现同一应用的服务,可以提高分类的准确度。
在第一方面的一种可能的实现方式中,该方法还包括:该报文转发设备提取该多条数据流的DNS特征,该DNS特征包括该目的IP地址和目的端口号的组合和域名的对应关系;根据该第一应用的数据流的目的地址信息和该DNS特征,确定该第一应用的标签,该标签用于标识该第一应用。
本申请实施例提供的数据流的分类方法,报文转发设备还可以获取数据流的DNS特征,通过DNS特征对分类的数据流对应的应用进行标识,可以便于用户对应用类型有直观的认识。
本申请实施例第二方面提供了一种报文转发设备,应用于内部网络和互联网之间,包括:获取单元,用于获取多条数据流,并提取该多条数据流中每条数据流的地址信息和时间信息,该多条数据流是多个客户端设备分别访问多个服务产生的数据流,该服务用于实现应用的子功能,该地址信息包括源IP地址、源端口号、目的IP地址和目的端口号;选择单元,用于根据该每条数据流的源IP地址,从该多条数据流中筛选出第一客户端设备访问多个服务产生的数据流集合,该第一客户端设备是该多个客户端设备中被分配使用第一IP地址的客户端设备;确定单元,用于根据该数据流集合中每条数据流的目的IP地址和目的端口号,确定该第一客户端设备访问的服务集合,该服务集合包括第一服务和第二服务,该第一服务对应的目的IP地址和目的端口号的组合与该第二服务对应的目的IP地址和目的端口号的组合不同;该确定单元,还用于根据该数据流集合中每条数据流的时间信息,确定该服务集合中的各服务之间的相关性;该确定单元,还用于根据该相关性,确定该第一服务和该第二服务用于实现第一应用;该确定单元,还用于确定该第一服务和该第二服务对应的数据流为该第一应用的数据流。
在第二方面的一种可能的实现方式中,该确定单元具体用于:根据该相关性,通过非监督算法进行聚类,确定该第一服务和该第二服务用于实现第一应用。
在第二方面的一种可能的实现方式中,该确定单元具体用于:根据该数据流集合中每条数据流的时间信息,确定第一同现服务集合,该第一服务和该第二服务属于该第一同现服务集合,该第一同现服务集合中包括至少两个服务、且访问该至少两个服务产生的数据流的时间信息的间隔时长小于或等于预设的时长;根据该第一同现服务集合,确定该第一服务与该第二服务之间的相关性。
在第二方面的一种可能的实现方式中,该确定单元还用于:根据该第一同现服务集合确定该第一服务和该第二服务之间的相似度,得到相似度矩阵;该确定单元具体用于:根据该相似度矩阵确定该第一服务和该第二服务用于实现第一应用。
在第二方面的一种可能的实现方式中,该确定单元具体用于:根据余弦相似度计算法、交并比计算法或者欧式距离计算法确定该第一服务和该第二服务之间的相似度。
在第二方面的一种可能的实现方式中,该设备还包括:提取单元,用于通过图嵌入技术从该相似度矩阵中提取该第一服务的第一特征向量和该第二服务的第二特征向量;该确定单元具体用于:根据该第一特征向量和该第二特征向量,确定该第一服务和该第二服务用于实现第一应用。
在第二方面的一种可能的实现方式中,该提取单元还用于:提取该多条数据流的DNS特征,该DNS特征包括该目的IP地址和目的端口号的组合和域名的对应关系;该确定单元还用于根据该第一应用的数据流的目的地址信息和该DNS特征,确定该第一应用的标签,该标签用于标识该第一应用。
本申请实施例第三方面提供了一种报文转发设备,应用于内部网络和互联网之间,包括:处理器和网络接口;该网络接口用于收发数据;该处理器用于执行上述第一方面及其各实现方式中的方法。
本申请实施例第四方面提供了一种计算机程序产品,该计算机程序产品包括指令,当该指令在计算机上运行时,使得该计算机执行上述第一方面及其各实现方式中的方法。
本申请实施例第五方面提供了一种计算机可读储存介质,该计算机可读存储介质存储指令,当该指令在计算机上运行时,执行前述本申请实施例第一方面及其各实现方式中的方法。
本申请实施例第六方面提供了一种通信系统,包括前述第二方面的报文转发设备。
从以上技术方案可以看出,本申请实施例具有以下优点:
本申请实施例提供了一种数据流的分类方法,应用于内部网络和互联网之间的报文转发设备。应用通常由一组服务组成,服务为实现应用的子功能,多个客户端设备访问应用,即访问多个服务时将产生大量的数据流。首先,报文转发设备提取多条数据流的源地址信息、目的地址信息和时间信息,该多个客户端设备中包括第一客户端设备;该报文转发设备可以根据该源地址信息,筛选出该第一客户端设备访问多个服务产生的数据流集合;该报文转发设备根据该目的地址信息,可以确定该第一客户端设备访问的服务集合,该服务集合包括第一服务和第二服务;该报文转发设备根据该数据流集合的时间信息,确定该服务集合中的服务之间的相关性;该报文转发设备根据该相关性,确定该第一服务和该第二服务用于实现第一应用;该报文转发设备确定该第一服务和该第二服务对应的数据流为该第一应用的数据流。由此,报文转发设备可以根据数据流的源地址信息、目的地址信息和时间信息实现应用的分类,相较由技术人员总结获取识别规则,可以降低技术人员工作量,方便快捷地完成应用分类。
附图说明
图1为本申请实施例中SD-WAN网络架构图;
图2为本申请实施例中一种数据流的分类方法的一个实施例示意图;
图3为本申请实施例中一种数据流的分类方法的另一个实施例示意图;
图4为本申请实施例中报文转发设备的一个实施例示意图;
图5为本申请实施例中一种报文转发设备的另一个实施例示意图。
具体实施方式
将汇聚流量的属于不同应用的数据流进行区分或识别可以便于网络管理,例如为不同应用的流量提供不同的服务保证等。
通常,采用DPI技术对数据流进行应用分类。在流量转发的过程中,DPI设备基于数据流中的字节信息提取流量特征,然后将提取的流量特征与预设的识别规则进行匹配可以得到分类结果。由于DPI设备对流量进行分类所用的识别规则需要由技术人员总结获取,耗时费力,且难以满足应用更新带来的无法识别数据流的问题。此外,由于流量特征的提取是基于数据流中的字节信息,对于加密报文,其流量特征难以提取。
为此,本申请实施例提供了一种数据流的分类方法,用于将属于不同应用的数据流进行分类,可以减少技术人员的工作量,避免应用更新带来的无法识别数据流的问题。
本申请实施例提供的数据流的分类方法可以应用于多种内部网络,例如企业网或园区网等,本申请对于具体应用场景不做限定。下面以应用于SD-WAN为例进行介绍。
请参阅图1,为本申请实施例中SD-WAN网络架构图,SD-WAN是将软件定义网络(software defined network,SDN)技术应用到广域网场景中所形成的一种服务。SDN使用虚拟化技术,可以简化管理和运维工作。在SD-WAN场景中,存在很多企业私有应用,客户希望对这类应用的流量进行重点服务质量(quality of service,QoS)保障和流量可视,便于网络管理。
SD-WAN解决方案中,企业分支所在地的网络设备组成分支站点(例如图中site1、siteN),公司总部或数据中心(enterprise HQ/DC)所在地的网络设备组成总部站点。分支站点与总部站点之间互联,或者分支站点之间互联都是通过创建动态智能虚拟专用网络(dynamic smart virtual private network,DSVPN)隧道实现。DSVPN隧道对应的逻辑链路类型可以是Internet、多协议标签交换(multiprotocol label switching,MPLS)或长期演进(long-term evolution,LTE)等。
本申请实施例提供的数据流的分类方法,实现流量识别的节点为内部网络和互联网之间的报文转发设备,例如路由器。
基于图1所示的架构,请参阅图2,为本申请实施例中一种数据流的分类方法的一个实施例示意图。
应用由一组服务组成,服务用于实现应用的子功能。当客户端设备访问某一应用时,会与属于该应用的多个服务建立多条数据流,该多条数据流的时间信息将存在较强的相关性,当考虑多个客户端设备的应用访问行为时,在统计层面上,可以更准确的确定具有时间信息相关性的数据流。
201、报文转发设备获取多条数据流,并提取该多条数据流中每条数据流的地址信息和时间信息。
多个客户端设备分别访问一个或多个应用时,将建立多条数据流。一个应用包括多个服务,本实施例中报文转发设备获取多条数据流,该多条数据流是多个客户端设备分别访问多个服务产生的数据流。本申请实施例中,可以获取一个时间段内经该报文转发设备转发的数据流,该时间段的时长可以是12小时或24小时等,具体时长此处不做限定。
报文转发设备提取该多条数据流中每条数据流的地址信息和时间信息。
该地址信息包括源网际协议(internet protocol,IP)地址、源端口号、目的IP地址和目的端口号;其中目的IP地址和目的端口号的组合可以用于标识该数据流访问的服务。可选的,地址信息为流五元组,即IP地址、源端口号、目的IP地址、目的端口号和传输协议。
时间信息指数据流的开始时刻和/或结束时刻。
可选地,对基于传输控制协议(transmission control protocol,TCP)协议发送的数据流来说,开始时刻可以是SYN包发送时刻,结束时刻可以是FIN包发送时刻。对基于用户数据报协议(user datagram protocol,UDP)协议发送的数据流来说,数据流开始时刻为接收到UDP报文的时刻,报文转发设备收到UDP报文后将建立转发表,转发表的老化时长通常为120秒,即120秒内若没有数据流命中转发表,此表项老化删除;数据流的结束时刻即为转发表整个存在期间的最后一次报文命中时间,因此结束时刻可以是转发表老化删除时刻减120秒。当然,120秒仅为转发表老化时间的举例,报文转发设备转发表的老化时间可以由管理员根据具体网络场景进行配置,也可以采用自学习的方式更新。
202、报文转发设备根据该每条数据流的源IP地址,从该多条数据流中筛选出第一客户端设备访问多个服务产生的数据流集合。
报文转发设备提取该多条数据流中每条数据流的地址信息后,可以根据数据流的地址信息中的源IP地址,从该多条数据流中筛选出第一客户端设备访问多个服务产生的数据流集合。该第一客户端设备是该多个客户端设备中被分配使用第一IP地址的客户端设备。报文转发设备筛选源IP地址为第一IP地址的数据流即可得到第一客户端设备访问多个服务产生的数据流集合。
可选地,报文转发设备可以将步骤201中获取的多条数据流,根据源IP地址的不同,确定多个客户端设备中每个客户端设备对应的数据流集合,具体此处不做限定。
203、该报文转发设备根据该数据流集合中每条数据流的目的IP地址和目的端口号,确定该第一客户端设备访问的服务集合。
目的IP地址和目的端口号的组合可以用于标识数据流访问的服务,报文转发设备根据数据流的地址信息中的目的IP地址和目的端口号确定每条数据流访问的服务。报文转发设备确定该第一客户端设备访问的服务集合,该服务集合包括第一服务和第二服务,该第一服务对应的目的IP地址和目的端口号的组合与该第二服务对应的目的IP地址和目的端口号的组合不同。
可选地,报文转发设备可以确定多个客户端设备中每个客户端设备的数据流集合对应的服务集合,具体此处不做限定。
204、报文转发设备根据该数据流集合中每条数据流的时间信息,确定该服务集合中的各服务之间的相关性。
根据步骤202和步骤203,报文转发设备获取了第一客户端设备建立的数据流集合,以及第一客户端设备访问的服务集合。根据数据流的时间信息,报文转发设备可以获取第一客户端设备访问该服务集合中的各服务的时间信息。
该服务集合中的各服务之间的相关性是指各服务在时间信息层面的相关程度。
可选地,由于第一客户端设备访问一个应用时将与一组服务建立数据流,与该组服务建立数据流的开始时刻将具有相关性,例如该服务集合对应的数据流的开始时刻之间的时间间隔小于预设的第一时长阈值。该第一时长阈值为实际应用中根据网络条件确定的一个经验值,可以是30s或25s等,此处具体不作限定。同理,在以下的实施例中还会出现第二时长阈值,该第二时长阈值也是根据网络条件确定的一个经验值。“第一”和“第二”仅用于区分,在实际应用中,物理值可以一样,也可以不一样。根据该数据流集合中每条数据流的开始时刻,若报文转发设备确定该服务集合中第一服务和第二服务的开始时刻小于第一时长阈值,则该第一服务与该第二服务相关;反之则不相关。
可选地,第一客户端设备停止访问这一应用时,与这一组服务建立的数据流的结束时刻也应具有相关性,例如该服务集合对应的多个数据流的结束时刻之间的时间间隔也应小于预设的第二时长阈值。根据该数据流集合中每条数据流的结束时刻,若报文转发设备确定该服务集合中第一服务和第二服务的结束时刻小于第二时长阈值,则该第一服务与该第二服务相关;反之则不相关。
可选地,时间信息可以是数据流的开始时刻和结束时刻,可以理解的是若服务集合中两个服务对应的数据流的开始时刻之间的时间间隔小于预设的第一时长阈值,且结束时刻之间的时间间隔小于预设的第二时长阈值,可以更准确地判断该第一服务与该第二服务相关。
205、报文转发设备根据该相关性,确定该第一服务和该第二服务用于实现第一应用。
根据步骤204中对该服务集合中各服务相关性的判断结果,报文转发设备可以确定该服务集合中具有相关性的第一服务和第二服务为实现第一应用的服务,可选地,与第一服务和第二服务不具有相关性的第三服务,为实现第二应用的服务;可选地,若第一服务、第二服务和第四服务之间具有相关性,则可确定第一服务、第二服务和第四服务为用于实现第一应用的服务。
206、该报文转发设备确定该第一服务和该第二服务对应的数据流为该第一应用的数据流。
报文转发设备确定该第一服务和该第二服务用于实现第一应用后,可以确定该第一服务和该第二服务对应的数据流为该第一应用的数据流。
由此,报文转发设备通过获取多条数据流,并提取该多条数据流中每条数据流分别的地址信息和时间信息,进一步确定第一客户端设备访问服务集合产生的的数据流集合,通过服务集合中各服务的相关性确定属于第一应用的第一服务和第二服务,进而确定访问第一服务和第二服务的数据流为第一应用的数据流,从而实现数据流的分类。本申请实施例提供的数据流分类方法,通过时间信息的内在关联性进行分类,不需要根据识别规则对数据流中的字节信息进行识别,可以减少技术人员的工作量,避免应用更新带来的无法识别数据流的问题。
基于图1所示的架构,请参阅图3,为本申请实施例中一种数据流的分类方法的另一个实施例示意图。
301、报文转发设备提取获取多条数据流,并提取该多条数据流中每条数据流分别的地址信息和时间信息。
多个客户端设备分别访问一个或多个应用时,将建立多条数据流。一个应用包括多个服务,本实施例中报文转发设备获取多条数据流,该多条数据流是多个客户端设备分别访问多个服务产生的数据流。本申请实施例中,可以获取一个时间段内经该报文转发设备转发的数据流,该时间段的时长可以是12小时或24小时等,具体时长此处不做限定。
报文转发设备提取该多条数据流中每条数据流的地址信息和时间信息。
该地址信息包括源IP地址、源端口号、目的IP地址和目的端口号;可选的,地址信息为流五元组,即源IP地址、源端口号、目的IP地址、目的端口号和传输协议。
时间信息指数据流的开始时刻和/或结束时刻。
可选地,对基于TCP协议发送的数据流来说,数据流的开始时刻可以是SYN包发送时刻,数据流的结束时刻可以是FIN包发送时刻;对基于UDP协议发送的数据流来说,数据流开始时刻为接收到UDP报文的时刻,报文转发设备收到UDP报文后将建立转发表,转发表的老化时长通常为120秒,即120秒内若没有数据流命中转发表,此表项老化删除;数据流的结束时刻即为转发表整个存在期间的最后一次报文命中时间,因此结束时刻可以是转发表老化删除时刻减120秒。当然,120秒仅为转发表老化时间的举例,报文转发设备转发表的老化时间可以由管理员根据具体网络场景进行配置,也可以采用自学习的方式更新。
302、报文转发设备根据该每条数据流的源IP地址,从该多条数据流中筛选出第一客户端设备访问多个服务产生的第一数据流集合。
报文转发设备提取该多条数据流中每条数据流的地址信息后,可以根据数据流的地址信息中的源IP地址,从该多条数据流中筛选出第一客户端设备访问多个服务产生的第一数据流集合。该第一客户端设备是该多个客户端设备中被分配使用第一IP地址的客户端设备。报文转发设备筛选源IP地址为第一IP地址的数据流即可得到第一客户端设备访问多个服务产生的第一数据流集合。
示例性的,请参考下表,为第一客户端设备的数据流表:
表1
表中每一行代表一条数据流的地址信息和时间信息。第一列为客户端设备的地址信息,即源IP地址(srcIP)和源端口号(srcPORT),srcIP1代表第一IP地址,对应于第一客户端设备,不同数据流对应的源端口号可能不同,表中以srcPORT 1至srcPORT n进行区分;第二列为数据流的目的IP地址和目的端口号,目的IP地址(dstIP)和目的端口号(dstPORT)的组合可用于标识一个服务,不同数据流访问的服务可能不同,表中以S1至Sn进行区分;第三列为数据流的开始时刻,不同数据流对应的开始时刻不同,表中以T1至Tn进行区分。可选地,第一客户端设备的数据流表可以根据数据流开始时刻的时间顺序排列。
可选地,报文转发设备可以将步骤201中获取的多条数据流,根据源IP地址的不同,确定多个客户端设备中每个客户端设备访问服务产生的数据流集合,具体此处不做限定。示例性的,报文转发设备确定第二客户端设备访问多个服务产生的第二数据流集合。
303、报文转发设备根据该数据流集合中每条数据流的该目的IP地址和目的端口号,确定该第一客户端设备访问的服务集合。
目的IP地址和目的端口号的组合可以用于标识数据流访问的服务,报文转发设备根据数据流的地址信息中的目的IP地址和目的端口号确定每条数据流访问的服务。报文转发设备确定该第一客户端设备访问的第一服务集合,该第一服务集合包括第一服务和第二服务,该第一服务对应的目的IP地址和目的端口号的组合与该第二服务对应的目的IP地址和目的端口号的组合不同。
示例性地,第一客户端设备访问的第一服务集合为(S1,S2,……,Sn)。
可选地,报文转发设备可以确定多个客户端设备中每个客户端设备的数据流集合对应的服务集合,具体此处不做限定。示例性的,报文转发设备确定第二客户端设备访问的第二服务集合。
304、报文转发设备根据该数据流集合中每条数据流的时间信息,确定第一同现服务集合。
报文转发设备可以获取第一客户端设备访问该服务集合中的各服务的时间信息,根据各服务的时间信息确定第一同现服务集合。第一同现服务集合中包括第一服务和第二服务,该第一同现服务集合中包括至少两个服务、且访问该至少两个服务产生的数据流的时间信息的间隔时长小于或等于预设的时长。
可选地,报文转发设备可以根据时间窗滑动的方法获取时间信息的间隔时长小于或等于预设的时长的数据流。示例性地,请参考表1,若该第一数据流集合按照数据流的开始时刻的先后顺序排列,从T1开始,取时长为w的时间窗,w为实际应用中根据网络条件确定的一个经验值,可以是30s或25s等,此处具体不作限定。确定时间窗内是否有数据流,即在T1至T1+w的时间段内是否有数据流出现,若有,则将该时间窗向后滑动w长度,即确定在T1+w至T1+2w的时间段内是否有数据流出现,若有则继续上述步骤。若没有数据流出现,则将该时间窗截止时间记为T1+λ1w,其中λ1属于整数,且T1+λ1w小于或等于Tn,在这种情况下,T1对应的数据流所标识的服务实际上是独立出现。取开始时刻在T1至T1+λ1w时间段内的数据流对应的服务组成的集合,记为第一同现服务集合S,假设S中包含第一服务S1和第二服务S2,可以理解的是,S1和S2产生的数据流的开始时刻的间隔时长小于或等于w。可选地,为了更清晰地描述多个服务之间的相关性,可通过一定的数据结构例如二维表进行维护,称为服务同现次数表,请参阅表2。
表2
然后,从上一次时间窗的截止时间(如T1+λ1w)开始,找到离该截止时间(T1+λ1w)最近的流的开始时间作为新的时间窗的起点,并再次进行上述类似滑动时间窗分析,更新服务同现次数表以及各服务的独立出现次数,直到表1所示的第一客户端的数据流表分析完毕。
下面举例对服务同现次数表的维护方法进行介绍,对于获取的第一同现服务集合S,包含S1和S2,由于S1和S2各出现一次,在表格(S1,S1)处记录1,类似的,在(S2,S2)处也记录1,由于S1和S2同时出现在第一同现服务集合中,在(S1,S2)及(S2,S1)处也分别记录1。
可选地,对除第一客户端之外的其它的客户端,如第二客户端,也采用相同时间窗大小进行类似的分析,即重复执行上述步骤302~步骤304,并更新表2所示的服务同现次数表以及各服务的独立出现次数。换句话说,若报文转发设备获取了第二客户端设备的第二同现服务集合,也可以根据上述方法,在服务同现次数表中进行累加并更新数据。
305、报文转发设备根据该第一同现服务集合确定该第一服务和该第二服务之间的相似度,得到相似度矩阵。
该报文转发设备根据该第一同现服务集合确定该第一服务和该第二服务之间的相似度,得到相似度矩阵;该报文转发设备根据该相似度矩阵确定该第一服务和该第二服务之间的相关性。
可选地,该报文转发设备根据步骤304获取的服务同现次数表,计算服务之间的相似度。将表2中用矩阵Γ表示,矩阵大小为Ms×Ms,Ms为数据流集合中出现的服务的总数,第i行,第j列的数据Γij表示,第i个服务和第j个服务同时出现的次数,两者之间相似度记为εij,相似度的计算方法有多种,可选地,该报文转发设备可以根据余弦相似度计算法、交并比计算法或者欧式距离计算法确定服务之间的相似度。
可选地,报文转发设备根据步骤304获取的服务同现次数表和服务独立出现的次数,计算服务之间的相似度。一个服务独立出现,实际上就是该服务与其他服务同时出现的次数为0。
下面逐一进行介绍:
根据余弦相似度计算第i个服务与第j个服务之间的相似度的方法参见公式(1):
其中,εij为i个服务和第j个服务之间的相似度,Γi为矩阵Γ第i行,Γj为矩阵Γ第j行,|·|表示无穷范数计算,·表示向量内积。
根据交并比的方式计算如公式(2)所示:
其中,εij为第i个服务和第j个服务之间的相似度,Γij表示第i个服务和第j个服务同现次数,即表2中第i行,第j列的数据,Ni代表第i个服务出现的总次数,即表2中第i行,第i列的数据。
根据欧式距离的方法计算如公式(3)所示:
其中,εij为第i个服务和第j个服务之间的相似度,dist(Γi,Γj)表示,Γij表示第i个服务和第j个服务同现次数,即表2中第i行,第j列的数据,Ms为数据流集合中出现的服务的总数。
报文转发设备根据该第一同现服务集合中任意两个服务之间的相似度,可以得到相似度矩阵E。
306、报文转发设备通过图嵌入技术从该相似度矩阵中提取该第一服务的第一特征向量和该第二服务的第二特征向量。
相似度矩阵Ε可看作服务之间组成的图的邻接矩阵,图中的节点为服务,边的连接权重为邻接矩阵的值。图嵌入技术是根据图中节点间的连接关系,即邻接矩阵,将图中的节点以一个稠密向量来表示,进一步提取每个服务的特征向量。该报文转发设备通过图嵌入技术从该相似度矩阵中提取该第一服务的第一特征向量和该第二服务的第二特征向量。
需要说明的是,步骤306为可选步骤,可以执行也可以不执行,此处不做限定。
307、报文转发设备根据该第一特征向量和该第二特征向量,通过非监督算法进行聚类,确定该第一服务和该第二服务用于实现第一应用。
报文转发设备根据该第一特征向量和该第二特征向量进行应用聚类,确定该第一服务和该第二服务用于实现第一应用。可选地,进行应用聚类的方法为非监督算法,例如谱聚类算法、K-Means聚类算法或DBSCAN密度聚类算法等,具体此处不做限定。
需要说明的是,若不执行步骤306,则报文转发设备可以直接根据相似度矩阵,通过非监督算法进行聚类,确定该第一服务和该第二服务用于实现第一应用。
308、报文转发设备确定该第一服务和该第二服务对应的数据流为该第一应用的数据流。
报文转发设备确定该第一服务和该第二服务用于实现第一应用后,可以确定该第一服务和该第二服务对应的数据流为该第一应用的数据流。
309、报文转发设备提取该多条网络流量数据流的DNS特征。
该报文转发设备提取该多条数据流的DNS特征,该DNS特征包括该目的IP地址和目的端口号的组合和域名的对应关系。
需要说明的是,步骤309可以在步骤302至步骤308中任一项之前执行,具体此处不做限定。
示例性的,报文转发设备提取一条网络流量数据流的DNS特征为:第一服务对应DNS域名为iLearning.huawei.com。
310、根据该第一应用的数据流的目的地址信息和该DNS特征,得到该第一应用的标签。
报文转发设备提取该多条数据流的DNS特征,DNS特征包括该目的IP地址和目的端口号的组合和域名的对应关系。根据该第一应用的数据流的目的地址信息和该DNS特征,得到该第一应用的标签,该标签用于标识该第一应用。
示例性的,报文转发设备确定第一服务和第二服务属于第一应用,根据第一服务对应的数据流的DNS特征,可以确定第一服务对应的DNS域名为iLearning.huawei.com,报文转发设备可以用DNS域名中的相关信息作为第一应用的标签,例如“iLearing”。可以理解的是,第二服务对应的DNS域名也可以用于确定第一应用的标签,此处不做具体限定。
上面介绍了数据流的分类方法,下面将对实现该数据流的分类方法的报文转发装置进行介绍,请参阅图4,为本申请实施例中报文转发设备的一个实施例示意图。
本申请实施例提供的报文转发设备,应用于内部网络和互联网之间,包括:
获取单元401,用于获取多条数据流,并提取该多条数据流中每条数据流的地址信息和时间信息,该多条数据流是多个客户端设备分别访问多个服务产生的数据流,该服务用于实现应用的子功能,该地址信息包括源IP地址、源端口号、目的IP地址和目的端口号;选择单元402,用于根据该每条数据流的源IP地址,从该多条数据流中筛选出第一客户端设备访问多个服务产生的数据流集合,该第一客户端设备是该多个客户端设备中被分配使用第一IP地址的客户端设备;确定单元403,用于根据该数据流集合中每条数据流的目的IP地址和目的端口号,确定该第一客户端设备访问的服务集合,该服务集合包括第一服务和第二服务,该第一服务对应的目的IP地址和目的端口号的组合与该第二服务对应的目的IP地址和目的端口号的组合不同;该确定单元403,还用于根据该数据流集合中每条数据流的时间信息,确定该服务集合中的各服务之间的相关性;该确定单元403,还用于根据该相关性,确定该第一服务和该第二服务用于实现第一应用;该确定单元403,还用于确定该第一服务和该第二服务对应的数据流为该第一应用的数据流。
该确定单元403具体用于:根据该相关性,通过非监督算法进行聚类,确定该第一服务和该第二服务用于实现第一应用。
该确定单元403具体用于:根据该数据流集合中每条数据流的时间信息,确定第一同现服务集合,该第一服务和该第二服务属于该第一同现服务集合,该第一同现服务集合中包括至少两个服务、且访问该至少两个服务产生的数据流的时间信息的间隔时长小于或等于预设的时长;根据该第一同现服务集合,确定该第一服务与该第二服务之间的相关性。
该确定单元403还用于:根据该第一同现服务集合确定该第一服务和该第二服务之间的相似度,得到相似度矩阵;该确定单元403具体用于:根据该相似度矩阵确定该第一服务和该第二服务用于实现第一应用。
该确定单元403具体用于:根据余弦相似度计算法、交并比计算法或者欧式距离计算法确定该第一服务和该第二服务之间的相似度。
该设备还包括:提取单元404,用于通过图嵌入技术从该相似度矩阵中提取该第一服务的第一特征向量和该第二服务的第二特征向量;该确定单元403具体用于:根据该第一特征向量和该第二特征向量,确定该第一服务和该第二服务用于实现第一应用。
该提取单元404还用于:提取该多条数据流的DNS特征,该DNS特征包括该目的IP地址和目的端口号的组合和域名的对应关系;该确定单元403还用于根据该第一应用的数据流的目的地址信息和该DNS特征,确定该第一应用的标签,该标签用于标识该第一应用。
另外,在附图4所示实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述各个单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现;也可以部分单元采用硬件的形式实现,其余单元采用软件功能单元的形式实现。
所述各单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
附图4所示的报文转发装置实现数据流分类的过程的更多细节请参考上述附图2和附图3相关方法实施例中的描述,在这里不做重复描述。
请参阅图5,为本申请实施例中一种报文转发设备的另一个实施例示意图。本实施例提供的报文转发设备应用于内部网络和互联网之间,该报文转发设备可以是路由器或网关等,本申请实施例中对其具体设备形态不做限定。
该报文转发设备500可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上处理器501和存储器505,该存储器505中存储有程序或数据。
其中,存储器505可以是易失性存储或非易失性存储。可选地,处理器501是一个或多个中央处理器(CPU,Central Processing Unit,该CPU可以是单核CPU,也可以是多核CPU。处理器501可以与存储器505通信,在报文转发设备500上执行存储器505中的一系列指令。
可替换地,处理器501也可以是应用的集成电路(ASIC,Application SpecificIntegrated Circuit)或者现场可编程门阵列(FPGA,Field-Programmable Gate Array)。可以理解的是,若处理器501为可储存指令的ASIC芯片等,则存储器505可以不存在。
可选地,报文转发设备500还包括一个或一个以上电源502;一个或一个以上有线或无线网络接口503,例如以太网接口;一个或一个以上输入输出接口504,输入输出接口504可以用于连接显示器、鼠标、键盘、触摸屏设备或传感设备等,输入输出接口504为可选部件,可以存在也可以不存在,此处不做限定。
本实施例中报文转发设备500中的处理器501所执行的流程可以参考前述方法实施例中描述的方法流程,此处不加赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上所述,以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。
Claims (18)
1.一种数据流的分类方法,其特征在于,应用于内部网络和互联网之间的报文转发设备,包括:
报文转发设备获取多条数据流,并提取所述多条数据流中每条数据流的地址信息和时间信息,所述多条数据流是多个客户端设备分别访问多个服务产生的数据流,所述服务用于实现应用的子功能,所述地址信息包括源IP地址、源端口号、目的IP地址和目的端口号;
所述报文转发设备根据所述每条数据流的源IP地址,从所述多条数据流中筛选出第一客户端设备访问多个服务产生的数据流集合,所述第一客户端设备是所述多个客户端设备中被分配使用第一IP地址的客户端设备;
所述报文转发设备根据所述数据流集合中每条数据流的目的IP地址和目的端口号,确定所述第一客户端设备访问的服务集合,所述服务集合包括第一服务和第二服务,所述第一服务对应的目的IP地址和目的端口号的组合与所述第二服务对应的目的IP地址和目的端口号的组合不同;
所述报文转发设备根据所述数据流集合中每条数据流的时间信息,确定所述服务集合中的各服务之间的相关性;
所述报文转发设备根据所述相关性,确定所述第一服务和所述第二服务用于实现第一应用;
所述报文转发设备确定所述第一服务和所述第二服务对应的数据流为所述第一应用的数据流。
2.根据权利要求1所述的方法,其特征在于,所述时间信息包括:
数据流的开始时刻和/或结束时刻。
3.根据权利要求1所述的方法,其特征在于,所述报文转发设备根据所述相关性,确定所述第一服务和所述第二服务用于实现第一应用包括:
所述报文转发设备根据所述相关性,通过非监督算法进行聚类,确定所述第一服务和所述第二服务用于实现第一应用。
4.根据权利要求3所述的方法,其特征在于,所述聚类的方法包括:谱聚类算法、K-Means聚类算法或DBSCAN密度聚类算法。
5.根据权利要求1至4中任一项所述的方法,其特征在于,所述报文转发设备根据所述数据流集合中每条数据流的时间信息,确定所述服务集合中的各服务之间的相关性,包括:
所述报文转发设备根据所述数据流集合中每条数据流的时间信息,确定第一同现服务集合,所述第一服务和所述第二服务属于所述第一同现服务集合,所述第一同现服务集合中包括至少两个服务、且访问所述至少两个服务产生的数据流的时间信息的间隔时长小于或等于预设的时长;
所述报文转发设备根据所述第一同现服务集合,确定所述第一服务与所述第二服务之间的相关性。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
所述报文转发设备根据所述第一同现服务集合确定所述第一服务和所述第二服务之间的相似度,得到相似度矩阵;
所述报文转发设备根据所述相关性,确定所述第一服务和所述第二服务用于实现第一应用包括:
所述报文转发设备根据所述相似度矩阵确定所述第一服务和所述第二服务用于实现第一应用。
7.根据权利要求6所述的方法,其特征在于,所述报文转发设备根据所述第一同现服务集合确定所述第一服务和所述第二服务之间的相似度包括:
所述报文转发设备根据余弦相似度计算法、交并比计算法或者欧式距离计算法确定所述第一服务和所述第二服务之间的相似度。
8.根据权利要求6或7所述的方法,其特征在于,所述方法还包括:
所述报文转发设备通过图嵌入技术从所述相似度矩阵中提取所述第一服务的第一特征向量和所述第二服务的第二特征向量;
所述报文转发设备根据所述相关性,确定所述第一服务和所述第二服务用于实现第一应用包括:
所述报文转发设备根据所述第一特征向量和所述第二特征向量,确定所述第一服务和所述第二服务用于实现第一应用。
9.根据权利要求1至4、6或7中任一项 所述的方法,其特征在于,所述方法还包括:
所述报文转发设备提取所述多条数据流的DNS特征,所述DNS特征包括所述目的IP地址和目的端口号的组合和域名的对应关系;
根据所述第一应用的数据流的目的地址信息和所述DNS特征,确定所述第一应用的标签,所述标签用于标识所述第一应用。
10.一种报文转发设备,其特征在于,应用于内部网络和互联网之间,包括:
获取单元,用于获取多条数据流,并提取所述多条数据流中每条数据流的地址信息和时间信息,所述多条数据流是多个客户端设备分别访问多个服务产生的数据流,所述服务用于实现应用的子功能,所述地址信息包括源IP地址、源端口号、目的IP地址和目的端口号;
选择单元,用于根据所述每条数据流的源IP地址,从所述多条数据流中筛选出第一客户端设备访问多个服务产生的数据流集合,所述第一客户端设备是所述多个客户端设备中被分配使用第一IP地址的客户端设备;
确定单元,用于根据所述数据流集合中每条数据流的目的IP地址和目的端口号,确定所述第一客户端设备访问的服务集合,所述服务集合包括第一服务和第二服务,所述第一服务对应的目的IP地址和目的端口号的组合与所述第二服务对应的目的IP地址和目的端口号的组合不同;
所述确定单元,还用于根据所述数据流集合中每条数据流的时间信息,确定所述服务集合中的各服务之间的相关性;
所述确定单元,还用于根据所述相关性,确定所述第一服务和所述第二服务用于实现第一应用;
所述确定单元,还用于确定所述第一服务和所述第二服务对应的数据流为所述第一应用的数据流。
11.根据权利要求10所述的设备,其特征在于,所述确定单元具体用于:
根据所述相关性,通过非监督算法进行聚类,确定所述第一服务和所述第二服务用于实现第一应用。
12.根据权利要求10或11所述的设备,其特征在于,所述确定单元具体用于:
根据所述数据流集合中每条数据流的时间信息,确定第一同现服务集合,所述第一服务和所述第二服务属于所述第一同现服务集合,所述第一同现服务集合中包括至少两个服务、且访问所述至少两个服务产生的数据流的时间信息的间隔时长小于或等于预设的时长;
根据所述第一同现服务集合,确定所述第一服务与所述第二服务之间的相关性。
13.根据权利要求12所述的设备,其特征在于,所述确定单元还用于:
根据所述第一同现服务集合确定所述第一服务和所述第二服务之间的相似度,得到相似度矩阵;
所述确定单元具体用于:
根据所述相似度矩阵确定所述第一服务和所述第二服务用于实现第一应用。
14.根据权利要求13所述的设备,其特征在于,所述确定单元具体用于:
根据余弦相似度计算法、交并比计算法或者欧式距离计算法确定所述第一服务和所述第二服务之间的相似度。
15.根据权利要求13或14所述的设备,其特征在于,所述设备还包括:
提取单元,用于通过图嵌入技术从所述相似度矩阵中提取所述第一服务的第一特征向量和所述第二服务的第二特征向量;
所述确定单元具体用于:
根据所述第一特征向量和所述第二特征向量,确定所述第一服务和所述第二服务用于实现第一应用。
16.根据权利要求10、11、13或14中任一项所述的设备,其特征在于,所述设备还包括:
提取单元,用于提取所述多条数据流的DNS特征,所述DNS特征包括所述目的IP地址和目的端口号的组合和域名的对应关系;
所述确定单元还用于根据所述第一应用的数据流的目的地址信息和所述DNS特征,确定所述第一应用的标签,所述标签用于标识所述第一应用。
17.一种报文转发设备,其特征在于,包括:
处理器和网络接口;
所述网络接口用于收发数据;
所述处理器用于执行如权利要求1至9中任一项所述的方法。
18.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储指令,当所述指令在计算机上运行时,使得所述计算机执行如权利要求1至9中任一项所述的方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910399861.4A CN111953552B (zh) | 2019-05-14 | 2019-05-14 | 数据流的分类方法和报文转发设备 |
EP20805486.6A EP3905597B1 (en) | 2019-05-14 | 2020-04-28 | Data stream classification method and message forwarding device |
PCT/CN2020/087363 WO2020228527A1 (zh) | 2019-05-14 | 2020-04-28 | 数据流的分类方法和报文转发设备 |
US17/468,250 US12003609B2 (en) | 2019-05-14 | 2021-09-07 | Data flow classification method and packet forwarding device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910399861.4A CN111953552B (zh) | 2019-05-14 | 2019-05-14 | 数据流的分类方法和报文转发设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111953552A CN111953552A (zh) | 2020-11-17 |
CN111953552B true CN111953552B (zh) | 2022-12-13 |
Family
ID=73290134
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910399861.4A Active CN111953552B (zh) | 2019-05-14 | 2019-05-14 | 数据流的分类方法和报文转发设备 |
Country Status (4)
Country | Link |
---|---|
US (1) | US12003609B2 (zh) |
EP (1) | EP3905597B1 (zh) |
CN (1) | CN111953552B (zh) |
WO (1) | WO2020228527A1 (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114697271A (zh) * | 2020-12-31 | 2022-07-01 | 华为技术有限公司 | 确定数据流标签的方法、装置以及相关设备 |
CN114710388B (zh) * | 2022-03-25 | 2024-01-23 | 江苏科技大学 | 一种校园网安全系统及网络监护系统 |
US11675873B1 (en) * | 2022-06-28 | 2023-06-13 | Lemon Inc. | Website similarity determination |
CN115333955B (zh) * | 2022-08-11 | 2023-06-02 | 武汉烽火技术服务有限公司 | 一种多层端口缓存的管理方法和装置 |
CN116668405B (zh) * | 2023-07-25 | 2023-09-29 | 明阳时创(北京)科技有限公司 | 一种多服务消息通知机制实现方法、系统、介质及设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103051725A (zh) * | 2012-12-31 | 2013-04-17 | 华为技术有限公司 | 应用识别方法、数据挖掘方法、装置及系统 |
CN103297270A (zh) * | 2013-05-24 | 2013-09-11 | 华为技术有限公司 | 应用类型识别方法及网络设备 |
CN107181724A (zh) * | 2016-03-11 | 2017-09-19 | 华为技术有限公司 | 一种协同流的识别方法、系统以及使用该方法的服务器 |
CN107547437A (zh) * | 2017-05-11 | 2018-01-05 | 新华三信息安全技术有限公司 | 应用识别方法及装置 |
CN109063777A (zh) * | 2018-08-07 | 2018-12-21 | 北京邮电大学 | 网络流量分类方法、装置及实现装置 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU2004201912B2 (en) * | 1999-06-30 | 2006-12-07 | Apptitude Acquisition Corporation | A packet processor |
US7133365B2 (en) * | 2001-11-02 | 2006-11-07 | Internap Network Services Corporation | System and method to provide routing control of information over networks |
US8111707B2 (en) * | 2007-12-20 | 2012-02-07 | Packeteer, Inc. | Compression mechanisms for control plane—data plane processing architectures |
US9003141B2 (en) * | 2011-11-14 | 2015-04-07 | Ca, Inc. | Enhanced software application platform |
US20140321290A1 (en) * | 2013-04-30 | 2014-10-30 | Hewlett-Packard Development Company, L.P. | Management of classification frameworks to identify applications |
FR3016108B1 (fr) * | 2013-12-30 | 2019-06-28 | Taiwan Semiconductor Manufacturing Company, Ltd. | Gestion de la qualite des applications dans un systeme de communication cooperatif |
KR102171348B1 (ko) * | 2014-01-08 | 2020-10-29 | 삼성전자주식회사 | 어플리케이션 검출 방법 및 장치 |
US10796243B2 (en) * | 2014-04-28 | 2020-10-06 | Hewlett Packard Enterprise Development Lp | Network flow classification |
CN103916294B (zh) * | 2014-04-29 | 2018-05-04 | 华为技术有限公司 | 协议类型的识别方法和装置 |
CN107078921A (zh) * | 2014-09-16 | 2017-08-18 | 云端吉尼斯公司 | 用于基于商业意图驱动策略的网络业务表征、监视和控制的方法和系统 |
EP3281363A4 (en) * | 2015-06-12 | 2018-02-21 | Hewlett-Packard Enterprise Development LP | Application identification cache |
CN107864168B (zh) | 2016-09-22 | 2021-05-18 | 华为技术有限公司 | 一种网络数据流分类的方法及系统 |
CN109726735A (zh) * | 2018-11-27 | 2019-05-07 | 南京邮电大学 | 一种基于K-means聚类和随机森林算法的移动应用程序识别方法 |
CN109639481B (zh) | 2018-12-11 | 2020-10-27 | 深圳先进技术研究院 | 一种基于深度学习的网络流量分类方法、系统及电子设备 |
CN109450740A (zh) * | 2018-12-21 | 2019-03-08 | 青岛理工大学 | 一种基于dpi和机器学习算法进行流量分类的sdn控制器 |
-
2019
- 2019-05-14 CN CN201910399861.4A patent/CN111953552B/zh active Active
-
2020
- 2020-04-28 EP EP20805486.6A patent/EP3905597B1/en active Active
- 2020-04-28 WO PCT/CN2020/087363 patent/WO2020228527A1/zh unknown
-
2021
- 2021-09-07 US US17/468,250 patent/US12003609B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103051725A (zh) * | 2012-12-31 | 2013-04-17 | 华为技术有限公司 | 应用识别方法、数据挖掘方法、装置及系统 |
CN103297270A (zh) * | 2013-05-24 | 2013-09-11 | 华为技术有限公司 | 应用类型识别方法及网络设备 |
CN107181724A (zh) * | 2016-03-11 | 2017-09-19 | 华为技术有限公司 | 一种协同流的识别方法、系统以及使用该方法的服务器 |
CN107547437A (zh) * | 2017-05-11 | 2018-01-05 | 新华三信息安全技术有限公司 | 应用识别方法及装置 |
CN109063777A (zh) * | 2018-08-07 | 2018-12-21 | 北京邮电大学 | 网络流量分类方法、装置及实现装置 |
Also Published As
Publication number | Publication date |
---|---|
US12003609B2 (en) | 2024-06-04 |
WO2020228527A1 (zh) | 2020-11-19 |
EP3905597B1 (en) | 2024-02-14 |
EP3905597A1 (en) | 2021-11-03 |
EP3905597A4 (en) | 2022-03-30 |
US20210409334A1 (en) | 2021-12-30 |
CN111953552A (zh) | 2020-11-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111953552B (zh) | 数据流的分类方法和报文转发设备 | |
US7852785B2 (en) | Sampling and analyzing packets in a network | |
Vlăduţu et al. | Internet traffic classification based on flows' statistical properties with machine learning | |
Grimaudo et al. | Select: Self-learning classifier for internet traffic | |
US7804787B2 (en) | Methods and apparatus for analyzing and management of application traffic on networks | |
US7782793B2 (en) | Statistical trace-based methods for real-time traffic classification | |
CN105591973B (zh) | 应用识别方法及装置 | |
US20220174008A1 (en) | System and method for identifying devices behind network address translators | |
US8694630B1 (en) | Self-learning classifier for internet traffic | |
US9813442B2 (en) | Server grouping system | |
US10050892B2 (en) | Method and apparatus for packet classification | |
Kim et al. | ONTAS: Flexible and scalable online network traffic anonymization system | |
US7907543B2 (en) | Apparatus and method for classifying network packet data | |
Foremski et al. | DNS‐Class: immediate classification of IP flows using DNS | |
Shim et al. | Application traffic classification using payload size sequence signature | |
US20230164043A1 (en) | Service application detection | |
Liu et al. | Semi-supervised encrypted traffic classification using composite features set | |
CN108141377B (zh) | 网络流早期分类 | |
US20170324634A1 (en) | Monitoring network traffic to determine similar content | |
Rana et al. | Automated fast-flux detection using machine learning and genetic algorithms | |
Oudah et al. | Using burstiness for network applications classification | |
Wakabayashi et al. | Traffic-aware access control list reconstruction | |
Vandana et al. | Self learning network traffic classification | |
RU181257U1 (ru) | Межсетевой экран на основе кластеризации данных | |
CN108347447A (zh) | 基于周期性通讯行为分析的p2p僵尸网络检测方法、系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |