CN109754021B - 基于范围元组搜索的在线包分类方法 - Google Patents
基于范围元组搜索的在线包分类方法 Download PDFInfo
- Publication number
- CN109754021B CN109754021B CN201910026522.1A CN201910026522A CN109754021B CN 109754021 B CN109754021 B CN 109754021B CN 201910026522 A CN201910026522 A CN 201910026522A CN 109754021 B CN109754021 B CN 109754021B
- Authority
- CN
- China
- Prior art keywords
- range
- rule
- dimension
- rules
- classification
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种基于范围元组搜索的在线包分类方法,包括数据结构构建方法、数据包分类查找方法和分类规则更新方法;本发明利用哈希函数保证了规则更新常数级的时间复杂度,实现了分类规则的快速更新;本发明将规则映射到少量范围元组上,在保证规则更新速度的同时大大提高了数据包的分类速度;本发明能够很好的将数据结构存储于片上存储器中,从而减少片内存储内容的切换,提高方法的性能。
Description
技术领域
本发明涉及数据包分类技术,特别是一种基于范围元组搜索的在线包分类方法。
背景技术
包分类是交换机、路由器和其他网络设备中用于支持安全性、QoS和高级功能的基本操作之一,其中数据包在分类器中根据多字段规则集进行匹配。在传统的网络应用中,规则保持相对静态。因此,离线构建的分类器通常拥有设计精良的数据结构,这类分类器可以实现高效的数据包分类,且由于规则更新不频繁,分类器可以离线构建。
软件定义网络(SDN)的出现为网络创新提供了巨大的机会,以使网络支持新的特性和增值功能。这些功能包括流量工程、网络功能虚拟化(NFV)和高性能云计算的支持。然而,这些新功能除了依赖于基本的快速包分类外,还依赖于分类器中规则的动态更新能力。一方面,网络应用必须对大量的用户和请求进行即时响应,使得分类器规则必须频繁更新,以满足不同的需求。另一方面,网络功能的常规迁移或变更总是会改变拓扑结构和策略,从而分类器的规则必定会有相应的更新。因此,快速的规则更新对于当前的分类器是绝对必要且有意义的。
尽管包分类非常重要,并且已经吸引了很多研究者的关注,但是现有的算法往往不能同时满足上述两个要求,即快速包分类的同时支持快速规则更新。基于决策树的算法,如HyperCuts、EffiCuts和SmartSplit,都能实现快速的包分类,但不能实现快速的规则更新。基于哈希的算法,如在Open vSwitch(OVS)中使用的元组空间搜索(TSS),可以实现快速更新规则但不能实现高速包分类。PartitionSort(PS)和TupleMerge(TM)可以提升包分类的速度但都牺牲了规则更新的性能。同时实现快速的包分类和规则更新是满足先进的网络管理和高性能云计算的新需求和基本挑战之一。
现有的高性能数据包分类方法由于复杂的数据结构,不利于分类规则的快速更新,从而无法满足当前大量网络应用在线频繁更新策略或规则的需求。
现有的支持规则快速分类的数据包分类方法,虽然可以提供分类规则的在线更新,但是其数据包分类速度达不到大部分网络功能的需求。
包分类模块通常会被部署在FPGA、TCAM或其它专用芯片上。而这类芯片的片上存储器大小往往比较小。现有包分类方法所设计的数据结构占有较大的运行内存,或者运行内存非常不稳定(随规则的种类有较大波动)。
发明内容
本发明所要解决的技术问题是,针对现有技术不足,提供一种基于范围元组搜索的在线包分类方法,实现分类规则的快速更新,在保证规则更新速度的同时大大提高数据包的分类速度。
为解决上述技术问题,本发明所采用的技术方案是:一种基于范围元组搜索的在线包分类方法,包括数据结构构建方法、数据包分类查找方法和分类规则更新方法;-
所述数据结构构建方法包含以下步骤:
1)按照规则的每个维度,分别计算随着某一维度字段长度的增长规则数量的累计分布曲线;并根据该曲线斜率定位聚类点;-
2)连接每个维度中相邻的聚类点,相邻的连接聚类点称为一个小范围;若某一聚类点没有相邻的聚类点,则该聚类点自身称为一个小范围;
3)合并每个维度中相邻的两个小范围;
4)向后对齐合并后的小范围成为一个范围,确保所有范围的并集覆盖规则集中所有的规则;
5)根据每个维度划分的范围,组成若干个范围元组,所述范围元组满足:a)所有范围元组无交集,b)所有范围元组合并能覆盖整个规则集的空间范围;
每个范围元组对应一个哈希表,用于存储映射其中的规则;
所述数据包分类查找方法包含以下步骤:
1)根据匹配规则,在每个维度抽取数据包头信息;
2)将上述信息在每个哈希表中进行哈希查找;
3)比较所有匹配规则的优先级,选取优先级最高的规则,对数据包执行相应操作;
所述分类规则更新方法包含以下步骤:
1)根据待更新规则的每一维度的长度确定该待更新规则所属的哈希表;
2)在该哈希表中更新该待更新规则。
向后对齐合并后的小范围成为一个范围的方法为:如果两个小范围之间的间隔差距不超过D,并且合并后范围跨度小于S,则合并该两个小范围。
与现有技术相比,本发明所具有的有益效果为:
1)本发明利用哈希函数保证了规则更新常数级的时间复杂度,实现了分类规则的快速更新;
2)本发明将规则映射到少量范围元组上,在保证规则更新速度的同时大大提高了数据包的分类速度;
3)本发明能够很好的将数据结构存储于片上存储器中,从而减少片内存储内容的切换,提高方法的性能。
附图说明
图1为本发明范围元组划分流程图;
图2为本发明包分类流程图;
图3为本发明规则更新流程图;
图4(a)为与表1中的规则相对应的长度元组;图4(b)为范围元组划分图;
图5为规则中源地址和目的地址前缀长度的累计分布函数。
具体实施方式
范围元组是一种特殊的元组,其每个元素代表的是规则相应字段的长度范围。相较于TSS中的元组(a,b,c,…)中每个元组代表的是相应字段的比特长度,本发明中的范围元组(A,B,C,…)中的每个元素则是代表了一个长度范围。每一个范围元组对应一个哈希表,哈希表存储该范围元组能覆盖的所有规则。为了用哈希函数来索引规则,每一个哈希表都需要规定其哈希键的长度。一种自然的方法是连接规则所有的匹配域作为哈希键。然而,不同的规则可能对应于不同长度的匹配字段,而实际中一个哈希表中的规则需要相同长度的哈希键。为了解决这个问题,本发明进一步引入了基元组的概念。更具体地说,对于范围元组中的每个范围,选择其下界作为基元组的分量,用于限制连接哈希键时相应字段所截取的长度。因此,当每个哈希表与一个范围元组相关联时,它必定也与一个基元组相关联,而该基元组实际上就是该范围元组包含的规则长度的下界。
为了实现快速的包分类。首先我们将规则集映射到范围元组,因此需要先将规则集划分为少量范围元组(步骤见图1所示),并将规则存储在范围元组对应的哈希表中。
建了数据结构之后,就可以用来进行分类数据包了(具体步骤见图2所示)。在分类过程中,可能会存在需要更新的规则,包括增加规则或删除规则(具体更新规则的步骤见图3所示)。
图2中,当接收到数据包时,分类器需要搜索每个哈希表以找到最佳匹配规则。一个数据包可能与多个规则相匹配,此时就需要根据规则的优先级来确定最终的匹配规则。在初始化时,每一个哈希表都会设置一个优先级为0的傀儡规则。作为基本方案,所有的范围元组哈希表按照顺序被搜索,并记录具有最高优先级的匹配规则。在搜索完所有哈希表之后,分类模块要么返回具有最高优先级的匹配规则,要么报告没有匹配规则。
图3中,当更新分类规则时,首先根据待删除或插入的规则确定其映射到的哈希表。然后,计算根据连接成的哈希键计算其哈希值,找到规则应该删除或插入的相应位置,并删除或插入该规则。
虽然使用哈希函数进行包分类非常有效,但不同优先级的多个匹配规则的存在以及规则重叠和哈希冲突会严重影响性能。为了进一步提高分类性能,本发明提出了两种优先级排序的优化方法:(1)哈希表优先级排序。首先定义哈希表的优先级为哈希表中包含规则的最高优先级。其次,根据哈希表的优先级从高到低的顺序,对哈希表进行排序。在这种顺序下,一旦数据包找到优先级不小于下一个哈希表优先级的匹配规则时,接下去的搜索就没有意义,对于数据包的分类过程也可以终止。当两个哈希表具有相同的优先级时,则根据它们的基元组的模从大到小排序。具有较大模的基元组的哈希表具有高优先级的规则一般更多,因为其规则具有相对较长的前缀。(2)重叠规则优先级排序。由于哈希冲突或规则重叠,一个哈希值可能对应于多个规则。为了减少进一步验证的时间,在规则插入期间根据重叠规则或冲突规则的优先级将规则从高优先级到低优先级排序。在不需要检查所有重叠规则的情况下,一旦找到匹配规则,验证就可以立即停止。
将完整的规则集划分为多个范围元组空间,那么这些范围元组空间需要满足两个条件:1)所有范围元组空间的并集必须覆盖所有匹配规则,任何规则都可以映射到某个范围元组空间里;2)每个范围元组两两互不相交,使得每个规则只能映射到一个范围元组空间里。本发明的划分策略遵循如下原则:1)范围元组的数量应该尽可能少,2)哈希表中重叠规则的数量应该尽可能少,3)映射到范围元组的规则的各字段长度应尽可能接近其相应的基元组。
本发明的划分策略,首先把规则按照每一个维度进行投影,在每一个维度上依据规则的分布进行单维的范围划分。每一个维度的划分主要有如下几个步骤组成:1)定位聚类点,2)连接相邻聚类点,3)合并临近小范围,4)对齐范围。
表1为一个样例规则集(分类器)。该样例分类器包含10个规则,每个规则由四个字段组成。其中源地址和目的地址是匹配域,假设每个字段的最大长度为5比特。优先级字段在数据包与多个规则匹配时给出选择的标准,而指令字段是规定匹配该规则后需要执行的操作。对于包分类,即是将数据包头域与规则匹配域匹配并执行相应指令的过程。在这个样例分类器中,每个规则只有两个匹配域(源地址与目的地址)用于与传入数据包的匹配。
表1样例分类器
图4(a)中绘制了与表1中的规则相对应的长度元组,每个长度元组都可以用一个点来表示。假设将范围元组划分为图4(b)所示,并用灰色矩形表示,每一个范围元组对应一个哈希表,哈希表存储该范围元组能覆盖的所有规则。范围向量对应的哈希表信息如表2所示。
表2样例分类器的范围元组及包含的规则
以源地址和目的地址为例,观察规则匹配字段前缀长度组合的分布情况。图5是一个样例分布,根据图5,源地址字段可以得到如下范围划分。
首先把规则按照每一个维度进行投影,在每一个维度上依据规则的分布进行单维的范围划分。还是以源地址和目的地址字段为例,首先将规则投影到源地址字段,然后沿着源地址维度划分范围向量。在目的地址维度也是同样操作,先投影,再沿着目的地址维度划分范围向量。每一个维度的划分主要有如下几个步骤组成。
1)定位聚类点。所谓聚类点,就是大多数规则在该维度上长度的投影点。为此,本策略计算该维度对应的累计分布函数在每个可能的前缀长度处的导数,然后选择导数值大于平均斜率(连接开始点和结束点的直线的斜率)的整数点。这些点代表的是在该维度上,以该数值为长度的字段前缀对应的规则很多。换言之,规则集中的规则在该维度上的投影主要集中在这几个点。以图5中的源地址为例,这些聚类点有12、14、15、16、17、23、24、25、26、30、31和32。
2)连接相邻聚类点。连接相邻的聚类点称为一个小范围,如果某个聚类点没有相邻的其它聚类点,那么它自成一个小范围。此处,还需要添加一个最小长度的范围,以覆盖所有规则(根据规则集而定)。在本例子中,这些聚类点可以连接为如下小范围[12,12]、[14,17]、[23,26]、[30,32]和最小长度范围[0,0]。
3)合并临近小范围。合并两个相邻范围,如果它们之间的间隔差距不超过D并且合并后其范围跨度小于S。这些限制条件的目的是为了限制规则重叠的数量过高。在本例中,策略设置D=2以确保两个小范围尽可能接近,设置S=8为了确保规则之间的重叠数量尽量少。更多标准可以被引入来用于设置这些参数。因此,根据本例的参数设置,可以得到合并后的范围[0,0]、[12,17]、[23,26]和[30,32]。
4)对齐范围。对齐范围以确保整个范围空间能够包含规则集中所有的规则。在本例中,在对齐范围后得到最终的在该维度上的范围划分为[0,11]、[12,22]、[23,29]和[30,32]。
Claims (3)
1.一种基于范围元组搜索的在线包分类方法,其特征在于,包括数据结构构建方法、数据包分类查找方法和分类规则更新方法;
所述数据结构构建方法包含以下步骤:
1)按照规则的每个维度,分别计算随着某一维度字段长度的增长规则数量的累计分布曲线;并根据该曲线斜率定位聚类点;
2)连接每个维度中相邻的聚类点,相邻的连接聚类点称为一个小范围;若某一聚类点没有相邻的聚类点,则该聚类点自身称为一个小范围;
3)合并每个维度中相邻的两个小范围;
4)向后对齐合并后的小范围成为一个范围,确保所有范围的并集覆盖规则集中所有的规则;
5)根据每个维度划分的范围,组成若干个范围元组,所述范围元组满足:a)所有范围元组无交集,b)所有范围元组合并能覆盖整个规则集的空间范围;
每个范围元组对应一个哈希表,用于存储映射其中的规则;
所述数据包分类查找方法包含以下步骤:
1)根据匹配规则,在每个维度抽取数据包头信息;
2)将上述信息在每个哈希表中进行哈希查找;
3)比较所有匹配规则的优先级,选取优先级最高的规则,对数据包执行相应操作;
所述分类规则更新方法包含以下步骤:
1)根据待更新规则的每一维度的长度确定该待更新规则所属的哈希表;
2)在该哈希表中更新该待更新规则。
2.根据权利要求1所述的基于范围元组搜索的在线包分类方法,其特征在于,向后对齐合并后的小范围成为一个范围的方法为:如果两个小范围之间的间隔差距不超过D,并且合并后范围跨度小于S,则合并该两个小范围。
3.根据权利要求2所述的基于范围元组搜索的在线包分类方法,其特征在于,D=2;S=8。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910026522.1A CN109754021B (zh) | 2019-01-11 | 2019-01-11 | 基于范围元组搜索的在线包分类方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910026522.1A CN109754021B (zh) | 2019-01-11 | 2019-01-11 | 基于范围元组搜索的在线包分类方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109754021A CN109754021A (zh) | 2019-05-14 |
CN109754021B true CN109754021B (zh) | 2022-03-18 |
Family
ID=66405545
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910026522.1A Active CN109754021B (zh) | 2019-01-11 | 2019-01-11 | 基于范围元组搜索的在线包分类方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109754021B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111026917B (zh) * | 2019-11-07 | 2021-07-20 | 中国科学院计算技术研究所 | 一种基于卷积神经网络的数据包分类方法及系统 |
CN115136562A (zh) * | 2020-02-11 | 2022-09-30 | 哲库科技有限公司 | 硬件实现的表以及使用该表对数据包进行分类和冲突解决的方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101309216A (zh) * | 2008-07-03 | 2008-11-19 | 中国科学院计算技术研究所 | 一种ip包分类方法和设备 |
CN103746919A (zh) * | 2014-01-14 | 2014-04-23 | 浪潮电子信息产业股份有限公司 | 一种结合多路决策树和哈希表进行网络包快速分类的方法 |
CN104462144A (zh) * | 2013-09-24 | 2015-03-25 | 中兴通讯股份有限公司 | 一种包分类规则的查找方法及装置 |
CN106709145A (zh) * | 2016-11-23 | 2017-05-24 | 清华大学 | 大规模空间碎片分布状态数值演化的并行计算方法 |
CN107888494A (zh) * | 2017-11-29 | 2018-04-06 | 湖南大学 | 一种基于社区发现的包分类方法及系统 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7180895B2 (en) * | 2001-12-31 | 2007-02-20 | 3Com Corporation | System and method for classifying network packets with packet content |
US7738454B1 (en) * | 2008-09-30 | 2010-06-15 | Juniper Networks, Inc. | Methods and apparatus related to packet classification based on range values |
-
2019
- 2019-01-11 CN CN201910026522.1A patent/CN109754021B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101309216A (zh) * | 2008-07-03 | 2008-11-19 | 中国科学院计算技术研究所 | 一种ip包分类方法和设备 |
CN104462144A (zh) * | 2013-09-24 | 2015-03-25 | 中兴通讯股份有限公司 | 一种包分类规则的查找方法及装置 |
CN103746919A (zh) * | 2014-01-14 | 2014-04-23 | 浪潮电子信息产业股份有限公司 | 一种结合多路决策树和哈希表进行网络包快速分类的方法 |
CN106709145A (zh) * | 2016-11-23 | 2017-05-24 | 清华大学 | 大规模空间碎片分布状态数值演化的并行计算方法 |
CN107888494A (zh) * | 2017-11-29 | 2018-04-06 | 湖南大学 | 一种基于社区发现的包分类方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN109754021A (zh) | 2019-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7525958B2 (en) | Apparatus and method for two-stage packet classification using most specific filter matching and transport level sharing | |
US6775737B1 (en) | Method and apparatus for allocating and using range identifiers as input values to content-addressable memories | |
CN107800631B (zh) | 使用ram中的散列表的tcam规则的有效匹配的方法和装置 | |
US9269411B2 (en) | Organizing data in a hybrid memory for search operations | |
EP1623347B1 (en) | Comparison tree data structures and lookup operations | |
US7592935B2 (en) | Information retrieval architecture for packet classification | |
US20070171911A1 (en) | Routing system and method for managing rule entry thereof | |
Li et al. | Tuple space assisted packet classification with high performance on both search and update | |
CN104579941A (zh) | 一种OpenFlow交换机中的报文分类方法 | |
CN100385880C (zh) | 分组分类装置和使用字段级特里结构的方法 | |
Meiners et al. | Hardware based packet classification for high speed internet routers | |
US20080133494A1 (en) | Method and apparatus for searching forwarding table | |
Gupta et al. | Dynamic algorithms with worst-case performance for packet classification | |
CN109754021B (zh) | 基于范围元组搜索的在线包分类方法 | |
CN110858823A (zh) | 一种数据包的分类方法、装置及计算机可读存储介质 | |
Pao et al. | A multi-pipeline architecture for high-speed packet classification | |
KR100965552B1 (ko) | 영역분할을 이용한 패킷 분류 테이블 생성 방법 및 패킷분류 방법과 장치 | |
CN100472427C (zh) | 一种数据包递归流分类方法 | |
EP1533956A2 (en) | Dynamic forwarding of data packets using binary search | |
Lim et al. | Two-dimensional packet classification algorithm using a quad-tree | |
Hsieh et al. | A classified multisuffix trie for IP lookup and update | |
CN110995876B (zh) | 一种ip存储与查找的方法及装置 | |
Wang | Scalable packet classification with controlled cross-producting | |
Li et al. | Scalable packet classification using bit vector aggregating and folding | |
Chang | Efficient multidimensional packet classification with fast updates |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |