CN114513466A - 用于负载均衡设备的会话处理方法及装置 - Google Patents

Abstract

本公开涉及一种用于负载均衡设备的会话处理方法、装置、电子设备及计算机可读介质。该方法包括：负载均衡设备基于多线程获取多个会话请求；基于所述多个会话请求生成多个会话特征；多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配；未匹配成功的线程逐一根据会话特征更新所述会话保持表；根据更新后的会话保持表将会话请求转发到目标服务器进行处理。本申请涉及的用于负载均衡设备的会话处理方法、装置、电子设备及计算机可读介质，能够优化负载均衡表中会话保持表的处理流程，提升负载均衡设备的处理效率，保证处理稳定性。

Description

用于负载均衡设备的会话处理方法及装置

技术领域

本申请涉及计算机信息处理领域，具体而言，涉及一种用于负载均衡设备的会话处理方法、装置、电子设备及计算机可读介质。

背景技术

会话保持是指在负载均衡器上有一种机制，在作负载均衡的同时，还保证同一用户相关连的访问请求会被分配到同一台服务器上。在当前的负载均衡设备中，大多数会话保持功能的原理是根据所设定的特征值去匹配生成的会话保持表，如果会话保持标中含有该特征值的表项，便可以根据该表项中储存的真实服务等信息将流量调度到对应的真实服务上去。如果不存在含有该特征值的表项，负载均衡设备便会创建一个含有该特征值得会话保持表项并添加到会话保持表中，如源IP会话保持，hasn会话保持，sip会话保持等大多数会话保持功能都是这样的实现机制。

现有技术中，在一个会话匹配会话保持表项的过程需要添加一个写锁，在该写锁中进行会话保持表表项匹配和添加会话保持表项，现有的方案不担心会出现并发添加时多个线程添加会话保持表项导致的数据混乱等现象。

但是，添加写锁必然会导致程序的整体性能下降，在添加写锁的这一段时间只有一个线程可以进行写操作，其他线程读处于阻塞状态，这样对于效率有很大损耗，尤其当有多个线程大量流量走会话保持流程的时候更是如此。

因此，需要一种新的用于负载均衡设备的会话处理方法、装置、电子设备及计算机可读介质。

在所述背景技术部分公开的上述信息仅用于加强对本申请的背景的理解，因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

有鉴于此，本申请提供一种用于负载均衡设备的会话处理方法、装置、电子设备及计算机可读介质，能够优化负载均衡表中会话保持表的处理流程，提升负载均衡设备的处理效率，保证处理稳定性。

本申请的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本申请的实践而习得。

根据本申请的一方面，提出一种用于负载均衡设备的会话处理方法，该方法包括：负载均衡设备基于多线程获取多个会话请求；基于所述多个会话请求生成多个会话特征；多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配；未匹配成功的线程逐一根据会话特征更新所述会话保持表；根据更新后的会话保持表将会话请求转发到目标服务器进行处理。

在本申请的一种示例性实施例中，还包括：匹配成功的线程基于匹配结果将会话请求转发到目标服务器进行处理；匹配成功的线程释放会话保持表的读锁。

在本申请的一种示例性实施例中，基于所述多个会话请求生成多个会话特征，包括：所述负载均衡设备中的会话保持流程根据会话保持种类和匹配信息由所述多个会话请求中分别提取会话特征。

在本申请的一种示例性实施例中，多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配，包括：为所述会话保持表添加读锁；多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配。

在本申请的一种示例性实施例中，多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配，包括：将会话保持表分为多个匹配区间；基于所述会话特征值对应的哈希值确定目标匹配区间；在所述目标区间进行匹配。

在本申请的一种示例性实施例中，未匹配成功的线程逐一根据会话特征更新所述会话保持表，包括：未匹配成功的线程逐一根据会话特征生成会话保持节点；将会话保持节点更新到所述会话保持表。

在本申请的一种示例性实施例中，未匹配成功的线程逐一根据会话特征生成会话保持节点，包括：在写锁计数为0时，为所述会话保持表添加读锁；根据会话特征生成哈希值；基于所述哈希值生成所述会话保持节点。

在本申请的一种示例性实施例中，将会话保持节点更新到所述会话保持表，包括：释放所述会话保持表的读锁；为所述会话保持表添加写锁；在所述会话保持表中创建会话保持节点；释放所述会话保持表的写锁。

在本申请的一种示例性实施例中，未匹配成功的线程逐一根据会话特征生成会话保持节点，还包括：在写锁计数不为0时，在当前写锁流程执行完后，为所述会话保持表添加写锁；根据会话特征生成哈希值；基于所述哈希值生成所述会话保持节点。

在本申请的一种示例性实施例中，将会话保持节点更新到所述会话保持表，包括：在所述会话保持表中创建会话保持节点；释放所述会话保持表的写锁。

根据本申请的一方面，提出一种用于负载均衡设备的会话处理装置，该装置包括：请求模块，用于负载均衡设备基于多线程获取多个会话请求；特征模块，用于基于所述多个会话请求生成多个会话特征；匹配模块，用于多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配；更新模块，用于未匹配成功的线程逐一根据会话特征更新所述会话保持表；转发模块，用于根据更新后的会话保持表将会话请求转发到目标服务器进行处理。

根据本申请的一方面，提出一种电子设备，该电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如上文的方法。

根据本申请的一方面，提出一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如上文中的方法。

根据本申请的用于负载均衡设备的会话处理方法、装置、电子设备及计算机可读介质，通过负载均衡设备基于多线程获取多个会话请求；基于所述多个会话请求生成多个会话特征；多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配；未匹配成功的线程逐一根据会话特征更新所述会话保持表；根据更新后的会话保持表将会话请求转发到目标服务器进行处理的方式，能够优化负载均衡表中会话保持表的处理流程，提升负载均衡设备的处理效率，保证处理稳定性。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性的，并不能限制本申请。

附图说明

通过参照附图详细描述其示例实施例，本申请的上述和其它目标、特征及优点将变得更加显而易见。下面描述的附图仅仅是本申请的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是根据一示例性实施例示出的一种用于负载均衡设备的会话处理方法及装置的系统框图。

图2是根据一示例性实施例示出的一种用于负载均衡设备的会话处理方法的流程图。

图3是根据另一示例性实施例示出的一种用于负载均衡设备的会话处理方法的流程图。

图4是根据另一示例性实施例示出的一种用于负载均衡设备的会话处理方法的流程图。

图5是根据一示例性实施例示出的一种用于负载均衡设备的会话处理装置的框图。

图6是根据一示例性实施例示出的一种电子设备的框图。

图7是根据一示例性实施例示出的一种计算机可读介质的框图。

具体实施方式

现在将参考附图更全面地描述示例实施例。然而，示例实施例能够以多种形式实施，且不应被理解为限于在此阐述的实施例；相反，提供这些实施例使得本申请将全面和完整，并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本申请的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本申请的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本申请的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

应理解，虽然本文中可能使用术语第一、第二、第三等来描述各种组件，但这些组件不应受这些术语限制。这些术语乃用以区分一组件与另一组件。因此，下文论述的第一组件可称为第二组件而不偏离本申请概念的教示。如本文中所使用，术语“及/或”包括相关联的列出项目中的任一个及一或多者的所有组合。

本领域技术人员可以理解，附图只是示例实施例的示意图，附图中的模块或流程并不一定是实施本申请所必须的，因此不能用于限制本申请的保护范围。

本申请涉及的技术缩略语解释如下：

会话保持，是指在负载均衡器上的一种机制，可以识别客户端与服务器之间交互过程的关连性，在作负载均衡的同时还保证一系列相关连的访问请求都会分配到一台机器上。简而言之：在一次会话过程中发起的多个请求都会落到同一台机器上。

读写锁，读写锁有3个特征:

1.当读写锁是写加锁状态时，在这个锁被解锁之前，所有试图对这个锁加锁的线程都会被阻塞。

2.当读写锁在读加锁状态时，再以读模式对它加锁的线程都能得到访问权，但以写模式加锁的线程将会被阻塞。

3.当读写锁在读加锁状态时，如果有线程试图以写模式加锁，读写锁通常会阻塞随后的读模式加锁。

hash算法是通过一个hash函数，将一段数据(也包括字符串、较大的数字等)转化为能够用变量表示或是直接就可作为数组下标的数字，这样转化后的数值我们称之为hash值，也就是算出一个数来代表一个字符串。可以通过hash值从而实现很快地查找和匹配，

在现有技术中，在会话经过负载均衡设备时，如果开启了会话保持流程，设备会根据所开启的会话保持种类和所配置的特征值从会话中获取相应的信息作为特征值。这些都被视作该会话的一个名片，如果还有会话携带了相同的名片，便可以视为带有相同的特征值。

设备在获取了会话的特征值后便会去查找会话保持表，这个表中含有会话保持表项，这些表项中含有特征值，真实服务等信息，设备会用会话中的特征值去匹配会话保持表项，如果匹配成了，会话保持表中含有该特征值的表项，设备便将该会话按照表项中的真实服务信息将会话发到对应的真实服务中；如果会话保持表中没有找到该特征值对应的会话保持表项，设备会根据调度算法将该会话发到一个真实服务中，并根据特征值，发到的这个真实服务等信息新建一个会话保持表项，等下一次会话来的时候便能够匹配到该表项了。

本申请的发明人认为，单一会话流程如上述步骤处理是没有问题的，但是，当大量的会话同一时间访问设备的时候，就必须要考虑并行性的问题，会话保持表是一个公有资源，所有线程操作的都是同一个会话保持表，如果某一个线程在匹配表项的时候另一个线程在创建会话保持表项，或者一个线程在创建会话保持表项的同时另一个线程也在用同一个特征值创建会话保持表项，都会出现混乱。

为了应对现有技术中的这种情况，在本申请的用于负载均衡设备的会话处理方法中，引入读写锁进行并行处理，在本申请中，为会话保持表添加读写锁，并对会话保持表建立表项匹配表项流程的优化，下面借助具体的实施例对本申请的内容进行详细描述。

图1是根据一示例性实施例示出的一种用于负载均衡设备的会话处理方法、装置的系统框图。

如图1所示，系统架构10可以包括终端设备101、102、103，网络104和负载均衡设备105、应用服务器106、107、108。网络104用以在终端设备101、102、103和负载均衡设备105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104、负载均衡设备105与远端的应用服务器106、107、108交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

应用服务器106、107、108可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的购物类网站提供支持的后台管理服务器。

负载均衡设备105可例如基于多线程获取来自终端设备101、102、103的多个会话请求；负载均衡设备105可例如基于所述多个会话请求生成多个会话特征；负载均衡设备105中的多线程可例如并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配；负载均衡设备105未匹配成功的线程可例如逐一根据会话特征更新所述会话保持表；负载均衡设备105可例如根据更新后的会话保持表将会话请求转发到目标服务器进行处理；负载均衡设备105中匹配成功的线程可例如基于匹配结果将会话请求转发到目标服务器进行处理；负载均衡设备105中匹配成功的线程可例如释放会话保持表的读锁。

负载均衡设备105可以是一个实体的服务器，还可例如为多个服务器组成，需要说明的是，本申请实施例所提供的用于负载均衡设备的会话处理方法可以由负载均衡设备105执行，相应地，用于负载均衡设备的会话处理装置可以设置于负载均衡设备105中。而提供给用户进行商品浏览的网页端一般位于终端设备101、102、103中，为所述用户的会话请求生成返回信息的信息处理端一般位于应用服务器106、107、108。

图2是根据一示例性实施例示出的一种用于负载均衡设备的会话处理方法的流程图。用于负载均衡设备的会话处理方法20至少包括步骤S202至S210。

如图2所示，在S202中，负载均衡设备基于多线程获取多个会话请求。

在S204中，基于所述多个会话请求生成多个会话特征。可例如，所述负载均衡设备中的会话保持流程根据会话保持种类和匹配信息由所述多个会话请求中分别提取会话特征。

在S206中，多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配。可例如，为所述会话保持表添加读锁；多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配。

更具体的，可将会话保持表分为多个匹配区间；基于所述会话特征值对应的哈希值确定目标匹配区间；在所述目标区间进行匹配。

在S208中，未匹配成功的线程逐一根据会话特征更新所述会话保持表，并根据更新后的会话保持表将会话请求转发到目标服务器进行处理。

在一个实施例中，未匹配成功的线程逐一根据会话特征生成会话保持节点；将会话保持节点更新到所述会话保持表。

在一个实施例中，在写锁计数为0时，为所述会话保持表添加读锁；根据会话特征生成哈希值；基于所述哈希值生成所述会话保持节点。释放所述会话保持表的读锁；为所述会话保持表添加写锁；在所述会话保持表中创建会话保持节点；释放所述会话保持表的写锁。

在一个实施例中，在写锁计数不为0时，在当前写锁流程执行完后，为所述会话保持表添加写锁；根据会话特征生成哈希值；基于所述哈希值生成所述会话保持节点。在所述会话保持表中创建会话保持节点；释放所述会话保持表的写锁。

在S210中，匹配成功的线程基于匹配结果将会话请求转发到目标服务器进行处理，并释放会话保持表的读锁。

在本申请中，为了优化创建表项时的效率损耗，客户端流量在经过负载均衡设备时首先要根据特征值去匹配会话保持表项，如果匹配到了相应的表项，则按照表项进行调度，如果没有匹配到，则新建一个会话保持表项的表项。

本案申请人从并行性考虑，实现本申请的基本思路是：在多个线程匹配会话保持表表项的时候允许多个线程同时读取表项，但是不允许线程添加表项；但是在多个线程添加会话保持表的表项时，则只允许一个线程进行添加，不允许其他线程去匹配表项。这样的机制非常适合读多写少的场景，在大量会话同时经过负载均衡设备时能够减少会话保持的性能的损耗，且不会出现数据混乱的情况。从提升性能的角度考虑也尽可能的缩短锁的持有时间，以减少线程间互斥的可能.

根据本申请的用于负载均衡设备的会话处理方法，通过负载均衡设备基于多线程获取多个会话请求；基于所述多个会话请求生成多个会话特征；多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配；未匹配成功的线程逐一根据会话特征更新所述会话保持表；根据更新后的会话保持表将会话请求转发到目标服务器进行处理的方式，能够优化负载均衡表中会话保持表的处理流程，提升负载均衡设备的处理效率，保证处理稳定性。

应清楚地理解，本申请描述了如何形成和使用特定示例，但本申请的原理不限于这些示例的任何细节。相反，基于本申请公开的内容的教导，这些原理能够应用于许多其它实施例。

图3是根据另一示例性实施例示出的一种用于负载均衡设备的会话处理方法的流程图。图3所示的流程30是对图2所示的流程中S206“多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配”的详细描述。

如图3所示，在S302中，将会话保持表分为多个匹配区间。

在S304中，基于所述会话特征值对应的哈希值确定目标匹配区间。

在S306中，在所述目标区间进行匹配。

在会话保持表项很多的时候查找表项的速度对该时间的影响是较大的。可以将会话特征值基于hash算法生成一个hash值，将整个会话保持表分成一个个hash格，每一个hash个都是一个链表，查找的时候直接用前面生成的hash值在该hash格中找，这样就比直接从头找快了很多。在写锁流程里面需要匹配会话保持表和创建会话保持表项，挂链等流程，在本申请中，通过缩短写锁流程的时间提升整体处理性能。

图4是根据另一示例性实施例示出的一种用于负载均衡设备的会话处理方法的流程图。图4所示的流程40是对图2所示的流程中的详细描述。

如图4所示，在S401中，是否有其他流程在执行写锁。

在S402中，等写锁执行完，为会话保持表添加写锁。

在S403中，根据会话特征值得到hash值。

在S404中，确定会话保持表中的目标匹配区间并进行匹配。

在S405中，创建会话保持节点。

在S406中，释放写锁。

在S407中，为会话保持表添加读锁。

在S408中，根据会话特征值得到hash值。

在S409中，确定会话保持表中的目标匹配区间并进行匹配。

在S410中，释放读锁。

在S411中，添加写锁。

在S412中，创建会话保持节点。

在S413中，释放写锁。

更具体的，可在创建写锁的流程中将该写锁关联一个引用计数，如果写锁被其他线程占有，则该引用计数不为0，另有线程进入该写锁流程时，先判断该引用计数是否为0。

如果写锁计数不为0，则表示正在有流程在创建会话保持表表项，所以添加写锁，待前一个线程执行完再执行写锁；

如果写锁计数为0，表示没有线程正在添加会话保持表项，所以这时便不再需要添加写锁去匹配会话保持表，改为添加读锁，通过这种方式也可以提高整体处理性能。

在本申请的用于负载均衡设备的会话处理方法中，将会话保持流程分段，在前面查找匹配会话保持表项时获取读锁，匹配后释放读锁，匹配失败创建会话保持表项之前获取写锁，并在写锁中再进行一次会话保持表项查找，以防止并发添加，然后再进行表项的添加，带新建表项挂链成功后释放写锁。

在本申请的用于负载均衡设备的会话处理方法中，引用hash表的概念，使用hash算法用会话特征值生成一hash值，在会话保持表中通过hash值快速查找会话保持表表项，提高会话保持匹配效率；新建表项的时候也是如此，通过特征值生成hash值，并在对应的hash格链表上进行挂链。

在本申请的用于负载均衡设备的会话处理方法中，为写锁中添加引用计数，在没有其他线程获取写锁创建表项的时候可以在创建表项前面那次匹配表项获取读锁而不是写锁，以节省开写锁时间，提升整体性能。

本领域技术人员可以理解实现上述实施例的全部或部分步骤被实现为由CPU执行的计算机程序。在该计算机程序被CPU执行时，执行本申请提供的上述方法所限定的上述功能。所述的程序可以存储于一种计算机可读存储介质中，该存储介质可以是只读存储器，磁盘或光盘等。

此外，需要注意的是，上述附图仅是根据本申请示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。

下述为本申请装置实施例，可以用于执行本申请方法实施例。对于本申请装置实施例中未披露的细节，请参照本申请方法实施例。

图5是根据一示例性实施例示出的一种用于负载均衡设备的会话处理装置的框图。如图5所示，用于负载均衡设备的会话处理装置50包括：请求模块502，特征模块504，匹配模块506，更新模块508，转发模块510。

请求模块502用于负载均衡设备基于多线程获取多个会话请求；

特征模块504用于基于所述多个会话请求生成多个会话特征；所述负载均衡设备中的会话保持流程根据会话保持种类和匹配信息由所述多个会话请求中分别提取会话特征。

匹配模块506用于多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配；匹配模块506还用于为所述会话保持表添加读锁；多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配。

更新模块508用于未匹配成功的线程逐一根据会话特征更新所述会话保持表；未匹配成功的线程逐一根据会话特征生成会话保持节点；将会话保持节点更新到所述会话保持表。

转发模块510用于根据更新后的会话保持表将会话请求转发到目标服务器进行处理。

根据本申请的用于负载均衡设备的会话处理装置，通过负载均衡设备基于多线程获取多个会话请求；基于所述多个会话请求生成多个会话特征；多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配；未匹配成功的线程逐一根据会话特征更新所述会话保持表；根据更新后的会话保持表将会话请求转发到目标服务器进行处理的方式，能够优化负载均衡表中会话保持表的处理流程，提升负载均衡设备的处理效率，保证处理稳定性。

图6是根据一示例性实施例示出的一种电子设备的框图。

下面参照图6来描述根据本申请的这种实施方式的电子设备600。图6显示的电子设备600仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图6所示，电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于：至少一个处理单元610、至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630、显示单元640等。

其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元610执行，使得所述处理单元610执行本说明书中描述的根据本申请各种示例性实施方式的步骤。例如，所述处理单元610可以执行如图2，图3，图4中所示的步骤。

所述存储单元620可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202，还可以进一步包括只读存储单元(ROM)6203。

所述存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204，这样的程序模块6205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线630可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备600也可以与一个或多个外部设备600’(例如键盘、指向设备、蓝牙设备等)通信，使得用户能与该电子设备600交互的设备通信，和/或该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且，电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备600使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，如图7所示，根据本申请实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本申请实施方式的上述方法。

总体而言，本公开是为了优化创建表项时的效率损耗，客户端流量在经过负载均衡设备时首先要根据特征值去匹配会话保持表项，如果匹配到了相应的表项，则按照表项进行调度，如果没有匹配到，则新建一个会话保持表项的表项。所以，从并行性考虑，要实现的思路是在多个线程匹配会话保持表表项的时候允许多个线程同时读取表项，但是不允许线程添加表项；但是在多个线程添加会话保持表的表项时，则只允许一个线程进行添加，不允许其他线程去匹配表项。这样的机制非常适合读多写少的场景，在大量会话同时经过负载均衡设备时能够减少会话保持的性能的损耗，且不会出现数据混乱的情况。从提升性能的角度考虑也尽可能的缩短锁的持有时间，以减少线程间互斥的可能。为此，添加读写锁是对会话保持表建立表项匹配表项流程的优化，在这之前要先了解一下会话保持功能的具体流程。在会话经过负载均衡设备时，如果开启了会话保持流程，设备会根据所开启的会话保持种类和所配置的特征值从会话中获取相应的信息作为特征值。这些都被视作该会话的一个名片，如果还有会话携带了相同的名片，便可以视为带有相同的特征值。设备在获取了会话的特征值后便会去查找会话保持表，这个表中含有会话保持表项，这些表项中含有特征值，真实服务等信息，设备会用会话中的特征值去匹配会话保持表项，如果匹配成了，会话保持表中含有该特征值的表项，设备便将该会话按照表项中的真实服务信息将会话发到对应的真实服务中；如果会话保持表中没有找到该特征值对应的会话保持表项，设备会根据调度算法将该会话发到一个真实服务中，并根据特征值，发到的这个真实服务等信息新建一个会话保持表项，等下一次会话来的时候便能够匹配到该表项了。单一会话流程这样没有问题，如果当大量的会话同一时间访问设备的时候，就必须要考虑并行性的问题，会话保持表是一个公有资源，所有线程操作的都是同一个会话保持表，如果某一个线程在匹配表项的时候另一个线程在创建会话保持表项，或者一个线程在创建会话保持表项的同时另一个线程也在用同一个特征值创建会话保持表项，都会出现混乱，为了应对这种情况，就需要引入如上所述的读写锁进行并行处理。而且，在前面的读写锁的基础上为了提升性能，本公开在创建写锁的流程中将该写锁关联一个引用计数，如果写锁被其他线程占有，则该引用计数不为0，另有线程进入该写锁流程时，先判断该引用计数是否为0，如果不为0，则表示正在有流程在创建会话保持表表项，所以添加写锁，待前一个线程执行完再执行写锁；如果引用计数为0，表示没有线程正在添加会话保持表项，所以这时便不再需要添加写锁去匹配会话保持表，改为添加读锁，这样可以稍微提高性能。进一步，本公开在写锁流程里面需要匹配会话保持表和创建会话保持表项，挂链等流程，缩短写锁流程的时间也是提升性能的一种方案，在会话保持表项很多的时候查找表项的速度对该时间的影响是较大的。可以根据会话特征值根据hash算法生成一个hash值，将整个会话保持表分成一个个hash格，每一个hash个都是一个链表，查找的时候直接用前面生成的hash值在该hash格中找，这样就比直接从头找快了很多。因此本公开将会话保持流程分段，在前面查找匹配会话保持表项时获取读锁，匹配后释放读锁，匹配失败创建会话保持表项之前获取写锁，并在写锁中再进行一次会话保持表项查找，以防止并发添加，然后再进行表项的添加，带新建表项挂链成功后释放写锁。本公开引用hash表的概念，使用hash算法用会话特征值生成一hash值，在会话保持表中通过hash值快速查找会话保持表表项，提高会话保持匹配效率；新建表项的时候也是如此，通过特征值生成hash值，并在对应的hash格链表上进行挂链。此外，本公开写锁中添加引用计数，在没有其他线程获取写锁创建表项的时候可以在创建表项前面那次匹配表项获取读锁而不是写锁，以节省开写锁时间，提升整体性能。

所述软件产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本申请操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该计算机可读介质实现如下功能：负载均衡设备基于多线程获取多个会话请求；基于所述多个会话请求生成多个会话特征；多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配；未匹配成功的线程逐一根据会话特征更新所述会话保持表；根据更新后的会话保持表将会话请求转发到目标服务器进行处理。匹配成功的线程基于匹配结果将会话请求转发到目标服务器进行处理；匹配成功的线程释放会话保持表的读锁。

本领域技术人员可以理解上述各模块可以按照实施例的描述分布于装置中，也可以进行相应变化唯一不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块。

通过以上的实施例的描述，本领域的技术人员易于理解，这里描述的示例实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本申请实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本申请实施例的方法。

以上具体地示出和描述了本申请的示例性实施例。应可理解的是，本申请不限于这里描述的详细结构、设置方式或实现方法；相反，本申请意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。

Claims (11)

1.一种用于负载均衡设备的会话处理方法，其特征在于，包括：

负载均衡设备基于多线程获取多个会话请求；

基于所述多个会话请求生成多个会话特征；

多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配；

未匹配成功的线程逐一根据会话特征更新所述会话保持表；

根据更新后的会话保持表将会话请求转发到目标服务器进行处理。

2.如权利要求1所述的方法，其特征在于，还包括：

匹配成功的线程基于匹配结果将会话请求转发到目标服务器进行处理；

匹配成功的线程释放会话保持表的读锁。

3.如权利要求1所述的方法，其特征在于，基于所述多个会话请求生成多个会话特征，包括：

所述负载均衡设备中的会话保持流程根据会话保持种类和匹配信息由所述多个会话请求中分别提取会话特征。

4.如权利要求1所述的方法，其特征在于，多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配，包括：

为所述会话保持表添加读锁；

多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配。

5.如权利要求4所述的方法，其特征在于，多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配，包括：

将会话保持表分为多个匹配区间；

基于所述会话特征值对应的哈希值确定目标匹配区间；

在所述目标区间进行匹配。

6.如权利要求1所述的方法，其特征在于，未匹配成功的线程逐一根据会话特征更新所述会话保持表，包括：

未匹配成功的线程逐一根据会话特征生成会话保持节点；

将会话保持节点更新到所述会话保持表。

7.如权利要求6所述的方法，其特征在于，未匹配成功的线程逐一根据会话特征生成会话保持节点，包括：

在写锁计数为0时，为所述会话保持表添加读锁；

根据会话特征生成哈希值；

基于所述哈希值生成所述会话保持节点。

8.如权利要求7所述的方法，其特征在于，将会话保持节点更新到所述会话保持表，包括：

释放所述会话保持表的读锁；

为所述会话保持表添加写锁；

在所述会话保持表中创建会话保持节点；

释放所述会话保持表的写锁。

9.如权利要求6所述的方法，其特征在于，未匹配成功的线程逐一根据会话特征生成会话保持节点，还包括：

在写锁计数不为0时，在当前写锁流程执行完后，为所述会话保持表添加写锁；

根据会话特征生成哈希值；

基于所述哈希值生成所述会话保持节点。

10.如权利要求9所述的方法，其特征在于，将会话保持节点更新到所述会话保持表，包括：

在所述会话保持表中创建会话保持节点；

释放所述会话保持表的写锁。

11.一种用于负载均衡设备的会话处理装置，其特征在于，包括：

请求模块，用于负载均衡设备基于多线程获取多个会话请求；

特征模块，用于基于所述多个会话请求生成多个会话特征；

匹配模块，用于多线程并行将所述多个会话特征和负载均衡设备中的会话保持表进行匹配；

更新模块，用于未匹配成功的线程逐一根据会话特征更新所述会话保持表；

转发模块，用于根据更新后的会话保持表将会话请求转发到目标服务器进行处理。

Images