CN108667692B - 一种分布式缓存设备负载均衡的性能测试方法及系统 - Google Patents

Abstract

本发明实施方式涉及网络测试技术领域，公开了一种分布式缓存设备负载均衡的性能测试方法及系统。方法包括：将预设的N个测试请求数据发送至预设的负载均衡设备，以供负载均衡设备在接收到N个测试请求数据时，将N个测试请求数据对应发送至待测的M个分布式缓存设备；M个分布式缓存设备中的一个被预设为负载均衡设备，N＝K*M，M≥1，且K、M为正整数；每个分布式缓存设备对应于K个测试请求数据，每个测试请求数据对应于一个分布式缓存设备；接收由分布式缓存设备返回的测试请求数据的测试业务流量；根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标。本发明能够测试负载均衡下的分布式缓存设备的性能。

Description

一种分布式缓存设备负载均衡的性能测试方法及系统

技术领域

本发明实施方式涉及网络测试技术领域，特别涉及一种分布式缓存设备负载均衡的性能测试方法及系统。

背景技术

随着互联网用户的不断增长，大量的用户对源站甚至对内容分发网络(ContentDelivery Network，CDN)的网络设备造成较高的流量负荷，CDN厂商不得不部署分布式缓存设备，并通过分布式缓存设备实现负载均衡，从而降低了CDN网络设备的流量负载。

发明人发现现有技术中至少存在如下问题：目前，只有对单台设备的性能测试方法，并没有对分布式缓存设备性能进行测试的具体方法，从而难以准确判断分布式缓存式设备的性能以及分布式缓存设备是否能够实现负载均衡。

发明内容

本发明实施方式的目的在于提供一种分布式缓存设备负载均衡的性能测试方法及系统，能够测试负载均衡下的分布式缓存设备的性能。

为解决上述技术问题，本发明的实施方式提供了一种分布式缓存设备负载均衡的性能测试方法，应用于测试客户端，方法包括：将预设的N个测试请求数据发送至预设的负载均衡设备，以供负载均衡设备在接收到N个测试请求数据时，将N个测试请求数据对应发送至待测的M个分布式缓存设备；其中，M个分布式缓存设备中的一个被预设为负载均衡设备，N＝K*M，M≥1，且K、M为正整数；每个分布式缓存设备对应于K个测试请求数据，每个测试请求数据对应于一个分布式缓存设备；接收由分布式缓存设备返回的测试请求数据的测试业务流量；根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标。

本发明的实施方式还提供了一种分布式缓存设备负载均衡的性能测试系统，包括：待测的M个分布式缓存设备与至少一测试客户端；M个分布式缓存设备相互连接，至少一测试客户端分别连接于M个分布式缓存设备；M个分布式缓存设备中的一个被预设为负载均衡设备；M≥1，且M为正整数；测试客户端用于将预设的N个测试请求数据发送至负载均衡设备；N＝K*M，K为正整数；负载均衡设备用于在接收到N个测试请求数据时，将N个测试请求数据对应发送至待测的M个分布式缓存设备；每个分布式缓存设备对应于K个测试请求数据，每个测试请求数据对应于一个分布式缓存设备；分布式缓存设备用于在接收到测试请求数据时，向测试客户端返回测试请求数据的测试业务流量；测试客户端还用于接收由分布式缓存设备返回的测试请求数据的测试业务流量，并根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标。

本发明实施方式相对于现有技术而言，测试客户端将N个测试请求数据发送至负载均衡设备，负载均衡设备进行负载均衡处理，将各测试请求数据发送至待测的M个分布式缓存设备中对应的分布式缓存设备，各分布式缓存设备向测试客户端返回各测试请求数据的测试业务流量，从而测试客户端可以根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标；即，实现了负载均衡下的分布式缓存设备的性能测试。

另外，在根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标之前，还包括：判断负载均衡设备是否正常实现负载均衡，且M个分布式缓存设备的缓存性能是否正常；当负载均衡设备正常实现负载均衡，且M个分布式缓存设备的缓存性能正常时，执行根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标的步骤。本实施方式中，在判定负载均衡设备正常实现负载均衡，且M个分布式缓存设备的缓存性能正常时，才计算待测的M个分布式缓存设备的性能指标，保证了计算出来的性能指标的准确性；同时，能够在性能测试的过程中，发现缓存性能以及负载均衡的问题，便于及时进行调试。

另外，判断负载均衡设备是否正常实现负载均衡，且M个分布式缓存设备的缓存性能是否正常，具体包括：判断是否接收到N个测试请求数据的测试业务流量；当接收到N个测试请求数据的测试业务流量时，判断发送各测试请求数据的测试业务流量的分布式缓存设备是否为各测试请求数据对应的分布式缓存设备；当发送各测试请求数据的测试业务流量的分布式缓存设备为测试请求数据对应的分布式缓存设备时，判定负载均衡设备正常实现负载均衡，且M个分布式缓存设备的缓存性能正常。本实施方式提供了一种判断负载均衡设备是否正常实现负载均衡，且M个分布式缓存设备的缓存性能是否正常的具体实现方式。

另外，将预设的N个测试请求数据发送至预设的负载均衡设备，以供负载均衡设备在接收到N个测试请求数据时，将N个测试请求数据对应发送至待测的M个分布式缓存设备，具体为：通过预设的辅测交换机将预设的N个测试请求数据发送至预设的负载均衡设备，以供负载均衡设备在接收到N个测试请求数据时，通过辅测交换机将N个测试请求数据对应发送至待测的M个分布式缓存设备；接收由分布式缓存设备返回的测试请求数据的测试业务流量，具体为：通过辅测交换机接收由分布式缓存设备返回的测试请求数据的测试业务流量。本实施方式中，通过预设的辅测交换机来实现测试客户端与M个分布式缓存设备的连接，便于测试环境的搭建。

另外，每个分布式缓存设备均被配置有相同的负载虚拟IP；在通过预设的辅测交换机将预设的N个测试请求数据发送至预设的负载均衡设备之前，还包括：通过辅测交换机将预设的N个目的IP为源站IP的测试请求数据发送至预设的重定向设备，以供重定向设备在接收到目的IP为源站IP的测试请求数据时，将源站IP重定向到负载虚拟IP；通过辅测交换机接收由重定向设备返回的包括负载虚拟IP的重定向报文；通过预设的辅测交换机将预设的N个测试请求数据发送至预设的负载均衡设备，具体为：根据重定向报文，通过预设的辅测交换机将预设的N个目的IP为负载虚拟IP的测试请求数据发送至预设的负载均衡设备。本实施方式中，通过重定向设备对源站IP进行重定向处理，以适用于真实场景。

另外，每个分布式缓存设备均被配置有相同的负载虚拟IP；在通过预设的辅测交换机将预设的N个测试请求数据发送至预设的负载均衡设备之前，还包括：通过辅测交换机将预设的N个目的IP为源站IP的测试请求数据发送至预设的重定向设备，以供重定向设备在接收到目的IP为源站IP的测试请求数据时，将源站IP重定向到负载虚拟IP；通过辅测交换机接收由重定向设备返回的包括负载虚拟IP的重定向报文；将预设的N个测试请求数据发送至预设的负载均衡设备，具体为：根据重定向报文，通过辅测交换机将预设的N个目的IP为负载虚拟IP的测试请求数据发送至负载均衡设备。本实施方式中，若测试客户端时首次发送请求数据，负载均衡设备从源站IP获取各测试请求数据的测试业务流量，并发送至各分布式缓存设备，以便于各分布式缓存设备返回测试请求数据的测试业务流量。

另外，性能指标为以下任意之一：新建连接数、延迟时间、吞吐率、并发连接数以及带宽。

附图说明

图1是本发明第一实施方式的分布式缓存设备负载均衡的性能测试方法的具体流程图；

图2是本发明第二实施方式的分布式缓存设备负载均衡的性能测试方法的具体流程图；

图3是本发明第三实施方式的分布式缓存设备负载均衡的性能测试方法的具体流程图；

图4是本发明第四实施方式的分布式缓存设备负载均衡的性能测试方法的具体流程图；

图5是本发明第五实施方式的分布式缓存设备负载均衡的性能测试方法的具体流程图；

图6是本发明第六实施方式的分布式缓存设备负载均衡的性能测试系统的方框示意图；

图7是本发明第八实施方式的分布式缓存设备负载均衡的性能测试系统的方框示意图；

图8是本发明第九实施方式的分布式缓存设备负载均衡的性能测试系统的方框示意图；

图9是本发明第九实施方式的分布式缓存设备负载均衡的性能测试系统的数据流量转发示意图。

具体实施方式

为使本发明实施方式的目的、技术方案和优点更加清楚，下面将结合附图对本发明的各实施方式进行详细的阐述。然而，本领域的普通技术人员可以理解，在本发明各实施方式中，为了使读者更好地理解本发明而提出了许多技术细节。但是，即使没有这些技术细节和基于以下各实施方式的种种变化和修改，也可以实现本发明所要求保护的技术方案。

本发明的第一实施方式涉及一种分布式缓存设备负载均衡的性能测试方法，应用于分布式缓存设备负载均衡的性能测试系统的测试客户端，该性能测试系统还包括待测的M个分布式缓存设备，M≥1，且为正整数；其中，性能测试系统可以包括多个测试客户端，然本实施例对此不作任何限制。

本实施方式的分布式缓存设备负载均衡的性能测试方法的具体流程如图1所示。

步骤101，将预设的N个测试请求数据发送至预设的负载均衡设备，以供负载均衡设备在接收到N个测试请求数据时，将N个测试请求数据对应发送至待测的M个分布式缓存设备。

具体而言，测试客户端可以根据测试需求预先构建测试流量模型，测试流量模型中包括N个测试请求数据，N＝K*M，K为正整数；每个分布式缓存设备对应于K个测试请求数据，每个测试请求数据对应于一个分布式缓存设备，测试客户端将预设的N个测试请求数据依次发送至负载均衡设备，由负载均衡设备进行负载均衡处理，即，负载均衡设备在每次接收到测试请求数据，会将该测试请求数据发送至对应的分布式缓存设备，直至N个测试请求数据均被发送至对应的分布式缓存设备。其中，M个分布式缓存设备中的一个被预设为负载均衡设备，该负载均衡设备可以是固定的一个，也可以是根据测试人员的设定进行即时切换。

本实施例中，分布式缓存设备与测试请求数据的对应关系的设定方式可以为：测试请求数据的哈希值与分布式缓存设备中预存的哈希值相同，则负载均衡设备进行负载均衡处理具体为，计算接收到的各测试请求数据的哈希值，并将各测试请求数据发送至与之哈希值匹配的分布式缓存设备。

步骤102，接收由分布式缓存设备返回的测试请求数据的测试业务流量。

具体而言，各分布式缓存设备接收到负载均衡设备发送的测试请求数据时，会根据自身缓存的数据，向测试客户端返回测试请求数据的测试业务流量，测试客户端则可以接收分布式缓存设备返回的测试请求数据的测试业务流量。

需要说明的是，分布式缓存设备被预设为负载均衡设备，可以理解为该分布式缓存设备被配置有负载均衡功能，其仍然为分布式缓存设备，可以接收测试请求数据，并向测试客户端返回测试请求数据的测试业务流量。

步骤103，根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标。

具体而言，测试客户端在接收到N个测试请求数据的测试业务流量时，可以根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标。性能指标为以下任意之一：新建连接数、延迟时间、吞吐率、并发连接数以及带宽。下面以新建连接数为例，介绍计算该性能指标的具体方式：

在一个例子中，分布式缓存设备的数量为5个，其中1个分布式缓存设备为负载均衡设备，测试客户端配置每秒2000个新建连接数请求，持续一分钟；即，测试客户端每秒发送2000个测试请求数据至负载均衡设备，持续一分钟；负载均衡设备将2000个新建连接数请求分别发送至对应的各分布式缓存设备，各分布式缓存设备返回新建连接数请求的测试业务流量；若测试客户端每秒也能接收到2000个测试业务流量，并且持续一分钟，则待测的5个分布式缓存设备的新建连接数性能值为2000，每个分布式缓存设备的新建连接数性能值为400；此时，可以查询每个分布式缓存设备的负载情况，若各分布式缓存设备负载已满，则2000即为待测的5个分布式缓存设备的最大新建连接数性能值；反之，可以增大每秒发送的新建连接数请求的数目，重复上述过程，可以获取待测的5个分布式缓存设备的最大新建连接数性能值。

需要说明的是，本实施例仅示意性列举了几个性能指标，然不限于此，即，本发明的分布式缓存设备负载均衡的性能测试方法也可以用于分布式缓存设备的其他性能指标的测试。

还要说明的是，本实施例中的分布式缓存设备的数量也可以为1个，例如，分布式缓存设备的数量一开始时为5个，当4个分布式缓存设备被撤销，只剩下了1个分布式缓存设备时，该分布式缓存设备同时也作为负载均衡设备；当负载均衡设备接收到N个测试请求数据时，将N个测试请求数据均发送唯一的分布式缓存设备，分布式缓存设备向测试客户端返回的N个测试请求数据的测试业务流量，测试客户端根据接收到的N个测试请求数据的测试业务流量，计算该分布式缓存设备的性能指标，即，本发明的分布式缓存设备负载均衡的性能测试方法也可以用于对单个分布式缓存设备进行性能指标的测试。

本实施方式相对于现有技术而言，测试客户端将N个测试请求数据发送至负载均衡设备，负载均衡设备进行负载均衡处理，将各测试请求数据发送至待测的M个分布式缓存设备中对应的分布式缓存设备，各分布式缓存设备向测试客户端返回各测试请求数据的测试业务流量，从而测试客户端可以根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标；即，实现了负载均衡下的分布式缓存设备的性能测试。

本发明的第二实施方式涉及一种分布式缓存设备负载均衡的性能测试方法，本实施方式是在第一实施方式基础上的改进，主要改进之处在于：在判定负载均衡设备正常实现负载均衡，且M个分布式缓存设备的缓存性能正常时，才计算待测的M个分布式缓存设备的性能指标。

本实施方式的分布式缓存设备负载均衡的性能测试方法的具体流程如图2所示。

其中，步骤201、步骤202与步骤101、步骤102大致相同，步骤204与步骤103大致相同，在此不再赘述，主要不同之处在于，增加了步骤203，具体如下：

步骤203，判断负载均衡设备是否正常实现负载均衡，且M个分布式缓存设备的缓存性能是否正常。若是，则进入步骤204；若否，则直接结束。

具体而言，负载均衡设备是否正常实现负载均衡，即负载均衡设备是否正常的将各测试请求数据发送至对应的分布式缓存设备，M个分布式缓存设备的缓存性能，即各分布式缓存设备能否正常返回测试业务流量；测试客户端可以根据接收到的N个测试请求数据的测试业务流量，来判断负载均衡设备是否正常实现负载均衡，且M个分布式缓存设备的缓存性能是否正常。若是，则进入步骤204根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标；否则，则说明M个分布式缓存设备的缓存性能异常，或者负载均衡设备未能正常实现负载均衡，则需要对负载均衡设备或者分布式缓存设备进行调试，以使负载均衡设备正常实现负载均衡，且M个分布式缓存设备的缓存性能正常。

本实施方式相对于第一实施方式而言，在判定负载均衡设备正常实现负载均衡，且M个分布式缓存设备的缓存性能正常时，才计算待测的M个分布式缓存设备的性能指标，保证了计算出来的性能指标的准确性；同时，能够在性能测试的过程中，发现缓存性能以及负载均衡的问题，便于及时进行调试。

本发明的第三实施方式涉及一种分布式缓存设备负载均衡的性能测试方法，本实施方式是在第二实施方式基础上的细化，主要细化之处在于：提供了一种判断负载均衡设备是否正常实现负载均衡，且M个分布式缓存设备的缓存性能是否正常的具体实现方式。

本实施方式的分布式缓存设备负载均衡的性能测试方法的具体流程如图3所示。

其中，步骤301、步骤302与步骤201、步骤202大致相同，步骤304与步骤204大致相同，在此不再赘述，主要不同之处在于，步骤303具体包括以下子步骤：

子步骤3031，判断是否接收到N个测试请求数据的测试业务流量。若是，则进入子步骤3032；若否，则直接结束。

具体而言，判断是否接收到N个测试请求数据的测试业务流量，即，判断各分布式缓存设备的缓存性能是否正常，若测试客户端接收到了N个测试请求数据的测试业务流量，则说明M个分布式缓存设备的缓存性能是正常的，能够正常的向测试客户端返回测试请求数据的测试业务流量。否则，则说明至少一分布式缓存设备缓存性能异常，或者负载均衡设备未能正常实现负载均衡，直接结束。若要细分是分布式缓存设备缓存性能异常，还是负载均衡设备未能正常实现负载均衡，则可以通过如下方式来判断，通过查看负载均衡设备的日志，来判断负载均衡设备是否正常实现负载均衡，若日志中各测试请求数据均被发送至对应的分布式缓存设备，则说明负载均衡设备正常实现负载均衡，此时测试客户端判定未发送测试业务流量的分布式缓存设备的缓存性能异常；反之，则说明负载均衡设备未能正常实现负载均衡。

子步骤3032，判断发送各测试请求数据的测试业务流量的分布式缓存设备是否为各测试请求数据对应的分布式缓存设备。若是，则进入步骤304；若否，则直接结束。

具体而言，测试客户端在接收到测试请求数据的测试业务流量时，可以获取测试业务流量的来源，具体的，各分布式缓存设备具有不同的标识，该标识可以为编号；当测试客户端接收到测试请求数据的测试业务流量时，能够获取发送该测试请求数据的测试业务流量的分布式缓存设备的标识，从而能够判断发送该测试请求数据的测试业务流量的分布式缓存设备是否为测试请求数据对应的分布式缓存设备；若测试客户端接收到的N个测试请求数据的测试业务流量均由对应的分布式缓存设备所发送，则说明负载均衡设备正常实现负载均衡，进入步骤304根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标。否则，则说明负载均衡设备未能正常实现负载均衡，直接结束，需要测试人员对负载均衡设备进行调试，直至负载均衡设备正常实现负载均衡。

本实施方式相对于第三实施方式而言，提供了一种判断负载均衡设备是否正常实现负载均衡，且M个分布式缓存设备的缓存性能是否正常的具体实现方式。

本发明的第四实施方式涉及一种分布式缓存设备负载均衡的性能测试方法，本实施方式与第一实施方式大致相同，主要区别之处在于：通过预设的辅测交换机来实现测试客户端与M个分布式缓存设备的连接。分布式缓存设备负载均衡的性能测试系统还包括辅测交换机，测试客户端连接于辅测交换机，M个分布式缓存设备分别连接于辅测交换机。

本实施方式的分布式缓存设备负载均衡的性能测试方法的具体流程如图4所示。

其中，步骤403与步骤103大致相同，在此不再赘述，主要不同之处在于：

步骤401，通过预设的辅测交换机将预设的N个测试请求数据发送至预设的负载均衡设备，以供负载均衡设备在接收到N个测试请求数据时，通过辅测交换机将N个测试请求数据对应发送至待测的M个分布式缓存设备。

具体而言，负载均衡设备被配置负载虚拟IP，辅测交换机预存有该负载虚拟IP与负载均衡设备的真实IP对应关系，具体的，负载虚拟IP与真实IP对应于同一个MAC地址；因此，当测试客户端将预设的目的IP为负载虚拟IP的N个测试请求数据发送至辅测交换机时，辅测交换机能够将N个测试请求数据发送至负载均衡设备，负载均衡设备进行负载均衡处理，通过辅测交换机将N个测试请求数据均被发送至对应的分布式缓存设备。

步骤402，通过辅测交换机接收由分布式缓存设备返回的测试请求数据的测试业务流量。

具体而言，各分布式缓存设备接收到负载均衡设备发送的测试请求数据时，会根据自身缓存的数据，将测试请求数据的测试业务流量发送至辅测交换机，测试客户端则可以通过辅测交换机接收通过辅测交换机返回的测试请求数据的测试业务流量。

本实施方式相对于第一实施方式而言，通过预设的辅测交换机来实现测试客户端与M个分布式缓存设备的连接，便于测试环境的搭建。需要说明的是，本实施方式也可以作为在第二实施方式或第三实施方式基础上的改进，可以达到同样的技术效果。

本发明的第五实施方式涉及一种分布式缓存设备负载均衡的性能测试方法，本实施方式是在第四实施方式基础上的改进，主要改进之处在于：通过重定向设备对源站IP进行重定向处理，以适用于真实场景。分布式缓存设备负载均衡的性能测试系统还包括重定向设备，重定向设备连接于辅测交换机。

本实施方式的分布式缓存设备负载均衡的性能测试方法的具体流程如图5所示。每个分布式缓存设备均被配置有相同的负载虚拟IP。

其中，步骤504、步骤505与步骤402、步骤403大致相同，在此不再赘述，主要不同之处在于，增加了步骤501、步骤502，具体如下：

步骤501，通过辅测交换机将预设的N个目的IP为源站IP的测试请求数据发送至预设的重定向设备，以供重定向设备在接收到目的IP为源站IP的测试请求数据时，将源站IP重定向到负载虚拟IP。

具体而言，辅测交换机配置测试客户端与重定向设备的镜像规则，即辅测交换机在接收到测试客户端发送的目的IP为源站IP的测试请求数据时，复制一个该测试请求数据的镜像流量，并发送到重定向设备的镜像口，重定向设备在接收到该镜像后，进行重定向处理，将源站IP重定向到负载虚拟IP。

步骤502，通过辅测交换机接收由重定向设备返回的包括负载虚拟IP的重定向报文。

具体而言，重定向设备在将源站IP重定向到负载虚拟IP，生成一个包括负载虚拟IP的重定向报文，并将该重定向报文送至辅测交换机，测试客户端则通过辅测交换机接收该重定向报文。

步骤503，根据重定向报文，通过预设的辅测交换机将预设的N个目的IP为负载虚拟IP的测试请求数据发送至预设的负载均衡设备，以供负载均衡设备在接收到N个测试请求数据时，通过辅测交换机将N个测试请求数据对应发送至待测的M个分布式缓存设备。

具体而言，重定向报文包括负载虚拟IP，辅测交换机预存有该负载虚拟IP与负载均衡设备的真实IP对应关系，具体的，负载虚拟IP与真实IP对应于同一个MAC地址；因此，测试客户端将预设的N个目的IP为负载虚拟IP的测试请求数据发送至辅测交换机，辅测交换机将N个测试请求数据发送至负载均衡设备，负载均衡设备进行负载均衡处理，通过辅测交换机将N个测试请求数据均被发送至对应的分布式缓存设备。

本实施方式中，若测试客户端是首次发送测试请求数据，M个分布式缓存设备尚未缓存有各测试请求数据的测试业务流量，负载请求设备在接收到N个目的IP为负载虚拟IP的测试请求数据时，访问源站IP获取各测试请求数据的测试业务流量，并将各测试请求数据的测试业务流量发送至各分布式缓存设备，以便于各分布式缓存设备返回测试请求数据的测试业务流量。

本实施方式相对于第四实施方式而言，通过重定向设备对源站IP进行重定向处理，以适用于真实场景。

本发明的第六实施方式涉及一种分布式缓存设备负载均衡的性能测试系统，请参考图6，性能测试系统包括待测的M个分布式缓存设备1与至少一测试客户端2，需要说明的是，本实施例以及之后的实施例中，均以分布式缓存设备1为5个、测试客户端2为一个为例进行说明，然而对分布式缓存设备与测试客户端的数量不作任何限制对此不作任何限制。

M个分布式缓存设备1相互连接，至少一测试客户端2分别连接于M个分布式缓存设备1，M个分布式缓存设备1中的一个被预设为负载均衡设备3，即该分布式缓存设备还具有负载均衡的功能；M≥1，且M为正整数。

测试客户端2用于将预设的N个测试请求数据发送至负载均衡设备3；N＝K*M，K为正整数。

负载均衡设备3用于在接收到N个测试请求数据时，将N个测试请求数据对应发送至待测的M个分布式缓存设备1；其中，每个分布式缓存设备1对应于K个测试请求数据，每个测试请求数据对应于一个分布式缓存设备1.

分布式缓存设备1用于在接收到测试请求数据时，向测试客户端返回测试请求数据的测试业务流量；

具体的，测试客户端2可以根据测试需求预先构建测试流量模型，测试流量模型中包括N个测试请求数据，测试客户端2将预设的N个测试请求数据依次发送至负载均衡设备3，由负载均衡设备3进行负载均衡处理，即，负载均衡设备3在每次接收到测试请求数据，会将该测试请求数据发送至对应的分布式缓存设备1，直至N个测试请求数据均被发送至对应的分布式缓存设备1。各分布式缓存设备1接收到负载均衡设备3发送的测试请求数据时，会根据自身缓存的数据，向测试客户端2返回测试请求数据的测试业务流量。

需要说明的是，本实施例中，M个分布式缓存设备1中的一个被预设为负载均衡设备3，可以理解为该分布式缓存设备1被配置有负载均衡功能，其仍然为分布式缓存设备，可以接收测试请求数据，并向测试客户端2返回测试请求数据的测试业务流量。

测试客户端2还用于接收由分布式缓存设备1返回的测试请求数据的测试业务流量，并根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备1的性能指标。

具体的，测试客户端2在接收到N个测试请求数据的测试业务流量时，可以根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备1的性能指标。性能指标为以下任意之一：新建连接数、延迟时间、吞吐率、并发连接数以及带宽。下面以新建连接数为例，介绍计算该性能指标的具体方式：

以图6为例，分布式缓存设备1的数量为5个，其中1个分布式缓存设备为负载均衡设备，测试客户端2配置每秒2000个新建连接数请求，持续一分钟；即，测试客户端2每秒发送2000个测试请求数据至负载均衡设备3，持续一分钟；负载均衡设备3将2000个新建连接数请求发送分别至对应的各分布式缓存设备1，各分布式缓存设备1返回新建连接数请求的测试业务流量；若测试客户端2每秒也能接收到2000个测试业务流量，并且持续一分钟，则待测的5个分布式缓存设备1的新建连接数性能值为2000，每个分布式缓存设备1的新建连接数性能值为400；此时，可以查询每个分布式缓存设备1的负载情况，若各分布式缓存设备1负载已满，则2000即为待测的5个分布式缓存设备1的最大新建连接数性能值；反之，可以增大每秒发送的新建连接数请求的数目，重复上述过程，可以获取待测的5个分布式缓存设备1的最大新建连接数性能值。

需要说明的是，本实施例仅示意性列举了几个性能指标，然不限于此，即，本发明的分布式缓存设备负载均衡的性能测试系统也可以用于分布式缓存设备的其他性能指标的测试。

还要说明的是，本实施例中的分布式缓存设备1的数量也可以为1个，例如，分布式缓存设备1的数量一开始时为5个，当4个分布式缓存设备1被撤销，只剩下了1个分布式缓存设备1时，该分布式缓存设备1同时也作为负载均衡设备3；当负载均衡设备3接收到N个测试请求数据时，将N个测试请求数据均发送唯一的分布式缓存设备1，分布式缓存设备1向测试客户端返回的N个测试请求数据的测试业务流量，测试客户端根据接收到的N个测试请求数据的测试业务流量，计算该分布式缓存设备1的性能指标，即，本发明的分布式缓存设备负载均衡的性能测试系统也可以用于对单个分布式缓存设备进行性能指标的测试。

本实施方式相对于现有技术而言，测试客户端将N个测试请求数据发送至负载均衡设备，负载均衡设备进行负载均衡处理，将各测试请求数据发送至待测的M个分布式缓存设备中对应的分布式缓存设备，各分布式缓存设备向测试客户端返回各测试请求数据的测试业务流量，从而测试客户端可以根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标；即，实现了负载均衡下的分布式缓存设备的性能测试。

由于第一实施例与本实施例相互对应，因此本实施例可与第一实施例互相配合实施。第一实施例中提到的相关技术细节在本实施例中依然有效，在第一实施例中所能达到的技术效果在本实施例中也同样可以实现，为了减少重复，这里不再赘述。相应地，本实施例中提到的相关技术细节也可应用在第一实施例中。

本发明的第七实施方式涉及一种分布式缓存设备负载均衡的性能测试系统，本实施方式是在第六实施方式基础上的改进，主要改进之处在于：请参考图6，测试客户端在判定负载均衡设备正常实现负载均衡，且M个分布式缓存设备的缓存性能正常时，才计算待测的M个分布式缓存设备的性能指标。

测试客户端2还用于判断负载均衡设备是否正常实现负载均衡，且M个分布式缓存设备的缓存性能是否正常，并在判定负载均衡设备正常实现负载均衡，且M个分布式缓存设备的缓存性能正常时，根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标。

具体的，测试客户端2可以根据接收到的N个测试请求数据的测试业务流量，来判断负载均衡设备3是否正常实现负载均衡，且M个分布式缓存设备1的缓存性能是否正常。若是，则测试客户端2则根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备的性能指标；否则，则说明M个分布式缓存设备的缓存性能异常，或者负载均衡设备未能正常实现负载均衡，则需要对负载均衡设备或者分布式缓存设备进行调试，以使负载均衡设备正常实现负载均衡，且M个分布式缓存设备的缓存性能正常。

在一个例子中，测试客户端2具体用于在接收到N个测试请求数据的测试业务流量，且发送各测试请求数据的测试业务流量的分布式缓存设备1为测试请求数据对应的分布式缓存设备1时，判定负载均衡设备3正常实现负载均衡，且M个分布式缓存设备1的缓存性能正常。

具体来说，测试客户端2首先判断是否接收到N个测试请求数据的测试业务流量，即，判断各分布式缓存设备1的缓存性能是否正常，若测试客户端2接收到了N个测试请求数据的测试业务流量，则说明M个分布式缓存设备1的缓存性能是正常的，能够正常的向测试客户端2返回测试请求数据的测试业务流量。否则，则说明至少一分布式缓存设备1缓存性能异常，或者负载均衡设备3未能正常实现负载均衡，直接结束。若要细分是分布式缓存设备1缓存性能异常，还是负载均衡设备3未能正常实现负载均衡，则可以通过如下方式来判断，通过查看负载均衡设备3的日志，来判断负载均衡设备3是否正常实现负载均衡，若日志中各测试请求数据均被发送至对应的分布式缓存设备1，则说明负载均衡设备3正常实现负载均衡，此时测试客户端2判定未发送测试业务流量的分布式缓存设备1的缓存性能异常；反之，则说明负载均衡设备3未能正常实现负载均衡。

测试客户端2在判定接收到N个测试请求数据的测试业务流量时，判断发送各测试请求数据的测试业务流量的分布式缓存设备是否为各测试请求数据对应的分布式缓存设备；具体的，测试客户端2在接收到测试请求数据的测试业务流量时，可以获取测试业务流量的来源；具体的，各分布式缓存设备1具有不同的标识，该标识可以为编号；当测试客户端2接收到测试请求数据的测试业务流量时，能够获取发送该测试请求数据的测试业务流量的分布式缓存设备1的标识，从而能够判断发送该测试请求数据的测试业务流量的分布式缓存设备1是否为测试请求数据对应的分布式缓存设备1；若测试客户端2接收到的N个测试请求数据的测试业务流量均由对应的分布式缓存设备1所发送，则说明负载均衡设备3正常实现负载均衡，测试客户端2根据接收到的N个测试请求数据的测试业务流量，计算得到待测的M个分布式缓存设备1的性能指标。否则，则说明负载均衡设备3未能正常实现负载均衡，直接结束，需要测试人员对负载均衡设备3进行调试，直至负载均衡设备3正常实现负载均衡。

本实施方式相对于第六实施方式而言，在判定负载均衡设备正常实现负载均衡，且M个分布式缓存设备的缓存性能正常时，才计算待测的M个分布式缓存设备的性能指标，保证了计算出来的性能指标的准确性；同时，能够在性能测试的过程中，发现缓存性能以及负载均衡的问题，便于及时进行调试。

由于第二实施例、第三实施例与本实施例相互对应，因此本实施例可与第二实施例、第三实施例互相配合实施。第二实施例、第三实施例中提到的相关技术细节在本实施例中依然有效，在第二实施例、第三实施例中所能达到的技术效果在本实施例中也同样可以实现，为了减少重复，这里不再赘述。相应地，本实施例中提到的相关技术细节也可应用在第二实施例、第三实施例中。

本发明的第八实施方式涉及一种分布式缓存设备负载均衡的性能测试系统，本实施方式是在第六实施方式基础上的改进，主要改进之处在于：请参考图7，分布式缓存设备负载均衡的性能测试系统还包括辅测交换机4。

M个分布式缓存设备1分别连接于辅测交换机4，至少一测试客户端2连接于辅测交换机4。

测试客户端2具体用于通过辅测交换机4将N个测试请求数据发送至负载均衡设备3。具体的，负载均衡设备3被配置负载虚拟IP，辅测交换机4预存有该负载虚拟IP与负载均衡设备的真实IP对应关系，具体的，负载虚拟IP与真实IP对应于同一个MAC地址；因此，当测试客户端2将预设的目的IP为负载虚拟IP的N个测试请求数据发送至辅测交换机4时，辅测交换机4能够将N个测试请求数据发送至负载均衡设备3。

负载均衡设备3具体用于在接收到N个测试请求数据时，通过辅测交换机4将N个测试请求数据对应发送至待测的M个分布式缓存设备1。

测试客户端2具体用于通过辅测交换机4接收由分布式缓存设备1返回的测试请求数据的测试业务流量。

本实施方式相对于第六实施方式而言，通过预设的辅测交换机来实现测试客户端与M个分布式缓存设备的连接，便于测试环境的搭建。需要说明的是，本实施方式也可以作为在第七实施方式基础上的改进，可以达到同样的技术效果。

由于第四实施例与本实施例相互对应，因此本实施例可与第四实施例互相配合实施。第四实施例中提到的相关技术细节在本实施例中依然有效，在第四实施例中所能达到的技术效果在本实施例中也同样可以实现，为了减少重复，这里不再赘述。相应地，本实施例中提到的相关技术细节也可应用在第四实施例中。

本发明的第九实施方式涉及一种分布式缓存设备负载均衡的性能测试系统，本实施方式是在第八实施方式基础上的改进，主要改进之处在于：请参考图8，分布式缓存设备负载均衡的性能测试系统还包括重定向设备5。重定向设备5连接于辅测交换机4，具体的重定向设备5的镜像口与转发口分别连接于辅测交换机4。

本实施例中，每个分布式缓存设备均被配置有相同的负载虚拟IP。

测试客户端2用于通过辅测交换机4将预设的N个目的IP为源站IP的测试请求数据发送至预设的重定向设备5，具体的，辅测交换机4配置了测试客户端2的输出口到重定向设备5的镜像口的镜像规则，即辅测交换机4在接收到测试客户端2发送的目的IP为源站IP的测试请求数据时，复制一个该测试请求数据的镜像流量，并发送到重定向设备的镜像口。

重定向设备5用于在接收到目的IP为源站IP的测试请求数据时，将源站IP重定向到负载虚拟IP，并向测试客户端2返回包括负载虚拟IP的重定向报文；具体的，重定向设备5从镜像口接收到目的IP为源站IP的测试请求数据的镜像后，进行重定向处理，将源站IP重定向到负载虚拟IP，生成一个包括负载虚拟IP的重定向报文，并将该重定向报文送至辅测交换机4。

测试客户端2通过辅测交换机4接收由重定向设备5返回的包括负载虚拟IP的重定向报文，并根据重定向报文，通过预设的辅测交换机将预设的N个目的IP为负载虚拟IP的测试请求数据发送至预设的负载均衡设备3。

较佳的，负载均衡设备3还用于根据重定向报文，通过预设的辅测交换机将预设的N个目的IP为负载虚拟IP的测试请求数据发送至预设的负载均衡设备，以供负载均衡设备3在接收到N个目的IP为负载虚拟IP的测试请求数据时，访问源站IP获取各测试请求数据的测试业务流量，将各测试请求数据的测试业务流量发送至各分布式缓存设备1，并将N个测试请求数据对应发送至待测的M个分布式缓存设备1。

请参考图9，为本实施例的分布式缓存设备负载均衡的性能测试系统的数据流量转发示意图，下面以一个测试请求数据为例进行说明，测试客户端2将目的IP为源站IP的测试请求数据发送辅测交换机4，辅测交换机4复制一个该测试请求数据的镜像流量，并发送至重定向设备5的镜像口，重定向设备5将源站IP重定向到负载虚拟IP，生成一个包括负载虚拟IP的重定向报文，并将该重定向报文通过转发口发送至辅测交换机4，辅测交换机4接收到该重定向报文，并将该重定向报文发送至测试客户端2，测试客户端2接收到重定向报文后，重新发送一个目的IP为负载虚拟IP的测试请求数据至辅测交换机4，辅测交换机4将该测试请求数据发送至负载均衡设备3，负载均衡设备3将该测试请求数据发送至对应的分布式缓存设备1，分别式缓存设备1返回测试请求数据的测试业务流量至辅测交换机4，辅测交换机4将测试业务流量转发至测试客户端2。

本实施方式相对于第八实施方式而言，通过重定向设备对源站IP进行重定向处理，以适用于真实场景。

由于第五实施例与本实施例相互对应，因此本实施例可与第五实施例互相配合实施。第五实施例中提到的相关技术细节在本实施例中依然有效，在第五实施例中所能达到的技术效果在本实施例中也同样可以实现，为了减少重复，这里不再赘述。相应地，本实施例中提到的相关技术细节也可应用在第五实施例中。

本领域的普通技术人员可以理解，上述各实施方式是实现本发明的具体实施方式，而在实际应用中，可以在形式上和细节上对其作各种改变，而不偏离本发明的精神和范围。

Claims (10)

1.一种分布式缓存设备负载均衡的性能测试方法，其特征在于，应用于测试客户端，所述方法包括：

将预设的N个测试请求数据发送至预设的负载均衡设备，以供所述负载均衡设备在接收到N个所述测试请求数据时，将N个所述测试请求数据对应发送至待测的M个分布式缓存设备；其中，M个所述分布式缓存设备中的一个被预设为所述负载均衡设备，N＝K*M，M≥1，且K、M为正整数；每个所述分布式缓存设备对应于K个所述测试请求数据，每个测试请求数据对应于一个所述分布式缓存设备；

接收由所述分布式缓存设备返回的所述测试请求数据的测试业务流量；

根据接收到的N个所述测试请求数据的测试业务流量，计算得到待测的M个所述分布式缓存设备的性能指标；

在所述根据接收到的N个所述测试请求数据的测试业务流量，计算得到待测的M个所述分布式缓存设备的性能指标之前，还包括：

判断所述负载均衡设备是否正常实现负载均衡，且M个所述分布式缓存设备的缓存性能是否正常；

当所述负载均衡设备正常实现负载均衡，且M个所述分布式缓存设备的缓存性能正常时，执行所述根据接收到的N个所述测试请求数据的测试业务流量，计算得到待测的M个所述分布式缓存设备的性能指标的步骤；

所述判断所述负载均衡设备是否正常实现负载均衡，且M个所述分布式缓存设备的缓存性能是否正常，具体包括：

判断是否接收到N个所述测试请求数据的测试业务流量；

当接收到N个所述测试请求数据的测试业务流量时，判断发送各所述测试请求数据的测试业务流量的分布式缓存设备是否为各所述测试请求数据对应的所述分布式缓存设备；

当发送各所述测试请求数据的测试业务流量的分布式缓存设备为所述测试请求数据对应的所述分布式缓存设备时，判定所述负载均衡设备正常实现负载均衡，且M个所述分布式缓存设备的缓存性能正常。

2.根据权利要求1所述的分布式缓存设备负载均衡的性能测试方法，其特征在于，

所述将预设的N个测试请求数据发送至预设的负载均衡设备，以供所述负载均衡设备在接收到N个所述测试请求数据时，将N个所述测试请求数据对应发送至待测的M个分布式缓存设备，具体为：

通过预设的辅测交换机将预设的N个测试请求数据发送至预设的负载均衡设备，以供所述负载均衡设备在接收到N个所述测试请求数据时，通过所述辅测交换机将N个所述测试请求数据对应发送至待测的M个所述分布式缓存设备；

所述接收由所述分布式缓存设备返回的所述测试请求数据的测试业务流量，具体为：

通过所述辅测交换机接收由所述分布式缓存设备返回的所述测试请求数据的测试业务流量。

3.根据权利要求2所述的分布式缓存设备负载均衡的性能测试方法，其特征在于，每个所述分布式缓存设备均被配置有相同的负载虚拟IP；

在所述通过预设的所述辅测交换机将预设的N个测试请求数据发送至预设的负载均衡设备之前，还包括：

通过所述辅测交换机将预设的N个目的IP为源站IP的所述测试请求数据发送至预设的重定向设备，以供所述重定向设备在接收到目的IP为源站IP的所述测试请求数据时，将所述源站IP重定向到所述负载虚拟IP；

通过所述辅测交换机接收由所述重定向设备返回的包括所述负载虚拟IP的重定向报文；

所述通过预设的所述辅测交换机将预设的N个测试请求数据发送至预设的负载均衡设备，具体为：

根据所述重定向报文，通过预设的所述辅测交换机将预设的N个目的IP为所述负载虚拟IP的测试请求数据发送至预设的负载均衡设备。

4.根据权利要求3所述的分布式缓存设备负载均衡的性能测试方法，其特征在于，所述根据所述重定向报文，通过预设的所述辅测交换机将预设的N个目的IP为所述负载虚拟IP的测试请求数据发送至预设的负载均衡设备，以供所述负载均衡设备在接收到N个所述测试请求数据时，将N个所述测试请求数据对应发送至待测的M个分布式缓存设备，具体为：

根据所述重定向报文，通过预设的所述辅测交换机将预设的N个目的IP为所述负载虚拟IP的测试请求数据发送至预设的负载均衡设备，以供所述负载均衡设备在接收到N个目的IP为所述负载虚拟IP的所述测试请求数据时，访问所述源站IP获取各所述测试请求数据的测试业务流量，将各所述测试请求数据的测试业务流量发送至各所述分布式缓存设备，并将N个所述测试请求数据对应发送至待测的M个分布式缓存设备。

5.根据权利要求1所述的分布式缓存设备负载均衡的性能测试方法，其特征在于，所述性能指标为以下任意之一：新建连接数、延迟时间、吞吐率、并发连接数以及带宽。

6.一种分布式缓存设备负载均衡的性能测试系统，其特征在于，包括：待测的M个分布式缓存设备与至少一测试客户端；M个所述分布式缓存设备相互连接，至少一所述测试客户端分别连接于M个所述分布式缓存设备；M个所述分布式缓存设备中的一个被预设为所述负载均衡设备；M≥1，且M为正整数；

所述测试客户端用于将预设的N个测试请求数据发送至所述负载均衡设备；N＝K*M，K为正整数；

所述负载均衡设备用于在接收到N个所述测试请求数据时，将N个所述测试请求数据对应发送至待测的M个所述分布式缓存设备；每个所述分布式缓存设备对应于K个所述测试请求数据，每个测试请求数据对应于一个所述分布式缓存设备；

所述分布式缓存设备用于在接收到所述测试请求数据时，向所述测试客户端返回所述测试请求数据的测试业务流量；

所述测试客户端还用于接收由所述分布式缓存设备返回的所述测试请求数据的测试业务流量，并根据接收到的N个所述测试请求数据的测试业务流量，计算得到待测的M个所述分布式缓存设备的性能指标；

所述测试客户端还用于判断所述负载均衡设备是否正常实现负载均衡，且M个所述分布式缓存设备的缓存性能是否正常，并在判定所述负载均衡设备正常实现负载均衡，且M个所述分布式缓存设备的缓存性能正常时，根据接收到的N个所述测试请求数据的测试业务流量，计算得到待测的M个所述分布式缓存设备的性能指标；

所述测试客户端具体用于在接收到N个所述测试请求数据的测试业务流量，且发送各所述测试请求数据的测试业务流量的分布式缓存设备为所述测试请求数据对应的所述分布式缓存设备时，判定所述负载均衡设备正常实现负载均衡，且M个所述分布式缓存设备的缓存性能正常。

7.根据权利要求6所述的分布式缓存设备负载均衡的性能测试系统，其特征在于，还包括：辅测交换机；M个所述分布式缓存设备分别连接于所述辅测交换机，至少一所述测试客户端连接于所述辅测交换机；

所述测试客户端具体用于通过所述辅测交换机将N个测试请求数据发送至所述负载均衡设备；

所述负载均衡设备具体用于在接收到N个所述测试请求数据时，通过所述辅测交换机将N个所述测试请求数据对应发送至待测的M个所述分布式缓存设备；

所述测试客户端具体用于通过所述辅测交换机接收由所述分布式缓存设备返回的所述测试请求数据的测试业务流量。

8.根据权利要求7所述的分布式缓存设备负载均衡的性能测试系统，其特征在于，还包括：连接于所述辅测交换机的重定向设备；每个所述分布式缓存设备均被配置有相同的负载虚拟IP；

所述测试客户端用于通过所述辅测交换机将预设的N个目的IP为源站IP的所述测试请求数据发送至预设的重定向设备；

所述重定向设备用于在接收到目的IP为源站IP的所述测试请求数据时，将所述源站IP重定向到所述负载虚拟IP，并向所述测试客户端返回包括所述负载虚拟IP的重定向报文；

所述测试客户端还用于通过所述辅测交换机接收由所述重定向设备返回的包括所述负载虚拟IP的重定向报文；

所述测试客户端具体用于根据所述重定向报文，通过预设的所述辅测交换机将预设的N个目的IP为所述负载虚拟IP的测试请求数据发送至预设的负载均衡设备。

9.根据权利要求8所述的分布式缓存设备负载均衡的性能测试系统，其特征在于，所述负载均衡设备还用于根据所述重定向报文，通过预设的所述辅测交换机将预设的N个目的IP为所述负载虚拟IP的测试请求数据发送至预设的负载均衡设备，以供所述负载均衡设备在接收到N个目的IP为所述负载虚拟IP的所述测试请求数据时，访问所述源站IP获取各所述测试请求数据的测试业务流量，将各所述测试请求数据的测试业务流量发送至各所述分布式缓存设备，并将N个所述测试请求数据对应发送至待测的M个分布式缓存设备。

10.根据权利要求6所述的分布式缓存设备负载均衡的性能测试系统，其特征在于，所述性能指标为以下任意之一：新建连接数、延迟时间、吞吐率、并发连接数以及带宽。

Images