CN102263822A - 一种分布式缓存的控制方法、系统及装置 - Google Patents
一种分布式缓存的控制方法、系统及装置 Download PDFInfo
- Publication number
- CN102263822A CN102263822A CN201110207379XA CN201110207379A CN102263822A CN 102263822 A CN102263822 A CN 102263822A CN 201110207379X A CN201110207379X A CN 201110207379XA CN 201110207379 A CN201110207379 A CN 201110207379A CN 102263822 A CN102263822 A CN 102263822A
- Authority
- CN
- China
- Prior art keywords
- information
- cache
- caching server
- controlled
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Memory System Of A Hierarchy Structure (AREA)
Abstract
本发明公开了一种分布式缓存的控制方法、系统及装置,包括:根据各缓存分别被访问的次数,确定各缓存对应的数据访问率;根据各缓存对应的数据访问率与设定阈值的关系,确定待控制的缓存信息以及对应待控制的缓存信息的控制方式;针对确定出的每个待控制的缓存信息,确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息,并指示确定出的缓存服务器信息对应的缓存服务器按照对应该待控制的缓存信息的控制方式,对该待控制的缓存信息对应的缓存进行控制。根据该技术方案,能够根据各缓存被访问的次数对缓存进行动态控制,避免由于数据访问率不均衡而导致的缓存服务器资源闲置或负载过大的问题,均衡服务器资源。
Description
技术领域
本发明涉及通信技术领域,尤其涉及一种分布式缓存的控制方法、系统及装置。
背景技术
在互联网应用领域中,数据缓存技术至关重要,不仅要保证数据缓存的可靠性,还要保证数据缓存的性能以及响应速度。随着各种系统数据量、用户量、并发量的大幅度增长,越来越多的系统通过缓存技术来提高系统容量,但单纯的本地缓存或者单机缓存因为资源有限,对系统容量的提升有限,因此,分布式缓存应运而生,成为了提高系统容量的应用主流。
图1示出了分布式缓存系统的结构示意图,如图1所示,该分布式缓存系统包括:访问终端101、请求转发服务器102以及缓存服务器103;图1中示出两台缓存服务器103作为示例,实际系统架构中,缓存服务器103的数量根据系统中待缓存数据的数据量确定,一般待缓存的数据量越大,需要的缓存服务器的数量也越多。
图1所示的系统中,请求转发服务器102,主要用于根据访问终端101发送的数据访问请求实现数据访问以及对各缓存服务器103中保存的缓存的控制,其中,请求转发服务器102对各缓存服务器103中保存的缓存的控制方式主要包括缓存创建以及缓存删除,具体控制方式包括:为各业务类型分配用于保存数据的缓存服务器103,并保存业务类型与所分配的缓存服务器103的对应关系;以及,在为业务类型分配用于保存数据的缓存服务器103后,向该缓存服务器103发送缓存创建指示,该缓存创建指示中包括所指示创建的缓存对应的业务类型以及用于判断是否删除该缓存的过期时间戳或失效条件;相应地,缓存服务器103,用于根据请求转发服务器102发送的缓存创建指示,创建用于保存所对应业务类型的数据的缓存,并监控该缓存创建指示中包括的过期时间戳或失效条件,在该过期时间戳到达或失效条件满足时,删除该缓存。
基于上述缓存控制方式,请求转发服务器102实现数据访问的过程,如图2所示,主要包括如下步骤:
步骤201、请求转发服务器102接收访问终端101发送数据访问请求;
步骤202、请求转发服务器102确定数据访问请求所请求访问的数据对应的业务类型;
步骤203、请求转发服务器102根据保存的业务类型与缓存服务器103的对应关系,确定与该业务类型对应的缓存服务器103,并向该缓存服务器103转发该数据访问请求。
至此,流程结束。
在上述缓存控制方式中,缓存的创建主要由请求转发服务器102进行静态配置,缓存的删除主要由请求转发服务器102配置的过期时间戳或失效条件控制,而在实际应用中,由于数据访问率的不均衡,可能存在一些缓存服务器由于保存数据访问率较低的缓存而造成服务器资源的闲置,也可能存在一些缓存服务器由于保存数据访问率较高的缓存而造成服务器负载过大。
综上所述,通过上述静态配置控制缓存的方式,存在由于数据访问率的不均衡而导致的对系统服务器资源的利用率不均衡的问题。
发明内容
有鉴于此,本发明实施例提供一种分布式缓存的控制方法、系统及装置,用于解决现有技术中由于数据访问率的不均衡而导致的对系统服务器资源的利用率不均衡的问题。
本发明实施例通过如下技术方案实现:
根据本发明实施例的一个方面,提供了一种分布式缓存的控制方法,包括:
根据保存的各缓存分别被访问的次数,确定所述各缓存分别对应的数据访问率;
根据确定出的各缓存分别对应的数据访问率与设定阈值的关系,确定出待控制的缓存信息以及对应待控制的缓存信息的控制方式;
针对确定出的每个待控制的缓存信息,确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息,并指示确定出的所述缓存服务器信息对应的缓存服务器按照对应该待控制的缓存信息的控制方式,对该待控制的缓存信息对应的缓存进行控制。
根据本发明实施例的另一个方面,还提供了一种分布式缓存的控制系统,包括:分布式缓存的控制装置以及缓存服务器;其中,
所述分布式缓存的控制装置,用于根据保存的各缓存分别被访问的次数,确定所述各缓存分别对应的数据访问率;根据确定出的各缓存分别对应的数据访问率与设定阈值的关系,确定出待控制的缓存信息以及对应待控制的缓存信息的控制方式;针对确定出的每个待控制的缓存信息,确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息,并指示确定出的所述缓存服务器信息对应的缓存服务器按照对应该待控制的缓存信息的控制方式,对该待控制的缓存信息对应的缓存进行控制;
所述缓存服务器,用于根据所述分布式缓存的控制装置的指示,按照所述分布式缓存的控制装置确定出的控制方式信息对所述分布式缓存的控制装置确定出的待控制的缓存信息对应的缓存进行控制。
根据本发明实施例的另一个方面,还提供了一种分布式缓存的控制装置,包括:
访问率确定单元,用于根据保存的各缓存分别被访问的次数,确定所述各缓存分别对应的数据访问率;
控制方式确定单元,用于根据确定出的各缓存分别对应的数据访问率与设定阈值的关系,确定出待控制的缓存信息以及对应待控制的缓存信息的控制方式;
缓存服务器确定单元,用于针对确定出的每个待控制的缓存信息,确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息;
控制单元,用于指示所述缓存服务器确定单元确定出的所述缓存服务器信息对应的缓存服务器按照对应该待控制的缓存信息的控制方式,对该待控制的缓存信息对应的缓存进行控制。
通过本发明实施例提供的上述至少一个技术方案,根据保存的各缓存分别被访问的次数,确定各缓存分别对应的数据访问率,根据确定出的各缓存分别对应的数据访问率与设定阈值的关系,确定出待控制的缓存以及对应待控制的缓存信息的控制方式,然后针对确定出的每个待控制的缓存信息,确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息,并指示确定出的缓存服务器信息对应的缓存服务器按照对应该待控制的缓存信息的控制方式,对待控制的缓存信息对应的缓存进行控制。根据该技术方案,能够根据各缓存分别被访问的次数对缓存进行动态控制,与现有技术相比,避免了由于数据访问率的不均衡而导致的缓存服务器资源闲置或缓存服务器负载过大的问题,从而能够均衡系统中的服务器资源,提高系统服务器资源的利用率。
本发明的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明实施例一起用于解释本发明,并不构成对本发明的限制。在附图中:
图1为现有技术提供的分布式缓存系统的结构示意图;
图2为现有技术提供的实现数据访问的流程示意图;
图3为本发明实施例一提供的分布式缓存系统的结构示意图;
图4为本发明实施例一提供的分布式缓存的控制方法的流程示意图;
图5为本发明实施例一提供的确定待控制的缓存信息以及控制方式的流程示意图;
图6为本发明实施例一提供的确定缓存服务器的状态的流程示意图;
图7为本发明实施例一提供的确定控制数据访问请求的流程示意图;
图8为本发明实施例一提供的缓存控制服务器对数据访问请求进行处理的流程示意图;
图9为本发明实施例二提供的一个分布式缓存的控制装置的结构示意图;
图10为本发明实施例二提供的又一个分布式缓存的控制装置的结构示意图;
图11为本发明实施例二提供的又一个分布式缓存的控制装置的结构示意图;
图12为本发明实施例二提供的又一个分布式缓存的控制装置的结构示意图;
图13为本发明实施例二提供的又一个分布式缓存的控制装置的结构示意图;
图14为本发明实施例三提供的分布式缓存的控制系统的结构示意图。
具体实施方式
为了给出均衡利用分布式缓存系统中服务器资源的实现方案,本发明实施例提供了一种分布式缓存的控制方法、系统及装置,以下结合说明书附图对本发明的优选实施例进行说明,应当理解,此处所描述的优选实施例仅用于说明和解释本发明,并不用于限定本发明。并且在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
实施例一
本发明实施例一提供了一种分布式缓存的控制方法,该方法的主要技术原理包括:在分布式缓存环境下,与缓存对应的数据访问率相结合,实现对缓存的动态控制,例如,根据缓存对应的数据访问率增加或减少缓存的数量。通过预先增加数据访问率较高的缓存数量,以及减少数据访问率较低的缓存数量,有效提升整个系统稳定性,并且能够应对大并发量的数据访问请求,减少了由于缓存的存储不均衡而导致丢弃数据访问请求或将数据访问请求放入处理队列的时间过长的问题,提升了对数据访问请求的响应效率。
图3示出了本发明实施例一提供的控制方法可以适用的一个分布式缓存系统的结构示意图,如图3所示,该分布式缓存系统包括:
请求接收服务器301、缓存控制服务器302以及缓存服务器303;其中,请求接收服务器301主要用于接收数据访问请求;缓存控制服务器302主要用于对各缓存进行控制,以及将请求接收服务器301接收的数据访问请求转发给缓存服务器303。
实际应用中,图3所示的系统包括的缓存服务器303可以为多台,图中示出2台作为示例;请求接收服务器301和缓存控制服务器302可以部署在独立的服务器中,也可以将请求接收服务器301部署在缓存控制服务器302中,由缓存控制服务器302实现数据访问请求的接收功能。
具体地,缓存控制服务器对缓存进行控制,主要包括增加或减少缓存的数量,为了实现此功能,该缓存控制服务器中可以维护如下信息:
1、保存各缓存信息与缓存服务器信息的对应关系。
具体地,缓存信息为用于唯一标识该缓存的信息,例如,缓存信息可以为该缓存的描述信息或为该缓存分配的标识、序列号等信息;缓存服务器信息为用于唯一标识该缓存服务器的信息,例如,缓存服务器信息可以为该缓存服务器的名称、地址、为该缓存服务器分配的标识等信息。为了节省存储空间,保存各缓存信息与缓存服务器信息的对应关系,可以保存缓存标识与缓存服务器标识的对应关系。实际应用中,一个缓存信息可能对应多个缓存服务器信息,在保存缓存信息与缓存服务器信息的对应关系时,需要保存该缓存信息分别与所对应的多个缓存服务器信息的对应关系,并且优选地,可以保存各缓存在各缓存服务器上的创建时间。
2、保存各缓存分别被访问的次数信息。
具体地,为了节省存储空间,保存各缓存分别被访问的次数信息,可以保存各缓存信息分别与被访问的次数的对应关系。优选地,一个缓存可能被保存在多个缓存服务器中,在保存各缓存分别被访问的次数时,可以保存该缓存在不同缓存服务器中分别被访问的次数,即保存每个数据访问请求所请求访问的缓存信息及该数据访问请求被转发到的缓存服务器信息的对应关系;优选地,也可以保存各缓存每次被访问的时间信息。
实际应用中,上述信息可以保存为一张缓存在线表,该缓存在线表可以包括如下字段:
缓存服务器信息(如缓存服务器标识)、缓存信息(如缓存标识)、被访问的次数、缓存创建时间(可选字段)以及最后一次访问时间(可选字段)。
优选地,缓存控制服务器为了对各缓存服务器的状态进行监控,还可以保存各缓存服务器的性能信息,如缓存服务器的CPU性能、内存大小等,以及保存各缓存服务器的性能上限,如,CPU上限参数、内存上限参数等。
图4示出了本发明实施例一提供的分布式缓存的控制方法的流程示意图,如图4所示,该控制方法主要包括如下步骤:
步骤401、缓存控制服务器根据保存的各缓存分别被访问的次数,确定各缓存分别对应的数据访问率。
该步骤中,确定各缓存分别对应的数据访问率,可以确定各缓存在设定时间段内的数据访问率,也可以确定各缓存自创建开始的数据访问率,其中,缓存对应的数据访问率即该缓存被访问的次数与时间长度的比值。
步骤402、缓存控制服务器根据确定出的各缓存分别对应的数据访问率与设定阈值的关系,确定出待控制的缓存信息以及对应该待控制的缓存信息的控制方式。
该步骤中,确定出的控制方式主要包括改变缓存的数量,如增加缓存数量或减少缓存数量,确定待控制的缓存信息以及对应该待控制的缓存的控制方式的详细过程将在后续实施例中说明,此处暂不说明。
步骤403、缓存控制服务器针对确定出的每个待控制的缓存信息,确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息。
步骤404、缓存控制服务器指示确定出的缓存服务器信息对应的缓存服务器按照确定出的对应该待控制的缓存信息的控制方式,对该待控制的缓存信息对应的缓存进行控制。
至此,缓存控制服务器对缓存进行控制的流程结束。
本发明实施例一提供了上述步骤402的优选实施方式,即缓存控制服务器根据确定出的各缓存分别对应的数据访问率与设定阈值的关系,确定待控制的缓存信息以及对应的控制方式的过程,如图5所示,主要包括如下步骤:
步骤501、根据各缓存分别对应的数据访问率,将对应的数据访问率大于第一设定阈值的缓存的缓存信息确定为待控制的缓存信息,并确定对应的控制方式为增加该待控制的缓存信息对应的缓存的数量;
步骤502、根据各缓存分别对应的数据访问率,将对应的数据访问率小于第二设定阈值的缓存的缓存信息确定为待控制的缓存信息,并确定对应的控制方式为减少该待控制的缓存信息对应的缓存的数量。
上述步骤中,第一设定阈值通常大于第二设定阈值,该第一设定阈值和第二设定阈值可以根据实际系统需求灵活设置,例如,该第一设定阈值和第二设定阈值通常可以参考各缓存的平均数据访问率设置,优选地,第一设定阈值通常大于该平均数据访问率,第二设定阈值通常小于该平均数据访问率。
至此,确定待控制的缓存信息以及对应的控制方式的流程结束。上述流程中,步骤501以及步骤502并无严格的执行顺序,也可以先执行步骤502再执行步骤501,或者将两个步骤并行执行。
本发明实施例一还提供了上述步骤403的两种优选实施方式,即缓存控制服务器确定满足对应待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息的两种优选实现过程,详述如下:
确定缓存服务器信息的优选实施方式一
确定出的控制方式为增加待控制的缓存信息对应的缓存的数量时,确定满足该控制方式对应的控制条件的缓存服务器信息,包括:
根据保存的各缓存信息与缓存服务器信息的对应关系,确定与该待控制的缓存信息对应的缓存服务器信息之外的缓存服务器信息,为满足该控制方式对应的控制条件的至少一个缓存服务器信息。根据该方式,当控制方式为增加该待控制的缓存信息对应的缓存的数量时,可以从已保存了该缓存的缓存服务器之外的其它缓存服务器中选择出缓存服务器对该缓存进行控制,即创建该缓存。
确定出的控制方式为减少该待控制的缓存信息对应的缓存的数量时,确定满足该控制方式对应的控制条件的缓存服务器信息,包括:
根据保存的各缓存信息与缓存服务器信息的对应关系,确定与该待控制的缓存信息对应的至少一个缓存服务器信息,为满足该控制方式对应的控制条件的缓存服务器信息。根据该方式,当控制方式为减少该待控制的缓存信息对应的缓存的数量时,可以从已保存了该缓存的缓存服务器中选择出缓存服务器对该缓存进行控制,即删除所保存的缓存。
确定缓存服务器信息的优选实施方式二:
该优选实施方式二中,需要预先获取各缓存服务器的负载信息,具体地,获取各缓存服务器的负载信息,可以是缓存控制服务器周期性主动获取,也可以是各缓存服务器周期性主动上报,若是各缓存服务器主动上报,则缓存控制服务器接收到缓存服务器上报的负载信息后,确定是否已保存该缓存服务器的负载信息,若是,则更新已保存的该缓存服务器的负载信息,若否,则添加该缓存服务器的负载信息。相应地,各缓存服务器为了满足向缓存控制服务器上报负载信息的需求,各缓存服务器上可以设置用于获取自身负载信息的模块,该模块可以获取自身负载信息,并将获取的负载信息主动或基于缓存控制服务器的指示上报给缓存控制服务器。进一步地,该模块还可以在监控到自身负载超过压力阈值时,将接收到的数据访问请求转发回缓存控制服务器,请求缓存控制服务器重新分配处理该数据访问请求的缓存服务器。
具体地,保存的缓存服务器的负载信息可以包括如下字段:
缓存服务器信息(如缓存服务器标识)、CPU利用率(百分比)、内存利用率(百分比)、更新时间戳(可选字段)。
在获取到各缓存服务器的负载信息后,缓存控制服务器确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息的优选实现过程,主要包括:
确定出的控制方式为增加该控制的缓存信息对应的缓存的数量时,确定满足该控制方式对应的控制条件的缓存服务器信息,包括:
根据保存的各缓存信息与缓存服务器信息的对应关系,确定与待控制的缓存信息对应的缓存服务器信息之外、且对应的缓存服务器的负载小于第三设定阈值的至少一个缓存服务器信息,为满足该控制方式对应的控制条件的缓存服务器信息。根据该方式,当控制方式为增加该待控制的缓存信息对应的缓存的数量时,可以从已保存了该缓存的缓存服务器之外的其它缓存服务器中选择出负载较小的缓存服务器对该缓存进行控制,即创建该缓存。其中,第三设定阈值可以根据所要选择出创建该缓存的缓存服务器的数量灵活确定,一般情况下,该第三设定阈值小于各缓存服务器的平均负载,且如果要选择的创建该缓存的缓存服务器的数量较多,则可以设置该第三设定阈值较大,以保证能够选择出满足数量的缓存服务器,如果要选择的创建该缓存的缓存服务器的数量少,则可以设置该第三设定阈值较小,以保证能够选择出负载尽量小的缓存服务器。
确定出的控制方式为减少该待控制的缓存信息对应的缓存的数量时,确定满足该控制方式对应的控制条件的缓存服务器信息,包括:
根据保存的各缓存信息与缓存服务器信息的对应关系,确定与待控制的缓存信息对应、且对应的缓存服务器的负载大于第四设定阈值的至少一个缓存服务器信息,为满足该控制方式对应的控制条件的缓存服务器信息。根据该方式,当控制方式为减少该待控制的缓存信息对应的缓存的数量时,可以从已保存了该缓存的缓存服务器中选择出负载较大的缓存服务器对该缓存进行控制,即删除所保存的缓存。其中,第四设定阈值可以根据所要选择出创建该缓存的缓存服务器的数量灵活确定,一般情况下,该第四设定阈值大于各缓存服务器的平均负载,且如果要选择的删除该缓存的缓存服务器的数量较多,则可以设置该第四设定阈值较小,以保证能够选择出满足数量的缓存服务器,如果要选择的删除该缓存的缓存服务器的数量少,则可以设置该第四设定阈值较大,以保证能够选择出负载尽量大的缓存服务器。实际应用中,选择出的要删除该缓存的缓存服务器的数量可以等于保存该缓存的所有缓存服务器的数量,即删除所有缓存服务器上保存的该缓存,销毁该缓存。
进一步地,该确定缓存服务器信息的优选实施方式二中,通过获取各缓存服务器的负载信息还可以对缓存服务器的状态进行监控,即缓存控制服务器在获取各缓存服务器的负载信息后,还执行确定缓存服务器的状态的流程,该流程如图6所示,主要包括如下步骤:
步骤601、缓存控制服务器根据保存的各缓存信息与缓存服务器信息的对应关系中包括的缓存服务器,确定是否存在未反馈负载信息的缓存服务器信息,若是,执行步骤602,若否,结束流程。
步骤602、删除该缓存信息与未反馈负载信息的缓存服务器信息的对应关系。
至此,确定缓存服务器的状态的流程结束。
通过图6对应流程的执行,缓存控制服务器可以在获取各缓存服务器的负载信息的过程中对缓存服务器的状态进行监控,若缓存服务器未反馈自身的负载信息,则确定该缓存服务器可能出现故障或暂时无法提供数据访问服务,在这种情况下可以优选地有两种处理方式:一种处理方式是直接删除该缓存服务器相关的记录,即删除缓存与该缓存服务器的对应关系,避免后续将数据访问请求转发至该缓存服务器而导致无法响应数据访问请求的问题,并在监控到该缓存服务器恢复正常工作后,在存在缓存创建需求时指示该缓存服务器创建新的缓存,并保存新创建的缓存的缓存信息和该缓存服务器信息的对应关系;另一种处理方式是对该缓存服务器相关的记录添加无效标识,即对缓存与该缓存服务器的对应关系添加无效标识,使该对应关系不可用,以避免后续将数据访问请求转发至该缓存服务器而导致无法响应数据访问请求的问题,并在监控到该缓存服务器恢复正常工作后,取消对该缓存服务器相关的记录添加的无效标识,使该缓存服务器能够针对保存的缓存提供数据访问服务,也可以进一步在存在缓存创建需求时指示该缓存服务器创建新的缓存,并保存该新创建的缓存的缓存信息和缓存服务器信息的对应关系。其中,监控缓存服务器是否恢复正常工作的方式可以灵活确定,例如,一种优选的监控方式可以为:针对该存在故障的缓存服务器发送周期性探测消息,若收到该缓存服务器针对该探测消息的反馈,则确定该缓存服务器恢复正常工作。
进一步地,该确定缓存服务器信息的优选实施方式二中,通过获取各缓存服务器的负载信息还可以对接入的数据访问请求进行控制,即缓存控制服务器获取各缓存服务器的负载信息后,还执行确定控制数据访问请求的流程,该流程如图7所示,主要包括如下步骤:
步骤701、根据各缓存服务器的负载信息,确定各缓存服务器的平均负载。
步骤702、判断确定出的平均负载是否大于第五设定阈值,若是,执行步骤703,若否,结束流程。
该步骤中,第五设定阈值可以灵活配置,主要用于对各缓存服务器中的负载进行控制,该第五设定阈值作为监控各缓存服务器的平均负载是否为高负载的临界值(若平均负载大于第五设定阈值,则确定为高负载),可以根据系统实际的承载能力以及业务量进行配置,例如,该第五设定阈值可以选取大于系统中各负载服务器的平均负载上限的50%的值,各负载服务器的平均负载上限即各缓存服务器的负载上限的平均值。实际应用中,若负载信息包括多个,也可以分别确定每个负载信息对应的平均负载值,并分别针对每个负载信息设置所对应的阈值。
步骤703、控制接入数据访问请求的数量或增加数据访问请求的缓存队列长度。
至此,控制数据访问请求的流程结束。通过该流程,在确定系统的平均负载较大时,可以及时对接入的数据访问请求进行控制,以保护系统稳定。
上述步骤701中,各缓存服务器的负载信息一般包括:CPU利用率信息以及内存利用率信息;根据各缓存服务器的负载信息,确定各缓存服务器的平均负载的具体方式如下:
平均CPU负载值=所有缓存服务器对应的CPU利用率百分比之和除以缓存服务器的数量;
平均内存负载值=所有缓存服务器对应的内存利用率百分比之和除以缓存服务器的数量;
平均负载可以根据平均CPU负载值与平均内存负载值确定,具体确定方式可以灵活设置,例如,利用CPU负载值以及平均内存负载率分别乘以对应的权重,将得到的两个值相加或取平均得到平均负载。
根据本发明实施例一提供的技术方案,缓存服务器一方面可以通过上述过程对各缓存进行控制,另一方面,也可以对来自访问终端的数据访问请求进行处理,例如,转发数据访问请求到对应的缓存服务器。
图8示出了缓存控制服务器对数据访问请求进行处理的流程示意图,如图8所示,主要包括如下步骤:
步骤801、缓存控制服务器接收数据访问请求,该数据访问请求中携带缓存信息。
该步骤可以在执行上述步骤401之前或之后执行,并且,在请求接收服务器和缓存控制服务器独立部署时,该数据访问请求是由请求接收服务器转发的,在请求接收服务器和缓存控制服务器部署在一个服务器上时,该数据访问请求是由访问终端发送的。
步骤802、根据保存的缓存信息与缓存服务器信息的对应关系,确定是否存在与该数据访问请求中携带的缓存信息对应的缓存服务器信息,若是,执行步骤803,若否,执行步骤804。
步骤803、将该数据访问请求发送给该缓存服务器信息对应的缓存服务器,并更新保存的该缓存信息对应的缓存被访问的次数,至此,流程结束。
该步骤803中,若与该数据访问请求中携带的缓存信息对应的缓存服务器信息为多个,则根据预先获取的该多个缓存服务器信息分别对应的缓存服务器的负载信息,将所述数据访问请求发送给具有最小负载的缓存服务器。
步骤804、根据预先获取的各缓存服务器分别对应的负载信息,确定至少一个负载小于第六设定阈值的缓存服务器信息,并向确定出的缓存服务器信息对应的缓存服务器发送创建该缓存信息对应的缓存的指示。
该步骤804中,第六设定阈值可以灵活设置,通常设置为小于平均负载。
至此,缓存服务器对数据访问请求的处理流程结束。
本发明实施例一提供的一个优选实施方式中,在执行上述步骤803之后,缓存服务器接收到缓存控制服务器发送的数据访问请求后,对该数据访问请求进行处理,即根据该数据访问请求,向该数据访问请求的发送方提供相应的业务数据。在实际应用中,可能存在针对一个缓存服务器保存的缓存的并发访问请求,在并发量较大时,可能导致该缓存服务器的负载在短时间内提升,在此情况下,缓存服务器在接收到缓存控制服务器发送的数据访问请求后,若发现自身由于负载过大(例如,负载超过压力阈值)等原因无法对该数据访问请求进行处理时,则将该数据访问请求转发给缓存控制服务器请求重新分配对该数据访问请求进行处理的缓存服务器,缓存控制服务器会根据保存的该缓存信息与缓存服务器信息的对应关系,重新选择与该缓存信息对应的缓存服务器转发该数据访问请求,优选地,该重新选择的缓存服务器为除已选择过的缓存服务器之外的负载最小的缓存服务器。
进一步地,在缓存控制服务器接收到缓存服务器发送的数据访问请求后,为了减少该缓存服务器的负载,缓存控制服务器可以确定设定时长(如1分钟)内该缓存服务器上保存的各缓存的数据访问率,并根据确定出的数据访问率对该缓存服务器上的负载进行控制,具体地,控制方式可以为:确定出数据访问率最低的至少一个负载,指示该缓存服务器删除选择出的负载,优选地,可以指示其它负载较低的缓存服务器创建该删除的负载;控制方式还可以为:设置一个阈值,确定是否存在数据访问率低于该阈值的缓存,若存在,则删除该缓存,若不存在,则选择出数据访问率较高的一个或多个缓存,并指示其他负载较低的缓存服务器创建该缓存,以减少该缓存服务器的负担。
本发明实施例一提供的一个优选实施方式中,在执行上述步骤804之后,即缓存控制服务器向确定出的缓存服务器发送创建该缓存信息对应的缓存的指示之后,还包括如下步骤:
接收到缓存服务器发送的缓存创建成功响应,将该数据访问请求发送给发送该缓存创建成功响应的缓存服务器中的一个缓存服务器,并更新保存的该缓存信息对应的缓存被访问的次数。
本发明实施例一提供的上述技术方案中,缓存服务器创建缓存后,需要进一步获取数据以保存在创建的缓存中供后续访问,具体地,缓存服务器获取待存入缓存的数据的方式可以根据系统配置灵活确定,例如,在缓存服务器与业务类型对应的情况下,即该缓存服务器固定存储设定业务类型的数据,则缓存服务器接收到缓存控制服务器发送的缓存创建指示后,从与其对应的业务类型所对应的业务服务器中获取相应的业务数据,并且随着业务的进行可以更新保存在缓存中的业务数据;在缓存服务器与业务类型不存在对应关系的情况下,缓存控制服务器可以在发送给缓存服务器的缓存创建指示中携带数据标识,该数据标识用于指示缓存服务器根据该数据标识获取相应的数据,具体地,该数据标识可以为数据接口信息、数据存储路径、数据库名称、文件名等用于标识数据存储位置的信息,也可以为业务标识等用于标识数据归属的信息。
通过本发明实施例提供的上述至少一个技术方案,根据保存的各缓存分别被访问的次数,确定各缓存分别对应的数据访问率,根据确定出的各缓存分别对应的数据访问率与设定阈值的关系,确定出待控制的缓存以及对应待控制的缓存信息的控制方式,然后针对确定出的每个待控制的缓存信息,确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息,并指示确定出的缓存服务器信息对应的缓存服务器按照对应该待控制的缓存信息的控制方式,对待控制的缓存信息对应的缓存进行控制。根据该技术方案,能够根据各缓存分别被访问的次数对缓存进行动态控制,与现有技术相比,避免了由于数据访问率的不均衡而导致的缓存服务器资源闲置或缓存服务器负载过大的问题,从而能够均衡系统中的服务器资源,提高系统服务器资源的利用率。
实施例二
相应地,与上述方法流程对应,本发明实施例二提供了一种分布式缓存的控制装置,如图9所示,该分布式缓存的控制装置,主要包括:
访问率确定单元901、控制方式确定单元902、缓存服务器确定单元903以及控制单元904;
其中:
访问率确定单元901,用于根据保存的各缓存分别被访问的次数,确定各缓存分别对应的数据访问率;
控制方式确定单元902,用于根据访问率确定单元901确定出的各缓存分别对应的数据访问率与设定阈值的关系,确定出待控制的缓存信息以及对应待控制的缓存信息的控制方式;
缓存服务器确定单元903,用于针对控制方式确定单元902确定出的每个待控制的缓存信息,确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息;
控制单元904,用于指示缓存服务器确定单元903确定出的缓存服务器信息对应的缓存服务器按照对应该待控制的缓存信息的控制方式,对该待控制的缓存信息对应的缓存进行控制。
本发明实施例二提供的一个优选实施方式中,图9所示的装置包括的控制方式确定单元902,具体用于在缓存对应的数据访问率大于第一设定阈值时,确定该缓存的缓存信息为待控制的缓存信息,并确定对应该待控制的缓存信息的控制方式为增加该待控制的缓存信息对应的缓存的数量;在缓存对应的数据访问率小于第二设定阈值时,确定该缓存的缓存信息为待控制的缓存信息,并确定对应该待控制的缓存信息的控制方式为减少该待控制的缓存信息对应的缓存的数量,其中,第一设定阈值大于第二设定阈值。
本发明实施例二提供的一个优选实施方式中,图9所示的装置包括的缓存服务器确定单元903,具体用于在对应该待控制的缓存信息的控制方式为增加该待控制的缓存信息对应的缓存的数量时,根据保存的各缓存信息与缓存服务器信息的对应关系,确定与待控制的缓存信息对应的缓存服务器信息之外的至少一个缓存服务器信息,为满足控制条件的缓存服务器信息;在对应该待控制的缓存信息的控制方式为减少该待控制的缓存信息对应的缓存的数量时,根据保存的各缓存信息与缓存服务器信息的对应关系,确定与待控制的缓存信息对应的至少一个缓存服务器信息,为满足控制条件的缓存服务器信息。
如图10所示,本发明实施例二提供的一个优选实施方式中,图9所示的装置还可以进一步包括:
负载信息获取单元905,用于在缓存服务器确定单元903确定满足控制方式对应的控制条件的缓存服务器之前,获取各缓存服务器的负载信息;
相应地,缓存服务器确定单元903,具体用于在对应该待控制的缓存信息的控制方式为增加该待控制的缓存信息对应的缓存的数量时,根据保存的各缓存信息与缓存服务器信息的对应关系,确定与待控制的缓存信息对应的缓存服务器信息之外、且对应的缓存服务器的负载小于第三设定阈值的至少一个缓存服务器信息,为满足控制条件的缓存服务器信息;在对应该待控制的缓存信息的控制方式为减少该待控制的缓存信息对应的缓存的数量时,根据保存的各缓存信息与缓存服务器信息的对应关系,确定与待控制的缓存信息对应、且对应的缓存服务器的负载大于第四设定阈值的至少一个缓存服务器信息,为满足控制条件的缓存服务器信息。
如图11所示,本发明实施例二提供的一个优选实施方式中,图10所示的装置还可以进一步包括:
对应关系更新单元906,用于在负载信息获取单元905获取各缓存服务器的负载信息后,根据保存的各缓存信息与缓存服务器信息的对应关系中包括的缓存服务器信息确定存在未反馈负载信息的缓存服务器信息时,删除保存的缓存信息与未反馈负载信息的缓存服务器信息的对应关系或标识保存的缓存信息与所述未反馈负载信息的缓存服务器信息的对应关系无效。
如图12所示,本发明实施例二提供的一个优选实施方式中,图10所示的装置还可以进一步包括:
访问控制单元907,用于在负载信息获取单元905获取各缓存服务器的负载信息后,根据各缓存服务器的负载信息,确定各缓存服务器的平均负载;在平均负载大于第五设定阈值时,控制接入数据访问请求的数量或增加数据访问请求的缓存队列长度。
如图13所示,本发明实施例二提供的一个优选实施方式中,图9所示的装置还可以进一步包括:
数据访问请求处理单元908,用于在访问率确定单元901确定各缓存分别对应的数据访问率之前或之后,接收数据访问请求,数据访问请求中携带缓存信息;根据保存的缓存信息与缓存服务器信息的对应关系,确定是否存在与数据访问请求中携带的缓存信息对应的缓存服务器信息;在确定存在缓存服务器信息时,将数据访问请求发送给确定出的缓存服务器信息对应的缓存服务器,并更新保存的缓存信息对应的缓存被访问的次数。
本发明实施例二提供的一个优选实施方式中,图12所示的装置包括的数据访问请求处理单元908,具体用于在与数据访问请求中携带的缓存信息对应的缓存服务器信息为多个时,根据预先获取的多个缓存服务器信息分别对应的缓存服务器的负载信息,将数据访问请求发送给具有最小负载的缓存服务器。
本发明实施例二提供的一个优选实施方式中,图13所示的装置包括的数据访问请求处理单元908,还用于:
在确定不存在与数据访问请求中携带的缓存信息对应的缓存服务器信息时,根据预先获取的各缓存服务器的负载信息,确定至少一个负载小于第六设定阈值的缓存服务器信息,并向确定出的缓存服务器信息对应的缓存服务器发送创建缓存信息对应的缓存的指示。
本发明实施例二提供的一个优选实施方式中,图13所示的装置包括的数据访问请求处理单元908,还用于向确定出的缓存服务器信息对应的缓存服务器发送创建缓存信息对应的缓存的指示之后,接收缓存服务器发送的缓存创建成功响应,将数据访问请求发送给发送缓存创建成功响应的缓存服务器中的一个缓存服务器,并更新保存的缓存信息对应的缓存被访问的次数。
应当理解,以上分布式缓存的控制装置包括的单元仅为根据该装置实现的功能进行的逻辑划分,实际应用中,可以进行上述单元的叠加或拆分。并且该实施例二提供的分布式缓存的控制装置所实现的功能与上述实施例一提供的分布式缓存的控制方法流程一一对应,对于该装置所实现的更为详细的处理流程,在上述方法实施例一中已做详细描述,此处不再详细描述。
并且,本实施例二中的分布式缓存的控制装置还具有能够实现实施例一方案的功能模块,此处不再赘述。
实施例三
相应地,与上述方法流程对应,本发明实施例二提供了一种分布式缓存的控制系统,如图14所示,该分布式缓存的控制系统,主要包括:
分布式缓存的控制装置1401以及缓存服务器1402(图中画出2个作为示例,实际应用中数量可以根据数据缓存量灵活设置);
其中:
分布式缓存的控制装置1401,用于根据保存的各缓存分别被访问的次数,确定所述各缓存分别对应的数据访问率;根据确定出的各缓存分别对应的数据访问率与设定阈值的关系,确定出待控制的缓存信息以及对应待控制的缓存信息的控制方式;针对确定出的每个待控制的缓存信息,确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息,并指示确定出的所述缓存服务器信息对应的缓存服务器1402按照对应该待控制的缓存信息的控制方式,对该待控制的缓存信息对应的缓存进行控制;
缓存服务器1402,用于根据分布式缓存的控制装置1401的指示,按照所述分布式缓存的控制装置1401确定出的控制方式信息对所述分布式缓存的控制装置1401确定出的待控制的缓存信息对应的缓存进行控制。
该实施例三中,分布式缓存的控制装置1401所实现的功能已在上述实施例二中详细描述,此处不再赘述。
尽管已描述了本申请的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本申请范围的所有变更和修改。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。
Claims (21)
1.一种分布式缓存的控制方法,其特征在于,包括:
根据保存的各缓存分别被访问的次数,确定所述各缓存分别对应的数据访问率;
根据确定出的各缓存分别对应的数据访问率与设定阈值的关系,确定出待控制的缓存信息以及对应待控制的缓存信息的控制方式;
针对确定出的每个待控制的缓存信息,确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息,并指示确定出的所述缓存服务器信息对应的缓存服务器按照对应该待控制的缓存信息的控制方式,对该待控制的缓存信息对应的缓存进行控制。
2.如权利要求1所述的方法,其特征在于,根据确定出的各缓存分别对应的数据访问率与设定阈值的关系,确定出待控制的缓存信息以及对应待控制的缓存信息的控制方式信息,包括:
在缓存对应的数据访问率大于第一设定阈值时,确定该缓存的缓存信息为待控制的缓存信息,并确定对应该待控制的缓存信息的控制方式为增加该待控制的缓存信息对应的缓存的数量;
在缓存对应的数据访问率小于第二设定阈值时,确定该缓存的缓存信息为待控制的缓存信息,并确定对应该待控制的缓存信息的控制方式为减少该待控制的缓存信息对应的缓存的数量;
其中,所述第一设定阈值大于所述第二设定阈值。
3.如权利要求2所述的方法,其特征在于,确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息,包括:
在对应该待控制的缓存信息的控制方式为增加该待控制的缓存信息对应的缓存的数量时,根据保存的各缓存信息与缓存服务器信息的对应关系,确定与所述待控制的缓存信息对应的缓存服务器信息之外的至少一个缓存服务器信息,为满足所述控制条件的缓存服务器信息;
在对应该待控制的缓存信息的控制方式为减少该待控制的缓存信息对应的缓存的数量时,根据保存的各缓存信息与缓存服务器信息的对应关系,确定与所述待控制的缓存信息对应的至少一个缓存服务器信息,为满足所述控制条件的缓存服务器信息。
4.如权利要求2所述的方法,其特征在于,在确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息之前,还包括:
获取各缓存服务器的负载信息;
确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器,包括:
在对应该待控制的缓存信息的控制方式为增加该待控制的缓存信息对应的缓存的数量时,根据保存的各缓存信息与缓存服务器信息的对应关系,确定与所述待控制的缓存信息对应的缓存服务器信息之外、且对应的缓存服务器的负载小于第三设定阈值的至少一个缓存服务器信息,为满足所述控制条件的缓存服务器信息;
在对应该待控制的缓存信息的控制方式为减少该待控制的缓存信息对应的缓存的数量时,根据保存的各缓存信息与缓存服务器信息的对应关系,确定与所述待控制的缓存信息对应、且对应的缓存服务器的负载大于第四设定阈值的至少一个缓存服务器信息,为满足所述控制条件的缓存服务器信息。
5.如权利要求4所述的方法,其特征在于,获取各缓存服务器的负载信息后,还包括:
在根据保存的各缓存信息与缓存服务器信息的对应关系中包括的缓存服务器信息确定存在未反馈负载信息的缓存服务器信息时,删除保存的缓存信息与所述未反馈负载信息的缓存服务器信息的对应关系或标识保存的缓存信息与所述未反馈负载信息的缓存服务器信息的对应关系无效。
6.如权利要求4所述的方法,其特征在于,获取各缓存服务器的负载信息后,还包括:
根据所述各缓存服务器的负载信息,确定所述各缓存服务器的平均负载;
在所述平均负载大于第五设定阈值时,控制接入数据访问请求的数量或增加数据访问请求的缓存队列长度。
7.如权利要求1所述的方法,其特征在于,在确定所述各缓存分别对应的数据访问率之前或之后,还包括:
接收数据访问请求,所述数据访问请求中携带缓存信息;
根据保存的缓存信息与缓存服务器信息的对应关系,确定是否存在与所述数据访问请求中携带的缓存信息对应的缓存服务器信息;
在确定存在所述缓存服务器信息时,将所述数据访问请求发送给所述缓存服务器信息对应的缓存服务器,并更新保存的所述缓存信息对应的缓存被访问的次数。
8.如权利要求7所述的方法,其特征在于,若与所述数据访问请求中携带的缓存信息对应的缓存服务器信息为多个,将所述数据访问请求发送给确定出的缓存服务器信息对应的缓存服务器,包括:
根据预先获取的所述多个缓存服务器信息分别对应的缓存服务器的负载信息,将所述数据访问请求发送给具有最小负载的缓存服务器。
9.如权利要求7所述的方法,其特征在于,在确定不存在所述缓存服务器信息时,还包括:
根据预先获取的各缓存服务器的负载信息,确定至少一个负载小于第六设定阈值的缓存服务器信息,并向确定出的所述缓存服务器信息对应的缓存服务器发送创建所述缓存信息对应的缓存的指示。
10.如权利要求9所述的方法,其特征在于,向确定出的所述缓存服务器信息对应的缓存服务器发送创建所述缓存信息对应的缓存的指示之后,还包括:
接收所述缓存服务器发送的缓存创建成功响应,将所述数据访问请求发送给发送所述缓存创建成功响应的缓存服务器中的一个缓存服务器,并更新保存的所述缓存信息对应的缓存被访问的次数。
11.一种分布式缓存的控制装置,其特征在于,包括:
访问率确定单元,用于根据保存的各缓存分别被访问的次数,确定所述各缓存分别对应的数据访问率;
控制方式确定单元,用于根据确定出的各缓存分别对应的数据访问率与设定阈值的关系,确定出待控制的缓存信息以及对应待控制的缓存信息的控制方式;
缓存服务器确定单元,用于针对确定出的每个待控制的缓存信息,确定满足对应该待控制的缓存信息的控制方式对应的控制条件的缓存服务器信息;
控制单元,用于指示所述缓存服务器确定单元确定出的所述缓存服务器信息对应的缓存服务器按照对应该待控制的缓存信息的控制方式,对该待控制的缓存信息对应的缓存进行控制。
12.如权利要求11所述的装置,其特征在于,所述控制方式确定单元,具体用于在缓存对应的数据访问率大于第一设定阈值时,确定该缓存的缓存信息为待控制的缓存信息,并确定对应该待控制的缓存信息的控制方式为增加该待控制的缓存信息对应的缓存的数量;在缓存对应的数据访问率小于第二设定阈值时,确定该缓存的缓存信息为待控制的缓存信息,并确定对应该待控制的缓存信息的控制方式为减少该待控制的缓存信息对应的缓存的数量,其中,所述第一设定阈值大于所述第二设定阈值。
13.如权利要求12所述的装置,其特征在于,所述缓存服务器确定单元,具体用于在对应该待控制的缓存信息的控制方式为增加该待控制的缓存信息对应的缓存的数量时,根据保存的各缓存信息与缓存服务器信息的对应关系,确定与所述待控制的缓存信息对应的缓存服务器信息之外的至少一个缓存服务器信息,为满足所述控制条件的缓存服务器信息;在对应该待控制的缓存信息的控制方式为减少该待控制的缓存信息对应的缓存的数量时,根据保存的各缓存信息与缓存服务器信息的对应关系,确定与所述待控制的缓存信息对应的至少一个缓存服务器信息,为满足所述控制条件的缓存服务器信息。
14.如权利要求12所述的装置,其特征在于,还包括:
负载信息获取单元,用于在所述缓存服务器确定单元确定满足所述控制条件的缓存服务器之前,获取各缓存服务器的负载信息;
所述缓存服务器确定单元,具体用于在对应该待控制的缓存信息的控制方式为增加该待控制的缓存信息对应的缓存的数量时,根据保存的各缓存信息与缓存服务器信息的对应关系,确定与所述待控制的缓存信息对应的缓存服务器信息之外、且对应的缓存服务器的负载小于第三设定阈值的至少一个缓存服务器信息,为满足所述控制条件的缓存服务器信息;在对应该待控制的缓存信息的控制方式为减少该待控制的缓存信息对应的缓存的数量时,根据保存的各缓存信息与缓存服务器信息的对应关系,确定与所述待控制的缓存信息对应、且对应的缓存服务器的负载大于第四设定阈值的至少一个缓存服务器信息,为满足所述控制条件的缓存服务器信息。
15.如权利要求14所述的装置,其特征在于,还包括:
对应关系更新单元,用于在所述负载信息获取单元获取各缓存服务器的负载信息后,根据保存的各缓存信息与缓存服务器信息的对应关系中包括的缓存服务器信息确定存在未反馈负载信息的缓存服务器信息时,删除保存的缓存信息与所述未反馈负载信息的缓存服务器信息的对应关系或标识保存的缓存信息与所述未反馈负载信息的缓存服务器信息的对应关系无效。
16.如权利要求14所述的装置,其特征在于,还包括:
访问控制单元,用于在所述负载信息获取单元获取各缓存服务器的负载信息后,根据所述各缓存服务器的负载信息,确定所述各缓存服务器的平均负载;在所述平均负载大于第五设定阈值时,控制接入数据访问请求的数量或增加数据访问请求的缓存队列长度。
17.如权利要求11所述的装置,其特征在于,还包括:
数据访问请求处理单元,用于在所述访问率确定单元确定所述各缓存分别对应的数据访问率之前或之后,接收数据访问请求,所述数据访问请求中携带缓存信息;根据保存的缓存信息与缓存服务器信息的对应关系,确定是否存在与所述数据访问请求中携带的缓存信息对应的缓存服务器信息;在确定存在所述缓存服务器信息时,将所述数据访问请求发送给确定出的所述缓存服务器信息对应的缓存服务器,并更新保存的所述缓存信息对应的缓存被访问的次数。
18.如权利要求17所述的装置,其特征在于,所述数据访问请求处理单元,具体用于在与所述数据访问请求中携带的缓存信息对应的缓存服务器信息为多个时,根据预先获取的所述多个缓存服务器信息分别对应的缓存服务器的负载信息,将所述数据访问请求发送给具有最小负载的缓存服务器。
19.如权利要求17所述的装置,其特征在于,所述数据访问请求处理单元,还用于在确定不存在所述缓存服务器信息时,根据预先获取的各缓存服务器的负载信息,确定至少一个负载小于第六设定阈值的缓存服务器信息,并向确定出的所述缓存服务器信息对应的缓存服务器发送创建所述缓存信息对应的缓存的指示。
20.如权利要求19所述的装置,其特征在于,所述数据访问请求处理单元,还用于向确定出的所述缓存服务器信息对应的缓存服务器发送创建所述缓存信息对应的缓存的指示之后,接收所述缓存服务器发送的缓存创建成功响应,将所述数据访问请求发送给发送所述缓存创建成功响应的缓存服务器中的一个缓存服务器,并更新保存的所述缓存信息对应的缓存被访问的次数。
21.一种分布式缓存的控制系统,其特征在于,包括:权利要求11至权利要求20任一项所述的分布式缓存的控制装置以及缓存服务器;其中,所述缓存服务器,用于根据所述分布式缓存的控制装置的指示,按照所述分布式缓存的控制装置确定出的控制方式信息对所述分布式缓存的控制装置确定出的待控制的缓存信息对应的缓存进行控制。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201110207379.XA CN102263822B (zh) | 2011-07-22 | 2011-07-22 | 一种分布式缓存的控制方法、系统及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201110207379.XA CN102263822B (zh) | 2011-07-22 | 2011-07-22 | 一种分布式缓存的控制方法、系统及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102263822A true CN102263822A (zh) | 2011-11-30 |
CN102263822B CN102263822B (zh) | 2014-01-22 |
Family
ID=45010270
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201110207379.XA Active CN102263822B (zh) | 2011-07-22 | 2011-07-22 | 一种分布式缓存的控制方法、系统及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102263822B (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103023995A (zh) * | 2012-11-29 | 2013-04-03 | 中国电力科学研究院 | 一种基于Hadoop的分布式云存储自动分级数据管理系统 |
CN103236989A (zh) * | 2013-04-25 | 2013-08-07 | 青岛海信传媒网络技术有限公司 | 一种内容分发网络中的缓存控制方法、设备及系统 |
CN104113599A (zh) * | 2014-07-22 | 2014-10-22 | 北京星网锐捷网络技术有限公司 | 一种缓存方法、装置及代理服务器 |
WO2016082205A1 (zh) * | 2014-11-28 | 2016-06-02 | 华为技术有限公司 | 一种多级缓存的功耗控制方法、装置及设备 |
CN107239341A (zh) * | 2017-05-27 | 2017-10-10 | 郑州云海信息技术有限公司 | 一种资源折算方法、系统及虚拟机资源调度系统 |
CN108536617A (zh) * | 2018-03-30 | 2018-09-14 | 网易宝有限公司 | 缓存管理方法、介质、系统和电子设备 |
CN109582895A (zh) * | 2018-12-04 | 2019-04-05 | 山东浪潮通软信息科技有限公司 | 一种缓存实现方法 |
CN110650217A (zh) * | 2019-11-07 | 2020-01-03 | 黄颖 | 一种下载服务器的负载均衡方法 |
CN111597213A (zh) * | 2019-02-21 | 2020-08-28 | 北京京东尚科信息技术有限公司 | 一种缓存方法、软件服务器及存储介质 |
CN113343088A (zh) * | 2021-06-09 | 2021-09-03 | 北京奇艺世纪科技有限公司 | 数据处理方法、系统、装置、设备及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030217113A1 (en) * | 2002-04-08 | 2003-11-20 | Microsoft Corporation | Caching techniques for streaming media |
CN101668046A (zh) * | 2009-10-13 | 2010-03-10 | 成都市华为赛门铁克科技有限公司 | 资源缓存方法、资源获取方法及其装置、系统 |
CN101764824A (zh) * | 2010-01-28 | 2010-06-30 | 深圳市同洲电子股份有限公司 | 一种分布式缓存控制方法、装置及系统 |
-
2011
- 2011-07-22 CN CN201110207379.XA patent/CN102263822B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030217113A1 (en) * | 2002-04-08 | 2003-11-20 | Microsoft Corporation | Caching techniques for streaming media |
CN101668046A (zh) * | 2009-10-13 | 2010-03-10 | 成都市华为赛门铁克科技有限公司 | 资源缓存方法、资源获取方法及其装置、系统 |
CN101764824A (zh) * | 2010-01-28 | 2010-06-30 | 深圳市同洲电子股份有限公司 | 一种分布式缓存控制方法、装置及系统 |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103023995B (zh) * | 2012-11-29 | 2015-09-09 | 中国电力科学研究院 | 一种基于Hadoop的分布式云存储自动分级数据管理系统 |
CN103023995A (zh) * | 2012-11-29 | 2013-04-03 | 中国电力科学研究院 | 一种基于Hadoop的分布式云存储自动分级数据管理系统 |
CN103236989A (zh) * | 2013-04-25 | 2013-08-07 | 青岛海信传媒网络技术有限公司 | 一种内容分发网络中的缓存控制方法、设备及系统 |
CN104113599A (zh) * | 2014-07-22 | 2014-10-22 | 北京星网锐捷网络技术有限公司 | 一种缓存方法、装置及代理服务器 |
CN104113599B (zh) * | 2014-07-22 | 2017-06-23 | 北京星网锐捷网络技术有限公司 | 一种缓存方法、装置及代理服务器 |
WO2016082205A1 (zh) * | 2014-11-28 | 2016-06-02 | 华为技术有限公司 | 一种多级缓存的功耗控制方法、装置及设备 |
CN107239341B (zh) * | 2017-05-27 | 2020-09-18 | 苏州浪潮智能科技有限公司 | 一种资源折算方法、系统及虚拟机资源调度系统 |
CN107239341A (zh) * | 2017-05-27 | 2017-10-10 | 郑州云海信息技术有限公司 | 一种资源折算方法、系统及虚拟机资源调度系统 |
CN108536617A (zh) * | 2018-03-30 | 2018-09-14 | 网易宝有限公司 | 缓存管理方法、介质、系统和电子设备 |
CN108536617B (zh) * | 2018-03-30 | 2021-03-05 | 网易宝有限公司 | 缓存管理方法、介质、系统和电子设备 |
CN109582895A (zh) * | 2018-12-04 | 2019-04-05 | 山东浪潮通软信息科技有限公司 | 一种缓存实现方法 |
CN111597213A (zh) * | 2019-02-21 | 2020-08-28 | 北京京东尚科信息技术有限公司 | 一种缓存方法、软件服务器及存储介质 |
CN111597213B (zh) * | 2019-02-21 | 2023-05-30 | 北京京东尚科信息技术有限公司 | 一种缓存方法、软件服务器及存储介质 |
CN110650217B (zh) * | 2019-11-07 | 2021-01-05 | 江苏康融科技有限公司 | 一种下载服务器的负载均衡方法 |
CN110650217A (zh) * | 2019-11-07 | 2020-01-03 | 黄颖 | 一种下载服务器的负载均衡方法 |
CN113343088A (zh) * | 2021-06-09 | 2021-09-03 | 北京奇艺世纪科技有限公司 | 数据处理方法、系统、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN102263822B (zh) | 2014-01-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102263822B (zh) | 一种分布式缓存的控制方法、系统及装置 | |
US10911530B2 (en) | Content delivery method, virtual server management method, cloud platform, and system | |
US9330004B2 (en) | Data processing method, cache node, collaboration controller, and system | |
US10292044B2 (en) | Apparatus for end-user transparent utilization of computational, storage, and network capacity of mobile devices, and associated methods | |
CN105933391A (zh) | 一种节点扩容方法、装置及系统 | |
CN103207841A (zh) | 基于键值对缓存的数据读写方法及装置 | |
EP2227016A1 (en) | A content buffering, querying method and point-to-point media transmitting system | |
CN110308983A (zh) | 资源负载均衡方法及系统、服务节点和客户端 | |
CN106713378B (zh) | 实现多个应用服务器提供服务的方法和系统 | |
CN104994156A (zh) | 一种集群的负载均衡方法及系统 | |
US20060174101A1 (en) | Systems, methods, and software for distributed loading of databases | |
CN107395458B (zh) | 系统监控方法及装置 | |
CN102891894A (zh) | 应用于服务器集群的缓存方法、缓存服务器及缓存系统 | |
US9703638B2 (en) | System and method for supporting asynchronous invocation in a distributed data grid | |
CN111371866B (zh) | 一种处理业务请求的方法和装置 | |
CN104750757A (zh) | 一种基于HBase的数据存储方法和设备 | |
KR20120025658A (ko) | 캐시 클라우드 구조를 이용한 캐시 시스템 및 캐싱 서비스 제공 방법 | |
CN101467391A (zh) | 媒体资源分配的方法、装置和系统 | |
JP2003122658A (ja) | データ配送方法 | |
CN107508700B (zh) | 容灾方法、装置、设备及存储介质 | |
CN114900449B (zh) | 一种资源信息管理方法、系统及装置 | |
CN107180034A (zh) | MySQL数据库的集群系统 | |
JP2011209811A (ja) | 仮想マシンシステムおよび仮想マシン配置方法 | |
CN102316018A (zh) | 一种网络节点设备中路由表的更新方法以及网络节点设备 | |
CN110581873B (zh) | 一种跨集群重定向方法及监控服务器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20201216 Address after: 200030 full floor, 4 / F, 190 Guyi Road, Xuhui District, Shanghai Patentee after: Shanghai Ruishan Network Co., Ltd Address before: 100036 11 / F, East Building, Zhongyi pengao building, 29 Fuxing Road, Haidian District, Beijing Patentee before: Beijing Star-Net Ruijie Networks Co.,Ltd. |