CN102204218B - 数据处理方法、缓存节点、协作控制器及系统 - Google Patents
数据处理方法、缓存节点、协作控制器及系统 Download PDFInfo
- Publication number
- CN102204218B CN102204218B CN201180000652.XA CN201180000652A CN102204218B CN 102204218 B CN102204218 B CN 102204218B CN 201180000652 A CN201180000652 A CN 201180000652A CN 102204218 B CN102204218 B CN 102204218B
- Authority
- CN
- China
- Prior art keywords
- cache node
- data content
- space
- cooperation
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
- G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
- G06F12/0806—Multiuser, multiprocessor or multiprocessing cache systems
- G06F12/0815—Cache consistency protocols
- G06F12/0817—Cache consistency protocols using directory methods
- G06F12/0824—Distributed directories, e.g. linked lists of caches
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
- H04L67/568—Storing data temporarily at an intermediate stage, e.g. caching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
- G06F12/12—Replacement control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
- H04L67/568—Storing data temporarily at an intermediate stage, e.g. caching
- H04L67/5682—Policies or rules for updating, deleting or replacing the stored data
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Information Transfer Between Computers (AREA)
- Memory System Of A Hierarchy Structure (AREA)
Abstract
本申请公开了一种数据处理方法,基于数据缓存的缓存节点群组,所述群组中任一缓存节点包括:用于对本地客户端访问的数据进行保存的本地替换空间及用于对非本地客户端访问的数据内容进行保存的协作替换空间,通过所述数据处理方法对缓存节点本地替换空间和协作替换空间中存储的数据内容进行处理,使客户端在访问缓存节点的过程中对数据的获取更加准确直接,满足了缓存节点本地优化的不同需求。同时各个缓存节点的构造一致,当某一客户端访问本地缓存节点未能查找到所需的数据内容时,可通过数据协作访问其它客户端的缓存节点获取所需数据,在保证了缓存节点群组中全局数据缓存的基础上,对单个缓存节点的数据获取进行了优化。
Description
技术领域
本申请涉及网络通信领域,特别是涉及一种数据处理方法、缓存节点、协作控制器及系统。
背景技术
随着宽带接入的普及以及基于流媒体的宽带应用的迅速发展,CDN被发现是一种能够有效缓解流媒体传输的高吞吐率对骨干网络带来的压力,同时提升流媒体服务质量的有效手段。因此,近年来,CDN得到越来越多的重视,并在国内外得到广泛的部署,而流媒体内容也取代Web内容成为CDN的主要承载对象。
CDN的核心思想是将数据内容从中心网络推到边缘靠近用户的地方,这样,不但有效提高了用户访问内容的性能,而且有效减轻了中心设备和骨干网络的压力,通过CDN可以将内容从原来的单一中心结构变为分布式的结构。
单个CDN服务器相当于一个缓存节点,其缓存和服务能力有限,因此需要建立一个由多个CDN服务器组成的缓存节点群组通过协同缓存的方式进行协同工作,充分利用各个CDN服务器彼此的缓存空间提高命中率、分散热点数据、均衡各服务器负载,避免单点出错和解决瓶颈问题。
现有的CDN缓存节点,其内部的单一存储空间即存储用于本地访问的本地数据内容又存储用于非本地访问的协作数据内容,且在参与协作的过程中,只考虑协作的全局目标,参与协作的CDN缓存节点完全对等,忽略了缓存的本地优化的不同需求。
发明内容
为解决上述技术问题,本申请实施例提供一种数据处理方法、缓存节点、协作控制器及系统,综合协作的全局及单个缓存节点,有效的对参与的协作的数据进行处理。
技术方案如下:
一种数据处理方法,应用于协作控制器,该方法基于数据缓存的缓存节点群组,所述群组中任一缓存节点包括:用于对本地客户端访问的数据进行保存的本地替换空间及用于对非本地客户端访问的数据内容进行保存的协作替换空间;
所述方法包括:
获取所述缓存节点群组中各个缓存节点所在拓扑链路的链路利用率;
依据所述链路利用率对各个缓存节点在所述缓存节点群组中参与协作的比例进行调整;
其中,所述对各个缓存节点在所述缓存节点群组中参与协作的比例进行调整的过程包括:
计算所述缓存节点群组中各个缓存节点的平均链路利用率及各个缓存节点的当前链路利用率与所述平均链路利用率之间的绝对差值;
以预设的参与协作的基本调整粒度为基准值,确定针对所述绝对差值的调整信息;
将所述调整信息分别发送至与其对应的缓存节点,控制所述缓存节点依据所述调整信息对其参与协作的比例进行调整;
其中,所述确定的针对所述绝对差值的调整信息包括调整方向信息;所述调整方向信息中包括控制所述缓存节点协作替换空间中的数据内容进行转移的转移指令及目标转移缓存节点的物理地址;
则依据所述转移指令控制所述缓存节点协作替换空间中的数据内容进行转移的过程包括:发送数据内容目录列表至所述缓存节点,所述数据内容目录列表中包含所述缓存节点协作替换空间中被访问频率高于预设访问频率的数据内容;指示所述缓存节点依据所述物理地址将所述缓存节点协作替换空间中被访问频率高于预设访问频率的数据内容转移至目标转移缓存节点。
一种协作控制器,包括:
获取模块,用于获取缓存节点群组中各个缓存节点所在拓扑链路的链路利用率;
调整模块,用于依据所述获取模块获取的链路利用率对各个缓存节点在所述缓存节点群组中参与协作的比例进行调整;
其中,所述调整模块包括:
计算单元,用于计算所述缓存节点群组中各个缓存节点的平均链路利用率及各个缓存节点的当前链路利用率与所述平均链路利用率之间的绝对差值;
确定单元,用于以预设的参与协作的基本调整粒度为基准值,确定针对所述计算单元计算得出的绝对差值的调整信息;
比例调整单元,用于将所述确定单元确定的调整信息分别发送至与其对应的缓存节点,控制所述缓存节点依据所述调整信息对其参与协作的比例进行调整;
其中,所述确定的针对所述绝对差值的调整信息包括调整方向信息;所述调整方向信息中包括控制所述缓存节点协作替换空间中的数据内容进行转移的转移指令及目标转移缓存节点的物理地址;
所述比例调整单元包括:
转移子单元,用于发送数据内容目录列表至所述缓存节点,所述数据内容目录列表中包含所述缓存节点协作替换空间中被访问频率高于预设访问频率的数据内容;指示所述缓存节点依据所述物理地址将所述缓存节点协作替换空间中被访问频率高于预设访问频率的数据内容转移至目标转移缓存节点。
一种数据处理系统,包括:由缓存节点组成的缓存节点群组及一种协作控制器。
由以上本申请实施例提供的技术方案可见,本发明提供的一种数据处理方法及执行所述方法的缓存节点、协作控制器及数据处理系统,基于数据缓存的缓存节点群组,所述群组中的任意缓存节点包括:用于对本地客户端访问的数据进行保存的本地替换空间及用于对非本地客户端访问的数据内容进行保存的协作替换空间,以上两种存储空间分别存储本地及非本地不同客户端所要访问的数据内容,使缓存节点的内部存储空间细分化,客户端在访问缓存节点的过程中对数据的获取更加准确直接,满足了缓存节点本地优化的不同需求。
各个缓存节点的构造一致,当某一客户端访问本地缓存节点未能查找到所需的数据内容时,可通过数据协作访问其它客户端的缓存节点获取所需数据,在保证了缓存节点群组中全局数据缓存的基础上,对单个缓存节点的数据获取进行了优化。
同时,当所述缓存节点的存储空间到达某一阈值,如存储空间已满等情况时,对于缓存节点获取的将要存储到本地替换空间或协作替换空间中的内容执行替换操作,将本地替换空间或协作替换空间中被访问频率最低的数据内容替换为获取的数据内容,保证了客户端对所需数据内容进行获取的顺畅性与及时性。另外,为了保证数据内容的可重复使用及节约链路资源,还包括将从缓存节点的某一替换空间替换出的数据内容在满足某一条件的基础上加入到另一替换空间的过程,是各个缓存节点的空间利用率在最大程度上得到利用。
在上述方法的执行过程中,当某一缓存节点所在链路的链路利用率偏高超过某一预设阈值时,将该缓存节点协作替换空间中参与协作的被访问频率较高的一些数据内容进行转移,从而降低本缓存节点的链路利用率,平衡缓存节点群组中的整体链路利用率,使数据的协作过程平衡稳定。
在缓存节点及数据处理处理方法的基础上,本申请实施例还提供了一种协作控制器,用于对缓存节点群组中的各个缓存节点参与协作的过程进行监测控制,统计各个缓存节点中参与协作的数据内容并将数据内容列表分发到缓存节点群组中的各个缓存节点,调整各个缓存节点的协作比例,使数据缓存过程更加优化。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种数据处理方法的方法流程图;
图2为本申请实施例提供的数据处理方法中确定目标缓存节点的方法流程图;
图3为本申请实施例提供的数据处理方法的一详细流程图;
图4为本申请实施例提供的数据处理方法的另一详细流程图;
图5为本申请实施例提供的数据处理方法中将获取的数据内容保存至协作替换空间的处理流程图;
图6为本申请实施例提供的数据处理方法中将获取的数据内容保存至协作替换空间的一详细处理流程图;
图7为本申请实施例提供的数据处理过程中对协作替换空间中数据内容进行转移的方法流程图;
图8为本申请实施例提供的数据处理过程中从目标缓存节点获取数据内容的方法流程图;
图9为本申请实施例提供的将获取的数据内容保存至本地替换空间的处理流程图;
图10为本申请实施例提供的将获取的数据内容保存至本地替换空间的一详细处理流程图;
图11为本申请实施例提供的缓存节点的应用环境示意图;
图12为本申请实施例提供的缓存节点的结构示意图;
图13为本申请实施例提供的缓存节点中控制模块的第一结构示意图;
图14为本申请实施例提供的缓存节点中控制模块的第二结构示意图;
图15为本申请实施例提供的缓存节点中控制模块的第三结构示意图;
图16为本申请实施例提供的缓存节点中控制模块的第四结构示意图;
图17为本申请实施例提供的缓存节点中控制模块的第五结构示意图;
图18为本申请实施例提供的缓存节点中控制模块的第六结构示意图;
图19为本申请实施例提供的缓存节点中控制模块的第七结构示意图;
图20为本申请实施例提供的缓存节点中控制模块的第八结构示意图;
图21为本申请实施例提供的应用在协作控制器端的数据处理方法;
图22为本申请实施例提供的数据处理方法中对缓存节点的协作比例进行调整的方法流程图;
图23为本申请实施例提供的控制缓存节点协作替换空间中的数据内容进行转移的方法流程图;
图24为本申请实施例提供的控制缓存节点协作替换空间中的数据内容进行转移的一详细流程图;
图25为本申请实施例提供的协作控制器的第一结构示意图;
图26为本申请实施例提供的协作控制器的第二结构示意图;
图27为本申请实施例提供的协作控制器的第三结构示意图;
图28为本申请实施例提供的协作控制器的第四结构示意图;
图29为本申请实施例提供的数据处理系统的结构示意图。
为了图示的简单和清楚,以上附图示出了结构的普通形式,并且为了避免不必要的模糊本发明,可以省略已知特征和技术的描述和细节。另外,附图中的单元不必要按照比例绘制。例如,可以相对于其他单元放大图中的一些单元的尺寸,从而帮助更好的理解本发明的实施例。不同附图中的相同标号表示相同的单元。
说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”“第四”等(如果存在)是用于区别类似的单元,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例例如能够以除了在这里图示的或否则描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,以便包含一系列单元的过程、方法、系统、产品或设备不必限于那些单元,而是可以包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它单元。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案。下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
本申请实施例提供的一种数据处理方法的方法流程图如图1所示,该方法基于数据缓存的缓存节点群组,所述群组中任一缓存节点包括:用于对本地客户端访问的数据进行保存的本地替换空间及用于对非本地客户端访问的数据内容进行保存的协作替换空间;其中协作替换空间中的数据内容参与所述缓存节点群组中的全局协作。
所述方法包括:
步骤S101:接收客户端数据请求的被访问缓存节点对与所述数据请求相对应的数据内容进行查找;
缓存节点群组中的每个缓存节点都有与其相对应的客户端,客户端发送数据请求到其对应的缓存节点获取需求的数据内容;
步骤S102:当在所述被访问缓存节点的本地替换空间中未查找到所述数据内容时,查询预设数据内容目录列表;所述数据内容目录列表中设置有数据内容与其对应缓存节点的对应关系;
缓存节点的本地替换空间中存储有本地客户端访问的数据内容,被访问的缓存节点接收到缓存节点发送的数据请求后,在其本地替换空间中查找与所述客户端发送的数据请求相对应的数据内容,当在被访问缓存节点的本地替换空间中未查找到所述数据内容时,表明被访问缓存节点的本地替换空间中未保存有本地客户端需求的数据内容;此时执行缓存节点群组中的数据协作过程,查询预设数据内容目录列表,所述数据内容目录列表中设置有数据内容与其对应缓存节点的对应关系;
步骤S103:依据所述对应关系将所述缓存节点群组中的其它缓存节点中包含所述数据内容的缓存节点作为目标缓存节点;
依据数据内容目录列表中设置的对应关系,查询与本地客户端发送数据请求相对应的数据内容所存储的缓存节点的物理位置,将查询得到的缓存节点作为目标缓存节点;
步骤S104:从所述目标缓存节点的协作替换空间中获取所述数据内容并将所述数据内容保存至所述被访问缓存节点的本地替换空间;
从所述确定的目标缓存节点的协作替换空间中获取所述客户端需求的数据内容并将所述获取的数据内容保存至本地被访问缓存节点的本地替换空间中。
对于上述方法中步骤S103及步骤S104的执行过程中,当依据所述对应关系查询得出,在本地被访问的缓存节点的协作替换空间中存储有与所述客户端发送数据请求相对应的数据内容时,则本地被访问的缓存节点即为目标缓存节点,直接将本地被访问缓存节点协作替换空间中存储的与所述数据请求相对应的数据内容发送至本地客户端,并将所述数据内容从所述协作替换空间加入到本地替换空间。对于步骤S103中从缓存节点群组中的其它缓存节点中确定目标缓存节点的过程是在被访问缓存节点中不存在与所述客户端发送数据请求相对应的数据内容的情况下执行的。
上述数据处理方法执行过程中,所查询的数据内容目录列表中记录有缓存节点群组中各个缓存节点中参与协作的数据内容及所述数据内容在某一时间区域内被访问的频率等,数据缓存节点群组中的任一缓存节点中都实时预设有数据内容目录列表,该目录列表可有处理设备实时预设,本申请实施例提供的数据处理方法中各个缓存节点中的数据内容目录列表优选的由写作控制器进行预设,并且协作控制器在所述数据处理方法的执行过程中与各个缓存节点之间实时进行交互,为各个缓存节点群组中的数据内容目录列表进行更新。
本申请实施例提供的数据处理方法中,所述数据内容目录列表的存在方式有多种,如上述可为协作控制器实时将更新的数据内容目录列表预设在各个缓存节点内部;也可为协作控制器将更新的数据内容目录列表预设在协作控制器内部,当各个缓存节点需要查询所述数据内容目录列表时,向所述协作控制器请求查询;还可以由协作控制器将所述数据内容目录列表预设在第三方设备中,当各个缓存节点需要查询所述数据内容目录列表时,向所述第三方设备请求查询。
通过预设数据内容目录列表,当在被访问缓存节点的本地替换空间中未找到与所述客户端发送数据请求相对应的数据内容时,确定所述数据内容所在其它缓存节点的过程如本申请实施例提供的图2所示,包括:
步骤S201:查询预设数据内容目录列表中设置的数据内容与其对应缓存节点的对应关系;
步骤S202:当查找到与所述客户端所请求数据内容相对应的缓存节点时,将所述缓存节点作为目标缓存节点。
在图2执行的基础上,本申请实施例提供的数据处理方法的一详细流程图如图3所示,包括:
步骤S301:接收客户端数据请求的被访问节点对与所述数据请求相对应的数据内容进行查找;
步骤S302:判断在所述被访问缓存节点的本地替换空间中是否查找到所述数据内容,当未查找到所述数据内容时,执行步骤S303,否则,执行步骤S310;
步骤S303:查询预设数据内容目录列表,所述数据内容目录列表中设置有数据内容与其对应缓存节点的对应关系;
步骤S304:判断是否在所述数据内容目录列表中查询到所述数据内容与其对应缓存节点的对应关系,如果是,执行步骤S305,否则,执行步骤S307;
步骤S305:依据所述对应关系将缓存节点群组中的其它缓存节点中包含所述数据内容的缓存节点作为目标缓存节点;
步骤S306:从所述目标缓存节点的协作替换空间中获取所述数据内容并将所述数据内容保存至所述被访问缓存节点的本地替换空间;
步骤S307:将接收的本地客户端发送的数据请求转发至远程的内容源服务器;
所述内容源服务器为各个客户端所需内容的起始位置,包含所有客户端需求的数据内容;
步骤S308:从所述内容源服务器获取与所述数据请求相对应的数据内容;
步骤S309:将所述获取的数据内容保存至所述被访问缓存节点的协作替换空间中;
由于在数据内容目录列表中未查找到所述对应关系,即所述缓存节点群组中所有缓存节点的协作替换空间中均未保存与所述本地客户端发送数据请求相对应的数据内容,所以将从所述内容源服务器获取的数据内容加入到被访问缓存节点的协作替换空间中参与全局数据协作,以便有其它缓存节点需要所述数据内容时,能够及时对所述数据内容进行获取;
步骤S310:将所述查找到数据内容返回至所述本地客户端。
对与图3所示的数据处理方法,在将从所述内容源服务器获取的数据内容加入到被访问缓存节点的协作替换空间后,还包括对数据内容目录列表的更新过程,如本申请实施例提供的图4所示,包括:
步骤S311:对所述协作替换空间保存的数据内容的目录列表进行更新,并将更新的目录列表发送至协作控制器。
将获取的数据内容加入到被访问缓存节点的协作替换空间中,则被访问缓存节点的协作替换空间中有新的数据内容参与数据的全局协作,所以需要更新数据内容目录列表,此时的数据内容目录列表为协作替换空间中的数据内容目录列表。由于协作控制器是对缓存节点群组中各个缓存节点中协作替换空间中参与协作的数据内容进行管理控制的,所以,本申请实施例提供的协作控制器主要对各个缓存节点协作替换空间中的数据内容目录列表进行更新。
需要特别强调的是:本申请实施例提供的数据处理方法执行过程中,缓存节点群组中的任一缓存节点的协作替换空间中的数据内容发生变化时,无论是增加了新的内容还是删除了已有的内容,缓存节点均对协作替换空间中的数据内容目录列表进行更新,并将更新的数据内容目录列表发送至协作控制器,由协作控制器对数据缓存节点群组中所有缓存节点协作替换空间中的上数据内容目录列表进行更新。所述更新不受本申请实施例提供的数据处理方法中的步骤限制。
本申请实施例提供的数据处理方法处理过程中,将从内容源服务器获取的数据内容保存至被访问缓存节点的协作替换空间的过程中,由于缓存节点的协作替换空间的存储能力是有限的,当协作替换空间的存储能力达到某一预设阈值时,如协作替换空间的存储空间已满,则需要对协作替换空间中的数据内容进行替换,其执行过程如本申请实施例提供的图5所示,具体为:
步骤S401:将获取的数据内容保存至协作替换空间的过程中,实时执行步骤S402:判断协作替换空间的存储空间是否达到预设阈值,如果否,执行步骤S403,否则,执行步骤S404;
步骤S403:直接将所述获取的数据内容保存至协作替换空间中;
步骤S404:读取协作替换空间中的数据内容目录列表;
协作替换空间中的数据内容目录列表中记录有协作替换空间中存储的数据内容参与缓存节点群组协作过程被访问的频率值;
步骤S405:查询所述目录列表中记录的非本地客户端访问频率最低的数据内容;
由于协作替换空间的数据内容主要为参与缓存节点群组中的数据协作,所以在替换过程中首先考虑非本地客户端访问频率最低的数据内容,所述的非本地客户端访问频率最低也可为协作替换空间中访问频率最低的数据内容无论是本地客户端访问频率还是非本地客户端的访问频率;
步骤S406:将所述访问频率最低的数据内容替换为所述获取的数据内容。
本申请实施例为了不使数据资源浪费并节约链路利用率,将图5中协作替换空间中被替换的数据内容进行重新处理,如图6所示,在图5中步骤S406之后包括:
步骤S407:读取缓存节点本地替换空间中的数据内容目录列表,查询所述目录列表中记录的本地客户端访问频率最低的数据内容;
本申请实施例提供的缓存节点的本地替换空间中同样设置有数据内容目录列表,用于对本地替换空间中存储的数据内容进行记录,同时记录有本地替换空间中存储的各个数据内容被本地客户端访问的频率及各个数据内容的更新时间;
步骤S408:判断协作替换空间中被替换的访问频率最低的数据内容的访问时间是否晚于本地替换空间中访问频率最低的数据内容的访问更新时间且本地替换空间的存储空间未达到预设阈值,如果是,执行步骤S409,否则,执行步骤S410;
步骤S408执行包含两个判断条件,一是协作替换空间中被替换的访问频率最低的数据内容的访问时间是否晚于本地替换空间中访问频率最低的数据内容的访问更新时间,二是本地替换空间的存储空间是否达到预设阈值;
本申请实施例中执行步骤S409的条件为:协作替换空间中被替换的访问频率最低的数据内容的访问时间晚于本地替换空间中访问频率最低的数据内容的访问更新时间且本地替换空间的存储空间未达到预设阈值;
本申请实施例中执行步骤S410的条件为:协作替换空间中被替换的访问频率最低的数据内容的访问时间晚于本地替换空间中访问频率最低的数据内容的访问更新时间且本地替换空间的存储空间达到预设阈值;
由此可知步骤S409及步骤S410的执行过程中,协作替换空间中被替换的访问频率最低的数据内容的访问时间必须晚于本地替换空间中访问频率最低的数据内容的访问更新时间,当不满足该条件时,将协作替换空间中替换出的数据内容进行删除;
步骤S409:将所述协作替换空间中被替换出的访问频率最低的数据内容加入本地替换空间中进行保存;
步骤S410:将所述本地替换空间中访问频率最低的数据内容替换为所述协作替换空间中被替换的访问频率最低的数据内容。
上述本申请实施例提供的数据处理方法执行过程中,当协作替换空间中的数据内容被访问频率过高时会使协作替换空间中的数据内容的替换频繁;协作替换空间中的内容与本地替换空间中的内容交替频繁;从而导致该缓存节点的工作负担过大,负载过高,所述缓存节点所在的链路利用率过大;这表明在缓存节点群组中,某一缓存节点参与协作的比例过大,其它缓存节点可能出于空闲状态,为了使整个缓存节点群组中各个缓存节点的协作比例均衡,本申请实施例提供的数据处理方法中,当某一缓存节点所在链路的利用率超过预设链路利用率时,将所述缓存节点中参与协作的数据内容进行转移,如图7所示:
步骤S501:统计当前被访问缓存节点协作替换空间中被访问频率从高到底的N个数据内容,所述N个数据内容为被访问频率值超过预设访问频率值的全部数据内容;
某一缓存节点所在的链路利用率高,表明该缓存节点的工作负载过大,参与协作的数据内容过多,此时,统计被访问缓存节点协作替换空间中被访问频率较高的数据内容,即参与协作较为频繁的数据内容;所述被访问频率较高的数据内容在某一预设访问频率值的范围内,假设有N个数据内容的被访问频率超过所述预设访问频率值;
步骤S502:将所述N个数据内容的内容列表发送至协作控制器;
步骤S503:接收所述协作控制器发送的转移指令,所述转移指令包括链路利用率低的目标转移缓存节点的物理地址;
协作控制器接收到需要转移的N个数据内容的目录列表后,查询总的记录列表,确定参与协作比例较低,即链路利用率较低的缓存节点为目标转移缓存节点,并将该目标转移缓存节点的物理地址发送至所述被访问缓存节点;
步骤S504:依据所述物理地址将所述N个数据内容转移至所述链路利用率的目标转移缓存节点的协作替换空间。
通过将负载较高的缓存节点协作替换空间中的数据内容进行转移,从而降低了改缓存节点所在链路的链路利用率,使该缓存节点的负载均衡,并且平衡了缓存节点群组中的其它缓存节点的链路利用率。
对于图7所述的方法,在数据内容转移结束后,各个缓存节点同样更新协作替换空间中的数据内容目录列表,并将所述数据内容目录列表发送至协作控制器。
以上各个方法实施例主要介绍对缓存节点协作替换空间中的数据内容的处理过程,对于缓存节点本地替换空间中的数据的处理过程如下:
首先当经过查询数据内容目录列表确定目标缓存节点后,如本申请实施例提供的图8所示,包括:
步骤S601:将本访问缓存节点接收的客户端数据请求转发至所述目标缓存节点;
步骤S602:接收所述目标缓存节点返回的其协作替换空间中保存的与所述数据请求相对应的数据内容。
在接收到所述目标缓存节点返回的数据内容后,将所述数据内容加入本地替换空间的过程中,执行过程如图9所示,还包括:
步骤S603:判断本地替换空间的存储空间是否达到预设阈值,如果否,执行步骤S604;否则,执行步骤S605;
缓存节点中的本地替换空间的存储空间容量和协作替换空间是一样,都是有限的;
步骤S604:直接将所述数据内容保存至本地替换空间中;
步骤S605:读取本地替换空间中的数据内容目录列表,查询本地替换空间中记录的本地客户端访问频率最低的数据内容;
当存入到本地替换空间中的内容达到一定阈值时,新获取的数据内容需要对以往存储的数据内容进行替换;此时,将本地客户端访问频率最低的数据内容进行替换;
步骤S606:将所述本地客户端访问频率最低的数据内容替换为所述从目标缓存节点的协作替换空间中获取的数据内容。
本申请实施例提供的数据处理方法中,本地替换空间中被替换出的数据内容不是直接被删除的,而是经过重新处理的,如图10所示,在图9的基础上,步骤S606执行之后,包括:
步骤S607:读取协作替换空间的数据内容目录列表,,并查询所述目录列表中记录的非本地客户端访问频率最低的数据内容;
步骤S608:判断是否所述数据内容目录列表中未记录所述本地替换空间中被替换的数据内容且所述协作替换空间的存储空间未达到预设阈值;如是,执行步骤S609;否则,执行步骤S610;
上述步骤S609的执行条件为:所述协作替换空间中的数据内容目录列表中未记录所述本地替换空间中被替换的数据内容且协作替换空间的存储空间未达到预设阈值;
上述步骤S610的执行条件为:所述协作替换空间中的数据内容目录列表中记录有所述本地替换空间中被替换的数据内容或协作替换空间的存储空间达到预设阈值;
步骤S609:将所述本地替换空间中被替换的访问频率最低的内容加入到协作替换空间中进行保存;
步骤S610:将所述协作替换空间中非本地客户端访问频率最低的数据内容替换为本地替换空间中被替换出的本地客户端访问频率最低的数据内容,并将替换出的协作替换空间中非本地客户端访问频率最低的数据内容进行删除。
需要对上述本地替换空间中数据内容替换的过程进行说明的是,从所述目标缓存节点获取数据内容加入本地替换空间中,本地替换空间达到预设阈值时,需要对本地替换空间中存储的数据内容进行替换;另外,当协作替换空间中被替换出的数据内容能够加入到本地替换空间中,而本地替换空间达到预设阈值时,也对本地替换空间中存储的数据内容进行替换。
本申请实施例提供的数据处理方法中,缓存节点的本地替换空间或协作替换空间,当有新的内容需要加入本地替换空间或协作替换空间时,而本地替换空间或协作替换空间的存储容量达到预设阈值时,都会相应的执行数据内容的替换过程;如协作替换空间中,当从内容源服务器获取数据内容加入时,如协作替换空间的存储容量达到预设阈值,则进行替换;另外,当其他缓存节点由于负载过大,转移数据内容至缓存节点的协作替换空间中,若该缓存节点的协作替换空间的存储容量达到预设阈值,此时也进行相应替换过程。
本申请实施例提供的数据处理方法,对与缓存节点中协作替换空间及本地替换空间中存储的数据内容,协作替换空间中存储的数据内容主要用于缓存节点群组中的数据协作,本地替换空间存储的数据内容用于本地客户端的访问需要,对于某一特定缓存节点,当协作替换空间中的数据内容发生改变,如替换过程,替换出的数据内容可以相应的加入本地替换空间中,同样,本地替换空间的数据内容发生改变时,也可以相应的加入到协作替换空间,通过协作替换空间与本地替换空间的交互,使单个缓存节点在本地访问和参与协作的过程中,能够更好的满足缓存节点自身的优化需求。同时对于缓存节点群组而言,各个缓存节点在协作控制器的控制下,更好的参与协作,使协作的全局更加完善。
以上是本申请实施例提供的数据处理的方法实施例,针对该方法实施例本申请还提供了与其相对应的一种缓存节点,该缓存节点的应用环境如本申请实施例提供附图图11所示,本地的单个缓存节点可以与本地的多个客户端进行交互,同时缓存节点与内容源服务器、协作控制器以及缓存节点群组中的其它缓存节点均可实现数据交互,本申请实施例提供的缓存节点的结构示意图如图12所示,包括:控制模块701、本地替换空间702和协作替换空间703;
其中:本地替换空间702用于对本地客户端访问的数据进行保存;
协作替换空间703用于对非本地客户端访问的数据内容进行保存;
控制模块701用于接收客户端发送的数据请求,并在所述本地替换空间中查找与所述数据请求相对应的数据内容;当在所述本地替换空间中未查找到所述数据内容时,查询数据内容目录列表中设置的数据内容与其对应缓存节点的对应关系,依据所述对应关系将所述缓存节点群组中的其它缓存节点中包含所述数据内容的缓存节点作为目标缓存节点;从所述目标缓存节点的协作替换空间中获取所述数据内容并将所述数据内容保存至所述本地替换空间中。
同时控制模块701还用于接收从协作控制器发送的控制命令,调整缓存节点的本地替换空间和协作替换空间的比例,为了更加清晰的对本申请实施例提供的缓存节点进行描述,将控制模块701的结构进行细化,其内部结构如图13所示,包括:
接收单元801、查找单元802、查询单元803、确定单元804和获取单元805;
其中:接收单元801,用于接收客户端发送的数据请求;
查找单元802,用于依据所述接收单元801接收的数据请求在所述本地替换空间702中查找与所述数据请求相对应的数据内容;
查询单元803,用于当所述查找单元802在所述本地替换空间702中未查找到所述数据内容时,查询数据内容目录列表中设置的数据内容与其对应缓存节点的对应关系;
确定单元804,用于当所述查询单元803查询到所述数据内容与其对应缓存节点的对应关系时,依据所述对应关系将所述缓存节点群组中的其它缓存节点中包含所述数据内容的缓存节点确定为目标缓存节点;
获取单元805,用于从所述确定单元804确定的目标缓存节点的协作替换空间703获取所述数据内容并将所述数据内容保存至所述本地替换空间702。
对于本申请实施例提供的缓存节点,当查询单元802在数据内容目录列表中未查询到数据内容与其对应缓存节点的对应关系时,需要将接收单元801接收的数据请求转发至内容源服务器,因此,本申请实施例提供的缓存节点还设置有第一转发单元806,如图14所示,第一转发单元806即用于当所述查询单元803未查询到所述数据内容与其对应缓存节点的对应关系时,将所述接收单元801接收的数据请求转发至内容源服务器,并控制所述获取单元805从所述内容源服务器获取与所述数据请求相对应的数据内容;将所述获取的数据内容保存至所述缓存节点的协作替换空间。
当所述确定单元确定出目标缓存节点时,需要将接收的客户端的数据请求转发至内容源服务器,本申请实施例提供的缓存节点中还设置有第二转发单元807,如图15所示;
第二转发单元807用于当所述查询单元803查询到所述数据内容与其对应缓存节点的对应关系时,将所述接收单元801接收的数据请求转发至所述确定单元804确定的目标缓存节点,并控制所述获取单元805从所述目标缓存节点的协作替换空间获取所述数据请求相对应的数据内容;将所述获取的数据内容保存至所述缓存节点的本地替换空间。
本申请实施例提供的缓存节点,当协作替换空间或本地替换空间的数据内容发生变化时,均对协作替换空间或本地替换空间中的数据目录进行更新,所以本申请实施例提供的缓存节点中还设置有目录更新单元,如图16所示;
目录更新单元808用于当本地替换空间或协作替换空间中的存储内容发生变化时,对本地替换空间或协作替换空间保存的数据内容的目录列表进行更新,并将更新的协作替换空间的目录列表发送至协作控制器。
对于协作替换空间或本地替换空间中存储的数据内容,本申请实施例提供的缓存节点还设置有统计单元809,如图17所示,所述统计单元809用于对本地替换空间或协作替换空间中存储的数据内容被访问频率进行统计。
对于本申请实施例提供的缓存节点,其本地替换空间和协作替换空间的存储容量是有限的,当本地替换空间或协作替换空间中存储的数据内容超过预设阈值时,需要对本地替换空间或协作替换空间中存储的数据内容进行替换,本申请实施例提供的缓存节点中还设置有本地替换单元811和协作替换单元810;如图18所示;
协作替换单元810,用于对非本地客户端对所述协作替换空间的访问过程进行管理,在所述获取单元805将获取的数据内容保存至协作替换空间的过程中,当协作替换空间的存储空间达到预设阈值时,对所述协作替换空间中的数据内容进行替换。
本地替换单元811,用于对本地客户端对所述本地替换空间的访问过程进行管理,在所述获取单元805将获取的数据内容保存至本地替换空间的过程中,当本地替换空间的存储空间达到预设阈值时,对所述本地替换空间中的数据内容进行替换。
对与替换出的数据内容,本申请实施例提供的缓存节点还设置有替换处理单元812,如图19所示,替换处理单元812用于对本地替换空间或协作替换空间中被替换出的数据内容进行处理,其具体处理过程,可参照本申请数据处理方法实施例中对替换出的数据内容进行处理的过程。
本申请实施例提供的缓存节点,当该缓存节点被访问次数过多,参与协作的数据内容超过预设阈值,造成该缓存节点所在链路利用率过高时,本申请实施例提供的缓存节点还设置有转移单元813,如图20所示;
转移内容813用于当缓存节点所在的链路利用率超过预设链路利用率时,对所述缓存节点协作替换空间中存储的数据内容进行转移。
以上即为本申请实施例提供的缓存节点的具体结构,本申请实施例提供的缓存节点结构鲜明,在参与数据协作的过程中,自身的调节能力更强。
以上所述的数据处理方法及相应的缓存节点应用在缓存节点群组中,本申请实施例同时提供了一种数据处理方法针对缓存节点群组及缓存节点群组中的每一个缓存节点,该方法应用于协作控制器端,其处理流程图如图21所示,包括:
步骤S910:获取缓存节点群组中各个缓存节点所在拓扑链路的链路利用率;
步骤S911:依据所述链路利用率对各个缓存节点在缓存节点群组中参与协作的比例进行调整。
本申请实施例提供的上述处理方法,收集网络拓扑的链路利用率,根据链路利用率的差异性向各个缓存节点发送不同的参与协作程度的控制命令信息,目的是使整个缓存节点群组所在网络。
本申请实施例提供的数据处理方法,获取缓存节点群组中各个缓存节点的链路利用率的获取过程可以有多种,可以由协作控制器主动收集缓存节点群组中各个缓存节点的链路利用率;也可以由缓存节点群组中的各个缓存节点主动上报其链路利用率;还可以通过设置第三方收集设备,由所属第三方收集设备收集各个缓存节点的链路利用率,并将收集的链路利用率发送至所述协作控制器。
本申请实施例提供的数据处理方法中,对于各个缓存节点在所述缓存节点群组中参与的协作比例进行调整的过程如图22所示,包括:
步骤S1001:计算所述缓存节点群组中各个缓存节点的平均链路利用率及各个缓存节点的当前链路利用率与所述平均链路利用率之间的绝对差值;
所述绝对差值为当前链路利用率与平均链路利用率的相差范围,即当前链路利用率高于平均链路利用率的差值或低于平均链路利用率的差值;
步骤S1002:以预设的参与协作的基本调整粒度为基准值,确定针对所述绝对差值的调整信息;
对于参与协作的调整尺度预设有基本调整粒度,所述基本调整粒度为调整的最小单位;
步骤S1003:将所述调整信息分别发送至与其对应的缓存节点,控制所述缓存节点依据所述调整信息对其参与协作的比例进行调整。
上述步骤执行过程中,计算各个缓存节点的平均链路利用率,当某个缓存节点的链路利用率超过所述平均链路利用率的某一阈值时,该链路绑定的所述缓存节点需要降低参与协作的比例,如比例以5%作为基本调整粒度,链路利用率超过平均链路利用率的大小为基本调整粒度的N倍时,则调整粒度为N*5%;当某个链路利用率低于平均链路利用率的某一阈值时,该链路绑定的缓存节点需要提高参与协作的比例,比例以如比例以5%作为基本调整粒度,链路利用率低于平均链路利用率的大小为基本调整粒度的N倍时,则调整粒度为N*5%。
本申请实施例提供的数据调整方法对缓存节点参与协作的比例进行调整的主要过程为将缓存节点协作替换空间中的被访问频率较高的数据内容进行转移,本申请实施例提供的数据处理方法中确定的针对所述绝对差值的调整信息中包括调整方向信息,所述调整方向信息中包括控制所述缓存节点协作替换空间中的数据内容进行转移的转移指令及目标转移缓存节点的物理地址;
依据所述转移指令控制所述缓存节点协作替换空间中的数据内容进行转移的过程如图23所示:
包括:
步骤S1101:发送数据内容目录列表至所述缓存节点,所述数据内容目录列表中包含所述缓存节点协作替换空间中被访问频率高于预设访问频率的数据内容;
步骤S1102:指示所述缓存节点依据所述物理地址将所述缓存节点协作替换空间中被访问频率高于预设访问频率的数据内容转移至目标转移缓存节点。
当缓存节点接收到转移指令后,依据所述转移指令将需要转移的数据内容转移到目标转移缓存节点,然后缓存节点更新其协作替换空间中的数据内容缓存列表,并将更新的数据内容缓存列表上传至协作控制器;本申请实施例提供的数据处理方法还包括:
接收各个缓存节点上传的数据内容目录列表,所述数据内容目录列表中包含各个缓存节点协作替换空间中保存的数据内容目录及所述数据内容被访问的频率信息;
对各个缓存节点上传的数据内容目录列表进行统计汇总并将经过汇总的数据内容目录列表发送至各个缓存节点。
本申请实施例提供的数据处理方法,对于数据内容目录列表的更新是实时的,在任何处理阶段过程中,当任一缓存节点的协作替换空间中的数据内容发生变化时,即更新数据内容数据列表,并将更新的数据内容目录列表分发到缓存节点群组中的各个缓存节点。
本申请实施例提供的数据处理方法中确定的针对所述绝对差值的调整信息还包括调整比例信息;
所述调整比例信息中包括控制所述缓存节点协作替换空间和本地替换空间所占比例进行调整的比例调整指令;
当缓存节点依据转移指令将协作替换空间中的数据内容进行转移后,空出的存储空间需要重新调整和分配,所以对所述缓存节点协作替换空间中的内容进行转移后,如图24所示,还包括:
步骤S1103:依据所述调整指令对所述缓存节点协作替换空间经过数据内容转移后的空余空间进行重新分配,对所述缓存节点的本地替换空间和协作替换空间所占的比例值进行调整。
以上是应用在协作控制器端的数据处理方法实施例,针对该方法实施例本申请实施例提供了一种协作控制器,其结构示意图如图25所示,包括:
获取模块1201,用于获取缓存节点群组中各个缓存节点所在拓扑链路的链路利用率;
调整模块1202,用于依据所述获取模块获取的链路利用率对各个缓存节点在所述缓存节点群组中参与协作的比例进行调整。
本申请实施例提供的协作控制器负责数据内容的协作缓存,并收集各种用于协作控制的信息,接收缓存节点发送的各种协作请求信息并处理,向缓存节点发送各种协作命令。
在图25所述协作控制器的基础上本申请实施例提供的协作控制器的调整模块1202的详细结构示意图,如图26所示,包括:
计算单元1203,用于计算所述缓存节点群组中各个缓存节点的平均链路利用率及各个缓存节点的当前链路利用率与所述平均链路利用率之间的绝对差值;
确定单元1204,用于以预设的参与协作的基本调整粒度为基准值,确定针对所述计算单元1203计算得出的绝对差值的调整信息;
比例调整单元1205,用于将所述确定单元1204确定的调整信息分别发送至与其对应的缓存节点,控制所述缓存节点依据所述调整信息对其参与协作的比例进行调整。
本申请实施例提供的协作控制器中,调整模块1202中的比例调整单元1205如图28所示包括:
转移子单元1206,用于依据所述确定单元1204确定的调整信息控制所述缓存节点协作替换空间中的数据内容进行转移。
内容目录更新子单元1207,用于对各个缓存节点上传的数据内容目录列表进行统计汇总,并将经过汇总的数据内容目录列表发送至各个缓存节点。
分配子单元1208,用于依据所述确定单元1204确定的调整信息对所述缓存节点协作替换空间经过数据内容转移后的空余空间进行重新分配,对所述缓存节点的本地替换空间和协作替换空间所占的比例进行调整。
以上即为本申请实施例提供的协作控制器的基本结构,结合本申请实施例提供的缓存节点及协作控制器,本申请实施例还提供了一种数据处理系统,其结构示意图如图29所示,包括:
由缓存节点组成的缓存节点群组1301和协作控制器1302;
所述缓存节点群组1301中的缓存节点包括:控制模块、本地替换空间和协作替换空间;
其中:
所述本地替换空间用于对本地客户端访问的数据进行保存;
所述协作替换空间用于对非本地客户端访问的数据内容进行保存;
所述控制模块用于接收客户端发送的数据请求,并在所述本地替换空间中查找与所述数据请求相对应的的数据内容;当在所述本地替换空间中未查找到所述数据内容时,查询数据内容目录列表中设置的数据内容与其对应缓存节点的对应关系,依据所述对应关系将所述缓存节点群组中的其它缓存节点中包含所述数据内容的缓存节点作为目标缓存节点;从所述目标缓存节点的协作替换空间中获取所述数据内容并将所述数据内容保存至所述本地替换空间中;
所述协作控制器包括:获取模块,用于获取缓存节点群组中各个缓存节点所在拓扑链路的链路利用率;
调整模块,用于依据所述获取模块获取的链路利用率对各个缓存节点在所述缓存节点群组中参与协作的比例进行调整。
综合以上本申请实施例提供的数据处理方法、缓存节点、协作控制器及系统,可应用在分布式环境下,所述缓存节点的存储空间分为本地替换空间和协作替换空间两部分;本地缓存节点接收协作控制器发送的控制信息,根据控制信息调整本地替换单元管理的存储空间和协作替换单元管理的存储空间的比例大小。接收的控制信息包含了调整方向和调整比例值。
本地缓存节点接收到的新内容来自协作区域外的内容源服务器时,内容保存在协作替换单元,协作替换空间的的内容根据非本地用户访问情况进行替换;接收到的新内容来自协作区域时,内容保存在本地替换空间,本地替换空间的内容根据本地用户访问情况进行替换。
本地缓存节点把协作替换空间的内容列表发送给协作控制器,并从协作控制器接收到其它本地缓存设备的协作替换空间的内容列表。当本地缓存节点的负载高于某个阈值时,从协作替换空间选择最热门的一个或多个内容转移到其它负载较轻的本地缓存设备的协作替换空间。
通过本申请实施例提供的数据处理方法、缓存节点、协作控制器及系统,使得替换算法在全局替换优化的基础上考虑了本地替换优化,有优先服务本地用户的作用;
协作控制器只维护协作空间的内容信息,不维护本地替换空间中的内容信息,从而大大减少了维护内容副本数的开销;
负载重的节点将其协作空间中的热门内容主动向负载低的节点转移,可以调节达到负载均衡的作用。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。以上所述仅是本申请的具体实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。
Claims (10)
1.一种数据处理方法,其特征在于,应用于协作控制器,该方法基于数据缓存的缓存节点群组,所述群组中任一缓存节点包括:用于对本地客户端访问的数据进行保存的本地替换空间及用于对非本地客户端访问的数据内容进行保存的协作替换空间;
所述方法包括:
获取所述缓存节点群组中各个缓存节点所在拓扑链路的链路利用率;
依据所述链路利用率对各个缓存节点在所述缓存节点群组中参与协作的比例进行调整;
其中,所述对各个缓存节点在所述缓存节点群组中参与协作的比例进行调整的过程包括:
计算所述缓存节点群组中各个缓存节点的平均链路利用率及各个缓存节点的当前链路利用率与所述平均链路利用率之间的绝对差值;
以预设的参与协作的基本调整粒度为基准值,确定针对所述绝对差值的调整信息;
将所述调整信息分别发送至与其对应的缓存节点,控制所述缓存节点依据所述调整信息对其参与协作的比例进行调整;
其中,所述确定的针对所述绝对差值的调整信息包括调整方向信息;所述调整方向信息中包括控制所述缓存节点协作替换空间中的数据内容进行转移的转移指令及目标转移缓存节点的物理地址;
则依据所述转移指令控制所述缓存节点协作替换空间中的数据内容进行转移的过程包括:发送数据内容目录列表至所述缓存节点,所述数据内容目录列表中包含所述缓存节点协作替换空间中被访问频率高于预设访问频率的数据内容;指示所述缓存节点依据所述物理地址将所述缓存节点协作替换空间中被访问频率高于预设访问频率的数据内容转移至目标转移缓存节点。
2.根据权利要求1所述的方法,其特征在于,所述获取缓存节点群组中各个缓存节点的链路利用率的获取过程具体为:
主动收集所述缓存节点群组中各个缓存节点的链路利用率。
3.根据权利要求1所述的方法,其特征在于,所述获取缓存节点群组中各个缓存节点的链路利用率的获取过程具体为:
接收各个缓存节点上传的链路利用率。
4.根据权利要求1所述的方法,其特征在于,所述获取缓存节点群组中各个缓存节点的链路利用率的获取过程具体为:
设置第三方收集设备,通过所述第三方收集设备收集各个缓存节点的链路利用率。
5.根据权利要求1所述的方法,其特征在于,还包括:
接收各个缓存节点上传的数据内容目录列表,所述数据内容目录列表中包含各个缓存节点协作替换空间中保存的数据内容目录及所述数据内容被访问的频率信息;
对各个缓存节点上传的数据内容目录列表进行统计汇总并将经过汇总的数据内容目录列表发送至各个缓存节点。
6.根据权利要求1所述的方法,其特征在于,所述确定的针对所述绝对差值的调整信息还包括调整比例信息;
所述调整比例信息中包括控制所述缓存节点协作替换空间和本地替换空间所占比例进行调整的比例调整指令;
对所述缓存节点协作替换空间中的内容进行转移后,还包括:
依据所述调整指令对所述缓存节点协作替换空间经过数据内容转移后的空余空间进行重新分配,对所述缓存节点的本地替换空间和协作替换空间所占的比例值进行调整。
7.一种协作控制器,其特征在于,包括:
获取模块,用于获取缓存节点群组中各个缓存节点所在拓扑链路的链路利用率;
调整模块,用于依据所述获取模块获取的链路利用率对各个缓存节点在所述缓存节点群组中参与协作的比例进行调整;
其中,所述调整模块包括:
计算单元,用于计算所述缓存节点群组中各个缓存节点的平均链路利用率及各个缓存节点的当前链路利用率与所述平均链路利用率之间的绝对差值;
确定单元,用于以预设的参与协作的基本调整粒度为基准值,确定针对所述计算单元计算得出的绝对差值的调整信息;
比例调整单元,用于将所述确定单元确定的调整信息分别发送至与其对应的缓存节点,控制所述缓存节点依据所述调整信息对其参与协作的比例进行调整;
其中,所述确定的针对所述绝对差值的调整信息包括调整方向信息;所述调整方向信息中包括控制所述缓存节点协作替换空间中的数据内容进行转移的转移指令及目标转移缓存节点的物理地址;
所述比例调整单元包括:
转移子单元,用于发送数据内容目录列表至所述缓存节点,所述数据内容目录列表中包含所述缓存节点协作替换空间中被访问频率高于预设访问频率的数据内容;指示所述缓存节点依据所述物理地址将所述缓存节点协作替换空间中被访问频率高于预设访问频率的数据内容转移至目标转移缓存节点。
8.根据权利要求7所述的协作控制器,其特征在于,所述比例调整单元还包括:
内容目录更新子单元,用于对各个缓存节点上传的数据内容目录列表进行统计汇总,并将经过汇总的数据内容目录列表发送至各个缓存节点。
9.根据权利要求7所述的协作控制器,其特征在于,所述比例调整单元还包括:
分配子单元,用于依据所述确定单元确定的调整信息对所述缓存节点协作替换空间经过数据内容转移后的空余空间进行重新分配,对所述缓存节点的本地替换空间和协作替换空间所占的比例进行调整。
10.一种数据处理系统,其特征在于,包括:由缓存节点组成的缓存节点群组及权利要求7~9所述的协作控制器。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2011/075063 WO2011157150A2 (zh) | 2011-05-31 | 2011-05-31 | 数据处理方法、缓存节点、协作控制器及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102204218A CN102204218A (zh) | 2011-09-28 |
CN102204218B true CN102204218B (zh) | 2015-01-21 |
Family
ID=44662822
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201180000652.XA Expired - Fee Related CN102204218B (zh) | 2011-05-31 | 2011-05-31 | 数据处理方法、缓存节点、协作控制器及系统 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9330004B2 (zh) |
CN (1) | CN102204218B (zh) |
WO (1) | WO2011157150A2 (zh) |
Families Citing this family (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10552385B2 (en) | 2012-05-20 | 2020-02-04 | Microsoft Technology Licensing, Llc | System and methods for implementing a server-based hierarchical mass storage system |
CN103001870B (zh) * | 2012-12-24 | 2015-10-07 | 中国科学院声学研究所 | 一种内容中心网络协同缓存方法及系统 |
CN104348722B (zh) * | 2013-07-31 | 2017-12-12 | 华为技术有限公司 | 确定内容获取路径、请求处理的方法、装置和系统 |
EP3092811B1 (en) * | 2014-01-07 | 2020-02-12 | InterDigital VC Holdings, Inc. | Method for providing a content part of a multimedia content to a client terminal, corresponding cache |
KR20150103477A (ko) * | 2014-03-03 | 2015-09-11 | 주식회사 티맥스 소프트 | 분산환경 기반의 캐쉬 관리 장치 및 방법 |
CN105095104B (zh) * | 2014-04-15 | 2018-03-27 | 华为技术有限公司 | 数据缓存处理方法及装置 |
US20160241665A1 (en) * | 2015-02-12 | 2016-08-18 | Google Inc. | Pre-caching on wireless access point |
CN104765888B (zh) * | 2015-04-30 | 2019-03-26 | 北京奇艺世纪科技有限公司 | 一种数据访问系统、方法及装置 |
GB2540761B (en) * | 2015-07-23 | 2017-12-06 | Advanced Risc Mach Ltd | Cache usage estimation |
CN105357281B (zh) * | 2015-10-19 | 2019-06-21 | 中国科学院信息工程研究所 | 一种移动接入网分布式内容缓存访问控制方法及系统 |
US10841374B2 (en) * | 2015-10-26 | 2020-11-17 | Mcafee, Llc | Dynamic sharding for state-based processing |
CN105306578A (zh) * | 2015-11-11 | 2016-02-03 | 中国联合网络通信集团有限公司 | 一种内容存储的方法及装置 |
CN107277092A (zh) * | 2016-04-08 | 2017-10-20 | 北京优朋普乐科技有限公司 | 内容分发网络及其数据下载方法 |
CN107872478A (zh) * | 2016-09-26 | 2018-04-03 | 中国移动通信有限公司研究院 | 一种内容缓存方法、装置和系统 |
CN108494720B (zh) * | 2017-02-23 | 2021-02-12 | 华为软件技术有限公司 | 一种基于会话迁移的调度方法及服务器 |
CN107426302B (zh) * | 2017-06-26 | 2020-06-05 | 腾讯科技(深圳)有限公司 | 访问调度方法、装置、系统、终端、服务器及存储介质 |
CN109218340A (zh) * | 2017-06-29 | 2019-01-15 | 上海云教信息技术有限公司 | 一种数据在线引证系统 |
CN109218363B (zh) * | 2017-07-03 | 2021-06-08 | 中国移动通信有限公司研究院 | 内容分发方法、网络节点及存储介质 |
CN107562385B (zh) * | 2017-09-13 | 2020-08-04 | 郑州云海信息技术有限公司 | 分布式存储客户端读取数据的方法、装置和设备 |
CN109144998B (zh) * | 2018-07-06 | 2020-10-16 | 东软集团股份有限公司 | 节点数据的展现方法、装置、存储介质及电子设备 |
CN111294222B (zh) * | 2018-12-07 | 2022-08-02 | 中国移动通信集团陕西有限公司 | 一种资源配置、内容请求方法、装置及cdn系统 |
CN111414347B (zh) * | 2019-01-04 | 2023-06-20 | 阿里巴巴集团控股有限公司 | 节点信息处理方法及装置,输出方法及存储和电子设备 |
CN111435939B (zh) * | 2019-01-14 | 2023-05-05 | 百度在线网络技术(北京)有限公司 | 用于划分节点的存储空间的方法和装置 |
CN110704019B (zh) * | 2019-08-26 | 2020-12-22 | 深圳芯英科技有限公司 | 数据缓存器及数据读取方法 |
CN111225023B (zh) * | 2019-11-19 | 2022-02-25 | 中国联合网络通信集团有限公司 | 一种缓存方法及装置 |
EP4054140A4 (en) | 2019-11-22 | 2022-11-16 | Huawei Technologies Co., Ltd. | METHOD OF PROCESSING A NON-BUFFER DATA WRITE REQUEST, BUFFER AND NODE |
CN111124292B (zh) * | 2019-12-10 | 2022-08-19 | 新华三大数据技术有限公司 | 一种数据下刷方法、装置、缓存节点及分布式存储系统 |
CN113127414B (zh) * | 2019-12-31 | 2023-05-23 | 贵州白山云科技股份有限公司 | 一种请求处理方法和系统及边缘节点 |
CN113132439B (zh) * | 2019-12-31 | 2023-04-21 | 贵州白山云科技股份有限公司 | 一种数据处理方法和系统及边缘节点 |
CN113709761B (zh) * | 2020-05-20 | 2023-12-12 | 清华大学 | 基于动态位置的内容分发方法、系统、设备及存储介质 |
CN113225396B (zh) * | 2021-04-30 | 2022-08-12 | 深圳市腾讯网域计算机网络有限公司 | 一种热点数据包分流方法、装置、电子设备及介质 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4876662A (en) * | 1988-05-02 | 1989-10-24 | International Business Machines Corporation | Optimizing volume mounts in a multidrive environment |
US7065587B2 (en) * | 2001-04-02 | 2006-06-20 | Microsoft Corporation | Peer-to-peer name resolution protocol (PNRP) and multilevel cache for use therewith |
US6996674B2 (en) * | 2001-05-07 | 2006-02-07 | International Business Machines Corporation | Method and apparatus for a global cache directory in a storage cluster |
JP2005519391A (ja) * | 2002-02-28 | 2005-06-30 | シリコン、グラフィクス、インコーポレイテッド | 共有ベクトルの増加を伴わないdsmマルチプロセッサシステムにおけるキャッシュコヒーレンスのための方法およびシステム |
US7443857B1 (en) * | 2003-07-09 | 2008-10-28 | Cisco Technology Inc. | Connection routing based on link utilization |
US8169912B2 (en) * | 2006-08-31 | 2012-05-01 | Futurewei Technologies, Inc. | System for dynamic bandwidth adjustment and trading among peers |
CN101453480B (zh) * | 2007-11-30 | 2011-12-28 | 中国科学院声学研究所 | 一种适用于媒体流化的数据共享系统及共享方法 |
US8537835B2 (en) * | 2008-06-20 | 2013-09-17 | Alcatel Lucent | Methods and apparatus for self-organized caching in a content delivery network |
CN101959054B (zh) * | 2009-07-14 | 2013-04-10 | 中国电信股份有限公司 | 集中式对等点播系统和伙伴节点选择方法 |
CN102025634B (zh) * | 2010-12-16 | 2015-06-03 | 中兴通讯股份有限公司 | 数据包缓存管理方法和设备 |
US8935431B2 (en) * | 2010-12-17 | 2015-01-13 | International Business Machines Corporation | Highly scalable and distributed data sharing and storage |
-
2011
- 2011-05-31 WO PCT/CN2011/075063 patent/WO2011157150A2/zh active Application Filing
- 2011-05-31 CN CN201180000652.XA patent/CN102204218B/zh not_active Expired - Fee Related
-
2013
- 2013-12-02 US US14/094,148 patent/US9330004B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
WO2011157150A2 (zh) | 2011-12-22 |
CN102204218A (zh) | 2011-09-28 |
US9330004B2 (en) | 2016-05-03 |
WO2011157150A3 (zh) | 2012-05-03 |
US20140089594A1 (en) | 2014-03-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102204218B (zh) | 数据处理方法、缓存节点、协作控制器及系统 | |
CN103581245B (zh) | 一种内容分发网络内容分发的方法及系统 | |
KR101567385B1 (ko) | 콘텐츠 중심 네트워크에 대한 협동 캐싱 방법 | |
EP2572495B1 (en) | System and method for managing data delivery in a peer-to-peer network | |
CN101616169B (zh) | 选择服务提供实体的方法、系统、服务选择实体、服务管理实体 | |
US9344495B2 (en) | Peer-to-peer network system with manageability | |
WO2012173175A1 (ja) | コンテンツ配信システム、制御装置およびコンテンツ配信方法 | |
CN101800731B (zh) | 网络传输管理服务器、网络传输管理方法及网络传输系统 | |
RU2013104414A (ru) | Способ и устройство для благоприятного для сети совместного кэширования | |
CN101521616B (zh) | 边界网关协议bgp分布式系统中邻居迁移的方法和系统 | |
JP2007066161A (ja) | キャッシュシステム | |
CN102098228B (zh) | 一体化标识网络移动性管理系统及方法 | |
CN102143237A (zh) | 一种基于网格的互联网内容分发方法和系统 | |
US20120304234A1 (en) | Method and apparatus for transferring content | |
CN101072166A (zh) | 一种实现网络预订存储的系统和方法 | |
CN101127714B (zh) | 一种无线网状网络中路由管理方法及设备 | |
CN105635196A (zh) | 一种获取文件数据的方法、系统和应用服务器 | |
CN102438020A (zh) | 内容分发网络中内容分发的方法、设备和网络系统 | |
KR20140032064A (ko) | 컨텐츠 전송 서비스 방법, 이를 위한 캐시 장치 | |
Carlsson et al. | Caching and optimized request routing in cloud-based content delivery systems | |
Jiang et al. | Cooperative content distribution for 5G systems based on distributed cloud service network | |
CN101141482B (zh) | 网络资源管理系统及方法 | |
CN102833163B (zh) | 对等网络流媒体点播服务质量保证方法及系统 | |
JP2009122981A (ja) | キャッシュ配置方法 | |
KR20180075079A (ko) | 협력 캐싱 시스템을 위한 콘텐츠 수요적응형 콘텐츠 교체 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20150121 Termination date: 20190531 |
|
CF01 | Termination of patent right due to non-payment of annual fee |