CN112311826A - 内容分发系统中访问请求的处理方法、装置及系统 - Google Patents
内容分发系统中访问请求的处理方法、装置及系统 Download PDFInfo
- Publication number
- CN112311826A CN112311826A CN201910694947.XA CN201910694947A CN112311826A CN 112311826 A CN112311826 A CN 112311826A CN 201910694947 A CN201910694947 A CN 201910694947A CN 112311826 A CN112311826 A CN 112311826A
- Authority
- CN
- China
- Prior art keywords
- file
- cold
- information
- management node
- access request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/13—File access structures, e.g. distributed indices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/40—Support for services or applications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本文示例性实施例提供一种内容分发系统中访问请求的处理方法、装置和系统。所述方法包括:获取文件访问请求;根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果;如果判断结果为属于冷门文件,则根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果;在所述判断结果为所述带宽使用状态信息符合所述判断策略时,触发冷门文件管理节点响应所述文件访问请求,其中所述冷门文件管理节点存储有所述文件访问请求对应的文件。
Description
技术领域
本文涉及通信领域,尤其涉及一种内容分发系统中访问请求的处理方法、装置及系统。
背景技术
内容分发网络(Content Delivery Network,CDN),该网络的目的是尽可能避开互联网上有可能影响数据传输速度和稳定性的瓶颈和环节,使内容传输得更快、更稳定。通过在网络各处放置节点服务器所构成的在现有的互联网基础之上的一层智能虚拟网络,CDN系统能够实时地根据网络流量和各节点的连接、负载状况以及到用户的距离和响应时间等综合信息将用户的请求重新导向离用户最近的服务节点上,使用户可就近取得所需内容,解决Internet网络拥挤的状况,提高用户访问网站的响应速度。
在内容分发网络中,为保障资源冗余和故障备份,普遍存在使用几十或上百个云分发边缘节点为同客户同业务提供文件缓存服务的场景;而且,一个客户业务中的资源文件总是存在由冷门资源文件和热点资源文件混杂在一起且难以区分开的情况。因此,在实际生产环境中,容易出现多个终端客户随机向多个边缘节点上请求同一个冷门文件,导致多个边缘节点上均需要各自向上游请求同一个冷门文件。此外,冷门资源文件在缓存下来之后几乎没有再被访问到的情况。
上述两个场景在云分发内容分发网络中,会带来很大的带宽成本消耗和存储资源消耗,造成网络资源的浪费。
发明内容
为克服相关技术中存在的问题,本文提供一种内容分发系统中访问请求的处理方法、装置及系统。
根据本文的第一方面,提供一种内容分发系统中访问请求的处理方法,包括:
获取文件访问请求;
根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果;
如果判断结果为属于冷门文件,则根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果;
在所述判断结果为所述带宽使用状态信息符合所述判断策略时,触发冷门文件管理节点响应所述文件访问请求,其中所述冷门文件管理节点存储有所述文件访问请求对应的文件。
在一个示例性实施例中,所述根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果,包括:
在本地存储的文件中,查找是否存储有所述文件标识信息对应的文件;
如果在本地存储的文件中未查找到所述文件,则根据预先获取的文件冷热的判断策略,确定所述文件对应的状态。
在一个示例性实施例中,所述根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果,包括:
获取已触发至冷门文件管理节点响应的文件访问请求的第一数量以及获取到的文件访问请求的总量;
根据所述第一数量和所述总量,判断所述第一数量与所述总量的占比信息是否满足预先设置的占比超标的判断策略;
如果所述占比信息不满足所述占比超标的判断策略,则确定所述带宽使用状态信息符合所述带宽充分使用的判断策略。
在一个示例性实施例中,所述触发冷门文件管理节点响应所述文件访问请求,包括:
在冷门文件管理节点的数量为至少两个时,获取每个冷门文件管理节点所在的地区信息和/或传输信息所使用的运营商网络信息;
根据所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,为选择符合本地的地区信息和/或运营商网络信息的目标冷门文件管理节点;
控制所述目标冷门文件管理节点响应所述文件访问请求。
在一个示例性实施例中,所述根据所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,为选择符合本地的地区信息和/或运营商网络信息的目标冷门文件管理节点,包括:
获取所述文件访问请求对应的域名解析信息;
根据所述域名解析信息以及所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,从所述冷门文件管理节点中确定与所述域名解析信息匹配的冷门文件管理节点作为目标冷门文件管理节点。
根据本文的另一方面,提供一种内容分发系统中访问请求的处理装置,包括:
获取模块,用于获取文件访问请求;
第一判断模块,用于根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果;
第二判断模块,用于如果判断结果为属于冷门文件,则根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果;
处理模块,用于在所述判断结果为所述带宽使用状态信息符合所述判断策略时,触发冷门文件管理节点响应所述文件访问请求,其中所述冷门文件管理节点存储有所述文件访问请求对应的文件。
在一个示例性实施例中,所述第一判断模块包括:
查找单元,用于在本地存储的文件中,查找是否存储有所述文件标识信息对应的文件;
第一获取单元,用于如果在本地存储的文件中未查找到所述文件,则根据预先获取的文件冷热的判断策略,确定所述文件对应的状态。
在一个示例性实施例中,所述第二判断模块包括:
第一获取单元,用于获取已触发至冷门文件管理节点响应的文件访问请求的第一数量以及获取到的文件访问请求的总量;
判断单元,用于根据所述第一数量和所述总量,判断所述第一数量与所述总量的占比信息是否满足预先设置的占比超标的判断策略;
确定单元,用于如果所述占比信息不满足所述占比超标的判断策略,则确定所述带宽使用状态信息符合所述带宽充分使用的判断策略。
在一个示例性实施例中,所述处理模块包括:
第二获取单元,用于在冷门文件管理节点的数量为至少两个时,获取每个冷门文件管理节点所在的地区信息和/或传输信息所使用的运营商网络信息;
选择单元,用于根据所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,为选择符合本地的地区信息和/或运营商网络信息的目标冷门文件管理节点;
控制单元,用于控制所述目标冷门文件管理节点响应所述文件访问请求。
在一个示例性实施例中,所述选择单元包括:
获取子模块,用于获取所述文件访问请求对应的域名解析信息;
确定子模块,用于根据所述域名解析信息以及所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,从所述冷门文件管理节点中确定与所述域名解析信息匹配的冷门文件管理节点作为目标冷门文件管理节点。
根据本文的另一方面,提供一种内容分发系统,包括:
边缘节点,包括上文任一所述的装置;
冷门文件管理节点,用于对所述文件访问请求进行响应。
在一个示例性实施例中,所述系统还包括:
决策中心,用于获取在预先设置的时长内发生的文件访问请求中的文件访问信息和/或所述文件访问请求对应的网络带宽使用信息,并根据所述文件访问信息和/或网络带宽使用信息,确定文件冷热的判断策略,再将得到文件冷热的冷热策略发送给边缘节点。
在一个示例性实施例中,冷门文件管理节点,用于如果在本地查找到所述文件访问请求对应的文件,则利用本地存储空间中对应文件响应所述文件访问请求;如果在本地未查找到所述文件访问请求对应的文件,向上游节点请求所述文件访问请求对应的文件;
其中,所述系统还包括:
上游节点,用于在接收冷门文件管理节点对文件的请求后,从本地存储空间中获取对应文件,并发送给所述冷门文件管理节点。
在一个示例性实施例中,冷门文件管理节点,用于获取所述边缘节点触发至冷门文件管理节点响应的文件访问请求占获取的全部文件访问请求的比例信息;根据所述比例信息以及边缘节点的存储池的容量,确定所述冷门文件管理节点的存储池的容量。
根据本文的另一方面,提供一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被执行时实现上文任意一项所述方法的步骤。
根据本文的另一方面,提供一种计算机设备,包括处理器、存储器和存储于所述存储器上的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现上文任意一项所述方法的步骤。
本文通过获取文件访问请求,根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果,如果判断结果为属于冷门文件,则根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果,在所述判断结果为所述带宽使用状态信息符合所述判断策略时,触发冷门文件管理节点响应所述文件访问请求,实现通过判断是否触发冷门文件管理节点响应对冷门文件的文件访问请求,有效控制将本地的文件访问请求转发至其他节点的行为,达到控制请求转发的数量的目的,在保证本地资源充分利用的前提下,提高文件处理效率。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本文。
附图说明
构成本文的一部分的附图用来提供对本文的进一步理解,本文的示意性实施例及其说明用于解释本文,并不构成对本文的不当限定。在附图中:
图1是根据一示例性实施例示出内容分发系统中访问请求的处理方法的流程图。
图2是根据一示例性实施例示出的访问请求的处理方法的示意图。
图3是根据一示例性实施例示出的访问请求的处理方法的对比示意图。
图4是根据一示例性实施例示出的内容分发系统中访问请求的处理方装置的示意图。
图5是根据一示例性实施例示出的一种计算机设备的框图。
具体实施方式
为使本文实施例的目的、技术方案和优点更加清楚,下面将结合本文实施例中的附图,对本文实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本文一部分实施例,而不是全部的实施例。基于本文中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本文保护的范围。需要说明的是,在不冲突的情况下,本文中的实施例及实施例中的特征可以相互任意组合。
针对上述情况,发明人发现相关技术中资源浪费的原因在于,相关技术中对云分发网络中对资源使用的规划,一般先根据客户的业务量规划所需要的资源池子,然后将规划好的资源池子提供给终端客户访问,忽视了对客户业务中的文件的冷热特性的关注。
由于没有对文件的冷热特性进行关注,在内容分发网络中会出现如下情况的资源浪费,包括:
多个终端客户在多个边缘节点上访问到一个冷门的资源文件时,每个边缘节点均需要向上游节点请求一份资源文件,造成较大的带宽资源消耗;
多个终端客户在多个边缘节点上访问到一个冷门的资源文件时,每个边缘节点均需要在边缘节点缓存一份资源文件,造成较大的存储资源消耗。
基于发明人提供的技术分析,本文提供如下解决方案,包括:
本文示例性实施例提供一种内容分发系统,包括:
边缘节点,包括内容分发系统中访问请求的处理装置,其中所述装置用于获取文件访问请求,根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果,如果判断结果为属于冷门文件,则根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果,在所述判断结果为所述带宽使用状态信息符合所述判断策略时,触发冷门文件管理节点响应所述文件访问请求,;
冷门文件管理节点,用于对所述文件访问请求进行响应,其中所述冷门文件管理节点存储有所述文件访问请求对应的文件。
在一个示例性实施例中,边缘节点是云分发网络中用于缓存客户源站内容的节点,可以快速响应不同地域用户请求的网络节点;在内容分发系统,可以为每个边缘节点均配置所述装置,或者,选择部分边缘节点配置所述装置。
在一个示例性实施例中,所述系统还可以包括上游节点,与边缘节点相连,用于为边缘节点提供数据服务;该上游节点可以是客户的源站,或者,是云分发中专门为边缘节点提供服务的云分发中间节点(中间源),用以处理边缘节点的一部分处理处理压力,从而减少源站的处理压力。
在一个示例性实施例中,冷门文件管理节点用于存储所述内容分发系统中的冷门文件,该冷门文件管理节点的节点类型可以为边缘节点,是用于接收冷门资源文件请求的边缘节点,接收所有判定为冷门资源的请求,并将所有判定为冷门资源的请求都会通过302重定向到对应的资源池进行相应;与相关技术中边缘节点的维护方式相似,区别在于,存储的数据均为内容分发系统中的冷门文件。在部署冷门文件管理节点时,由于该冷门文件管理节点可以为所有边缘节点统一提供服务;在实际部署该冷门文件管理节点时,优先部署一个节点,响应全部边缘节点对冷门文件的获取需求,达到节省硬件成本的目的。在选择节点作为冷门文件管理节点时,可以选择一个边缘节点作为冷门文件管理节点,从而实现在保留原有系统架构的前提下,实现对冷门文件的专门管理,提高方案的通用性,减低维护成本。
在一个示例性实施例中,冷门文件管理节点,用于获取所述边缘节点触发至冷门文件管理节点响应的文件访问请求占获取的全部文件访问请求的比例信息;根据所述比例信息以及边缘节点的存储池的容量,确定所述冷门文件管理节点的存储池的容量。
冷门文件管理节点的资源池,该资源池用于存储被判定为冷门资源的文件,由于冷门资源的文件请求所使用的带宽占总带宽的比例通常在5%~10%之间,所以资源池的大小比相关技术中的边缘节点的资源池的大小要小的多。
文件是否为冷门的判断结果是可以发生变化的,当对冷门文件访问的业务量变大时,原来的冷门资源文件可能变成热门资源文件;当业务量减少的情况下,原来的热门资源文件可能变成冷门资源文件。冷门文件管理节点的资源池内所存储的文件,由于文件冷热属性是可以变化的,冷门文件管理节点存储符合当前冷门文件判断策略的文件。对于已存储的文件中不符合冷门文件判断策略的文件,将其从资源池中删除;对于未存储的文件中符合冷门文件判断策略的文件,将其增加到冷门文件管理节点的资源池中。
在一个示例性实施例中,冷门文件管理节点,用于如果在本地查找到所述文件访问请求对应的文件,则利用本地存储空间中对应文件响应所述文件访问请求;如果在本地未查找到所述文件访问请求对应的文件,向上游节点请求所述文件访问请求对应的文件;
其中,所述系统还包括:
上游节点,用于在接收冷门文件管理节点对文件的请求后,从本地存储空间中获取对应文件,并发送给所述冷门文件管理节点。
冷门文件管理节点对应的上游节点可以存储冷门文件,在冷门文集管理节点的资源池不存储该冷门文件时,通过从上游节点获取文件完成对文件访问请求的响应。通过部署上游节点,可以分担冷门文件管理节点的存储压力。
本文提出冷门文件判断策略进行冷门文件的判断,用于确保冷门文件管理节点维护的文件符合冷门文件判断策略,保证冷门文件管理节点能够准确地维护冷门文件。
其中,所述冷门文件的判断策略可以通过系统中新增的决策中心来确定,或者,由边缘节点根据访问情况自行确定。
在一个示例性实施例中,所述系统还包括:
决策中心,用于获取在预先设置的时长内发生的文件访问请求中的文件访问信息和/或所述文件访问请求对应的网络带宽使用信息,并根据所述文件访问信息和/或网络带宽使用信息,确定文件冷热的判断策略,再将得到文件冷热的冷热策略发送给边缘节点。
基于上述对决策中心的说明,可以确定决策中心有如下功能:
(1)收集客户的访问数据;
在一个示例性实施例中,记录访问的文件信息、访问时间信息等。
(2)收集冷热分离调度当前运营情况;
在一个示例性实施例中,分析终端客户的访问数据主要通过分析终端客户对不同资源的访问次数、产生的访问带宽、产生的边缘回上游带宽,预测不同冷热判定条件下冷请求(带宽)占总请求(带宽)的比例、节省多少回上游的带宽、减少多少边缘节点存储消耗。
在全网有n个边缘节点时,如果第i个边缘节点上被访问j次的文件数量为Nij,平均每个文件大小为S,则根据以上数据,当把访问次数小于k的文件认为是冷文件时可以得到以下预测数据:
冷请求带宽占总带宽的比例=冷带宽/总带宽=∑i=1->n(∑j=1->k(Nij*j))/∑i=1->n(∑j=1->+∞(Nij*j))
节省回上游带宽比例=节省的回上游带宽/原本的回上游带宽=∑i=1->n(∑j=1->k(Nij))/∑i=1->n(∑j=1->+∞(Nij));
在上述情况下,节省边缘节点存储量为:∑i=1->n(∑j=1->k(Nij*S))。
(3)根据访问数据和运营情况做出冷热文件的判定策略;
在一个示例性实施例中,基于访问数据和运营情况对冷热条件作出判断策略,该判断策略可以为预设时间内访问总次数低于某一数值的文件为冷门文件。
(4)将冷热文件的判定策略同步到各个边缘节点;
上述判断策略可以在一并发送给所有的边缘节点,或者,分批发送给所有边缘节点。
当不使用决策中心确定冷热文件的判断策略时,冷热文件的判定策略可以由边缘节点根据终端客户访问到本节点的访问情况和本节点的冷热分离运营情况直接做出决策而不需要依赖决策中心的决策数据。
在本文中,冷热文件的判定策略可以由边缘或决策中心来确定。发明人对上述两种方式进行技术分析,包括:
决策中心生成判断策略的方式,通过收集并分析全网的文件访问情况,统计每个文件的访问次数并生成冷文件列表或者热文件列表同步到边缘。其中选择同步的内容是根据列表的数量决定的,数据量越小,同步代价越低。边缘节点接受到这份冷列表(热列表)后加载到服务应用,对每次终端请求都查询本次请求是否在冷列表(热列表)。若是则视为冷请求(热请求)。
上述方式的优势在于,业务变化之后中心决策可以感知并调整策略,中心制定的冷热策略和客户的整体业务的数据冷热特性更符合;相应的,也存在一些缺点,决策中心需要收集并分析访问情况,对中心要求较高,且边缘和中心都需要维护一份较大的冷列表(热列表);由于冷热策略必须具有很高的实时,且需要做好保障机制,维护成本高;中心决策符合整体的访问情况,但不一定符合所有节点的情况;
边缘决策方式成判断策略的方式:在服务上线前,收集全网的访问情况进行统计分析,并根据业务冷热特性制定冷热策略下发到边缘(如全网65%的文件被访问次数在5次以内,且这部分访问带宽占比10%左右,全网25%的文件被访问次数在20次以上,且这部分访问带宽占比60%左右,则冷热策略为:被访问小于5次的文件为冷文件)。
边缘决策:边缘节点接受请求并在本地存储应用没有找到该文件时,查看该文件被访问的次数和冷热策略(以小于5次为冷文件为例),如果小于5次则将本次请求视为冷请求做重定向并将访问次数+1;如果大于5则本次请求视为热请求;上述方式的优势在于,实时更新文件的冷热状态,且无需中心决策,实现和维护更简单,不需要维护和同步冷列表/热列表,可以更少;边缘根据访问情况判断文件的冷热特性,更符合节点本身的服务状况;相应的,也存在一些缺点,相应的,也存在一些缺点,客户业务变化时不能自动调整冷热策略以适应新的业务特性;
基于上述分析,可以看出,决策中心收集内容分发系统中终端客户的访问数据,操作需要时间,因此获取到的数据存储延迟,再利用得到的数据确定冷热文件的判断策略,需要保障中心下发策略到边缘的可靠性和实时性相对较复杂;而中心统一管理更方便,且能够制定保护策略,当运营中出现异常时可以由中心触发保护策略。
边缘节点确定冷热文件的判定策略,由于各个节点能够确定本节点上冷热文件的判断策略,容易造成节点间判断策略不一致,造成同一文件在不同边缘节点上冷热文件判断不同的情况,造成冷门文件管理节点出现管理混乱的问题;相对的,该方式的优势在于,能够充分利用边缘服务的计算能力;边缘决策更符合终端客户在当前节点的访问特性。
结合两者的优缺点,可以利用中心定期做初步的决策,并在初步的决策基础上由边缘根据本地记录的冷热文件信息进行最终决策,提出如下解决方案:
决策中心生成策略:决策中心定时收集全网的访问情况进行统计分析,其中定时的周期可以以小时为单位进行设置,由于业务的出现较大的变化概率较小,因此不需要很高的实时性,根据业务冷热特性制定冷热策略下发到边缘节点,与上文方式不同的是,不生成冷列表/热列表,只确定访问小于5次的文件为冷文件并将次数同步到边缘;
边缘决策:边缘更新策略,决策过程和上述边缘决策方式一样;
决定中心和边缘节点共同合作的方式,决策中心实现较为简单,且不需要高实实时性;在客户业务出现较大的变化时,中心可以更新策略并同步到边缘。
本文示例性实施例提供的系统,利用冷门文件管理节点集中响应冷门文件的请求,减少冷门文件向上游节点请求资源时产生的带宽消耗,同时,减少冷门文件在多个边缘节点中缓存带来的存储资源的消耗,降低了上游节点服务器的访问压力;另外,利用终端访问的冷热特性,只需要对很少的一部分请求做302重定向实现,实现的硬件成本低。
图1是根据一示例性实施例示出内容分发系统中访问请求的处理方法的流程图。图1所示方法包括:
步骤101、获取文件访问请求;
在一个示例性实施例中,所述文件访问请求是终端客户发送的文件访问请求,所述文件访问请求包括所需文件的标识信息;
步骤102、根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果;
在一个示例性实施例中,可以根据文件访问请求中的所需文件的标识信息,确定对应的文件,再根据本地获取的冷门文件的判断策略,确定文件是否为冷门文件;
步骤103、如果判断结果为属于冷门文件,则根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果;
在一个示例性实施例中,带宽使用状态信息可以通过带宽占用情况,或者,本地处理请求的数量占全部请求的比例来确定。
通过判断是否触发冷门文件管理节点响应对冷门文件的文件访问请求,可以有效控制将本地的文件访问请求转发至其他节点的行为,达到控制请求转发的数量的目的,在保证本地资源充分利用的前提下,提高文件处理效率。
步骤104、在所述判断结果为所述带宽使用状态信息符合所述判断策略时,触发冷门文件管理节点响应所述文件访问请求,其中所述冷门文件管理节点存储有所述文件访问请求对应的文件。
在一个示例性实施例中,与相关技术中每个边缘节点均各自处理冷门文件请求的方式相比,本文提供的方案是将各自收到的冷门文件请求统一交给冷门文件管理节点进行处理,从而降低各个边缘节点的压力。
本文提供的方法实施例,获取文件访问请求,根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果,如果判断结果为属于冷门文件,则根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果,在所述判断结果为所述带宽使用状态信息符合所述判断策略时,触发冷门文件管理节点响应所述文件访问请求,实现通过判断是否触发冷门文件管理节点响应对冷门文件的文件访问请求,有效控制将本地的文件访问请求转发至其他节点的行为,达到控制请求转发的数量的目的,在保证本地资源充分利用的前提下,提高文件处理效率。
下面对本申请实施例提供的方法进行说明:
在一个示例性实施例中,所述根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果,包括:
在本地存储的文件中,查找是否存储有所述文件标识信息对应的文件;
如果在本地存储的文件中未查找到所述文件,则根据预先获取的文件冷热的判断策略,确定所述文件对应的状态。
在一个示例性实施例中,首先从边缘节点的存储应用中查询本地是否存储有该文件,以达到利用本地已存储的文件的目的,同时,在本地存储该文件时,可以在一定程度上减少了与上游节点和冷门文件管理节点的交互,降低了对网络带宽的使用,也提高了对文件访问请求的响应速度。
在一个示例性实施例中,所述文件冷热的判断策略是通过如下方式得到的,包括:
记录在预先设置的时长内累积接收的文件访问请求;
根据记录的文件访问请求,设置文件冷热的判断策略。
在本示例性实施例中,边缘节点可以根据最近一段内访问请求所请求的文件,确定每个文件的访问次数,并获取该文件的访问次数对文件的冷热状态进行设置。
在一个示例性实施例中,所述根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果,包括:
获取已触发至冷门文件管理节点响应的文件访问请求的第一数量以及获取到的文件访问请求的总量;
根据所述第一数量和所述总量,判断所述第一数量与所述总量的占比信息是否满足预先设置的占比超标的判断策略;
如果所述占比信息不满足所述占比超标的判断策略,则确定所述带宽使用状态信息符合所述带宽充分使用的判断策略。
通过判断重定向请求占总请求比例是否大于设定的阈值,若是则本次请求不做重定向,实现对重定向操作的比例控制:
通过对重定向操作的比例,避免客户业务较大或者节点规划变更之后,访问到本节点的请求被大量重定向到其他节点造成本节点设备和节点带宽没有充分利用的情况,保证本节点设备和节点带宽能够充分利用;另外,通过控制冷门文件管理节点响应的文件访问请求的数量,避免接受重定向服务的冷门文件管理节点因请求过载而无法正常服务的问题;
另外,上述阈值可以用于规划冷门文件节点的资源池子的大小。阈值的大小是根据业务的冷热特性来决定,假设业务中有10%的文件是较冷门的文件则阈值可以设置成稍大于10%,如12%。
在一个示例性实施例中,所述触发冷门文件管理节点响应所述文件访问请求,包括:
在冷门文件管理节点的数量为至少两个时,获取每个冷门文件管理节点所在的地区信息和/或传输信息所使用的运营商网络信息;
根据所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,为选择符合本地的地区信息和/或运营商网络信息的目标冷门文件管理节点;
控制所述目标冷门文件管理节点响应所述文件访问请求。
边缘节点通过考量不同运营商或不同地区节点之间的传输性能,因此在对不同运营商或地区的边缘节点,需要考虑使用同营商且本地区或附近地区的冷门文件管理节点进行响应,提高请求的传输时间,提高响应效率。
在一个示例性实施例中,所述根据所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,为选择符合本地的地区信息和/或运营商网络信息的目标冷门文件管理节点,包括:
获取所述文件访问请求对应的域名解析信息;
根据所述域名解析信息以及所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,从所述冷门文件管理节点中确定与所述域名解析信息匹配的冷门文件管理节点作为目标冷门文件管理节点。
边缘节点在获取可以使用的冷门文件管理节点时,通过DNS解析的约定的域名获取可以重定向的目的IP即该地区可以选用的冷文文件管理节点。例如,当一个浙江电信的边缘节点需要做重定向时,会先请求一个约定好的域名的解析,域名解析出的冷门节点即是配置好的用于电信浙江这个运营商和地区的冷门节点;
在一个示例性实施例中,所述触发冷门文件管理节点响应所述文件访问请求,包括:
获取所述冷门文件管理节点中响应所述文件访问请求的服务器集群;
将所述文件访问请求路由至所述服务器集群。
在一个示例性实施例中,可以采用按照对预设的冷文件集群节点使用hash计算策略选择一个服务器集群作为该文件访问请求的响应对象;触发该请求的方式可以是将文件转发请求路由至该冷门文件管理节点,以便让冷门文件管理节点获知到请求。
在一个示例性实施例中,所述将所述文件访问请求路由至所述服务器集群,包括:
获取被选择的服务器集群的地址信息;
根据所述地址信息,生成重定向至所述被选择的服务器集群的所述文件访问请求;
发送重定向后的文件访问请求。
在一个示例性实施例中,采用重定向请求消息的方式,在达到触发冷门文件管理节点进行响应的同时,还达到告知终端客户由冷门文件管理节点进行响应的目的。
在一个示例性实施例中,可以由边缘节点直接转发该文件访问请求至所述冷门文件管理节点,再发送一条消息告知终端客户该消息由冷门文件管理节点进行响应。
对比上述两种方式,后者方式的消息数量为两条,且交互方式未遵从客户端-服务器的消息交互方式,因此优选前者的方式。
本文提供的方法实施例,利用了终端客户对资源文件访问时普遍存在的数据冷热特性,结合302技术,使用较少的边缘节点资源来为冷门资源文件提供服务,可以有效地降低上述提到带宽资源消耗和存储资源消耗。
图2是根据一示例性实施例示出的访问请求的处理方法的示意图。结合图1所示的系统,本文提供一种端客户访问处理的方法,包括以下过程和步骤:
过程1:终端客户向边缘节点集群发起访问请求;
步骤1.1:终端客户向边缘节点服务器的服务应用发起访问请求;
步骤1.2:服务应用向本地存储应用请求终端客户访问的资源文件;
步骤1.3:存储应用处理来自服务器应用的请求,存在以下3个分支:
1):若本地能找到资源文件,则本地存储应用读取并响应资源文件;结束。
2):若本地未找到资源文件且判定本次请求为热点资源请求,则存储应用向上游节点请求该资源并在本地缓存和响应给服务应用;
3):若本地未找到资源文件且判定本次请求为冷门资源请求,则存储应用返回未找到资源且判定本次请求为冷门资源请求的信息;
步骤1.4:服务应用接受并处理存储应用响应的内容,存在以下2个分支:
1):若存储应用响应资源文件,则直接将资源文件响应给终端客户;
2):若存储应用响应未找到资源且判定本次请求为冷门资源请求的信息:
首先,使用hash技术选择冷资源边缘节点中的一个服务器集群;
其次,通过302技术将本次请求重定向到目标集群组;
过程2:边缘节点集群中的服务器响应请求给终端客户,存在以下2个分支:
1):若终端客户接收到正常的资源文件,则本次请求正常结束;
2):若终端客户接收到302跳转请求,则终端客户继续302重定向的URL;
过程3:终端客户继续请求302的URL;
步骤3.1:终端客户向冷资源边缘节点服务器的服务应用发起访问请求;
步骤3.2:服务应用向本地存储应用请求终端客户访问的资源文件;
步骤3.3:存储应用处理来自服务器应用的请求,存在以下两个分支:
1):若本地能找到资源文件,则本地存储应用读取并响应资源文件;
2):若本地未找到资源文件,则存储应用向上游节点请求该资源并在本地缓存和响应回服务应用;
步骤3.4:服务应用接受并处理存储应用响应的内容;
过程4:冷资源边缘节点集群中的服务器响应结果给终端客户;
图3是根据一示例性实施例示出的访问请求的处理方法的对比示意图。图3所示的示意图中多个终端客户随机向边缘节点中的服务器集群请求冷门资源文件A的处理方式,包括:
在未使用优化装置的情况下,每个服务器集群都需要向上游节点请求一次冷门资源文件A;每个服务器集群都需要在本地集群缓存一份冷门资源文件A;
在使用优化装置的情况下,请求会被重定向到固定的一个冷资源服务集群B,只需要在冷资源服务器集群B向上游节点请求一次冷门资源文件A;只需要在冷资源服务器集群B缓存一份冷门资源文件A。
通过对比图可以看出,本文提供的方法,利用了终端客户对资源文件访问时普遍存在的数据冷热特性,结合302技术,使用较少的边缘节点资源来为冷门资源文件提供服务,可以有效地降低上述提到带宽资源消耗和存储资源消耗。
图4是根据一示例性实施例示出的内容分发系统中访问请求的处理方装置的示意图。如图4所示,所述装置,包括:
获取模块401,用于获取文件访问请求;
第一判断模块402,用于根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果;
第二判断模块403,用于如果判断结果为属于冷门文件,则根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果;
处理模块404,用于在所述判断结果为所述带宽使用状态信息符合所述判断策略时,触发冷门文件管理节点响应所述文件访问请求,其中所述冷门文件管理节点存储有所述文件访问请求对应的文件。
在一个示例实施例中,所述第一判断模块402包括:
查找单元,用于在本地存储的文件中,查找是否存储有所述文件标识信息对应的文件;
第一获取单元,用于如果在本地存储的文件中未查找到所述文件,则根据预先获取的文件冷热的判断策略,确定所述文件对应的状态。
在一个示例实施例中,所述第二判断模块403包括:
第一获取单元,用于获取已触发至冷门文件管理节点响应的文件访问请求的第一数量以及获取到的文件访问请求的总量;
判断单元,用于根据所述第一数量和所述总量,判断所述第一数量与所述总量的占比信息是否满足预先设置的占比超标的判断策略;
确定单元,用于如果所述占比信息不满足所述占比超标的判断策略,则确定所述带宽使用状态信息符合所述带宽充分使用的判断策略。
在一个示例实施例中,所述处理模块404包括:
第二获取单元,用于在冷门文件管理节点的数量为至少两个时,获取每个冷门文件管理节点所在的地区信息和/或传输信息所使用的运营商网络信息;
选择单元,用于根据所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,为选择符合本地的地区信息和/或运营商网络信息的目标冷门文件管理节点;
控制单元,用于控制所述目标冷门文件管理节点响应所述文件访问请求。
在一个示例实施例中,所述选择单元包括:
获取子模块,用于获取所述文件访问请求对应的域名解析信息;
确定子模块,用于根据所述域名解析信息以及所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,从所述冷门文件管理节点中确定与所述域名解析信息匹配的冷门文件管理节点作为目标冷门文件管理节点。
本文提供的装置实施例,获取文件访问请求,根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果,如果判断结果为属于冷门文件,则根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果,在所述判断结果为所述带宽使用状态信息符合所述判断策略时,触发冷门文件管理节点响应所述文件访问请求,实现通过判断是否触发冷门文件管理节点响应对冷门文件的文件访问请求,有效控制将本地的文件访问请求转发至其他节点的行为,达到控制请求转发的数量的目的,在保证本地资源充分利用的前提下,提高文件处理效率
本文示例性实施例提供一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被执行时实现如下方法的步骤,包括:
获取文件访问请求;
根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果;
如果判断结果为属于冷门文件,则根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果;
在所述判断结果为所述带宽使用状态信息符合所述判断策略时,触发冷门文件管理节点响应所述文件访问请求,其中所述冷门文件管理节点存储有所述文件访问请求对应的文件。
在一个示例性实施例中,所述计算机程序被执行时实现所述根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果的步骤,包括:
在本地存储的文件中,查找是否存储有所述文件标识信息对应的文件;
如果在本地存储的文件中未查找到所述文件,则根据预先获取的文件冷热的判断策略,确定所述文件对应的状态。
在一个示例性实施例中,所述计算机程序被执行时实现根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果的步骤,包括:
获取已触发至冷门文件管理节点响应的文件访问请求的第一数量以及获取到的文件访问请求的总量;
根据所述第一数量和所述总量,判断所述第一数量与所述总量的占比信息是否满足预先设置的占比超标的判断策略;
如果所述占比信息不满足所述占比超标的判断策略,则确定所述带宽使用状态信息符合所述带宽充分使用的判断策略。
在一个示例性实施例中,所述计算机程序被执行时实现所述触发冷门文件管理节点响应所述文件访问请求的步骤,包括:
在冷门文件管理节点的数量为至少两个时,获取每个冷门文件管理节点所在的地区信息和/或传输信息所使用的运营商网络信息;
根据所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,为选择符合本地的地区信息和/或运营商网络信息的目标冷门文件管理节点;
控制所述目标冷门文件管理节点响应所述文件访问请求。
在一个示例性实施例中,所述计算机程序被执行时实现所述根据所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,为选择符合本地的地区信息和/或运营商网络信息的目标冷门文件管理节点的步骤,包括:
获取所述文件访问请求对应的域名解析信息;
根据所述域名解析信息以及所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,从所述冷门文件管理节点中确定与所述域名解析信息匹配的冷门文件管理节点作为目标冷门文件管理节点。
图5是根据一示例性实施例示出的一种计算机设备500的框图。例如,计算机设备500可以被提供为一服务器。参照图4,计算机设备500包括处理器501,处理器的个数可以根据需要设置为一个或者多个。计算机设备500还包括存储器502,用于存储可由处理器501的执行的指令,例如应用程序。存储器的个数可以根据需要设置一个或者多个。其存储的应用程序可以为一个或者多个。处理器501被配置为执行指令,以执行上述方法。
本领域技术人员应明白,本文的实施例可提供为方法、装置(设备)、或计算机程序产品。因此,本文可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本文可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质上实施的计算机程序产品的形式。计算机存储介质包括在用于存储信息(诸如计算机可读指令、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质,包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质等。此外,本领域普通技术人员公知的是,通信介质通常包含计算机可读指令、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据,并且可包括任何信息递送介质。
本文是参照根据本文实施例的方法、装置(设备)和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的物品或者设备中还存在另外的相同要素。
尽管已描述了本文的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本文范围的所有变更和修改。
显然,本领域的技术人员可以对本文进行各种改动和变型而不脱离本文的精神和范围。这样,倘若本文的这些修改和变型属于本文权利要求及其等同技术的范围之内,则本文的意图也包含这些改动和变型在内。
Claims (16)
1.一种内容分发系统中访问请求的处理方法,包括:
获取文件访问请求;
根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果;
如果判断结果为属于冷门文件,则根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果;
在所述判断结果为所述带宽使用状态信息符合所述判断策略时,触发冷门文件管理节点响应所述文件访问请求,其中所述冷门文件管理节点存储有所述文件访问请求对应的文件。
2.根据权利要求1所述的方法,其特征在于,所述根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果,包括:
在本地存储的文件中,查找是否存储有所述文件标识信息对应的文件;
如果在本地存储的文件中未查找到所述文件,则根据预先获取的文件冷热的判断策略,确定所述文件对应的状态。
3.根据权利要求1所述的方法,其特征在于,所述根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果,包括:
获取已触发至冷门文件管理节点响应的文件访问请求的第一数量以及获取到的文件访问请求的总量;
根据所述第一数量和所述总量,判断所述第一数量与所述总量的占比信息是否满足预先设置的占比超标的判断策略;
如果所述占比信息不满足所述占比超标的判断策略,则确定所述带宽使用状态信息符合所述带宽充分使用的判断策略。
4.根据权利要求1所述的方法,其特征在于,所述触发冷门文件管理节点响应所述文件访问请求,包括:
在冷门文件管理节点的数量为至少两个时,获取每个冷门文件管理节点所在的地区信息和/或传输信息所使用的运营商网络信息;
根据所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,为选择符合本地的地区信息和/或运营商网络信息的目标冷门文件管理节点;
控制所述目标冷门文件管理节点响应所述文件访问请求。
5.根据权利要求4所述的方法,其特征在于,所述根据所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,为选择符合本地的地区信息和/或运营商网络信息的目标冷门文件管理节点,包括:
获取所述文件访问请求对应的域名解析信息;
根据所述域名解析信息以及所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,从所述冷门文件管理节点中确定与所述域名解析信息匹配的冷门文件管理节点作为目标冷门文件管理节点。
6.一种内容分发系统中访问请求的处理装置,包括:
获取模块,用于获取文件访问请求;
第一判断模块,用于根据预先设置的冷门文件判断策略,判断所述文件访问请求对应的文件是否属于冷门文件,得到判断结果;
第二判断模块,用于如果判断结果为属于冷门文件,则根据预先获取的带宽使用状态信息,判断所述带宽使用状态信息是否符合预先设置的带宽充分使用的判断策略,得到判断结果;
处理模块,用于在所述判断结果为所述带宽使用状态信息符合所述判断策略时,触发冷门文件管理节点响应所述文件访问请求,其中所述冷门文件管理节点存储有所述文件访问请求对应的文件。
7.根据权利要求6所述的装置,其特征在于,所述第一判断模块包括:
查找单元,用于在本地存储的文件中,查找是否存储有所述文件标识信息对应的文件;
第一获取单元,用于如果在本地存储的文件中未查找到所述文件,则根据预先获取的文件冷热的判断策略,确定所述文件对应的状态。
8.根据权利要求6所述的装置,其特征在于,所述第二判断模块包括:
第一获取单元,用于获取已触发至冷门文件管理节点响应的文件访问请求的第一数量以及获取到的文件访问请求的总量;
判断单元,用于根据所述第一数量和所述总量,判断所述第一数量与所述总量的占比信息是否满足预先设置的占比超标的判断策略;
确定单元,用于如果所述占比信息不满足所述占比超标的判断策略,则确定所述带宽使用状态信息符合所述带宽充分使用的判断策略。
9.根据权利要求6所述的装置,其特征在于,所述处理模块包括:
第二获取单元,用于在冷门文件管理节点的数量为至少两个时,获取每个冷门文件管理节点所在的地区信息和/或传输信息所使用的运营商网络信息;
选择单元,用于根据所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,为选择符合本地的地区信息和/或运营商网络信息的目标冷门文件管理节点;
控制单元,用于控制所述目标冷门文件管理节点响应所述文件访问请求。
10.根据权利要求9所述的装置,其特征在于,所述选择单元包括:
获取子模块,用于获取所述文件访问请求对应的域名解析信息;
确定子模块,用于根据所述域名解析信息以及所述每个冷门文件管理节点对应的地区信息和/或运营商网络信息,从所述冷门文件管理节点中确定与所述域名解析信息匹配的冷门文件管理节点作为目标冷门文件管理节点。
11.一种内容分发系统,包括:
边缘节点,包括如权利要求6至10任一所述的装置;
冷门文件管理节点,用于对所述文件访问请求进行响应。
12.根据权利要求11所述的系统,其特征在于,所述系统还包括:
决策中心,用于获取在预先设置的时长内发生的文件访问请求中的文件访问信息和/或所述文件访问请求对应的网络带宽使用信息,并根据所述文件访问信息和/或网络带宽使用信息,确定文件冷热的判断策略,再将得到文件冷热的冷热策略发送给边缘节点。
13.根据权利要求11所述的系统,其特征在于:
冷门文件管理节点,用于如果在本地查找到所述文件访问请求对应的文件,则利用本地存储空间中对应文件响应所述文件访问请求;如果在本地未查找到所述文件访问请求对应的文件,向上游节点请求所述文件访问请求对应的文件;
其中,所述系统还包括:
上游节点,用于在接收冷门文件管理节点对文件的请求后,从本地存储空间中获取对应文件,并发送给所述冷门文件管理节点。
14.根据权利要求11所述的系统,其特征在于:
冷门文件管理节点,用于获取所述边缘节点触发至冷门文件管理节点响应的文件访问请求占获取的全部文件访问请求的比例信息;根据所述比例信息以及边缘节点的存储池的容量,确定所述冷门文件管理节点的存储池的容量。
15.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被执行时实现如权利要求1-5中任意一项所述方法的步骤。
16.一种计算机设备,包括处理器、存储器和存储于所述存储器上的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1-5中任意一项所述方法的步骤。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910694947.XA CN112311826B (zh) | 2019-07-30 | 2019-07-30 | 内容分发系统中访问请求的处理方法、装置及系统 |
PCT/CN2020/103439 WO2021017968A1 (zh) | 2019-07-30 | 2020-07-22 | 内容分发系统中访问请求的处理方法、装置及系统 |
US17/631,120 US11606415B2 (en) | 2019-07-30 | 2020-07-22 | Method, apparatus and system for processing an access request in a content delivery system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910694947.XA CN112311826B (zh) | 2019-07-30 | 2019-07-30 | 内容分发系统中访问请求的处理方法、装置及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112311826A true CN112311826A (zh) | 2021-02-02 |
CN112311826B CN112311826B (zh) | 2022-05-03 |
Family
ID=74230124
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910694947.XA Active CN112311826B (zh) | 2019-07-30 | 2019-07-30 | 内容分发系统中访问请求的处理方法、装置及系统 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11606415B2 (zh) |
CN (1) | CN112311826B (zh) |
WO (1) | WO2021017968A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114071173A (zh) * | 2021-11-15 | 2022-02-18 | 北京百度网讯科技有限公司 | 直播调度方法及装置、系统、电子设备和介质 |
CN114465767A (zh) * | 2021-12-27 | 2022-05-10 | 天翼云科技有限公司 | 一种数据调度方法和设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102523279A (zh) * | 2011-12-12 | 2012-06-27 | 云海创想信息技术(无锡)有限公司 | 一种分布式文件系统及其热点文件存取方法 |
US20150242397A1 (en) * | 2013-06-19 | 2015-08-27 | Tencent Technology (Shenzhen) Company Limited | Method, server and system for managing content in content delivery network |
CN105072172A (zh) * | 2015-07-31 | 2015-11-18 | 网宿科技股份有限公司 | 一种基于内容分发网络的热点统计及推送方法及系统 |
CN109218362A (zh) * | 2017-07-03 | 2019-01-15 | 中国移动通信有限公司研究院 | 一种互联网内容分发方法、装置和系统 |
CN109672757A (zh) * | 2019-02-26 | 2019-04-23 | 北京奇艺世纪科技有限公司 | 文件访问方法及文件访问处理装置 |
US10331630B1 (en) * | 2016-03-24 | 2019-06-25 | EMC IP Holding Company LLC | Systems and methods for file triggers in a converged compute and file system |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101137042A (zh) | 2006-09-29 | 2008-03-05 | 中兴通讯股份有限公司 | 一种集群式流媒体系统中静态节目的分发和服务方法 |
CN101039329B (zh) * | 2006-12-28 | 2012-03-28 | 中兴通讯股份有限公司 | 基于媒体交付的网络电视系统的媒体交付系统 |
US8180720B1 (en) | 2007-07-19 | 2012-05-15 | Akamai Technologies, Inc. | Content delivery network (CDN) cold content handling |
US8171338B2 (en) * | 2010-05-18 | 2012-05-01 | Vmware, Inc. | Method and system for enabling checkpointing fault tolerance across remote virtual machines |
CN102438171B (zh) | 2011-08-22 | 2018-09-28 | 南京中兴软件有限责任公司 | 节目源文件处理方法、装置及网络电视系统 |
CN103746934A (zh) * | 2013-12-24 | 2014-04-23 | 乐视网信息技术(北京)股份有限公司 | 一种cdn带宽平衡的方法、cdn控制中心及系统 |
EP3228047B1 (en) | 2014-12-05 | 2018-07-04 | Telefonaktiebolaget LM Ericsson (publ) | Methods and network nodes for monitoring services in a content delivery network |
US10489980B1 (en) * | 2017-03-30 | 2019-11-26 | Amazon Technologies, Inc. | Data discovery through visual interactions |
CN116112640A (zh) | 2017-10-18 | 2023-05-12 | 北京京东尚科信息技术有限公司 | 信息传输方法、装置和系统 |
CN110661862A (zh) * | 2019-09-20 | 2020-01-07 | 网宿科技股份有限公司 | 一种预热资源文件的方法和中心管理系统 |
US20220050722A1 (en) * | 2021-10-29 | 2022-02-17 | Intel Corporation | Memory pool management |
-
2019
- 2019-07-30 CN CN201910694947.XA patent/CN112311826B/zh active Active
-
2020
- 2020-07-22 US US17/631,120 patent/US11606415B2/en active Active
- 2020-07-22 WO PCT/CN2020/103439 patent/WO2021017968A1/zh active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102523279A (zh) * | 2011-12-12 | 2012-06-27 | 云海创想信息技术(无锡)有限公司 | 一种分布式文件系统及其热点文件存取方法 |
US20150242397A1 (en) * | 2013-06-19 | 2015-08-27 | Tencent Technology (Shenzhen) Company Limited | Method, server and system for managing content in content delivery network |
CN105072172A (zh) * | 2015-07-31 | 2015-11-18 | 网宿科技股份有限公司 | 一种基于内容分发网络的热点统计及推送方法及系统 |
US10331630B1 (en) * | 2016-03-24 | 2019-06-25 | EMC IP Holding Company LLC | Systems and methods for file triggers in a converged compute and file system |
CN109218362A (zh) * | 2017-07-03 | 2019-01-15 | 中国移动通信有限公司研究院 | 一种互联网内容分发方法、装置和系统 |
CN109672757A (zh) * | 2019-02-26 | 2019-04-23 | 北京奇艺世纪科技有限公司 | 文件访问方法及文件访问处理装置 |
Non-Patent Citations (2)
Title |
---|
KAI XU: "Joint Replica Server Placement, Content Caching, and Request Load Assignment in Content Delivery Networks", 《IEEE ACCESS》 * |
葛志诚: "一种移动内容分发网络的分层协同缓存机制", 《计算机学报》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114071173A (zh) * | 2021-11-15 | 2022-02-18 | 北京百度网讯科技有限公司 | 直播调度方法及装置、系统、电子设备和介质 |
CN114465767A (zh) * | 2021-12-27 | 2022-05-10 | 天翼云科技有限公司 | 一种数据调度方法和设备 |
Also Published As
Publication number | Publication date |
---|---|
CN112311826B (zh) | 2022-05-03 |
WO2021017968A1 (zh) | 2021-02-04 |
US11606415B2 (en) | 2023-03-14 |
US20220279036A1 (en) | 2022-09-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10667172B2 (en) | Download management with congestion mitigation for over the air content delivery to vehicles | |
US20210344604A1 (en) | Download management with congestion mitigation for over the air content delivery to vehicles | |
US8880636B2 (en) | Caching in mobile networks | |
CN103023768B (zh) | 边缘路由节点以及其从多源预取内容的方法 | |
US9703752B2 (en) | Caching in mobile networks | |
CN102281190B (zh) | 负载均衡装置组网方法以及服务器、客户端接入方法 | |
CN111614736A (zh) | 网络内容资源调度方法、域名调度服务器及电子设备 | |
US20040236869A1 (en) | Parallel information delivery method based on peer-to-peer enabled distributed computing technology and the system thereof | |
US20080313207A1 (en) | System and method for collection, retrieval, and distribution of data | |
CN104320410A (zh) | 基于http的全业务cdn系统及其工作方法 | |
CN111459986B (zh) | 数据计算系统及方法 | |
EP2880839B1 (en) | Web caching method and system for content distribution network (cdn) | |
US10250671B2 (en) | P2P-based file transmission control method and P2P communication control device therefor | |
CN112311826B (zh) | 内容分发系统中访问请求的处理方法、装置及系统 | |
CN104718721A (zh) | 计算机系统中的数据服务 | |
CN109873855A (zh) | 一种基于区块链网络的资源获取方法和系统 | |
CN113301079B (zh) | 一种数据的获取方法、系统、计算设备及存储介质 | |
CN115208955B (zh) | 一种资源请求处理的方法、装置、计算机设备及介质 | |
CN115706741A (zh) | 一种切片文件的回源方法以及装置 | |
CN114124797B (zh) | 一种服务器路由方法、装置、电子设备及存储介质 | |
CN110581873A (zh) | 一种跨集群重定向方法及监控服务器 | |
CN103685367A (zh) | 离线下载系统和方法 | |
CN113438494A (zh) | 数据处理方法及装置 | |
CN114615333A (zh) | 一种资源访问请求处理方法、装置、设备及介质 | |
CN115134618B (zh) | 直播流生命周期信息处理方法、装置及计算设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40045079 Country of ref document: HK |
|
GR01 | Patent grant | ||
GR01 | Patent grant |