CN116320004A - 一种内容缓存方法及缓存服务系统 - Google Patents
一种内容缓存方法及缓存服务系统 Download PDFInfo
- Publication number
- CN116320004A CN116320004A CN202310576968.8A CN202310576968A CN116320004A CN 116320004 A CN116320004 A CN 116320004A CN 202310576968 A CN202310576968 A CN 202310576968A CN 116320004 A CN116320004 A CN 116320004A
- Authority
- CN
- China
- Prior art keywords
- content
- server
- caching
- target
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 35
- 230000008901 benefit Effects 0.000 claims description 32
- 230000005540 biological transmission Effects 0.000 abstract description 19
- 238000004364 calculation method Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000003139 buffering effect Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/147—Network analysis or design for predicting network behaviour
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/50—Reducing energy consumption in communication networks in wire-line communication networks, e.g. low power modes or reduced link rate
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Transfer Between Computers (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请涉及一种内容缓存方法及缓存服务系统,可以获取各服务器当前缓存的相同的流行内容,将该流行内容的大小作为各服务器当前的私有区域的大小,并将该流行内容在各服务器的私有区域中进行非协作式缓存,并将各服务器中除私有区域以外的缓存区域作为当前的共享区域以对除该流行内容以外的内容进行协作式缓存,通过牺牲域内服务器的一部分流行内容的存储空间,汇聚成较大的虚拟共享区域供除该流行内容以外的内容使用,也即可以将非流行内容存储在该共享区域,用较低的与相邻服务器的时延代替云端较远的时延,从而减少了整体的传输时延。
Description
技术领域
本申请涉及缓存技术领域,特别是涉及一种内容缓存方法及缓存服务系统。
背景技术
随着5g网络的发展,用户请求数据量呈爆发式增长。这些数据量为缓存服务系统和云端带来负担,对网络传输时延和用户体验质量带来一定影响。通过分析真实的数据发现,用户请求内容的频率呈典型的Zipf分布。在所有请求内容数量中,高频率的流行内容数量较少,非高频的内容数量较多。为了保证用户请求的响应速度,减少由于远距离传输产生的耗时,常常将少量的流行内容存储在缓存服务系统中。然而由于非高频的非流行内容有着较高的数量,因此这些非流行内容未命中对服务器的响应时延产生严重影响。因此,如何增大这些非流行内容的命中率,降低整体的传输时延成为当前亟待解决的技术问题。
发明内容
本申请实施例的目的在于提供一种内容缓存方法及缓存服务系统,以解决上述技术问题。
一方面,提供一种内容缓存方法,应用于缓存服务系统,所述缓存服务系统包括至少2个位于同一域内的服务器,所述方法包括:
获取各所述服务器当前缓存的相同的流行内容;
将所述流行内容的大小作为各所述服务器当前的私有区域的大小,并将所述流行内容在各所述服务器的所述私有区域中进行非协作式缓存,并将各所述服务器中除所述私有区域以外的缓存区域作为当前的共享区域以对除所述流行内容以外的内容进行协作式缓存。
在其中一个实施例中,所述方法包括:
在接收到针对某一目标内容的访问请求,且确定所述缓存服务系统中未缓存所述目标内容时,从云端获取所述目标内容,并将所述目标内容缓存至所述缓存服务系统中。
在其中一个实施例中, 所述将所述目标内容缓存至所述缓存服务系统中,包括:
将所述目标内容缓存至所述共享区域中。
在其中一个实施例中,所述将所述目标内容缓存至所述共享区域中,包括:
在确定当前可缓存所述目标内容的服务器有至少2个时,从当前可缓存所述目标内容的服务器中选择一个目标服务器作为缓存所述目标内容的服务器,并将所述目标内容缓存于所述目标服务器的共享区域中。
在其中一个实施例中,所述从当前可缓存所述目标内容的服务器中选择一个目标服务器作为缓存所述目标内容的服务器,包括:
将接收所述访问请求的服务器作为缓存所述目标内容的目标服务器。
在其中一个实施例中,所述从当前可缓存所述目标内容的服务器中选择一个目标服务器作为缓存所述目标内容的服务器,包括:
在当前可缓存所述目标内容的服务器的各共享区域的空闲空间大小均大于或等于所述目标内容的大小时,分别计算将所述目标内容缓存于各所述服务器的共享区域时的第一缓存时延收益;
将最大的第一缓存时延收益对应的服务器作为缓存所述目标内容的目标服务器。
在其中一个实施例中,所述从当前可缓存所述目标内容的服务器中选择一个目标服务器作为缓存所述目标内容的服务器,包括:
在当前可缓存所述目标内容的服务器的各共享区域的空闲空间大小均小于所述目标内容的大小时,分别计算将所述目标内容缓存于各所述服务器的共享区域时的第一缓存时延收益,并针对各所述服务器的共享区域中已缓存的各内容,分别计算将其缓存于对应的共享区域的第二缓存时延收益;
分别计算所述第一缓存时延收益与各所述第二缓存时延收益的差值得到各所述服务器的共享区域中已缓存的各内容的替换时延收益;
将当前最大的替换时延收益对应的内容所在的服务器作为缓存所述目标内容的目标服务器,并从所述目标服务器的共享区域中剔除最大的替换时延收益对应的内容。
在其中一个实施例中,在所述从所述目标服务器的共享区域中剔除最大的替换时延收益对应的内容之后,所述方法包括:
当所述目标服务器的共享区域中剩余空间的大小小于所述目标内容的大小时,将所述目标服务器的共享区域中当前最小的第二缓存时延收益对应的内容剔除,直至所述目标服务器的共享区域中剩余空间的大小大于或等于所述目标内容的大小。
在其中一个实施例中,在所述将所述流行内容的大小作为各所述服务器当前的私有区域的大小,并将所述流行内容在各所述服务器的所述私有区域中进行非协作式缓存之后,所述方法包括:
在满足预设的私有区域更新条件时,预测各所述服务器未来的流行内容;
将各所述服务器的所述未来的流行内容的交集流行内容的大小作为各所述服务器新的私有区域的大小,并将所述交集流行内容在各所述服务器的所述新的私有区域中进行非协作式缓存,并将各所述服务器中除所述新的私有区域以外的缓存区域作为新的共享区域以对除所述交集流行内容以外的内容进行协作式缓存。
另一方面,本申请还提供了一种缓存服务系统,包括至少2个位于同一域内的服务器;其中,
各所述服务器用于获取各所述服务器之间当前缓存的相同的流行内容,将所述流行内容的大小作为各所述服务器当前的私有区域的大小,并将所述流行内容在各所述服务器的所述私有区域中进行非协作式缓存,并将各所述服务器中除所述私有区域以外的缓存区域作为当前的共享区域以对除所述流行内容以外的内容进行协作式缓存。
通过本申请提供的内容缓存方法及缓存服务系统,可以获取各服务器当前缓存的相同的流行内容,将该流行内容的大小作为各服务器当前的私有区域的大小,并将该流行内容在各服务器的私有区域中进行非协作式缓存,并将各服务器中除私有区域以外的缓存区域作为当前的共享区域以对除该流行内容以外的内容进行协作式缓存,通过牺牲域内服务器的一部分流行内容的存储空间,汇聚成较大的虚拟共享区域供除该流行内容以外的内容使用,也即可以将非流行内容存储在该共享区域,用较低的与相邻服务器的时延代替云端较远的时延,从而减少了整体的传输时延。
附图说明
图1为本申请实施例一提供的内容缓存方法的一种流程示意图;
图2为本申请实施例一提供的内容缓存方法的另一种流程示意图;
图3为本申请实施例二提供的缓存服务系统的一种架构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
实施例一
在高访问量期间,非流行内容数量庞大,由这些内容带来的传输时延占据着主导地位。为了减少整体时延,从减少非流行内容的传输时延,也即减少尾部时延的角度出发,提出了一种内容缓存方法,该方法应用于缓存服务系统,缓存服务系统包括至少2个位于同一域内的服务器,请参见图1所示,该方法包括如下步骤:
S11:获取各服务器当前缓存的相同的流行内容。
S12:将该流行内容的大小作为各服务器当前的私有区域的大小,并将该流行内容在各服务器的私有区域中进行非协作式缓存,并将各服务器中除私有区域以外的缓存区域作为当前的共享区域以对除该流行内容以外的内容进行协作式缓存。
下面,对上述步骤的具体过程进行详细说明。
本申请实施例将与服务器在同一区域/>内的所有服务器称为其成员服务器,缓存服务系统中位于区域/>内的所有服务器的集合/>,其中,该区域内共有z个服务器。其中服务器/>中缓存的内容/>由缓存在共享区域中的非流行内容/>和缓存在私有区域中的流行内容/>两部分组成。共享区域的大小直接影响服务器的平均内容交付时延。如果共享区域过大,则本地服务器的私有区域太小,影响流行内容的命中率。如果共享区域太小,非流行的内容只能缓存很少,因此对于减少尾部时延没有任何帮助。因此,需要合理设置共享区域的大小。
在本申请实施例中,为了减少旁路时延,可以获取各服务器当前缓存的相同的流行内容,将该相同的流行内容的大小作为各服务器当前的私有区域的大小。以服务器为例,可以从区域中各服务器的所有流行内容中筛选出相同的流行内容/>缓存在私有区域中。也就是说,可以将内容/>的总大小作为服务器/>中私有区域的大小,服务器/>剩余的缓存空间大小就是共享区域的大小。
本申请实施例中在接收到针对某一目标内容的访问请求,且确定缓存服务系统中未缓存该目标内容时,从云端获取该目标内容,并将目标内容缓存至缓存服务系统中。
示例性的,可以将该目标内容缓存至共享区域中。当然,在一些实施例中,若预测该目标内容为未来的流行内容,也可以将该目标内容缓存于私有区域中,此时需要从私有区域中剔除之前的流行内容。
在确定当前可缓存目标内容的服务器有至少2个时,可以从当前可缓存该目标内容的服务器中选择一个目标服务器作为缓存该目标内容的服务器,并将目标内容缓存于该目标服务器的共享区域中。
下面对选择目标服务器的方式进行说明。
在第一种可选的实施方式中,可以将接收该访问请求的服务器作为缓存目标内容的目标服务器。
比如,缓存服务系统中的服务器S1收到用户请求观看内容F,如果缓存服务系统中未缓存内容F,则可以直接将内容F缓存在服务器S1中,具体的,可以缓存在服务器S1的共享区域中。
在第二种可选的实施方式中,在当前可缓存该目标内容的服务器的各共享区域的空闲空间大小均大于或等于该目标内容的大小时,分别计算将目标内容缓存于各服务器的共享区域时的第一缓存时延收益;将最大的第一缓存时延收益对应的服务器作为缓存该目标内容的目标服务器。
决定是否缓存请求内容的本质是该内容是否能为服务器提供好处。换句话说,决策的本质是是否保留该内容以及将其存储在哪里,这取决于它减少未来传输时延的能力,称之为缓存时延收益。
在本申请实施例中,可以计算在各服务器的共享区域中缓存目标内容减少的传输时延,也即第一缓存时延受益。以服务器为例,可以计算在服务器/>中缓存请求的目标内容c在时间t时减少的传输时延,称为第一缓存时延收益/>,由公式(2)计算可得。
其中是在目标内容c的未来请求频率。由于目标内容c未来请求频率的不可预测性,可以通过区域i中的服务器/>预测该目标内容未来的流行度/>并获取该目标内容的历史请求频率/>,根据流行度和历史请求频率对目标内容的未来请求频率进行估计,其计算过程如公式(6)所示。
表示服务器/>分发内容所需要的时延,/>是服务器/>访问服务器中缓存的内容c时的最小内容传输时延。/>表示服务器/>对请求内容c的缓存决策,其中准入为1,其他为0。/>分别表示用户与本地服务器之间的内容传输时延,用户与协作服务器之间的内容传输时延,用户到云端的内容传输时延。
本质上表示的是计算最小内容传输时延的函数,当第三个参数为0表示不缓存,1表示缓存内容c的两种情况。M表示历史数据中有M个请求内容。/>表示本地服务器/>与服务器/>传输内容c所需要的时延。/>表示预测该目标内容所得到的未来流行度。
在第三种可选的实施方式中,在当前可缓存目标内容的服务器的各共享区域的空闲空间大小均小于该目标内容的大小时,分别计算将目标内容缓存于各服务器的共享区域时的第一缓存时延收益,并针对各服务器的共享区域中已缓存的各内容,分别计算将其缓存于对应的共享区域的第二缓存时延收益;分别计算第一缓存时延收益与各第二缓存时延收益的差值得到各服务器的共享区域中已缓存的各内容的替换时延收益;将当前最大的替换时延收益对应的内容所在的服务器作为缓存目标内容的目标服务器,并从目标服务器的共享区域中剔除最大的替换时延收益对应的内容。
各服务器的共享区域中已缓存的各内容的第二缓存时延收益也称为剔除时延收益。以服务器为例,服务器/>中缓存的各内容的最小交付时延可以由公式(8)-(11)计算得到,称为剔除时延收益/>。具有最小传输时延的内容ec将被剔除,从而可以为目标内容预留缓存空间。/>是服务器/>的最小内容分发时延。/>表示服务器在删除内容ec后的最小内容分发时延。/>表示服务器/>中对请求内容c的缓存决策,其中剔除为0,其它为1。
公式(8)-(11)与上述公式(2)-(5)相似,只不过将原来的请求内容c改成要剔除的内容ec。表示剔除内容的时延收益。/>表示在时间片t未来请求内容ec到达服务器/>的频率。公式(12) 表示,缓存内容c的收益/>-剔除内容ec的收益/>,得到替换时延收益/>。
在本实施方式中,通过计算区域中所有服务器中共享区域中各内容对应的替换时延收益,将最大替换时延收益对应的内容所在的服务器作为目标服务器,并将对应的内容作为需要剔除的内容。应当理解的是,如果最大替换时延收益为负,则说明请求的内容不会给服务器带来收益,因此不会被准入。
应当说明的是,在从目标服务器的共享区域中剔除最大的替换时延收益对应的内容之后,如果目标服务器的共享区域中剩余空间的大小依旧小于目标内容的大小,则将目标服务器的共享区域中当前最小的第二缓存时延收益对应的内容剔除,也即将目标服务器的共享区域中当前最大的替换时延收益对应的内容剔除,直至目标服务器的共享区域中剩余空间的大小大于或等于目标内容的大小。
例如,假设缓存服务系统的某一域内具有2个服务器,分别为服务器S1和服务器S2,且其中的服务器S2收到用户请求观看内容E,当这2个服务器都未存储内容E,且2个服务器的存储区域已满,计算内容如下表1所示:
表1
内容 | 第一缓存时延收益 | 第二缓存时延收益 | 替换时延收益 |
C | / | 3.48 | 3.12 |
D | / | 2.41 | 1.84 |
E | S1:6.6 s2: 4.25 | / | 存储在S1中 |
可以从表1中得到内容E分别缓存到服务器S1和服务器S2的第一缓存时延收益为6.6和4.25。剔除掉S1中的内容C的时延损失为3.48,剔除掉S2中的内容D的损失为2.41,对应的替换时延收益为3.12和1.84。所以最终缓存到替换时延收益更大的服务器S1中。
应当说明的是,在将相同的流行内容的大小作为各服务器当前的私有区域的大小,并将该流行内容在各服务器的私有区域中进行非协作式缓存之后,在确定满足预设的私有区域更新条件时,预测各服务器未来的流行内容,将各服务器的未来的流行内容的交集流行内容的大小作为各服务器新的私有区域的大小,并将交集流行内容在各服务器新的私有区域中进行非协作式缓存,并将各服务器中除新的私有区域以外的缓存区域作为新的共享区域以对除该交集流行内容以外的内容进行协作式缓存。
可以理解的是,这里确定新的私有区域和新的共享区域的方式与上述确定私有区域和共享区域的方式相同,且在确定新的私有区域和新的共享区域之后,若接收到新的目标内容访问请求,且确定缓存服务系统中未缓存该目标内容时,可以参照上述相同的方式确定缓存该目标内容的目标服务器,以及需要剔除的目标服务器中的内容,这里不再赘述。
本申请实施例中的私有区域更新条件可以由开发人员任意设置,比如可以预设一个时间周期,每隔该预设的时间周期就触发进行私有区域和共享区域的更新。
例如,假设缓存服务系统的某一域内具有2个服务器,分别为服务器S1和服务器S2,各服务器的具体情况如表2所示:
表2
其中,非加粗内容为私有区域缓存内容,加粗内容为共享区域缓存的内容。
在检测到需要对私有区域和共享区域中的内容进行更新时,对两个服务器中预测的未来流行内容做交集处理,得到集合{A}。
计算得到私有区域大小为1,共享区域大小为4,且共享区域中存在相同内容B,此时可以分别计算S1和S2剔除内容B带来的剔除时延损失,剔除一个小的值,比如若服务器S1的剔除时延损失为3.78,服务器S2的剔除时延损失为7.29时,则剔除S1中的B,将内容A保持在私有区域中保持不变,S2中的内容B缓存至共享区域。
最后,需要说明的是,由于流行内容和非流行内容是互变的,所以需要对流行内容、非流行内容以及处于互变状态的内容进行管理,实现最小化传输时延。
为了最大化存储内容的数量,共享区域中需要保证内容的唯一性。 然而,由于请求内容的时变特性,流行内容与非流行内容之间存在互变现象,因此服务器中存储着一些处于流行和非流行中间状态的内容。
假设流行内容未来将转换为非流行内容(处于从流行转成非流行的中间状态内容用表示),非流行内容未来将转换为流行内容(同理,非转流的中间状态内容用/>表示)。一方面,转换为流行内容的内容/>仍然存储在共享存储空间中,这违背了存储内容唯一性,因此,可以将转换为流行内容的内容/>缓存至其他服务器中,直到每个服务器都缓存它,用户可以以低传输时延从其他服务器获取转换为流行内容的内容/>。另一方面,当流行内容在转变为非流行内容时,由于有些服务器未存储这些内容。当用户仍然通过非协作缓存向这些服务器请求内容/>时,/>将从云端获取,然而,/>存在于用户附近的其他服务器上,这无疑增加了传输时延。因此,在这种情况下,为了避免到更远的云中获取,请求/>的方式与请求/>的方式相同,即选择一个交付时延低的协作服务器来获取/>,直到它只缓存在共享区域中。
为了更好的理解本申请提供的内容缓存方法,本申请实施例提供一种具体的示例,请参见图2所示,图2为本申请实施例提供的一种内容缓存方法的流程示意图,包括如下步骤:
S201:判断当前是否需要进行私有区域和共享区域的划分,如是,转至S202,如否,转至S209。
S202:预测各服务器未来的流行内容。
S203:获取各服务器未来的流行内容中的相同的流行内容。
在步骤S203中,也可以参照上述公式(1)获取相同的流行内容。
S204:将该相同的流行内容的大小作为各服务器当前的私有区域的大小,将剩余空间作为共享区域。
S205:计算除已缓存的私有区域的其它内容的第二缓存时延收益。
S206:判断共享区域当前的剩余空间是否可缓存第二缓存时延收益最大值对应的内容,如是,转至S207,如否,转至S208。
由于可能存在如下现象:原私有区域被过滤出来的内容的缓存时延收益处于所有非私有区域内容的最大值,但是没有缓存在共享区域中,所以有必要进行步骤S206的判断。
S207:保留该内容。
S208:剔除该内容
并将该流行内容在各服务器的私有区域中进行非协作式缓存,并将各服务器中除私有区域以外的缓存区域作为当前的共享区域以对除该流行内容以外的内容进行协作式缓存。
S209:接收针对目标内容的访问请求。
S210:判断缓存服务系统中是否存储有该目标内容,如是,转至S216,如否,转至S211。
S211:判断共享区域是否可缓存该目标内容,如是,转至215,如否,转至S212。
S212:计算共享区域中每个内容的对应的替换延时收益。
步骤S212中的替换延时收益的计算方式可以参照上述内容,这里不再赘述。
S213:剔除当前最大的替换延时收益对应的内容。
S214:判断共享区域的剩余空间是否可缓存该目标内容,如是,转至S215,如否,转至S213。
S215:在共享区域中缓存该目标内容。
S216:将请求的目标内容返回给用户。
本申请实施例针对存储资源有限,存储非流行内容必然影响流行内容命中率的问题,创建共享存储资源池存储非流行内容进行协作式缓存,而剩余私有资源存储流行内容进行非协作式缓存,另外,通过定义内容价值函数-时延收益,根据该时延收益进行缓存替换决策,通过牺牲流行内容的部分存储空间,存储更多的非流行内容,从而使得整体的传输时延减少。
应该理解的是,虽然图1的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图1中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
实施例二
基于同一发明构思,本申请实施例提供一种缓存服务系统,包括至少2个位于同一域内的服务器;其中,
各所述服务器用于获取各所述服务器之间当前缓存的相同的流行内容,将所述流行内容的大小作为各所述服务器当前的私有区域的大小,并将所述流行内容在各所述服务器的所述私有区域中进行非协作式缓存,并将各所述服务器中除所述私有区域以外的缓存区域作为当前的共享区域以对除所述流行内容以外的内容进行协作式缓存。
该系统的架构图可以参见图3所示,能够动态实时地更新服务器中内容,实现降低时延,快速响应的效果。
需要说明的是,出于描述简洁的考量,上述实施例中描述过的内容在本实施例中不再赘述。
本实施例还提供了一种计算机可读存储介质,如软盘、光盘、硬盘、闪存、U盘、SD卡、MMC卡等,在该计算机存储介质中存储有实现上述各个步骤的一个或者多个程序,这一个或者多个程序可被一个或者多个处理器401执行,以实现上述实施例一中方法的各步骤,在此不再赘述。
需要说明的是,本实施例中所提供的图示仅以示意方式说明本发明的基本构想,遂图式中仅显示与本发明中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。本说明书所附图式所绘示的结构、比例、大小等,均仅用以配合说明书所揭示的内容,以供熟悉此技术的人士了解与阅读,并非用以限定本发明可实施的限定条件,故不具技术上的实质意义,任何结构的修饰、比例关系的改变或大小的调整,在不影响本发明所能产生的功效及所能达成的目的下,均应仍落在本发明所揭示的技术内容得能涵盖的范围内。同时,本说明书中所引用的如“上”、“下”、“左”、“右”、“中间”及“一”等的用语,亦仅为便于叙述的明了,而非用以限定本发明可实施的范围,其相对关系的改变或调整,在无实质变更技术内容下,当亦视为本发明可实施的范畴。
Claims (10)
1.一种内容缓存方法,其特征在于,应用于缓存服务系统,所述缓存服务系统包括至少2个位于同一域内的服务器,所述方法包括:
获取各所述服务器当前缓存的相同的流行内容;
将所述流行内容的大小作为各所述服务器当前的私有区域的大小,并将所述流行内容在各所述服务器的所述私有区域中进行非协作式缓存,并将各所述服务器中除所述私有区域以外的缓存区域作为当前的共享区域以对除所述流行内容以外的内容进行协作式缓存。
2.如权利要求1所述的内容缓存方法,其特征在于,所述方法包括:
在接收到针对某一目标内容的访问请求,且确定所述缓存服务系统中未缓存所述目标内容时,从云端获取所述目标内容,并将所述目标内容缓存至所述缓存服务系统中。
3.如权利要求2所述的内容缓存方法,其特征在于,所述将所述目标内容缓存至所述缓存服务系统中,包括:
将所述目标内容缓存至所述共享区域中。
4.如权利要求3所述的内容缓存方法,其特征在于,所述将所述目标内容缓存至所述共享区域中,包括:
在确定当前可缓存所述目标内容的服务器有至少2个时,从当前可缓存所述目标内容的服务器中选择一个目标服务器作为缓存所述目标内容的服务器,并将所述目标内容缓存于所述目标服务器的共享区域中。
5.如权利要求4所述的内容缓存方法,其特征在于,所述从当前可缓存所述目标内容的服务器中选择一个目标服务器作为缓存所述目标内容的服务器,包括:
将接收所述访问请求的服务器作为缓存所述目标内容的目标服务器。
6.如权利要求4所述的内容缓存方法,其特征在于,所述从当前可缓存所述目标内容的服务器中选择一个目标服务器作为缓存所述目标内容的服务器,包括:
在当前可缓存所述目标内容的服务器的各共享区域的空闲空间大小均大于或等于所述目标内容的大小时,分别计算将所述目标内容缓存于各所述服务器的共享区域时的第一缓存时延收益;
将最大的第一缓存时延收益对应的服务器作为缓存所述目标内容的目标服务器。
7.如权利要求4所述的内容缓存方法,其特征在于,所述从当前可缓存所述目标内容的服务器中选择一个目标服务器作为缓存所述目标内容的服务器,包括:
在当前可缓存所述目标内容的服务器的各共享区域的空闲空间大小均小于所述目标内容的大小时,分别计算将所述目标内容缓存于各所述服务器的共享区域时的第一缓存时延收益,并针对各所述服务器的共享区域中已缓存的各内容,分别计算将其缓存于对应的共享区域的第二缓存时延收益;
分别计算所述第一缓存时延收益与各所述第二缓存时延收益的差值得到各所述服务器的共享区域中已缓存的各内容的替换时延收益;
将当前最大的替换时延收益对应的内容所在的服务器作为缓存所述目标内容的目标服务器,并从所述目标服务器的共享区域中剔除最大的替换时延收益对应的内容。
8.如权利要求7所述的内容缓存方法,其特征在于,在所述从所述目标服务器的共享区域中剔除最大的替换时延收益对应的内容之后,所述方法包括:
当所述目标服务器的共享区域中剩余空间的大小小于所述目标内容的大小时,将所述目标服务器的共享区域中当前最小的第二缓存时延收益对应的内容剔除,直至所述目标服务器的共享区域中剩余空间的大小大于或等于所述目标内容的大小。
9.如权利要求1-8任一项所述的内容缓存方法,其特征在于,在所述将所述流行内容的大小作为各所述服务器当前的私有区域的大小,并将所述流行内容在各所述服务器的所述私有区域中进行非协作式缓存之后,所述方法包括:
在满足预设的私有区域更新条件时,预测各所述服务器未来的流行内容;
将各所述服务器的所述未来的流行内容的交集流行内容的大小作为各所述服务器新的私有区域的大小,并将所述交集流行内容在各所述服务器的所述新的私有区域中进行非协作式缓存,并将各所述服务器中除所述新的私有区域以外的缓存区域作为新的共享区域以对除所述交集流行内容以外的内容进行协作式缓存。
10.一种缓存服务系统,其特征在于,包括至少2个位于同一域内的服务器;其中,
各所述服务器用于获取各所述服务器之间当前缓存的相同的流行内容,将所述流行内容的大小作为各所述服务器当前的私有区域的大小,并将所述流行内容在各所述服务器的所述私有区域中进行非协作式缓存,并将各所述服务器中除所述私有区域以外的缓存区域作为当前的共享区域以对除所述流行内容以外的内容进行协作式缓存。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310576968.8A CN116320004B (zh) | 2023-05-22 | 2023-05-22 | 一种内容缓存方法及缓存服务系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310576968.8A CN116320004B (zh) | 2023-05-22 | 2023-05-22 | 一种内容缓存方法及缓存服务系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116320004A true CN116320004A (zh) | 2023-06-23 |
CN116320004B CN116320004B (zh) | 2023-08-01 |
Family
ID=86815274
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310576968.8A Active CN116320004B (zh) | 2023-05-22 | 2023-05-22 | 一种内容缓存方法及缓存服务系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116320004B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118018796A (zh) * | 2024-04-09 | 2024-05-10 | 江西软件职业技术大学 | 视频传输方法、系统、可读存储介质及计算机 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120151073A1 (en) * | 2010-12-08 | 2012-06-14 | GM Global Technology Operations LLC | Intelligent cache management protocol for vehicular networks |
US20130227048A1 (en) * | 2012-02-28 | 2013-08-29 | Futurewei Technologies, Inc. | Method for Collaborative Caching for Content-Oriented Networks |
CN105491156A (zh) * | 2016-01-08 | 2016-04-13 | 华中科技大学 | 一种基于sd-ran的全网协同内容缓存管理系统及方法 |
CN108769729A (zh) * | 2018-05-16 | 2018-11-06 | 东南大学 | 基于遗传算法的缓存布置系统及缓存方法 |
CN108881445A (zh) * | 2018-06-22 | 2018-11-23 | 南京理工大学 | 一种雾计算中基于古诺博弈的协作缓存方法 |
WO2019095402A1 (zh) * | 2017-11-15 | 2019-05-23 | 东南大学 | 基于内容流行度预测的边缘缓存系统及其方法 |
CN110198341A (zh) * | 2019-04-19 | 2019-09-03 | 华中科技大学 | 一种基于内容流行度和节点中心度的协同缓存方法和系统 |
US20220078258A1 (en) * | 2018-12-31 | 2022-03-10 | Havelsan Hava Elektronik Sanayi Ve Ticaret Anonim Sirketi | Use frequency-based cooperative caching method for multi-layer network structures (e.g. 5g) |
CN114500529A (zh) * | 2021-12-28 | 2022-05-13 | 航天科工网络信息发展有限公司 | 一种基于可感知冗余的云边协同缓存方法及系统 |
CN114553963A (zh) * | 2022-02-24 | 2022-05-27 | 重庆邮电大学 | 移动边缘计算中基于深度神经网络的多边缘节点协作缓存方法 |
CN115361710A (zh) * | 2022-08-17 | 2022-11-18 | 电子科技大学长三角研究院(衢州) | 一种边缘缓存中的内容放置方法 |
CN115580613A (zh) * | 2022-09-09 | 2023-01-06 | 广西大学 | 基于时空图卷积模型的移动边缘计算服务器协作缓存方法 |
-
2023
- 2023-05-22 CN CN202310576968.8A patent/CN116320004B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120151073A1 (en) * | 2010-12-08 | 2012-06-14 | GM Global Technology Operations LLC | Intelligent cache management protocol for vehicular networks |
US20130227048A1 (en) * | 2012-02-28 | 2013-08-29 | Futurewei Technologies, Inc. | Method for Collaborative Caching for Content-Oriented Networks |
CN105491156A (zh) * | 2016-01-08 | 2016-04-13 | 华中科技大学 | 一种基于sd-ran的全网协同内容缓存管理系统及方法 |
WO2019095402A1 (zh) * | 2017-11-15 | 2019-05-23 | 东南大学 | 基于内容流行度预测的边缘缓存系统及其方法 |
CN108769729A (zh) * | 2018-05-16 | 2018-11-06 | 东南大学 | 基于遗传算法的缓存布置系统及缓存方法 |
CN108881445A (zh) * | 2018-06-22 | 2018-11-23 | 南京理工大学 | 一种雾计算中基于古诺博弈的协作缓存方法 |
US20220078258A1 (en) * | 2018-12-31 | 2022-03-10 | Havelsan Hava Elektronik Sanayi Ve Ticaret Anonim Sirketi | Use frequency-based cooperative caching method for multi-layer network structures (e.g. 5g) |
CN110198341A (zh) * | 2019-04-19 | 2019-09-03 | 华中科技大学 | 一种基于内容流行度和节点中心度的协同缓存方法和系统 |
CN114500529A (zh) * | 2021-12-28 | 2022-05-13 | 航天科工网络信息发展有限公司 | 一种基于可感知冗余的云边协同缓存方法及系统 |
CN114553963A (zh) * | 2022-02-24 | 2022-05-27 | 重庆邮电大学 | 移动边缘计算中基于深度神经网络的多边缘节点协作缓存方法 |
CN115361710A (zh) * | 2022-08-17 | 2022-11-18 | 电子科技大学长三角研究院(衢州) | 一种边缘缓存中的内容放置方法 |
CN115580613A (zh) * | 2022-09-09 | 2023-01-06 | 广西大学 | 基于时空图卷积模型的移动边缘计算服务器协作缓存方法 |
Non-Patent Citations (2)
Title |
---|
许慧青;王高才;闵仁江;: "一种基于协同缓存的内容中心网络能耗优化策略", 计算机科学, no. 08, pages 78 * |
陈龙;汤红波;罗兴国;柏溢;张震;: "基于收益感知的信息中心网络缓存机制", 通信学报, no. 05 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118018796A (zh) * | 2024-04-09 | 2024-05-10 | 江西软件职业技术大学 | 视频传输方法、系统、可读存储介质及计算机 |
Also Published As
Publication number | Publication date |
---|---|
CN116320004B (zh) | 2023-08-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10728175B2 (en) | Adaptive service chain management | |
US9860316B2 (en) | Routing network traffic based on social information | |
CN116320004B (zh) | 一种内容缓存方法及缓存服务系统 | |
EP3507694B1 (en) | Message cache management for message queues | |
TWI606340B (zh) | 用於資料快取之方法、電腦可讀取儲存媒體及系統 | |
US11113192B2 (en) | Method and apparatus for dynamically adapting cache size based on estimated cache performance | |
CN106959928B (zh) | 一种基于多级缓存结构的流式数据实时处理方法及系统 | |
CN105302830B (zh) | 一种地图瓦片缓存方法及装置 | |
US20180157539A1 (en) | Tail latency-based job offloading in load-balanced groups | |
CN109933585A (zh) | 数据查询方法和数据查询系统 | |
JP2014232350A (ja) | 計算機システム、キャッシュ制御方法、及びサーバ | |
US20140368524A1 (en) | Online learning based algorithms to increase retention and reuse of gpu-generated dynamic surfaces in outer-level caches | |
CN107786668B (zh) | 一种基于cdn网络的权重缓存网站方法 | |
CN107748649B (zh) | 一种缓存数据的方法和装置 | |
CN114390069B (zh) | 基于分布式缓存的数据访问方法与系统、设备及存储介质 | |
WO2023165543A1 (zh) | 共享缓存的管理方法、装置及存储介质 | |
US10097637B2 (en) | Grid distributed cache | |
CN111459650B (zh) | 管理专用处理资源的存储器的方法、设备和介质 | |
JP2023070574A (ja) | 計算機システム及び計算機システムのスケールアウト方法 | |
KR102020725B1 (ko) | 그래프 스트림에서 비용 모델을 이용한 처리 방법 및 처리 장치 | |
US10726348B2 (en) | Probabilistic HTTP request routing | |
WO2022156452A1 (zh) | 一种缓存管理方法、装置及设备 | |
US11216382B1 (en) | Intelligent hierarchical caching based on metrics for objects in different cache levels | |
CN117389747B (zh) | 分布式数据库的数据共享方法、电子设备和存储介质 | |
US11463535B1 (en) | Using forensic trails to mitigate effects of a poisoned cache |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |