CN102137139A - 缓存替换策略的选择方法、装置、代理服务器和系统 - Google Patents

缓存替换策略的选择方法、装置、代理服务器和系统 Download PDF

Info

Publication number
CN102137139A
CN102137139A CN2010102950335A CN201010295033A CN102137139A CN 102137139 A CN102137139 A CN 102137139A CN 2010102950335 A CN2010102950335 A CN 2010102950335A CN 201010295033 A CN201010295033 A CN 201010295033A CN 102137139 A CN102137139 A CN 102137139A
Authority
CN
China
Prior art keywords
cache replacement
replacement policy
cache
policy
master
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN2010102950335A
Other languages
English (en)
Inventor
赵宇萍
魏含宇
王浩
陈建
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN2010102950335A priority Critical patent/CN102137139A/zh
Publication of CN102137139A publication Critical patent/CN102137139A/zh
Priority to US13/208,085 priority patent/US8607001B2/en
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/568Storing data temporarily at an intermediate stage, e.g. caching
    • H04L67/5682Policies or rules for updating, deleting or replacing the stored data

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本发明实施例提供缓存替换策略的选择方法、装置和一种代理服务器,以减少人为参与,实现对缓存替换策略的自动切换。所述方法包括:获取同时运行的多个缓存替换策略的统计数据;根据缓存替换策略决策策略事件和所述统计数据,将主缓存替换策略切换至满足决策策略要求的缓存替换策略。本发明实施例提供的缓存替换策略的自动切换降低了对管理人员的技术要求,并且,在代理缓存运作期间,能够自动选择一种适应于当前场景、最符合用户性能期望的缓存替换策略,具有良好的自适应性。与现有技术采用一种缓存替换策略贯穿始终的方案相比,能够进一步提升代理缓存的性能。

Description

缓存替换策略的选择方法、装置、代理服务器和系统
技术领域
本发明涉及通信领域,尤其涉及缓存替换策略的选择方法、装置、代理服务器和系统。
背景技术
随着因特网(Internet)的飞速发展,越来越多的人通过因特网来获取丰富的信息资源。然而,用户数量的剧增不可避免地带来网络服务器负载加重、客户端响应延迟变大以及主干网络拥塞等问题。尤其是近年来视频点播、远程教育和电子商务等因特网流媒体应用的日益广泛,使得这些问题变得更加严重。
解决这些问题的传统方法是不断升级网络服务器和提高网络接入带宽。然而,这种传统方法并不能从根本上解决问题,这是因为,通常情况下,服务器的升级速度要低于用户数量的增长速度;仅仅提高网络接入带宽也并不能缓解主干网络的拥塞问题,而对主干网络进行升级则耗资巨大。
代理缓存技术能够有效解决上述传统方法遇到的问题。代理缓存又称代理服务器,是位于浏览器与服务器或客户端与服务器之间的一台服务器,能够提供较大的存储空间。当用户访问数据时,首先检查代理缓存中有没有用户需要访问的数据,若有,则直接发送给用户,否则,从服务器中获取相应的数据发送给客户。
代理缓存的这种访问机制可以减少用户访问远程服务器的次数,在直接提高客户端响应速度的同时,间接地减轻远程服务器负载和主干网络拥塞。此外,由于在代理缓存中保存了数据拷贝,即使远程服务器在一段时间内暂时无法提供服务,也不会影响用户从代理缓存获取信息资源,这些能够明显提高客户端服务质量。
然而,代理缓存的存储容量有限;一旦存储区满,则必须按照事先约定的某种策略,将一部分当前不再具有存储价值的数据替换出去,从而为后续客户服务。替换策略的好坏直接影响代理缓存的性能,因此,缓存替换策略是影响代理缓存性能的一个重要因素。
通常,衡量一个缓存替换策略优劣的性能指标主要有缓存命中率(CacheHit Rate,CHR),也简称为命中率、字节命中率(Byte Hit Rate,BHR)和延时时间(Latency Time,LT)。所谓缓存命中率,是指缓存页数命中的次数与用户总的请求数之比;字节命中率,是指缓存中命中的字节数与用户总请求的字节数之比;延时时间(Latency Time)是指从用户提出一个访问请求开始,到用户接收到该请求的响应为止所经历的时间为延时时间。
目前,通常的缓存替换策略包括最不经常使用(Least Frequently Used,LFU)算法、基于大小的贪婪(Greedy Dual Size,GDS)算法、最近最不经常使用(Least Frequency and Recently Used,LFRU)算法、某周期内最不经常使用(Period Least Frequency Used,PLFU)算法和最少服务字节(Lease ServedBytes,LSB)算法等。缓存替换策略的性能取决于诸多因素,例如,用户访问模型、用户访问的应用特性和缓存的大小等等。目前,尚无一种缓存替换策略能够针对所有因素而优于其它算法,并且,这些算法不具有针对应用变化的自适应调节能力,例如,针对于传统的Web访问,GDS算法具有较好的性能;而在视频点播(Video On Demand,VOD)应用中使用LFRU算法和PLFU算法,它们比传统的LFU算法效率高,更适合大规模的VOD系统,但对于P2P下载应用,LSB算法则更合适。
随着现在网络中应用的不断变化,对缓存替换策略的适应性提出了新的要求。以Squid Cache为例,说明现有技术使用的典型方案。Squid Cache(简称为Squid)是一个流行的开源代理服务器和Web缓存服务器,通过配置文件工作。以下是Squid Cache的一部分配置文件的文本,其中包括了缓存替换策略的配置;
……
cache_mem 1228MB
maximum_object_size 5096KB
maximum_object_size_in_memory 5096KB
cache_replacement_policy heap LFUDA
memory_replacement_policy heap LRU
cache_dir aufs/cache 2797016256
cache_access_log/log/access.log
cache_log/log/cache.log
……
其中,关于缓存替换策略的配置是下面两行:
cache_replacement_policy heap LFUDA
memory_replacement_policy heap LRU
在这两行配置中,第一行是将整个Squid Cache的缓存替换策略配置为LFUDA算法,第二行是将内存的缓存替换策略配置为LRU算法。
也就是说,Squid是通过预先配置的方式确定缓存替换策略的。Squid Cache一旦运行之后,则无法进行更改;一旦更改,Squid Cache就需要重新启动,以使新的配置生效。Squid Cache的缺陷在于,缓存替换策略的选择和更新需要管理员人为的判断、选择和更新,即,选择哪种算法,需要管理员对当前的用户访问模型、应用等各种因素有清楚的了解,也需要管理员清楚哪种缓存替换策略适合当前的场景,这对管理员的要求过高;另一方面,当场景发生变化时,例如,用户访问模型发生变化时或应用发生变化时,Squid Cache不能很好地适应。
发明内容
本发明实施例提供缓存替换策略的选择方法、装置和一种代理服务器,以减少人为参与,实现对缓存替换策略的自动切换。
本发明实施例提供一种缓存替换策略的选择方法,包括:
获取同时运行的多个缓存替换策略的统计数据;
根据缓存替换策略决策策略事件和所述统计数据,将主缓存替换策略切换至满足决策策略要求的缓存替换策略。
本发明实施例提供一种缓存替换策略的选择装置,包括:
获取模块,用于获取同时运行的多个缓存替换策略的统计数据;
切换模块,用于根据缓存替换策略决策策略事件和所述获取模块获取的统计数据,将主缓存替换策略切换至满足决策策略要求的缓存替换策略。
本发明实施例提供一种代理服务器,包括多个缓存替换策略模块和上述缓存替换策略的选择装置。
本发明实施例提供一种系统,包括代理服务器和上述缓存替换策略的选择装置。
从上述本发明实施例可知,由于本发明是在获取多个缓存替换策略的统计数据基础上,结合缓存替换策略决策策略来选择缓存替换策略,因此,这种缓存替换策略的自动切换降低了对管理人员的技术要求,并且,在代理缓存运作期间,能够自动选择一种适应于当前场景、最符合用户性能期望的缓存替换策略,具有良好的自适应性。与现有技术采用一种缓存替换策略贯穿始终的方案相比,能够进一步提升代理缓存的性能。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对现有技术或实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以如这些附图获得其他的附图。
图1是本发明实施例提供的一种缓存替换策略的选择方法流程示意图;
图2是本发明实施例提供的一种缓存替换策略的选择装置逻辑结构示意图;
图3本发明实施例提供的一种代理服务器逻辑结构示意图;
图4是本发明实施例提供的一种系统。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参阅附图1,是本发明实施例提供的一种缓存替换策略的选择方法流程示意图,主要包括步骤:
S101,获取同时运行的多个缓存替换策略的统计数据。
在本发明实施例中,可以根据需要配置多个缓存替换策略,例如,LRU算法、GDS算法和LSB算法等等。多个缓存替换策略同时运行是指根据算法给出替换建议,统计数据,替换策略,但是只有一个缓存替换策略才决定缓存区数据的删除和保留,这个缓存替换策略在本实施例中称为主缓存替换策略(Active Policy),其余的称为从缓存替换策略(Standby Policy),多个缓存替换策略各自维护一个标志(flag)。考虑到缓存替换策略一般是在主缓存替换策略和从缓存替换策略两种策略之间进行变化,在本发明实施例中,可以使用二值逻辑中的逻辑“1”和“0”来设置这个标志。例如,使用逻辑“1”表示该缓存替换策略是主缓存替换策略,逻辑“0”表示该缓存替换策略是从缓存替换策略,反之亦反;或者,更具体地,直接使用“active”表示该缓存替换策略是主缓存替换策略,“standby”表示该缓存替换策略是从缓存替换策略。
本领域技术人员能够理解,上述对缓存替换策略标志的定义仅仅是举例说明,不应视为对本发明所做的限制。
在本发明实施例中,无论是主缓存替换策略还是从缓存替换策略,都必须统计自身的统计数据,例如,缓存命中率或字节命中率或者延时时间等。
缓存替换策略(包括主缓存替换策略和从缓存替换策略)的统计数据,可以是主动上报,执行缓存替换策略的选择方法的主体接收,从而获取同时运行的多个缓存替换策略的统计数据,该执行缓存替换策略的选择方法的主体可以是一种缓存替换策略的选择装置。该装置可以置于代理缓存(代理服务器),也可以置于网管等其他网络设备中,其包含的功能模块/单元可以是软件模块/单元、硬件模块/单元或软硬件相结合模块/单元。该装置包括获取模块和切换模块,其中:获取模块,用于获取同时运行的多个缓存替换策略的统计数据;切换模块,用于根据缓存替换策略决策策略事件和所述获取模块获取的统计数据,将所述主缓存替换策略切换至满足决策策略要求的缓存替换策略。也可以是执行缓存替换策略的选择方法的主体发送请求统计数据的请求消息后,多个缓存替换策略被动上报各自的统计数据,从而,执行缓存替换策略的选择方法的主体获取这些统计数据。如果该装置置于代理缓存(代理服务器),则获取模块可以通过内部接口获取统计数据;如果该装置置于网管等其他网络设备中,则获取模块可以通过一些网络协议,例如,简单网络管理协议(SNMP,Simple Network Management Protocol)获取统计数据,当然,获取模块也可以通过其他方式获取统计数据,此处不再赘述。
S102,根据缓存替换策略决策策略事件和步骤S101获取的统计数据,将所述主缓存替换策略切换至满足决策策略要求的缓存替换策略。
可以通过获取同时运行的多个缓存替换策略统计数据,然后在决策策略事件发生时,根据缓存替换策略决策策略和统计数据,将所述主缓存替换策略切换至满足决策策略要求的缓存替换策略。在本发明实施例中,缓存替换策略决策策略包括决策策略事件的发生和决策策略要求。
所谓决策策略事件,是指判断什么时候进行替换策略的切换,例如,可以是网管人员根据要求设定的一个时间点;也可以是具有周期的时间点,例如,每月的15日或每周的周五等等。当这些时间点到来时,将主缓存替换策略切换至满足决策策略要求的缓存替换策略。
决策策略事件还可以是主缓存替换策略的命中率低于某个设定值,一旦这样的决策策略事件发生,则该主缓存替换策略就要被切换,代之以命中率高于这个设定值的主缓存替换策略。
而决策策略要求,是指用来选择主替换策略的条件,例如,可以是:替换策略选择命中率最高、命中率增长最快或者是延时时间小于某个设定值(例如,100ms)的替换策略。
例如,可以获取上一个月(例如,8月份)某个时间点,例如8月15日,多个缓存替换策略的统计数据(例如命中率等)。若在8月15日哪一个缓存替换策略的命中率最高,则在与8月15日相应的时间点,例如9月15日,将主缓存替换策略切换至命中率最高的缓存替换策略。
需要说明的是,也可以将上述决策策略事件做任意组合,当这些任意组合的决策策略事件发生时,将主缓存替换策略切换至满足决策策略要求的缓存替换策略。例如,可以在每周五时,当正在运行的主缓存替换策略命中率低于设定值,则可以将该主缓存替换策略切换至满足决策策略要求的缓存替换策略。
当然,也可以将上述决策策略要求做任意组合,当决策策略事件发生时,将主缓存替换策略切换至满足这些任意组合的决策策略要求的缓存替换策略。例如,可以在每周五时,将主缓存替换策略切换至命中率最高、命中率增长最快和/或延时时间小于某个设定值的缓存替换策略。
切换模块判断决策策略事件是否发生,如果发生,根据缓存替换策略的统计数据,选择一个满足决策策略要求的缓存替换策略,例如,将该缓存替换策略的标志flag设置为“active”,将原主缓存替换策略的标志flag设置为“standby”。当然,选择的还可能是原主缓存替换策略,这时,不进行切换动作。
需要说明的是,上述决策策略事件和决策策略要求及其任意组合仅仅是对本发明所作的举例说明,不应视为对本发明构成的限制。
从上述本发明实施例可知,由于本发明是在获取多个缓存替换策略的统计数据基础上,结合缓存替换策略决策策略来选择缓存替换策略,因此,这种缓存替换策略的自动切换降低了对管理人员的技术要求,并且,在代理缓存运作期间,能够自动选择一种适应于当前场景、最符合用户性能期望的缓存替换策略,具有良好的自适应性。与现有技术采用一种缓存替换策略贯穿始终的方案相比,能够进一步提升代理缓存的性能。
请参阅图2,本发明实施例提供的一种缓存替换策略的选择装置逻辑结构示意图。为了便于说明,仅仅示出了与本发明实施例相关的部分。该装置可以用于代理缓存(代理服务器)等设备中,其包含的功能模块/单元可以是软件模块/单元、硬件模块/单元或软硬件相结合模块/单元。图2所示缓存替换策略的选择装置包括获取模块201和切换模块202,其中:
获取模块201,用于获取同时运行的多个缓存替换策略的统计数据;
切换模块202,用于根据缓存替换策略决策策略事件和所述获取模块201获取的统计数据,将所述主缓存替换策略切换至满足决策策略要求的缓存替换策略。
在本实施例中,决策策略事件是指判断什么时候进行替换策略的切换,例如,可以是网管人员根据要求设定的一个时间点;也可以是具有周期的时间点,例如,每月的15日或每周的周五等等。当这些时间点到来时,将主缓存替换策略切换至满足决策策略要求的缓存替换策略。
决策策略事件还可以是主缓存替换策略的命中率低于某个设定值,一旦这样的决策策略事件发生,则该主缓存替换策略就要被切换,代之以命中率高于这个设定值的主缓存替换策略。
而决策策略要求是指用来选择主替换策略的条件,例如,可以是:与其他缓存替换策略相比,要求某个缓存替换策略的命中率最高、命中率增长最快或者是延时时间小于某个设定值(例如,100ms)。
例如,获取模块201可以获取上一个月(例如,8月份)某个时间点,例如8月15日,多个缓存替换策略的统计数据(如命中率)。若在8月15日哪一个缓存替换策略的命中率最高,则在与8月15日相应的时间点,例如9月15日,则切换模块202将主缓存替换策略切换至命中率最高的缓存替换策略。
需要说明的是,也可以将上述决策策略事件做任意组合,当这些任意组合的决策策略事件发生时,将主缓存替换策略切换至满足决策策略要求的缓存替换策略。例如,可以在每周五时,当正在运行的主缓存替换策略命中率低于设定值,则可以将该主缓存替换策略切换至满足决策策略要求的缓存替换策略。
当然,也可以将上述决策策略要求做任意组合,当决策策略事件发生时,切换模块202将主缓存替换策略切换至满足这些任意组合的决策策略要求的缓存替换策略。例如,可以在每周五时,切换模块202将主缓存替换策略切换至命中率最高、命中率增长最快和/或延时时间小于某个设定值的缓存替换策略。
由于本发明是在获取多个缓存替换策略的统计数据基础上,结合缓存替换策略决策策略来选择缓存替换策略,因此,这种缓存替换策略的自动切换降低了对管理人员的技术要求,并且,在代理缓存运作期间,能够自动选择一种适应于当前场景、最符合用户性能期望的缓存替换策略,具有良好的自适应性。与现有技术采用一种缓存替换策略贯穿始终的方案相比,能够进一步提升代理缓存的性能。
请参阅图3,本发明实施例提供的一种代理服务器逻辑结构示意图。为了便于说明,仅仅示出了与本发明实施例相关的部分。该代理服务器包括缓存替换策略模块301和缓存替换策略的选择装置302,其中,缓存替换策略的选择装置302可以是图2示例的缓存替换策略的选择装置。在本实施例中,缓存替换策略模块301可以在代理服务器存在多个,其中,只有一个运行主缓存替换策略,其余运行从缓存替换策略。主缓存替换策略和从缓存替换策略的定义分别与前述图1或图2示例的主缓存替换策略和从缓存替换策略相同,此处不做赘述,可参阅前述实施例的相关说明。
图2示例的缓存替换策略的选择装置并不局限于在代理服务器中使用,还可以用于一些通信系统。如图4所示本发明实施例提供的一种系统,包括代理服务器401和图2示例的缓存替换策略的选择装置402,其中,代理服务器401包括多个缓存替换策略模块,但只有一个缓存替换策略模块运行主缓存替换策略,其余缓存替换策略模块运行从缓存替换策略。主缓存替换策略和从缓存替换策略的定义分别与前述图1或图2示例的主缓存替换策略和从缓存替换策略相同,此处不做赘述。
需要说明的是,上述装置各模块/单元之间的信息交互、执行过程等内容,由于与本发明方法实施例基于同一构思,其带来的技术效果与本发明方法实施例相同,具体内容可参见本发明方法实施例中的叙述,此处不再赘述。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁盘或光盘等。
以上对本发明实施例提供的缓存替换策略的选择方法、装置和一种代理服务器进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种缓存替换策略的选择方法,其特征在于,包括:
获取同时运行的多个缓存替换策略的统计数据;
根据缓存替换策略决策策略事件和所述统计数据,将主缓存替换策略切换至满足决策策略要求的缓存替换策略。
2.如权利要求1所述的方法,其特征在于,所述同时运行的多个缓存替换策略中只有一个为主缓存替换策略,其余为从缓存替换策略。
3.如权利要求1所述的方法,其特征在于,所述根据缓存替换策略决策策略事件和所述统计数据,将主缓存替换策略切换至满足决策策略要求的缓存替换策略具体包括:
将满足决策策略要求的缓存替换策略的标志flag设置为active,将原主缓存替换策略的标志flag设置为standby,所述标志“active”表示设置为active的缓存替换策略是主缓存替换策略,所述标志“standby”表示设置为standby的缓存替换策略是从缓存替换策略。
4.如权利要求1至3任意一项所述的方法,其特征在于,所述统计数据包括命中率、字节命中率和/或延时时间。
5.一种缓存替换策略的选择装置,其特征在于,包括:
获取模块,用于获取同时运行的多个缓存替换策略的统计数据;
切换模块,用于根据缓存替换策略决策策略事件和所述获取模块获取的统计数据,将主缓存替换策略切换至满足决策策略要求的缓存替换策略。
6.如权利要求5所述的装置,其特征在于,所述切换模块具体用于将满足决策策略要求的缓存替换策略的标志flag设置为active,将原主缓存替换策略的标志flag设置为standby,所述标志“active”表示设置为active的缓存替换策略是主缓存替换策略,所述标志“standby”表示设置为standby的缓存替换策略是从缓存替换策略。
7.一种代理服务器,其特征在于,包括多个缓存替换策略模块和权利要求5或6所述缓存替换策略的选择装置。
8.如权利要求7所述的代理服务器,其特征在于,所述多个缓存替换策略模块中,只有一个运行主缓存替换策略,其余运行从缓存替换策略。
9.一种系统,包括代理服务器和权利要求5或6所述缓存替换策略的选择装置。
10.如权利要求9所述的系统,其特征在于,所述代理服务器包括多个缓存替换策略模块,其中,只有一个缓存替换策略模块运行主缓存替换策略,其余缓存替换策略模块运行从缓存替换策略。
CN2010102950335A 2010-09-26 2010-09-26 缓存替换策略的选择方法、装置、代理服务器和系统 Pending CN102137139A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN2010102950335A CN102137139A (zh) 2010-09-26 2010-09-26 缓存替换策略的选择方法、装置、代理服务器和系统
US13/208,085 US8607001B2 (en) 2010-09-26 2011-08-11 Method, apparatus, proxy server, and system for selecting cache replacement policies

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN2010102950335A CN102137139A (zh) 2010-09-26 2010-09-26 缓存替换策略的选择方法、装置、代理服务器和系统

Publications (1)

Publication Number Publication Date
CN102137139A true CN102137139A (zh) 2011-07-27

Family

ID=44296794

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2010102950335A Pending CN102137139A (zh) 2010-09-26 2010-09-26 缓存替换策略的选择方法、装置、代理服务器和系统

Country Status (2)

Country Link
US (1) US8607001B2 (zh)
CN (1) CN102137139A (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102521161A (zh) * 2011-11-21 2012-06-27 华为技术有限公司 一种数据的缓存方法、装置和服务器
CN104104710A (zh) * 2013-04-15 2014-10-15 同济大学 一种移动云计算环境中基于低能耗的数据缓存方法
CN104572502A (zh) * 2015-01-12 2015-04-29 浪潮电子信息产业股份有限公司 一种存储系统缓存策略自适应方法
CN105095354A (zh) * 2015-06-19 2015-11-25 北京奇虎科技有限公司 数据更新的方法及装置
CN105683928A (zh) * 2013-09-27 2016-06-15 微软技术许可有限责任公司 多承租人企业资源规划系统中的数据高速缓存策略
CN106325776A (zh) * 2016-08-24 2017-01-11 浪潮(北京)电子信息产业有限公司 一种缓存淘汰策略的实时调整方法及装置
CN106484539A (zh) * 2016-10-13 2017-03-08 东北大学 一种处理器缓存特性的检测分析方法
CN107181734A (zh) * 2017-04-07 2017-09-19 南京邮电大学 一种cdn‑p2p网络架构的流媒体缓存替换方法
CN104077241B (zh) * 2014-07-14 2017-10-17 华为技术有限公司 缓存淘汰算法切换处理方法及装置
CN110134896A (zh) * 2019-05-17 2019-08-16 山东渤聚通云计算有限公司 一种代理服务器的监控过程及智能缓存方法

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9003126B2 (en) * 2012-09-25 2015-04-07 Intel Corporation Apparatus, system and method for adaptive cache replacement in a non-volatile main memory system
US8924647B1 (en) * 2012-09-26 2014-12-30 Emc Corporation Dynamic selection of data replacement protocol for multi-level cache
US10140219B2 (en) * 2012-11-02 2018-11-27 Blackberry Limited Multi-port shared cache apparatus
US10146437B2 (en) 2014-03-17 2018-12-04 Primaryio, Inc. Tier aware caching solution to increase application performance
US10133488B2 (en) * 2014-03-17 2018-11-20 Primaryio, Inc. Apparatus and method for cache provisioning, configuration for optimal application performance
US9715455B1 (en) * 2014-05-05 2017-07-25 Avago Technologies General Ip (Singapore) Pte. Ltd. Hint selection of a cache policy
US9769280B2 (en) * 2014-06-10 2017-09-19 International Business Machines Corporation Cooperative decentralized caching
CN107463468A (zh) * 2016-06-02 2017-12-12 北京京东尚科信息技术有限公司 缓存管理方法及其设备
US10853267B2 (en) * 2016-06-14 2020-12-01 Lenovo Enterprise Solutions (Singapore) Pte. Ltd. Adaptive method for selecting a cache line replacement algorithm in a direct-mapped cache
US11003583B2 (en) * 2016-07-25 2021-05-11 Netapp, Inc. Adapting cache processing using phase libraries and real time simulators
CN109040153B (zh) * 2017-06-08 2022-06-28 中兴通讯股份有限公司 缓存内容的缓存方法、相关设备和计算机可读存储介质
US10810126B2 (en) * 2018-09-24 2020-10-20 Arm Limited Cache storage techniques
CN110083761B (zh) * 2018-10-18 2023-06-20 中国电子科技集团公司电子科学研究院 一种基于内容流行度的数据分发方法、系统及存储介质
US11086794B2 (en) 2019-04-30 2021-08-10 EMC IP Holding Company LLC Managing eviction from a deduplication cache

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101236530A (zh) * 2008-01-30 2008-08-06 清华大学 高速缓存替换策略的动态选择方法
CN101562543A (zh) * 2009-05-25 2009-10-21 阿里巴巴集团控股有限公司 一种缓存数据的处理方法、处理系统和装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6272598B1 (en) * 1999-03-22 2001-08-07 Hewlett-Packard Company Web cache performance by applying different replacement policies to the web cache
US6415368B1 (en) * 1999-12-22 2002-07-02 Xerox Corporation System and method for caching
US6986018B2 (en) * 2001-06-26 2006-01-10 Microsoft Corporation Method and apparatus for selecting cache and proxy policy
JP4042359B2 (ja) * 2001-07-10 2008-02-06 日本電気株式会社 キャッシュ制御方法及びキャッシュ装置
US9460229B2 (en) * 2007-10-15 2016-10-04 Viasat, Inc. Methods and systems for implementing a cache model in a prefetching system
US8392658B2 (en) * 2009-07-10 2013-03-05 Apple Inc. Cache implementing multiple replacement policies

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101236530A (zh) * 2008-01-30 2008-08-06 清华大学 高速缓存替换策略的动态选择方法
CN101562543A (zh) * 2009-05-25 2009-10-21 阿里巴巴集团控股有限公司 一种缓存数据的处理方法、处理系统和装置

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102521161B (zh) * 2011-11-21 2015-01-21 华为技术有限公司 一种数据的缓存方法、装置和服务器
CN102521161A (zh) * 2011-11-21 2012-06-27 华为技术有限公司 一种数据的缓存方法、装置和服务器
CN104104710B (zh) * 2013-04-15 2017-05-24 同济大学 一种移动云计算环境中基于低能耗的数据缓存方法
CN104104710A (zh) * 2013-04-15 2014-10-15 同济大学 一种移动云计算环境中基于低能耗的数据缓存方法
CN105683928B (zh) * 2013-09-27 2018-11-20 微软技术许可有限责任公司 用于数据高速缓存策略的方法、服务器和存储器设备
CN105683928A (zh) * 2013-09-27 2016-06-15 微软技术许可有限责任公司 多承租人企业资源规划系统中的数据高速缓存策略
CN104077241B (zh) * 2014-07-14 2017-10-17 华为技术有限公司 缓存淘汰算法切换处理方法及装置
CN104572502B (zh) * 2015-01-12 2018-06-19 浪潮电子信息产业股份有限公司 一种存储系统缓存策略自适应方法
CN104572502A (zh) * 2015-01-12 2015-04-29 浪潮电子信息产业股份有限公司 一种存储系统缓存策略自适应方法
CN105095354A (zh) * 2015-06-19 2015-11-25 北京奇虎科技有限公司 数据更新的方法及装置
CN106325776A (zh) * 2016-08-24 2017-01-11 浪潮(北京)电子信息产业有限公司 一种缓存淘汰策略的实时调整方法及装置
CN106484539A (zh) * 2016-10-13 2017-03-08 东北大学 一种处理器缓存特性的检测分析方法
CN107181734A (zh) * 2017-04-07 2017-09-19 南京邮电大学 一种cdn‑p2p网络架构的流媒体缓存替换方法
CN107181734B (zh) * 2017-04-07 2020-04-07 南京邮电大学 一种cdn-p2p网络架构的流媒体缓存替换方法
CN110134896A (zh) * 2019-05-17 2019-08-16 山东渤聚通云计算有限公司 一种代理服务器的监控过程及智能缓存方法
CN110134896B (zh) * 2019-05-17 2023-05-09 山东渤聚通云计算有限公司 一种代理服务器的监控过程及智能缓存方法

Also Published As

Publication number Publication date
US8607001B2 (en) 2013-12-10
US20120079206A1 (en) 2012-03-29

Similar Documents

Publication Publication Date Title
CN102137139A (zh) 缓存替换策略的选择方法、装置、代理服务器和系统
EP2438742B1 (en) Method and node for distributing electronic content in a content distribution network
CN103369601B (zh) 为手机客户端提供大并发处理及流量控制的方法
US10904597B2 (en) Dynamic binding for use in content distribution
US8068512B2 (en) Efficient utilization of cache servers in mobile communication system
CN101540775B (zh) 内容分发方法、装置与内容分发网络系统
JP5892164B2 (ja) コンテンツ配信システム、制御装置およびコンテンツ配信方法
CN105512053B (zh) 移动透明计算系统服务器端多用户访问的镜像缓存方法
CN102577241B (zh) 分布式缓存资源调度的方法、装置及系统
EP1364510A2 (en) Method and system for managing distributed content and related metadata
US20110067074A1 (en) Method, device, and system for playing media based on p2p
CN103001964B (zh) 一种局域网环境下的缓存加速方法
CN101800731B (zh) 网络传输管理服务器、网络传输管理方法及网络传输系统
CN101237429A (zh) 基于内容分发网络的流媒体直播系统、方法及装置
WO2015076705A1 (ru) Управление передачей потока видеоданных по сети на сетевое пользовательское устройство
CN114818454A (zh) 模型训练方法、数据处理方法、电子设备和程序产品
CN104202349A (zh) 分布式缓存资源调度的方法、装置及系统
CN103905327A (zh) 一种基于流状态信息的内容中心网络拥塞控制方法及系统
KR20130057232A (ko) 에지 노드를 포함한 컨텐츠 분배 네트워크 시스템 및 에지 노드의 컨텐츠 캐싱 및 관리방법
Kumar et al. Consolidated caching with cache splitting and trans-rating in mobile edge computing networks
CN105323320A (zh) 一种内容分发的方法及装置
CN114500663B (zh) 内容分发网络设备的调度方法、装置、设备及存储介质
Cheng et al. Improving web server performance with adaptive proxy caching in soft real-time mobile applications
CN113709761B (zh) 基于动态位置的内容分发方法、系统、设备及存储介质
KR100802331B1 (ko) 사용자 단말기를 이용한 컨텐츠 전송 시스템 및 방법

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20110727