CN108134817B - 一种自动调整缓存时长的方法及装置 - Google Patents
一种自动调整缓存时长的方法及装置 Download PDFInfo
- Publication number
- CN108134817B CN108134817B CN201711239447.4A CN201711239447A CN108134817B CN 108134817 B CN108134817 B CN 108134817B CN 201711239447 A CN201711239447 A CN 201711239447A CN 108134817 B CN108134817 B CN 108134817B
- Authority
- CN
- China
- Prior art keywords
- duration
- value
- source station
- section
- target interface
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
- H04L67/568—Storing data temporarily at an intermediate stage, e.g. caching
- H04L67/5682—Policies or rules for updating, deleting or replacing the stored data
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Transfer Between Computers (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
本文公开了一种自动调整缓存时长的方法及装置,此方法包括:设置目标接口对应的缓存时长区间;实时计算并记录第一预设时长单位内和第二预设时长单位内所述目标接口的源站压力参数;第一预设时长单位小于所述第二预设时长单位;根据距当前时间最近的第一预设时长单位内的所述目标接口的源站压力参数更新目标接口对应的缓存时长,或者,根据距当前时间最近的第一预设时长单位内的所述目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的所述目标接口的源站压力参数更新目标接口对应的缓存时长。
Description
技术领域
本发明涉及互联网技术领域,尤其涉及一种自动调整缓存时长的方法及装置。
背景技术
在现有网络中API缓存加速服务逐渐得到广泛应用。支持API缓存加速服务的服务器收到用户访问目标接口的请求后,判断本服务器对此请求的内容是否支持缓存,如果否,直接转发至源站,如果是,查询API缓存加速服务中是否缓存有此请求对应的内容,如果有,直接将缓存的内容响应给用户,如果没有,转发至源站并根据缓存策略对源站返回的响应内容进行缓存。
API缓存加速服务对应的缓存目标为动态内容,缓存时长一般是毫秒级别到秒级别,当访问并发量较大的情况下,可能由于以下情况造成源站的响应速度缓慢:
1)并发超过了源站的承受能力。
2)源站由于第三方接口的问题而响应速度变慢。
3)源站由于自己原因(如数据库卡顿,代码bug)而响应速度变慢。
源站的响应速度缓慢直接响应用户访问速度,并影响用户体验。现有技术中的缓存时长是固定的值,在源站状态改变时无法自适应的进行相应的调节,影响API缓存加速服务的性能及用户体验。
发明内容
为了解决上述技术问题,本发明提供一种自动调整缓存时长的方法及装置。
本发明提供的自动调整缓存过期时长的方法,包括:
设置目标接口对应的缓存时长区间;
实时计算并记录第一预设时长单位内和第二预设时长单位内目标接口的源站压力参数;第一预设时长单位小于第二预设时长单位;
根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长,或者,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长。
进一步地,上述自动调整缓存过期时长的方法还具有以下特点:
源站压力参数的个数为一个时,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长包括:
将距当前时间最近的第一预设时长单位内的目标接口的源站压力参数的值作为第一数值;将距当前时间最近的第二预设时长单位内的目标接口的源站压力参数的值作为第二数值;
根据第二数值构建判定区间,判定区间的最小值为第二数值,最大值为第二数值的X倍,X为1至3之间的整数或实数;此判定区间包括N个子区间;
第一数值位于判定区间时,判断第一数值位于判定区间的子区间,确定此子区间的最小值距判定区间的最小值的间隔与判定区间的时长的比例,确定目标接口对应的缓存时长,使其距缓存时长区间的最小值的间隔与缓存时长区间的时长的比例为上述比例。
进一步地,上述自动调整缓存过期时长的方法还具有以下特点:
方法还包括:第一数值不位于判定区间,第一数值小于判定区间的最小值时,将目标接口对应的缓存时长设置为缓存时长区间的最小值;第一数值大于判定区间的最大值时,将目标接口对应的缓存时长设置为缓存时长区间的最大值。
进一步地,上述自动调整缓存过期时长的方法还具有以下特点:
源站压力参数为响应状态为成功或重定向的响应消息的平均响应时长,或者源站压力参数为响应状态为服务端错误类的响应消息的比例。
进一步地,上述自动调整缓存过期时长的方法还具有以下特点:
源站压力参数的个数为两个时;
在距当前时间最近的第一预设时长单位内的目标接口的第一源站压力参数的值大于第一源站压力参数阈值时,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长,包括:将目标接口对应的缓存时长设置为缓存时长区间的最大值;
在距当前时间最近的第一预设时长单位内的目标接口的第一源站压力参数的值小于第一源站压力参数阈值时,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长,包括:
将距当前时间最近的第一预设时长单位内的目标接口的第二源站压力参数的值作为第一数值;将距当前时间最近的第二预设时长单位内的目标接口的第二源站压力参数的值作为第二数值;
根据第二数值构建判定区间,区间的最小值为第二数值,最大值为第二数值的X倍,X为1至3之间的整数或实数;此判定区间包括N个子区间;
第一数值位于判定区间时,判断第一数值位于判定区间的子区间,确定此子区间的最小值距判定区间的最小值的间隔与判定区间的时长的比例,确定目标接口对应的缓存时长,使其距缓存时长区间的最小值的间隔与缓存时长区间的时长的比例为上述比例。
进一步地,上述自动调整缓存过期时长的方法还具有以下特点:
第一源站压力参数为响应状态为成功或重定向的响应消息的平均响应时长,第二源站压力参数为源站压力参数为响应状态为服务端错误类的响应消息的比例。
本发明提供的自动调整缓存过期时长的装置,包括:
设置模块,设置为设置目标接口对应的缓存时长区间;
计算模块,设置为实时计算并记录第一预设时长单位内和第二预设时长单位内目标接口的源站压力参数;第一预设时长单位小于第二预设时长单位;
调整模块,设置为根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长,或者,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长。
进一步地,上述自动调整缓存过期时长的装置还具有以下特点:
调整模块,还设置为在源站压力参数的个数为一个时,使用以下方法根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长:
将距当前时间最近的第一预设时长单位内的目标接口的源站压力参数的值作为第一数值;将距当前时间最近的第二预设时长单位内的目标接口的源站压力参数的值作为第二数值;
根据第二数值构建判定区间,判定区间的最小值为第二数值,最大值为第二数值的X倍,X为1至3之间的整数或实数;此判定区间包括N个子区间;
第一数值位于判定区间时,判断第一数值位于判定区间的子区间,确定此子区间的最小值距判定区间的最小值的间隔与判定区间的时长的比例,确定目标接口对应的缓存时长,使其距缓存时长区间的最小值的间隔与缓存时长区间的时长的比例为上述比例。
进一步地,上述自动调整缓存过期时长的装置还具有以下特点:
调整模块,还设置为在第一数值不位于判定区间,第一数值小于判定区间的最小值时,将目标接口对应的缓存时长设置为缓存时长区间的最小值;第一数值大于判定区间的最大值时,将目标接口对应的缓存时长设置为缓存时长区间的最大值。
进一步地,上述自动调整缓存过期时长的装置还具有以下特点:
源站压力参数为响应状态为成功或重定向的响应消息的平均响应时长,或者源站压力参数为响应状态为服务端错误类的响应消息的比例。
进一步地,上述自动调整缓存过期时长的装置还具有以下特点:
调整模块,还设置为在源站压力参数的个数为两个时,使用以下方法在距当前时间最近的第一预设时长单位内的目标接口的第一源站压力参数的值大于第一源站压力参数阈值时,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长:
将目标接口对应的缓存时长设置为缓存时长区间的最大值;
使用以下方法在距当前时间最近的第一预设时长单位内的目标接口的第一源站压力参数的值小于第一源站压力参数阈值时,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长:
将距当前时间最近的第一预设时长单位内的目标接口的第二源站压力参数的值作为第一数值;将距当前时间最近的第二预设时长单位内的目标接口的第二源站压力参数的值作为第二数值;
根据第二数值构建判定区间,区间的最小值为第二数值,最大值为第二数值的X倍,X为1至3之间的整数或实数;此判定区间包括N个子区间;
第一数值位于判定区间时,判断第一数值位于判定区间的子区间,确定此子区间的最小值距判定区间的最小值的间隔与判定区间的时长的比例,确定目标接口对应的缓存时长,使其距缓存时长区间的最小值的间隔与缓存时长区间的时长的比例为上述比例。
进一步地,上述自动调整缓存过期时长的装置还具有以下特点:
第一源站压力参数为响应状态为成功或重定向的响应消息的平均响应时长,第二源站压力参数为源站压力参数为响应状态为服务端错误类的响应消息的比例。
本发明可以根据不同时段的历史源站压力参数动态实时调整当前的缓存时长,使当前缓存时长适应于源站压力情况,有效提高缓存时长的合理性,提高用户使用体验。
附图说明
构成本发明的一部分的附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是实施例中自动调整缓存过期时长的方法的流程图。
图2是实施例中自动调整缓存过期时长的装置的结构图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互任意组合。
本方法适用于收到回源请求后,判断此回源请求是要缓求的请求的情况。
如图1所示,自动调整缓存过期时长的方法,包括:
步骤1,设置目标接口对应的缓存时长区间;
步骤2,实时计算并记录第一预设时长单位内和第二预设时长单位内目标接口的源站压力参数;第一预设时长单位小于第二预设时长单位;
步骤3,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长,或者,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长。
其中,源站压力参数为响应状态为成功或重定向的响应消息(例如2xx或3xx消息)的平均响应时长,或者源站压力参数为响应状态为服务端错误类的响应消息(例如5XX消息)的比例。
第一预设时长单位可以为分钟级别,例如5分钟。第二预设时长单位可以为小时,例如第二预设时长为一小时,或者,第二预设时长单位可以为天,例如第二预设时长为7天。如果是按小时存储的话,每天会存储7*24个关键词(key),每个key的值是对应小时的源站压力参数的值。如果是按天存储的话,就是会有7个key,每个key是对应天的源站压力参数的值。
实施例一
实施例一中源站压力参数的个数为一个。
根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长包括:
将距当前时间最近的第一预设时长单位内的目标接口的源站压力参数的值作为第一数值;将距当前时间最近的第二预设时长单位内的目标接口的源站压力参数的值作为第二数值。
根据第二数值构建判定区间,判定区间的最小值为第二数值,最大值为第二数值的X倍,X为1至3之间的整数或实数,例如X为1;此判定区间包括N个子区间。预设子区间划分规则为以等间隔的方式平均划分N个子区间、或者由等差递减的方式划分为N个子区间。
第一数值位于判定区间时,判断第一数值位于判定区间的子区间,确定此子区间的最小值距判定区间的最小值的间隔与判定区间的时长的比例,确定目标接口对应的缓存时长,使其距缓存时长区间的最小值的间隔与缓存时长区间的时长的比例为上述比例。
第一数值不位于判定区间时,第一数值小于判定区间的最小值时,将目标接口对应的缓存时长设置为缓存时长区间的最小值;第一数值大于判定区间的最大值时,将目标接口对应的缓存时长设置为缓存时长区间的最大值。
举例如下:
源站压力参数为响应状态为成功和/或重定向的响应消息(例如状态为2XX或3XX的消息)的平均响应时长。
缓存时长区间[min秒,max秒]即[0.3秒,1.2秒],第一预设时长为5分钟,第二预设时长为7天。
当前时间为11月9日21:30,获取距当前时间最近的第一预设时长单位内的目标接口的源站压力参数为11月9日21:25到11月9日21:30的5分钟内的平均响应时长作为第一数值,获取前7天的第二预设时长内的平均响应时长作为第二数值,例如此第二数值为0.5秒。根据此第二数值构建判定区间,使判定区间的最小值为第二数值,最大值为第二数值的1倍,此判定区间为[0.5,1]。将判定区间划分为五个等时长的子区间。时长阈值区间的子区间依次为[0.5,0.6],[0.6,0.7],[0.7,0.8],[0.8,0.9][0.9,1.0]。
第一数值大于阈值区间的最大值时,将目标接口对应的缓存时长设置为缓存时长区间的最大值即1.2秒。
第二数值大于阈值区间的最小值时,将目标接口对应的缓存时长设置为缓存时长区间的最小值即0.3秒。
第一数值小于阈值区间的最大值并大于判定区间的最小值时,根据第一数值和第二数值确定目标接口对应的缓存时长:
第一数值位于第一子区间时,此子区间的最小值与判定区间的最小值的间隔与判定区间的时长的比例为0,则缓存时长为min+(max-min)*0=min。
第一数值位于第二子区间时,此子区间的最小值与判定区间的最小值的间隔与判定区间的时长的比例为0.2,则缓存时长为min+(max-min)*0.2。
第一数值位于第三子区间时,此子区间的最小值与判定区间的最小值的间隔与判定区间的时长的比例为0.4,则缓存时长为min+(max-min)*0.4。
第一数值位于第四子区间时,此子区间的最小值与判定区间的最小值的间隔与判定区间的时长的比例为0.6,则缓存时长为min+(max-min)*0.6。
第一数值位于第五子区间时,此子区间的最小值与判定区间的最小值的间隔与判定区间的时长的比例为0.8,则缓存时长为min+(max-min)*0.8。
上述示例中以源站压力参数为响应状态为成功或重定向的响应消息的平均响应时长为例,单独使用的源站压力参数为响应状态为服务端错误类的响应消息的比例时,执行方式与上述示例中同理,此处不再赘述。
图2是实施例中自动调整缓存过期时长的装置的结构图,此装置包括:
设置模块,设置为设置目标接口对应的缓存时长区间;
计算模块,设置为实时计算并记录第一预设时长单位内和第二预设时长单位内目标接口的源站压力参数;第一预设时长单位小于第二预设时长单位;
调整模块,设置为根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长,或者,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长。
在实施例一中,调整模块还设置为在源站压力参数的个数为一个时,使用以下方法根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长:
将距当前时间最近的第一预设时长单位内的目标接口的源站压力参数的值作为第一数值;将距当前时间最近的第二预设时长单位内的目标接口的源站压力参数的值作为第二数值;
根据第二数值构建判定区间,判定区间的最小值为第二数值,最大值为第二数值的X倍,X为1至3之间的整数或实数;此判定区间包括N个子区间;
第一数值位于判定区间时,判断第一数值位于判定区间的子区间,确定此子区间的最小值距判定区间的最小值的间隔与判定区间的时长的比例,确定目标接口对应的缓存时长,使其距缓存时长区间的最小值的间隔与缓存时长区间的时长的比例为上述比例。
调整模块还设置为在第一数值不位于判定区间,第一数值小于判定区间的最小值时,将目标接口对应的缓存时长设置为缓存时长区间的最小值;第一数值大于判定区间的最大值时,将目标接口对应的缓存时长设置为缓存时长区间的最大值。
源站压力参数为响应状态为成功或重定向的响应消息的平均响应时长,或者源站压力参数为响应状态为服务端错误类的响应消息的比例。
实施例二
实施例一中源站压力参数的个数为两个。第一源站压力参数为响应状态为成功或重定向的响应消息的平均响应时长,第二源站压力参数为源站压力参数为响应状态为服务端错误类的响应消息的比例。
在距当前时间最近的第一预设时长单位内的目标接口的第一源站压力参数的值大于第一源站压力参数阈值时,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长,包括:将目标接口对应的缓存时长设置为缓存时长区间的最大值;
在距当前时间最近的第一预设时长单位内的目标接口的第一源站压力参数的值小于第一源站压力参数阈值时,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长,包括:
将距当前时间最近的第一预设时长单位内的目标接口的第二源站压力参数的值作为第一数值;将距当前时间最近的第二预设时长单位内的目标接口的第二源站压力参数的值作为第二数值;
根据第二数值构建判定区间,区间的最小值为第二数值,最大值为第二数值的X倍,X为1至3之间的整数或实数;此判定区间包括N个子区间;
第一数值位于判定区间时,判断第一数值位于判定区间的子区间,确定此子区间的最小值距判定区间的最小值的间隔与判定区间的时长的比例,确定目标接口对应的缓存时长,使其距缓存时长区间的最小值的间隔与缓存时长区间的时长的比例为上述比例。
在此实施例二中,上述装置的调整模块还设置为在源站压力参数的个数为两个时,使用以下方法在距当前时间最近的第一预设时长单位内的目标接口的第一源站压力参数的值大于第一源站压力参数阈值时,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长:
将目标接口对应的缓存时长设置为缓存时长区间的最大值;
调整模块还设置为使用以下方法在距当前时间最近的第一预设时长单位内的目标接口的第一源站压力参数的值小于第一源站压力参数阈值时,根据距当前时间最近的第一预设时长单位内的目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的目标接口的源站压力参数更新目标接口对应的缓存时长:
将距当前时间最近的第一预设时长单位内的目标接口的第二源站压力参数的值作为第一数值;将距当前时间最近的第二预设时长单位内的目标接口的第二源站压力参数的值作为第二数值;
根据第二数值构建判定区间,区间的最小值为第二数值,最大值为第二数值的X倍,X为1至3之间的整数或实数;此判定区间包括N个子区间;
第一数值位于判定区间时,判断第一数值位于判定区间的子区间,确定此子区间的最小值距判定区间的最小值的间隔与判定区间的时长的比例,确定目标接口对应的缓存时长,使其距缓存时长区间的最小值的间隔与缓存时长区间的时长的比例为上述比例。
其中,
第一源站压力参数为响应状态为成功或重定向的响应消息的平均响应时长,第二源站压力参数为源站压力参数为响应状态为服务端错误类的响应消息的比例。
举例如下:
缓存时长区间[min秒,max秒]即[0.3秒,1.2秒],第一预设时长为5分钟,第二预设时长为7天。
当前时间为11月9日21:30,获取距当前时间最近的第一预设时长单位内的目标接口的源站压力参数为11月9日21:25到11月9日21:30的5分钟内的平均响应时长作为第一数值。
第一数值大于第一源站压力参数阈值时,将目标接口对应的缓存时长设置为缓存时长区间的最大值即1.2秒。
第一数值小于第一源站压力参数阈值时,获取前一小时的第二预设时长内的平均响应时长作为第二数值,例如此第二数值为0.5秒。根据此第二数值构建判定区间,使判定区间的最小值为第二数值,最大值为第二数值的1倍,此判定区间为[0.5,1]。将判定区间划分为五个等时长的子区间。时长阈值区间的子区间依次为[0.5,0.6],[0.6,0.7],[0.7,0.8],[0.8,0.9][0.9,1.0]。
第一数值位于第一子区间时,此子区间的最小值与判定区间的最小值的间隔与判定区间的时长的比例为0,则缓存时长为min+(max-min)*0=min。
第一数值位于第二子区间时,此子区间的最小值与判定区间的最小值的间隔与判定区间的时长的比例为0.2,则缓存时长为min+(max-min)*0.2。
第一数值位于第三子区间时,此子区间的最小值与判定区间的最小值的间隔与判定区间的时长的比例为0.4,则缓存时长为min+(max-min)*0.4。
第一数值位于第四子区间时,此子区间的最小值与判定区间的最小值的间隔与判定区间的时长的比例为0.6,则缓存时长为min+(max-min)*0.6。
第一数值位于第五子区间时,此子区间的最小值与判定区间的最小值的间隔与判定区间的时长的比例为0.8,则缓存时长为min+(max-min)*0.8。
本发明可以根据不同时段的历史源站压力参数动态实时调整当前的缓存时长,使当前缓存时长适应于源站压力情况,有效提高缓存时长的合理性,提高用户使用体验。
上面描述的内容可以单独地或者以各种方式组合起来实施,而这些变型方式都在本发明的保护范围之内。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。
本领域普通技术人员可以理解上述方法中的全部或部分步骤可通过程序来指令相关硬件完成,程序可以存储于计算机可读存储介质中,如只读存储器、磁盘或光盘等。可选地,上述实施例的全部或部分步骤也可以使用一个或多个集成电路来实现,相应地,上述实施例中的各模块/单元可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。本发明不限制于任何特定形式的硬件和软件的结合。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的物品或者设备中还存在另外的相同要素。
以上实施例仅用以说明本发明的技术方案而非限制,仅仅参照较佳实施例对本发明进行了详细说明。本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的精神和范围,均应涵盖在本发明的权利要求范围当中。
Claims (10)
1.一种自动调整缓存过期时长的方法,其特征在于,包括:
设置目标接口对应的缓存时长区间;
实时计算并记录第一预设时长单位内和第二预设时长单位内所述目标接口的源站压力参数;第一预设时长单位小于所述第二预设时长单位;
根据距当前时间最近的第一预设时长单位内的所述目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的所述目标接口的源站压力参数更新目标接口对应的缓存时长;
所述源站压力参数的个数为一个时,根据距当前时间最近的第一预设时长单位内的所述目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的所述目标接口的源站压力参数更新目标接口对应的缓存时长包括:
将距当前时间最近的第一预设时长单位内的所述目标接口的源站压力参数的值作为第一数值;将距当前时间最近的第二预设时长单位内的所述目标接口的源站压力参数的值作为第二数值;
根据所述第二数值构建判定区间,所述判定区间的最小值为所述第二数值,最大值为所述第二数值的X倍,X为1至3之间的整数或实数;此判定区间包括N个子区间;
所述第一数值位于所述判定区间时,判断第一数值位于所述判定区间的子区间,确定此子区间的最小值距所述判定区间的最小值的间隔与所述判定区间的时长的比例,确定所述目标接口对应的缓存时长,使其距缓存时长区间的最小值的间隔与缓存时长区间的时长的比例为所述比例。
2.如权利要求1所述的自动调整缓存过期时长的方法,其特征在于,
所述方法还包括:所述第一数值不位于所述判定区间,所述第一数值小于所述判定区间的最小值时,将目标接口对应的缓存时长设置为所述缓存时长区间的最小值;所述第一数值大于所述判定区间的最大值时,将目标接口对应的缓存时长设置为所述缓存时长区间的最大值。
3.如权利要求1所述的自动调整缓存过期时长的方法,其特征在于,
所述源站压力参数为响应状态为成功或重定向的响应消息的平均响应时长,或者所述源站压力参数为响应状态为服务端错误类的响应消息的比例。
4.如权利要求1所述的自动调整缓存过期时长的方法,其特征在于,
所述源站压力参数的个数为两个时;
在距当前时间最近的第一预设时长单位内的所述目标接口的第一源站压力参数的值小于第一源站压力参数阈值时,根据距当前时间最近的第一预设时长单位内的所述目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的所述目标接口的源站压力参数更新目标接口对应的缓存时长,包括:
将距当前时间最近的第一预设时长单位内的所述目标接口的第二源站压力参数的值作为第一数值;将距当前时间最近的第二预设时长单位内的所述目标接口的第二源站压力参数的值作为第二数值;
根据所述第二数值构建判定区间,所述区间的最小值为所述第二数值,最大值为所述第二数值的X倍,X为1至3之间的整数或实数;此判定区间包括N个子区间;
所述第一数值位于所述判定区间时,判断第一数值位于所述判定区间的子区间,确定此子区间的最小值距所述判定区间的最小值的间隔与所述判定区间的时长的比例,确定所述目标接口对应的缓存时长,使其距缓存时长区间的最小值的间隔与缓存时长区间的时长的比例为所述比例。
5.如权利要求4中所述的自动调整缓存过期时长的方法,其特征在于,
所述第一源站压力参数为响应状态为成功或重定向的响应消息的平均响应时长,第二源站压力参数为所述源站压力参数为响应状态为服务端错误类的响应消息的比例。
6.一种自动调整缓存过期时长的装置,其特征在于,包括:
设置模块,设置为设置目标接口对应的缓存时长区间;
计算模块,设置为实时计算并记录第一预设时长单位内和第二预设时长单位内所述目标接口的源站压力参数;第一预设时长单位小于所述第二预设时长单位;
调整模块,设置为根据距当前时间最近的第一预设时长单位内的所述目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的所述目标接口的源站压力参数更新目标接口对应的缓存时长;
所述调整模块,还设置为在所述源站压力参数的个数为一个时,使用以下方法根据距当前时间最近的第一预设时长单位内的所述目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的所述目标接口的源站压力参数更新目标接口对应的缓存时长:将距当前时间最近的第一预设时长单位内的所述目标接口的源站压力参数的值作为第一数值;将距当前时间最近的第二预设时长单位内的所述目标接口的源站压力参数的值作为第二数值;根据所述第二数值构建判定区间,所述判定区间的最小值为所述第二数值,最大值为所述第二数值的X倍,X为1至3之间的整数或实数;此判定区间包括N个子区间;所述第一数值位于所述判定区间时,判断第一数值位于所述判定区间的子区间,确定此子区间的最小值距所述判定区间的最小值的间隔与所述判定区间的时长的比例,确定所述目标接口对应的缓存时长,使其距缓存时长区间的最小值的间隔与缓存时长区间的时长的比例为所述比例。
7.如权利要求6所述的自动调整缓存过期时长的装置,其特征在于,
所述调整模块,还设置为在所述第一数值不位于所述判定区间,第一数值小于所述判定区间的最小值时,将目标接口对应的缓存时长设置为所述缓存时长区间的最小值;所述第一数值大于所述判定区间的最大值时,将目标接口对应的缓存时长设置为所述缓存时长区间的最大值。
8.如权利要求6所述的自动调整缓存过期时长的装置,其特征在于,
所述源站压力参数为响应状态为成功或重定向的响应消息的平均响应时长,或者所述源站压力参数为响应状态为服务端错误类的响应消息的比例。
9.如权利要求6所述的自动调整缓存过期时长的装置,其特征在于,
所述调整模块,还设置为在所述源站压力参数的个数为两个时,使用以下方法在距当前时间最近的第一预设时长单位内的所述目标接口的第一源站压力参数的值小于第一源站压力参数阈值时,根据距当前时间最近的第一预设时长单位内的所述目标接口的源站压力参数和距当前时间最近的第二预设时长单位内的所述目标接口的源站压力参数更新目标接口对应的缓存时长:
将距当前时间最近的第一预设时长单位内的所述目标接口的第二源站压力参数的值作为第一数值;将距当前时间最近的第二预设时长单位内的所述目标接口的第二源站压力参数的值作为第二数值;
根据所述第二数值构建判定区间,所述区间的最小值为所述第二数值,最大值为所述第二数值的X倍,X为1至3之间的整数或实数;此判定区间包括N个子区间;
所述第一数值位于所述判定区间时,判断第一数值位于所述判定区间的子区间,确定此子区间的最小值距所述判定区间的最小值的间隔与所述判定区间的时长的比例,确定所述目标接口对应的缓存时长,使其距缓存时长区间的最小值的间隔与缓存时长区间的时长的比例为所述比例。
10.如权利要求9所述的自动调整缓存过期时长的装置,其特征在于,
所述第一源站压力参数为响应状态为成功或重定向的响应消息的平均响应时长,第二源站压力参数为所述源站压力参数为响应状态为服务端错误类的响应消息的比例。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711239447.4A CN108134817B (zh) | 2017-11-30 | 2017-11-30 | 一种自动调整缓存时长的方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711239447.4A CN108134817B (zh) | 2017-11-30 | 2017-11-30 | 一种自动调整缓存时长的方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108134817A CN108134817A (zh) | 2018-06-08 |
CN108134817B true CN108134817B (zh) | 2019-04-05 |
Family
ID=62388944
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711239447.4A Active CN108134817B (zh) | 2017-11-30 | 2017-11-30 | 一种自动调整缓存时长的方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108134817B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102253362B1 (ko) | 2020-09-22 | 2021-05-20 | 쿠팡 주식회사 | 전자 장치 및 이를 이용한 정보 제공 방법 |
CN113064678A (zh) * | 2021-03-25 | 2021-07-02 | 北京京东乾石科技有限公司 | 一种缓存配置方法和装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102387169B (zh) * | 2010-08-26 | 2014-07-23 | 阿里巴巴集团控股有限公司 | 分布式缓存的对象删除方法、系统及删除服务器 |
US9444916B2 (en) * | 2013-08-26 | 2016-09-13 | Seven Networks, Llc | Enhanced caching of domain name system (DNS) and reverse DNS queries for traffic management for signaling optimization in a mobile network |
KR102295664B1 (ko) * | 2014-10-21 | 2021-08-27 | 삼성에스디에스 주식회사 | 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법 |
CN105354258B (zh) * | 2015-10-22 | 2019-11-15 | 努比亚技术有限公司 | 一种更新网站数据缓存的装置及方法 |
-
2017
- 2017-11-30 CN CN201711239447.4A patent/CN108134817B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN108134817A (zh) | 2018-06-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8190561B1 (en) | LDAP replication priority queuing mechanism | |
US10592496B2 (en) | Automatic conflict resolution | |
US7000074B2 (en) | System and method for updating a cache | |
US20180069764A1 (en) | Modeling network signaling in a mobile network | |
US20040107319A1 (en) | Cache management system and method | |
US20020174189A1 (en) | Apparatus and methods for intelligently caching applications and data on a mobile device | |
CN108134817B (zh) | 一种自动调整缓存时长的方法及装置 | |
CN106453667B (zh) | 更新缓存数据的方法及装置 | |
US20060277277A1 (en) | Method of automatically caching WAP web pages and a mobile communications device for the same | |
CN106790324A (zh) | 内容分发方法、虚拟服务器管理方法、云平台和系统 | |
US8660991B2 (en) | Systems and methods for management of subscriber databases within mobile communications networks | |
US9729603B2 (en) | Content stream delivery using variable cache replacement granularity | |
CN107241428B (zh) | 一种在基于容器的共享虚拟主机中实现https的方法和装置 | |
KR20070045326A (ko) | 데이터의 유틸리티를 기반으로 하여 데이터 저장장소로부터 데이터를 선택하는 시스템 | |
WO2014120582A1 (en) | Systems and methods of automatically ordering and selecting recipients for electronic mail | |
US10817203B1 (en) | Client-configurable data tiering service | |
US20100114836A1 (en) | Data decay management | |
RU2595622C1 (ru) | Способ и устройство получения динамического сообщения | |
US8725949B2 (en) | Asynchronous data binding | |
CN109995865A (zh) | 一种基于移动边缘计算的数据信息的请求响应方法及装置 | |
CN113645310A (zh) | 一种数据限流方法、装置、电子设备及可读存储介质 | |
CN104537013A (zh) | 一种处理数据的方法和装置 | |
CN108846052A (zh) | 一种浏览器缓存数据更新方法及相关装置 | |
US9094225B1 (en) | Discovery of short-term and emerging trends in computer network traffic | |
CN106484238A (zh) | 应用图标显示顺序的动态调整方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |