CN114237893A - 缓存方法、装置、系统、服务器以及存储介质 - Google Patents
缓存方法、装置、系统、服务器以及存储介质 Download PDFInfo
- Publication number
- CN114237893A CN114237893A CN202111555581.1A CN202111555581A CN114237893A CN 114237893 A CN114237893 A CN 114237893A CN 202111555581 A CN202111555581 A CN 202111555581A CN 114237893 A CN114237893 A CN 114237893A
- Authority
- CN
- China
- Prior art keywords
- request
- service request
- cache
- level
- execution duration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5011—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals
- G06F9/5016—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals the resource being the memory
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本申请提供一种缓存方法、装置、系统、服务器以及存储介质获取服务请求关联的触发距离信息,根据服务请求对应的请求时间确定请求时间对应的请求时间窗口,并获取请求时间窗口内的请求频率,在执行服务请求后,获取执行服务请求的执行时长以及服务请求对应任务资源的缓存占用率,进而基于请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存决策信息。边缘服务器判断是否对服务请求对应的任务资源进行缓存的决策过程中,既考虑了服务请求再次被触发的概率,又考虑了边缘服务器相关的服务器性能,将后续被调用概率较高、且能有效提升边缘服务器响应服务器请求效率的任务资源存储至缓存区,提高缓存区的利用效率。
Description
技术领域
本申请涉及缓存技术领域,具体涉及一种缓存方法、装置、系统、服务器以及计算机可读存储介质(简称存储介质)。
背景技术
随着移动网络的发展,移动网络流量也日益增长,传统网络将数据资源部署在数据中心,存在数据资源获取端到端延时长、回传带宽受限、低效冗余传输等问题。为了解决上述问题,基于移动边缘网络缓存技术部署边缘设备执行计算和数据缓存,可以降低端到端延时、提高网络传输效率,高效响应服务请求。但是,边缘设备的缓存空间有限,缓存哪些数据资源才能最大限度提升缓存空间的利用率、发挥边缘设备的性能是亟需解决的技术问题。
发明内容
基于此,有必要针对上述技术问题,提供一种缓存方法、装置、系统、服务器以及存储介质,用以确定任务资源的缓存决策信息,以提升缓存空间的利用率。
第一方面,本申请提供一种缓存方法,包括:
接收服务请求,获取服务请求关联的触发距离信息;
根据服务请求对应的请求时间确定请求时间对应的请求时间窗口,并获取请求时间窗口内的请求频率;
执行服务请求,获取执行服务请求的执行时长以及服务请求对应任务资源的缓存占用率;
基于请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存决策信息。
在本申请的一些实施例中,基于请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存决策信息,包括:
根据请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存优先级;
按照缓存优先级将服务请求对应任务资源存储至缓存区。
在本申请一些实施例中,根据请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存优先级,包括:
获取触发距离信息对应的触发距离等级、请求频率对应的请求频率等级、执行时长对应的执行时长等级以及缓存占用率对应的缓存占用等级;
根据请求频率等级、触发距离等级、执行时长等级以及缓存占用等级,获取服务请求对应任务资源的缓存优先级。
在本申请一些实施例中,根据请求频率等级、触发距离等级、执行时长等级以及缓存占用等级,获取服务请求对应任务资源的缓存优先级,包括:
若触发距离等级、执行时长等级以及缓存占用等级中至少两个为高等级,则将服务请求对应任务资源的缓存优先级设置为低等级;
若触发距离等级、执行时长等级以及缓存占用等级中的一个为高等级,则将服务请求对应任务资源的缓存优先级设置为中等级;
若触发距离等级、执行时长等级以及缓存占用等级均为低等级且请求频率等级为低等级或中等级,则将服务请求对应任务资源的缓存优先级设置为中等级;
若触发距离等级、执行时长等级以及缓存占用等级均为低等级且请求频率等级为高等级,则服务请求对应任务资源的缓存优先级设置为高等级。
在本申请一些实施例中,获取请求时间窗口内的请求频率,包括:
统计请求时间窗口内的服务请求总量以及历史时间窗口内的服务请求的历史数量;
根据服务请求总量与历史数量间的比值,确定请求频率。
在本申请一些实施例中,获取执行服务请求的执行时长,包括:
获取服务请求对应任务资源的资源数据量以及处理器的数据处理速度;
获取资源数据量与数据处理速度间的比值,得到服务请求的执行时长。
在本申请一些实施例中,获取服务请求对应任务资源的缓存占用率,包括:
获取缓存区的剩余空间量以及服务请求对应任务资源的资源数据量;
获取资源数据量与剩余空间量间的比值,得到缓存占用率。
第二方面,本申请提供一种缓存系统,该缓存系统包括通信连接的边缘服务器以及终端;
终端,用于获取与目标对象间的实时距离值,并根据实时距离值以及信号接收距离值获取服务请求的触发距离信息;
终端,用于生成服务请求,将服务请求以及触发距离信息发送至边缘服务器;
边缘服务器,用于边缘服务器,用于接收终端发送的服务请求,获取服务请求关联的触发距离信息;根据服务请求对应的请求时间确定请求时间对应的请求时间窗口,并获取请求时间窗口内的请求频率;执行服务请求,获取执行服务请求的执行时长以及服务请求对应任务资源的缓存占用率;基于请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存决策信息。
第三方面,本申请提供一种缓存装置,该装置包括:
信息接收模块,用于接收服务请求,获取服务请求关联的触发距离信息;
频率信息获取模块,用于根据服务请求对应的请求时间确定请求时间对应的请求时间窗口,并获取请求时间窗口内的请求频率;
执行信息获取模块,用于执行服务请求,获取执行服务请求的执行时长以及服务请求对应任务资源的缓存占用率;
缓存决策生成模块,用于基于请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存决策信息。
第四方面,本申请还提供一种服务器,服务器包括:
一个或多个处理器;
存储器;以及
一个或多个应用程序,其中一个或多个应用程序被存储于存储器中,并配置为由处理器执行以实现的缓存方法。
第五方面,本申请还提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器进行加载,以执行的缓存方法中的步骤。
第六方面,本申请实施例提供一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述第一方面提供的方法。
上述缓存方法、装置、系统、服务器以及存储介质,接收服务请求,获取服务请求关联的触发距离信息,根据服务请求对应的请求时间确定请求时间对应的请求时间窗口,并获取请求时间窗口内的请求频率,在执行服务请求后,获取执行服务请求的执行时长以及服务请求对应任务资源的缓存占用率,进而基于请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存决策信息。通过将请求时间窗口对应的请求频率、触发距离信息、服务请求的执行时长以及服务请求对应任务资源的缓存占用率,加入至边缘服务器判断是否对服务请求对应的任务资源进行缓存的决策过程中,既考虑了服务请求再次被触发的概率,又考虑了边缘服务器相关的服务器性能,以充分利用缓存空间,将后续被调用概率较高、且能有效提升边缘服务器响应服务器请求效率的任务资源存储至缓存区,提高缓存空间的利用效率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例中缓存方法的场景示意图;
图2是本申请实施例中缓存方法的流程示意图;
图3是本申请实施例中缓存决策信息获取步骤的流程示意图;
图4是本申请实施例中缓存优先级获取步骤的流程示意图;
图5是本申请实施例中缓存系统中缓存方法的流程示意图;
图6是本申请实施例中缓存系统的结构示意图;
图7是本申请实施例中缓存装置的结构示意图;
图8是本申请实施例中计算机设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
在本申请的描述中,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。在本申请的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在本申请的描述中,“例如”一词用来表示“用作例子、例证或说明”。本申请中被描述为“例如”的任何实施例不一定被解释为比其它实施例更优选或更具优势。为了使本领域任何技术人员能够实现和使用本发明,给出了以下描述。在以下描述中,为了解释的目的而列出了细节。应当明白的是,本领域普通技术人员可以认识到,在不使用这些特定细节的情况下也可以实现本发明。在其它实例中,不会对公知的结构和过程进行详细阐述,以避免不必要的细节使本发明的描述变得晦涩。因此,本发明并非旨在限于所示的实施例,而是与符合本申请所公开的原理和特征的最广范围相一致。
在本申请实施例中,需要说明的是,本申请提供的缓存方法由于是在计算机设备中执行,各计算机设备的处理对象均以数据或信息的形式存在,例如时间,实质为时间信息,可以理解的是,后续实施例中若提及频率、时长、占用率等,均为对应的数据存在,以便计算机设备进行处理,具体此处不作赘述。
在本申请实施例中,还需说明的是,本申请实施例提供的缓存方法,可以应用于如图1所示的缓存系统中。其中,该缓存系统包括终端100和边缘服务器200。终端100可以是既包括接收和发射硬件的设备,即具有能够在双向通信链路上,执行双向通信的接收和发射硬件的设备,终端100具体可以是台式终端或移动终端,终端100具体还可以是手机、平板电脑、笔记本电脑等中的一种,又或是智能音箱、智能电视机等智能终端。边缘服务器200是指设置在边缘节点的服务器,可以是独立的服务器,也可以是服务器组成的服务器网络或服务器集群,其包括但不限于计算机、网络主机、单个网络服务器、多个网络服务器集或多个服务器构成的云服务器。其中,云服务器由基于云计算(Cloud Computing)的大量计算机或网络服务器构成。
具体地,用户操作终端100以触发终端100生成服务请求,并将服务请求发送至边缘服务器200,边缘服务器200接收到服务请求后,边缘服务器200响应该服务请求并返回相应的任务资源至终端100,或者边缘服务器200将该服务请求发送至上一层级节点的服务器,通过上一层级节点的服务器执行服务请求获取相应的任务资源。
本领域技术人员可以理解,图1中示出的应用环境,仅仅是与本申请方案一种应用场景,并不构成对本申请方案应用场景的限定,其他的应用环境还可以包括比图1中所示更多或更少的计算机设备,例如图1中仅示出1个边缘服务器200,可以理解的,该缓存系统还可以包括一个或多个其他服务器,具体此处不作限定。
还需说明的是,图1所示缓存系统的场景示意图仅仅是一个示例,本发明实施例描述的缓存系统以及场景是为了更加清楚的说明本发明实施例的技术方案,并不构成对于本发明实施例提供的技术方案的限定,本领域普通技术人员可知,随着缓存系统的演变和新业务场景的出现,本发明实施例提供的技术方案对于类似的技术问题,同样适用。
参阅图2,本申请实施例提供了一种缓存方法,主要以该方法应用于上述图1中的边缘服务器200来举例说明,该方法包括步骤S210至240,具体如下:
S210,接收服务请求,获取服务请求关联的触发距离信息。
其中,服务请求可以是由终端发送至边缘服务器的,可以理解的是,边缘服务器接收到服务请求后,边缘服务器响应该服务请求并返回相应的任务资源至终端,该任务资源即为待缓存的数据。
其中,触发距离信息包括触发服务请求时目标对象与发送该服务请求的终端间的距离信息,其中目标对象具体可以是指操作终端使得终端发送该服务请求的用户。具体地,触发距离信息可以是目标对象和终端间的真实距离与终端信号接收距离的比值。
可以理解的是,触发距离信息可反映服务请求再次被触发的概率,当触发距离信息所标识的目标对象与终端间的距离越大,则目标对象再次操作终端以触发服务请求的概率较小,当触发距离信息所标识的目标对象与终端间的距离越小,则目标对象再次操作终端以触发服务请求的概率较大。例如,在智能家居的应用场景中,智能家电的服务请求往往是由用户的操作指令或语音指令触发的,当用户(即目标对象)与智能家电间的距离越大,则目标对象再次操作智能家电以触发服务请求的概率较小,当用户与智能家电间的距离越小,则目标对象再次操作智能家电以触发服务请求的概率较大。
其中,触发距离信息为目标对象与终端间的真实距离与终端信号接收距离的比值,当触发距离信息小于1时,触发距离信息越小,则目标对象距离终端间越近,目标对象再次操作终端以触发服务请求的概率较大,触发距离信息越大(越接近1),则目标对象距离终端间越远,目标对象再次操作终端以触发服务请求的概率较小;当触发距离信息大于1时,则目标对象离开终端的信号接收范围,终端无法接收到目标对象的触发操作。
具体地,用户操作终端触发终端生成服务请求,同时,终端获取与目标用户间的距离并基于该距离生成触发距离信息,进而终端将该服务请求以及与服务请求关联的触发距离信息发送至边缘服务器。
例如,以终端为智能音箱,用户可以发出语音指令“现在北京时间是几点”,智能音箱接收到语音指令“现在北京时间是几点”后,触发时间查询请求发送至边缘服务器中,同时,智能音箱可以基于接收到语音指令的音量信息预测与用户间的距离信息,进而基于该距离信息生成触发距离信息,并将该触发距离信息发送至边缘服务器。边缘服务器后续可执行该时间查询请求获取相应的查询结果,即当前的北京时间,并将查询结果返回至智能终端,由智能终端播放该当前的北京时间。
S220,根据服务请求对应的请求时间确定请求时间对应的请求时间窗口,并获取请求时间窗口内的请求频率。
其中,请求时间是指边缘服务器接收到服务请求的时间;请求时间对应的请求时间窗口是指以请求时间为基准的时间段,具体地,可以是以请求时间为起始时间、时长为预设窗口长度的历史时间段;例如,请求时间是下午2点35分,则请求时间窗口可以是下午1点35分到2点35分这一时间段。
其中,请求频率用于反映在请求时间窗口对应的时间段内服务请求的请求量,当请求频率越大,即请求时间窗口内服务请求较多,当请求频率越小,即请求时间窗口内服务请求较少。具体地,请求频率可以是请求时间窗口内的服务请求的总数量与历史时间窗口内的服务请求的总数量间的比值。应该说明的是,当请求频率越大,请求时间窗口内服务请求的数量越多,当前的服务请求再次被触发的概率较大。
具体地,边缘服务器确定接收到的服务请求的请求时间,进而根据该请求时间确定对应的请求时间窗口,并获取在该请求时间窗口内的请求频率。
进一步地,在一个实施例中,获取请求时间窗口内的请求频率,包括:统计请求时间窗口内的服务请求总量以及历史时间窗口内的服务请求的历史数量;根据服务请求总量与历史数量间的比值,确定请求频率。
其中,服务请求总量是指在请求时间窗口内所有服务请求的总和;历史时间窗口是指以请求时间窗口或者请求时间为基准的历史时间段;例如,可以是以请求时间为基准的过去24小时作为历史时间窗口,又例如,可以是以请求时间窗口为基准过去24小时内相同的时间段作为历史时间窗口。
其中,通过结合历史时间窗口内的服务请求的总数量,衡量请求服务窗口内的请求频率,具体地,边缘服务器获取请求时间窗口内的服务请求总量以及历史时间窗口内的服务请求的历史数量,将服务请求总量与历史数量间的比值确定为请求时间窗口内的请求频率。
例如,以请求时间为下午2点35分、请求时间窗口为下午1点35分到2点35分、历史时间窗口为前一天下午2点35到当前的2点35分为例,请求时间窗口内的请求频率为,下午1点35分到2点35分这一时间段内的服务请求的数量与前一天下午2点35到当前的2点35分这一时间段内服务请求的数量的比值。
可以理解的是,当在请求时间窗口对应服务请求总量在历史时间窗口对应的历史数量占比越大,表示在请求时间窗口内服务请求的增量大、数量多,请求时间窗口为服务请求频发的时间段。例如,在智能家居的应用场景中,用户(即目标对象)往往是在固定时间段内使用智能家电的,因而往往会在某个时间窗口中智能家电(即终端)向服务器发送服务请求的数量较多,通过请求频率表征请求时间窗口内的服务请求数量的多少,可反映服务请求再次被触发的概率较大。
S230,执行服务请求,获取执行服务请求的执行时长以及服务请求对应任务资源的缓存占用率。
其中,服务请求的执行时长是指执行服务请求相应任务的耗时,可以在执行服务请求过程中测量得到,也可以基于服务请求对应任务资源的资源数据量计算预测得到。
可以理解的是,服务请求的执行时长可反映执行服务请求获取相应任务资源的速度,可表征相较于将任务资源缓存至缓存区,直接执行服务请求获取相应任务资源的效率与从缓存区调用相应任务资源的效率差;例如,当服务请求的执行时长越小,即执行服务请求获取相应任务资源的速度越快,相较于将任务资源缓存至缓存区,直接执行服务请求获取相应任务资源的效率与从缓存区调用相应任务资源的效率差别不大;反之,当服务请求的执行时长越长,从缓存区调用相应任务资源的效率比直接执行服务请求获取相应任务资源的效率高。
具体地,服务请求的执行时长与边缘服务器的处理器的处理速度相关。因此,在一个实施例中,获取执行服务请求的执行时长,包括:获取服务请求对应任务资源的资源数据量以及处理器的数据处理速度;获取资源数据量与数据处理速度间的比值,得到服务请求的执行时长。
其中,服务请求的任务资源是指执行服务请求相应任务后得到的执行结果相关的数据资源,例如,仍然以服务请求为查询“现在北京时间是几点”为例,服务请求的任务资源是指查询得到的实时北京时间对应的语音数据,该语音数据用于指示终端播放该实时北京时间。其中,资源数据量是指任务资源的大小。
具体地,边缘服务器获取到服务请求对应的任务资源以后,确定任务资源对应的资源数据量,并确定自身处理器的处理速度,进而获取资源数据量和处理器的处理速度间的比值,确定执行改服务请求的执行时长。
其中,服务请求对应的任务资源是指执行服务请求相应任务后得到的执行结果相关的数据资源,同时也是待存储到缓存区的数据。缓存占用率是指缓存服务请求对应的任务资源所使用缓存空间的大小信息,具体可以是服务请求对应的任务资源占缓存区的全部缓存空间的比值,也可以是服务请求对应的任务资源占缓存区剩余的缓存空间的比值。
具体地,在一个实施例中,获取服务请求对应任务资源的缓存占用率,包括:获取缓存区的剩余空间量以及服务请求对应任务资源的资源数据量;获取资源数据量与剩余空间量间的比值,得到缓存占用率。
其中,边缘服务器获取当前缓存区的剩余空间量,以及服务请求对应任务资源的资源数据量,进而根据资源数据量与剩余空间量间的比值,确定服务请求对应任务资源的缓存占用率。
可以理解的是,由于边缘服务器对应缓存区的缓存空间有限,对于是否要将服务请求对应的任务资源进行缓存,需要考虑缓存任务资源所占的空间的大小,当当前的服务请求对应任务资源的缓存占用率越大,为避免缓存区的缓存空间被消耗完而导致其他重要缓存数据被删除,边缘服务器更倾向于不对当前的服务请求对应任务资源进行缓存。
S240,基于请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存决策信息。
其中,将请求时间窗口对应的请求频率、触发距离信息、服务请求的执行时长以及服务请求对应任务资源的缓存占用率,确定为边缘服务器决策是否对服务请求的任务资源进行缓存的决策因素,进而可根据该决策因素的取值输出服务请求对应任务资源的缓存决策信息。
可以理解的是,请求时间窗口对应的请求频率和触发距离信息是基于预测服务请求再次被触发的概率的决策因素;其中,请求频率为通过请求时间窗口内的服务请求总数量与历史时间窗口上的历史数量间的比值,对服务请求再次被触发的概率进行表征;触发距离信息通过目标对象与终端间的距离信息对服务请求再次被触发的概率进行表征。而,服务请求的执行时长以及服务请求对应任务资源的缓存占用率是基于边缘服务器的服务器性能的决策因素;其中,服务请求的执行时长表示执行服务请求获取相应任务资源的速度,可反映相较于将任务资源缓存至缓存区,直接调用执行服务请求获取相应任务资源的效率差;服务请求对应任务资源的缓存占用率可反映对任务资源进行缓存时缓存区的利用效率大小。因此,上述四个决策因素既考虑了服务请求再次被触发的概率,又考虑了边缘服务器相关的服务器性能,以充分利用缓存区的存储资源,将后续被调用概率较高、且能有效提升边缘服务器响应服务器请求效率的任务资源存储至缓存区,提高缓存区的利用效率。
具体地,在一个实施例中,步骤S240包括:S310,根据请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存优先级;S320,按照缓存优先级将服务请求对应任务资源存储至缓存区。
其中,边缘服务器在获取到请求时间窗口对应的请求频率、服务请求的触发距离信息、服务请求的执行时长以及服务请求对应任务资源的缓存占用率这四个决策因素相应的取值后,可根据这四个决策因素相应的取值,确定服务请求对应任务资源的缓存优先级。
具体地,可以根据这四个决策因素的取值,通过查表操作在预设缓存优先级决策表中,查询当前服务请求对应任务资源的缓存优先级,其中,缓存优先级决策表保存了四个决策因素的取值在不同的取值范围内时,服务请求对应任务资源的缓存优先级;还可以基于这四个决策因素的取值计算缓存优先度,进而根据该缓存优先度确定服务请求对应任务资源的缓存优先级,例如,可以对这四个决策因素的取值进行加权求和,该加权求和结果即为缓存优先度。
进一步地,在一个实施例中,步骤S310包括:S410,获取触发距离信息对应的触发距离等级、请求频率对应的请求频率等级、执行时长对应的执行时长等级以及缓存占用率对应的缓存占用等级;S420,根据请求频率等级、触发距离等级、执行时长等级以及缓存占用等级,获取服务请求对应任务资源的缓存优先级。
其中,边缘服务器可根据请求时间窗口对应的请求频率、服务请求的触发距离信息、服务请求的执行时长以及服务请求对应任务资源的缓存占用率这四个决策因素相应的取值所落入的取值范围,确定各个决策因素取值对应的等级。
具体地,当触发距离信息所标识的目标对象与终端间的距离越大,则触发距离等级越大,当触发距离信息所标识的目标对象与终端间的距离越小,则触发距离等级越小。其中,触发距离信息可以是目标对象与终端间的真实距离与终端信号接收距离的比值,当目标对象与终端间的真实距离与终端信号接收距离的比值越大,则触发距离等级越大,当目标对象与终端间的真实距离与终端信号接收距离的比值越小,则触发距离等级越小。例如,当目标对象与终端间的真实距离与终端信号接收距离的比值(即触发距离信息)在0到0.3之间,将触发距离等级设置为低等级,当目标对象与终端间的真实距离与终端信号接收距离的比值在0.3到0.6之间,将触发距离等级设置为中等级,当目标对象与终端间的真实距离与终端信号接收距离的比值在0.6到1之间,将触发距离等级设置为高等级。
同样的,当请求频率越大,请求频率等级越高,当请求频率越小,请求频率等级越小;具体的,请求频率可以是请求时间窗口内的服务请求总量与历史时间窗口内的服务请求的历史数量的比值,当比值越大则请求频率等级越高,当比值越小则请求频率等级越低。例如,当请求时间窗口内的服务请求总量与历史时间窗口内的服务请求的历史数量的比值(即请求频率)在0到0.3之间,将请求频率等级设置为低等级,当请求时间窗口内的服务请求总量与历史时间窗口内的服务请求的历史数量的比值在0.3到0.6之间,将请求频率等级设置为中等级,当请求时间窗口内的服务请求总量与历史时间窗口内的服务请求的历史数量的比值在0.6到1之间,将请求频率等级设置为高等级。
此外,对于服务请求的执行时长等级以及占用等级的确定方式与确定请求频率等级或触发距离等级相似的确定相同;当执行时长越大,执行时长等级越高,当执行时长越小,执行时长等级越小;具体的,执行时长可以是资源数据量与数据处理速度间的比值,当比值越大则执行时长等级越高,当比值越小则执行时长等级越低。当缓存占用率越大,缓存占用等级越高,当缓存占用率越小,缓存占用等级越小;具体的,缓存占用率可以是服务请求对应的任务资源占缓存区剩余的缓存空间间的比值,当比值越大则执行缓存占用等级高,当比值越小则缓存占用等级越低。
在确定到请求时间窗口对应的请求频率、服务请求的触发距离信息、服务请求的执行时长以及服务请求对应任务资源的缓存占用率这四个决策因素相应的等级后,根据各个决策因素的等级的组合,确定服务请求对应任务资源的缓存优先级。
在一个实施例中,根据请求频率等级、触发距离等级、执行时长等级以及缓存占用等级,获取服务请求对应任务资源的缓存优先级,包括:若触发距离等级、执行时长等级以及缓存占用等级中至少两个为高等级,则将服务请求对应任务资源的缓存优先级设置为低等级;若触发距离等级、执行时长等级以及缓存占用等级中的一个为高等级,则将服务请求对应任务资源的缓存优先级设置为中等级;若触发距离等级、执行时长等级以及缓存占用等级均为低等级且请求频率等级为低等级或中等级,则将服务请求对应任务资源的缓存优先级设置为中等级;若触发距离等级、执行时长等级以及缓存占用等级均为低等级且请求频率等级为高等级,则服务请求对应任务资源的缓存优先级设置为高等级。
其中,在确定到服务请求对应任务资源的缓存优先级后,边缘服务器可以按照缓存优先级将服务请求对应任务资源存储至缓存区;具体可以是,在缓存区中的缓存空间大于或等于服务请求对应任务资源时,对缓存优先级为高等级的任务资源进行存储,忽略缓存优先级为中等级或低等级的任务资源;还可以在缓存区中的缓存空间大于或等于服务请求对应任务资源、且存在多个服务请求对应任务资源时,按照缓存优先级由高至低的顺序,对服务请求对应任务资源进行存储;通过对于优先级高的任务资源优先存入缓存区,优先级低的任务资源不会被存入缓存区,保证了存入缓存区中任务资源的缓存质量,充分利用缓存区的存储资源,避免缓存空间的浪费。
上述缓存方法中,接收服务请求,获取服务请求关联的触发距离信息;根据服务请求对应的请求时间确定请求时间对应的请求时间窗口,并获取请求时间窗口内的请求频率;执行服务请求,获取执行服务请求的执行时长以及服务请求对应任务资源的缓存占用率;基于请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存决策信息。通过将请求时间窗口对应的请求频率、服务请求的触发距离信息、服务请求的执行时长以及服务请求对应任务资源的缓存占用率加入至边缘服务器判断是否对服务请求对应的任务资源进行缓存的决策过程中,既考虑了服务请求再次被触发的概率,又考虑了边缘服务器相关的服务器性能,以充分利用缓存区的存储资源,将后续被调用概率较高、且能有效提升边缘服务器响应服务器请求效率的任务资源存储至缓存区,提高缓存空间的利用效率。
在一个实施例中,参见图5,本申请还公开了一种缓存系统,包括通信连接的边缘服务器510以及终端520;其中:
终端520,用于获取与目标对象间的实时距离值,并根据实时距离值以及信号接收距离值获取服务请求的触发距离信息;
终端520,用于生成服务请求,将服务请求以及触发距离信息发送至边缘服务器;
边缘服务器510,用于接收终端发送的服务请求以及服务请求的触发距离信息;统计当前时间窗口内终端发送服务请求的请求频率;执行服务请求,获取执行服务请求的执行时长以及服务请求对应任务资源的缓存占用率;基于请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存决策信息。
其中,终端520可以但不限于是各种智能终端,例如是移动环境下的智能音箱、智能电视机等。
其中,实时距离值是指终端520与目标对象间的距离值,目标对象是指操作终端520的对象;具体地,终端520可以通过不同的传感器获取实时距离值。
例如,在智能家居的应用场景中,以终端为智能音箱为例,智能音箱在接收目标对象(如用户)发出的语音指令时,根据操控指令生成服务请求的同时,可以根据接收到的语音指令的语音信号强度测与目标对象间的距离;又例如,智能音箱可以配置有图像传感器,智能音箱通过该图像传感器实时获取环境图像,通过环境图像识别预测与目标对象间的距离。
具体地,终端520获取到与目标对象的实时距离值后,可根据实时距离值以及信号接收距离值获取服务请求的触发距离信息,并将触发距离信息发送至边缘服务器510中,边缘服务器510基于该触发距离信息获取缓存决策信息。其中,边缘服务器510中各步骤的具体方式已经在上述实施例中进行了详细描述,此处将不做详细阐述说明。
参见图6,图6为缓存系统的示意图,包括输入层、模糊层以及输出层。其中,输入层用于获取请求时间窗口内的请求频率、触发距离信息、服务请求的执行时长以及服务请求的缓存占用率等决策因素,并对各个决策因素进行模糊化处理,得到各个决策因素对应的等级值,这些决策因素对应的等级值作为后续模糊层的输入信息;模糊层用于基于所输入的决策因素的等级值,进行模糊决策,具体地可以针对不同的决策因素设置模糊规则流程,作为判定依据;输出层用于通过模糊层的决策结果,得到最终的缓存决策信息。
为了更好实施本申请实施例提供的缓存方法,在本申请实施例所提缓存方法的基础之上,本申请实施例中还提供一种缓存装置,如图7所示,缓存装置700包括:
信息接收模块710,用于接收服务请求,获取服务请求关联的触发距离信息;
频率信息获取模块720,用于根据服务请求对应的请求时间确定请求时间对应的请求时间窗口,并获取请求时间窗口内的请求频率;
执行信息获取模块730,用于执行服务请求,获取执行服务请求的执行时长以及服务请求对应任务资源的缓存占用率;
缓存决策生成模块740,用于基于请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存决策信息。
在本申请一些实施例中,缓存决策生成模块740,用于根据请求频率、触发距离信息、执行时长以及缓存占用率,确定服务请求对应任务资源的缓存优先级;按照缓存优先级将服务请求对应任务资源存储至缓存区。
在本申请一些实施例中,缓存决策生成模块740,用于获取触发距离信息对应的触发距离等级、请求频率对应的请求频率等级、执行时长对应的执行时长等级以及缓存占用率对应的缓存占用等级;根据请求频率等级、触发距离等级、执行时长等级以及缓存占用等级,获取服务请求对应任务资源的缓存优先级。
在本申请一些实施例中,缓存决策生成模块740,用于在触发距离等级、执行时长等级以及缓存占用等级中至少两个为高等级时,将服务请求对应任务资源的缓存优先级设置为低等级;在触发距离等级、执行时长等级以及缓存占用等级中的一个为高等级时,将服务请求对应任务资源的缓存优先级设置为中等级;在触发距离等级、执行时长等级以及缓存占用等级均为低等级且请求频率等级为低等级或中等级时,将服务请求对应任务资源的缓存优先级设置为中等级;在触发距离等级、执行时长等级以及缓存占用等级均为低等级且请求频率等级为高等级,将服务请求对应任务资源的缓存优先级设置为高等级。
在本申请一些实施例中,频率信息获取模块720,用于统计请求时间窗口内的服务请求总量以及历史时间窗口内的服务请求的历史数量;根据服务请求总量与历史数量间的比值,确定请求频率。
在本申请一些实施例中,执行信息获取模块730,用于获取服务请求对应任务资源的资源数据量以及处理器的数据处理速度;获取资源数据量与数据处理速度间的比值,得到服务请求的执行时长。
在本申请一些实施例中,执行信息获取模块730,用于获取缓存区的剩余空间量以及服务请求对应任务资源的资源数据量;获取资源数据量与剩余空间量间的比值,得到缓存占用率。
关于缓存装置的具体限定可以参见上文中对于缓存方法的限定,在此不再赘述。上述缓存装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在本申请一些实施例中,缓存装置700可以实现为一种计算机程序的形式,计算机程序可在如图8所示的计算机设备上运行。计算机设备的存储器中可存储组成该缓存装置700的各个程序模块,比如,图7所示的信息接收模块710、频率信息获取模块720、执行信息获取模块730以及缓存决策生成模块740。各个程序模块构成的计算机程序使得处理器执行本说明书中描述的本申请各个实施例的缓存方法中的步骤。
例如,图8所示的计算机设备可以通过如图7所示的缓存装置700中的信息接收模块710执行步骤S210。计算机设备可通过频率信息获取模块720执行步骤S220。计算机设备可通过执行信息获取模块730执行步骤S230。计算机设备可通过缓存决策生成模块740执行步骤S240。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质和内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的计算机设备通过网络连接通信。该计算机程序被处理器执行时以实现一种缓存方法。
本领域技术人员可以理解,图8中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在本申请一些实施例中,提供了一种边缘服务器,包括一个或多个处理器;存储器;以及一个或多个应用程序,其中所述一个或多个应用程序被存储于所述存储器中,并配置为由所述处理器执行上述缓存方法的步骤。此处缓存方法的步骤可以是上述各个实施例的缓存方法中的步骤。
在本申请一些实施例中,提供了一种计算机可读存储介质,存储有计算机程序,计算机程序被处理器进行加载,使得处理器执行上述缓存方法的步骤。此处缓存方法的步骤可以是上述各个实施例的缓存方法中的步骤。
本邻域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-OnlyMemory,ROM)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器。作为说明而非局限,RAM可以是多种形式,如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic Random Access Memory,DRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上对本申请实施例所提供的一种缓存方法、装置、计算机设备以及存储介质进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (11)
1.一种缓存方法,其特征在于,应用于边缘服务器,包括:
接收服务请求,获取所述服务请求关联的触发距离信息;
根据所述服务请求对应的请求时间确定所述请求时间对应的请求时间窗口,并获取所述请求时间窗口内的请求频率;
执行所述服务请求,获取执行所述服务请求的执行时长以及所述服务请求对应任务资源的缓存占用率;
基于所述请求频率、所述触发距离信息、所述执行时长以及所述缓存占用率,确定所述服务请求对应任务资源的缓存决策信息。
2.根据权利要求1所述的方法,其特征在于,所述基于所述请求频率、所述触发距离信息、所述执行时长以及所述缓存占用率,确定所述服务请求对应任务资源的缓存决策信息,包括:
根据所述请求频率、所述触发距离信息、所述执行时长以及所述缓存占用率,确定所述服务请求对应任务资源的缓存优先级;
按照所述缓存优先级将所述服务请求对应任务资源存储至缓存区。
3.根据权利要求1所述的方法,其特征在于,所述根据所述请求频率、所述触发距离信息、所述执行时长以及所述缓存占用率,确定所述服务请求对应任务资源的缓存优先级,包括:
获取所述触发距离信息对应的触发距离等级、所述请求频率对应的请求频率等级、所述执行时长对应的执行时长等级以及所述缓存占用率对应的缓存占用等级;
根据所述请求频率等级、所述触发距离等级、所述执行时长等级以及所述缓存占用等级,获取所述服务请求对应任务资源的缓存优先级。
4.根据权利要求3所述的方法,其特征在于,所述根据所述请求频率等级、所述触发距离等级、所述执行时长等级以及所述缓存占用等级,获取所述服务请求对应任务资源的缓存优先级,包括:
若所述触发距离等级、所述执行时长等级以及所述缓存占用等级中至少两个为高等级,则将所述服务请求对应任务资源的缓存优先级设置为低等级;
若所述触发距离等级、所述执行时长等级以及所述缓存占用等级中的一个为高等级,则将所述服务请求对应任务资源的缓存优先级设置为中等级;
若所述触发距离等级、所述执行时长等级以及所述缓存占用等级均为低等级且所述请求频率等级为低等级或中等级,则将所述服务请求对应任务资源的缓存优先级设置为中等级;
若所述触发距离等级、所述执行时长等级以及所述缓存占用等级均为低等级且所述请求频率等级为高等级,则所述服务请求对应任务资源的缓存优先级设置为高等级。
5.根据权利要求1所述的方法,其特征在于,所述获取所述请求时间窗口内的请求频率,包括:
统计所述请求时间窗口内的服务请求总量以及历史时间窗口内的服务请求的历史数量;
根据所述服务请求总量与所述历史数量间的比值,确定所述请求频率。
6.根据权利要求1所述的方法,其特征在于,所述获取执行所述服务请求的执行时长,包括:
获取所述服务请求对应任务资源的资源数据量以及处理器的数据处理速度;
获取所述资源数据量与所述数据处理速度间的比值,得到所述服务请求的执行时长。
7.根据权利要求1所述的方法,其特征在于,获取所述服务请求对应任务资源的缓存占用率,包括:
获取缓存区的剩余空间量以及所述服务请求对应任务资源的资源数据量;
获取所述资源数据量与所述剩余空间量间的比值,得到所述缓存占用率。
8.一种缓存系统,其特征在于,包括通信连接的边缘服务器以及终端;
所述终端,用于获取与目标对象间的实时距离值,并根据所述实时距离值以及信号接收距离值获取服务请求的触发距离信息;
所述终端,用于生成服务请求,将所述服务请求以及所述触发距离信息发送至所述边缘服务器;
所述边缘服务器,用于接收终端发送的服务请求,获取所述服务请求关联的触发距离信息;根据所述服务请求对应的请求时间确定所述请求时间对应的请求时间窗口,并获取所述请求时间窗口内的请求频率;执行所述服务请求,获取执行所述服务请求的执行时长以及所述服务请求对应任务资源的缓存占用率;基于所述请求频率、所述触发距离信息、所述执行时长以及所述缓存占用率,确定所述服务请求对应任务资源的缓存决策信息。
9.一种缓存装置,其特征在于,所述装置包括:
信息接收模块,用于接收服务请求,获取所述服务请求关联的触发距离信息;
频率信息获取模块,用于根据所述服务请求对应的请求时间确定所述请求时间对应的请求时间窗口,并获取所述请求时间窗口内的请求频率;
执行信息获取模块,用于执行所述服务请求,获取执行所述服务请求的执行时长以及所述服务请求对应任务资源的缓存占用率;
缓存决策生成模块,用于基于所述请求频率、所述触发距离信息、所述执行时长以及所述缓存占用率,确定所述服务请求对应任务资源的缓存决策信息。
10.一种服务器,其特征在于,所述服务器包括:
一个或多个处理器;
存储器;以及
一个或多个应用程序,其中所述一个或多个应用程序被存储于所述存储器中,并配置为由所述处理器执行以实现权利要求1至7中任一项所述的缓存方法。
11.一种计算机可读存储介质,其特征在于,其上存储有计算机程序,所述计算机程序被处理器进行加载,以执行权利要求1至7任一项所述的缓存方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111555581.1A CN114237893A (zh) | 2021-12-17 | 2021-12-17 | 缓存方法、装置、系统、服务器以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111555581.1A CN114237893A (zh) | 2021-12-17 | 2021-12-17 | 缓存方法、装置、系统、服务器以及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114237893A true CN114237893A (zh) | 2022-03-25 |
Family
ID=80758408
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111555581.1A Pending CN114237893A (zh) | 2021-12-17 | 2021-12-17 | 缓存方法、装置、系统、服务器以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114237893A (zh) |
-
2021
- 2021-12-17 CN CN202111555581.1A patent/CN114237893A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110247856B (zh) | 服务器资源释放方法和装置 | |
CN110830565B (zh) | 资源下载方法、装置、系统、电子设备及存储介质 | |
CN111782692B (zh) | 一种频率控制方法及装置 | |
CN111562889B (zh) | 数据处理方法、装置、系统及存储介质 | |
CN111694639B (zh) | 进程容器地址的更新方法、装置和电子设备 | |
CN111813529B (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN110764930B (zh) | 基于消息模式的请求或应答处理方法及装置 | |
CN117407159A (zh) | 内存空间的管理方法及装置、设备、存储介质 | |
CN111327684A (zh) | 一种分布式对象存储系统的配额管理方法及装置 | |
CN114237893A (zh) | 缓存方法、装置、系统、服务器以及存储介质 | |
CN113835905B (zh) | 一种消息队列负载均衡方法、装置、电子设备及介质 | |
CN117056033A (zh) | 数据处理方法、装置、mec服务器及存储介质 | |
CN113840313B (zh) | 移动终端的网络模式控制方法、装置和计算机设备 | |
CN114500546A (zh) | 基于负载均衡集群的通信消息发送方法、装置及设备 | |
CN110928693B (zh) | 一种计算设备及资源分配方法 | |
CN113867946A (zh) | 访问资源的方法、装置、存储介质及电子设备 | |
CN114040378A (zh) | 应用的编排方法、装置、计算机设备和存储介质 | |
CN117785486B (zh) | 环境资源调配方法、装置、设备和介质 | |
CN115756875B (zh) | 面向流式数据的机器学习模型在线服务部署方法及系统 | |
CN115017117B (zh) | 一种基于本地盘的容器文件系统在线扩容的方法和系统 | |
CN117915476B (zh) | 一种信息集成系统处理方法及系统 | |
CN110891085B (zh) | 一种信息处理方法、服务器及数据中心 | |
CN110213314B (zh) | 确定存储节点的方法、装置、服务器 | |
CN118018612A (zh) | 调度方法、调度设备以及计算机可读介质 | |
CN115665156A (zh) | 一种数据采集方法及相关系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |