CN113608885B - 一种客户端请求处理方法、装置、设备及存储介质 - Google Patents

一种客户端请求处理方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN113608885B
CN113608885B CN202110744452.0A CN202110744452A CN113608885B CN 113608885 B CN113608885 B CN 113608885B CN 202110744452 A CN202110744452 A CN 202110744452A CN 113608885 B CN113608885 B CN 113608885B
Authority
CN
China
Prior art keywords
client
processing
request
iops
priority
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110744452.0A
Other languages
English (en)
Other versions
CN113608885A (zh
Inventor
赵文达
王庆海
孟祥瑞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Inspur Jinan data Technology Co ltd
Original Assignee
Inspur Jinan data Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Inspur Jinan data Technology Co ltd filed Critical Inspur Jinan data Technology Co ltd
Priority to CN202110744452.0A priority Critical patent/CN113608885B/zh
Publication of CN113608885A publication Critical patent/CN113608885A/zh
Application granted granted Critical
Publication of CN113608885B publication Critical patent/CN113608885B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • G06F9/547Remote procedure calls [RPC]; Web services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/54Indexing scheme relating to G06F9/54
    • G06F2209/541Client-server

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明公开了一种客户端请求处理方法、装置、设备及存储介质;在本方案中,可设置静态优先级策略或者静态IOPS阈值策略,若设置静态优先级策略,则可根据各客户端的优先级顺序依次处理各客户端的请求,若设置静态IOPS阈值策略,则可根据各客户端的IOPS阈值处理对应客户端的请求,从而使存储集群根据实际业务请求,优先处理优先级高或者IOPS阈值高的客户端请求,避免重要请求被阻塞造成损失,提高了分布式存储客户端网络通信服务的质量和稳定性,提高用户服务体验。

Description

一种客户端请求处理方法、装置、设备及存储介质
技术领域
本发明涉及数据存储技术领域,更具体地说,涉及一种客户端请求处理方法、装置、设备及存储介质。
背景技术
客户端网络通信功能主要是通过client(客户端)与存储集群的监控节点Mon建立心跳连接,可以实现对client的状态进行监控,并根据client状态进行告警等操作;同时通过client上报存储集群节点的连接情况,可以对client与集群之间的网络进行监控。
目前,存储集群不对不同的client请求做区别限制。集群在收到并处理client消息时,同一个OSD(Object-based Storage Device,对象存储设备)可能需要处理来自多个client的消息,这些消息根据被接收到的先后顺序在队列中存放,等待被依次处理。当某个client非常繁忙,即IOPS(Input/Output Operations Per Second,每秒的读写次数)值较高时,其在队列中的位置可能相对靠后,消息就会得不到集群更及时的处理,造成该client的消息产生积压,消息处理时延升高,从而影响客户端与集群正常的网络通信。同时,对于客户来讲,不同client发送的请求在业务重要性上可能会有区分,如果消息队列中被阻塞的client请求相比于正在处理的请求更为重要和紧急,则可能会由于消息处理不及时而产生相应的损失。
发明内容
本发明的目的在于提供一种客户端请求处理方法、装置、设备及存储介质,以及时处理客户端中重要的请求,避免重要请求被阻塞造成损失。
为实现上述目的,本发明提供一种客户端请求处理方法,包括:
接收客户端发送的请求;
判断是否设置静态优先级策略;
若是,则根据各客户端的优先级顺序依次处理各客户端的请求;若否,则判断是否设置静态IOPS阈值策略;
若是,则根据各客户端的IOPS阈值处理对应客户端的请求。
其中,若所述静态优先级策略及所述静态IOPS阈值策略均未设置,则所述客户端请求处理方法还包括:
根据客户端发送的请求中携带的延时值及IOPS值,动态调整各客户端的处理顺序,以根据调整后的处理顺序处理各客户端的请求。
其中,所述根据客户端发送的请求中携带的延时值及IOPS值,动态调整各客户端的处理顺序,包括:
将延时值小于延迟阈值的客户端作为第一类型客户端;
根据各第一类型客户端的IOPS值,确定各第一类型客户端的第一处理顺序;其中,第一类型客户端的IOPS值越大,处理优先级越高。
其中,所述接收各客户端发送的请求之后,还包括:
将延时值不小于所述延迟阈值的客户端作为第二类型客户端;
根据各第二类型客户端的延时值,确定各第二类型客户端的第二处理顺序;其中,第二类型客户端的延时值越大,处理优先级越高。
其中,若同时接收到第一类型客户端及第二类型客户端的请求,则所述客户端请求处理方法还包括:
将第一处理顺序与第二处理顺序组合,得到第三处理顺序;其中,所述第二处理顺序的处理优先级高于第一处理顺序。
为实现上述目的,本发明进一步提供一种客户端请求处理装置,包括:
接收模块,用于接收客户端发送的请求;
第一判断模块,用于判断是否设置静态优先级策略;
第一处理模块,用于在设置静态优先级策略时,根据各客户端的优先级顺序依次处理各客户端的请求;
第二判断模块,用于在未设置静态优先级策略时,判断是否设置静态IOPS阈值策略;
第二处理模块,用于在设置静态IOPS阈值策略时,根据各客户端的IOPS阈值处理对应客户端的请求。
其中,该装置还包括:
动态调整模块,用于在所述静态优先级策略及所述静态IOPS阈值策略均未设置时,根据客户端发送的请求中携带的延时值及IOPS值,动态调整各客户端的处理顺序,以根据调整后的处理顺序处理各客户端的请求。
其中,所述动态调整模块包括:
第一顺序设置单元,用于将延时值小于延迟阈值的客户端作为第一类型客户端,根据各第一类型客户端的IOPS值,确定各第一类型客户端的第一处理顺序;其中,第一类型客户端的IOPS值越大,处理优先级越高;
第二顺序设置单元,用于将延时值不小于所述延迟阈值的客户端作为第二类型客户端,根据各第二类型客户端的延时值,确定各第二类型客户端的第二处理顺序;其中,第二类型客户端的延时值越大,处理优先级越高;
第三顺序设置单元,用于将第一处理顺序与第二处理顺序组合,得到第三处理顺序;其中,所述第二处理顺序的处理优先级高于第一处理顺序。
为实现上述目的,本发明进一步提供一种电子设备,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现上述客户端请求处理方法的步骤。
为实现上述目的,本发明进一步提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现上述客户端请求处理方法的步骤。
通过以上方案可知,本发明实施例提供的一种客户端请求处理方法,包括:接收客户端发送的请求,判断是否设置静态优先级策略;若是,则根据各客户端的优先级顺序依次处理各客户端的请求;若否,则判断是否设置静态IOPS阈值策略;若是,则根据各客户端的IOPS阈值处理对应客户端的请求。可见,在本申请中,可设置静态优先级策略或者静态IOPS阈值策略,若设置静态优先级策略,则可根据各客户端的优先级顺序依次处理各客户端的请求,若设置静态IOPS阈值策略,则可根据各客户端的IOPS阈值处理对应客户端的请求,从而使存储集群根据实际业务请求,优先处理优先级高或者IOPS阈值高的客户端请求,避免重要请求被阻塞造成损失,提高了分布式存储客户端网络通信服务的质量和稳定性,提高用户服务体验;本发明还公开了一种客户端请求处理装置、设备及存储介质,同样能实现上述技术效果。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例公开的一种客户端请求处理方法流程示意图;
图2为本发明实施例公开的一种自适应计算消息处理优先顺序的流程图;
图3为本发明实施例公开的一种客户端请求处理装置结构示意图;
图4为本发明实施例公开的一种电子设备结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例公开了一种客户端请求处理方法、装置、设备及存储介质,以及时处理客户端中重要的请求,避免重要请求被阻塞造成损失。
参见图1,本发明实施例提供的一种客户端请求处理方法流程示意图,通过图1可以看出,该方法包括:
S101、接收客户端发送的请求;
S102、判断是否设置静态优先级策略;
若是,则执行S103;若否,则执行S104;
S103、根据各客户端的优先级顺序依次处理各客户端的请求;
在本实施例中,客户可根据业务及需求自主制定分布式存储集群对客户端业务的静态处理策略,该静态处理策略包括:静态优先级策略及静态IOPS阈值策略。Mon接收客户端发送的请求后,首先判断客户是否根据自己的业务需求设置了静态优先级策略,若设置了静态优先级策略,则各客户端可根据业务的重要性设置各客户端的优先级顺序,集群侧Mon需要按照按照每个客户端对应的优先级顺序依次处理客户端的请求;例如:存在三个客户端:客户端1、客户端2和客户端3,设置的优先级顺序为客户端1>客户端2>客户端3,则优先处理客户端1的请求,若客户端1的请求处理完后,依然有剩余的资源,则继续处理客户端2的请求,依次类推。
S104、判断是否设置静态IOPS阈值策略;
若是,则执行S105;若否,则执行S106;
S105、根据各客户端的IOPS阈值处理对应客户端的请求;
在本实施例中,若客户设置了静态IOPS阈值策略,则可根据各客户端的种类、所属等信息设置各客户端的IOPS阈值,然后按照每个客户端对应的处理速度进行处理。例如:存在三个客户端:客户端1、客户端2和客户端3,各客户端的IOPS阈值分别为1000、50、50,则根据各阈值分别处理各客户端的请求,从而将更多的资源用来处理客户端1的请求。
S106、根据客户端发送的请求中携带的延时值及IOPS值,动态调整各客户端的处理顺序,以根据调整后的处理顺序处理各客户端的请求。
在本实施例中,若静态优先级策略及静态IOPS阈值策略均未设置,则可根据各客户端的延时值及IOPS值计算各客户端请求的处理优先顺序。需要说明的是,由于Mon是依次接收到不同客户端的消息处理请求,而非一次性接受全部请求,因此消息队列中的请求也是逐条插入的。当Mon收到新的客户端的请求时,可根据如下方式自动地调整client消息处理队列中的顺序:
将延时值小于延迟阈值的客户端作为第一类型客户端;根据各第一类型客户端的IOPS值,确定各第一类型客户端的第一处理顺序;其中,第一类型客户端的IOPS值越大,处理优先级越高;
将延时值不小于延迟阈值的客户端作为第二类型客户端,根据各第二类型客户端的延时值,确定各第二类型客户端的第二处理顺序;其中,第二类型客户端的延时值越大,处理优先级越高;
若同时接收到第一类型客户端及第二类型客户端的请求,则将第一处理顺序与第二处理顺序组合,得到第三处理顺序;其中,第二处理顺序的处理优先级高于第一处理顺序。
需要说明的是,客户端发送给存储集群的消息中携带的IOPS信息和delay信息是由客户端自己计算和统计得出的,具体来说:客户端根据自己已完成的OP来统计目前的delay信息,客户端根据发送消息时当前的IOPS值确定IOPS信息,MON接收到IOPS信息和delay信息后,即可通过delay信息确定延时值,通过IOPS信息确定IOPS值。Mon会根据所有发送请求的客户端的延时值及IOPS值,对消息处理的优先级进行排序,具体过程为:判断是否有客户端的延时值delay达到阈值,如果没有客户端的延时值delay达到阈值,则优先处理IOPS值高的客户端。例如:客户端1、客户端2和客户端3的延时值均未达到阈值,则根据这三个客户端的IOPS值确定第一处理顺序,若客户端1、客户端2和客户端3的IOPS值从大到小的排序为:客户端1、客户端2和客户端3,由于IOPS值越大处理优先级越高,则可确定第一处理顺序为:客户端1、客户端2、客户端3。
进一步,如果有客户端的延时值达到阈值,则Mon优先处理延时值高的客户端请求,根据延时值的大小将客户端的消息请求插入消息队列相应的位置,那么集群对该客户端的请求的处理就会提前;对于其他延时值没有超过阈值的客户端,默认处理顺序排在所有延时值超过阈值的客户端之后,依然按照IOPS值的高低依次排序,优先处理IOPS值高的客户端的请求。例如:客户端4、客户端5和客户端6的延时值均达到阈值,并且这三个客户端的延时值按大小的排序为:客户端4、客户端5、客户端6,由于延时值越大处理优先级越高,则可确定第二处理顺序为:客户端4、客户端5、客户端6。若还包括上述延时值均未达到阈值的客户端1、客户端2和客户端3,且这个三个客户端根据IOPS值大小排序的第一处理结果为:客户端1、客户端2、客户端3,则将六个客户端组合后,可以得到当前这六个客户端的第三处理顺序为:客户端4、客户端5、客户端6、客户端1、客户端2、客户端3。
需要说明的是,若客户端下次发送请求时,请求中携带的延时值及IOPS值发生了变化,则需要动态的对各客户端的请求处理顺序进行重新确定。并且,Mon得到最终的排序结果后,需要发送给Osd,Osd根据排好序的客户端请求依次进行处理。参见图2,本发明实施例提供的一种自适应计算消息处理优先顺序的流程图。通过图2可以看出,接收到客户端的请求后,需要判断请求中携带的Delay是否达到阈值;若达到阈值,则判断该客户端的Delay是否比消息队列头部的请求的Delay高;若是,则插入消息队列的头部,若否,则继续与队列的下一条请求Delay进行对比,直至将客户端的请求插入队列为止,生成Delay超过阈值的消息处理队列(该队列中各客户端的顺序即为第一处理顺序);其中,本实施例中,请求的Delay并非是该条请求单独的Delay,而是该请求所属客户端的延迟均值。通过该方式,可以在客户端的Delay达到阈值时,将该客户端的请求添加队列的对应位置(插入队列中首个小于Delay的请求之前),并且,由于该过程是动态变化的,因此最终生成的队列是按照Delay从大到小的顺序进行排序。
若Delay未达到阈值,则需要判断该客户端的IOPS值是否比没达到Delay阈值的客户端消息队列的头部请求的IOPS值高;若是,则直接将该客户端的请求插入消息队列头部,若否,则继续与队列的下一条消息的IOPS值进行对比,直至将该客户端的请求插入队列为止,生成Delay未超过阈值的消息处理队列(该队列中各客户端的顺序即为第二处理顺序)。通过该方式,可以在客户端的Delay未达到阈值时,将该客户端的请求添加队列的对应位置(插入队列中首个小于IOPS值的请求之前),并且,由于该过程是动态变化的,因此最终生成的队列是按照IOPS值从大到小的顺序进行排序。将Delay超过阈值的消息处理队列与Delay未超过阈值的消息处理队列组合后,即可生成全局客户端消息处理队列(该队列中各客户端的顺序即为第三处理顺序),然后发送给OSD依次执行各客户端的请求。可以理解的是,由于分布式存储系统的处理能力是一定的,因此随着各客户端的延时值及IOPS值的变化,本方案可实现对消息队列的动态改变和控制,以达到始终保持消息队列处理顺序最优的状态,保证延时值高的客户端请求优先处理、IOPS值高的客户端请求优先处理,从而避免重要请求被阻塞造成损失。
综上可见,由于目前分布式存储客户端网络通信不会针对客户端进行区分,导致更繁忙客户端的请求可能在队列中得不到及时的处理,造成该客户端消息的积压,从而影响相应业务的处理。因此在本方案中,根据客户需求制定静态的客户端请求管理策略,并实现自适应地根据客户端的延时值及IOPS值情况动态计算各客户端的请求处理的先后顺序,保证客户认为更重要的客户端发送的消息或延迟高的和IOPS高的客户端的消息请求可以优先得到处理,提高了分布式存储客户端网络通信服务的质量和稳定性,可以给予用户更好的服务体验。
下面对本发明实施例提供的处理装置、设备及介质进行介绍,下文描述的处理装置、设备及介质与上文描述的处理方法可以相互参照。
参见图3,本发明实施例提供的一种客户端请求处理装置结构示意图,
参见图3,该装置包括:
接收模块11,接收客户端发送的请求;
第一判断模块12,用于判断是否设置静态优先级策略;
第一处理模块13,用于在设置静态优先级策略时,根据各客户端的优先级顺序依次处理各客户端的请求;
第二判断模块14,用于在未设置静态优先级策略时,判断是否设置静态IOPS阈值策略;
第二处理模块15,用于在设置静态IOPS阈值策略时,根据各客户端的IOPS阈值处理对应客户端的请求。
其中,所述装置还包括:
动态调整模块,用于在所述静态优先级策略及所述静态IOPS阈值策略均未设置时,根据客户端发送的请求中携带的延时值及IOPS值,动态调整各客户端的处理顺序,以根据调整后的处理顺序处理各客户端的请求。
其中,所述动态调整模块包括:
第一顺序设置单元,用于将延时值小于延迟阈值的客户端作为第一类型客户端,根据各第一类型客户端的IOPS值,确定各第一类型客户端的第一处理顺序;其中,第一类型客户端的IOPS值越大,处理优先级越高;
第二顺序设置单元,用于将延时值不小于所述延迟阈值的客户端作为第二类型客户端,根据各第二类型客户端的延时值,确定各第二类型客户端的第二处理顺序;其中,第二类型客户端的延时值越大,处理优先级越高;
第三顺序设置单元,用于将第一处理顺序与第二处理顺序组合,得到第三处理顺序;其中,所述第二处理顺序的处理优先级高于第一处理顺序。
参见图4,本发明实施例提供的一种电子设备结构示意图,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现上述方法实施例所述的客户端请求处理方法的步骤。
在本实施例中,设备可以是PC(Personal Computer,个人电脑),也可以是智能手机、平板电脑、掌上电脑、便携计算机等终端设备。
该设备可以包括存储器21、处理器22和总线23。
其中,存储器21至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、磁性存储器、磁盘、光盘等。存储器21在一些实施例中可以是设备的内部存储单元,例如该设备的硬盘。存储器21在另一些实施例中也可以是设备的外部存储设备,例如设备上配备的插接式硬盘,智能存储卡(SmartMedia Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,存储器21还可以既包括设备的内部存储单元也包括外部存储设备。存储器21不仅可以用于存储安装于设备的应用软件及各类数据,例如执行处理方法的程序代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
处理器22在一些实施例中可以是一中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器或其他数据处理芯片,用于运行存储器21中存储的程序代码或处理数据,例如执行处理方法的程序代码等。
该总线23可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。为便于表示,图4中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
进一步地,设备还可以包括网络接口24,网络接口24可选的可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该设备与其他电子设备之间建立通信连接。
可选地,该设备还可以包括用户接口25,用户接口25可以包括显示器(Display)、输入单元比如键盘(Keyboard),可选的用户接口25还可以包括标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在设备中处理的信息以及用于显示可视化的用户界面。
图4仅示出了具有组件21-25的设备,本领域技术人员可以理解的是,图4示出的结构并不构成对设备的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现上述方法实施例所述的客户端请求处理方法的步骤。
其中,该存储介质可以包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (6)

1.一种客户端请求处理方法,其特征在于,包括:
接收客户端发送的请求;
判断是否设置静态优先级策略;
若是,则根据各客户端的优先级顺序依次处理各客户端的请求;若否,则判断是否设置静态IOPS阈值策略;
若是,则根据各客户端的IOPS阈值处理对应客户端的请求;
其中,若所述静态优先级策略及所述静态IOPS阈值策略均未设置,则所述客户端请求处理方法还包括:
根据客户端发送的请求中携带的延时值及IOPS值,动态调整各客户端的处理顺序,以根据调整后的处理顺序处理各客户端的请求;
所述根据客户端发送的请求中携带的延时值及IOPS值,动态调整各客户端的处理顺序,包括:
将延时值小于延迟阈值的客户端作为第一类型客户端;
根据各第一类型客户端的IOPS值,确定各第一类型客户端的第一处理顺序;其中,第一类型客户端的IOPS值越大,处理优先级越高。
2.根据权利要求1所述的客户端请求处理方法,其特征在于,所述接收各客户端发送的请求之后,还包括:
将延时值不小于所述延迟阈值的客户端作为第二类型客户端;
根据各第二类型客户端的延时值,确定各第二类型客户端的第二处理顺序;其中,第二类型客户端的延时值越大,处理优先级越高。
3.根据权利要求2所述的客户端请求处理方法,其特征在于,若同时接收到第一类型客户端及第二类型客户端的请求,则所述客户端请求处理方法还包括:
将第一处理顺序与第二处理顺序组合,得到第三处理顺序;其中,所述第二处理顺序的处理优先级高于第一处理顺序。
4.一种客户端请求处理装置,其特征在于,包括:
接收模块,用于接收客户端发送的请求;
第一判断模块,用于判断是否设置静态优先级策略;
第一处理模块,用于在设置静态优先级策略时,根据各客户端的优先级顺序依次处理各客户端的请求;
第二判断模块,用于在未设置静态优先级策略时,判断是否设置静态IOPS阈值策略;
第二处理模块,用于在设置静态IOPS阈值策略时,根据各客户端的IOPS阈值处理对应客户端的请求;
其中,所述客户端请求处理装置,还包括:
动态调整模块,用于在所述静态优先级策略及所述静态IOPS阈值策略均未设置时,根据客户端发送的请求中携带的延时值及IOPS值,动态调整各客户端的处理顺序,以根据调整后的处理顺序处理各客户端的请求;
所述动态调整模块包括:
第一顺序设置单元,用于将延时值小于延迟阈值的客户端作为第一类型客户端,根据各第一类型客户端的IOPS值,确定各第一类型客户端的第一处理顺序;其中,第一类型客户端的IOPS值越大,处理优先级越高;
第二顺序设置单元,用于将延时值不小于所述延迟阈值的客户端作为第二类型客户端,根据各第二类型客户端的延时值,确定各第二类型客户端的第二处理顺序;其中,第二类型客户端的延时值越大,处理优先级越高;
第三顺序设置单元,用于将第一处理顺序与第二处理顺序组合,得到第三处理顺序;其中,所述第二处理顺序的处理优先级高于第一处理顺序。
5.一种电子设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1至3任一项所述的客户端请求处理方法的步骤。
6.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至3任一项所述的客户端请求处理方法的步骤。
CN202110744452.0A 2021-06-30 2021-06-30 一种客户端请求处理方法、装置、设备及存储介质 Active CN113608885B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110744452.0A CN113608885B (zh) 2021-06-30 2021-06-30 一种客户端请求处理方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110744452.0A CN113608885B (zh) 2021-06-30 2021-06-30 一种客户端请求处理方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
CN113608885A CN113608885A (zh) 2021-11-05
CN113608885B true CN113608885B (zh) 2023-12-22

Family

ID=78337137

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110744452.0A Active CN113608885B (zh) 2021-06-30 2021-06-30 一种客户端请求处理方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN113608885B (zh)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103765372A (zh) * 2011-08-26 2014-04-30 威睿公司 配置用于输入/输出操作的对象存储系统
CN106844507A (zh) * 2016-12-27 2017-06-13 星环信息科技(上海)有限公司 一种数据批处理的方法及设备
CN107133100A (zh) * 2017-04-26 2017-09-05 新华三技术有限公司 存储系统服务质量QoS控制方法和装置
CN107741917A (zh) * 2017-10-19 2018-02-27 郑州云海信息技术有限公司 一种改进的io限流处理方法和系统
CN110099012A (zh) * 2019-05-08 2019-08-06 深信服科技股份有限公司 一种流量控制方法、系统及电子设备和存储介质
CN112100029A (zh) * 2020-09-04 2020-12-18 北京浪潮数据技术有限公司 客户端状态监测方法及相关组件
US11025495B1 (en) * 2019-12-18 2021-06-01 Vmware, Inc. Methods and apparatus to determine container priorities in virtualized computing environments

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103765372A (zh) * 2011-08-26 2014-04-30 威睿公司 配置用于输入/输出操作的对象存储系统
CN106844507A (zh) * 2016-12-27 2017-06-13 星环信息科技(上海)有限公司 一种数据批处理的方法及设备
CN107133100A (zh) * 2017-04-26 2017-09-05 新华三技术有限公司 存储系统服务质量QoS控制方法和装置
CN107741917A (zh) * 2017-10-19 2018-02-27 郑州云海信息技术有限公司 一种改进的io限流处理方法和系统
CN110099012A (zh) * 2019-05-08 2019-08-06 深信服科技股份有限公司 一种流量控制方法、系统及电子设备和存储介质
US11025495B1 (en) * 2019-12-18 2021-06-01 Vmware, Inc. Methods and apparatus to determine container priorities in virtualized computing environments
CN112100029A (zh) * 2020-09-04 2020-12-18 北京浪潮数据技术有限公司 客户端状态监测方法及相关组件

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Hierarchy Value Density - A Priority Algorithm for Task Scheduling on Cloud;Ling K.等;2018 IEEE SmartWorld, Ubiquitous Intelligence & Computing, Advanced & Trusted Computing, Scalable Computing & Communications, Cloud & Big Data Computing, Internet of People and Smart City Innovation (SmartWorld/SCALCOM/UIC/ATC/CBDCom/IOP/SCI);全文 *
一种高性能高可靠的混合客户端缓存系统;李楚;冯丹;王芳;;计算机研究与发展(第11期);全文 *

Also Published As

Publication number Publication date
CN113608885A (zh) 2021-11-05

Similar Documents

Publication Publication Date Title
US10628216B2 (en) I/O request scheduling method and apparatus by adjusting queue depth associated with storage device based on hige or low priority status
CN107818056B (zh) 一种队列管理方法及装置
WO2019205371A1 (zh) 服务器、消息分配的方法及存储介质
CN111770157B (zh) 一种业务处理方法、装置及电子设备和存储介质
US20070156955A1 (en) Method and apparatus for queuing disk drive access requests
WO2017143981A1 (zh) 服务处理
CN107995286B (zh) 基于dubbo平台的服务自动启停方法、服务器及存储介质
US20120192186A1 (en) Computing Platform with Resource Constraint Negotiation
WO2019096046A1 (zh) 数据处理系统、方法及令牌管理方法
CN109300217A (zh) 排队叫号方法、计算机存储介质、排队叫号服务器及系统
US11115368B2 (en) Systems and methods for intelligent application notification management
CN112600761B (zh) 一种资源分配的方法、装置及存储介质
CN111753065A (zh) 请求响应方法、系统、计算机系统和可读存储介质
CN111240864A (zh) 异步任务处理方法、装置、设备及计算机可读存储介质
CN111245732A (zh) 一种流量控制方法、装置及设备
CN111371848A (zh) 一种请求处理方法、装置、设备及存储介质
WO2021012506A1 (zh) 语音识别系统中的负载均衡实现方法、装置以及计算机设备
WO2021012795A1 (zh) 网络节点的调度方法、装置、电子设备和存储介质
CN112788585B (zh) 一种5g核心网中nf切换方法、装置及存储介质
CN117768391A (zh) 流量控制方法、系统、设备及介质
CN113608885B (zh) 一种客户端请求处理方法、装置、设备及存储介质
CN109257806B (zh) 通信终端的载波聚合模式设定方法及通信终端和介质
CN117149382A (zh) 虚拟机调度方法、装置、计算机设备和存储介质
US9787755B2 (en) Method and device for browsing network data, and storage medium
CN107689979B (zh) 一种下载请求处理方法和处理设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant