CN116980484A - 请求处理方法、装置、计算机设备及计算机可读存储介质 - Google Patents

请求处理方法、装置、计算机设备及计算机可读存储介质 Download PDF

Info

Publication number
CN116980484A
CN116980484A CN202310672158.2A CN202310672158A CN116980484A CN 116980484 A CN116980484 A CN 116980484A CN 202310672158 A CN202310672158 A CN 202310672158A CN 116980484 A CN116980484 A CN 116980484A
Authority
CN
China
Prior art keywords
service
request
service request
processing
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310672158.2A
Other languages
English (en)
Inventor
朱绍明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202310672158.2A priority Critical patent/CN116980484A/zh
Publication of CN116980484A publication Critical patent/CN116980484A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/565Conversion or adaptation of application format or content
    • H04L67/5651Reducing the amount or size of exchanged application data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/20Traffic policing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/60Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本申请实施例提供一种请求处理方法、装置、计算机设备及计算机可读存储介质,可以应用于云技术、人工智能、智慧交通、车联网等各种场景;本申请可以获取服务请求对象针对应用程序中程序服务的服务请求,以及获取运行服务资源信息集合;根据候选运行服务资源,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息;根据资源状态信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数;根据请求限流参数和服务请求对象的运行服务资源信息,确定服务请求对应的请求处理策略,以根据请求处理策略,对服务请求对象的服务请求进行处理。本申请可以提高服务端的可用性。

Description

请求处理方法、装置、计算机设备及计算机可读存储介质
技术领域
本申请涉及数据处理技术领域,具体涉及一种请求处理方法、装置、计算机设备及计算机可读存储介质。
背景技术
随着客户端的发展,客户端能够实现越来越丰富的服务。客户端为了实现服务,需要向能够提供服务的服务端发起请求,以请求服务。但是,随着客户端数量的增多,以及服务数量的增多,服务端所要处理的请求的流量也越来越多。由于服务端对流量的处理资源有限,服务端在处理大流量的请求时,会容易导致服务端崩溃,使得服务端无法对请求进行处理。
综上,目前存在服务端的可用性不足的问题。
发明内容
本申请实施例提供一种请求处理方法、装置、计算机设备及计算机可读存储介质,能够提高服务端的可用性。
一种请求处理方法,包括:
获取服务请求对象针对应用程序中程序服务的服务请求,以及获取运行服务资源信息集合,运行服务资源信息集合包括每一候选服务请求对象对应的候选运行服务资源信息,服务请求对象属于候选服务请求对象;
根据候选运行服务资源,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息;
根据资源状态信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数;
根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,确定服务请求对应的请求处理策略,以根据请求处理策略,对服务请求对象的服务请求进行处理。
相应地,本申请实施例提供一种请求处理装置,包括:
第一获取单元,可以用于获取服务请求对象针对应用程序中程序服务的服务请求,以及获取运行服务资源信息集合,运行服务资源信息集合包括每一候选服务请求对象对应的候选运行服务资源信息,服务请求对象属于候选服务请求对象;
设置单元,可以用于根据候选运行服务资源,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息;
第二获取单元,可以用于根据资源状态信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数;
确定单元,可以用于根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,确定服务请求对应的请求处理策略,以根据请求处理策略,对服务请求对象的服务请求进行处理。
可选地,在一些实施例中,第二获取单元,具体可以用于若资源状态信息为限流状态信息,则获取应用程序对应的预设服务资源信息;根据预设服务资源信息和候选运行服务资源信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数。
可选地,在一些实施例中,第二获取单元,具体可以用于对预设服务资源信息和候选运行服务资源信息进行参数映射处理,得到每一候选服务请求对象对应的候选请求限流参数;根据服务请求对象的对象特征信息,从候选请求限流参数中,筛选出服务请求对象的请求限流参数。
可选地,在一些实施例中,设置单元,具体可以用于获取应用程序对应的预设服务资源信息;根据候选运行服务资源和预设服务资源信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息。
可选地,在一些实施例中,设置单元,具体可以用于若候选运行服务资源信息和预设服务资源信息符合预设条件,则获取限流服务资源的当前资源状态信息;根据当前资源状态信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息。
可选地,在一些实施例中,确定单元,具体可以用于根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,获取服务请求的请求类型;对请求类型进行策略映射处理,得到服务请求对应的请求处理策略。
可选地,在一些实施例中,确定单元,具体可以用于若请求处理策略为请求限流策略,则对服务请求对象的服务请求进行限流处理;若请求处理策略为请求放行策略,则对服务请求对象的服务请求进行服务响应处理。
此外,本申请实施例还提供一种计算机设备,包括存储器和处理器;存储器存储有计算机程序,处理器用于运行存储器内的计算机程序,以执行本申请实施例提供的任一种请求处理方法。
此外,本申请实施例还提供一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序适于处理器进行加载,以执行本申请实施例提供的任一种请求处理方法。
此外,本申请实施例还提供一种计算机程序产品,包括计算机程序,计算机程序被处理器执行时实现本申请实施例所提供的任一种请求处理方法。
本申请可以获取服务请求对象针对应用程序中程序服务的服务请求,以及获取运行服务资源信息集合,运行服务资源信息集合包括每一候选服务请求对象对应的候选运行服务资源信息,服务请求对象属于候选服务请求对象;根据候选运行服务资源,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息;根据资源状态信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数;根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,确定服务请求对应的请求处理策略,以根据请求处理策略,对服务请求对象的服务请求进行处理。由于本申请可以利用候选服务请求对象对应的候选运行服务资源信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息,如此可以根据资源状态信息,获取到服务请求对象的请求限流参数,从而可以利用限流参数和服务请求对象的运行服务资源信息确定出服务请求对应的请求处理策略,如此可以利用请求处理策略来对服务请求进行适应性地处理,进而可以提高服务端的可用性。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的请求处理方法的场景示意图;
图2是本申请实施例提供的请求处理方法的流程示意一图;
图3是本申请实施例提供的请求处理方法的流程示意二图;
图4是本申请实施例提供的请求处理架构的示意图;
图5是本申请实施例提供的限流模块11的处理流程的示意图;
图6是本申请实施例提供的请求处理装置的结构示意图;
图7是本申请实施例提供的计算机设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请实施例提供一种请求处理方法、装置、计算机设备和计算机可读存储介质。其中,该请求处理装置可以集成在计算机设备中,该计算机设备可以是服务器,也可以是终端等设备。
其中,服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、网络加速服务(Content Delivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。终端可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表、车载终端等,但并不局限于此。终端以及服务器可以通过有线或无线通信方式进行直接或间接地连接,本申请在此不做限制。
例如,参见图1,以请求处理装置集成在计算机设备中为例,计算机设备可以获取服务请求对象针对应用程序中程序服务的服务请求,以及获取运行服务资源信息集合;根据候选运行服务资源,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息;根据资源状态信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数;根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,确定服务请求对应的请求处理策略,以根据请求处理策略,对服务请求对象的服务请求进行处理。
其中,服务请求对象可以是指请求程序服务提供服务的对象,例如,服务请求对象可以为客户端。
其中,运行服务资源信息集合包括每一候选服务请求对象对应的候选运行服务资源信息,服务请求对象属于候选服务请求对象。其中,候选服务请求对象可以包括至少一个候选服务请求对象。其中,候选运行服务资源信息可以是指当前已经运行的、用于候选服务请求对象的服务的计算资源的相关信息,计算资源例如是CPU,其中,程序服务可以属于服务。
其中,限流服务资源可以是指用于对服务请求的限流进行辅助处理的服务资源,该限流资源可以表征为具有限流辅助服务功能的代码集合。
其中,资源状态信息可以是指限流服务资源的状态的相关信息。
其中,请求限流参数可以是指用于确定是否对服务请求进行限流处理的相关参数。请求限流参数可以表征为服务请求对象所能使用的候选运行服务资源信息的上限值。
其中,请求处理策略可以是指用于对服务请求进行处理的策略。
以下分别进行详细说明。需说明的是,以下实施例的描述顺序不作为对实施例优选顺序的限定。
本实施例将从请求处理装置的角度进行描述,该请求处理装置具体可以集成在计算机设备中,该计算机设备可以是服务器,也可以是终端等设备;其中,该终端可以包括平板电脑、笔记本电脑、以及个人计算机(PC,Personal Computer)、可穿戴设备、虚拟现实设备或其他可以获取数据的智能设备等设备。
如图2所示,该请求处理方法的具体流程如步骤S201至步骤S204所示:
S201、获取服务请求对象针对应用程序中程序服务的服务请求,以及获取运行服务资源信息集合。
其中,应用程序可以是指提供程序服务的程序,具体来说,应用程序可以是服务端中,提供服务请求所需要的程序服务的程序。
在一些申请实施例中,获取服务请求对象针对应用程序中程序服务的服务请求的方式可以为:接收服务请求对象发送的服务请求,以得到服务请求对象针对应用程序中程序服务的服务请求。
上述中,服务请求对象可以响应于针对应用程序中程序服务的请求操作,触发服务请求,然后,服务请求对象向计算机设备发送服务请求。
其中,运行服务资源信息集合包括每一候选服务请求对象对应的候选运行服务资源信息,服务请求对象属于候选服务请求对象。
例如,在本申请实施例中,候选服务请求对象可以包括多个候选服务请求对象。候选服务请求对象可以是业务对应的对象。其中,业务可以包括但不限于游戏业务、视频通话业务、语音合成业务、文本转音频业务、虚拟人平台业务、防抖业务,以及游戏业务、视频通话业务、语音合成业务、文本转音频业务、虚拟人平台业务、防抖业务中任一业务的共享服务业务。候选服务请求对象可以是不同业务对应的客户端,比如,业务可以包括第一业务、第二业务和第三业务,客户端包括第一业务对应的第一客户端、第二业务对应的第二客户端和第三业务对应的第三客户端。比如,第一业务为游戏业务,第二业务为视频通话业务,第三业务为语音合成业务。
候选服务请求对象还可以是同一业务的不同客户端。比如,业务为语音合成业务,客户端包括A客户端、B客户端和C客户端。
在本申请实施例中,具体来说,候选运行服务资源信息可以是指当前已经运行的、用于候选服务请求对象的服务的计算资源的使用量,例如是CPU的使用量。每一候选服务请求对象均具有对应的候选运行服务资源信息,例如,第一客户端对应的CPU使用量为10,第二客户端对应的CPU使用量为5,第三客户端对应的CPU使用量为8。
在一些申请实施例中,获取运行服务资源信息集合的方式可以为:根据服务请求,获取运行服务资源集合。
基于上述,在一示例中,服务请求可以携带服务请求对象的对象标识;基于此,计算机设备根据服务请求对象的对象标识,确定服务请求对象对应的应用程序的程序标识;根据程序标识,获取程序标识对应的运行服务资源信息集合。
S202、根据候选运行服务资源,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息。
此处可以理解的是,由于可能会存在服务端无法对请求进行处理的情况,基于此,本申请可以预先对用于服务请求的限流进行辅助处理的限流服务资源进行状态设置处理,以便于后续对服务请求的限流处理。
在一些申请实施例中,根据候选运行服务资源,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息的方式可以如步骤S2021至步骤S2022所示:
S2021、获取应用程序对应的预设服务资源信息。
其中,预设服务资源信息可以是指能够提供应用程序的服务的所有计算资源的相关信息,例如,预设服务资源信息可以是指CPU的总量。其中,预设服务资源信息可以为实时获取到的信息,该预设服务资源信息可以为动态值。
在一示例中,可以实时对预设服务资源信息进行检测处理,以得到应用程序对应的预设服务资源信息。
S2022、根据候选运行服务资源和预设服务资源信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息。
在一示例中,根据候选运行服务资源和预设服务资源信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息的方式可以为:若候选运行服务资源信息和预设服务资源信息符合预设条件,则获取限流服务资源的当前资源状态信息;根据当前资源状态信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息。
其中,当前资源状态信息可以是指限流服务资源的当前状态信息。
上述中,在获取限流服务资源的当前资源状态信息之前,本申请还可以判断候选运行服务资源信息和预设服务资源信息是否符合条件。
此处可以理解的是,本申请判断候选运行服务资源信息和预设服务资源信息是否符合条件,来确定是否对限流服务资源进行状态设置处理,以便于后续对服务请求的限流处理。
基于上述,在一示例中,判断候选运行服务资源信息和预设服务资源信息是否符合条件的方式可以为:对候选运行服务资源信息进行映射处理,得到候选运行服务资源信息的第一映射值;获取预设服务资源信息对应的参考值;对参考值和预设服务资源信息进行融合处理,得到融合后资源信息;若第一映射值大于融合后资源信息,则确定候选运行服务资源信息和预设服务资源信息符合预设条件;若第一映射值小于或等于融合后资源信息,则确定候选运行服务资源信息和预设服务资源信息不符合预设条件。
基于上述,在一示例中,判断候选运行服务资源信息和预设服务资源信息是否符合条件的方式可以为:对候选运行服务资源信息和预设服务资源信息进行信息融合处理,得到目标融合后资源信息;若目标融合后资源信息大于或等于预设阈值,则确定候选运行服务资源信息和预设服务资源信息符合预设条件;若目标融合后资源信息小于预设阈值,则确定候选运行服务资源信息和预设服务资源信息不符合预设条件。
基于上述,在一示例中,根据当前资源状态信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息的方式可以为:若当前资源状态信息为限流状态信息,则将当前资源状态信息作为限流服务资源针对服务请求的资源状态信息;若当前资源状态信息不为限流状态信息,则将当前资源状态信息设置为限流状态信息,得到设置后资源状态信息;将设置后资源状态信息,作为限流服务资源针对服务请求的资源状态信息。
在一示例中,若候选运行服务资源信息和预设服务资源信息不符合预设条件,表明不需要对服务请求进行限流处理,则对服务请求对象的服务请求进行服务响应处理。
S203、根据资源状态信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数。
在一些申请实施例中,根据资源状态信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数具体可参见步骤S2031至步骤S2032所示:
S2031、若资源状态信息为限流状态信息,则获取应用程序对应的预设服务资源信息。
在步骤S2031之前,本申请还可以判断资源状态信息是否为限流状态信息。
其中,由前述可知,预设服务资源信息可以是实时检测处理所得到的信息。
S2032、根据预设服务资源信息和候选运行服务资源信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数。
在一示例中,根据预设服务资源信息和候选运行服务资源信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数的方式可以为:对预设服务资源信息和候选运行服务资源信息进行参数映射处理,得到每一候选服务请求对象对应的候选请求限流参数;根据服务请求对象的对象特征信息,从候选请求限流参数中,筛选出服务请求对象的请求限流参数。
基于上述,在一示例中,根据服务请求对象的对象特征信息,从候选请求限流参数中,筛选出服务请求对象的请求限流参数的方式可以为:获取对象特征信息和请求限流参数之间的关联关系;根据关联关系和服务请求对象的对象特征信息,从候选请求限流参数中,筛选出对象特征信息对应的请求限流参数;将对象特征信息对应的请求限流参数,作为服务请求对象的请求限流参数。
例如,候选服务请求对象包括第一候选服务请求对象、第二候选服务请求对象和第三候选服务请求对象。候选请求限流参数可以包括第一候选服务请求对象对应的第一候选请求限流参数、第二候选服务请求对象对应的第二候选请求限流参数,以及第三候选服务请求对象对应的第三候选请求限流参数。本申请利用对象特征信息,筛选出服务请求对象的请求限流参数可以为第三候选请求限流参数。
基于上述,在一示例中,若资源状态信息不为限流状态信息,表明不需要对服务请求进行限流处理,则对服务请求对象的服务请求进行服务响应处理。
在一些申请实施例中,根据资源状态信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数的方式可以为:若资源状态信息为限流状态信息,则获取每一候选服务请求对象对应的配置服务资源信息;根据配置服务资源信息之间的比例,获取服务请求对象的请求限流参数。
其中,配置服务资源信息可以是指预先配置的、用于对候选服务请求对象提供程序服务的服务资源信息。
例如,第一候选服务请求对象的第一配置服务资源信息为100核CPU,第二候选服务请求对象的第二配置服务资源信息为200核CPU。而服务端的CPU总量为100核,那么,根据第一配置服务资源信息和第二配置服务资源信息之间的比例,设置第一候选服务请求对象的目标请求限流参数为33核CPU,第二候选服务请求对象的目标请求限流参数为67核CPU。由于第一候选服务请求对象为服务请求对象,那么可以确定服务请求对象的请求限流参数为33核CPU。
S204、根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,确定服务请求对应的请求处理策略,以根据请求处理策略,对服务请求对象的服务请求进行处理。
其中,请求处理策略可以包括请求限流策略和请求放行策略,其中,请求限流策略可以是指用于对服务请求进行限流处理的策略;请求放行策略可以是指用于对服务请求进行放行,以对服务请求进行服务响应处理的策略。
在一些申请实施例中,根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,确定服务请求对应的请求处理策略的方式可以为:根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,获取服务请求的请求类型;对请求类型进行策略映射处理,得到服务请求对应的请求处理策略。
其中,请求类型可以包括请求限流类型和请求放行类型,其中,请求限流类型可以是指服务请求为需要进行限流处理的类型;请求放行类型可以是指服务请求为需要进行放行处理的类型。
在一示例中,请求限流参数可以表征为服务请求对象所能使用的候选运行服务资源信息的上限值,基于此,本申请利用请求限流参数和运行服务资源信息,来判断服务请求的请求类型。基于此,根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,获取服务请求的请求类型的方式可以为:若运行服务资源信息大于请求限流参数,则确定服务请求的请求类型为限流类型;若运行服务资源信息小于或等于请求限流参数,则确定服务请求的请求类型为放行类型。
在一示例中,对请求类型进行策略映射处理,得到服务请求对应的请求处理策略的方式可以为:获取映射关系集合,映射关系集合包括预设请求类型和预设请求处理策略之间的映射关系;根据映射关系集合,确定请求类型对应的请求处理策略;将请求类型对应的请求处理策略,作为服务请求对应的请求处理策略。
在一些申请实施例中,根据请求处理策略,对服务请求对象的服务请求进行处理的方式可以为:若请求处理策略为请求限流策略,则对服务请求对象的服务请求进行限流处理;若请求处理策略为请求放行策略,则对服务请求对象的服务请求进行服务响应处理。
在一示例中,对服务请求对象的服务请求进行服务响应处理的方式可以为:向应用程序发送服务请求,以使应用程序向服务请求对象返回程序服务的服务数据。
本申请可以获取服务请求对象针对应用程序中程序服务的服务请求,以及获取运行服务资源信息集合,运行服务资源信息集合包括每一候选服务请求对象对应的候选运行服务资源信息,服务请求对象属于候选服务请求对象;根据候选运行服务资源,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息;根据资源状态信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数;根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,确定服务请求对应的请求处理策略,以根据请求处理策略,对服务请求对象的服务请求进行处理。由于本申请可以利用候选服务请求对象对应的候选运行服务资源信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息,如此可以根据资源状态信息,获取到服务请求对象的请求限流参数,从而可以利用限流参数和服务请求对象的运行服务资源信息确定出服务请求对应的请求处理策略,如此可以利用请求处理策略来对服务请求进行适应性地处理,进而可以提高服务端的可用性。
根据上面实施例所描述的方法,以下将举例作进一步详细说明。
此处需要说明的是,在现有的相关技术中,由于服务端对流量的处理资源有限,服务端在处理大流量的请求时,会容易导致服务端崩溃,使得服务端无法对请求进行处理,进而导致存在服务端的可用性不足的问题。基于此,本申请提供一种请求处理方法,如图3所示,具体流程如步骤S301至步骤S309所示:
在本实施例中,将以该请求处理装置具体集成在计算机设备,计算机设备为服务器或服务器集群。此处需要说明的是,计算机设备可以集成于前述的服务端,也可以与前述的服务端分别独立设置。
首先要说明的是,本申请可以利用请求处理架构对服务请求进行处理。如图4所示,请求处理架构可以包括请求限流处理层1、请求服务处理层2、管理平台3和记录服务模块4。此处需要说明的是,请求限流处理层1和请求服务处理层2均可以集成于计算机设备上,也可以分别设置在不同的设备上,例如,请求限流处理层1设置在计算机设备上,请求服务处理层2设置在其它设备或设备集群上。其中,当请求限流处理层1和请求服务处理层2均可以集成于计算机设备上时,计算机设备可以集成于前述的服务端;当请求限流处理层1设置在计算机设备上,请求服务处理层2设置在其它设备或设备集群上时,请求服务处理层2所在的设备或设备集群集成于前述的服务端。
以下以请求限流处理层1设置在计算机设备上,请求服务处理层2设置设备集群上为例进行阐述。
其中,请求限流处理层1可以至少用于对服务请求进行限流处理或放行处理,请求限流处理层可以设置于本申请的计算机设备上,此处要说明的是,当计算机设备为服务器集群时,服务器集群中的每一个服务器均能够提供相同的服务如限流服务。服务器设置有限流模块11和路由模块12,限流模块11可以至少用于执行下述步骤S301至步骤S309;路由模块12可以至少用于当对服务请求对象的服务请求进行服务响应处理时,将服务请求路由到请求服务处理层2。
其中,请求服务处理层2可以至少用于对服务请求提供服务,此处要说明的是,请求服务处理层可以表征为设备或设备集群,当请求服务处理层为设备集群时,设备集群中的每一设备均能够布置有应用程序,并能够提供应用程序对应的服务如程序服务。具体来说,设备集群中的每一设备均可以设置有合成模块,可以通过合成模块提供程序服务,例如合成模块可以用于进行音频合成,以使设备提供音频合成服务。具体来说,合成模块可以用于把文本转成音频,以使设备提供文本转音频服务。
其中,管理平台3可以至少用于管理请求服务处理层2中设备集群,例如管理设备集群中设备的个数、每个设备配置的CPU个数等等。其中,管理平台3具体可以为Kubernetes平台。
其中,记录服务模块4可以至少用于记录请求服务处理层2中的候选运行服务资源信息。具体来说,每一候选服务请求对象对应的候选运行服务资源信息可以由管理平台3实时上报给记录服务模块4,以使记录服务模块4记录每一候选服务请求对象对应的候选运行服务资源信息。
S301、计算机设备获取服务请求对象针对应用程序中程序服务的服务请求。
此处要说明的是,服务请求的程序服务可以是文本转音频服务。
获取服务请求对象针对应用程序中程序服务的服务请求的方式可以为:接收服务请求对象发送的服务请求,以得到服务请求对象针对应用程序中程序服务的服务请求。
具体来说,计算机设备可以通过请求限流处理层1的限流模块11,接收服务请求对象如客户端发送的服务请求。
S302、计算机设备获取运行服务资源信息集合。
其中,运行服务资源信息集合包括每一候选服务请求对象对应的候选运行服务资源信息,服务请求对象属于候选服务请求对象。
获取运行服务资源信息集合的方式可以为:根据服务请求,获取运行服务资源集合。
具体来说,本申请根据服务请求,限流模块11可以从记录服务模块4,提取到每一候选服务请求对象对应的候选运行服务资源信息,以得到运行服务资源信息集合。
基于上述,在一示例中,服务请求可以携带服务请求对象的对象标识;基于此,计算机设备的限流模块11可以根据服务请求对象的对象标识,确定服务请求对象对应的应用程序的程序标识;通过限流模块11根据程序标识,从记录服务模块4,获取程序标识下,每一候选服务请求对象对应的候选运行服务资源信息,以得到程序标识对应的运行服务资源信息集合。
S303、计算机设备获取应用程序对应的预设服务资源信息。
其中,预设服务资源信息可以是指CPU的总量。
本申请可以实时对预设服务资源信息进行检测处理,以得到应用程序对应的预设服务资源信息。
具体来说,计算机设备的限流模块11,可以通过管理平台3实时检测到应用程序对应的预设服务资源信息。
综步骤S301至步骤S303,此处以具体示例A1-1为例进行阐述。
示例A1-1:服务请求对象p1向计算机设备发起针对文本转音频服务的服务请求;计算机设备的限流模块11基于服务请求对象p1的服务请求,获取到运行服务资源信息集合U和预设服务资源信息T。然后,计算机设备还通过限流模块11还初始化针对服务请求的限流标识F=0,F=0表示对服务请求进行放行处理。
其中,运行服务资源信息集合U={u1,u2,...,ui},ui可以是指第i个候选服务请求对象对应的候选运行服务资源信息,第i个候选服务请求对象可以表示为pi,此处候选运行服务资源信息可以是指CPU的使用量。
S304、计算机设备根据运行服务资源信息集合中的候选运行服务资源和预设服务资源信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息。
此处可以理解的是,由于可能会存在服务端无法对请求进行处理的情况,基于此,本申请可以预先对用于服务请求的限流进行辅助处理的限流服务资源进行状态设置处理,以便于后续对服务请求的限流处理。
在一示例中,根据候选运行服务资源和预设服务资源信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息的方式可以为:若候选运行服务资源信息和预设服务资源信息符合预设条件,则获取限流服务资源的当前资源状态信息;根据当前资源状态信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息。
此处可以理解的是,本申请判断候选运行服务资源信息和预设服务资源信息是否符合条件,来确定是否对限流服务资源进行状态设置处理,以便于后续对服务请求的限流处理。
基于上述,在一示例中,判断候选运行服务资源信息和预设服务资源信息是否符合条件的方式可以为:对候选运行服务资源信息进行映射处理,得到候选运行服务资源信息的第一映射值;获取预设服务资源信息对应的参考值;对参考值和预设服务资源信息进行融合处理,得到融合后资源信息;若第一映射值大于融合后资源信息,则确定候选运行服务资源信息和预设服务资源信息符合预设条件;若第一映射值小于或等于融合后资源信息,则确定候选运行服务资源信息和预设服务资源信息不符合预设条件。
基于上述,在一示例中,根据当前资源状态信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息的方式可以为:若当前资源状态信息为限流状态信息,则将当前资源状态信息作为限流服务资源针对服务请求的资源状态信息;若当前资源状态信息不为限流状态信息,则将当前资源状态信息设置为限流状态信息,得到设置后资源状态信息;将设置后资源状态信息,作为限流服务资源针对服务请求的资源状态信息。
S305、计算机设备判断资源状态信息是否为限流状态信息。
S306、若资源状态信息为限流状态信息,计算机设备则根据预设服务资源信息和候选运行服务资源信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数。
在一示例中,根据预设服务资源信息和候选运行服务资源信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数的方式可以为:对预设服务资源信息和候选运行服务资源信息进行参数映射处理,得到每一候选服务请求对象对应的候选请求限流参数;根据服务请求对象的对象特征信息,从候选请求限流参数中,筛选出服务请求对象的请求限流参数。
S307、计算机设备根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,获取服务请求的请求类型。
其中,请求类型可以包括请求限流类型和请求放行类型。
S308、计算机设备对请求类型进行策略映射处理,得到服务请求对应的请求处理策略。
S309、计算机设备根据请求处理策略,对服务请求对象的服务请求进行处理。
其中,请求处理策略可以包括请求限流策略和请求放行策略。
在一些申请实施例中,根据请求处理策略,对服务请求对象的服务请求进行处理的方式可以为:若请求处理策略为请求限流策略,则对服务请求对象的服务请求进行限流处理;若请求处理策略为请求放行策略,则对服务请求对象的服务请求进行服务响应处理。
在前述示例A1-1的基础上,此处以示例A1-2为例进一步对步骤S304至步骤S309进行阐述。
示例A1-2:例如,计算机设备的限流模块11可以对候选运行服务资源信息进行映射处理,得到候选运行服务资源信息的第一映射值∑ui;获取预设服务资源信息T对应的参考值,如60%;对参考值60%和预设服务资源信息T进行融合处理,得到融合后资源信息T×60%。
在本申请中,如图5所示,限流模块11判断候选运行服务资源信息和预设服务资源信息是否符合预设条件。若第一映射值∑ui>融合后资源信息T×60%,i为正整数,则确定候选运行服务资源信息和预设服务资源信息符合预设条件;若第一映射值∑ui≤融合后资源信息T×60%,则确定候选运行服务资源信息和预设服务资源信息不符合预设条件。
其中,当候选运行服务资源信息和预设服务资源信息不符合预设条件时,则设置限流标识F=0,以及设置当前资源状态信息S=0,F=0表示对服务请求进行放行,S=0为放行状态信息;然后对服务请求对象的服务请求进行服务响应处理。
其中,当候选运行服务资源信息和预设服务资源信息符合预设条件时,获取限流服务资源如限流模块11的当前资源状态信息S。其中,当当前资源状态信息S=0时,表明当前资源状态信息不为限流状态信息,而是放行状态信息;当当前资源状态信息S=1时,表明当前资源状态信息为限流状态信息。
然后,若当前资源状态信息S=0,则将当前资源状态信息设置为限流状态信息;若当前资源状态信息S=1,则将当前资源状态信息作为限流服务资源针对服务请求的资源状态信息。
接着,如图5所示,限流模块11判断资源状态信息是否为限流状态信息。
若资源状态信息为限流状态信息,限流模块11则采用参数映射函数,对预设服务资源信息和候选运行服务资源信息进行参数映射处理,得到每一候选服务请求对象对应的候选请求限流参数。候选请求限流参数可以是指候选服务请求对象所能够使用的候选运行服务资源信息对应的上限值。
其中,每一候选服务请求对象对应的候选请求限流参数可以通过公式(1)计算到:
其中,gi可以是指第i个候选服务请求对象pi对应候选请求限流参数。
基于上述,计算机设备可以根据服务请求对象的对象特征信息,从候选请求限流参数中,筛选出服务请求对象的请求限流参数。
若资源状态信息不为限流状态信息,表明不需要对服务请求进行限流处理,则对服务请求对象的服务请求进行服务响应处理。
本申请还可以获取候选服务请求对象的原始请求限流参数集合,原始请求限流参数集合包括每一候选服务请求对象的原始请求限流参数,原始请求限流参数可以是指候选服务请求对象所能够使用的候选运行服务资源信息对应的原始上限值。
其中,每一候选服务请求对象的原始请求限流参数是限流模块11在历史时间内获取到的参数,在历史时间内,原始请求限流参数的计算方式可以如公式(1)所示。此处可以理解的是,本申请的请求处理方法,可以在间隔预设时间循环执行。
其中,原始请求限流参数集合可以以表格形式进行保存。原始请求限流参数集合可以如表1所示。
候选服务请求对象 原始请求限流参数(单位:核)
第一候选服务请求对象 20
第二候选服务请求对象 30
计算机设备的限流模块11还可以根据候选请求限流参数,对候选服务请求对象的原始请求限流参数集合中的原始请求限流参数进行更新处理,得到更新后请求限流参数集合。
进一步地,此处需要说明的是,若当前资源状态信息S=1,则将当前资源状态信息作为限流服务资源针对服务请求的资源状态信息,然后可以直接从原始请求限流参数集合的原始请求限流参数中,提取出服务请求对象对应的目标原始请求限流参数;将目标原始请求限流参数作为服务请求对象对应的请求限流参数。其中,候选服务请求对象可以通过各自的候选对象标识与原始请求限流参数构建对应关系,服务请求对象的对象标识属于候选对象标识。基于此,可以基于服务请求对象的对象标识和对应关系,从原始请求限流参数集合的原始请求限流参数中,提取出服务请求对象对应的目标原始请求限流参数。
然后,计算机设备的限流模块11可以判断服务请求对象的请求限流参数g1和服务请求对象的运行服务资源信息u1之间的大小;若运行服务资源信息u1大于请求限流参数g1,说明运行服务资源信息超过了限流的上限值,则确定服务请求的请求类型为限流类型;若运行服务资源信息u1小于或等于请求限流参数g1,则确定服务请求的请求类型为放行类型。
当服务请求的请求类型为限流类型时,将服务请求的限流标识设置为F=1;当服务请求的请求类型为放行类型时,保持服务请求的限流标识F=0。
然后,限流模块11可以对请求类型进行策略映射处理,得到服务请求对应的请求处理策略。其中,限流类型对应的请求处理策略为请求限流策略,放行类型对应的请求处理策略为请求放行策略。
基于上述,限流模块11可以根据请求处理策略,对服务请求对象的服务请求进行处理。如图5所示,限流模块11可以判断请求处理策略是否为请求限流策略;若请求处理策略为请求限流策略,则对服务请求对象的服务请求进行限流处理,也即限流模块11拒绝将服务请求发送给请求服务处理层2。若请求处理策略为请求放行策略,则对服务请求对象的服务请求进行服务响应处理,也即限流模块11将服务请求放行给请求服务处理层2。具体来说,限流模块11将服务请求进行放行处理,并通过路由模块12将服务请求路由到请求服务处理层2中多个合成模块中的目标合成模块,以实现文本转音频服务。当目标合成模块合成服务请求对应的目标音频后,向服务请求对象返回目标音频。
例如,如图4所示,请求服务处理层2设置于设备集群,设备集群可以包括第一设备和第二设备,设备集群中的每一设备可以均设置有请求服务处理层2,每一请求服务处理层2可以设置有多个合成模块,比如合成模块可以包括合成模块1、合成模块2和合成模块3。本申请的限流模块11可以通过路由模块12将服务请求路由到第二设备的合成模块2中。其中,合成模块2可以采用音频合成模型,对服务请求所携带的文本进行转换处理,得到目标音频。当合成模块2合成目标音频后,合成模块2向服务请求对象返回目标音频。
综上,可以理解的是,本申请是一个动态限流的方案,本申请限制于服务端如请求服务处理层2中的预设服务资源信息,请求限流参数是基于请求服务处理层2的实时剩余资源,而实时剩余资源的计算是依赖于候选运行服务资源信息与预设服务资源信息,所以动态限流需要依赖这两个数据:候选运行服务资源信息与预设服务资源信息。其中,预设服务资源信息也可以是动态变化的,这是由于本申请可以采用Kubernetes平台部署服务和支持服务端自动扩缩容。
当出现突发业务大流量时,在服务端自动扩容不及时的情况下,通过本申请,可以对服务请求进行限流处理,提高服务端的可用性,并保证其它业务请求的正常处理,避免某一业务突发流量,挤兑其他业务资源,引起服务端整体不可用。
其中,步骤S301至步骤S302可以并行,步骤S302也可以在步骤S301之前执行。
以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
本申请可以获取服务请求对象针对应用程序中程序服务的服务请求,以及获取运行服务资源信息集合,运行服务资源信息集合包括每一候选服务请求对象对应的候选运行服务资源信息,服务请求对象属于候选服务请求对象;根据候选运行服务资源,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息;根据资源状态信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数;根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,确定服务请求对应的请求处理策略,以根据请求处理策略,对服务请求对象的服务请求进行处理。由于本申请可以利用候选服务请求对象对应的候选运行服务资源信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息,如此可以根据资源状态信息,获取到服务请求对象的请求限流参数,从而可以利用限流参数和服务请求对象的运行服务资源信息确定出服务请求对应的请求处理策略,如此可以利用请求处理策略来对服务请求进行适应性地处理,进而可以提高服务端的可用性。
为了更好地实施以上方法,本申请实施例还提供一种请求处理装置,该请求处理装置可以集成在计算机设备,比如服务器或终端等设备中,该终端可以包括平板电脑、笔记本电脑和/或个人计算机等。
例如,如图6所示,该请求处理装置可以包括第一获取单元301、设置单元302、第二获取单元303和确定单元304,如下:
(1)获取单元;
获取单元,用于获取服务请求对象针对应用程序中程序服务的服务请求,以及获取运行服务资源信息集合,运行服务资源信息集合包括每一候选服务请求对象对应的候选运行服务资源信息,服务请求对象属于候选服务请求对象。
(2)设置单元;
设置单元,可以用于根据候选运行服务资源,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息。
在一些申请实施例中,设置单元,可以用于获取应用程序对应的预设服务资源信息;根据候选运行服务资源和预设服务资源信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息。
在一些申请实施例中,设置单元,可以用于若候选运行服务资源信息和预设服务资源信息符合预设条件,则获取限流服务资源的当前资源状态信息;根据当前资源状态信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息。
(3)第二获取单元;
第二获取单元,可以用于根据资源状态信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数。
在一些申请实施例中,第二获取单元,具体可以用于若资源状态信息为限流状态信息,则获取应用程序对应的预设服务资源信息;根据预设服务资源信息和候选运行服务资源信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数。
在一些申请实施例中,第二获取单元,具体可以用于对预设服务资源信息和候选运行服务资源信息进行参数映射处理,得到每一候选服务请求对象对应的候选请求限流参数;根据服务请求对象的对象特征信息,从候选请求限流参数中,筛选出服务请求对象的请求限流参数。
(4)确定单元;
确定单元,可以用于根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,确定服务请求对应的请求处理策略,以根据请求处理策略,对服务请求对象的服务请求进行处理。
在一些申请实施例中,确定单元,可以用于根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,获取服务请求的请求类型;对请求类型进行策略映射处理,得到服务请求对应的请求处理策略。
在一些申请实施例中,确定单元,可以用于若请求处理策略为请求限流策略,则对服务请求对象的服务请求进行限流处理;若请求处理策略为请求放行策略,则对服务请求对象的服务请求进行服务响应处理。
由上可知,本申请的第一获取单元,可以用于获取服务请求对象针对应用程序中程序服务的服务请求,以及获取运行服务资源信息集合,运行服务资源信息集合包括每一候选服务请求对象对应的候选运行服务资源信息,服务请求对象属于候选服务请求对象;设置单元,可以用于根据候选运行服务资源,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息;第二获取单元,可以用于根据资源状态信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数;确定单元,可以用于根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,确定服务请求对应的请求处理策略,以根据请求处理策略,对服务请求对象的服务请求进行处理。由于本申请可以利用候选服务请求对象对应的候选运行服务资源信息,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息,如此可以根据资源状态信息,获取到服务请求对象的请求限流参数,从而可以利用限流参数和服务请求对象的运行服务资源信息确定出服务请求对应的请求处理策略,如此可以利用请求处理策略来对服务请求进行适应性地处理,进而可以提高服务端的可用性。
本申请实施例还提供一种计算机设备,如图7所示,其示出了本申请实施例所涉及的计算机设备的结构示意图,具体来讲:
该计算机设备可以包括一个或者一个以上处理核心的处理器401、一个或一个以上计算机可读存储介质的存储器402、电源403和输入单元404等部件。本领域技术人员可以理解,图7中示出的计算机设备结构并不构成对计算机设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。其中:
处理器401是该计算机设备的控制中心,利用各种接口和线路连接整个计算机设备的各个部分,通过运行或执行存储在存储器402内的软件程序和/或模块,以及调用存储在存储器402内的数据,执行计算机设备的各种功能和处理数据。可选的,处理器401可包括一个或多个处理核心;优选的,处理器401可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和计算机程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器401中。
存储器402可用于存储软件程序以及模块,处理器401通过运行存储在存储器402的软件程序以及模块,从而执行各种功能应用以及数据处理。存储器402可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的计算机程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据计算机设备的使用所创建的数据等。此外,存储器402可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地,存储器402还可以包括存储器控制器,以提供处理器401对存储器402的访问。
计算机设备还包括给各个部件供电的电源403,优选的,电源403可以通过电源管理系统与处理器401逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源403还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
该计算机设备还可包括输入单元404,该输入单元404可用于接收输入的数字或字符信息通讯,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
尽管未示出,计算机设备还可以包括显示单元等,在此不再赘述。具体在本实施例中,计算机设备中的处理器401会按照如下的指令,将一个或一个以上的计算机程序的进程对应的可执行文件加载到存储器402中,并由处理器401来运行存储在存储器402中的计算机程序,从而实现各种功能,如下:
获取服务请求对象针对应用程序中程序服务的服务请求,以及获取运行服务资源信息集合,运行服务资源信息集合包括每一候选服务请求对象对应的候选运行服务资源信息,服务请求对象属于候选服务请求对象;根据候选运行服务资源,对服务请求对象的限流服务资源进行状态设置处理,得到限流服务资源针对服务请求的资源状态信息;根据资源状态信息,对服务请求对象进行参数获取处理,得到服务请求对象的请求限流参数;根据请求限流参数和服务请求对象在候选运行服务资源信息中的运行服务资源信息,确定服务请求对应的请求处理策略,以根据请求处理策略,对服务请求对象的服务请求进行处理。
以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
本领域普通技术人员可以理解,上述实施例的各种方法中的全部或部分步骤可以通过计算机程序来完成,或通过计算机程序控制相关的硬件来完成,该计算机程序可以存储于一计算机可读存储介质中,并由处理器进行加载和执行。
为此,本申请实施例提供一种计算机可读存储介质,其中存储有计算机程序,该计算机程序能够被处理器进行加载,以执行本申请实施例所提供的任一种请求处理方法。
以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
其中,该计算机可读存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)、磁盘或光盘等。
由于该计算机可读存储介质中所存储的指令,可以执行本申请实施例所提供的任一种请求处理方法中的步骤,因此,可以实现本申请实施例所提供的任一种请求处理方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
其中,根据本申请的一个方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述实施例提供的各种可选实现方式中提供的方法。
以上对本申请实施例所提供的一种请求处理方法、计算机设备、计算机可读存储介质进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上,本说明书内容不应理解为对本申请的限制。

Claims (10)

1.一种请求处理方法,其特征在于,包括:
获取服务请求对象针对应用程序中程序服务的服务请求,以及获取运行服务资源信息集合,所述运行服务资源信息集合包括每一候选服务请求对象对应的候选运行服务资源信息,所述服务请求对象属于所述候选服务请求对象;
根据所述候选运行服务资源,对所述服务请求对象的限流服务资源进行状态设置处理,得到所述限流服务资源针对所述服务请求的资源状态信息;
根据所述资源状态信息,对所述服务请求对象进行参数获取处理,得到所述服务请求对象的请求限流参数;
根据所述请求限流参数和所述服务请求对象在所述候选运行服务资源信息中的运行服务资源信息,确定所述服务请求对应的请求处理策略,以根据所述请求处理策略,对所述服务请求对象的所述服务请求进行处理。
2.根据权利要求1所述的请求处理方法,其特征在于,所述根据所述资源状态信息,对所述服务请求对象进行参数获取处理,得到所述服务请求对象的请求限流参数,包括:
若所述资源状态信息为限流状态信息,则获取应用程序对应的预设服务资源信息;
根据所述预设服务资源信息和所述候选运行服务资源信息,对所述服务请求对象进行参数获取处理,得到所述服务请求对象的请求限流参数。
3.根据权利要求2所述的请求处理方法,其特征在于,所述根据所述预设服务资源信息和所述候选运行服务资源信息,对所述服务请求对象进行参数获取处理,得到所述服务请求对象的请求限流参数,包括:
对所述预设服务资源信息和所述候选运行服务资源信息进行参数映射处理,得到每一所述候选服务请求对象对应的候选请求限流参数;
根据所述服务请求对象的对象特征信息,从所述候选请求限流参数中,筛选出所述服务请求对象的请求限流参数。
4.根据权利要求1所述的请求处理方法,其特征在于,所述根据所述候选运行服务资源,对所述服务请求对象的限流服务资源进行状态设置处理,得到所述限流服务资源针对所述服务请求的资源状态信息,包括:
获取所述应用程序对应的预设服务资源信息;
根据所述候选运行服务资源和所述预设服务资源信息,对所述服务请求对象的限流服务资源进行状态设置处理,得到所述限流服务资源针对所述服务请求的资源状态信息。
5.根据权利要求4所述请求处理方法,其特征在于,所述根据所述候选运行服务资源和所述预设服务资源信息,对所述服务请求对象的限流服务资源进行状态设置处理,得到所述限流服务资源针对所述服务请求的资源状态信息,包括:
若所述候选运行服务资源信息和所述预设服务资源信息符合预设条件,则获取所述限流服务资源的当前资源状态信息;
根据所述当前资源状态信息,对所述服务请求对象的限流服务资源进行状态设置处理,得到所述限流服务资源针对所述服务请求的资源状态信息。
6.根据权利要求1所述的请求处理方法,其特征在于,所述根据所述请求限流参数和所述服务请求对象在所述候选运行服务资源信息中的运行服务资源信息,确定所述服务请求对应的请求处理策略,包括:
根据所述请求限流参数和所述服务请求对象在所述候选运行服务资源信息中的运行服务资源信息,获取所述服务请求的请求类型;
对所述请求类型进行策略映射处理,得到所述服务请求对应的请求处理策略。
7.根据权利要求1至6任一项所述的请求处理方法,其特征在于,所述根据所述请求处理策略,对所述服务请求对象的服务请求进行处理,包括:
若所述请求处理策略为请求限流策略,则对所述服务请求对象的服务请求进行限流处理;
若所述请求处理策略为请求放行策略,则对所述服务请求对象的服务请求进行服务响应处理。
8.一种请求处理装置,其特征在于,包括:
第一获取单元,用于获取服务请求对象针对应用程序中程序服务的服务请求,以及获取运行服务资源信息集合,所述运行服务资源信息集合包括每一候选服务请求对象对应的候选运行服务资源信息,所述服务请求对象属于所述候选服务请求对象;
设置单元,用于根据所述候选运行服务资源,对所述服务请求对象的限流服务资源进行状态设置处理,得到所述限流服务资源针对所述服务请求的资源状态信息;
第二获取单元,用于根据所述资源状态信息,对所述服务请求对象进行参数获取处理,得到所述服务请求对象的请求限流参数;
确定单元,用于根据所述请求限流参数和所述服务请求对象在所述候选运行服务资源信息中的运行服务资源信息,确定所述服务请求对应的请求处理策略,以根据所述请求处理策略,对所述服务请求对象的所述服务请求进行处理。
9.一种计算机设备,其特征在于,包括存储器和处理器;所述存储器存储有计算机程序,所述处理器用于运行所述存储器内的计算机程序,以执行权利要求1至7任一项所述的请求处理方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序适于处理器进行加载,以执行权利要求1至7任一项所述的请求处理方法。
CN202310672158.2A 2023-06-07 2023-06-07 请求处理方法、装置、计算机设备及计算机可读存储介质 Pending CN116980484A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310672158.2A CN116980484A (zh) 2023-06-07 2023-06-07 请求处理方法、装置、计算机设备及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310672158.2A CN116980484A (zh) 2023-06-07 2023-06-07 请求处理方法、装置、计算机设备及计算机可读存储介质

Publications (1)

Publication Number Publication Date
CN116980484A true CN116980484A (zh) 2023-10-31

Family

ID=88473908

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310672158.2A Pending CN116980484A (zh) 2023-06-07 2023-06-07 请求处理方法、装置、计算机设备及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN116980484A (zh)

Similar Documents

Publication Publication Date Title
US20170192819A1 (en) Method and electronic device for resource allocation
CN109542512B (zh) 一种数据处理方法、装置和存储介质
US10165058B2 (en) Dynamic local function binding apparatus and method
WO2021139386A1 (zh) 资源配置方法、装置、设备和存储介质
US20230405455A1 (en) Method and apparatus for processing cloud gaming resource data, computer device, and storage medium
US20170177255A1 (en) Method and electronic device for allocating dynamic memory resources
CN111506434A (zh) 一种任务处理方法、装置及计算机可读存储介质
CN112169310A (zh) 一种游戏资源加载方法、装置、计算机设备和存储介质
CN116541142A (zh) 任务调度方法、装置、设备、存储介质及计算机程序产品
CN117076544B (zh) 数据转换服务请求处理方法、系统、装置和计算机设备
CN116069493A (zh) 一种数据处理方法、装置、设备以及可读存储介质
CN116721007B (zh) 任务控制方法、系统及装置、电子设备和存储介质
CN113923472A (zh) 视频内容分析方法、装置、电子设备及存储介质
CN115811481B (zh) 一种交互服务测试方法、装置、计算机设备及存储介质
CN116980484A (zh) 请求处理方法、装置、计算机设备及计算机可读存储介质
CN111813541A (zh) 一种任务调度方法、装置、介质和设备
CN116756282A (zh) 任务处理方法、服务器、语言预测系统和人机交互系统
CN112687261B (zh) 语音识别训练和应用方法及装置
KR20160084215A (ko) 최적 클라우드 스트리밍 서비스를 위한 동적 어플리케이션 처리 방법 및 이를 위한 장치
CN113765886B (zh) 多媒体播放方法、装置、存储介质及电子设备
CN117435112B (zh) 数据处理方法、系统及装置、电子设备和存储介质
CN113209635B (zh) 基于缓存队列的数据处理方法、装置及存储介质
CN118200421B (zh) 一种报文处理的方法、装置、电子设备及介质
CN110457392B (zh) 副本读写方法及装置
CN116841704A (zh) 服务处理方法、装置、电子设备和计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication