CN113676503A - 用户请求的处理方法、装置、电子设备和存储介质 - Google Patents

用户请求的处理方法、装置、电子设备和存储介质 Download PDF

Info

Publication number
CN113676503A
CN113676503A CN202010407904.1A CN202010407904A CN113676503A CN 113676503 A CN113676503 A CN 113676503A CN 202010407904 A CN202010407904 A CN 202010407904A CN 113676503 A CN113676503 A CN 113676503A
Authority
CN
China
Prior art keywords
server
target
user request
address information
target user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010407904.1A
Other languages
English (en)
Inventor
申浩亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Century Trading Co Ltd
Beijing Wodong Tianjun Information Technology Co Ltd
Original Assignee
Beijing Jingdong Century Trading Co Ltd
Beijing Wodong Tianjun Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Century Trading Co Ltd, Beijing Wodong Tianjun Information Technology Co Ltd filed Critical Beijing Jingdong Century Trading Co Ltd
Priority to CN202010407904.1A priority Critical patent/CN113676503A/zh
Publication of CN113676503A publication Critical patent/CN113676503A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/60Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/63Routing a service request depending on the request content or context

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本发明公开了用户请求的处理方法、装置、电子设备和存储介质,涉及计算机技术领域。该方法的一具体实施方式包括:第一服务器接收客户端发送的目标用户请求,目标用户请求包括客户端的第一地址信息;根据第一地址信息和第二服务器的数量,确定目标标识;查询目标标识对应第二地址信息,第二地址信息对应的目标服务器属于第二服务器;通过第二地址信息,向目标服务器发送目标用户请求。该实施方式能够解决应用服务器中缓存命中率较低,降低用户请求的处理效率的问题。

Description

用户请求的处理方法、装置、电子设备和存储介质
技术领域
本发明涉及计算机技术领域,尤其涉及一种用户请求的处理方法、装置、电子设备和存储介质。
背景技术
在处理用户请求的服务集群中,通常由用于负载均衡的服务器接收用户请求,然后基于负载均衡的策略将用户请求分发到不同的应用服务器中以对用户请求进行处理,应用服务器处理用户请求后可以将属于热点请求的用户请求的数据进行缓存,以便于后续再处理相同用户请求时可以在缓存中直接获取该用户请求的数据返回给用户。目前负载均衡大多采用轮询策略,即用于负载均衡的服务器将接收的用户请求按次序发送到各应用服务器中。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
轮询策略为按次序向各应用服务器分发用户请求,所以用户请求很难被分发到之前处理过该用户请求的服务器上,所以应用服务器的缓存很难命中该用户请求的数据,从而导致应用服务器的缓存命中率较低,降低用户请求的处理效率。
发明内容
有鉴于此,本发明实施例提供一种用户请求的处理的方法、装置、系统和存储介质,能够解决应用服务器中缓存命中率较低,降低用户请求的处理效率,提高处理成本的问题。
为实现上述目的,根据本发明实施例的一个方面,提供了一种用户请求的处理方法。
本发明实施例的一种用户请求的处理方法,用于服务器集群,所述服务器集群包括第一服务器和多个第二服务器,包括:所述第一服务器接收客户端发送的目标用户请求,所述目标用户请求包括所述客户端的第一地址信息;所述第一服务器根据所述第一地址信息和所述第二服务器的数量,确定目标标识;所述第一服务器查询所述目标标识对应第二地址信息,所述第二地址信息对应的目标服务器属于所述第二服务器;所述第一服务器通过所述第二地址信息,向所述目标服务器发送所述目标用户请求。
在一个实施例中,所述第一服务器根据所述第一地址信息和所述第二服务器的数量,确定目标标识,包括:
所述第一服务器根据所述第一地址信息和随机数计算所述第一地址信息对应的地址参数值,所述随机数的取值范围为预先设置;
所述第一服务器将所述地址参数值除所述第二服务器的数量的余数确定为所述目标标识。
在又一个实施例中,所述第一服务器根据所述第一地址信息和随机数计算所述第一地址信息对应的地址参数值,包括:
所述第一服务器生成随机数;
所述第一服务器计算所述第一地址信息的哈希值;
所述第一服务器根据所述第一地址信息的哈希值和所述随机数,确定所述地址参数值。
在又一个实施例中,在所述向所述目标第二服务器发送所述目标用户请求之后,还包括:
所述目标服务器接收所述目标用户请求;
若所述目标服务器未缓存所述目标用户请求对应的数据,则所述目标服务器判断所述目标服务器的负载是否大于负载阈值;
若是,则所述目标服务器将所述目标用户请求发送至备份服务器集群;
若否,则所述目标服务器获取所述目标用户请求对应的数据,并发送所述目标用户请求对应的数据。
在又一个实施例中,所述目标服务器判断所述目标服务器是否达到负载阈值,包括:
所述目标服务器判断第一时间内接收的用户请求数量是否大于第一阈值;
若是,则所述目标服务器确定所述目标服务器大于所述负载阈值;若否,则所述目标服务器确定所述目标服务器不大于所述负载阈值。
在又一个实施例中,在所述目标服务器获取所述目标用户请求对应的数据之后,还包括:
所述目标服务器判断所述目标用户请求是否为热点请求;
若是,则所述目标服务器存储所述目标用户请求的数据。
在又一个实施例中,所述目标服务器判断所述目标用户请求是否为热点请求,包括:
所述目标服务器计算第二时间内接收所述第一地址信息对应用户请求的数量与接收用户请求的总数量之间的比值;
所述目标服务器判断所述比值是否大于第二阈值;
若是,则所述目标服务器确定所述目标用户请求为所述热点请求;若否,则所述目标服务器确定所述目标用户请求不为所述热点请求。
为实现上述目的,根据本发明的另一方面,提供了一种用户请求的处理装置。
本发明的一种用户请求的处理装置,设置于服务器集群,所述服务器集群包括第一服务器和多个第二服务器,包括:接收单元,用于所述第一服务器接收客户端发送的目标用户请求,所述目标用户请求包括所述客户端的第一地址信息;确定单元,用于所述第一服务器根据所述第一地址信息和所述第二服务器的数量,确定目标标识;查询单元,用于所述第一服务器查询所述目标标识对应第二地址信息,所述第二地址信息对应的目标服务器属于所述第二服务器;发送单元,用于所述第一服务器通过所述第二地址信息,向所述目标服务器发送所述目标用户请求。
在一个实施例中,所述确定单元具体用于:
所述第一服务器根据所述第一地址信息和随机数计算所述第一地址信息对应的地址参数值,所述随机数的取值范围为预先设置;
所述第一服务器将所述地址参数值除所述第二服务器的数量的余数确定为所述目标标识。
在又一个实施例中,所述确定单元具体用于:
所述第一服务器生成随机数;
所述第一服务器计算所述第一地址信息的哈希值;
所述第一服务器根据所述第一地址信息的哈希值和所述随机数,确定所述地址参数值。
在又一个实施例中,所述接收单元,还用于所述目标服务器接收所述目标用户请求;
所述装置还包括:
判断单元,用于若所述目标服务器未缓存所述目标用户请求对应的数据,则所述目标服务器判断所述目标服务器的负载是否大于负载阈值;
获取单元,用于若否,则所述目标服务器获取所述目标用户请求对应的数据,并发送所述目标用户请求对应的数据;
所述发送单元,还用于若是,则所述目标服务器将所述目标用户请求发送至备份服务器集群。
在又一个实施例中,所述判断单元,具体用于:
所述目标服务器判断第一时间内接收的用户请求数量是否大于第一阈值;
若是,则所述目标服务器确定所述目标服务器大于所述负载阈值;若否,则所述目标服务器确定所述目标服务器不大于所述负载阈值。
在又一个实施例中,所述判断单元,还用于所述目标服务器判断所述目标用户请求是否为热点请求;
若是,则所述目标服务器存储所述目标用户请求的数据。
在又一个实施例中,所述判断单元,具体用于:
所述目标服务器计算第二时间内接收所述第一地址信息对应用户请求的数量与接收用户请求的总数量之间的比值;
所述目标服务器判断所述比值是否大于第二阈值;
若是,则所述目标服务器确定所述目标用户请求为所述热点请求;若否,则所述目标服务器确定所述目标用户请求不为所述热点请求。
为实现上述目的,根据本发明实施例的再一个方面,提供了一种电子设备。
本发明实施例的一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明实施例提供的用户请求的处理方法。
为实现上述目的,根据本发明实施例的又一个方面,提供了一种计算机可读介质。
本发明实施例的一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现本发明实施例提供的用户请求的处理方法。
上述发明中的一个实施例具有如下优点或有益效果:本发明实施例中,第一服务器可以根据目标用户请求的地址信息来确定出目标标识,并基于目标标识查询出第二服务器中对应的目标服务器的地址信息,然后将目标用户请求发送给第二地址信息对应的目标服务器。如此本发明实施例中第一服务器可以根据目标用户请求的地址信息,确定处理目标用户请求的第二服务器,所以在用户请求的地址信息相同时,第一服务器可以将其分发至相同的第二服务器中,从而提高了第二服务器的缓存命中率,提高用户请求的处理效率。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明实施例的用户请求的处理方法的一种主要流程的示意图;
图2是根据本发明实施例的用户请求的处理方法的又一种主要流程的示意图;
图3是根据本发明实施例的用户请求的处理装置的主要单元的示意图;
图4是本发明实施例可以应用于其中的又一种示例性系统架构图;
图5是适于用来实现本发明实施例的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
需要指出的是,在不冲突的情况下,本发明中的实施例以及实施例中的特征可以互相组合。
本发明实施例提供一种用户请求的处理方法,该方法可以用于服务器集群对用户请求进行处理的场景。本发明实施例中,服务器集群可以包括第一服务器和多个第二服务器,其中,第一服务器用于服务器集群的负载均衡,可以称为负载均衡服务器,第二服务器用于处理用户请求,可以称为应用服务器。第一服务器可以与客户端进行交互,来接收用户通过客户端发送的用户请求,然后根据负载均衡策略将用户请求分发给第二服务器,第二服务器对分发的用户请求进行处理。如果第二服务器可以之间与客户端交互,则可以将用户请求的数据发送给客户端;如果第二服务器不可以之间与客户端交互,则可以将用户请求的数据发送给第一服务器,第一服务器再将用户请求的数据发送客户端。具体的,第一服务器可以为Nginx服务器,第二服务器可以为web服务器。
本发明实施例提供了一种用户请求的处理方法,该方法可由服务器集群中第一服务器执行,如图1所示,该方法包括以下步骤。
S101:第一服务器接收客户端发送的目标用户请求。
其中,目标用户请求包括客户端的第一地址信息。
第一服务器可以接收用户通过客户端发送的目标用户请求,目标用户请求中通常会携带客户端的地址信息,例如,客户端的URL。
S102:第一服务器根据第一地址信息和第二服务器的数量,确定目标标识。
其中,第一服务器中可以为各第二服务器设置对应的标识。本发明实施例中,第一服务器在接收到目标用户请求后,可以从目标用户请求中获取到第一地址信息,然后根据第一地址信息和第二服务器的数量确定出目标用户请求对应的标识,即目标标识。目标标识属于各第二服务器对应的标识,所以第一服务器可以确定出与目标标识对应的第二服务器,进而可以将此第二服务器作为处理目标用户标识的目标服务器,即将目标用户标识分发给此目标服务器。由于本步骤中第一服务器根据第一地址信息和第二服务器的数量来确定目标标识,所以如果用户请求的地址信息相同,则确定出的目标标识相同,进而确定的目标服务器相同,即地址信息相同的用户请求会被分发到相同的第二服务器中,从而提高此第二服务器的缓存命中率。
本发明实施例中,第一服务器确定目标标识的方式可以具体执行为:第一服务器根据第一地址信息和随机数计算第一地址信息对应的地址参数值;第一服务器将地址参数值除第二服务器的数量的余数确定为目标标识。
其中,由于根据用户请求的地址信息来确定处理用户请求的第二服务器,所以相同地址信息的用户请求均会分发到在同一个第二服务器上,此时如果第一服务器在某时间段内接收的地址信息相同的用户请求数量较大,很容易导致处理该用户请求的第二服务器出现负载过大的问题。所以为了避免将相同的地址信息的用户请求均分发到一个第二服务器而导致该第二服务器负载过大,本步骤中可以引入随机数,即第一服务器根据所述第一地址信息和随机数计算第一地址信息对应的地址参数值。由于随机数的取值范围预先设置,即随机数的值为在某范围内随机的,所以结合随机数后,对相同的地址信息可以得出处于预设范围内、且不同的目标标识,从而可以将相同地址信息的用户请求分发到预设范围内的第二服务器,即保证处理地址信息相同的第二服务器固定,地址相同的用户请求不会随机分发,又不会只分发到某一个第二服务器中,实现提高了第二服务器的缓存命中率、提高用户请求的处理效率的同时,避免了将相同的地址信息的用户请求均分发到一个第二服务器而导致该第二服务器负载过大的问题。
本发明实施例中第一服务器可以根据第一地址信息和随机数来计算出第一地址信息对应的地址参数值,然后将地址参数值除第二服务器的数量的余数确定为目标标识。
具体的,第一服务器计算第一地址信息对应的地址参数值可以为:生成随机数;计算第一地址信息的哈希值;根据第一地址信息的哈希值和随机数,确定地址参数值。
随机数的取值范围预先设置。第一服务器可以计算第一地址信息的哈希值,然后根据第一地址信息的哈希值和随机数来确定地址参数值。例如,可以将第一地址信息的哈希值和随机数之和确定为地址参数值。
所以本发明实施例中,第一服务器可以通过(h1+r1)%N来计算得到目标标识,其中,h1表示第一地址信息的哈希值,r1表示随机数,N表示第二服务器的个数。
需要说明的是,随机数的取值范围通常需要远小于服务器集群中第二服务器的数量。例如,可以设置随机数的取值范围为1-3之间的整数,则第一服务器计算出的目标标识也只可能为3个值,进而处理目标用户请求的第二服务器为与目标标识的3个值对应的3个第二服务器,限定了处理目标用户请求的第二服务器的范围。
S103:第一服务器查询目标标识对应第二地址信息。
其中,第二地址信息对应的目标服务器属于第二服务器。第二地址信息具体可以为IP地址。
本发明实施例中,第一服务器中可以预先设置各第二服务器的标识与地址信息之间的对应关系,则第一服务器在得出目标标识后,可以基于对应关系查询出目标标识对应的第二地址信息,即查询出处理目标用户请求的目标服务器的地址信息。
S104:第一服务器通过第二地址信息,向目标服务器发送目标用户请求。
其中,第一服务器在查询出第二地址信息后,即确定了用于处理目标用户请求的服务器的地址信息,所以可以通过第二地址信息,向目标服务器发送目标用户请求,以便于目标服务器对用户请求进行处理。
本发明实施例中,第一服务器可以根据目标用户请求的地址信息来确定出目标标识,并基于目标标识查询出第二服务器中对应的目标服务器的地址信息,然后将目标用户请求发送给第二地址信息对应的目标服务器。如此本发明实施例中第一服务器可以根据目标用户请求的地址信息,确定处理目标用户请求的第二服务器,所以在用户请求的地址信息相同时,第一服务器可以将其分发至相同的第二服务器中,从而提高了第二服务器的缓存命中率,提高用户请求的处理效率。
下面结合图1所示的实施例,以目标服务器对目标用户请求进行处理为例,对服务器集群中第二服务器对用户请求的处理方法进行具体说明,该方法可由服务器集群中目标服务器执行。如图2所示,该方法包括以下步骤。
S201:目标服务器接收目标用户请求。
其中,第一服务器在确定出第二地址信息后,可以基于第二地址信息将目标用户请求发送给目标服务器,则目标服务器接收第一服务器发送的目标用户请求。
S202:若目标服务器未缓存目标用户请求对应的数据,则目标服务器判断目标服务器的负载是否大于负载阈值,若是,则执行步骤S203;否则执行步骤S204。
其中,第二服务器中为了提高用户请求的处理效率,可以在缓存中存储处理过的用户请求的数据,如此在再次接收到相同地址的用户请求时可以直接从缓存中获取到该用户请求对应的数据并返回给用户。但是由于服务器的缓存空间有限,所以服务器可以对部分用户请求对应的数据进行存储,例如,存储热点用户请求对应的数据。热点用户请求表示请求频率较高的用户请求。
所以目标服务器在接收目标用户请求后,可以先查询缓存中是否存储了目标用户请求的数据。如果目标服务器的缓存中存储了目标用户请求对应的数据,即目标服务器缓存了目标用户请求对应的数据,则可以直接从缓存中获取目标用户请求对应的数据返回给用户。如果目标服务器的缓存中没有目标用户请求对应的数据,即目标服务器未缓存目标用户请求对应的数据,则此时目标服务器判断目标服务器的负载是否大于负载阈值。
判断目标服务器的负载是否大于负载阈值,是为了判断目标服务器是否超负载。如果目标服务器判断目标服务器的负载大于负载阈值,说明目标服务器已经超负载,则可以执行步骤S203,将目标用户请求发送至备份服务器集群进行处理;如果目标服务器判断目标服务器的负载不大于负载阈值,说明目标服务器还没有超负载,则可以执行步骤S204,即对目标用户请求进行处理。
本发明实施例中,负载阈值可以预先设置。判断目标服务器的负载是否大于负载阈值的方式可以为:目标服务器判断第一时间内接收的用户请求数量是否大于第一阈值;若是,则确定目标服务器大于负载阈值;若否,则确定目标服务器不大于负载阈值。
第一时间段可以为预先设置的一段时间,具体可以设置为单位时间,如1分钟等。服务器可以以确定目标服务器未缓存目标用户请求对应的数据的时间点为时间节点,统计在此时间节点之前第一时间内接收的用户请求数量,然后以此统计的用户请求数量与第一阈值比较,判断第一时间内接收的用户请求数量是否大于第一阈值。
S203:目标服务器将目标用户请求发送至备份服务器集群。
其中,本发明实施例中还可以配置备份服务器集群,以便于在第二服务器超负载或出现宕机等问题时用来处理用户请求,所以在目标服务器的负载大于负载阈值时,目标服务器可以将目标用户请求发送至备份服务器集群。
S204:目标服务器获取目标用户请求对应的数据。
目标服务器的缓存中未存储目标用户请求对应的数据,所以目标服务器需要从上游服务器中获取,所以可以通过上游接口(如http接口)向上游服务器请求目标用户请求对应的数据。
需要说明的是,若本步骤中目标服务器未能获取目标用户请求对应的数据,则可以将目标用户请求发送至备份服务器集群进行处理。
S205:目标服务器判断目标用户请求是否为热点请求,若是,则执行步骤S206;若否,则执行步骤S207。
其中,目标服务器获取目标用户请求对应的数据后,可以判断是否需要缓存目标用户请求对应的数据。本发明实施例中,以第二服务器缓存中存储热点请求对应的数据为例,则本步骤中可以判断目标用户请求是否为热点请求,以确定是否对目标用户请求对应的数据进行缓存。
本发明实施例中,判断目标用户请求是否为热点请求的方式可以具体为:目标服务器计算第二时间内接收第一地址信息对应用户请求的数量与接收用户请求的总数量之间的比值;判断比值是否大于第二阈值;若是,则确定目标用户请求为热点请求;若否,则确定目标用户请求不为热点请求。
第二时间段可以为预先设置一段时间,具体可以设置为单位时间,如1分钟等。目标服务器中可以针对不同的地址信息的用户请求在第二时间段内接收的数量,进而计算出在第二时间段内,接收各不同地址信息的用户请求的数量占接收用户请求的总数量的比例,然后根据比值是否大于第二阈值来判断各不同地址信息的用户请求是否为热点请求。
需要说明的是,为了便于用户请求数量的统计,目标服务器中可以设置的抽样系统p,即按比例p选取在第二时间段内接收的用户请求进行统计。本发明实施例中,第一时间段和第二时间段可以相同,也可以不同。
S206:存储并发送目标用户请求对应的数据。
目标服务器在确定目标用户请求为热点请求后,可以对目标用户请求对应的数据进行缓存,具体可以通过redis数据库缓存。同时,目标服务器还需要发送目标用户请求对应的数据,以将目标用户请求对应的数据返回给客户端。
S207:发送目标用户请求对应的数据。
目标服务器在确定目标用户请求不为热点请求后,可以发送目标用户请求对应的数据,以将目标用户请求对应的数据返回给客户端。
为了解决现有技术存在的问题,本发明实施例提供了一种用户请求的处理装置300,设置于服务器集群,所述服务器集群包括第一服务器和多个第二服务器,如图3所示,该装置300包括:
接收单元301,用于所述第一服务器接收客户端发送的目标用户请求,所述目标用户请求包括所述客户端的第一地址信息;
确定单元302,用于所述第一服务器根据所述第一地址信息和所述第二服务器的数量,确定目标标识;
查询单元303,用于所述第一服务器查询所述目标标识对应第二地址信息,所述第二地址信息对应的目标服务器属于所述第二服务器;
发送单元304,用于所述第一服务器通过所述第二地址信息,向所述目标服务器发送所述目标用户请求。
应理解的是,实施本发明实施例的方式与实施图1所示实施例的方式相同,在此不再赘述。
本发明实施例的一种实现方式中,所述确定单元302具体用于:
所述第一服务器根据所述第一地址信息和随机数计算所述第一地址信息对应的地址参数值,所述随机数的取值范围为预先设置;
所述第一服务器将所述地址参数值除所述第二服务器的数量的余数确定为所述目标标识。
本发明实施例的又一种实现方式中,所述确定单元302具体用于:
所述第一服务器生成随机数;
所述第一服务器计算所述第一地址信息的哈希值;
所述第一服务器根据所述第一地址信息的哈希值和所述随机数,确定所述地址参数值。
本发明实施例的又一种实现方式中,所述接收单元301,还用于所述目标服务器接收所述目标用户请求;
所述装置300还包括:
判断单元,用于若所述目标服务器未缓存所述目标用户请求对应的数据,则所述目标服务器判断所述目标服务器的负载是否大于负载阈值;
获取单元,用于若否,则所述目标服务器获取所述目标用户请求对应的数据,并发送所述目标用户请求对应的数据;
所述发送单元304,还用于若是,则所述目标服务器将所述目标用户请求发送至备份服务器集群。
本发明实施例的又一种实现方式中,所述判断单元,具体用于:
所述目标服务器判断第一时间内接收的用户请求数量是否大于第一阈值;
若是,则所述目标服务器确定所述目标服务器大于所述负载阈值;若否,则所述目标服务器确定所述目标服务器不大于所述负载阈值。
本发明实施例的又一种实现方式中,所述判断单元,还用于所述目标服务器判断所述目标用户请求是否为热点请求;
若是,则所述目标服务器存储所述目标用户请求的数据。
本发明实施例的又一种实现方式中,所述判断单元,具体用于:
所述目标服务器计算第二时间内接收所述第一地址信息对应用户请求的数量与接收用户请求的总数量之间的比值;
所述目标服务器判断所述比值是否大于第二阈值;
若是,则所述目标服务器确定所述目标用户请求为所述热点请求;若否,则所述目标服务器确定所述目标用户请求不为所述热点请求。
应理解的是,实施本发明实施例的方式与实施图1或图2所示实施例的方式相同,在此不再赘述。
本发明实施例中,第一服务器可以根据目标用户请求的地址信息来确定出目标标识,并基于目标标识查询出第二服务器中对应的目标服务器的地址信息,然后将目标用户请求发送给第二地址信息对应的目标服务器。如此本发明实施例中第一服务器可以根据目标用户请求的地址信息,确定处理目标用户请求的第二服务器,所以在用户请求的地址信息相同时,第一服务器可以将其分发至相同的第二服务器中,从而提高了第二服务器的缓存命中率,提高用户请求的处理效率。
根据本发明的实施例,本发明还提供了一种电子设备和一种可读存储介质。
本发明的电子设备包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器执行本发明实施例所提供的用户请求的处理方法。
图4示出了可以应用本发明实施例的用户请求的处理方法或用户请求的处理装置的示例性系统架构400。
如图4所示,系统架构400可以包括终端设备401、402、403,网络404和服务器405。网络404用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备401、402、403通过网络404与服务器405交互,以接收或发送消息等。终端设备401、402、403上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备401、402、403可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器405可以是提供各种服务的服务器,例如对用户利用终端设备401、402、403所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如产品信息--仅为示例)反馈给终端设备。
需要说明的是,本发明实施例所提供的用户请求的处理方法一般由服务器405执行,相应地,用户请求的处理装置一般设置于服务器405中。
应该理解,图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图5,其示出了适于用来实现本发明实施例的计算机系统500的结构示意图。图5示出的计算机系统仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,计算机系统500包括中央处理单元(CPU)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有系统500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
以下部件连接至I/O接口505:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时,执行本发明的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个单元、程序段、或代码的一部分,上述单元、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括接收单元、确定单元、查询单元和发送单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,接收单元还可以被描述为“接收单元的功能的单元”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备执行本发明所提供的用户请求的处理方法。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

Claims (10)

1.一种用户请求的处理方法,其特征在于,用于服务器集群,所述服务器集群包括第一服务器和多个第二服务器,包括:
所述第一服务器接收客户端发送的目标用户请求,所述目标用户请求包括所述客户端的第一地址信息;
所述第一服务器根据所述第一地址信息和所述第二服务器的数量,确定目标标识;
所述第一服务器查询所述目标标识对应第二地址信息,所述第二地址信息对应的目标服务器属于所述第二服务器;
所述第一服务器通过所述第二地址信息,向所述目标服务器发送所述目标用户请求。
2.根据权利要求1所述的方法,其特征在于,所述第一服务器根据所述第一地址信息和所述第二服务器的数量,确定目标标识,包括:
所述第一服务器根据所述第一地址信息和随机数计算所述第一地址信息对应的地址参数值,所述随机数的取值范围为预先设置;
所述第一服务器将所述地址参数值除所述第二服务器的数量的余数确定为所述目标标识。
3.根据权利要求2所述的方法,其特征在于,所述第一服务器根据所述第一地址信息和随机数计算所述第一地址信息对应的地址参数值,包括:
所述第一服务器生成随机数;
所述第一服务器计算所述第一地址信息的哈希值;
所述第一服务器根据所述第一地址信息的哈希值和所述随机数,确定所述地址参数值。
4.根据权利要求1所述的方法,其特征在于,在所述向所述目标第二服务器发送所述目标用户请求之后,还包括:
所述目标服务器接收所述目标用户请求;
若所述目标服务器未缓存所述目标用户请求对应的数据,则所述目标服务器判断所述目标服务器的负载是否大于负载阈值;
若是,则所述目标服务器将所述目标用户请求发送至备份服务器集群;
若否,则所述目标服务器获取所述目标用户请求对应的数据,并发送所述目标用户请求对应的数据。
5.根据权利要求4所述的方法,其特征在于,所述目标服务器判断所述目标服务器是否达到负载阈值,包括:
所述目标服务器判断第一时间内接收的用户请求数量是否大于第一阈值;
若是,则所述目标服务器确定所述目标服务器大于所述负载阈值;若否,则所述目标服务器确定所述目标服务器不大于所述负载阈值。
6.根据权利要求4所述的方法,其特征在于,在所述目标服务器获取所述目标用户请求对应的数据之后,还包括:
所述目标服务器判断所述目标用户请求是否为热点请求;
若是,则所述目标服务器存储所述目标用户请求的数据。
7.根据权利要求6所述的方法,其特征在于,所述目标服务器判断所述目标用户请求是否为热点请求,包括:
所述目标服务器计算第二时间内接收所述第一地址信息对应用户请求的数量与接收用户请求的总数量之间的比值;
所述目标服务器判断所述比值是否大于第二阈值;
若是,则所述目标服务器确定所述目标用户请求为所述热点请求;若否,则所述目标服务器确定所述目标用户请求不为所述热点请求。
8.一种用户请求的处理装置,其特征在于,设置于服务器集群,所述服务器集群包括第一服务器和多个第二服务器,所述装置包括:
接收单元,用于所述第一服务器接收客户端发送的目标用户请求,所述目标用户请求包括所述客户端的第一地址信息;
确定单元,用于所述第一服务器根据所述第一地址信息和所述第二服务器的数量,确定目标标识;
查询单元,用于所述第一服务器查询所述目标标识对应第二地址信息,所述第二地址信息对应的目标服务器属于所述第二服务器;
发送单元,用于所述第一服务器通过所述第二地址信息,向所述目标服务器发送所述目标用户请求。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
CN202010407904.1A 2020-05-14 2020-05-14 用户请求的处理方法、装置、电子设备和存储介质 Pending CN113676503A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010407904.1A CN113676503A (zh) 2020-05-14 2020-05-14 用户请求的处理方法、装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010407904.1A CN113676503A (zh) 2020-05-14 2020-05-14 用户请求的处理方法、装置、电子设备和存储介质

Publications (1)

Publication Number Publication Date
CN113676503A true CN113676503A (zh) 2021-11-19

Family

ID=78537355

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010407904.1A Pending CN113676503A (zh) 2020-05-14 2020-05-14 用户请求的处理方法、装置、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN113676503A (zh)

Similar Documents

Publication Publication Date Title
CN109684358B (zh) 数据查询的方法和装置
CN111786895A (zh) 动态全局限流的方法和装置
CN111478781B (zh) 一种消息广播的方法和装置
CN113517985B (zh) 文件数据处理方法、装置、电子设备及计算机可读介质
CN110650209A (zh) 实现负载均衡的方法和装置
CN112445988A (zh) 一种数据加载方法和装置
CN112653632A (zh) 一种流量控制实现方法和装置
CN113742389A (zh) 一种业务处理方法和装置
CN109471713B (zh) 用于查询信息的方法和装置
CN113051456A (zh) 请求处理方法、装置、电子设备和计算机可读介质
CN113312355A (zh) 一种数据管理的方法和装置
CN110798495A (zh) 用于在集群架构模式下端到端的消息推送的方法和服务器
CN116961918A (zh) 令牌获取方法和装置
CN113765969A (zh) 一种流量控制方法和装置
CN111831503A (zh) 一种基于监控代理的监控方法和监控代理装置
CN113676503A (zh) 用户请求的处理方法、装置、电子设备和存储介质
CN112688982B (zh) 一种用户请求处理方法和装置
CN113127561B (zh) 业务单号的生成方法、装置、电子设备和存储介质
CN113114611B (zh) 黑名单管理的方法和装置
CN112866179B (zh) 限流方法和限流装置
CN110019671B (zh) 一种处理实时消息的方法和系统
CN112860432A (zh) 一种进程管理方法、装置及服务器
CN113722193A (zh) 检测页面异常的方法和装置
CN113329010B (zh) 一种用户访问管理的方法和系统
CN113778909B (zh) 一种缓存数据的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination