CN108881368A - 高并发业务请求处理方法、装置、计算机设备和存储介质 - Google Patents

高并发业务请求处理方法、装置、计算机设备和存储介质 Download PDF

Info

Publication number
CN108881368A
CN108881368A CN201810363678.4A CN201810363678A CN108881368A CN 108881368 A CN108881368 A CN 108881368A CN 201810363678 A CN201810363678 A CN 201810363678A CN 108881368 A CN108881368 A CN 108881368A
Authority
CN
China
Prior art keywords
service request
load
server
client
balanced
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810363678.4A
Other languages
English (en)
Inventor
刘丹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN201810363678.4A priority Critical patent/CN108881368A/zh
Priority to PCT/CN2018/104151 priority patent/WO2019205406A1/zh
Publication of CN108881368A publication Critical patent/CN108881368A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1012—Server selection for load balancing based on compliance of requirements or conditions with available server resources

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明涉及一种高并发业务请求处理方法、装置、计算机设备和存储介质，所述方法包括：接收多个客户端发送的业务请求；将所述业务请求由负载均衡服务器按照状态信息对业务请求进行分配；如所述应用服务器中已存在业务数据，则将当前待处理的业务请求与所述业务数据进行耦合，按照先进先出的顺序取出业务数据与客户端的业务请求进行耦合，并通过业务接口向发送所述待处理的业务请求的客户端返回所述业务数据；如当前所述应用服务器中没有业务数据，则向发送当前待处理的业务请求的客户端返回无业务数据信息。上述方法提高了高并发请求线程访问效率，减少请求数据的损失量，保证了业务数据请求过程的完整性。

Description

高并发业务请求处理方法、装置、计算机设备和存储介质
技术领域
本发明涉及互联网技术领域，尤其涉及高并发业务请求处理方法、装置、计算机设备和存储介质。
背景技术
高并发请求线程包括客户向商业机构发出购买商品请求、联系客服等请求和客服联系客户进行售后处理或者回访等请求，当出现多个请求同时发送时，往往导致连接线路拥挤，访问速度大大降低。比如在电商平台进行网络购物，特别在在“双十一”、“双十二”等大型促销活动或是畅销商品的抢购业务中，出现了许多秒杀商品、秒杀红包、秒杀抽奖等商业活动。这些活动通常是在短时间内进行，并产生大量的访问量，因此具有高并发业务的特点，会对服务商的网络服务器，诸如应用服务器、数据库等产生极大的负载压力。
由于客户请求数量的暴增，请求线路高并发，系统反应缓慢，成为商业领域内的一大难题，众多公司逐渐对自己领域内的客服联系客户或者客户发出的请求，采取各种提高交互效率的手段，一般系统采取高并发异步线程同时请求，通过大量的校验判断和缓存技术提高数据高并发请求效率。
现有技术在处理客户信息高并发请求时的缺陷主要有，校验和缓存程序繁琐，减慢高并发请求处理效率；请求访问线路较差，容易导致丢包。
发明内容
有鉴于此，有必要针对现有技术的不足，提供一种高并发业务请求处理方法、装置、计算机设备和存储介质。
一种高并发业务请求处理方法，所述处理方法包括以下步骤：接收多个客户端发送的业务请求；将所述业务请求由负载均衡服务器按照状态信息对业务请求进行分配，所述负载均衡服务器选择合适的应用服务器并分配给负责业务处理的其中一台应用服务器；如所述应用服务器中已存在业务数据，则将当前待处理的业务请求与所述业务数据进行耦合，按照先进先出的顺序取出业务数据与客户端的业务请求进行耦合，并通过业务接口向发送所述待处理的业务请求的客户端返回所述业务数据；如当前所述应用服务器中没有业务数据，则向发送当前待处理的业务请求的客户端返回无业务数据信息。
在其中一个实施例中，所述方法进一步包括:对所述业务请求进行限流，获取预设存储区域中预先存储的全局状态数据，所述全局状态数据用于表征业务的全局状态，全局状态数据是服务器对不被限流的业务请求进行处理得到的，将所述业务请求中未被限流的业务请求发送给应用服务器。
在其中一个实施例中，当所述应用服务器为多台时，所述业务接口根据负载均衡，，当所述负载均衡服务器与所述地址解析协议请求相匹配时，负载均衡服务器将物理地址反馈至所述客户端，客户端根据所述负载均衡服务器的物理地址，将业务请求发送至所述负载均衡服务器，负载均衡服务器将所述业务请求调度给所述负载均衡服务器所连接的负载值最小的节点服务器进行处理
在其中一个实施例中，每台负载均衡服务器定时统计自己的状态信息，并定时向其他负载均衡服务器发送自己的状态信息。
在其中一个实施例中，每台应用服务器定时统计自己的状态信息，并定时向所有负载均衡服务器发送自己的状态信息。
在其中一个实施例中，每台应用服务器定时统计自己的状态信息，并定时向负载均衡服务器组的至少一台负载均衡服务器发送自己的状态信息；所述负载均衡服务器再定时向其它负载均衡服务器发送所有应用服务器的状态信息。
一种高并发业务请求处理装置，所述处理装置包括：接收单元，用于接收多个客户端发送的业务请求；分配单元，用于将所述业务请求由负载均衡服务器按照状态信息对业务请求进行分配，所述负载均衡服务器选择合适的应用服务器并分配给负责业务处理的其中一台应用服务器；返回单元，用于如所述应用服务器中已存在业务数据，则将当前待处理的业务请求与所述业务数据进行耦合，按照先进先出的顺序取出业务数据与客户端的业务请求进行耦合，并通过业务接口向发送所述待处理的业务请求的客户端返回所述业务数据；返回单元，用于如当前所述应用服务器中没有业务数据，则向发送当前待处理的业务请求的客户端返回无业务数据信息。
在其中一个实施例中，所述分配单元还用于当所述应用服务器为多台时，所述业务接口根据负载均衡，当所述负载均衡服务器与所述地址解析协议请求相匹配时，负载均衡服务器将物理地址反馈至所述客户端，客户端根据所述负载均衡服务器的物理地址，将业务请求发送至所述负载均衡服务器，负载均衡服务器将所述业务请求调度给所述负载均衡服务器所连接的负载值最小的节点服务器进行处理
一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述计算机可读指令被所述处理器执行时，使得所述处理器执行上述方法的步骤。
一种存储有计算机可读指令的存储介质，所述计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行上述方法的步骤。
上述高并发业务请求处理方法、装置、计算机设备和存储介质,通过接收多个客户端发送的业务请求，将所述业务请求由负载均衡服务器按照状态信息对业务请求进行分配，所述负载均衡服务器选择合适的应用服务器并分配给负责业务处理的其中一台应用服务器，当所述应用服务器为多台时，所述业务接口根据负载均衡，通过负载均衡服务器将接收到的所述业务请求分配给各台应用服务器，每台负载均衡服务器定时统计自己的状态信息，并定时向其他负载均衡服务器发送自己的状态信息，每台应用服务器定时统计自己的状态信息，并定时向所有负载均衡服务器发送自己的状态信息，每台应用服务器定时统计自己的状态信息，并定时向负载均衡服务器组的至少一台负载均衡服务器发送自己的状态信息；所述负载均衡服务器再定时向其它负载均衡服务器发送所有应用服务器的状态信息。如所述应用服务器中已存在业务数据，则将当前待处理的业务请求与所述业务数据进行耦合，按照先进先出的顺序取出业务数据与客户端的业务请求进行耦合，并通过业务接口向发送所述待处理的业务请求的客户端返回所述业务数据，如当前所述应用服务器中没有业务数据，则向发送当前待处理的业务请求的客户端返回无业务数据信息，提高了高并发请求线程访问效率，减少请求数据的损失量，保证了业务数据请求过程的完整性。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。
图1为本发明一个实施例中提供的高并发业务请求处理方法的流程图；
图2为本发明一个实施例中负载均衡器处理方法示意图；
图3为本发明一个实施例中负载均衡服务器处理方法流程图；
图4为本发明一个实施例中高并发业务请求处理装置的结构框图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
本技术领域技术人员可以理解，除非特意声明，这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是，本发明的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作、元件和/或组件，但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。
作为一个较好的实施例，如图1所示，一种高并发业务请求处理方法，该处理方法包括以下步骤：
步骤S101，接收多个客户端发送的业务请求；
这里不同客户端发送的业务请求，可以是用于请求处理同一业务的，也可以是用于请求不同业务的。网关可以并发地接收多个客户端同时发来的业务请求，可以理解的是，这里所谓的并发地接收多个客户端的业务请求，可以是在同一时间区间内接收到多个客户端的业务请求，比如在1秒内接收到100万业务请求，可以视为1秒内并发地接收100万业务请求。
步骤S102，将业务请求分配给负责业务处理的其中一台应用服务器；
当仅包括一台应用服务器时，直接把接收到的高并发业务请求分配到该应用服务器中。当所述应用服务器为多台时，所述业务接口根据负载均衡，通过负载均衡服务器将接收到的所述业务请求分配给各台应用服务器，当所述负载均衡服务器与所述地址解析协议请求相匹配时，负载均衡服务器将物理地址反馈至所述客户端，客户端根据所述负载均衡服务器的物理地址，将业务请求发送至所述负载均衡服务器，负载均衡服务器将所述业务请求调度给所述负载均衡服务器所连接的负载值最小的节点服务器进行处理。
步骤S103,如应用服务器中已存在业务数据，则将当前待处理的业务请求与业务数据进行耦合，按照先进先出的顺序取出业务数据与客户端的业务请求进行耦合，并通过业务接口向发送待处理的业务请求的客户端返回业务数据；如当前应用服务器中没有业务数据，则向发送当前待处理的业务请求的客户端返回无业务数据信息。
接收业务请求后，选择应用服务器对业务请求进行处理，待处理的业务请求可以是兑奖、红包、秒杀抽奖等。如果应用服务器存在业务数据，则可以将该业务数据与该客户端发送的该业务请求进行耦合，按照先进先出的顺序取出业务数据与客户端的业务请求进行耦合，如客户端发送的是秒杀抽奖业务请求，如果应用服务器中当前有兑奖数据，则将兑奖数据与该客户端的该秒杀抽奖请求耦合，并向该客户端返回中奖信息，如果应用服务器中当前无兑奖数据，则向该客户端返回未中奖信息。同样地，应用服务器需要将客户端的中奖信息存储到数据库或缓存中，以便后续操作。如果应用服务器中有多个兑奖数据时，例如可以采用队列缓存多个兑奖数据，在与客户端的业务请求耦合时，例如可以按照先进先出的顺序取出兑奖数据与客户端的业务请求进行耦合。并通过业务接口向该客户端返回该业务数据，而如果该应用服务器中当前无业务数据，则通过业务接口向该客户端返回无业务数据信息，即业务请求未通过。此外，为了方便后续作业，应用服务器还需要将得到业务数据的客户端及业务数据信息存储到数据库或缓存中。业务数据例如可以为兑奖数据、红包数据、秒杀抽奖数据等。如客户端发送的是秒杀抽奖业务请求，如果应用服务器当前有兑奖数据，则将兑奖数据与该客户端的该秒杀抽奖请求耦合，并向该客户端返回中奖信息；如果应用服务器中当前无兑奖数据，则向该客户端返回未中奖信息。同样地，应用服务器需要将客户端的中奖信息存储到数据库或缓存中，以便后续操作。另外，如果应用服务器中有多个兑奖数据时，例如可以采用队列缓存多个兑奖数据，在与客户端的业务请求耦合时，例如可以按照先进先出的顺序取出兑奖数据与客户端的业务请求进行耦合。
如果该应用服务器中当前无业务数据，则通过业务接口向该客户端返回无业务数据信息，即业务请求未通过。另外，为了方便后续应用，应用服务器还需要将得到业务数据的客户端信息及业务数据信息存储到数据库或缓存中。在一些实施例中，可以是传统的网络存储系统采用集中的存储服务器存放所有数据。在另一些实施例中，可以采用分布式内存缓存，就是将数据分散存储在多台独立的设备上，分布式内存缓存采用可扩展的系统结构，利用多台存储服务器分担存储负荷，利用位置服务器定位存储信息，常见的包括REDIS缓存、MHMCACHED缓存等。
在一个实施例中，该方法进一步包括：对所述业务请求进行限流，获取预设存储区域中预先存储的全局状态数据，所述全局状态数据用于表征业务的全局状态，全局状态数据是服务器对不被限流的业务请求进行处理得到的，将所述业务请求中未被限流的业务请求发送给应用服务器。
通过限流措施对应用服务器的业务请求进行限流时，进一步分散高并发业务时的负载压力，在另一些实施例，还可以通过业务请求承载能力比应用服务器强的网关来接收客户端发送的请求，比如，应用服务器的业务请求承载能力为每秒承载100万次业务请求，那么可以选择每秒承载1000万次业务请求的网关。在另一些实施例，还以设置缓存数据，用于更进一步分散高并发业务时的负载压力，可以是传统的网络存储系统采用集中的存储服务器存放所有数据。也可以采用分布式内存缓存，就是将数据分散存储在多台独立的设备上，分布式内存缓存采用可扩展的系统结构，利用多台存储服务器分担存储负荷，利用位置服务器定位存储信息，常见的包括REDIS缓存、MHMCACHED缓存等。
在一个实施例中，当应用服务器为多台时，业务接口根据负载均衡，通过负载均衡服务器将接收到的业务请求分配给各台应用服务器。
如图2所示，负载均衡服务器(Load-Balancing Server，LBS)采用负载均衡技术，将高并发的业务请求分配到各应用服务器中，例如负载均衡服务器将用户PC发来的业务请求分配到应用服务器1～3中。业务接口根据各应用服务器的业务处理状态，确定将高并发业务请求具体分配到哪台应用服务器中。需要说明的是，具体使用的负载均衡技术可以根据实际需求而进行选择，本发明不以此为限。通过将高并发的业务请求均衡分配到各应用服务器中，可以保证整个系统的高并发响应速度。
在一个实施例中，每台负载均衡服务器定时统计自己的状态信息，并定时向其他负载均衡服务器发送自己的状态信息。
预先为解析服务器有一个设置好的负载情况的阈值:若其负载情况超过该阈值则当接收到客户端的请求后，选择同组其他应用服务器来处理；若其负载情况小于该阈值则自行直接处理客户端的请求，开始解析客户端发送来的请求，并重新统计自身的状态信息更新列表，发送给其他解析服务器，其他解析服务器收到状态信息后更新列表。如果当前负载情况大于阈值，这该应用服务器查看其维护的解析服务器负载情况列表，先选出满足条件的应用服务器，如负载情况小于设定阈值的解析服务器，再在所有满足条件的解析服务器中通过赌轮盘的方式选择一个解析服务器。所谓赌轮盘的方式就是指负载情况越小越容易被选择到，但负载情况最低的应用服务器并非绝对会被选择到。赌轮盘的决策算法为现有技术，在此不再赘述。当前的解析服务器选择得到解析服务器St后，将其路径返回给客户端，客户端重新向解析服务器St发送请求消息，并附带标识表示其为重定向消息，如此解析服务器St将直接执行该请求而不再进行负载重定向。
在一个实施例中，每台应用服务器定时统计自己的状态信息，并定时向所有负载均衡服务器发送自己的状态信息。
分配给客户端的解析服务器解析客户端的请求，并为客户端选择一台负载情况较低的应用服务器。
如图3所示，在一个实施例中，步骤S201，每台应用服务器定时统计自己的状态信息，并定时向负载均衡服务器组的至少一台负载均衡服务器发送自己的状态信息；步骤S202，负载均衡服务器再定时向其它负载均衡服务器发送所有应用服务器的状态信息。
解析服务器查看其维护的应用服务器状态信息列表，选出满足条件的应用服务器，如负载情况小于设定阈值的应用服务器，在所有满足条件的应用服务器中使用一定的方法进行决策，选出最终的应用服务器。如赌轮盘决策法，应用服务器负载情况越小者越容易被选择到。
如图4所示，在一个实施例中，提出了一种高并发业务请求处理装置，该处理装置包括：
接收单元，用于接收多个客户端发送的业务请求；
分配单元，用于将所述业务请求由负载均衡服务器按照状态信息对业务请求进行分配，所述负载均衡服务器选择合适的应用服务器并分配给负责业务处理的其中一台应用服务器；
返回单元，用于如所述应用服务器中已存在业务数据，则将当前待处理的业务请求与所述业务数据进行耦合，按照先进先出的顺序取出业务数据与客户端的业务请求进行耦合，并通过业务接口向发送所述待处理的业务请求的客户端返回所述业务数据；如当前所述应用服务器中没有业务数据，则向发送当前待处理的业务请求的客户端返回无业务数据信息。
在一个实施例中，所述分配单元还用于当所述应用服务器为多台时，所述业务接口根据负载均衡，当所述负载均衡服务器与所述地址解析协议请求相匹配时，负载均衡服务器将物理地址反馈至所述客户端，客户端根据所述负载均衡服务器的物理地址，将业务请求发送至所述负载均衡服务器，负载均衡服务器将所述业务请求调度给所述负载均衡服务器所连接的负载值最小的节点服务器进行处理
在一个实施例中，提出了一种计算机设备，所述计算机设备包括存储器和处理器，存储器中存储有计算机可读指令，计算机可读指令被处理器执行时，使得处理器执行所述计算机程序时实现以下步骤：接收多个客户端发送的业务请求；将所述业务请求由负载均衡服务器按照状态信息对业务请求进行分配，所述负载均衡服务器选择合适的应用服务器并分配给负责业务处理的其中一台应用服务器；如所述应用服务器中已存在业务数据，则将当前待处理的业务请求与所述业务数据进行耦合，按照先进先出的顺序取出业务数据与客户端的业务请求进行耦合，并通过业务接口向发送所述待处理的业务请求的客户端返回所述业务数据；如当前所述应用服务器中没有业务数据，则向发送当前待处理的业务请求的客户端返回无业务数据信息。
在一个实施例中，所述高并发业务请求处理方法进一步包括:对所述业务请求进行限流，获取预设存储区域中预先存储的全局状态数据，所述全局状态数据用于表征业务的全局状态，全局状态数据是服务器对不被限流的业务请求进行处理得到的，将所述业务请求中未被限流的业务请求发送给应用服务器。
在一个实施例中，当所述应用服务器为多台时，所述业务接口根据负载均衡，当所述负载均衡服务器与所述地址解析协议请求相匹配时，负载均衡服务器将物理地址反馈至所述客户端，客户端根据所述负载均衡服务器的物理地址，将业务请求发送至所述负载均衡服务器，负载均衡服务器将所述业务请求调度给所述负载均衡服务器所连接的负载值最小的节点服务器进行处理
在一个实施例中，每台负载均衡服务器定时统计自己的状态信息，并定时向其他负载均衡服务器发送自己的状态信息。
在一个实施例中，每台应用服务器定时统计自己的状态信息，并定时向所有负载均衡服务器发送自己的状态信息。
在一个实施例中，每台应用服务器定时统计自己的状态信息，并定时向负载均衡服务器组的至少一台负载均衡服务器发送自己的状态信息；所述负载均衡服务器再定时向其它负载均衡服务器发送所有应用服务器的状态信息。
在一个实施例中，提出了一种存储有计算机可读指令的存储介质，其特征在于，计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行以下步骤：接收多个客户端发送的业务请求；将所述业务请求由负载均衡服务器按照状态信息对业务请求进行分配，所述负载均衡服务器选择合适的应用服务器并分配给负责业务处理的其中一台应用服务器；如所述应用服务器中已存在业务数据，则将当前待处理的业务请求与所述业务数据进行耦合，按照先进先出的顺序取出业务数据与客户端的业务请求进行耦合，并通过业务接口向发送所述待处理的业务请求的客户端返回所述业务数据；如当前所述应用服务器中没有业务数据，则向发送当前待处理的业务请求的客户端返回无业务数据信息。
在一个实施例中，所述高并发业务请求处理方法进一步包括:对所述业务请求进行限流，获取预设存储区域中预先存储的全局状态数据，所述全局状态数据用于表征业务的全局状态，全局状态数据是服务器对不被限流的业务请求进行处理得到的，将所述业务请求中未被限流的业务请求发送给应用服务器。
在一个实施例中，当所述应用服务器为多台时，所述业务接口根据负载均衡，当所述负载均衡服务器与所述地址解析协议请求相匹配时，负载均衡服务器将物理地址反馈至所述客户端，客户端根据所述负载均衡服务器的物理地址，将业务请求发送至所述负载均衡服务器，负载均衡服务器将所述业务请求调度给所述负载均衡服务器所连接的负载值最小的节点服务器进行处理
在一个实施例中，每台负载均衡服务器定时统计自己的状态信息，并定时向其他负载均衡服务器发送自己的状态信息。
在一个实施例中，每台应用服务器定时统计自己的状态信息，并定时向所有负载均衡服务器发送自己的状态信息。
在一个实施例中，每台应用服务器定时统计自己的状态信息，并定时向负载均衡服务器组的至少一台负载均衡服务器发送自己的状态信息；所述负载均衡服务器再定时向其它负载均衡服务器发送所有应用服务器的状态信息。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：只读存储器(ROM，Read Only Memory)、随机存取存储器(RAM，RandomAccess Memory)、磁盘或光盘等。
以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本发明一些示例性实施例，其描述较为具体和详细，但并不能因此而理解为对本发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。因此，本发明专利的保护范围应以所附权利要求为准。

Claims (10)

1.一种高并发业务请求处理方法，其特征在于，包括：
接收多个客户端发送的业务请求；
将所述业务请求由负载均衡服务器按照状态信息对业务请求进行分配，所述负载均衡服务器选择合适的应用服务器并分配给负责业务处理的其中一台应用服务器；
如所述应用服务器中已存在业务数据，则将当前待处理的业务请求与所述业务数据进行耦合，按照先进先出的顺序取出业务数据与客户端的业务请求进行耦合，并通过业务接口向发送所述待处理的业务请求的客户端返回所述业务数据；如当前所述应用服务器中没有业务数据，则向发送当前待处理的业务请求的客户端返回无业务数据信息。
2.根据权利要求1所述的高并发业务请求处理方法，其特征在于，还包括:对所述业务请求进行限流，获取预设存储区域中预先存储的全局状态数据，所述全局状态数据用于表征业务的全局状态，全局状态数据是服务器对不被限流的业务请求进行处理得到的，将所述业务请求中未被限流的业务请求发送给应用服务器。
3.根据权利要求1所述的高并发业务请求处理方法，其特征在于，由负载均衡服务器按照状态信息对业务请求进行分配包括：
当所述应用服务器为多台时，所述业务接口根据负载均衡，通过负载均衡服务器将接收到的所述业务请求分配给各台应用服务器，当所述负载均衡服务器与地址解析协议请求相匹配时，负载均衡服务器将物理地址反馈至所述客户端，客户端根据所述负载均衡服务器的物理地址，将业务请求发送至所述负载均衡服务器，负载均衡服务器将所述业务请求调度给所述负载均衡服务器所连接的负载值最小的节点服务器进行处理。
4.根据权利要求3所述的高并发业务请求处理方法，其特征在于，每台负载均衡服务器定时统计自己的状态信息，并定时向其他负载均衡服务器发送自己的状态信息。
5.根据权利要求4所述的高并发业务请求处理方法，其特征在于，每台应用服务器定时统计自己的状态信息，并定时向所有负载均衡服务器发送自己的状态信息。
6.根据权利要求4所述的高并发业务请求处理方法，其特征在于，每台应用服务器定时统计自己的状态信息，并定时向负载均衡服务器组的至少一台负载均衡服务器发送自己的状态信息；所述负载均衡服务器再定时向其它负载均衡服务器发送所有应用服务器的状态信息。
7.一种高并发业务请求处理装置，其特征在于，所述处理装置包括：
接收单元，用于接收多个客户端发送的业务请求；
分配单元，用于将所述业务请求由负载均衡服务器按照状态信息对业务请求进行分配，所述负载均衡服务器选择合适的应用服务器并分配给负责业务处理的其中一台应用服务器；
返回单元，用于如所述应用服务器中已存在业务数据，则将当前待处理的业务请求与所述业务数据进行耦合，按照先进先出的顺序取出业务数据与客户端的业务请求进行耦合，并通过业务接口向发送所述待处理的业务请求的客户端返回所述业务数据；如当前所述应用服务器中没有业务数据，则向发送当前待处理的业务请求的客户端返回无业务数据信息。
8.根据权利要求7所述的高并发业务请求处理装置，其特征在于，所述分配单元还用于当所述应用服务器为多台时，所述业务接口根据负载均衡，当所述负载均衡服务器与所述地址解析协议请求相匹配时，负载均衡服务器将物理地址反馈至所述客户端，客户端根据所述负载均衡服务器的物理地址，将业务请求发送至所述负载均衡服务器，负载均衡服务器将所述业务请求调度给所述负载均衡服务器所连接的负载值最小的节点服务器进行处理。
9.一种计算机设备，其特征在于，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述计算机可读指令被所述处理器执行时，使得所述处理器执行如权利要求1至6中任一项所述方法的步骤。
10.一种存储有计算机可读指令的存储介质，其特征在于，所述计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行如权利要求1至6中任一项所述方法的步骤。
CN201810363678.4A 2018-04-22 2018-04-22 高并发业务请求处理方法、装置、计算机设备和存储介质 Pending CN108881368A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201810363678.4A CN108881368A (zh) 2018-04-22 2018-04-22 高并发业务请求处理方法、装置、计算机设备和存储介质
PCT/CN2018/104151 WO2019205406A1 (zh) 2018-04-22 2018-09-05 高并发业务请求处理方法、装置、计算机设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810363678.4A CN108881368A (zh) 2018-04-22 2018-04-22 高并发业务请求处理方法、装置、计算机设备和存储介质

Publications (1)

Publication Number Publication Date
CN108881368A true CN108881368A (zh) 2018-11-23

Family

ID=64326865

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810363678.4A Pending CN108881368A (zh) 2018-04-22 2018-04-22 高并发业务请求处理方法、装置、计算机设备和存储介质

Country Status (2)

Country Link
CN (1) CN108881368A (zh)
WO (1) WO2019205406A1 (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109743303A (zh) * 2018-12-25 2019-05-10 中国移动通信集团江苏有限公司 应用保护方法、装置、系统和存储介质
CN109976920A (zh) * 2019-02-20 2019-07-05 深圳点猫科技有限公司 一种用于教育操作系统的并发式控制的实现方法及装置
CN110086881A (zh) * 2019-05-07 2019-08-02 网易（杭州）网络有限公司 业务处理方法、装置及设备
CN110503484A (zh) * 2019-08-27 2019-11-26 中国工商银行股份有限公司 基于分布式缓存的电子券数据匹配方法及装置
CN111147916A (zh) * 2019-12-31 2020-05-12 北京比利信息技术有限公司 跨平台服务系统、方法、设备和存储介质
CN111258768A (zh) * 2018-11-30 2020-06-09 中国移动通信集团湖南有限公司 一种优惠抽奖活动的并发处理方法和装置
CN112486955A (zh) * 2020-12-04 2021-03-12 高慧军 基于大数据和人工智能的数据维护方法及大数据平台
CN112751945A (zh) * 2021-04-02 2021-05-04 人民法院信息技术服务中心 一种分布式云服务的实现方法、装置、设备和存储介质
CN113992685A (zh) * 2021-10-26 2022-01-28 新华三信息安全技术有限公司 一种服务控制器确定方法、系统及装置
CN114971079A (zh) * 2022-06-29 2022-08-30 中国工商银行股份有限公司 秒杀型交易处理优化方法和装置

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112422450B (zh) * 2020-05-09 2023-05-23 上海哔哩哔哩科技有限公司 计算机设备、服务请求的流量控制方法及装置
CN113268360A (zh) * 2021-05-14 2021-08-17 北京三快在线科技有限公司 请求处理方法、装置、服务器及存储介质
CN114095574B (zh) * 2022-01-20 2022-04-29 恒生电子股份有限公司 数据处理方法、装置、电子设备及存储介质
CN114244902B (zh) * 2022-02-28 2022-05-17 北京金堤科技有限公司 高并发服务请求处理方法和装置、以及电子设备和存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101827013A (zh) * 2009-03-05 2010-09-08 华为技术有限公司 多网关负载均衡的方法、装置和系统
CN102143046A (zh) * 2010-08-25 2011-08-03 华为技术有限公司 负载均衡的方法、设备和系统
CN103220354A (zh) * 2013-04-18 2013-07-24 广东宜通世纪科技股份有限公司 一种实现服务器集群负载均衡的方法
US20150326475A1 (en) * 2014-05-06 2015-11-12 Citrix Systems, Inc. Systems and methods for achieving multiple tenancy using virtual media access control (vmac) addresses
CN107277088A (zh) * 2016-04-06 2017-10-20 泰康保险集团股份有限公司 高并发业务请求处理系统及方法
CN107528885A (zh) * 2017-07-17 2017-12-29 阿里巴巴集团控股有限公司 一种业务请求处理方法及装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100546259C (zh) * 2006-07-12 2009-09-30 华为技术有限公司 一种发现路径计算元件的方法、系统及该系统中的服务端
CN105791370B (zh) * 2014-12-26 2019-02-01 华为技术有限公司 一种数据处理方法及相关服务器
CN105072182A (zh) * 2015-08-10 2015-11-18 北京佳讯飞鸿电气股份有限公司 一种负载均衡方法、负载均衡器和用户终端

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101827013A (zh) * 2009-03-05 2010-09-08 华为技术有限公司 多网关负载均衡的方法、装置和系统
CN102143046A (zh) * 2010-08-25 2011-08-03 华为技术有限公司 负载均衡的方法、设备和系统
CN103220354A (zh) * 2013-04-18 2013-07-24 广东宜通世纪科技股份有限公司 一种实现服务器集群负载均衡的方法
US20150326475A1 (en) * 2014-05-06 2015-11-12 Citrix Systems, Inc. Systems and methods for achieving multiple tenancy using virtual media access control (vmac) addresses
CN107277088A (zh) * 2016-04-06 2017-10-20 泰康保险集团股份有限公司 高并发业务请求处理系统及方法
CN107528885A (zh) * 2017-07-17 2017-12-29 阿里巴巴集团控股有限公司 一种业务请求处理方法及装置

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111258768A (zh) * 2018-11-30 2020-06-09 中国移动通信集团湖南有限公司 一种优惠抽奖活动的并发处理方法和装置
CN111258768B (zh) * 2018-11-30 2023-09-19 中国移动通信集团湖南有限公司 一种优惠抽奖活动的并发处理方法和装置
CN109743303A (zh) * 2018-12-25 2019-05-10 中国移动通信集团江苏有限公司 应用保护方法、装置、系统和存储介质
CN109743303B (zh) * 2018-12-25 2021-10-01 中国移动通信集团江苏有限公司 应用保护方法、装置、系统和存储介质
CN109976920A (zh) * 2019-02-20 2019-07-05 深圳点猫科技有限公司 一种用于教育操作系统的并发式控制的实现方法及装置
CN110086881A (zh) * 2019-05-07 2019-08-02 网易（杭州）网络有限公司 业务处理方法、装置及设备
CN110503484A (zh) * 2019-08-27 2019-11-26 中国工商银行股份有限公司 基于分布式缓存的电子券数据匹配方法及装置
CN111147916A (zh) * 2019-12-31 2020-05-12 北京比利信息技术有限公司 跨平台服务系统、方法、设备和存储介质
CN112486955B (zh) * 2020-12-04 2021-07-27 北京神州慧安科技有限公司 基于大数据和人工智能的数据维护方法及大数据服务器
CN112486955A (zh) * 2020-12-04 2021-03-12 高慧军 基于大数据和人工智能的数据维护方法及大数据平台
CN112751945B (zh) * 2021-04-02 2021-08-06 人民法院信息技术服务中心 一种分布式云服务的实现方法、装置、设备和存储介质
CN112751945A (zh) * 2021-04-02 2021-05-04 人民法院信息技术服务中心 一种分布式云服务的实现方法、装置、设备和存储介质
CN113992685A (zh) * 2021-10-26 2022-01-28 新华三信息安全技术有限公司 一种服务控制器确定方法、系统及装置
CN113992685B (zh) * 2021-10-26 2023-09-22 新华三信息安全技术有限公司 一种服务控制器确定方法、系统及装置
CN114971079A (zh) * 2022-06-29 2022-08-30 中国工商银行股份有限公司 秒杀型交易处理优化方法和装置
CN114971079B (zh) * 2022-06-29 2024-05-28 中国工商银行股份有限公司 秒杀型交易处理优化方法和装置

Also Published As

Publication number Publication date
WO2019205406A1 (zh) 2019-10-31

Similar Documents

Publication Publication Date Title
CN108881368A (zh) 高并发业务请求处理方法、装置、计算机设备和存储介质
CN106899680B (zh) 多区块链的分片处理方法和装置
US8271987B1 (en) Providing access to tasks that are available to be performed
CN106657379A (zh) 一种nginx服务器负载均衡的实现方法及系统
EP3159844A1 (en) Scalable systems and methods for generating and serving recommendations
USRE42153E1 (en) Dynamic coordination and control of network connected devices for large-scale network site testing and associated architectures
WO2011047474A1 (en) Systems and methods for social graph data analytics to determine connectivity within a community
CN108933829A (zh) 一种负载均衡方法及装置
CN105959392A (zh) 访问量控制方法及装置
CN108259603A (zh) 一种负载均衡方法及装置
CN106357792B (zh) 节点选路方法及系统
CN107274201A (zh) 基于用户画像的营销方法、装置及系统
CN110311988A (zh) 后端服务器的健康检查方法、负载均衡方法及装置
CN109510878A (zh) 一种长连接会话保持方法和装置
AU2022228116A1 (en) Scalable systems and methods for generating and serving recommendations
CN107347015A (zh) 一种内容分发网络的识别方法、装置及系统
US20200098030A1 (en) Inventory-assisted artificial intelligence recommendation engine
CN106874371A (zh) 一种数据处理方法及装置
CN110490411A (zh) 一种客户管理方法、系统和存储介质
US9524330B1 (en) Optimization of production systems
CN107707604A (zh) 一种服务调度方法和系统
Borzemski et al. Business-oriented admission control and request scheduling for e-commerce websites
CN107277088B (zh) 高并发业务请求处理系统及方法
US20230134999A1 (en) Network-based calculation of affinity score from transaction data
CN109302505A (zh) 数据传输方法、系统、装置和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20181123