CN108681481B - 业务请求的处理方法及装置 - Google Patents

业务请求的处理方法及装置 Download PDF

Info

Publication number
CN108681481B
CN108681481B CN201810206287.1A CN201810206287A CN108681481B CN 108681481 B CN108681481 B CN 108681481B CN 201810206287 A CN201810206287 A CN 201810206287A CN 108681481 B CN108681481 B CN 108681481B
Authority
CN
China
Prior art keywords
service request
threads
type
service
determining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810206287.1A
Other languages
English (en)
Other versions
CN108681481A (zh
Inventor
李睿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Advanced New Technologies Co Ltd
Advantageous New Technologies Co Ltd
Original Assignee
Advanced New Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Advanced New Technologies Co Ltd filed Critical Advanced New Technologies Co Ltd
Priority to CN201810206287.1A priority Critical patent/CN108681481B/zh
Publication of CN108681481A publication Critical patent/CN108681481A/zh
Application granted granted Critical
Publication of CN108681481B publication Critical patent/CN108681481B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/48—Indexing scheme relating to G06F9/48
    • G06F2209/485—Resource constraint

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Telephonic Communication Services (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本说明书实施例提供一种业务请求的处理方法及装置，在业务请求的处理方法中，接收业务请求，确定业务请求所属的类型。从线程池中统计出分配给该类型的业务请求的线程的数量。判断统计的线程的数量是否超过在当前时间窗口内分配给该类型的业务请求的线程的上限值。如果未超过上限值，则分配线程池中的空闲线程，以处理该业务请求。如果超过上限值，则将该业务请求加入等待队列。

Description

业务请求的处理方法及装置
技术领域
本说明书一个或多个实施例涉及计算机技术领域，尤其涉及一种业务请求的处理方法及装置。
背景技术
传统技术中，业务请求的处理方法为：服务器接收业务请求方发送的业务请求。从线程池中分配空闲的线程，以处理该业务请求。向业务请求方返回处理结果。线程池中维护多个线程，线程是程序执行流的最小单元，是被操作系统独立调度和分派的基本单位。由此可以看出，传统技术中，服务器是按照接收业务请求的顺序自由化分配线程的。
发明内容
本说明书一个或多个实施例描述了一种业务请求的处理方法及装置，可以提高线程的利用率。
第一方面，提供了一种业务请求的处理方法，包括：
接收业务请求；
确定所述业务请求所属的类型；
从线程池中统计出分配给所述类型的业务请求的线程的数量；所述线程池中维护多个分配给不同类型的业务请求的线程；
判断所述线程的数量是否超过在当前时间窗口内分配给所述类型的业务请求的线程的上限值，所述上限值是根据在上一时间窗口内分配给不同类型的业务请求的线程的数量以及所述类型的业务请求被分配到线程的概率来确定的；
如果未超过所述上限值，则分配所述线程池中的空闲线程，以处理所述业务请求；
如果超过所述上限值，则将所述业务请求加入等待队列。
第二方面，提供了一种业务请求的处理装置，包括：
接收单元，用于接收业务请求；
确定单元，用于确定所述接收单元接收的所述业务请求所属的类型；
统计单元，用于从线程池中统计出分配给所述确定单元确定的所述类型的业务请求的线程的数量；所述线程池中维护多个分配给不同类型的业务请求的线程；
判断单元，用于判断所述统计单元统计的所述线程的数量是否超过在当前时间窗口内分配给所述类型的业务请求的线程的上限值，所述上限值是根据在上一时间窗口内分配给不同类型的业务请求的线程的数量以及所述类型的业务请求被分配到线程的概率来确定的；
分配单元，用于如果所述判断单元判断未超过所述上限值，则分配所述线程池中的空闲线程，以处理所述业务请求；
加入单元，用于如果所述判断单元判断超过所述上限值，则将所述业务请求加入等待队列。
本说明书一个或多个实施例提供的业务请求的处理方法及装置，接收业务请求，确定业务请求所属的类型。从线程池中统计出分配给该类型的业务请求的线程的数量。判断统计的线程的数量是否超过在当前时间窗口内分配给该类型的业务请求的线程的上限值。如果未超过上限值，则分配线程池中的空闲线程，以处理该业务请求。如果超过上限值，则将该业务请求加入等待队列。由此，可以避免由于某类型的业务请求的响应速度慢且请求量高时，导致大量线程被阻塞，从而降级线程的利用率的问题。
附图说明
为了更清楚地说明本说明书实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
图1为本说明书提供的业务请求的处理方法的应用场景示意图；
图2为本说明书一个实施例提供的业务请求的处理方法流程图；
图3为本说明书一个实施例提供的业务请求的处理装置示意图。
具体实施方式
下面结合附图，对本说明书提供的方案进行描述。
本说明书提供的业务请求的处理方法可以应用于如图1所示的场景中。图1中，业务请求方可以向服务器发送不同类型的业务请求。服务器可以根据预设的线程配置参数，创建多个线程，创建的线程用于处理业务请求，并将该多个线程存储至线程池中。此外，服务器还可以在不同的时间窗口动态配置处理不同类型的业务请求的线程的上限值。具体地，服务器在接收到业务请求之后，可以先确定该业务请求的类型。之后，判断线程池中处理该类型的业务请求的数量是否超过当前时间窗口的上限值。如果未超过，则分配线程池中的空闲线程，以处理该业务请求。如果超过，则将该业务请求加入等待队列。
需要说明的是，当基于某种规则，无法将业务请求加入等待队列时，如当加入等待队列的业务请求的个数超过预设数值时，服务器还可以创建其它线程，以执行无法加入等待队列的业务请求。可以理解的是，当服务器还创建其它线程时，线程池中维护的线程数量就会超过上述预设的线程配置参数。
图2为本说明书一个实施例提供的业务请求的处理方法流程图。所述方法的执行主体可以为具有处理能力的设备：服务器或者系统或者装置，如，图1中的服务器。如图2所示，所述方法具体可以包括：
步骤210，接收业务请求。
以业务请求为支付请求为例来说，服务器可以为支付服务器。具体地，支付服务器可以接收支付客户端发送的支付请求。
步骤220，确定业务请求所属的类型。
可选地，上述确定业务请求所属的类型的步骤可以为：统计线程池中维护的线程(包括处理业务请求的线程和空闲线程)的总数量。判断线程的总数量是否超过预设阈值(即上述线程配置参数)。如果未超过，则确定业务请求所属的类型。如果超过，则将该业务请求加入等待队列。
可以理解的是，在将业务请求加入等待队列之后，可以先不执行下述步骤230-步骤260。直至线程的总数量不超过预设阈值时，才继续执行下述步骤230-步骤260。
步骤220中的业务请求可以包含属性信息，该属性信息可以与预设的属性相对应。当业务请求中包含属性信息时，可以根据业务请求中的属性信息，确定业务请求所属的类型。
以业务请求为支付请求为例来说，假设预设的属性为：type，其对应的属性信息可以为：P1、P2和P3。那么当接收的支付请求包含属性信息：P1时，可以确定该支付请求所属的类型为：个人支付。当接收的支付请求包含属性信息：P2时，可以确定该支付请求所属的类型为：团体支付。当接收的支付请求包含属性信息：P3时，可以确定该支付请求所属的类型为：其它支付。
当然，在实际应用中，业务请求中可以包含与多个预设的属性相对应的属性信息。当包含与多个预设的属性相对应的属性信息时，业务请求的类型的确定方法类似，在此不复赘述。
步骤230，从线程池中统计出分配给该类型的业务请求的线程的数量。
本说明书的线程池中维护多个分配给不同类型的业务请求的线程。此外，还可以维护一个或多个空闲线程。
如前述例子中，假设线程池中维护50个线程，其中，20个线程分配给执行支付类型为：个人支付的支付请求，30个线程分配给执行支付类型为：团体支付的支付请求，5个线程分配给执行支付类型为：其它支付的支付请求，5个空闲线程。那么当接收的支付请求所属的类型为：个人支付时，统计的线程的数量为：20个。
步骤240，判断线程的数量是否超过在当前时间窗口内分配给该类型的业务请求的线程的上限值。
在一种实现方式中，上述上限值可以是根据在上一时间窗口内分配给不同类型的业务请求的线程的数量以及该类型的业务请求被分配到线程的概率来确定的。具体地，上述上限值的确定过程可以为：
步骤X，在当前时间窗口到达时，获取在上一时间窗口内分配给不同类型的业务请求的线程的数量、接收的业务请求所属的类型的总数量、各类型业务请求的响应时间(也称耗时)、权重值以及请求数。
可选地，本说明书中的业务请求的属性信息可以具有对应的权重值，该权重值可以是人为预先设定好的，也可以是根据相应的算法动态设定。
当业务请求中的属性信息具有对应的权重值时，在根据业务请求中的属性信息，确定业务请求所属的类型后，还可以根据属性信息对应的权重值，确定该类型的业务请求对应的权重值。如前述例子中，假设属性信息：P1、P2和P3各自对应的权重值分别为：W1、W2和W3。那么当接收的支付请求所属的类型为：个人支付时，也即当支付请求包含的属性信息为：P1时，该类型的支付请求对应的权重值可以为：W1。
还以前述例子为例来说，接收的支付请求所属的类型的总数量为：3个，即分别为：个人支付、团体支付以及其它支付。
需要说明的是，对某类型的业务请求的响应时间，当该类型的业务请求的请求数为多个时，其可以是指该类型的多个业务请求的平均响应时间。
可以理解的是，在不同的时间窗口，上述分配给不同类型的业务请求的线程的数量、类型的总数量、各类型业务请求的响应时间以及请求数可以是不同的。
步骤Y，根据类型的总数量、响应时间、权重值以及请求数，确定在上一时间窗口内该类型的业务请求被分配到线程的概率。
在一种实现方式中，可以根据如下公式来确定在上一时间窗口内第n类业务请求被分配到线程的概率。
Figure BDA0001595988720000061
其中，PRn为第n类业务请求被分配到线程的概率，C为接收的业务请求所属的类型的总数量，Ri为第i类业务请求的请求数，Rn为第n类业务请求的请求数，Wi为第i类业务请求的权重值，Wn为第n类业务请求的权重值，Ti为第i类业务请求的响应时间，Tn为第n类业务请求的响应时间。
步骤Z，根据分配给不同类型的业务请求的线程的数量以及概率，确定上限值。
在一个例子中，确定第n类业务请求在当前时间窗口的上限值可以为：Q×PRn，其中，Q为在上一时间窗口内线程池中分配给不同类型的业务请求的线程的数量。
可以理解的是，上述步骤X-步骤Z是周期性执行的，即每隔一个时间窗口就执行一次上述确定上限值的步骤。由此可以看出，本说明书中，各个时间窗口的上限值是动态确定的。
通过上述动态确定当前时间窗口的上限值的步骤，可以实现按照不同的业务请求的类型，对线程进行合理化分配的目的。此外，还可以有效地对不同类型的业务请求进行隔离。
步骤250，如果未超过上限值，则分配线程池中的空闲线程，以处理该业务请求。
在空闲线程处理完成该业务请求之后，服务器可以向业务请求方返回处理结果。如，支付服务器可以向支付客户端返回支付结果。此外，还可以判断空闲线程是否满足预设的回收条件。如果满足预设的回收条件，则释放空闲线程占用的资源，并回收空闲线程。此处，预设的回收条件可以包括：线程的总数量超过预设阈值(即上述线程配置参数)且等待一定时间后没有新的业务请求分配给空闲线程。可以理解的是，在回收多个空闲线程之后，线程的总数量就会不超过预设阈值。
通过上述回收线程的步骤，可以避免反复创建线程所带来的性能开销，节省了资源。
步骤260，如果超过上限值，则将业务请求加入等待队列。
可以理解的是，在将业务请求加入等待队列之后，可以按照先后顺序排队等待空闲线程。当被分配到空闲线程时，可以再次执行上述步骤240的判断步骤，如果未超过，则执行该业务请求。如果超过，则继续等待，直至上述步骤240的判断结果为未超过。
通过对本实例的各步骤进行分析，可以得出如下结论：
1)某类型的业务请求的响应时间相对于总响应时间(各类型的业务请求的响应时间之和)越短，则被分配到的线程的数量越多。
2)某类型的业务请求的请求数相对应总请求数(各类型的业务请求的请求数之和)越多，则被分配到的线程的数量越多。
3)某类型的业务请求的权重值相对于其它类型的业务请求的权重值较高，则被分配到的线程的数量越多。
由此可以看出，某类型的业务请求的请求数越多、响应时间越短且权重值越高，则会被分配到更多的线程，从而符合线程分配的整体原则，且可控性较强。
综上，本说明书实施例通过动态确定各类型的业务请求在当前时间窗口的上限值，可以实现对不同类型的业务请求动态分配线程。通过上述动态分配策略，可以使线程的分配最优化和性能最大化。此外，通过上述动态分配策略，解决了因某类型的业务请求响应时间增加且请求量大时，导致大量线程阻塞，引起其它类型的业务请求无法分配到线程而只能等待的问题。而当响应时间较短的业务请求处于等待状态时，资源的状态就得不到有效地推进。最后，通过上述动态分配策略，最大程度的提高了线程的利用率，降低了阻塞线程对其它类型的业务请求的影响。
与上述业务请求的处理方法对应地，本说明书一个实施例还提供的一种业务请求的处理装置，如图3所示，该装置包括：
接收单元301，用于接收业务请求。
确定单元302，用于确定接收单元301接收的业务请求所属的类型。
统计单元303，用于从线程池中统计出分配给确定单元302确定的类型的业务请求的线程的数量。线程池中维护多个分配给不同类型的业务请求的线程。
判断单元304，用于判断统计单元303统计的线程的数量是否超过在当前时间窗口内分配给该类型的业务请求的线程的上限值，上限值是根据在上一时间窗口内分配给不同类型的业务请求的线程的数量以及该类型的业务请求被分配到线程的概率来确定的。
分配单元305，用于如果判断单元304判断未超过上限值，则分配线程池中的空闲线程，以处理业务请求。
加入单元306，用于如果判断单元304判断超过上限值，则将业务请求加入等待队列。
可选地，确定单元302，还可以用于在当前时间窗口到达时，获取在上一时间窗口内分配给不同类型的业务请求的线程的数量、接收的业务请求所属的类型的总数量、各类型业务请求的响应时间、权重值以及请求数。
根据类型的总数量、响应时间、权重值以及请求数，确定在上一时间窗口内该类型的业务请求被分配到线程的概率。
根据分配给不同类型的业务请求的线程的数量以及概率，确定上限值。
可选地，业务请求还可以包含属性信息。
确定单元302具体可以用于：
根据业务请求中的属性信息，确定业务请求所属的类型。
可选地，属性信息具有对应的权重值。各类型业务请求的权重值可以是根据所包含的属性信息对应的权重值确定的。
可选地，确定单元302还具体可以用于：
统计线程池中维护的线程的总数量。
判断线程的总数量是否超过预设阈值。
如果超过，则将业务请求加入等待队列。
如果未超过，则确定业务请求所属的类型。
可选地，该装置还可以包括：回收单元307。
判断单元304，还可以用于在空闲线程处理完业务请求后，判断空闲线程是否满足预设的回收条件。
回收单元307，用于如果判断单元302判断满足预设的回收条件，则释放空闲线程占用的资源，并回收空闲线程。
本说明书上述实施例装置的各功能模块的功能，可以通过上述方法实施例的各步骤来实现，因此，本说明书一个实施例提供的装置的具体工作过程，在此不复赘述。
本说明书一个实施例提供的业务请求的处理装置，接收单元301接收业务请求。确定单元302确定接收的业务请求所属的类型。统计单元303从线程池中统计出分配给该类型的业务请求的线程的数量。判断单元304判断线程的数量是否超过在当前时间窗口内分配给该类型的业务请求的线程的上限值。如果判断单元304判断未超过上限值，则分配单元305分配线程池中的空闲线程，以处理业务请求。如果判断单元304判断超过上限值，则加入单元306将业务请求加入等待队列。由此，可以提高线程的利用率。
需要说明的是，本说明书实施例提供的业务请求的处理装置可以为图1中的服务器的一个模块或者单元。
本领域技术人员应该可以意识到，在上述一个或多个示例中，本说明书所描述的功能可以用硬件、软件、固件或它们的任意组合来实现。当使用软件实现时，可以将这些功能存储在计算机可读介质中或者作为计算机可读介质上的一个或多个指令或代码进行传输。
以上所述的具体实施方式，对本说明书的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本说明书的具体实施方式而已，并不用于限定本说明书的保护范围，凡在本说明书的技术方案的基础之上，所做的任何修改、等同替换、改进等，均应包括在本说明书的保护范围之内。

Claims (12)

1.一种业务请求的处理方法，其特征在于，包括：
接收业务请求；
确定所述业务请求所属的类型；
从线程池中统计出分配给所述类型的业务请求的线程的数量；所述线程池中维护多个分配给不同类型的业务请求的线程；
判断所述线程的数量是否超过在当前时间窗口内分配给所述类型的业务请求的线程的上限值，所述上限值是根据在上一时间窗口内分配给不同类型的业务请求的线程的数量以及所述类型的业务请求被分配到线程的概率来确定的；其中，所述概率是基于接收的业务请求所属的类型的总数量、各类型业务请求的响应时间、权重值以及请求数而确定的；
如果未超过所述上限值，则分配所述线程池中的空闲线程，以处理所述业务请求；
如果超过所述上限值，则将所述业务请求加入等待队列。
2.根据权利要求1所述的方法，其特征在于，还包括：确定所述上限值的步骤，包括：
在当前时间窗口到达时，获取在上一时间窗口内分配给不同类型的业务请求的线程的数量、接收的业务请求所属的类型的总数量、各类型业务请求的响应时间、权重值以及请求数；
根据所述类型的总数量、所述响应时间、所述权重值以及所述请求数，确定在上一时间窗口内所述类型的业务请求被分配到线程的概率；
根据分配给不同类型的业务请求的线程的数量以及所述概率，确定所述上限值。
3.根据权利要求2所述的方法，其特征在于，所述业务请求包含属性信息；
所述确定所述业务请求所属的类型，包括：
根据所述业务请求中的属性信息，确定所述业务请求所属的类型。
4.根据权利要求3所述的方法，其特征在于，所述属性信息具有对应的权重值；所述各类型业务请求的权重值是根据所包含的属性信息对应的权重值确定的。
5.根据权利要求1所述的方法，其特征在于，所述确定所述业务请求所属的类型包括：
统计所述线程池中维护的线程的总数量；
判断所述线程的总数量是否超过预设阈值；
如果超过，则将所述业务请求加入所述等待队列；
如果未超过，则确定所述业务请求所属的类型。
6.根据权利要求1-5任一项所述的方法，其特征在于，还包括：
在所述空闲线程处理完所述业务请求后，判断所述空闲线程是否满足预设的回收条件；
如果满足所述预设的回收条件，则释放所述空闲线程占用的资源，并回收所述空闲线程。
7.一种业务请求的处理装置，其特征在于，包括：
接收单元，用于接收业务请求；
确定单元，用于确定所述接收单元接收的所述业务请求所属的类型；
统计单元，用于从线程池中统计出分配给所述确定单元确定的所述类型的业务请求的线程的数量；所述线程池中维护多个分配给不同类型的业务请求的线程；
判断单元，用于判断所述统计单元统计的所述线程的数量是否超过在当前时间窗口内分配给所述类型的业务请求的线程的上限值，所述上限值是根据在上一时间窗口内分配给不同类型的业务请求的线程的数量以及所述类型的业务请求被分配到线程的概率来确定的；其中，所述概率是基于接收的业务请求所属的类型的总数量、各类型业务请求的响应时间、权重值以及请求数而确定的；
分配单元，用于如果所述判断单元判断未超过所述上限值，则分配所述线程池中的空闲线程，以处理所述业务请求；
加入单元，用于如果所述判断单元判断超过所述上限值，则将所述业务请求加入等待队列。
8.根据权利要求7所述的装置，其特征在于，
所述确定单元，还用于在当前时间窗口到达时，获取在上一时间窗口内分配给不同类型的业务请求的线程的数量、接收的业务请求所属的类型的总数量、各类型业务请求的响应时间、权重值以及请求数；
根据所述类型的总数量、所述响应时间、所述权重值以及所述请求数，确定在上一时间窗口内所述类型的业务请求被分配到线程的概率；
根据分配给不同类型的业务请求的线程的数量以及所述概率，确定所述上限值。
9.根据权利要求8所述的装置，其特征在于，所述业务请求包含属性信息；
所述确定单元具体用于：
根据所述业务请求中的属性信息，确定所述业务请求所属的类型。
10.根据权利要求9所述的装置，其特征在于，所述属性信息具有对应的权重值；所述各类型业务请求的权重值是根据所包含的属性信息对应的权重值确定的。
11.根据权利要求7所述的装置，其特征在于，所述确定单元还具体用于：
统计所述线程池中维护的线程的总数量；
判断所述线程的总数量是否超过预设阈值；
如果超过，则将所述业务请求加入所述等待队列；
如果未超过，则确定所述业务请求所属的类型。
12.根据权利要求7-11任一项所述的装置，其特征在于，还包括：回收单元；
所述判断单元，还用于在所述空闲线程处理完所述业务请求后，判断所述空闲线程是否满足预设的回收条件；
所述回收单元，用于如果所述判断单元判断满足所述预设的回收条件，则释放所述空闲线程占用的资源，并回收所述空闲线程。
CN201810206287.1A 2018-03-13 2018-03-13 业务请求的处理方法及装置 Active CN108681481B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810206287.1A CN108681481B (zh) 2018-03-13 2018-03-13 业务请求的处理方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810206287.1A CN108681481B (zh) 2018-03-13 2018-03-13 业务请求的处理方法及装置

Publications (2)

Publication Number Publication Date
CN108681481A CN108681481A (zh) 2018-10-19
CN108681481B true CN108681481B (zh) 2021-10-15

Family

ID=63800079

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810206287.1A Active CN108681481B (zh) 2018-03-13 2018-03-13 业务请求的处理方法及装置

Country Status (1)

Country Link
CN (1) CN108681481B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109840149B (zh) * 2019-02-14 2021-07-30 百度在线网络技术（北京）有限公司 任务调度方法、装置、设备及存储介质
CN110187957B (zh) * 2019-05-27 2022-06-03 北京奇艺世纪科技有限公司 一种下载任务的排队方法、装置及电子设备
CN112732417B (zh) * 2019-10-28 2024-09-20 北京京东振世信息技术有限公司 一种处理应用请求的方法和装置
CN111258754A (zh) * 2020-01-09 2020-06-09 上海依图信息技术有限公司 一种基于时间窗口的资源处理方法、装置、介质以及系统
CN112000455B (zh) * 2020-09-10 2022-02-01 华云数据控股集团有限公司 一种多线程任务处理方法、装置及电子设备
CN118051346B (zh) * 2024-04-11 2024-07-12 恒生电子股份有限公司 请求动态限流方法、装置、电子设备和可读存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103455377A (zh) * 2013-08-06 2013-12-18 北京京东尚科信息技术有限公司 用于管理业务线程池的系统和方法
CN103516536A (zh) * 2012-06-26 2014-01-15 重庆新媒农信科技有限公司 基于线程数量限制的服务器业务请求并行处理方法及系统
CN104133724A (zh) * 2014-04-03 2014-11-05 腾讯科技（深圳）有限公司 并发任务调度方法及装置
CN104572290A (zh) * 2013-10-11 2015-04-29 中兴通讯股份有限公司 消息处理线程的控制方法及装置
CN106020954A (zh) * 2016-05-13 2016-10-12 深圳市永兴元科技有限公司 线程管理方法及装置
CN107341050A (zh) * 2016-04-28 2017-11-10 北京京东尚科信息技术有限公司 基于动态线程池的服务处理方法和装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103516536A (zh) * 2012-06-26 2014-01-15 重庆新媒农信科技有限公司 基于线程数量限制的服务器业务请求并行处理方法及系统
CN103455377A (zh) * 2013-08-06 2013-12-18 北京京东尚科信息技术有限公司 用于管理业务线程池的系统和方法
CN104572290A (zh) * 2013-10-11 2015-04-29 中兴通讯股份有限公司 消息处理线程的控制方法及装置
CN104133724A (zh) * 2014-04-03 2014-11-05 腾讯科技（深圳）有限公司 并发任务调度方法及装置
CN107341050A (zh) * 2016-04-28 2017-11-10 北京京东尚科信息技术有限公司 基于动态线程池的服务处理方法和装置
CN106020954A (zh) * 2016-05-13 2016-10-12 深圳市永兴元科技有限公司 线程管理方法及装置

Also Published As

Publication number Publication date
CN108681481A (zh) 2018-10-19

Similar Documents

Publication Publication Date Title
CN108681481B (zh) 业务请求的处理方法及装置
US10754706B1 (en) Task scheduling for multiprocessor systems
WO2020181813A1 (zh) 一种基于数据处理的任务调度方法及相关设备
US8458712B2 (en) System and method for multi-level preemption scheduling in high performance processing
US9588809B2 (en) Resource-based scheduler
CN105159782A (zh) 基于云主机为订单分配资源的方法和装置
CN109564528B (zh) 分布式计算中计算资源分配的系统和方法
CN105589750B (zh) 一种cpu资源调度方法和服务器
KR101644800B1 (ko) 컴퓨팅 시스템 및 방법
CN107590002A (zh) 任务分配方法、装置、存储介质、设备及分布式任务系统
JP2015194923A (ja) 並列計算機システム，ジョブ管理装置の制御プログラム，及び並列計算機システムの制御方法
US10778807B2 (en) Scheduling cluster resources to a job based on its type, particular scheduling algorithm,and resource availability in a particular resource stability sub-levels
US11438271B2 (en) Method, electronic device and computer program product of load balancing
CN108153583B (zh) 任务分配方法及装置、实时计算框架系统
EP2770430A1 (en) System and method for scheduling atomic jobs in a multi-core processor to avoid processing jobs of the same atomicity in parallel
CN114155026A (zh) 一种资源分配方法、装置、服务器及存储介质
CN106775975B (zh) 进程调度方法及装置
CN109062683B (zh) 主机资源分配的方法、装置及计算机可读存储介质
US9213575B2 (en) Methods and systems for energy management in a virtualized data center
CN112214299A (zh) 多核处理器及其任务调度方法和装置
CN104731662B (zh) 一种可变并行作业的资源分配方法
US10979359B1 (en) Polling resource management system
KR101377195B1 (ko) 컴퓨터 마이크로 작업
CN110941493A (zh) 任务调度方法及装置
CN112395063A (zh) 一种动态多线程调度方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20200925

Address after: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman Islands

Applicant after: Innovative advanced technology Co.,Ltd.

Address before: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman Islands

Applicant before: Advanced innovation technology Co.,Ltd.

Effective date of registration: 20200925

Address after: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman Islands

Applicant after: Advanced innovation technology Co.,Ltd.

Address before: A four-storey 847 mailbox in Grand Cayman Capital Building, British Cayman Islands

Applicant before: Alibaba Group Holding Ltd.

GR01 Patent grant
GR01 Patent grant