CN103455377B - 用于管理业务线程池的系统和方法 - Google Patents

Abstract

一种用于管理业务线程池的系统和方法。所述系统包括：业务‑线程池配置模块，用于根据业务的重要性为业务分配预定数量的预定模式线程；线程池初始化模块，用于在系统启动时根据所述业务‑线程池配置模块的设置对整个线程池进行初始化；以及业务执行模块，用于根据业务的类型来执行业务。

Description

用于管理业务线程池的系统和方法

技术领域

本发明涉及一种用于管理业务线程池的系统和方法。

背景技术

当前，在互联网技术中线程池得到了广泛的应用，通过引入线程池可以有效的管理线程、控制线程上限总数、以及减少创建和销毁线程所带来的开销。但是，在实际应用中，随着业务的逐步庞大，一个系统对其他越来越多的系统调用增加，线程池技术面临着新的挑战：如果在系统中采用统一的线程池实例，虽然可以统一有效的管理线程、减少创建和销毁线程的开销，但是对不同业务系统的调用会互相影响；如果在系统中每一个关联的业务采用自己的线程池实例，虽然可以实现业务隔离，但是不能够统一的管理和监控线程，从而增加系统开销。

因此，期望提供一种改进的管理业务线程池的系统和方法。

发明内容

为了解决现有技术中的上述缺点和问题中的至少一个而提出本发明。

根据一个方面，本发明提出了一种用于管理业务线程池的系统，包括：业务-线程池配置模块，用于根据业务的重要性为业务分配预定数量的预定模式线程；其中线程包括保护模式线程、普通模式线程、和限制模式线程；线程池初始化模块，用于在系统启动时根据所述业务-线程池配置模块的设置对整个线程池进行初始化；并且用于将预设数量的线程分别划分为保护模式线程、普通模式线程、和限制模式线程；以及业务执行模块，用于根据业务的类型来执行业务，还用于使每个类型的业务队列自身监控自己队列中是否有业务，如果有则查看线程池是否有相应线程资源可用，一旦发现有相应的空闲线程资源，则获取该线程资源并执行业务。

可选地，所述保护模式线程是为重要业务预留的，不能被其它类型业务使用，并且当所述重要业务使用的线程数已达到所述保护模式线程的上限时，能够被分配所述普通模式线程和/或所述限制模式线程。

可选地，所述限制模式线程是为低优先级业务或不稳定业务划分的，能够被重要业务或普通业务占用，并且当所述低优先级业务或不稳定业务使用的线程数已达到所述限制模式线程的上限时，不被分配其他模式线程，后面的请求会被排队或拒绝。

可选地，所述普通模式线程是为普通业务划分的，能够被重要业务占用，并且当所述普通业务使用的线程数已达到普通模式线程的上限时，能够被分配限制模式线程。

可选地，所述系统进一步包括线程快照模块，用于提供线程池中所有线程的情况。

可选地，所述系统进一步包括业务-线程池动态配置模块，用于动态配置特定业务的线程分配。

可选地，所述系统进一步包括业务限时模块，用于在业务达到设置的过期时间后还没有执行完的情况下，自动中断该业务。

根据本发明的另一个方面，提供了一种用于管理业务线程池的方法，包括：根据业务的重要性为业务分配预定数量的预定模式线程；其中线程包括保护模式线程、普通模式线程、和限制模式线程；在系统启动时根据设置对整个线程池进行初始化；在初始化时将预设数量的线程分别划分为保护模式线程、普通模式线程、和限制模式线程；以及根据业务的类型来执行业务，以及使每个类型的业务队列自身监控自己队列中是否有业务，如果有则查看线程池是否有相应线程资源可用，一旦发现有相应的空闲线程资源，则获取该线程资源并执行业务。

可选地，根据业务的重要性为业务分配预定数量的预定模式线程包括为低优先级业务或不稳定业务划分限制模式线程。

可选地，根据业务的重要性为业务分配预定数量的预定模式线程包括为普通业务划分普通模式线程。

可选地，所述方法进一步包括：提供线程池中所有线程的情况。

可选地，所述方法进一步包括：动态配置特定业务的线程分配。

可选地，所述方法进一步包括：在业务达到设置的过期时间后还没有执行完的情况下，自动中断该业务。

附图说明

通过下面结合附图进行的描述，本发明一些示范性实施例的上述和其他方面、特征和优点对于本领域技术人员来说将变得显而易见，其中：

图1是根据本发明的用于管理业务线程池的系统的框图；以及

图2是根据本发明的用于管理业务线程池的方法的流程图。

具体实施方式

提供参考附图的下面描述以帮助全面理解本发明的示范性实施例。其包括各种细节以助于理解，而应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，省略了对公知功能和结构的描述。

根据本发明的用于业务线程池的系统和方法是以传统的线程池技术为基础，通过在上层做逻辑上的分割，把一个统一的线程池根据业务类型的不同划分成不同的单元，并通过信号机制和线程技术做到高效稳定资源损耗最小。

在本发明中，可以根据线程池中所有业务的业务种类，在逻辑上将所有线程在逻辑上划分为保护模式线程、普通模式线程、和限制模式线程。

保护模式线程是整个线程池中的单元(子线程池)。该类型的线程是为例如重要业务的特定类型业务预留的。当其它类型业务已占用完普遍模式线程和/或限制模式线程时，也不能使用保护模式线程，即不会影响重要业务的执行。然而，当该类型业务使用的线程数已达到保护模式线程的上限时，可以被分配普通模式线程和/或限制模式线程。

限制模式线程是整个线程池中的单元(子线程池)。该类型的线程是为例如低优先级业务或不稳定业务的特定类型业务划分的。当该类型业务使用的线程数已达到限制模式线程的上限时，不被分配其他模式线程，后面的请求会被排队或拒绝。并且，限制模式线程可以被其它业务占用。

普通模式线程是整个线程中的单元(子线程池)。该类型的线程是为例如普通类型的业务划分的。当该类型业务使用的线程数已达到普通模式线程的上限时，可以被分配限制模式线程。而且，该普通模式线程可以被重要业务占用。

根据本发明的对线程池进行逻辑上划分可以减少业务间相互影响，做到业务隔离，同时能保证系统整体的稳定性。

图1是根据本发明的用于管理业务线程池的系统的框图。

如图1中所示，根据本发明的系统可以包括业务-线程池配置模块110、线程池初始化模块120、业务执行模块130。可选地，本发明的系统可以进一步包括线程快照模块140和业务-线程池动态配置模块150。

业务-线程池配置模块110用于根据业务的重要性为业务分配预定数量的预定模式线程。例如，业务-线程池配置模块110可以为重要业务A分配200个保护模式线程，以及为低优先级业务或不重要业务B和C分配100个限制模式线程。此外，业务-线程池配置模块110可以不为普通业务分配预定数量的线程，即如果确定业务D为普通业务，在业务-线程池配置模块110中不需要指定其将被分配的线程的数量和线程的类型。替选地，业务-线程池配置模块110也可以明确为普通业务指定将被分配的线程的数量和线程的类型。

线程初始化模块120用于在系统启动时根据业务-线程池配置模块110的设置对整个线程池进行初始化。例如，在上面的示例中，线程初始化模块120可以将总数为1000的线程中的200个划分为保护模式线程，将100个线程划分为限制模式线程，以及将剩余的700个线程划分为普通线程。

业务执行模块130用于根据业务的类型来执行业务。

例如，业务执行模块130首先判断业务的类型。当确定业务的类型是重要业务时，确定是否有保护模式线程可用，即是否达到保护模式线程的数量的上限。如果有保护模式线程可用，则从池中获取线程资源并执行业务。如果没有保护模式线程可用，确定是否有普通模式线程或限制模式线程可用。如果确定有普通模式线程或限制模式线程可用，则从池中获取线程资源并执行业务。如果确定没有普通模式线程和限制模式线程可用，则将业务放入对应类型业务的业务队列中等待执行。

当确定业务的类型是普通业务时，确定是否有普通模式线程可用，即是否达到普通模式线程的数量的上限。如果有普通模式线程可用，则从池中获取线程资源并执行业务。如果没有普通模式线程可用，确定是否有限制模式线程可用。如果确定有限制模式线程可用，则从池中获取线程资源并执行业务。如果确定没有限制模式线程可用，则将业务放入对应类型业务的业务队列中等待执行。

当确定业务的类型是限制业务时，确定是否有限制模式线程可用，即是否达到限制模式线程的数量的上限。如果有限制模式线程可用，则从池中获取线程资源并执行业务。如果没有限制模式线程可用，则将业务放入对应类型业务的业务队列中等待执行。

此外，在每当获取线程资源并执行业务时，对相应类型的线程资源的已使用数量加1。替选地，在每当获取线程资源并执行业务时，对相应类型的线程资源的剩余数量减1。

而且，每个类型的业务队列自身可以监控自己队列中是否有业务，如果有则查看线程池是否有相应线程资源可用，一旦发现有相应的空闲线程资源，则获取该线程资源并执行业务。

线程快照模块140用于提供线程池中所有线程的情况。例如，线程快照模块140可以提供实际的线程池指标快照和线程概括快照。实际的线程池指标快照可以包括以下中的一个或多个：核心线程数、允许的最大线程数、主动执行业务的线程数、已完成执行的业务数、曾经同时位于池中的最大线程数、池中的当前线程数、以及此执行程序使用的业务队列数。线程概括快照可以包括以下中的一个或多个：整个线程池中所有线程的消耗数、保护线程池中的线程消耗数、保护线程池的队列中等待执行的数量、普通线程池中的线程消耗数、普通线程池的队列中等待执行的数量、限制线程池中的线程消耗数以及限制线程池的队列中等待执行的数量。

业务-线程池动态配置模块150用于动态配置特定业务的线程分配。例如，如果通过例如线程快照模块发现业务A的调用量增多，可以立即将业务A所使用的保护模式线程的数量从200修改为300。

可选地，根据本发明的系统可以进一步包括业务限时模块160，用于为每个业务设置过期时间，当达到设置的过期时间后还没有执行完业务，业务线程池自动中断该业务。

图2是根据本发明的用于管理业务线程池的方法的流程图。

如图2中所示，根据本发明的方法开始于步骤210。在步骤210中，根据业务的重要性为业务分配预定数量的预定模式线程。

例如，可以为重要业务分配预定数量的保护模式线程，以及可以为低优先级业务或不重要业务分配另一预定数量的限制模式线程，可以不明确地为普通业务分配预定数量的线程。也就是说，当不明确指定一个业务分配线程的数量和线程的类型时，将默认地认为该业务是普通类型的业务，并且普通类型的业务所分配的线程的数量可以默认地是总线程数量减去保护模式线程的数量和限制模式线程。替选地，也可以明确为普通业务指定将被分配的线程的数量和线程的类型。

在步骤220中，在系统启动时根据设置对整个线程池进行初始化。例如，可以从总线程中划分出预定数量的保护模式线程、另一预定数量的限制模式线程，以及将剩余的线程划分为普通线程。

在步骤230中，根据业务的类型来执行业务。在该步骤中确定对于业务的类型是否有线程可用，当有线程可用时从池中获取线程资源并执行业务，而当没有线程可用时将业务放入对应的业务队列等待执行。

例如，首先判断业务的类型。当确定业务的类型是重要业务时，确定是否有保护模式线程可用，即是否达到保护模式线程的数量的上限。如果有保护模式线程可用，则从池中获取线程资源并执行业务。如果没有保护模式线程可用，确定是否有普通模式线程或限制模式线程可用。如果确定有普通模式线程或限制模式线程可用，则从池中获取线程资源并执行业务。如果确定没有普通模式线程和限制模式线程可用，则将业务放入对应类型业务的业务队列中等待执行。

当确定业务的类型是普通业务时，确定是否有普通模式线程可用，即是否达到普通模式线程的数量的上限。如果有普通模式线程可用，则从池中获取线程资源并执行业务。如果没有普通模式线程可用，确定是否有限制模式线程可用。如果确定有限制模式线程可用，则从池中获取线程资源并执行业务。如果确定没有限制模式线程可用，则将业务放入对应类型业务的业务队列中等待执行。

当确定业务的类型是限制业务时，确定是否有限制模式线程可用，即是否达到限制模式线程的数量的上限。如果有限制模式线程可用，则从池中获取线程资源并执行业务。如果没有限制模式线程可用，则将业务放入对应类型业务的业务队列中等待执行。

此外，在每当获取线程资源并执行业务时，对相应类型的线程资源的已使用数量加1。替选地，在每当获取线程资源并执行业务时，对相应类型的线程资源的剩余数量减1。

而且，每个类型的业务队列自身可以监控自己队列中是否有业务，如果有则查看线程池是否有相应线程资源可用，一旦发现有相应的空闲线程资源，则获取该线程资源并执行业务。

可选地，可以进一步包括步骤240，用于提供线程池中所有线程的情况。例如，可以提供实际的线程池指标快照和线程概括快照。实际的线程池指标快照可以包括以下中的一个或多个：核心线程数、允许的最大线程数、主动执行业务的线程数、已完成执行的业务数、曾经同时位于池中的最大线程数、池中的当前线程数、以及此执行程序使用的业务队列数。线程概括快照可以包括以下中的一个或多个：整个线程池中所有线程的消耗数、保护线程池中的线程消耗数、保护线程池的队列中等待执行的数量、普通线程池中的线程消耗数、普通线程池的队列中等待执行的数量、限制线程池中的线程消耗数以及限制线程池的队列中等待执行的数量。

可选地，可以进一步包括步骤250，用于动态配置特定业务的线程分配。例如，如果通过例如线程快照模块发现业务A的调用量增多，可以立即将业务A所使用的保护模式线程的数量从200修改为300。

可选地，可以进一步包括步骤260，用于为每个业务设置过期时间，当达到设置的过期时间后还没有执行完业务，业务线程池自动中断该业务。

应指出的是，上面分别对本发明的装置和方法实施例分别进行了描述，但是对一个实施例描述的细节也可应用于另一个实施例。

以上结合具体实施例描述了本发明的基本原理，但是，需要指出的是，对本领域的普通技术人员而言，能够理解本发明的方法和系统的全部或者任何步骤或者部件可以以软件、硬件、固件或者它们的组合加以实现，这是本领域普通技术人员在阅读了本发明的说明的情况下运用他们的基本编程技能就能实现的。

因此，本发明的目的还可以通过在任何计算装置上运行一个软件模块或者一组软件模块来实现。所述计算装置可以是公知的通用装置。因此，本发明的目的也可以仅仅通过提供包含实现所述方法或者装置的程序代码的程序产品来实现。也就是说，这样的程序产品也构成本发明，并且存储有这样的程序产品的存储介质也构成本发明。显然，所述存储介质可以是任何公知的存储介质或者将来所开发出来的任何存储介质。

虽然本说明书包含许多特定实施方式细节，但是不应当将这些细节解释为对任何发明或可以主张的内容的范围的限制，而应当解释为对可以特定于特定发明的特定实施例的特征的描述。还可以将在本说明书中在分离的实施例的情境中描述的某些特征组合在单个实施例中实现。相反地，也可以将在单个实施方式的情境中描述的各个特征分离地在多个实施方式中实现或在任何适当的子组合中实现。此外，尽管可能在上面将特征描述为在某些组合中起作用，甚至最初主张如此，但是可以在一些情况下将来自所主张的组合的一个或多个特征从组合中删去，并且可以将所主张的组合指向子组合或者子组合的变体。

类似地，虽然在附图中以特定次序描绘了操作，但是不应当将这理解为需要以所示的特定次序或者以连续次序执行这样的操作、或者需要执行所有图示的操作才能达到期望的结果。在某些情况下，多任务以及并行处理可以是有利的。此外，不应当将在上述实施例中的各种系统组件的分离理解为在所有实施例中均需要这样的分离，而应当理解的是，通常可以将所描述的程序组件和系统集成到一起成为单个软件产品或封装为多个软件产品。

计算机程序(也称作程序、软件、软件应用、脚本或代码)可以以任何形式的编程语言编写，所述编程语言包括编译或解释语言、或者说明性或过程语言，并且其可以以任何形式部署，包括作为独立程序或作为模块、组件、子程序或适于在计算环境中使用的其它单元。计算机程序没有必要对应于文件系统中的文件。可以将程序存储在保持其它程序或数据的文件(例如，存储在标记语言文档中的一个或多个脚本)的一部分、专用于讨论中的程序的单个文件或者多个协调文件(例如，存储一个或多个模块、子程序或部分代码的文件)中。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (12)

1.一种用于管理业务线程池的系统，包括：

业务-线程池配置模块，用于根据业务的重要性为业务分配预定数量的预定模式线程；其中线程包括保护模式线程、普通模式线程、和限制模式线程；

线程池初始化模块，用于在系统启动时根据所述业务-线程池配置模块的设置对整个线程池进行初始化；并且用于将预设数量的线程分别划分为保护模式线程、普通模式线程、和限制模式线程；以及

业务执行模块，用于根据业务的类型来执行业务，还用于使每个类型的业务队列自身监控自己队列中是否有业务，如果有则查看线程池是否有相应线程资源可用，一旦发现有相应的空闲线程资源，则获取该线程资源并执行业务；

其中，所述保护模式线程是为重要业务预留的，不能被其它类型业务使用，并且当所述重要业务使用的线程数已达到所述保护模式线程的上限时，能够被分配所述普通模式线程和/或所述限制模式线程；当确定业务的类型是重要业务时，确定是否有保护模式线程可用，即是否达到保护模式线程的数量的上限；如果有保护模式线程可用，则从池中获取线程资源并执行业务；如果没有保护模式线程可用，确定是否有普通模式线程或限制模式线程可用；如果确定有普通模式线程或限制模式线程可用，则从池中获取线程资源并执行业务；如果确定没有普通模式线程和限制模式线程可用，则将业务放入对应类型业务的业务队列中等待执行。

2.根据权利要求1所述的系统，其中所述限制模式线程是为低优先级业务或不稳定业务划分的，能够被重要业务或普通业务占用，并且当所述低优先级业务或不稳定业务使用的线程数已达到所述限制模式线程的上限时，不被分配其他模式线程，后面的请求会被排队或拒绝。

3.根据权利要求1所述的系统，其中所述普通模式线程是为普通业务划分的，能够被重要业务占用，并且当所述普通业务使用的线程数已达到普通模式线程的上限时，能够被分配限制模式线程。

4.根据权利要求1所述的系统，进一步包括线程快照模块，用于提供线程池中所有线程的情况。

5.根据权利要求1所述的系统，进一步包括业务-线程池动态配置模块，用于动态配置特定业务的线程分配。

6.根据权利要求1所述的系统，进一步包括业务限时模块，用于在业务达到设置的过期时间后还没有执行完的情况下，自动中断该业务。

7.一种用于管理业务线程池的方法，包括：

根据业务的重要性为业务分配预定数量的预定模式线程；其中线程包括保护模式线程、普通模式线程、和限制模式线程；

在系统启动时根据设置对整个线程池进行初始化；在初始化时将预设数量的线程分别划分为保护模式线程、普通模式线程、和限制模式线程；以及

根据业务的类型来执行业务，以及使每个类型的业务队列自身监控自己队列中是否有业务，如果有则查看线程池是否有相应线程资源可用，一旦发现有相应的空闲线程资源，则获取该线程资源并执行业务；

其中，所述保护模式线程是为重要业务预留的，不能被其它类型业务使用，并且当所述重要业务使用的线程数已达到所述保护模式线程的上限时，能够被分配所述普通模式线程和/或所述限制模式线程；当确定业务的类型是重要业务时，确定是否有保护模式线程可用，即是否达到保护模式线程的数量的上限；如果有保护模式线程可用，则从池中获取线程资源并执行业务；如果没有保护模式线程可用，确定是否有普通模式线程或限制模式线程可用；如果确定有普通模式线程或限制模式线程可用，则从池中获取线程资源并执行业务；如果确定没有普通模式线程和限制模式线程可用，则将业务放入对应类型业务的业务队列中等待执行。

8.根据权利要求7所述的方法，其中，根据业务的重要性为业务分配预定数量的预定模式线程包括为低优先级业务或不稳定业务划分限制模式线程。

9.根据权利要求7所述的方法，其中，根据业务的重要性为业务分配预定数量的预定模式线程包括为普通业务划分普通模式线程。

10.根据权利要求7所述的方法，进一步：提供线程池中所有线程的情况。

11.根据权利要求7所述的方法，进一步包括：动态配置特定业务的线程分配。

12.根据权利要求7所述的方法，进一步包括：在业务达到设置的过期时间后还没有执行完的情况下，自动中断该业务。