CN112269660B - 一种海量数据处理并发任务自适应测控方法及系统 - Google Patents
一种海量数据处理并发任务自适应测控方法及系统 Download PDFInfo
- Publication number
- CN112269660B CN112269660B CN202011167948.8A CN202011167948A CN112269660B CN 112269660 B CN112269660 B CN 112269660B CN 202011167948 A CN202011167948 A CN 202011167948A CN 112269660 B CN112269660 B CN 112269660B
- Authority
- CN
- China
- Prior art keywords
- database
- cpu
- parameter
- group
- application server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/5018—Thread allocation
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种海量数据处理并发任务自适应测控方法,包括通过参数扫描器对应用服务器群、数据库服务器群进行扫描,将步扫描到的硬件参数发送到性能指标匹配判定器内并进行工程匹配性判定,将通过累加获得的应用服务器群CPU线程总数和数据库服务器群CPU线程总数发送至群性能匹配判定器进行工程判定。通过数据分割器对待处理的数据表进行等值分割,通过并发任务控制器启动与其CPU线程数等量的并发数据处理任务,进行实时数据处理。优点是对关键服务器的最佳并发任务数与CPU核心数、线程数、内存容量等硬件性能进行自适应匹配,克服了服务器在处理海量数据时的处理任务轻载或过载问题,提高数据处理效率。
Description
技术领域
本发明涉及并发任务处理领域,具体涉及一种海量数据处理并发任务自适应测控方法及系统。
背景技术
随着信息系统在人类社会各领域应用的不断深入,反映人类生活规律的各类数据的存储量越来越大,如:电子商务、交通出行、电子教育等。这些数据的快速、高效分析结果能够为各行各业的发展决策提供科学的依据。而如何从海量的日常数据中快速提取高价值商用信息是人类社会活动的迫切需求,现有计算机应对海量数据处理耗时长造成了高价值商用信息的应用延迟。长期以来,如何科学有效地提高应用程序并发任务数并且合理分割数据库来提高数据处理效率一直困扰着息处理行业的发展。并发任务的处理需要计算机系统各个模块之间的密切配合,否则将会造成并发任务无法及时处理,严重拖慢软件的运行,严重甚至会导致计算机系统的宕机。同时如何将加计算机系统内的硬件与并发任务之间进行匹配同样是现存的难题,通过并发任务与CPU核心数、内存等硬件之间的更好配合可有效实现并发任务的快速处理,同时降低硬件购置资金的浪费。
因此,探索信息处理网络提高信息处理效率,有效利用信息网络中关键节点设备的高性能、科学地优化各关键服务节点间的协作关系成为亟待解决的问题。
发明内容
本发明所要解决的技术问题是:提供一种海量数据处理并发任务自适应测控方法及系统,解决处理处理海量数据时并发任务数与CPU核心数、线程数的合理匹配问题,实现提高海量数据处理效率的目标。
本发明解决上述问题所采用的技术方案为:一种海量数据处理并发任务自适应测控方法,包括以下步骤:
步骤1、通过参数扫描器对网络系统中的应用服务器群、数据库服务器群进行扫描,记录每个应用服务器和数据库服务器的硬件参数,并将所述的硬件参数存储于硬件参数寄存器内,所述的硬件参数包括CPU核心数、线程数以及内存容量值;
步骤2、将步骤1中扫描到的硬件参数经性能指标提取器处理后发送到性能指标匹配判定器内并进行工程匹配性判定,若不符合参数要求,通过系统管理员对其进行硬件调整,使其符合参数要求;若符合参数要求,将符合参数要求的硬件参数值信息存储至群参数寄存器内;
步骤3、通过群性能指标统计器读取群参数寄存器内的硬件参数,并通过累加获得应用服务器群中所有应用服务器的CPU线程总数为NAthread和数据库服务器群中所有数据库服务器的CPU线程总数为NDthread;
步骤4、将步骤3中获得的应用服务器群CPU线程总数和数据库服务器群CPU线程总数发送至群性能匹配判定器进行工程判定,若不符合工程要求,通过系统管理员对应用服务器群相应的应用服务器的CPU核心数进行调整,使应用服务器群CPU线程总数大于等于数据库服务器群CPU线程总数,符合工程要求;若符合工程要求,将应用服务器群CPU线程总数及群中每个应用服务器的CPU线程数传递至数据库控制器;
步骤5、通过数据库控制器的数据分割器对数据库中待处理的数据表进行等值分割为NAthread个分割表,对表名进行自动编号并记录保存在分割信息寄存器内;
步骤6、通过并发任务控制器在应用服务器群中的每个应用服务器上启动与其线程数等量的数据处理任务,并依次传递相应的表名,进行实时数据处理;
步骤7、通过步骤6完成任务处理的应用程序反馈任务结束状态信息给并发任务控制器。并发任务控制器收集全部反馈信息后,将信息发送至数控库控制器,数据库控制器的数据合并器对分割表的处理结果进行合并,并存储合并结果至合并结果存储器。当某个应用程序结束状态信息异常,数据库控制器会重新将处理异常的表名发送给并发任务控制器再次启动应用程序处理表中的数据。
优选地,所述的内存容量值为NRAM,CPU核心数为NCPU,所述步骤2中的参数要求为NRAM/NCPU≥4为符合参数要求,否则为不符合参数要求。
优选地,步骤4中的工程要求关系为应用服务器群CPU线程总数为NAthread与数据库服务器群CPU线程总数为NDthread相比,当NAthread≥NDthread时为符合工程要求,否则为不符合工程要求。
优选地,所述的参数扫描器包括CPU硬件特征检测器和内存硬件特征检测器,所述的CPU硬件特征检测器用于检测CPU核心数、线程数。所述的内存硬件特征检测器用于检测应用服务器群、数据库服务器群每个成员服务器的内存容量值。
优选地,所述步骤2通过性能指标提取器对硬件参数寄存器内的硬件参数进行提取,并通过性能指标提取器将硬件参数处理后发送至性能指标匹配判定器。
海量数据处理并发任务自适应测控系统,包括由多个应用服务器构成的应用服务器群、多个数据库服务器构成的数据库服务器群以及单服务器参数检测单元、服务器群并发任务管控单元。所述的单服务器参数检测单元用于扫描、处理、存储应用服务器群和数据库服务器群中每个成员服务器的硬件参数信息,以及判定应用服务器、数据库服务器的CPU核心数与内存容量值是否匹配,并将匹配的硬件参数信息输送至服务器群并发任务管控单元。所述的服务器群并发任务管控单元用于判定应用服务器群CPU线程总数与数据库服务器群CPU线程总数是否匹配,并完成对数据库中待处理数据的等值分割以及合并 。
优选地,所述的单服务器参数检测单元包括参数扫描器、硬件参数寄存器、性能指标提取器和性能指标匹配判定器。所述的参数扫描器用于扫描应用服务器、数据库服务器对应的硬件参数信息。所述的硬件参数寄存器用于存储参数扫描器获取的硬件参数信息。所述的性能指标提取器用于读取、处理硬件参数寄存器内存储的硬件参数信息,并将处理结果发送至性能指标匹配判定器。所述的性能指标匹配判定器用于判定每个应用服务器、数据库服务器的CPU核心数与内存容量值是否匹配,并将相匹配的参数信息存储至群参数寄存器。
优选地,所述的服务器群并发任务管控单元包括群性能指标统计器、群性能匹配判定器、数据库控制器和分割信息寄存器。所述的群性能指标统计器用于读取群参数寄存器内的参数信息,并进行累加处理获得应用服务器群CPU线程总数和数据库服务器群CPU线程总数。所述的群性能匹配判定器用于判定应用服务器群CPU线程总数与数据库服务器群CPU线程总数是否匹配,并将相匹配的应用服务器群CPU线程总数以及每个应用服务器的CPU线程数发送至数据库控制器。所述的数据库控制器用于将数据库中待处理的数据表拆分成多个分割表,并将分割表的表名编号及每个应用服务器的CPU线程数存储至分割信息寄存器。
优选地,所述的服务器群并发任务管控单元还包括并发任务控制器。所述的并发任务控制器包括任务启动器和任务状态检测器。所述的任务启动器依据分割信息寄存器内的信息依次控制每个应用服务器启动与其自身CPU线程数相等数量的数据处理任务。所述的任务状态检测器用于检测执行数据处理任务的应用程序的结束状态,并在数据处理任务全部完成后发送全体任务完成指令信息至数据库控制器。
优选地,所述的数据库控制器包括数据分割器和数据合并器。所述的数据分割器用于将数据库中待处理的数据表等值分割成NAthread个分割表。所述的数据合并器用于在数据库控制器接收到全体任务完成指令后对每个分割表的处理结果进行合并,并将合并后的结果存储至合并结果存储器中。
与现有技术相比,本发明的优点之一是从信息系统关键数据处理设备的性能获取入手,对关键服务器的最佳并发任务数与CPU核心数、线程数、内存容量等硬件性能的自适应匹配关系给出了明确的实用性结果,每台服务器根据自身的硬件性能自适应的匹配并发任务数,克服了服务器在处理海量数据时的处理任务轻载获过载问题,使得负载均衡效果及数据处理效率大幅度提高。本发明的优点之二是对决定海量数据处理效率的应用服务器群和数据库服务器群的CPU总线程数匹配关系给出了具体要求,要求应用服务器群的CPU总线程数大于等于数据库服务器群的CPU总线程数,以便于应用服务器群执行高并发数据处理任务时,数据库服务器群在群集后可自行实现任务负载均衡且不会出现性能瓶颈问题。本发明的优点之三是根据应用服务器群CPU总线程数来等值分割存储海量数据的数据库中的数据表,为应用服务器群中的每个并发任务提供独立的数据处理单元,由于每个并发任务属于同一个应用程序的不同副本,所以任务处理程序与其所处理的数据为一对一关系,随着CPU核心数及线程数的提高,系统可并发的任务数随之提高,数据的处理效率随着应用服务器群总线程数的提高而同步提高。本发明的优点之四是对于单服务器在最佳并发任务数时CPU核心数、线程数与内存容量的不匹配给出报警。对于应用服务器群在最佳并发任务数时CPU线程数与数据库服务器群的CPU线程数不匹配时给出报警,保证了关键数据处理节点在最优的高效率状态下运行并提供最佳的处理能力。数据分割的数量按照应用服务器群CPU总线程数来确定更加科学合理。
附图说明
图1为海量数据处理并发任务自适应测控方法的工作流程图;
图2为海量数据处理并发任务自适应测控系统的系统连接框架图。
具体实施方式
以下结合附图实施例对本发明作进一步详细描述。
一种海量数据处理并发任务自适应测控方法,包括以下步骤:
步骤1、通过参数扫描器S对网络系统中的应用服务器群AF、数据库服务器群DF进行扫描,记录各个应用服务器和数据库服务器的硬件参数。硬件参数存储于硬件参数寄存器R内,硬件参数包括CPU核心数、线程数以及内存容量值;其中参数扫描器S包括CPU硬件特征检测器和内存硬件特征检测器,CPU硬件特征检测器用于检测CPU核心数、线程数。内存硬件特征检测器用于检测应用服务器群AF、数据库服务器群DF对应的内存容量值。
步骤2、过性能指标提取器C对硬件参数寄存器R内的硬件参数进行提取,并通过性能指标提取器C将硬件参数发送至性能指标匹配判定器L,通过性能指标匹配判定器L进行工程匹配性判定,若不符合参数要求,通过报警器A发出报警信息,并通过系统管理员对其进行硬件调整,即通过系统管理员对内存容量进行重新调整,使其符合参数要求;若符合参数要求,将符合参数要求的硬件参数值对应的信息存储至群参数寄存器CR内;其中内存容量值为NRAM(单位:GB),CPU核心数为NCPU(单位:个),参数要求为NRAM/NCPU≥4为符合参数要求,否则为不符合参数要求。
步骤3、通过群性能指标统计器CC读取群参数寄存器CR内的硬件参数,并通过累加获得应用服务器群AF中所有应用服务器的CPU线程总数为NAthread和数据库服务器群DF中所有数据库服务器的CPU线程总数为NDthread;
步骤4、将步骤3中获得的应用服务器群AF的CPU线程总数和数据库服务器群DF的CPU线程总数发送至群性能匹配判定器CL进行工程判定,若不符合工程要求,通过报警器AC发出报警信息,并通过系统管理员对应用服务器群AF中相应的应用服务器的CPU核心数进行调整,使应用服务器群AF的CPU线程总数大于等于数据库服务器群DF中CPU线程总数,符合工程要求;若符合工程要求,将应用服务器群AF的CPU线程总数及对应的每个成员应用服务器的CPU线程数传递至数据库控制器DC;其中工程要求关系为应用服务器群AF的CPU线程总数为NAthread与数据库群CPU线程总数为NDthread相比,当NAthread≥NDthread时为符合工程要求,否则为不符合工程要求。
步骤5、通过数据库控制器DC的数据分割器对数据库中待处理的数据表进行等值分割为NAthread个分割表,对表名进行自动编号并记录保存在分割信息寄存器SR内;同时数据库控制器DC的数据合并器实时监听并发任务控制器返回的指令;
步骤6、通过并发任务控制器TC依次在应用服务器群AF的每个成员应用服务器中启动与其CPU线程数等量的数据处理任务,并依次传递响应的表名,进行实时并发数据处理;
步骤7、通过步骤6完成任务处理完成后,并发任务控制器TC收集每个数据处理任务结束的反馈信息,反馈信息收集完成后发送至数控库控制器DC。当数据库控制器DC接收到并发任务控制返回的所有任务正常结束的指令时,数据库控制器DC的数据合并器对分割表的处理结果进行合并,并存储至结果存储器,结束任务。当并发任务控制器TC反馈了数据处理任务非正常结束信息时,数据库控制器DC再次调用任务启动器在非正常结束任务的服务器上重新启动任务处理程序。
适配上述方法的海量数据处理并发任务自适应测控系统,主要包括由多个应用服务器构成的应用服务器群AF、多个数据库服务器构成的数据库服务器群DF以及单服务器参数检测单元、服务器群并发任务管控单元。单服务器参数检测单元用于扫描、存储、处理应用服务器群AF和数据库服务器群DF的硬件参数信息,以及判定应用服务器、数据库服务器的CPU核心数与内存容量值是否匹配,并将匹配的硬件参数信息输送至服务器群并发任务管控单元。服务器群并发任务管控单元用于判定应用服务器群AF的CPU线程总数与数据库服务器群DF的CPU线程总数是否匹配,并完成对数据库中待处理数据的等值分割以及处理结果合并 。
其中,单服务器参数检测单元包括参数扫描器S、硬件参数寄存器R、性能指标提取器C、性能指标匹配判定器L和群参数寄存器CR。参数扫描器S用于扫描应用服务器、数据库服务器的硬件参数信息,硬件参数寄存器R用于存储参数扫描器S获取的硬件参数信息,性能指标提取器C用于处理、提取硬件参数寄存器R内存储的硬件参数信息,并将处理后的参数发送至性能指标匹配判定器L,性能指标匹配判定器L用于判定应用服务器、数据库服务器的CPU核心数与内存容量值是否匹配,并将相匹配的参数信息存储至群参数寄存器CR。
服务器群并发任务管控单元包括群性能指标统计器CC、群性能匹配判定器CL、数据库控制器DC、分割信息寄存器SR、并发任务管理器和合并结果存储器DR。群性能指标统计器CC用于读取群参数寄存器CR内的参数信息,并进行累加处理获得应用服务器群AF的CPU线程总数和数据库群DF的CPU线程总数。群性能匹配判定器CL用于判定应用服务器群AF的CPU线程总数与数据库服务器群DF的CPU线程总数是否匹配,并将相匹配的应用服务器群AF的CPU线程总数以及每个成员应用服务器的CPU线程数发送至数据库控制器DC,数据库控制器DC用于将数据库中待处理的数据表分割成多个分割表,并通过分割信息寄存器SR对分割表的编号以及每个应用服务器的CPU线程数进行存储。上述的服务器群并发任务管控单元中包括的并发任务控制器TC中还包括任务启动器和任务状态检测器,任务启动器依据分割信息寄存器SR内的信息依次控制每个应用服务器启动与其自身CPU线程数相等数量的数据处理任务,任务状态检测器用于检测每个并发任务的结束状态,并在数据处理任务处理完成后发送所有任务的结束状态信息至数据库控制器DC。
上述的数据库控制器DC包括数据分割器和数据合并器,数据分割器用于将数据库中待处理的数据表等值分割成NAthread个分割表,合并器用于在数据库控制器DC接收到全体任务正常结束信息后对每个分割表被处理的结果进行合并,并将合并后的结果存储至合并结果存储器DR中。
上述的参数扫描器S包括CPU硬件特征检测器和内存硬件特征检测器,CPU硬件特征检测器用于检测应用服务器群AF、数据库服务器群DF中每个服务器的CPU核心数、线程数。内存硬件特征检测器用于检测应用服务器群AF、数据库服务器群DF中每个服务器的内存容量值;硬件参数寄存器R为文本文件,用于存储参数扫描器S所扫描识别出的硬件参数信息;群参数寄存器CR由两个文本文件构成,分别用于存储处理后的应用服务器群AF内所有应用服务器参数值,以及数据库服务器群DF内所有数据库服务器参数值。
海量数据处理并发任务自适应测控系统的工作过程为:单服务器参数监测单元的参数扫描器S分别扫描应用服务器群AF和数据库服务器群DF的每个对应的服务器CPU核心数、线程数以及内存容量值,每个成员服务器的CPU核心数与内存容量值进行工程匹配性判定,若这两个值不符合参数要求就提示系统管理员进行硬件调整,若这两个值符合参数要求就将群名称、服务器名称、CPU核心数、CPU线程数和内存容量值保存在群参数寄存器CR中。
在服务器群并发任务管控单元中,群性能指标统计器CC分别统计应用服务器群AF和数据库服务器群DF的总体核心数、线程数值,将两个服务器群的总的CPU线程数值按照工程要求进行匹配性比对。若两个服务器群的CPU线程数值不满足工程要求,就提示系统管理员调整数据库服务器硬件配置。若两个服务器群的CPU线程数值满足工程要求,数据库控制器DC根据应用服务器群AF的总线程数对数据库DB进行多表分割,并将分割后的表名信息记录在分割信息寄存器SR中。并发任务控制器TC在每个应用服务器中启动与其CPU线程数等量的数据处理任务数,同时依次传递相应的表名,实施数据处理。应用服务器中每个数据处理任务完成后反馈信息给并发任务控制器TC,所有任务正常结束后,并发任务控制器TC反馈信息给数据库控制器DC,数据合并器合并数据库DB中分割数据表处理的结果,放入合并结果存储器DR中。若应用服务器中某个数据处理任务异常终止,应用服务器反馈信息给并发任务控制器TC。数据库控制器DC接收到任务异常结束信息后,重新发送任务处理指令给并发任务控制器TC,重新启动数据处理任务完成上次异常终止的数据表的处理。
以上所述实施例仅为本发明的优选实施例,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的技术人员来说,在不脱离本发明构思的前提下,还可以做出若干的变形和改进,这些都属于本发明的保护范围。
Claims (10)
1.一种海量数据处理并发任务自适应测控方法,其特征在于,包括以下步骤:
步骤1、通过参数扫描器对网络系统中的应用服务器群、数据库服务器群进行扫描,记录各个应用服务器和数据库服务器的硬件参数,并所述的硬件参数存储于硬件参数寄存器内,所述的硬件参数包括CPU核心数、线程数以及内存容量值;
步骤2、将步骤1中扫描到的硬件参数发送到性能指标匹配判定器内并进行工程匹配性判定,若不符合参数要求通过系统管理员对其进行硬件调整,使其符合参数要求;若符合参数要求,将符合参数要求的硬件参数值对应的信息存储至群参数寄存器内;
步骤3、通过群性能指标统计器读取群参数寄存器内的硬件参数,并通过累加获得应用服务器群中所有应用服务器的CPU线程总数为NAthread和数据库服务器群中所有数据库服务器的CPU线程总数为NDthread;
步骤4、将步骤3中获得的应用服务器群CPU线程总数和数据库服务器群CPU线程总数发送至群性能匹配判定器进行工程判定,若不符合工程要求通过系统管理员对应用服务器群对应的应用服务器的CPU核心数进行调整,使应用服务器群CPU线程总数大于等于数据库服务器群CPU线程总数,符合工程要求;若符合工程要求,将应用服务器群CPU线程总数及对应的应用服务器的CPU线程数传递至数据库控制器;
步骤5、通过数据库控制器的数据分割器对数据库中待处理的数据表进行等值分割为NAthread个分割表,对表名进行自动编号并记录保存在分割信息寄存器内;
步骤6、通过并发任务控制器在应用服务器群的各成员服务器中启动与其CPU线程数等量的并发数据处理任务,并依次传递相应的表名,进行实时数据处理;
步骤7、通过步骤6完成数据任务的每个应用程序在任务结束后,反馈应用程序正常结束信息给并发任务控制器,当全部应用程序都正常结束后,并发任务控制器发送任务结束指令至数据库控制器,数据库控制器的数据合并器对分割表的处理结果进行合并,并存储至合并结果存储器,当应用服务器有未正常结束的应用程序时,并发任务控制器发送反馈信息至数据库控制器,数据库控制器重新发送表名给并发任务控制器单独启动应用服务器的应用程序重新处理未完成处理的数据表。
2.如权利要求1所述的一种海量数据处理并发任务自适应测控方法,其特征在于,所述的内存容量值为NRAM,CPU核心数为NCPU,所述步骤2中的参数要求为NRAM/NCPU≥4为符合参数要求,否则为不符合参数要求。
3.如权利要求1所述的一种海量数据处理并发任务自适应测控方法,其特征在于,步骤4中的工程要求关系为应用服务器群CPU线程总数为NAthread与数据库群CPU线程总数为NDthread相比,当NAthread≥NDthread时为符合工程要求,否则为不符合工程要求。
4.如权利要求1所述的一种海量数据处理并发任务自适应测控方法,其特征在于,所述的参数扫描器包括CPU硬件特征检测器和内存硬件特征检测器,所述的CPU硬件特征检测器用于检测CPU核心数、线程数,所述的内存硬件特征检测器用于检测应用服务器群、数据库服务器群中所有成员服务器的内存容量值。
5.如权利要求1所述的一种海量数据处理并发任务自适应测控方法,其特征在于,所述步骤2通过性能指标提取器对硬件参数寄存器内的硬件参数进行提取,并通过性能指标提取器处理后将硬件参数发送至性能指标匹配判定器。
6.用于适配权利要求1所述一种海量数据处理并发任务自适应测控方法的海量数据处理并发任务自适应测控系统,其特征在于,包括由多个应用服务器构成的应用服务器群、多个数据库服务器构成的数据库服务器群以及单服务器参数检测单元、服务器群并发任务管控单元,所述的单服务器参数检测单元用于扫描应用服务器群和数据库服务器群各服务器的硬件参数信息,以及判定应用服务器、数据库服务器对应的CPU核心数与内存容量值是否匹配,并将匹配的硬件参数信息输送至服务器群并发任务管控单元,所述的服务器群并发任务管控单元用于判定应用服务器群CPU线程总数与数据库服务器群CPU线程总数是否匹配,并完成对数据库中待处理数据的等值分割以及合并 。
7.如权利要求6所述的海量数据处理并发任务自适应测控系统,其特征在于,所述的单服务器参数检测单元包括CPU和内存参数扫描器、硬件参数寄存器、性能指标提取器、性能指标匹配判定器和群参数寄存器,所述的参数扫描器用于扫描每个应用服务器、数据库服务器的硬件参数信息,所述的硬件参数寄存器用于存储参数扫描器获取的硬件参数信息,所述的性能指标提取器用于读取和处理硬件参数寄存器内存储的硬件参数信息,并将处理结果发送至性能指标匹配判定器,所述的性能指标匹配判定器用于判定应用服务器、数据库服务器的CPU核心数与内存容量值是否匹配,并将相匹配的参数信息存储至群参数寄存器。
8.如权利要求7所述的海量数据处理并发任务自适应测控系统,其特征在于,所述的服务器群并发任务管控单元包括群性能指标统计器、群性能匹配判定器、数据库控制器和分割信息寄存器,所述的群性能指标统计器用于读取群参数寄存器内的参数信息,并进行累加处理获得应用服务器群CPU线程总数和数据库群CPU线程总数,所述的群性能匹配判定器用于判定应用服务器群CPU线程总数与数据库服务器群CPU线程总数是否匹配,并将相匹配的应用服务器群CPU线程总数以及各个应用服务器的线程数发送至数据库控制器,所述的数据库控制器用于将数据库中待处理的数据表分割成多个分割表,并通过分割信息寄存器对分割表的编号以及每个应用服务器的线程数进行存储。
9.如权利要求8所述的海量数据处理并发任务自适应测控系统,其特征在于,所述的服务器群并发任务管控单元还包括并发任务控制器,所述的并发任务控制器包括任务启动器和任务状态检测器,所述的任务启动器依据分割信息寄存器内的信息依次控制每个应用服务器启动与其自身CPU线程数相等数量的数据处理任务,所述的任务状态检测器用于检测应用服务器中承担数据处理任务的应用程序的结束状态,并在所有数据处理任务正常结束后发送全体任务结束指令至数据库控制器。
10.如权利要求9所述的海量数据处理并发任务自适应测控系统,其特征在于,所述的数据库控制器包括数据分割器和数据合并器,所述的数据分割器用于将数据库中待处理的数据表等值分割成NAthread个分割表,所述的合并器用于在数据库控制器接收到全体任务完成指令后对每个分割表被处理的结果进行合并,并将合并后的结果存储至合并结果存储器中。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011167948.8A CN112269660B (zh) | 2020-10-28 | 2020-10-28 | 一种海量数据处理并发任务自适应测控方法及系统 |
PCT/CN2021/071736 WO2022088515A1 (zh) | 2020-10-28 | 2021-01-14 | 一种海量数据处理并发任务自适应测控方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011167948.8A CN112269660B (zh) | 2020-10-28 | 2020-10-28 | 一种海量数据处理并发任务自适应测控方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112269660A CN112269660A (zh) | 2021-01-26 |
CN112269660B true CN112269660B (zh) | 2023-04-11 |
Family
ID=74344281
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011167948.8A Active CN112269660B (zh) | 2020-10-28 | 2020-10-28 | 一种海量数据处理并发任务自适应测控方法及系统 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN112269660B (zh) |
WO (1) | WO2022088515A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116257365B (zh) * | 2023-05-15 | 2023-08-22 | 建信金融科技有限责任公司 | 数据入库方法、装置、设备、存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105656698A (zh) * | 2016-03-24 | 2016-06-08 | 鞠洪尧 | 一种网络应用系统智能监控结构与方法 |
WO2018183422A1 (en) * | 2017-03-28 | 2018-10-04 | Cisco Technology, Inc. | Flowlet resolution for application performance monitoring and management |
CN111049914A (zh) * | 2019-12-18 | 2020-04-21 | 珠海格力电器股份有限公司 | 负载均衡方法、装置和计算机系统 |
CN111651789A (zh) * | 2020-06-05 | 2020-09-11 | 北京明朝万达科技股份有限公司 | 一种基于扫描系统的多线程安全批量反馈的方法及装置 |
CN111694648A (zh) * | 2020-06-09 | 2020-09-22 | 北京百度网讯科技有限公司 | 一种任务调度方法、装置以及电子设备 |
CN111782378A (zh) * | 2020-07-29 | 2020-10-16 | 平安银行股份有限公司 | 自适应性的处理性能调整方法、服务器及可读存储介质 |
-
2020
- 2020-10-28 CN CN202011167948.8A patent/CN112269660B/zh active Active
-
2021
- 2021-01-14 WO PCT/CN2021/071736 patent/WO2022088515A1/zh active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105656698A (zh) * | 2016-03-24 | 2016-06-08 | 鞠洪尧 | 一种网络应用系统智能监控结构与方法 |
WO2018183422A1 (en) * | 2017-03-28 | 2018-10-04 | Cisco Technology, Inc. | Flowlet resolution for application performance monitoring and management |
CN111049914A (zh) * | 2019-12-18 | 2020-04-21 | 珠海格力电器股份有限公司 | 负载均衡方法、装置和计算机系统 |
CN111651789A (zh) * | 2020-06-05 | 2020-09-11 | 北京明朝万达科技股份有限公司 | 一种基于扫描系统的多线程安全批量反馈的方法及装置 |
CN111694648A (zh) * | 2020-06-09 | 2020-09-22 | 北京百度网讯科技有限公司 | 一种任务调度方法、装置以及电子设备 |
CN111782378A (zh) * | 2020-07-29 | 2020-10-16 | 平安银行股份有限公司 | 自适应性的处理性能调整方法、服务器及可读存储介质 |
Non-Patent Citations (1)
Title |
---|
鞠洪尧.应用服务器群服务安全监控机制.电信科学.2016,(第6期),177-185. * |
Also Published As
Publication number | Publication date |
---|---|
CN112269660A (zh) | 2021-01-26 |
WO2022088515A1 (zh) | 2022-05-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107688496B (zh) | 任务分布式处理方法、装置、存储介质和服务器 | |
CN110704231A (zh) | 一种故障处理方法及装置 | |
CN110417591B (zh) | 投票节点配置方法及系统 | |
CN112769796A (zh) | 一种基于端侧边缘计算的云网端协同防御方法及系统 | |
CN109165153B (zh) | 一种高仿真证券业交易类系统的性能测试方法 | |
CN111079557B (zh) | 基于人脸识别的电力营业厅客服终端自动分配方法及系统 | |
CN102929961A (zh) | 基于构建快速数据分级通道的数据处理方法及其装置 | |
CN108334557B (zh) | 一种聚合数据分析方法、装置、存储介质及电子设备 | |
EP3640802B1 (en) | Io performance evaluation method and device for cache server | |
CN111752965A (zh) | 一种基于微服务的实时数据库数据交互方法和系统 | |
CN111045808B (zh) | 一种分布式网络任务调度方法及装置 | |
CN111860667A (zh) | 设备故障的确定方法及装置、存储介质、电子装置 | |
CN112269660B (zh) | 一种海量数据处理并发任务自适应测控方法及系统 | |
CN112328254A (zh) | 一种数据同步软件的性能优化方法与装置 | |
CN108183870B (zh) | 一种基于云成熟度的云数据中心资源调度共享方法及系统 | |
CN116089446A (zh) | 一种结构化查询语句的优化控制方法及装置 | |
CN112817987A (zh) | 访问分布式存储集群的方法及装置、设备、存储介质 | |
CN114070707A (zh) | 一种互联网性能监控方法及系统 | |
CN113419852A (zh) | 微服务的请求响应方法、装置、设备及存储介质 | |
SG193013A1 (en) | System and method for processing similar emails | |
CN117155939B (zh) | 一种实现跨集群资源调度的方法 | |
CN111158899A (zh) | 一种数据的采集方法、采集器、任务管理中心以及系统 | |
CN111414567A (zh) | 数据处理方法、装置 | |
CN109921963A (zh) | 一种网络状态巡检方法及系统 | |
CN112597223B (zh) | 一种一致性数据采集方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |