CN112035258B - 数据处理方法、装置、电子设备及介质 - Google Patents
数据处理方法、装置、电子设备及介质 Download PDFInfo
- Publication number
- CN112035258B CN112035258B CN202010898966.7A CN202010898966A CN112035258B CN 112035258 B CN112035258 B CN 112035258B CN 202010898966 A CN202010898966 A CN 202010898966A CN 112035258 B CN112035258 B CN 112035258B
- Authority
- CN
- China
- Prior art keywords
- data
- processed
- subtask
- target server
- subtasks
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/5018—Thread allocation
Abstract
本发明涉及大数据，提供一种数据处理方法、装置、电子设备及介质。该方法在检测到待处理数据属于大数据时，生成待处理任务并拆分，得到子任务及执行顺序，生成子任务的识别码并确定子任务的目标服务器，将子任务依次发送至目标服务器中，当接收到目标服务器发送的反馈数据包时，监测目标服务器处理子任务时的指标参数，并动态调整目标服务器处理子任务的实时线程数量，当接收到目标服务器发送的响应数据包时，根据执行顺序整合响应数据包，得到目标结果。本发明不仅能够使目标服务器的资源被合理利用，还能够提高子任务的处理效率，以提高待处理任务的处理效率，适用于科技金融领域。此外，本发明还涉及区块链技术，目标结果可存储于区块链中。
Description
技术领域
本发明涉及大数据技术领域，尤其涉及一种数据处理方法、装置、电子设备及介质。
背景技术
目前，为了提高企业的核心竞争力，企业通常会对日常服务过程中产生的业务数据进行分析，如通过研究业务数据以帮助企业确定用户需求，进而便于企业作出合适的决策。
在现有方案中，企业往往直接调用线程池中所有闲置线程对业务数据进行分析处理，然而，由于线程池中的线程数量有限，为此，在面对海量的业务数据时，无法对业务数据进行快速分析，严重影响了业务的进展。
发明内容
鉴于以上内容，有必要提供一种数据处理方法、装置、电子设备及介质，不仅能够使服务器的资源被合理利用，还能够提高子任务的处理效率，从而提高待处理任务的处理效率。
一种数据处理方法，所述数据处理方法包括：
当接收到数据处理请求时，检测所述数据处理请求对应的待处理数据是否属于大数据；
当检测到所述待处理数据属于所述大数据时，根据所述待处理数据生成待处理任务；
拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码；
根据每个子任务的识别码确定每个子任务对应的目标服务器，并将每个子任务依次发送至对应的目标服务器中；
当接收到每个目标服务器发送的反馈数据包时，监测每个目标服务器处理每个子任务时的指标参数；
根据所述指标参数动态调整每个目标服务器处理每个子任务的实时线程数量；
当接收到每个目标服务器发送的响应数据包时，根据所述执行顺序整合所述响应数据包，得到目标结果。
根据本发明优选实施例，所述检测所述数据处理请求对应的待处理数据是否属于大数据包括：
确定所述待处理数据的总数据量，并检测所述总数据量是否大于第一预设阈值；
获取所述待处理数据的数据类型；
确定所述数据类型的类型总量，并检测所述类型总量是否大于第二预设阈值；
当检测到所述总数据量大于所述第一预设阈值，或者所述类型总量大于所述第二预设阈值时，确定所述待处理数据属于所述大数据。
根据本发明优选实施例，所述封装所述待处理数据，得到待处理任务包括：
确定所述待处理数据所属的业务类型，得到第一类型；
封装所述待处理数据及所述第一类型，得到所述待处理任务。
根据本发明优选实施例，所述拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码包括：
解析所述待处理任务的报文头，得到所述待处理任务对应的第二类型；
根据所述第二类型从配置库中获取目标规则，所述目标规则包括多个执行指令；
依据所述目标规则拆分所述待处理任务，得到所述多个子任务，并将所述待处理任务的拆分顺序确定为所述执行顺序，所述多个子任务与所述多个执行指令相对应；
获取与每个执行指令对应的标签，并将获取到的标签作为每个子任务的标签；
融合每个子任务的标签及每个子任务的执行顺序，得到每个子任务的识别码。
根据本发明优选实施例，所述根据每个子任务的识别码确定每个子任务对应的目标服务器包括：
对于任意子任务，确定与所述任意子任务的识别码对应的多个空闲服务器；
获取所述多个空闲服务器的服务器参数，并获取与所述服务器参数相同的多个非空闲服务器；
确定所述多个非空闲服务器的处理速率，并以确定的多个处理速率作为所述多个空闲服务器的处理速率；
从所述多个空闲服务器的处理速率中选取最大的处理速率，作为目标处理速率；
将所述目标处理速率对应的空闲服务器确定为所述任意子任务对应的目标服务器。
根据本发明优选实施例，所述数据处理方法还包括：
当接收到任意目标服务器发送的任意反馈数据包时，解析所述任意反馈数据包，得到目标标识；
对与所述目标标识对应的目标子任务进行锁定。
根据本发明优选实施例，所述根据所述指标参数动态调整每个目标服务器处理每个子任务的实时线程数量包括：
当所述指标参数为CPU利用率时，检测所述CPU利用率是否超过预设标准阈值，当所述CPU利用率未超过所述预设标准阈值时，计算所述预设标准阈值与所述CPU利用率之间的差值，并根据所述CPU利用率以及预设数量，计算当前每个线程的平均CPU利用率，根据所述差值以及所述平均CPU利用率，确定待增加的线程的第一数量，将所述第一数量加上所述预设数量的运算结果确定为所述目标服务器处理所述多个子任务的实时线程数量；或者
当所述指标参数为CPU负载时，检测所述CPU负载是否超过预设负载阈值，当所述CPU负载超过所述预设负载阈值时，计算所述CPU负载与所述预设负载阈值之间的差值，并获取每个线程的最大负载值，根据所述差值以及所述最大负载值，确定待增加的线程的第二数量，将所述第二数量加上所述预设数量的运算结果确定为所述目标服务器处理所述多个子任务的实时线程数量。
一种数据处理装置，所述数据处理装置包括：
检测单元，用于当接收到数据处理请求时，检测所述数据处理请求对应的待处理数据是否属于大数据；
封装单元，用于当检测到所述待处理数据属于所述大数据时，根据所述待处理数据生成待处理任务；
拆分单元，用于拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码；
确定单元，用于根据每个子任务的识别码确定每个子任务对应的目标服务器，并将每个子任务依次发送至对应的目标服务器中；
监测单元，用于当接收到每个目标服务器发送的反馈数据包时，监测每个目标服务器处理每个子任务时的指标参数；
处理单元，用于根据所述指标参数动态调整每个目标服务器处理每个子任务的实时线程数量；
整合单元，用于当接收到每个目标服务器发送的响应数据包时，根据所述执行顺序整合所述响应数据包，得到目标结果。
一种电子设备，所述电子设备包括：
存储器，存储至少一个指令；及
处理器，执行所述存储器中存储的指令以实现所述数据处理方法。
一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一个指令，所述至少一个指令被电子设备中的处理器执行以实现所述数据处理方法。
由以上技术方案可以看出，本发明在检测到所述待处理数据属于所述大数据时，根据所述待处理数据生成待处理任务，拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码，对所述待处理任务进行拆分，能够将拆分得到的多个子任务分别发送至目标服务器进行处理，减轻单个服务器的压力，还能加快所述待处理任务的处理，根据每个子任务的识别码确定每个子任务对应的目标服务器，并将每个子任务依次发送至对应的目标服务器中，根据识别码能够确定有处理权限的服务器，通过确定有处理权限的服务器能够提高任务处理的安全性，当接收到每个目标服务器发送的反馈数据包时，监测每个目标服务器处理每个子任务时的指标参数，根据所述指标参数动态调整每个目标服务器处理每个子任务的实时线程数量，通过动态调整实时线程数据，不仅能够使目标服务器的资源被合理利用，还能够提高子任务的处理效率，以提高待处理任务的处理效率，当接收到每个目标服务器发送的响应数据包时，根据所述执行顺序整合所述响应数据包，得到目标结果。
附图说明
图1是本发明数据处理方法的较佳实施例的流程图。
图2是本发明数据处理装置的较佳实施例的功能模块图。
图3是本发明实现数据处理方法的较佳实施例的电子设备的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚，下面结合附图和具体实施例对本发明进行详细描述。
如图1所示，是本发明数据处理方法的较佳实施例的流程图。根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。
所述数据处理方法应用于智慧政务场景中，从而推动智慧城市的建设。所述数据处理方法应用于一个或者多个电子设备中，所述电子设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。
所述电子设备可以是任何一种可与用户进行人机交互的电子产品，例如，个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant，PDA)、游戏机、交互式网络电视(Internet Protocol Television，IPTV)、智能穿戴式设备等。
所述电子设备还可以包括网络设备和/或用户设备。其中，所述网络设备包括，但不限于单个网络服务器、多个网络服务器组成的服务器组或基于云计算(CloudComputing)的由大量主机或网络服务器构成的云。
所述电子设备所处的网络包括，但不限于：互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network，VPN)等。
S10，当接收到数据处理请求时，检测所述数据处理请求对应的待处理数据是否属于大数据。
在本发明的至少一个实施例中，所述大数据是由巨型数据集组成，所述巨型数据集的大小通常超出用户在可接受时间范围内的数据收集、数据管理和数据处理能力。所述大数据具有数据量巨大、数据类型多样等特点，其中，所述数据类型可以包括：图片类型、音频类型等。
在本发明的至少一个实施例中，所述电子设备检测所述数据处理请求对应的待处理数据是否属于大数据包括：
确定所述待处理数据的总数据量，并检测所述总数据量是否大于第一预设阈值；
获取所述待处理数据的数据类型，并确定所述数据类型的类型总量，并检测所述类型总量是否大于第二预设阈值；
当检测到所述总数据量大于所述第一预设阈值，或者所述类型总量大于所述第二预设阈值时，确定所述待处理数据属于所述大数据。
其中，所述第一预设阈值及所述第二预设阈值的取值可以根据应用场景设置，本发明对此所述第一预设阈值及所述第二预设阈值的取值不作限制。
通过上述实施方式，能够确定出超出用户在可接受时间范围内的数据收集、数据管理和数据处理能力的数据集。
S11，当检测到所述待处理数据属于所述大数据时，根据所述待处理数据生成待处理任务。
在本发明的至少一个实施例中，所述电子设备根据所述待处理数据生成待处理任务包括：
确定所述待处理数据所属的业务类型，得到第一类型；
封装所述待处理数据及所述第一类型，生成所述待处理任务。
通过上述实施方式，能够将所述待处理数据转换为所述待处理任务，有利于所述待处理数据的处理。
S12，拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码。
在本发明的至少一个实施例中，所述电子设备拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码包括：
解析所述待处理任务的报文头，得到所述待处理任务对应的第二类型；
根据所述第二类型从配置库中获取目标规则，所述目标规则包括多个执行指令；
依据所述目标规则拆分所述待处理任务，得到所述多个子任务，并将所述待处理任务的拆分顺序确定为所述执行顺序，所述多个子任务与所述多个执行指令相对应；
获取与每个执行指令对应的标签，并将获取到的标签作为每个子任务的标签；
融合每个子任务的标签及每个子任务的执行顺序，得到每个子任务的识别码。
其中，所述配置库中存储所述第二类型与预设规则的映射关系。
例如，解析待处理任务A的报文头，得到所述待处理任务A对应的第二类型为保险行业，从配置库中获取与所述保险行业对应的目标规则为：“筛选-切分-组合”，所述目标规则分别包括筛选、切分、组合三个执行指令，依据目标规则“筛选-切分-组合”拆分所述待处理任务A，得到三个子任务，分别为子任务a、子任务b及子任务c，以所述待处理任务A的拆分顺序作为子任务的执行顺序，因此，每个子任务的执行顺序为：所述子任务a的执行顺序为“序号1”、所述子任务b的执行顺序为“序号2”及所述子任务c的执行顺序为“序号3”，获取到筛选执行指令的标签为shaixuan，标签“shaixuan”作为所述子任务a的标签，获取到切分执行指令的标签为qiefen，标签“qiefen”作为所述子任务b的标签，获取到组合执行指令的标签为zuhe，标签“zuhe”作为所述子任务c的标签，融合所述子任务a的标签及执行顺序，得到所述子任务a的识别码为“shaixuan序号1”，依次融合每个子任务的标签及执行顺序，得到所述子任务b的识别码为“qiefen序号2”，所述子任务c的识别码为“zuhe序号3”。
通过上述实施方式，能够生成具有唯一性的子任务的识别码，从而有利于通过识别码准确确定处理子任务的服务器。
S13，根据每个子任务的识别码确定每个子任务对应的目标服务器，并将每个子任务依次发送至对应的目标服务器中。
在本发明的至少一个实施例中，所述目标服务器是指能够处理与识别码对应任务的服务器。
在本发明的至少一个实施例中，所述电子设备根据每个子任务的识别码确定每个子任务对应的目标服务器包括：
对于任意子任务，确定与所述任意子任务的识别码对应的多个空闲服务器；
获取所述多个空闲服务器的服务器参数，并获取与所述服务器参数相同的多个非空闲服务器；
确定所述多个非空闲服务器的处理速率，并以确定的多个处理速率作为所述多个空闲服务器的处理速率；
从所述多个空闲服务器的处理速率中选取最大的处理速率，作为目标处理速率；
将所述目标处理速率对应的空闲服务器确定为所述任意子任务对应的目标服务器。
其中，所述服务器参数包括服务器的CPU型号、所述服务器的总内存及所述服务器的硬盘。
通过上述实施方式，能够确定出适合处理每个子任务的服务器，有利于提高子任务的处理效率。
S14，当接收到每个目标服务器发送的反馈数据包时，监测每个目标服务器处理每个子任务时的指标参数。
在本发明的至少一个实施例中，所述指标参数包括CPU利用率及CPU负载。
在本发明的至少一个实施例中，所述方法还包括：
当接收到任意目标服务器发送的任意反馈数据包时，解析所述任意反馈数据包，得到目标标识；
对与所述目标标识对应的目标子任务进行锁定。
通过对所述目标子任务的锁定，能够避免所述目标子任务被其他服务器抢占并处理，进而能够避免所述目标子任务被重复处理。
S15，根据所述指标参数动态调整每个目标服务器处理每个子任务的实时线程数量。
在本发明的至少一个实施例中，所述实时线程数量是指在CPU利用率及CPU负载满足规定的情况下，目标服务器处理子任务所需的线程数据。
在本发明的至少一个实施例中，所述电子设备根据所述指标参数动态调整每个目标服务器处理每个子任务的实时线程数量包括：
(1)当所述指标参数为CPU利用率时，检测所述CPU利用率是否超过预设标准阈值，当所述CPU利用率未超过所述预设标准阈值时，计算所述预设标准阈值与所述CPU利用率之间的差值，并根据所述CPU利用率以及预设数量，计算当前每个线程的平均CPU利用率，根据所述差值以及所述平均CPU利用率，确定待增加的线程的第一数量，将所述第一数量加上所述预设数量的运算结果确定为所述目标服务器处理所述多个子任务的实时线程数量。
由于线程的数量过少，可能会导致CPU利用率过低，使系统资源得不到合理利用，在这种情况下，可以根据当前检测到的CPU利用率的使用情况，来动态变更处理子任务的线程数量，即增加线程，使得处理子任务数据的实时线程数量增加，进而充分利用系统资源，同时，加快子任务处理的速度，提高效率。
(2)当所述指标参数为CPU负载时，检测所述CPU负载是否超过预设负载阈值，当所述CPU负载超过所述预设负载阈值时，计算所述CPU负载与所述预设负载阈值之间的差值，并获取每个线程的最大负载值，根据所述差值以及所述最大负载值，确定待增加的线程的第二数量，将所述第二数量加上所述预设数量的运算结果确定为所述目标服务器处理所述多个子任务的实时线程数量。
由于线程的数量过少，可能会导致CPU负载太高，进而使系统崩溃，在这种情况下，可以根据当前检测到的CPU负载的使用情况，来动态变更处理子任务的线程的数量，即增加线程，使得处理子任务实时线程数量增加，从而分摊当前处理子任务的线程的压力，这样不仅可以充分利用系统资源，还能减少单个线程的处理压力，同时，还可以加快子任务处理的速度，提高效率。
S16，当接收到每个目标服务器发送的响应数据包时，根据所述执行顺序整合所述响应数据包，得到目标结果。
需要强调的是，为进一步保证上述目标结果的私密和安全性，上述目标结果还可以存储于一区块链的节点中。
在本发明的至少一个实施例中，所述目标结果是指所述待处理任务的执行结果。
在本发明的至少一个实施例中，在根据所述执行顺序整合所述响应数据包，得到目标结果后，所述方法还包括：
获取所述数据处理请求的请求编号；
根据所述请求编号及所述目标结果生成提示信息；
采用对称加密技术加密所述提示信息，得到密文；
确定所述数据处理请求的等级，并根据所述等级确定所述密文的发送方式；
以所述发送方式将所述密文发送至指定联系人的终端设备。
其中，所述指定联系人是指负责大数据分析的分析人员。
其中，所述发送方式包括，但不限于：邮件方式、电话方式等。
通过上述实时方式，不仅能够以合适的发送方式发送所述密文，还能够在得到所述目标结果后，及时通知所述指定联系人。
由以上技术方案可以看出，本发明在检测到所述待处理数据属于所述大数据时，根据所述待处理数据生成待处理任务，拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码，对所述待处理任务进行拆分，能够将拆分得到的多个子任务分别发送至目标服务器进行处理，减轻单个服务器的压力，还能加快所述待处理任务的处理，根据每个子任务的识别码确定每个子任务对应的目标服务器，并将每个子任务依次发送至对应的目标服务器中，根据识别码能够确定有处理权限的服务器，通过确定有处理权限的服务器能够提高任务处理的安全性，当接收到每个目标服务器发送的反馈数据包时，监测每个目标服务器处理每个子任务时的指标参数，根据所述指标参数动态调整每个目标服务器处理每个子任务的实时线程数量，通过动态调整实时线程数据，不仅能够使目标服务器的资源被合理利用，还能够提高子任务的处理效率，以提高待处理任务的处理效率，当接收到每个目标服务器发送的响应数据包时，根据所述执行顺序整合所述响应数据包，得到目标结果。
如图2所示，是本发明数据处理装置的较佳实施例的功能模块图。所述数据处理装置11包括检测单元110、封装单元111、拆分单元112、确定单元113、监测单元114、处理单元115、整合单元116、解析单元117、锁定单元118、获取单元119、生成单元120、加密单元121及发送单元122。本发明所称的模块/单元是指一种能够被处理器13所获取，并且能够完成固定功能的一系列计算机可读指令段，其存储在存储器12中。在本实施例中，关于各模块/单元的功能将在后续的实施例中详述。
当接收到数据处理请求时，检测单元110检测所述数据处理请求对应的待处理数据是否属于大数据。
在本发明的至少一个实施例中，所述大数据是由巨型数据集组成，所述巨型数据集的大小通常超出用户在可接受时间范围内的数据收集、数据管理和数据处理能力。所述大数据具有数据量巨大、数据类型多样等特点，其中，所述数据类型可以包括：图片类型、音频类型等。
在本发明的至少一个实施例中，所述检测单元110检测所述数据处理请求对应的待处理数据是否属于大数据包括：
确定所述待处理数据的总数据量，并检测所述总数据量是否大于第一预设阈值；
获取所述待处理数据的数据类型，并确定所述数据类型的类型总量，并检测所述类型总量是否大于第二预设阈值；
当检测到所述总数据量大于所述第一预设阈值，或者所述类型总量大于所述第二预设阈值时，确定所述待处理数据属于所述大数据。
其中，所述第一预设阈值及所述第二预设阈值的取值可以根据应用场景设置，本发明对此所述第一预设阈值及所述第二预设阈值的取值不作限制。
通过上述实施方式，能够确定出超出用户在可接受时间范围内的数据收集、数据管理和数据处理能力的数据集。
当检测到所述待处理数据属于所述大数据时，封装单元111根据所述待处理数据生成待处理任务。
在本发明的至少一个实施例中，所述封装单元111根据所述待处理数据生成待处理任务包括：
确定所述待处理数据所属的业务类型，得到第一类型；
封装所述待处理数据及所述第一类型，生成所述待处理任务。
通过上述实施方式，能够将所述待处理数据转换为所述待处理任务，有利于所述待处理数据的处理。
拆分单元112拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码。
在本发明的至少一个实施例中，所述拆分单元112拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码包括：
解析所述待处理任务的报文头，得到所述待处理任务对应的第二类型；
根据所述第二类型从配置库中获取目标规则，所述目标规则包括多个执行指令；
依据所述目标规则拆分所述待处理任务，得到所述多个子任务，并将所述待处理任务的拆分顺序确定为所述执行顺序，所述多个子任务与所述多个执行指令相对应；
获取与每个执行指令对应的标签，并将获取到的标签作为每个子任务的标签；
融合每个子任务的标签及每个子任务的执行顺序，得到每个子任务的识别码。
其中，所述配置库中存储所述第二类型与预设规则的映射关系。
例如，解析待处理任务A的报文头，得到所述待处理任务A对应的第二类型为保险行业，从配置库中获取与所述保险行业对应的目标规则为：“筛选-切分-组合”，所述目标规则分别包括筛选、切分、组合三个执行指令，依据目标规则“筛选-切分-组合”拆分所述待处理任务A，得到三个子任务，分别为子任务a、子任务b及子任务c，以所述待处理任务A的拆分顺序作为子任务的执行顺序，因此，每个子任务的执行顺序为：所述子任务a的执行顺序为“序号1”、所述子任务b的执行顺序为“序号2”及所述子任务c的执行顺序为“序号3”，获取到筛选执行指令的标签为shaixuan，标签“shaixuan”作为所述子任务a的标签，获取到切分执行指令的标签为qiefen，标签“qiefen”作为所述子任务b的标签，获取到组合执行指令的标签为zuhe，标签“zuhe”作为所述子任务c的标签，融合所述子任务a的标签及执行顺序，得到所述子任务a的识别码为“shaixuan序号1”，依次融合每个子任务的标签及执行顺序，得到所述子任务b的识别码为“qiefen序号2”，所述子任务c的识别码为“zuhe序号3”。
通过上述实施方式，能够生成具有唯一性的子任务的识别码，从而有利于通过识别码准确确定处理子任务的服务器。
确定单元113根据每个子任务的识别码确定每个子任务对应的目标服务器，并将每个子任务依次发送至对应的目标服务器中。
在本发明的至少一个实施例中，所述目标服务器是指能够处理与识别码对应任务的服务器。
在本发明的至少一个实施例中，所述确定单元113根据每个子任务的识别码确定每个子任务对应的目标服务器包括：
对于任意子任务，确定与所述任意子任务的识别码对应的多个空闲服务器；
获取所述多个空闲服务器的服务器参数，并获取与所述服务器参数相同的多个非空闲服务器；
确定所述多个非空闲服务器的处理速率，并以确定的多个处理速率作为所述多个空闲服务器的处理速率；
从所述多个空闲服务器的处理速率中选取最大的处理速率，作为目标处理速率；
将所述目标处理速率对应的空闲服务器确定为所述任意子任务对应的目标服务器。
其中，所述服务器参数包括服务器的CPU型号、所述服务器的总内存及所述服务器的硬盘。
通过上述实施方式，能够确定出适合处理每个子任务的服务器，有利于提高子任务的处理效率。
当接收到每个目标服务器发送的反馈数据包时，监测单元114监测每个目标服务器处理每个子任务时的指标参数。
在本发明的至少一个实施例中，所述指标参数包括CPU利用率及CPU负载。
在本发明的至少一个实施例中，当接收到任意目标服务器发送的任意反馈数据包时，解析单元117解析所述任意反馈数据包，得到目标标识；
锁定单元118对与所述目标标识对应的目标子任务进行锁定。
通过对所述目标子任务的锁定，能够避免所述目标子任务被其他服务器抢占并处理，进而能够避免所述目标子任务被重复处理。
处理单元115根据所述指标参数动态调整每个目标服务器处理每个子任务的实时线程数量。
在本发明的至少一个实施例中，所述实时线程数量是指在CPU利用率及CPU负载满足规定的情况下，目标服务器处理子任务所需的线程数据。
在本发明的至少一个实施例中，所述处理单元115根据所述指标参数动态调整每个目标服务器处理每个子任务的实时线程数量包括：
(1)当所述指标参数为CPU利用率时，检测所述CPU利用率是否超过预设标准阈值，当所述CPU利用率未超过所述预设标准阈值时，计算所述预设标准阈值与所述CPU利用率之间的差值，并根据所述CPU利用率以及预设数量，计算当前每个线程的平均CPU利用率，根据所述差值以及所述平均CPU利用率，确定待增加的线程的第一数量，将所述第一数量加上所述预设数量的运算结果确定为所述目标服务器处理所述多个子任务的实时线程数量。
由于线程的数量过少，可能会导致CPU利用率过低，使系统资源得不到合理利用，在这种情况下，可以根据当前检测到的CPU利用率的使用情况，来动态变更处理子任务的线程数量，即增加线程，使得处理子任务数据的实时线程数量增加，进而充分利用系统资源，同时，加快子任务处理的速度，提高效率。
(2)当所述指标参数为CPU负载时，检测所述CPU负载是否超过预设负载阈值，当所述CPU负载超过所述预设负载阈值时，计算所述CPU负载与所述预设负载阈值之间的差值，并获取每个线程的最大负载值，根据所述差值以及所述最大负载值，确定待增加的线程的第二数量，将所述第二数量加上所述预设数量的运算结果确定为所述目标服务器处理所述多个子任务的实时线程数量。
由于线程的数量过少，可能会导致CPU负载太高，进而使系统崩溃，在这种情况下，可以根据当前检测到的CPU负载的使用情况，来动态变更处理子任务的线程的数量，即增加线程，使得处理子任务实时线程数量增加，从而分摊当前处理子任务的线程的压力，这样不仅可以充分利用系统资源，还能减少单个线程的处理压力，同时，还可以加快子任务处理的速度，提高效率。
当接收到每个目标服务器发送的响应数据包时，整合单元116根据所述执行顺序整合所述响应数据包，得到目标结果。
需要强调的是，为进一步保证上述目标结果的私密和安全性，上述目标结果还可以存储于一区块链的节点中。
在本发明的至少一个实施例中，所述目标结果是指所述待处理任务的执行结果。
在本发明的至少一个实施例中，在根据所述执行顺序整合所述响应数据包，得到目标结果后，获取单元119获取所述数据处理请求的请求编号；
生成单元120根据所述请求编号及所述目标结果生成提示信息；
加密单元121采用对称加密技术加密所述提示信息，得到密文；
所述确定单元113确定所述数据处理请求的等级，并根据所述等级确定所述密文的发送方式；
发送单元122以所述发送方式将所述密文发送至指定联系人的终端设备。
其中，所述指定联系人是指负责大数据分析的分析人员。
其中，所述发送方式包括，但不限于：邮件方式、电话方式等。
通过上述实时方式，不仅能够以合适的发送方式发送所述密文，还能够在得到所述目标结果后，及时通知所述指定联系人。
由以上技术方案可以看出，本发明在检测到所述待处理数据属于所述大数据时，根据所述待处理数据生成待处理任务，拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码，对所述待处理任务进行拆分，能够将拆分得到的多个子任务分别发送至目标服务器进行处理，减轻单个服务器的压力，还能加快所述待处理任务的处理，根据每个子任务的识别码确定每个子任务对应的目标服务器，并将每个子任务依次发送至对应的目标服务器中，根据识别码能够确定有处理权限的服务器，通过确定有处理权限的服务器能够提高任务处理的安全性，当接收到每个目标服务器发送的反馈数据包时，监测每个目标服务器处理每个子任务时的指标参数，根据所述指标参数动态调整每个目标服务器处理每个子任务的实时线程数量，通过动态调整实时线程数据，不仅能够使目标服务器的资源被合理利用，还能够提高子任务的处理效率，以提高待处理任务的处理效率，当接收到每个目标服务器发送的响应数据包时，根据所述执行顺序整合所述响应数据包，得到目标结果。
如图3所示，是本发明实现数据处理方法的较佳实施例的电子设备的结构示意图。
在本发明的一个实施例中，所述电子设备1包括，但不限于，存储器12、处理器13，以及存储在所述存储器12中并可在所述处理器13上运行的计算机可读指令，例如数据处理程序。
本领域技术人员可以理解，所述示意图仅仅是电子设备1的示例，并不构成对电子设备1的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述电子设备1还可以包括输入输出设备、网络接入设备、总线等。
所述处理器13可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等，所述处理器13是所述电子设备1的运算核心和控制中心，利用各种接口和线路连接整个电子设备1的各个部分，及执行所述电子设备1的操作系统以及安装的各类应用程序、程序代码等。
所述处理器13执行所述电子设备1的操作系统以及安装的各类应用程序。所述处理器13执行所述应用程序以实现上述各个数据处理方法实施例中的步骤，例如图1所示的步骤。
示例性的，所述计算机可读指令可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器12中，并由所述处理器13执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机可读指令指令段，该指令段用于描述所述计算机可读指令在所述电子设备1中的执行过程。例如，所述计算机可读指令可以被分割成检测单元110、封装单元111、拆分单元112、确定单元113、监测单元114、处理单元115、整合单元116、解析单元117、锁定单元118、获取单元119、生成单元120、加密单元121及发送单元122。
所述存储器12可用于存储所述计算机可读指令和/或模块，所述处理器13通过运行或执行存储在所述存储器12内的计算机可读指令和/或模块，以及调用存储在存储器12内的数据，实现所述电子设备1的各种功能。所述存储器12可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据电子设备的使用所创建的数据等。此外，存储器12可以包括非易失性存储器，例如硬盘、内存、插接式硬盘，智能存储卡(Smart MediaCard,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。
所述存储器12可以是电子设备1的外部存储器和/或内部存储器。进一步地，所述存储器12可以是具有实物形式的存储器，如内存条、TF卡(Trans-flash Card)等等。
所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机可读指令来指令相关的硬件来完成，所述的计算机可读指令可存储于一计算机可读存储介质中，该计算机可读指令在被处理器执行时，可实现上述各个方法实施例的步骤。
其中，所述计算机可读指令包括计算机可读指令代码，所述计算机可读指令代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机可读指令代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
结合图1，所述电子设备1中的所述存储器12存储多个指令以实现一种数据处理方法，所述处理器13可执行所述多个指令从而实现：
当接收到数据处理请求时，检测所述数据处理请求对应的待处理数据是否属于大数据；
当检测到所述待处理数据属于所述大数据时，根据所述待处理数据生成待处理任务；
拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码；
根据每个子任务的识别码确定每个子任务对应的目标服务器，并将每个子任务依次发送至对应的目标服务器中；
当接收到每个目标服务器发送的反馈数据包时，监测每个目标服务器处理每个子任务时的指标参数；
根据所述指标参数动态调整每个目标服务器处理每个子任务的实时线程数量；
当接收到每个目标服务器发送的响应数据包时，根据所述执行顺序整合所述响应数据包，得到目标结果。
具体地，所述处理器13对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述，在此不赘述。
在本发明所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，既可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称，而并不表示任何特定的顺序。
最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。
Claims (9)
1.一种数据处理方法，其特征在于，所述数据处理方法包括：
当接收到数据处理请求时，检测所述数据处理请求对应的待处理数据是否属于大数据；
当检测到所述待处理数据属于所述大数据时，根据所述待处理数据生成待处理任务；
拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码；
根据每个子任务的识别码确定每个子任务对应的目标服务器，并将每个子任务依次发送至对应的目标服务器中；
当接收到每个目标服务器发送的反馈数据包时，监测每个目标服务器处理每个子任务时的指标参数；
根据所述指标参数动态调整每个目标服务器处理每个子任务的实时线程数量，包括：当所述指标参数为CPU利用率时，检测所述CPU利用率是否超过预设标准阈值，当所述CPU利用率未超过所述预设标准阈值时，计算所述预设标准阈值与所述CPU利用率之间的差值，并根据所述CPU利用率以及预设数量，计算当前每个线程的平均CPU利用率，根据所述差值以及所述平均CPU利用率，确定待增加的线程的第一数量，将所述第一数量加上所述预设数量的运算结果确定为所述目标服务器处理所述多个子任务的实时线程数量；或者当所述指标参数为CPU负载时，检测所述CPU负载是否超过预设负载阈值，当所述CPU负载超过所述预设负载阈值时，计算所述CPU负载与所述预设负载阈值之间的差值，并获取每个线程的最大负载值，根据所述差值以及所述最大负载值，确定待增加的线程的第二数量，将所述第二数量加上所述预设数量的运算结果确定为所述目标服务器处理所述多个子任务的实时线程数量；
当接收到每个目标服务器发送的响应数据包时，根据所述执行顺序整合所述响应数据包，得到目标结果。
2.如权利要求1所述的数据处理方法，其特征在于，所述检测所述数据处理请求对应的待处理数据是否属于大数据包括：
确定所述待处理数据的总数据量，并检测所述总数据量是否大于第一预设阈值；
获取所述待处理数据的数据类型；
确定所述数据类型的类型总量，并检测所述类型总量是否大于第二预设阈值；
当检测到所述总数据量大于所述第一预设阈值，或者所述类型总量大于所述第二预设阈值时，确定所述待处理数据属于所述大数据。
3.如权利要求1所述的数据处理方法，其特征在于，所述根据所述待处理数据生成待处理任务包括：
确定所述待处理数据所属的业务类型，得到第一类型；
封装所述待处理数据及所述第一类型，生成所述待处理任务。
4.如权利要求1所述的数据处理方法，其特征在于，所述拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码包括：
解析所述待处理任务的报文头，得到所述待处理任务对应的第二类型；
根据所述第二类型从配置库中获取目标规则，所述目标规则包括多个执行指令；
依据所述目标规则拆分所述待处理任务，得到所述多个子任务，并将所述待处理任务的拆分顺序确定为所述执行顺序，所述多个子任务与所述多个执行指令相对应；
获取与每个执行指令对应的标签，并将获取到的标签作为每个子任务的标签；
融合每个子任务的标签及每个子任务的执行顺序，得到每个子任务的识别码。
5.如权利要求1所述的数据处理方法，其特征在于，所述根据每个子任务的识别码确定每个子任务对应的目标服务器包括：
对于任意子任务，确定与所述任意子任务的识别码对应的多个空闲服务器；
获取所述多个空闲服务器的服务器参数，并获取与所述服务器参数相同的多个非空闲服务器；
确定所述多个非空闲服务器的处理速率，并以确定的多个处理速率作为所述多个空闲服务器的处理速率；
从所述多个空闲服务器的处理速率中选取最大的处理速率，作为目标处理速率；
将所述目标处理速率对应的空闲服务器确定为所述任意子任务对应的目标服务器。
6.如权利要求1所述的数据处理方法，其特征在于，所述数据处理方法还包括：
当接收到任意目标服务器发送的任意反馈数据包时，解析所述任意反馈数据包，得到目标标识；
对与所述目标标识对应的目标子任务进行锁定。
7.一种数据处理装置，其特征在于，所述数据处理装置包括：
检测单元，用于当接收到数据处理请求时，检测所述数据处理请求对应的待处理数据是否属于大数据；
封装单元，用于当检测到所述待处理数据属于所述大数据时，根据所述待处理数据生成待处理任务；
拆分单元，用于拆分所述待处理任务，得到多个子任务及所述多个子任务的执行顺序，并生成每个子任务的识别码；
确定单元，用于根据每个子任务的识别码确定每个子任务对应的目标服务器，并将每个子任务依次发送至对应的目标服务器中；
监测单元，用于当接收到每个目标服务器发送的反馈数据包时，监测每个目标服务器处理每个子任务时的指标参数；
处理单元，用于根据所述指标参数动态调整每个目标服务器处理每个子任务的实时线程数量，包括：当所述指标参数为CPU利用率时，检测所述CPU利用率是否超过预设标准阈值，当所述CPU利用率未超过所述预设标准阈值时，计算所述预设标准阈值与所述CPU利用率之间的差值，并根据所述CPU利用率以及预设数量，计算当前每个线程的平均CPU利用率，根据所述差值以及所述平均CPU利用率，确定待增加的线程的第一数量，将所述第一数量加上所述预设数量的运算结果确定为所述目标服务器处理所述多个子任务的实时线程数量；或者当所述指标参数为CPU负载时，检测所述CPU负载是否超过预设负载阈值，当所述CPU负载超过所述预设负载阈值时，计算所述CPU负载与所述预设负载阈值之间的差值，并获取每个线程的最大负载值，根据所述差值以及所述最大负载值，确定待增加的线程的第二数量，将所述第二数量加上所述预设数量的运算结果确定为所述目标服务器处理所述多个子任务的实时线程数量；
整合单元，用于当接收到每个目标服务器发送的响应数据包时，根据所述执行顺序整合所述响应数据包，得到目标结果。
8.一种电子设备，其特征在于，所述电子设备包括：
存储器，存储至少一个指令；及
处理器，执行所述存储器中存储的指令以实现如权利要求1至6中任意一项所述的数据处理方法。
9.一种计算机可读存储介质，其特征在于：所述计算机可读存储介质中存储有至少一个指令，所述至少一个指令被电子设备中的处理器执行以实现如权利要求1至6中任意一项所述的数据处理方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010898966.7A CN112035258B (zh) | 2020-08-31 | 2020-08-31 | 数据处理方法、装置、电子设备及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010898966.7A CN112035258B (zh) | 2020-08-31 | 2020-08-31 | 数据处理方法、装置、电子设备及介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112035258A CN112035258A (zh) | 2020-12-04 |
| CN112035258B true CN112035258B (zh) | 2022-06-17 |
Family
ID=73586480
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010898966.7A Active CN112035258B (zh) | 2020-08-31 | 2020-08-31 | 数据处理方法、装置、电子设备及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112035258B (zh) |
Families Citing this family (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112487415B (zh) * | 2020-12-09 | 2023-10-03 | 华控清交信息科技(北京)有限公司 | 计算任务的安全性检测方法及装置 |
| CN112615928B (zh) * | 2020-12-24 | 2023-09-05 | 度小满科技(北京)有限公司 | 数据的处理方法、设备以及存储介质 |
| CN113313195B (zh) * | 2021-06-17 | 2023-09-29 | 北京百度网讯科技有限公司 | 标注任务处理方法、装置、设备、存储介质及程序产品 |
| CN113434273B (zh) * | 2021-06-29 | 2022-12-23 | 平安科技（深圳）有限公司 | 数据处理方法、装置、系统及存储介质 |
| CN113630408B (zh) * | 2021-08-03 | 2023-06-16 | Oppo广东移动通信有限公司 | 数据处理方法、装置、存储介质及服务器 |
| CN113468385B (zh) * | 2021-08-27 | 2023-09-19 | 国网浙江省电力有限公司 | 基于边缘处理端的能源梯度确定方法、装置及存储介质 |
| CN114070829B (zh) * | 2021-10-22 | 2024-01-09 | 南通软云智能科技有限公司 | 一种基于mqtt的异常数据采集方法及系统 |
| CN114265873A (zh) * | 2022-03-01 | 2022-04-01 | 成都鲁易科技有限公司 | 数据处理方法及装置、存储介质、终端、服务端 |
| CN114860449B (zh) * | 2022-05-17 | 2024-04-05 | 上海弘玑信息技术有限公司 | 数据处理方法、装置、设备和存储介质 |
| CN115208890B (zh) * | 2022-06-09 | 2024-04-30 | 北京达佳互联信息技术有限公司 | 一种信息获取方法、装置、电子设备及存储介质 |
| CN115576684A (zh) * | 2022-09-26 | 2023-01-06 | 京东科技信息技术有限公司 | 任务处理方法、装置、电子设备及存储介质 |
| CN115599558B (zh) * | 2022-12-13 | 2023-03-10 | 无锡学院 | 一种工业互联网平台的任务处理方法和系统 |
| CN116166639B (zh) * | 2023-03-03 | 2024-04-26 | 西安快鱼科技有限公司 | 一种基于人工智能的大数据处理方法及系统 |
| CN117057746A (zh) * | 2023-08-24 | 2023-11-14 | 杭州浩联智能科技有限公司 | 基于分布式设备联动的工地现场巡检方法、装置及设备 |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6477561B1 (en) * | 1998-06-11 | 2002-11-05 | Microsoft Corporation | Thread optimization |
| US8209702B1 (en) * | 2007-09-27 | 2012-06-26 | Emc Corporation | Task execution using multiple pools of processing threads, each pool dedicated to execute different types of sub-tasks |
| CN103543987A (zh) * | 2012-07-11 | 2014-01-29 | Sap股份公司 | 用于高效并行运行的反馈驱动调节 |
| CN109558237A (zh) * | 2017-09-27 | 2019-04-02 | 北京国双科技有限公司 | 一种任务状态管理方法及装置 |
| CN109669773A (zh) * | 2018-11-12 | 2019-04-23 | 平安科技（深圳）有限公司 | 金融数据处理方法、装置、设备和存储介质 |
| CN110209496A (zh) * | 2019-05-20 | 2019-09-06 | 中国平安财产保险股份有限公司 | 基于数据处理的任务分片方法、装置及分片服务器 |
| CN110569124A (zh) * | 2019-08-15 | 2019-12-13 | 中国平安财产保险股份有限公司 | 一种任务分配方法和装置 |
| CN111459659A (zh) * | 2020-03-10 | 2020-07-28 | 中国平安人寿保险股份有限公司 | 数据处理方法、装置、调度服务器及介质 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7032119B2 (en) * | 2000-09-27 | 2006-04-18 | Amphus, Inc. | Dynamic power and workload management for multi-server system |
-
2020
- 2020-08-31 CN CN202010898966.7A patent/CN112035258B/zh active Active
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6477561B1 (en) * | 1998-06-11 | 2002-11-05 | Microsoft Corporation | Thread optimization |
| US8209702B1 (en) * | 2007-09-27 | 2012-06-26 | Emc Corporation | Task execution using multiple pools of processing threads, each pool dedicated to execute different types of sub-tasks |
| CN103543987A (zh) * | 2012-07-11 | 2014-01-29 | Sap股份公司 | 用于高效并行运行的反馈驱动调节 |
| CN109558237A (zh) * | 2017-09-27 | 2019-04-02 | 北京国双科技有限公司 | 一种任务状态管理方法及装置 |
| CN109669773A (zh) * | 2018-11-12 | 2019-04-23 | 平安科技（深圳）有限公司 | 金融数据处理方法、装置、设备和存储介质 |
| CN110209496A (zh) * | 2019-05-20 | 2019-09-06 | 中国平安财产保险股份有限公司 | 基于数据处理的任务分片方法、装置及分片服务器 |
| CN110569124A (zh) * | 2019-08-15 | 2019-12-13 | 中国平安财产保险股份有限公司 | 一种任务分配方法和装置 |
| CN111459659A (zh) * | 2020-03-10 | 2020-07-28 | 中国平安人寿保险股份有限公司 | 数据处理方法、装置、调度服务器及介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112035258A (zh) | 2020-12-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112035258B (zh) | 数据处理方法、装置、电子设备及介质 | |
| US11909753B2 (en) | Virtual private cloud flow log event fingerprinting and aggregation | |
| CN111901327B (zh) | 云网络漏洞挖掘方法、装置、电子设备及介质 | |
| CN110740103A (zh) | 业务请求处理方法、装置、计算机设备和存储介质 | |
| JP2017532649A (ja) | 機密情報処理方法、装置、及び、サーバ、ならびに、セキュリティ決定システム | |
| CN109726004B (zh) | 一种数据处理方法及装置 | |
| CN111611625A (zh) | 云端数据完整性审计方法、装置及计算机可读存储介质 | |
| US20220253432A1 (en) | Blockchain-based data processing method and apparatus, device, and readable storage medium | |
| CN112559831A (zh) | 链路监控方法、装置、计算机设备及介质 | |
| CN112541009B (zh) | 数据查询方法、装置、电子设备及存储介质 | |
| WO2022095518A1 (zh) | 接口自动化测试方法、装置、计算机设备及存储介质 | |
| CN111796936A (zh) | 请求处理方法、装置、电子设备及介质 | |
| CN112329043A (zh) | 信息加密处理方法、装置、计算机设备及介质 | |
| CN111881209A (zh) | 异构数据库的数据同步方法、装置、电子设备及介质 | |
| US10282239B2 (en) | Monitoring method | |
| CN114185743A (zh) | 一种数据处理方法、装置、计算机设备和存储介质 | |
| CN113536770A (zh) | 基于人工智能的文本解析方法、装置、设备及存储介质 | |
| CN111277626B (zh) | 服务器升级方法、装置、电子设备及介质 | |
| EP3718284B1 (en) | Extending encrypted traffic analytics with traffic flow data | |
| CN116360769A (zh) | 代码生成方法、装置、设备及存储介质 | |
| KR101505468B1 (ko) | 클라우드 컴퓨팅 환경 내 데이터 비교 처리 방법 및 시스템 | |
| CN111860847B (zh) | 一种基于量子计算的数据加密方法 | |
| CN113132383B (zh) | 一种网络数据采集方法及系统 | |
| CN115269719A (zh) | 数据同步方法及装置 | |
| CN115001768A (zh) | 基于区块链的数据交互方法、装置、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |