CN114416378A - 数据处理方法、装置、电子设备及存储介质 - Google Patents

数据处理方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN114416378A
CN114416378A CN202210113464.8A CN202210113464A CN114416378A CN 114416378 A CN114416378 A CN 114416378A CN 202210113464 A CN202210113464 A CN 202210113464A CN 114416378 A CN114416378 A CN 114416378A
Authority
CN
China
Prior art keywords
processing
task
processed
subtask
thread pool
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210113464.8A
Other languages
English (en)
Inventor
董立君
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
CCB Finetech Co Ltd
Original Assignee
CCB Finetech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by CCB Finetech Co Ltd filed Critical CCB Finetech Co Ltd
Priority to CN202210113464.8A priority Critical patent/CN114416378A/zh
Publication of CN114416378A publication Critical patent/CN114416378A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/50Indexing scheme relating to G06F9/50
    • G06F2209/5011Pool
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/50Indexing scheme relating to G06F9/50
    • G06F2209/5017Task decomposition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/50Indexing scheme relating to G06F9/50
    • G06F2209/5018Thread allocation

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供了一种数据处理方法,可以应用于计算机技术领域。该数据处理方法包括:响应于数据处理请求,获取待处理任务;将上述待处理任务按照预设划分规则划分成在不同阶段执行的N个子任务,其中,N≥2,每个上述子任务采用对应的线程池进行处理;利用第i‑1线程池根据第i‑1处理规则对第i‑1子任务进行处理,得到第i‑1处理结果,其中,上述N≥i≥2;以及在上述第i‑1处理结果表征上述第i‑1子任务处理成功的情况下,利用第i线程池根据第i处理规则对第i子任务进行处理。本公开还提供了一种数据处理装置、设备、存储介质。

Description

数据处理方法、装置、电子设备及存储介质
技术领域
本公开涉及计算机领域,具体地涉及一种数据处理方法、装置、设备、介质和程序产品。
背景技术
数据任务批量处理过程中采用单线程处理存在处理速度慢、任务执行时间长、效率较低等问题。目前,批量处理任务数据一般采用多线程进行分批处理,即通过线程池提供的多个线程将大量任务分割成多个较小的任务批次,实现多线程同时处理,以此加快数据处理速度。
相关技术中至少存在以下问题:现有的多线程处理方法为每个线程循环执行与之对应的任务批次中的单个任务。但是对于单个任务流程较长,且单个任务流程中存在较复杂的处理节点时,采用上述多线程处理方法仍存在效率较低的技术问题。
发明内容
鉴于上述问题,本公开提供了一种数据处理方法、装置、设备、介质和程序产品。
根据本公开的第一个方面,提供了一种数据处理方法,包括:
响应于数据处理请求,获取待处理任务;
将上述待处理任务按照预设划分规则划分成在不同阶段执行的N个子任务,其中,N≥2,每个上述子任务采用对应的线程池进行处理;
利用第i-1线程池根据第i-1处理规则对第i-1子任务进行处理,得到第i-1处理结果,其中,上述N≥i≥2;以及
在上述第i-1处理结果表征上述第i-1子任务处理成功的情况下,利用第i线程池根据第i处理规则对第i子任务进行处理。
根据本公开的实施例,上述待处理任务在不同阶段具有不同的状态码,其中,上述状态码用于指示当前需要执行的目标子任务;
其中,上述利用第i-1线程池根据第i-1处理规则对第i-1子任务进行处理,得到第i-1处理结果包括:
在上述待处理任务当前的状态码为第i-1状态码的情况下,确定当前需要执行上述第i-1子任务;
调用与上述第i-1子任务对应的上述第i-1线程池,以便利用上述第i-1线程池根据上述第i-1处理规则对上述第i-1子任务进行处理。
根据本公开的实施例,上述数据处理方法还包括:
在上述第i-1处理结果表征上述第i-1子任务处理成功的情况下,将上述待处理任务当前的状态码由上述第i-1状态码更新为第i状态码。
根据本公开的实施例,上述数据处理方法还包括:
在上述第i-1处理结果表征上述第i-1子任务处理失败的情况下,发送提示信息。
根据本公开的实施例,上述预设划分规则包括:按照上述待处理任务的处理步骤或上述待处理任务的处理节点进行划分。
根据本公开的实施例,上述处理规则包括以下至少两个:数据校验规则、交易发起规则、状态查询规则、结果更新规则。
本公开的第二方面提供了一种数据处理装置,包括:
获取模块,用于响应于数据处理请求,获取待处理任务;
划分模块,用于将上述待处理任务按照预设划分规则划分成在不同阶段执行的N个子任务,其中,N≥2,每个上述子任务采用对应的线程池进行处理;
第一处理模块,用于利用第i-1线程池根据第i-1处理规则对第i-1子任务进行处理,得到第i-1处理结果,其中,上述N≥i≥2;以及
第二处理模块,用于在上述第i-1处理结果表征上述第i-1子任务处理成功的情况下,利用第i线程池根据第i处理规则对第i子任务进行处理。
本公开的第三方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当上述一个或多个程序被上述一个或多个处理器执行时,使得一个或多个处理器执行上述数据处理方法。
本公开的第四方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述数据处理方法。
本公开的第五方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述数据处理方法。
根据本公开的实施例,通过响应于数据处理请求,获取待处理任务,并将待处理任务按照预设划分规则划分成在不同阶段执行的N个子任务,每个子任务采用对应的线程池进行处理;利用第i-1线程池根据第i-1处理规则对第i-1子任务进行处理,得到第i-1处理结果,在第i-1子任务处理成功后,利用第i线程池根据第i处理规则对第i子任务进行处理,如此流转,使得N个子任务在不同的线程之间流转,直至完成对待处理任务的处理。本公开通过将待处理任务分为多个子任务,且多个子任务在不同的线程之间流转,按照流水线形式齐头并进,实现流水线式的多线程批量任务处理,提高了任务处理效率。对于单个任务流程较长且单个任务流程中存在较复杂的处理节点的情况,例如单个任务存在需要连接外部,请求外部资源等阻塞性情况,采用本公开的处理方法可以有效提高系统资源利用率,保持高效的处理效率。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的数据处理方法、装置、设备、介质和程序产品的应用场景图;
图2示意性示出了根据本公开实施例的数据处理方法的流程图;
图3示意性示出了根据本公开另一实施例的数据处理方法的流程图;
图4示意性示出了根据本公开另一实施例的数据处理方法的流程图;
图5示意性示出了其中一个实施例的数据处理方法的流程图;
图6示意性示出了根据本公开实施例的数据处理装置的结构框图;以及
图7示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
数据任务批量处理已经成为企业级业务系统处理不可或缺的一部分,在批量处理数据任务处理过程中,单线程处理存在处理速度慢、任务执行时间长、效率较低等问题。目前,批量处理任务数据一般采用多线程进行分批处理,即将通过线程池提供的多个线程来将大量任务分割成多个较小的任务批次,对于分割后的较小的任务批次每个线程再循环执行单个任务。多线程处理方法相对于单线程完成大量交易任务来说,可以明显提升系统资源利用,加快任务完成。
在实现本公开发明构思的过程中,发明人发现相关技术中至少存在以下问题:现有的多线程处理方法中每个线程循环执行与之对应的任务批次中的单个任务。但是银行业务对于交易结果的准确性要求较高,在交易失败后需要执行复杂的补偿更新,且交易任务流程较长,简单采用上述多线程处理方法存在在异常情况下处理不便,效率不高的问题。另外,对于单个任务流程较长,且单个任务流程中存在较复杂的处理节点时,例如单个任务存在需要连接外部,请求外部资源等阻塞性情况,采用上述多线程处理方法仍存在效率较低的技术问题。
有鉴于此,本公开针对以上技术问题,通过将单个待处理任务按照预设划分规则划分为在不同阶段执行的多个子任务,且每个子任务对应一个线程池,该线程池只负责处理与之对应的子任务即可。当该线程池成功处理完与之对应的子任务后,下一个线程池对上一个线程池处理成功的子任务继续处理,如此流转,实现流水线式的多线程批量任务处理。多个子任务按流水线形式齐头并进,提高任务处理效率。同时,对于单个任务流程较长,且单个任务流程中存在较复杂的处理节点的情况,也能够有效提高系统资源的利用率,从而保持高效的处理效率。
具体地,本公开的实施例提供了一种数据处理方法,包括:响应于数据处理请求,获取待处理任务;将上述待处理任务按照预设划分规则划分成在不同阶段执行的N个子任务,其中,N≥2,每个上述子任务采用对应的线程池进行处理;利用第i-1线程池根据第i-1处理规则对第i-1子任务进行处理,得到第i-1处理结果,其中,上述N≥i≥2;以及在上述第i-1处理结果表征上述第i-1子任务处理成功的情况下,利用第i线程池根据第i处理规则对第i子任务进行处理。
需要说明的是,本公开实施例提供的数据处理方法和装置可用于计算机领域或金融领域。本公开实施例提供的数据处理方法和装置也可用于除计算机领域和金融领域之外的任意领域。本公开实施例提供的数据处理方法和装置的应用领域不做限定。
在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
在本公开的技术方案中,对数据的获取、收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
图1示意性示出了根据本公开实施例的数据处理方法、装置、设备、介质和程序产品的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括网络、终端设备和服务器。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的数据处理方法一般可以由服务器105执行。相应地,本公开实施例所提供的数据处理装置一般可以设置于服务器105中。本公开实施例所提供的数据处理方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的数据处理装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
以下将基于图1描述的场景,通过图2~图5对公开实施例的数据处理方法进行详细描述。
图2示意性示出了根据本公开实施例的数据处理方法的流程图。
如图2所示,该实施例的数据处理方法包括操作S210~操作S240,该数据处理方法可以由服务器执行。
在操作S210,响应于数据处理请求,获取待处理任务。
根据本公开的实施例,数据处理请求可以由用户主动发起,也可以根据预设的处理时间由系统自动发起。例如,预先设置每天固定的时间由系统自动发起数据处理请求。
根据本公开的实施例,待处理任务例如可以包括在此次数据处理请求和上一次数据处理请求之间发送变化的数据。待处理任务还可以包括预先配置的待处理任务。
在操作S220,将上述待处理任务按照预设划分规则划分成在不同阶段执行的N个子任务,其中,N≥2,每个上述子任务采用对应的线程池进行处理。
根据本公开的实施例,上述预设划分规则包括:按照上述待处理任务的处理步骤或上述待处理任务的处理节点进行划分。
根据本公开的实施例,例如,交易过程中的待处理任务可以根据处理步骤划分为数据校验预处理阶段的第一子任务、交易发起处理阶段的第二子任务、交易状态查询阶段的第三子任务和交易结果更新阶段的第四子任务。
根据本公开的实施例,每个子任务采用对应的线程池进行处理可以包括第一子任务可以采用第一线程池处理,第二子任务可以采用第二线程池处理,第三子任务可以采用第三线程池处理,第四子任务可以采用第四线程池处理。
根据本公开的实施例,每个线程池中可以包括一个线程,也可以包括多个线程。每个线程池中的线程数量,可以根据实际的任务处理量进行配置,本公开实施例对此不做限定。
在操作S230,利用第i-1线程池根据第i-1处理规则对第i-1子任务进行处理,得到第i-1处理结果,其中,上述N≥i≥2。
根据本公开的实施例,每个子任务具有与之对应的处理规则。处理规则例如可以包括与该子任务对应的处理方式。
根据本公开的实施例,上述处理规则包括以下至少两个:数据校验规则、交易发起规则、状态查询规则、结果更新规则。
根据本公开的实施例,例如,将交易过程中的待处理任务根据处理步骤划分为数据校验预处理阶段的第一子任务、交易发起处理阶段的第二子任务、交易状态查询阶段的第三子任务和交易结果更新阶段的第四子任务。其中,第一子任务对应的第一处理规则可以包括数据校验规则。第二子任务对应的第二处理规则可以包括交易发起规则。对于第三子任务对应的第三处理规则可以包括状态查询规则。对于第四子任务对应的第四处理规则可以包括结果更新规则
具体地,对于交易过程的待处理任务,第一线程池根据第一处理规则(数据校验规则)校验第一子任务数据是否符合校验规则,对于符合校验规则的数据进行预处理,对于不符合校验规则的数据转为交易结束。第二线程池根据第二处理规则(交易发起规则)对第二子任务数据(经过预处理的合法数据)通过外呼组件将发起交易。第三线程池根据第三处理规则(状态查询规则)查询第三子任务数据(发起交易的数据)中未更新状态的数据。第四线程池根据第四处理规则(结果更新规则)对第四子任务数据(未更新状态的数据)的更新状态。
根据本公开的实施例,第一线程池、第二线程池、第三线程池和第四线程池同时不间断检测并处理不同阶段的子任务数据,从而多实现线程协作完成任务。
在操作S240,在上述第i-1处理结果表征上述第i-1子任务处理成功的情况下,利用第i线程池根据第i处理规则对第i子任务进行处理。
根据本公开的实施例,将待处理任务划分为不同阶段执行的N个任务,每个子任务需要按照顺序依次执行,在上一个子任务处理成功的情况下,下一个子任务才可在上一个子任务处理结果的基础上继续处理。
根据本公开的实施例,例如,将待处理任务分为数据校验预处理阶段的第一子任务和交易发起阶段的第二子任务。每个待处理任务需要先执行第一子任务,在第一子任务执行成功的情况下,开始执行第二子任务。具体地,第一线程根据第一处理规则校验第一子任务数据是否符合校验规则,对于符合校验规则的数据进行预处理,对符合校验对照的数据预处理完成之后,表明第一子任务处理成功,此时第二线程才可根据第二处理规则对经过预处理的合法数据发起交易。
根据本公开的实施例,通过响应于数据处理请求,获取待处理任务,并将待处理任务按照预设划分规则划分成在不同阶段执行的N个子任务,每个子任务采用对应的线程池进行处理;利用第i-1线程池根据第i-1处理规则对第i-1子任务进行处理,得到第i-1处理结果,在第i-1子任务处理成功后,利用第i线程池根据第i处理规则对第i子任务进行处理,如此流转,使得N个子任务在不同的线程之间流转,直至完成对待处理任务的处理。本公开通过将待处理任务分为多个子任务,且多个子任务在不同的线程之间流转,按照流水线形式齐头并进,实现流水线式的多线程批量任务处理,提高了任务处理效率。对于单个任务流程较长且单个任务流程中存在较复杂的处理节点的情况,例如单个任务存在需要连接外部,请求外部资源等阻塞性情况,采用本公开的处理方法可以有效提高系统资源利用率,保持高效的处理效率。
根据本公开的实施例,上述数据处理方法还包括:在上述第i-1处理结果表征上述第i-1子任务处理失败的情况下,发送提示信息。
根据本公开的实施例,对于处理失败的子任务,及时发送提示信息,便于排查和定位问题。
图3示意性示出了根据本公开另一实施例的数据处理方法的流程图。
如图3所示,该数据处理方法包括操作S301~操作S307。
在操作S301,响应于数据处理请求,获取待处理任务。
在操作S302,将待处理任务按照预设划分规则划分成在不同阶段执行的N个子任务,其中,N≥2,每个子任务采用对应的线程池进行处理。
在操作S303,利用第i-1线程池根据第i-1处理规则对第i-1子任务进行处理,得到第i-1处理结果,其中,上述N≥i≥2。
在操作S304,根据第i-1处理结果,判断第i-1子任务是否处理成功。在第i-1处理结果表征第i-1子任务处理成功的情况下,执行操作S305;在第i-1处理结果表征第i-1子任务处理失败的情况下,执行操作S306。
在操作S305,利用第i线程池根据第i处理规则对第i子任务进行处理,然后执行操作S307。
在操作S306,发送提示信息,然后执行操作S307。
在操作S307,待处理任务处理结束。
根据本公开的实施例,上述待处理任务在不同阶段具有不同的状态码,其中,上述状态码用于指示当前需要执行的目标子任务;其中,上述利用第i-1线程池根据第i-1处理规则对第i-1子任务进行处理,得到第i-1处理结果包括:在上述待处理任务当前的状态码为第i-1状态码的情况下,确定当前需要执行上述第i-1子任务;调用与上述第i-1子任务对应的上述第i-1线程池,以便利用上述第i-1线程池根据上述第i-1处理规则对上述第i-1子任务进行处理。
根据本公开的实施例,待处理任务在不同阶段具有不同的状态码,以此表征待处理任务当前需要执行的目标子任务。
根据本公开的实施例,状态码例如可以包括能够表征待处理任务不同阶段的信息。例如,状态码可以包括字母、数字、文字等。
根据本公开的实施例,例如,待处理任务在不同阶段的状态码可以包括在第一阶段的第一子任务的状态码为P001、在第二阶段的第二子任务的状态码为P002、在第三阶段的第三子任务的状态码为P003、在第四阶段的第四子任务的状态码为P004、在第五阶段的第五子任务的状态码为P005等。具体地,当待处理任务的状态码为P001时,指示待处理任务当前需要执行的目标子任务为第一子任务,则采用第一线程池对待处理任务进行处理。
根据本公开的实施例,第i-1线程池实时查询状态码为第i-1状态码的待处理任务,查询到标记有第i-1状态码的待处理任务后,第i-1线程池对其进行处理。
根据本公开的实施例,上述数据处理方法还包括:在上述第i-1处理结果表征上述第i-1子任务处理成功的情况下,将上述待处理任务当前的状态码由上述第i-1状态码更新为第i状态码。
根据本公开的实施例,上一个子任务处理成功之后,更改待处理任务的状态码,以便于下一个线程池继续处理。
根据本公开的实施例,第一线程池对标记有第一状态码的待处理任务进行处理,处理成功之后,将待处理任务的状态码由第一状态码更新为第二状态码,以便于第二线程池对标记有第二状态码的待处理任务进行处理。
图4示意性示出了根据本公开另一实施例的数据处理方法的流程图。
如图4所示,以待处理任务为交易数据,N=2为例,该数据处理方法包括操作S401~操作S409。
在操作S401,响应于数据处理请求,获取待处理任务。
在操作S402,将待处理任务按照处理步骤划分成在不同阶段执行的2个子任务,其中,每个子任务采用对应的线程池进行处理。
在操作S403,第一线程池查询标记有第一状态码的待处理任务,确定第一子任务。
在操作S404,第一线程池根据第一处理规则对第一子任务进行处理,得到第一处理结果。
在操作S405,根据第一处理结果判断第一子任务是否处理成功,在第一处理结果表征第一子任务处理成功的情况下,执行操作S406;在第一处理结果表征第一子任务处理失败的情况下,执行操作S409。
在操作S406,将待处理任务的第一状态码更新为第二状态码。
在操作S407,第二线程池查询标记有第二状态码的待处理任务,确定第二子任务。
在操作S408,第二线程池根据第二处理规则对第二子任务进行处理,得到第二处理结果。
在操作S409,交易结束。
根据本公开的实施例,将待处理任务的完成过程分为多个步骤,通过状态码来标记待处理任务当前处于哪个步骤,并利用不同的线程池处理标记不同状态码的待处理任务,让待处理任务在不同的步骤间流转,模仿工业流水线的模式,实现流水线式的多线程批量任务处理,从而提高批量任务的处理效率。
根据本公开的实施例,通过对待处理任务的不同阶段标记不同的状态码,当待处理任务出现错误后,方便通过状态码确定待处理任务当前所处的状态,从而来确认待处理任务目前进行到哪个步骤,在哪一个环节出现了问题,便于排查和定位问题。
图5示意性示出了其中一个实施例的数据处理方法的流程图。
如图5所示,以待处理任务为交易数据为例,该数据处理方法包括操作S501~操作S515。
在操作S501,响应于数据处理请求,获取待处理任务。
在操作S502,对待处理任务标记第一状态码。
在操作S503,第一线程池查询标记有第一状态码的待处理任务数据。
在操作S504,校验标记有第一状态码的待处理任务数据是否符合校验规则。在符合校验规则的情况下,执行操作S505,在不符合校验规则的情况下,执行操作S515。
在操作S505,对标记有第一状态码的待处理任务进行预处理后,将第一状态码更新为第二状态码。
在操作S506,第二线程池查询标记有第二状态码的待处理任务数据。
在操作S507,将标记有第一状态码的待处理任务数据发起交易处理。
在操作S508,判断交易是否成功。在交易成功的情况下,执行操作S509,在交易不成功的情况下,执行操作S515。
在操作S509,将第二状态码更新为第三状态码。
在操作S510,第三线程池查询标记有第三状态码的待处理任务数据。
在操作S511,第三线程池外呼查询标记有第三状态码的待处理任务数据的交易状态,并将交易结果进行更新。
在操作S512,将第三状态码更新第四状态码。
在操作S513,第四线程查询标记有第三状态码的待处理任务数据。
在操作S514,对待处理任务进行分析后,将待处理任务的状态码更新为第五状态码,完成对待处理任务的处理。
在操作S515,交易结束。
根据本公开的实施例,第一线程池、第二线程池、第三线程池、第四线程池同时不间断检测并处理不同状态下的任务数据,从而实现线程池协作完成任务,提高数据处理速度。
需要说明的是,本公开实施例中的流程图所示的操作除非明确说明不同操作之间存在执行的先后顺序,或者不同操作在技术实现上存在执行的先后顺序,否则,多个操作之间的执行顺序可以不分先后,多个操作也可以同时执行。
基于上述数据处理方法,本公开还提供了一种数据处理装置。以下将结合图6对该装置进行详细描述。
图6示意性示出了根据本公开实施例的数据处理装置的结构框图。
如图6所示,该实施例的数据处理装置600包括获取模块610、划分模块620、第一处理模块630和第二处理模块640。
获取模块610用于响应于数据处理请求,获取待处理任务。在一实施例中,获取模块610可以用于执行前文描述的操作S210,在此不再赘述。
划分模块620用于将上述待处理任务按照预设划分规则划分成在不同阶段执行的N个子任务,其中,N≥2,每个上述子任务采用对应的线程池进行处理。在一实施例中,划分模块620可以用于执行前文描述的操作S220,在此不再赘述。
第一处理模块630用于利用第i-1线程池根据第i-1处理规则对第i-1子任务进行处理,得到第i-1处理结果,其中,上述N≥i≥2。在一实施例中,第一处理模块630可以用于执行前文描述的操作S230,在此不再赘述。
第二处理模块640用于在上述第i-1处理结果表征上述第i-1子任务处理成功的情况下,利用第i线程池根据第i处理规则对第i子任务进行处理。在一实施例中,第二处理模块640可以用于执行前文描述的操作S240,在此不再赘述。
根据本公开的实施例,上述待处理任务在不同阶段具有不同的状态码,其中,上述状态码用于指示当前需要执行的目标子任务。
根据本公开的实施例,第一处理模块包括确定单元和调用单元。
确定单元用于在上述待处理任务当前的状态码为第i-1状态码的情况下,确定当前需要执行上述第i-1子任务。
调用单元用于调用与上述第i-1子任务对应的上述第i-1线程池,以便利用上述第i-1线程池根据上述第i-1处理规则对上述第i-1子任务进行处理。
根据本公开的实施例,上述数据处理装置还包括更新模块,更新模块用于在上述第i-1处理结果表征上述第i-1子任务处理成功的情况下,将上述待处理任务当前的状态码由上述第i-1状态码更新为第i状态码。
根据本公开的实施例,上述数据处理装置还包括发送模块,发送模块用于在上述第i-1处理结果表征上述第i-1子任务处理失败的情况下,发送提示信息。
根据本公开的实施例,上述预设划分规则包括:按照上述待处理任务的处理步骤或上述待处理任务的处理节点进行划分。
根据本公开的实施例,上述处理规则包括以下至少两个:数据校验规则、交易发起规则、状态查询规则、结果更新规则。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
根据本公开的实施例,获取模块610、划分模块620、第一处理模块630和第二处理模块640中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,获取模块610、划分模块620、第一处理模块630和第二处理模块640中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,获取模块610、划分模块620、第一处理模块630和第二处理模块640中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
需要说明的是,本公开的实施例中信息监控装置部分与本公开的实施例中信息监控方法部分是相对应的,信息监控装置部分的描述具体参考信息监控方法部分,在此不再赘述。
图7示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的方框图。
如图7所示,根据本公开实施例的电子设备700包括处理器701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。处理器701例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器701还可以包括用于缓存用途的板载存储器。处理器701可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 703中,存储有电子设备700操作所需的各种程序和数据。处理器701、ROM702以及RAM 703通过总线704彼此相连。处理器701通过执行ROM 702和/或RAM 703中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 702和RAM 703以外的一个或多个存储器中。处理器701也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备700还可以包括输入/输出(I/O)接口705,输入/输出(I/O)接口705也连接至总线704。电子设备700还可以包括连接至I/O接口705的以下部件中的一项或多项:包括键盘、鼠标等的输入部分706;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707;包括硬盘等的存储部分708;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器710上,以便于从其上读出的计算机程序根据需要被安装入存储部分708。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 702和/或RAM 703和/或ROM 702和RAM 703以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的数据处理方法。
在该计算机程序被处理器701执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分709被下载和安装,和/或从可拆卸介质711被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分709从网络上被下载和安装,和/或从可拆卸介质711被安装。在该计算机程序被处理器701执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。

Claims (10)

1.一种数据处理方法,包括:
响应于数据处理请求,获取待处理任务;
将所述待处理任务按照预设划分规则划分成在不同阶段执行的N个子任务,其中,N≥2,每个所述子任务采用对应的线程池进行处理;
利用第i-1线程池根据第i-1处理规则对第i-1子任务进行处理,得到第i-1处理结果,其中,所述N≥i≥2;以及
在所述第i-1处理结果表征所述第i-1子任务处理成功的情况下,利用第i线程池根据第i处理规则对第i子任务进行处理。
2.根据权利要求1所述的方法,其中,所述待处理任务在不同阶段具有不同的状态码,其中,所述状态码用于指示当前需要执行的目标子任务;
其中,所述利用第i-1线程池根据第i-1处理规则对第i-1子任务进行处理,得到第i-1处理结果包括:
在所述待处理任务当前的状态码为第i-1状态码的情况下,确定当前需要执行所述第i-1子任务;
调用与所述第i-1子任务对应的所述第i-1线程池,以便利用所述第i-1线程池根据所述第i-1处理规则对所述第i-1子任务进行处理。
3.根据权利要求2所述的方法,还包括:
在所述第i-1处理结果表征所述第i-1子任务处理成功的情况下,将所述待处理任务当前的状态码由所述第i-1状态码更新为第i状态码。
4.根据权利要求1所述的方法,还包括:
在所述第i-1处理结果表征所述第i-1子任务处理失败的情况下,发送提示信息。
5.根据权利要求1所述的方法,其中,所述预设划分规则包括:按照所述待处理任务的处理步骤或所述待处理任务的处理节点进行划分。
6.根据权利要求1所述的方法,其中,所述处理规则包括以下至少两个:数据校验规则、交易发起规则、状态查询规则、结果更新规则。
7.一种数据处理装置,包括:
获取模块,用于响应于数据处理请求,获取待处理任务;
划分模块,用于将所述待处理任务按照预设划分规则划分成在不同阶段执行的N个子任务,其中,N≥2,每个所述子任务采用对应的线程池进行处理;
第一处理模块,用于利用第i-1线程池根据第i-1处理规则对第i-1子任务进行处理,得到第i-1处理结果,其中,所述N≥i≥2;以及
第二处理模块,用于在所述第i-1处理结果表征所述第i-1子任务处理成功的情况下,利用第i线程池根据第i处理规则对第i子任务进行处理。
8.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~6中任一项所述的方法。
9.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~6中任一项所述的方法。
10.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~6中任一项所述的方法。
CN202210113464.8A 2022-01-29 2022-01-29 数据处理方法、装置、电子设备及存储介质 Pending CN114416378A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210113464.8A CN114416378A (zh) 2022-01-29 2022-01-29 数据处理方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210113464.8A CN114416378A (zh) 2022-01-29 2022-01-29 数据处理方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN114416378A true CN114416378A (zh) 2022-04-29

Family

ID=81279450

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210113464.8A Pending CN114416378A (zh) 2022-01-29 2022-01-29 数据处理方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN114416378A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115455088A (zh) * 2022-10-24 2022-12-09 建信金融科技有限责任公司 数据统计方法、装置、设备及存储介质
CN115514670A (zh) * 2022-08-26 2022-12-23 建信金融科技有限责任公司 数据捕获方法、装置、电子设备及存储介质
CN116132458A (zh) * 2022-12-09 2023-05-16 网易(杭州)网络有限公司 业务数据的处理方法、装置及电子设备

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115514670A (zh) * 2022-08-26 2022-12-23 建信金融科技有限责任公司 数据捕获方法、装置、电子设备及存储介质
CN115514670B (zh) * 2022-08-26 2023-06-16 建信金融科技有限责任公司 数据捕获方法、装置、电子设备及存储介质
CN115455088A (zh) * 2022-10-24 2022-12-09 建信金融科技有限责任公司 数据统计方法、装置、设备及存储介质
CN116132458A (zh) * 2022-12-09 2023-05-16 网易(杭州)网络有限公司 业务数据的处理方法、装置及电子设备

Similar Documents

Publication Publication Date Title
US11449774B2 (en) Resource configuration method and apparatus for heterogeneous cloud services
CN114416378A (zh) 数据处理方法、装置、电子设备及存储介质
CN113094081B (zh) 软件发布方法、装置、计算机系统和计算机可读存储介质
CN115965474A (zh) 业务处理方法、装置、设备及存储介质
CN115373822A (zh) 任务调度方法、任务处理方法、装置、电子设备和介质
CN113111077A (zh) 一致性的控制方法、装置、电子设备、介质和程序产品
CN115170321A (zh) 批量交易数据的处理方法和装置
CN113132400B (zh) 业务处理方法、装置、计算机系统及存储介质
CN111831503B (zh) 一种基于监控代理的监控方法和监控代理装置
CN113076224B (zh) 数据备份方法、数据备份系统、电子设备及可读存储介质
CN113191889A (zh) 风控配置方法、配置系统、电子设备及可读存储介质
CN116302271A (zh) 一种页面展示方法、装置及电子设备
CN115408297A (zh) 测试方法、装置、设备及介质
CN114237765A (zh) 功能组件处理方法、装置、电子设备和介质
CN114418702A (zh) 基于时间窗口的待支付订单状态确认方法及装置
CN113778631A (zh) 分布式事务补偿方法、装置、电子设备及可读存储介质
CN109840073B (zh) 业务流程的实现方法和装置
CN112150126A (zh) 信息处理方法、装置、电子设备及介质
CN115826934B (zh) 一种应用开发系统和方法
CN113347250B (zh) 数据访问方法、数据访问装置、电子设备及可读存储介质
CN115373802A (zh) 代理系统的重启方法、装置、电子设备及存储介质
CN114721882A (zh) 数据备份方法、装置、电子设备及存储介质
CN117785336A (zh) 基于广义线性模型的任务处理方法、系统、设备及介质
CN113419922A (zh) 主机批量作业运行数据的处理方法及装置
CN114218330A (zh) Es集群的选择方法、装置、设备、介质和程序产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination