CN111198769A - 信息处理方法及其系统、计算机系统及计算机可读介质 - Google Patents
信息处理方法及其系统、计算机系统及计算机可读介质 Download PDFInfo
- Publication number
- CN111198769A CN111198769A CN201811372305.XA CN201811372305A CN111198769A CN 111198769 A CN111198769 A CN 111198769A CN 201811372305 A CN201811372305 A CN 201811372305A CN 111198769 A CN111198769 A CN 111198769A
- Authority
- CN
- China
- Prior art keywords
- target
- subtask
- write
- database
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/52—Program synchronisation; Mutual exclusion, e.g. by means of semaphores
- G06F9/524—Deadlock detection or avoidance
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种信息处理方法,该方法包括:接收对指定数据库执行目标任务的执行指令,其中,目标任务包含多个目标子任务;响应于执行指令,多线程执行多个目标子任务;获取消息队列,其中,消息队列用于记录多个目标子任务中各目标子任务的执行结果;以及在消息队列中存在未被执行成功的目标子任务的情况下,重新执行目标子任务以实现目标任务。此外,本公开还提供了一种信息处理系统,一种计算机系统以及一种计算机可读存储介质。
Description
技术领域
本公开涉及数据处理技术领域,更具体地,涉及一种信息处理方法及其系统,一种计算机系统及一种计算机可读存储介质。
背景技术
针对业务场景比较频繁的系统,在线上运行一段时间后,随着业务的发展、业务线越来越多,数据库将会成为系统性能的瓶颈,表现在数据的存储方面和数据的个性化逻辑处理方面。例如,在写明细数据接口中,由于业务线的复杂,个性化的逻辑处理,自动开启数据库事务和手动开启数据库事务的原因,顺序执行数据库事务会导致数据库事务失效,尤其在大数据并发的情况下,容易导致死锁,甚至会出现数据库连接串,导致无法成功提交事务的问题,甚至数据丢失。
然而,在实现本公开构思的过程中,发明人发现相关技术中至少存在如下问题:相关技术中,现有的数据库事务执行方式,在大数据并发的情况下,容易出现死锁,导致的数据丢失问题。
针对相关技术中的上述问题,目前还未提出有效的解决方案。
发明内容
有鉴于此,本公开提供了一种信息处理方法及其系统,一种计算机系统及一种计算机可读存储介质。
本公开的一个方面提供了一种信息处理方法,包括:接收对指定数据库执行目标任务的执行指令,其中,上述目标任务包含多个目标子任务;响应于上述执行指令,多线程执行上述多个目标子任务;获取消息队列,其中,上述消息队列用于记录上述多个目标子任务中各目标子任务的执行结果;以及在上述消息队列中存在未被执行成功的目标子任务的情况下,重新执行上述目标子任务以实现上述目标任务。
根据本公开的实施例,上述写任务包含写日志子任务和写数据子任务,上述方法包括:接收对上述指定数据库执行写任务的执行指令;响应于上述执行指令,多线程执行上述写日志子任务和写数据子任务;获取消息队列,其中,上述消息队列用于记录上述多个写日志子任务和写数据子任务的执行结果;以及在上述消息队列中存在未被执行成功的写日志子任务和/或写数据子任务的情况下,重新执行上述写日志子任务和/或写数据子任务以实现上述目标任务。
根据本公开的实施例,上述响应于上述执行指令,多线程执行上述写日志子任务和写数据子任务包括:获取上述写任务对应的目标数据的标识信息;检测上述标识信息是否存在于上述数据库的日志文件;在上述标识信息不存在于上述日志文件的情况下,将上述标识信息写入上述日志文件;检测上述目标数据是否存在于目标数据库,其中,上述目标数据库不同于上述指定数据库;以及在上述目标数据不存在于上述目标数据库的情况下,将上述目标数据写入上述目标数据库。
根据本公开的实施例,上述方法还包括:在上述消息队列中存在未被执行成功的目标子任务的情况下,生成并发送上述未被执行成功的目标子任务的报警提示信息。
根据本公开的实施例,上述方法还包括:在上述日志文件中查询到上述标识信息的情况下,确定上述写日志子任务被执行成功;在上述目标数据库查询到上述目标数据的情况下,确定上述写数据子任务被执行成功;以及向上述消息队列返回执行成功结果。
本公开的另一个方面提供了一种信息处理系统,包括:第一接收模块,用于接收对指定数据库执行目标任务的执行指令,其中,上述目标任务包含多个目标子任务;第一执行模块,用于响应于上述执行指令,多线程执行上述多个目标子任务;第一获取模块,用于获取消息队列,其中,上述消息队列用于记录上述多个目标子任务中各目标子任务的执行结果;以及第二执行模块,用于在上述消息队列中存在未被执行成功的目标子任务的情况下,重新执行上述目标子任务以实现上述目标任务。
根据本公开的实施例,上述系统包括:第二接收模块,用于接收对上述指定数据库执行写任务的执行指令;第三执行模块,用于响应于上述执行指令,多线程执行上述写日志子任务和写数据子任务;第二获取模块,用于获取消息队列,其中,上述消息队列用于记录上述多个写日志子任务和写数据子任务的执行结果;以及第四执行模块,用于在上述消息队列中存在未被执行成功的写日志子任务和/或写数据子任务的情况下,重新执行上述写日志子任务和/或写数据子任务以实现上述目标任务。
根据本公开的实施例,上述第三执行模块包括:获取子模块,用于获取上述写任务对应的目标数据的标识信息;第一检测子模块,用于检测上述标识信息是否存在于上述数据库的日志文件;第一写入子模块,用于在上述标识信息不存在于上述日志文件的情况下,将上述标识信息写入上述日志文件;第二检测子模块,用于检测上述目标数据是否存在于目标数据库,其中,上述目标数据库不同于上述指定数据库;以及第二写入子模块,用于在上述目标数据不存在于上述目标数据库的情况下,将上述目标数据写入上述目标数据库。
根据本公开的实施例,上述系统还包括:报警模块,用于在上述消息队列中存在未被执行成功的目标子任务的情况下,生成并发送上述未被执行成功的目标子任务的报警提示信息。
根据本公开的实施例,上述系统还包括:第一确定子模块,用于在上述日志文件中查询到上述标识信息的情况下,确定上述写日志子任务被执行成功;第二确定子模块,用于在上述目标数据库查询到上述目标数据的情况下,确定上述写数据子任务被执行成功;以及发送子模块,用于向上述消息队列返回执行成功结果。
本公开的另一方面提供了一种计算机可读存储介质,存储有计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
本公开的另一方面提供了一种计算机程序,所述计算机程序包括计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
根据本公开的实施例,可以至少部分克服相关技术中,在大数据并发的情况下,按顺序执行目标任务中的多个子目标任务导致数据库发生死锁的技术问题,并因此可以实现多个子目标子任务同步执行,互不影响,同时根据消息队列记录子任务的执行结果,在有未被执行成功的子任务的情况下,重新执行该子任务,避免数据库发生死锁的技术效果。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的信息处理方法和信息处理系统的应用场景;
图2示意性示出了根据本公开实施例的信息处理方法的流程图;
图3A示意性示出了根据本公开另一实施例的信息处理方法的流程图;
图3B示意性示出了根据本公开实施例的多线程执行写日志子任务和写数据子任务的流程图;
图3C示意性示出了根据本公开又一实施例的信息处理方法的流程图;
图3D示意性示出了根据本公开再一实施例的信息处理方法的流程图;
图3E示意性示出了相关技术的目标任务的执行过程;
图3F示意性示出了根据本公开实施例的执行过程;
图3G示意性示出了根据本公开实施例的信息处理方法的整体流程图;
图4示意性示出了根据本公开实施例的信息处理系统的框图;
图5A示意性示出了根据本公开另一实施例的信息处理系统的框图;
图5B示意性示出了根据本公开实施例的第三执行模块的框图;
图5C示意性示出了根据本公开又一实施例的信息处理系统的框图;
图5D示意性示出了根据本公开又一实施例的第三执行模块的框图;以及
图6示意性示出了根据本公开实施例的适于实现信息处理方法及其信息处理系统的计算机系统的框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
本公开提供了一种信息处理方法,该方法包括:接收对指定数据库执行目标任务的执行指令,其中,目标任务包含多个目标子任务;响应于执行指令,多线程执行多个目标子任务;获取消息队列,其中,消息队列用于记录多个目标子任务中各目标子任务的执行结果;以及在消息队列中存在未被执行成功的目标子任务的情况下,重新执行目标子任务以实现目标任务。
本公开实施例提供的信息处理方法可以适应于任何需要对数据库事务进行管理的场景。
图1示意性示出了根据本公开实施例的可以应用信息处理方法和信息处理系统的应用场景100。需要注意的是,图1所示仅为可以应用本公开实施例的应用场景的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的应用场景100可以包括终端设备101、102、103,网络104、服务器105和数据库服务器106。网络104用以在终端设备101、102、103和服务器105以及服务器105和数据库服务器106之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
数据库服务器106可以是给服务器105提供数据库服务的服务器,包括但不限于事务管理服务器。
需要说明的是,本公开实施例所提供的信息处理方法一般可以由服务器105执行。相应地,本公开实施例所提供的信息处理装置一般可以设置于服务器105中。本公开实施例所提供的信息处理方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的信息处理装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。同样的,本公开实施例所提供的信息处理装置一般可以设置于数据库服务器106中。本公开实施例所提供的信息处理方法也可以由不同于数据库服务器106且能够与终端设备101、102、103和/或数据库服务器106通信的服务器或服务器集群执行。相应地,本公开实施例所提供的信息处理装置也可以设置于不同于据库服务器106且能够与终端设备101、102、103和/或数据库服务器106通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的信息处理方法的流程图。
如图2所示,该方法包括操作S210~S240。其中:
在操作S210,接收对指定数据库执行目标任务的执行指令。
在操作S220,响应于执行指令,多线程执行多个目标子任务。
在操作S230,获取消息队列。
在操作S240,在消息队列中存在未被执行成功的目标子任务的情况下,重新执行目标子任务以实现目标任务。
根据本公开的实施例,目标任务包含多个目标子任务。目标任务是针对指定数据库所要执行的任务,可以是数据库事务。指定数据库可以是向业务系统提供服务的数据库,可以是按业务实现分库分表的分布式数据库,通过对外提供统一的明细写入接口,实现业务数据的写入,插入到指定数据库的明细表中。
根据本公开的实施例,消息队列(Message Queue,简称为MQ)用于记录多个目标子任务中各目标子任务的执行结果。为构造异步方式实现的分布式应用提供松耦合方法。
相关技术中,目标任务中的子任务是按照顺序执行的,当前一个子任务执行成功之后,才可以开始执行下一个子任务,若当前执行的子任务出现错误,则下一个子任务也不会开始执行,在大量数据并发的情况下,会导致锁表的情况。
而本公开实施例的信息处理方法,将多个子任务同时执行,而不是一次执行一个子任务,通过消息队列实现对各子任务的监听,以获得各子任务的执行结果,在执行结果有误的情况下,重新执行出错的子任务。具体地,可以是通过业务类型和唯一单号查询mongodb数据库中丢失的数据,并重新发送消息,重复处理MQ消息。保证出问题的情况下,系统自动处理。
通过本公开的实施例,通过多线程执行多个目标子任务,可以至少部分克服相关技术中,在大数据并发的情况下,按顺序执行目标任务中的多个子目标任务导致数据库发生死锁的技术问题,并因此可以实现多个子目标子任务同步执行,互不影响,同时根据消息队列记录子任务的执行结果,在有未被执行成功的子任务的情况下,重新执行该子任务,避免数据库发生死锁的技术效果。
下面参考图3A~图3G,结合具体实施例对图2所示的方法做进一步说明。
图3A示意性示出了根据本公开另一实施例的信息处理方法的流程图。
如图3A所示,该方法包括S311~S314。其中:
在操作S311,接收对指定数据库执行写任务的执行指令。
在操作S312,响应于执行指令,多线程执行写日志子任务和写数据子任务。
在操作S313,获取消息队列。
在操作S314,在消息队列中存在未被执行成功的写日志子任务和/或写数据子任务的情况下,重新执行写日志子任务和/或写数据子任务以实现目标任务。
根据本公开的实施例,写任务包含写日志子任务和写数据子任务。消息队列用于记录多个写日志子任务和写数据子任务的执行结果。
以向数据库写业务系统的数据为例,将写数据的目标任务拆分成写日志子任务和写数据子任务,使得子任务之间不互相影响,在一个子任务执行失败的情况下,也不影响另一个子任务的执行。
需要说明的是,本公开实施例提供的信息处理方法也适用于向数据库读数据的过程,以下将以写数据为例,详细阐述本公开实施例提供的信息处理方法,并不是对目标任务的具体限定。
根据本公开的实施例,写日志子任务可以是写防重表,写数据子任务可以是写明细表,将目标任务拆分成写防重表子任务和写明细表子任务,分别执行上述两个子任务。在其中任何一个子任务未被执行成功的情况下,重新执行,以实现目标任务的执行。
通过本公开的实施例,多线程执行写日志子任务和写数据子任务,可以实现写日志子任务和写数据子任务同步执行,且互不影响,在大数据并发的情况下,避免数据库发生死锁的技术效果。
图3B示意性示出了根据本公开实施例的多线程执行写日志子任务和写数据子任务的流程图。
如图3B所示,该方法包括S321~S325。其中:
在操作S321,获取写任务对应的目标数据的标识信息。
在操作S322,检测标识信息是否存在于数据库的日志文件。
在操作S323,在标识信息不存在于日志文件的情况下,将标识信息写入日志文件。
在操作S324,检测目标数据是否存在于目标数据库,其中,目标数据库不同于指定数据库。
在操作S325,在目标数据不存在于目标数据库的情况下,将目标数据写入目标数据库。
根据本公开的实施例,标识信息可以是要插入指定数据库的目标数据的参数,如业务单号。再对目标数据进行解析,组装数据对象,获取系统的ID,可以通过不同于指定数据库的其他数据库如Redis自增,解决数据库压力及性能问题,同时每5分钟做ID同步,以保证在Redis挂掉的情况下,ID不会丢失,不出现ID混乱问题。多线程并发访问加Redis锁(5分钟),通过业务单号查询防重表数据,如果没有查到,继续写入防重表。如果查询到,继续。通过系统唯一ID查询明细表数据,没有查询到,直接调用写入方法,写入明细数据。如果查询到直接返回成功结果。
根据本公开的实施例,可以监听(主题:FinDetailMqIns)消息,监听为JMQ消息中间件的一种特性,可以做到在消息平台有消息时,第一时间通知所有订阅消息的消息方,同时消息方也会同步收到消息,进行相应处理。
通过本公开的实施例,根据日志文件检测目标数据的标识信息是否需要被写日志文件,根据目标数据库检测目标数据是否需要被写目标数据库,可以实现日志和数据的分别写,提高目标任务执行的效率。
图3C示意性示出了根据本公开又一实施例的信息处理方法的流程图。
如图3C所示,该方法除了包括前述S210~S240之外,还可以包括操作S331。其中:
在操作S331,在消息队列中存在未被执行成功的目标子任务的情况下,生成并发送未被执行成功的目标子任务的报警提示信息。
根据本公开的实施例,在存在未被执行成功的子任务的情况下,发送报警邮件,通知研发同事发现问题及时处理。
通过本公开的实施例,监听写日志和写数据是否执行成功,在不成功的情况下,生成并发送报警信息,可以提示相关人员根据报警信息及时处理问题,实现对任务执行过程的有效监控,提高目标任务的执行效率。
图3D示意性示出了根据本公开再一实施例的信息处理方法的流程图。
如图3D所示,该方法除了包括前述操作S321~S325之外,还包括S341~S343。其中:
在操作S341,在日志文件中查询到标识信息的情况下,确定写日志子任务被执行成功。
在操作S342,在目标数据库查询到目标数据的情况下,确定写数据子任务被执行成功。
在操作S343,向消息队列返回执行成功结果。
根据本公开的实施例,在执行完写入子任务之后,校验写入的正确性。
与写入子任务对应地,可以通过业务单号查询防重表数据,如果查询到,继续。通过系统唯一ID查询明细表数据,如果查询到直接返回成功结果。还可以向消息队列返回执行成功的结果,以更新消息队列。
根据本公开的实施例,可以监听(主题:FinFeeDetailCheck)消息。
通过本公开的实施例,检验通过在日志文件中查询是否存在于日志文件中,目标数据是否存在于目标数据库中,得到子任务是否执行成功的执行结果,生成并发送报警信息,可以提示相关人员根据报警信息及时处理问题,实现对任务执行过程的有效监控,提高目标任务的执行效率。
图3E示意性示出了相关技术的目标任务的执行过程。
如图3E所示,相关技术中目标任务的执行过程包括操作S351~S359。具体地,通过JSF明细接口,从业务系统获取要插入的数据内容即目标数据,进行数据校验(操作S351),组装目标数据对象(操作S352),转换为指定数据库可以识别的数据,补充缺少的数据,同时提前生成好系统的唯一ID。开启事务(操作S353),写防重表(操作S354),写明细表(操作S355),写MQ任务表(操作S356),提交事务(操作S357),发起MQ消息(操作S358),返回数据写入结果(操作S359),流程结束。
图3F示意性示出了根据本公开实施例的执行过程。
如图3F所示,本公开实施例中目标任务的执行过程包括操作S361~S367。具体地,操作S361同前述操作S351。与相关技术不同的是,在操作S362中,组装数据对象的过程中,通过Redis自增生成ID,而不是系统自增,可以解决数据库压力及性能问题,同时每5分钟做ID同步,以保证在Redis挂掉的情况下,ID不会丢失,不出现ID混乱问题。写防重表(操作S363),写入mongoDB数据库(操作S364),带ID发送写入消息队列消息(操作S365),如FinDetailMqIns;带ID发送校验消息队列消息(操作S366),如:FinFeeDetailCheck,最后将状态和明细ID返回业务系统成功消息(操作S367)。
图3G示意性示出了根据本公开实施例的信息处理方法的整体流程图。
如图3G所示,本公开实施例的信息处理方法将写入这一目标任务进行了拆解,第一步写防重表数据,第二步写明细表数据,第三部校验防重表数据和明细表数据,将相关技术中批量做的工作,转换成简单的单个字任务来执行,如单表单条数据操作,事务直接交由数据库控制。
结合图3E~3G,可以看出,本公开实施例基于异步MQ机制,处理数据库事务,至少部分克服相关技术中,通过代码层面来手动开启的事务来做的控制。我们在正常的开启、执行SQL、关闭事务等正常流程中,如果出现大并发请求时,数据库发生死锁或单点瓶颈的情况下,数据库中的事务和代码中的事务会出现混乱,导致事务失败以及数据丢失的技术问题,并因此可以实现数据的自动校验,自动核对以及自动补充数据的技术效果。
图4示意性示出了根据本公开实施例的信息处理系统的框图。
如图4所示,信息处理系统400包括第一接收模块410、第一执行模块420、第一获取模块430以及第二执行模块440。其中:
第一接收模块410,用于接收对指定数据库执行目标任务的执行指令。
第一执行模块420,用于响应于执行指令,多线程执行多个目标子任务。
第一获取模块430,用于获取消息队列。
第二执行模块440,用于在消息队列中存在未被执行成功的目标子任务的情况下,重新执行目标子任务以实现目标任务
通过本公开的实施例,通过多线程执行多个目标子任务,可以至少部分克服相关技术中,在大数据并发的情况下,按顺序执行目标任务中的多个子目标任务导致数据库发生死锁的技术问题,并因此可以实现多个子目标子任务同步执行,互不影响,同时根据消息队列记录子任务的执行结果,在有未被执行成功的子任务的情况下,重新执行该子任务,避免数据库发生死锁的技术效果。
图5A示意性示出了根据本公开另一实施例的信息处理系统的框图。
如图5A所示,该系统500包括第二接收模块511、第三执行模块512、第二获取模块513以及第四执行模块514。其中:
第二接收模块511,用于接收对指定数据库执行写任务的执行指令。
第三执行模块512,用于响应于执行指令,多线程执行写日志子任务和写数据子任务。
第二获取模块513,用于获取消息队列,其中,消息队列用于记录多个写日志子任务和写数据子任务的执行结果。
第四执行模块514,用于在消息队列中存在未被执行成功的写日志子任务和/或写数据子任务的情况下,重新执行写日志子任务和/或写数据子任务以实现目标任务。
通过本公开的实施例,多线程执行写日志子任务和写数据子任务,可以实现写日志子任务和写数据子任务同步执行,且互不影响,在大数据并发的情况下,避免数据库发生死锁的技术效果。
图5B示意性示出了根据本公开实施例的第三执行模块的框图。
如图5B所示,第三执行模块512包括获取子模块521、第一检测子模块522、第一写入子模块523、第二检测子模块524以及第二写入子模块525。其中:
获取子模块521,用于获取写任务对应的目标数据的标识信息。
第一检测子模块522,用于检测标识信息是否存在于数据库的日志文件。
第一写入子模块523,用于在标识信息不存在于日志文件的情况下,将标识信息写入日志文件。
第二检测子模块524,用于检测目标数据是否存在于目标数据库,其中,目标数据库不同于指定数据库。
第二写入子模块525,用于在目标数据不存在于目标数据库的情况下,将目标数据写入目标数据库。
通过本公开的实施例,根据日志文件检测目标数据的标识信息是否需要被写日志文件,根据目标数据库检测目标数据是否需要被写目标数据库,可以实现日志和数据的分别写,提高目标任务执行的效率。
图5C示意性示出了根据本公开又一实施例的信息处理系统的框图。
如图5C所示,该信息处理系统400除了包括前述第一接收模块410、第一执行模块420、第一获取模块430以及第二执行模块440之外,还包括报警模块531。其中:
报警模块531,用于在消息队列中存在未被执行成功的目标子任务的情况下,生成并发送未被执行成功的目标子任务的报警提示信息。
通过本公开的实施例,监听写日志和写数据是否执行成功,在不成功的情况下,生成并发送报警信息,可以提示相关人员根据报警信息及时处理问题,实现对任务执行过程的有效监控,提高目标任务的执行效率。
图5D示意性示出了根据本公开又一实施例的第三执行模块的框图。
如图5D所示,第三执行模块512除了可以包括前述获取子模块521、第一检测子模块522、第一写入子模块523、第二检测子模块524以及第二写入子模块525之外,还可以包括第一确定子模块531、第二确定子模块532以及发送子模块533。其中:
第一确定子模块531,用于在日志文件中查询到标识信息的情况下,确定写日志子任务被执行成功。
第二确定子模块532,用于在目标数据库查询到目标数据的情况下,确定写数据子任务被执行成功。
发送子模块533,用于向消息队列返回执行成功结果。
通过本公开的实施例,检验通过在日志文件中查询是否存在于日志文件中,目标数据是否存在于目标数据库中,得到子任务是否执行成功的执行结果,生成并发送报警信息,可以提示相关人员根据报警信息及时处理问题,实现对任务执行过程的有效监控,提高目标任务的执行效率。
根据本公开的实施例的模块、子模块、单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及同件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,第一接收模块410、第一执行模块420、第一获取模块430、第二执行模块以及报警模块531中的任意多个可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,第一接收模块410、第一执行模块420、第一获取模块430、第二执行模块以及报警模块531中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,第一接收模块410、第一执行模块420、第一获取模块430、第二执行模块以及报警模块531中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图6示意性示出了根据本公开实施例的适于实现信息处理方法和系统的计算机系统的框图。图6示出的计算机系统仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,根据本公开实施例的计算机系统600包括处理器601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。处理器601例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器601还可以包括用于缓存用途的板载存储器。处理器601可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 603中,存储有系统600操作所需的各种程序和数据。处理器601、ROM 602以及RAM 603通过总线604彼此相连。处理器601通过执行ROM 602和/或RAM 603中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 602和RAM 603以外的一个或多个存储器中。处理器601也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,系统600还可以包括输入/输出(I/O)接口605,输入/输出(I/O)接口605也连接至总线604。系统600还可以包括连接至I/O接口605的以下部件中的一项或多项:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
根据本公开的实施例,根据本公开实施例的方法流程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被处理器601执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 602和/或RAM 603和/或ROM 602和RAM 603以外的一个或多个存储器。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (12)
1.一种信息处理方法,包括:
接收对指定数据库执行目标任务的执行指令,其中,所述目标任务包含多个目标子任务;
响应于所述执行指令,多线程执行所述多个目标子任务;
获取消息队列,其中,所述消息队列用于记录所述多个目标子任务中各目标子任务的执行结果;以及
在所述消息队列中存在未被执行成功的目标子任务的情况下,重新执行所述目标子任务以实现所述目标任务。
2.根据权利要求1的方法,其中,所述写任务包含写日志子任务和写数据子任务,所述方法包括:
接收对所述指定数据库执行写任务的执行指令;
响应于所述执行指令,多线程执行所述写日志子任务和写数据子任务;
获取消息队列,其中,所述消息队列用于记录所述多个写日志子任务和写数据子任务的执行结果;以及
在所述消息队列中存在未被执行成功的写日志子任务和/或写数据子任务的情况下,重新执行所述写日志子任务和/或写数据子任务以实现所述目标任务。
3.根据权利要求2的方法,其中,所述响应于所述执行指令,多线程执行所述写日志子任务和写数据子任务包括:
获取所述写任务对应的目标数据的标识信息;
检测所述标识信息是否存在于所述数据库的日志文件;
在所述标识信息不存在于所述日志文件的情况下,将所述标识信息写入所述日志文件;
检测所述目标数据是否存在于目标数据库,其中,所述目标数据库不同于所述指定数据库;以及
在所述目标数据不存在于所述目标数据库的情况下,将所述目标数据写入所述目标数据库。
4.根据权利要求1的方法,其中,所述方法还包括:
在所述消息队列中存在未被执行成功的目标子任务的情况下,生成并发送所述未被执行成功的目标子任务的报警提示信息。
5.根据权利要求3的方法,其中,所述方法还包括:
在所述日志文件中查询到所述标识信息的情况下,确定所述写日志子任务被执行成功;
在所述目标数据库查询到所述目标数据的情况下,确定所述写数据子任务被执行成功;以及
向所述消息队列返回执行成功结果。
6.一种信息处理系统,包括:
第一接收模块,用于接收对指定数据库执行目标任务的执行指令,其中,所述目标任务包含多个目标子任务;
第一执行模块,用于响应于所述执行指令,多线程执行所述多个目标子任务;
第一获取模块,用于获取消息队列,其中,所述消息队列用于记录所述多个目标子任务中各目标子任务的执行结果;以及
第二执行模块,用于在所述消息队列中存在未被执行成功的目标子任务的情况下,重新执行所述目标子任务以实现所述目标任务。
7.根据权利要求6的系统,其中,所述系统包括:
第二接收模块,用于接收对所述指定数据库执行写任务的执行指令;
第三执行模块,用于响应于所述执行指令,多线程执行所述写日志子任务和写数据子任务;
第二获取模块,用于获取消息队列,其中,所述消息队列用于记录所述多个写日志子任务和写数据子任务的执行结果;以及
第四执行模块,用于在所述消息队列中存在未被执行成功的写日志子任务和/或写数据子任务的情况下,重新执行所述写日志子任务和/或写数据子任务以实现所述目标任务。
8.根据权利要求7的系统,其中,所述第三执行模块包括:
获取子模块,用于获取所述写任务对应的目标数据的标识信息;
第一检测子模块,用于检测所述标识信息是否存在于所述数据库的日志文件;
第一写入子模块,用于在所述标识信息不存在于所述日志文件的情况下,将所述标识信息写入所述日志文件;
第二检测子模块,用于检测所述目标数据是否存在于目标数据库,其中,所述目标数据库不同于所述指定数据库;以及
第二写入子模块,用于在所述目标数据不存在于所述目标数据库的情况下,将所述目标数据写入所述目标数据库。
9.根据权利要求6的系统,其中,所述系统还包括:
报警模块,用于在所述消息队列中存在未被执行成功的目标子任务的情况下,生成并发送所述未被执行成功的目标子任务的报警提示信息。
10.根据权利要求8的系统,其中,所述系统还包括:
第一确定子模块,用于在所述日志文件中查询到所述标识信息的情况下,确定所述写日志子任务被执行成功;
第二确定子模块,用于在所述目标数据库查询到所述目标数据的情况下,确定所述写数据子任务被执行成功;以及
发送子模块,用于向所述消息队列返回执行成功结果。
11.一种计算机系统,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当一个或多个程序被一个或多个处理器执行时,使得一个或多个处理器实现权利要求1至5中任一项的信息处理方法。
12.一种计算机可读介质,其上存储有可执行指令,该指令被处理器执行时使处理器实现权利要求1至5中任一项的信息处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811372305.XA CN111198769A (zh) | 2018-11-16 | 2018-11-16 | 信息处理方法及其系统、计算机系统及计算机可读介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811372305.XA CN111198769A (zh) | 2018-11-16 | 2018-11-16 | 信息处理方法及其系统、计算机系统及计算机可读介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111198769A true CN111198769A (zh) | 2020-05-26 |
Family
ID=70744051
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811372305.XA Pending CN111198769A (zh) | 2018-11-16 | 2018-11-16 | 信息处理方法及其系统、计算机系统及计算机可读介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111198769A (zh) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112651716A (zh) * | 2020-12-30 | 2021-04-13 | 深圳市华傲数据技术有限公司 | 数据处理方法、设备及存储介质 |
CN112835692A (zh) * | 2021-01-12 | 2021-05-25 | 山东众阳健康科技集团有限公司 | 一种日志消息驱动任务方法、系统、存储介质及设备 |
CN113296966A (zh) * | 2021-05-21 | 2021-08-24 | 中国邮政储蓄银行股份有限公司 | 数据处理方法及装置 |
CN114067845A (zh) * | 2021-11-30 | 2022-02-18 | 中国工商银行股份有限公司 | 磁盘的磁盘信息的处理方法、消磁系统及电子设备 |
CN114785749A (zh) * | 2022-04-14 | 2022-07-22 | 北京京东拓先科技有限公司 | 一种消息群发处理方法和装置 |
CN115080241A (zh) * | 2022-06-30 | 2022-09-20 | 支付宝(杭州)信息技术有限公司 | 数据处理方法以及装置 |
CN115658325A (zh) * | 2022-11-18 | 2023-01-31 | 北京市大数据中心 | 数据处理方法、装置、多核处理器、电子设备以及介质 |
CN115866017A (zh) * | 2023-02-27 | 2023-03-28 | 天翼云科技有限公司 | 消息处理方法、装置、通信设备及存储介质 |
CN116821250A (zh) * | 2023-08-25 | 2023-09-29 | 支付宝(杭州)信息技术有限公司 | 一种分布式图数据处理方法和系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150199415A1 (en) * | 2014-01-16 | 2015-07-16 | International Business Machines Corporation | Parallel transaction messages for database replication |
US20160217177A1 (en) * | 2015-01-27 | 2016-07-28 | Kabushiki Kaisha Toshiba | Database system |
US20160291977A1 (en) * | 2015-03-30 | 2016-10-06 | International Business Machines Corporation | Adaptive map-reduce pipeline with dynamic thread allocations |
EP3267634A1 (en) * | 2016-07-06 | 2018-01-10 | Facebook, Inc. | Techniques for messaging using replication of a client database |
CN107589959A (zh) * | 2016-07-08 | 2018-01-16 | 湖南易分销电子商务有限公司 | 一种用于商城系统多线程自动化任务处理技术 |
CN108076098A (zh) * | 2016-11-16 | 2018-05-25 | 北京京东尚科信息技术有限公司 | 一种业务处理方法及系统 |
CN108319543A (zh) * | 2018-01-24 | 2018-07-24 | 广州江南科友科技股份有限公司 | 一种计算机日志数据的异步处理方法及其介质、系统 |
-
2018
- 2018-11-16 CN CN201811372305.XA patent/CN111198769A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150199415A1 (en) * | 2014-01-16 | 2015-07-16 | International Business Machines Corporation | Parallel transaction messages for database replication |
US20160217177A1 (en) * | 2015-01-27 | 2016-07-28 | Kabushiki Kaisha Toshiba | Database system |
US20160291977A1 (en) * | 2015-03-30 | 2016-10-06 | International Business Machines Corporation | Adaptive map-reduce pipeline with dynamic thread allocations |
EP3267634A1 (en) * | 2016-07-06 | 2018-01-10 | Facebook, Inc. | Techniques for messaging using replication of a client database |
CN107589959A (zh) * | 2016-07-08 | 2018-01-16 | 湖南易分销电子商务有限公司 | 一种用于商城系统多线程自动化任务处理技术 |
CN108076098A (zh) * | 2016-11-16 | 2018-05-25 | 北京京东尚科信息技术有限公司 | 一种业务处理方法及系统 |
CN108319543A (zh) * | 2018-01-24 | 2018-07-24 | 广州江南科友科技股份有限公司 | 一种计算机日志数据的异步处理方法及其介质、系统 |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112651716A (zh) * | 2020-12-30 | 2021-04-13 | 深圳市华傲数据技术有限公司 | 数据处理方法、设备及存储介质 |
CN112835692A (zh) * | 2021-01-12 | 2021-05-25 | 山东众阳健康科技集团有限公司 | 一种日志消息驱动任务方法、系统、存储介质及设备 |
CN113296966A (zh) * | 2021-05-21 | 2021-08-24 | 中国邮政储蓄银行股份有限公司 | 数据处理方法及装置 |
CN114067845A (zh) * | 2021-11-30 | 2022-02-18 | 中国工商银行股份有限公司 | 磁盘的磁盘信息的处理方法、消磁系统及电子设备 |
CN114785749A (zh) * | 2022-04-14 | 2022-07-22 | 北京京东拓先科技有限公司 | 一种消息群发处理方法和装置 |
CN115080241A (zh) * | 2022-06-30 | 2022-09-20 | 支付宝(杭州)信息技术有限公司 | 数据处理方法以及装置 |
CN115658325A (zh) * | 2022-11-18 | 2023-01-31 | 北京市大数据中心 | 数据处理方法、装置、多核处理器、电子设备以及介质 |
CN115658325B (zh) * | 2022-11-18 | 2024-01-23 | 北京市大数据中心 | 数据处理方法、装置、多核处理器、电子设备以及介质 |
CN115866017A (zh) * | 2023-02-27 | 2023-03-28 | 天翼云科技有限公司 | 消息处理方法、装置、通信设备及存储介质 |
CN116821250A (zh) * | 2023-08-25 | 2023-09-29 | 支付宝(杭州)信息技术有限公司 | 一种分布式图数据处理方法和系统 |
CN116821250B (zh) * | 2023-08-25 | 2023-12-08 | 支付宝(杭州)信息技术有限公司 | 一种分布式图数据处理方法和系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111198769A (zh) | 信息处理方法及其系统、计算机系统及计算机可读介质 | |
US8762929B2 (en) | System and method for exclusion of inconsistent objects from lifecycle management processes | |
US8875120B2 (en) | Methods and apparatus for providing software bug-fix notifications for networked computing systems | |
US9177035B2 (en) | Replicating data to a database | |
CN107016480B (zh) | 任务调度方法、装置及系统 | |
US8832658B2 (en) | Verification framework for business objects | |
US10642647B2 (en) | Concurrent queueing and control command feedback loop in unified automation platforms | |
US8799230B2 (en) | Method and system for centralized issue tracking | |
US20170161352A1 (en) | Scalable snapshot isolation on non-transactional nosql | |
US10102239B2 (en) | Application event bridge | |
US10726032B2 (en) | Systems and methods for search template generation | |
US20220222266A1 (en) | Monitoring and alerting platform for extract, transform, and load jobs | |
US7853646B2 (en) | Assured validation for facade method invocations | |
US9031969B2 (en) | Guaranteed in-flight SQL insert operation support during an RAC database failover | |
US10067808B2 (en) | Nondeterministic operation execution environment utilizing resource registry | |
CN113760491A (zh) | 一种任务调度系统、方法、设备及存储介质 | |
US11023479B2 (en) | Managing asynchronous analytics operation based on communication exchange | |
US9059992B2 (en) | Distributed mobile enterprise application platform | |
US10728323B2 (en) | Method and apparatus for operating infrastructure layer in cloud computing architecture | |
US20220276901A1 (en) | Batch processing management | |
CN115374098A (zh) | 高并发支付订单防重方法、装置、系统、设备、介质和程序产品 | |
CN114168607A (zh) | 全局序列号生成方法、装置、设备、介质和产品 | |
US8321844B2 (en) | Providing registration of a communication | |
CN112463338A (zh) | 公积金业务处理方法、装置、电子设备及介质 | |
US12003590B2 (en) | Performance-enhancing cross-system request handling via shared memory cache |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information | ||
CB02 | Change of applicant information |
Address after: Room 221, 2 / F, block C, 18 Kechuang 11th Street, Daxing District, Beijing, 100176 Applicant after: Jingdong Technology Holding Co.,Ltd. Address before: Room 221, 2 / F, block C, 18 Kechuang 11th Street, Daxing District, Beijing, 100176 Applicant before: BEIJING JINGDONG FINANCIAL TECHNOLOGY HOLDING Co.,Ltd. |