CN107704473A - 一种数据处理方法和装置 - Google Patents
一种数据处理方法和装置 Download PDFInfo
- Publication number
- CN107704473A CN107704473A CN201610648329.8A CN201610648329A CN107704473A CN 107704473 A CN107704473 A CN 107704473A CN 201610648329 A CN201610648329 A CN 201610648329A CN 107704473 A CN107704473 A CN 107704473A
- Authority
- CN
- China
- Prior art keywords
- breakpoint data
- data
- breakpoint
- type
- stored
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/13—File access structures, e.g. distributed indices
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例公开了一种数据处理方法,该方法包括:对入口文件进行业务处理时,生成多个断点数据,及分别确定各所述断点数据的类型,将各所述断点数据分别发送至与各所述断点数据的类型对应的存储系统中进行存储。本发明实施例还同时公开了一种数据处理装置。
Description
技术领域
本发明涉及数据处理领域,尤其涉及一种数据处理方法和装置。
背景技术
目前,出账计算作为业务运营支撑系统(Business Operation Support System,简称为BOSS)的核心部分,对用户的消费、余额以及开停机都起着重要的作用,所以,迫切需要高效、高稳定性和高准确率的出账计算的处理方法。
在现行的分发机制中,对于任意号码的话单文件中的每项数据,可能在任意一个进程的任意一个线程进行处理,那么,话单文件中的每项数据在同时处理的情况下,会导致大量的碰撞从而影响出账计算的准确性,为了避免同时处理的情况发生,必须针对每个用户的出账计算进行加锁,使得BOSS能够针对每个用户来进行出账计算,然而,BOSS在进行出账计算的过程中,会将每个流程处理节点所产生的断点数据存储在BOSS的本地磁盘当中,然而,本地磁盘的存储空间有限,并且将断点数据存储在本地磁盘需要耗费较多的本地I/O资源,当存在多个断点文件时,会由于较大的I/O开销导致BOSS的性能显著下降,从而降低了BOSS处理数据能力。
发明内容
有鉴于此,本发明实施例期望提供一种数据处理方法和装置,提高了BOSS处理数据能力,进而提高用户的体验度。
为达到上述目的,本发明的技术方案是这样实现的:
第一方面,本发明实施例提供一种数据处理方法,所述方法包括:对入口文件进行业务处理时,生成多个断点数据,及分别确定各所述断点数据的类型;将各所述断点数据分别发送至与各所述断点数据的类型对应的存储系统进行存储。
进一步地,所述对入口文件进行业务处理时,生成多个断点数据,及分别确定各所述断点数据的类型,包括:在对入口文件进行业务处理的各个节点,分别生成与各所述节点对应的断点数据;根据各所述节点的类型,分别确定各所述断点数据的类型。
进一步地,所述将各所述断点数据分别发送至与各所述断点数据的类型对应的存储系统进行存储,包括:所述断点数据的类型为第一预设类型时,将所述断点数据发送至云服务器进行存储;所述断点数据的类型为第二预设类型时,将所述断点数据发送至本地磁盘进行存储。
进一步地,所述方法还包括:所述第一预设类型用于标识全局性高性能处理所需的断点数据时,将所述断点数据发送至分布式内存数据库进行存储;所述第一预设类型用于标识全局性普通共享断点数据时,将所述断点数据发送至分布式文件系统进行存储。
进一步地,所述方法还包括:BOSS发生中断,重新上电后,根据在对所述入口文件进行业务处理的节点的类型,确定所述节点对应的断点数据的类型;从所述断点数据的类型对应的存储系统中获取所述断点数据;根据所述断点数据继续进行业务处理。
第二方面,本发明实施例提供一种数据处理装置,包括:确定模块,用于对入口文件进行业务处理时,生成多个断点数据,及分别确定各所述断点数据的类型;存储模块,用于将各所述断点数据分别发送至与各所述断点数据的类型对应的存储系统中进行存储。
进一步地,所述确定模块,包括:生成子模块,用于在对入口文件进行业务处理的各个节点,分别生成与各所述节点对应的断点数据;确定子模块,用于根据各所述节点的类型,分别确定各所述断点数据的类型。
进一步地,所述存储模块,包括:第一存储子模块,用于所述断点数据的类型为第一预设类型时,将所述断点数据发送至云服务器进行存储;第二存储子模块,用于所述断点数据的类型为第二预设类型时,将所述断点数据发送至本地磁盘进行存储。
进一步地,所述第一存储子模块,具体用于:所述第一预设类型用于标识全局性高性能处理所需的断点数据时,将所述断点数据发送至分布式内存数据库进行存储;所述第一预设类型用于标识全局性普通共享断点数据时,将所述断点数据发送至分布式文件系统进行存储。
进一步地,所述装置还包括:接续模块,用于在BOSS发生中断,重新上电后,根据在对所述入口文件进行业务处理的节点的类型,确定所述节点对应的断点数据的类型;从所述断点数据的类型对应的存储系统中获取所述断点数据;根据所述断点数据继续进行业务处理。
本发明实施例所提供的数据处理方法和装置,数据处理装置在对入口文件中的每个用户的话单文件进行处理,生成多个断点数据,确定出断点数据的类型,并将该断点数据发送至与断点数据的类型对应的存储系统中进行存储,也就是说,本发明实施例中,根据断点数据的类型来分类存储断点数据至不同的存储系统中,使得断点数据不在受到本地磁盘存储空间的限制,并且当存在多个断点数据时,将断点数据发送至不同的存储系统中进行存储,避免了存储在本地磁盘所需要耗费的本地I/O资源,减小了本地磁盘的I/O开销,从而提高了BOSS处理数据能力,进而提高用户的体验度。
附图说明
图1为本发明实施例中的数据处理方法的流程示意图;
图2为本发明实施例中的数据处理方法的一种可选的流程示意图;
图3为本发明实施例中的数据处理方法的另一种可选的流程示意图;
图4为本发明实施例中数据处理装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述。
本发明实施例提供一种数据处理方法,图1为本发明实施例中的数据处理方法的流程示意图,参考图1所示,该方法包括:
S101:对入口文件进行业务处理时,生成多个断点数据,及分别确定各断点数据的类型;
其中,BOSS在出账计算中,首先,获取入口文件,该入口文件为进行出账计算的原始文件,并且入口文件中存储有多个话单文件,其中,话单文件中存储有用户的号码、用户通话开始时间和结束时间、及计费金额。
这里,在获取到入口文件之后,进行调度处理,然后按用户排序规整后对话单文件开始进行业务逻辑处理,处理完一个用户的话单文件之后,会生成多个断点数据,并确定该断点数据的类型;
需要说明的是,上述断点数据包括断点文件和断点记录表,该断点记录表记录了生成每个断点文件的状态信息,该断点记录表包括有用户号码、文件名、处理时间、处理标识,该处理标识包括成功或者失败;当BOSS系统出现中断时,BOSS可以通过断点记录表继续进行出账计算。
为了确定出断点数据的类型,在一种可选的实施例中,S101可以包括:
在对入口文件进行业务处理的各个节点,分别生成与各节点对应的断点数据;
根据各节点的类型,分别确定各断点数据的类型。
具体来说,在BOSS在出账计算中,获取到入口文件,完成调度,按照预设的处理流程节点对话单文件分节点进行处理之后,会生成各个节点对应的断点数据,然后将各个节点的类型确定为断点数据的类型;
另外,在另一种可选的实施例中,还可以对生成的断点数据进行划分,根据断点数据的重要等级对断点数据进行分类,得到断点数据的类型,例如,将与金额有关的文件划分为一类断点数据的类型,将临时文件划分为一类断点数据的类型,将异常信息的文件划分为一类断点数据的类型等等;
至此,确定出了断点数据的类型。
S102:将各断点数据分别发送至与各断点数据的类型对应的存储系统中进行存储。
在确定出各断点数据的类型之后,根据断点数据的类型确定出对应的存储系统,然后将断点数据发送至确定出的存储系统中,这里,存储系统可以包括:云服务器和本地磁盘,这里,本发明不做具体限定。
在一种可选的实施例中,为了实现断点数据的分类存储,S102可以包括:
断点数据的类型为第一预设类型时,将断点数据发送至云服务器进行存储;
断点数据的类型为第二预设类型时,将断点数据发送至本地磁盘进行存储。
这里,断点数据的类型是根据出账计算中该断点数据的重要等级预先进行设置的,将断点数据的类型分为两类,第一预设类型和第二预设类型,其中,第一预设类型的节点,将断点数据发送至云服务器进行存储,这样,减小了本地磁盘存储断点数据所导致的I/O开销,并且,由于云服务器自身存储模式和保障机制,增强了断点数据的安全存储,有利于断点数据的恢复。
在将断点数据存储至云服务器中,为了进一步地提高断点数据的可靠性,在一种可选的实施例中,上述方法还包括:
第一预设类型用于标识全局性高性能处理所需的断点数据时,将断点数据发送至分布式内存数据库进行存储;第一预设类型用于标识全局性普通共享断点数据时,将断点数据发送至分布式文件系统进行存储。
具体来说,云服务器包括有很多种架构,每种架构的存放模式和异常保护机制都不同,为了针对不同的断点数据的类型来存储断点数据,在将断点数据存储至不同架构的云服务器中,利用不同架构的保护恢复机制可以实现对不同的断点数据进行不同的恢复。
图2为本发明实施例中的数据处理方法的一种可选的流程示意图,如图2所示,在出账计算的处理过程中,针对每一个预设的流程处理节点,当节点的类型为1类断点数据,将1类断点数据发送至分布式内存数据库(MDB,multidatabase)进行存储;当节点的类型为2类断点数据,将2类断点数据发送至分布式(Hadoop)文件系统进行存储;当节点的类型为3类断点数据,将3类断点数据发送至本地磁盘进行存储;在处理完成所有的流程处理节点,并存储各个节点对应的断点数据,那么,实现了对不同类型的断点数据进行差异化存储,在图2中,将断点数据划分为三种类型,并存储至不同的存储系统中,如下表1所示:
表1
在上述表1中,上述1类断点数据为全局性高性能处理所需断点数据,该类型的断点数据需要频繁进行I/O处理,要求业务处理连续性高、要求保障数据一致性,例如该类型的断点数据一般为全局的出账计算结果,存储在分布式内存数据库可以满足上述需求;
上述2类断点数据为全局性普通共享断点数据,该类型的断点数据适用于对及时性要求不高,或断点数据与存储交互不频繁且数据量小的场景;例如该类型的断点数据一般为全局性过程磁盘文件,存储在分布式文件系统可以满足上述需求;
上述3类断点数据为本地临时断点数据,该类型的断点数据适用于仅对单节点处理且对数据完整性要求不高的应用场景,例如该类型的断点数据一般为本地临时日志类断点文件,可以包括:用户号码、时间、成功标记、程序异常报错信息、网络通信链接断链、程序调试运行信息等,该类型信息仅用于系统节点故障时,对系统进行分析和故障定位,存储在本地磁盘可以满足上述需求。
在一种可选的实施例中,BOSS发生中断,重新上电时,为了恢复断点数据,继续从发生中断的节点继续进行出账计算,上述方法还可以包括:
根据在对入口文件进行业务处理的节点的类型,确定节点对应的断点数据的类型;
从断点数据的类型对应的存储系统中获取断点数据;
根据断点数据继续进行业务处理。
具体来说,当BOSS发生中断之后需要继续进行出账计算时,BOSS重新进入入口文件,进行调度处理,按照处理流程节点的顺序,首先获取节点的类型,根据节点的类型,确定节点对应的断点数据的存储系统,在知晓断点数据的存储系统之后,从该存储系统中首先获取到断点数据中的断点记录表,逐条扫描该断点记录表中的每一条记录,直至扫描到处理标识为失败的断点记录,得知该条断点记录对应的文件名,从存储系统中获取该断点文件,根据该断点文件继续进行出账计算。这里,不同的存储系统对于断点数据的保护恢复模式不同;如下表2所示:
表2
基于上述表1中的不同的断点数据的类型,上述表2给出了不同断点数据类型的保护恢复模式,具体来说,对于全局性高性能处理断点数据,数据依赖分布式内存数据库自身机制在系统中进行差异化异常保障和恢复,分布式内存数据库具备一主两备的数据块存储机制,主备间实时复制保证数据强一致性,当断点数据所在的主节点异常时自动切换到备节点处理,备节点提升为主节点,从而有效的保障了断点数据的准确性和可靠性;
对于全局性普通共享断点数据,依赖Hadoop文件系统自身机制在系统中进行差异化异常保障和恢复,Hadoop文件系统具备一主两备的存储机制,主备间实时复制保证数据的一致性,当断点数据所在的主节点异常时自动切换到备节点处理,从而有效的保障了断点数据的准确性和可靠性;
对于本地临时断点数据,依赖应用程序编程恢复机制在系统中进行差异化异常保障和恢复,应用程序在编程是考虑事务处理的完整性,当整个事务处理完成后对处理的记录进行备份,并与应用程序锁配合判断出该条记录是否已处理完成,若锁已释放,且备份文件存在该记录信息,则该入口记录正常处理完成,反之认为该入口记录未正常处理完成,可重新继续处理该条记录,从而保障了数据处理的延续性。
基于上述分布式内存数据库的保护恢复模式,把断点数据存放于分布式内存数据库,依托分布式内存数据库自身容错保障机制对断点数据进行保护,相比存放到本地磁盘和分布式文件系统,数据存储性能可能提升3~10倍。
对于在线计费传到实时账务处理系统的消息/事件,流量计费过程中,用户行为活跃,流码数据多,为方便进行流量计费和优惠结果与离线话单等数据的一致性稽核,同时方便在处理用户投诉时对上网日志信息进行查阅,需要对实时计费和账务流码、上网日志数据进行记录,该类数据具有体量巨大、发生有一定周期性等特点,不适合存放在本地磁盘或者分布式内存数据库中,分布式文件系统或者类Hadoop文件系统是天然的存放解决办法,该方法可有效解决本地磁盘存储空间限制问题,也可避免高端存储巨大投资,同时存储性能相对较高。
在实际应用中,BOSS应用启动后开始出账处理,从调度队列提取用户数据文件启动群账户处理前,系统会记录出队是否成功断点读取入口的话单文件,按用户排序规整后开始进行业务逻辑处理,读取用户批价后的话单文件分发到不同的账务处理引擎,调度分发系统需要记录该用户号码1370281xxxx的文件是否正确调度成功;调度处理成功,则记录成功标志,否则记录失败标志。同时,在文件处理的过程中对处理关键过程计算结果的状态进行记录,则记录成功标志,否则记录失败标志;
BOSS恢复时,根据文件断点或消息断点的处理标志判断是从调度接口处就进行恢复还是可以在该用户文件处理到后续的某一步骤进行恢复。
下面以具体实例来对上述一个或多个实施例中所述数据处理方法进行说明。
图3为本发明实施例中的数据处理方法的另一种可选的流程示意图;如图3所示,基于上述图2,描述了出账处理中对数据处理方法的一个实例,该方法包括:
BOSS首先获取入口文件,首先进行调度,在调度中,存在两个流程处理节点,第一个节点为详单、固废、G3调账数据文件、账务文件调度均衡,第二个节点为在线计费网关和在线账务调度,第一个节点的断点数据主要记录调度文件,属于1类断点数据,所以将第一个节点的断点数据存储至分布式内存数据库,第二个节点的断点数据主要记录调度消息,属于2类断点数据,所以将第二个节点的断点数据存储至Hadoop文件系统,在处理并存储完成之后,对离线队列和在线队列进行处理,处理队列的节点的断点数据为出队日志,属于3类断点数据,所以将此断点数据存储至本地磁盘,下一节点为群账户处理,该节点主要记录群出账结果,属于2类断点数据,所以将该断点数据存储至Hadoop文件系统,然后,BOSS进行个人账户处理、财务分摊、虚拟销账计算,在处理该节点的过程中,产生的断点数据为进程记录日志,属于3类断点,所以此节点的断点数据存储至本地磁盘;至此,BOSS完成出账计算;
当BOSS发生中断,重新上电后,BOSS重新对入口文件进行处理,首先,根据节点的类型确定出节点对应的断点数据的存储系统,例如,对于上述第一个节点,该节点的类型对应的断点数据为1类断点数据,所以确定出该断点数据存储在分布式内存数据库中,然后从内存储数据库中获取断点记录表,按照顺序逐条扫描断点记录表中每条断点记录,当处理标识为失败时,确定出处理标识为失败对应的文件名,BOSS从存储系统中获取该文件名对应的断点数据,根据该断点数据继续进行出账计算,其他类型的断点数据的恢复方法与上述类型的断点数据的恢复方法类似,这里,不再赘述。
基于数据处理方法,把此类高性能断点数据存放于分布式内存数据库,依托分布式内存数据库自身容错保障机制对断点数据进行保护,相比存放到本地磁盘和分布式文件系统,数据存储性能可能提升3~10倍;并且本发明实施例可有效解决本地磁盘存储空间限制问题,也可避免高端存储巨大投资,同时存储性能相对较高,处理灵活,文件大小、数据顺序程序不用关心,异常中断后重启可以继续正确处理,效率高,按文件处理时,由于产生大量的用户锁,可能导致部分进程处于等待状态,甚至可能产生死锁,稽核和查证问题方便,可以根据断点记录表中记录了解某些文件中哪些数据已处理,哪些数据未处理,维护方便,单个文件处理完毕即清除表中记录,不会产生垃圾数据,断点记录表中永远只存在当前未处理完的文件记录,不用人工干预清除。
本发明实施例所提供的数据处理方法,根据断点数据的类型来分类存储断点数据至不同的存储系统中,使得断点数据不在受到本地磁盘存储空间的限制,并且当存在多个断点数据时,将断点数据发送至不同的存储系统中进行存储,避免了存储在本地磁盘所需要耗费的本地I/O资源,减小了本地磁盘的I/O开销,从而提高了BOSS处理数据能力,进而提高用户的体验度。
基于同一发明构思,本发明提供一种数据处理装置,图4为本发明实施例中的数据处理装置的结构示意图,参考图4所示,该装置包括:确定模块41和存储模块42;其中,确定模块41,用于对入口文件进行业务处理时,生成多个断点数据,及分别确定各断点数据的类型;存储模块42,用于将各断点数据分别发送至与各断点数据的类型对应的存储系统中进行存储。
为了确定出断点数据的类型,在一种可选的实施例中,上述确定模块41,包括:生成子模块,用于在对入口文件进行业务处理的各个节点,分别生成与各节点对应的断点数据;确定子模块,用于根据各节点的类型,分别确定各断点数据的类型。
为了实现断点数据的分类存储,在一种可选的实施例中,上述存储模块42,包括:第一存储子模块,用于断点数据的类型为第一预设类型时,将断点数据发送至云服务器进行存储;第二存储子模块,用于断点数据的类型为第二预设类型时,将断点数据发送至本地磁盘进行存储。
在将断点数据存储至云服务器中,为了进一步地提高断点数据的可靠性,在一种可选的实施例中,上述第一存储子模块,具体用于:第一预设类型用于标识全局性高性能处理所需的断点数据时,将断点数据发送至分布式内存数据库进行存储;第一预设类型用于标识全局性普通共享断点数据时,将断点数据发送至分布式文件系统进行存储。
在一种可选的实施例中,当BOSS发生中断,重新上电时,该装置还包括:接续模块,用于根据在对入口文件进行业务处理的节点的类型,确定节点对应的断点数据的类型;从断点数据的类型对应的存储系统中获取断点数据;根据断点数据继续进行业务处理。
在实际应用中,确定模块41、存储模块42和接续模块均可由位于节点的中央处理器(CPU,Central Processing Unit)、微处理器(MPU,Microprocessor Unit)、专用集成电路(ASIC,Application Specific Integrated Circuit)或现场可编程门阵列(FPGA,Field-Programmable Gate Array)等实现。
本实施例记载一种计算机可读介质,可以为ROM(例如,只读存储器、FLASH存储器、转移装置等)、磁存储介质(例如,磁带、磁盘驱动器等)、光学存储介质(例如,CD-ROM、DVD-ROM、纸卡、纸带等)以及其他熟知类型的程序存储器;计算机可读介质中存储有计算机可执行指令,当执行指令时,引起至少一个处理器执行包括以下的操作:
对入口文件进行业务处理时,生成多个断点数据,及分别确定各断点数据的类型,将各断点数据分别发送至与各断点数据的类型对应的存储系统中进行存储。
本发明实施例所提供的数据处理方法,根据断点数据的类型来分类存储断点数据至不同的存储系统中,使得断点数据不在受到本地磁盘存储空间的限制,并且当存在多个断点数据时,将断点数据发送至不同的存储系统中进行存储,避免了存储在本地磁盘所需要耗费的本地I/O资源,减小了本地磁盘的I/O开销,从而提高了BOSS处理数据能力,进而提高用户的体验度。
这里需要指出的是:以上装置实施例项的描述,与上述方法描述是类似的,具有同方法实施例相同的有益效果,因此不做赘述。对于本发明装置实施例中未披露的技术细节,本领域的技术人员请参照本发明方法实施例的描述而理解,为节约篇幅,这里不再赘述。
这里需要指出的是:
应理解,说明书通篇中提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本发明的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。此外,这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施例中。应理解,在本发明的各种实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元;既可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本发明各实施例中的各功能单元可以全部集成在一个处理单元中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:移动存储设备、只读存储器(Read Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。
或者,本发明上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括:移动存储设备、ROM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。
Claims (10)
1.一种数据处理方法,其特征在于,包括:
对入口文件进行业务处理时,生成多个断点数据,及分别确定各所述断点数据的类型;
将各所述断点数据分别发送至与各所述断点数据的类型对应的存储系统进行存储。
2.根据权利要求1所述的方法,其特征在于,所述对入口文件进行业务处理时,生成多个断点数据,及分别确定各所述断点数据的类型,包括:
在对入口文件进行业务处理的各个节点,分别生成与各所述节点对应的断点数据;
根据各所述节点的类型,分别确定各所述断点数据的类型。
3.根据权利要求1所述的方法,其特征在于,所述将各所述断点数据分别发送至与各所述断点数据的类型对应的存储系统进行存储,包括:
所述断点数据的类型为第一预设类型时,将所述断点数据发送至云服务器进行存储;
所述断点数据的类型为第二预设类型时,将所述断点数据发送至本地磁盘进行存储。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
所述第一预设类型用于标识全局性高性能处理所需的断点数据时,将所述断点数据发送至分布式内存数据库进行存储;
所述第一预设类型用于标识全局性普通共享断点数据时,将所述断点数据发送至分布式文件系统进行存储。
5.根据权利要求2所述的方法,其特征在于,所述方法还包括:
BOSS发生中断,重新上电后,根据在对所述入口文件进行业务处理的节点的类型,确定所述节点对应的断点数据的类型;
从所述断点数据的类型对应的存储系统中获取所述断点数据;
根据所述断点数据继续进行业务处理。
6.一种数据处理装置,其特征在于,包括:
确定模块,用于对入口文件进行业务处理时,生成多个断点数据,及分别确定各所述断点数据的类型;
存储模块,用于将各所述断点数据分别发送至与各所述断点数据的类型对应的存储系统中进行存储。
7.根据权利要求6所述的装置,其特征在于,所述确定模块,包括:
生成子模块,用于在对入口文件进行业务处理的各个节点,分别生成与各所述节点对应的断点数据;
确定子模块,用于根据各所述节点的类型,分别确定各所述断点数据的类型。
8.根据权利要求6所述的装置,其特征在于,所述存储模块,包括:
第一存储子模块,用于所述断点数据的类型为第一预设类型时,将所述断点数据发送至云服务器进行存储;
第二存储子模块,用于所述断点数据的类型为第二预设类型时,将所述断点数据发送至本地磁盘进行存储。
9.根据权利要求8所述的装置,其特征在于,所述第一存储子模块,具体用于:
所述第一预设类型用于标识全局性高性能处理所需的断点数据时,将所述断点数据发送至分布式内存数据库进行存储;所述第一预设类型用于标识全局性普通共享断点数据时,将所述断点数据发送至分布式文件系统进行存储。
10.根据权利要求7所述的装置,其特征在于,所述装置还包括:
接续模块,用于在BOSS发生中断,重新上电后,根据在对所述入口文件进行业务处理的节点的类型,确定所述节点对应的断点数据的类型;从所述断点数据的类型对应的存储系统中获取所述断点数据;根据所述断点数据继续进行业务处理。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610648329.8A CN107704473A (zh) | 2016-08-09 | 2016-08-09 | 一种数据处理方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610648329.8A CN107704473A (zh) | 2016-08-09 | 2016-08-09 | 一种数据处理方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107704473A true CN107704473A (zh) | 2018-02-16 |
Family
ID=61169282
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610648329.8A Pending CN107704473A (zh) | 2016-08-09 | 2016-08-09 | 一种数据处理方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107704473A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110336791A (zh) * | 2019-05-29 | 2019-10-15 | 平安科技(深圳)有限公司 | 一种断点数据传输方法、装置、设备及计算机存储介质 |
CN111025400A (zh) * | 2018-10-10 | 2020-04-17 | 中国石油化工股份有限公司 | 基于Hadoop的地震偏移成像作业续航方法及系统 |
CN113253132A (zh) * | 2021-05-21 | 2021-08-13 | 深圳市新威尔电子有限公司 | 中断数据接续关联电池测试方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014121593A1 (zh) * | 2013-02-08 | 2014-08-14 | 华为技术有限公司 | 分布式存储的方法、装置和系统 |
WO2014161261A1 (zh) * | 2013-07-24 | 2014-10-09 | 中兴通讯股份有限公司 | 数据的存储方法及装置 |
CN105786877A (zh) * | 2014-12-23 | 2016-07-20 | 中国移动通信集团山东有限公司 | 一种数据存储方法、系统及查询方法 |
CN105797381A (zh) * | 2014-12-30 | 2016-07-27 | 博雅网络游戏开发(深圳)有限公司 | 游戏冷数据的存储、读取方法和装置 |
-
2016
- 2016-08-09 CN CN201610648329.8A patent/CN107704473A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014121593A1 (zh) * | 2013-02-08 | 2014-08-14 | 华为技术有限公司 | 分布式存储的方法、装置和系统 |
WO2014161261A1 (zh) * | 2013-07-24 | 2014-10-09 | 中兴通讯股份有限公司 | 数据的存储方法及装置 |
CN105786877A (zh) * | 2014-12-23 | 2016-07-20 | 中国移动通信集团山东有限公司 | 一种数据存储方法、系统及查询方法 |
CN105797381A (zh) * | 2014-12-30 | 2016-07-27 | 博雅网络游戏开发(深圳)有限公司 | 游戏冷数据的存储、读取方法和装置 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111025400A (zh) * | 2018-10-10 | 2020-04-17 | 中国石油化工股份有限公司 | 基于Hadoop的地震偏移成像作业续航方法及系统 |
CN110336791A (zh) * | 2019-05-29 | 2019-10-15 | 平安科技(深圳)有限公司 | 一种断点数据传输方法、装置、设备及计算机存储介质 |
CN113253132A (zh) * | 2021-05-21 | 2021-08-13 | 深圳市新威尔电子有限公司 | 中断数据接续关联电池测试方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7958202B2 (en) | System and method for processing transaction data | |
US20220171606A1 (en) | Microprocessor Including a Model of an Enterprise | |
CN104021043B (zh) | 批量应用程序的中断重入方法及系统 | |
CN108376221A (zh) | 一种基于aadl模型扩展的软件系统安全性验证与评估方法 | |
CN101902336B (zh) | 一种基于规则模型的安全事件关联分析系统及方法 | |
CN107153646B (zh) | 一种数据处理方法和设备 | |
CN110580614B (zh) | 一种基于海量策略智能处理平台的全市场多品种金融资管系统 | |
CN107704473A (zh) | 一种数据处理方法和装置 | |
CN108595276A (zh) | 业务逻辑的处理方法、系统、计算机设备和存储介质 | |
CN1464397A (zh) | 系统进程的保护方法 | |
CN110737504B (zh) | 一种深度学习模型训练容错方法、系统、终端及存储介质 | |
CN110162344A (zh) | 一种隔离限流的方法、装置、计算机设备及可读存储介质 | |
CN109544344B (zh) | 基于dag的区块链的交易处理方法及设备 | |
US11068487B2 (en) | Event-stream searching using compiled rule patterns | |
US20100106749A1 (en) | Reorganizing table-based data objects | |
CN109597760A (zh) | 一种用于测试的异常场景的部署方法及装置 | |
CN112099934A (zh) | 一种批处理方法、系统、计算机设备及存储介质 | |
CN102281151A (zh) | 控制计费系统状态迁移的方法与装置 | |
US8376749B2 (en) | Milestone manager | |
CN103326880A (zh) | Genesys呼叫系统高可用性云计算监控系统及方法 | |
JP5231035B2 (ja) | ジョブ処理システムおよびジョブ処理方法 | |
CN111143369B (zh) | 云端业务数据转存方法及装置、本地服务器及电子设备 | |
WO2012050562A1 (en) | Transaction processing system and method | |
CN110677469A (zh) | 一种证券灾备系统及灾备实现方法 | |
CN112083952A (zh) | 一种基于spring架构的异常处理方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180216 |