CN109726009B - 大数据计算方法、装置、设备及计算机可读存储介质 - Google Patents
大数据计算方法、装置、设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN109726009B CN109726009B CN201810553567.XA CN201810553567A CN109726009B CN 109726009 B CN109726009 B CN 109726009B CN 201810553567 A CN201810553567 A CN 201810553567A CN 109726009 B CN109726009 B CN 109726009B
- Authority
- CN
- China
- Prior art keywords
- calculation
- subtasks
- subtask
- attribution
- calculation result
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000004364 calculation method Methods 0.000 title claims abstract description 330
- 238000001514 detection method Methods 0.000 claims description 20
- 238000004891 communication Methods 0.000 claims description 13
- 230000014759 maintenance of location Effects 0.000 claims 2
- 238000000034 method Methods 0.000 abstract description 23
- 238000007726 management method Methods 0.000 description 14
- 238000012545 processing Methods 0.000 description 11
- 238000013523 data management Methods 0.000 description 9
- 230000001276 controlling effect Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000001105 regulatory effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明公开一种大数据计算方法、装置、设备及计算机可读存储介质,所述方法包括:当接收到对大数据计算的计算任务的触发指令时,启动预设微服务对计算任务的任务接口进行调用,对计算任务中各项子任务进行计算,并生成各项计算结果逐项输出;当接收到对当前计算子任务的调整指令时,根据调整指令确定当前计算子任务的待调整内容,并对待调整内容进行调整,生成调整后的调整子任务;控制预设微服务对调整子任务进行计算,并生成调整后的计算结果输出。当有计算需求时,启动预设微服务对各项子任务计算得到计算结果;在计算结果不合要求时,对计算子任务进行调整,并对调整的子任务计算,以使计算结果符合要求;计算不受时间限制,且过程灵活。
Description
技术领域
本发明主要涉及大数据技术领域,具体地说,涉及一种大数据计算方法、装置、设备及计算机可读存储介质。
背景技术
随着大数据技术的发展,越来越多的应用场景使用大数据来体现其特征;而在使用大数据体现应用场景特征之前需要对各种类型的大数据进行计算。因大数据在计算时所需要消耗较多系统资源,而通常采用离线定时的方式进行计算,如在凌晨进行计算。在大数据中所有任务均计算完毕后生成最终结果并存储,便于用户对最终结果查看使用;若最终结果存在错误,则需要对导致最终结果错误的原因进行查询;如果一旦计算在前期出现错误,会导致后续计算均错误;对此所出现的错误需要逐步返回查找错误原因,对错误原因进行修改再重新调整计算;整个计算过程不灵活,浪费了较多的时间,没有按照需求进行计算的机制。
发明内容
本发明的主要目的是提供一种大数据计算方法、装置、设备及计算机可读存储介质,旨在解决现有技术中大数据计算不灵活的问题。
为实现上述目的,本发明提供一种大数据计算方法,所述大数据计算方法包括以下步骤:
当接收到大数据计算的计算任务的触发指令时,启动预设微服务对所述计算任务的任务接口进行调用,对所述计算任务中各项子任务进行计算,并生成各项计算结果逐项输出;
当接收到当前计算的子任务的调整指令时,根据所述调整指令确定所述当前计算的子任务的待调整内容,并对所述待调整内容进行调整,生成调整后的调整子任务;
控制所述预设微服务对所述调整子任务进行计算,并生成调整后的计算结果输出。
优选地,所述生成各项计算结果逐项输出的步骤之后包括:
调用预设检测脚本对当前输出的当前计算结果进行检测,判断所述当前计算结果是否符合预设条件;
若所述当前计算结果不符合预设条件,对生成所述当前计算结果的子任务进行检测,确定生成所述当前计算结果的子任务中的错误数据;
将所述错误数据生成调整提示信息,并将所述调整提示信息输出。
优选地,所述根据所述调整指令确定所述当前计算的子任务的待调整内容,并对所述待调整内容进行调整的步骤包括:
读取所述调整指令中所携带的调整参数名和调整数据,并确定所述当前计算的子任务中与调整参数名对应的待调整内容;
将所述待调整内容中的原有数据替换为调整数据,以对待调整内容进行调整。
优选地,所述启动预设微服务对所述计算任务的任务接口进行调用,对所述计算任务中各项子任务进行计算的步骤包括:
读取所述各项子任务中所携带的顺序标识符,并根据所述顺序标识符,确定所述各项子任务之间的顺序关系;
根据所述顺序关系,对所述各项子任务进行计算。
优选地,所述对所述计算任务中各项子任务进行计算的步骤包括:
根据所述各项子任务所携带的归属标识符,判断所述各项子任务中是否存在归属于预设计算系统的归属子任务;
若所述各项子任务中存在归属于预设计算系统的归属子任务时,将所述归属子任务添加到所述预设计算系统,以供所述预设计算系统对所述归属子任务进行计算。
优选的,所述将所述归属子任务添加到所述预设计算系统的步骤之后包括:
根据所述归属子任务所携带的顺序标识符,确定所述归属子任务在所述顺序关系中的归属顺序;
若当前计算的子任务位于所述归属顺序的前一顺序,在所述当前计算的子任务计算完成后,启动所述预设计算系统对所述归属子任务进行计算,生成归属计算结果。
优选地,所述生成归属计算结果的步骤之后包括:
读取所述预设计算系统生成的所述归属计算结果,并根据所述顺序关系中的归属顺序,将所述归属计算结果输出。
此外,为实现上述目的,本发明还提出一种大数据计算装置,所述大数据计算装置包括:
启动模块,用于当接收到大数据计算的计算任务的触发指令时,启动预设微服务对所述计算任务的任务接口进行调用,对所述计算任务中各项子任务进行计算,并生成各项计算结果逐项输出;
调整模块,用于当接收到当前计算的子任务的调整指令时,根据所述调整指令确定所述当前计算的子任务的待调整内容,并对所述待调整内容进行调整,生成调整后的调整子任务;
控制模块,用于控制所述预设微服务对所述调整子任务进行计算,并生成调整后的计算结果输出。
此外,为实现上述目的,本发明还提出一种大数据计算设备,所述大数据计算设备包括:存储器、处理器、通信总线以及存储在所述存储器上的大数据计算程序;
所述通信总线用于实现处理器和存储器之间的连接通信;
所述处理器用于执行所述大数据计算程序,以实现以下步骤:
当接收到大数据计算的计算任务的触发指令时,启动预设微服务对所述计算任务的任务接口进行调用,对所述计算任务中各项子任务进行计算,并生成各项计算结果逐项输出;
当接收到当前计算的子任务的调整指令时,根据所述调整指令确定所述当前计算的子任务的待调整内容,并对所述待调整内容进行调整,生成调整后的调整子任务;
控制所述预设微服务对所述调整子任务进行计算,并生成调整后的计算结果输出。
此外,为实现上述目的,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质存储有一个或者一个以上程序,所述一个或者一个以上程序可被一个或者一个以上的处理器执行以用于:
当接收到大数据计算的计算任务的触发指令时,启动预设微服务对所述计算任务的任务接口进行调用,对所述计算任务中各项子任务进行计算,并生成各项计算结果逐项输出;
当接收到当前计算的子任务的调整指令时,根据所述调整指令确定所述当前计算的子任务的待调整内容,并对所述待调整内容进行调整,生成调整后的调整子任务;
控制所述预设微服务对所述调整子任务进行计算,并生成调整后的计算结果输出。
本实施例的大数据计算方法,当接收到对大数据计算的计算任务的触发指令时,启动预设微服务对计算任务的任务接口进行调用,以对计算任务中各项子任务进行计算,并生成各项计算结果逐项输出;当接收到对当前计算子任务的调整指令时,根据调整指令确定当前计算子任务的待调整内容,并对待调整内容进行调整,生成调整后的调整子任务;控制预设微服务对调整子任务进行计算,并生成调整后的计算结果输出。本方案通过设置预设微服务对计算任务进行调用,当有计算需求时发送对计算任务的触发指令,启动预设微服务即对计算任务中的各项子任务进行计算,计算过程不受时间限制;当计算所得到的各项子任务的计算结果不符合要求时,可对此项计算子任务进行调整,并对调整后的子任务进行再次计算,以使其计算结果符合要求,避免对其他子任务产生影响,以及在生成最终结果后逐步返回查找问题进行调整,提高了计算效率,使大数据的计算过程灵活。
附图说明
图1是本发明的大数据计算方法第一实施例的流程示意图;
图2是本发明的大数据计算方法第二实施例的流程示意图;
图3是本发明的大数据计算装置第一实施例的功能模块示意图;
图4是本发明实施例方法涉及的硬件运行环境的设备结构示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明提供一种大数据计算方法。
请参照图1,图1为本发明大数据计算方法第一实施例的流程示意图。在本实施例中,所述大数据计算方法包括:
步骤S10,当接收到大数据计算的计算任务的触发指令时,启动预设微服务对所述计算任务的任务接口进行调用,对所述计算任务中各项子任务进行计算,并生成各项计算结果逐项输出;
本发明的大数据计算方法应用于终端后台的控制中心,适用于对大数据进行计算。其中终端可以是移动电脑、平板电脑等具有显示装置和输入装置的设备,显示装置和输入装置可以是一体化设计,如触摸屏。为了对大数据进行灵活计算,终端后台中设置有预设微服务,其中微服务是将复杂的服务拆分成多个单独的个体,每个微服务仅用于完成一件任务。本实施例中的预设微服务为预先设置用于实现大数据计算任务的微服务,在终端界面上设置用于触发预设微服务的虚拟按键。当有对大数据的计算需求时,点击此虚拟按键即可触发预设微服务,将此对虚拟按键的点击操作作为对大数据计算的计算任务的触发指令。当终端后台接收到此对大数据计算的计算任务的触发指令时,则启动预设微服务;预设微服务在启动后对计算任务的任务接口进行调用,以对计算任务进行计算。因大数据计算的计算任务中可能包括互相关联的多个子任务,不同子任务用于实现计算任务中的不同功能,最终通过各个功能的组合实现整个计算任务。从而对计算任务的计算其实质是对计算任务中各项子任务进行计算,并针对各项子任务生成对应的各项计算结果,将此计算结果逐项输出到终端界面,每计算完一项子任务即输出其对应的计算结果,以确保每项子任务计算结果的正确性。
步骤S20,当接收到当前计算的子任务的调整指令时,根据所述调整指令确定所述当前计算的子任务的待调整内容,并对所述待调整内容进行调整,生成调整后的调整子任务;
可理解地,因计算操作由用户通过终端界面触发,对于计算结果的正确性,有相应的判断标准。在计算过程中可能因处理逻辑的差异性,而使各项子任务中可能存在某些子任务的计算结果与判断标准不相符合,出现错误的计算结果。当输出的计算结果中出现此类型的计算结果,需要对生成此计算结果的子任务中的内容进行调整。具体地,在各项子任务之间设置停留时间,即当前正在计算的子任务在计算完成得到其计算结果,并将此计算结果输出后,会间隔一段时间才开始下一项子任务的计算;此间隔的一段时间即为停留时间,计算结果在此停留时间内显示在终端界面上,以便于在此停留时间对计算结果的正确性进行判断。如果判断出计算结果正确,则启动下一项子任务进行计算;如果判断出计算结果不正确,则可对生成此计算结果的当前正在计算的子任务进行调整。调整操作由用户通过终端界面做出,在终端界面上设置用于调整的输入框和调整虚拟按键;调整时用户在输入框中输入所需要调整的内容,并点击调整虚拟按键,将此输入的所需要调整的内容和对调整虚拟按键的点击操作一并生成调整指令;通过此调整指令将所需要调整的内容发送到终端后台。当接收到此对当前计算子任务的调整指令时,根据其中所携带的需要调整的内容确定当前计算子任务的待调整内容,对此待调整内容进行调整,生成调整后的调整子任务。具体地,根据调整指令确定当前计算的子任务的待调整内容,并对待调整内容进行调整的步骤包括:
步骤S21,读取所述调整指令中所携带的调整参数名和调整数据,并确定所述当前计算的子任务中与调整参数名对应的待调整内容;
进一步地,终端界面中用于调整的输入框包括用于输入调整参数名的输入框和输入调整数据的输入框,其中调整参数名的输入框用于输入所需要调整的当前计算的子任务中的参数名,表征调整操作针对哪个参数进行;调整数据的输入框用于输入对所需要调整参数的具体调整数据,表征将需要调整参数的数据调整为多少。此调整参数名输入框与调整数据输入框可以位于终端的同一界面,也可位于终端的不同界面;若位于同一界面,在对两者输入完成后,对调整虚拟按键进行触发即可;若位于不同界面,先输入调整参数名后跳转到调整数据所在界面,在此界面对调整数据进行输入,并触发调整虚拟按键,生成调整指令。从而在通过调整指令将所需要调整的内容发送到终端后台时,其实质是将此调整参数名和调整数据发送到终端后台;在终端后台对此调整指令中所携带的调整参数名和调整数据进行读取,并将读取的调整参数名和当前计算的子任务中的各个参数名进行对比,确定当前计算的子任务中与此调整参数名对应的参数名,此对应的参数名即为当前计算的子任务中需要调整的待调整内容。
步骤S22,将所述待调整内容中的原有数据替换为调整数据,以对待调整内容进行调整。
可理解地,对于各项子任务中的各个参数,均具有用于计算子任务功能的对应数据,从而当前计算子任务中作为待调整内容的调整参数名相应的具有其对应数据,此其对应数据为待调整内容的原有数据。在对其进行调整时,将此调整参数名对应的数据,即待调整内容所具有的原有数据替换为调整数据,即完成待调整内容的调整。如用户所需要调整的内容为调整参数名A、调整数据aa;确定当前计算子任务中与调整参数名A对应的待调整内容,并将此待调整内容所具有的原有数据bb替换为调整数据aa,使当前计算子任务中具有参数名A的参数所对应的参数数据为aa。通过对当前子任务中的待调整内容进行调整,以使对当前子任务进行计算所得到的计算结果满足判断标准。
步骤S30,控制所述预设微服务对所述调整子任务进行计算,并生成调整后的计算结果输出。
更进一步地,在对当前计算子任务进行调整,生成调整后的调整子任务后,此调整子任务实质为对当前计算子任务更新的子任务;需要控制预设微服务对此调整子任务重新进行计算,以对当前计算子任务所生成的不满足判断标准的计算结果进行更新操作。对此调整子任务进行计算得到计算结果,并将此计算结果输出,以判断其是否满足判断标准的要求;若满足,则在此计算结果的基础上进行计算任务中下一项子任务的计算;若不满足,则持续对当前计算子任务进行计算;以确保当前子任务进行计算所得到的计算结果满足判断标准,避免影响计算任务中与当前计算子任务具有相关性的其他子任务的计算结果,确保大数据计算的正确性。
本实施例的大数据计算方法,当接收到对大数据计算的计算任务的触发指令时,启动预设微服务对计算任务的任务接口进行调用,以对计算任务中各项子任务进行计算,并生成各项计算结果逐项输出;当接收到对当前计算子任务的调整指令时,根据调整指令确定当前计算子任务的待调整内容,并对待调整内容进行调整,生成调整后的调整子任务;控制预设微服务对调整子任务进行计算,并生成调整后的计算结果输出。本方案通过设置预设微服务对计算任务进行调用,实现大数据的灵活计算;当有计算需求时发送对计算任务的触发指令,启动预设微服务即对计算任务中的各项子任务进行计算,得到各项计算结果;在计算结果不符合要求时,可对计算子任务进行调整,并对调整后的子任务进行再次计算,以使计算结果符合要求;计算不受时间限制,计算过程灵活。
进一步地,请参照图2,在本发明大数据计算方法第一实施例的基础上,提出本发明大数据计算方法第二实施例,在第二实施例中,所述生成各项计算结果逐项输出的步骤之后包括:
步骤S40,调用预设检测脚本对当前输出的当前计算结果进行检测,判断所述当前计算结果是否符合预设条件;
更进一步地,本实施例在将各项子任务计算生成各计算结果逐项输出后,对输出的各项计算结果设置有检测机制,即每对一项子任务进行计算后得到计算结果后,对此计算结果进行检测,确定其是否符合判断条件。具体地,检测通过预设检测脚本进行,预设检测脚本由开发人员预先编写,用于对计算结果进行检测的程序代码;将此编写的预设检测脚本传输到终端后台存储。当对大数据进行计算并生成各项计算结果输出时,调用此预设检测脚本,对当前输出的当前计算结果的正确性进行检测。同时为了判断当前计算结果的正确性,预先设置有预设条件,此预设条件也存储在终端后台。检测时,调用预设检测脚本读取当前输出的当前计算结果,以及存储在终端后台与当前计算结果对应的预设条件,判断当前计算结果是否与预设条件相符合。因对于同一子任务中的数据会随着时间更新,而使在不同时间对同一子任务计算所得到的计算结果不一样,为了对此类子任务计算结果的正确性进行判断,将其预设条件设置为一个数值范围,当此类子任务的计算结果在此数值范围内,则判定当前计算结果符合预设条件,否则不符合预设条件。
此外考虑到不同子任务对应有不同的计算结果,对此不同的计算结果如果使用同一预设条件来判断其正确性,显然不合理;而需要针对不同的子任务设置不同的预设条件,并将此不同的预设条件均存储在终端后台。在对当前计算结果的正确性进行检测时,需要读取与生成此计算结果的子任务对应的预设条件,使用此预设条件进行判断。其中各个子任务与各个预设条件之间的对应关系可通过对应标识符确定,在相互对应的子任务与预设条件之间设定相同的对应标识符;对子任务进行计算生成计算结果的过程中,所生成的计算结果携带有与子任务相同的对应标识符;检测时读取当前计算结果中所携带的对应标识符,并从终端后台中查询具有此对应标识符的预设条件,并判断当前计算结果是否符合此查找到的预设条件,以对当前计算结果的正确性进行判断。
步骤S50,若所述当前计算结果不符合预设条件,对生成所述当前计算结果的子任务进行检测,确定生成所述当前计算结果的子任务中的错误数据;
进一步地,当判断出当前计算结果符合此查找到的预设条件,则说明当前计算子任务的计算结果满足判断标准,为正确的计算结果,则读取下一项子任务进行计算。当判断出当前计算结果不符合此查找到的预设条件,则说明当前计算子任务的计算结果不满足判断标准,为错误的计算结果,需要对生成此当前计算结果的当前计算子任务进行调整。考虑到可能当前计算子任务所具有的参数众多,从中查找引起当前计算结果错误的参数需要花费较多时间,为了快速方便查找到引起当前计算结果错误的参数,本实施例设置有对生成此当前计算结果的子任务进行检测的检测机制。预先设置用于检测的检测代码以及检测的判定条件,当判断出计算结果出现错误时,调用此预设的检测代码,逐一读取生成此当前计算结果的子任务数据;并将此读取的子任务数据和判定条件对比,判断子任务中的数据是否均符合判定条件;当子任务中出现不符合判定条件的数据,则说明此数据为引起当前计算结果错误的数据,将此数据确定为生成当前计算结果的子任务中的错误数据。
步骤S60,将所述错误数据生成调整提示信息,并将所述调整提示信息输出。
更进一步地,将所确定的错误数据生成调整提示信息,将此调整提示信息输出到终端界面;用户对终端界面中的此调整提示信息进行查看,确定子任务中引起当前计算结果错误的错误数据;便于用户方便快速的查找到引起当前计算结果错误的数据,并发送对此数据的调整指令,将其调整为符合判定条件的数据,而生成调整后的调整子任务,确保对此调整子任务进行计算所得到的计算结果的正确性。
进一步地,在本发明大数据计算方法另一实施例中,所述启动预设微服务对所述计算任务的任务接口进行调用,对所述计算任务中各项子任务进行计算的步骤包括:
步骤S11,读取所述各项子任务中所携带的顺序标识符,并根据所述顺序标识符,确定所述各项子任务之间的顺序关系;
更进一步地,因大数据计算的计算任务包括多个子任务,且各项子任务之间存在一定的逻辑顺序关系;在启动预设微服务对其进行计算时,为了避免混乱,需要按照此逻辑顺序计算。具体地,按照各项子任务之间的逻辑顺序关系,预先对各项子任务分配顺序标识符,用顺序标识符表征各项子任务计算的前后关系。如某一子任务M1的计算依赖于另一子任务M2的计算结果,则对M2分配在前的顺序标识符,而对M1分配在后的顺序标识符。计算时读取各项子任务中所携带表征前后计算关系的顺序标识符,根据此顺序标识符,确定各项子任务之间的顺序关系,此顺序关系即为各项子任务之间的计算顺序关系。
步骤S12,根据所述顺序关系,对所述各项子任务进行计算。
进一步地,在确定各项子任务之间的顺序关系之后,则按照此顺序关系,对计算任务中的各项子任务进行计算。如上述对于子任务M1和M2,先对在先的M2进行计算再对在后的M1进行计算,以使先生成M1的计算结果,将此M1的计算结果作为M2的数据来源,对M2进行计算。根据顺序标识符所表征的前后顺序关系进行计算,可使计算满足各项子任务之间的逻辑顺序关系要求,确保各项子任务计算结果的正确性。
进一步地,在本发明大数据计算方法另一实施例中,所述对所述计算任务中各项子任务进行计算的步骤包括:
步骤S13,根据所述各项子任务所携带的归属标识符,判断所述各项子任务中是否存在归属于预设计算系统的归属子任务;
更进一步地,在大数据中所存在数据类型多样,不同的数据类型用于计算而实现不同功能,此不同功能所需要计算的逻辑之间可能存在差异。考虑到不同大数据库管理平台因其本身对数据管理的结构差异,而使所计算的数据逻辑不同。如果使用不能计算某一数据逻辑的大数据管理平台去计算大数据计算任务,可能需要对此大数据管理平台进行优化,而使人力成本增加,计算效率低,且可能影响计算的准确性。如对于hive和Oracl为两个大数据管理平台,其中hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表;Oracle为分布式数据库,具有分布式处理功能。两者所具有的处理能力和处理速度不一样,一些数据的处理依赖于hive,而另一些数据的处理依赖于Oracle。如一笔到责任的保单数据,需要计算它的有效保额和准备金,有效保额在hive大数据平台计算,而hive大数据平台目前不支持计算准备金,但Oracle支持,从而需要在Oracle中对准备金进行计算。
本实施为了实现不同数据的计算需求,在终端后台中同时接入多个可互相通信的大数据管理平台,以其中一个符合大多数计算需求的作为主管理平台,而其他的作为辅管理平台。同时对计算任务中的各项子任务分配不同的归属标识符,通过此归属标识符表征各项子任务所归属处理的管理平台。如将hive和Oracle分别作为主管理平台和辅管理平台,且对使用hive处理的子任务分配归属标识符H,对使用Oracle处理的子任务分配归属标识符O。在对计算任务中各项子任务进行计算时,读取各项子任务中所携带的归属标识符,并根据此归属标识符确定各项子任务所归属处理的大数据管理平台。将辅助处理的辅管理平台作为预设计算系统,并将需要此辅管理平台处理的子任务作为归属子任务;根据所读取到各个归属标识符,判断各项子任务中是否存在归属于预设计算系统计算的归属子业务。因不同管理平台所处理的子任务所携带的归属标识符不一样,对于作为辅管理平台的预设计算系统相应有其对应的归属标识符,从而可根据所各项子任务中所携带归属标识符的类型判断其中是否归属于预设计算系统计算的归属子业务,即判断其中是否有子业务携带与预设计算系统对应的归属标识符。
步骤S14,若所述各项子任务中存在归属于预设计算系统的归属子任务时,将所述归属子任务添加到所述预设计算系统,以供所述预设计算系统对所述归属子任务进行计算。
进一步地,在判断出各项子任务中存在子业务携带与预设计算系统对应的归属标识符,则说明各项子业务中存在归属于预设计算系统计算的归属子任务;此归属子任务需要依赖于预设计算系统计算,从而将其添加到此预设计算系统中,以便于预设计算系统对此归属子任务进行计算。如对于上述主管理平台的hive和作为预设计算系统的Oracle,当存在依赖于Oracle计算的归属子任务时;调用hive中的Hadoop任务将此归属子任务写到Oracle中,且在写的过程中先在Oracle中新建与归属子任务对应的子任务,此子任务与归属子任务的结构相同,此后再将归属子任务中的数据搬移到新建的子任务中,而实现将归属子任务添加到Oracle中,在Oracle中对归属子任务进行计算处理。
进一步地,在本发明大数据计算方法另一实施例中,所述将所述归属子任务添加到所述预设计算系统的步骤之后包括:
步骤S15,根据所述归属子任务所携带的顺序标识符,确定所述归属子任务在所述顺序关系中的归属顺序;
可理解地,因归属子任务属于计算任务中各项子任务中的一部分,携带有其对应的顺序标识符,在各项子任务之间顺序关系中占用一个顺序位置,计算时需要考虑到其计算顺序。具体地,在将归属子任务添加到预设计算系统前,读取此归属子任务中所携带的顺序标识符,并根据此顺序标识符确定归属子任务在顺序关系中的归属顺序,此归属顺序表征归属子任务的计算顺序。
步骤S16,若当前计算的子任务位于所述归属顺序的前一顺序,在所述当前计算的子任务计算完成后,启动所述预设计算系统对所述归属子任务进行计算,生成归属计算结果。
进一步地,在按照顺序关系对各项子任务进行计算的过程中,需要关注当前正在计算子任务在顺序关系中的顺序,若当前正在计算子任务在顺序关系中的顺序为归属子任务在顺序关系中归属顺序的前一顺序时,则说明在当前计算子任务计算完成后,下一项需要对归属子任务进行计算。如当前计算子任务在顺序关系中的顺序为5,而归属子任务在顺序关系中的归属顺序为6,则当前计算子任务位于归属子任务归属顺序的前一顺序,下一项对归属子任务进行计算。而因归属子任务在预设计算系统进行计算,从而在当前计算的子任务计算完成后,启动终端后台中的预设计算系统,以通过预设计算系统对归属子任务进行计算,并生成此归属子任务的归属计算结果。
进一步地,在本发明大数据计算方法另一实施例中,所述生成归属计算结果的步骤之后包括:
步骤S17,读取所述预设计算系统生成的所述归属计算结果,并根据所述顺序关系中的归属顺序,将所述归属计算结果输出。
可理解地,因大部分子任务在终端后台中的主管理平台进行,在预设计算系统计算得到归属子任务的计算结果后,预设计算系统通过其和主管理平台之间的通信连接,将此计算结果返回到此主管理平台。终端后台对此归属计算结果读取,并根据归属子任务在顺序关系中的归属顺序,将归属计算结果输出到终端界面,并检测此归属计算结果的正确性。本实施例通过接入性能不同的大数据管理平台,对子任务进行处理,确保了处理的效率和准确性。
此外,请参照图3,本发明提供一种大数据计算装置,在本发明大数据计算装置第一实施例中,所述大数据计算装置包括:
启动模块10,用于当接收到大数据计算的计算任务的触发指令时,启动预设微服务对所述计算任务的任务接口进行调用,对所述计算任务中各项子任务进行计算,并生成各项计算结果逐项输出;
调整模块20,用于当接收到当前计算的子任务的调整指令时,根据所述调整指令确定所述当前计算的子任务的待调整内容,并对所述待调整内容进行调整,生成调整后的调整子任务;
控制模块30,用于控制所述预设微服务对所述调整子任务进行计算,并生成调整后的计算结果输出。
本实施例的大数据计算装置,当接收到对大数据计算的计算任务的触发指令时,启动模块10启动预设微服务对计算任务的任务接口进行调用,以对计算任务中各项子任务进行计算,并生成各项计算结果逐项输出;当接收到对当前计算子任务的调整指令时,调整模块20根据调整指令确定当前计算子任务的待调整内容,并对待调整内容进行调整,生成调整后的调整子任务;控制模块30控制预设微服务对调整子任务进行计算,并生成调整后的计算结果输出。本方案通过设置预设微服务对计算任务进行调用,实现大数据的灵活计算;当有计算需求时发送对计算任务的触发指令,启动预设微服务即对计算任务中的各项子任务进行计算,得到各项计算结果;在计算结果不符合要求时,可对计算子任务进行调整,并对调整后的子任务进行再次计算,以使计算结果符合要求;计算不受时间限制,计算过程灵活。
进一步地,在本发明大数据计算装置另一实施例中,所述大数据计算装置还包括:
调用模块,用于调用预设检测脚本对当前输出的当前计算结果进行检测,判断所述当前计算结果是否符合预设条件;
检测模块,用于若所述当前计算结果不符合预设条件,对生成所述当前计算结果的子任务进行检测,确定生成所述当前计算结果的子任务中的错误数据;
生成模块,用于将所述错误数据生成调整提示信息,并将所述调整提示信息输出。
进一步地,在本发明大数据计算装置另一实施例中,所述调整模块包括:
读取单元,用于读取所述调整指令中所携带的调整参数名和调整数据,并确定所述当前计算的子任务中与调整参数名对应的待调整内容;
调整单元,用于将所述待调整内容中的原有数据替换为调整数据,以对待调整内容进行调整。
进一步地,在本发明大数据计算装置另一实施例中,所述启动模块包括:
第一确定单元,用于读取所述各项子任务中所携带的顺序标识符,并根据所述顺序标识符,确定所述各项子任务之间的顺序关系;
计算单元,用于根据所述顺序关系,对所述各项子任务进行计算。
进一步地,在本发明大数据计算装置另一实施例中,所述启动模块还包括:
判断单元,用于根据所述各项子任务所携带的归属标识符,判断所述各项子任务中是否存在归属于预设计算系统的归属子任务;
添加单元,用于若所述各项子任务中存在归属于预设计算系统的归属子任务时,将所述归属子任务添加到所述预设计算系统,以供所述预设计算系统对所述归属子任务进行计算。
进一步地,在本发明大数据计算装置另一实施例中,所述启动模块还包括:
第二确定单元,用于根据所述归属子任务所携带的顺序标识符,确定所述归属子任务在所述顺序关系中的归属顺序;
启动单元,用于若当前计算的子任务位于所述归属顺序的前一顺序,在所述当前计算的子任务计算完成后,启动所述预设计算系统对所述归属子任务进行计算,生成归属计算结果。
进一步地,在本发明大数据计算装置另一实施例中,所述启动模块还包括:
输出单元,用于读取所述预设计算系统生成的所述归属计算结果,并根据所述顺序关系中的归属顺序,将所述归属计算结果输出。
其中,上述大数据计算装置的各虚拟功能模块存储于图4所示大数据计算设备的存储器1005中,处理器1001执行大数据计算程序时,实现图3所示实施例中各个模块的功能。
参照图4,图4是本发明实施例方法涉及的硬件运行环境的设备结构示意图。
本发明实施例大数据计算设备可以是PC(personal computer,个人计算机),也可以是智能手机、平板电脑、电子书阅读器、便携计算机等终端设备。
如图4所示,该大数据计算设备可以包括:处理器1001,例如CPU(CentralProcessing Unit,中央处理器),存储器1005,通信总线1002。其中,通信总线1002用于实现处理器1001和存储器1005之间的连接通信。存储器1005可以是高速RAM(random accessmemory,随机存取存储器),也可以是稳定的存储器(non-volatile memory),例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。
可选地,该大数据计算设备还可以包括用户接口、网络接口、摄像头、RF(RadioFrequency,射频)电路,传感器、音频电路、WiFi(Wireless Fidelity,无线宽带)模块等等。用户接口可以包括显示屏(Display)、输入单元比如键盘(Keyboard),可选用户接口还可以包括标准的有线接口、无线接口。网络接口可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。
本领域技术人员可以理解,图4中示出的大数据计算设备结构并不构成对大数据计算设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图4所示,作为一种计算机可读存储介质的存储器1005中可以包括操作系统、网络通信模块以及大数据计算程序。操作系统是管理和控制大数据计算设备硬件和软件资源的程序,支持大数据计算程序以及其它软件和/或程序的运行。网络通信模块用于实现存储器1005内部各组件之间的通信,以及与大数据计算设备中其它硬件和软件之间通信。
在图4所示的大数据计算设备中,处理器1001用于执行存储器1005中存储的大数据计算程序,实现上述大数据计算方法各实施例中的步骤。
本发明提供了一种计算机可读存储介质,所述计算机可读存储介质存储有一个或者一个以上程序,所述一个或者一个以上程序还可被一个或者一个以上的处理器执行以用于实现上述大数据计算方法各实施例中的步骤。
还需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上所述的一个计算机可读存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
以上所述仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是在本发明的构思下,利用本发明说明书及附图内容所作的等效结构变换,或直接/间接运用在其他相关的技术领域均包括在本发明的专利保护范围内。
Claims (6)
1.一种大数据计算方法,其特征在于,所述大数据计算方法包括以下步骤:
当接收到大数据计算的计算任务的触发指令时,启动预设微服务对所述计算任务的任务接口进行调用,对所述计算任务中各项子任务进行计算,并生成各项计算结果逐项输出;
当接收到当前计算的子任务的调整指令时,根据所述调整指令确定所述当前计算的子任务的待调整内容,并对所述待调整内容进行调整,生成调整后的调整子任务;其中,在各项子任务之间设置停留时间,即当前正在计算的子任务在计算完成得到其计算结果,并将此计算结果输出后,会间隔一段时间才开始下一项子任务的计算;此间隔的一段时间即为停留时间,计算结果在此停留时间内显示在终端界面上,以便于在此停留时间对计算结果的正确性进行判断;
控制所述预设微服务对所述调整子任务进行计算,并生成调整后的计算结果输出;
所述生成各项计算结果逐项输出的步骤之后包括:
调用预设检测脚本对当前输出的当前计算结果进行检测,判断所述当前计算结果是否符合预设条件;
若所述当前计算结果不符合预设条件,对生成所述当前计算结果的子任务进行检测,确定生成所述当前计算结果的子任务中的错误数据;其中,需要针对不同的子任务设置不同的预设条件,并将此不同的预设条件均存储在终端后台,所述不同的预设条件通过标识符查询;
将所述错误数据生成调整提示信息,并将所述调整提示信息输出;
所述启动预设微服务对所述计算任务的任务接口进行调用,对所述计算任务中各项子任务进行计算的步骤包括:
读取所述各项子任务中所携带的顺序标识符,并根据所述顺序标识符,确定所述各项子任务之间的顺序关系;
根据所述顺序关系,对所述各项子任务进行计算;
所述对所述计算任务中各项子任务进行计算的步骤包括:
根据所述各项子任务所携带的归属标识符,判断所述各项子任务中是否存在归属于预设计算系统的归属子任务;
若所述各项子任务中存在归属于预设计算系统的归属子任务时,将所述归属子任务添加到所述预设计算系统,以供所述预设计算系统对所述归属子任务进行计算;
所述将所述归属子任务添加到所述预设计算系统的步骤之后包括:
根据所述归属子任务所携带的顺序标识符,确定所述归属子任务在所述顺序关系中的归属顺序;
若当前计算的子任务位于所述归属顺序的前一顺序,在所述当前计算的子任务计算完成后,启动所述预设计算系统对所述归属子任务进行计算,生成归属计算结果。
2.如权利要求1所述的大数据计算方法,其特征在于,所述根据所述调整指令确定所述当前计算的子任务的待调整内容,并对所述待调整内容进行调整的步骤包括:
读取所述调整指令中所携带的调整参数名和调整数据,并确定所述当前计算的子任务中与调整参数名对应的待调整内容;
将所述待调整内容中的原有数据替换为调整数据,以对待调整内容进行调整。
3.如权利要求1所述的大数据计算方法,其特征在于,所述生成归属计算结果的步骤之后包括:
读取所述预设计算系统生成的所述归属计算结果,并根据所述顺序关系中的归属顺序,将所述归属计算结果输出。
4.一种大数据计算装置,其特征在于,所述大数据计算装置包括:
启动模块,用于当接收到大数据计算的计算任务的触发指令时,启动预设微服务对所述计算任务的任务接口进行调用,对所述计算任务中各项子任务进行计算,并生成各项计算结果逐项输出;
调整模块,用于当接收到当前计算的子任务的调整指令时,根据所述调整指令确定所述当前计算的子任务的待调整内容,并对所述待调整内容进行调整,生成调整后的调整子任务;其中,在各项子任务之间设置停留时间,即当前正在计算的子任务在计算完成得到其计算结果,并将此计算结果输出后,会间隔一段时间才开始下一项子任务的计算;此间隔的一段时间即为停留时间,计算结果在此停留时间内显示在终端界面上,以便于在此停留时间对计算结果的正确性进行判断;
控制模块,用于控制所述预设微服务对所述调整子任务进行计算,并生成调整后的计算结果输出;
所述大数据计算装置用于实现:
调用预设检测脚本对当前输出的当前计算结果进行检测,判断所述当前计算结果是否符合预设条件;
若所述当前计算结果不符合预设条件,对生成所述当前计算结果的子任务进行检测,确定生成所述当前计算结果的子任务中的错误数据;其中,需要针对不同的子任务设置不同的预设条件,并将此不同的预设条件均存储在终端后台,所述不同的预设条件通过标识符查询;
将所述错误数据生成调整提示信息,并将所述调整提示信息输出;
所述大数据计算装置用于实现:读取所述各项子任务中所携带的顺序标识符,并根据所述顺序标识符,确定所述各项子任务之间的顺序关系;
根据所述顺序关系,对所述各项子任务进行计算;
所述大数据计算装置用于实现:根据所述各项子任务所携带的归属标识符,判断所述各项子任务中是否存在归属于预设计算系统的归属子任务;
若所述各项子任务中存在归属于预设计算系统的归属子任务时,将所述归属子任务添加到所述预设计算系统,以供所述预设计算系统对所述归属子任务进行计算;
所述大数据计算装置用于实现:
根据所述归属子任务所携带的顺序标识符,确定所述归属子任务在所述顺序关系中的归属顺序;
若当前计算的子任务位于所述归属顺序的前一顺序,在所述当前计算的子任务计算完成后,启动所述预设计算系统对所述归属子任务进行计算,生成归属计算结果。
5.一种大数据计算设备,其特征在于,所述大数据计算设备包括:存储器、处理器、通信总线以及存储在所述存储器上的大数据计算程序;
所述通信总线用于实现处理器和存储器之间的连接通信;
所述处理器用于执行所述大数据计算程序,以实现如权利要求1-3中任一项所述的大数据计算方法的步骤。
6.一种计算机可读存储介质,其特征在于,所述计算机课读计算机可读存储介质上存储有大数据计算程序,所述大数据计算程序被处理器执行时实现如权利要求1-3中任一项所述的大数据计算方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810553567.XA CN109726009B (zh) | 2018-05-31 | 2018-05-31 | 大数据计算方法、装置、设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810553567.XA CN109726009B (zh) | 2018-05-31 | 2018-05-31 | 大数据计算方法、装置、设备及计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109726009A CN109726009A (zh) | 2019-05-07 |
CN109726009B true CN109726009B (zh) | 2024-04-12 |
Family
ID=66293863
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810553567.XA Active CN109726009B (zh) | 2018-05-31 | 2018-05-31 | 大数据计算方法、装置、设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109726009B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111581932A (zh) * | 2020-03-16 | 2020-08-25 | 北京掌行通信息技术有限公司 | 一种数据驱动的大数据分析方法、系统、装置、存储介质及终端 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106648936A (zh) * | 2016-12-29 | 2017-05-10 | Tcl集团股份有限公司 | 基于微服务的协作处理方法、系统及服务器 |
CN106650027A (zh) * | 2016-11-25 | 2017-05-10 | 北京宇航系统工程研究所 | 一种发射场数字合练试验方法 |
CN107153573A (zh) * | 2016-03-02 | 2017-09-12 | 阿里巴巴集团控股有限公司 | 分布式任务处理方法和装置 |
-
2018
- 2018-05-31 CN CN201810553567.XA patent/CN109726009B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107153573A (zh) * | 2016-03-02 | 2017-09-12 | 阿里巴巴集团控股有限公司 | 分布式任务处理方法和装置 |
CN106650027A (zh) * | 2016-11-25 | 2017-05-10 | 北京宇航系统工程研究所 | 一种发射场数字合练试验方法 |
CN106648936A (zh) * | 2016-12-29 | 2017-05-10 | Tcl集团股份有限公司 | 基于微服务的协作处理方法、系统及服务器 |
Also Published As
Publication number | Publication date |
---|---|
CN109726009A (zh) | 2019-05-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108388515B (zh) | 测试数据生成方法、装置、设备以及计算机可读存储介质 | |
CN109117141B (zh) | 简化编程的方法、装置、电子设备、计算机可读存储介质 | |
CN112787999B (zh) | 跨链调用方法、装置、系统与计算机可读存储介质 | |
CN111290779A (zh) | 灰度发布方法、装置、存储介质和电子设备 | |
CN111949314A (zh) | 应用安装包的生成方法、装置、服务器和存储介质 | |
EP3723343B1 (en) | Resource processing method and system, storage medium and electronic device | |
CN109726009B (zh) | 大数据计算方法、装置、设备及计算机可读存储介质 | |
CN112130936B (zh) | 基于轮询的数据调用方法、装置、设备及存储介质 | |
CN116302448B (zh) | 任务调度方法和系统 | |
CN112434037A (zh) | 数据处理方法、处理装置、数据处理设备和存储介质 | |
CN111988429A (zh) | 算法调度方法以及系统 | |
CN112486492A (zh) | 页面生成方法、装置、存储介质及电子设备 | |
CN110852649A (zh) | 资源管理方法、终端、装置及可读存储介质 | |
CN104735134A (zh) | 一种用于提供计算服务的方法和装置 | |
CN114553786A (zh) | 网络请求熔断方法、装置、计算机设备和存储介质 | |
CN114237633A (zh) | 应用配置方法、装置、设备及存储介质 | |
CN114968505A (zh) | 任务处理系统、方法、装置、设备、存储介质及程序产品 | |
CN113590100A (zh) | 前端接口处理方法、系统、电子设备及存储介质 | |
CN115965227A (zh) | 工作流的数据处理方法、装置、设备、存储介质及产品 | |
CN109150993B (zh) | 一种获取网络请求切面的方法、终端装置及存储介质 | |
CN112114972B (zh) | 数据倾斜的预测方法及装置 | |
CN115268971B (zh) | 信号处理系统的更新方法、装置、设备及存储介质 | |
CN117608634A (zh) | 一种程序代码的处理方法、系统、电子设备及存储介质 | |
CN117093799A (zh) | 网页生成方法、装置、电子设备及存储介质 | |
CN117955969A (zh) | 文件上传方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |