CN110290166B - 跨集群数据交互方法、系统、装置及可读存储介质 - Google Patents
跨集群数据交互方法、系统、装置及可读存储介质 Download PDFInfo
- Publication number
- CN110290166B CN110290166B CN201910367404.7A CN201910367404A CN110290166B CN 110290166 B CN110290166 B CN 110290166B CN 201910367404 A CN201910367404 A CN 201910367404A CN 110290166 B CN110290166 B CN 110290166B
- Authority
- CN
- China
- Prior art keywords
- data
- cluster
- task
- information
- identification information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000003993 interaction Effects 0.000 title claims abstract description 70
- 238000000034 method Methods 0.000 title claims abstract description 62
- 125000004122 cyclic group Chemical group 0.000 claims abstract description 8
- 238000004590 computer program Methods 0.000 claims description 18
- 230000015654 memory Effects 0.000 claims description 17
- 230000008569 process Effects 0.000 claims description 15
- 230000005540 biological transmission Effects 0.000 abstract description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000013024 troubleshooting Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及数据采集技术领域,具体涉及一种跨集群数据交互方法、系统、装置及可读存储介质。该跨集群数据交互方法、系统、装置及可读存储介质,根据任务的属性信息确认数据的数据标识信息、目标集群的目标集群信息以及源集群的源集群信息,然后上述信息从源集群中搜索数据,将所需要的数据传输至目标集群。传输完毕后,当发现存在未搜索到数据的数据标识信息时,针对该数据标识信息循环搜索,直至搜索成功。通过循环搜索的方式,在搜索数据的同时,也能间接判断前置任务是否完成。通过循环搜索的方式判断前置任务是否完成,无需工作人员人工判断,减少跨集群数据交互中人为因素的参与,减少工作人员的劳动量,减少跨集群数据交互的时间。
Description
技术领域
本发明涉及数据采集技术领域,具体涉及利用计算机程序进行跨集群数据传输的跨集群数据交互方法、系统、装置及可读存储介质。
背景技术
随着数据处理规模的增长,传统的单机计算模式已经不能满足日益增长的信息服务需求。集群(cluster)是一组相互独立的、通过高速网络互联的计算机,它们构成了一个计算组,并且能够以统一的方式进行管理。集群可以实现很高的运算速度,完成大运算量的计算,具有较高的响应能力,能够降低整体运维成本,因此得到了越来越多的应用。
然而,随着大数据技术的发展和企业数据仓库中离线计算任务数据规模的膨胀,单独搭建计算集群带来的成本越来越高昂,越来越多的用户倾向于不再为离线的计算服务单独建立集群和机房,而是将在线业务与离线业务混布在同一个集群。混布集群只承担计算任务而不承担存储任务,以达到节约成本的目的。这时,需要把一部分在离线集群中的数据交互到混布集群上运行。因此,如何实现跨集群的数据交互成为一个值得关注的问题。
现有技术中,在跨集群的数据交互中,可以通过任务的属性信息确定待复制的数据,然后将待复制的数据复制到目标集群。但是,在跨集群的数据交互中,部分待复制的数据是在前置任务运行完成后产生的,在对数据进行复制前,往往需要判断前置任务是否运行完成;由于任务和任务所需要的数据不在同一集群,工作人员只能逐一查看各前置任务,当人工判断前置任务全部运行完成后,再将待复制的数据复制到目标集群。现有技术中,通过人工判断前置任务的完成情况,必然耗费人力,浪费时间。
发明内容
为了解决现有技术中需要通过人工逐个判断各前置任务完成情况时耗费人力以及浪费时间的问题,本发明提供一种跨集群数据交互方法、系统、装置及可读存储介质。
基于一方面,本发明提供一种跨集群数据交互方法,该跨集群数据交互方法应用于电子装置,用于将源集群中的数据传输至目标集群。
该跨集群数据交互方法包括如下步骤:
第一步:确认待运行或待开发的任务,获取所述任务的属性信息。
第二步:根据所述属性信息确认所述任务运行或开发过程中所需要的数据的数据列表;所述数据列表包含有所述数据的数据标识信息、所述任务所在的目标集群的目标集群信息和所述数据所在的源集群的源集群信息。
第三步:根据所述数据标识信息和所述源集群信息,在所述源集群内搜索含有所述数据标识信息的数据,然后将搜索到的数据传输至所述目标集群。
第四步:判断是否存在未搜索到对应数据的数据标识信息,根据判断结果执行以下操作:
当不存在未搜索到对应数据的数据标识信息时,确认跨集群数据交互完成;
当存在未搜索到对应数据的数据标识信息时,启动预先设置的计时器,所述计时器按照预设的时间发出循环搜索指令;根据所述循环搜索指令,进入第三步。
优选的,所述计时器内还设置有时间阈值,在确认跨集群数据交互完成时,计时器清零;在所述计时器计量的时间超出所述时间阈值时,发出搜索超时报警信号。
优选的,数据列表内还包含有根据所述属性信息确认的所需要的数据的类别信息,根据所述类别信息将所需要的数据分为有前置任务的数据和无前置任务的数据;
在判断得出存在搜索到对应数据的数据标识信息时,根据所述未搜索到数据的数据标识信息所对应的数据的类别信息,判断所对应的数据为有前置任务的数据还是为无前置任务的数据。其中,当所对应的数据为有前置任务的数据时,启动所述计时器;当所对应的数据为无前置任务的数据时,暂停所对应的数据的搜索,发出搜索错误报警信号。
再优选的,当未搜索到对应数据的数据标识信息所对应的数据为有前置任务的数据时,在启动所述计时器的同时,确认未搜索到对应数据的数据标识信息相对应的前置任务,输出所述前置任务的任务信息。
再优选的,将所需要的数据分为有前置任务的数据和无前置任务的数据后,根据有前置任务的数据的所述类别信息确认前置任务,向所述前置任务发出前置任务运行指令,根据所述前置任务运行指令启动所述前置任务。
再优选的,获取所述前置任务运行所需要的时间,所述计时器预设的时间不小于所述前置任务运行所需要的时间。
优选的,在上述第三步中,通过以下方式将搜索到的数据传输至所述目标集群:所述目标集群向存储有待传输的数据的所述源集群请求复制所述待传输的数据,所述源集群在确认所述请求之后,将所述待传输的数据发送至所述目标集群。
基于另一方面,本发明还提供一种跨集群数据交互系统,该跨集群数据交互系统包括属性信息获取单元、数据列表生成单元和循环搜索单元。
所述属性信息获取单元用于:确认待运行或待开发的任务,根据待运行或待开发的所述任务获取所述任务的属性信息。
所述数据列表生成单元用于:根据所述属性信息生成数据列表,所述数据列表内包含所述任务运行或开发过程中所需要的数据的数据标识信息、所述任务所在的目标集群的目标集群信息、所述数据所在的源集群的源集群信息。
所述循环搜索单元用于:根据所述数据标识信息和所述源集群信息,搜索所述源集群内含有所述数据标识信息的数据,将搜索到的数据传输至所述目标集群;当存在未搜索到对应数据的数据标识信息时,按照预设的时间循环搜索所述数据标识信息对应的数据。
基于再一方面,本发明提供一种电子装置,该电子装置包括存储器和处理器,所述存储器中存储有计算机程序,计算机程序被处理器执行时,实现如上述的跨集群数据交互方法。
还基于一方面,本发明提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时,实现如上述的跨集群数据交互方法
本发明提供的跨集群数据交互方法、系统、装置及可读存储介质,与现有技术相比,具有以下有益效果:
上述跨集群数据交互方法、系统、装置及可读存储介质,根据任务的属性信息确认任务运行或开发过程中所需的数据的数据标识信息、任务所在的目标集群的目标集群信息以及数据所在的源集群的源集群信息,然后根据数据标识信息和源集群信息从源集群中搜索并复制数据,根据目标集群信息将复制的数据传输至目标集群。传输完毕后,当发现存在未搜索到数据的数据标识信息时,针对该数据标识信息循环搜索,直至搜索成功。通过循环搜索的方式,能够在搜索数据标识信息对应的数据的同时,也能间接判断前置任务是否完成,当搜索到对应的数据时,则认为前置任务已经完成,该搜索到的数据是在前置任务完成后产生的数据。通过循环搜索的方式判断前置任务是否完成,无需工作人员人工判断,减少跨集群数据交互中人为因素的参与,减少工作人员的劳动量,减少跨集群数据交互所耗费的时间。
附图说明
通过参考以下流程附图的说明及权利要求书的内容,并且随着对本发明的更全面理解,本发明的其它目的及结果将更加明白及易于理解。在附图中:
图1是根据本发明实施例的跨集群数据交互方法的流程示意图。
图2是根据本发明实施例的跨集群数据交互方法中判断是否搜索错误的流程示意图。
图3是根据本发明实施例的跨集群数据交互系统的信息传输路线图。
图4是根据本发明实施例的电子装置的逻辑结构示意图。
附图中有如下标记:
1电子装置;2处理器;3存储器;4计算机程序。
在所有附图中相同的标号指示相似或相应的特征或功能。
具体实施方式
本实施例提供一种跨集群数据交互方法、系统、装置及可读存储介质,该集群指位于同一机房内的一组设备集合。在对外交互时,一个集群可以看成是一个独立的设备。基于多个相互通信的集群可以搭建分布式系统,比如多个相互通信的集群可以组建一个云计算系统,一个分布式系统在对外提供服务时也可以看成是一个独立的设备。
多个相互通信的集群可以跨地域部署,比如,部署在不同城市的机房中,即,不同的集群部署在不同的城市。具体如:在城市A部署有集群C1,在城市B部署有集群C2,在城市C部署有集群C3,在城市D部署有集群C4。再如集群C1是控制集群,其它集群C2和集群C3分别是第一集群和第二集群。具体工作中,这些集群之间互相通信、互相读取数据。然而,本发明对集群的建立和集群的类别并不限定,各集群也可以是以其它任意形式布置。在其他实现方式中,多个相互通信的集群也可以部署在同一城市的不同地点的机房。
在集群组成的分布式系统中,当其中一个集群内需要运行或开发某一个任务时,可能需要调用其它集群内的数据;此时认为该任务所在的集群称之为目标集群,所调用的数据所在的集群称之为源集群。当源集群内存储有可直接调用的该数据时,可通过现有的技术直接从源集群内复制传输该数据,将该数据从源集群传输至目标集群。但是,当该数据是通过源集群内的前置任务生成,前置任务完成后才会产生该数据时,目标集群无法直接复制传输该数据。在调用带有前置任务的数据时,只能人工判断各前置任务的完成程度,在前置任务完成后,再实现该数据的复制传输。为了解决上述需要人工判断前置任务完成程度的问题,本发明提供了跨集群数据交互方法、系统、装置及可读存储介质,具体根据下述各实施例进行详细说明。
在下述的描述中,出于说明的目的,为了提供对一个或多个实施例的全面理解,阐述了许多具体细节。然而,很明显,也可以在没有这些具体细节的情况下实现这些实施例。在其它例子中,为了便于描述一个或多个实施例,公知的结构和设备以方框图的形式示出。以下将结合附图对本发明的具体实施例进行详细描述。
实施例1
图1提供了根据本发明实施例的跨集群数据交互方法的流程示意图,如图1所示,该跨集群数据交互方法包括如下步骤:
S110:分布式系统包括多个集群,在分布式系统工作时,会产生待运行或待开发的任务,在本实施例中,首先应确认待运行或待开发的任务,然后根据确认的待运行或待开发的任务获取各对应任务的属性信息。
S120:根据上述获取的属性信息确认对应的任务运行或开发过程中所需要的数据的数据列表;该数据列表包含有上述数据的数据标识信息、上述任务所在的目标集群的目标集群信息和上述数据所在的源集群的源集群信息。
上述的属性信息是指待运行或待开发的任务的属性信息,该属性信息应在该任务建立前或建立中形成,该属性信息包括上述数据列表中的信息,该数据列表中的信息仅仅是从属性信息获取并筛选出的信息。
S130:通过步骤S120获取数据标识信息、目标集群信息和源集群信息后,即可将搜索条件设置为数据标识信息,通过源集群信息获取数据所在的源集群的访问路径,从访问路径进入源集群,并在源集群内搜索符合条件的数据。当搜索到含有数据标识信息的数据时,则认为搜索到对应的数据,将该搜索到的数据传输至目标集群,即可实现数据的跨集群交互。
上述数据传输至目标集群的过程,可以通过以下方式实现:目标集群向存储有待传输的数据的源集群请求复制待传输的数据,该源集群在确认请求之后,将该待传输的数据发送至目标集群。当然,该数据传输至目标集群的过程并非是唯一的,也可通过现有技术中其它的跨集群数据传输技术实现该数据的传输。
S140:在每次搜索完源集群后,应判断是否存在未搜索到数据的数据标识信息。当不存在未搜索到对应数据的数据标识信息时,则认为任务运行或开发所需要的数据已全部传输至目标集群,数据的跨集群交互已经完成,此时即可确认跨集群数据交互完成。当存在未搜索到对应数据的数据标识信息时,则认为该数据标识信息对应的数据带有前置任务,当前置任务完成后才可对数据进行复制传输;针对该种情况,应启动预先设置的计时器,该计时器能够按照预设的时间发出循环搜索指令;根据该循环搜索指令,进入上述的步骤S130,在步骤S130中,根据未搜索到数据的数据标识信息和对应的源集群信息,循环搜索源集群内的数据,直至前置任务完成,搜索到含有数据标识信息的数据。
在具体操作中,还可以有以下技术特征,当然,下述技术特征并非是必要的技术特征,如下所示:
为了防止该跨集群数据交互方法的执行时间过长,在上述的计时器内设置时间阈值,在确认跨集群数据交互完成时,计时器清零;在计时器计量的时间超出该时间阈值时,发出搜索超时报警信号。通过搜索超时报警信号的发出,提醒工作人员搜索时间过长;此时,该跨集群数据交互方法可能出现问题,或则执行该跨集群数据交互方法的处理器运行过慢,工作人员在收到搜索超时报警信号后,可通过人为干预,加快该跨集群数据交互方法。
为了防止该跨集群数据交互方法在执行时出现错误,本实施例还具体提供了排查错误的方式。为了实现排查错误的目的,在步骤S120中,应根据属性信息确认所需要的数据的类别信息,该列表信息也包含在数据列表内,根据该类别信息将所需要的数据分为有前置任务的数据和无前置任务的数据。
图2提供了跨集群数据交互方法中判断是否搜索错误的流程示意图。
如图2所示,该排查错误的流程包括:在步骤S140中,当判断得知存在未搜索到对应数据的数据标识信息时,进入步骤S160,在步骤S160中,根据上述类别信息判断未搜索到对应数据的数据标识信息所对应的数据的类别。当所对应的数据的类别为有前置任务的数据时,则认为未发现错误,进入步骤S150,此时应启动上述计时器,计时器按照预设的时间发出搜索指令,进入数据的循环搜索,待前置任务完成后复制并传输前置任务完成后形成的数据即可。
当所对应的数据为无前置任务的数据时,此时应认为出现了明显错误,该数据在正确情况下应是现有的,且能够搜索出的,此时应暂停所对应的数据的搜索,发出搜索错误报警信号;该搜索错误报警信号可以提醒工作人员,由工作人员排查并解决问题;当然,也可以由电子装置本身的程序排查并解决问题。本段所提出的排查错误的方式,仅仅能够发现在搜索无前置任务的数据时搜索不到数据的问题,当出现其它问题时,应由其它方式解决。
在上述步骤S160中,判断未搜索到对应数据的数据标识信息所对应的数据的类别后,当所对应的数据为有前置任务的数据时,还可以有以下操作:启动计时器,进入该数据识别信息的循环搜索的同时,还可以确认该未搜索到对应数据的数据标识信息相对应的前置任务,输出该前置任务的任务信息。该前置任务的任务信息输出后,工作人员可直接获取数据形成所需要运行完成的前置任务,并根据需要对各前置任务配置执行环境,如暂停非前置任务的其它任务的运行,或为各前置任务配置更多的内存等,以加快各前置任务的执行速度。
上述前置任务可以是在本跨集群数据交互方法之前启动,也可以根据预设的规则启动,本实施例具体提供了前置任务的启动方式:在上述将所需要的数据分为有前置任务的数据和无前置任务的数据后,根据有前置任务的数据的类别信息确认各前置任务,确认各前置任务后,向各前置任务发出前置任务运行指令,根据该前置任务运行指令启动前置任务。
当上述前置任务根据该前置任务运行指令启动时,为了减少不必要的搜索,计时器预设的时间可以根据前置任务运行所需要的时间设置,此时应提前获取前置任务运行所需的时间,该预设的时间应不小于前置任务运行所需要的时间,当有多个前置任务时,该预设的时间应不小于耗时最长的前置任务运行所需要的时间。如前置任务运行所需要的时间为30分钟,则计时器内预设的时间应不小于30分钟;当前置任务由多个,且各前置任务运行所需要的时间分别为20分钟、25分钟和30分钟,则计时器内预设的时间应不小于30分钟。
实施例2
图3提供了跨集群数据交互系统的信息传输路线图。
如图3所述,本实施例提供一种跨集群数据交互系统,该跨集群数据交互系统用于实现上述实施例1的跨集群数据交互方法,该跨集群数据交互系统包括属性信息获取单元101、数据列表生成单元102和循环搜索单元103。
该属性信息获取单元101用于:根据待运行或待开发的任务获取任务的属性信息。
该数据列表生成单元102用于:根据上述获取的属性信息生成数据列表,在数据列表内包含上述任务运行或开发过程中所需要的数据的数据标识信息、任务所在的目标集群的目标集群信息、所需要的数据所在的源集群的源集群信息。
该循环搜索单元103用于:根据上述数据列表中的数据标识信息和源集群信息,从源集群内搜索含有数据标识信息的数据,将搜索到的数据传输至目标集群;当存在未搜索到对应数据的数据标识信息时,按照预设的时间循环搜索数据标识信息对应的数据。
实施例3
图4提供了电子装置的逻辑结构示意图。
如图4所示,本实施例提供一种电子装置,该电子装置1包括存储器3和处理器2,该存储器3中存储有计算机程序4,上述计算机程序4被处理器2执行时,实现上述跨集群数据交互方法。
上述电子装置1可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。电子装置1可包括,但不仅限于,处理器2、存储器3和目标数据库。本领域技术人员可以理解,图4仅仅是电子装置1的示例,并不构成对电子装置1的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如电子装置1还可以包括输入输出设备、网络接入设备、总线等。
所称处理器2可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是控制器、微控制器、微处理器,或者该处理器也可以是任何常规的处理器等。
存储器3可以是电子装置1的内部存储单元,例如电子装置1的硬盘或内存。存储器3也可以是电子装置1的外部存储设备,例如电子装置1上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、多媒体卡、卡型存储器、磁性存储器、磁盘和光盘等。进一步地,存储器还可以既包括终端设备的内部存储单元也包括外部存储设备。存储器用于存储计算机程序4以及电子设备所需的其他程序和数据。存储器还可以用于暂时地存储已经输出或者将要输出的数据。
实施例4
本实施例提供的计算机可读存储介质设置在上述电子装置内,该计算机可读存储介质存储有计算机程序,计算机程序被处理器执行时,实现如上述实施例1中的跨集群数据交互方法。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括是电载波信号和电信信号。
上述跨集群数据交互方法、系统、装置及可读存储介质,根据任务的属性信息确认任务运行或开发过程中所需的数据的数据标识信息、所述任务所在的目标集群的目标集群信息以及所述数据所在的源集群的源集群信息,然后根据数据标识信息和源集群信息从源集群中搜索复制数据,根据目标集群信息将复制的数据传输至目标集群。传输完毕后,当发现存在未搜索到对应数据的数据标识信息时,针对该数据标识信息循环搜索,直至搜索成功。通过循环搜索的方式,能够在寻找数据标识信息对应的数据的同时,也能间接判断前置任务是否完成,当搜索到对应的数据时,则认为前置任务已经完成,且在前置任务完成后产生的数据。通过循环搜索的方式判断前置任务是否完成,无需工作人员人工判断,减少跨集群数据交互中人为因素的参与,减少工作人员的劳动量,减少跨集群数据交互的时间。
如上参照附图以示例的方式描述了根据本发明的跨集群数据交互方法、系统、装置及可读存储介质。但是,本领域技术人员应当理解,对于上述本发明所提出的跨集群数据交互方法、系统、装置及可读存储介质,还可以在不脱离本发明内容的基础上做出各种改进。因此,本发明的保护范围应当由所附的权利要求书的内容确定。
Claims (9)
1.一种跨集群数据交互方法,应用于电子装置,用于将源集群中的数据传输至目标集群,其特征在于,包括如下步骤:
第一步:确认待运行或待开发的任务,获取所述任务的属性信息;
第二步:根据所述属性信息确认所述任务运行或开发过程中所需要的数据的数据列表,所述数据列表包含有所述数据的数据标识信息、所述任务所在的所述目标集群的目标集群信息和所述数据所在的所述源集群的源集群信息;
第三步:根据所述数据标识信息和所述源集群信息,在所述源集群内搜索含有所述数据标识信息的数据,然后将搜索到的数据传输至所述目标集群;
第四步:判断是否存在未搜索到对应数据的数据标识信息,根据判断结果执行以下操作:
当不存在未搜索到对应数据的数据标识信息时,确认跨集群数据交互完成;
当存在未搜索到对应数据的数据标识信息时,启动预先设置的计时器,所述计时器按照预设的时间发出循环搜索指令;根据所述循环搜索指令,进入第三步;
其中,所述数据列表内还包含有根据所述属性信息确认的所需要的数据的类别信息,根据所述类别信息将所需要的数据分为有前置任务的数据和无前置任务的数据;
在判断得出存在未搜索到数据的数据标识信息时,根据所述未搜索到数据的数据标识信息所对应的数据的类别信息,判断所对应的数据为有前置任务的数据还是为无前置任务的数据;其中,
当所对应的数据为有前置任务的数据时,启动所述计时器;当所对应的数据为无前置任务的数据时,暂停所对应的数据的搜索,发出搜索错误报警信号。
2.如权利要求1所述的跨集群数据交互方法,其特征在于,在所述计时器内还设置有时间阈值,在确认跨集群数据交互完成时,计时器清零;在所述计时器计量的时间超出所述时间阈值时,发出搜索超时报警信号。
3.如权利要求1所述的跨集群数据交互方法,其特征在于,当未搜索到对应数据的数据标识信息所对应的数据为有前置任务的数据时,在启动所述计时器的同时,确认未搜索到对应数据的数据标识信息相对应的前置任务,输出所述前置任务的任务信息。
4.如权利要求1所述的跨集群数据交互方法,其特征在于,将所需要的数据分为有前置任务的数据和无前置任务的数据后,根据有前置任务的数据的类别信息确认前置任务,向所述前置任务发出前置任务运行指令,根据所述前置任务运行指令启动所述前置任务。
5.如权利要求4所述的跨集群数据交互方法,其特征在于,获取所述前置任务运行所需要的时间,所述计时器预设的时间不小于所述前置任务运行所需要的时间。
6.如权利要求1至5任意一项所述的跨集群数据交互方法,其特征在于,第三步中,通过以下方式将搜索到的数据传输至所述目标集群:
所述目标集群向存储有待传输的数据的所述源集群请求复制所述待传输的数据,所述源集群在确认所述请求之后,将所述待传输的数据发送至所述目标集群。
7.一种跨集群数据交互系统,其特征在于,包括属性信息获取单元、数据列表生成单元和循环搜索单元;其中,
所述属性信息获取单元用于:确认待运行或待开发的任务,根据待运行或待开发的所述任务获取所述任务的属性信息;
所述数据列表生成单元用于:根据所述属性信息生成数据列表,所述数据列表内包含所述任务运行或开发过程中所需要的数据的数据标识信息、所述任务所在的目标集群的目标集群信息、所述数据所在的源集群的源集群信息;
所述循环搜索单元用于:根据所述数据标识信息和所述源集群信息,搜索所述源集群内含有所述数据标识信息的所述数据,将搜索到的所述数据传输至所述目标集群;当存在未搜索到数据的数据标识信息时,按照预设的时间循环搜索所述数据标识信息对应的数据;
其中,所述数据列表内还包含有根据所述属性信息确认的所需要的数据的类别信息,根据所述类别信息将所需要的数据分为有前置任务的数据和无前置任务的数据;
在判断得出存在未搜索到数据的数据标识信息时,根据所述未搜索到数据的数据标识信息所对应的数据的类别信息,判断所对应的数据为有前置任务的数据还是为无前置任务的数据;其中,
当所对应的数据为有前置任务的数据时,启动计时器;当所对应的数据为无前置任务的数据时,暂停所对应的数据的搜索,发出搜索错误报警信号。
8.一种电子装置,该电子装置包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,计算机程序被处理器执行时,实现如权利要求1至6任意一项所述跨集群数据交互方法。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时,实现如权利要求1至6任意一项所述的跨集群数据交互方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910367404.7A CN110290166B (zh) | 2019-05-05 | 2019-05-05 | 跨集群数据交互方法、系统、装置及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910367404.7A CN110290166B (zh) | 2019-05-05 | 2019-05-05 | 跨集群数据交互方法、系统、装置及可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110290166A CN110290166A (zh) | 2019-09-27 |
CN110290166B true CN110290166B (zh) | 2023-04-18 |
Family
ID=68001566
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910367404.7A Active CN110290166B (zh) | 2019-05-05 | 2019-05-05 | 跨集群数据交互方法、系统、装置及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110290166B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110708238B (zh) * | 2019-11-22 | 2021-08-03 | 京东数字科技控股有限公司 | 用于处理信息的方法和装置 |
CN111459411B (zh) * | 2020-03-30 | 2023-07-21 | 北京奇艺世纪科技有限公司 | 数据迁移方法、装置、设备及存储介质 |
CN113703954A (zh) * | 2020-05-21 | 2021-11-26 | 中移(苏州)软件技术有限公司 | 一种消息备份方法、装置、电子设备及计算机存储介质 |
CN114035899B (zh) * | 2021-11-15 | 2022-10-25 | 中原银行股份有限公司 | 一种跨集群参数的配置方法、装置及电子设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107798039A (zh) * | 2017-05-19 | 2018-03-13 | 平安科技(深圳)有限公司 | 一种数据同步方法和装置 |
CN108234566A (zh) * | 2016-12-21 | 2018-06-29 | 阿里巴巴集团控股有限公司 | 一种集群的数据处理方法及装置 |
CN108491526A (zh) * | 2018-03-28 | 2018-09-04 | 腾讯科技(深圳)有限公司 | 日志数据处理方法、装置、电子设备及存储介质 |
-
2019
- 2019-05-05 CN CN201910367404.7A patent/CN110290166B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108234566A (zh) * | 2016-12-21 | 2018-06-29 | 阿里巴巴集团控股有限公司 | 一种集群的数据处理方法及装置 |
CN107798039A (zh) * | 2017-05-19 | 2018-03-13 | 平安科技(深圳)有限公司 | 一种数据同步方法和装置 |
CN108491526A (zh) * | 2018-03-28 | 2018-09-04 | 腾讯科技(深圳)有限公司 | 日志数据处理方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110290166A (zh) | 2019-09-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110290166B (zh) | 跨集群数据交互方法、系统、装置及可读存储介质 | |
CN109634728B (zh) | 作业调度方法、装置、终端设备及可读存储介质 | |
CN108388599B (zh) | 电子装置、数据迁移及调用方法及存储介质 | |
CN110875850B (zh) | 一种固件升级方法、系统、可读存储介质及终端设备 | |
CN107807815B (zh) | 分布式处理任务的方法和装置 | |
CN111045933A (zh) | 一种回归策略更新方法、装置、存储介质及终端设备 | |
CN108416657B (zh) | 一种基于咨询服务的订单生成方法及设备 | |
US20230351145A1 (en) | Pipelining and parallelizing graph execution method for neural network model computation and apparatus thereof | |
CN112506779A (zh) | 软件接口测试方法、装置、电子设备及存储介质 | |
US20170085653A1 (en) | Method, device and system for message distribution | |
CN108765142B (zh) | 电子装置、多区块链整合控制方法和计算机可读存储介质 | |
CN108363787B (zh) | 一种ifc文件并行存储方法、装置及系统 | |
CN112204527A (zh) | 用于处理多工程系统环境中的工程数据的方法和系统 | |
CN112631884A (zh) | 基于数据同步的压测方法、装置、计算机设备及存储介质 | |
CN112988383A (zh) | 一种资源分配方法、装置、设备以及存储介质 | |
CN111813517A (zh) | 任务队列的分配方法、装置、计算机设备及介质 | |
CN113051102A (zh) | 文件备份方法、装置、系统、存储介质和计算机设备 | |
CN111291443B (zh) | 整车控制器软件的i/o模块模型自动生成方法、装置及设备 | |
CN109165135A (zh) | 一种数据管理方法、计算机可读存储介质及终端设备 | |
CN112948380A (zh) | 基于大数据的数据存储方法、装置、电子设备及存储介质 | |
CN109753506B (zh) | 数据分布式存储方法、装置、终端及存储介质 | |
CN108363671B (zh) | 一种接口切换的方法、终端设备及存储介质 | |
CN113051149A (zh) | 一种用例参数生成方法及装置 | |
CN108959309B (zh) | 数据分析的方法和装置 | |
CN114840238A (zh) | 软件升级方法、装置、电子设备及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |