CN112069261A - 基于分布式系统的数据同步方法、系统、设备及存储介质 - Google Patents

基于分布式系统的数据同步方法、系统、设备及存储介质 Download PDF

Info

Publication number
CN112069261A
CN112069261A CN202010941882.7A CN202010941882A CN112069261A CN 112069261 A CN112069261 A CN 112069261A CN 202010941882 A CN202010941882 A CN 202010941882A CN 112069261 A CN112069261 A CN 112069261A
Authority
CN
China
Prior art keywords
clickhouse
data
database
synchronized
hive
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010941882.7A
Other languages
English (en)
Other versions
CN112069261B (zh
Inventor
叶小琴
吉聪睿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ctrip Computer Technology Shanghai Co Ltd
Original Assignee
Ctrip Computer Technology Shanghai Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ctrip Computer Technology Shanghai Co Ltd filed Critical Ctrip Computer Technology Shanghai Co Ltd
Priority to CN202010941882.7A priority Critical patent/CN112069261B/zh
Publication of CN112069261A publication Critical patent/CN112069261A/zh
Application granted granted Critical
Publication of CN112069261B publication Critical patent/CN112069261B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明提供了一种基于分布式系统的数据同步方法、系统、设备及存储介质，该方法包括运行Shell脚本将Hive数据库的数据同步至ClickHouse数据库中；所述运行Shell脚本将Hive数据库的数据同步至ClickHouse数据库中，包括如下步骤：从Hive数据库的源Hive表中获取待同步数据的文件路径；将所述待同步数据的文件路径存储于Shell数组中；根据所述Shell数组中的文件路径将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中。本发明可以简化数据同步流程，降低代码配置复杂度，方便调试，提高了数据同步效率，提高数据使用效率，从而实现自动化高效率数据同步。

Description

基于分布式系统的数据同步方法、系统、设备及存储介质
技术领域
本发明涉及数据处理技术领域，尤其涉及一种基于分布式系统的数据同步方法、系统、设备及存储介质。
背景技术
目前互联网行业基本都应用Hadoop框架(Hadoop是一个由Apache基金会所开发的分布式系统基础架构)，Hive则是基于该框架的一种数据仓库工具，Hive数据表对应底层ORC(Optimized Row Columnar，优化行列)文件。Hive数据同步至ClickHouse数据库(Clickhouse是一个用于联机分析处理的列式数据库管理系统)一般通过中转方式实现，即首先将数据从Hive传输至Hbase(一个分布式的、面向列的开源数据库)，再传输至ClickHouse，或通过JDBC(Java Database Connectivity，Java数据库连接)引擎读取Hive数据，再连接ClickHhouse数据库实现写入过程。
然而，以上同步方式存在效率低、超时等问题，且数据量越大这些问题越突出。
发明内容
针对现有技术中的问题，本发明的目的在于提供一种基于分布式系统的数据同步方法、系统、设备及存储介质，简化数据同步流程，降低代码配置复杂度。
本发明实施例提供一种基于分布式系统的数据同步方法，包括如下步骤：
运行Shell脚本将Hive数据库的数据同步至ClickHouse数据库中；
所述运行Shell脚本将Hive数据库的数据同步至ClickHouse数据库中，包括如下步骤：
从Hive数据库的源Hive表中获取待同步数据的文件路径；
将所述待同步数据的文件路径存储于Shell数组中；
根据所述Shell数组中的文件路径将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中。
在一些实施例中，将所述待同步数据的文件路径存储于Shell数组中，包括如下步骤：
根据预设的并行度参数，确定每个批次同步的文件数量；
将每个批次同步的文件路径存储于Shell数组中。
在一些实施例中，所述将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中，包括如下步骤：
将源Hive表中的每个批次的待同步数据并行同步至ClickHouse数据库的目标ClickHouse表中。
在一些实施例中，所述将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中，包括如下步骤：
根据ClickHouse配置信息访问ClickHouse数据库，将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中，所述ClickHouse配置信息包括ClickHouse数据库所在目标服务器的地址和访问账号信息。
在一些实施例中，所述运行Shell脚本将Hive数据库的数据同步至ClickHouse数据库中之前，还包括如下步骤：
配置Hive引擎和ClickHouse引擎；
上传Shell脚本；
在Shell脚本中配置目标ClickHouse表和源Hive表。
在一些实施例中，所述上传Shell脚本之后，还包括如下步骤：
在所述Shell脚本中设置ClickHouse配置信息，所述ClickHouse配置信息包括ClickHouse数据库所在目标服务器的地址和访问账号信息。
在一些实施例中，所述上传Shell脚本之后，还包括如下步骤：
在所述Shell脚本中配置并行度参数。
本发明实施例还提供一种基于分布式系统的数据同步系统，用于实现所述的基于分布式系统的数据同步方法，所述系统包括：
路径获取模块，用于从Hive数据库的源Hive表中获取待同步数据的文件路径；
路径存储模块，用于将所述待同步数据的文件路径存储于Shell数组中；
数据同步模块，用于根据所述Shell数组中的文件路径将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中。
本发明实施例还提供一种基于分布式系统的数据同步设备，包括：
处理器；
存储器，其中存储有所述处理器的可执行指令；
其中，所述处理器配置为经由执行所述可执行指令来执行所述的基于分布式系统的数据同步方法的步骤。
本发明实施例还提供一种计算机可读存储介质，用于存储程序，所述程序被执行时实现所述的基于分布式系统的数据同步方法的步骤。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
本发明的基于分布式系统的数据同步方法、系统、设备及存储介质具有如下有益效果：
本发明通过利用ClickHouse内置数据写入方法以及Shell数组功能，根据配置的源Hive表将Hive数据库的文件路径读入Shell数组中，根据配置的目标ClickHouse表将文件写入ClickHouse数据库中，无需采用中转方式来实现Hive数据库和ClickHouse数据库之间的数据同步，因此可以简化数据同步流程，降低代码配置复杂度，方便调试，提高了数据同步效率，提高数据使用效率，从而实现自动化高效率数据同步。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述，本发明的其它特征、目的和优点将会变得更明显。
图1是本发明一实施例的基于分布式系统的数据同步方法中运行Shell脚本的流程图；
图2是本发明一实施例的基于分布式系统的数据同步方法的流程图；
图3是本发明一实施例的基于分布式系统的数据同步系统的结构示意图；
图4是本发明一实施例的基于分布式系统的数据同步设备的结构示意图；
图5是本发明一实施例的计算机可读存储介质的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。
此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
如图1所示，本发明实施例提供一种基于分布式系统的数据同步方法，包括S600：运行Shell脚本将Hive数据库的数据同步至ClickHouse数据库中；
所述步骤S600：运行Shell脚本将Hive数据库的数据同步至ClickHouse数据库中，包括如下步骤：
S610：从Hive数据库的源Hive表中获取待同步数据的文件路径；
S620：将所述待同步数据的文件路径存储于Shell数组中，具体地，可以是将Hive对应底层ORC文件读入到Shell数组中；
S630：根据所述Shell数组中的文件路径将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中。
该实施例的基于分布式系统的数据同步方法中，每个步骤的序号仅为区分各个步骤，而不作为各个步骤的具体执行顺序的限定，上述各个步骤之间的执行顺序可以根据需要调整改变。
本发明的基于分布式系统的数据同步方法中，通过利用ClickHouse内置数据写入方法以及Shell数组功能，首先采用步骤S610和S620，根据配置的源Hive表将Hive数据库的文件路径读入Shell数组中，然后采用步骤S630根据配置的目标ClickHouse表将文件写入ClickHouse数据库中，无需采用中转方式来实现Hive数据库和ClickHouse数据库之间的数据同步，因此可以简化数据同步流程，降低代码配置复杂度，方便调试，提高了数据同步效率，提高数据使用效率，从而实现自动化高效率数据同步。
如图2所示，在该实施例中，所述运行Shell脚本将Hive数据库的数据同步至ClickHouse数据库中之前，还包括如下步骤：
S100：配置Hive引擎和ClickHouse引擎，例如，可以通过在服务器中安装Hive客户端和ClickHouse客户端来完成Hive引擎和ClickHouse引擎的配置；
S200：上传Shell脚本，所述Shell脚本被配置为在被运行时执行上述步骤S610～S630，即将Hive数据库的源Hive表中的数据同步到ClickHouse数据库的目标ClickHouse表中；
S300：在Shell脚本中配置目标ClickHouse表和源Hive表。
在该实施例中，所述步骤S200：上传Shell脚本之后，还包括如下步骤：
S400：在所述Shell脚本中设置ClickHouse配置信息，所述ClickHouse配置信息包括ClickHouse数据库所在目标服务器的地址和访问账号信息。进一步地，所述ClickHouse配置信息还可以包括日志获取方式、目标服务器的内存分配要求等信息。
因此，本发明可以利用Linux Shell实现Hive数据库的数据同步至ClickHouse数据库的功能，可以对压缩率最高的ORC文件实现同步。
在该实施例中，在运行所述Shell脚本进行数据同步时，所述步骤S630：将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中，包括如下步骤：
根据ClickHouse配置信息访问ClickHouse数据库，将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中，所述ClickHouse配置信息包括ClickHouse数据库所在目标服务器的地址和访问账号信息。
在该实施例中，所述步骤S200：上传Shell脚本之后，还包括步骤S500：在所述Shell脚本中配置并行度参数。所述Shell脚本分批次将Hive数据库中的文件同步到ClickHouse数据库中。此处，并行度参数即每个批次同步的文件数量。
进一步地，在运行所述Shell脚本进行数据同步时，所述步骤S620：将所述待同步数据的文件路径存储于Shell数组中，包括如下步骤：
根据预设的并行度参数，确定每个批次同步的文件数量；
将每个批次同步的文件路径存储于Shell数组中，即Shell数组中只存储当前批次的待同步的数据所对应的文件路径，在数据同步完成后，即将对应的文件路径从Shell数组中移除。
在该实施例中，在运行所述Shell脚本进行数据同步时，所述步骤S630：将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中，包括将源Hive表中的每个批次的待同步数据并行同步至ClickHouse数据库的目标ClickHouse表中。
在该实施例中，ClickHouse配置信息和并行度参数可以由用户自定义设置，在用户未定义时，也可以采用默认值，均属于本发明的保护范围之内。用户自定义的ClickHouse配置信息可以通过上传ClickHouse配置文件(如xml格式)来实现。
如图3所示，本发明实施例还提供一种基于分布式系统的数据同步系统，用于实现所述的基于分布式系统的数据同步方法，所述系统包括：
路径获取模块M100，用于从Hive数据库的源Hive表中获取待同步数据的文件路径；
路径存储模块M200，用于将所述待同步数据的文件路径存储于Shell数组中；
数据同步模块M300，用于根据所述Shell数组中的文件路径将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中。
本发明的基于分布式系统的数据同步系统中，通过利用ClickHouse内置数据写入方法以及Shell数组功能，首先采用路径获取模块M100和路径存储模块M200，根据配置的源Hive表将Hive数据库的文件路径读入Shell数组中，然后采用数据同步模块M300根据配置的目标ClickHouse表将文件写入ClickHouse数据库中，无需采用中转方式来实现Hive数据库和ClickHouse数据库之间的数据同步，因此可以简化数据同步流程，降低代码配置复杂度，方便调试，提高了数据同步效率，提高数据使用效率，从而实现自动化高效率数据同步。
所述路径存储模块M200可以采用如下步骤将所述待同步数据的文件路径存储于Shell数组中：
所述路径存储模块M200根据预设的并行度参数，确定每个批次同步的文件数量；
将每个批次同步的文件路径存储于Shell数组中，即Shell数组中只存储当前批次的待同步的数据所对应的文件路径，在数据同步完成后，即将对应的文件路径从Shell数组中移除。
所述数据同步模块M300在向ClickHouse数据库同步数据时，将源Hive表中的每个批次的待同步数据并行同步至ClickHouse数据库的目标ClickHouse表中。
进一步地，所述数据同步模块M300在向ClickHouse数据库同步数据时，根据ClickHouse配置信息访问ClickHouse数据库，将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中，所述ClickHouse配置信息包括ClickHouse数据库所在目标服务器的地址和访问账号信息。
所述数据同步系统可以设置于一服务器上，其上预先配置有Hive引擎和ClickHouse引擎，具体可以通过安装Hive客户端和ClickHouse客户端来实现，然后在服务器中上传ClickHouse配置信息，上传Shell脚本，在Shell脚本中配置源Hive表、目标ClickHouse表、ClickHouse配置信息以及并行度参数等。然后运行Shell脚本，即可以实现所述数据同步系统的功能，即将Hive数据库中源Hive表的数据分批次并行同步至ClickHouse数据库的目标ClickHouse表中。
本发明实施例还提供一种基于分布式系统的数据同步设备，包括处理器；存储器，其中存储有所述处理器的可执行指令；其中，所述处理器配置为经由执行所述可执行指令来执行所述的基于分布式系统的数据同步方法的步骤。
所属技术领域的技术人员能够理解，本发明的各个方面可以实现为系统、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“平台”。
下面参照图4来描述根据本发明的这种实施方式的电子设备600。图4显示的电子设备600仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示，电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于：至少一个处理单元610、至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元610执行，使得所述处理单元610执行本说明书上述基于分布式系统的数据同步方法部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元610可以执行如图1中所示的步骤。
所述存储单元620可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202，还可以进一步包括只读存储单元(ROM)6203。
所述存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204，这样的程序模块6205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备600交互的设备通信，和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且，电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备600使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
本发明实施例还提供一种计算机可读存储介质，用于存储程序，所述程序被执行时实现所述的基于分布式系统的数据同步方法的步骤。在一些可能的实施方式中，本发明的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在终端设备上执行时，所述程序代码用于使所述终端设备执行本说明书上述基于分布式系统的数据同步方法部分中描述的根据本发明各种示例性实施方式的步骤。
参考图5所示，描述了根据本发明的实施方式的用于实现上述方法的程序产品800，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上执行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
综上所述，通过采用本发明的基于分布式系统的数据同步方法、系统、设备及存储介质，通过利用ClickHouse内置数据写入方法以及Shell数组功能，根据配置的源Hive表将Hive数据库的文件路径读入Shell数组中，根据配置的目标ClickHouse表将文件写入ClickHouse数据库中，无需采用中转方式来实现Hive数据库和ClickHouse数据库之间的数据同步，因此可以简化数据同步流程，降低代码配置复杂度，方便调试，提高了数据同步效率，提高数据使用效率，从而实现自动化高效率数据同步。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。

Claims (10)

1.一种基于分布式系统的数据同步方法，其特征在于，所述方法包括运行Shell脚本将Hive数据库的数据同步至ClickHouse数据库中；
所述运行Shell脚本将Hive数据库的数据同步至ClickHouse数据库中，包括如下步骤：
从Hive数据库的源Hive表中获取待同步数据的文件路径；
将所述待同步数据的文件路径存储于Shell数组中；
根据所述Shell数组中的文件路径将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中。
2.根据权利要求1所述的基于分布式系统的数据同步方法，其特征在于，将所述待同步数据的文件路径存储于Shell数组中，包括如下步骤：
根据预设的并行度参数，确定每个批次同步的文件数量；
将每个批次同步的文件路径存储于Shell数组中。
3.根据权利要求2所述的基于分布式系统的数据同步方法，其特征在于，所述将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中，包括如下步骤：
将源Hive表中的每个批次的待同步数据并行同步至ClickHouse数据库的目标ClickHouse表中。
4.根据权利要求1所述的基于分布式系统的数据同步方法，其特征在于，所述将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中，包括如下步骤：
根据ClickHouse配置信息访问ClickHouse数据库，将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中，所述ClickHouse配置信息包括ClickHouse数据库所在目标服务器的地址和访问账号信息。
5.根据权利要求1所述的基于分布式系统的数据同步方法，其特征在于，所述运行Shell脚本将Hive数据库的数据同步至ClickHouse数据库中之前，还包括如下步骤：
配置Hive引擎和ClickHouse引擎；
上传Shell脚本；
在Shell脚本中配置目标ClickHouse表和源Hive表。
6.根据权利要求5所述的基于分布式系统的数据同步方法，其特征在于，所述上传Shell脚本之后，还包括如下步骤：
在所述Shell脚本中设置ClickHouse配置信息，所述ClickHouse配置信息包括ClickHouse数据库所在目标服务器的地址和访问账号信息。
7.根据权利要求5所述的基于分布式系统的数据同步方法，其特征在于，所述上传Shell脚本之后，还包括如下步骤：
在所述Shell脚本中配置并行度参数。
8.一种基于分布式系统的数据同步系统，用于实现权利要求1至7中任一项所述的基于分布式系统的数据同步方法，其特征在于，所述系统包括：
路径获取模块，用于从Hive数据库的源Hive表中获取待同步数据的文件路径；
路径存储模块，用于将所述待同步数据的文件路径存储于Shell数组中；
数据同步模块，用于根据所述Shell数组中的文件路径将源Hive表中的待同步数据同步至ClickHouse数据库的目标ClickHouse表中。
9.一种基于分布式系统的数据同步设备，其特征在于，包括：
处理器；
存储器，其中存储有所述处理器的可执行指令；
其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1至7中任一项所述的基于分布式系统的数据同步方法的步骤。
10.一种计算机可读存储介质，用于存储程序，其特征在于，所述程序被执行时实现权利要求1至7中任一项所述的基于分布式系统的数据同步方法的步骤。
CN202010941882.7A 2020-09-09 2020-09-09 基于分布式系统的数据同步方法、系统、设备及存储介质 Active CN112069261B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010941882.7A CN112069261B (zh) 2020-09-09 2020-09-09 基于分布式系统的数据同步方法、系统、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010941882.7A CN112069261B (zh) 2020-09-09 2020-09-09 基于分布式系统的数据同步方法、系统、设备及存储介质

Publications (2)

Publication Number Publication Date
CN112069261A true CN112069261A (zh) 2020-12-11
CN112069261B CN112069261B (zh) 2023-07-07

Family

ID=73664497

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010941882.7A Active CN112069261B (zh) 2020-09-09 2020-09-09 基于分布式系统的数据同步方法、系统、设备及存储介质

Country Status (1)

Country Link
CN (1) CN112069261B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112486958A (zh) * 2020-12-22 2021-03-12 银盛支付服务股份有限公司 一种解决clickhouse删除和更新性能低下的同步方法
CN112988916A (zh) * 2021-03-05 2021-06-18 杭州天阙科技有限公司 针对Clickhouse的全量和增量同步方法、设备和存储介质
CN115934846A (zh) * 2023-02-06 2023-04-07 北京仁科互动网络技术有限公司 列式储存数据库clickhouse的数据同步方法
CN117331513A (zh) * 2023-12-01 2024-01-02 蒲惠智造科技股份有限公司 基于Hadoop架构的数据精简方法和系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109977157A (zh) * 2019-02-27 2019-07-05 深圳点猫科技有限公司 一种基于数据平台将数据导入目标目录的方法和电子设备
CN111324610A (zh) * 2020-02-19 2020-06-23 深圳市融壹买信息科技有限公司 一种数据同步的方法及装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109977157A (zh) * 2019-02-27 2019-07-05 深圳点猫科技有限公司 一种基于数据平台将数据导入目标目录的方法和电子设备
CN111324610A (zh) * 2020-02-19 2020-06-23 深圳市融壹买信息科技有限公司 一种数据同步的方法及装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112486958A (zh) * 2020-12-22 2021-03-12 银盛支付服务股份有限公司 一种解决clickhouse删除和更新性能低下的同步方法
CN112988916A (zh) * 2021-03-05 2021-06-18 杭州天阙科技有限公司 针对Clickhouse的全量和增量同步方法、设备和存储介质
CN112988916B (zh) * 2021-03-05 2023-06-16 杭州天阙科技有限公司 针对Clickhouse的全量和增量同步方法、设备和存储介质
CN115934846A (zh) * 2023-02-06 2023-04-07 北京仁科互动网络技术有限公司 列式储存数据库clickhouse的数据同步方法
CN117331513A (zh) * 2023-12-01 2024-01-02 蒲惠智造科技股份有限公司 基于Hadoop架构的数据精简方法和系统
CN117331513B (zh) * 2023-12-01 2024-03-19 蒲惠智造科技股份有限公司 基于Hadoop架构的数据精简方法和系统

Also Published As

Publication number Publication date
CN112069261B (zh) 2023-07-07

Similar Documents

Publication Publication Date Title
CN112069261B (zh) 基于分布式系统的数据同步方法、系统、设备及存储介质
CN111709527A (zh) 运维知识图谱库的建立方法、装置、设备及存储介质
CN111898122B (zh) 容器内应用的日志采集方法、装置、介质及电子设备
CN111241203A (zh) Hive数据仓库同步方法、系统、设备及存储介质
CN110688096B (zh) 包含插件的应用程序的构建方法、装置、介质及电子设备
CN112988583A (zh) 数据库语法兼容性测试的方法和装置
Kathiresan et al. Accelerating next generation sequencing data analysis with system level optimizations
CN109473178B (zh) 医疗数据整合的方法、系统、设备及存储介质
CN112363938A (zh) 数据处理方法、装置、电子设备和存储介质
CN110825802A (zh) 多类型数据库数据的备份方法、装置、设备及存储介质
CN113568605B (zh) 约定式路由配置方法、装置、和系统
CN109657167B (zh) 数据采集方法、装置、服务器及存储介质
CN115994085A (zh) 代码覆盖率的测试处理方法、装置、设备及存储介质
CN111352664A (zh) 分布式机器学习任务启动方法、系统、设备及存储介质
CN116795412A (zh) 埋点数据处理方法、装置、设备及存储介质
CN110096543B (zh) 应用程序的数据操作方法、装置、服务器和介质
CN116860941A (zh) 问答方法、装置、电子设备及存储介质
CN118170629A (zh) 一种自动化测试方法和装置
CN115469807A (zh) 磁盘功能配置方法、装置、设备及存储介质
CN111785353B (zh) 数字病理切片的处理方法、装置、存储介质及电子设备
CN114116030A (zh) 操作系统的运行方法、装置、电子设备、存储介质
CN113467610A (zh) 脑机接口bci设备的架构方法、装置、终端及介质
CN113722007A (zh) Vpn分支设备的配置方法、装置及系统
CN112486460A (zh) 自动导入接口文档的方法、系统、设备和介质
CN113127496A (zh) 数据库中变更数据的确定方法及装置、介质和设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant