CN114385733A - Etl过程中数据模型统一创建方法和装置 - Google Patents
Etl过程中数据模型统一创建方法和装置 Download PDFInfo
- Publication number
- CN114385733A CN114385733A CN202111681949.9A CN202111681949A CN114385733A CN 114385733 A CN114385733 A CN 114385733A CN 202111681949 A CN202111681949 A CN 202111681949A CN 114385733 A CN114385733 A CN 114385733A
- Authority
- CN
- China
- Prior art keywords
- target
- model
- data structure
- creating
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013499 data model Methods 0.000 title claims abstract description 126
- 238000000034 method Methods 0.000 title claims abstract description 80
- 230000008569 process Effects 0.000 title claims abstract description 36
- 238000004590 computer program Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 abstract description 15
- 238000012423 maintenance Methods 0.000 abstract description 10
- 238000005192 partition Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000010276 construction Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000001960 triggered effect Effects 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 2
- 230000000712 assembly Effects 0.000 description 2
- 238000000429 assembly Methods 0.000 description 2
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 241000282813 Aepyceros melampus Species 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/254—Extract, transform and load [ETL] procedures, e.g. ETL data flows in data warehouses
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/219—Managing data history or versioning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Stored Programmes (AREA)
Abstract
本发明实施例提供了一种ETL过程中数据模型统一创建方法和装置，方法包括：响应于检测到的数据模型创建指令，获取所述数据模型创建指令对应的数据模型创建参数；基于所述数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型。实现了统一的一键创建数据结构，统一应对多样不同的部署场景，节约人力，进而使得数据处理项目周期快、效率高、避免重复的人工操作及维护。
Description
技术领域
本发明实施例涉及大数据技术领域，尤其涉及一种ETL过程中数据模型统一创建方法和装置。
背景技术
随着医疗信息化建设的稳步发展，医疗数据中心可以为临床、科研、药物研发等领域提供优质的数据服务。其中，医疗数据中心离不开ETL(Extract-Transform-Load)数据处理系统的创建。ETL(Extract-Transform-Load，提取、转换和加载)是大数据重要的一个环节，大数据ETL负责将分散的、异构数据源中的数据如关系数据、平面数据文件等抽取到大数据平台系统后，进行清洗、转换、集成，最后加载到大数据平台、数据仓库或数据集市中，成为联机分析处理、数据挖掘提供决策支持的数据。
在创建ETL数据处理系统之前，基于选择的Hahoop组件的不同，需要在组件数据引擎上创建相应的数据结构模型。使用大数据Hadoop生态下的HBASE、HIVE、HDFS等大数据组件时，业务模型的创建总是需要根据使用的组件的不同而使用不同的语法和创建方式。有更多的组件被使用，就会出现更多的数据结构层，相应的就会有更多维护该层结构。对于开发人员来说，现有的维护方式是手动创建并维护创建脚本，更多的使用传统的文件方式来存储和查看，修改等，都是基于文本文件的内容的修改。因此，现有的方式存在维护效率低，数据模型结构的修改复杂，浪费人力资源的缺陷。
发明内容
本发明实施例提供了一种ETL过程中数据模型统一创建方法和装置，以实现统一创建数据结构，避免重复的人工操作及维护，节约人力。
第一方面，本发明实施例提供了一种ETL过程中数据模型统一创建方法，包括：
响应于检测到的数据模型创建指令，获取数据模型创建指令对应的数据模型创建参数；
基于数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型。
可选的，进一步的，获取数据模型创建指令对应的数据模型创建参数，包括：
获取数据模型创建指令对应的目标应用组件标识，以及目标应用组件标识关联的模型配置信息作为数据模型创建参数。
可选的，进一步的，基于数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型，包括：
根据目标应用组件标识确定待创建数据结构模型；
基于待创建数据结构模型和模型配置信息从预先存储的数据结构实例中创建目标数据结构模型。
可选的，进一步的，基于待创建数据结构模型和模型配置信息从预先存储的数据结构实例中创建目标数据结构模型，包括：
根据待创建数据结构模型从预先存储的数据结构实例中选取目标元素；
根据待创建数据结构模型确定目标元素的定义配置参数，基于模型配置信息调整定义配置参数，得到目标元素的目标配置参数；
基于目标配置参数配置目标元素，得到目标数据结构模型。
可选的，进一步的，基于目标配置参数配置目标元素，包括：
获取目标应用组件标识对应的组件版本标识；
基于组件版本标识确定目标配置方式，通过目标配置方式基于目标配置参数配置目标元素。
可选的，进一步的，基于组件版本标识确定目标配置方式，通过目标配置方式基于目标配置参数配置目标元素，包括：
当组件版本标识为不支持原生表主键定义的版本标识时，将创建包含标识文本的备注字段作为目标配置方式；
通过在目标元素的备注字段中添加标识文本和目标配置参数配置目标元素。
可选的，进一步的，基于组件版本标识确定目标配置方式，通过目标配置方式基于目标配置参数配置目标元素，包括：
当组件版本标识为支持原生表主键定义的版本标识时，将表定义方式作为目标配置方式；
通过表定义方式基于目标配置参数配置目标元素。
第二方面，本发明实施例还提供了一种ETL过程中数据模型统一创建装置，包括：
模型创建参数模块，用于响应于检测到的数据模型创建指令，获取数据模型创建指令对应的数据模型创建参数；
数据结构模型模块，用于基于数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型。
第三方面，本发明实施例还提供了一种计算机设备，设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如本发明任意实施例所提供的ETL过程中数据模型统一创建方法。
第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明任意实施例所提供的ETL过程中数据模型统一创建方法。
本发明实施例提供的ETL过程中数据模型统一创建方法通过响应于检测到的数据模型创建指令，获取数据模型创建指令对应的数据模型创建参数；基于数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型。实现了统一的一键创建数据结构，统一应对多样不同的部署场景，节约人力，进而使得数据处理项目周期快、效率高、避免重复的人工操作及维护。
附图说明
图1是本发明实施例一所提供的一种ETL过程中数据模型统一创建方法的流程示意图；
图2是本发明实施例二所提供的一种ETL过程中数据模型统一创建方法的流程示意图；
图3是本发明实施例三所提供的一种ETL过程中数据模型统一创建装置的结构示意图；
图4是本发明实施例四所提供的一种计算机设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1是本发明实施例一所提供的一种ETL过程中数据模型统一创建方法的流程示意图。本实施例可适用于创建ETL数据处理系统之前，在组件数据引擎上创建数据结构模型时的情形。该方法可以由ETL过程中数据模型统一创建装置执行，该ETL过程中数据模型统一创建装置可以采用软件和/或硬件的方式实现，例如，该ETL过程中数据模型统一创建装置可配置于计算机设备中。如图1所示，该方法包括：
S110、响应于检测到的数据模型创建指令，获取数据模型创建指令对应的数据模型创建参数。
在本实施例中，数据模型创建指令可以为用户发起的，用于创建ETL数据处理系统中Hadoop组件对应的数据结构模型的指令。用户可以通过数据处理系统中的模型创建控件触发数据模型创建指令。示例性的，用户可以点击模型创建控件触发数据模型创建指令。用户触发数据模型创建指令后，ETL过程中数据模型统一创建装置即可检测到用户触发的数据模型创建指令。
可以理解的是，使用大数据Hadoop生态下的HBASE、HIVE、HDFS等大数据组件时，业务模型的创建总是需要根据使用的组件的不同而使用不同的语法和创建方式。也就是说，不同的Hahoop组件对应的数据结构模型不同。以Hbase组件为例，其数据结构需要定义的是列簇，使用Hive时定义的是具体列名等。而基于业务具体需求也会需要对一个或多个表模型中定义的结构进行增加或合并等操作。如根据需要创建Hbase大宽表或者使用索引表等方式加快查询。对贴源层的数据模型创建，其基本数据结构大致与帖源的业务层模型相同。因此，在创建Hadoop组件对应的目标数据结构模型时，需要确定目标数据结构模型对应的组件、配置信息等参数。基于此，用户在触发数据模型创建指令时，需要同时携带目标数据结构模型的创建参数，数据模型创建参数可以为目标数据结构模型对应的Hadoop组件的组件标识。ETL过程中数据模型统一创建装置在检测到用户触发的数据模型创建指令后，获取数据模型创建指令中携带的组件标识，以基于组件标识进行目标数据结构模型的创建。
一个实施例中，获取数据模型创建指令对应的数据模型创建参数，包括：获取数据模型创建指令对应的目标应用组件标识，以及目标应用组件标识关联的模型配置信息作为数据模型创建参数。其中，目标应用组件标识可以理解为目标应用组件的唯一标识，如目标应用组件的名称、ID等。可选的，目标应用组件可以为任意Hadoop组件，如HBASE、HIVE、HDFS等大数据组件。考虑到不同Hadoop组件对应的数据结构不同，因此，用户可以根据需求指定Hadoop组件作为目标应用组件，另一方面，还可以根据业务需求添加配置信息。可选的，用户输入目标应用组件和目标应用组件关联的模型配置信息后触发数据模型创建指令，ETL过程中数据模型统一创建装置在检测到用户触发的数据模型创建指令后，获取数据模型创建指令中携带的目标应用组件标识，以及目标应用组件标识关联的模型配置信息作为数据模型创建参数。
需要说明的是，目标应用组件标识可以为一个或多个，每个目标应用组件均可以设置其对应的模型创建参数。当目标应用组件标识为多个时，每个目标应用组件标识对应的目标数据结构模型可以并行创建，以加快模型构建速度，进而加快数据处理项目周期。当目标应用组件标识为多个时，可以通过本实施例提供的方法创建对应于目标应用组件标识的数据结构层，每层数据结构模型对应相应的目标应用组件标识。当需要对任意层数据结构进行维护，如存储、查看、修改时，不需要人为对数据结构的结构脚本进行修改，只需要修改数据模型创建参数，既可以完成数据结构的维护。因此，本实施例提供的自动创建数据结构模型的方法创建的数据结构模型维护无需人工操作，节省人力。
S120、基于数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型。
获取数据模型创建指令对应的模型创建参数后，基于数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型。其中，预先存储的数据结构实例可以为任意数据结构实例。可选的，可以将关系型数据库的数据结构实例作为预先存储的数据结构实例。
整体来说，本实施例中基于数据模型构建参数对数据结构实例中的元素定义、配置等进行转换，得到数据模型创建参数对应的目标数据结构模型。
一个实施方式中，基于数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型，包括：根据目标应用组件标识确定待创建数据结构模型；基于待创建数据结构模型和模型配置信息从预先存储的数据结构实例中创建目标数据结构模型。在数据模型创建参数包括目标应用组件标识和模型配置信息的基础上，在创建目标数据结构模型时，可以先根据目标应用组件标识确定待创建数据结构模型，获取待创建数据结构模型的具体数据结构，然后分析具体数据结构，基于模型配置信息和待创建数据结构模型对预先存储的数据结构实例进行定义配置转换，得到创建好的数据结构模型。示例性的，假设目标应用组件标识为HBase和Hive，则HBase和Hive的模型为待创建数据结构模型，指定预先存储的数据结构实例(如对应关系型数据库)的基本配置信息转换得到目标数据结构模型。
可选的，基于待创建数据结构模型和模型配置信息从预先存储的数据结构实例中创建目标数据结构模型，包括：根据待创建数据结构模型从预先存储的数据结构实例中选取目标元素；根据待创建数据结构模型确定目标元素的定义配置参数，基于模型配置信息调整定义配置参数，得到目标元素的目标配置参数；基于目标配置参数配置目标元素，得到目标数据结构模型。本实施例中，采用约定优先于配置的方式确定目标元素的目标配置参数。具体的，根据数据库连接配置连接到预先存储的数据结构实例获取需要创建的元数据结构，采用约定优先于配置的方式预先设定创建目标元素。以Hbase的数据结构模型中，包括Hbase的列簇定义，增量列名定义，删除标记的定义等。在此基础上，结合用户输入的模型配置信息进行目标元素其他参数的配置，仍以Hbase为例，区分大小表需要创建分区列的可以通过外部配置文件来确定分区列及分区列值的数据格式，如日期时间作为分区列时的格式可以设置年(yyyy)、年月(yyyy-MM)、年月日(yyyy-MM-dd)，统一在创建的时候通过读取用户配置的模型配置信息实现更多自定义功能。
可以理解的是，创建目标数据结构模型，用于Hadoop组件中的数据分析。因此需要考虑创建目标数据结构模型Hadoop组件是否可用。部分版本的Hadoop组件支持原生表主键定义，部分版本的Hadoop组件不支持原生表主键定义。为了保证创建的目标数据结构模型可适用于不同版本的Hadoop组件，需要基于Hadoop组件的版本采用不同的数据模型创建方式。基于此，基于目标配置参数配置目标元素，包括：获取目标应用组件标识对应的组件版本标识；基于组件版本标识确定目标配置方式，通过目标配置方式基于目标配置参数配置目标元素。可选的，可以自动获取Hadoop组件的版本号作为组件版本标识，基于组件版本标识判断Hadoop组件是否支持原生表主键定义，基于Hadoop组件是否支持原生表主键定义采用不同的目标配置方式，实现目标元素的配置，进而实现目标数据结构模型的创建。
一个实施例中，基于组件版本标识确定目标配置方式，通过目标配置方式基于目标配置参数配置目标元素，包括：当组件版本标识为不支持原生表主键定义的版本标识时，将创建包含标识文本的备注字段作为目标配置方式；通过在目标元素的备注字段中添加标识文本和目标配置参数配置目标元素。当根据组件版本标识判断Hadoop组件不支持原生表主键定义时，可以通过创建列的备注字段中增加特殊的识别文本”pk”，程序特殊处理读取主键列信息时增加读取备注字段作为主键识别来源，实现目标元素的定义。目前，1.0版本的Hadoop组件不支持原生表主键定义。因此，当组件版本标识为1.0时，通过在目标元素的备注字段中添加标识文本和目标配置参数配置目标元素。
一个实施例中，基于组件版本标识确定目标配置方式，通过目标配置方式基于目标配置参数配置目标元素，包括：当组件版本标识为支持原生表主键定义的版本标识时，将表定义方式作为目标配置方式；通过表定义方式基于目标配置参数配置目标元素。当根据组件版本标识判断Hadoop组件支持原生表主键定义时，可以直接使用表定义方式指定primary key的DDL语法来指定，实现目标元素的定义。目前，1.2版本的Hadoop组件不支持原生表主键定义。因此，当组件版本标识为1.2时，通过表定义方式配置目标元素。
针对不同版本的Hadoop组件，采用不同的定义方式，使得定义创建的目标数据结构模型能够适配不同版本的Hadoop组件，保证了数据模型构建的可用性。
本发明实施例提供的ETL过程中数据模型统一创建方法通过响应于检测到的数据模型创建指令，获取数据模型创建指令对应的数据模型创建参数；基于数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型。实现了统一的一键创建数据结构，统一应对多样不同的部署场景，节约人力，进而使得数据处理项目周期快、效率高、避免重复的人工操作及维护。
实施例二
图2是本发明实施例二所提供的一种ETL过程中数据模型统一创建方法的流程示意图。本实施例在上述实施例的基础上，提供了一种优选实施例。
本发明实施例提供了统一的控件实现一键创建多层数据结构，该多层数据结构区分Hbase、Hive、HDFS该些组件的数据结构。里如基于Hbase，Hive内外表的结构创建。
HBase是一种面向列簇存储的非关系型数据库，用于存储结构化和非结构化的数据，适用于单表非关系型数据的存储。Hive类似于传统关系型数据库的结构，主要也包括数据库、文件、表和视图。
如图2所示，本实施例提供的方法主要包括如下步骤：
(1)具体数据结构获取
用户指定创建时的参考模型，例如需要创建HBase和Hive的模型时，需指定对应关系型数据库(oracle，sqlserver，mysql,postgresql等)的基本配置信息，包括基于jdbc的连接配置及其他自定义配置(是否删除已存在，是否有数据字段类型映射，是否同时创建临时表作为增量表的过渡表)。
(2)数据结构分析
根据数据库连接配置连接到实例获取需要创建的元数据结构，采用约定优先于配置的方式预先设定创建元素，如Hbase的列簇定义，增量列名定义，删除标记的定义。区分大小表需要创建分区列的可以通过外部配置文件来确定分区列及分区列值的数据格式，如日期时间作为分区列时的格式可以设置年(yyyy)、年月(yyyy-MM)、年月日(yyyy-MM-dd)，统一在创建的时候通过读取外部配置文件提供更多自定义功能。
需要说明的是，Hadoop组件版本不同时，采用不同的定义方式配置元素。示例性的，Hadoop组件1.0版本中，不支持原生表主键定义，这样的前提下，通过创建在创建列的备注字段中增加特殊的识别文本”pk”，程序特殊处理读取主键列信息时增加读取备注字段作为主键识别来源。Hadoop组件1.2版本中，支持原生表主键定义，这样的前提下，直接使用表定义方式指定primary key的DDL语法来指定。
目前本实施例涉及的产品能支持的相关组件，包含：基于大数据组件Hbase，Hive的自动创建Hbase，Hive外表，Hive内表及相关对抽数据任务；基于关系型数据库到Hbase的单表创建，大宽表创建组件。大数据平台的组件包括HDFS、Hive、HBase、Solr、YARN、Oozie、Spark、Storm、Sqoop、Pig、Impala、Zookeeper。
本发明实施例采用了使用一致的类表结构结合使用HBase的存储特性和表结构定义的相关规则，形成统一的控件实现一键创建多层数据结构，因此在哪怕面对不同的部署场景1和部署场景2或ETL需求不同，或者HBase和Hive的模型、关系型数据库的现场条件也不同时，依然可以通过约定优先于配置的方式，采用类表结构定义规范(库表列方式)，统一应对多样不同的部署场景，节约人力，数据处理项目周期快、效率高、避免重复的人工操作及维护。
实施例三
图3是本发明实施例三所提供的一种ETL过程中数据模型统一创建装置的结构示意图。该ETL过程中数据模型统一创建装置可以采用软件和/或硬件的方式实现，例如该ETL过程中数据模型统一创建装置可以配置于计算机设备中。如图3所示，该装置包括模型创建参数模块310和数据结构模型模块320，其中：
模型创建参数模块310，用于响应于检测到的数据模型创建指令，获取数据模型创建指令对应的数据模型创建参数；
数据结构模型模块320，用于基于数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型。
本发明实施例通过响应于检测到的数据模型创建指令，获取数据模型创建指令对应的数据模型创建参数；基于数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型。实现了统一的一键创建数据结构，统一应对多样不同的部署场景，节约人力，进而使得数据处理项目周期快、效率高、避免重复的人工操作及维护。
可选的，在上述方案的基础上，模型创建参数模块310具体用于：
获取数据模型创建指令对应的目标应用组件标识，以及目标应用组件标识关联的模型配置信息作为数据模型创建参数。
可选的，在上述方案的基础上，数据结构模型模块320包括：
待创建模型确定单元，用于根据目标应用组件标识确定待创建数据结构模型；
目标数据模型创建单元，用于基于待创建数据结构模型和模型配置信息从预先存储的数据结构实例中创建目标数据结构模型。
可选的，在上述方案的基础上，目标数据模型创建单元包括：
目标元素子单元，用于根据待创建数据结构模型从预先存储的数据结构实例中选取目标元素；
目标配置参数子单元，用于根据待创建数据结构模型确定目标元素的定义配置参数，基于模型配置信息调整定义配置参数，得到目标元素的目标配置参数；
目标元素配置子单元，用于基于目标配置参数配置目标元素，得到目标数据结构模型。
可选的，在上述方案的基础上，目标元素配置子单元具体用于：
获取目标应用组件标识对应的组件版本标识；
基于组件版本标识确定目标配置方式，通过目标配置方式基于目标配置参数配置目标元素。
可选的，在上述方案的基础上，目标元素配置子单元具体用于：
当组件版本标识为不支持原生表主键定义的版本标识时，将创建包含标识文本的备注字段作为目标配置方式；
通过在目标元素的备注字段中添加标识文本和目标配置参数配置目标元素。
可选的，在上述方案的基础上，目标元素配置子单元具体用于：
当组件版本标识为支持原生表主键定义的版本标识时，将表定义方式作为目标配置方式；
通过表定义方式基于目标配置参数配置目标元素。
本发明实施例所提供的ETL过程中数据模型统一创建装置可执行本发明任意实施例所提供的ETL过程中数据模型统一创建方法，具备执行方法相应的功能模块和有益效果。
实施例四
图4是本发明实施例四所提供的一种计算机设备的结构示意图。图4示出了适于用来实现本发明实施方式的示例性计算机设备412的框图。图4显示的计算机设备412仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示，计算机设备412以通用计算设备的形式表现。计算机设备412的组件可以包括但不限于：一个或者多个处理器416，系统存储器428，连接不同系统组件(包括系统存储器428和处理器416)的总线418。
总线418表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器416或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
计算机设备412典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备412访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
系统存储器428可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)430和/或高速缓存存储器432。计算机设备412可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储装置434可以用于读写不可移动的、非易失性磁介质(图4未显示，通常称为“硬盘驱动器”)。尽管图4中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM，DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线418相连。存储器428可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块442的程序/实用工具440，可以存储在例如存储器428中，这样的程序模块442包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块442通常执行本发明所描述的实施例中的功能和/或方法。
计算机设备412也可以与一个或多个外部设备414(例如键盘、指向设备、显示器424等)通信，还可与一个或者多个使得用户能与该计算机设备412交互的设备通信，和/或与使得该计算机设备412能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口422进行。并且，计算机设备412还可以通过网络适配器420与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器420通过总线418与计算机设备412的其它模块通信。应当明白，尽管图中未示出，可以结合计算机设备412使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理器416通过运行存储在系统存储器428中的程序，从而执行各种功能应用以及数据处理，例如实现本发明实施例所提供的ETL过程中数据模型统一创建方法，包括：
响应于检测到的数据模型创建指令，获取数据模型创建指令对应的数据模型创建参数；
基于数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型。
当然，本领域技术人员可以理解，处理器还可以实现本发明任意实施例所提供的ETL过程中数据模型统一创建方法的技术方案。
实施例五
本发明实施例五还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现本发明实施例所提供的ETL过程中数据模型统一创建方法，该方法包括：
响应于检测到的数据模型创建指令，获取数据模型创建指令对应的数据模型创建参数；
基于数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型。
当然，本发明实施例所提供的一种计算机可读存储介质，其上存储的计算机程序不限于如上的方法操作，还可以执行本发明任意实施例所提供的ETL过程中数据模型统一创建方法的相关操作。
本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个单独的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种ETL过程中数据模型统一创建方法，其特征在于，包括：
响应于检测到的数据模型创建指令，获取所述数据模型创建指令对应的数据模型创建参数；
基于所述数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型。
2.根据权利要求1所述的方法，其特征在于，所述获取所述数据模型创建指令对应的数据模型创建参数，包括：
获取所述数据模型创建指令对应的目标应用组件标识，以及所述目标应用组件标识关联的模型配置信息作为所述数据模型创建参数。
3.根据权利要求2所述的方法，其特征在于，所述基于所述数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型，包括：
根据所述目标应用组件标识确定待创建数据结构模型；
基于所述待创建数据结构模型和所述模型配置信息从预先创建的数据结构实例中创建所述目标数据结构模型。
4.根据权利要求3所述的方法，其特征在于，所述基于所述待创建数据结构模型和所述模型配置信息从预先存储的数据结构实例中创建所述目标数据结构模型，包括：
根据所述待创建数据结构模型从预先存储的数据结构实例中选取目标元素；
根据所述待创建数据结构模型确定所述目标元素的定义配置参数，基于所述模型配置信息调整所述定义配置参数，得到所述目标元素的目标配置参数；
基于所述目标配置参数配置所述目标元素，得到所述目标数据结构模型。
5.根据权利要求1所述的方法，其特征在于，所述基于所述目标配置参数配置所述目标元素，包括：
获取所述目标应用组件标识对应的组件版本标识；
基于所述组件版本标识确定目标配置方式，通过所述目标配置方式基于所述目标配置参数配置所述目标元素。
6.根据权利要求5所述的方法，其特征在于，所述基于所述组件版本标识确定目标配置方式，通过所述目标配置方式基于所述目标配置参数配置所述目标元素，包括：
当所述组件版本标识为不支持原生表主键定义的版本标识时，将创建包含标识文本的备注字段作为所述目标配置方式；
通过在所述目标元素的备注字段中添加所述标识文本和所述目标配置参数配置所述目标元素。
7.根据权利要求5所述的方法，其特征在于，所述基于所述组件版本标识确定目标配置方式，通过所述目标配置方式基于所述目标配置参数配置所述目标元素，包括：
当所述组件版本标识为支持原生表主键定义的版本标识时，将表定义方式作为所述目标配置方式；
通过所述表定义方式基于所述目标配置参数配置所述目标元素。
8.一种ETL过程中数据模型统一创建装置，其特征在于，包括：
模型创建参数模块，用于响应于检测到的数据模型创建指令，获取所述数据模型创建指令对应的数据模型创建参数；
数据结构模型模块，用于基于所述数据模型创建参数和预先存储的数据结构实例创建目标数据结构模型。
9.一种计算机设备，其特征在于，所述设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如权利要求1-7任一所述的ETL过程中数据模型统一创建方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7任一所述的ETL过程中数据模型统一创建方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111681949.9A CN114385733A (zh) | 2021-12-31 | 2021-12-31 | Etl过程中数据模型统一创建方法和装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111681949.9A CN114385733A (zh) | 2021-12-31 | 2021-12-31 | Etl过程中数据模型统一创建方法和装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN114385733A true CN114385733A (zh) | 2022-04-22 |
Family
ID=81199816
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111681949.9A Pending CN114385733A (zh) | 2021-12-31 | 2021-12-31 | Etl过程中数据模型统一创建方法和装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114385733A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115344329A (zh) * | 2022-08-15 | 2022-11-15 | 北京美蓝智达科技有限公司 | 一种根据功能模块形态实时创建数据结构的技术 |
| CN118133570A (zh) * | 2024-04-29 | 2024-06-04 | 苏州元脑智能科技有限公司 | 项目的创建方法、存储介质、电子设备及程序产品 |
Citations (18)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20120110021A1 (en) * | 2010-10-28 | 2012-05-03 | Microsoft Corporation | Generating data models |
| US20150026114A1 (en) * | 2013-07-18 | 2015-01-22 | Dania M. Triff | System and method of automatically extracting data from plurality of data sources and loading the same to plurality of target databases |
| US20160224667A1 (en) * | 2015-02-04 | 2016-08-04 | Xinyu Xingbang Information Industry Co., Ltd. | Method and system of implementing an integrated interface supporting operation in multi-type databases |
| US20170052970A1 (en) * | 2015-08-20 | 2017-02-23 | International Business Machines Corporation | Transforming and loading data from a source data system to a target data system |
| CN108804197A (zh) * | 2018-06-19 | 2018-11-13 | 北京五八信息技术有限公司 | 一种动态组件化实现方法、装置、设备及存储介质 |
| CN110377769A (zh) * | 2019-06-14 | 2019-10-25 | 阿里巴巴集团控股有限公司 | 基于图数据结构的建模平台系统、方法、服务器及介质 |
| CN111291049A (zh) * | 2020-01-19 | 2020-06-16 | 软通动力信息技术有限公司 | 一种创建表的方法、装置、设备和存储介质 |
| CN111831638A (zh) * | 2019-04-17 | 2020-10-27 | 阿里巴巴集团控股有限公司 | 一种数据表的创建方法和装置 |
| US20200349130A1 (en) * | 2019-04-30 | 2020-11-05 | Sap Se | Matching metastructure for data modeling |
| CN112149838A (zh) * | 2020-09-03 | 2020-12-29 | 第四范式（北京）技术有限公司 | 实现自动构建模型的方法、装置、电子设备和存储介质 |
| CN112328585A (zh) * | 2020-11-17 | 2021-02-05 | 珠海大横琴科技发展有限公司 | 一种数据处理的方法和装置 |
| US20210064355A1 (en) * | 2019-08-27 | 2021-03-04 | Salesforce.Com, Inc. | Generating software artifacts from a conceptional data model |
| CN112612835A (zh) * | 2020-12-23 | 2021-04-06 | 厦门市美亚柏科信息股份有限公司 | 一种数据模型的创建方法和终端 |
| US20210117437A1 (en) * | 2019-10-19 | 2021-04-22 | Microsoft Technology Licensing, Llc | Data model transformation |
| CN112966031A (zh) * | 2019-12-12 | 2021-06-15 | 北京奇艺世纪科技有限公司 | 数据处理方法、装置、电子设备及计算机可读存储介质 |
| CN113111065A (zh) * | 2021-04-13 | 2021-07-13 | 北京锐安科技有限公司 | 数据库创建方法、装置、计算机设备及存储介质 |
| US20210232591A1 (en) * | 2020-01-29 | 2021-07-29 | Sap Se | Transformation rule generation and validation |
| CN113342325A (zh) * | 2021-05-28 | 2021-09-03 | 深圳奥哲网络科技有限公司 | 可视化建模方法、系统、电子设备及存储介质 |
-
2021
- 2021-12-31 CN CN202111681949.9A patent/CN114385733A/zh active Pending
Patent Citations (18)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20120110021A1 (en) * | 2010-10-28 | 2012-05-03 | Microsoft Corporation | Generating data models |
| US20150026114A1 (en) * | 2013-07-18 | 2015-01-22 | Dania M. Triff | System and method of automatically extracting data from plurality of data sources and loading the same to plurality of target databases |
| US20160224667A1 (en) * | 2015-02-04 | 2016-08-04 | Xinyu Xingbang Information Industry Co., Ltd. | Method and system of implementing an integrated interface supporting operation in multi-type databases |
| US20170052970A1 (en) * | 2015-08-20 | 2017-02-23 | International Business Machines Corporation | Transforming and loading data from a source data system to a target data system |
| CN108804197A (zh) * | 2018-06-19 | 2018-11-13 | 北京五八信息技术有限公司 | 一种动态组件化实现方法、装置、设备及存储介质 |
| CN111831638A (zh) * | 2019-04-17 | 2020-10-27 | 阿里巴巴集团控股有限公司 | 一种数据表的创建方法和装置 |
| US20200349130A1 (en) * | 2019-04-30 | 2020-11-05 | Sap Se | Matching metastructure for data modeling |
| CN110377769A (zh) * | 2019-06-14 | 2019-10-25 | 阿里巴巴集团控股有限公司 | 基于图数据结构的建模平台系统、方法、服务器及介质 |
| US20210064355A1 (en) * | 2019-08-27 | 2021-03-04 | Salesforce.Com, Inc. | Generating software artifacts from a conceptional data model |
| US20210117437A1 (en) * | 2019-10-19 | 2021-04-22 | Microsoft Technology Licensing, Llc | Data model transformation |
| CN112966031A (zh) * | 2019-12-12 | 2021-06-15 | 北京奇艺世纪科技有限公司 | 数据处理方法、装置、电子设备及计算机可读存储介质 |
| CN111291049A (zh) * | 2020-01-19 | 2020-06-16 | 软通动力信息技术有限公司 | 一种创建表的方法、装置、设备和存储介质 |
| US20210232591A1 (en) * | 2020-01-29 | 2021-07-29 | Sap Se | Transformation rule generation and validation |
| CN112149838A (zh) * | 2020-09-03 | 2020-12-29 | 第四范式（北京）技术有限公司 | 实现自动构建模型的方法、装置、电子设备和存储介质 |
| CN112328585A (zh) * | 2020-11-17 | 2021-02-05 | 珠海大横琴科技发展有限公司 | 一种数据处理的方法和装置 |
| CN112612835A (zh) * | 2020-12-23 | 2021-04-06 | 厦门市美亚柏科信息股份有限公司 | 一种数据模型的创建方法和终端 |
| CN113111065A (zh) * | 2021-04-13 | 2021-07-13 | 北京锐安科技有限公司 | 数据库创建方法、装置、计算机设备及存储介质 |
| CN113342325A (zh) * | 2021-05-28 | 2021-09-03 | 深圳奥哲网络科技有限公司 | 可视化建模方法、系统、电子设备及存储介质 |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115344329A (zh) * | 2022-08-15 | 2022-11-15 | 北京美蓝智达科技有限公司 | 一种根据功能模块形态实时创建数据结构的技术 |
| CN118133570A (zh) * | 2024-04-29 | 2024-06-04 | 苏州元脑智能科技有限公司 | 项目的创建方法、存储介质、电子设备及程序产品 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10853338B2 (en) | Universal data pipeline | |
| CN108519967B (zh) | 图表可视化方法、装置、终端和存储介质 | |
| JP6113693B2 (ja) | Ｈａｄｏｏｐにおける強化されたＳＱＬライクなクエリのためのバックグラウンドフォーマット最適化 | |
| WO2020000719A1 (zh) | 报表系统的数据处理方法、装置及计算机可读存储介质 | |
| US20120310875A1 (en) | Method and system of generating a data lineage repository with lineage visibility, snapshot comparison and version control in a cloud-computing platform | |
| US20150120643A1 (en) | Triplestore replicator | |
| CN114385733A (zh) | Etl过程中数据模型统一创建方法和装置 | |
| JP2021515330A (ja) | データオブジェクトストアのためのデータ保持ハンドリング | |
| CN111324610A (zh) | 一种数据同步的方法及装置 | |
| KR20060045622A (ko) | 컴퓨터화된 재무 시스템의 추출, 변환 및 로딩 설계자 모듈 | |
| WO2020238597A1 (zh) | 基于Hadoop的数据更新方法、装置、系统及介质 | |
| AU2019201821B2 (en) | Generating an execution script for configuration of a system | |
| US20150261766A1 (en) | Method and apparatus for determining a range of files to be migrated | |
| WO2022142035A1 (zh) | 系统语言国际化维护方法、装置及计算机可读存储介质 | |
| CN111949693A (zh) | 一种数据处理装置、数据处理方法、存储介质及电子设备 | |
| US11755610B2 (en) | Systems and methods for automated data migration | |
| CN110799961A (zh) | 在数据库中创建和删除租户的系统和方法 | |
| JP2022505223A (ja) | ユニバーサルガバナンス | |
| CN109473178B (zh) | 医疗数据整合的方法、系统、设备及存储介质 | |
| WO2021259290A1 (zh) | 存储过程转换方法、装置、设备和存储介质 | |
| CN113962597A (zh) | 一种数据分析方法、装置、电子设备及存储介质 | |
| CN108108392B (zh) | 商品数据管理方法、装置、计算机设备及存储介质 | |
| US10129328B2 (en) | Centralized management of webservice resources in an enterprise | |
| CN113722337B (zh) | 业务数据确定方法、装置、设备及存储介质 | |
| CN110515807B (zh) | 一种数据库表监控方法、装置、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |