CN111984826A - 基于xml的数据自动入库方法、系统、装置和存储介质 - Google Patents
基于xml的数据自动入库方法、系统、装置和存储介质 Download PDFInfo
- Publication number
- CN111984826A CN111984826A CN202010908449.3A CN202010908449A CN111984826A CN 111984826 A CN111984826 A CN 111984826A CN 202010908449 A CN202010908449 A CN 202010908449A CN 111984826 A CN111984826 A CN 111984826A
- Authority
- CN
- China
- Prior art keywords
- data
- xml
- database table
- analysis
- service
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 41
- 238000004458 analytical method Methods 0.000 claims abstract description 32
- 238000012545 processing Methods 0.000 claims description 23
- 238000012216 screening Methods 0.000 claims description 12
- 230000001502 supplementing effect Effects 0.000 claims description 6
- 238000004590 computer program Methods 0.000 claims description 4
- 238000013500 data storage Methods 0.000 abstract description 10
- 238000004364 calculation method Methods 0.000 abstract description 5
- 238000012549 training Methods 0.000 abstract description 4
- 238000011144 upstream manufacturing Methods 0.000 description 4
- 238000007405 data analysis Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 241000109539 Conchita Species 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012502 risk assessment Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/80—Information retrieval; Database structures therefor; File system structures therefor of semi-structured data, e.g. markup language structured data such as SGML, XML or HTML
- G06F16/81—Indexing, e.g. XML tags; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/242—Query formulation
- G06F16/2433—Query languages
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/80—Information retrieval; Database structures therefor; File system structures therefor of semi-structured data, e.g. markup language structured data such as SGML, XML or HTML
- G06F16/84—Mapping; Conversion
- G06F16/86—Mapping to a database
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种基于XML的数据自动入库方法、系统、装置和存储介质，其中，所述数据自动入库方法包括：从业务库中实时获取业务数据，并根据所述业务数据生成XML数据；判定所述XML数据中各个子节点的数据类型是否满足预设的类型条件,对满足所述类型条件的子节点进行解析处理；对比解析得到的XML数据的节点结构与待入库的数据库表的结构，并根据对比结果对所述数据库表进行调整，以确保XML各子节点的数据在数据库表结构中的正确性与完整性；将解析得到的XML数据填入调整后的数据库表中。本公开所提供的数据自动入库方法满足当前实时业务中模型训练、指标计算或统计等对数据的实效性、准确性、完整性、便捷性的需求。
Description
技术领域
本发明涉及计算机技术领域，更为具体而言，涉及一种基于XML的数据自动入库方法、系统、装置和存储介质。
背景技术
XML(Extensible Markup Language，可扩展标记语言)广泛用在网络服务、数据库和文件处理等领域。XML具有文档内容和结构完全分离、互操作性强、规范统一、支持多种编码、可扩展性好等特点。
在当前业务中，每日会有百万级以上的实时业务数据发生，所有的数据都是以加密的方式存储。但是，即使对加密数据做解密处理后，将所有的变量数据都存在于XML中，也不便于数据建模、衍生计算以及其他实时场景对于数据的使用。
按照传统方法，上游业务在修改XML数据结构之后通知下游，下游再依据上游的修改内容对项目重新进行编码、测试、上线。这种方法存在下述缺陷：
一方面，上游的XML数据结构可能存在异构数据，而且有些变量可能因人为原因导致统计疏漏，通知延误或者通知不准，造成数据错误以及数据缺失的情况出现。
另一方面，代码修改期间可能会影响数据的实时性、完整性和准确性，并且每次改动都要耗费开发人员的时间和精力去手动维护修改代码以满足业务需求。
发明内容
为了解决现有技术中存在的上述技术缺陷，本发明提供了一种基于XML的数据自动入库方法、系统、装置和存储介质，可以满足当前实时业务中模型训练、指标计算或统计等对数据的实效性、准确性、完整性、便捷性的需求。
根据本发明的第一方面，本发明的实施方式提供了一种基于XML的数据自动入库方法。所述数据自动入库方法包括：从业务库中实时获取业务数据，并根据所述业务数据生成XML数据；判定所述XML数据中各个子节点的数据类型是否满足预设的类型条件,对满足所述类型条件的子节点进行解析处理；对比解析得到的XML数据的节点结构与待入库的数据库表的结构，并根据对比结果对所述数据库表进行调整，以确保XML各子节点的数据在数据库表结构中的正确性与完整性；将解析得到的XML数据填入调整后的数据库表中。
在本发明的一些实施方式中，所述根据所述业务数据生成XML数据包括：根据预设的筛选条件对所述业务数据进行筛选处理；将筛选后的业务数据均匀的分发在多个数据节点中，生成所述XML数据。
在本发明的一些实施方式中，所述类型条件为Json(JavaScript ObjectNotation，JS对象简谱)类型。
在本发明的一些实施方式中，所述数据自动入库方法还包括：对不满足所述类型条件的子节点，将所述子节点中的数据转化为Json类型后再进行解析处理。
在本发明的一些实施方式中，所述数据自动入库方法还包括：过滤掉空串或空集合的子节点。
在本发明的一些实施方式中，所述根据对比结果对所述数据库表进行调整包括：将解析得到的XML数据中有但所述数据库表中没有的数据列补充进所述数据库表中。
在本发明的一些实施方式中，所述数据自动入库方法还包括：根据解析得到的XML数据生成SQL语句；将所述SQL语句插入调整后的数据库表中。
根据本发明的第二方面，本发明的实施方式提供了一种基于XML的数据自动入库系统，所述数据自动入库系统包括：数据获取模块，用于从业务库中实时获取业务数据，并根据所述业务数据生成XML数据；异构数据处理及解析模块，用于判定所述XML数据中各个子节点的数据类型是否满足预设的类型条件,对满足所述类型条件的子节点进行解析处理；结构差异对比模块，用于对比解析得到的XML数据的节点结构与待入库的数据库表的结构，并根据对比结果对所述数据库表进行调整，以确保XML各子节点的数据在数据库表结构中的正确性与完整性；入库模块，用于将解析得到的XML数据填入调整后的数据库表中。
在本发明的一些实施方式中，所述数据获取模块根据所述业务数据生成XML数据包括：根据预设的筛选条件对所述业务数据进行筛选处理；将筛选后的业务数据均匀的分发在多个数据节点中，生成所述XML数据。
在本发明的一些实施方式中，所述类型条件为Json类型。
在本发明的一些实施方式中，所述异构数据处理及解析模块还用于：对不满足所述类型条件的子节点，将所述子节点中的数据转化为Json类型后再进行解析处理。
在本发明的一些实施方式中，所述异构数据处理及解析模块还用于：过滤掉空串或空集合的子节点。
在本发明的一些实施方式中，所述结构差异对比模块根据对比结果对所述数据库表进行调整包括：将解析得到的XML数据中有但所述数据库表中没有的数据列补充进所述数据库表中。
在本发明的一些实施方式中，所述入库模块还用于：根据解析得到的XML数据生成SQL语句，并将所述SQL语句插入调整后的数据库表中。
根据本发明的第三方面，本发明的实施方式提供了一种基于XML的数据自动入库装置，包括存储器和处理器，所述存储器用于存储计算机可读指令；所述处理器用于执行所述计算机可读指令从而实现前述任一项实施方式所述的方法。
根据本发明的第四方面，本发明的实施方式还提供了一种计算机存储介质，存储有计算机程序，所述计算机程序被处理器执行时实现前述任一项实施方式所述的方法。
本发明通过配置XML数据，针对XML数据的各个数据节点数据进行动态感知变化，并同步操作变化至数据表，完成数据入库，满足当前实时业务中模型训练、指标计算或统计等对数据的实效性、准确性、完整性、便捷性的需求，便于业务使用。同时，避免了业务新增XML数据配置列字段未通知下游导致数据缺失以及每次新增字段需要手动维护项目带来的人工成本。
附图说明
图1是根据本发明一种实施方式的基于XML的数据自动入库方法的流程示意图；
图2是根据本发明一种实施方式的基于XML的数据自动入库系统的框图。
具体实施方式
以下结合附图和具体实施方式对本发明的各个方面进行详细阐述。其中，众所周知的模块、单元及其相互之间的连接、链接、通信或操作没有示出或未作详细说明。并且，所描述的特征、架构或功能可在一个或一个以上实施方式中以任何方式组合。本领域技术人员应当理解，下述的各种实施方式只用于举例说明，而非用于限制本发明的保护范围。还可以容易理解，本文所述和附图所示的各实施方式中的模块或单元或处理方式可以按各种不同配置进行组合和设计。
图1示出了本发明的一种基于XML的数据自动入库方法的一种实施方式。如图1所示，在本发明的实施方式中，该方法包括：
100：从业务库中实时获取业务数据，并根据业务数据生成XML数据；
101：判定XML数据中各个子节点的数据类型是否满足预设的类型条件,对满足类型条件的子节点进行解析处理；
102：对比解析得到的XML数据的节点结构与待入库的数据库表的结构，并根据对比结果对数据库表进行调整；
103：将解析得到的XML数据填入调整后的数据库表中。
由此，通过配置XML数据，针对XML数据的各个数据节点数据进行动态感知变化，并根据对比结果对数据库表进行调整，以确保XML各子节点的数据在数据库表结构中的正确性与完整性。
在本发明的一些实施方式中，处理100可以通过以下方式实现：
从业务库中实时获取业务数据后，根据预设的筛选条件对业务数据进行筛选处理，将筛选后的业务数据均匀的分发在多个数据节点中，生成该XML数据。由此，减少后续解析处理的消耗成本，提升解析效率。
在本发明的一些实施方式中，根据系统或解析目的的不同可以预先对XML数据中心待解析的数据的数据类型进行设定，以进一步的提升解析效率。例如，可以预先设定类型条件为Json类型，由此，处理101可以通过以下方式实现：
对满足类型条件的子节点进行解析处理；对不满足类型条件的子节点，将子节点中的数据转化为Json类型后再进行解析处理；同时，可以过滤掉空串或空集合的子节点，不进行处理。
在本发明的一些实施方式中，获取到解析后的XML数据后，可以对比解析得到的XML数据的节点结构与待入库的数据库表的结构，以对数据库表进行调整，例如：将解析得到的XML数据中有但所述数据库表中没有的数据列补充进数据库表中。
同时，在可选的实施方式中，为了保证数据库表的数据结构的完整性与准确性，减少数据库的频繁操作，对解析得到的XML数据中没有但所述数据库表中有的数据列，可以不进行删除处理。
在本发明的一些实施方式中，还可以根据解析得到的XML数据生成SQL语句，并将该SQL语句插入调整后的数据库表中，以完成入库操作。
综上所述，本发明通过配置XML数据，针对XML数据的各个数据节点数据进行动态感知变化，并同步操作变化至数据表，完成数据入库，满足当前实时业务中模型训练、指标计算或统计等对数据的实效性、准确性、完整性、便捷性的需求，便于业务使用。同时，避免了业务新增XML数据配置列字段未通知下游导致数据缺失以及每次新增字段需要手动维护项目带来的人工成本。
以下，将结合具体的实例对本发明的所提供的计算机作业的自动运维方法进行说明：
在本实施例中，业务数据的实时获取是在CentOS(Community EnterpriseOperating System，社区企业操作系统)上实现的，预先配置好数据库开启Binlog日志(二进制格式的日志文件)，并通过Canal(分布式增量数据订阅/消费组件)配合ZooKeeper(分布式系统的可靠协调系统)实时同步数据到Kafka(一种开源流处理平台)中。最后，通过Flink(一种开源流处理框架)实时获取Kafka中的实时业务数据。
在获取数据的同时，Flink对业务数据进行筛选处理，留下用于风险分析、建模等所需数据并均匀的将数据分发在多个TaskManager(进程管理器)上，得到用于后续的数据解析处理的XML数据。
得到XML数据后，可以预先对XML数据进行一次类型梳理，例如：由XML工具类将XML数据映射成定义好的Json结构体模板，以用于后续的节点操作处理。其中，定义并引用序列化工具类规范Json结构，避免模板映射过程中出现空指针错误。
为了进一步确保解析效率，在本实施例中，可以对XML数据的子节点进行过滤处理，滤除空串空集合等非解析结构做数据，不做数据解析。对于留下的子节点，判断子节点中数据的数据类型，如果为合规的Json结构则直接对该子节点进行后续数据解析操作。如果为其他数据类型，则对其进行类型转化，例如：对于子节点出现数组的情况，则进行Flatmap操作，将每一个子数组流作为Json结构返回，对返回的每个对象进行后续数据解析操作，确保数据的完整性。
XML数据解析完成后，对解析完整的子节点进行键值整理，同时获取数据库中与之对应的数据库表，将其与该数据库表的结构进行对比。如果XML数据中的数据结构与该数据库表的结构一致，则准备进行后续的数据落地操作。如果两者结构出现差异，则将XML数据中有但数据库表中无的数据列进行数据库表结构扩列，XML数据中无但数据库表中有的列则不进行删列操作，确保数据库表的数据结构的完整性与准确性，减少数据库的频繁操作。其中，如果XML数据的子节点数据中出现Mysql(一种开放源代码的关系型数据库管理系统)的关键字以及嵌套Json串，可以对该列做特殊处理，如Json串中的引号做转义、limit关键字处理为limit_等方式避免后续因关键字以及标点符号等造成数据入库异常。
最后，对已经解析好的XML数据进行数据拼装，完成用于插入数据库表的SQL(结构化查询语言)语句，调用Druid线程池(一种数据库连接池)，完成所有子节点数据的数据入库操作。同时，此环节支持对上游数据的反复重跑，并且确保数据的唯一性。
图2是根据本发明一种实施方式的基于XML的数据自动入库系统1的框图。参照图2，该数据自动入库系统1可以包括：数据获取模块11，用于从业务库中实时获取业务数据，并根据业务数据生成XML数据；异构数据处理及解析模块12，用于判定XML数据中各个子节点的数据类型是否满足预设的类型条件,对满足类型条件的子节点进行解析处理；结构差异对比模块13，用于对比解析得到的XML数据的节点结构与待入库的数据库表的结构，并根据对比结果对数据库表进行调整，以确保XML各子节点的数据在数据库表结构中的正确性与完整性；入库模块14，用于将解析得到的XML数据填入调整后的数据库表中。
在本发明的实施方式中，数据获取模块11根据业务数据生成XML数据包括：根据预设的筛选条件对业务数据进行筛选处理，将筛选后的业务数据均匀的分发在多个数据节点中，生成XML数据。
在本发明的实施方式中，类型条件为Json类型，异构数据处理及解析模块12还用于：对不满足类型条件的子节点，将子节点中的数据转化为Json类型后再进行解析处理，以及过滤掉空串或空集合的子节点。
在本发明的实施方式中，结构差异对比模块13根据对比结果对数据库表进行调整包括：将解析得到的XML数据中有但所述数据库表中没有的数据列补充进数据库表中。
在本发明的实施方式中，入库模块14还用于：根据解析得到的XML数据生成SQL语句，并将SQL语句插入调整后的数据库表中。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到本发明可借助软件结合硬件平台的方式来实现。基于这样的理解，本发明的技术方案对背景技术做出贡献的全部或者部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施方式或者实施方式的某些部分所述的方法。
因此，本发明实施方式还提供了一种计算机存储介质，存储有计算机程序，用于在执行时实现本发明前述实施方式或实现方式提供的基于XML的数据自动入库方法。例如，所述存储介质可以包括硬盘、软盘、光盘、磁带、磁盘、优盘、闪存等。
本发明实施方式还提供了一种基于XML的数据自动入库装置，该装置包括存储器，用于存储计算机可读指令；处理器，用于执行该计算机可读指令从而实现本发明前述实施方式或实现方式所提供的基于XML的数据自动入库方法。可选地，在本发明实施方式的一种实现方式中，所述装置还可以包括用于进行数据通信的输入输出接口。例如，所述装置可以是计算机、智能终端、服务器等。
本文所公开的具体实施方式仅用于举例说明本发明，对于本领域技术人员而言，显然可以根据本文的教导进行各种修改，可以采用各种等同的方式实施本发明，因此，本发明上述公开的特定的实施方式仅仅是示例性的，其保护范围不受在此公开的结构或设计的细节所限，除非在权利要求中另有说明。因此，上述公开的特定的示例性的实施方式可进行各种替换、组合或修改，其所有的变形都落入本文公开的范围内。
Claims (16)
1.一种基于XML的数据自动入库方法，其特征在于，所述数据自动入库方法包括：
从业务库中实时获取业务数据，并根据所述业务数据生成XML数据；
判定所述XML数据中各个子节点的数据类型是否满足预设的类型条件,对满足所述类型条件的子节点进行解析处理；
对比解析得到的XML数据的节点结构与待入库的数据库表的结构，并根据对比结果对所述数据库表进行调整，以确保XML各子节点的数据在数据库表结构中的正确性与完整性；
将解析得到的XML数据填入调整后的数据库表中。
2.如权利要求1所述的数据自动入库方法，其特征在于，所述根据所述业务数据生成XML数据包括：
根据预设的筛选条件对所述业务数据进行筛选处理；
将筛选后的业务数据均匀的分发在多个数据节点中，生成所述XML数据。
3.如权利要求1所述的数据自动入库方法，其特征在于，
所述类型条件为Json类型。
4.如权利要求3所述的数据自动入库方法，其特征在于，所述数据自动入库方法还包括：
对不满足所述类型条件的子节点，将所述子节点中的数据转化为Json类型后再进行解析处理。
5.如权利要求3所述的数据自动入库方法，其特征在于，所述数据自动入库方法还包括：
过滤掉空串或空集合的子节点。
6.如权利要求1所述的数据自动入库方法，其特征在于，所述根据对比结果对所述数据库表进行调整包括：
将解析得到的XML数据中有但所述数据库表中没有的数据列补充进所述数据库表中。
7.如权利要求1所述的数据自动入库方法，其特征在于，所述数据自动入库方法还包括：
根据解析得到的XML数据生成SQL语句；
将所述SQL语句插入调整后的数据库表中。
8.一种基于XML的数据自动入库系统，其特征在于，所述数据自动入库系统包括：
数据获取模块，用于从业务库中实时获取业务数据，并根据所述业务数据生成XML数据；
异构数据处理及解析模块，用于判定所述XML数据中各个子节点的数据类型是否满足预设的类型条件,对满足所述类型条件的子节点进行解析处理；
结构差异对比模块，用于对比解析得到的XML数据的节点结构与待入库的数据库表的结构，并根据对比结果对所述数据库表进行调整，以确保XML各子节点的数据在数据库表结构中的正确性与完整性；
入库模块，用于将解析得到的XML数据填入调整后的数据库表中。
9.如权利要求8所述的数据自动入库系统，其特征在于，所述数据获取模块根据所述业务数据生成XML数据包括：
根据预设的筛选条件对所述业务数据进行筛选处理；
将筛选后的业务数据均匀的分发在多个数据节点中，生成所述XML数据。
10.如权利要求8所述的数据自动入库系统，其特征在于，
所述类型条件为Json类型。
11.如权利要求10所述的数据自动入库系统，其特征在于，所述异构数据处理及解析模块还用于：
对不满足所述类型条件的子节点，将所述子节点中的数据转化为Json类型后再进行解析处理。
12.如权利要求10所述的数据自动入库系统，其特征在于，所述异构数据处理及解析模块还用于：
过滤掉空串或空集合的子节点。
13.如权利要求8所述的数据自动入库系统，其特征在于，所述结构差异对比模块根据对比结果对所述数据库表进行调整包括：
将解析得到的XML数据中有但所述数据库表中没有的数据列补充进所述数据库表中。
14.如权利要求8所述的数据自动入库系统，其特征在于，所述入库模块还用于：
根据解析得到的XML数据生成SQL语句，并将所述SQL语句插入调整后的数据库表中。
15.一种基于XML的数据自动入库装置，包括存储器和处理器，其特征在于，
所述存储器用于存储计算机可读指令；
所述处理器用于执行所述计算机可读指令以实现如权利要求1-7中任一项所述的方法。
16.一种计算机存储介质，存储有计算机程序，其特征在于，所述计算机程序在被处理器执行时实现如权利要求1-7中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010908449.3A CN111984826B (zh) | 2020-09-02 | 2020-09-02 | 基于xml的数据自动入库方法、系统、装置和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010908449.3A CN111984826B (zh) | 2020-09-02 | 2020-09-02 | 基于xml的数据自动入库方法、系统、装置和存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111984826A true CN111984826A (zh) | 2020-11-24 |
| CN111984826B CN111984826B (zh) | 2023-11-10 |
Family
ID=73447389
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010908449.3A Active CN111984826B (zh) | 2020-09-02 | 2020-09-02 | 基于xml的数据自动入库方法、系统、装置和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111984826B (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113568936A (zh) * | 2021-07-30 | 2021-10-29 | 多点生活(成都)科技有限公司 | 实时流数据存储方法、装置、终端设备 |
| CN114095032A (zh) * | 2021-11-12 | 2022-02-25 | 中国科学院空间应用工程与技术中心 | 基于Flink和RVR的数据流压缩方法、边缘计算系统及存储介质 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101944162A (zh) * | 2010-09-02 | 2011-01-12 | 江苏大学 | 一种基于xml文档的电子病历模板系统及电子病历模板制作方法 |
| CN105608088A (zh) * | 2014-11-19 | 2016-05-25 | 中国航空工业集团公司西安飞机设计研究所 | 一种基于配置文件的数据库自动创建与数据动态记录方法 |
| CN106557568A (zh) * | 2016-11-14 | 2017-04-05 | 中国电子科技集团公司第二十八研究所 | 模式匹配的xml文件格式与关系数据库转换的处理方法 |
| US20180322156A1 (en) * | 2017-05-08 | 2018-11-08 | Sap Se | Atomic processing of compound database transactions that modify a metadata entity |
| CN109885581A (zh) * | 2019-03-14 | 2019-06-14 | 苏州达家迎信息技术有限公司 | 数据库的同步方法、装置、设备及存储介质 |
| CN109885569A (zh) * | 2018-12-29 | 2019-06-14 | 天津南大通用数据技术股份有限公司 | 基于配置文件对xml数据进行字段提取及结构化方法 |
| CN111367886A (zh) * | 2020-03-02 | 2020-07-03 | 中国邮政储蓄银行股份有限公司 | 数据库中数据迁移的方法及装置 |
-
2020
- 2020-09-02 CN CN202010908449.3A patent/CN111984826B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101944162A (zh) * | 2010-09-02 | 2011-01-12 | 江苏大学 | 一种基于xml文档的电子病历模板系统及电子病历模板制作方法 |
| CN105608088A (zh) * | 2014-11-19 | 2016-05-25 | 中国航空工业集团公司西安飞机设计研究所 | 一种基于配置文件的数据库自动创建与数据动态记录方法 |
| CN106557568A (zh) * | 2016-11-14 | 2017-04-05 | 中国电子科技集团公司第二十八研究所 | 模式匹配的xml文件格式与关系数据库转换的处理方法 |
| US20180322156A1 (en) * | 2017-05-08 | 2018-11-08 | Sap Se | Atomic processing of compound database transactions that modify a metadata entity |
| CN109885569A (zh) * | 2018-12-29 | 2019-06-14 | 天津南大通用数据技术股份有限公司 | 基于配置文件对xml数据进行字段提取及结构化方法 |
| CN109885581A (zh) * | 2019-03-14 | 2019-06-14 | 苏州达家迎信息技术有限公司 | 数据库的同步方法、装置、设备及存储介质 |
| CN111367886A (zh) * | 2020-03-02 | 2020-07-03 | 中国邮政储蓄银行股份有限公司 | 数据库中数据迁移的方法及装置 |
Non-Patent Citations (2)
| Title |
|---|
| "IEEE standard for utility industry metering communication protocol application layer", 《IEEE》, pages 1 - 2 * |
| 陈巍 等: "异构数据库数据迁移测试软件的研究与实现", 《安徽工程科技学院学报》, vol. 25, no. 4, pages 35 - 39 * |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113568936A (zh) * | 2021-07-30 | 2021-10-29 | 多点生活(成都)科技有限公司 | 实时流数据存储方法、装置、终端设备 |
| CN113568936B (zh) * | 2021-07-30 | 2023-06-13 | 多点生活(成都)科技有限公司 | 实时流数据存储方法、装置、终端设备 |
| CN114095032A (zh) * | 2021-11-12 | 2022-02-25 | 中国科学院空间应用工程与技术中心 | 基于Flink和RVR的数据流压缩方法、边缘计算系统及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111984826B (zh) | 2023-11-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10467220B2 (en) | System and method for generating an effective test data set for testing big data applications | |
| JP2010524060A (ja) | 分散コンピューティングにおけるデータマージング | |
| US9928288B2 (en) | Automatic modeling of column and pivot table layout tabular data | |
| US9037552B2 (en) | Methods for analyzing a database and devices thereof | |
| CN110427188B (zh) | 单测断言程序的配置方法、装置、设备及存储介质 | |
| CN104572895A (zh) | MPP数据库与Hadoop集群数据互通方法、工具及实现方法 | |
| CN103559025A (zh) | 一种采用聚类方式进行软件重构的方法 | |
| CN111984826B (zh) | 基于xml的数据自动入库方法、系统、装置和存储介质 | |
| CN112163017B (zh) | 一种知识挖掘系统及方法 | |
| CN114218218A (zh) | 基于数据仓库的数据处理方法、装置、设备及存储介质 | |
| CN111125199B (zh) | 一种数据库访问方法、装置及电子设备 | |
| CN115934097A (zh) | 生成可执行语句的方法、装置、存储介质及电子装置 | |
| US7844601B2 (en) | Quality of service feedback for technology-neutral data reporting | |
| US11347620B2 (en) | Parsing hierarchical session log data for search and analytics | |
| CN112631754A (zh) | 数据处理方法、装置、存储介质及电子装置 | |
| CN111782608B (zh) | 文件自动生成方法、装置、电子设备及存储介质 | |
| CN112130849B (zh) | 代码自动生成方法及装置 | |
| CN111159203B (zh) | 一种数据关联分析的方法、平台、电子设备及存储介质 | |
| CN113868138A (zh) | 测试数据的获取方法、系统、设备及存储介质 | |
| CN115904382A (zh) | 代码开发方法、系统、客户端、服务端、设备和存储介质 | |
| CN109918396A (zh) | 一种多样数据搜索方法 | |
| CN112051987B (zh) | 业务数据处理方法、装置及设备、程序生成方法及装置 | |
| CN116975032B (zh) | 数据对齐方法、系统和电子设备及存储介质 | |
| CN116860781A (zh) | 数据校验方法、装置、终端设备以及存储介质 | |
| CN110019109B (zh) | 用于处理数据仓库数据的方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |