CN115422275A - 一种数据处理方法、装置、设备及存储介质 - Google Patents

Abstract

本发明公开了一种数据处理方法、装置、设备及存储介质，所述数据处理方法，包括：基于预设的数据处理规则，对目标集中式数据库的原始数据进行处理，得到中间处理结果；基于目标集中式数据库与目标分布式数据库之间的转换规则，对中间处理结果进行转换，得到数据转换结果；根据中间处理结果和数据转换结果，生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告。通过上述技术方案，本发明为后续的数据导入导出、数据库切换和异构数据库同步做好了准备。

Description

一种数据处理方法、装置、设备及存储介质

技术领域

本发明涉及数据处理技术领域，尤其涉及一种数据处理方法、装置、设备及存储介质。

背景技术

目前业界金融、政企和通信运营商等关键业务大部分使用的是大型的集中式数据库，但是由于分布式数据库的高扩展性和高可用性，业界越来越多的业务选择使用分布式数据库。

目前，应用业务从集中式数据库切换到分布式数据库的过程中，业务逻辑兼容性问题突出。已知的解决方式是：在暂停集中式数据库在线业务的情况下，通过人工依靠经验去完成应用业务从集中式数据库到分布式数据库的切换，消耗大量时间和精力，同时可能因为暂停集中式数据库在线业务的时间过长，造成巨大的损失。因此，亟需改进。

发明内容

本发明提供了一种数据处理方法、装置、设备及存储介质，以为后续的数据导入导出、数据库切换和异构数据库同步做好了准备。

根据本发明的一方面，提供了一种数据处理方法，包括：

基于预设的数据处理规则，对目标集中式数据库的原始数据进行处理，得到中间处理结果；

基于目标集中式数据库与目标分布式数据库之间的转换规则，对中间处理结果进行转换，得到数据转换结果；

根据中间处理结果和数据转换结果，生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告。

根据本发明的另一方面，提供了一种数据处理装置，包括：

中间处理结果获取模块，用于基于预设的数据处理规则，对目标集中式数据库的原始数据进行处理，得到中间处理结果；

数据转换结果获取模块，用于基于目标集中式数据库与目标分布式数据库之间的转换规则，对中间处理结果进行转换，得到数据转换结果；

分析报告生成模块，用于根据中间处理结果和数据转换结果，生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告。

根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：

至少一个处理器；以及

与至少一个处理器通信连接的存储器；其中，

存储器存储有可被至少一个处理器执行的计算机程序，计算机程序被至少一个处理器执行，以使至少一个处理器能够执行本发明任一实施例的数据处理方法。

根据本发明的另一方面，提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机指令，计算机指令用于使处理器执行时实现本发明任一实施例的数据处理方法。

本发明实施例的技术方案，通过基于预设的数据处理规则，对目标集中式数据库的原始数据进行处理，得到中间处理结果，之后基于目标集中式数据库与目标分布式数据库之间的转换规则，对中间处理结果进行转换，得到数据转换结果，进而根据中间处理结果和数据转换结果，生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告。上述技术方案，通过生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告，分析目标集中式数据库中的原始数据哪些可以被目标分布式数据库兼容，哪些不可以被目标分布式数据库兼容，并将原始数据中兼容的数据进行转换，同时给出原始数据中不兼容数据的原因以及后续的解决措施，为后续的数据导入导出、数据库切换和异构数据库同步做好了准备。

应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是根据本发明实施例一提供的一种数据处理方法的流程图；

图2是根据本发明实施例二提供的一种数据处理方法的流程图；

图3是根据本发明实施例三提供的一种数据处理装置的结构示意图；

图4是实现本发明实施例的数据处理方法的电子设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“目标”和“原始”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

此外，还需要说明的是，本发明的技术方案中，所涉及的目标集中式数据库的原始数据等的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

实施例一

图1为本发明实施例一提供的一种数据处理方法的流程图，本实施例可适用应用业务从集中式数据库切换至分布式数据库的情况，该方法可以由数据处理装置来执行，该数据处理装置可以采用硬件和/或软件的形式实现，该数据处理装置可配置于电子设备中，该电子设备可以包括数据库系统或中央计算机系统等。如图1所示，该方法包括：

S101、基于预设的数据处理规则，对目标集中式数据库的原始数据进行处理，得到中间处理结果。

其中，目标集中式数据库是指需要将应用业务进行切换的集中式数据库。其中，集中式数据库是指一种存储、定位以及仅在单个位置维护的数据库。上述位置可以是任何数据库系统或中央计算机系统。

其中，数据处理规则用于处理目标集中式数据库原始数据的规则，可以包括脱敏处理、去重处理、归类处理、格式化处理或特征化处理等。其中，脱敏处理用于对某些敏感信息通过脱敏规则进行数据变形处理，其目的是保护隐私数据等信息的安全；去重处理用于对去掉重复数据；归类处理用于对数据进行分类；格式化处理用于统一数据的格式；特征化处理用于在保留数据特征的情况下减小原始数据的规模。

其中，原始数据是指目标集中式数据库中需要进行切换的应用业务所对应数据，可以包括静态数据和动态数据。静态数据可以包括数据库基本信息，比如数据库类型和数据库版本等。动态数据可以包括结构化查询语言(Structured Query Language，SQL)，SQL又可以包括数据定义语言(Data Definition Language，DDL)、数据查询语言(Data QueryLanguage，DQL)和数据管理语言(Data Manage Language，DML)等。其中，SQL用于数据库系列软件的查询、汇总、写入和删改等方面的操控；DDL用于创建数据库中的各种对象，比如创建表、创建视图或创建索引等；DQL用于查询数据库中的数据，可以包括SELECT子句、FROM子句和WHERE子句等；DML用于操控数据库中的数据，比如向数据库中插入数据。

其中，中间处理结果是指通过预设的数据处理规则对目标集中式数据库的原始数据进行处理后得到的数据，该数据可以包括脱敏数据、去重数据、归类数据、格式化数据或特征化数据等。

示例性的，基于预设的格式化处理规则，对目标集中式数据库的原始数据进行格式化处理，得到格式化数据，即中间处理结果。

示例性的，基于预设的去重处理规则，对目标集中式数据库的原始数据进行去重处理，得到去重数据，即中间处理结果。

S102、基于目标集中式数据库与目标分布式数据库之间的转换规则，对中间处理结果进行转换，得到数据转换结果。

其中，目标分布式数据库是指接收目标集中式数据库原始数据的分布式数据库。其中，分布式数据库是指一种数据库，它由多个相互连接并分布在不同物理位置的数据库组成，可以独立于其他物理位置来管理存储在各个物理位置上的数据，且不同物理位置的数据库之间的通信由计算机网络完成的。

其中，转换规则是指目标集中式数据库与目标分布式数据库之间的数据转换规则，可以包括数据类型转换规则、计算类型转换规则或字段类型转换规则等。示例性的，数据A在目标集中式数据库的字段类型为a，此时，基于目标集中式数据库与目标分布式数据库之间的字段类型转换规则，将数据A的字段类型转换为适配于目标分布式数据库的字段类型b。

其中，数据转换结果是指通过转换规则对中间处理结果进行转换的结果，该结果包括转换成功和转换失败两种情况。转换成功代表中间处理结果可以转换成与目标分布式数据库适配的数据；转换失败代表中间处理结果不能转换成与目标分布式数据库适配的数据。

可选的，基于目标集中式数据库与目标分布式数据库之间的数据类型转换规则，对中间处理结果进行转换，如果转换成功，则记录中间处理结果以及其对应的数据转换结果，如果转换失败，则记录中间结果以及其对应的不能转换的原因。

可选的，基于目标集中式数据库与目标分布式数据库之间的计算类型转换规则，对中间处理结果进行转换，如果转换成功，则记录中间处理结果以及其对应的数据转换结果，如果转换失败，则记录中间结果以及其对应的不能转换的原因。

可选的，基于目标集中式数据库与目标分布式数据库之间的字段类型转换规则，对中间处理结果进行转换，如果转换成功，则记录中间处理结果以及其对应的数据转换结果，如果转换失败，则记录中间结果以及其对应的不能转换的原因。

S103、根据中间处理结果和数据转换结果，生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告。

其中，分析报告用于记录目标集中式数据库的原始数据转存至目标分布式数据库时可能出现的情况，以及针对相应情况给出的相应解决措施。

具体的，将中间处理结果和数据转换结果一一对应地记录，从而生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告。

示例性的，数据转换结果为转换成功时，将中间处理结果转换成与目标分布式数据库适配的数据，并将中间处理结果以及对应的转换数据一一对应的记录；数据转换结果为转换失败时，中间处理结果不可以进行转换，此时，记录其相应的原因以及后续迁移的具体措施。将上述两种情况的内容一一对应地记录在同一个文件内，最终生成分析报告。

本发明实施例的技术方案，通过基于预设的数据处理规则，对目标集中式数据库的原始数据进行处理，得到中间处理结果，之后基于目标集中式数据库与目标分布式数据库之间的转换规则，对中间处理结果进行转换，得到数据转换结果，进而根据中间处理结果和数据转换结果，生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告。上述技术方案，通过生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告，分析目标集中式数据库中的原始数据哪些可以被目标分布式数据库兼容，哪些不可以被目标分布式数据库兼容，并将原始数据中兼容的数据进行转换，同时给出原始数据中不兼容数据的原因以及后续的解决措施，为后续的数据导入导出、数据库切换和异构数据库同步做好了准备。

在上述实施例的基础上，作为本发明实施例的一种可选方式，所述数据处理方法，还优选包括：基于预设的兼容性分析规则，对中间处理结果进行兼容性分析，得到兼容分析结果；基于兼容分析结果，生成兼容性分析报告。

其中，兼容性分析规则用于分析目标集中式数据库的原始数据是否可以被目标分布式数据库兼容，即分析目标集中式数据库的原始数据是否可以在目标分布式数据库中正常使用。该兼容性规则可以是DDL兼容性规则。

其中，兼容分析结果可以包括兼容和不兼容两种情况，兼容又可以包括原生兼容和转换兼容。其中，原生兼容是指目标集中式数据库的原始数据不需要进行任何数据处理，就可以被目标分布式数据库直接使用的情况；转换兼容是指目标集中式数据库的原始数据经过数据转化处理后，可以被目标分布式数据库使用的情况；不兼容是指通过任何形式的数据处理，目标集中式数据库的原始数据仍然不可以被目标分布式数据库使用的情况。

其中，兼容性分析报告用于记录目标分布式数据库对目标集中式数据库的原始数据兼容的情况以及对应的解决措施。

可选的，基于兼容转换规则，对于兼容分析结果中的兼容性数据进行转换，得到转换至目标分布式数据库的兼容转换结果；对于兼容分析结果中的不兼容数据，确定不兼容原因；根据兼容转换结果和不兼容原因，生成兼容性分析报告。

示例性的，基于预设的DDL兼容性分析规则，对中间处理结果进行兼容性分析，分析中间处理结果中是否包含DDL语句。如果中间处理结果中不包含DDL语句，则不进行兼容性分析；如果中间处理结果中包含DDL语句，则进行兼容性分析，分析中间处理结果中包含的DDL语句是否可以被目标分布式数据库兼容，如果兼容，则得到中间处理结果中包含的DDL语句可以被目标集中式数据库兼容的兼容分析结果；如果不兼容，则得到中间处理结果中包含的DDL语句不可以被目标集中式数据库兼容的兼容分析结果。基于中间处理结果中包含的DDL语句可以被目标集中式数据库兼容的兼容分析结果，对中间处理结果中包含的DDL语句进行转换，得到转换至目标分布式数据库的兼容转换结果，并生成相应的兼容性分析报告；基于中间处理结果中包含的DDL语句不可以被目标集中式数据库兼容的兼容分析结果，给出中间处理结果中包含的DDL语句不兼容的详细原因以及指导后续迁移的解决措施，并生成对应的兼容性分析报告。

上述技术方案，通过基于预设的兼容性分析规则，对中间处理结果进行兼容性分析，得到兼容分析结果，之后基于兼容分析结果，生成兼容性分析报告。通过分析中间处理结果的兼容性，明确了应用业务从集中式数据库切换到分布式数据库时的业务逻辑兼容问题，为实现在不影响集中式数据库在线业务的情况下，业务数据从集中式数据库切换至分布式数据库提供了充分的指导性意见。

在上述实施例的基础上，作为本发明实施例的一种可选方式，所述数据处理方法，还优选包括：基于预设的输出格式和输出方式，输出分析报告。

其中，输出格式可以是与目标分布式数据库适配的数据输出格式，可以包括json格式、PB格式和avro格式等；输出方式可以是与目标分布式数据库适配的数据输出方式，可以包括DB方式、文件方式和KAFKA方式等。

示例性的，首先，对目标集中式数据库中的原始数据进行去重处理，将处理后的数据按json格式以文件的方式输出，得到去重数据；然后，基于目标集中式数据库与目标分布式数据库之间的转换规则，对去重数据进行转换，得到与目标分布式数据库适配的转换数据；最后，根据去重数据和转换数据，生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告，并将其输出。

上述技术方案，通过基于预设的输出格式和输出方式，清晰直观展示目标集中式数据库与目标分布式数据库之间进行数据迁移存储时的各种问题及其解决方案，为后续实际数据迁移提供了指导。

实施例二

图2为本发明实施例二提供的一种数据处理方法的流程图，本实施例在上述实施例的基础上，对“基于预设的数据处理规则，对目标集中式数据库的原始数据进行处理，得到中间处理结果”进一步优化，提供一种可选的实施方案，如图2所示，该方法包括：

S201、对原始数据进行脱敏处理，得到脱敏数据。

其中，脱敏数据是原始数据进过脱敏处理得到的数据。示例性的，对一条包括个人的手机号和银行卡号等信息的完整SQL语句，可以通过将SQL语句生成抽象语法树，并将其涉及的敏感词用占位符表示的方法，实现对SQL语句的脱敏处理。敏感词指的是该SQL语句中的个人手机号和银行卡号等信息。

S202、对脱敏数据进行特征分析，得到特征化数据。

其中，特征分析是指借助语言工具将脱敏数据转化为特征化数值。

示例性的，将脱敏数据中具有区分度的字段转换为数据库系统中预设的特征化数值，其他字段均用“0”表示，从而得到脱敏数据对应的特征化数据。

S203、对特征化数据进行归类，得到归类数据；

其中，归类是指将特征化数据进行分类。归类数据是指对特征化数据进行归类后得到的数据。

具体的，根据特征化数据对应的数值将特征化数据进行归类。

示例性的，DML类SQL语句在数据库系统中的预设的特征值为2，SQL语句是一条插入语句，该SQL中具有区分度的字段为insert into字段，且该字段对应的特征值为2。此时，就可以根据该特征值将SQL语句归类为DML类SQL语句。

S204、将脱敏数据、特征化数据和归类数据，作为中间处理结果。

具体的，脱敏数据、特征化数据和归类数据都属于对目标集中式数据库的原始数据进行处理后，得到的中间处理结果。

S205、基于目标集中式数据库与目标分布式数据库之间的转换规则，对中间处理结果进行转换，得到数据转换结果。

S206、根据中间处理结果和数据转换结果，生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告。

本发明实施例的技术方案，通过对原始数据进行脱敏处理，得到脱敏数据，之后对脱敏数据进行特征分析，得到特征化数据，再之后对特征化数据进行归类，得到归类数据，随后将脱敏数据、特征化数据和归类数据，作为中间处理结果，紧接着基于目标集中式数据库与目标分布式数据库之间的转换规则，对中间处理结果进行转换，得到数据转换结果，最后根据中间处理结果和数据转换结果，生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告。上述技术方案，明确了对目标集中式数据库原始数据的数据处理，使得到的中间处理结果更加与目标分布式数据库适配，从而使得所得到的分析报告更加准确。

在上述实施例的基础上，作为本发明实施例的一种可选方式，所述数据处理方法，还优选包括：对原始数据中数据定义语言DDL进行分析，确定目标索引；对归类数据进行统计分析，得到目标索引的出现频次；根据出现频次，为包含目标索引的原始数据确定分发键，以使目标分布式数据库根据分发键，对包括目标索引的原始数据进行分布式存储。

其中，目标索引可以是具有区分度的字段，用于提升查询效率的数据库对象，可以根据目标集中式数据库的原始数据中对DDL的应有业务需求，确定目标索引，比如查询员工信息时，根据业务需求将员工所在部门的编号和员工编号确定为目标索引。

其中，统计分析用于从整体上分析归类数据。出现频次是指目标索引出现的次数，可以通过统计次数的相关算法计算目标索引的出现频次。

示例性的，对归类数据中的一条SQL语句进行统计分析，利用键值对(key,value)表示该SQL语句，将对该SQL语句进行循环冗余校验(Cyclic Redundancy Check，CRC)得到的CRC值，作为key值，将该SQL语句作为value值，统计key值重复出现的次数，得到该SQL语句目标索引的出现频次。其中，CRC是指一种根据网络数据包或计算机文件等数据产生简短固定位数校验码的信道编码技术，用于检测或校验数据传输中可能出现的错误。

其中，分发键用于将包含目标索引的原始数据平均分布到目标分布式数据库的各个不同物理位置的数据库中。

具体的，对原始数据中的DDL进行分析，以确定目标索引；对归类数据进行统计分析，得到目标索引的出现频次；根据目标索引的出现频次，利用分布策略，为包含目标索引的原始数据确定分发键，以使目标分布式数据库根据该分发键，对包括目标索引的原始数据进行分布式存储。

示例性的，对原始数据中一条创建表格的SQL语句进行分析，根据应用业务需求，确定该SQL语句的目标索引；然后对归类数据进行分析统计，计算该SQL语句的目标索引在归类数据中出现的次数，以得到该SQL语句目标索引的出现频次；根据该SQL语句目标索引的出现频次，利用hash分布策略，为包含该SQL语句目标索引的原始数据确定分发键，以使目标分布式数据根据该分发键，将包含该SQL语句目标索引的原始数据平均的存储到目标分布式数据库各个不同物理位置的数据库中，实现对包括该SQL语句目标索引的原始数据的分布式存储。可以理解的是，相同的分发键值会hash到相同物理位置的数据库中。

本发明实施例的技术方案，通过对原始数据中数据定义语言DDL进行分析，确定目标索引；通过对归类数据进行统计分析，得到目标索引的出现频次；之后根据出现频次，为包含目标索引的原始数据确定分发键，以使目标分布式数据库根据分发键，对包括目标索引的原始数据进行分布式存储。上述技术方案，基于目标索引的出现频次，可以合理准确的确定原始数据的分发键，从而为后续分布式数据库存储原始数据提供了保障，使得原始数据可以在目标分布式数据库中均衡存储。

实施例三

图3为本发明实施例三提供的一种数据处理装置的结构示意图。本实施例可适用应用业务从集中式数据库切换至分布式数据库的情况，该数据处理装置可以采用硬件和/或软件的形式实现，该数据处理装置可配置于电子设备中，该电子设备可以包括数据库系统或中央计算机系统等。如图3所示，该装置包括：

中间处理结果获取模块301，用于基于预设的数据处理规则，对目标集中式数据库的原始数据进行处理，得到中间处理结果；

数据转换结果获取模块302，用于基于目标集中式数据库与目标分布式数据库之间的转换规则，对中间处理结果进行转换，得到数据转换结果；

分析报告生成模块303，用于根据中间处理结果和数据转换结果，生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告。

本发明实施例的技术方案，通过中间处理结果获取模块得到中间处理结果；通过数据转换结果获取模块得到数据转换结果；通过分析报告生成模块生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告。上述技术方案，通过生成原始数据从目标集中式数据库转存至目标分布式数据库的分析报告，分析目标集中式数据库中的原始数据哪些可以被目标分布式数据库兼容，哪些不可以被目标分布式数据库兼容，并将原始数据中兼容的数据进行转换，同时给出原始数据中不兼容数据的原因以及后续的解决措施，为后续的数据导入导出、数据库切换和异构数据库同步做好了准备。

可选的，所述中间处理结果获取模块301，具体用于：对原始数据进行脱敏处理，得到脱敏数据；对脱敏数据进行特征分析，得到特征化数据；对特征化数据进行归类，得到归类数据；将脱敏数据、特征化数据和归类数据，作为中间处理结果。

可选的，该数据处理装置，还包括：

目标索引确定模块，用于对原始数据中数据定义语言DDL进行分析，确定目标索引；

出现频次获取模块，用于对归类数据进行统计分析，得到目标索引的出现频次；

分发键确定模块，用于根据出现频次，为包含目标索引的原始数据确定分发键，以使目标分布式数据库根据分发键，对包括目标索引的原始数据进行分布式存储。

可选的，该数据处理装置，还包括：

兼容分析结果获取模块，用于基于预设的兼容性分析规则，对中间处理结果进行兼容性分析，得到兼容分析结果；

兼容性分析报告生成模块，用于基于兼容分析结果，生成兼容性分析报告。

可选的，所述兼容性分析报告生成模块，具体用于：基于兼容转换规则，对于兼容分析结果中的兼容性数据进行转换，得到转换至目标分布式数据库的兼容转换结果；对于兼容分析结果中的不兼容数据，确定不兼容原因；根据兼容转换结果和不兼容原因，生成兼容性分析报告。

可选的，该数据处理装置，还包括：

分析报告输出模块，用于基于预设的输出格式和输出方式，输出分析报告。

本发明实施例所提供的数据处理装置可执行本发明任意实施例所提供的数据处理方法，具备执行方法相应的功能模块和有益效果。

实施例四

图4示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。

如图4所示，电子设备10包括至少一个处理器11，以及与至少一个处理器11通信连接的存储器，如只读存储器(ROM)12、随机访问存储器(RAM)13等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序，来执行各种适当的动作和处理。在RAM13中，还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM12以及RAM13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。

电子设备10中的多个部件连接至I/O接口15，包括：输入单元16，例如键盘、鼠标等；输出单元17，例如各种类型的显示器、扬声器等；存储单元18，例如磁盘、光盘等；以及通信单元19，例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理，例如数据处理方法。

在一些实施例中，数据处理方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元18。在一些实施例中，计算机程序的部分或者全部可以经由ROM12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM13并由处理器11执行时，可以执行上文描述的数据处理方法的一个或多个步骤。备选地，在其他实施例中，处理器11可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行数据处理方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种数据处理方法，其特征在于，包括：

基于预设的数据处理规则，对目标集中式数据库的原始数据进行处理，得到中间处理结果；

基于目标集中式数据库与目标分布式数据库之间的转换规则，对所述中间处理结果进行转换，得到数据转换结果；

根据所述中间处理结果和所述数据转换结果，生成所述原始数据从目标集中式数据库转存至目标分布式数据库的分析报告。

2.根据权利要求1所述的方法，其特征在于，所述基于预设的数据处理规则，对目标集中式数据库的原始数据进行处理，得到中间处理结果，包括：

对所述原始数据进行脱敏处理，得到脱敏数据；

对所述脱敏数据进行特征分析，得到特征化数据；

对所述特征化数据进行归类，得到归类数据；

将所述脱敏数据、所述特征化数据和所述归类数据，作为中间处理结果。

3.根据权利要求2所述的方法，其特征在于，还包括：

对所述原始数据中数据定义语言DDL进行分析，确定目标索引；

对所述归类数据进行统计分析，得到所述目标索引的出现频次；

根据所述出现频次，为包含所述目标索引的原始数据确定分发键，以使所述目标分布式数据库根据所述分发键，对包括所述目标索引的原始数据进行分布式存储。

4.根据权利要求1所述的方法，其特征在于，还包括：

基于预设的兼容性分析规则，对所述中间处理结果进行兼容性分析，得到兼容分析结果；

基于所述兼容分析结果，生成兼容性分析报告。

5.根据权利要求4所述的方法，其特征在于，所述基于所述兼容分析结果，生成兼容性分析报告，包括：

基于兼容转换规则，对于所述兼容分析结果中的兼容性数据进行转换，得到转换至目标分布式数据库的兼容转换结果；

对于所述兼容分析结果中的不兼容数据，确定不兼容原因；

根据所述兼容转换结果和所述不兼容原因，生成兼容性分析报告。

6.根据权利要求1所述的方法，其特征在于，还包括：

基于预设的输出格式和输出方式，输出所述分析报告。

7.一种数据处理装置，其特征在于，包括：

中间处理结果获取模块，用于基于预设的数据处理规则，对目标集中式数据库的原始数据进行处理，得到中间处理结果；

数据转换结果获取模块，用于基于目标集中式数据库与目标分布式数据库之间的转换规则，对所述中间处理结果进行转换，得到数据转换结果；

分析报告生成模块，用于根据所述中间处理结果和所述数据转换结果，生成所述原始数据从目标集中式数据库转存至目标分布式数据库的分析报告。

8.根据权利要求7所述的装置，其特征在于，所述中间处理结果获取模块具体用于：

对所述原始数据进行脱敏处理，得到脱敏数据；

对所述脱敏数据进行特征分析，得到特征化数据；

对所述特征化数据进行归类，得到归类数据；

将所述脱敏数据、所述特征化数据和所述归类数据，作为中间处理结果。

9.一种电子设备，其特征在于，所述电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的数据处理方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现权利要求1-6中任一项所述的数据处理方法。

Images