CN110334141A - 数据转换的方法、装置、计算机设备和存储介质 - Google Patents

数据转换的方法、装置、计算机设备和存储介质 Download PDF

Info

Publication number
CN110334141A
CN110334141A CN201910463020.5A CN201910463020A CN110334141A CN 110334141 A CN110334141 A CN 110334141A CN 201910463020 A CN201910463020 A CN 201910463020A CN 110334141 A CN110334141 A CN 110334141A
Authority
CN
China
Prior art keywords
data
database
format
type
data type
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910463020.5A
Other languages
English (en)
Other versions
CN110334141B (zh
Inventor
刘洪晔
石洲祥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN201910463020.5A priority Critical patent/CN110334141B/zh
Publication of CN110334141A publication Critical patent/CN110334141A/zh
Application granted granted Critical
Publication of CN110334141B publication Critical patent/CN110334141B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25Integrating or interfacing systems involving database management systems
    • G06F16/258Data format conversion from or to a database
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请中提供了一种数据转换的方法、装置、计算机设备和存储介质,包括源端服务器读取任一第一数据库中所有数据的第一数据类型;在预设的第一转换代码数据库中,根据预设的第一数据类型‑转换代码列表,获取第一数据类型对应的第一转换格式代码;通过第一转换格式代码,将第一数据库中的所有数据转换成至少一种数据格式的第一数据;将不同数据格式的第一数据发送至中间平台上对应数据格式的指定数据库中存储。通过在源端服务器中利用代码对所管理的数据库中的所有数据进行转换,并传送至中间平台上存储,无需针对每一数据进行多次转换,节省成本,缩短时间。

Description

数据转换的方法、装置、计算机设备和存储介质
技术领域
本申请涉及计算机技术领域,特别涉及一种数据转换的方法、装置、计算机设备和存储介质。
背景技术
在大数据的场景当中,经常需要将多个源数据库的数据同步到一个目标库,或将一个源数据库数据同步到多个目标库等,并且需要长期、持续的将数据从源数据库数据写入到目标库。而目前针对大数据的数据转换,转换的成本过高,且转换效率低。
发明内容
本申请的主要目的为提供一种数据转换的方法、装置、计算机设备和存储介质,旨在提高转换率的问题。
为实现上述目的,本申请提供了一种数据转换的方法,应用于源端服务器,包括以下步骤:
源端服务器读取任一第一数据库中所有数据的第一数据类型,其中,所述第一数据库中各数据的数据类型一致;
在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取所述第一数据类型对应的第一转换格式代码;
通过所述第一转换格式代码,将所述第一数据库中的所有数据转换成至少一种数据格式的第一数据;
将不同数据格式的所述第一数据发送至中间平台上对应数据格式的指定数据库中存储,以供所述目标端服务器从所述中间平台上读取和解析所述第一数据。
进一步地,所述读取任一第一数据库中所有数据的第一数据类型的步骤,包括:
识别所述第一数据库的所属数据类型,其中所述数据类型包括关系型数据类型和非关系型数据类型;
获取所述第一数据库中任意所选择的一个数据的数据子类型;
判断所述数据子类型是否属于所述第一数据库所属数据类型的子类型;
若属于,则将获取到的数据子类型确定为所述第一数据库对应的第一数据类型。
进一步地,所述判断所述数据子类型是否属于所述第一数据库所属数据类型的子类型的步骤之后,还包括:
若不属于,则获取所述数据子类型属于的数据类型,以及获取所述第一数据库中的其他数据所属的数据子类型;
判定所述第一数据库中所有的数据分别所属的数据子类型是否一致;
若一致,则判定所述第一数据库的所属数据类型有误,若不一致,则判定所述其他数据所属的数据子类型是否属于所述第一数据库所属数据类型;
若所述其他数据所属的数据子类型存在属于所述第一数据库所属数据类型的子类型,则判定不属于所述第一数据库所属数据类型的所述第一数据库的数据为有误数据,并标记。
进一步地,所述在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取所述第一数据类型对应的第一转换格式代码的步骤之前,还包括:
接收所述预设的第一数据类型-转换代码列表以及对应不同的数据类型的所述第一转换格式代码,其中,所述第一数据类型-转换代码列表是根据所述源端服务器所需读取的所述第一数据类型以及所需转换成的数据格式生成。
进一步地,所述通过所述第一转换格式代码,将所述第一数据库中的所有数据转换成至少一种数据格式的第一数据的步骤,包括:
通过所述第一转换格式代码,将所述第一数据库中的所有数据进行转换,打包成指定数据格式的密封的第一数据;
对所有所述第一数据打上数据标签,以供将所述第一数据分类存储于所述中间平台。
本申请还提供了一种数据转换的方法,应用于目标端服务器,包括以下步骤:
目标端服务器根据需要从中间平台的指定数据库中读取所有数据,以及获取所述指定数据库中存储的数据的第二数据类型,其中,所述指定数据库中的所有数据为源端服务器所管理的至少一个数据库中的所有数据转换的数据,所述指定数据库中存储的各数据的数据类型一致;
在预设的第二转换代码数据库中,根据预设的第二数据类型-转换代码列表,获取所述第二数据类型对应的第二转换格式代码;
通过所述第二转换格式代码,将所述指定数据库中的所有数据转换成对应格式的所述第二数据,并存储于所述目标端服务器对应数据格式的数据库中。
本发明提出了一种数据转换的装置,应用于源端服务器,所述源端服务器包括:
第一获取模块,用于读取任一第一数据库中所有数据的第一数据类型,其中,所述第一数据库中各数据的数据类型一致;
第二获取模块,用于在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取所述第一数据类型对应的第一转换格式代码;
第一转换模块,用于通过所述第一转换格式代码,将所述第一数据库中的所有数据转换成至少一种数据格式的第一数据;
发送模块,用于将不同数据格式的所述第一数据发送至中间平台上对应数据格式的指定数据库中存储,以供所述目标端服务器从所述中间平台上读取和解析所述第一数据。
本发明还提出了一种数据转换的装置,应用于目标端服务器,所述目标端服务器包括:
读取模块,用于根据需要从中间平台的指定数据库中读取所有数据,以及获取所述指定数据库中存储的数据的第二数据类型,其中,所述指定数据库中的所有数据为源端服务器所管理的至少一个数据库中的所有数据转换的数据,所述指定数据库中存储的各数据的数据类型一致;
第三获取模块,用于在预设的第二转换代码数据库中,根据预设的第二数据类型-转换代码列表,获取所述第二数据类型对应的第二转换格式代码;
第二转换模块,用于通过所述第二转换格式代码,将所述指定数据库中的所有数据转换成对应格式的所述第二数据,并存储于所述目标端服务器对应数据格式的数据库中。
本申请还提供一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一项所述方法的步骤。
本申请还提供一种计算机存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一项所述的方法的步骤。
本申请中提供的数据转换的方法、装置、计算机设备和存储介质,具有以下有益效果:
本申请中提供的数据转换的方法、装置、计算机设备和存储介质,通过在源端服务器中利用代码对所管理的数据库中的所有数据进行转换,并传送至中间平台上存储,以便目标端服务器可以订阅存储于中间平台上的数据,再次转换以便得到所需要的数据,转换简单,无需针对每一数据进行多次转换,节省成本,缩短时间。
附图说明
图1是本申请一实施例中数据转换的方法步骤示意图;
图2是本申请另一实施例中数据转换的方法步骤示意图;
图3是本申请一实施例中数据转换的装置结构框图;
图4是本申请另一实施例中数据转换的装置结构框图;
图5是本申请一实施例的计算机设备的结构示意框图。
本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
参照图1,为本申请一实施例中提供了一种数据转换的方法,应用于源端服务器,包括以下步骤:
步骤S1,源端服务器读取任一第一数据库中所有数据的第一数据类型,其中,所述第一数据库中各数据的数据类型一致;
步骤S2,在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取所述第一数据类型对应的第一转换格式代码;
步骤S3,通过所述第一转换格式代码,将所述第一数据库中的所有数据转换成至少一种数据格式的第一数据;
步骤S4,将不同数据格式的所述第一数据发送至中间平台上对应数据格式的指定数据库中存储,以供所述目标端服务器从所述中间平台上读取和解析所述第一数据。
以上步骤中,源端服务器读取其所管理的第一数据库中存储的所有数据,以及获取所述第一数据库中存储的数据的第一数据类型,其中,所述第一数据库中存储的各数据的数据类型一致;如所管理的源端数据库中包括有RDBMS关系型数据库,如Oracle、Mysql、PostgreSQL、SQL Server等等,用户预先编写好需要读取的第一数据库的第一转换格式代码,在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取到所述第一数据类型对应的第一转换格式代码;当获取到第一数据库中的所有数据后,通过第一转换格式代码将所有数据转换成至少一种格式的第一数据,将不同数据格式的所有所述第一数据发送至中间平台上对应数据格式的指定数据库中存储,即源端服务器将转换后的第一数据发送到中间平台上存储,以供目标端服务器从所述中间平台上读取和解析所述第一数据,以便目标端服务器需要读取第一数据后,对所述第一数据进行解析得到所需存储格式的数据,减少学习成本,缩短开发周期。
在本实施例中,预先根据需要转换的数据库的数据以及目标端服务器所需应用的格式,用户设置有多种将数据转换成指定格式的代码程序,可以根据转换需求提前设置好对应的转换逻辑,以便根据指定的代码程序转换成对应格式的数据,发送并存储于中间平台中。如在一具体实施例中,需要将源端服务器的某一数据库中的数据的姓名、身份证号码进行转换成指定格式的数据存储于中间平台中,以供目标端服务器从中间平台中读取对应的数据,并进行解析得到对应格式的姓名、身份证号码,存储于目标端服务器对应的数据库中,即可完成数据的读取转换,其他目标端服务器需要该数据时,同样可以从中间平台上进行读取和解析,以得到所需格式要求的数据存储到目标端服务器对应的数据库中。
当源端服务器需读取多个管理的数据库中的第一数据,则可根据提前预设的代码程序对应将每一第一数据进行对应的转换,其中,每一数据库设置有标签,当将数据库中的所有第一数据进行转换成对应格式后,携带有对应的数据标签存储于中间平台上,以便目标端服务器在中间平台上订阅指定的数据。例如:产险理赔有一单报案A001的数据,存储在源端PG数据库中,需要分别被目标端报表系统、报价系统使用,其中报表系统、报价系统分别使用Mysql,Oracle数据库,那么数据转换流程应该为:PG Source-->中间平台-->(MysqlSink,Oracle Sink)-->Mysql,Oracle源端服务器需要实现数据的迁移和转换,以便将数据转移至目标端服务器的数据库中。由于读取和写入(解析)的逻辑是分开实现的,不同的存储产品有不同的读/写接口类,源端服务器主程序在启动时会扫描类路径下继承XXSource和XXSink接口类的处理类,并多线程调用,如源端服务器需要继承PGSource接口类,并在source(…)方法中自定义读取数据的逻辑,目标端服务器需要继承MysqlSink和OracleSink接口类,并在sink(…)方法中自定义解析、组装写入数据的逻辑。
不同的接入系统需要根据预先设置的逻辑实现读取和写入逻辑,根据所使用的存储产品继承中间平台提供的接口类;中间平台提供了源端和目标端两个客户端包,源端提供了接口类,接入系统需要继承接口并自定义读取数据的逻辑,再由源端服务器的kafkaconnect上送至中间平台的kafka服务端,同时目标端服务器中也提供了接口类,也需要由接入系统继承实现解析、组装写入数据的逻辑。
在一实施例中,所述读取任一第一数据库中所有数据的第一数据类型的步骤S1,包括:
步骤S11,识别所述第一数据库的所属数据类型,其中所述数据类型包括关系型数据类型和非关系型数据类型;
步骤S12,获取所述第一数据库中任意所选择的一个数据的数据子类型;
步骤S13,判断所述数据子类型是否属于所述第一数据库所属数据类型的子类型;
步骤S14,若属于,则将获取到的数据子类型确定为所述第一数据库对应的第一数据类型。
以上步骤中,识别第一数据库的所述数据类型,其中,数据类型包括有关系型数据类型和非关系型数据类型,在所述第一数据库中任意选择其中一个数据,识别其所属的数据子类型,根据所属的数据子类型,判断是否属于所述第一数据库所属数据类型的子类型,如RDBMS关系型数据库,包括有Oracle、Mysql、PostgreSQL、SQL Server等等,若属于,则获取到的数据子类型确定为第一数据库对应的第一数据类型。
一般情况下,在所述第一数据库中任意识别其中一个数据的数据类型,由于所述第一数据库中存储的各数据的数据类型一致,依据识别到的所述第一数据库中任意一个数据的数据类型,可以确定所述第一数据库对应的所述第一数据类型。
在一实施例中,所述判断所述数据子类型是否属于所述第一数据库所属数据类型的子类型的步骤S13之后,还包括:
步骤S131,若不属于,则获取所述数据子类型属于的数据类型,以及获取所述第一数据库中的其他数据所属的数据子类型;
步骤S132,判定所述第一数据库中所有的数据分别所属的数据子类型是否一致;
步骤S133,若一致,则判定所述第一数据库的所属数据类型有误,若不一致,则判定所述其他数据所属的数据子类型是否属于所述第一数据库所属数据类型;
步骤S134,若所述其他数据所属的数据子类型存在属于所述第一数据库所属数据类型的子类型,则判定不属于所述第一数据库所属数据类型的所述第一数据库的数据为有误数据,并标记。
以上步骤中,若判定所述数据子类型不属于所述第一数据库所属的所述数据类型的子类型,则获取所述数据子类型属于的数据类型,以及获取所述第一数据库中的其他数据所属的数据子类型;以进一步判定所述第一数据库中所有的数据分别所属的数据子类型是否一致,若一致,则判定所述第一数据库的所属数据类型有误,若不一致,则再次判定第一数据库中的其他数据所属的数据子类型是否存在属于所述第一数据库的所属数据类型,如果所述其他数据所属的数据子类型存在属于所述第一数据库所属数据类型的子类型,则判定不属于所述第一数据库所属数据类型的所述第一数据库的数据为有误数据,并标记,将标记的数据显示,以便于告知后台第一数据库的数据存在问题,需二次检查。
在一实施例中,在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取所述第一数据类型对应的第一转换格式代码的步骤S2之前,还包括:
步骤S201,接收所述预设的第一数据类型-转换代码列表以及对应不同的数据类型的所述第一转换格式代码,其中,所述第一数据类型-转换代码列表是根据所述源端服务器所需读取的所述第一数据类型以及所需转换成的数据格式生成。
以上步骤中,用户需提前预设好每一代码程序进行转换的第一数据类型-转换代码列表以及所述第一转换格式代码,并发送到源端服务器,以便当源端服务器需转换其所管理的第一数据库中的所有数据时,可以从预设的第一数据类型-转换代码列表获取到所述第一数据类型对应的第一转换格式代码。所述第一数据类型-转换代码列表是根据所述源端服务器所需读取的所述第一数据类型以及所需转换成的数据格式生成。
在一具体实施例中,用户系统需要将源端服务器中Mysql数据库中的用户登录记录分别同步到PostgreSQL和Elastic Search,只需要将Mysql数据库中的所有数据转换到指定格式后,发送到中间平台,以便后续目标端服务器再通过PostgreSQL和ElasticSearch的接收目标端服务器从中间平台中获取数据。
在一实施例中,所述通过所述第一转换格式代码,将所述第一数据库中的所有数据转换成至少一种数据格式的第一数据的步骤S3,包括:
步骤S31,通过所述第一转换格式代码,将所述第一数据库中的所有数据进行转换,打包成指定数据格式的密封的第一数据;
步骤S32,对所有所述第一数据打上数据标签,以供将所述第一数据分类存储于所述中间平台。
以上步骤中,预先通过第一转换格式代码将对应的第一数据库中的数据进行转换打包成密封数据,实现将源端服务器的数据库中的数据转换成指定格式的第一数据的方式,对所有所述第一数据打上数据标签,以供将所述第一数据分类存储于所述中间平台。在本实施例中,存在增量同步和一次性迁移的迁移方式,其中,增量同步,是一种持续增量的数据转换过程,适用于源数据有变化的场景,同时还有数据量大,并发量高,数据源高写、高读、高读写等状况。一次性迁移,适用于源数据无态化的转换,数据是不会出现变化的场景。
在一具体实施例中,增量同步包括短信中间件系统需要将每条请求日志记录,同步到Elastic Search系统,为全文分词搜索提供基础数据,这种场景其数据量是不断增加的,并且由于是短信中间件系统,日志记录的数量也会非常的大,数据会持续不断的上送到kafka服务端,并保存一个时间段(可以配置),目标端服务器则会持续的订阅数据,并解析存储于目标端服务器对应的存储库中。
在另一实施例中,车险理赔系统的数据转换的一次性迁移,由于业务线的不断增长,系统原有的数据库产品Mysql已经无法支撑现有的业务规模,需要更换为Oracle,由于需要切换数据库,升级期间需停止系统一段时间,以用于迁移数据到Oracle,由于车险理赔的数据量是非常大的,无法将数据全部迁移到Oracle,这时可以通过中间平台,接入系统将数据库切换,重启应用将数据通过异步方式同步到Oracle。
综上所述,为本申请实施例中提供的数据转换的方法,通过在源端服务器中利用代码对所管理的数据库中的所有数据进行转换,并传送至中间平台上存储,以便目标端服务器可以订阅存储于中间平台上的数据,再次转换以便得到所需要的数据,转换简单,无需针对每一数据进行多次转换,节省成本,缩短时间。
参照图2,本申请一实施例中还提供了一种平台数据转换的方法,应用于目标端服务器,包括以下步骤:
步骤S100,目标端服务器根据需要从中间平台的指定数据库中读取所有数据,以及获取所述指定数据库中存储的数据的第二数据类型,其中,所述指定数据库中的所有数据为源端服务器所管理的至少一个数据库中的所有数据转换的数据,所述指定数据库中存储的各数据的数据类型一致;
步骤S200,在预设的第二转换代码数据库中,根据预设的第二数据类型-转换代码列表,获取所述第二数据类型对应的第二转换格式代码;
步骤S300,通过所述第二转换格式代码,将所述指定数据库中的所有数据转换成对应格式的所述第二数据,并存储于所述目标端服务器对应数据格式的数据库中。
以上步骤中,目标端服务器根据需要从中间平台的指定数据库中读取所有数据,该指定数据库中的所有数据为需转换存储于目标端服务器的数据库中的数据,目标服务器从所述中间平台上的指定数据库中读取数据,以及获取该指定数据库中存储的数据的第二数据类型,其中,指定数据库中的所有数据为源端服务器所管理的至少一个数据库中的所有数据转换的数据,且所述指定数据库中存储的各数据的数据类型一致;根据第二数据类型,在预设第二转换代码数据库中,根据预设的第二数据类型-转换代码列表,获取第二数据类型对应的第二转换格式代码,并通过第二转换格式代码将指定数据库中的所有数据转换成对应格式的第二数据,将该第二数据存储于目标端服务器对应数据格式的数据库中。
在本实施例中,根据需要转换存储于目标端服务器的数据库的数据格式,用户预先设置好用于将数据转换成指定格式的代码程序,可以根据转换需求提前设置好对应的转换逻辑,以便根据指定的第二转换格式代码转换成对应格式的第二数据,用于存储于目标端存储库中,减少学习成本,缩短开发周期。
在所述指定数据库中任意识别其中一个数据的数据类型,由于所述指定数据库中存储的各数据的数据类型一致,依据识别到的所述指定数据库中任意一个数据的数据类型,可以确定所述指定数据库对应的数据的所述第二数据类型。
在一实施例中,所述在预设的第二转换代码数据库中,根据预设的第二数据类型-转换代码列表,获取所述第二数据类型对应的第二转换格式代码的步骤S200之前,包括:
步骤S201,接收所述预设的第二数据类型-转换代码列表以及对应不同的数据类型的所述第二转换格式代码,其中,所述第二数据类型-转换代码列表是根据所述目标端服务器所需读取的所述第一数据类型以及所需转换成的数据格式生成。
以上步骤中,用户需提前预设好每一代码程序进行转换的第二数据类型-转换代码列表以及所述第而二转换格式代码,并发送到目标端服务器,以便当目标端服务器需转换读取到的指定数据库中的所有数据时,可以从预设的第二数据类型-转换代码列表获取到所述第二数据类型对应的第二转换格式代码,所述第二数据类型-转换代码列表是根据所述目标端服务器所需读取的所述第一数据类型以及所需转换成的数据格式生成。
综上所述,为本申请另一实施例中提供的数据转换的方法,通过在目标端服务器中利用代码对读取到的数据库中的所有数据进行转换并存储,转换简单,节省成本,缩短时间。
参照图3,本申请一实施例中还提供了一种数据转换的装置,应用于源端服务器,所述源端服务器包括:
第一获取模块10,用于读取任一第一数据库中所有数据的第一数据类型,其中,所述第一数据库中各数据的数据类型一致;
第二获取模块20,用于在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取所述第一数据类型对应的第一转换格式代码;
第一转换模块30,用于通过所述第一转换格式代码,将所述第一数据库中的所有数据转换成至少一种数据格式的第一数据;
发送模块40,用于将不同数据格式的所述第一数据发送至中间平台上对应数据格式的指定数据库中存储,以供所述目标端服务器从所述中间平台上读取和解析所述第一数据。
在本实施例中,源端服务器的第一获取模块10读取其所管理的第一数据库中存储的所有数据,以及获取所述第一数据库中存储的数据的第一数据类型,其中,所述第一数据库中存储的个数据的数据类型一直;如所管理的源端数据库中包括有RDBMS关系型数据库,如Oracle、Mysql、PostgreSQL、SQL Server等等,用户预先编写好需要读取的第一数据库的第一转换格式代码,在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,第二获取模块20获取到所述第一数据类型对应的第一转换格式代码;当获取到第一数据库中的所有数据后,第一转换模块30通过第一转换格式代码将所有数据转换成至少一种格式的第一数据,发送模块40将不同数据格式的所述第一数据发送至中间平台上对应数据格式的指定数据库中存储,即源端服务器将转换后的第一数据发送到中间平台上存储,以供目标端服务器从所述中间平台上读取和解析所述第一数据,以便目标端服务器需要读取第一数据后,对所述第一数据进行解析得到所需存储格式的数据,减少学习成本,缩短开发周期。
在本实施例中,预先根据需要转换的数据库的数据以及目标端服务器所需应用的格式,用户设置有多种将数据转换成指定格式的代码程序,可以根据转换需求提前设置好对应的转换逻辑,以便根据指定的代码程序转换成对应格式的数据,发送并存储于中间平台中。如在一具体实施例中,需要将源端服务器的某一数据库中的数据的姓名、身份证号码进行转换成指定格式的数据存储于中间平台中,以供目标端服务器从中间平台中读取对应的数据,并进行解析得到对应格式的姓名、身份证号码,存储于目标端服务器对应的数据库中,即可完成数据的读取转换,其他目标端服务器需要该数据时,同样可以从中间平台上进行读取和解析,以得到所需格式要求的数据存储到目标端服务器对应的数据库中。
当源端服务器需读取多个管理的数据库中的第一数据,则可根据提前预设的代码程序对应将每一第一数据进行对应的转换,其中,每一数据库设置有标签,当将数据库中的所有第一数据进行转换成对应格式后,携带有对应的数据标签存储于中间平台上,以便目标端服务器在中间平台上订阅指定的数据。例如:产险理赔有一单报案A001的数据,存储在源端PG数据库中,需要分别被目标端报表系统、报价系统使用,其中报表系统、报价系统分别使用Mysql,Oracle数据库,那么数据转换流程应该为:PG Source-->中间平台-->(MysqlSink,Oracle Sink)-->Mysql,Oracle源端服务器需要实现数据的迁移和转换,以便将数据转移至目标端服务器的数据库中。由于读取和写入(解析)的逻辑是分开实现的,不同的存储产品有不同的读/写接口类,源端服务器主程序在启动时会扫描类路径下继承XXSource和XXSink接口类的处理类,并多线程调用,如源端服务器需要继承PGSource接口类,并在source(…)方法中自定义读取数据的逻辑,目标端服务器需要继承MysqlSink和OracleSink接口类,并在sink(…)方法中自定义解析、组装写入数据的逻辑。
不同的接入系统需要根据预先设置的逻辑实现读取和写入逻辑,根据所使用的存储产品继承中间平台提供的接口类;中间平台提供了源端和目标端两个客户端包,源端提供了接口类,接入系统需要继承接口并自定义读取数据的逻辑,再由源端服务器的kafkaconnect上送至中间平台的kafka服务端,同时目标端服务器中也提供了接口类,也需要由接入系统继承实现解析、组装写入数据的逻辑。
在一实施例中,第一获取模块10包括:
第一识别单元,用于识别所述第一数据库的所属数据类型,其中所述数据类型包括关系型数据类型和非关系型数据类型;
第一获取单元,用于获取所述第一数据库中任意所选择的一个数据的数据子类型;
第一判断单元,用于判断所述数据子类型是否属于所述第一数据库所属的所述数据类型的子类型;
第一执行单元,用于若属于,则将获取到的数据子类型确定为所述第一数据库对应的第一数据类型。
在本实施例中,第一识别单元识别第一数据库的所述数据类型,其中,数据类型包括有关系型数据类型和非关系型数据类型,在所述第一数据库中任意选择其中一个数据,识别其所属的数据子类型,根据所属的数据子类型,第一判断单元判断是否属于所述第一数据库所属的数据类型的子类型,如RDBMS关系型数据库,包括有Oracle、Mysql、PostgreSQL、SQL Server等等,若属于,则第一执行单元获取到的数据子类型确定为第一数据库对应的第一数据类型。
一般情况下,第一识别单元在所述第一数据库中任意识别其中一个数据的数据类型,由于所述第一数据库中存储的各数据的数据类型一致,依据识别到的所述第一数据库中任意一个数据的数据类型,可以确定所述第一数据库对应的所述第一数据类型。
在一实施例中,第一获取模块10还包括:
第二获取单元,用于若不属于,则获取所述数据子类型属于的数据类型,以及获取所述第一数据库中的其他数据所属的数据子类型;
第一判定单元,用于判定所述第一数据库中所有的数据分别所属的数据子类型是否一致;
第二执行单元,用于若一致,则判定所述第一数据库的所属数据类型有误,若不一致,则判定所述其他数据所属的数据子类型是否属于所述第一数据库的所属数据类型;
第二判定单元,用于若所述其他数据所属的数据子类型存在属于所述第一数据库所属数据类型的子类型,则判定不属于所述第一数据库所属数据类型的所述第一数据库的数据为有误数据,并标记。
在本实施例中,若判定所述数据子类型不属于所述第一数据库所属的所述数据类型的子类型,则第二获取单元获取所述数据子类型属于的数据类型,以及获取所述第一数据库中的其他数据所属的数据子类型;第一判定单元以进一步判定所述第一数据库中所有的数据分别所属的数据子类型是否一致,若一致,则第二执行单元判定所述第一数据库的所属数据类型有误,若不一致,则再次判定第一数据库中的其他数据所属的数据子类型是否存在属于所述第一数据库的所属数据类型,如果所述其他数据所属的数据子类型存在属于所述第一数据库所属数据类型,则第二判定单元判定不属于所述第一数据库所属数据类型的所述第一数据库的数据为有误数据,并标记,将标记的数据显示,以便于告知后台第一数据库的数据存在问题,需二次检查。
在一实施例中,数据转换的装置还包括:
第一接收模块,用于接收所述预设的第一数据类型-转换代码列表以及对应不同的数据类型的所述第一转换格式代码,其中,所述第一数据类型-转换代码列表是根据所述源端服务器所需读取的所述第一数据类型以及所需转换成的数据格式生成。
在本实施例中,第一接收模块接收到用户提前预设好每一代码程序进行转换的第一数据类型-转换代码列表以及所述第一转换格式代码,并发送到源端服务器,以便当源端服务器需转换其所管理的第一数据库中的所有数据时,可以从预设的第一数据类型-转换代码列表获取到所述第一数据类型对应的第一转换格式代码。所述第一数据类型-转换代码列表是根据所述源端服务器所需读取的所述第一数据类型以及所需转换成的数据格式生成。
在一具体实施例中,用户系统需要将源端服务器中Mysql数据库中的用户登录记录分别同步到PostgreSQL和Elastic Search,只需要将Mysql数据库中的所有数据转换到指定格式后,发送到中间平台,以便后续目标端服务器再通过PostgreSQL和ElasticSearch的接收目标端服务器从中间平台中获取数据。
在一实施例中,第一转换模块30包括:
第一转换单元,用于通过所述第一转换格式代码,将所述第一数据库中的所有数据进行转换,打包成指定数据格式的密封的第一数据;
存储单元,用于对所有所述第一数据打上数据标签,以供将所述第一数据分类存储于所述中间平台
在本实施例中,第一转换单元预先通过第一转换格式代码将对应的第一数据库中的数据进行转换打包成密封数据,实现将源端服务器的数据库中的数据转换成指定格式的第一数据的方式,存储单元对所有所述第一数据打上数据标签,以供将所述第一数据分类存储于所述中间平台在本实施例中,存在增量同步和一次性迁移的迁移方式,其中,增量同步,是一种持续增量的数据转换过程,适用于源数据有变化的场景,同时还有数据量大,并发量高,数据源高写、高读、高读写等状况。一次性迁移,适用于源数据无态化的转换,数据是不会出现变化的场景。
在一具体实施例中,增量同步包括短信中间件系统需要将每条请求日志记录,同步到Elastic Search系统,为全文分词搜索提供基础数据,这种场景其数据量是不断增加的,并且由于是短信中间件系统,日志记录的数量也会非常的大,数据会持续不断的上送到kafka服务端,并保存一个时间段(可以配置),目标端服务器则会持续的订阅数据,并解析存储于目标端服务器对应的存储库中。
在另一实施例中,车险理赔系统的数据转换的一次性迁移,由于业务线的不断增长,系统原有的数据库产品Mysql已经无法支撑现有的业务规模,需要更换为Oracle,由于需要切换数据库,升级期间需停止系统一段时间,以用于迁移数据到Oracle,由于车险理赔的数据量是非常大的,无法将数据全部迁移到Oracle,这时可以通过中间平台,接入系统将数据库切换,重启应用将数据通过异步方式同步到Oracle。
综上所述,为本申请实施例中提供的数据转换的装置,通过在源端服务器中利用代码对所管理的数据库中的所有数据进行转换,并传送至中间平台上存储,以便目标端服务器可以订阅存储于中间平台上的数据,再次转换以便得到所需要的数据,转换简单,无需针对每一数据进行多次转换,节省成本,缩短时间。
参照图4,本申请另一实施例中还提供了一种数据转换的装置,应用于目标端服务器,所述目标端服务器包括:
读取模块100,用于根据需要从中间平台的指定数据库中读取所有数据,以及获取所述指定数据库中存储的数据的第二数据类型,其中,所述指定数据库中的所有数据为源端服务器所管理的至少一个数据库中的所有数据转换的数据,所述指定数据库中存储的各数据的数据类型一致;
第三获取模块200,用于在预设的第二转换代码数据库中,根据预设的第二数据类型-转换代码列表,获取所述第二数据类型对应的第二转换格式代码;
第二转换模块300,用于通过所述第二转换格式代码,将所述指定数据库中的所有数据转换成对应格式的所述第二数据,并存储于所述目标端服务器对应数据格式的数据库中。
本一实施例中,目标端服务器的读取模块100根据需要从中间平台的指定数据库中读取所有数据,该指定数据库中的所有数据为需转换存储于目标端服务器的数据库中的数据,目标服务器从所述中间平台上的指定数据库中读取数据,以及获取该指定数据库中存储的数据的第二数据类型,其中,指定数据库中的所有数据为源端服务器所管理的至少一个数据库中的所有数据转换的数据,且所述指定数据库中存储的各数据的数据类型一致;根据第二数据类型,在预设第二转换代码数据库中,根据预设的第二数据类型-转换代码列表,第三获取模块200获取第二数据类型对应的第二转换格式代码,第二转换模块300并通过第二转换格式代码将指定数据库中的所有数据转换成对应格式的第二数据,将该第二数据存储于目标端服务器对应数据格式的数据库中。
在另一实施例中,根据需要转换存储于目标端服务器的数据库的数据格式,用户预先设置好用于将数据转换成指定格式的代码程序,可以根据转换需求提前设置好对应的转换逻辑,以便根据指定的第二转换格式代码转换成对应格式的第二数据,用于存储于目标端存储库中,减少学习成本,缩短开发周期。
在所述指定数据库中任意识别其中一个数据的数据类型,由于所述指定数据库中存储的各数据的数据类型一致,依据识别到的所述指定数据库中任意一个数据的数据类型,可以确定所述指定数据库对应的所述第二数据类型。
在一实施例中,数据转换的装置还包括:
第二接收模块,用于接收所述预设的第二数据类型-转换代码列表以及对应不同的数据类型的所述第二转换格式代码,其中,所述第二数据类型-转换代码列表是根据所述源端服务器所需读取的所述第二数据类型以及所需转换成的数据格式生成。
在一实施例中用户需提前预设好每一代码程序进行转换的第二数据类型-转换代码列表以及所述第二转换格式代码,并发送到目标端服务器,以便当目标端服务器需转换读取到的指定数据库中的所有数据时,可以从预设的第二数据类型-转换代码列表获取到所述第二数据类型对应的第二转换格式代码。
综上所述,为本申请另一实施例中提供的数据转换的装置,通过在目标端服务器中利用代码对读取到的数据库中的所有数据进行转换并存储,转换简单,节省成本,缩短时间。
参照图5,本申请实施例中还提供一种计算机设备,该计算机设备可以是服务器,其内部结构可以如图5所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中,该计算机设计的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储转换代码等数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种数据转换的方法。
上述处理器执行上述数据转换的方法,应用于源端服务器,包括的步骤:
源端服务器读取任一第一数据库中所有数据的第一数据类型,其中,所述第一数据库中各数据的数据类型一致;
在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取所述第一数据类型对应的第一转换格式代码;
通过所述第一转换格式代码,将所述第一数据库中的所有数据转换成至少一种数据格式的第一数据;
将不同数据格式的所述第一数据发送至中间平台上对应数据格式的指定数据库中存储,以供所述目标端服务器从所述中间平台上读取和解析所述第一数据。
在一实施例中,所述处理器读取任一第一数据库中所有数据的第一数据类型的步骤,包括:
识别所述第一数据库的所属数据类型,其中所述数据类型包括关系型数据类型和非关系型数据类型;
获取所述第一数据库中任意所选择的一个数据的数据子类型;
判断所述数据子类型是否属于所述第一数据库所属的所述数据类型的子类型;
若属于,则将获取到的数据子类型确定为所述第一数据库对应的第一数据类型。
在一实施例中,所述处理器判断所述数据子类型是否属于所述第一数据库所属的所述数据类型的子类型的步骤之后,还包括:
若不属于,则获取所述数据子类型属于的数据类型,以及获取所述第一数据库中的其他数据所属的数据子类型;
判定所述第一数据库中所有的数据分别所属的数据子类型是否一致;
若一致,则判定所述第一数据库的所属数据类型有误,若不一致,则判定所述其他数据所属的数据子类型是否属于所述第一数据库的所属数据类型;
若所述其他数据所属的数据子类型存在属于所述第一数据库所属数据类型的子类型,则判定不属于所述第一数据库所属数据类型的所述第一数据库的数据为有误数据,并标记。
在一实施例中,所述处理器在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取所述第一数据类型对应的第一转换格式代码的步骤之前,还包括:
接收所述预设的第一数据类型-转换代码列表以及对应不同的数据类型的所述第一转换格式代码,其中,所述第一数据类型-转换代码列表是根据所述源端服务器所需读取的所述第一数据类型以及所需转换成的数据格式生成。
上述处理器执行上述数据转换的方法,应用于目标端服务器,包括的步骤:
目标端服务器根据需要从中间平台的指定数据库中读取所有数据,以及获取所述指定数据库中存储的数据的第二数据类型,其中,所述指定数据库中的所有数据为源端服务器所管理的至少一个数据库中的所有数据转换的数据,所述指定数据库中存储的各数据的数据类型一致;
在预设的第二转换代码数据库中,根据预设的第二数据类型-转换代码列表,获取所述第二数据类型对应的第二转换格式代码;
通过所述第二转换格式代码,将所述指定数据库中的所有数据转换成对应格式的所述第二数据,并存储于所述目标端服务器对应数据格式的数据库中。
本领域技术人员可以理解,图5中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定。
本申请一实施例还提供一种计算机存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现一种数据转换的方法,应用于源端服务器,具体为:
源端服务器读取任一第一数据库中所有数据的第一数据类型,其中,所述第一数据库中各数据的数据类型一致;
在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取所述第一数据类型对应的第一转换格式代码;
通过所述第一转换格式代码,将所述第一数据库中的所有数据转换成至少一种数据格式的第一数据;
将不同数据格式的所述第一数据发送至中间平台上对应数据格式的指定数据库中存储,以供所述目标端服务器从所述中间平台上读取和解析所述第一数据。
在一实施例中,所述处理器读取任一第一数据库中所有数据的第一数据类型的步骤,包括:
识别所述第一数据库的所属数据类型,其中所述数据类型包括关系型数据类型和非关系型数据类型;
获取所述第一数据库中任意所选择的一个数据的数据子类型;
判断所述数据子类型是否属于所述第一数据库所属的所述数据类型的子类型;
若属于,则将获取到的数据子类型确定为所述第一数据库对应的第一数据类型。
在一实施例中,所述处理器判断所述数据子类型是否属于所述第一数据库所属的所述数据类型的子类型的步骤之后,还包括:
若不属于,则获取所述数据子类型属于的数据类型,以及获取所述第一数据库中的其他数据所属的数据子类型;
判定所述第一数据库中所有的数据分别所属的数据子类型是否一致;
若一致,则判定所述第一数据库的所属数据类型有误,若不一致,则判定所述其他数据所属的数据子类型是否属于所述第一数据库的所属数据类型;
若所述其他数据所属的数据子类型存在属于所述第一数据库所属数据类型的子类型,则判定不属于所述第一数据库所属数据类型的所述第一数据库的数据为有误数据,并标记。
在一实施例中,所述处理器在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取所述第一数据类型对应的第一转换格式代码的步骤之前,还包括:
接收所述预设的第一数据类型-转换代码列表以及对应不同的数据类型的所述第一转换格式代码,其中,所述第一数据类型-转换代码列表是根据所述源端服务器所需读取的所述第一数据类型以及所需转换成的数据格式生成。
本申请另一实施例还提供一种计算机存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现一种数据转换的方法,应用于目标端服务器,具体为:
目标端服务器根据需要从中间平台的指定数据库中读取所有数据,以及获取所述指定数据库中存储的数据的第二数据类型,其中,所述指定数据库中的所有数据为源端服务器所管理的至少一个数据库中的所有数据转换的数据,所述指定数据库中存储的各数据的数据类型一致;
在预设的第二转换代码数据库中,根据预设的第二数据类型-转换代码列表,获取所述第二数据类型对应的第二转换格式代码;
通过所述第二转换格式代码,将所述指定数据库中的所有数据转换成对应格式的所述第二数据,并存储于所述目标端服务器的数据库中。
综上所述,为本申请实施例中提供的数据转换的方法、装置、计算机设备和存储介质,通过在源端服务器中利用代码对所管理的数据库中的所有数据进行转换,并传送至中间平台上存储,以便目标端服务器可以订阅存储于中间平台上的数据,再次转换以便得到所需要的数据,转换简单,无需针对每一数据进行多次转换,节省成本,缩短时间。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储与一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的和实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM通过多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双速据率SDRAM(SSRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其它变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、装置、物品或者方法不仅包括那些要素,而且还包括没有明确列出的其它要素,或者是还包括为这种过程、装置、物品或者方法所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、装置、物品或者方法中还存在另外的相同要素。
以上所述仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其它相关的技术领域,均同理包括在本申请的专利保护范围内。

Claims (10)

1.一种数据转换的方法,应用于源端服务器,其特征在于,包括以下步骤:
源端服务器读取任一第一数据库中所有数据的第一数据类型,其中,所述第一数据库中各数据的数据类型一致;
在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取所述第一数据类型对应的第一转换格式代码;
通过所述第一转换格式代码,将所述第一数据库中的所有数据转换成至少一种数据格式的第一数据;
将不同数据格式的所述第一数据发送至中间平台上对应数据格式的指定数据库中存储,以供目标端服务器从所述中间平台上读取和解析所述第一数据。
2.根据权利要求1所述的数据转换的方法,其特征在于,所述读取任一第一数据库中所有数据的第一数据类型的步骤,包括:
识别所述第一数据库的所属数据类型,其中所述数据类型包括关系型数据类型和非关系型数据类型;
获取所述第一数据库中任意所选择的一个数据的数据子类型;
判断所述数据子类型是否属于所述第一数据库所属数据类型的子类型;
若属于,则将获取到的数据子类型确定为所述第一数据库对应的第一数据类型。
3.根据权利要求2所述的数据转换的方法,其特征在于,所述判断所述数据子类型是否属于所述第一数据库所属数据类型的子类型的步骤之后,还包括:
若不属于,则获取所述数据子类型属于的数据类型,以及获取所述第一数据库中的其他数据所属的数据子类型;
判定所述第一数据库中所有的数据分别所属的数据子类型是否一致;
若一致,则判定所述第一数据库的所属数据类型有误,若不一致,则判定所述其他数据所属的数据子类型是否属于所述第一数据库所属数据类型;
若所述其他数据所属的数据子类型存在属于所述第一数据库所属数据类型的子类型,则判定不属于所述第一数据库所属数据类型的所述第一数据库的数据为有误数据,并标记。
4.根据权利要求1所述的数据转换的方法,其特征在于,所述在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取所述第一数据类型对应的第一转换格式代码的步骤之前,还包括:
接收所述预设的第一数据类型-转换代码列表以及对应不同的数据类型的所述第一转换格式代码,其中,所述第一数据类型-转换代码列表是根据所述源端服务器所需读取的所述第一数据类型以及所需转换成的数据格式生成。
5.根据权利要求1所述的数据转换的方法,其特征在于,所述通过所述第一转换格式代码,将所述第一数据库中的所有数据转换成至少一种数据格式的第一数据的步骤,包括:
通过所述第一转换格式代码,将所述第一数据库中的所有数据进行转换,打包成指定数据格式的密封的第一数据;
对所有所述第一数据打上数据标签,以供将所述第一数据分类存储于所述中间平台。
6.一种数据转换的方法,应用于目标端服务器,其特征在于,包括以下步骤:
目标端服务器根据需要从中间平台的指定数据库中读取所有数据,以及获取所述指定数据库中存储的数据的第二数据类型,其中,所述指定数据库中的所有数据为源端服务器所管理的至少一个数据库中的所有数据转换的数据,所述指定数据库中存储的各数据的数据类型一致;
在预设的第二转换代码数据库中,根据预设的第二数据类型-转换代码列表,获取所述第二数据类型对应的第二转换格式代码;
通过所述第二转换格式代码,将所述指定数据库中的所有数据转换成对应格式的所述第二数据,并存储于所述目标端服务器对应数据格式的数据库中。
7.一种数据转换的装置,其特征在于,应用于源端服务器,所述源端服务器包括:
第一获取模块,用于读取任一第一数据库中所有数据的第一数据类型,其中,所述第一数据库中各数据的数据类型一致;
第二获取模块,用于在预设的第一转换代码数据库中,根据预设的第一数据类型-转换代码列表,获取所述第一数据类型对应的第一转换格式代码;
第一转换模块,用于通过所述第一转换格式代码,将所述第一数据库中的所有数据转换成至少一种数据格式的第一数据;
发送模块,用于将不同数据格式的所述第一数据发送至中间平台上对应数据格式的指定数据库中存储,以供所述目标端服务器从所述中间平台上读取和解析所述第一数据。
8.一种数据转换的装置,其特征在于,应用于目标端服务器,所述目标端服务器包括:
读取模块,用于根据需要从中间平台的指定数据库中读取所有数据,以及获取所述指定数据库中存储的数据的第二数据类型,其中,所述指定数据库中的所有数据为源端服务器所管理的至少一个数据库中的所有数据转换的数据,所述指定数据库中存储的各数据的数据类型一致;
第三获取模块,用于在预设的第二转换代码数据库中,根据预设的第二数据类型-转换代码列表,获取所述第二数据类型对应的第二转换格式代码;
第二转换模块,用于通过所述第二转换格式代码,将所述指定数据库中的所有数据转换成对应格式的所述第二数据,并存储于所述目标端服务器的数据库中。
9.一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1-3或4-6中任一项所述方法的步骤。
10.一种计算机存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-3或4-6中任一项所述的方法的步骤。
CN201910463020.5A 2019-05-30 2019-05-30 数据转换的方法、装置、计算机设备和存储介质 Active CN110334141B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910463020.5A CN110334141B (zh) 2019-05-30 2019-05-30 数据转换的方法、装置、计算机设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910463020.5A CN110334141B (zh) 2019-05-30 2019-05-30 数据转换的方法、装置、计算机设备和存储介质

Publications (2)

Publication Number Publication Date
CN110334141A true CN110334141A (zh) 2019-10-15
CN110334141B CN110334141B (zh) 2023-11-21

Family

ID=68140695

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910463020.5A Active CN110334141B (zh) 2019-05-30 2019-05-30 数据转换的方法、装置、计算机设备和存储介质

Country Status (1)

Country Link
CN (1) CN110334141B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111427938A (zh) * 2020-03-18 2020-07-17 中国建设银行股份有限公司 数据转存的方法和装置
CN112874315A (zh) * 2021-01-13 2021-06-01 深圳市奇虎智能科技有限公司 平衡车的运动控制方法、装置、设备及存储介质
CN112995258A (zh) * 2019-12-17 2021-06-18 南京品尼科自动化有限公司 一种机房环境监测前置机
CN117743436A (zh) * 2023-12-16 2024-03-22 中国人寿保险股份有限公司 数据交换方法、装置、计算机设备和存储介质

Citations (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1324031A (zh) * 2000-02-25 2001-11-28 株式会社东芝 多平台环境下的字符码转换系统以及计算机可读记录介质
US20050149537A1 (en) * 2003-09-26 2005-07-07 Dmitry Balin Apparatus and method for database migration
US20050253739A1 (en) * 2004-05-14 2005-11-17 Oracle International Corporation Cross platform transportable tablespaces
US7290003B1 (en) * 2004-08-19 2007-10-30 Sun Microsystems, Inc. Migrating data using an intermediate self-describing format
US20090287726A1 (en) * 2006-04-07 2009-11-19 Mag Productions Holding B.V. Method and system for synchronization of databases
US20110060719A1 (en) * 2009-09-05 2011-03-10 Vivek Kapoor Method for Transforming Setup Data in Business Applications
CN102970112A (zh) * 2012-11-30 2013-03-13 中国电子科技集团公司第十五研究所 一种传输系统数据的系统及方法
CN103226545A (zh) * 2013-04-19 2013-07-31 中国建设银行股份有限公司 数据格式转换的系统、批量导入贷款信息的方法和系统
CN103914526A (zh) * 2014-03-27 2014-07-09 神华集团有限责任公司 一种用于sap erp系统与oracle erp系统的接口方法和装置
CN104376062A (zh) * 2014-11-11 2015-02-25 中国有色金属长沙勘察设计研究院有限公司 一种异构数据库平台数据的同步方法
CN105205117A (zh) * 2015-09-09 2015-12-30 郑州悉知信息科技股份有限公司 一种数据表迁移方法和装置
WO2016101752A1 (zh) * 2014-12-22 2016-06-30 北京奇虎科技有限公司 数据同步方法及装置
CN106202111A (zh) * 2015-05-06 2016-12-07 阿里巴巴集团控股有限公司 数据库数据的校验方法和装置
US20170060695A1 (en) * 2015-08-31 2017-03-02 Paypal, Inc. Data replication between databases with heterogenious data platforms
CN106649788A (zh) * 2016-12-28 2017-05-10 深圳启润德管理咨询有限公司 一种数据库数据传输方法与装置
CN108021661A (zh) * 2017-12-04 2018-05-11 北京锐安科技有限公司 一种数据格式转换方法及系统
CN108121757A (zh) * 2017-11-10 2018-06-05 广州优视网络科技有限公司 一种数据同步方法、装置、系统、计算设备及存储介质
CN108399256A (zh) * 2018-03-06 2018-08-14 北京慧萌信安软件技术有限公司 异构数据库内容同步方法、装置及中间件
US10248736B1 (en) * 2016-09-19 2019-04-02 Sprint Communications Company L.P. Data loader and mapper tool

Patent Citations (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1324031A (zh) * 2000-02-25 2001-11-28 株式会社东芝 多平台环境下的字符码转换系统以及计算机可读记录介质
US20050149537A1 (en) * 2003-09-26 2005-07-07 Dmitry Balin Apparatus and method for database migration
US20050253739A1 (en) * 2004-05-14 2005-11-17 Oracle International Corporation Cross platform transportable tablespaces
US7290003B1 (en) * 2004-08-19 2007-10-30 Sun Microsystems, Inc. Migrating data using an intermediate self-describing format
US20090287726A1 (en) * 2006-04-07 2009-11-19 Mag Productions Holding B.V. Method and system for synchronization of databases
US20110060719A1 (en) * 2009-09-05 2011-03-10 Vivek Kapoor Method for Transforming Setup Data in Business Applications
CN102970112A (zh) * 2012-11-30 2013-03-13 中国电子科技集团公司第十五研究所 一种传输系统数据的系统及方法
CN103226545A (zh) * 2013-04-19 2013-07-31 中国建设银行股份有限公司 数据格式转换的系统、批量导入贷款信息的方法和系统
CN103914526A (zh) * 2014-03-27 2014-07-09 神华集团有限责任公司 一种用于sap erp系统与oracle erp系统的接口方法和装置
CN104376062A (zh) * 2014-11-11 2015-02-25 中国有色金属长沙勘察设计研究院有限公司 一种异构数据库平台数据的同步方法
WO2016101752A1 (zh) * 2014-12-22 2016-06-30 北京奇虎科技有限公司 数据同步方法及装置
CN106202111A (zh) * 2015-05-06 2016-12-07 阿里巴巴集团控股有限公司 数据库数据的校验方法和装置
US20170060695A1 (en) * 2015-08-31 2017-03-02 Paypal, Inc. Data replication between databases with heterogenious data platforms
CN105205117A (zh) * 2015-09-09 2015-12-30 郑州悉知信息科技股份有限公司 一种数据表迁移方法和装置
US10248736B1 (en) * 2016-09-19 2019-04-02 Sprint Communications Company L.P. Data loader and mapper tool
CN106649788A (zh) * 2016-12-28 2017-05-10 深圳启润德管理咨询有限公司 一种数据库数据传输方法与装置
CN108121757A (zh) * 2017-11-10 2018-06-05 广州优视网络科技有限公司 一种数据同步方法、装置、系统、计算设备及存储介质
CN108021661A (zh) * 2017-12-04 2018-05-11 北京锐安科技有限公司 一种数据格式转换方法及系统
CN108399256A (zh) * 2018-03-06 2018-08-14 北京慧萌信安软件技术有限公司 异构数据库内容同步方法、装置及中间件

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112995258A (zh) * 2019-12-17 2021-06-18 南京品尼科自动化有限公司 一种机房环境监测前置机
CN112995258B (zh) * 2019-12-17 2023-12-29 南京品尼科自动化有限公司 一种机房环境监测前置机
CN111427938A (zh) * 2020-03-18 2020-07-17 中国建设银行股份有限公司 数据转存的方法和装置
CN111427938B (zh) * 2020-03-18 2023-08-29 中国建设银行股份有限公司 数据转存的方法和装置
CN112874315A (zh) * 2021-01-13 2021-06-01 深圳市奇虎智能科技有限公司 平衡车的运动控制方法、装置、设备及存储介质
CN117743436A (zh) * 2023-12-16 2024-03-22 中国人寿保险股份有限公司 数据交换方法、装置、计算机设备和存储介质

Also Published As

Publication number Publication date
CN110334141B (zh) 2023-11-21

Similar Documents

Publication Publication Date Title
CN110334141A (zh) 数据转换的方法、装置、计算机设备和存储介质
CN110399293B (zh) 系统测试方法、装置、计算机设备和存储介质
US9165047B2 (en) Data synchronization system and method
US8990536B2 (en) Systems and methods for journaling and executing device control instructions
CN108874926A (zh) 海量数据查询方法、装置、计算机设备和存储介质
EP1662380A2 (en) Time stamp methods for unified plant model
CN101405728B (zh) 具有动态加载能力的关系数据库架构
CN110290212A (zh) 服务调用记录方法、装置、计算机设备和存储介质
CN106528165A (zh) 代码生成方法及代码生成系统
CN102360308A (zh) 组件的分布式部署系统和方法
CN115129736A (zh) 基于规则引擎的规则事件动态加载与更新方法及相关设备
US20080010535A1 (en) Automated and configurable system for tests to be picked up and executed
CN101371230B (zh) 向网络报告信息
CN101800661B (zh) 网元开通的方法及系统
CN109241184A (zh) 数据同步方法、装置、计算机设备和存储介质
CN113542390B (zh) 一种采用内存数据模型的物联网设备管理方法及系统
CN110109712A (zh) 业务组件加载方法、装置、计算机设备和存储介质
CN108363612A (zh) 基于类装载器实现的j2ee模块热部署及调用信息统计方法
CN109146095A (zh) 多业务系统问题的处理方法和装置
CN116661756B (zh) 一种基于低代码dsl的对象解析方法及装置
US20070174697A1 (en) Generic, WSRF-compliant checkpointing for WS-Resources
CN110213067B (zh) 业务请求的跟踪信息处理方法、装置和系统
CN110209717B (zh) 基础数据库的封装方法、装置、计算机设备和存储介质
Tobler Camera base
CN101976255B (zh) 网页信息批量导出生成word文档的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant