CN113159970A - 数据格式转换方法、装置、系统、电子设备及存储介质 - Google Patents

Abstract

本公开提供了一种数据格式转换方法、装置、系统、电子设备及存储介质，应用于金融科技领域，包括：获取第一数据；获取所述第一数据的第一数据格式和所述第一数据将要转换的第二数据格式；定制所述第一数据格式与所述第二数据格式之间的格式转换算法；根据所述格式转换算法，将所述第一数据转换为具有第二数据格式的第二数据。该方法可通过自定义格式转换规则，将任意格式的数据转换为指定的格式，避免了反复为不同数据格式之间的转换进行编码，从而提升开发效率。

Description

数据格式转换方法、装置、系统、电子设备及存储介质

技术领域

本公开涉及金融领域，更具体地，涉及一种数据格式转换方法、装置、系统、电子设备及存储介质。

背景技术

一个企业内部涉及到很多系统，系统间常常需要做数据转发。由于不同系统间数据传输接口不尽相同，系统间进行数据传输常常会遇到这样一种场景：采集上报系统A实时采集其他业务系统B、C、D的数据，然后采集上报系统A将采集的数据转发给各个数据接收系统E、F、G。由于不同的采集上报系统A的采集接口和采集数据格式千差万别，且业务系统B、C、D及数据接收系统E、F、G的接口格式也不都一样，因此，常常需要人工开发，使采集上报系统A的接口与系统B、C、D、E、F、G的接口对接，工作量很大。

发明内容

有鉴于此，本公开提供了一种数据格式转换方法、装置、系统、电子设备及存储介质。

本公开的一个方面提供了一种数据格式转换方法，包括：获取第一数据；获取所述第一数据的第一数据格式和所述第一数据将要转换的第二数据格式；定制所述第一数据格式与所述第二数据格式之间的格式转换算法；根据所述格式转换算法，将所述第一数据转换为具有第二数据格式的第二数据。

根据本公开的实施例，其中，所述定制所述第一数据格式与所述第二数据格式之间的格式转换算法包括：根据将所述第一数据格式转换为所述第二数据格式的转换规则，制定转换流程；根据所述转换流程的各个步骤，分别从预设数据处理算法库中选取执行各个步骤所需的数据处理算法，构成所述格式转换算法。

根据本公开的实施例，其中，通过页面展示的步骤下拉框依次选择所述转换流程的各个步骤，构成所述转换流程；通过页面展示的算法下拉框选择于各所述步骤对应的数据处理算法，构成所述格式转换算法。

根据本公开的实施例，其中，所述转换流程中的步骤至少包括：将所述第一数据拆分为多个数据列；从各所述数据列中截取字符串；所述字符串中选择关键字，并将所述关键字转换为满足所述第二数据格式的关键字；将转换得到的关键字与对应的所述数据列中的数据重新连接组合，生成第二数据。

根据本公开的实施例，其中，所述转换流程中的步骤还包括：将所述数据列进行过滤或反过滤，以筛选指定字符串或正则表达书；和/或将多个所述数据列进行拼接；和/或给所述数据列、所述字符串增加前缀或后缀；和/或去除多余的字符串。

根据本公开的实施例，所述获取所述第一数据包括：从上游数据系统获取所述第一数据；将所述第一数据存储于Kafka队列中；依次从所述Kafka队列中取出所述第一数据，存储于第一数据库中，以待进行数据格式转换。

根据本公开的实施例，其中，所述从上游数据系统获取所述第一数据包括：当所述上游数据系统检测到其所包含的第二数据库中存在数据变化时，将所述第二数据库中变化的数据作为所述第一数据接收。

根据本公开的实施例，还包括：将所述第二数据存储于第三数据库中，以使所述第二数据可查。

根据本公开的实施例，还包括：将所述第二数据转发给下游数据系统。

本公开另一方面提供了一种数据格式转换装置，包括：数据获取模块，用于获取第一数据；格式获取模块，用于获取所述第一数据的第一数据格式和所述第一数据将要转换的第二数据格式；转换算法定制模块，用于定制所述第一数据格式与所述第二数据格式之间的格式转换算法；数据转换模块，用于根据所述格式转换算法，将所述第一数据转换为具有第二数据格式的第二数据。

根据本公开的实施例，其中，所述转换算法定制模块包括：转换规则定制单元，用于根据将所述第一数据格式转换为所述第二数据格式的转换规则，制定转换流程；转换算法组合单元，用于根据所述转换流程的各个步骤，分别从预设数据处理算法库中选取执行各个步骤所需的数据处理算法，构成所述格式转换算法。

根据本公开的实施例，其中，所述转换算法定制模块还包括：流程定制页面，用于展示的步骤下拉框，使用户依次选择所述转换流程的各个步骤，构成所述转换流程；算法选择页面，用于展示算法下拉框，使用户选择于各所述步骤对应的数据处理算法，构成所述格式转换算法。

本公开另一方面提供了一种计算机系统，包括：如第二方面任一项所述的数据格式转换装置。

本公开另一方面提供了一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个程序，其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现第一方面中任一项所述的方法。

本公开另一方面提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器实现第一方面中任一项所述的方法。

根据本公开的实施例，首先，根据数据本身的格式和该数据将要转换成为的格式定制转换流程，然后，根据该转换流程生成相应的转换算法，使该数据根据定制的转换流程转换为指定的格式，该方法可实现转换流程的自定义，使数据格式之间的转换方式灵活多变，进而实现不同格式之间的自由转换，避免了开发人员面对不同的数据接口需要进行不同的编码，使开发人员不必进行重复编写接口的工作，大大降低开发人员的工作量，提升开发效率。此外，该方法的实现可通过页面展示实现，通过页面展示出的可选则的流程步骤和执行各步骤的数据处理算法，使该方法的应用操作简便，对转换流程及算法的展示更直观，可操作性强。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本公开实施例的数据格式转换方法的应用场景；

图2示意性示出了可以应用本公开的用于数据格式转换方法和装置的示例性系统架构；

图3示意性示出了根据本公开实施例的数据格式转换方法的流程图；

图4A示意性示出了根据本公开实施例的数据格式转换方法的步骤S330的流程示意图；

图4B示意性示出了根据本公开实施例的步骤S330的实施示意图；

图5示意性示出了根据本公开实施例的转换流程的示意图；

图6示意性示出了根据本公开另一实施例的转换流程的示意图；

图7示意性示出了根据本公开另一实施例的数据格式转换方法的流程图；

图8A示意性示出了根据本公开实施例的数据格式转换装置的框图；

图8B示意性示出了根据本公开实施例的数据格式转换装置的转换算法定制模块的框图；

图8C示意性示出了根据本公开另一实施例的数据格式转换装置的转换算法定制模块的框图；

图9示意性示出了根据本公开实施例的计算机系统的示意图；

图10示意性示出了根据本公开实施例的电子设备1000的框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。

本公开的实施例提供了一种数据格式转换方法、装置、计算机系统、电子设备及计算机可读存储介质。该方法包括定制格式转换规则和格式转换两个部分。在定制格式转换规则中，开发人员可根据自身需要定制将为第一数据格式的第一数据转换为第二数据格式的第二数据的转换流程，并确定执行转换流程中各步骤的算法。基于接收的身份识别信号，多个机器人可以彼此相互识别。在完成转换规则的定制之后，进入格式转换过程，将第一数据转换为第二数据。该方法可根据实际需求灵活定制格式转换规则，适应性强，自由度高。

图1示意性示出了根据本公开实施例的数据格式转换方法的应用场景。

如图1所示，在该应用场景中，采集上报系统A会实时采集业务系统B、C、D的数据，其中，业务系统B、C、D的数据的格式可以均不相同，数据经过采集上报系统A转换整理后发送到业务系统E、F、G，其中，业务系统E、F、G的采集接口和采集数据格式不同。在此条件下，为了使各业务系统之间能进行有效的数据传送，开发人员需要针对各相互交互的业务系统开发能相互通信的结构，甚至需要单独开发数据格式转换代码。由于数据格式的类型众多，若一一进行不同数据格式之间的转换代码的开发，需要消耗大量的人力和开发时间，开发成本太高。

图2示意性示出了根据本公开实施例的可以应用数据格式转换方法、装置的示例性系统架构200。需要注意的是，图2所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。

图2示意性示出了可以应用本公开的用于数据格式转换方法和装置的示例性系统架构。

如图2所示，根据该实施例的系统架构200可以包括终端设备201、202、203，网络204和服务器205。网络204用以在终端设备201、202、203和服务器205之间提供通信链路的介质。网络204可以包括各种连接类型，例如有线和/或无线通信链路等等。

用户可以使用终端设备201、202、203通过网络204与服务器205交互，以接收或发送数据等。终端设备201、202、203上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)，各类应用的数据格式可以相同或不同。

终端设备201、202、203可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器205可以是提供各种服务的服务器，例如对用户利用终端设备201、202、203所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行格式转换等处理，并将处理得到的数据(例如根据用户请求获取或生成的网页、信息、或数据等)转发给其他终端设备。

需要说明的是，本公开实施例所提供的数据格式转换方法一般可以由服务器205执行。相应地，本公开实施例所提供的数据格式转换装置一般可以设置于服务器205中。本公开实施例所提供的数据格式转换方法也可以由不同于服务器205且能够与终端设备201、202、203和/或服务器205通信的服务器或服务器集群执行。相应地，本公开实施例所提供的数据格式转换装置也可以设置于不同于服务器205且能够与终端设备201、202、203和/或服务器205通信的服务器或服务器集群中。或者，本公开实施例所提供的数据格式转换方法也可以由终端设备201、202、或203执行，或者也可以由不同于终端设备201、202、或203的其他终端设备执行。相应地，本公开实施例所提供的数据格式转换装置也可以设置于终端设备201、202、或203中，或设置于不同于终端设备201、202、或203的其他终端设备中。

例如，第一数据可以原本存储在终端设备201、202、或203中的任意一个(例如，终端设备201，但不限于此)之中，或者存储在外部存储设备上并可以导入到终端设备201中。然后，终端设备201可以在本地执行本公开实施例所提供的数据格式转换方法，或者将第一数据发送到其他终端设备、服务器、或服务器集群，并由接收该第一数据的其他终端设备、服务器、或服务器集群来执行本公开实施例所提供的数据格式转换方法。

应该理解，图2中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

图3示意性示出了根据本公开实施例的一种数据格式转换方法的流程图。

如图3所示，本公开实施例提供的一种数据格式转换方法包括操作S310～S340。

在操作S310，获取第一数据。

在本公开实施例中，第一数据可以为任何具有一行数据格式的数据，从生成该第一数据的业务系统中获得。

在操作S320，获取所述第一数据的第一数据格式和所述第一数据将要转换的第二数据格式。

在本公开实施例中，可以是开发人员已知第一数据和第二数据的数据格式，也可以是执行该数据格式转换方法的装置或设备在获取第一数据后，基于预存与本地的数据格式类型分析所述第一数据，获取该第一数据的数据格式类型，第二数据格式可基于接收该第一数据的接口所适应的数据合适确定。

在操作S330，定制所述第一数据格式与所述第二数据格式之间的格式转换算法。

在本公开实施例中，格式转换算法具体根据操作S331～S332定制，该定制过程无需对不同数据格式之间的转换一一编写转换代码，而是将各转换步骤代码分别撰写后，通过将多个转换步骤组合的方式获得不同格式之间的转换流程，构成格式转换算法。基于操作S330，可针对不同的格式转换灵活的生成不同的格式转换算法，实现任意格式两两之间的自由转换，该方法灵活性高，操作简便，能极大提升开发人员的开发效率。

在操作S340，根据所述格式转换算法，将所述第一数据转换为具有第二数据格式的第二数据。

根据本公开的实施例提供的数据格式转换方法，首先，根据数据本身的格式和该数据将要转换成为的格式定制转换流程，然后，根据该转换流程生成相应的转换算法，使该数据根据定制的转换流程转换为指定的格式，该方法可实现转换流程的自定义，使数据格式之间的转换方式灵活多变，进而实现不同格式之间的自由转换，避免了开发人员面对不同的数据接口需要进行不同的编码，使开发人员不必进行重复编写接口的工作，大大降低开发人员的工作量，提升开发效率。此外，该方法的实现可通过页面展示实现，通过页面展示出的可选则的流程步骤和执行各步骤的数据处理算法，使该方法的应用操作简便，对转换流程及算法的展示更直观，可操作性强。

下面将对本公开实施例提供的数据格式转换方法中的各个步骤进行详细说明。

图4A示意性示出了根据本公开实施例的数据格式转换方法的步骤S330的流程示意图。

如图4A所示，操作S330，定制所述第一数据格式与所述第二数据格式之间的格式转换算法包括，包括操作S410～S420。

在操作S410，根据将所述第一数据格式转换为所述第二数据格式的转换规则，制定转换流程。

在本公开实施例中，预设有多个基础转换步骤，例如，将第一数据拆分为多个数据列、提取各数据列中的字符串、将数据列中的关键字转换为第二数据格式的关键字、增加前缀或增加后缀等。对于不同格式之间的转换，必然存在一个转换流程，通过将多个基础转换步骤按照转换流程进行组合，即可得到实现两格式之间转换的完整操作过程。

在操作S420，根据所述转换流程的各个步骤，分别从预设数据处理算法库中选取执行各个步骤所需的数据处理算法，构成所述格式转换算法。

在本公开实施例中，定制好转换流程的各个步骤后，还需根据实际的转换需求，设置执行该步骤的数据处理算法，甚至给该数据处理算法预设一些处理参数，以实现该处理步骤。例如，从正则表达式中提取指定长度或指定的字符串，就需设置识别长度以及字符串的特征参数。各个步骤的数据处理算法根据转换流程组合在一起，即形成了格式转换算法。

图4B示意性示出了根据本公开实施例的步骤S330的实施示意图。

如图4B所示，操作S330具体可以通过页面提供的选择框进行实现，包括操作S411～S421。

在操作S411，通过流程定制页面展示的步骤下拉框依次选择所述转换流程的各个步骤，构成所述转换流程。

在操作S421，通过算法选择页面展示的算法下拉框选择于各所述步骤对应的数据处理算法，构成所述格式转换算法。

通过提供页面，使开发人员无需关注后台代码如何实现，仅通过在下拉框中进行选择，即可完成格式转换算法配置，提升开发效率。

图5示意性示出了根据本公开实施例的转换流程的示意图。

如图5所示，所述转换流程中的步骤至少包括操作S510～S540。

在操作S510，将所述第一数据拆分为多个数据列。

在操作S520，从各所述数据列中截取字符串。

在操作S530，从所述字符串中选择关键字，并将所述关键字转换为满足所述第二数据格式的关键字。

在操作S540，将转换得到的关键字与对应的所述数据列中的数据重新连接组合，生成第二数据。

根据本公开的实施例，各数据格式均使用其特定的格式，但一般均包括关键字及数据字符串，进行格式转换，将关键字与数据字符串识别出来，按照各数据格式的关键字要求进行转换，再与数据字符串按照格式要求进行重新组合，即可将第一数据从第一数据格式转换为第二数据格式。

除了关键字的转化，转换流程中的步骤还可以包括：

将所述数据列进行过滤或反过滤，以筛选指定字符串或正则表达书；和/或

将多个所述数据列进行拼接；和/或

给所述数据列、所述字符串增加前缀或后缀；和/或

去除多余的字符串。

表1示出了几种常用的数据处理算法，可用于实现上述步骤。

表1

图6示意性示出了根据本公开另一实施例的转换流程的示意图。

如图6所示，本公开另一实施例示意了一种进行格式转换的完整转换流程。第一步，获取到需要格式转换的第一数据；第二步，定制将第一数据转换到第二数据的转换流程；第三步，利用split算法，使用制定的分隔符拆分数据；第四步，利用substring算法对各个被拆解的报文字段进行截取；第五步，利用select算法选择制定需要的字段最为key；第六步，利用saveAs算法将key改名字变成希望的key值；最后，基于kev值生成第二数据。

图7示意性示出了根据本公开另一实施例的数据格式转换方法的流程图。

如图7所示，根据本公开另一实施例提供的数据格式转换方法，在如图3所示的操作S310中，获取所述第一数据，包括操作S710～S730。

在操作S710，从上游数据系统获取所述第一数据。

其中，当所述上游数据系统检测到其所包含的第二数据库中存在数据变化时，将所述第二数据库中变化的数据作为所述第一数据接收。仅将上游数据系统中变化的数据传递给下游数据系统，可避免不需要的数据传输，减低各类消耗。这部分功能使用开源组件canal和logstash实现。Canal主要用于接收数据库Mysql产生的变更数据；Logstash主要用于接收业务系统发送过来的文本信息，其支持传输协议例如http、logfile、tcp等。

在操作S720，将所述第一数据存储于Kafka队列中。

在本公开实施例中，将第一数据预存于Kafka队列中，可将Kafka队列作为一个缓冲区域，使应用该数据格式转换方法的系统依次处理采集到的第一数据，提升系统的处理性能。

在操作S730，依次从所述Kafka队列中取出所述第一数据，存储于第一数据库中，以待进行数据格式转换。

将第一数据存储于第一数据库中，可以保证数据的可追溯性，以备当出现数据转换的问题时，可以将转换数据与原始第一数据进行对比，便于进行问题定位。

如图7所示，根据本公开另一实施例提供的数据格式转换方法，在生成第二数据后，该方法还包括操作S750～S760。

在操作S750，将所述第二数据存储于第三数据库中，以使所述第二数据可查。

在操作S760，将所述第二数据转发给下游数据系统。

将第二数据备份后，再将第二数据转发给下游数据系统，可当数据转换出现问题时，将第一数据与第二数据对比，便于定位问题，帮助开发人员调整转换流程。将转换后的数据进行下游系统转发，转发可以支持主流传输方式http、rpc、mq等。

根据本公开的实施例提供的数据格式转换方法，首先，根据数据本身的格式和该数据将要转换成为的格式定制转换流程，然后，根据该转换流程生成相应的转换算法，使该数据根据定制的转换流程转换为指定的格式，该方法可实现转换流程的自定义，通过将不同的数据处理算法进行组合，如过滤、拆分、合并、替换等，形成复杂的格式转换流程，使数据格式之间的转换方式灵活多变，进而实现不同格式之间的自由转换，避免了开发人员面对不同的数据接口需要进行不同的编码，使开发人员不必进行重复编写接口的工作，大大降低开发人员的工作量，提升开发效率。此外，该方法的实现可通过页面展示实现，通过页面展示出的可选则的流程步骤和执行各步骤的数据处理算法，使该方法的应用操作简便，对转换流程及算法的展示更直观，可操作性强。

图8A示意性示出了根据本公开实施例的数据格式转换装置的框图。

如图8A所示，本公开实施例提供的一种数据格式转换装置，包括：数据获取模块810，格式获取模块820，转换算法定制模块830，数据转换模块840。

数据获取模块810，用于获取第一数据；

格式获取模块820，用于获取所述第一数据的第一数据格式和所述第一数据将要转换的第二数据格式；

转换算法定制模块830，用于定制所述第一数据格式与所述第二数据格式之间的格式转换算法；

数据转换模块840，用于根据所述格式转换算法，将所述第一数据转换为具有第二数据格式的第二数据。

图8B示意性示出了根据本公开实施例的数据格式转换装置的转换算法定制模块的框图。

如图8B所示，所述转换算法定制模块包括830：转换规则定制单元831，转换算法组合单元832。

转换规则定制单元831，用于根据将所述第一数据格式转换为所述第二数据格式的转换规则，制定转换流程。

转换算法组合单元832，用于根据所述转换流程的各个步骤，分别从预设数据处理算法库中选取执行各个步骤所需的数据处理算法，构成所述格式转换算法。

图8C示意性示出了根据本公开另一实施例的数据格式转换装置的转换算法定制模块的框图。

如图8C所示，所述转换算法定制模块830还包括：流程定制页面833，算法选择页面834。

流程定制页面833，用于展示的步骤下拉框，使用户依次选择所述转换流程的各个步骤，构成所述转换流程。

算法选择页面834，用于展示算法下拉框，使用户选择于各所述步骤对应的数据处理算法，构成所述格式转换算法。

基于该转换算法定制模块830，将数据的格式进行转换时，无需为不同数据格式之间的转换一一编写转换代码，而是将各转换步骤的算法代码分别撰写后，集成于相应的页面按钮中，通过页面上的按钮选择转换步骤，通过将多个转换步骤组合的方式获得不同格式之间的转换流程，进而在后台基于于各转换步骤的按钮关联的算法构成完整的格式转换算法。基于该转换算法定制模块830，可针对不同的格式转换灵活的生成不同的格式转换算法，实现任意格式两两之间的自由转换，该方法灵活性高，操作简便，能极大提升开发人员的开发效率。

根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

例如，数据获取模块810、格式获取模块820、转换算法定制模块830、数据转换模块840中的任意多个可以合并在一个模块/单元/子单元中实现，或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者，这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合，并在一个模块/单元/子单元中实现。根据本公开的实施例，数据获取模块810、格式获取模块820、转换算法定制模块830、数据转换模块840中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，数据获取模块810、格式获取模块820、转换算法定制模块830、数据转换模块840中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

需要说明的是，本公开的实施例中数据格式转换装置部分与本公开的实施例中数据格式转换方法部分是相对应的，数据格式转换装置部分的描述具体参考数据格式转换部分，在此不再赘述。

图9示意性示出了根据本公开实施例的计算机系统的示意图。

如图9所示，该计算机系统900包括了如图8A～8C所述的数据格式转换装置，该计算机系统可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等，也可以是用于提供各种服务的服务器或服务器集群等，可以为被安装于这些硬件设备上的软件系统。

图10示意性示出了根据本公开实施例的适于实现上文描述的方法的电子设备的框图。图10示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图10所示，根据本公开实施例的电子设备1000包括处理器1001，其可以根据存储在只读存储器(ROM)1002中的程序或者从存储部分1008加载到随机访问存储器(RAM)1003中的程序而执行各种适当的动作和处理。处理器1001例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))，等等。处理器1001还可以包括用于缓存用途的板载存储器。处理器1001可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 1003中，存储有系统1000操作所需的各种程序和数据。处理器1001、ROM1002以及RAM 1003通过总线1004彼此相连。处理器1001通过执行ROM 1002和/或RAM 1003中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 1002和RAM 1003以外的一个或多个存储器中。处理器1001也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，系统1000还可以包括输入/输出(I/O)接口1005，输入/输出(I/O)接口1005也连接至总线1004。系统1000还可以包括连接至I/O接口1005的以下部件中的一项或多项：包括键盘、鼠标等的输入部分1006；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1007；包括硬盘等的存储部分1008；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1009。通信部分1009经由诸如因特网的网络执行通信处理。驱动器1010也根据需要连接至I/O接口1005。可拆卸介质1011，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器1010上，以便于从其上读出的计算机程序根据需要被安装入存储部分1008。

根据本公开的实施例，根据本公开实施例的方法流程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分1009从网络上被下载和安装，和/或从可拆卸介质1011被安装。在该计算机程序被处理器1001执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 1002和/或RAM 1003和/或ROM 1002和RAM 1003以外的一个或多个存储器。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (15)

1.一种数据格式转换方法，包括：

获取第一数据；

获取所述第一数据的第一数据格式和所述第一数据将要转换的第二数据格式；

定制所述第一数据格式与所述第二数据格式之间的格式转换算法；

根据所述格式转换算法，将所述第一数据转换为具有第二数据格式的第二数据。

2.根据权利要求1所述的方法，其中，所述定制所述第一数据格式与所述第二数据格式之间的格式转换算法包括：

根据将所述第一数据格式转换为所述第二数据格式的转换规则，制定转换流程；

根据所述转换流程的各个步骤，分别从预设数据处理算法库中选取执行各个步骤所需的数据处理算法，构成所述格式转换算法。

3.根据权利要求2所述的方法，其中，

通过流程定制页面展示的步骤下拉框依次选择所述转换流程的各个步骤，构成所述转换流程；

通过算法选择页面展示的算法下拉框选择于各所述步骤对应的数据处理算法，构成所述格式转换算法。

4.根据权利要求2所述的方法，其中，所述转换流程中的步骤至少包括：

将所述第一数据拆分为多个数据列；

从各所述数据列中截取字符串；

从所述字符串中选择关键字，并将所述关键字转换为满足所述第二数据格式的关键字；

将转换得到的关键字与对应的所述数据列中的数据重新连接组合，生成第二数据。

5.根据权利要求4所述的方法，其中，所述转换流程中的步骤还包括：

将所述数据列进行过滤或反过滤，以筛选指定字符串或正则表达书；和/或

将多个所述数据列进行拼接；和/或

给所述数据列、所述字符串增加前缀或后缀；和/或

去除多余的字符串。

6.根据权利要求1所述的方法，所述获取所述第一数据包括：

从上游数据系统获取所述第一数据；

将所述第一数据存储于Kafka队列中；

依次从所述Kafka队列中取出所述第一数据，存储于第一数据库中，以待进行数据格式转换。

7.根据权利要求6所述的方法，其中，所述从上游数据系统获取所述第一数据包括：

当所述上游数据系统检测到其所包含的第二数据库中存在数据变化时，将所述第二数据库中变化的数据作为所述第一数据接收。

8.根据权利要求1所述的方法，还包括：

将所述第二数据存储于第三数据库中，以使所述第二数据可查。

9.根据权利要求1所述的方法，还包括：

将所述第二数据转发给下游数据系统。

10.一种数据格式转换装置，包括：

数据获取模块，用于获取第一数据；

格式获取模块，用于获取所述第一数据的第一数据格式和所述第一数据将要转换的第二数据格式；

转换算法定制模块，用于定制所述第一数据格式与所述第二数据格式之间的格式转换算法；

数据转换模块，用于根据所述格式转换算法，将所述第一数据转换为具有第二数据格式的第二数据。

11.根据权利要求10所述的装置，其中，所述转换算法定制模块包括：

转换规则定制单元，用于根据将所述第一数据格式转换为所述第二数据格式的转换规则，制定转换流程；

转换算法组合单元，用于根据所述转换流程的各个步骤，分别从预设数据处理算法库中选取执行各个步骤所需的数据处理算法，构成所述格式转换算法。

12.根据权利要求11所述的装置，其中，所述转换算法定制模块还包括：

流程定制页面，用于展示的步骤下拉框，使用户依次选择所述转换流程的各个步骤，构成所述转换流程；

算法选择页面，用于展示算法下拉框，使用户选择于各所述步骤对应的数据处理算法，构成所述格式转换算法。

13.一种计算机系统，包括：

如权利要求10至12任一项所述的数据格式转换装置。

14.一种电子设备，包括：

一个或多个处理器；

存储器，用于存储一个或多个程序，

其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现权利要求1至9中任一项所述的方法。

15.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器实现权利要求1至9中任一项所述的方法。

Images