CN113660231A - 一种报文解析方法、装置、设备和存储介质 - Google Patents
一种报文解析方法、装置、设备和存储介质 Download PDFInfo
- Publication number
- CN113660231A CN113660231A CN202110900757.6A CN202110900757A CN113660231A CN 113660231 A CN113660231 A CN 113660231A CN 202110900757 A CN202110900757 A CN 202110900757A CN 113660231 A CN113660231 A CN 113660231A
- Authority
- CN
- China
- Prior art keywords
- message
- analysis
- flink
- parsing
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 78
- 238000004458 analytical method Methods 0.000 claims abstract description 118
- 230000008569 process Effects 0.000 claims abstract description 38
- 238000004364 calculation method Methods 0.000 claims abstract description 34
- 238000013507 mapping Methods 0.000 claims description 41
- 238000006243 chemical reaction Methods 0.000 claims description 12
- 239000000344 soap Substances 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 5
- 230000005540 biological transmission Effects 0.000 claims description 3
- 238000013468 resource allocation Methods 0.000 abstract description 5
- 238000012545 processing Methods 0.000 description 25
- 238000010586 diagram Methods 0.000 description 12
- 238000005111 flow chemistry technique Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 238000011144 upstream manufacturing Methods 0.000 description 4
- 238000007726 management method Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- ZLIBICFPKPWGIZ-UHFFFAOYSA-N pyrimethanil Chemical compound CC1=CC(C)=NC(NC=2C=CC=CC=2)=N1 ZLIBICFPKPWGIZ-UHFFFAOYSA-N 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 235000008113 selfheal Nutrition 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/22—Parsing or analysis of headers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5072—Grid computing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/54—Indexing scheme relating to G06F9/54
- G06F2209/548—Queue
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Security & Cryptography (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Mathematical Physics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例公开了一种报文解析方法、装置、设备和存储介质，涉及计算机技术领域，该方法包括：通过当前Flink节点的Source模块获取消息队列中的原始报文，对原始报文进行解析，得到解析结果；通过Source模块将解析结果发送给当前Flink节点的Transform模块；通过Transform模块将解析结果或对解析结果执行预设计算操作后的计算结果，发送给sink模块进行输出。采用本发明实施例的技术方案，可以解决传统报文解析方式无法很好地利用机器的并行计算能力、资源分配较麻烦的问题，不仅可以在上层应用层面大幅降低报文解析耗时，还能改善机器资源在报文解析过程中的自由分配过程，提高报文解析的效率。
Description
技术领域
本发明实施例涉及计算机技术领域，尤其涉及一种报文解析方法、装置、设备和存储介质
背景技术
现有行业对实时数据的传输过程通常采用Kafka作为消息队列，而交易报文计算解析处理的过程则是利用底层的纯Java或Python多线程编程技术来实现报文解析处理逻辑。
上述利用底层的纯Java或Python的开发部署过程，往往只能在单台机器上部署任务程序，无法轻松做到多台机器并行执行分布式计算。对上游数据量压力较大场景常常无法做到快速处理，其相应对交易报文的解析耗时也会上升。
发明内容
本发明实施例提供了一种报文解析方法、装置、设备和存储介质，以实现报文解析的超低耗时，降低计算资源分配难度。
第一方面，本发明实施例提供了一种报文解析方法，包括：
通过当前Flink节点的源Source模块获取消息队列中的原始报文，对所述原始报文进行解析，得到解析结果；
通过所述Source模块将所述解析结果发送给当前Flink节点的转换Transform模块；
通过所述Transform模块将所述解析结果或对所述解析结果执行预设计算操作后的计算结果，发送给输出sink模块进行输出。
第二方面，本发明实施例还提供了一种报文解析装置，配置于Flink节点中，所述装置包括：
源Source模块，用于获取消息队列中的原始报文，对所述原始报文进行解析，得到解析结果；将所述解析结果发送给当前Flink节点的转换Transform模块；
Transform模块，用于将所述解析结果或对所述解析结果执行预设计算操作后的计算结果，发送给输出sink模块；
sink模块，用于将接收到的所述解析结果或所述计算结果进行输出。
第三方面，本发明实施例提供了一种电子设备，所述电子设备包括：
一个或多个处理器；
存储器，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明任意实施例所提供的报文解析方法。
第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明任意实施例所提供的报文解析方法。
本发明实施例中，通过当前Flink节点的源Source模块获取消息队列中的原始报文，对原始报文进行解析，得到解析结果；然后通过Source模块将解析结果发送给当前Flink节点的转换Transform模块；最后通过Transform模块将解析结果或对解析结果执行预设计算操作后的计算结果，发送给输出sink模块进行输出。其中，报文的解析过程主要由Flink的Source模块通过反序列化过程完成，在Flink开源流处理框架中采用自定义的解析处理逻辑，可以直接消费数据并实现报文的解析。本发明实施例解决了传统报文解析方式无法很好地利用机器的并行计算能力、资源分配较麻烦的问题，利用Flink框架可以实现多台机器并行执行分布式计算，对上游的大数据量能够做到快速处理，在上层应用层面大幅降低报文解析的耗时，提高报文解析效率，满足数据的超低时效性要求。
附图说明
图1和图2是现有技术中两种报文解析处理流程框图；
图3为本发明实施例一提供的一种报文解析方法的流程图；
图4是图3所示报文解析方法的数据流向框图；
图5为本发明实施例二提供的一种报文解析方法的流程图；
图6是图5所示报文解析方法的Flink流处理框架结构示意图；
图7是图5所示报文解析的具体流程框图；
图8为本发明实施例三提供的报文解析装置的结构示意图；
图9为本发明实施例四提供的一种电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
图1和图2是现有技术中两种报文解析处理流程框图，如背景技术部分所述，参考图1，现有的一种报文解析方式是利用底层的纯Java或Python多线程编程技术来实现，以非大数据技术底层的纯Java或Python的开发部署过程，往往只能在单台机器上部署任务程序，无法轻松做到多台机器并行执行分布式计算，对上游数据量压力较大场景常常无法做到快速处理，其相应对交易报文的解析耗时也会上升。而参考图2，现有的另一种报文解析方式是利用现有的大数据技术Spark来对数据进行批次性转换处理，大数据结构中采用Spark批处理技术下，解析程序可以轻松实现分布式计算，但其底层计算逻辑是批处理，数据攒到一个批次才会触发相应的逻辑计算，无法做到实时响应的流式计算。有鉴于此，本发明实施例提供了一种报文解析方法、装置、设备和存储介质。
实施例一
图3为本发明实施例一提供的一种报文解析方法的流程图，本实施例可适用于交易报文解析的情况。该方法可以由报文解析装置来执行，该装置可以由软件和/或硬件的方式来实现。如图3所示，该方法具体包括以下步骤：
S110、通过当前Flink节点的源Source模块获取消息队列中的原始报文，对原始报文进行解析，得到解析结果。
Flink为一种开源流处理框架，其核心是用Java和Scala编写的分布式流数据流引擎。Flink以数据并行和流水线方式执行任意流数据程序，Flink的流水线运行时系统可以执行批处理和流处理程序。此外，Flink的运行时本身也支持迭代算法的执行。该Flink流处理框架的三大逻辑结构包括源Source模块、转换Transform模块和输出sink模块。
以交易报文数据为例，其传输过程一般采用消息队列Kafka实现。本发明实施例的报文解析过程，实质上是基于上述的开源流处理框架，在开源流处理框架中建立Flink节点，用于对消息队列Kafka进行消费。Flink节点的Source模块获取消息队列Kafka中的交易原始报文的过程，实质上就是Source模块消费消息队列Kafka的过程。在该过程中，按照技术规范，数据流通过Kafka传入到Source模块对应的计算单元时是以字节流形式进入的，因此，通过该Flink流处理框架，可以轻松获得交易报文的字节流。在Source模块中可以传入字节流的解析处理逻辑，通过解析处理逻辑对字节流进行解析处理，也即实现了对交易报文的解析处理，从而可以获得交易报文的解析结果。
此处需要说明的是，建立Flink节点的过程中，需要提前在程序代码中创建好Flink的执行环境，以便于后续执行消息队列的消费过程，在Flink中环境创建也是其中重要的逻辑结构之一。
S120、通过Source模块将解析结果发送给当前Flink节点的转换Transform模块。
该步骤实质上是在Flink流处理框架中将解析结果进行传递的过程，本领域技术人员可以理解，在Flink中，Transform模块接收Source模块的报文解析结果后，负责将解析结果下传至下一模块，或者，可在该Transform模块中预设报文的各种处理或计算操作，将报文的解析结果进行处理或计算。示例性地，Transform模块的计算操作具体可以是聚合、分割、重组等操作。
S130、通过Transform模块将解析结果或对解析结果执行预设计算操作后的计算结果，发送给输出sink模块进行输出。
在Flink流处理框架中，sink模块的功能就是负责把Flink处理后的数据输出到外部系统中，该步骤即负责将报文的解析结果或计算结果输出。
本发明实施例中，通过当前Flink节点的源Source模块获取消息队列中的原始报文，对原始报文进行解析，得到解析结果；然后通过Source模块将解析结果发送给当前Flink节点的转换Transform模块；最后通过Transform模块将解析结果或对解析结果执行预设计算操作后的计算结果，发送给输出sink模块进行输出。其中，报文的解析过程主要由Flink的Source模块通过反序列化过程完成，在Flink开源流处理框架中采用自定义的解析处理逻辑，可以直接消费数据并实现报文的解析。本发明实施例解决了传统报文解析方式无法很好地利用机器的并行计算能力、资源分配较麻烦的问题，利用Flink框架可以实现多台机器并行执行分布式计算，对上游的大数据量能够做到快速处理，在上层应用层面大幅降低报文解析的耗时，提高报文解析效率，满足数据的超低时效性要求。
在上述提供的报文解析方法的基础上，本发明实施例中还可在S110、通过当前Flink节点的Source模块获取消息队列中的原始报文之前，执行以下步骤：
S100、通过YARN集群的资源管理器接收输入的任务提交指令，读取任务提交指令中的并行资源数量，根据并行资源数量申请多个Flink节点的资源，以使多个Flink节点并行执行报文解析操作。
其中，YARN集群是通用资源管理系统，可为上层应用提供统一的资源管理和调度。本实施例实质是在YARN集群上运行Flink。任务提交指令是指需要采用Flink进行报文处理的任务，任务提交指令中的并行资源数量则可表示需要Flink并行处理的报文任务数量。可以理解，由于Flink中非必要部分不设置并行度的原则，在提交任务时间上可以提供给定的并行度参数，在对报文进行处理的过程可以自由指定参与计算的机器资源数量，该步骤则可在进行报文解析处理之前，合理地对机器资源进行分配。图4是图3所示报文解析方法的数据流向框图，参考图4，具体地，根据并行资源数量申请多个Flink节点的资源，可以实现多个Flink节点并行对Kafka集群的各个分区的消息队列中的原始报文进行读取和解析，降低计算资源的分配难度，对消息队列中的报文进行自由并行处理，以此利用YARN集群实现合理管理和调度机器资源，提高报文解析效率，减少报文解析耗时的同时，保证资源的合理分配和有效利用。
此外，考虑到现有的报文解析架构在遇到硬件性故障问题时往往无法自动自愈，需要人工介入来恢复计算解析处理任务，有鉴于此，本发明实施例还提供了进一步地可选方案。在上述的报文解析方法基础上，本发明实施例中还可执行如下步骤：
S140、通过Source模块每隔预设时间将当前的解析进度信息进行存储。
其中，解析进度信息表示当前Flink节点中Source模块对报文的解析进程。该步骤实质是利用了Flink架构中的checkpoint机制，开启Flink中的Checkpoint选项，通过合理设置间隔时间例如5分钟，每隔预设时间Source模块会存储当前的解析进度，以便遇到机器故障等问题时，实现自动恢复。
S150、若在对原始报文进行解析的过程中发生机器故障，则在故障恢复后，根据当前存储的最新的解析进度信息和消息队列的偏移量记录信息，定位到故障发生前的解析步骤，并从该解析步骤开始继续进行报文解析。
消息队列的偏移量记录信息表征消息队列中的数据消费进程，换言之，在已知消息队列中的数据消费进程时可以定位发生机器故障时正在消费的报文。进一步地，根据上述checkpoint机制存储的报文解析进程，即可确定发生机器故障前正在消费的报文的解析步骤。基于此，Flink节点可以在机器问题解决后继续解析进程，自动恢复报文解析。
可以理解，本实施例在Flink中设置定期的检查步骤，在遇到机器故障等问题时，在已提交的Kafka的偏移量记录以及计算状态的情况下，可以自恢复到错误发生前的计算时刻，做到对交易报文解析的高容错性，使整个解析处理过程具备故障自愈能力。
实施例二
图5为本发明实施例二提供的一种报文解析方法的流程图，图6是图5所示报文解析方法的Flink流处理框架结构示意图，图7是图5所示报文解析的具体流程框图，本发明实施例在上述实施例的基础上，对通过当前Flink节点的Source模块获取消息队列中的原始报文，对原始报文进行解析，得到解析结果的过程，进行了进一步地具体化。相应的，如图5-图7所示，本发明实施例二的报文解析方法，具体包括如下步骤：
S210、通过Source模块中的消息队列消费子模块，获取消息队列中的字节流形式的原始报文；
该实施例中，对于报文的解析处理，并未在Flink的传统意义上的Transform层级对数据进行转换处理，而是在Source模块中改造相关Flink的Source数据源的部分。该步骤在Source模块中利用消息队列消费子模块，获取消息队列中的字节流形式的原始报文，实质上是利用Flink的Source模块中的消息队列消费子模块，将Kafka消息队列转换为了字节流形式，在字节流形式下，可以方便对报文进行直接解析。
S220、通过Source模块中的序列化/反序列化子模块，将字节流形式的原始报文进行解析，获得包含解析结果的MAP对象。
本领域技术人员可以理解，该步骤实质是利用Flink的Source模块中的序列化/反序列化子模块进行报文解析的过程，区别点在于，该实施例在序列化/反序列化子模块中引入了针对报文的自定义的解析方法。在消费Kafka数据时，从自定义数据的序列化以及反序列化位置对数据进行了转换和解析。
S230、通过Source模块将解析结果发送给当前Flink节点的转换Transform模块。
S240、通过Transform模块将解析结果或对解析结果执行预设计算操作后的计算结果，发送给输出sink模块进行输出。
参考图6，需要说明的是，Kafka中存放有原始报文的主题，后续的消费过程均需订阅该对应的主题。此外，Flink节点的消费子模块消费Kafka的主题数据前，需要获取Kafka主题的相应参数配置信息，例如bootstrap地址，zookeeper地址等，用于与Kafka建立通信连接。参数配置信息还可以包括消费组名称和消费策略(包括从最早的报文开始消费/从最新的报文开始消费)等信息。消费组名称代表当前Flink节点所在的消费组，不同的消费组可以消费不同分区的原始报文。
基于上述Flink的Source模块中各子模块的实际工作内容，该实施例还提供了详细的针对报文的自定义解析方式。如上述步骤S220、通过Source模块中的序列化/反序列化子模块，将字节流形式的原始报文进行解析，获得包含解析结果的MAP对象，具体可包括：
S221、通过Source模块中的序列化/反序列化子模块，将字节流形式的原始报文进行拆分，得到协议头、报文头和报文体。
其中，交易报文的详细结构通常分为协议头、报文头和报文体三部分，在字节流形式下的原始报文，可以利用Source模块中的序列化/反序列化子模块直接将其进行拆分，以获得协议头、报文头和报文体三部分的字节流数据，供后续分别进行解析。
S222、按照预设协议头字段映射关系表，获得协议头对应的字段标识和字段值，并将字段标识和字段值映射到MAP对象中。协议头字段中可包括字段标识和字段值，字段标识用于标识字段所表示的属性，字段值则用于存储字段所表示属性的具体信息，例如，以交易报文为例，字段标识用于标识该字段为流水号，字段值用于存储该流水号具体的数值。协议头字段映射关系表则表示字节流形式的字段标识和字段值与实际含义的对应关系列表，通过该关系表即可查找确定协议头中字段标识和字段值的含义。MAP对象是指数据类型为键映射到值的对象，在MAP中可以通过key值确定对应的value值。在该步骤中，则是指将字段标识和字段值分别以key值和value值建立映射形成MAP，通过字段标识可以获取字段值。
可以理解，字节流形式的原始报文中，协议头统一为约定格式，且含有非空的用来标识加载不同解析方案的字段内容。基于此，通过预先在序列化/反序列化子模块中根据该约定格式设置协议头的字段映射关系表，即利用该字段映射关系表，可以确定字节流的协议头中各字节段的含义，获得协议头中的字段标识内容和字段值内容，并以可读的MAP对象数据类型输出。
S223、根据字段值确定原始报文的协议类型，加载协议类型对应的解析逻辑代码，执行加载的解析逻辑代码，以对报文头和报文体进行解析，并将得到的解析内容映射到MAP对象中。
在上述步骤解析获得报文的协议头之后，对于报文的报文头和报文体的解析，需要根据报文的协议类型进行针对性解析。因此，解析之前需要先进行报文协议类型的确定。同样以交易报文为例，协议头中包含交易来源以及交易类型等有效字段，根据协议头中的字段值能够确定原始报文的协议类型。该步骤则是在确定原始报文的协议类型后，针对不同协议类型的报文头或报文体，加载相对应的解析逻辑代码，以此获取报文头、报文体中的字段标识和字段值，形成如上述协议头相同数据类型的MAP对象。
如图7示例，该实施例在Flink中自定义序列化/反序列化子模块的具体解析过程，实质上是先利用固定协议头自段映射关系，确定字节流形式的原始报文中的协议头，即实现协议头的拆解过程；继而根据不同报文协议加载不同的解析逻辑的过程，解析逻辑的加载需要依据报文的类型(例如SOP报文和SOAP报文)来确定。
更进一步地，该实施例中还对原始报文的不同协议类型的解析逻辑及解析过程进行了细化。在一具体实施例中，若协议类型为同源协议SOP，则上述步骤S223、执行加载的解析逻辑代码，以对报文头和报文体进行解析，并将得到的解析内容映射到MAP对象中，可包括：
S2231、执行加载的解析逻辑代码，以从当前Flink节点的Java虚拟机(JVM)内存中，读取预设报文头字段映射关系表，根据报文头字段映射关系表，获得报文头对应的字段标识和字段值，将报文头对应的字段标识和字段值映射到MAP对象中，并从数据库加载与原始报文的业务类型对应的报文体字段映射关系表，根据报文体字段映射关系表，获得报文体对应的字段标识和字段值，将报文体对应的字段标识和字段值映射到MAP对象中。
首先，在YARN集群分配的各Flink集群上对每台机器可设置JVM内存，在进行报文头和报文体的解析时，需要在JVM内存中加载相应的字段映射关系表，以供Flink节点进行解析。针对SOP报文，在JVM内存中可加载相应的报文头字段映射关系表和报文体字段映射关系表，其中，报文头字段映射表和报文体字段映射表分别表示字节流形式的报文头和报文体的字段标识和字段值与实际含义的对应关系列表，通过该关系表即可分别查找确定报文头和报文体中字段标识和字段值的含义。
该步骤的实际过程为：获取存储在DB2数据库管理系统中数据库中的字段位置映射表MAPFILE_CONFIG信息，在解析方法开头位置，以静态变量的形式加载映射关系到Flink集群上每台机器的任务管理器的JVM内存中，数据分发到各集群计算节点上后，即各Flink节点读取到原始报文并解析确定协议类型为同源协议SOP后，会根据映射的字段名称，长度等配置信息，最终拆解得到每个字段值映射到MAP中，最终将字节流反序列化成Java的MAP对象以供后续的计算。
在另一具体实施例中，若协议类型为简单对象访问协议SOAP，则上述步骤S223、执行加载的解析逻辑代码，以对报文头和报文体进行解析，并将得到的解析内容映射到MAP对象中，可包括：
S2232、提取报文头和报文体中的最后一层可标记扩展语言XML节点的节点标识，将节点标识和对应的节点值映射到MAP对象中。
同理，在确定协议类型为同源协议SOAP后，即进入了解析处理SOAP报文的过程，同上述SOP部分对协议头进行拆解，拆解完全后可以拿到报文头以及报文体部分，SOAP报文除协议头部分外整体为可标记扩展语言XML格式。对于XML格式的报文，其包括多个父节点和对应每个父节点的多个子节点，而可以理解，最后一层的子节点的节点标识为该报文的有效标识。因此，根据SOAP报文的特性，该步骤中将最后一层的节点标识直接作为MAP对象中的Key值，该节点标识对应的节点值作为Value值，而去除父节点，最终即可将字节流的SOAP报文反序列化形成MAP对象。
本实施例中解决了传统报文解析方式无法很好地利用机器的并行计算能力、资源分配较麻烦的问题，不仅可以在上层应用层面大幅降低报文解析的耗时，满足数据的超低时效性要求，还能改善机器资源在报文解析过程中的自由分配过程，提高报文解析的效率。
以下是本发明实施例提供的报文解析装置的实施例，该装置与上述实施例一的报文解析方法属于同一个发明构思，在报文解析装置的实施例中未详尽描述的细节内容，可以参考上述各实施例的内容。
实施例三
图8为本发明实施例三提供的报文解析装置的结构示意图，如图8所示，该报文解析装置配置于Flink节点，包括：源Source模块100，用于获取消息队列中的原始报文，对原始报文进行解析，得到解析结果；将解析结果发送给当前Flink节点的转换Transform模块；转换Transform模块200，用于将解析结果或对解析结果执行预设计算操作后的计算结果，发送给输出sink模块进行输出；输出sink模块，用于将接收到的解析结果或计算结果进行输出。
进一步可选地，上述源Source模块100可包括消息队列消费子模块和序列化/反序列化子模块，消息队列消费子模块用于获取消息队列中的字节流形式的原始报文；序列化/反序列化子模块用于将字节流形式的原始报文进行解析，获得包含解析结果的MAP对象。
上述序列化/反序列化子模块具体可用于将字节流形式的原始报文进行拆分，得到协议头、报文头和报文体；按照预设协议头字段映射关系表，获得协议头对应的字段标识和字段值，并将字段标识和字段值映射到MAP对象中；
根据字段值确定原始报文的协议类型，加载协议类型对应的解析逻辑代码，执行加载的解析逻辑代码，以对报文头和报文体进行解析，并将得到的解析内容映射到MAP对象中。
更具体地，若协议类型为同源协议SOP，上述序列化/反序列化子模块可具体用于执行加载的解析逻辑代码，以从当前Flink节点的Java虚拟机内存中，读取预设报文头字段映射关系表，根据报文头字段映射关系表，获得报文头对应的字段标识和字段值，将报文头对应的字段标识和字段值映射到MAP对象中，并从数据库加载与原始报文的业务类型对应的报文体字段映射关系表，根据报文体字段映射关系表，获得报文体对应的字段标识和字段值，将报文体对应的字段标识和字段值映射到MAP对象中。
若协议类型为简单对象访问协议SOAP，上述序列化/反序列化子模块可具体用于提取报文头和报文体中的最后一层可标记扩展语言XML节点的节点标识，将节点标识和对应的节点值映射到MAP对象中。
在上述实施例基础上，该报文解析装置还包括YARN集群的资源管理器，资源管理器用于接收输入的任务提交指令，读取任务提交指令中的并行资源数量，根据并行资源数量申请多个Flink节点的资源，以使多个Flink节点并行执行报文解析操作。
在上述实施例基础上，该报文解析装置中的源模块还用于每隔预设时间将当前的解析进度信息进行存储；若在对原始报文进行解析的过程中发生机器故障，则在故障恢复后，根据当前存储的最新的解析进度信息和消息队列的偏移量记录信息，定位到故障发生前的解析步骤，并从该解析步骤开始继续进行报文解析。
本发明实施例所提供的报文解析装置可执行本发明实施例所提供的报文解析方法，具备执行报文解析方法相应的功能模块和有益效果。
实施例四
图9为本发明实施例四提供的一种电子设备的结构示意图。图9示出了适于用来实现本发明实施方式的示例性服务器12的框图。图9显示的服务器12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图9所示，服务器12以通用计算设备的形式表现。服务器12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
服务器12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被服务器12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。服务器12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图9未显示，通常称为“硬盘驱动器”)。尽管图9中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。系统存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如系统存储器28中，这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
服务器12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该服务器12交互的设备通信，和/或与使得该服务器12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，服务器12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器20通过总线18与服务器12的其它模块通信。应当明白，尽管图中未示出，可以结合服务器12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现本发实施例一所提供的一种报文解析方法步骤，该方法包括：
通过当前Flink节点的源Source模块获取消息队列中的原始报文，对原始报文进行解析，得到解析结果；
通过Source模块将解析结果发送给当前Flink节点的转换Transform模块；
通过Transform模块将解析结果或对解析结果执行预设计算操作后的计算结果，发送给输出sink模块进行输出。
当然，本领域技术人员可以理解，处理器还可以实现本发明任意实施例所提供的报文解析方法的技术方案。
实施例五
本实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明前述实施例所提供的一种报文解析方法步骤，该方法包括：
通过当前Flink节点的源Source模块获取消息队列中的原始报文，对原始报文进行解析，得到解析结果；
通过Source模块将解析结果发送给当前Flink节点的转换Transform模块；
通过Transform模块将解析结果或对解析结果执行预设计算操作后的计算结果，发送给输出sink模块进行输出。
本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是但不限于：电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
本领域普通技术人员应该明白，上述的本发明的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个计算装置上，或者分布在多个计算装置所组成的网络上，可选地，他们可以用计算机装置可执行的程序代码来实现，从而可以将它们存储在存储装置中由计算装置来执行，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件的结合。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种报文解析方法，其特征在于，包括：
通过当前Flink节点的源Source模块获取消息队列中的原始报文，对所述原始报文进行解析，得到解析结果；
通过所述Source模块将所述解析结果发送给当前Flink节点的转换Transform模块；
通过所述Transform模块将所述解析结果或对所述解析结果执行预设计算操作后的计算结果，发送给输出sink模块进行输出。
2.根据权利要求1所述的方法，其特征在于，通过当前Flink节点的Source模块获取消息队列中的原始报文，对所述原始报文进行解析，得到解析结果，包括：
通过所述Source模块中的消息队列消费子模块，获取消息队列中的字节流形式的原始报文；
通过所述Source模块中的序列化/反序列化子模块，将所述字节流形式的原始报文进行解析，获得包含解析结果的MAP对象。
3.根据权利要求2所述的方法，其特征在于，通过所述Source模块中的序列化/反序列化子模块，将所述字节流形式的原始报文进行解析，获得包含解析结果的MAP对象，包括：
通过所述Source模块中的序列化/反序列化子模块，将所述字节流形式的原始报文进行拆分，得到协议头、报文头和报文体；
按照预设协议头字段映射关系表，获得所述协议头对应的字段标识和字段值，并将所述字段标识和所述字段值映射到MAP对象中；
根据所述字段值确定所述原始报文的协议类型，加载所述协议类型对应的解析逻辑代码，执行加载的所述解析逻辑代码，以对所述报文头和报文体进行解析，并将得到的解析内容映射到所述MAP对象中。
4.根据权利要求3所述的方法，其特征在于，若所述协议类型为同源协议SOP，则执行加载的所述解析逻辑代码，以对所述报文头和报文体进行解析，并将得到的解析内容映射到所述MAP对象中，包括：
执行加载的所述解析逻辑代码，以从当前Flink节点的Java虚拟机内存中，读取预设报文头字段映射关系表，根据所述报文头字段映射关系表，获得所述报文头对应的字段标识和字段值，将所述报文头对应的字段标识和字段值映射到所述MAP对象中，并从数据库加载与所述原始报文的业务类型对应的报文体字段映射关系表，根据所述报文体字段映射关系表，获得所述报文体对应的字段标识和字段值，将所述报文体对应的字段标识和字段值映射到所述MAP对象中。
5.根据权利要求3所述的方法，其特征在于，若所述协议类型为简单对象访问协议SOAP，则执行加载的所述解析逻辑代码，以对所述报文头和报文体进行解析，并将得到的解析内容映射到所述MAP对象中，包括：
提取所述报文头和报文体中的最后一层可标记扩展语言XML节点的节点标识，将所述节点标识和对应的节点值映射到所述MAP对象中。
6.根据权利要求1所述的方法，其特征在于，在通过当前Flink节点的Source模块获取消息队列中的原始报文之前，所述方法还包括：
通过YARN集群的资源管理器接收输入的任务提交指令，读取所述任务提交指令中的并行资源数量，根据所述并行资源数量申请多个Flink节点的资源，以使所述多个Flink节点并行执行报文解析操作。
7.根据权利要求1-6中任一项所述的方法，其特征在于，还包括：
通过所述Source模块每隔预设时间将当前的解析进度信息进行存储；
若在对所述原始报文进行解析的过程中发生机器故障，则在故障恢复后，根据当前存储的最新的解析进度信息和所述消息队列的偏移量记录信息，定位到故障发生前的解析步骤，并从该解析步骤开始继续进行报文解析。
8.一种报文解析装置，配置于Flink节点中，其特征在于，所述装置包括：
源Source模块，用于获取消息队列中的原始报文，对所述原始报文进行解析，得到解析结果；将所述解析结果发送给当前Flink节点的转换Transform模块；
传输Transform模块，用于将所述解析结果或对所述解析结果执行预设计算操作后的计算结果，发送给输出sink模块；
输出sink模块，用于将接收到的所述解析结果或所述计算结果进行输出。
9.一种电子设备，其特征在于，所述电子设备包括：
一个或多个处理器；
存储器，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的报文解析方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的报文解析方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110900757.6A CN113660231A (zh) | 2021-08-06 | 2021-08-06 | 一种报文解析方法、装置、设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110900757.6A CN113660231A (zh) | 2021-08-06 | 2021-08-06 | 一种报文解析方法、装置、设备和存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113660231A true CN113660231A (zh) | 2021-11-16 |
Family
ID=78490448
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110900757.6A Pending CN113660231A (zh) | 2021-08-06 | 2021-08-06 | 一种报文解析方法、装置、设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113660231A (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114385139A (zh) * | 2021-12-29 | 2022-04-22 | 武汉达梦数据库股份有限公司 | 一种flink框架运行ETL流程的消息序列化以及比较方法与装置 |
| CN114925386A (zh) * | 2022-07-15 | 2022-08-19 | 飞腾信息技术有限公司 | 数据处理方法、计算机设备、数据处理系统及存储介质 |
| CN115720243A (zh) * | 2022-11-22 | 2023-02-28 | 协鑫电港云科技(海南)有限公司 | 换电设备状态确定方法、装置、电子设备及存储介质 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109254982A (zh) * | 2018-08-31 | 2019-01-22 | 杭州安恒信息技术股份有限公司 | 一种流数据处理方法、系统、装置及计算机可读存储介质 |
| CN109471760A (zh) * | 2018-10-18 | 2019-03-15 | 北京趣拿软件科技有限公司 | 服务器通信性能的监控方法及系统、存储介质、电子装置 |
| US20190130004A1 (en) * | 2017-10-27 | 2019-05-02 | Streamsimple, Inc. | Streaming Microservices for Stream Processing Applications |
| CN110874272A (zh) * | 2020-01-16 | 2020-03-10 | 北京懿医云科技有限公司 | 资源配置方法及装置、计算机可读存储介质、电子设备 |
| CN110955640A (zh) * | 2019-11-26 | 2020-04-03 | 深圳市卡牛科技有限公司 | 跨系统数据文件的处理方法、装置、服务器和存储介质 |
| CN111694864A (zh) * | 2020-05-15 | 2020-09-22 | 苏宁云计算有限公司 | 单一进程的流式数据计算执行调度任务并避免数据丢失的方法、系统及计算机设备 |
| CN112596997A (zh) * | 2020-12-29 | 2021-04-02 | 科技谷（厦门）信息技术有限公司 | 一种基于Flink实时计算的自动化流控制方法 |
-
2021
- 2021-08-06 CN CN202110900757.6A patent/CN113660231A/zh active Pending
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20190130004A1 (en) * | 2017-10-27 | 2019-05-02 | Streamsimple, Inc. | Streaming Microservices for Stream Processing Applications |
| CN109254982A (zh) * | 2018-08-31 | 2019-01-22 | 杭州安恒信息技术股份有限公司 | 一种流数据处理方法、系统、装置及计算机可读存储介质 |
| CN109471760A (zh) * | 2018-10-18 | 2019-03-15 | 北京趣拿软件科技有限公司 | 服务器通信性能的监控方法及系统、存储介质、电子装置 |
| CN110955640A (zh) * | 2019-11-26 | 2020-04-03 | 深圳市卡牛科技有限公司 | 跨系统数据文件的处理方法、装置、服务器和存储介质 |
| CN110874272A (zh) * | 2020-01-16 | 2020-03-10 | 北京懿医云科技有限公司 | 资源配置方法及装置、计算机可读存储介质、电子设备 |
| CN111694864A (zh) * | 2020-05-15 | 2020-09-22 | 苏宁云计算有限公司 | 单一进程的流式数据计算执行调度任务并避免数据丢失的方法、系统及计算机设备 |
| CN112596997A (zh) * | 2020-12-29 | 2021-04-02 | 科技谷（厦门）信息技术有限公司 | 一种基于Flink实时计算的自动化流控制方法 |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114385139A (zh) * | 2021-12-29 | 2022-04-22 | 武汉达梦数据库股份有限公司 | 一种flink框架运行ETL流程的消息序列化以及比较方法与装置 |
| CN114925386A (zh) * | 2022-07-15 | 2022-08-19 | 飞腾信息技术有限公司 | 数据处理方法、计算机设备、数据处理系统及存储介质 |
| CN115720243A (zh) * | 2022-11-22 | 2023-02-28 | 协鑫电港云科技(海南)有限公司 | 换电设备状态确定方法、装置、电子设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107590001B (zh) | 负载均衡方法及装置、存储介质、电子设备 | |
| CN113660231A (zh) | 一种报文解析方法、装置、设备和存储介质 | |
| CN111061715B (zh) | 基于Web和Kafka的分布式数据集成系统及方法 | |
| CN108595316B (zh) | 分布式应用的生命周期管理方法、管理器、设备和介质 | |
| CN109117252B (zh) | 基于容器的任务处理的方法、系统及容器集群管理系统 | |
| JP2009282807A (ja) | メッセージ紐付け処理装置、方法及びプログラム | |
| CN109726004B (zh) | 一种数据处理方法及装置 | |
| US11210277B2 (en) | Distributing and processing streams over one or more networks for on-the-fly schema evolution | |
| CN111970195B (zh) | 数据传输方法和流式数据传输系统 | |
| CN111679911B (zh) | 云环境中gpu卡的管理方法、装置、设备及介质 | |
| CN111966943A (zh) | 流式数据分发方法和系统 | |
| WO2024082584A1 (zh) | 资源分配方法、容器管理组件和资源分配系统 | |
| CN116340024A (zh) | 仿真模型组件进程间的数据共享方法、计算机设备及介质 | |
| CN114398179B (zh) | 一种跟踪标识的获取方法、装置、服务器及存储介质 | |
| US9507637B1 (en) | Computer platform where tasks can optionally share per task resources | |
| CN113204425A (zh) | 供进程管理内部线程的方法、装置、电子设备及存储介质 | |
| CN116346959A (zh) | 一种dpu场景弹性网卡高效实现方法及装置 | |
| CN116032614A (zh) | 容器网络微隔离方法、装置、设备和介质 | |
| CN115878333A (zh) | 进程组间的一致性判断方法、装置及设备 | |
| US20200285489A1 (en) | Systems and methods for facilitating real-time analytics | |
| CN115202853A (zh) | 一种虚拟现实视频云计算服务的方法 | |
| CN113204426A (zh) | 资源池的任务处理方法及相关设备 | |
| CN114546631A (zh) | 任务调度方法、控制方法、核心、电子设备、可读介质 | |
| US11392433B1 (en) | Generation of asynchronous application programming interface specifications for messaging topics | |
| WO2022007645A1 (zh) | 一种容器组的创建方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20211116 |