CN115114890A - 数据解析方法及装置、电子设备及可读介质 - Google Patents

数据解析方法及装置、电子设备及可读介质 Download PDF

Info

Publication number
CN115114890A
CN115114890A CN202110297479.XA CN202110297479A CN115114890A CN 115114890 A CN115114890 A CN 115114890A CN 202110297479 A CN202110297479 A CN 202110297479A CN 115114890 A CN115114890 A CN 115114890A
Authority
CN
China
Prior art keywords
field
node
target
path
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110297479.XA
Other languages
English (en)
Inventor
余洋
杨绍鹏
张世维
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202110297479.XA priority Critical patent/CN115114890A/zh
Publication of CN115114890A publication Critical patent/CN115114890A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/12Use of codes for handling textual entities
    • G06F40/14Tree-structured documents
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/205Parsing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/40Transformation of program code
    • G06F8/41Compilation
    • G06F8/42Syntactic analysis
    • G06F8/427Parsing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供一种数据解析方法及装置、电子设备及可读介质;涉及网络通信技术领域。所述数据解析方法包括:根据protobuf文件确定消息结构;接收到针对所述protobuf文件的前端请求时,获取所述前端请求中的待解析字段信息,根据所述消息结构确定所述待解析字段信息对应的字段路径;通过所述字段路径解析所述protobuf文件中目标字段,以根据所述前端请求对所述目标字段进行数据处理。本公开可以在无需停机重启的情况下对protobuf文件进行处理,提高稳定性。

Description

数据解析方法及装置、电子设备及可读介质
技术领域
本公开涉及网络通信技术领域,具体而言,涉及一种数据解析方法、数据解析装置、电子设备以及计算机可读介质。
背景技术
Protocol buffer是一种数据交换格式,它独立于语言,独立于平台,可以简称为protobuf。与传统的数据交换格式相比,由于它基于二进制数据传输,因此具有高效的解析速度和更小的体积,可以用于诸如网络传输、配置文件、数据存储等诸多场景。
前后端通信时使用protobuf定义协议文件,再各自使用protobuf提供的工具将协议文件编译成对应的格式,并保持一致。如果协议内容发生变更,则需要把修改后的协议文件重新编译,在前后端各自生成编译最新的文件。然而,每次需要修改某个字段时,需要从后端请求整体protobuf消息的内容,更新protobuf消息中需要更新的字段后,再把整体消息重新打包,形成新的二进制数据文件,返回给后端。因此每次新增或修改字段时后端服务都需要重启,造成较大的资源浪费。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的目的在于提供一种数据解析方法、数据解析装置、电子设备以及计算机可读介质,进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的前后端数据通信造成资源浪费的问题。
根据本公开的第一方面,提供一种数据解析方法,包括:
根据protobuf文件确定消息结构;
接收到针对所述protobuf文件的前端请求时,获取所述前端请求中的待解析字段信息,根据所述消息结构确定所述待解析字段信息对应的字段路径;
通过所述字段路径解析所述protobuf文件中目标字段,以根据所述前端请求对所述目标字段进行数据处理。
在本公开的一种示例性实施例中,所述根据protobuf文件确定消息结构包括:
获取所述protobuf文件中的各个对象,通过动态创建方法将所述各个对象作为节点生成树形结构。
在本公开的一种示例性实施例中,所述待解析字段信息中包括待解析字段名称;所述根据所述消息结构确定所述待解析字段信息对应的字段路径包括:
在所述树形结构的各个节点中查找与所述待解析字段名称相匹配的目标节点,确定出所述目标节点的节点标号;
根据所述目标节点的节点标号生成所述目标节点的路径树,将所述路径树作为所述字段路径。
在本公开的一种示例性实施例中,所述通过所述字段路径解析所述protobuf文件中的目标字段包括:
获取所述protobuf文件被编译后的二进制数据;
解析所述字段路径中各个节点在所述二进制数据中对应的起止边界,以确定所述字段路径中叶节点对应的目标起止边界;
确定所述目标起止边界对应的部分二进制数据为目标字段。
在本公开的一种示例性实施例中,所述前端请求包括写数据请求;所述根据所述前端请求对所述目标字段进行数据处理包括:
利用所述待解析字段信息确定待解析字段的字段结构;
通过所述字段结构替换所述二进制数据中的所述目标字段,以对所述protobuf文件进行更新。
在本公开的一种示例性实施例中,所述前端请求包括读数据请求;所述根据所述前端请求对所述目标字段进行数据处理包括:
将所述部分二进制数据作为所述目标字段传输至前端。
在本公开的一种示例性实施例中,所述方法还包括:
生成对所述protobuf文件的请求接口,以通过所述请求接口接收所述前端请求,其中,所述请求接口包括对所述protobuf文件的读取请求和更新请求。
根据本公开的第二方面,提供一种数据解析装置,该数据解析装置可以包括消息结构确定模块、字段路径确定模块以及目标字段处理模块。其中:
消息结构确定模块,用于根据protobuf文件确定消息结构;字段路径确定模块,用于接收到针对所述protobuf文件的前端请求时,获取所述前端请求中的待解析字段信息,根据所述消息结构确定所述待解析字段信息对应的字段路径;目标字段处理模块,用于通过所述字段路径解析所述protobuf文件中目标字段,以根据所述前端请求对所述目标字段进行数据处理。
在本公开的一种示例性实施例中,所述消息结构确定模块可被配置为:获取所述protobuf文件中的各个对象,通过动态创建方法将所述各个对象作为节点生成树形结构。
在本公开的一种示例性实施例中,所述待解析字段信息中包括待解析字段名称;所述字段路径确定模块包括:
节点标号确定模块,用于在所述树形结构的各个节点中查找与所述待解析字段名称相匹配的目标节点,确定出所述目标节点的节点标号;路径树生成模块,用于根据所述目标节点的节点标号生成所述目标节点的路径树,将所述路径树作为所述字段路径。
在本公开的一种示例性实施例中,所述目标字段处理模块包括:
数据获取模块,用于获取所述protobuf文件被编译后的二进制数据;边界划分模块,用于解析所述字段路径中各个节点在所述二进制数据中对应的起止边界,以确定所述字段路径中叶节点对应的目标起止边界;目标字段确定模块,用于确定所述目标起止边界对应的部分二进制数据为目标字段。
在本公开的一种示例性实施例中,所述前端请求包括写数据请求;所述目标字段处理模块包括:
字段结构确定模块,用于利用所述待解析字段信息确定待解析字段的字段结构;字段更新模块,用于通过所述字段结构替换所述二进制数据中的所述目标字段,以对所述protobuf文件进行更新。
在本公开的一种示例性实施例中,所述前端请求包括读数据请求;所述目标字段处理模块具体用于将所述部分二进制数据作为所述目标字段传输至前端。
在本公开的一种示例性实施例中,所述数据解析装置还包括:
接口生成模块,用于生成对所述protobuf文件的请求接口,以通过所述请求接口接收所述前端请求,其中,所述请求接口包括对所述protobuf文件的读取请求和更新请求。
根据本公开的第三方面,提供一种电子设备,包括:处理器;以及存储器,用于存储所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来执行上述任意一项所述的方法。
根据本公开的第四方面,提供一种计算机可读介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任意一项所述的方法。
根据本公开的第五方面,提供一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读介质中。计算机设备的处理器从计算机可读介质中读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各个实施例中提供的数据解析方法。
本公开示例性实施例可以具有以下部分或全部有益效果:
在本公开的一示例实施方式所提供的数据解析方法中,当protobuf文件被请求时,可以只对protobuf文件中需要更新的目标字段进行解析,而无需对整体消息进行解析,一方面,可以避免造成不必要的资源浪费,节省计算资源;另一方面,每次请求无需从后端获取完整的protobuf文件,只需要对protobuf文件中的目标字段进行处理,可以节省流量,提高数据传输效率;再一方面,对protobuf文件进行数据处理时,后端无需重启就可以提供服务,能够提高稳定性,具有更广阔的应用场景。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了可以应用本公开实施例的一种数据解析及装置的示例性系统架构的示意图。
图2示出了适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。
图3示意性示出了根据本公开的一个实施例的数据解析方法的流程图。
图4示意性示出了根据本公开的一个实施例中的消息结构的示意图。
图5示意性示出了根据本公开的另一个实施例中消息结构的示意图。
图6示意性示出了根据本公开的一个实施例中数据解析方法的流程图。
图7示意性示出了根据本公开的一个实施例中的节点标号示意图。
图8示意性示出了根据本公开的一个实施例中路径树的示意图。
图9示意性示出了根据本公开的一个实施例中数据解析方法的流程图。
图10示意性示出了根据本公开的一个实施例中数据解析的示意图。
图11示意性示出了根据本公开的另一个实施例中数据解析的示意图。
图12示意性示出了根据本公开的一个实施例的数据解析装置的框图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本公开的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
图1示出了可以应用本公开实施例的一种数据解析方法及数据解析装置的示例性应用环境的系统架构的示意图。
如图1所示,系统架构100可以包括终端设备101、102、103中的一个或多个,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。终端设备101、102、103可以是具有显示屏的各种电子设备,包括但不限于台式计算机、便携式计算机、智能手机和平板电脑等等。应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。比如服务器105可以是多个服务器组成的服务器集群等。
本公开实施例所提供的数据解析方法一般由服务器105执行,相应地,数据解析装置一般设置于服务器105中。但本领域技术人员容易理解的是,本公开实施例所提供的数据解析方法也可以由终端设备101、102、103执行,相应的,数据解析装置也可以设置于终端设备101、102、103中,本示例性实施例中对此不做特殊限定。
图2示出了适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。
需要说明的是,图2示出的电子设备的计算机系统200仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图2所示,计算机系统200包括中央处理单元(CPU)201,其可以根据存储在只读存储器(ROM)202中的程序或者从存储部分208加载到随机访问存储器(RAM)203中的程序而执行各种适当的动作和处理。在RAM 203中,还存储有系统操作所需的各种程序和数据。CPU201、ROM 202以及RAM 203通过总线204彼此相连。输入/输出(I/O)接口205也连接至总线204。
以下部件连接至I/O接口205:包括键盘、鼠标等的输入部分206;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分207;包括硬盘等的存储部分208;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分209。通信部分209经由诸如因特网的网络执行通信处理。驱动器210也根据需要连接至I/O接口205。可拆卸介质211,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器210上,以便于从其上读出的计算机程序根据需要被安装入存储部分208。
特别地,根据本公开的实施例,下文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分209从网络上被下载和安装,和/或从可拆卸介质211被安装。在该计算机程序被中央处理单元(CPU)201执行时,执行本申请的方法和装置中限定的各种功能。
以下对本公开实施例的技术方案进行详细阐述:
Protobuf新增消息结构时需要编译,如果后端要与前端使用的protobuf消息保持一致,则后端服务需要重新编译链接最新的protobuf文件,并且重启。如果更新消息结构中很小的一个嵌套字段,需要从后端获取整个protobuf消息,并需要对Protobuf消息进行解包,对消息中的每个字段一一进行解析,然后定位到需要更新的字段,对该字段进行更新,再重新打包,对于性能损耗较大。
其中,技术术语:
Protobuf文件是指按照Protocol Buffer规范定义的源文件,以.proto结尾。Protocol文件中通过message定义消息结构,包括消息名称、字段名称、字段类型以及字段在消息结构中的唯一标号,形成TLV结构。其中T为数据的唯一标号(tag);L表示数据的长度(length);V表示值(value)。
Protobuf消息是指根据.proto文件生成的消息结构,可以按照protobuf规范打包成二进制,进行传输或存储。
基于上述一个或多个问题,本示例实施方式提供了一种数据解析方法,该数据解析方法可以应用于上述服务器105,也可以应用于上述终端设备101、102、103中的一个或多个,本示例性实施例中对此不做特殊限定。参考图3所示,该数据解析方法可以包括以下步骤:
步骤S310.根据protobuf文件确定消息结构。
步骤S320.接收到针对所述protobuf文件的前端请求时,获取所述前端请求中的待解析字段信息,根据所述消息结构确定所述待解析字段信息对应的字段路径。
步骤S330.通过所述字段路径解析所述protobuf文件中目标字段,以根据所述前端请求对所述目标字段进行数据处理。
在本示例实施方式所提供的数据解析方法中,当protobuf文件被请求时,可以只对protobuf文件中需要更新的目标字段进行解析,而无需对整体消息进行解析,一方面,可以避免造成不必要的资源浪费,节省计算资源;另一方面,每次请求无需从后端获取完整的protobuf文件,只需要对protobuf文件中的目标字段进行处理,可以节省流量,提高数据传输效率;再一方面,对protobuf文件进行数据处理时,后端无需重启就可以提供服务,能够提高稳定性,具有更广阔的应用场景。
下面,对于本示例实施方式的上述步骤进行更加详细的说明。
步骤S310.根据protobuf文件确定消息结构。
protobuf文件中通过代码定义消息(message),消息可以由至少一个字段组合而成,每个字段也可以有不同的格式。在本示例性实施方式中,将最新的protobuf文件上传至服务端,当服务端得到protobuf文件时,可以通过对应的API对protobuf文件进行解析,得到该文件中定义的消息结构。前后端通过该消息结构来进行数据交换。
protobuf提供了相应的API(Application Programming Interface,应用程序接口)来解析protobuf文件,举例来说,将最新的.proto文件打包成一文本文件上传至服务端,服务端可以通过接口google::protobuf::io::compiler::Importer来对该文本文件中的内容进行解析,从而得到消息;一个消息中可以包括多个字段,也可以包括子结构,子结构也由至少一个字段组成,从而共同形成完整的消息结构。
举例而言,protobuf文件定义如下:
Figure BDA0002984880430000091
对该protobuf文件进行解析可以得到如图4所示的消息结构。该protobuf文件中定义了一个名称为msg的消息,该消息包括5个对象id、name、pay、location以及login,其中pay以及location对象具有自己的子结构,如图4所示,子结构中也可以继续嵌套子结构,如pay中包含的account对象。
在示例性实施方式中,获取protobuf文件中的各个对象,通过动态创建方法将获得的各个对象作为节点生成树形结构。具体的,由图4可以看出,消息结构具有明显的树形结构的特征,因而可以先从protobuf文件中读取出其中包含的各个对象,然后将各对象通过动态创建的方式插入树形结构中。动态创建方法可以在文件变更时及时更新消息结构,使前后端消息结构保持一致,而无需重启服务器,服务不会停止,改善了稳定性,从而满足对protobuf的更新需求。
举例而言,protobuf支持反射机制,因此可以获取protobuf消息中的各个对象,通过动态创建方法DynamicMessageFactory生成树形结构,从而反射得到与内存中消息结构相一致的树形结构。如图5所示,其中,用Descriptor来描述对象,每个对象可以作为一个字段,子结构也有字段成员,最终的字段,即不包含子结构的字段用FieldDescriptor来描述,每个字段都有类型,Full_name表示为字段名称,type为字段的类型,字段的类型决定大小,因而可以确定protobuf消息的大小。
需要说明的是,本示例性实施方式中采用Descriptor类以及FieldDescirptor类来描述数据,此外,也可以采用其他类来描述,例如DescriptorPool、FileDescirptor等,本实施方式不限于此。
步骤S320.接收到针对所述protobuf文件的前端请求时,获取所述前端请求中的待解析字段信息,根据所述消息结构确定所述待解析字段信息的字段路径。
其中,前端请求可以指客户端向服务器发送的请求,具体可以包括请求类型,请求的字段名称等,还可以包括客户端的信息以及服务器的信息,例如客户端的标识ID,IP地址、服务器地址等等,本实施方式对此不做特殊限定。
如果客户端需要读取protobuf消息或者消息中的某个字段,则前端(客户端)可以向服务器发送一读数据请求,当服务器接收到针对protobuf文件的前端请求时,可以对该前端请求进行解析获取其中包含的待解析字段信息。待解析字段信息中可以包括至少一个待解析字段的信息,具体可以包括待解析字段的名称,也可以包括待解析字段的字段内容;此外,根据实际需求,待解析字段信息中也可以包括其他信息,例如待解析字段的类型等,本实施方式对此不做特殊限定。待解析字段信息对应的字段路径可以理解为待解析字段在消息结构中的查询路径,根据该字段路径可以确定待解析字段在消息结构中的位置,从而读取到对应的待解析字段。
根据消息结构确定待解析字段信息的字段路径的方法可以包括步骤S610、步骤S620,如图6所示。
步骤S610.在所述树形结构的各个节点中查找与所述待解析字段名称相匹配的目标节点,确定所述目标节点的节点标号。
步骤S620.根据所述目标节点的节点标号生成所述目标节点的路径树,将所述路径树作为所述字段路径。
其中,在步骤S610中,在根据消息构建的树形结构中,从根节点开始对每个节点进行匹配,该树形结构中的每个节点为protobuf消息中的一个字段,可以将节点中包含的字段名称与待解析字段名称进行匹配,从而确定与待解析字段名称相匹配的目标节点。查找到目标节点后可以确定目标节点的节点标号,节点标号可以包括从根节点指向子节点的路径的标识,或者节点的标识。如果待解析字段为一嵌套字段则待解析字段名称中包含多个节点,也就是说,存在多个与待解析字段名称相匹配的目标节点。在该树形结构中每个节点具有一节点标号,节点标号为树形结构中节点的唯一标识,不同的节点具有不同的节点标号。在生成树形结构时可以为每个节点确定一互不重复的节点标号,例如,根节点的第一个子节点的节点标号可以为1,根节点的第二个子节点的节点标号可以为2等,再例如,根节点的第一个子节点也具有子结构,则该节点的第一个子节点的节点标号可以为1.1,该节点的第二个子节点的节点标号可以为1.2等等,依次类推,若还有下一级子结构,则其子结构中的各个节点的节点标号也按照这样的方式进行编号。
举例而言,如果树形结构的各个节点的节点标号如图7所示,根节点包含5个子节点,依次将根节点的子节点1、2、3、4、5分别与待解析字段名称进行匹配,若没有查找到互相匹配的目标节点,则再往下一层查找子节点2、3、4的子节点。假设待解析字段名称与节点T的字段名称相同,则节点T为目标节点,目标节点的节点标号为3.3.2。如果待解析字段为多个,则每个待解析字段名称均可以确定对应的目标节点。假设一待解析字段名称与节点T匹配,另一待解析字段名称与节点G匹配,则目标节点为节点T和G,并且目标节点T的节点标号为3.3.2,目标节点G的节点标号为4。
在步骤S620中,根据目标节点的节点标号可以还原出目标节点所在的子树的结构,作为目标节点的路径树。该路径树的每个节点的节点标号都是在根节点下面,因此可以为该路径树生成一值为零的根节点,从而使得该路径树的结构与内存中的消息结构一致。路径树为树形结构的一个子树,可以作为待解析字段的字段路径,其中包括从树形结构的根节点至各个目标节点的路径。举例而言,结合图4和图7,如果待解析字段名称为:pay.account.balance以及location,其各自对应的目标节点的节点标号为3.3.2,以及4,则根据目标节点的节点标号还原出的路径树可以如图8所示。具体地,先生成一值为零的根节点,然后获取节点标号中的第一个父节点在该根节点的子节点中查找,初始该根节点没有子节点,因此在根节点的子节点中插入该第一个父节点,pay.account.balance的节点标号中第一个父节点为3,则根节点的第一个子节点为3,location的节点标号中第一个父节点为4,则根节点的另一个子节点为4,此时该值为零的根节点有两个子节点3和4;将这两个子节点作为子结构的父节点,并去掉节点标号的上述第一个父节点,重复执行上述步骤,直到节点标号为空,生成目标节点的路径树。该路径树相对于原有的protobuf消息结构来说就是一个子树。
步骤S330.通过所述字段路径解析所述protobuf文件中目标字段,以根据所述前端请求对所述目标字段进行数据处理。
通过字段路径可以确定出消息结构中该字段路径对应的部分,从而只对该部分进行解析,获取需要解析的目标字段。由于Protobuf文件在内存中存储为二进制数据,需要读取该文件时首先要对该protobuf文件对应的二进制数据进行解析,将二进制数据解析成所需要的格式,从而读取对应的数据。该方法包括步骤S910、步骤S920以及步骤S930,如图9所示。其中:
步骤S910.获取所述protobuf文件被编译后的二进制数据。服务器在拿到通过代码编写的protobuf文件后,可以提供protobuf提供的编译器对该文件编译为二进制数据进行存储。根据protobuf文件定义的消息名称可以从内存中读取出对应的二进制数据。
步骤S920.解析所述字段路径中各个节点在所述二进制数据中对应的起止边界,以确定所述字段路径中叶子节点对应的目标起止边界。字段路径包括从指向目标节点的路径,该路径可以连通多个节点,将该字段路径与消息结构进行映射,可以确定出字段路径在该消息结构中对应的字段,从而根据protobuf的特性确定各字段的起止边界。示例性实施方式中,根据字段路径的路径树结构可以与二进制数据进行映射,确定路径树中的各个节点在二进制数据中对应的边界,从而将二进制数据划分为多个字段。具体来说,用字段路径的根节点指向该二进制数据,然后判断根节点是否有子节点,得到其第一级子节点,然后依次对二进制数据中各字段进行解析,根据protobuf的TLV特性可以只解析各字段的类型和长度,即tag和length,从而确定第一级子节点对应的字段,利用字段路径中节点与解析出的各字段进行匹配,确定字段路径中各节点对应的字段以及该字段的起止边界。对于二进制数据中不相关的字段则只需要解析类型和长度,而无需解析字段的值。递归执行上述过程,直到找到字段路径中的叶子节点对应的目标起止边界,从而完成解析。
步骤S930.确定所述目标起止边界对应的部分二进制数据为目标字段。字段路径中的叶子节点的目标起止边界内的部分二进制数据即为待解析字段信息对应的目标字段,根据前端请求可以对完整的目标字段的数据包进行解析,确定目标字段的值,将目标字段的值返回给前端请求,也可以根据前端请求对目标字段进行其他数据处理。举例来说,结合图10,待解析字段pay.account.balance对应的部分二进制数据为1020,location对应的部分二进制数据为1030,则这两部分二进制数据均可以确定为目标字段。
对于二进制数据来说,现有技术需要对二进制数据整体进行解析,而本示例性实施方式可以根据字段路径确定其中各节点的边界,只对节点的类型、长度进行解析而无需解析各字段的值value,对于字段路径中的叶子节点,即使其实际上仍为嵌套字段,也无需对其中包含的嵌套字段进行解析,可以大大减少计算量,节省计算资源,提高计算资源的利用率。
图10示意性示出了对二进制数据进行解析,确定各节点起止边界的过程。参考图10所示,对于字段路径3.3.2,以及字段路径4来说,将其根节点指向二进制数据A,然后对二进制数据从头依次进行解析,首先解析第一个字段,并将解析出的类型tag与字段路径中的第一个父节点进行匹配,可以将父节点的名称与该第一个字段的字段名称进行对比,确定是否匹配,如果匹配则可以根据该第一个字段的length确定其起止边界,若第一个字段即为字段路径中的叶节点,则该第一个字段的起始边界则包括该二进制数据的头,以及从头开始至长度为length的尾,该起止边界即为目标起止边界。如果第一个字段不与字段路径中的第一个父节点匹配,则继续解析第二字段,依次类推,直到查找到与字段路径中第一个父节点相匹配的字段,确定该字段头,并根据该字段的长度确定其尾部,从而得到第一个父节点的边界,如图中字段路径3.3.2中第一个父节点3的起止边界为a1,b1,其中起始边界为a1、结束边界为b1。对于二进制数据从头开始至该节点3之前的部分1010,只需要解析各字段的类型和长度,而无需解析数据包,即数据1010部分为不解包的部分。
匹配到字段路径中的第一个父节点之后,如果第一个父节点为字段路径中最后一个节点,即叶节点,即其中不包含子结构,则完成解析。如果第一个父节点不为叶节点,则对该第一个父节点的起止边界之内的数据进行解析,采用上述解析方式进行递归,即从该第一个父节点的起始位置a处开始,解析其中包含的各个字段的类型和长度,将各字段与字段路径中的第二父节点进行匹配,确定第二父节点对应的起止边界,依次类推,直到确定出字段路径中最后一个节点的起止边界,其最后一个节点的起止边界即为目标起止边界。参考图10,对于字段路径3.3.2中的第三个节点即为叶节点,则目标起止边界为a2,b2;对于字段路径4来说,其为字段路径中的最后一个节点,对应的目标起止边界为a3,b3,即使该节点中还包含子节点,也无需对其再进行解析。
解析出目标字段的目标起止边界后,可以根据前端请求的类型来对目标字段进行数据处理。前端请求可以具有多种类型,例如可以包括读数据请求和写数据请求。当所述前端请求为写数据请求时,可以利用待解析字段信息对所述目标字段进行更新;当所述前端请求为读数据请求时,可以将所述目标字段发送至前端。
具体的,如果前端请求为读数据请求,可以将所述部分二进制数据作为所述目标字段传输至前端。根据目标字段的目标起止边界从保存的protobuf二进制数据中读取出该目标起止边界内的数据,该数据为TLV结构,将读取到的数据返回给前端。前端获取到该二进制数据后可以对二进制数据进行解析,转换成用户可读的格式进行显示。
如果前端请求为写数据请求,利用所述待解析字段信息确定待解析字段的字段结构;通过所述字段结构替换所述二进制数据中的所述目标字段,以对所述protobuf文件进行更新。根据待解析字段信息可以确定待解析字段的TLV结构,即确定待解析字段的类型、长度和值,从而按照TLV结构对待解析字段信息进行打包,将打包后的TLV数据插入二进制数据中。如图11所示,利用打包后的数据1110以及1120替换掉原有的数据,重新生成二进制数据,完成对protobuf文件在后端的更新,使得后端的protobuf文件与前端保持一致。
在示例性实施方式中,本公开提供的数据解析方法还包括生成对所述protobuf文件的请求接口,以通过所述请求接口接收所述前端请求,其中,所述请求接口包括对所述protobuf文件的读取请求和更新请求。为了便于前端对protobuf文件进行处理,可以将上述步骤S310至步骤S330中的算法进行封装,生成请求接口。根据不同的需求类型可以生成多个请求接口,例如读数据的接口以及写数据的接口等。该请求接口可以通过字段路径来对protobuf文件进行读取和更新。举例来说,如果客户端需要更新服务器上protobuf消息中mag中指定字段,根据该指定字段的字段路径fielda.fieldb.fieldc,调用请求接口的方式为“int FieldSet(const std::set<std::string>&dottedpaths,::google::protobuf::Message*msg)”,其中,“FieldSet”为该请求接口的名称,“const std::set<std::string>&dottedpaths,::google::protobuf::Message*msg”为该请求接口的输入参数,dottedpaths用于接收字段路径的参数,本实施例中该参数的值为fielda.fieldb.fieldc。再例如,客户端需要读取protobuf消息红的制定字段的值时,请求接口具体可以为“int FieldGet(const std::set<std::string>&dottedpaths,::google::protobuf::Message*msg,std::set<std::string>*failedpaths)”,其中,“FieldGet”为请求接口的名称,“const std::set<std::string>&dottedpaths,::google::protobuf::Message*msg,std::set<std::string>*failedpaths”为该请求接口的输入参数,failedpaths表示请求中不存在的字段路径。
需要说明的是,在本示例性实施方式中,请求接口分为读数据接口FieldGet和写数据接口FieldSet,然而在本公开的其他实施方式中,请求接口也可以为其他类型的接口,接口名称、接口的访问方式等均可以根据实际需求设置,这些也属于本公开的保护范围。
应当注意,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
进一步的,本示例实施方式中,还提供了一种数据解析装置。该数据解析装置可以应用于一服务器或终端设备。参考图12所示,该数据解析装置1200可以包括消息结构确定模块1210、字段路径确定模块1220以及目标字段处理模块1230。其中:
消息结构确定模块1210,用于根据protobuf文件确定消息结构;字段路径确定模块1220,用于接收到针对所述protobuf文件的前端请求时,获取所述前端请求中的待解析字段信息,根据所述消息结构确定所述待解析字段信息对应的字段路径;目标字段处理模块1230,用于通过所述字段路径解析所述protobuf文件中目标字段,以根据所述前端请求对所述目标字段进行数据处理。
在本公开的一种示例性实施例中,所述消息结构确定模块1210可被配置为:获取所述protobuf文件中的各个对象,通过动态创建方法将所述各个对象作为节点生成树形结构。
在本公开的一种示例性实施例中,所述待解析字段信息中包括待解析字段名称;所述字段路径确定模块1220包括:
节点标号确定模块,用于在所述树形结构的各个节点中查找与所述待解析字段名称相匹配的目标节点,确定出所述目标节点的节点标号;路径树生成模块,用于根据所述目标节点的节点标号生成所述目标节点的路径树,将所述路径树作为所述字段路径。
在本公开的一种示例性实施例中,所述目标字段处理模块1230包括:
数据获取模块,用于获取所述protobuf文件被编译后的二进制数据;边界划分模块,用于解析所述字段路径中各个节点在所述二进制数据中对应的起止边界,以确定所述字段路径中叶节点对应的目标起止边界;目标字段确定模块,用于确定所述目标起止边界对应的部分二进制数据为目标字段。
在本公开的一种示例性实施例中,所述前端请求包括写数据请求;所述目标字段处理模块1230包括:
字段结构确定模块,用于利用所述待解析字段信息确定待解析字段的字段结构;字段更新模块,用于通过所述字段结构替换所述二进制数据中的所述目标字段,以对所述protobuf文件进行更新。
在本公开的一种示例性实施例中,所述前端请求包括读数据请求;所述目标字段处理模块1230具体用于将所述部分二进制数据作为所述目标字段传输至前端。
在本公开的一种示例性实施例中,所述数据解析装置1200还包括:
接口生成模块,用于生成对所述protobuf文件的请求接口,以通过所述请求接口接收所述前端请求,其中,所述请求接口包括对所述protobuf文件的读取请求和更新请求。
本实施方式所提供的的数据解析装置在前端需要对protobuf文件进行更新或读取时,无需停机重启,可以根据前端的需求对protobuf文件中的目标字段进行更新,可以减少计算资源的占用,从而提高处理效率。
上述数据解析装置中各模块或单元的具体细节已经在对应的数据解析方法中进行了详细的描述,因此此处不再赘述。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
需要说明的是,本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现上述述实施例中所述的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (10)

1.一种数据解析方法,其特征在于,包括:
根据protobuf文件确定消息结构;
接收到针对所述protobuf文件的前端请求时,获取所述前端请求中的待解析字段信息,根据所述消息结构确定所述待解析字段信息对应的字段路径;
通过所述字段路径解析所述protobuf文件中目标字段,以根据所述前端请求对所述目标字段进行数据处理。
2.根据权利要求1所述的方法,其特征在于,所述根据protobuf文件确定消息结构包括:
获取所述protobuf文件中的各个对象,通过动态创建方法将所述各个对象作为节点生成树形结构。
3.根据权利要求2所述的方法,其特征在于,所述待解析字段信息中包括待解析字段名称;所述根据所述消息结构确定所述待解析字段信息对应的字段路径包括:
在所述树形结构的各个节点中查找与所述待解析字段名称相匹配的目标节点,确定出所述目标节点的节点标号;
根据所述目标节点的节点标号生成所述目标节点的路径树,将所述路径树作为所述字段路径。
4.根据权利要求1所述的方法,其特征在于,所述通过所述字段路径解析所述protobuf文件中的目标字段包括:
获取所述protobuf文件被编译后的二进制数据;
解析所述字段路径中各个节点在所述二进制数据中对应的起止边界,以确定所述字段路径中叶节点对应的目标起止边界;
确定所述目标起止边界对应的部分二进制数据为目标字段。
5.根据权利要求4所述的方法,其特征在于,所述前端请求包括写数据请求;所述根据所述前端请求对所述目标字段进行数据处理包括:
利用所述待解析字段信息确定待解析字段的字段结构;
通过所述字段结构替换所述二进制数据中的所述目标字段,以对所述protobuf文件进行更新。
6.根据权利要求4所述的方法,其特征在于,所述前端请求包括读数据请求;所述根据所述前端请求对所述目标字段进行数据处理包括:
将所述部分二进制数据作为所述目标字段传输至前端。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
生成对所述protobuf文件的请求接口,以通过所述请求接口接收所述前端请求,其中,所述请求接口包括对所述protobuf文件的读取请求和更新请求。
8.一种数据解析装置,其特征在于,包括:
消息结构确定模块,用于根据protobuf文件确定消息结构;
字段路径确定模块,用于接收到针对所述protobuf文件的前端请求时,获取所述前端请求中的待解析字段信息,根据所述消息结构确定所述待解析字段信息对应的字段路径;
目标字段处理模块,用于通过所述字段路径解析所述protobuf文件中目标字段,以根据所述前端请求对所述目标字段进行数据处理。
9.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1-7任一项所述的数据解析方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-7任一项所述的数据解析方法。
CN202110297479.XA 2021-03-19 2021-03-19 数据解析方法及装置、电子设备及可读介质 Pending CN115114890A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110297479.XA CN115114890A (zh) 2021-03-19 2021-03-19 数据解析方法及装置、电子设备及可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110297479.XA CN115114890A (zh) 2021-03-19 2021-03-19 数据解析方法及装置、电子设备及可读介质

Publications (1)

Publication Number Publication Date
CN115114890A true CN115114890A (zh) 2022-09-27

Family

ID=83322964

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110297479.XA Pending CN115114890A (zh) 2021-03-19 2021-03-19 数据解析方法及装置、电子设备及可读介质

Country Status (1)

Country Link
CN (1) CN115114890A (zh)

Similar Documents

Publication Publication Date Title
US10630614B2 (en) Opaque message parsing
US9378237B2 (en) Methods for in-place access of serialized data
CN110941655B (zh) 一种数据格式转换方法及装置
CN110865889A (zh) 组件间传递事件的方法和装置
CN110688096B (zh) 包含插件的应用程序的构建方法、装置、介质及电子设备
CN109726217B (zh) 一种数据库操作方法、装置、设备及存储介质
CN111813441B (zh) 智能合约发布方法、装置、计算机可读介质及电子设备
CN112769706B (zh) 组件化路由方法及系统
CN114115904B (zh) 信息处理方法、装置、服务器及存储介质
CN113495797A (zh) 一种消息队列及消费者动态创建方法及系统
CN108804100B (zh) 创建界面元素的方法、装置、存储介质及移动终端
CN115599386A (zh) 代码生成方法、装置、设备及存储介质
CN113778897B (zh) 接口的自动测试方法、装置、设备及存储介质
CN111240772A (zh) 一种基于区块链的数据处理方法、装置及存储介质
CN113760242B (zh) 一种数据处理方法、装置、服务器和介质
CN112883088B (zh) 一种数据处理方法、装置、设备及存储介质
CN117008920A (zh) 引擎系统、请求处理方法、装置、计算机设备及存储介质
CN116781586A (zh) 一种gRPC流量解析方法、装置、设备及介质
CN113515285B (zh) 生成实时计算逻辑数据的方法和装置
CN115167822A (zh) 分支代码合并方法、装置、设备和存储介质
CN115114890A (zh) 数据解析方法及装置、电子设备及可读介质
CN114625373A (zh) 应用转换方法、装置、电子设备和存储介质
CN112988778A (zh) 一种处理数据库查询脚本的方法和装置
CN115563183B (zh) 查询方法、装置及程序产品
CN117118962B (zh) 用于跨多个云平台部署用户方法的方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination