CN111143318B - 一种信息处理方法、装置、电子设备及存储介质 - Google Patents
一种信息处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111143318B CN111143318B CN201911348408.7A CN201911348408A CN111143318B CN 111143318 B CN111143318 B CN 111143318B CN 201911348408 A CN201911348408 A CN 201911348408A CN 111143318 B CN111143318 B CN 111143318B
- Authority
- CN
- China
- Prior art keywords
- nodes
- node
- layer
- node information
- analysis
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
- G06F16/2246—Trees, e.g. B+trees
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明实施例提供了一种信息处理方法、装置、电子设备及存储介质,其中,信息处理方法可以包括:获取多个节点分别对应的节点信息,其中,节点是分布式应用程序协调服务中的数据节点Znode;针对各个节点,对节点对应的节点信息标注标签;根据标注标签后的节点信息,对多个节点进行分析,得到分析结果,以使根据分析结果进行故障分析。通过本发明实施例提供的本发明实施例提供的信息处理方法、装置、电子设备及存储介质,能够实现对数据节点Znode的分析,为根据对节点的分析结果进行故障分析提供基础。
Description
技术领域
本发明涉及计算机应用技术领域,特别是涉及一种信息处理方法、装置、电子设备及存储介质。
背景技术
ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务。在ZooKeeper中,Znode(数据节点)是一个跟Unix文件系统路径相似的节点,可以往这个节点存储或获取数据。和文件系统一样,能够自由的增加、删除Znode,并可以在一个Znode下增加、删除子Znode。通过对Znode进行操作以实现ZooKeeper的功能,Znode会影响ZooKeeper的性能甚至导致故障,例如,ZNode过多会造成ZooKeeper中集群的不稳定,数据难以恢复等。但是,现有技术中,没有针对Znode的分析策略,如此会使得无法根据Znode进行故障分析。
发明内容
本发明实施例的目的在于提供一种信息处理方法、装置、电子设备及存储介质,以实现对Znode的分析,为根据对节点的分析结果进行故障分析提供基础。具体技术方案如下:
在本发明实施的第一方面,首先提供了一种信息处理方法,包括:
获取多个节点分别对应的节点信息,其中,所述节点是分布式应用程序协调服务中的数据节点Znode;
针对各个节点,对所述节点对应的所述节点信息标注标签;
根据标注所述标签后的节点信息,对所述多个节点进行分析,得到分析结果,以使根据所述分析结果进行故障分析。
可选的,所述获取多个节点分别对应的节点信息,包括:
获取快照snapshot数据,所述snapshot数据包括所述多个节点分别对应的节点信息,所述snapshot数据以二进制形式存在;
在所述针对各个节点,对所述节点对应的所述节点信息标注标签之前,所述方法还包括:
解析所述snapshot数据,得到树形结构的节点信息,所述树形结构的节点信息包括各个节点对应的路径信息;
所述针对各个节点,对所述节点对应的所述节点信息标注标签,包括:
针对各个节点,对所述节点对应的路径信息进行拆分,得到处于不同层级的层节点的路径信息;
利用各个层节点的路径信息,对所述层节点标注标签,得到包含标签的层节点信息;
所述根据标注所述标签后的节点信息,对所述多个节点进行分析,包括:
根据所述包含标签的层节点信息,对各个层节点进行数据分析。
可选的,所述根据所述包含标签的层节点信息,对各个层节点进行数据分析,包括:
根据所述包含标签的层节点信息,对各个层节点进行划分类别;
统计各个类别对应的层节点的个数;
计算同一类别对应的层节点在所有相同层层节点中所占的比例,所述相同层层节点是与所述同一类别对应的层节点处于相同层级的层节点;
按照所述比例,对各个层节点进行数据分析。
可选的,在所述解析所述snapshot数据,得到树形结构的节点信息之后,所述方法还包括:
将所述树形结构的节点信息发送至消息系统;
在所述针对各个节点,对所述节点对应的路径信息进行拆分,得到处于不同层级的层节点的路径信息之前,所述方法还包括:
从所述消息系统中获取所述树形结构的节点信息。
可选的,所述根据所述包含标签的层节点信息,对各个层节点进行数据分析,包括:
将所述包含标签的层节点信息发送至搜索服务器Elasticsearch,通过所述Elasticsearch进行数据分析。
可选的,在所述根据标注所述标签后的节点信息,对所述多个节点进行分析,得到分析结果之后,所述方法还包括:
将所述分析结果发送至业务对应的客户端,以使所述客户端根据所述分析结果进行故障分析。
在本发明实施的第二方面,还提供了一种信息处理装置,包括:
第一获取模块,用于获取多个节点分别对应的节点信息,其中,所述节点是分布式应用程序协调服务中的数据节点Znode;
标注模块,用于针对各个节点,对所述节点对应的所述节点信息标注标签;
分析模块,用于根据标注所述标签后的节点信息,对所述多个节点进行分析,得到分析结果,以使根据所述分析结果进行故障分析。
可选的,所述第一获取模块,具体用于获取快照snapshot数据,所述snapshot数据包括所述多个节点分别对应的节点信息,所述snapshot数据以二进制形式存在;
所述装置还包括:
解析模块,用于在所述针对各个节点,对所述节点对应的所述节点信息标注标签之前,解析所述snapshot数据,得到树形结构的节点信息,所述树形结构的节点信息包括各个节点对应的路径信息;
所述标注模块,具体用于针对各个节点,对所述节点对应的路径信息进行拆分,得到处于不同层级的层节点的路径信息;利用各个层节点的路径信息,对所述层节点标注标签,得到包含标签的层节点信息;
所述分析模块,具体用于根据所述包含标签的层节点信息,对各个层节点进行数据分析。
可选的,所述分析模块,具体用于根据所述包含标签的层节点信息,对各个层节点进行划分类别;统计各个类别对应的层节点的个数;计算同一类别对应的层节点在所有相同层层节点中所占的比例,所述相同层层节点是与所述同一类别对应的层节点处于相同层级的层节点;按照所述比例,对各个层节点进行数据分析。
可选的,所述装置还包括:
第一发送模块,用于在所述解析所述snapshot数据,得到树形结构的节点信息之后,将所述树形结构的节点信息发送至消息系统;
第二获取模块,用于在所述针对各个节点,对所述节点对应的路径信息进行拆分,得到处于不同层级的层节点的路径信息之前,从所述消息系统中获取所述树形结构的节点信息。
可选的,所述分析模块,具体用于将所述包含标签的层节点信息发送至搜索服务器Elasticsearch,通过所述Elasticsearch进行数据分析。
可选的,所述装置还包括:
第二发送模块,用于在所述根据标注所述标签后的节点信息,对所述多个节点进行分析,得到分析结果之后,将所述分析结果发送至业务对应的客户端,以使所述客户端根据所述分析结果进行故障分析。
在本发明实施的第二方面,还提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现上述第一方面所述的方法步骤。
在本发明实施的又一方面,还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述第一方面所述的方法步骤。
在本发明实施的又一方面,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述第一方面所述的方法步骤。
本发明实施例提供的信息处理方法、装置、电子设备及存储介质,可以对各个Znode对应的节点信息标注标签,即对节点信息打标签,并根据打标签后的节点信息对多个Znode进行分析,如此为根据对节点的分析结果进行故障分析提供了基础。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。
图1为本发明实施例提供的信息处理方法的流程图;
图2为本发明实施例中进行数据分析的流程图;
图3为本发明实施例提供的分析结果的示意图;
图4为本发明实施例提供的信息处理装置的一种结构示意图;
图5为本发明实施例提供的信息处理装置的另一种结构示意图;
图6为本发明实施例提供的信息处理装置的又一种结构示意图;
图7为本发明实施例提供的信息处理装置的再一种结构示意图;
图8为发明实施例提供的电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行描述。
为了更清楚地理解本发明实施例提供的信息处理方法,首先对Znode相关内容进行介绍。
Znode对应地可以包括:stat,表示状态信息,描述该Znode的版本,权限等信息;data,该Znode关联的数据;children,表示该Znode下的子节点。Znode持有状态数据结构(stat),此结构中包含数据更新的版本号、访问权限(ACL)更新的版本号、时间戳。这些版本号和时间戳使ZooKeeper可以验证缓存有效性和协调更新。每当ZNode中的数据更新时,版本号都会递增。例如,当客户端获取数据时,客户端也会接收到此数据对应的版本号。当此客户端下次执行更新(或删除)数据操作时,必须向ZNode提供这些数据的版本号(是客户端当前持有的版本号)。如果此版本号与ZNode本身的版本号不一致,即其他客户端已经更新了此数据,那么此更新就会执行失败。
ZooKeeper中,通过对Znode进行操作以实现ZooKeeper的功能,Znode会影响ZooKeeper的性能甚至导致故障,例如,ZNode过多会造成ZooKeeper中集群的不稳定,数据难以恢复等。但是,现有技术中,没有针对Znode的分析策略,如此会使得无法根据Znode进行故障分析。
为了解决现有技术中没有针对Znode的分析策略,导致的无法根据Znode进行故障分析的问题,本发明实施例提供了一种信息处理方法。
本发明实施例提供的信息处理方法通过对各个Znode对应的节点信息标注标签,即对节点信息打标签,并根据打标签后的节点信息对多个Znode进行分析,如此为根据对节点的分析结果进行故障分析提供了基础。例如,可以分析得到各个节点的分布情况,并将分布情况发送给业务对应的客户端,客户端可以根据分布情况进行故障分析,并及时对故障分析进行修复,进一步能够提高服务可用性。
下面对本发明实施例提供的信息处理方法进行详细说明。
本发明实施例提供的信息处理方法可以应用于电子设备,具体地,电子设备可以为终端、处理器等等。
本发明实施例提供了一种信息处理方法,如图1所示,可以包括:
S101,获取多个节点分别对应的节点信息,其中,节点是分布式应用程序协调服务中的数据节点Znode;
S102,针对各个节点,对节点对应的节点信息标注标签;
S103,根据标注标签后的节点信息,对多个节点进行分析,得到分析结果,以使根据分析结果进行故障分析。
本发明实施例中,可以对各个Znode对应的节点信息标注标签,即对节点信息打标签,并根据打标签后的节点信息对多个Znode进行分析,如此为根据对节点的分析结果进行故障分析提供了基础。
参照图1,对本发明实施例提供的信息处理方法进行详细说明,具体可以包括如下步骤:
S101,获取多个节点分别对应的节点信息。
其中,节点是分布式应用程序协调服务中的数据节点Znode。
Znode的节点信息可以包括Znode的版本号、Znode的类型、创建Znode的时间戳、Znode的路径信息,等等,其中,路径信息中可以包括Znode包含的子节点等。
一种可选的实施例中,可以包括:
获取快照snapshot数据。
snapshot数据包括多个节点分别对应的节点信息,snapshot数据以二进制形式存在。
具体地,电子设备中可以包括采集器,通过采集器定时获取snapshot数据。snapshot数据可以理解为当前时刻各个节点的镜像,包括当前时刻各个Znode的节点信息,其中,当前时刻是采集器采集数据的时刻。
因为snapshot数据是以二进制形式存在的,为了可以直观地利用节点信息,本发明一种可选的实施例中,在S102:针对各个节点,对节点对应的节点信息标注标签之前,还可以包括:
解析snapshot数据,得到树形结构的节点信息。
树形结构的节点信息包括各个节点对应的路径信息。
路径信息可以理解为层节点所处树形结构中的结构信息,可以包括父节点名称、子节点名称、各个层节点之间的从属关系等等。
具体地,电子设备中可以包含解析器,电子设备的采集器获取snapshot数据后,将snapshot数据发送至解析器,通过解析器解析snapshot数据,得到树形结构的节点信息。
S102,针对各个节点,对节点对应的节点信息标注标签。
具体地,可以包括:
针对各个节点,对节点对应的路径信息进行拆分,得到节点对应的处于不同层级的层节点的路径信息;利用各个层节点的路径信息,对层节点标注标签,得到包含标签的层节点信息。
一种可实现方式中,可以按照路径信息中包括的通配符对路径信息进行拆分。具体地,可以根据路径信息中包括的“/”对路径信息进行拆分。
例如:一个节点对应的路径信息为:/brokers/topics/prod,得到该节点对应的一级节点的路径信息为/brokers,二级节点的路径信息为/brokers/topics,三级节点的路径信息为/brokers/topics/prod,其中,一级节点表示层级为一级的节点,也即父节点,二级节点表示层级为二级的节点,也即父节点对应的子节点,三级节点表示层级为三级的节点,也即父节点的子节点对应的子节点。
一种可实现方式中,可以直接将层节点的路径信息,作为层节点对应的标签,即对层节点标注标签内容为路径信息的标签,得到包含层节点对应的路径信息的层节点信息。
一种可实现方式中,可以解析路径信息得到层节点所处的层级,具体地,路径信息中包含的通配符的个数与层节点所处的层级相同。如层节点的路径信息中包括几个“/”,则层节点的层级为几。然后,将层节点所处的层级作为标签,即对层节点标注标签内容为层级的标签,得到包含层级的层节点信息。
一种可选的实施例中,电子设备可以包括分析器。具体地,电子设备中解析器解析snapshot数据得到树形结构的节点信息之后,可以将树形结构的节点信息发送至分析器,分析器对针对各个节点,对节点对应的路径信息进行拆分,得到节点对应的处于不同层级的层节点的路径信息;利用各个层节点的路径信息,对层节点标注标签,得到包含标签的层节点信息。
S103,根据标注标签后的节点信息,对多个节点进行分析,得到分析结果,以使根据分析结果进行故障分析。
可以根据节点信息中包含的标签,对多个节点进行分类,得到多个节点的分析结果,并根据分析结果进行故障分析。
具体地,可以根据包含标签的层节点信息,对各个节点分别对应的各个层节点进行数据分析。
根据层节点对应的层节点信息中包含的标签,对各个层节点进行分类。
一种可实现方式中,标签可以为层节点所处的层级,则可以根据层节点所处的层级,得到不同层级对应的各个层节点,其中,层级可以理解为类别标识。
一种可实现方式中,标签为层节点的路径信息,则可以根据路径信息对各个层节点进行分类。则可以根据层节点的路径信息,得到不同路径信息对应的各个层节点,其中,路径信息可以理解为类别标识。
一种可选的实施例中,分析结果可以包括节点的分布情况,可以根据节点的分布情况进行故障分析。
例如,分析得到分析结果为:路径信息为/brokers的一级层节点的个数为1257,该一级层节点中路径信息为/brokers/topics的二级层节点的个数为1245,该二级层节点中路径信息为/brokers/topics/prod的三级层节点的个数为202;路径信息为/consumers的一级层节点的个数为364,该一级层节点中路径信息为/consumers/health的二级层节点的个数为16,该二级层节点中路径信息为/consumers/health/owners的三级层节点的个数为5。
从分析结果可以看出,一级层节点中路径信息为/brokers的一级层节点的个数比路径信息为/consumers的一级层节点的个数多,一般情况下,节点的个数多容易导致集群的不稳定,则可以理解为路径信息为/brokers的一级层节点是比较容易导致故障的节点,则在故障分析过程中,可以首先分析节点个数较多的节点。
本发明实施例中,可以对各个Znode对应的节点信息标注标签,即对节点信息打标签,并根据打标签后的节点信息对多个Znode进行分析,如此为根据对节点的分析结果进行故障分析提供了基础。
一种可选的实施例中,根据包含标签的层节点信息,对各个层节点进行数据分析,如图2所示,可以包括:
S201,根据包含标签的层节点信息,对各个层节点进行划分类别。
具体地,可以将具有相同标签的层节点信息对应的层节点划分为同一类别。其中,具有的相同标签则可以理解为该类别对应的类别标识。
S202,统计各个类别对应的层节点的个数。
S203,计算同一类别对应的层节点在所有相同层层节点中所占的比例。
相同层层节点是与同一类别对应的层节点处于相同层级的层节点。
具体地,如表1所示:
表1
标签为/A的层节点对应一个类别,和标签为/B的层节点对应一个类别,/A和/B均属于一级节点,标签为/A的类别对应的层节点的个数为8000,占所有第一节点的比例为80%,标签为/B的类别对应的层节点的个数为2000,占所有第一节点的比例为20%。
标签为/A/A1的层节点对应一个类别,且根据标签的内容,该类别的层节点是标签为/A的层节点的子节点,且可以根据标签中通配符的个数,如“/”的个数,可以理解为该标签为/A/A1的层节点是标签为/A的层节点对应的二级节点,标签为/A/A1的层节点的个数为4000,占该标签对应一级节点下的所有二级节点的比例为50%,同理,标签为/A/A2的层节点对应一个类别,标签为/A/A2的层节点是标签为/A的层节点对应的二级节点,标签为/A/A2的层节点的个数为2000,占该标签对应一级节点下的所有二级节点的比例为25%;标签为/A/A3的层节点对应一个类别,标签为/A/A3的层节点是标签为/A的层节点对应的二级节点,标签为/A/A3的层节点的个数为2000,占该标签对应一级节点下的所有二级节点的比例为25%。标签为/B/B1的层节点对应一个类别,且根据标签的内容,该类别的层节点是标签为/B的层节点的子节点,且可以根据标签中通配符的个数,如“/”的个数,可以理解为该/B/B1的层节点是标签为/B的层节点对应的二级节点,标签为/B/B1的层节点的个数为1500,占该标签对应一级节点下的所有二级节点的比例为75%;同理,标签为/B/B2的层节点对应一个类别,标签为/B/B2的层节点的个数为500,占该标签对应一级节点下的所有二级节点的比例为25%。
标签为/A/A1/aa1的层节点对应一个类别,且根据标签的内容,该类别的层节点是标签为/A/A1的层节点的子节点,而标签为/A/A1的层节点是标签为/A的层节点对应的二级节点,且可以根据标签中通配符的个数,如“/”的个数,可以理解为该标签为/A/A1/aa1的层节点是标签为/A的层节点对应的三级节点,标签为/A/A1/aa1的层节点是标签为/A/A1的层节点的子节点,标签为A/A1/aa1的层节点的个数为2000,占该标签对应的二级节点下的所有三级节点的比例为50%;同理,标签为/A/A1/aa2的层节点是标签为/A的层节点对应的三级节点,标签为/A/A1/aa2的层节点是标签为/A/A1的层节点的子节点,标签为/A/A1/aa2的层节点的个数为1000,占该标签对应的二级节点下的所有三级节点的比例为25%;标签为/A/A1/aa3的层节点是标签为/A的层节点对应的三级节点,标签为/A/A1/aa3的层节点是标签为/A/A1的层节点的子节点,标签为/A/A1/aa3的层节点的个数为1000,占该标签对应的二级节点下的所有三级节点的比例为25%;标签为/A/A2/aa4的层节点是标签为/A的层节点对应的三级节点,标签为/A/A2/aa4的层节点是标签为/A/A2的层节点的子节点,标签为/A/A/aa4的层节点的个数为1000,占该标签对应的二级节点下的所有三级节点的比例为50%;标签为/A/A2/aa5的层节点是标签为/A的层节点对应的三级节点,标签为/A/A2/aa5的层节点是标签为/A/A2的层节点的子节点,标签为/A/A2/aa5的层节点的个数为1000,占该标签对应的二级节点下的所有三级节点的比例为50%;标签为/A/A3/aa6的层节点是标签为/A的层节点对应的三级节点,标签为/A/A3/aa6的层节点是标签为/A/A3的层节点的子节点,标签为/A/A3/aa6的层节点的个数为1900,占该标签对应的二级节点下的所有三级节点的比例为95%;
标签为/B/B1/bb1的层节点是标签为/B/B1的层节点的子节点,标签为/B/B1/bb1的层节点的个数为1200,占该标签对应的二级节点下的所有三级节点的比例为80%;标签为/B/B1/bb2的层节点是标签为/B/B1的层节点的子节点,标签为/B/B1/bb2的层节点的个数为300,占该标签对应的二级节点下的所有三级节点的比例为20%。
S204,按照比例,对各个层节点进行数据分析。
可以按照比例从高到低的顺序对各个层节点进行排序,或者可以按照从低到高的顺序进行排序。一种可选的实施例中,可以从多个类别的层节点中查询该比例最高的预设个,如排序在前的5个。如此,可以根据该比例,定位出所占比例较高的层节点。
因为一般情况下,节点的个数多容易导致集群的不稳定,则可以理解为所占比例较高的层节点是比较容易导致故障的节点,则在故障分析过程中,可以首先分析节点个数较多的节点。如此可以使得根据对节点的分析结果进行故障分析,同时,可以及时对故障分析进行修复,进一步能够提高服务可用性。
一种可选的实施例中,在S103:一种可实现方式中,在根据标注标签后的节点信息,对多个节点进行分析之后,还可以包括:
将分析结果发送至业务对应的客户端,以使客户端根据分析结果进行故障分析。
一种可选的实施例中,分析结果可以为可视化形式,如上述表1所示的表格形式的分析结果。如此使得可以直观地了解分析结果,能够支持针对节点的可视化分析。
本发明一种可选的实施例中可以分析结果通过邮件、通知消息等方式发送给客户端,客户端接收到分析结果后,可以业务的实际运行情况等
本发明一个具体实施例中,可以将如图3所示的分析结果通过邮件发送给客户端,客户端通过该分析结果进行故障分析。
一种可选的实施例中,在解析snapshot数据,得到树形结构的节点信息之后,还可以包括:
将树形结构的节点信息发送至消息系统;
在针对各个节点,对节点对应的路径信息进行拆分,得到处于不同层级的层节点的路径信息之前,还可以包括:
从消息系统中获取树形结构的节点信息。
消息系统可以为Kafka。
本发明实施例中,通过snapshot解析和分类的方式,获取节点信息,并将节点信息发送至消息系统,以使基于节点信息对节点进行分析时,再从消息系统中获取节点信息,如此能够保证获取节点信息与对节点信息分析之间的解耦,避免节点信息的获取与分析之间的影响。
一种可选的实施例中,根据包含标签的层节点信息,对各个层节点进行数据分析,包括:
将包含标签的层节点信息发送至搜索服务器Elasticsearch,通过Elasticsearch进行数据分析。
具体地,电子设备中包括的分析器,在对层节点信息标注标签后,通过实时计算方式,如通过实时计算工具Flink Syncer将包含标签的层节点信息发送至搜索服务器Elasticsearch,通过Elasticsearch自身的聚合功能,数据分析,例如,进行分类和diginto(深入挖掘)。
对应于上述实施例提供的信息处理方法,本发明实施例提供了一种信息处理装置,如图4所示,包括:
第一获取模块401,用于获取多个节点分别对应的节点信息,其中,节点是分布式应用程序协调服务中的数据节点Znode;
标注模块402,用于针对各个节点,对节点对应的节点信息标注标签;
分析模块403,用于根据标注标签后的节点信息,对多个节点进行分析,得到分析结果,以使根据分析结果进行故障分析。
本发明实施例中,可以对各个Znode对应的节点信息标注标签,即对节点信息打标签,并根据打标签后的节点信息对多个Znode进行分析,如此为根据对节点的分析结果进行故障分析提供了基础。
可选的,第一获取模块401,具体用于获取快照snapshot数据,snapshot数据包括多个节点分别对应的节点信息,snapshot数据以二进制形式存在;
如图5所示,装置还包括:
解析模块404,用于在针对各个节点,对节点对应的节点信息标注标签之前,解析snapshot数据,得到树形结构的节点信息,树形结构的节点信息包括各个节点对应的路径信息;
标注模块402,具体用于针对各个节点,对节点对应的路径信息进行拆分,得到处于不同层级的层节点的路径信息;利用各个层节点的路径信息,对层节点标注标签,得到包含标签的层节点信息;
分析模块403,具体用于根据包含标签的层节点信息,对各个层节点进行数据分析。
可选的,分析模块403,具体用于根据包含标签的层节点信息,对各个层节点进行划分类别;统计各个类别对应的层节点的个数;计算同一类别对应的层节点在所有相同层层节点中所占的比例,相同层层节点是与同一类别对应的层节点处于相同层级的层节点;按照比例,对各个层节点进行数据分析。
可选的,如图6所示,装置还包括:
第一发送模块601,用于在解析snapshot数据,得到树形结构的节点信息之后,将树形结构的节点信息发送至消息系统;
第二获取模块602,用于在针对各个节点,对节点对应的路径信息进行拆分,得到处于不同层级的层节点的路径信息之前,从消息系统中获取树形结构的节点信息。
可选的,分析模块403,具体用于将包含标签的层节点信息发送至搜索服务器Elasticsearch,通过Elasticsearch进行数据分析。
可选的,如图7所示,装置还包括:
第二发送模块405,用于在根据标注标签后的节点信息,对多个节点进行分析,得到分析结果之后,将分析结果发送至业务对应的客户端,以使客户端根据分析结果进行故障分析。
本发明实施例还提供了一种电子设备,如图8所示,包括处理器801、通信接口802、存储器803和通信总线804,其中,处理器801,通信接口802,存储器803通过通信总线804完成相互间的通信。
存储器803,用于存放计算机程序;
处理器801,用于执行存储器803上所存放的程序时,实现上述实施例提供的信息处理方法的方法步骤。
本发明实施例中,可以对各个Znode对应的节点信息标注标签,即对节点信息打标签,并根据打标签后的节点信息对多个Znode进行分析,如此为根据对节点的分析结果进行故障分析提供了基础。
上述终端提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect,简称PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture,简称EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述终端与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory,简称RAM),也可以包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(Digital Signal Processing,简称DSP)、专用集成电路(Application SpecificIntegrated Circuit,简称ASIC)、现场可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本发明提供的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述实施例提供的信息处理方法的方法步骤。
本发明实施例中,可以对各个Znode对应的节点信息标注标签,即对节点信息打标签,并根据打标签后的节点信息对多个Znode进行分析,如此为根据对节点的分析结果进行故障分析提供了基础。
在本发明提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述实施例提供的信息处理方法的方法步骤。
本发明实施例中,可以对各个Znode对应的节点信息标注标签,即对节点信息打标签,并根据打标签后的节点信息对多个Znode进行分析,如此为根据对节点的分析结果进行故障分析提供了基础。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置、电子设备、计算机可读存储介质及计算机程序产品实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (12)
1.一种信息处理方法,其特征在于,包括:
获取多个节点分别对应的节点信息,其中,所述节点是分布式应用程序协调服务中的数据节点Znode;
针对各个节点,对所述节点对应的所述节点信息标注标签;
根据标注所述标签后的节点信息,对所述多个节点进行分析,得到分析结果,以使根据所述分析结果进行故障分析;
所述获取多个节点分别对应的节点信息,包括:
获取快照snapshot数据,所述snapshot数据包括所述多个节点分别对应的节点信息,所述snapshot数据以二进制形式存在;
在所述针对各个节点,对所述节点对应的所述节点信息标注标签之前,所述方法还包括:
解析所述snapshot数据,得到树形结构的节点信息,所述树形结构的节点信息包括各个节点对应的路径信息;
所述针对各个节点,对所述节点对应的所述节点信息标注标签,包括:
针对各个节点,对所述节点对应的路径信息进行拆分,得到处于不同层级的层节点的路径信息;所述对所述节点对应的路径信息进行拆分,包括:按照路径信息中包括的通配符对路径信息进行拆分;
利用各个层节点的路径信息,对所述层节点标注标签,得到包含标签的层节点信息;
所述根据标注所述标签后的节点信息,对所述多个节点进行分析,包括:
根据所述包含标签的层节点信息,对各个层节点进行数据分析。
2.根据权利要求1所述的方法,其特征在于,所述根据所述包含标签的层节点信息,对各个层节点进行数据分析,包括:
根据所述包含标签的层节点信息,对各个层节点进行划分类别;
统计各个类别对应的层节点的个数;
计算同一类别对应的层节点在所有相同层层节点中所占的比例,所述相同层层节点是与所述同一类别对应的层节点处于相同层级的层节点;
按照所述比例,对各个层节点进行数据分析。
3.根据权利要求1所述的方法,其特征在于,在所述解析所述snapshot数据,得到树形结构的节点信息之后,所述方法还包括:
将所述树形结构的节点信息发送至消息系统;
在所述针对各个节点,对所述节点对应的路径信息进行拆分,得到处于不同层级的层节点的路径信息之前,所述方法还包括:
从所述消息系统中获取所述树形结构的节点信息。
4.根据权利要求1所述的方法,其特征在于,所述根据所述包含标签的层节点信息,对各个层节点进行数据分析,包括:
将所述包含标签的层节点信息发送至搜索服务器Elasticsearch,通过所述Elasticsearch进行数据分析。
5.根据权利要求1至4任一项所述的方法,其特征在于,在所述根据标注所述标签后的节点信息,对所述多个节点进行分析,得到分析结果之后,所述方法还包括:
将所述分析结果发送至业务对应的客户端,以使所述客户端根据所述分析结果进行故障分析。
6.一种信息处理装置,其特征在于,包括:
第一获取模块,用于获取多个节点分别对应的节点信息,其中,所述节点是分布式应用程序协调服务中的数据节点Znode;
标注模块,用于针对各个节点,对所述节点对应的所述节点信息标注标签;
分析模块,用于根据标注所述标签后的节点信息,对所述多个节点进行分析,得到分析结果,以使根据所述分析结果进行故障分析;
所述第一获取模块,具体用于获取快照snapshot数据,所述snapshot数据包括所述多个节点分别对应的节点信息,所述snapshot数据以二进制形式存在;
所述装置还包括:
解析模块,用于在所述针对各个节点,对所述节点对应的所述节点信息标注标签之前,解析所述snapshot数据,得到树形结构的节点信息,所述树形结构的节点信息包括各个节点对应的路径信息;
所述标注模块,具体用于针对各个节点,对所述节点对应的路径信息进行拆分,得到处于不同层级的层节点的路径信息;所述对所述节点对应的路径信息进行拆分,包括:按照路径信息中包括的通配符对路径信息进行拆分;利用各个层节点的路径信息,对所述层节点标注标签,得到包含标签的层节点信息;
所述分析模块,具体用于根据所述包含标签的层节点信息,对各个层节点进行数据分析。
7.根据权利要求6所述的装置,其特征在于,所述分析模块,具体用于根据所述包含标签的层节点信息,对各个层节点进行划分类别;统计各个类别对应的层节点的个数;计算同一类别对应的层节点在所有相同层层节点中所占的比例,所述相同层层节点是与所述同一类别对应的层节点处于相同层级的层节点;按照所述比例,对各个层节点进行数据分析。
8.根据权利要求6所述的装置,其特征在于,所述装置还包括:
第一发送模块,用于在所述解析所述snapshot数据,得到树形结构的节点信息之后,将所述树形结构的节点信息发送至消息系统;
第二获取模块,用于在所述针对各个节点,对所述节点对应的路径信息进行拆分,得到处于不同层级的层节点的路径信息之前,从所述消息系统中获取所述树形结构的节点信息。
9.根据权利要求6所述的装置,其特征在于,所述分析模块,具体用于将所述包含标签的层节点信息发送至搜索服务器Elasticsearch,通过所述Elasticsearch进行数据分析。
10.根据权利要求6至9任一项所述的装置,其特征在于,所述装置还包括:
第二发送模块,用于在所述根据标注所述标签后的节点信息,对所述多个节点进行分析,得到分析结果之后,将所述分析结果发送至业务对应的客户端,以使所述客户端根据所述分析结果进行故障分析。
11.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现权利要求1-5任一所述的方法步骤。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-5任一所述的方法步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911348408.7A CN111143318B (zh) | 2019-12-24 | 2019-12-24 | 一种信息处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911348408.7A CN111143318B (zh) | 2019-12-24 | 2019-12-24 | 一种信息处理方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111143318A CN111143318A (zh) | 2020-05-12 |
CN111143318B true CN111143318B (zh) | 2023-10-27 |
Family
ID=70520012
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911348408.7A Active CN111143318B (zh) | 2019-12-24 | 2019-12-24 | 一种信息处理方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111143318B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113032401B (zh) * | 2021-03-31 | 2023-09-08 | 合安科技技术有限公司 | 基于异形结构树的大数据处理方法、装置及相关设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103716182A (zh) * | 2013-12-12 | 2014-04-09 | 中国科学院信息工程研究所 | 一种面向实时云平台的故障检测与容错方法及系统 |
CN103747044A (zh) * | 2013-12-24 | 2014-04-23 | 汉柏科技有限公司 | 一种服务锁定方法及系统 |
CN108833503A (zh) * | 2018-05-29 | 2018-11-16 | 华南理工大学 | 一种基于ZooKeeper的Redis集群方法 |
CN109729160A (zh) * | 2018-12-20 | 2019-05-07 | 新华三大数据技术有限公司 | Thrift server服务的实现方法、Thrift server节点及客户端 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9473350B2 (en) * | 2013-09-26 | 2016-10-18 | Futurewei Technologies, Inc. | Protecting a label switched path egress without using downstream labels |
-
2019
- 2019-12-24 CN CN201911348408.7A patent/CN111143318B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103716182A (zh) * | 2013-12-12 | 2014-04-09 | 中国科学院信息工程研究所 | 一种面向实时云平台的故障检测与容错方法及系统 |
CN103747044A (zh) * | 2013-12-24 | 2014-04-23 | 汉柏科技有限公司 | 一种服务锁定方法及系统 |
CN108833503A (zh) * | 2018-05-29 | 2018-11-16 | 华南理工大学 | 一种基于ZooKeeper的Redis集群方法 |
CN109729160A (zh) * | 2018-12-20 | 2019-05-07 | 新华三大数据技术有限公司 | Thrift server服务的实现方法、Thrift server节点及客户端 |
Also Published As
Publication number | Publication date |
---|---|
CN111143318A (zh) | 2020-05-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110213068B (zh) | 一种消息中间件的监控方法及相关设备 | |
CN108521339B (zh) | 一种基于集群日志的反馈式节点故障处理方法及系统 | |
Meng et al. | Logparse: Making log parsing adaptive through word classification | |
US20150095338A1 (en) | Systems and methods for categorizing exceptions and logs | |
US20110004598A1 (en) | Service response performance analyzing device, method, program, and recording medium containing the program | |
CN109995612B (zh) | 一种服务巡检方法、装置及电子设备 | |
CN108063685B (zh) | 日志分析方法及装置 | |
CN110764980A (zh) | 日志处理方法和装置 | |
CN111782345B (zh) | 容器云平台日志收集及分析告警方法 | |
US20160019296A1 (en) | Fingerprint-based configuration typing and classification | |
CN111143318B (zh) | 一种信息处理方法、装置、电子设备及存储介质 | |
CN113392000B (zh) | 测试用例执行结果分析方法、装置、设备及存储介质 | |
JP6078485B2 (ja) | 運用履歴分析装置及び方法及びプログラム | |
CN112667281B (zh) | 一种配置信息处理方法及装置 | |
CN111177155B (zh) | 消息过滤方法、系统和计算机设备 | |
CN110489390B (zh) | 日志记录方法和装置及日志记录器生成方法和装置 | |
CN111198850A (zh) | 一种日志消息的处理方法、装置以及物联网平台 | |
CN117453665B (zh) | 一种数据处理方法、装置、设备及存储介质 | |
CN112564928A (zh) | 服务分类方法及设备、互联网系统 | |
CN118260167B (zh) | 气象数据产品加工流程监控方法、系统、设备及存储介质 | |
CN113806196B (zh) | 根因分析方法及系统 | |
CN115599657B (zh) | 软件设施异常判断方法 | |
CN110888754A (zh) | 一种消息获得方法及装置 | |
CN118626345A (zh) | 业务异常告警和定位的方法、装置、存储介质与电子设备 | |
CN117641165A (zh) | 一种告警的处理方法、装置、设备、系统及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |