CN117421184A - 一种节点状态监测方法、装置、电子设备以及存储介质 - Google Patents
一种节点状态监测方法、装置、电子设备以及存储介质 Download PDFInfo
- Publication number
- CN117421184A CN117421184A CN202311603197.3A CN202311603197A CN117421184A CN 117421184 A CN117421184 A CN 117421184A CN 202311603197 A CN202311603197 A CN 202311603197A CN 117421184 A CN117421184 A CN 117421184A
- Authority
- CN
- China
- Prior art keywords
- node
- state
- data
- data processing
- determined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012544 monitoring process Methods 0.000 title claims abstract description 119
- 238000000034 method Methods 0.000 title claims abstract description 61
- 238000012545 processing Methods 0.000 claims description 153
- 230000002159 abnormal effect Effects 0.000 claims description 29
- 238000004590 computer program Methods 0.000 claims description 16
- 230000005856 abnormality Effects 0.000 claims description 7
- 230000005540 biological transmission Effects 0.000 abstract description 13
- 238000012806 monitoring device Methods 0.000 abstract description 9
- 230000002688 persistence Effects 0.000 description 12
- 230000008569 process Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 238000001514 detection method Methods 0.000 description 6
- 230000008713 feedback mechanism Effects 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 5
- 230000002085 persistent effect Effects 0.000 description 4
- 230000000644 propagated effect Effects 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008439 repair process Effects 0.000 description 3
- 230000001960 triggered effect Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000000047 product Substances 0.000 description 2
- 238000012552 review Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000004622 sleep time Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3055—Monitoring arrangements for monitoring the status of the computing system or of the computing system component, e.g. monitoring if the computing system is on, off, available, not available
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/3006—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computing Systems (AREA)
- Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种节点状态监测方法、装置、电子设备以及存储介质。该方法由目标节点执行,该方法包括:在数据管道中拉取系统数据和节点状态列表,其中,系统数据和节点状态列表为由状态监测节点推送至数据管道中;若确定目标节点存在关联节点,则根据所述节点状态列表,确定所述关联节点的节点状态;若确定所述关联节点的节点状态为待确定状态,则根据所述系统数据对所述关联节点的节点状态进行复核;将复核后的所述关联节点的节点状态反馈至状态监测节点,以使所述状态监测节点对所述关联节点的节点状态进行更新。本发明能够实现系统内节点的数据同步和状态监测,降低了节点故障的误判概率,减少了冗余数据传输,实现了关联节点的数据强一致性。
Description
技术领域
本发明涉及数据处理技术领域,尤其涉及一种节点状态监测方法、装置、电子设备以及存储介质。
背景技术
在分布式场景中,往往将公共基础数据统一管理维护,并在各节点中进行数据同步。但是各节点的逻辑关系较为复杂,并且可能存在依赖关系或者关联关系,因此,在统一数据管理、各节点数据同步的基础上,需要对各节点的数据同步状态进行监测和故障检测,以保证存在关联关系或者依赖关系的节点间数据的强一致性,以及非关联节点数据的最终一致性。
在现有技术中,通常在分布式系统中设置一个状态监测节点,监测各节点心跳消息,并通过心跳消息判断节点状态,维护节点状态列表。但是这种方式的弊端在于,随着节点数量的增加,心跳消息的数量也呈指数级增长,不利于节点数量扩展;并且,由于网络波动、丢包等因素,也可能会导致节点故障的误判,从而造成异常补发传输数据的冗余,还会影响关联节点之间的数据一致性。
发明内容
本发明提供了一种节点状态监测方法、装置、电子设备以及存储介质,以实现系统内节点的数据同步和状态监测,降低了节点故障的误判概率,减少了冗余数据传输,实现了关联节点的数据强一致性。
第一方面,本发明实施例提供了一种节点状态监测方法,该方法包括:
在数据管道中拉取系统数据和节点状态列表,其中,系统数据和节点状态列表为由状态监测节点推送至数据管道中;
若确定目标节点存在关联节点,则根据所述节点状态列表,确定所述关联节点的节点状态;
若确定所述关联节点的节点状态为待确定状态,则根据所述系统数据对所述关联节点的节点状态进行复核;
将复核后的所述关联节点的节点状态反馈至状态监测节点,以使所述状态监测节点对所述关联节点的节点状态进行更新。
第二方面,本发明实施例还提供了一种节点状态监测装置,该装置包括:
数据拉取模块,用于在数据管道中拉取系统数据和节点状态列表,其中,系统数据和节点状态列表为由状态监测节点推送至数据管道中;
关联节点状态确定模块,用于若确定目标节点存在关联节点,则根据所述节点状态列表,确定所述关联节点的节点状态;
关联节点状态复核模块,用于若确定所述关联节点的节点状态为待确定状态,则根据所述系统数据对所述关联节点的节点状态进行复核;
关联节点状态反馈模块,用于将复核后的所述关联节点的节点状态反馈至状态监测节点,以使所述状态监测节点对所述关联节点的节点状态进行更新。
第三方面,本发明实施例还提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如本发明实施例中任一所述的节点状态监测方法。
第四方面,本发明实施例还提供了一种存储计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如本发明实施例中任一所述的节点状态监测方法。
本发明实施例的技术方案,通过状态监测节点将系统数据和节点状态列表推送至数据管道中,目标节点从数据管道中拉取上述数据,并在目标节点存在关联节点时,根据节点状态列表确定关联节点状态,当关联节点为待确定状态时,根据系统数据对关联节点状态进行复核,并将复核后的关联节点状态反馈至状态监测节点,状态监测节点即可对节点状态列表进行更新。解决了现有技术中状态监测节点通过心跳机制监测各节点状态的方式,不利于节点数量扩展的问题,以及可能会导致节点故障误判,从而造成异常补发传输数据冗余的问题。通过节点间的关联或依赖关系,复核并传播节点运行状态,有利于节点数量扩展,并且能够降低故障误报概率,减少冗余数据传输,从而降低数据管道和网络带宽压力,同时,也能够保证关联节点之间的数据一致性。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一提供的一种节点状态监测方法的流程图;
图2是本发明实施例二提供的一种节点状态监测方法的流程图;
图3是本发明具体适用场景一提供的一种主节点数据处理流程的示意图;
图4是本发明具体适用场景一提供的一种目标节点数据处理流程的示意图;
图5是本发明实施例三提供的一种节点状态监测装置的结构示意图;
图6是本发明实施例四提供的一种电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1为本发明实施例一提供了一种节点状态监测方法的流程图,本实施例可适用于对分布式系统中各节点的运行状态进行监测的情况,该方法可以由节点状态监测装置来执行,该节点状态监测装置可以采用硬件和/或软件的形式实现,该节点状态监测装置可配置于目标节点中,目标节点为分布式系统中除状态监测节点之外的其他节点。
如图1所示,该方法包括:
S110、在数据管道中拉取系统数据和节点状态列表。
其中,系统数据和节点状态列表为由状态监测节点推送至数据管道中。
其中,数据管道是分布式系统中节点间推送数据的媒介,示例性的,本实施例中的数据管道可以是Kafka,Kafka是一个分布式消息系统,可以用来构建实时的数据管道和流式应用程序,但是本实施例对数据管道的具体类型不进行限制。
状态监测节点是分布式系统中提供唯一可信数据源的生产者,对系统数据和节点状态进行统一维护。系统数据是状态监测节点中的持久化数据,包括分布式系统的公共基础数据和各节点进行数据处理所需的业务数据。节点状态列表用于维护各节点的节点状态,在本实施例中,节点状态可以包括正常、故障以及待确定三种状态,正常状态表示节点能够进行正常的数据处理,故障状态表示节点无法进行数据处理,待确定状态表示节点的状态存疑,需要进行进一步的确认。
在本实施例中,由状态监测节点将系统数据和节点状态列表推送至数据管道中。
进一步的,状态监测节点可以每隔预设推送时间间隔,将当前系统数据和节点状态列表推送至数据管道中。或者,状态监测节点还可以在检测到系统数据和/或节点状态列表存在更新时,将当前系统数据和节点状态列表推送至数据管道中。本实施例对状态监测节点的数据推送机制不进行具体限制。
进一步的,状态监测节点将系统数据和节点状态列表持久化保存至状态监测节点的本地数据库中。若确定状态监测节点数据处理正常,并且数据持久化正常,则状态监测节点通过异步线程,将系统数据和节点状态列表推送至数据管道中。若数据推送过程异常,则建立定时任务补发异常推送数据。
进一步的,在当前业务流程的全部数据处理完毕之后,状态监测节点向数据管道发送数据清空指令,数据管道在接收到数据清空指令之后,将数据管道内缓存的系统数据和节点状态列表删除,这样设置可以降低数据管道和网络带宽压力。具体的,若状态监测节点接收到当前业务流程对应的各节点反馈的处理正常的数据处理结果,则确定当前业务流程的全部数据处理完毕。
S120、若确定目标节点存在关联节点,则根据所述节点状态列表,确定所述关联节点的节点状态。
关联节点是与目标节点之间存在关联关系或者依赖关系的节点,目标节点与关联节点之间,需要保持数据强一致性。是否存在关联关系或者依赖关系,由当前业务流程的特性和实际需要进行设定。具体的,可以将各节点之间的关联关系或者依赖关系存储在节点配置文件中。通过读取节点配置文件,判断目标节点是否存在关联节点。
在本实施例中,当根据节点配置文件确定目标节点存在关联节点时,根据在数据管道中拉取的节点状态列表,查询关联节点的节点状态。
在本实施例中,对于存在关联节点和不存在关联节点的目标节点,需分别采用不同的数据处理进度提交方式。同时,现有技术中全部节点均采用心跳机制反馈运行状态,在节点数量增多时,心跳消息指数型增长,从而限制了节点数量的扩展。而本实施例的技术方案对于存在关联节点的目标节点,对关联节点的节点状态进行复核并传播回状态监测节点,采用反馈机制采集节点运行状态,有利于节点数量的扩展。同时,利用节点间的关联关系复核并传播节点状态,相比于各节点直接向状态监测节点反馈心跳消息的方式,能够降低因网络波动等造成节点状态误判的概率,降低了冗余数据传输,减少了数据管道和网络带宽的压力。
S130、若确定所述关联节点的节点状态为待确定状态,则根据所述系统数据对所述关联节点的节点状态进行复核。
其中,待确定状态表示节点的状态存疑,需要进行进一步的确认。当关联节点的节点状态为待确定状态时,需要目标节点对关联节点的状态进行复核并反馈回状态监测节点。进一步的,若状态监测节点超过预设时间段未接收到关于某节点的状态反馈,则状态监测节点在节点状态列表中将该节点的状态标记为待确定状态。其中,关于该节点的状态反馈既可以指该节点自身反馈的节点状态,也可以是该节点的关联节点反馈的节点状态,本实施例对此不进行限制。
本实施例的技术方案,在正常状态和故障状态之外设置一个第三状态:待确定状态,在长时间未接收某节点的状态反馈时,将该节点状态标记为待确定状态,由该节点的关联节点在处理数据之前进行状态复核并反馈至状态监测节点,而非直接将该节点的状态确定为故障状态,能够降低节点故障的误判概率,从而减少冗余数据传输,减少数据管道和网络带宽的压力。
进一步的,S130又可以通过以下公式进行表示:
A1、将所述系统数据发送至所述关联节点,以使所述关联节点根据所述系统数据和本地存储的数据进行比对。
A2、根据所述关联节点反馈的比对结果,确定所述关联节点的节点状态。
在本实施例中,目标节点将系统数据和数据核对指令发送至关联节点,关联节点接收到系统数据和数据核对指令之后,将系统数据和关联节点本地数据库中存储的持久化数据进行比对,并将比对结果反馈至目标节点。
目标节点根据关联节点反馈的比对结果,判断关联节点的节点状态是故障状态还是正常状态。
进一步的,A2又可以包括:
A21、若确定所述关联节点反馈的比对结果为数据一致,则确定所述关联节点的节点状态为正常状态;
A22、否则,确定所述关联节点的节点状态为故障状态。
具体的,当系统数据和关联节点本地数据库中存储的持久化数据一致时,关联节点的节点状态为正常状态,否则为故障状态。当经复核确定关联节点的节点状态为正常状态时,目标节点向状态监测节点反馈关联节点的节点状态为正常状态,状态监测节点在节点检测列表中将该关联节点的节点状态由待确定状态修改为正常状态。
进一步的,当关联节点的节点状态为正常状态时,本实施例还可以包括:若确定所述关联节点的节点状态为正常状态,则向所述数据管道提交目标节点的数据处理进度,并将目标节点的数据处理结果反馈至状态监测节点。
其中,关联节点的节点状态为正常状态又分为两种情况:一是根据节点状态列表确定关联节点的节点状态为正常状态;二是关联节点的节点状态为正常状态待确定状态,经复核后确定为正常状态。数据处理进度用于表示在整个当前业务流程中,目标节点已完成数据处理。而数据处理结果表示目标节点在实际进行数据处理之后,数据处理成功或者失败。
示例性的,以当前业务流程中,各节点之间按照节点A→节点B→节点C的顺序依次进行数据处理,则数据处理进度表示数据处理流程是否已流传至当前节点,或者说当前节点是否已完成数据处理,而数据处理结果是当前节点在数据处理之后,是处理成功还是处理失败。
在本实施例中,在关联节点的节点状态为正常状态时,认为当前的目标节点具有能够正常进行数据处理完成的能力,因此向数据管道提交数据处理进度,以便状态监测节点能够及时对数据处理进度进行把控。
进一步的,将目标节点的数据处理结果反馈至状态监测节点,又可以包括:目标节点根据系统数据进行数据处理,若确定数据处理结果为处理正常,则向状态监测节点反馈处理正常。状态监测节点在节点检测列表中目标节点的节点状态更新为正常状态(若之前目标节点的状态即为正常状态,则保持不变即可)。同时,将当前的系统数据以及数据处理结果存储到目标节点本地的数据库中,进行数据持久化处理。
若确定数据处理结果为处理异常,则每隔预设异常重试时间间隔进行数据处理重试,若数据处理结果为处理异常的持续时间大于或者等于预设时间段,也即长时间数据处理重试均为处理异常,则向数据管道取消目标节点的数据处理进度,并向状态监测节点反馈处理异常,状态监测节点在节点检测列表中目标节点的节点状态更新为故障状态。
在本实施例中,当数据处理异常并且长时间未恢复时,取消目标节点的数据处理进度,能够使数据管道中的数据处理进度仍保持数据处理异常之前的数据处理进度,使关联节点之间的消费进度保持一致,从而保证了关联节点之间数据的强一致性。
需要进行说明的是,本实施例中目标节点向状态监测节点反馈数据处理结果,可以采用ACK回调函数的方式实现,但是本实施例对反馈机制的具体形式不进行限制。
进一步的,当关联节点的节点状态为故障状态时,本实施例还可以包括:若确定所述关联节点的节点状态为故障状态,则取消向所述数据管道提交目标节点的数据处理进度。
同样的,关联节点的节点状态为故障状态也分为两种情况:一是根据节点状态列表确定关联节点的节点状态为故障状态;二是关联节点的节点状态为正常状态待确定状态,经复核后确定为故障状态。
在本实施例中,在关联节点的节点状态为故障状态时,取消本次向数据管道的目标节点数据处理进度的提交。
进一步的,在确定关联节点的节点状态为故障状态之后,目标节点可以在超过休眠时间之后,重新执行根据节点状态列表,确定关联节点的节点状态的操作,直至确定关联节点的节点状态为正常状态,或者确定关联节点的节点状态为待确定状态,并经复核确认为正常状态。
在本实施例中,状态监测节点可以每隔预设时间间隔查找节点状态列表中的故障状态节点,并通知故障状态节点进行系统修复;或者在接收到目标节点反馈的关联节点的节点状态为故障状态的消息时,通知关联节点进行系统修复。在接收到故障节点的修复成功消息之后,将节点状态修改为正常状态。
S140、将复核后的所述关联节点的节点状态反馈至状态监测节点,以使所述状态监测节点对所述关联节点的节点状态进行更新。
在本实施例中,充分考虑了节点之间的关联关系,采用反馈机制复核并传播节点运行状态,有利于节点数量扩展,并且能够降低故障误报概率,减少冗余数据传输,从而降低数据管道和网络带宽压力。
本发明实施例的技术方案,通过状态监测节点将系统数据和节点状态列表推送至数据管道中,目标节点从数据管道中拉取上述数据,并在目标节点存在关联节点时,根据节点状态列表确定关联节点状态,当关联节点为待确定状态时,根据系统数据对关联节点状态进行复核,并将复核后的关联节点状态反馈至状态监测节点,状态监测节点即可对节点状态列表进行更新。解决了现有技术中状态监测节点通过心跳机制监测各节点状态的方式,不利于节点数量扩展的问题,以及可能会导致节点故障误判,从而造成异常补发传输数据冗余的问题。通过节点间的关联或依赖关系,复核并传播节点运行状态,有利于节点数量扩展,并且能够降低故障误报概率,减少冗余数据传输,从而降低数据管道和网络带宽压力,同时,也能够保证关联节点之间的数据一致性。
实施例二
图2为本发明实施例二提供的一种节点状态监测方法的流程图,本发明实施例在上述实施例的基础上,对目标节点不存在关联节点时的节点状态监测过程进行了进一步的具体化。
如图2所示,该方法包括:
S210、在数据管道中拉取系统数据和节点状态列表。
S220、若确定目标节点不存在关联节点,则向所述数据管道提交目标节点的数据处理进度。
本实施例提供了一种目标节点不存在关联节点(也即目标节点为单一节点)时的状态反馈机制。同样的,目标节点是否存在关联节点可以根据节点配置文件确定,本实施例在此不再赘述。
具体的,当目标节点为单一节点时,此时由于目标节点不存在与其他节点之间的业务关联性,因此默认目标节点具备能够独立正常进行数据处理的能力,因此自动向数据管道提交目标节点的数据处理进度。
S230、根据所述系统数据进行数据处理。
S240、判断数据处理结果是否为处理正常,若是,则执行S250,否则执行S260。
S250、将处理正常的数据处理结果反馈至状态监测节点。
在本实施例中,若目标节点数据处理正常,则将处理正常的数据处理结果反馈至状态监测节点,状态监测节点将节点检测列表中目标节点的节点状态更新为正常状态(若之前目标节点的状态即为正常状态,则保持不变即可)。同时,将当前的系统数据以及数据处理结果存储到目标节点本地的数据库中,进行数据持久化处理。
S260、每隔预设异常重试时间间隔进行数据处理重试。
在本实施例中,若预设时间段内数据处理重试的结果为处理正常,则执行S250的操作,本实施例对此不再赘述。
S270、若确定数据处理结果为处理异常的持续时间大于或者等于预设时间段,则向所述数据管道取消目标节点的数据处理进度,并将处理异常的数据处理结果反馈至状态监测节点。
在本实施例中,若超过预设时间段,数据处理重试的结果仍为处理异常,则触发Kafka重平衡,取消数据管道中目标节点的数据处理进度,此时,数据管道中的数据处理进度为目标节点的上游节点提交的消费进度。同时,向状态监测节点反馈目标节点数据处理异常,状态监测节点将节点检测列表中目标节点的节点状态更新为故障状态。
本发明实施例的技术方案,通过状态监测节点将系统数据和节点状态列表推送至数据管道中,目标节点从数据管道中拉取上述数据,并在目标节点不存在关联节点时,自动提交数据处理进度,在数据处理正常时,将数据处理结果反馈至状态监测节点,在数据处理异常时,取消数据管道中目标节点的数据处理进度,并向状态监测节点反馈目标节点数据处理异常,状态监测节点即可对节点状态列表中目标节点的节点状态进行更新。本实施例的技术方案,保证了数据通道中数据处理进度的准确性,并且通过数据处理结果的反馈,实现了目标节点的状态监测。
具体适用场景一
图3为本发明具体适用场景一提供了一种主节点数据处理流程的示意图,如图3所示,状态监测节点作为生产者负责系统数据的生成和推送,以及节点状态的维护。在状态监测节点数据处理正常、数据持久化正常时,建立异步线程,将系统数据和节点状态列表推送至数据通道Kafka,并在进程结束时,向数据管道发送清空缓存请求。状态监测节点定时推送最新的系统数据和节点状态列表,若推送过程出现异常,则保存该轮推送数据,并建立定时任务补发该轮推送数据。
图4为本发明具体适用场景一提供了一种目标节点数据处理流程的示意图,如图4所示,目标节点首先根据节点配置文件判断是否存在关联节点。若目标节点不存在关联节点,则采用自动提交数据处理进度的方式拉取数据管道的数据,并根据拉取到的数据进行数据处理和数据持久化,如果数据处理和数据持久化正常,则将处理正常的数据处理结果反馈至状态监测节点。如果数据处理和数据持久化异常,则触发重试,若长时间未恢复正常,则触发reblance(Kafka重平衡),确保数据管道中的消费进度为上次提交的消费进度,并向状态监测节点反馈目标节点异常。
若目标节点存在关联节点,则采用手动提交数据处理进度的方式拉取数据管道的数据,首先根据拉取到的节点状态列表监测关联节点状态:
若关联节点为故障状态,则取消本次数据处理进程提交,目标节点在休眠一段时间之后,进行数据处理重试。
若关联节点为待确定状态,则向关联节点发起请求,核对拉取到的系统数据与关联节点本地的持久化数据之间的一致性。若一致,则向状态监测节点反馈关联节点状态正常,同时,根据拉取到的数据进行数据处理和数据持久化,如果数据处理和数据持久化正常,则提交目标节点数据处理进度,并将处理正常的数据处理结果反馈至状态监测节点。如果数据处理和数据持久化异常,则触发重试,若长时间未恢复正常,则取消目标节点的数据处理进度,并向状态监测节点反馈目标节点数据处理异常。若不一致,则向状态监测节点反馈关联节点状态故障,同时取消本次数据处理进度的提交。
若关联节点为正常状态,则提交数据处理进度,并向状态监测节点反馈目标节点数据处理正常。
本适用场景中,采用反馈机制采集节点运行状态,有利于节点扩展。利用节点间的依赖关联关系复核并传播节点状态,降低故障误报概率,尽可能降低冗余数据传输,减少数据管道和网络带宽的压力。依照实际场景充分考虑节点间的业务关联性,采用检测节点状态,手动提交消费进度的方式,确保关联节点数据一致性,进而保障关联节点之间的事务一致性。
实施例三
图5为本发明实施例三提供的一种节点状态监测装置的结构示意图。
如图5所示,该装置包括:
数据拉取模块310,用于在数据管道中拉取系统数据和节点状态列表,其中,系统数据和节点状态列表为由状态监测节点推送至数据管道中;
关联节点状态确定模块320,用于若确定目标节点存在关联节点,则根据所述节点状态列表,确定所述关联节点的节点状态;
关联节点状态复核模块330,用于若确定所述关联节点的节点状态为待确定状态,则根据所述系统数据对所述关联节点的节点状态进行复核;
关联节点状态反馈模块340,用于将复核后的所述关联节点的节点状态反馈至状态监测节点,以使所述状态监测节点对所述关联节点的节点状态进行更新。
本发明实施例的技术方案,通过状态监测节点将系统数据和节点状态列表推送至数据管道中,目标节点从数据管道中拉取上述数据,并在目标节点存在关联节点时,根据节点状态列表确定关联节点状态,当关联节点为待确定状态时,根据系统数据对关联节点状态进行复核,并将复核后的关联节点状态反馈至状态监测节点,状态监测节点即可对节点状态列表进行更新。解决了现有技术中状态监测节点通过心跳机制监测各节点状态的方式,不利于节点数量扩展的问题,以及可能会导致节点故障误判,从而造成异常补发传输数据冗余的问题。通过节点间的关联或依赖关系,复核并传播节点运行状态,有利于节点数量扩展,并且能够降低故障误报概率,减少冗余数据传输,从而降低数据管道和网络带宽压力,同时,也能够保证关联节点之间的数据一致性。
在上述实施例的基础上,关联节点状态复核模块330,包括:
系统数据发送单元,用于将所述系统数据发送至所述关联节点,以使所述关联节点根据所述系统数据和本地存储的数据进行比对;
关联节点状态确定单元,用于根据所述关联节点反馈的比对结果,确定所述关联节点的节点状态。
在上述实施例的基础上,关联节点状态确定单元,具体用于:
若确定所述关联节点反馈的比对结果为数据一致,则确定所述关联节点的节点状态为正常状态;
否则,确定所述关联节点的节点状态为故障状态。
在上述实施例的基础上,所述装置,还包括:
数据处理结果反馈模块,用于若确定所述关联节点的节点状态为正常状态,则向所述数据管道提交目标节点的数据处理进度,并将目标节点的数据处理结果反馈至状态监测节点。
在上述实施例的基础上,所述装置,还包括:
数据处理进度取消模块,用于若确定所述关联节点的节点状态为故障状态,则取消向所述数据管道提交目标节点的数据处理进度。
在上述实施例的基础上,所述装置,还包括:
数据处理进度提交模块,用于若确定目标节点不存在关联节点,则向所述数据管道提交目标节点的数据处理进度;
数据处理模块,用于根据所述系统数据进行数据处理;
处理正常结果反馈模块,用于若确定数据处理结果为处理正常,则将处理正常的数据处理结果反馈至状态监测节点。
在上述实施例的基础上,所述装置,还包括:
异常重试模块,用于若确定数据处理结果为处理异常,则每隔预设异常重试时间间隔进行数据处理重试;
处理异常结果反馈模块,用于若确定数据处理结果为处理异常的持续时间大于或者等于预设时间段,则向所述数据管道取消目标节点的数据处理进度,并将处理异常的数据处理结果反馈至状态监测节点。
本发明实施例所提供的节点状态监测装置可执行本发明任意实施例所提供的节点状态监测方法,具备执行方法相应的功能模块和有益效果。
实施例四
图6示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图6所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(中央处理器)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如节点状态监测方法。
在一些实施例中,节点状态监测方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时,可以执行上文描述的节点状态监测方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行节点状态监测方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (10)
1.一种节点状态监测方法,其特征在于,所述方法由目标节点执行,所述方法包括:
在数据管道中拉取系统数据和节点状态列表,其中,系统数据和节点状态列表为由状态监测节点推送至数据管道中;
若确定目标节点存在关联节点,则根据所述节点状态列表,确定所述关联节点的节点状态;
若确定所述关联节点的节点状态为待确定状态,则根据所述系统数据对所述关联节点的节点状态进行复核;
将复核后的所述关联节点的节点状态反馈至状态监测节点,以使所述状态监测节点对所述关联节点的节点状态进行更新。
2.根据权利要求1所述的方法,其特征在于,根据所述系统数据对所述关联节点的节点状态进行复核,包括:
将所述系统数据发送至所述关联节点,以使所述关联节点根据所述系统数据和本地存储的数据进行比对;
根据所述关联节点反馈的比对结果,确定所述关联节点的节点状态。
3.根据权利要求2所述的方法,其特征在于,根据所述关联节点反馈的比对结果,确定所述关联节点的节点状态,包括:
若确定所述关联节点反馈的比对结果为数据一致,则确定所述关联节点的节点状态为正常状态;
否则,确定所述关联节点的节点状态为故障状态。
4.根据权利要求1或者3所述的方法,其特征在于,所述方法,还包括:
若确定所述关联节点的节点状态为正常状态,则向所述数据管道提交目标节点的数据处理进度,并将目标节点的数据处理结果反馈至状态监测节点。
5.根据权利要求1或者3所述的方法,其特征在于,所述方法,还包括:
若确定所述关联节点的节点状态为故障状态,则取消向所述数据管道提交目标节点的数据处理进度。
6.根据权利要求1所述的方法,其特征在于,所述方法,还包括:
若确定目标节点不存在关联节点,则向所述数据管道提交目标节点的数据处理进度;
根据所述系统数据进行数据处理;
若确定数据处理结果为处理正常,则将处理正常的数据处理结果反馈至状态监测节点。
7.根据权利要求6所述的方法,其特征在于,在根据所述系统数据进行数据处理之后,还包括:
若确定数据处理结果为处理异常,则每隔预设异常重试时间间隔进行数据处理重试;
若确定数据处理结果为处理异常的持续时间大于或者等于预设时间段,则向所述数据管道取消目标节点的数据处理进度,并将处理异常的数据处理结果反馈至状态监测节点。
8.一种节点状态监测装置,其特征在于,所述装置部署于目标节点中,所述装置包括:
数据拉取模块,用于在数据管道中拉取系统数据和节点状态列表,其中,系统数据和节点状态列表为由状态监测节点推送至数据管道中;
关联节点状态确定模块,用于若确定目标节点存在关联节点,则根据所述节点状态列表,确定所述关联节点的节点状态;
关联节点状态复核模块,用于若确定所述关联节点的节点状态为待确定状态,则根据所述系统数据对所述关联节点的节点状态进行复核;
关联节点状态反馈模块,用于将复核后的所述关联节点的节点状态反馈至状态监测节点,以使所述状态监测节点对所述关联节点的节点状态进行更新。
9.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1-7中任一所述的节点状态监测方法。
10.一种存储计算机可执行指令的存储介质,其特征在于,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-7中任一所述的节点状态监测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311603197.3A CN117421184A (zh) | 2023-11-28 | 2023-11-28 | 一种节点状态监测方法、装置、电子设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311603197.3A CN117421184A (zh) | 2023-11-28 | 2023-11-28 | 一种节点状态监测方法、装置、电子设备以及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117421184A true CN117421184A (zh) | 2024-01-19 |
Family
ID=89525038
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311603197.3A Pending CN117421184A (zh) | 2023-11-28 | 2023-11-28 | 一种节点状态监测方法、装置、电子设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117421184A (zh) |
-
2023
- 2023-11-28 CN CN202311603197.3A patent/CN117421184A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107404540B (zh) | 数据的同步方法及装置 | |
CN109101357A (zh) | 一种osd故障的检测方法及装置 | |
US20210049087A1 (en) | Data monitoring methods, apparatuses, electronic devices, and computer readable storage media | |
CN113364877A (zh) | 数据处理方法、装置、电子设备和介质 | |
CN113656239A (zh) | 针对中间件的监控方法、装置及计算机程序产品 | |
US9703646B2 (en) | Centralized database system | |
CN117421184A (zh) | 一种节点状态监测方法、装置、电子设备以及存储介质 | |
CN114567536B (zh) | 异常数据处理方法、装置、电子设备和存储介质 | |
CN116431313A (zh) | 一种轮询任务的调度方法、装置、设备及介质 | |
CN116540938A (zh) | 数据读取方法、装置、分布式存储系统、设备和存储介质 | |
CN113722389B (zh) | 数据管理方法、装置、电子设备及计算机可读存储介质 | |
CN113641688B (zh) | 节点更新方法、相关装置及计算机程序产品 | |
CN114816866A (zh) | 故障处理方法、装置、电子设备和存储介质 | |
CN114564318A (zh) | 一种数据处理方法、装置、系统、电子设备及存储介质 | |
CN114500443A (zh) | 消息推送方法、装置、系统、电子设备和存储介质 | |
CN117395263B (zh) | 一种数据同步方法、装置、设备和存储介质 | |
CN113138881B (zh) | 分布式文件系统备份方法、装置和系统 | |
CN118784559A (zh) | 一种端口故障处理方法、装置、设备及介质 | |
CN114513524B (zh) | 一种资源同步方法、装置、电子设备和存储介质 | |
CN118170617B (zh) | 集群异常的检测方法及装置、电子设备和存储介质 | |
CN118819733A (zh) | 一种数据库集群防脑裂方法、装置、设备、介质及产品 | |
CN117520456A (zh) | 一种数据同步方法、装置、电子设备以及存储介质 | |
CN115756855A (zh) | 一种集群切换方法、装置、终端及存储介质 | |
CN114138538A (zh) | 异常实例的处理方法、装置和电子设备 | |
CN117609194A (zh) | 云数据库的处理方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |