CN114826982A - 一种微服务场景下的自适应心跳包调节方法 - Google Patents

Abstract

本发明公开了一种微服务场景下的自适应心跳包调节方法，包括：(1)物联网设备接入服务器后，与决策服务器进行通信，服务器给出新加入的服务一个心跳时间初始值；(2)检查服务器和物联网设备之间连接是否稳定，连接稳定之后，服务器和物联网设备进入长连接；(3)监测服务器状态，自适应调节心跳包的发送间隔。利用本发明，心跳包的发送间隔可以通过服务器自己监测自身情况或者设备自身情况进行自适应调节，同时给出了处理网络异常情况的方案。

Description

一种微服务场景下的自适应心跳包调节方法

技术领域

本发明属于服务器与物联网设备间数据传输处理领域，尤其是涉及一种微服务场景下的自适应心跳包调节方法。

背景技术

自适应调节心跳检测是节点故障检测机制的关键技术之一，心跳频率设定的合理性将影响到整体接受效率和服务器资源占有率。

如公开号为CN113542001A的中国专利文献公开了一种OSD故障心跳检测方法，用于解决OSD故障无法被及时有效检测到的技术问题。

公开号为CN112235151A的中国专利文献公开了一种基于时间序列预测的自适应心跳检测方法，被监控节点和监控节点的心跳发送周期ΔST_i和心跳接收周期ΔHT_i均为可变参数，随高可用集群内各节点的负载情况和节点之间的网络状况可自适应地进行调整。

然而，针对大数据环境下，分布式系统产生故障受到网络、节点、作业多方面影响，现有方法在心跳频率设定很难兼顾到多方面的影响。

为了提高心跳频率在多方面因素影响下的合理性设定，继续涉及一种新的自适应心跳包调节方法。

发明内容

本发明提供了一种微服务场景下的自适应心跳包调节方法，使得心跳包的发送间隔可以通过服务器自己监测自身情况或者设备自身情况，进行自适应调节。

一种微服务场景下的自适应心跳包调节方法，包括：

(1)物联网设备接入服务器后，与决策服务器进行通信，服务器给出新加入的服务一个心跳时间初始值；

(2)检查服务器和物联网设备之间连接是否稳定，连接稳定之后，服务器和物联网设备进入长连接；

(3)监测服务器状态，自适应调节心跳包的发送间隔。

步骤(1)中，心跳时间初始值通过用户设定或者日志中统计得出；如果没有初始值，用户设定按照不同物联网设备需求进行自动选额，划分为b1、b2和b3。优选地，b1为60s，b2为180s，b3为300s。

步骤(2)中，对于连接是否稳定，采用成功一次认定、失败连续累积认定的原则，具体为：

如果出现一次失败，则进行重连设置，并且重新连接尝试n次，累计确认n次后认为连接中断，并且在最后一次尝试发送标记，表示这次失败不再尝试发送，此时服务器放弃对此物联网设备进行长连接尝试；

如果成功请求响应一次便认为连接稳定，本次服务可以进行。

步骤(3)中，服务器状态由cpu占用率和内存使用率确定，对于cpu占用率和内存使用率，取其最大值作为状态参数值cm，根据状态参数值cm，将服务器状态对应分成四个阶段，具体为：

第一阶段，cm＜70％，此时为健康状态，应减少自适应心跳包发送间隔，以收到更加及时的消息；

第二阶段，70％≤cm＜85％，为预警阶段，此时应放弃减少自适应心跳发送间隔，以稳定的间隔发送；

第三阶段，85％≤cm＜95％，此时应及时降低cpu或者内存使用率；

第四阶段，cm≥95％，标记此服务器暂时拒绝接受新服务，由决策服务器对之后想连接到监测服务器的服务进行重新决策。

服务器状态处于第一阶段～第三阶段时，自适应调节心跳包的发送间隔时，采用如下公式计算新的发送间隔：

t＝t₁*a+t₂*b

t₁为上一次发送间隔，t2＝t1*f(v)，其中v定义为调节系数，每个服务拥有一个v，同时会记录下每次v的值，每次调整会按照以下公式改变，计算得到的f(v)，即为新的v

a和b随着服务器状态处于不同阶段而不同，对于处于第一个阶段，a取0.2，b取0.8；对于处于第二个阶段，a取0.5，b取0.5；对于处于第三个阶段，a取0.8，b取0.2。

服务器状态处于第四阶段时，设定一个规定时间T，30s≤T≤60s，在T时间内，重新计算状态参数值cm，如果cm没有降低到85％以下，则转移部分监测服务至其他服务器，并且由决策服务器进行协调。

对于支持有线接入、wifi接入或者4G及以上网络接入的物联网设备，直接采用服务器给出的自适应发送间隔；对于使用2-3G网络接入的物联网设备，标记该设备并且充分考虑NAT超时时间和网络切换问题，以物联网设备的自身网络情况自适应调节发送间隔，同时告知服务器。

在物联网设备接入服务器后的整个过程，对心跳包信息进行保存，保存方式为增量更新和全量更新；其中，增量更新时，每次向日志存储服务器发送15min内增加的日志内容；全量更新时，每1天或者7天进行一次全量数据保存。

与现有技术相比，本发明具有以下有益效果：

1、本发明的技术方案，同时考虑服务器发送接受能力对心跳检测过程的影响，可以随网络环境、节点CPU占用率、作业任务大小自适应地改变心跳频率，综合各因素给出心跳频率设定的最优方案。

2、本发明可以在设备尽量不影响用户收消息及时性的前提下，减少因心跳引起的空中信道资源消耗，减少心跳Server的负载，以及减少部分因心跳引起的耗电。

附图说明

图1为本发明一种微服务场景下的自适应心跳包调节方法的总体架构图；

图2为本发明实施例中物联网设备与服务器通信流程图；

图3为本发明实施例中服务器进行自适应心跳发送间隔调整流程；

图4为本发明实施例中一个心跳包的设计方案。

具体实施方式

下面结合附图和实施例对本发明做进一步详细描述，需要指出的是，以下所述实施例旨在便于对本发明的理解，而对其不起任何限定作用。

如图1和图2所示，一种微服务场景下的自适应心跳包调节方法，包括：

步骤一：首先判断用户是否设置心跳时间初始值，若未设置，则服务器会从历史数据(通过日志分析得到的同类物联网设备所使用的值，按此进行开始，日志在步骤六中给出，包含心跳时间间隔和数据等信息)中寻找是否有与该设备相似设备或者是否有过该设备型号的心跳参考值，如果有就按照该速率稳定发送直到状态发送改变，如果没有就按照默认值进行初始化。

对于服务器，可以更加及时准确的了解其信息，首先设定60s的初始值，然后增加发送速率，最少减少至6s(包大小在10B以内)，和30s(包大小大于10B)。按照不同需求的物联网设备，不同的发送能力或者不同的电池效率，应该设定不同的建议初始参考值，参考值设定建议b1为60s，b2为180s，b3为300s。

步骤二：检查服务器和物联网设备之间连接是否稳定。认定只有物联网设备和服务器进入稳定状态的时候，才可以进行长连接，进入长连接才可以进行自适应调节心跳包。

为了确保当前网络有效的前提下才开始执行任务，以下给出一种判断当前网络有效的方案：

判断长连接是否有效的准则：物联网设备5s内能否收到服务器响应(服务器切换状态除外)，服务器5s内能否收到物联网设备发送的心跳包。

成功一次认定有效，失败连续累积认定。失败累计次数：按照电量自适应调整，次数3-7次。失败原因有多种，本方法不会立即放弃，而是动态调节时间间隔进行重新连接，设置初始重新尝试时间为t(取值范围10ms-100ms)，后续次数时间为2t，3t，5t，8t，10t，10t。重新尝试次数为n，其值设置应该以物联网设备情况为准，并且在最后一次尝试发送标记：表示这次失败不再尝试发送，此时服务器应该放弃对此物联网进行长连接设备尝试。

由服务器引起的失败：服务器引起的失败可以通知决策服务器，让决策服务器重新调用负载均衡接口，选择一个健康的服务器，让新服务器和物联网设备进行通信，同时通知物联网设备告知其新服务器相关信息，并且旧服务器应该删除物联网设备相关信息。

由物联网设备引起的失败：应该告知服务器相关错误信息，并且采用push模式，待到恢复健康状态，重新进行发送。

考虑物联网设备电量是否支持：持续充电状态，若没有进入充电状态，需要电量处于80％以上，并且如果电量低于20％，需要进入低电量模式，处于低电量模式，物联网设备不应该采用自适应心跳算法，而是先告知服务器自身健康状态(通常以状态码和信息的json格式)，其次，应该扩大心跳时间间隔，并且采用固定心跳间隔(时间间隔可以是3到10倍临界值)，发送信息应该采用增量模式，发送此时间间隔内，信息改变量(由于物联网设备限制，可能会信息缺少)，待到物联网设备恢复充电状态，告知物联网设备健康状态，同时进行一次全量信息心跳包发送，然后再进入自适应心跳包协商阶段。

如果物联网设备和服务器网络均有效即可开始长连接，然后进行自适应调节心跳包阶段。

步骤三：连接稳定之后，根据服务器状态进行自适应调节心跳包。

对于请求响应包：可以减小包大小，同时响应包作为一种试探网络的数据包，不应该作为以下自适应调节。

对于数据包：具体实实施方法：使用合理设计自适应计算心跳包间隔时间的算法。

监控服务器考虑网络拥塞情况，cpu占用率，内存使用率，对于cpu占用率和内存使用率，取其最大值作为状态参数值cm，定义三个参数a1(70％)，a2(85％)，a3(95％)，此时可以将0-100％划分为4个阶段，对4个阶段解释如下：

第一阶段，小于a1，即cm＜70％，此时为健康状态，应减少自适应心跳包发送间隔，以收到更加及时的消息；

第二阶段，大于等于a1并且小于a2，即70％≤cm＜85％，为预警阶段，此时应放弃减少自适应心跳发送间隔，以稳定的间隔发送，以减少监控服务器压力继续增大的可能；

第三阶段，大于等于a2并且小于a3，即85％≤cm＜95％，此时应及时降低cpu或者内存使用率，应该及时降低监控服务器压力；

第四阶段，大于等于a3，即cm≥95％，标记此服务器暂时拒绝接受新服务，由决策服务器对之后想连接到监测服务器的服务进行重新决策。同时定义时间T(时间可以自己设定，区间为30s至60s之间)，如果在T时间内没有降低至a2与a3之间，应该转移部分监测服务至其他服务器，并且由决策服务器进行协调。

如图3所示，对于小于a1，此时为正常状态自适应调节心跳，可以通过用户设定和通过连接获得如下数据：定义调节系数v。每个服务拥有一个v(初始值为1)，对于v的变化，拥有如下定义：

自适应调节心跳包的发送间隔时，采用如下公式计算新的发送间隔：

t＝t₁*a+t₂*b

t₁为上一次发送间隔，t2＝t1*f(v)，a和b随着服务器状态处于不同阶段而不同，对于处于第一个阶段，a取0.2，b取0.8；对于处于第二个阶段，a取0.5，b取0.5；对于处于第三个阶段，a取0.8，b取0.2。

对于大于a2并且小于a3，我们应该降低cpu或者内存使用率，我们给出如下方案：每个监测服务器内部维护一个TreeMap和n个普通队列。以下对其进行解释：

TreeMap：其中键的作用是指向发送心跳的服务(可以为服务ip地址，也可以为每个服务指定的uuid)，其中值的作用是该发送心跳的服务的最近3个发送包大小的平均值(如果小于3个，我们取其最大值)，我们对值进行排序。

队列：每个发送心跳的服务均有一个队列，队列中存放的是每个心跳包大小，这样我们可以快速求出最近的3个发送心跳包大小的平均值(取整)。队列生成时间：每个新的服务与监测服务器第一次通信的时候，由监测服务器生成一个可以标示该服务的唯一标示，队列清空时间：开启定时任务：每天定时清空队列为空的队列。队列大小：大小设定为50，可以通过更加多的心跳包大小获得更加准确的值，当大小大于50的时候，删除队头元素。

通过计算TreeMap大小，可以知道有多少个心跳服务，对值进行排序，按照值从大到小的顺序排序。我们认为包越大的心跳服务器，对服务器影响越大，我们应该降低这些服务发送速率，恢复到初始值，并且在之后减缓其发送速率增长速度。我们给定2个值a1(20％)，a2(50％)，由此产生3个区间，我们对3个区间操作如下(v最大不超过1，并且若为1，不再进行改变)：

使v增加为原来的125％，然后等待30s后开始新的监控规则，监控规则：每10s监控一次监测服务器状态，监测4次，若cpu或者内存溢出值减少4％或以上，此时认为此次行为有效，处于a1的服务固定发送速率。否则进行以下行为，我们对处于a1的服务继续降低发送速率，降低为第一步速率的50％(不小于自身规定)，处于a1与a2之间的服务v增加为原来的125％，然后等待20s后开始新的监控规则，监控规则：每7s监控一次监测服务器状态，监测4次，若cpu或者内存溢出值不再增加，此时进行二次监测：每10s进行一次监测，监测4次，若cpu或者内存溢出值减少6％或以上，此时认为此次行为有效，处于a1的服务固定发送速率，处于a1与a2的先按此固定速率发送，然后进行3轮恢复至原先速率，每一轮为10个发送周期改变一次，若再周期末出现cpu或者内存增加，则不再改变。否则进行以下行为，我们对100％的服务进行降低发送速率，增加为原来的150％，对于a2以内的我们速率不再改变，对于50％-100％的，我们等待其内存和cpu恢复至健康范围内，然后然后进行6轮，每一轮为10个发送周期，恢复至原先速率，前3轮不发送改变，后3轮改变一次，若再周期末出现cpu或者内存增加，则不再改变。

服务临界值认定：服务器如果在20次传播轮次中失败2次(即丢包2次)，即认为当前此服务应该减缓心跳发送或者切换服务器，此时进行如下判断。是否在24h内切换过服务器，如果有直接进行步骤二，否则进行以下判断。是否有其他服务器，如果存在，决策服务器进行探测，首先获得其他服务器情况，选取情况评价较好的；如果相同，选用加权随机法进行选取，然后服务与新服务器进行通信。决策服务器先通知服务暂停一个传播轮次发送，然后决策服务器会通知服务新服务器的地址，同时通知旧服务器删除原服务的信息，结束后重新进行通信，发送速率按照初始值重新开始。

如果切换过，则减缓发送速率，直至减少至初始值，每次减少至原先的90％，每次减少之后持续10轮，若10轮内没有出现失败，就按此传播轮次进行发送，若出现1此，则每次减少为原先的95％，否则，依次减少至原先的90％。

优先级判定规则：对于监测服务器和本服务若给出不同的心跳值，给出如下判断：如果本服务未发生丢包，此时按照监测服务器给出的心跳间隔发送，否则按照本服务给出的心跳间隔发送。

对于2-3G物联网外设自适应心跳包的抉择：对于支持有线接入或者wifi接入设备或者支持4G及以上物联网卡设备，使用同服务器-服务器一样的自适应心跳包方案，并且由抉择服务器进行相对应处理。

对于仅支持2-3G物联网卡设备的物联网设备，应该特殊考虑，充分考虑NAT超时时间和网络切换问题，给出一种对应的自适应心跳包方案。考虑传输能力有限，对于心跳包大小处理如下：对于自适应心跳包发送间隔，应该先告知抉择服务器其物联网卡信息，以充分考虑NAT超时时间。对于常用的NAT超时时间：中国移动3G和2G为300s，中国联通2G为300s，中国电信3G为1680s以上。应该找到合适的初始值，并且给出由于网络切换所导致的NAT超时时间改变而改变心跳值。

对于选取自适应计算心跳间隔，应该最接近NAT超时时间。

不断增加心跳间隔时间进行心跳应答测试，直到心跳失败7次后，即可找出最接近当前NAT超时时间的心跳间隔时间。初始时间设置为300s发送，如果超过，即增大发送时间，增加为原时间的1.2倍，如果失败，即增加30s增加尝试，如果失败，即减少30s。直到失败7次，然后取7次的平均值作为此状态状态下发送间隔。只有当心跳间隔接近NAT超时时间，才能保持长连接不中断，并且使物联网设备性能不被消耗太多。

对于检测网络变化：失败累计确认，当出现3次丢包，即可认为网络出现变化，此时进行一次试探性发送，如果可以收到服务器响应，即认为长连接可以继续，但是NAT超时时间发生了改变，应该出现调整发送包间隔，重新继续寻找自适应心跳包发送间隔过程。

如图4所示，本发明还给出了一种心跳包日志采集方案：实际生产环境，一般会将程序收到的和发出去的数据包写入日志中，但是无业务信息的心跳包信息是个例外，一般会刻意不写入日志，这是因为心跳包数据一般比较多，如果写入日志会导致日志文件变得很大，且充斥大量无意义的心跳包日志，所以一般在写日志时会屏蔽心跳包信息写入。保存心跳包的意义如下1：对信息采集，为后续数据分析提供真实数据，2:一个服务如果重新加入监测服务器，往往需要很长时间自适应调节，我们希望可以保存上次自适应完成的时间，然后后续调整，这样可以减少很多不必要时间。

保存方式包括增量更新和全量更新，其中，增量更新：每次向日志存储服务器发送15min内增加的日志内容。全量更新：每1天(或者7天)进行一次全量数据保存。

日志服务器：定时收取监测服务器的日志，如果没有收到，判断该服务器是否异常，异常应该及时调整踢除。日志服务器可以由监测服务器完成，共享监测服务器存储，以减少资源浪费。

本发明对于服务器综合考虑了CPU占用率、网络负载和物联网设备请求任务负载三个因素，该算法可以根据各种因素的变化自适应调整，大大提高了服务器调整心跳检测算法的性能和效率。

以上所述的实施例对本发明的技术方案和有益效果进行了详细说明，应理解的是以上所述仅为本发明的具体实施例，并不用于限制本发明，凡在本发明的原则范围内所做的任何修改、补充和等同替换，均应包含在本发明的保护范围之内。

Claims (9)

1.一种微服务场景下的自适应心跳包调节方法，其特征在于，包括：

(1)物联网设备接入服务器后，与决策服务器进行通信，服务器给出新加入的服务一个心跳时间初始值；

(2)检查服务器和物联网设备之间连接是否稳定，连接稳定之后，服务器和物联网设备进入长连接；

(3)监测服务器状态，自适应调节心跳包的发送间隔。

2.根据权利要求1所述的微服务场景下的自适应心跳包调节方法，其特征在于，步骤(1)中，心跳时间初始值通过用户设定或者日志中统计得出；如果没有初始值，用户设定按照不同物联网设备需求进行自动选额，划分为b1、b2和b3。

3.根据权利要求2所述的微服务场景下的自适应心跳包调节方法，其特征在于，b1为60s，b2为180s，b3为300s。

4.根据权利要求1所述的微服务场景下的自适应心跳包调节方法，其特征在于，步骤(2)中，对于连接是否稳定，采用成功一次认定、失败连续累积认定的原则，具体为：

如果出现一次失败，则进行重连设置，并且重新连接尝试n次，累计确认n次后认为连接中断，并且在最后一次尝试发送标记，表示这次失败不再尝试发送，此时服务器放弃对此物联网设备进行长连接尝试；

如果成功请求响应一次便认为连接稳定，本次服务可以进行。

5.根据权利要求1所述的微服务场景下的自适应心跳包调节方法，其特征在于，步骤(3)中，服务器状态由cpu占用率和内存使用率确定，对于cpu占用率和内存使用率，取其最大值作为状态参数值cm，根据状态参数值cm，将服务器状态对应分成四个阶段，具体为：

第一阶段，cm＜70％，此时为健康状态，应减少自适应心跳包发送间隔，以收到更加及时的消息；

第二阶段，70％≤cm＜85％，为预警阶段，此时应放弃减少自适应心跳发送间隔，以稳定的间隔发送；

第三阶段，85％≤cm＜95％，此时应及时降低cpu或者内存使用率；

第四阶段，cm≥95％，标记此服务器暂时拒绝接受新服务，由决策服务器对之后想连接到监测服务器的服务进行重新决策。

6.根据权利要求5所述的微服务场景下的自适应心跳包调节方法，其特征在于，服务器状态处于第一阶段～第三阶段时，自适应调节心跳包的发送间隔时，采用如下公式计算新的发送间隔：

t＝t₁*a+t₂*b

t₁为上一次发送间隔，t2＝t1*f(v)，其中v定义为调节系数，每个服务拥有一个v，同时会记录下每次v的值，每次调整会按照以下公式改变，计算得到的f(v)，即为新的v

a和b随着服务器状态处于不同阶段而不同，对于处于第一个阶段，a取0.2，b取0.8；对于处于第二个阶段，a取0.5，b取0.5；对于处于第三个阶段，a取0.8，b取0.2。

7.根据权利要求5所述的微服务场景下的自适应心跳包调节方法，其特征在于，服务器状态处于第四阶段时，设定一个规定时间T，30s≤T≤60s，在T时间内，重新计算状态参数值cm，如果cm没有降低到85％以下，则转移部分监测服务至其他服务器，并且由决策服务器进行协调。

8.根据权利要求1所述的微服务场景下的自适应心跳包调节方法，其特征在于，对于支持有线接入、wifi接入或者4G及以上网络接入的物联网设备，直接采用服务器给出的自适应发送间隔；对于使用2-3G网络接入的物联网设备，标记该设备并且充分考虑NAT超时时间和网络切换问题，以物联网设备的自身网络情况自适应调节发送间隔，同时告知服务器。

9.根据权利要求1所述的微服务场景下的自适应心跳包调节方法，其特征在于，在物联网设备接入服务器后的整个过程，对心跳包信息进行保存，保存方式为增量更新和全量更新；其中，增量更新时，每次向日志存储服务器发送15min内增加的日志内容；全量更新时，每1天或者7天进行一次全量数据保存。

Images