CN114296959A - 消息入队方法和装置 - Google Patents
消息入队方法和装置 Download PDFInfo
- Publication number
- CN114296959A CN114296959A CN202111602225.0A CN202111602225A CN114296959A CN 114296959 A CN114296959 A CN 114296959A CN 202111602225 A CN202111602225 A CN 202111602225A CN 114296959 A CN114296959 A CN 114296959A
- Authority
- CN
- China
- Prior art keywords
- queue
- message
- target
- queues
- backlog
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Transfer Between Computers (AREA)
Abstract
本发明公开了一种消息入队方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:确定目标队列集中的第一队列是否存在消息积压的情况,所述目标队列集中包括多个消息队列,所述第一队列为所述多个消息队列中具有最高优先级的队列;在所述第一队列存在消息积压的情况下,对所述目标队列集中的消息队列进行下沉处理,以使所述目标队列集中的各消息队列均不存在消息积压的情况,所述下沉处理用于将目标队列中的消息转存到所述目标队列的下级队列中,所述目标队列的下级队列的优先级低于所述目标队列的优先级;将所述待处理消息添加到所述第一队列中。该实施方式能够减少消息积压情况的发生。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种消息入队方法和装置。
背景技术
消息是在两台计算机间传送的数据单位。消息队列是在消息的传输过程中保存消息的容器。如果消费者消费的速度跟不上生产者发送消息的速度,就会造成消息积压。一旦发生消息积压,会造成消息队列无法正常提供服务、消息丢失、甚至系统崩溃等情况。
发明内容
有鉴于此,本发明实施例提供一种消息入队方法和装置,能够减少消息积压情况的发生。
第一方面,本发明实施例提供了一种消息入队方法,包括:
获取待处理消息;
确定目标队列集中的第一队列是否存在消息积压的情况,所述目标队列集中包括多个消息队列,所述第一队列为所述多个消息队列中具有最高优先级的队列;
在所述第一队列存在消息积压的情况下,对所述目标队列集中的消息队列进行下沉处理,以使所述目标队列集中的各消息队列均不存在消息积压的情况,所述下沉处理用于将目标队列中的消息转存到所述目标队列的下级队列中,所述目标队列的下级队列的优先级低于所述目标队列的优先级;
将所述待处理消息添加到所述第一队列中。
可选地,所述对所述目标队列集中的消息队列进行下沉处理,包括:
从所述目标队列集中,确定出第二队列,所述第二队列的优先级高于所述目标队列集中除所述第一队列以外的其它队列;
确定所述第二队列是否存在消息积压的情况;
在所述第二队列存在消息积压的情况下,对所述第二队列进行下沉处理;
将所述第一队列中的消息转存到所述第二队列中。
可选地,所述对所述目标队列集中的消息队列进行下沉处理,包括:
在所述目标队列集中的当前队列存在消息积压的情况下,从所述目标队列集中确定出所述当前队列的下级队列,所述当前队列的下级队列的优先级低于所述当前队列的优先级;
确定所述当前队列的下级队列是否存在消息积压的情况;
在所述当前队列的下级队列存在消息积压的情况下,对所述当前队列的下级队列进行下沉处理;
将所述当前队列中的消息转存到所述当前队列的下级队列中。
可选地,所述当前队列的下级队列为所述目标队列集中具有最低优先级的队列;
所述对所述当前队列的下级队列进行下沉处理,包括:
将所述具有最低优先级的队列中的消息转存至外部存储中。
可选地,所述将所述具有最低优先级的队列中的消息存储至外部存储中之后,还包括:
确定所述具有最低优先级的队列是否处于空闲状态;
在所述具有最低优先级的队列处于空闲状态的情况下,将所述外部存储中的消息转存至所述具有最低优先级的队列中。
可选地,所述目标队列集中的目标消息队列的存储空间与所述目标消息队列的优先级参数成正比;
和/或,
所述目标队列集中的目标消息队列对应的分配消费者消费的时间与所述目标消息队列的优先级参数成反比。
可选地,所述获取待处理消息之后,还包括:
根据预测策略,从多个队列集中,确定出所述目标队列集。
第二方面,本发明实施例提供了一种消息入队装置,包括:
消息获取模块,用于获取待处理消息;
情况确定模块,用于确定目标队列集中的第一队列是否存在消息积压的情况,所述目标队列集中包括多个消息队列,所述第一队列为所述多个消息队列中具有最高优先级的队列;
下沉处理模块,用于在所述第一队列存在消息积压的情况下,对所述目标队列集中的消息队列进行下沉处理,以使所述目标队列集中的各消息队列均不存在消息积压的情况,所述下沉处理用于将目标队列中的消息转存到所述目标队列的下级队列中,所述目标队列的下级队列的优先级低于所述目标队列的优先级;
消息添加模块,用于将所述待处理消息添加到所述第一队列中。
第三方面,本发明实施例提供了一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述任一实施例所述的方法。
第四方面,本发明实施例提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现上述任一实施例所述的方法。
上述发明中的一个实施例具有如下优点或有益效果:将消息添加到消息队列之前,先确定第一队列是否存在消息积压的情况。在第一队列不存在消息积压的情况下,直接将消息添加到第一队列中。在第一队列存在消息积压的情况下,对目标队列集中的消息队列进行下沉处理,以使目标队列集中的各消息队列都不存在消息积压的情况,再将消息添加到下沉处理后的第一队列中。因此,本发明实施例的方法能够减少消息积压情况的发生。
此外,由于第一队列为目标队列集中具有最高优先级的队列,将消息添加到第一队列中,能够保证新产生的消息能够被快速消费。同时对于目标队列集中每一个消息队列都可设置对应的消费者,也保证了各消息队列中的消息都能被有效消费。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是本发明一个实施例提供的一种消息入队方法的流程示意图;
图2是本发明一个实施例提供的另一种消息入队方法的流程示意图;
图3是本发明一个实施例提供的一种消息处理系统的架构示意图;
图4是本发明一个实施例提供的一种消息队列下沉处理的流程示意图;
图5是本发明一个实施例提供的一种针对四级消息队列的消息入队的流程示意图;
图6是本发明的一个实施例提供的一种消息入队装置的结构示意图;
图7是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
在处理消息队列的消息积压时,可通过紧急扩容来处理。具体步骤包括:1)先修复消费者的问题,确保其恢复消费速度,然后将现有消费者都停掉;2)新建一个topic,分区是原来的t倍,临时建立对应数量的队列;3)然后写一个临时的分发数据的消费者程序,这个程序部署上去消费积压的数据,消费之后不做耗时的处理,直接均匀轮询写入临时建立好的t倍数量的队列;4)接着临时征用t倍的机器来部署消费者,每一批消费者消费一个临时队列的数据;5)等快速消费完积压数据之后,得恢复原先部署架构,重新用原先的消费者机器来消费消息。这种做法相当于是临时将队列资源和消费者资源扩大数倍,以正常的t倍速度来消费数据。
还可以通过设置消息过期时间来处理消息积压。对消息设置过期时间,如果消息在队列中积压超过一定的时间就会被消息队列给清理掉,这个数据就没了。这时可以让这批数据先过期,等到高峰期过后,将丢失的那一批消息进行查找补回,重新写入消息队列中。
在生产环境中,一般不会采用采用设置消息过期时间这种方案,如果消息在队列中积压超过一定时间就会被消息队列给清理掉,这条消息也就消失了,需要等待流量高峰期过后重新进行发送,这在对于实时性要求高的情境下是不可接受的。所以大多数情况考虑使用紧急扩容的方式,出现线上事故,能申请多少机器就申请多少机器,争取在最短的时间内消费掉积压在消息中的消息。但是申请机器在服务器资源紧张时无法获取到这么多资源,那便很难解决问题。
基于此,本发明实施例提出了一种消息入队的方法,能够减少消息积压情况的发生。图1是本发明一个实施例提供的一种消息入队方法的流程示意图,如图1所示,该方法包括:
步骤101:获取待处理消息。
步骤102:确定目标队列集中的第一队列是否存在消息积压的情况,目标队列集中包括多个消息队列,第一队列为多个消息队列中具有最高优先级的队列。
目标队列集中包括多个消息队列,各消息队列均对应于不同的优先级。在消息队列存在消息积压的情况下,通过将消息队列中的消息下沉处理到该消息队里的下级队列中,减少消息积压情况的发生。
可通过多种方式来确定消息队列是否存在消息积压的情况。例如,设置相应的阈值,如k%,在当前队列存储的消息占据总大小的k%时,说明当前消息者的消费的过程较为缓慢,有产生消息积压的风险。还可以获取当前队列对应的消费者的消费速度和生产者的生产速度,根据消费速度和生产速度,来确定当前队列是否存在消息积压的情况。
步骤103:在第一队列存在消息积压的情况下,对目标队列集中的消息队列进行下沉处理,以使目标队列集中的各消息队列均不存在消息积压的情况。
下沉处理用于将目标队列中的消息转存到目标队列的下级队列中,目标队列的下级队列的优先级低于目标队列的优先级。
举例来说,按照优先级从高到低的顺序,目标队列集中包括:第一队列PQ1、第二队列PQ2、第三队列PQ3、第四队列PQ4。将消息添加到消息队列之前,先确定PQ1是否存在消息积压的情况。在PQ1不存在消息积压的情况下,直接将消息添加到PQ1中。在PQ1存在消息积压的情况下,确定PQ2是否存在消息积压。如果PQ2不存在积压,则通过下沉处理,将PQ1中的消息转存到PQ2中,再将待处理消息添加到PQ1中。
如果PQ2存在积压,则确定PQ3是否存在积压。如果PQ3存在积压,则通过下沉处理把PQ3中的消息转存到PQ4中,再将PQ2中的消息转存到PQ3中,在将PQ1中的消息转存到PQ2中,最后将待处理消息添加到PQ1中。
以此类推,直至消息队列集中所有消息都不存在消息积压。最后一级PQ4如果出现积压,可利用数据库或外部存储等进行兜底转存。
步骤104:将待处理消息添加到第一队列中。
在本发明实施例中,将消息添加到消息队列之前,先确定第一队列是否存在消息积压的情况。在第一队列不存在消息积压的情况下,直接将消息添加到第一队列中。在第一队列存在消息积压的情况下,对目标队列集中的消息队列进行下沉处理,以使目标队列集中的各消息队列都不存在消息积压的情况,再将消息添加到下沉处理后的第一队列中。因此,本发明实施例的方法能够减少消息积压情况的发生。
此外,由于第一队列为目标队列集中具有最高优先级的队列,将消息添加到第一队列中,能够保证新产生的消息能够被快速消费。同时对于目标队列集中每一个消息队列都对应有消费者,也保证了各消息队列中的消息都能被有效消费。
在本发明的一个实施例中,目标队列集中的目标消息队列的存储空间与目标消息队列的优先级参数成正比;和/或,目标队列集中的目标消息队列对应的分配消费者消费的时间与目标消息队列的优先级参数成反比。一般地,优先级参数越小,优先级越高。比如,优先级参数为1,则该消息具有最高优先级。优先级越高的消息队列,优先级参数越小,分配的存储空间越小。优先级越小的消息队列,优先级参数越大,分配的存储空间越大。如此,不仅可减少系统所需的存储空间,在进行下沉操作时,能够保证顺利地将上级消息队列中消息转存至下级消息队列中。
优先级越高的消息队列,优先级参数越小,分配分配消费者消费的时间越长。优先级越低的消息队列,优先级参数越大,分配分配消费者消费的时间越短。如此,可以使优先级高的消息队列中消息能够获得较长的消费时间,优先执行完毕。
在本发明的一个实施例中,获取待处理消息之后,还包括:根据预测策略,从多个队列集中,确定出目标队列集。预测策略可根据具体需求进行设定,比如:将新产生的消息依次放入各队列集中。还可以建立消息生产者与各队列集的对应关系,根据对应关系确定目标队列集。还可以获取各目标队列集的消息存放情况,选择剩余空间较多的队列集作为目标队列集。
在本发明的一个实施例中,对目标队列集中的消息队列进行下沉处理,包括:从目标队列集中,确定出第二队列,第二队列的优先级高于目标队列集中除第一队列以外的其它队列;确定第二队列是否存在消息积压的情况;在第二队列存在消息积压的情况下,对第二队列进行下沉处理;将第一队列中的消息转存到第二队列中。在第二队列不存在消息积压的情况下,将第一队列中消息转存至第二队列中,再将待处理消息添加到第一队列中。在第二队列存在消息积压的情况下,对第二队列进行下沉处理,将第一队列中消息转存至第二队列中,再将待处理消息添加到第一队列中。能够保证在添加待处理消息以后,第一队列和第二队列都不会出现消息积压的情况。
图2是本发明一个实施例提供的另一种消息入队方法的流程示意图,如图2所示,该方法包括:
步骤201:获取待处理消息。
步骤202:确定目标队列集中的第一队列是否存在消息积压的情况,第一队列为目标队列集中具有最高优先级的队列。
若是,则执行步骤203。若否,则执行步骤212。
步骤203:将第一队列确定为当前队列。
步骤204:从目标队列集中确定出当前队列的下级队列,下级队列的优先级低于当前队列的优先级。
步骤205:确定下级队列是否存在消息积压的情况。
若是,则执行步骤206。若否,则执行步骤209。
步骤206:确定下级队列是否为目标队列集中具有最低优先级的队列。
若是,则执行步骤207。若否,则执行步骤208。
步骤207:将具有最低优先级的队列中的消息转存至外部存储中。
外部存储可以是数据库,也可以是TXT、EXCEL等文档。在具有最低优先级的队列出现消息积压时,利用外部存储存储消息,以减少由于消息积压而发生消息丢失的情况。
步骤208:将下级队列确定为当前队列。
重新执行步骤204,以寻找到没有发生消息积压情况的消息队列,并利用该消息队列,对该消息队列的各上级队列依次进行下沉处理。
步骤209:将当前队列中的消息转存到下级队列中。
步骤210:确定当前队列是否为第一队列。
若是,则各队列已完成下沉处理,执行步骤212。若否,则执行步骤211。
步骤211:从目标队列集中确定出当前队列的上级队列,将上级队列确定为当前队列。
当前队列的上级队列的优先级高于当前队列的优先级。重新执行步骤209。依次将当前队列中的消息转存到下级队列中,直至当前队列为第一队列。
步骤212:将待处理消息添加到第一队列中。
在本发明实施例中,针对目标队列集中的各级消息队列,逐级寻找,直至找到没有发生消息积压情况的消息队列。在利用该没有发生消息积压情况的消息队列,对该消息队列的各上级队列依次进行下沉处理,直至当前队列集中所有消息队列都不存在消息积压。利用本发明实施例的方法,能够减少消息积压发生的风险。
在本发明的一个实施例中,将具有最低优先级的队列中的消息存储至外部存储中之后,还包括:确定具有最低优先级的队列是否处于空闲状态;在具有最低优先级的队列处于空闲状态的情况下,将外部存储中的消息转存至具有最低优先级的队列中。
确定消息队列是否处于空闲状态的方式有多种。例如,设置相应的阈值,如k%,在当前队列存储的消息占据的空间小于消息队列的总大小的k%时,说明当前消息者的消费的过程较为快速,当前消息队里处于空闲状态。还可以获取当前队列对应的消费者的消费速度和生产者的生产速度,根据消费速度和生产速度,来确定当前队列是否处于空闲状态。
在具有最低优先级的队列处于空闲状态的情况下,将外部存储中的消息转存至具有最低优先级的队列中,以使外部存储中的消息能够被顺利执行。
为使本发明实施例的方案更加便于理解。本发明实施例还提供了一种消息处理系统。图3是本发明一个实施例提供的一种消息处理系统的架构示意图。如图3所示,本发明实施例的方案是通过使用消息队列和多级优先队列结合去减少消息积压情况的产生与原本解决消息积压时需要大量服务器进行扩容的情况。在生产者生产消息后,交付给消息队列集群,在消息队列中存在多级优先队列构成的结构。消息发送给其中一个节点,每一个节点对应一个消息队列集,每个消息队列集中包括多个消息队列,不同的消息队列对应着不同的优先级。消息进入节点后,根据每一级队列设置的阈值与实际存储的情况进行评估,进行队列的调整,并将新消息存储,供消费者消费。
在使用本发明实施例的方案的时候需要创建一个由多个节点,每个节点由多级优先队列构成。针对于每个节点中的队列,需要设置相应的阈值,如k%,对应含义为当当前队列存储的消息占据总大小的k%时,说明当前消息消费的过程较为缓慢,有产生消息积压的风险,为了保证后续消息消费的及时性,此时对优先级队列PQ1中的消息进行降级,将PQ1内的消息下沉到PQ2中,此时PQ1将被清空,后续新产生的消息都会进入PQ1。以此类推,每级队列都依次设置相应阈值,越向下,优先级越低,存储空间越大,在消费消息的时间上就会分配的越少,举例来说,PQ1、PQ2、PQ3、PQ4对应的优先级依次降低,当PQ1、PQ2、PQ3、PQ4队列都不为空时,分配消费者消费的时间应当依次减少,如t、0.5t、0.25t、0.125t。当最低优先级队列达到阈值时,将队列中的消息暂存在数据库中,数据库可包括:redis、Oracle等。等待最低优先级队列存储率下降或为0时,从数据库向最低优先级队列归还相关消息。在这种模式下,消息积压的概率大大减小,当出现消费缓慢导致消息开始积压的时候,通过下沉有效的保证了后续消息的快速消费,同时对于每一个优先级的队列都进行消费也保证了各级队列中的消息都能有效消费。在此基础上使用数据库作为兜底方案去存储节点的消息,避免队列全部打满的情况。
图4是本发明一个实施例提供的一种消息队列下沉处理的流程示意图。如图4所示,构建节点的时候,采用多个不同大小的队列成为多级优先队列,当最高优先级节点priority队列1存储消息到达阈值后,对其内部消息进行下沉,下沉到存储空间更大的priority队列2,以此类推priority队列2达到阈值下沉到priority队列3,priority队列3下沉到priority队列4,数据库进行消息的暂存并在节点压力较小时进行消息的返还。依照此方法构建消息队列集群。在出现大量消息访问时,也能保证消息队列的可靠性。当出现空队列时,将其作为新的最低优先级队列供其他队列消息下沉,其他队列调整各个队列的消息消费时间。
图5是本发明一个实施例提供的一种针对四级消息队列的消息入队的流程示意图。如图5所示,在最高优先级队列超过设定的阈值时,判定2级队列是否超过设定的阈值。在2级队列超过设定的阈值时,判定3级队列是否超过设定的阈值。在3级队列是否超过设定的阈值时,判定4级级队列是否超过设定的阈值。在4级队列超过设定的阈值时,将四级队列暂存到redis中,剩下3级队列递归下沉,直到最高优先级队列为空;添加消息到最高优先级队列。
图6是本发明的一个实施例提供的一种消息入队装置的结构示意图,如图6所示,该装置包括:
消息获取模块601,用于获取待处理消息;
情况确定模块602,用于确定目标队列集中的第一队列是否存在消息积压的情况,所述目标队列集中包括多个消息队列,所述第一队列为所述多个消息队列中具有最高优先级的队列;
下沉处理模块603,用于在所述第一队列存在消息积压的情况下,对所述目标队列集中的消息队列进行下沉处理,以使所述目标队列集中的各消息队列均不存在消息积压的情况,所述下沉处理用于将目标队列中的消息转存到所述目标队列的下级队列中,所述目标队列的下级队列的优先级低于所述目标队列的优先级;
消息添加模块604,用于将所述待处理消息添加到所述第一队列中。
可选地,下沉处理模块603具体用于:
从所述目标队列集中,确定出第二队列,所述第二队列的优先级高于所述目标队列集中除所述第一队列以外的其它队列;
确定所述第二队列是否存在消息积压的情况;
在所述第二队列存在消息积压的情况下,对所述第二队列进行下沉处理;
将所述第一队列中的消息转存到所述第二队列中。
可选地,下沉处理模块603具体用于:
在所述目标队列集中的当前队列存在消息积压的情况下,从所述目标队列集中确定出所述当前队列的下级队列,所述当前队列的下级队列的优先级低于所述当前队列的优先级;
确定所述当前队列的下级队列是否存在消息积压的情况;
在所述当前队列的下级队列存在消息积压的情况下,对所述当前队列的下级队列进行下沉处理;
将所述当前队列中的消息转存到所述当前队列的下级队列中。
可选地,所述当前队列的下级队列为所述目标队列集中具有最低优先级的队列;
下沉处理模块603具体用于:
将所述具有最低优先级的队列中的消息转存至外部存储中。
可选地,该装置还包括:
归还模块605,用于确定所述具有最低优先级的队列是否处于空闲状态;
在所述具有最低优先级的队列处于空闲状态的情况下,将所述外部存储中的消息转存至所述具有最低优先级的队列中。
可选地,所述目标队列集中的目标消息队列的存储空间与所述目标消息队列的优先级参数成正比;
和/或,
所述目标队列集中的目标消息队列对应的分配消费者消费的时间与所述目标消息队列的优先级参数成反比。
可选地,该装置还包括:
队列集确定模块606,用于根据预测策略,从多个队列集中,确定出所述目标队列集。
本发明实施例提供了一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现上述任一实施例的方法。
下面参考图7,其示出了适于用来实现本发明实施例的终端设备的计算机系统700的结构示意图。图7示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图7所示,计算机系统700包括中央处理单元(CPU)701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中,还存储有系统700操作所需的各种程序和数据。CPU 701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
以下部件连接至I/O接口705:包括键盘、鼠标等的输入部分706;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707;包括硬盘等的存储部分708;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器710上,以便于从其上读出的计算机程序根据需要被安装入存储部分708。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分709从网络上被下载和安装,和/或从可拆卸介质711被安装。在该计算机程序被中央处理单元(CPU)701执行时,执行本发明的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了根据本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:消息获取模块、情况确定模块、下沉处理模块及消息添加模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,消息获取模块还可以被描述为“获取待处理消息的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:
获取待处理消息;
确定目标队列集中的第一队列是否存在消息积压的情况,所述目标队列集中包括多个消息队列,所述第一队列为所述多个消息队列中具有最高优先级的队列;
在所述第一队列存在消息积压的情况下,对所述目标队列集中的消息队列进行下沉处理,以使所述目标队列集中的各消息队列均不存在消息积压的情况,所述下沉处理用于将目标队列中的消息转存到所述目标队列的下级队列中,所述目标队列的下级队列的优先级低于所述目标队列的优先级;
将所述待处理消息添加到所述第一队列中。
根据本发明实施例的技术方案,将消息添加到消息队列之前,先确定第一队列是否存在消息积压的情况。在第一队列不存在消息积压的情况下,直接将消息添加到第一队列中。在第一队列存在消息积压的情况下,对目标队列集中的消息队列进行下沉处理,以使目标队列集中的各消息队列都不存在消息积压的情况,再将消息添加到下沉处理后的第一队列中。因此,本发明实施例的方法能够减少消息积压情况的发生。
此外,由于第一队列为目标队列集中具有最高优先级的队列,将消息添加到第一队列中,能够保证新产生的消息能够被快速消费。同时对于目标队列集中每一个消息队列都对应有消费者,也保证了各消息队列中的消息都能被有效消费。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (10)
1.一种消息入队方法,其特征在于,包括:
获取待处理消息;
确定目标队列集中的第一队列是否存在消息积压的情况,所述目标队列集中包括多个消息队列,所述第一队列为所述多个消息队列中具有最高优先级的队列;
在所述第一队列存在消息积压的情况下,对所述目标队列集中的消息队列进行下沉处理,以使所述目标队列集中的各消息队列均不存在消息积压的情况,所述下沉处理用于将目标队列中的消息转存到所述目标队列的下级队列中,所述目标队列的下级队列的优先级低于所述目标队列的优先级;
将所述待处理消息添加到所述第一队列中。
2.根据权利要求1所述的方法,其特征在于,所述对所述目标队列集中的消息队列进行下沉处理,包括:
从所述目标队列集中,确定出第二队列,所述第二队列的优先级高于所述目标队列集中除所述第一队列以外的其它队列;
确定所述第二队列是否存在消息积压的情况;
在所述第二队列存在消息积压的情况下,对所述第二队列进行下沉处理;
将所述第一队列中的消息转存到所述第二队列中。
3.根据权利要求1所述的方法,其特征在于,所述对所述目标队列集中的消息队列进行下沉处理,包括:
在所述目标队列集中的当前队列存在消息积压的情况下,从所述目标队列集中确定出所述当前队列的下级队列,所述当前队列的下级队列的优先级低于所述当前队列的优先级;
确定所述当前队列的下级队列是否存在消息积压的情况;
在所述当前队列的下级队列存在消息积压的情况下,对所述当前队列的下级队列进行下沉处理;
将所述当前队列中的消息转存到所述当前队列的下级队列中。
4.根据权利要求3所述的方法,其特征在于,所述当前队列的下级队列为所述目标队列集中具有最低优先级的队列;
所述对所述当前队列的下级队列进行下沉处理,包括:
将所述具有最低优先级的队列中的消息转存至外部存储中。
5.根据权利要求4所述的方法,其特征在于,所述将所述具有最低优先级的队列中的消息存储至外部存储中之后,还包括:
确定所述具有最低优先级的队列是否处于空闲状态;
在所述具有最低优先级的队列处于空闲状态的情况下,将所述外部存储中的消息转存至所述具有最低优先级的队列中。
6.根据权利要求1所述的方法,其特征在于,所述目标队列集中的目标消息队列的存储空间与所述目标消息队列的优先级参数成正比;
和/或,
所述目标队列集中的目标消息队列对应的分配消费者消费的时间与所述目标消息队列的优先级参数成反比。
7.根据权利要求1所述的方法,其特征在于,所述获取待处理消息之后,还包括:
根据预测策略,从多个队列集中,确定出所述目标队列集。
8.一种消息入队装置,其特征在于,包括:
消息获取模块,用于获取待处理消息;
情况确定模块,用于确定目标队列集中的第一队列是否存在消息积压的情况,所述目标队列集中包括多个消息队列,所述第一队列为所述多个消息队列中具有最高优先级的队列;
下沉处理模块,用于在所述第一队列存在消息积压的情况下,对所述目标队列集中的消息队列进行下沉处理,以使所述目标队列集中的各消息队列均不存在消息积压的情况,所述下沉处理用于将目标队列中的消息转存到所述目标队列的下级队列中,所述目标队列的下级队列的优先级低于所述目标队列的优先级;
消息添加模块,用于将所述待处理消息添加到所述第一队列中。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111602225.0A CN114296959A (zh) | 2021-12-24 | 2021-12-24 | 消息入队方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111602225.0A CN114296959A (zh) | 2021-12-24 | 2021-12-24 | 消息入队方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114296959A true CN114296959A (zh) | 2022-04-08 |
Family
ID=80970148
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111602225.0A Pending CN114296959A (zh) | 2021-12-24 | 2021-12-24 | 消息入队方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114296959A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115348220A (zh) * | 2022-08-25 | 2022-11-15 | 中国银行股份有限公司 | 访问请求传输方法及装置 |
-
2021
- 2021-12-24 CN CN202111602225.0A patent/CN114296959A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115348220A (zh) * | 2022-08-25 | 2022-11-15 | 中国银行股份有限公司 | 访问请求传输方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114385353B (zh) | 资源调度方法及装置、电子设备、存储介质 | |
US20180027061A1 (en) | Method and apparatus for elastically scaling virtual machine cluster | |
CN107832143B (zh) | 一种物理机资源的处理方法和装置 | |
CN112905342B (zh) | 资源调度方法、装置、设备及计算机可读存储介质 | |
CN112650575B (zh) | 资源调度方法、装置和云端服务系统 | |
CN110768913A (zh) | 流量控制方法及装置 | |
US10360267B2 (en) | Query plan and operation-aware communication buffer management | |
CN106411558A (zh) | 一种数据流量限制的方法及系统 | |
CN111190719B (zh) | 优化集群资源分配的方法、装置、介质及电子设备 | |
CN112398945A (zh) | 一种基于背压的业务处理方法及装置 | |
CN111245732A (zh) | 一种流量控制方法、装置及设备 | |
CN113742114A (zh) | 一种系统限流的方法和装置 | |
CN114296959A (zh) | 消息入队方法和装置 | |
CN113296976A (zh) | 消息处理方法、装置、电子设备、存储介质及程序产品 | |
CN112286688A (zh) | 一种内存管理和使用方法、装置、设备和介质 | |
CN108093047B (zh) | 数据发送方法、装置、电子设备及中间件系统 | |
CN113760549A (zh) | 一种pod部署方法及装置 | |
CN115774618A (zh) | 一种云服务器iaas层动态资源分配方法及装置 | |
CN112346848A (zh) | 一种管理内存池的方法、装置及终端 | |
CN110728372A (zh) | 一种人工智能模型动态加载的集群设计方法及集群架构 | |
CN113608896B (zh) | 一种动态切换数据流的方法、系统、介质及终端 | |
CN115878309A (zh) | 资源分配方法、装置、处理核、设备和计算机可读介质 | |
CN114371945A (zh) | 报文的传输方法、装置、电子设备及计算机存储介质 | |
CN114374657A (zh) | 一种数据处理方法和装置 | |
CN112751896A (zh) | 资源部署方法、资源部署装置以及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |