CN110351203B - 一种消息处理方法、装置、系统、服务器及存储介质 - Google Patents
一种消息处理方法、装置、系统、服务器及存储介质 Download PDFInfo
- Publication number
- CN110351203B CN110351203B CN201910629163.9A CN201910629163A CN110351203B CN 110351203 B CN110351203 B CN 110351203B CN 201910629163 A CN201910629163 A CN 201910629163A CN 110351203 B CN110351203 B CN 110351203B
- Authority
- CN
- China
- Prior art keywords
- message
- queue
- server
- consumption
- distributed message
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/50—Queue scheduling
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明实施例公开了一种消息处理方法、装置、系统、服务器及存储介质。其中,方法包括:消费服务器从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并更新与分布式消息队列匹配的消息处理时间;检测队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列;如果检测到存在目标分布式消息队列,则根据预设的接管规则判断是否接管目标分布式消息队列;如果确定接管目标分布式消息队列,则对目标分布式消息队列中的待处理消息进行处理。本发明实施例可以及时对消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列进行接管处理,提高消息处理效率。
Description
技术领域
本发明实施例涉及消息处理技术,尤其涉及一种消息处理方法、装置、系统、服务器及存储介质。
背景技术
在面向消息的处理机制中,消息分发服务器将获取的待处理消息分发至消息队列。消费服务器从消息队列中获取待处理消息并进行相应的处理。
现有技术中,一般预先设置消息队列和消费服务器的对应关系。例如,一个消息队列对应一个消费服务器。消息分发服务器根据预设消息分发规则,将获取的多个待处理消息分发至各个消息队列。消费服务器从对应的消息队列中获取待处理消息并进行相应的处理。
发明人在实现本发明的过程中发现,现有技术的缺陷在于,未考虑到消费服务器应的实际处理能力。对于处理能力较低的消费服务器,容易导致与该处理能力较低的消费服务器对应的消息队列中的待处理消息大量积压,从而降低了消息处理的及时性,降低了消息处理效率。
发明内容
本发明实施例提供一种消息处理方法、装置、系统、服务器及存储介质,以优化现有的消息处理方法,提升消息处理效率。
第一方面,本发明实施例提供了一种消息处理方法,包括:
消费服务器从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并更新与分布式消息队列匹配的消息处理时间;
消费服务器检测队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列;
消费服务器如果检测到队列存储服务器集群中存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,则根据预设的接管规则判断是否接管目标分布式消息队列;
消费服务器如果确定接管目标分布式消息队列,则对目标分布式消息队列中的待处理消息进行处理。
第二方面,本发明实施例还提供了一种消息处理装置,包括:
消息处理模块,用于从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并对应更新与分布式消息队列匹配的消息处理时间;
队列检测模块,用于检测队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列;
规则判断模块,用于如果检测到队列存储服务器集群中存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,则根据预设的接管规则判断是否接管目标分布式消息队列;
消息接管模块,用于如果确定接管目标分布式消息队列,则对目标分布式消息队列中的待处理消息进行处理。
第三方面,本发明实施例还提供了一种消息处理系统,包括:
队列存储服务器集群,消息分发服务器以及至少一个消费服务器;
队列存储服务器集群,用于存储与至少一个消费服务器对应的分布式消息队列;
消息分发服务器,用于通过统一消息接口接收至少一条待处理消息,并根据待处理消息的消息类型,将待处理消息分发至队列存储服务器集群中对应的分布式消息队列中;
至少一个消费服务器,用于执行如本发明实施例所述的消息处理方法。
第四方面,本发明实施例还提供了一种服务器,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行计算机程序时实现如本发明实施例所述的消息处理方法。
第五方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如本发明实施例所述的消息处理方法。
本发明实施例的技术方案,通过消费服务器检测队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,并在检测到队列存储服务器集群中存在目标分布式消息队列时,根据预设的接管规则判断消费服务器是否接管目标分布式消息队列,在消费服务器确定接管目标分布式消息队列后,由消费服务器对目标分布式消息队列中的待处理消息进行处理,可以对各个分布式消息队列的消息处理时间进行监控,可以及时对消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列进行接管处理,从而采用能够正常处理消息的消费服务器继续处理目标分布式消息队列中的待处理消息,防止目标分布式消息队列中的待处理消息大量积压,提高消息处理效率。
附图说明
图1为本发明实施例一提供的一种消息处理方法的流程图;
图2为本发明实施例二提供的一种消息处理方法的流程图;
图3为本发明实施例三提供的一种消息处理方法的流程图;
图4为本发明实施例四提供的一种消息处理装置的结构示意图;
图5为本发明实施例五提供的一种消息处理系统的结构示意图;
图6为本发明实施例六提供的一种服务器的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。
另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部内容。在更加详细地讨论示例性实施例之前应当提到的是,一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作(或步骤)描述成顺序的处理,但是其中的许多操作可以被并行地、并发地或者同时实施。此外,各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止,但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。
实施例一
图1为本发明实施例一提供的一种消息处理方法的流程图。本实施例可适用于对消息进行处理的情况,该方法可以由本发明实施例提供的消息处理装置来执行,该装置可采用软件和/或硬件的方式实现,并一般可集成在消费服务器中。如图1所示,本实施例的方法具体包括:
步骤101、消费服务器从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并更新与分布式消息队列匹配的消息处理时间。
其中,消息分发服务器通过统一消息接口接收至少一条待处理消息,并根据待处理消息的消息类型,将待处理消息分发至队列存储服务器集群中对应的分布式消息队列中。
可选的,队列存储服务器集群为一个Redis存储系统。Redis作为一种高性能的键值对(Key-Value)数据库,常用于实现对于数据的存储操作与查询操作。队列存储服务器集群中的服务器为Redis节点。为了增大数据的存储容量,同时部署多个Redis节点,构建出队列存储服务器集群。队列存储服务器集群用于存储与至少一个消费服务器对应的分布式消息队列。消费服务器是用于对待处理消息进行处理的服务器。预先建立分布式消息队列与消息类型的对应关系。同时建立分布式消息队列与消费服务器的对应关系。每一个分布式消息队列有对应的消息类型和消费服务器。
具体的,当一条待处理消息的消息类型与某个分布式消息队列所对应的消息类型一致时,消息分发服务器将待处理消息分发至该分布式消息队列中。与该分布式消息队列对应的消费服务器对该分布式消息队列中的待处理消息进行处理。
可选的,消费服务器从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理时,将与分布式消息队列匹配的消息处理时间更新为当前系统时间。
步骤102、消费服务器检测队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列:若是,则执行步骤103;若否,则返回执行步骤101。
可选的,消费服务器获取队列存储服务器集群中的每一个分布式消息队列的消息处理时间,计算每一个分布式消息队列的消息处理时间与当前系统时间的差值。针对每一个分布式消息队列,判断对应的消息处理时间与当前系统时间的差值是否超过设定阈值。如果对应的消息处理时间与当前系统时间的差值超过设定阈值,则确定该分布式消息队列是目标分布式消息队列。如果对应的消息处理时间与当前系统时间的差值未超过设定阈值,则确定该分布式消息队列不是目标分布式消息队列。消费服务器依次判断分布式消息队列是否是目标分布式消息队列,并对判断结果进行汇总,得到目标分布式消息队列的数量。
如果目标分布式消息队列的数量为零,则确定队列存储服务器集群中不存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,消费服务器继续从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并更新与分布式消息队列匹配的消息处理时间。
如果目标分布式消息队列的数量不为零,则确定队列存储服务器集群中存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列。
步骤103、消费服务器根据预设的接管规则判断是否接管目标分布式消息队列:若是,则执行步骤104;若否,则返回执行步骤101。
其中,消费服务器如果检测到队列存储服务器集群中存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,则根据预设的接管规则判断是否接管目标分布式消息队列。
在一个具体实例中,消费服务器根据预设的接管规则判断是否接管目标分布式消息队列,可以包括:消费服务器获取其他处于在线状态的消费服务器的当前负载。消费服务器判断消费服务器的当前负载是否是全部当前负载中最低的当前负载。消费服务器如果确定消费服务器的当前负载是全部当前负载中最低的当前负载,则接管目标分布式消息队列。消费服务器如果确定消费服务器的当前负载不是全部当前负载中最低的当前负载,则不接管目标分布式消息队列,继续从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并更新与分布式消息队列匹配的消息处理时间。
步骤104、消费服务器对目标分布式消息队列中的待处理消息进行处理。
其中,消费服务器如果确定接管目标分布式消息队列,则对目标分布式消息队列中的待处理消息进行处理。即消费服务器获取了目标分布式消息队列的待处理消息处置权。与目标分布式消息队列对应的消费服务器不再对目标分布式消息队列中的待处理消息进行处理。
本发明实施例提供了一种消息处理方法,通过消费服务器检测队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,并在检测到队列存储服务器集群中存在目标分布式消息队列时,根据预设的接管规则判断消费服务器是否接管目标分布式消息队列,在消费服务器确定接管目标分布式消息队列后,由消费服务器对目标分布式消息队列中的待处理消息进行处理,可以对各个分布式消息队列的消息处理时间进行监控,可以及时对消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列进行接管处理,从而采用能够正常处理消息的消费服务器继续处理目标分布式消息队列中的待处理消息,防止目标分布式消息队列中的待处理消息大量积压,提高消息处理效率。
实施例二
图2为本发明实施例二提供的一种消息处理方法的流程图。本实施例可以与上述一个或者多个实施例中各个可选方案结合,在本实施例中,根据预设的接管规则判断是否接管目标分布式消息队列,可以包括:消费服务器获取其他处于在线状态的消费服务器的当前负载;消费服务器判断消费服务器的当前负载是否是全部当前负载中最低的当前负载;消费服务器如果确定消费服务器的当前负载是全部当前负载中最低的当前负载,则接管目标分布式消息队列。
以及,对目标分布式消息队列中的待处理消息进行处理,可以包括:消费服务器对从队列存储服务器集群中的对应分布式消息队列中获取的待处理消息以及目标分布式消息队列中的待处理消息,进行交替处理。
如图2所示,本实施例的方法具体包括:
步骤201、消费服务器从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并更新与分布式消息队列匹配的消息处理时间。
步骤202、消费服务器检测队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列:若是,则执行步骤203;若否,则返回执行步骤201。
步骤203、消费服务器获取其他处于在线状态的消费服务器的当前负载。
其中,消费服务器之间可以进行通讯。消费服务器的状态包括:在线状态和下线状态。处于在线状态的消费服务器可以对消息进行处理。处于下线状态的消费服务器不对消息进行处理。
可选的,当前负载为消费服务器在设定时间内的平均负载。例如,当前负载为消费服务器在1分钟内的平均负载。
步骤204、消费服务器判断消费服务器的当前负载是否是全部当前负载中最低的当前负载:若是,则执行步骤205;若否,则返回执行步骤201。
可选的,消费服务器对各消费服务器的当前负载按照从低到高的顺序进行排序。消费服务器的当前负载低,表明消费服务器的运转负荷低,系统性能良好。
如果消费服务器的当前负载处于排序结果中的第一位,则确定消费服务器的当前负载是全部当前负载中最低的当前负载。
如果消费服务器的当前负载未处于排序结果中的第一位,则确定消费服务器的当前负载不是全部当前负载中最低的当前负载,则消费服务器不接管目标分布式消息队列,继续从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并更新与分布式消息队列匹配的消息处理时间。
步骤205、消费服务器接管目标分布式消息队列,对从队列存储服务器集群中的对应分布式消息队列中获取的待处理消息以及目标分布式消息队列中的待处理消息,进行交替处理。
其中,消费服务器如果确定消费服务器的当前负载是全部当前负载中最低的当前负载,则接管目标分布式消息队列。
可选的,对从队列存储服务器集群中的对应分布式消息队列中获取的待处理消息以及目标分布式消息队列中的待处理消息,进行交替处理,可以包括:消费服务器从队列存储服务器集群中的对应分布式消息队列中获取设定数量的待处理消息进行处理,并更新与分布式消息队列匹配的消息处理时间;在完成对从队列存储服务器集群中的对应分布式消息队列中获取的待处理消息的处理后,消费服务器从目标分布式消息队列中获取设定数量的待处理消息进行处理,并更新与目标分布式消息队列匹配的消息处理时间;在完成对从目标分布式消息队列中获取设定数量的待处理消息的处理后,消费服务器返回执行从队列存储服务器集群中的对应分布式消息队列中获取设定数量的待处理消息进行处理的操作。
在一个具体实例中,消费服务器从队列存储服务器集群中的对应分布式消息队列中获取一条待处理消息进行处理,并更新与分布式消息队列匹配的消息处理时间;在完成对从队列存储服务器集群中的对应分布式消息队列中获取的一条待处理消息的处理后,消费服务器从目标分布式消息队列中获取一条待处理消息进行处理,并更新与目标分布式消息队列匹配的消息处理时间;在完成对从目标分布式消息队列中获取的一条待处理消息的处理后,消费服务器返回执行从队列存储服务器集群中的对应分布式消息队列中获取一条待处理消息进行处理的操作。由此,消费服务器对从队列存储服务器集群中的对应分布式消息队列中获取的待处理消息以及目标分布式消息队列中的待处理消息,进行交替处理。
本发明实施例提供了一种消息处理方法,通过消费服务器判断消费服务器的当前负载是否是全部当前负载中最低的当前负载,并在确定消费服务器的当前负载是全部当前负载中最低的当前负载时,接管目标分布式消息队列,然后消费服务器在接管目标分布式消息队列之后,对从队列存储服务器集群中的对应分布式消息队列中获取的待处理消息以及目标分布式消息队列中的待处理消息,进行交替处理,可以根据处于在线状态的消费服务器的当前负载,确定消费服务器是否接管目标分布式消息队列,从而保证由系统性能良好的消费服务器接管目标分布式消息队列,可以对消费服务器的对应分布式消息队列中的待处理消息以及目标分布式消息队列中的待处理消息,进行交替处理,从而防止对应分布式消息队列或者目标分布式消息队列中的待处理消息积压,提高消息处理效率。
实施例三
图3为本发明实施例三提供的一种消息处理方法的流程图。本实施例可以与上述一个或者多个实施例中各个可选方案结合,在本实施例中,在消费服务器从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理之后,可以还包括:消费服务器在监听到队列存储服务器集群的消费服务器状态表中的下线状态时,根据预设的接管规则判断是否接管与下线状态对应的分布式消息队列;消费服务器如果确定接管与下线状态对应的分布式消息队列,则对与下线状态对应的分布式消息队列中的待处理消息进行处理。
如图3所示,本实施例的方法具体包括:
步骤301、消费服务器从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理。
步骤302、消费服务器在监听到队列存储服务器集群的消费服务器状态表中的下线状态时,根据预设的接管规则判断是否接管与下线状态对应的分布式消息队列:若是,则执行步骤303;若否,则返回执行步骤301。
其中,队列存储服务器集群的消费服务器状态表中包括各消费服务器的状态。消费服务器的状态包括:在线状态和下线状态。处于在线状态的消费服务器可以对消息进行处理。处于下线状态的消费服务器不对消息进行处理。各消费服务器在正常下线前,将队列存储服务器集群的消费服务器状态表中,与消费服务器对应的在线状态更改为下线状态。
消费服务器监听到队列存储服务器集群的消费服务器状态表中的下线状态,表明有其他消费服务器下线,不能对队列存储服务器集群中的对应分布式消息队列中的待处理消息进行处理。消费服务器根据预设的接管规则判断是否接管与下线状态对应的分布式消息队列,即消费服务器根据预设的接管规则判断是否接管与下线的消费服务器对应的分布式消息队列。
在一个具体实例中,消费服务器根据预设的接管规则判断是否接管与下线状态对应的分布式消息队列,可以包括:消费服务器获取其他处于在线状态的消费服务器的当前负载。消费服务器判断消费服务器的当前负载是否是全部当前负载中最低的当前负载。消费服务器如果确定消费服务器的当前负载是全部当前负载中最低的当前负载,则接管与下线状态对应的分布式消息队列。消费服务器如果确定消费服务器的当前负载不是全部当前负载中最低的当前负载,则不接管与下线状态对应的分布式消息队列,继续从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并更新与分布式消息队列匹配的消息处理时间。
步骤303、消费服务器对与下线状态对应的分布式消息队列中的待处理消息进行处理。
可选的,对目标分布式消息队列中的待处理消息进行处理,可以包括:消费服务器对从队列存储服务器集群中的对应分布式消息队列中获取的待处理消息以及与下线状态对应的分布式消息队列中的待处理消息,进行交替处理。
可选的,还包括:消费服务器在正常下线前,将队列存储服务器集群的消费服务器状态表中,与消费服务器对应的在线状态更改为下线状态,以使其他消费服务器在监听到下线状态时,根据预设的接管规则判断是否接管与下线状态对应的分布式消息队列。
可选的,在消费服务器在正常下线前,将队列存储服务器集群的消费服务器状态表中,与消费服务器对应的在线状态更改为下线状态之后,可以还包括:消费服务器重新上线时,将队列存储服务器集群的消费服务器状态表中,与消费服务器对应的在线状态更新为在线状态;消费服务器重新获取与消费服务器对应的分布式消息队列中的待处理消息处置权,对分布式消息队列中的待处理消息进行处理。
本发明实施例提供了一种消息处理方法,通过消费服务器在监听到队列存储服务器集群的消费服务器状态表中的下线状态时,根据预设的接管规则判断是否接管与下线状态对应的分布式消息队列,在消费服务器确定接管与下线状态对应的分布式消息队列后,由消费服务器对与下线状态对应的分布式消息队列中的待处理消息进行处理,可以对各个分布式消息队列所对应的消费服务器的状态进行监控,可以及时对与下线的消费服务器对应的分布式消息队列进行接管处理,从而采用能够正常处理消息的消费服务器继续处理与下线的消费服务器对应的分布式消息队列中的待处理消息,防止与下线的消费服务器对应的分布式消息队列中的待处理消息大量积压,提高消息处理效率。
实施例四
图4为本发明实施例四提供的一种消息处理装置的结构示意图,如图4所示,所述装置包括:消息处理模块401、队列检测模块402、规则判断模块403以及消息接管模块404。
其中,消息处理模块401,用于从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并对应更新与分布式消息队列匹配的消息处理时间;队列检测模块402,用于检测队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列;规则判断模块403,用于如果检测到队列存储服务器集群中存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,则根据预设的接管规则判断是否接管目标分布式消息队列;消息接管模块404,用于如果确定接管目标分布式消息队列,则对目标分布式消息队列中的待处理消息进行处理。
本发明实施例提供了一种消息处理装置,通过消费服务器检测队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,并在检测到队列存储服务器集群中存在目标分布式消息队列时,根据预设的接管规则判断消费服务器是否接管目标分布式消息队列,在消费服务器确定接管目标分布式消息队列后,由消费服务器对目标分布式消息队列中的待处理消息进行处理,可以对各个分布式消息队列的消息处理时间进行监控,可以及时对消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列进行接管处理,从而采用能够正常处理消息的消费服务器继续处理目标分布式消息队列中的待处理消息,防止目标分布式消息队列中的待处理消息大量积压,提高消息处理效率。
在上述各实施例的基础上,规则判断模块403可以包括:负载获取单元,用于获取其他处于在线状态的消费服务器的当前负载;负载判断单元,用于判断消费服务器的当前负载是否是全部当前负载中最低的当前负载;队列接管单元,用于如果确定消费服务器的当前负载是全部当前负载中最低的当前负载,则接管目标分布式消息队列。
在上述各实施例的基础上,消息接管模块404可以包括:消息交替处理单元,用于对从队列存储服务器集群中的对应分布式消息队列中获取的待处理消息以及目标分布式消息队列中的待处理消息,进行交替处理。
在上述各实施例的基础上,可以还包括:状态监听模块,用于在监听到队列存储服务器集群的消费服务器状态表中的下线状态时,根据预设的接管规则判断是否接管与下线状态对应的分布式消息队列;状态接管模块,用于如果确定接管与下线状态对应的分布式消息队列,则对与下线状态对应的分布式消息队列中的待处理消息进行处理。
在上述各实施例的基础上,还包括:服务器下线模块,用于在正常下线前,将队列存储服务器集群的消费服务器状态表中,与消费服务器对应的在线状态更新为下线状态,以使其他消费服务器在监听到下线状态时,根据预设的接管规则判断是否接管与下线状态对应的分布式消息队列。
在上述各实施例的基础上,还包括:服务器上线模块,用于重新上线时,将队列存储服务器集群的消费服务器状态表中,与消费服务器对应的在线状态更新为在线状态;处置权获取模块,用于重新获取与消费服务器对应的分布式消息队列的待处理消息处置权,对分布式消息队列中的待处理消息进行处理。
上述消息处理装置可执行本发明任意实施例所提供的消息处理方法,具备执行消息处理方法相应的功能模块和有益效果。
实施例五
图5为本发明实施例五提供的一种消息处理系统的结构示意图。如图5所示,该系统具体包括:队列存储服务器集群501,消息分发服务器502以及至少一个消费服务器503。
其中,队列存储服务器集群501,用于存储与至少一个消费服务器503对应的分布式消息队列;消息分发服务器502,用于通过统一消息接口接收至少一条待处理消息,并根据待处理消息的消息类型,将待处理消息分发至队列存储服务器集群501中对应的分布式消息队列中;至少一个消费服务器503,用于从队列存储服务器集群501中的对应分布式消息队列中获取待处理消息进行处理,并更新与分布式消息队列匹配的消息处理时间;检测队列存储服务器集群501中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列;如果检测到队列存储服务器集群501中存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,则根据预设的接管规则判断是否接管目标分布式消息队列;如果确定接管目标分布式消息队列,则对目标分布式消息队列中的待处理消息进行处理。
消息分发服务器502通过统一消息接口接收至少一条待处理消息,并根据待处理消息的消息类型,将待处理消息分发至队列存储服务器集群501中对应的分布式消息队列中。
队列存储服务器集群501用于存储与至少一个消费服务器对应的分布式消息队列。消费服务器503是用于对待处理消息进行处理的服务器。预先建立分布式消息队列与消息类型的对应关系。同时建立分布式消息队列与消费服务器503的对应关系。每一个分布式消息队列有对应的消息类型和消费服务器503。
具体的,当一条待处理消息的消息类型与某个分布式消息队列所对应的消息类型一致时,消息分发服务器502将待处理消息分发至该分布式消息队列中。与该分布式消息队列对应的消费服务器503对该分布式消息队列中的待处理消息进行处理。
本发明实施例提供了一种消息处理系统,通过消费服务器检测队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,并在检测到队列存储服务器集群中存在目标分布式消息队列时,根据预设的接管规则判断消费服务器是否接管目标分布式消息队列,在消费服务器确定接管目标分布式消息队列后,由消费服务器对目标分布式消息队列中的待处理消息进行处理,可以对各个分布式消息队列的消息处理时间进行监控,可以及时对消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列进行接管处理,从而采用能够正常处理消息的消费服务器继续处理目标分布式消息队列中的待处理消息,防止目标分布式消息队列中的待处理消息大量积压,提高消息处理效率。
实施例六
图6为本发明实施例六提供的一种服务器的结构示意图。图6示出了适于用来实现本发明实施方式的示例性服务器12的框图。图6显示的服务器12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,服务器12以通用计算设备的形式表现。服务器12的组件可以包括但不限于:一个或者多个处理器16,存储器28,连接不同系统组件(包括存储器28和处理器16)的总线18。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
服务器12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被服务器12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
存储器28可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)30和/或高速缓存存储器32。服务器12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质(图6未显示,通常称为“硬盘驱动器”)。尽管图6中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例如存储器28中,这样的程序模块42包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
服务器12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信,还可与一个或者多个使得用户能与该服务器12交互的设备通信,和/或与使得该服务器12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且,服务器12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器20通过总线18与服务器12的其它模块通信。应当明白,尽管图6中未示出,可以结合服务器12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理器16通过运行存储在存储器28中的程序,从而执行各种功能应用以及数据处理,实现本发明实施例所提供的消息处理方法:消费服务器从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并更新与分布式消息队列匹配的消息处理时间;消费服务器检测队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列;消费服务器如果检测到队列存储服务器集群中存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,则根据预设的接管规则判断是否接管目标分布式消息队列;消费服务器如果确定接管目标分布式消息队列,则对目标分布式消息队列中的待处理消息进行处理。
实施例七
本发明实施例七提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时,实现本发明实施例所提供的消息处理方法:消费服务器从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并更新与分布式消息队列匹配的消息处理时间;消费服务器检测队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列;消费服务器如果检测到队列存储服务器集群中存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,则根据预设的接管规则判断是否接管目标分布式消息队列;消费服务器如果确定接管目标分布式消息队列,则对目标分布式消息队列中的待处理消息进行处理。
可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于——无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (9)
1.一种消息处理方法,其特征在于,包括:
消费服务器从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并更新与所述分布式消息队列匹配的消息处理时间;
所述消费服务器检测所述队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列;
所述消费服务器如果检测到所述队列存储服务器集群中存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,则根据预设的接管规则判断是否接管所述目标分布式消息队列:所述消费服务器获取其他处于在线状态的消费服务器的当前负载;所述消费服务器判断所述消费服务器的当前负载是否是全部当前负载中最低的当前负载;所述消费服务器如果确定所述消费服务器的当前负载是全部当前负载中最低的当前负载,则接管所述目标分布式消息队列;
所述消费服务器如果确定接管所述目标分布式消息队列,则对所述目标分布式消息队列中的待处理消息进行处理。
2.根据权利要求1所述的方法,其特征在于,所述对所述目标分布式消息队列中的待处理消息进行处理,包括:
所述消费服务器对从队列存储服务器集群中的对应分布式消息队列中获取的待处理消息以及所述目标分布式消息队列中的待处理消息,进行交替处理。
3.根据权利要求1所述的方法,其特征在于,在消费服务器从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理之后,还包括:
所述消费服务器在监听到所述队列存储服务器集群的消费服务器状态表中的下线状态时,根据预设的接管规则判断是否接管与所述下线状态对应的分布式消息队列;
所述消费服务器如果确定接管与所述下线状态对应的分布式消息队列,则对与所述下线状态对应的分布式消息队列中的待处理消息进行处理。
4.根据权利要求3所述的方法,其特征在于,还包括:
所述消费服务器在正常下线前,将所述队列存储服务器集群的消费服务器状态表中,与所述消费服务器对应的在线状态更新为下线状态,以使其他消费服务器在监听到所述下线状态时,根据预设的接管规则判断是否接管与所述下线状态对应的分布式消息队列。
5.根据权利要求4所述的方法,其特征在于,在所述消费服务器在正常下线前,将所述队列存储服务器集群的消费服务器状态表中,与所述消费服务器对应的在线状态更新为下线状态之后,还包括:
所述消费服务器重新上线时,将所述队列存储服务器集群的消费服务器状态表中,与所述消费服务器对应的在线状态更新为在线状态;
所述消费服务器重新获取与所述消费服务器对应的分布式消息队列的待处理消息处置权,对所述分布式消息队列中的待处理消息进行处理。
6.一种消息处理装置,其特征在于,包括:
消息处理模块,用于从队列存储服务器集群中的对应分布式消息队列中获取待处理消息进行处理,并对应更新与所述分布式消息队列匹配的消息处理时间;
队列检测模块,用于检测所述队列存储服务器集群中是否存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列;
规则判断模块,用于如果检测到所述队列存储服务器集群中存在消息处理时间与当前系统时间的差值超过设定阈值的目标分布式消息队列,则根据预设的接管规则判断是否接管所述目标分布式消息队列,包括:负载获取单元,用于获取其他处于在线状态的消费服务器的当前负载;负载判断单元,用于判断消费服务器的当前负载是否是全部当前负载中最低的当前负载;队列接管单元,用于如果确定消费服务器的当前负载是全部当前负载中最低的当前负载,则接管目标分布式消息队列;
消息接管模块,用于如果确定接管所述目标分布式消息队列,则对所述目标分布式消息队列中的待处理消息进行处理。
7.一种消息处理系统,其特征在于,包括:
队列存储服务器集群,消息分发服务器以及至少一个消费服务器;
所述队列存储服务器集群,用于存储与所述至少一个消费服务器对应的分布式消息队列;
所述消息分发服务器,用于通过统一消息接口接收至少一条待处理消息,并根据所述待处理消息的消息类型,将所述待处理消息分发至所述队列存储服务器集群中对应的分布式消息队列中;
所述至少一个消费服务器,用于执行如权利要求1-5中任一所述的消息处理方法。
8.一种服务器,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1-5中任一所述的消息处理方法。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1-5中任一所述的消息处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910629163.9A CN110351203B (zh) | 2019-07-12 | 2019-07-12 | 一种消息处理方法、装置、系统、服务器及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910629163.9A CN110351203B (zh) | 2019-07-12 | 2019-07-12 | 一种消息处理方法、装置、系统、服务器及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110351203A CN110351203A (zh) | 2019-10-18 |
CN110351203B true CN110351203B (zh) | 2020-05-12 |
Family
ID=68176030
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910629163.9A Active CN110351203B (zh) | 2019-07-12 | 2019-07-12 | 一种消息处理方法、装置、系统、服务器及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110351203B (zh) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110768873B (zh) * | 2019-10-31 | 2021-08-10 | 广州酷旅旅行社有限公司 | 分布式心跳检测方法、系统、装置和计算机设备 |
CN111179097B (zh) * | 2019-11-28 | 2023-07-28 | 泰康保险集团股份有限公司 | 保单批改的方法、装置、电子设备和存储介质 |
CN113014608B (zh) * | 2019-12-19 | 2022-07-26 | 深圳云天励飞技术有限公司 | 一种流量分发控制方法、装置、电子设备及存储介质 |
CN111240860B (zh) * | 2020-01-07 | 2023-09-08 | 广州虎牙科技有限公司 | 消息处理方法及服务系统 |
CN111427700B (zh) * | 2020-03-03 | 2023-05-05 | 云知声智能科技股份有限公司 | 一种物联网消息服务方法及服务器 |
CN113411226A (zh) * | 2020-03-16 | 2021-09-17 | 北京奇虎科技有限公司 | 路由器分布式自动化测试方法、系统、存储介质及其计算机设备 |
CN111541619B (zh) * | 2020-04-30 | 2023-05-05 | 中国人民银行清算总中心 | 企业信息联网核查系统的自适应主动负载调节方法和装置 |
CN111901352B (zh) * | 2020-07-30 | 2023-08-25 | 彩讯科技股份有限公司 | 消息分发处理的方法、装置、服务器及存储介质 |
CN114428684A (zh) * | 2020-10-29 | 2022-05-03 | 中移互联网有限公司 | 一种基于分布式的消息推送方法、装置和系统 |
CN113301009B (zh) * | 2021-02-23 | 2023-06-23 | 阿里巴巴集团控股有限公司 | 一种顺序消息的处理方法及装置 |
CN115964254B (zh) * | 2023-03-16 | 2023-06-27 | 麒麟软件有限公司 | 一种动态调整监控数据处理速度的方法、系统及介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105786909A (zh) * | 2014-12-25 | 2016-07-20 | 北京东方通科技股份有限公司 | 一种自适应消息队列积压负载的应用触发方法和系统 |
CN109343941A (zh) * | 2018-08-14 | 2019-02-15 | 阿里巴巴集团控股有限公司 | 任务处理方法、装置、电子设备及计算机可读存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170139808A1 (en) * | 2015-11-13 | 2017-05-18 | Le Holdings (Beijing) Co., Ltd. | Method and dispatcher node for server processing management |
CN108153596A (zh) * | 2017-12-15 | 2018-06-12 | 珠海金山网络游戏科技有限公司 | 一种基于无锁队列的消息处理方法和装置 |
-
2019
- 2019-07-12 CN CN201910629163.9A patent/CN110351203B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105786909A (zh) * | 2014-12-25 | 2016-07-20 | 北京东方通科技股份有限公司 | 一种自适应消息队列积压负载的应用触发方法和系统 |
CN109343941A (zh) * | 2018-08-14 | 2019-02-15 | 阿里巴巴集团控股有限公司 | 任务处理方法、装置、电子设备及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110351203A (zh) | 2019-10-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110351203B (zh) | 一种消息处理方法、装置、系统、服务器及存储介质 | |
US8424000B2 (en) | Providing application high availability in highly-available virtual machine environments | |
US8397293B2 (en) | Suspicious node detection and recovery in mapreduce computing | |
CN107729559B (zh) | 数据库读写异步访问的方法、系统、设备及存储介质 | |
CN109033814B (zh) | 智能合约触发方法、装置、设备及存储介质 | |
US9104486B2 (en) | Apparatuses, systems, and methods for distributed workload serialization | |
EP2645635B1 (en) | Cluster monitor, method for monitoring a cluster, and computer-readable recording medium | |
US10291730B1 (en) | Throttling push notifications using predictive workload modeling | |
US8903871B2 (en) | Dynamic management of log persistence | |
US9853933B2 (en) | Message queue replication with message ownership migration | |
US20140129865A1 (en) | System controller, power control method, and electronic system | |
US10599530B2 (en) | Method and apparatus for recovering in-memory data processing system | |
CN112818204B (zh) | 一种业务的处理方法、装置、设备及存储介质 | |
CN113076175B (zh) | 用于虚拟机的内存共享方法及装置 | |
US11315693B2 (en) | Method and system for managing operation associated with an object on IoT enabled devices | |
CN113886490A (zh) | 分布式数据库中无状态计算实例高可用的实现方法及系统 | |
US9361174B2 (en) | Processing main cause errors and sympathetic errors in devices in a system | |
CN110971697A (zh) | Redis单实例保护处理方法、装置、计算机设备及存储介质 | |
CN113778711B (zh) | 一种事件处理方法、装置、电子设备及存储介质 | |
CN110245026B (zh) | 信息处理方法及系统 | |
US8606973B1 (en) | Managing monitored conditions in adaptors in a multi-adaptor system | |
WO2016108945A1 (en) | Cluster arbitration | |
CN114513547A (zh) | 模块的节点调度方法、装置、电子设备及存储介质 | |
CN113127184A (zh) | 一种数据分析方法、装置、设备和介质 | |
US9875267B1 (en) | State-based message generation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CP02 | Change in the address of a patent holder | ||
CP02 | Change in the address of a patent holder |
Address after: 215000 17F, friendship time building, No. 68, Qitai Road, Suzhou Industrial Park, Suzhou area, China (Jiangsu) pilot Free Trade Zone, Suzhou, Jiangsu Patentee after: SUZHOU YIGE NETWORK TECHNOLOGY Co.,Ltd. Address before: Room 101, Building 22, No. 208, Tongyuan Road, Suzhou Industrial Park, Jiangsu Province 215006 Patentee before: SUZHOU YIGE NETWORK TECHNOLOGY Co.,Ltd. |