CN113051087A - 一种消息队列桥接增强的方法 - Google Patents
一种消息队列桥接增强的方法 Download PDFInfo
- Publication number
- CN113051087A CN113051087A CN202110287454.1A CN202110287454A CN113051087A CN 113051087 A CN113051087 A CN 113051087A CN 202110287454 A CN202110287454 A CN 202110287454A CN 113051087 A CN113051087 A CN 113051087A
- Authority
- CN
- China
- Prior art keywords
- message
- messages
- priority
- list
- enhancement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Transfer Between Computers (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种消息队列桥接增强的方法,包括如下步骤:设备的排序:定义设备得分和优先级得分,并分别作为任务设备列表和优先级设备列表的排序依据;消息的排序:定义消息得分,作为消息列表的排序依据;消息的过滤:根据新消息对具有相同消息属性的堆积消息进行覆盖并更新;消息的清理:根据删除指令清除消息队列中满足条件的消息;消息的送达:接收来自设备的确认字符,确认消息送达。本发明提供了设备得分与优先级得分的计算方法,并作为排序依据,提高消息发送的精准度;利用消息属性和删除指令对消息进行过滤和清理,减少大量重复无用的消息,提高用户体验、减少宽带浪费;利用设备的确认字符,保证消息的送达。
Description
技术领域
本发明涉及计算机技术领域,特别涉及一种消息队列桥接增强的方法。
背景技术
在物联网中,当我们给设备发送消息,消息首先会经过消息队列(如:RabbitMQ),通过桥接,将消息转发至另一个消息队列(如:EMQ),进而投递给设备(如图1所示)。在现有的物联网环境下,由于延迟发送、网络环境差、设备断网、设备本身消费消息慢、消息队列的特性等原因,会存在消息堆积的情况,而随着时间的推移,将出现:1、优先级高的设备可能是最后才收到消息;2、产生大量无用的信息;3、信息丢失。这些都导致了消息传送的精准度不够。
发明内容
为解决上述问题,本发明提供了一种消息队列桥接增强的方法,以提高消息传送的精准度。
本发明采用以下技术方案:
一种消息队列桥接增强的方法,包括如下步骤:
设备的排序:定义设备得分和优先级得分,并分别作为任务设备列表和优先级设备列表的排序依据;
消息的排序:定义消息得分,作为消息列表的排序依据;
消息的过滤:根据新消息对具有相同消息属性的堆积消息进行覆盖并更新;
消息的清理:根据删除指令清除消息队列中满足条件的消息;
消息的送达:接收来自设备的确认字符,确认消息送达。
进一步地,所述任务设备列表为云端存有待发送消息的设备列表,所述优先级设备列表是从所述任务设备列表同步得到,同步长度即为支持同时发送的设备的限制数。
进一步地,所述设备得分score的影响因子包括设备角色S1、待发送消息数S2、消息优先级总S3和和历史成功率suc,所述设备得分score的计算为:score=(S1+S2+S3)×suc。
进一步地,所述优先级得分即为设备从所述任务设备列表同步到所述优先级设备列表时的同步时间,若消息发送给设备且设备应答,则将优先级得分更新为应答时间。
进一步地,所述设备角色S1为固定值,所述设备角色S1的计算为:S1=(n1÷n2)×50%,其中,n1为当前设备的设备角色的分值,n2为设备角色的最大分值,50%为所述设备角色的权重。
进一步地,所述待发送消息数S2的计算为:S2=(m÷M)×15%,其中,m为当前设备堆积的消息数,M为所有堆积消息总数,15%为所述待发送消息数的权重。
进一步地,所述消息优先级总和S3的计算为:S3=(p÷P)×35%,其中,p为当前设备所有消息的优先级总和,P为所有堆积消息的优先级总和,35%为所述消息优先级总和的权重。
进一步地,所述历史成功率suc的计算为:suc=f÷F,其中,f为成功次数,F为请求总数,且F>5。
进一步地,所述消息属性由设备地址、业务类型和业务ID组成。
进一步地,所述消息的清理具体为:接收删除指令并立即缓存到分布式缓存中间件中,
对于已入库的消息,若满足删除条件则删除消息;
对于未入库的消息,若消息投递时间小于删除指令发送时间且满足删除条件,则消息废弃,否则消息入库;若消息投递时间大于删除指令发送时间,则将删除指令从分布式缓存中间件中移除,且消息入库;
所述删除条件即为消息的消息属性相同。
采用上述技术方案后,本发明与背景技术相比,具有如下优点:
1、本发明定义了设备得分与优先级得分及其计算方法,并分别作为任务设备列表和优先级设备列表的排序依据,实现设备的优先级排序,提高消息发送的精准度;
2、根据消息属性(设备地址、业务类型和业务ID)确定消息的唯一,实现堆积消息的覆盖和更新,减少大量重复无用的消息;并利用删除指令动态地对进行消息的清理,避免平台数据残留,提高用户的体验的同时也减少了宽带浪费,更避免设备信息错误故障、状态不同步等一系列的问题;
3、通过接收设备的确认字符,以确定消息的成功消费,保证消息的送达。
附图说明
图1为现有技术的消息发送方案示意图;
图2为本发明的优先级设备列表同步的示意图;
图3为本发明消息过滤的原理示意图;
图4为本发明消息清理的原理示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
实施例
本实施例采用的系统环境如下表1:
表1本实施例的系统运行环境
一种消息队列桥接增强的方法,包括设备的排序、消息的过滤、消息的清理以及消息的送达。
1、设备的排序:定义设备得分和优先级得分,并分别作为任务设备列表和优先级设备列表的排序依据;
所述任务设备列表为云端存有待发送消息的设备列表,所述优先级设备列表是从所述任务设备列表同步得到,同步长度即为支持同时发送的设备的限制数。
所述设备得分score的影响因子包括设备角色S1、待发送消息数S2、消息优先级总S3和和历史成功率suc,所述设备得分score的计算为:score=(S1+S2+S3)×suc。
所述设备角色S1为固定值,这里的设备角色是设备在市场所担任的角色,所述设备角色S1的计算为:S1=(n1÷n2)×50%,其中,n1为当前设备的设备角色的分值,n2为设备角色的最大分值,50%为所述设备角色的权重。
所述待发送消息数S2的计算为:S2=(m÷M)×15%,其中,m为当前设备堆积的消息数,M为所有堆积消息总数,15%为所述待发送消息数的权重。当前设备堆积的消息越多,得分就越高。
所述消息优先级总和S3的计算为:S3=(p÷P)×35%,其中,p为当前设备所有消息的优先级总和,P为所有堆积消息的优先级总和,35%为所述消息优先级总和的权重。当前设备所有消息的优先级总和越高,得分越高。
所述历史成功率suc的计算为:suc=f÷F,其中,f为成功次数,F为请求总数,且F>5。
以上,所述设备得分是根据设备画像定义的,随着设备的继续运行,设备的画像会更加稳定和完整。
所述优先级得分即为设备从所述任务设备列表同步到所述优先级设备列表时的同步时间,若消息发送给设备且设备应答,则将优先级得分更新为应答时间。
如图2所示,本实施例同步时还以区间[now-timeout,now]作为滑动窗口,同步的长度即作为设备限制数,若当前设备数少于所述设备限制数,则动态从所述任务设备列表同步到所述优先级设备列表。这里的设备限制数是根据系统的性能得出的,是维护到配置中心中,以此达到支持热部署,动态调整同时支持的设备数。当有消息发送给设备,设备应答上来,还会更新优先级设备列表的得分为应答时间。通过优先级设备列表进行对同时支持发送的设备数进行限制,达到分批发送的目的。
2、消息的排序:定义消息得分,作为消息列表的排序依据;
对于每个设备的消息列表内的消息,则根据业务重要性自定义等级,按照重要程度从高到低可分为1-12等级,1级表示最高级别,消息得分即消息对应的等级,如此,消息列表内的消息即可按等级从高到低降序排列。
综上,本实施例通过计算设备得分和优先级得分,并分别作为任务设备列表和优先级设备列表的排序依据,还通过消息得分对消息列表内的消息进行排序,通过按分值进行降序排序,从而实现即使在堆积大量消息的情况下,也能做到对高优先级的设备,发送高优先级的消息。
3、消息的过滤:根据新消息对具有相同消息属性的堆积消息进行覆盖并更新;所述消息属性由设备地址(dest)、业务类型(bizType)、和业务ID(bizId)组成。
在业务上,比如卡凭证下发的例子,我们关注的是最新的一条消息,若将旧数据也下发下去;比如,当请求没有应答,用户基于使用习惯会一直请求,导致更多消息堆积;这样不仅造成带宽上的浪费,还会给用户带来不好的体验。如图3所示,本实施例的桥接增强接收从RabbitMQ投递的消息后,根据设备地址、业务类型和业务ID对数据库中已存在的相同消息进行删除过滤,实现对数据库中具有相同消息属性的堆积消息进行覆盖和更新,然后新消息入库,后续根据排序顺序,当设备在线则发送消息。
4、消息的清理:根据删除指令清除消息队列中满足条件的消息;
目前市面上的消息队列框架,并不能满足根据删除指令,对消息队列中满足条件的消息进行删除,由于没有去重策略,会产生大量的重复无用的消息。比如设备解绑,则云端需要将这台设备的消息进行清除,避免平台数据残留。本实施例的桥接增强根据设备地址、业务类型和业务ID三个消息属性来确定消息的唯一属性,然后删除满足条件的消息。具体过程如下:
如图4所示,删除指令提供者发送删除指令给桥接增强,删除指令中包含了消息属性(dest、bizType、bizId)和删除指令发送时间(sendTime),桥接增强接收删除指令并立即缓存到分布式缓存中间件redis中。当消息中间件RabbitMQ向桥接增强投递消息时,桥接增强从redis中获取删除指令列表,并对数据库中(如Mysql)满足条件的消息进行删除。考虑到高并发下,系统cpu、内存、io、宽带的瓶颈,会出现延迟从RabbitMQ消费消息,所以对于已入库的消息,若满足删除条件则删除消息;对于未入库的消息,若消息投递时间小于删除指令发送时间(sendTime)且满足删除条件,则消息废弃,否则消息入库;若消息投递时间大于删除指令发送时间(sendTime),则说明该删除值已经无用,即删除指令无效,则将删除指令从分布式缓存中间件中移除,且消息入库。所述删除条件即为消息的消息属性相同。
5、消息的送达:接收来自设备的确认字符,以确定消息的成功消费,确认消息送达。
本实施例涉及的消息队列可以是市面上任意的消息队列框架,比如:ActiveMQ、RocketMQ、kafka等,消息入库所使用的数据库,可以是市面上的关系型或非关系型的数据库的任意一种。
以上所述,仅为本发明较佳的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应该以权利要求的保护范围为准。
Claims (10)
1.一种消息队列桥接增强的方法,其特征在于:包括如下步骤:
设备的排序:定义设备得分和优先级得分,并分别作为任务设备列表和优先级设备列表的排序依据;
消息的排序:定义消息得分,作为消息列表的排序依据;
消息的过滤:根据新消息对具有相同消息属性的堆积消息进行覆盖并更新;
消息的清理:根据删除指令清除消息队列中满足条件的消息;
消息的送达:接收来自设备的确认字符,确认消息送达。
2.如权利要求1所述的一种消息队列桥接增强的方法,其特征在于:所述任务设备列表为云端存有待发送消息的设备列表,所述优先级设备列表是从所述任务设备列表同步得到,同步长度即为支持同时发送的设备的限制数。
3.如权利要求1所述的一种消息队列桥接增强的方法,其特征在于:所述设备得分score的影响因子包括设备角色S1、待发送消息数S2、消息优先级总S3和和历史成功率suc,所述设备得分score的计算为:score=(S1+S2+S3)×suc。
4.如权利要求2所述的一种消息队列桥接增强的方法,其特征在于:所述优先级得分即为设备从所述任务设备列表同步到所述优先级设备列表时的同步时间,若消息发送给设备且设备应答,则将优先级得分更新为应答时间。
5.如权利要求3所述的一种消息队列桥接增强的方法,其特征在于:所述设备角色S1为固定值,所述设备角色S1的计算为:S1=(n1÷n2)×50%,其中,n1为当前设备的设备角色的分值,n2为设备角色的最大分值,50%为所述设备角色的权重。
6.如权利要求5所述的一种消息队列桥接增强的方法,其特征在于:所述待发送消息数S2的计算为:S2=(m÷M)×15%,其中,m为当前设备堆积的消息数,M为所有堆积消息总数,15%为所述待发送消息数的权重。
7.如权利要求6所述的一种消息队列桥接增强的方法,其特征在于:所述消息优先级总和S3的计算为:S3=(p÷P)×35%,其中,p为当前设备所有消息的优先级总和,P为所有堆积消息的优先级总和,35%为所述消息优先级总和的权重。
8.如权利要求7所述的一种消息队列桥接增强的方法,其特征在于:所述历史成功率suc的计算为:suc=f÷F,其中,f为成功次数,F为请求总数,且F>5。
9.如权利要求1所述的一种消息队列桥接增强的方法,其特征在于:所述消息属性由设备地址、业务类型和业务ID组成。
10.如权利要求9所述的一种消息队列桥接增强的方法,其特征在于:所述消息的清理具体为:接收删除指令并立即缓存到分布式缓存中间件中,
对于已入库的消息,若满足删除条件则删除消息;
对于未入库的消息,若消息投递时间小于删除指令发送时间且满足删除条件,则消息废弃,否则消息入库;若消息投递时间大于删除指令发送时间,则将删除指令从分布式缓存中间件中移除,且消息入库;
所述删除条件即为消息的消息属性相同。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110287454.1A CN113051087B (zh) | 2021-03-17 | 2021-03-17 | 一种消息队列桥接增强的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110287454.1A CN113051087B (zh) | 2021-03-17 | 2021-03-17 | 一种消息队列桥接增强的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113051087A true CN113051087A (zh) | 2021-06-29 |
CN113051087B CN113051087B (zh) | 2023-10-03 |
Family
ID=76513227
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110287454.1A Active CN113051087B (zh) | 2021-03-17 | 2021-03-17 | 一种消息队列桥接增强的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113051087B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002354000A (ja) * | 2001-05-25 | 2002-12-06 | Mitsubishi Electric Corp | ブリッジ装置 |
CN105187327A (zh) * | 2015-08-14 | 2015-12-23 | 广东能龙教育股份有限公司 | 一种分布式消息队列中间件 |
CN106354573A (zh) * | 2016-08-29 | 2017-01-25 | 汉柏科技有限公司 | 一种基于优先级队列的进程间通信方法及装置 |
CN109241414A (zh) * | 2018-08-20 | 2019-01-18 | 中国平安人寿保险股份有限公司 | 基于消息模板的系统消息推送方法及终端设备 |
-
2021
- 2021-03-17 CN CN202110287454.1A patent/CN113051087B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002354000A (ja) * | 2001-05-25 | 2002-12-06 | Mitsubishi Electric Corp | ブリッジ装置 |
CN105187327A (zh) * | 2015-08-14 | 2015-12-23 | 广东能龙教育股份有限公司 | 一种分布式消息队列中间件 |
CN106354573A (zh) * | 2016-08-29 | 2017-01-25 | 汉柏科技有限公司 | 一种基于优先级队列的进程间通信方法及装置 |
CN109241414A (zh) * | 2018-08-20 | 2019-01-18 | 中国平安人寿保险股份有限公司 | 基于消息模板的系统消息推送方法及终端设备 |
Also Published As
Publication number | Publication date |
---|---|
CN113051087B (zh) | 2023-10-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN100481838C (zh) | 移动计算环境中保持事务处理高速缓存一致性的系统和方法 | |
US8713098B1 (en) | Method and system for migrating object update messages through synchronous data propagation | |
JP3885483B2 (ja) | サービス実行方法および装置 | |
CN107231395A (zh) | 数据存储方法、装置和系统 | |
CN100469016C (zh) | 一种实现网络通讯录数据同步的方法 | |
CN109947668A (zh) | 存储数据的方法和装置 | |
CN101887398B (zh) | 一种动态提高服务器输入输出吞吐量的方法和系统 | |
Kappe | A scalable architecture for maintaining referential integrity in distributed information systems | |
US20140258375A1 (en) | System and method for large object cache management in a network | |
JP2011118771A (ja) | 情報処理装置、情報処理方法、データ管理サーバおよびデータ同期システム | |
JP2010525740A (ja) | ワイヤレス・データ・サービス内において電子メール・メッセージをキャッシュする装置および方法 | |
CN103338252A (zh) | 一种分布式数据库并发存储虚拟请求机制 | |
CN110727738B (zh) | 基于数据分片的全局路由系统、电子设备及存储介质 | |
CN110222073B (zh) | 一种数据查询的方法以及相关装置 | |
CN105302830A (zh) | 一种地图瓦片缓存方法及装置 | |
CN107786668B (zh) | 一种基于cdn网络的权重缓存网站方法 | |
CN109614555A (zh) | 生成排行榜的方法和装置 | |
JP2012510094A (ja) | 常にレディ状態のクライアント/サーバ同期 | |
CN113760509A (zh) | 一种超时管理方法、装置及电子设备 | |
JP2001290787A (ja) | データ配信方法及びデータ配信プログラムを格納した記憶媒体 | |
CN108319634A (zh) | 分布式文件系统的目录访问方法和装置 | |
CN102480502A (zh) | 一种i/o负载均衡方法及i/o服务器 | |
US20040024837A1 (en) | Document shadowing intranet server, memory medium and method | |
CN113094392A (zh) | 数据缓存的方法和装置 | |
CN113051087A (zh) | 一种消息队列桥接增强的方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |