CN103118138B - 一种基于云服务的消息队列流处理方法 - Google Patents
一种基于云服务的消息队列流处理方法 Download PDFInfo
- Publication number
- CN103118138B CN103118138B CN201310068132.3A CN201310068132A CN103118138B CN 103118138 B CN103118138 B CN 103118138B CN 201310068132 A CN201310068132 A CN 201310068132A CN 103118138 B CN103118138 B CN 103118138B
- Authority
- CN
- China
- Prior art keywords
- subsystem
- message
- service
- version
- queue
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Information Transfer Between Computers (AREA)
Abstract
本发明涉及一种基于云服务的消息队列流处理方法,主要包括:建立八个子系统结构,即门户子系统,终端接入子系统,内部版服务子系统,专业版服务子系统,大众版服务子系统,服务管理子系统,系统管理子系统,综合服务数据库子系统;建立消息队列构架作为系统核心。本发明有益效果为:可使基于消息队列的云推送作为一种服务,为最终用户开发平台或服务;具有一个开放的协议,定义用户和内容模型,它允许第三方编写双方可互操作的联邦服务器的实施和用户客户端;能够实现实时推送通知直接传递给大家,无论移动、台式机或媒体设备、可实现随时随地跨设备的推送,为开发商降低了成本和复杂性,同时为最终用户提供更大的便利和增值功能。
Description
技术领域
本发明涉及信息安全技术领域,尤其涉及一种基于云服务的消息队列流处理方法。
背景技术
云服务带来的一个重大变革是从以设备为中心转向以信息为中心,设备包括应用程序,而信息及人们在信息中的投资则是必须要长期保留。越来越多的人们在其工作和生活中,依靠信息推送的方式来获取信息,这些信息通过推送的方式实时的传递到用户的手机或台式机,因此就会出现一个问题:用户通常会在不同的设备收到不同的信息,或者在不同的设备收到相同的信息;有没有办法把这些推送信息都聚集在一个地方则是个问题。同时,推送应用程序开发也日趋复杂,由于移动设备的范围日益扩大,开发人员必须编写和维护不同版本的同一推送软件大集的Android智能手机、iPhone、iPad和现在的Windows手机,以及其它智能手机及平板电脑设备。因此,针对以上方面,本发明对现有技术进行创新。
发明内容
针对以上缺陷,本发明提供一种基于云服务的消息队列流处理方法,通过该方法满足最终用户和安全从业人员、安全厂商所面临的挑战,使通知更轻松地访问、组织和存储,而且对于开发人员也降低了成本和复杂性,开发人员可以创建一个单一的,无处不在的通知服务,将通知传递到所有类型的设备,如手机、平板电脑、台式机、笔记本电脑和智能电视。
为实现上述目的,本发明采用以下技术方案:
一种基于云服务的消息队列流处理方法,主要包括以下步骤:
(1)建立八个子系统结构,即作为内部版、专业版、大众版Web门户统一入口的门户子系统,作为内部版、专业版、大众版平板或智能手机终端子系统的终端接入子系统,作为综合服务平台面向中心领导、中心员工、管理员的子系统的内部版服务子系统,作为综合服务平台面向8+2行业、政府机构、企业用户子系统的专业版服务子系统,作为综合服务平台面向社会大众、信息安全人才和机构的大众版服务子系统,负责面向三大类用户子系统的服务管理的服务管理子系统,负责综合服务平台整个系统管理的系统管理子系统,用于存储综合服务平台的推送数据、用户数据、服务数据的综合服务数据库子系统;其中的服务管理子系统与系统管理子系统与综合服务数据库子系统连接,内部版服务子系统、专业版服务子系统、大众版服务子系统分别与终端接入子系统连接;
(2)建立消息队列构架作为系统核心,其组件包括消息生产者、消息消费者、消息队列服务,其中的消息生产者包括信息安全专业网站,安全专业人员、安全合作厂商也可通过开发API调用、普通用户通过网页、智能终端发布安全信息方式成为生产者;其中的消息消费者实现多种消息消费者,包括门户网站、SNS、平板电脑、智能手机,消费者具有注册、订阅、自动接收推送信息功能;其中的消息队列服务提供基础消息队列服务,实现消息推送、订阅、过滤功能;
(3)消息队列采用推模式,即客户端发送一条消息,消息队列服务器先把消息存入待发布队列,消息队列后台服务处理待发布消息队列,每条消息从待发布队列中取出,存储该消息内容本身,消息队列服务往所有关注者的队列中注册一条该消息指针,所有关注者客户端实时获得该推送消息。
本发明所述的基于云服务的消息队列流处理方法的有益效果为:
(1)消息队列云服务平台可使基于消息队列的云推送作为一种服务,为最终用户开发平台或服务;
(2)具有一个开放的协议,定义用户和内容模型,它允许第三方编写双方可互操作的联邦服务器的实施和用户客户端;
(3)能够实现实时推送通知直接传递给大家,无论移动、台式机或媒体设备、可实现随时随地跨设备的推送,这一创新解决方案为开发商降低了成本和复杂性,同时为最终用户提供更大的便利和增值功能。
附图说明
下面根据附图对本发明作进一步详细说明。
图1是本发明实施例所述基于云服务的消息队列总体平台框架示意图;
图2是本发明实施例所述基于云服务的消息队列的推送流程示意图;
图3是本发明实施例所述基于云服务的消息队列流处理方法的具体实施逻辑示意图。
具体实施方式
如图1-3所示,本发明实施例所述的基于云服务的消息队列流处理方法,主要包括以下步骤:
(1)建立八个子系统结构,即作为内部版、专业版、大众版Web门户统一入口的门户子系统,作为内部版、专业版、大众版平板或智能手机终端子系统的终端接入子系统,作为综合服务平台面向中心领导、中心员工、管理员的子系统的内部版服务子系统,作为综合服务平台面向8+2行业、政府机构、企业用户子系统的专业版服务子系统,作为综合服务平台面向社会大众、信息安全人才和机构的大众版服务子系统,负责面向三大类用户子系统的服务管理(主要有服务订阅、服务推送、信息发布、邮件推送等功能)的服务管理子系统,负责综合服务平台整个系统管理(主要有权限、用户管理、访问日志、审计等功能)的系统管理子系统,用于存储综合服务平台的推送数据、用户数据、服务数据等海量数据的综合服务数据库子系统;其中的服务管理子系统与系统管理子系统与综合服务数据库子系统连接,内部版服务子系统、专业版服务子系统、大众版服务子系统分别与终端接入子系统连接;
(2)建立消息队列构架作为系统核心,其组件包括消息生产者、消息消费者、消息队列服务,其中的消息生产者包括信息安全专业网站,安全专业人员、安全合作厂商也可以通过开发API调用、普通用户通过网页、智能终端发布安全信息等方式成为生产者;其中的消息消费者实现了多种消息消费者,包括门户网站、SNS、平板电脑、智能手机等,消费者具有注册、订阅、自动接收推送信息等功能;其中的消息队列服务提供基础消息队列服务,实现消息推送、订阅、过滤等功能;
系统整体技术构架:
1)客户端发送消息请求;
2)RedisMaster存储该消息;
3)Redis数据库存储的同时,记录事务日志;
4)事务日志解析,作为消息的生产者,提供RabbitMQMaster;
5)消息队列RabbitMQMaster复制到多个RabbitSlave;
6)消息队列RabbitMQ的Consummer有MySQL、Memorycached、Redis;
7)MySQL提供各种综合查询;
8)MemoryCached提供终端各种快速缓存;
9)Redis提供实时推送功能;
(3)消息发布流程:消息队列采用推模式,即客户端发送一条消息,消息队列服务器先把消息存入待发布队列,消息队列后台服务处理待发布消息队列,每条消息从待发布队列中取出,存储该消息内容本身,消息队列服务往所有关注者的队列中注册一条该消息指针,所有关注者客户端实时获得该推送消息。
消息推送流程:本推送流程实现了多台设备-共享的管理:认识到这项新服务的用户有多个设备:台式机、手机、平板电脑,允许用户在所有他们的设备共享和管理他们的通知。
面向普通用户
·实时的网络-一个粘性的做法:使得它可以为最终用户接收,实时,所有的信息,数据,内容,更新和提醒他们真正想要的,只要它是在网络上。
·基于服务的通知-一个易于使用的环境:通知系统最终用户的使用是非常简单的,订阅到一个新的内容或服务提供商的通知很简单,在网站上点击一个链接。
·侵扰程度较低的通知-一个统一的收件箱:通知服务提供了一个独特的中央收件箱应用程序在一个安全的中央存储库,收集和储存的所有通知。
·多台设备-共享的管理:认识到这项新服务的用户有多个设备:台式机,手机,平板电脑甚至是一个全新的网络连接的电视机。允许用户在所有他们的设备共享和管理他们的通知。
·中央调度员-一个有组织的和语境:使用本系统,用户可以分组通知时间,地域和来源等,这使得更容易找到和组织信息的一个合乎逻辑的方式。
·保持记录-保存消息和搜索选项:大多数的消息可以提供稍后阅读功能,搜索选项也可以保存供以后使用。
面向安全开发人员
·开发一次,到处推送-一个面向Web的通知系统,开发者再也不用为每一个可能的用户设备开发不同的服务器端和客户端软件。相反,他们现在可以实现一个统一策略推送来通知。
·目标用户,而不是一个设备-最终用户关注的焦点:在设计上,现有的推送通知系统目标的应用程序特定的设备或平台。现在,这些系统能够满足最终用户无论在什么样的设备,他们有多少设备。因此,企业可以专注于为客户提供最佳的用户体验。
·公共或私人数据-信道的使用:建立一个基于″云服务″的通知系统并不意味着的用户接受公众的内容是有限的。开发人员可以创建通知系统,提供特定的最终用户的信息,比如一组人共享相同的兴趣,或者一个团队的员工。
·集成到现有的系统-一个简单的开发部署的推送通知服务需要几分钟的时间。开发人员只需添加新的链接和一个非常简单的代码插入到网站或Web应用程序。
面向信息安全内容提供商和信息安全企业
本平台是一个真正的创新的解决方案,这将有利于更多的实时通知系统的发展和加速的推送服务的最终用户。
该解决方案是:
·开放:通过提供消息队列″云服务″作为一个开放的技术和共享,旨在进一步与信息安全厂商发展的一个标准的″推送″生态系统。
·完全联合:允许双向通信,实现真正的互操作性在不同的通知平台。
·云消息作为一种服务:提供云计算作为一种服务。
以上本发明实施例所述的基于云服务的消息队列流处理方法,消息队列开放API实现如下功能:
建立MQS连接
SQSsqs=newSQSClient(newBasicMQSCredentials(MQS_KEY,MQS_SECRET));
在MQSAPI中,对createQueue的调用,不一定每次创建一个新队列。如果队列已经存在,返回其句柄。在SQS中,队列仅仅是URLs;因此,队列处理也只是一个URL。注意在MQSSDKAPI中,QueueURL是一个String类型,而不是JavaURL类型。
创建一个队列
Stringurl=sqs.createQueue(newCreateQueueRequest(″a_queue″)).getQueueUrl();
有了队列之后,可以向其写入一条消息。
通过SQS发送消息
sqs.sendMessage(newSendMessageRequest(url,″BrowserCRM多个SQL注入漏洞″));
通过SQS检索消息
将消息放到SQS上的一个saveLocation方法
publicstaticvoidsaveLocation(Stringid,JsonObjectbody)throwsException{
Stringeventname=body.getAsJsonPrimitive(″name″).getAsString();
doublelatitude=body.getAsJsonPrimitive(″latitude″).getAsDouble();
doublelongitude=body.getAsJsonPrimitive(″longitude″).getAsDouble();
Stringwhen=body.getAsJsonPrimitive(″timestamp″).getAsString();
SimpleDateFormatformatter=
newSimpleDateFormat(″dd-MM-yyyyHH:mm″);
Datedt=formatter.parse(when);
ObjectIdoid=newLocation(id,dt,latitude,longitude).save();
SQSsqs=newSQSClient(newBasicMQSCredentials(MQS_KEY,MQS_SECRET));
Mapmp=newHashMap<String,String>();
mp.put(″id″,oid.toString());
Stringurl=sqs.createQueue(newCreateQueueRequest(″locations_queue″)).getQueueUrl();
sqs.sendMessage(newSendMessageRequest(url,newGson().toJson(mp)));
renderJSON(getSuccessMessage());
}
以上实施例是本发明较优选具体实施方式的一种,本领域技术人员在本技术方案范围内进行的通常变化和替换应包含在本发明的保护范围内。
Claims (1)
1.一种基于云服务的消息队列流处理方法,其特征在于,主要包括以下步骤:
(1)建立八个子系统结构,即作为内部版、专业版、大众版Web门户统一入口的门户子系统,作为内部版、专业版、大众版平板或智能手机终端子系统的终端接入子系统,作为综合服务平台面向中心领导、中心员工、管理员的子系统的内部版服务子系统,作为综合服务平台面向8+2行业、政府机构、企业用户子系统的专业版服务子系统,作为综合服务平台面向社会大众、信息安全人才和机构的大众版服务子系统,负责面向三大类用户子系统的服务管理的服务管理子系统,负责综合服务平台整个系统管理的系统管理子系统,用于存储综合服务平台的推送数据、用户数据、服务数据的综合服务数据库子系统;其中的服务管理子系统与系统管理子系统与综合服务数据库子系统连接,内部版服务子系统、专业版服务子系统、大众版服务子系统分别与终端接入子系统连接;
(2)建立消息队列构架作为系统核心,其组件包括消息生产者、消息消费者、消息队列服务,其中的消息生产者包括信息安全专业网站,安全专业人员、安全合作厂商也可通过开发API调用、普通用户通过网页、智能终端发布安全信息方式成为生产者;其中的消息消费者实现多种消息消费者,包括门户网站、SNS、平板电脑、智能手机,消费者具有注册、订阅、自动接收推送信息功能;其中的消息队列服务提供基础消息队列服务,实现消息推送、订阅、过滤功能;
(3)消息队列采用推模式,即客户端发送一条消息,消息队列服务器先把消息存入待发布队列,消息队列后台服务处理待发布消息队列,每条消息从待发布队列中取出,存储该消息内容本身,消息队列服务往所有关注者的队列中注册一条该消息指针,所有关注者客户端实时获得该推送消息。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310068132.3A CN103118138B (zh) | 2013-03-04 | 2013-03-04 | 一种基于云服务的消息队列流处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310068132.3A CN103118138B (zh) | 2013-03-04 | 2013-03-04 | 一种基于云服务的消息队列流处理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103118138A CN103118138A (zh) | 2013-05-22 |
CN103118138B true CN103118138B (zh) | 2016-02-10 |
Family
ID=48416408
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310068132.3A Active CN103118138B (zh) | 2013-03-04 | 2013-03-04 | 一种基于云服务的消息队列流处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103118138B (zh) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104426871A (zh) * | 2013-08-29 | 2015-03-18 | 中兴通讯股份有限公司 | 一种远程调用的方法和装置 |
US9363254B2 (en) * | 2014-06-04 | 2016-06-07 | Sonos, Inc. | Cloud queue access control |
CN105677494A (zh) * | 2016-02-01 | 2016-06-15 | 北京京东尚科信息技术有限公司 | 一种消息分发的方法和装置 |
CN106844068A (zh) * | 2017-02-15 | 2017-06-13 | 厦门科立安信息技术有限公司 | 一种智慧停车场管理通用模块对接方法及管理系统 |
CN108347374B (zh) * | 2018-01-22 | 2021-06-29 | 广州欧赛斯信息科技有限公司 | 一种阻止非法消息的消息推送方法及装置 |
CN110134523A (zh) * | 2018-12-24 | 2019-08-16 | 安徽省鼎众金融信息咨询服务有限公司 | 一种以消息系统为核心的系统架构 |
CN109889520A (zh) * | 2019-02-19 | 2019-06-14 | 安徽智融景和科技有限公司 | 公共服务一体化共享平台系统 |
CN110008267B (zh) * | 2019-03-12 | 2022-06-14 | 北京国电智深控制技术有限公司 | 一种数据处理的系统及方法 |
CN109918441A (zh) * | 2019-04-03 | 2019-06-21 | 颜沿(上海)智能科技有限公司 | 一种终端信息处理展示方法及系统 |
US20210096861A1 (en) * | 2019-10-01 | 2021-04-01 | Higon Austin R&D Center | System and method to prefetch pointer based structures |
CN112714092B (zh) * | 2019-10-24 | 2022-03-18 | 珠海格力电器股份有限公司 | 一种注册登录方法、设备和计算机可读存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101064619A (zh) * | 2007-05-25 | 2007-10-31 | 上海众恒信息产业有限公司 | 一种具有主题分发功能的资源管理平台及其方法 |
CN102035881A (zh) * | 2010-11-19 | 2011-04-27 | 清华大学 | 一种云端存储系统的数据缓存方法 |
CN102137032A (zh) * | 2011-03-24 | 2011-07-27 | 上海云高软件科技有限公司 | 一种云消息系统及云消息发送和接收方法 |
CN102368212A (zh) * | 2010-09-14 | 2012-03-07 | 微软公司 | 消息队列管理 |
CN102508857A (zh) * | 2011-09-29 | 2012-06-20 | 暨南大学 | 一种基于事件关联的桌面云搜索方法 |
CN102652410A (zh) * | 2009-12-12 | 2012-08-29 | 微软公司 | 云计算监视和管理系统 |
CN102904961A (zh) * | 2012-10-22 | 2013-01-30 | 浪潮(北京)电子信息产业有限公司 | 一种云计算资源调度方法及系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9191236B2 (en) * | 2010-05-20 | 2015-11-17 | International Business Machines Corporation | Message broadcasting in a clustered computing environment |
-
2013
- 2013-03-04 CN CN201310068132.3A patent/CN103118138B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101064619A (zh) * | 2007-05-25 | 2007-10-31 | 上海众恒信息产业有限公司 | 一种具有主题分发功能的资源管理平台及其方法 |
CN102652410A (zh) * | 2009-12-12 | 2012-08-29 | 微软公司 | 云计算监视和管理系统 |
CN102368212A (zh) * | 2010-09-14 | 2012-03-07 | 微软公司 | 消息队列管理 |
CN102035881A (zh) * | 2010-11-19 | 2011-04-27 | 清华大学 | 一种云端存储系统的数据缓存方法 |
CN102137032A (zh) * | 2011-03-24 | 2011-07-27 | 上海云高软件科技有限公司 | 一种云消息系统及云消息发送和接收方法 |
CN102508857A (zh) * | 2011-09-29 | 2012-06-20 | 暨南大学 | 一种基于事件关联的桌面云搜索方法 |
CN102904961A (zh) * | 2012-10-22 | 2013-01-30 | 浪潮(北京)电子信息产业有限公司 | 一种云计算资源调度方法及系统 |
Non-Patent Citations (1)
Title |
---|
综合网管系统中消息队列技术的研究与设计;周丹 等;《计算机应用》;20041230;第24卷;正文第348页至第356页 * |
Also Published As
Publication number | Publication date |
---|---|
CN103118138A (zh) | 2013-05-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103118138B (zh) | 一种基于云服务的消息队列流处理方法 | |
US9491104B2 (en) | System and method for storing/caching, searching for, and accessing data | |
US8453159B2 (en) | Workspace system and method for monitoring information events | |
US20200159742A1 (en) | Maintaining data lineage to detect data events | |
CN106874778B (zh) | 基于Android系统的智能终端文件获取以及数据恢复系统及方法 | |
US11645412B2 (en) | Computer-based methods and systems for building and managing privacy graph databases | |
US20200389402A1 (en) | Augmenting functionality in distributed systems with payload headers | |
US8788533B2 (en) | Read access logging | |
CN103458384A (zh) | 一种企业短信息发送系统及方法 | |
CN110321359A (zh) | 一种基于cmsp的空间数据增量更新方法 | |
US9054969B2 (en) | System and method for situation-aware IP-based communication interception and intelligence extraction | |
CN102385617A (zh) | 动态域查询及查询转换 | |
US20170142213A1 (en) | Compact data structures for push notifications | |
Bellini et al. | Managing complexity of data models and performance in broker-based Internet/Web of Things architectures | |
US11720548B1 (en) | Shadow data lakes | |
US8538907B2 (en) | Autonomous intelligent content items | |
Le-Khac et al. | A practical hands-on approach to database forensics | |
CN109660449A (zh) | 一种自动获取社交类应用多媒体的系统及其方法 | |
CN105894180A (zh) | 印章管理方法及系统 | |
CN102708208A (zh) | 一种收藏微博的方法和微博收藏服务系统 | |
Li | Guardian Angel Project | |
Suleykin et al. | Harnessing the Complexity of Mobile Network Data with Smart Monitoring | |
CN206039645U (zh) | 一种警务信息支撑平台 | |
Wang et al. | Grain Logistics Management Information System Based on Short Message Service Technology | |
KR20130126229A (ko) | M2M 응용의 SaaS모델 지원을 위한 M2M 플랫폼에서의 멀티 태넌시 지원 방안 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |