CN103618671A - 大规模数据采集业务多组分发系统及其分发方法 - Google Patents

大规模数据采集业务多组分发系统及其分发方法 Download PDF

Info

Publication number
CN103618671A
CN103618671A CN201310584347.0A CN201310584347A CN103618671A CN 103618671 A CN103618671 A CN 103618671A CN 201310584347 A CN201310584347 A CN 201310584347A CN 103618671 A CN103618671 A CN 103618671A
Authority
CN
China
Prior art keywords
message
processor
communication front
administrative unit
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201310584347.0A
Other languages
English (en)
Other versions
CN103618671B (zh
Inventor
陈建
李熊
裘炜浩
王志强
洪建光
裴旭斌
沈志豪
肖政
陈清泰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ZHEJIANG CREAWAY AUTOMATION ENGINEERING Co Ltd
State Grid Corp of China SGCC
Information and Telecommunication Branch of State Grid Zhejiang Electric Power Co Ltd
Original Assignee
ZHEJIANG CREAWAY AUTOMATION ENGINEERING Co Ltd
State Grid Corp of China SGCC
Information and Telecommunication Branch of State Grid Zhejiang Electric Power Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ZHEJIANG CREAWAY AUTOMATION ENGINEERING Co Ltd, State Grid Corp of China SGCC, Information and Telecommunication Branch of State Grid Zhejiang Electric Power Co Ltd filed Critical ZHEJIANG CREAWAY AUTOMATION ENGINEERING Co Ltd
Priority to CN201310584347.0A priority Critical patent/CN103618671B/zh
Publication of CN103618671A publication Critical patent/CN103618671A/zh
Application granted granted Critical
Publication of CN103618671B publication Critical patent/CN103618671B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

大规模数据采集业务多组分发系统及其分发方法,涉及报文的分发系统。目前,大型业务信息系统的数据访问技术架构无法向云数据服务平稳过渡。本发明包括包含多个网关的网关集群、包含多个通讯前置机的通讯前置机集群、包含多个业务处理器的业务处理器集群,通讯前置机与网关相连,业务处理器与通讯前置机相连,所述的通讯前置机用于调度和保存上下行报文;业务处理器集群分为多个业务处理器组,通讯前置机设有数量与业务处理器组相对应的管理单元,管理单元之间相互独立,每一管理单元均包括缓存模块、报文分发调度模块和链路管理模块。本技术方案实现数据多组分发和多目标入库,提高分发效率。

Description

大规模数据采集业务多组分发系统及其分发方法
技术领域
本发明涉及报文的分发系统。
背景技术
目前,百万级终端规模远程数据采集业务在通信、电力等行业已广泛开展,设计的各类通信系统数据分发技术能满足当前需要,但随着终端规模的急剧增长和业务需求的不断变化,现有数据分发技术已无法进行有效应对,技术瓶颈逐渐凸现。大规模数据采集业务除采用高可靠性通信系统硬件设备外,设计最优的通信调度策略和数据分发机制是保障数据采集业务快速、高效、稳定开展的前提。随着信息系统云数据服务技术的发展,给大型信息业务系统的数据访问方式提供了新思路,大型业务信息系统当前的数据访问技术架构无法向云数据服务平稳过渡,直接采用一种未经充分验证的数据服务技术存在极大的应用风险。因此,急需一种通信调度策略和数据分发机制在保障现有系统的稳定、正常运行的同时,实现云数据服务的探索和验证。
发明内容
本发明要解决的技术问题和提出的技术任务是对现有技术方案进行完善与改进,提供大规模数据采集业务多组分发系统及其工作方法,以达到数据多组分发和多目标入库目的。为此,本发明采取以下技术方案。
大规模数据采集业务多组分发系统,其特征在于:包括包含多个网关的网关集群、包含多个通讯前置机的通讯前置机集群、包含多个业务处理器的业务处理器集群,通讯前置机与网关相连,业务处理器与通讯前置机相连,所述的通讯前置机用于调度和保存上下行报文;业务处理器集群分为多个业务处理器组,通讯前置机设有数量与业务处理器组相对应的管理单元,管理单元之间相互独立,每一管理单元均包括缓存模块、报文分发调度模块和链路管理模块;链路管理模块管理对应业务处理器组的链路,当链路发生变化时链路管理模块更新链路数据库;缓存模块中存放通讯前置机接收的上行报文;报文分发调度模块从位于同一管理单元中的缓存模块中获取报文并通过位于同一管理单元中的链路管理模块获取链路后发送报文,各管理单元独立管理报文的分发和本地文件的缓存。
作为对上述技术方案的进一步完善和补充,本发明还包括以下附加技术特征。
每组业务处理器组指向独立的数据库,通过扩展业务处理器组,将报文数据分发至各类异构独立数据库。
大规模数据采集业务多组分发系统的分发方法包括以下步骤:
1)通讯前置机接收上行报文;
2)通讯前置机将接收上行报文分别放入对应的管理单元的缓存模块中;
3)报文分发调度模块从位于同一管理单元的缓存模块获取上行;
4)报文分发调度模块根据报文终端逻辑地址所在的单位代码通过同一管理单元的链路管理模块获取对应的业务处理器编码、业务处理器链路并发送报文;
5)若报文发送成功,结束;否则返回至步骤2)。
有益效果:本技术方案将业务处理器集群进行分组,通信前置机对多组业务处理器进行报文并行分发,各业务处理器组再将数据分发给各自的数据库,进而实现数据多组分发和多目标入库,提高分发效率。多组分发将一个报文分发到多个数据库,在不影响现有系统的稳定运行下,实现对异构数据库的探索和验证,或者是多个异构数据库的应用。
附图说明
图1是本发明前置机逻辑架构图。
图2是本发明前置机多组分发架构图。
图3是本发明流程图。
具体实施方式
以下结合说明书附图对本发明的技术方案做进一步的详细说明。
如图1、2所示,大规模数据采集业务多组分发系统包括包含多个网关的网关集群、包含多个通讯前置机的通讯前置机集群、包含多个业务处理器的业务处理器集群,通讯前置机与网关相连,业务处理器与通讯前置机相连,所述的通讯前置机用于调度和保存上下行报文;业务处理器集群分为多个业务处理器组,通讯前置机设有数量与业务处理器组相对应的管理单元,管理单元之间相互独立,每一管理单元均包括缓存模块、报文分发调度模块和链路管理模块;链路管理模块管理对应业务处理器组的链路,当链路发生变化时链路管理模块更新链路数据库;缓存模块中存放通讯前置机接收的上行报文;报文分发调度模块从位于同一管理单元中的缓存模块中获取报文并通过位于同一管理单元中的链路管理模块获取链路后发送报文,各管理单元独立管理报文的分发和本地文件的缓存。每组业务处理器组指向独立的数据库,通过扩展业务处理器组,将报文数据分发至各类异构独立数据库。
如图3所示,大规模数据采集业务多组分发系统的分发方法,包括以下步骤:
1)通讯前置机接收上行报文;
2)通讯前置机将接收上行报文分别放入对应的管理单元的缓存模块中;
3)报文分发调度模块从位于同一管理单元的缓存模块获取上行;
4)报文分发调度模块根据报文终端逻辑地址所在的单位代码通过同一管理单元的链路管理模块获取对应的业务处理器编码、业务处理器链路并发送报文;
5)若报文发送成功,结束;否则返回至步骤2)。
以下以设定两组业务处理器组为例,进行具体说明:如图3所示,
业务处理器BP连接通信前置机FE,业务处理器注册编号设定为4位数值,如bp0101表征该业务处理器BF为第1组编号为1的业务处理器;通信前置机FE管理业务处理器BP客户端的链路相应分成2组或多组,用各自的链路管理模块管理业务处理器BP链路,动态刷新各自数据库里的业务处理器BP管理单位代码列表。通信前置机FE的上行报文存放缓存队列配置2个,上行报文分开存放,各自管理分发和本地文件缓存,互不影响;每组业务处理器组指向独立的数据库,通过扩展业务处理器组,将报文数据分发至各类异构独立数据库。
以上图1-3所示的大规模数据采集业务多组分发系统及其分发方法是本发明的具体实施例,已经体现出本发明实质性特点和进步,可根据实际的使用需要,在本发明的启示下,对其进行形状、结构等方面的等同修改,均在本方案的保护范围之列。

Claims (3)

1.大规模数据采集业务多组分发系统,其特征在于:包括包含多个网关的网关集群、包含多个通讯前置机的通讯前置机集群、包含多个业务处理器的业务处理器集群,通讯前置机与网关相连,业务处理器与通讯前置机相连,所述的通讯前置机用于调度和保存上下行报文;业务处理器集群分为多个业务处理器组,通讯前置机设有数量与业务处理器组相对应的管理单元,管理单元之间相互独立,每一管理单元均包括缓存模块、报文分发调度模块和链路管理模块;链路管理模块管理对应业务处理器组的链路,当链路发生变化时链路管理模块更新链路数据库;缓存模块中存放通讯前置机接收的上行报文;报文分发调度模块从位于同一管理单元中的缓存模块中获取报文并通过位于同一管理单元中的链路管理模块获取链路后发送报文,各管理单元独立管理报文的分发和本地文件的缓存。
2.根据权利要求1所述的大规模数据采集业务多组分发系统,其特征在于:每组业务处理器组指向独立的数据库,通过扩展业务处理器组,将报文数据分发至各类异构独立数据库。
3.采用权利要求1所述的大规模数据采集业务多组分发系统的分发方法,其特征在于包括以下步骤:
1)通讯前置机接收上行报文;
2)通讯前置机将接收上行报文分别放入对应的管理单元的缓存模块中;
3)报文分发调度模块从位于同一管理单元的缓存模块获取上行;
4)报文分发调度模块根据报文终端逻辑地址所在的单位代码通过同一管理单元的链路管理模块获取对应的业务处理器编码、业务处理器链路并发送报文;
5)若报文发送成功,结束;否则返回至步骤2)。
CN201310584347.0A 2013-11-20 2013-11-20 大规模数据采集业务多组分发系统及其分发方法 Active CN103618671B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310584347.0A CN103618671B (zh) 2013-11-20 2013-11-20 大规模数据采集业务多组分发系统及其分发方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310584347.0A CN103618671B (zh) 2013-11-20 2013-11-20 大规模数据采集业务多组分发系统及其分发方法

Publications (2)

Publication Number Publication Date
CN103618671A true CN103618671A (zh) 2014-03-05
CN103618671B CN103618671B (zh) 2018-05-22

Family

ID=50169375

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310584347.0A Active CN103618671B (zh) 2013-11-20 2013-11-20 大规模数据采集业务多组分发系统及其分发方法

Country Status (1)

Country Link
CN (1) CN103618671B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105071994A (zh) * 2015-08-27 2015-11-18 许继集团有限公司 一种海量数据监控系统
CN108011915A (zh) * 2017-07-05 2018-05-08 国网浙江省电力公司 一种基于云通讯的采集前置系统
CN109150702A (zh) * 2018-08-16 2019-01-04 南京南瑞信息通信科技有限公司 一种连通信息内外网的高性能移动接入网关及其方法
CN116599830A (zh) * 2023-07-19 2023-08-15 同方泰德软件(北京)有限公司 通信节点和链路的配置方法、装置、存储介质和电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5822273A (en) * 1994-05-26 1998-10-13 Institut Francais Du Petrole Seismic acquisition and transmission system with functions decentralization
CN101014181A (zh) * 2007-02-16 2007-08-08 中兴通讯股份有限公司 数据配置及采集系统和方法
CN101715171A (zh) * 2009-11-04 2010-05-26 中兴通讯股份有限公司 综合业务管理平台ismp集群接入装置及方法
CN103246497A (zh) * 2013-04-19 2013-08-14 国家电网公司 一种基于数据划分的实时数据并行处理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5822273A (en) * 1994-05-26 1998-10-13 Institut Francais Du Petrole Seismic acquisition and transmission system with functions decentralization
CN101014181A (zh) * 2007-02-16 2007-08-08 中兴通讯股份有限公司 数据配置及采集系统和方法
CN101715171A (zh) * 2009-11-04 2010-05-26 中兴通讯股份有限公司 综合业务管理平台ismp集群接入装置及方法
CN103246497A (zh) * 2013-04-19 2013-08-14 国家电网公司 一种基于数据划分的实时数据并行处理方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
王中原等: "超大规模用电信息采集系统主站通信架构设计", 《电力系统通信》 *
董瑞明: "浙江省现场管理系统移动通信网络统一接入平台管理及技术创新", 《电气时空》 *
蒋鸿城等: "大型电能信息采集与管理系统主站核心技术设计", 《浙江电力营销专辑》 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105071994A (zh) * 2015-08-27 2015-11-18 许继集团有限公司 一种海量数据监控系统
CN105071994B (zh) * 2015-08-27 2018-08-03 许继集团有限公司 一种海量数据监控系统
CN108011915A (zh) * 2017-07-05 2018-05-08 国网浙江省电力公司 一种基于云通讯的采集前置系统
CN108011915B (zh) * 2017-07-05 2019-11-29 国网浙江省电力公司 一种基于云通讯的采集前置系统
CN109150702A (zh) * 2018-08-16 2019-01-04 南京南瑞信息通信科技有限公司 一种连通信息内外网的高性能移动接入网关及其方法
CN109150702B (zh) * 2018-08-16 2021-02-05 南京南瑞信息通信科技有限公司 一种连通信息内外网的高性能移动接入网关及其方法
CN116599830A (zh) * 2023-07-19 2023-08-15 同方泰德软件(北京)有限公司 通信节点和链路的配置方法、装置、存储介质和电子设备
CN116599830B (zh) * 2023-07-19 2023-10-10 同方泰德软件(北京)有限公司 通信节点和链路的配置方法、装置、存储介质和电子设备

Also Published As

Publication number Publication date
CN103618671B (zh) 2018-05-22

Similar Documents

Publication Publication Date Title
CN110022226B (zh) 一种基于面向对象的数据采集系统及采集方法
CN104731799B (zh) 内存数据库管理装置
CN108183869B (zh) 一种基于分布式消息队列的电量数据采集系统
CN102446139B (zh) 一种数据存储方法及装置
CN103095806B (zh) 一种面向大电网的实时数据库系统的负载均衡管理系统
CN104239144A (zh) 一种多级分布式任务处理系统
CN103618671A (zh) 大规模数据采集业务多组分发系统及其分发方法
CN104735095A (zh) 一种云计算平台作业调度方法及装置
CN104317742A (zh) 一种优化空间管理的自动精简配置方法
CN103491190A (zh) 一种面向大规模实时并发的充电机监控数据处理方法
CN107404674A (zh) 一种用电信息采集终端采集任务优先级调度控制方法
CN109739919A (zh) 一种用于电力系统的前置机和采集系统
CN103067297A (zh) 一种基于资源消耗预测的动态负载均衡方法及装置
CN105516317B (zh) 一种用电信息多层级负载均摊高效采集方法
CN104536965A (zh) 一种大数据条件下的数据查询展示系统及方法
CN103530335B (zh) 电力计量采集系统的入库操作方法及装置
CN107506145A (zh) 一种物理存储调度方法及云主机创建方法
CN103543959B (zh) 海量数据高速缓存的方法及装置
CN106713512B (zh) 动态平衡物联网网络带宽的高效数据传输方法及系统
CN103106242A (zh) 一种话单查询方法及查询系统
CN203574674U (zh) 大规模数据采集业务多组分发系统
CN107864097B (zh) 一种用电数据分发方法及系统
CN109508354A (zh) 一种并行处理系统
CN115866059A (zh) 一种区块链节点调度方法和装置
CN102025546B (zh) 一种网络设备性能文件的生成、传输、读取方法及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
EXSB Decision made by sipo to initiate substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: 100031 West Chang'an Avenue, Xicheng District, Xicheng District, Beijing

Applicant after: State Grid Corporation of China

Applicant after: Information communication branch office of Guo Wang Zhejiang Electric Power Company

Applicant after: Zhejiang Huayun Information Technology Co., Ltd.

Address before: 100031 West Chang'an Avenue, Xicheng District, Xicheng District, Beijing

Applicant before: State Grid Corporation of China

Applicant before: Information communication branch office of Guo Wang Zhejiang Electric Power Company

Applicant before: Zhejiang Creaway Automation Engineering Co., Ltd.

CB02 Change of applicant information
GR01 Patent grant
GR01 Patent grant