CN106060125A - 一种基于数据标签的分布式实时数据传输方法 - Google Patents
一种基于数据标签的分布式实时数据传输方法 Download PDFInfo
- Publication number
- CN106060125A CN106060125A CN201610347816.0A CN201610347816A CN106060125A CN 106060125 A CN106060125 A CN 106060125A CN 201610347816 A CN201610347816 A CN 201610347816A CN 106060125 A CN106060125 A CN 106060125A
- Authority
- CN
- China
- Prior art keywords
- data
- service
- request
- level
- real
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
- H04L67/63—Routing a service request depending on the request content or context
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
- H04L67/61—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources taking into account QoS or priority requirements
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明公开了一种基于数据标签的分布式实时数据传输方法:步骤1、对实时数据系统内可访问的数据点进行命名形成数据标签,命名采用如下格式来唯一地进行标识;步骤2、服务提供者将其提供的服务数据命令接口通过注册路由模块注册到系统中,系统根据注册数据的本地/全局属性选择性的同步到其它机器中;步骤3、注册路由模块收集所有数据形成一个数据表;步骤4、当系统中有数据请求时,注册路由模块通过解析分隔符,获得每一个层次的命名串,由最顶层的命名串开始,使用查表法获得每个层次的地址,最终获得目标数据的绝对地址。可以实现跨网络访问数据,效率非常高,保证了分布式系统中实时数据传输的安全稳定及有效性。
Description
技术领域
本发明涉及一种基于数据标签的分布式实时数据传输方法。
背景技术
随着计算机科学和自动化技术的迅速发展,在自动化控制的各个领域,监控系统已经从传统的小型桌面系统向现代的分布式复杂系统发展,其控制的地域范围,流程规模等都迅速增加,集各子系统功能于一身的综合监控系统逐渐成为新的发展趋势。
DPU(Distributed Processing Unit),即分散处理单元,常应用于分布式控制系统中,它既可实现离散梯形逻辑控制,也能实现连续调节控制,是完成控制逻辑、实现各种控制功能的心脏。随着分布式系统的大力发展,监控系统与DPU及各种保护设备间的实时数据通信要求越来越高,数据吞吐量也越来越大。因此,对分布式系统之间以及系统内部的数据通信提出了更高的要求,要求数据通信应当兼具实时、高效、稳定、健壮等特点。
而现有的分布式系统中,监控系统与DPU或保护设备之间的数据传输多采用通用或专用的通信协议,比如,Siemens公司系统采用是的国际标准协议ProfiNet。为增强开放性互联,多数厂家的系统都支持了Modbus/TCP等通用协议,也有很多系统采用自己开发的专用协议,协议不公开。这些通信方法路由都受到很大限制,如果是以太网通信,数据只能在同一网段的设备间进行,路由选择由交换机完成,严重制约了数据通信的实时性和高效性。
发明内容
针对上述问题,本发明提供一种基于数据标签的分布式实时数据传输方法,可以实现跨网络访问数据,效率非常高,保证了分布式系统中实时数据传输的安全稳定及有效性。
为实现上述技术目的,达到上述技术效果,本发明通过以下技术方案实现:
一种基于数据标签的分布式实时数据传输方法,其特征在于,包括如下步骤:
步骤1、对实时数据系统内可访问的数据点进行命名形成数据标签,命名采用如下格式来唯一地进行标识:
服务名称.一级成员序号.二级成员或属性序号.三级成员或属性序号.….N级成员或属性序号;
其中,服务的逻辑成员间最大可N级嵌套,“.”为分隔符;
步骤2、服务提供者将其提供的服务数据命令接口通过注册路由模块注册到系统中,系统根据注册数据的本地/全局属性选择性的同步到其它机器中;
步骤3、注册路由模块收集所有数据形成一个数据表,该数据表存储了所有可访问数据的服务、成员、属性的名字串与其对象地址之间的链接关系;
步骤4、当系统中有数据请求时,注册路由模块通过解析分隔符,获得每一个层次的命名串,由最顶层的命名串开始,使用查表法获得每个层次的地址,最终获得目标数据的绝对地址。
优选,各种通信应用程序可以位置透明地访问总线上的相关数据,具体步骤如下:
A)传输模块根据注册路由模块提供的路由信息,把通信应用程序的数据请求发送至服务提供者侧的传输模块进程;
B)服务提供者侧接收到数据请求后,服务提供者侧传输模块进程直接把解码的用户请求信息报文发送给目标数据服务的提供者,并将自动扫描相应服务对象内存以获取实时值;
C)完成数据更新后,最新的数据将沿着请求路径,原路反射回请求数据的客户端应用程序,并通过触发客户端应用程序的回调函数来获得返回的结果及状态信息。
优选,步骤4中,对于本地数据交互,各进程间调用相应的接口函数通过本地IPC机制进行数据收发。
本发明的有益效果是:
(1)数据的访问基于标签,服务成员可以一级一级的延伸下去,形成树状结构。数据标签采用命名字符串设计,服务中逻辑成员之间的嵌套关系使用多级层次来表达,每一层次使用独立命名,最终通过分隔符连接来标识具体数据。数据的访问基于标签,配合实时的路由选择,利用命名方式,可以直观的了解具体数据的意义。
(2)当系统中有数据请求时,注册路由模块通过解析分隔符,获得每一个层次的命名串,由最顶层的命名串开始,使用查表法获得每个层次的地址,最终获得目标数据的绝对地址,进而通过实时路由快速高效实现分布式系统实时数据的访问,效率非常高。
(3)保证了分布式系统中监控系统与DPU及各种监控设备快速稳定的实时数据通信,程序实现简单,功能全面,运行稳定。
附图说明
图1是本发明服务层级嵌套的示意图;
图2是本发明模块之间的运行原理关系图;
图3是本发明路由机制的流程图。
具体实施方式
下面结合附图和具体的实施例对本发明技术方案作进一步的详细描述,以使本领域的技术人员可以更好的理解本发明并能予以实施,但所举实施例不作为对本发明的限定。
一种基于数据标签的分布式实时数据传输方法,包括如下步骤:
步骤1、对实时数据系统内可访问的数据点进行命名形成数据标签,命名采用如下格式来唯一地进行标识:
服务名称.一级成员序号.二级成员或属性序号.三级成员或属性序号.….N级成员或属性序号;
其中,服务的逻辑成员间最大可N级嵌套,“.”为分隔符。
在实时数据系统中,最基本服务提供者被称为服务,每个服务还可以包含多个逻辑成员,成员仅是一个具体服务中所包含的能被用户所访问的一个名字,即一个逻辑上的概念。一个成员既可以是一个数据也可以是一个命令,其具体意义由服务对象进行定义,这些逻辑成员还可以嵌套包含子成员(按照面向对象的方法可以理解成对象包含子对象),一级一级的延伸下去,形成树状结构,理论上成员间可以无限嵌套,实际应用中为了数据访问的效率规定成员间最大可10级嵌套。每个成员可包含若干的数据,我们称之为属性。服务层级嵌套如图1所示,其中,每个服务可以包括若干个一级成员但不可以包括属性,只有成员才可能包括属性,比如,一级成员可以包括多个二级成员和多个属性,而每个二级成员又可以一级一级的延伸下去,而属性却没有下一级。
数据标签采用命名字符串设计,服务中逻辑成员之间的嵌套关系使用多级层次来表达,每一层次使用独立命名,最终通过分隔符“.”连接来标识具体数据。利用命名方式,可以直观的了解具体数据的意义,比如,以图1为例:
服务.一级成员1.二级成员1.二级成员1属性1;
表示该服务下的一级成员1下面带有二级成员1,二级成员1有属性1可供应用程序访问。
步骤2、服务提供者将其提供的服务数据命令接口通过注册路由模块注册到系统中,系统根据注册数据的本地/全局属性选择性的同步到其它机器中。
如图2所示,分布式实时数据传输方法其运行依赖于2个模块:注册路由模块和传输模块,其中注册路由模块通过网络通信收集所有数据,进行数据名字注册,形成一个数据表,并为其它应用程序提供数据的查询和路由功能。服务提供者将其提供的服务数据命令接口通过注册路由模块注册到系统中,系统根据注册数据的本地/全局属性选择性的同步到其它机器中,以便客户端或(数据访问者)对其他数据服务提供者发布的各种服务数据成员执行读、写及数据订阅等操作,实时地访问系统中的数据。注册路由模块为系统中的所有数据访问者提供服务名字注册、查询及路由功能。
步骤3、注册路由模块收集所有数据形成一个数据表,该数据表存储了所有可访问数据的服务、成员、属性的名字串与其对象地址之间的链接关系;
步骤4、当系统中有数据请求时,注册路由模块通过解析分隔符,获得每一个层次的命名串,由最顶层的命名串开始,使用查表法获得每个层次的地址,最终获得目标数据的绝对地址,然后由通信模块发出数据请求到对应的地址去查询数据,可以快速实现网络数据访问,效率非常高。
各种通信应用程序可以位置透明地访问总线上的相关数据进而实现数据耦合下的信息交互,具体步骤如下:
A)传输模块根据注册路由模块提供的路由信息,把通信应用程序的数据请求发送至服务提供者侧的传输模块进程;
B)服务提供者侧接收到数据请求后,服务提供者侧传输模块进程直接把解码的用户请求信息报文发送给目标数据服务的提供者,并将自动扫描相应服务对象内存以获取实时值;
C)完成数据更新后,最新的数据将沿着请求路径,原路反射回请求数据的客户端应用程序,并通过触发客户端应用程序的回调函数来获得返回的结果及状态信息。
而对于本地数据交互则可以绕过传输模块环节,各进程间调用相应的接口函数通过本地IPC机制进行数据收发,从而具有相较于网络通信连接更好的实时性能。
数据质量(Quality)属性是服务于路由模块的一个重要实时属性,其取值是相应服务有效性(Availability)的一种直接的度量。Quality数值较大(如取典型值80)表示该服务工作状况正常,而Quality数值较小(如取典型值40)则表示相应的服务工作发生异常。
如图3所示,当系统中出现同名服务的多个实例时,路由能够自动将用户请求发送至Quality数值最高的服务提供者,即当系统中出现同名的数据服务时,则将请求路由给具有最高质量属性的服务提供者,该机制可直接被用来实现诸如动态负载均衡、主备切换、多机冗余等可靠性保障机制。而如果冗余的数据服务彼此的质量属性一致,则将请求路由给位于本地的服务提供者。而如果冗余的数据服务均位于本机,则将请求路由给最新创建的服务提供者。
上述三级规则的应用,可以充分保证网络中冗余的数据服务在每个时刻仅有一个实例保持活跃,并对整网的客户提供唯一的服务。
本发明的有益效果是:
(1)数据的访问基于标签,服务成员可以一级一级的延伸下去,形成树状结构。数据标签采用命名字符串设计,服务中逻辑成员之间的嵌套关系使用多级层次来表达,每一层次使用独立命名,最终通过分隔符连接来标识具体数据。数据的访问基于标签,配合实时的路由选择,利用命名方式,可以直观的了解具体数据的意义。
(2)当系统中有数据请求时,注册路由模块通过解析分隔符,获得每一个层次的命名串,由最顶层的命名串开始,使用查表法获得每个层次的地址,最终获得目标数据的绝对地址,进而通过实时路由快速高效实现分布式系统实时数据的访问,如果采用在每一级对象上使用哈希表来索引下一级子对象的话,则单个层次的时间复杂度为O(1),给定常数个对象层次时,时间复杂度仍旧为O(1),寻址的效率很高。
(3)保证了分布式系统中监控系统与DPU及各种监控设备快速稳定的实时数据通信,程序实现简单,功能全面,运行稳定。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或者等效流程变换,或者直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (6)
1.一种基于数据标签的分布式实时数据传输方法,其特征在于,包括如下步骤:
步骤1、对实时数据系统内可访问的数据点进行命名形成数据标签,命名采用如下格式来唯一地进行标识:
服务名称.一级成员序号.二级成员或属性序号.三级成员或属性序号.….N级成员或属性序号;
其中,服务的逻辑成员间最大可N级嵌套,“.”为分隔符;
步骤2、服务提供者将其提供的服务数据命令接口通过注册路由模块注册到系统中,系统根据注册数据的本地/全局属性选择性的同步到其它机器中;
步骤3、注册路由模块收集所有数据形成一个数据表,其中数据表存储了所有可访问数据的服务、成员、属性的名字串与其对象地址之间的链接关系;
步骤4、当系统中有数据请求时,注册路由模块通过解析分隔符,获得每一个层次的命名串,由最顶层的命名串开始,使用查表法获得每个层次的地址,最终获得目标数据的绝对地址。
2.根据权利要求1所述的一种基于数据标签的分布式实时数据传输方法,其特征在于,各种通信应用程序可以位置透明地访问总线上的相关数据,具体步骤如下:
A)传输模块根据注册路由模块提供的路由信息,把通信应用程序的数据请求发送至服务提供者侧的传输模块进程;
B)服务提供者侧接收到数据请求后,服务提供者侧传输模块进程直接把解码的用户请求信息报文发送给目标数据服务的提供者,并将自动扫描相应服务对象内存以获取实时值;
C)完成数据更新后,最新的数据将沿着请求路径,原路反射回请求数据的客户端应用程序,并通过触发客户端应用程序的回调函数来获得返回的结果及状态信息。
3.根据权利要求1所述的一种基于数据标签的分布式实时数据传输方法,其特征在于,步骤4中,对于本地数据交互,各进程间调用相应的接口函数通过本地IPC机制进行数据收发。
4.根据权利要求1所述的一种基于数据标签的分布式实时数据传输方法,其特征在于,当系统中出现同名的数据服务时,则将请求路由给具有最高质量属性的服务提供者。
5.根据权利要求5所述的一种基于数据标签的分布式实时数据传输方法,其特征在于,如果冗余的数据服务彼此的质量属性一致,则将请求路由给位于本地的服务提供者。
6.根据权利要求6所述的一种基于数据标签的分布式实时数据传输方法,其特征在于,如果冗余的数据服务均位于本机,则将请求路由给最新创建的服务提供者。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610347816.0A CN106060125A (zh) | 2016-05-24 | 2016-05-24 | 一种基于数据标签的分布式实时数据传输方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610347816.0A CN106060125A (zh) | 2016-05-24 | 2016-05-24 | 一种基于数据标签的分布式实时数据传输方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106060125A true CN106060125A (zh) | 2016-10-26 |
Family
ID=57175796
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610347816.0A Pending CN106060125A (zh) | 2016-05-24 | 2016-05-24 | 一种基于数据标签的分布式实时数据传输方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106060125A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107515770A (zh) * | 2017-08-30 | 2017-12-26 | 郑州云海信息技术有限公司 | 一种新的回调函数处理方法 |
CN109240848A (zh) * | 2018-07-27 | 2019-01-18 | 阿里巴巴集团控股有限公司 | 一种数据对象标识生成方法及装置 |
CN109842637A (zh) * | 2017-11-24 | 2019-06-04 | 武汉斗鱼网络科技有限公司 | 一种分布式服务注册方法及装置 |
CN111414262A (zh) * | 2020-03-19 | 2020-07-14 | 刘奇峰 | 一种服务调用方法及装置 |
CN113315707A (zh) * | 2021-05-26 | 2021-08-27 | 西安热工研究院有限公司 | 一种多站点级联模式数据传输中间件标签路由的方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101588283A (zh) * | 2009-04-22 | 2009-11-25 | 北京四方继保自动化股份有限公司 | 基于多智能体技术的广域分布式集成软总线实现方法 |
CN102214228A (zh) * | 2011-06-24 | 2011-10-12 | 国电南瑞科技股份有限公司 | 大电网分布式实时数据库系统及其数据管理方法 |
CN105354251A (zh) * | 2015-10-19 | 2016-02-24 | 国家电网公司 | 电力系统中基于Hadoop的电力云数据管理索引方法 |
US9305084B1 (en) * | 2012-08-30 | 2016-04-05 | deviantArt, Inc. | Tag selection, clustering, and recommendation for content hosting services |
-
2016
- 2016-05-24 CN CN201610347816.0A patent/CN106060125A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101588283A (zh) * | 2009-04-22 | 2009-11-25 | 北京四方继保自动化股份有限公司 | 基于多智能体技术的广域分布式集成软总线实现方法 |
CN102214228A (zh) * | 2011-06-24 | 2011-10-12 | 国电南瑞科技股份有限公司 | 大电网分布式实时数据库系统及其数据管理方法 |
US9305084B1 (en) * | 2012-08-30 | 2016-04-05 | deviantArt, Inc. | Tag selection, clustering, and recommendation for content hosting services |
CN105354251A (zh) * | 2015-10-19 | 2016-02-24 | 国家电网公司 | 电力系统中基于Hadoop的电力云数据管理索引方法 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107515770A (zh) * | 2017-08-30 | 2017-12-26 | 郑州云海信息技术有限公司 | 一种新的回调函数处理方法 |
CN109842637A (zh) * | 2017-11-24 | 2019-06-04 | 武汉斗鱼网络科技有限公司 | 一种分布式服务注册方法及装置 |
CN109240848A (zh) * | 2018-07-27 | 2019-01-18 | 阿里巴巴集团控股有限公司 | 一种数据对象标识生成方法及装置 |
CN111414262A (zh) * | 2020-03-19 | 2020-07-14 | 刘奇峰 | 一种服务调用方法及装置 |
CN111414262B (zh) * | 2020-03-19 | 2024-03-22 | 刘奇峰 | 一种服务调用方法及装置 |
CN113315707A (zh) * | 2021-05-26 | 2021-08-27 | 西安热工研究院有限公司 | 一种多站点级联模式数据传输中间件标签路由的方法 |
CN113315707B (zh) * | 2021-05-26 | 2022-11-18 | 西安热工研究院有限公司 | 一种多站点级联模式数据传输中间件标签路由的方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106060125A (zh) | 一种基于数据标签的分布式实时数据传输方法 | |
CN109788055B (zh) | 一种基于微服务架构的服务治理系统及其方法 | |
CN101729412B (zh) | 地理信息服务的分布式层次集群方法和系统 | |
CN102880475B (zh) | 计算机软件系统中基于云计算的实时事件处理系统及方法 | |
CN109150572B (zh) | 实现告警关联的方法、装置以及计算机可读存储介质 | |
CN106850759A (zh) | MySQL数据库集群处理方法及其处理系统 | |
CN112015544A (zh) | 一种k8s集群的负载均衡方法、装置、设备及存储介质 | |
CN106301829A (zh) | 一种网络业务扩容的方法和装置 | |
CN105939365A (zh) | 主控板用户态从业务板内核态获取数据的方法及装置 | |
WO2004004283A1 (en) | Opc server redirection manager | |
CN105721214B (zh) | 供ikvm服务器使用的智慧型网络管理平台 | |
WO2020001409A1 (zh) | 一种虚拟网络功能vnf部署方法及装置 | |
CN104811476A (zh) | 一种面向应用服务的高可用部署实现方法 | |
CN104144215A (zh) | 一种物联网泛在设备资源模型的构建方法 | |
CN101860564A (zh) | 基于协议的服务组合系统和方法 | |
CN110995545B (zh) | 云网络配置测试方法及装置 | |
CN101877002A (zh) | 基于统一接口的内存数据库分布式访问方法及系统 | |
CN114301972A (zh) | 一种基于云边协同的区块链节点分级部署方法和系统 | |
CN106796537A (zh) | 计算集群中的分布式组件 | |
CN108021431A (zh) | 基于Web数据交互管理Hive的方法及其系统 | |
CN101771724A (zh) | 异构分布式信息集成方法、装置及系统 | |
CN103731287A (zh) | 一种故障接管服务器选择方法 | |
CN103731289A (zh) | 一种网络服务器自动扩展的方法 | |
van Langevelde et al. | Founding FireWire bridges through Promela prototyping | |
CN108089968A (zh) | 一种宿主机监控虚拟机数据库状态的方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information |
Address after: 210032 Jiangsu province Nanjing city Pukou high tech Zone Huidalu No. 9 Applicant after: Nanjing Guodian Nanzi 710086 Automation Co. Ltd. Address before: 210032 Jiangsu province Nanjing city Pukou high tech Zone Huidalu No. 9 Applicant before: Nanjing Guodian Nanzi Meizhuo Control System Co.,Ltd. |
|
CB02 | Change of applicant information | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20161026 |
|
RJ01 | Rejection of invention patent application after publication |