CN111241101A - 一种分布式水利rtu数据采集系统及方法 - Google Patents

一种分布式水利rtu数据采集系统及方法 Download PDF

Info

Publication number
CN111241101A
CN111241101A CN202010023292.6A CN202010023292A CN111241101A CN 111241101 A CN111241101 A CN 111241101A CN 202010023292 A CN202010023292 A CN 202010023292A CN 111241101 A CN111241101 A CN 111241101A
Authority
CN
China
Prior art keywords
rtu
module
message
database
picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010023292.6A
Other languages
English (en)
Inventor
向其星
陈俞安
李超文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SHENZHEN DONGSHEN ELECTRONIC CO LTD
Original Assignee
SHENZHEN DONGSHEN ELECTRONIC CO LTD
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SHENZHEN DONGSHEN ELECTRONIC CO LTD filed Critical SHENZHEN DONGSHEN ELECTRONIC CO LTD
Priority to CN202010023292.6A priority Critical patent/CN111241101A/zh
Publication of CN111241101A publication Critical patent/CN111241101A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22Indexing; Data structures therefor; Storage structures
    • G06F16/2228Indexing structures
    • G06F16/2255Hash tables
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25Integrating or interfacing systems involving database management systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28Databases characterised by their database models, e.g. relational or object models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28Databases characterised by their database models, e.g. relational or object models
    • G06F16/284Relational databases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/51Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/465Distributed object oriented systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • G06F9/546Message passing systems or structures, e.g. queues
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • G06F9/547Remote procedure calls [RPC]; Web services
    • G06F9/548Object oriented; Remote method invocation [RMI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/54Indexing scheme relating to G06F9/54
    • G06F2209/547Messaging middleware

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开一种分布式水利RTU数据采集系统及方法,包括RTU报文发送模块、Netty接收模块、第一MQ消息发布模块、第一数据库模块、订阅接收模块、图片报文判断模块、图片数据包判断模块、Redis模块、Redis读取模块、组装生成模块和第二数据库模块;该分布式水利RTU数据采集系统采用分布式架构,基于被广泛使用的Java网络编程框架Netty,配合高性能的Redis数据库以及NOSQL数据库MongoDB、高吞吐的消息队列Kafka。通过在接收报文、解析报文、存储报文明文的各个环节,合理利用各种高性能框架或技术,使得在高并发情况下保证采集数据的时效性、完整性。

Description

一种分布式水利RTU数据采集系统及方法
技术领域
本发明涉及一种分布式水利RTU数据采集系统及方法。
背景技术
随着社会的不断前进、信息化的高速发展,在水利行业监测数据采集管理中,管理部门对其管理要求越来越精细化、智能化。
水文水资源部门管理的水文站网越来越密集。面对高频的采集、海量的采集数据,研发出一款高性能、高可用的智能设备采集平台可为管理单位在防洪抢险、水资源税征收等场景提供精准、可靠的数据保障的系统是亟待解决的。
发明内容
本发明要解决的技术问题是提供一种分布式水利RTU数据采集系统,其采用分布式架构,基于被广泛使用的Java网络编程框架 Netty,配合高性能的Redis数据库以及NOSQL数据库MongoDB、高吞吐的消息队列Kafka。通过在接收报文、解析报文、存储报文明文的各个环节,合理利用各种高性能框架或技术,使得在高并发情况下保证采集数据的时效性、完整性。
为解决上述问题,本发明采用如下技术方案:
一种分布式水利RTU数据采集系统,其特征在于:包括RTU报文发送模块、Netty接收模块、第一MQ消息发布模块、第一数据库模块、订阅接收模块、图片报文判断模块、图片数据包判断模块、Redis 模块、Redis读取模块、组装生成模块和第二数据库模块。
作为优选,还包含有解析模块、第二MQ消息发布模块、第二订阅接收模块和发布数据服务模块。
作为优选,所述第一数据库模块为NoSQL数据库。
作为优选,所述第一数据库模块为MongoDB数据库。
作为优选,所述第二数据库模块为关系型数据库模块。
作为优选,所述Netty接收模块被配置为在RTU与Netty建立连接并创建处理通道之后,采用java中的HashMap以RTU的地址为key, 通道对象为value的方式存入内存中,下次该RTU再上报的时候,根据RTU的地址直接从内存中取到通道对象进行下一步处理,当该RTU 下线之后,从内存中去掉该通道信息。
作为优选,所述Netty接收模块还被配置为响应RTU报文发送模块,通知RTU报文发送模块接收成功。
本发明还提供一种分布式水利RTU数据采集系统的工作方法:包括以下步骤:
S1:RTU发布报文;
S2:Netty接收报文,在RTU与Netty建立连接并创建处理通道之后,采用java中的HashMap以RTU的地址为key,通道对象为 value的方式存入内存中,下次该RTU再上报时,根据RTU的地址直接从内存中取到通道对象进行下一步处理,当该RTU下线之后,从内存中去掉该通道信息;
S3:正常报文,Netty响应TUR,通知TUR接收成功;
S4:MQ发布消息并将报文存入数据库;
S5:订阅接收;
S6:图片报文;
S7:判断图片报文是否为最后一个图片数据包;
S8:若不是最后一个图片数据包则存入Redis中,若是最后一个图片数据包,则读取Redis内的该图片的全部数据包;
S9:组装报文,生成图片;
S10:存入数据库。
作为优选,所述步骤S6中,若不是图片报文则依次对报文解析成明文,MQ发布消息,订阅接收明文,最后发布数据服务并存入数据量。
本发明的有益效果为:采用分布式架构,基于被广泛使用的Java 网络编程框架Netty,配合高性能的Redis数据库以及NOSQL数据库 MongoDB、高吞吐的消息队列Kafka。通过在接收报文、解析报文、存储报文明文的各个环节,合理利用各种高性能框架或技术,使得在高并发情况下保证采集数据的时效性、完整性。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一种分布式水利RTU数据采集系统工作方法流程图。
图2为本发明一种分布式水利RTU数据采集系统的图片处理流程。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。
实施例1
一种分布式水利RTU数据采集系统,包括RTU报文发送模块、 Netty接收模块、第一MQ消息发布模块、第一数据库模块、订阅接收模块、图片报文判断模块、图片数据包判断模块、Redis模块、Redis 读取模块、组装生成模块和第二数据库模块。
在本实施例中,第一数据库模块为NoSQL数据库。
在其他实施例中,第一数据库模块为MongoDB数据库。
作为优选,Netty接收模块被配置为在RTU与Netty建立连接并创建处理通道之后,采用java中的HashMap以RTU的地址为key,通道对象为value的方式存入内存中,下次该RTU再上报的时候,根据 RTU的地址直接从内存中取到通道对象进行下一步处理,当该RTU下线之后,从内存中去掉该通道信息。
具体的,Netty接收模块还被配置为响应RTU报文发送模块,通知RTU报文发送模块接收成功。
如图1所示,本实施例还提供一种分布式水利RTU数据采集系统的工作方法:包括以下步骤:
S1:RTU发布报文,具体的通过RTU报文发送模块发布报文;
S2:Netty接收模块接收RTU报文发送模块发送的报文,在RTU 与Netty接收模块建立连接并创建处理通道之后,采用java中的 HashMap以RTU的地址为key,通道对象为value的方式存入内存中,下次该RTU再上报的时候,根据RTU的地址直接从内存中取到通道对象进行下一步处理,当该RTU下线之后,从内存中去掉该通道信息;
S3:正常报文,Netty接收模块响应TUR,通知TUR接收成功;
S4:第一MQ消息发布模块发布消息并将报文存入第一数据库模块;
S5:订阅接收模块订阅接收;
S6:图片报文;
S7:判断图片报文是否为最后一个图片数据包;
S8:若不是最后一个图片数据包则存入Redis中,若是最后一个图片数据包,则读取Redis内的该图片的全部数据包;
S9:组装报文,生成图片;
S10:存入第二数据库模块,也即关系型数据库模块。
实施例中,大量RTU采集设备在同一时刻连接采集平台,Netty 接收模块作为高性能的基础通信组件,承担了与各个客户端的连接的任务。在高并发的场景下若是频繁地创建通道,会导致CPU开销增大而造成线程堵塞最终导致响应慢、丢包等各种异常情况。为了避免此种情况,在RTU与Netty接收模块建立连接并创建处理通道之后,采用java中的HashMap以RTU的地址为key,通道对象为value的方式存入内存中,下次该RTU再上报的时候,根据RTU的地址直接从内存中取到通道对象进行下一步处理,当该RTU下线之后,从内存中去掉该通道信息。
通过Netty接收模块接收到RTU报文发送模块发送的报文信息之后需要对报文进行校验、解析、数据入库,如果这一系列都在一个线程处理,在高并发的情况下,由于来不及同步处理,请求往往会发生堵塞,特别是在对数据库执行插入操作的情况下容易造成请求堆积。通过使用消息队列,我们可以异步处理请求,从而缓解系统的压力。如图1所示,在高并发下,多个生产者Producer将验证有效之后的报文发布到Queue中,此时的消费者Consumer即报文解析处理程序可有多个,一个消息只能被一个消费者接收到,当没有消费者可用时,这个消息会被保存直到有一个可用的消费者,一个Queue可以有很多消费者,他们之间实现了负载均衡,通过这个可靠的负载均衡机制,解决了高并发下报文接收解析问题,保证了数据的完整性。
在具体的实施例中,本数据采集系统基于行业中水文监测数据通信规约的HEX/BCD编码、ASCⅡ字符编码、水资源监测数据传输规约以及自定义规约,传输数据包含降雨量、水位、流量、蒸发量等水文要素以及浊度、溶解氧、氨氮等水质监测要素和闸门开度、电流电压、图片等水利工程信息报文。针对不同规约、不同编码的报文,本数据采集系统需要对数据进行初步的清洗,包括对报文结构是否完整、报文中安全密码是否匹配、报文是否有被篡改等检测项进行校验,识别出有效的报文,对无效报文进行存储备查,不做进一步解析。对有效的报文进行进一步的处理,模式上主要包括一般数据信息和图片信息的处理,例如降雨要素报文,按照规约,解析出测站编码、时间、降雨等信息存入数据库,并且要组装报文回复给RTU。对于图片报文,需要识别本次报文是否为有效、是否为最后一包报文,每接收完确认无误之后要发给RTU一个响应报文,接收到最后一包之后要判断是否有漏包情况,如果漏掉了需要发送重发指令,RTU再次发送漏掉的包,全部接收到了再进行组装数据生成图片。
对于数亿级海量的报文数据,如果使用传统的关系型数据库,查询效率会大大折扣,本例中采用的MongoDB为NoSQL数据库的其中一种,NoSQL用于超大规模数据的存储。这些类型的数据存储不需要固定的模式,无需多余操作就可以横向扩展。MongoDB是一个基于分布式文件存储的开源数据库系统,在高负载的情况下,添加更多的节点,可以保证服务器性能。
在高并发的情况下,将接收到的报文以及解析之后的明文快速插入MongoDB,防止数据丢失。解析之后的明文采用key-value的方式存储,正好符合MongoDB的特性,使能在后续的数据展示中实现高效地查询。
解析之后的明文一部分用于展示验证,另一部分则应用于业务系统。通常这部分数据需要存入关系型数据库,比如oracle数据库。这里同样采用消息队列来实现负载均衡,实现原理同第二小点,只是本地存入的数据为明文数据。
图片过程保存Redis缓存。
如图2所示,在数据采集中,采集的图片通常质量比较大,远远超出RTU一次传输的量,通常采用分包的方式将一张图片的数据拆几十包至几百包。采集平台接受完毕之后将数据包进行整合,最终形成完整的图片。传统方式将数据存内存或者存关系型数据库,这种频繁读写数据库比较低效,存内存容易造成内存溢出,最终导致数据丢失而无法组装完整的图片。本发明引入了一个高性能的key-value数据库Redis,该数据库运行在内存中且可以持久化到磁盘,实现对数据的高速读写。图片报文需要频繁读写,采用Redis作为缓存数据库,极大地提高了图片采集的准确性和实效性;
服务接口发布;
本发明采用服务化的思想进行实现,对于第三方业务应用,通常有操控RTU设备的需求,比如控制闸门的开发、控制水管阀门的开关、泵站机组的开关等,而此类应用基本没有与RTU通讯的能力。本智能采集平台在设计的过程中,预留了相关的接口,第三方平台可通过这些接口,实现对RTU的操控。除此之外,还提供各类数据查询接口。
对RTU发生指令必须是在RTU在线的情况下,即第一步中能找到通讯通道,否则是无法通讯。
实施例2
一种分布式水利RTU数据采集系统,包括RTU报文发送模块、 Netty接收模块、第一MQ消息发布模块、第一数据库模块、订阅接收模块、图片报文判断模块、图片数据包判断模块、Redis模块、Redis 读取模块、组装生成模块和第二数据库模块。
在本实施例中,还包含有解析模块、第二MQ消息发布模块、第二订阅接收模块和发布数据服务模块。
在本实施例中,所述第一数据库模块为NoSQL数据库。
在本实施例中,所述第一数据库模块为MongoDB数据库。
在本实施例中,所述第二数据库模块为关系型数据库模块。
在本实施例中,所述Netty接收模块被配置为在RTU与Netty建立连接并创建处理通道之后,采用java中的HashMap以RTU的地址为key,通道对象为value的方式存入内存中,下次该RTU再上报的时候,根据RTU的地址直接从内存中取到通道对象进行下一步处理,当该RTU下线之后,从内存中去掉该通道信息。
在本实施例中,所述Netty接收模块还被配置为响应RTU报文发送模块,通知RTU报文发送模块接收成功。
如图1所示,在本实施例中还提供一种分布式水利RTU数据采集系统的工作方法:包括以下步骤:
S1:RTU发布报文;
S2:Netty接收报文,在RTU与Netty建立连接并创建处理通道之后,采用java中的HashMap以RTU的地址为key,通道对象为value 的方式存入内存中,下次该RTU再上报的时候,根据RTU的地址直接从内存中取到通道对象进行下一步处理,当该RTU下线之后,从内存中去掉该通道信息;
S3:正常报文,Netty响应TUR,通知TUR接收成功;
S4:MQ发布消息并将报文存入数据库;
S5:订阅接收;
S6:对报文解析成明文;
S7:MQ发布消息;
S8:订阅接收明文;
S9:发布数据服务并存入数据库;此数据库为第二数据库模块,也即关系型数据库模块。
本发明的有益效果为:采用分布式架构,基于被广泛使用的Java 网络编程框架Netty,配合高性能的Redis数据库以及NOSQL数据库MongoDB、高吞吐的消息队列Kafka。通过在接收报文、解析报文、存储报文明文的各个环节,合理利用各种高性能框架或技术,使得在高并发情况下保证采集数据的时效性、完整性。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何不经过创造性劳动想到的变化或替换,都应涵盖在本发明的保护范围之内。

Claims (9)

1.一种分布式水利RTU数据采集系统,其特征在于:包括RTU报文发送模块、Netty接收模块、第一MQ消息发布模块、第一数据库模块、订阅接收模块、图片报文判断模块、图片数据包判断模块、Redis模块、Redis读取模块、组装生成模块和第二数据库模块。
2.根据权利要求1所述的一种分布式水利RTU数据采集系统,其特征在于:还包含有解析模块、第二MQ消息发布模块、第二订阅接收模块和发布数据服务模块。
3.根据权利要求2所述的一种分布式水利RTU数据采集系统,其特征在于:所述第一数据库模块为NoSQL数据库。
4.根据权利要求2所述的一种分布式水利RTU数据采集系统,其特征在于:所述第一数据库模块为MongoDB数据库。
5.根据权利要求4所述的一种分布式水利RTU数据采集系统,其特征在于:所述第二数据库模块为关系型数据库模块。
6.根据权利要求5所述的一种分布式水利RTU数据采集系统,其特征在于:所述Netty接收模块被配置为在RTU与Netty建立连接并创建处理通道之后,采用java中的HashMap以RTU的地址为key,通道对象为value的方式存入内存中,下次该RTU再上报的时候,根据RTU的地址直接从内存中取到通道对象进行下一步处理,当该RTU下线之后,从内存中去掉该通道信息。
7.根据权利要求6所述的一种分布式水利RTU数据采集系统,其特征在于:所述Netty接收模块还被配置为响应RTU报文发送模块,通知RTU报文发送模块接收成功。
8.一种分布式水利RTU数据采集系统的工作方法:其特征在于,包括以下步骤:
S1:RTU发布报文;
S2:Netty接收报文,在RTU与Netty建立连接并创建处理通道之后,采用java中的HashMap以RTU的地址为key,通道对象为value的方式存入内存中,下次该RTU再上报时,根据RTU的地址直接从内存中取到通道对象进行下一步处理,当该RTU下线之后,从内存中去掉该通道信息;
S3:正常报文,Netty响应TUR,通知TUR接收成功;
S4:MQ发布消息并将报文存入数据库;
S5:订阅接收;
S6:图片报文;
S7:判断图片报文是否为最后一个图片数据包;
S8:若不是最后一个图片数据包则存入Redis中,若是最后一个图片数据包,则读取Redis内的该图片的全部数据包;
S9:组装报文,生成图片;
S10:存入数据库。
9.根据权利要求8所述的一种分布式水利RTU数据采集系统的工作方法,其特征在于:所述步骤S6中,若不是图片报文则依次对报文解析成明文,MQ发布消息,订阅接收明文,最后发布数据服务并存入数据量。
CN202010023292.6A 2020-01-09 2020-01-09 一种分布式水利rtu数据采集系统及方法 Pending CN111241101A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010023292.6A CN111241101A (zh) 2020-01-09 2020-01-09 一种分布式水利rtu数据采集系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010023292.6A CN111241101A (zh) 2020-01-09 2020-01-09 一种分布式水利rtu数据采集系统及方法

Publications (1)

Publication Number Publication Date
CN111241101A true CN111241101A (zh) 2020-06-05

Family

ID=70876092

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010023292.6A Pending CN111241101A (zh) 2020-01-09 2020-01-09 一种分布式水利rtu数据采集系统及方法

Country Status (1)

Country Link
CN (1) CN111241101A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114827171A (zh) * 2022-03-23 2022-07-29 青岛中科曙光科技服务有限公司 信息同步方法、装置、计算机设备和存储介质
CN117194549A (zh) * 2023-11-07 2023-12-08 上海柯林布瑞信息技术有限公司 基于任务数据配置的数据传输方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050021622A1 (en) * 2002-11-26 2005-01-27 William Cullen Dynamic subscription and message routing on a topic between publishing nodes and subscribing nodes
CN108270860A (zh) * 2018-01-16 2018-07-10 宇星科技发展(深圳)有限公司 环境质量在线监测数据的采集系统及方法
CN108268569A (zh) * 2017-01-04 2018-07-10 上海宝信软件股份有限公司 基于大数据技术的水资源监测数据采集与分析系统及方法
CN109558450A (zh) * 2018-10-30 2019-04-02 中国汽车技术研究中心有限公司 一种基于分布式架构的汽车远程监控方法和装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050021622A1 (en) * 2002-11-26 2005-01-27 William Cullen Dynamic subscription and message routing on a topic between publishing nodes and subscribing nodes
CN108268569A (zh) * 2017-01-04 2018-07-10 上海宝信软件股份有限公司 基于大数据技术的水资源监测数据采集与分析系统及方法
CN108270860A (zh) * 2018-01-16 2018-07-10 宇星科技发展(深圳)有限公司 环境质量在线监测数据的采集系统及方法
CN109558450A (zh) * 2018-10-30 2019-04-02 中国汽车技术研究中心有限公司 一种基于分布式架构的汽车远程监控方法和装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114827171A (zh) * 2022-03-23 2022-07-29 青岛中科曙光科技服务有限公司 信息同步方法、装置、计算机设备和存储介质
CN114827171B (zh) * 2022-03-23 2023-12-15 青岛中科曙光科技服务有限公司 信息同步方法、装置、计算机设备和存储介质
CN117194549A (zh) * 2023-11-07 2023-12-08 上海柯林布瑞信息技术有限公司 基于任务数据配置的数据传输方法及装置
CN117194549B (zh) * 2023-11-07 2024-01-26 上海柯林布瑞信息技术有限公司 基于任务数据配置的数据传输方法及装置

Similar Documents

Publication Publication Date Title
CN112507029B (zh) 数据处理系统及数据实时处理方法
CN107451268B (zh) 一种面向实时数据库的断网续传的方法
CN103067230A (zh) 一种通过植入监控代码实现对http服务监控的方法
CN106301823B (zh) 一种关键组件的故障告警方法、装置及大数据管理系统
CN108038207A (zh) 一种日志数据处理系统、方法和服务器
CN110868349B (zh) 物联网环境下分布式高并发数据采集与处理方法及系统
CN111970195B (zh) 数据传输方法和流式数据传输系统
CN111241101A (zh) 一种分布式水利rtu数据采集系统及方法
CN110086673A (zh) 数据获取方法及装置
CN113326148A (zh) 一种基于微服务的数据交互系统
CN114090529A (zh) 一种日志管理方法、装置、系统和存储介质
CN111913933A (zh) 基于统一支撑平台的电网历史数据管理方法及系统
CN110333916A (zh) 请求消息处理方法、装置、计算机系统及可读存储介质
CN108989456B (zh) 一种基于大数据的网络实现方法
CN117118821A (zh) 一种基于client-server模式的多数据源管理方法
CN111049898A (zh) 一种实现计算集群资源跨域架构的方法及系统
CN115086311B (zh) 一种基于云服务总线的企业跨系统服务的管理系统
CN105446707B (zh) 一种数据转换方法
CN110457133A (zh) 一种操作系统资源异常的处理方法及系统
CN113472881B (zh) 在线终端设备的统计方法和装置
CN114328093A (zh) 一种基于Hadoop的监控方法、系统、存储介质及设备
Tangxiao et al. Data transmission scheme based on publish/subscribe in workshop
CN111652616B (zh) 交易数据实时监控方法及装置
CN112994894B (zh) 基于网关的单线程请求处理方法和信息验证agent
CN112749398B (zh) 数据传输通道控制方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination