CN116743860B - 一种风洞现场实时数据分布式多线程采集架构 - Google Patents
一种风洞现场实时数据分布式多线程采集架构 Download PDFInfo
- Publication number
- CN116743860B CN116743860B CN202310989390.9A CN202310989390A CN116743860B CN 116743860 B CN116743860 B CN 116743860B CN 202310989390 A CN202310989390 A CN 202310989390A CN 116743860 B CN116743860 B CN 116743860B
- Authority
- CN
- China
- Prior art keywords
- module
- data
- service
- acquisition
- thread
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 claims abstract description 43
- 238000000034 method Methods 0.000 claims abstract description 17
- 238000013461 design Methods 0.000 claims abstract description 13
- 238000004891 communication Methods 0.000 claims description 46
- 230000006870 function Effects 0.000 claims description 33
- 238000007726 management method Methods 0.000 claims description 29
- 230000005540 biological transmission Effects 0.000 claims description 14
- 238000013500 data storage Methods 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 4
- 238000012360 testing method Methods 0.000 abstract description 5
- 239000000872 buffer Substances 0.000 description 9
- 230000007246 mechanism Effects 0.000 description 4
- 230000001360 synchronised effect Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000008676 import Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
- H04L67/562—Brokering proxy services
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
- G01M9/00—Aerodynamic testing; Arrangements in or on wind tunnels
- G01M9/02—Wind tunnels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
- H04L67/563—Data redirection of data network streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
- H04L67/568—Storing data temporarily at an intermediate stage, e.g. caching
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/75—Indicating network or usage conditions on the user display
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/18—Multiprotocol handlers, e.g. single devices capable of handling multiple protocols
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Computer Security & Cryptography (AREA)
- Fluid Mechanics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种风洞现场实时数据分布式多线程采集架构,属于风洞试验数据采集领域,包括节点服务模块,所述节点服务模块设计为分布式多线程采集,并根据风洞现场数据配置多个节点来实现不同区域、不同系统、不同网络数据的采集;中心服务模块,所述中心服务模块采用多线程采集控制,根据功能性不同设计对应数据处理模块;接口服务模块,用于提供配置管理接口及数据代理转发功能。本发明针对风洞场景,提高了风洞试验数据的高并发处理效率、实时性和稳定性,具有良好的扩展性、伸缩性和适度冗余。
Description
技术领域
本发明涉及风洞试验数据采集领域,更为具体的,涉及一种风洞现场实时数据分布式多线程采集架构。
背景技术
目前,随着风洞中设备种类、设备数量不断增加,以及各类面向业务的信息化系统不断应用,风洞的数据种类和数据量已经远远超过了传统数据采集的范畴,传统的单机式采集由于受到硬件性能的制约,单机接入点数和扩充能力已经逐渐不能够满足现场数据采集的需求,虽然现有工业实时数据采集设备,能够支持多种类的工业协议,但是风洞数据更具专业性,单机采集没有分布式多线程采集更稳定,并且扩展性和再移植性成本较高,不满足高实时性、高存储、高并发的大批量实时数据采集需求,所以需要重新提出一个更稳定更高效的采集架构。
发明内容
本发明的目的在于克服现有技术的不足,提供一种风洞现场实时数据分布式多线程采集架构,针对风洞场景,提高了风洞试验数据的高并发处理效率、实时性和稳定性,具有良好的扩展性、伸缩性和适度冗余。
本发明的目的是通过以下方案实现的:
一种风洞现场实时数据分布式多线程采集架构,包括:
节点服务模块,所述节点服务模块设计为分布式多线程采集,并根据风洞现场数据配置多个节点来实现不同区域、不同系统、不同网络数据的采集;
中心服务模块,所述中心服务模块采用多线程采集控制,根据功能性不同设计对应数据处理模块;
接口服务模块,用于提供配置管理接口及数据代理转发功能。
进一步地,所述节点服务模块、中心服务模块和接口服务模块之间均通过通过TCP/IP以太网进行通讯。
进一步地,所述节点服务模块包括驱动接口模块、采集控制模块、数据缓存模块和数据发送模块,通过驱动接口模块、采集控制模块、数据缓存模块和数据发送模块实现不同功能的调用。
进一步地,所述中心服务模块包括通讯模块、采存控制模块、历史数据模块、实时数据模块和数据发布模块,通过通讯模块、采存控制模块、历史数据模块、实时数据模块和数据发布模块实现中心服务中不同功能的调用。
进一步地,所述接口服务模块包括管理界面模块和数据转发模块,通过管理界面模块和数据转发模块实现数据接口的可配置和服务控制功能。
进一步地,所述驱动接口模块,用于将不同协议视作一个驱动来适应多种采集协议;通过定义抽象驱动基类,不同的采集协议实现不同的类,继承该基类,并实现具体函数来达到统一驱动;驱动用针对目标设备的专用协议,生成网络数据请求包,并向目标设备发送请求包,目标设备返回结果数据值;
所述采集控制模块,用于实现加载驱动,按配置进行数据获取,响应中心服务的调整控制命令,进行采集过程的控制功能;
所述数据缓存模块,用于实现获取数据在本地进行缓存,把采集到的数据分为保存用队列和实时上传两个队列,其中保存用数据队列中的数据被本模块保存到本地缓存数据库中,保证数据上传失败时不会丢失数据;
所述数据发送模块,用于实现节点服务采集数据向中心服务的发送,通过实时上传队列同步数据。
进一步地,所述通讯模块作为中心服务和节点服务共同实现相互通讯的模块,用于完成各模块的内部消息通讯;
所述采存控制模块,用于完成对中心服务的统一调度、调控信息计算和备份切换控制,实现中心服务内各模块协调工作;
所述历史数据模块,用于实现历史数据的处理及数据库保存;
所述实时数据模块,用于实现实时数据的处理及内部保存;
所述数据发布模块,用于实现内部实时数据对外发布。
进一步地,所述管理界面模块,用于以Web的方式实现远程管理界面,供管理用户配置和整体控制;
所述数据转发模块,用于一方面实现Web服务器,为管理用户提供通过浏览器访问软件界面途径;另一方面,还提供WebAPI数据转发服务,使用WebAPI访问采集实时数据。
进一步地,所述采集控制模块还包括主线程模块、数据同步模块、数据保存线程模块、数据采集线程模块、主消息接收线程模块和备消息接收线程模块;
所述主线程模块,用于分发收到的各类消息及界面输入、输出处理;
所述数据同步模块,用于驱动数据发送模块的工作;
所述数据保存线程模块,用于驱动数据缓存模块的工作;
所述数据采集线程模块,用于控制驱动接口模块,读取采集源数据,采集按多线程采集方式进行设计,每个线程管理一个目标设备的采集工作;
所述主消息接收线程模块,用于驱动通讯基础模块接收从中心服务发来的通讯消息;
所述备消息接收线程模块,用于驱动通讯基础模块接收从备份中心服务传来的通讯消息。
进一步地,所述采存控制模块包括主线程单元、主备切换线程单元、服务侦听线程单元和消息接收线程;
所述主线程单元,用于分发收到的各类消息及界面输入、输出处理;
所述主备切换线程单元,存在于备份中心服务中,用于检查主中心服务是否在线,在主中心服务故障时,触发备份切换;
所述服务侦听线程单元,用于在配置的服务端口侦听并处理从节点服务或备份中心服务来的连接请求;
所述消息接收线程单元,用于每个连接节点服务一个线程,用于接收该被连接方发送来的消息。
本发明的有益效果包括:
本发明支持风洞分布式节点部署和大批量实时数据采集。整体架构由节点服务、中心服务、接口服务三大部分组成。节点服务设计为分布式采集,根据现场数据来源、数据量大小、采集频率等因素,配置多个节点,实现不同区域、不同系统、不同网络数据统一采集。
本发明节点服务设计为多线程数据处理模块,满足大批量数据并发采集场景,实现大批量数据的并行采集存储。中心服务采用高可靠双机备份机制,保证采集数据由节点到中心汇集的稳定性。接口服务提供整体的接口配置管理和数据代理转发功能。最终实现风洞全量数据从分布式采集、集中存储、实时发布的全数据链管理,为风洞后续软件应用建设提供有效的数据支撑。
本发明有效的解决风洞数据来源多、数据量大、数据实时采集要求高、数据实时传输效率高的问题。通过分布式采采存架构和多模块多线程数据处理的机制,形成一种风洞现场实时数据分布式多线程采集架构,保证了风洞不同区域、不同系统、不同网络数据统一采集存储发布。
随着风洞中设备种类、设备数量不断增加,以及各类面向业务的信息化系统不断应用,本发明提供的架构具有良好的扩展性、伸缩性和适度冗余。系统只需再增配硬件,即可实现对其它同类项目进行数据的采集存储服务,并且保证系统再移植性。
本发明提供的架构采用的多线程数据处理方式,可实现对分散系统的不同类型数据进行毫秒级采集,并保证数据的统一、同步、准确更新。
本发明提供的架构通过分布式采集技术、多线程数据处理、高实时性传输等机制,解决风洞现场全量数据存储问题以及整体数据流转,最终实现对风洞数据的有效管理,形成统一的数据资源池。
本发明提供的架构中节点服务设计为分布式采集,根据现场数据来源、数据量大小、采集频率等因素,配置多个节点,实现不同区域、不同系统、不同网络数据统一采集。
本发明提供的架构中节点服务和中心服务均采用多模块数据处理方式,根据功能性不同设计对应数据处理模块,保证数据高效处理传输。
本发明提供的架构中节点服务和中心服务采用多线程采集控制,实现数据采集、同步、保存等多个线程同时运行,保证实时数据采集高效稳定。
本发明提供的架构针对风洞多种数据协议,通过集成驱动模块来适配多种采集协议,采用中心加节点的分布式部署来实现多数据源统一采集,采用多线程处理方式提高数据高并发处理。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例的风洞现场实时数据分布式多线程采集架构;
图2为传统数据采集架构;
图3为本发明实施例的数据采集传输架构模块划分;
图4为本发明实施例的节点服务模块调用顺序;
图5为本发明实施例的中心服务模块调用顺序。
具体实施方式
本说明书中所有实施例公开的所有特征,或隐含公开的所有方法或过程中的步骤,除了互相排斥的特征和/或步骤以外,均可以以任何方式组合和/或扩展、替换。
鉴于背景中的问题,本发明的发明人进一步进行创造性分析思考后认为:传统的单机式数据采集架构通常部署与单台采集服务器,受限于硬件和软件的性能,超过一定的数据点位限制后,采集数量和采集频率也会因为采集软件性能下降而不能满足实际需求,传统数据采集架构如图2所示。
风洞试验过程产生的数据类型多,针对多种不同类型的数据来源,需要兼容多类型工业协议;风洞的采集周期一般为毫秒级,在数据的读写、处理与存储方面有着极为严格的时延要求,需要重新设计新的事务处理与并发控制技术。在重新设计的过程中,本发明的发明人发现风洞现场数据源系统众多,并且各个系统部署区域不同,网络架构也相互独立。因此,本发明构思采用集中化部署加分布式采集的架构,其中节点采集设计为分布式的采集架构,可针对现场采集数据源的数据量大小、采集频率和网络架构等实际情况,配置对应的采集节点,实现不同节点采集不同系统的数据,并最终汇集到中心服务,实现数据统一存储和数据统一转发。
在以上设计架构的基础上,进一的探索后,本发明的发明人又发现如下技术问题:风洞现场实时采集点位上万并且采集延时要求为毫秒级,常规的单线程数据处理方法不能很好的满足系统对大数据量的高效处理,为了实现数据的并发处理,需要提升服务器硬件效率,并在基于分布式架构的基础上,进一步优化对应节点服务、中心服务、接口服务设计多线程数据处理程序,从而提升系统的数据处理能力与效率。
为了解决上述技术问题,本发明具体提出了如下一种风洞现场实时数据分布式多线程采集架构。如图1和图3所示,主要包括节点服务、中心服务、接口服务。节点服务主要功能是风洞现场采集数据,中心服务主要功能是数据汇总及处理保存,接口服务提供整体的配置管理接口及数据代理转发功能。节点服务和中心服务均采用多模块多线程的架构,各模块通过TCP/IP以太网进行通讯。
在节点服务模块的设计中,节点服务主要分为驱动接口模块、采集控制模块、数据缓存模块和数据发送模块几个部分,通过多模块的结构实现不同功能的调用,节点服务内部模块调用顺序如图4所示,具体包括如下工作过程:
1)驱动接口模块将不同协议视作一个驱动来适应多种采集协议。通过定义抽象驱动基类,不同的采集协议实现不同的类,继承该基类,并实现具体函数来达到统一驱动。驱动用针对目标设备的专用协议,生成网络数据请求包,并向目标设备发送请求包,目标设备返回结果数据值。在具体实施中通过OPCUA订阅控制系统数据时,新建OpcUaClient实例,继承驱动基类,当PLC数据发生变化时,系统自动触发订阅时指定的回调函数。
2)采集控制模块实现加载驱动,按配置进行数据获取,响应中心服务的调整控制命令,进行采集过程的控制等功能。该模块包含:
a.主线程:分发收到的各类消息及界面输入、输出处理;
b.数据同步线程:驱动数据发送模块的工作;在具体构思中,将本节点服务包含的风洞控制系统数据发送至中心服务。
c.数据保存线程:驱动数据缓存模块的工作;在具体构思中,将本节点服务包含的风洞控制系统数据缓存在本节点服务数据库。
d.数据采集线程:用于控制驱动接口模块,读取采集源数据,为了保证采集的低时延,以及采集吞吐量,采集按多线程采集方式进行设计,每个线程管理一个目标设备的采集工作;在具体构思中,将本节点服务包含的风洞控制系统按照不同设备配置,对应不同采集线程,实现单线程采集单设备的采集方式。
e.主消息接收线程:驱动通讯基础模块接收从中心服务发来的通讯消息;
f.备消息接收线程:驱动通讯基础模块接收从备份中心服务传来的通讯消息;
在本发明构思中,单节点服务多线程的方式保证数据采集、保存、同步、以及配置参数接收下发等功能同步运行,其中采集线程又采用多线程设计,单线程单设备保证风洞控制系统每接入一个设备均采用单线程采集模式,实现大批量数据采集的高实时性。
3)数据缓存模块实现获取数据在本地进行缓存,把采集到的数据分为保存用队列和实时上传两个队列,其中保存用数据队列中的数据被本模块保存到本地缓存数据库中,保证数据上传失败时不会丢失数据。
在具体构思中,实时数据采集时,通过采集控制模块的数据保存线程驱动保存用列队,将风洞控制系统实时数据同步保存至缓存数据库,保证了数据安全性,避免出现数据丢失的情况。
4)数据发送模块实现节点服务采集数据向中心服务的发送,通过实时上传队列同步数据。
在具体构思中,通过采集控制模块的数据同步线程驱动数据发送模块,将风洞控制系统数据同步到中心服务,保证数据发送稳定性。
在中心服务模块的设计中,中心服务主要分为通讯模块、采存控制模块、历史数据模块、实时数据模块和数据发布模块几个部分,通过多模块的结构实现中心服务中不同功能的调用,中心服务内部模块调用顺序如图5图所示,具体包括如下工作过程:
1)通讯模块是中心服务和节点服务共同实现相互通讯的模块,用于完成各模块的内部消息通讯。通讯模块基于TCP网络设计,中心服务建立端口,节点服务进行登录连接,然后传递数据。通讯模块设计为多线程方式,采用一个个消息包的形式进行通讯。通讯模块定义网络数据缓冲对象、网络数据流对象,以及网络消息对象等三种对象,来抽象通讯要素,实现网络通讯。
2)采存控制模块完成对中心服务的统一调度、调控信息计算、双机备份切换控制等工作,同时实现中心服务内各模块协调工作。该模块包括:
a.主线程,用于分发收到的各类消息及界面输入、输出处理;
b.主备切换线程,存在于备份中心服务中,用于检查主中心服务是否在线,在主中心服务故障时,触发备份切换;在具体构思中,主备切换线程保证了风洞控制系统数据采集的稳定性,主线程出现宕机时,可自动切换到备份线程,实现了实时数据采集高可靠设计。
c.服务侦听线程,在配置的服务端口侦听并处理从节点服务或备份中心服务来的连接请求;
d.消息接收线程,每个连接节点服务一个线程,用于接收该被连接方发送来的消息。在具体构思中,消息接收线程采用单节点多线程保证节点服务的上传数据能正常接收。
3)历史数据模块实现历史数据的处理及数据库保存。历史数据模块的功能包括导入历史数据文件内容到数据库,以及返回导入结果给节点服务。由于缓存数据量较大,导入过程采用单独线程处理。在具体构思中,在具体构思中,历史数据按照风洞层级结构划分存入数据库,方便风洞后续数据应用。
4)实时数据模块实现实时数据的处理及内部保存。该模块把收到的数据缓存于实时数据缓存对象中,调用实时数据缓存对象的相关功能,实现数据的转换、保存。通过建立在内存中的实时采集树,来查询目标点。并发送数据至内存中的目标节点中,为后续的数据发布工作做准备。
5)数据发布模块实现内部实时数据以MQTT和WebAPI方式对外发布。数据发布模块依赖于实时数据模块提供的实时采集树,并从该树上查找数据值,然后发布各采集点的数据。在具体构思中,风洞实时数据应用系统可采用MQTT协议接收实时数据,保证实时数据大批量和低延时的设计。风洞常用管控系统可采用WebAPI根据使用情况调用对应层级接口,实现分层分级数据调用,体现了接口配置多样性。
在接口服务模块的设计中,接口服务主要分为管理界面模块和数据转发模块两个部分,实现数据接口的可配置和服务控制功能。
1)管理界面模块用于以Web的方式实现远程管理界面,供管理用户配置和整体控制。在具体构思中,根据第三方应用系统的调用需要,可自行配置需要发布的风洞数据点位,可实现通过管理界面控制风洞分层级数据发布。
2)数据转发模块一方面实现Web服务器,为管理用户提供通过浏览器访问软件界面途径;另一方面,还提供WebAPI数据转发服务,可以使用WebAPI访问采集实时数据。在具体构思中,数据转发模块保证了数据应用的稳定性,为后续风洞数据接口应用提供了保障。
综上所述,本发明有效的解决风洞数据来源多、数据量大、数据实时采集要求高、数据实时传输效率高的问题。通过分布式采采存架构和多模块多线程数据处理的机制,形成一种风洞现场实时数据分布式多线程采集架构,保证了风洞不同区域、不同系统、不同网络数据统一采集存储发布。
需要说明的是,在本发明权利要求书中所限定的保护范围内,以下实施例均可以从上述具体实施方式中,例如公开的技术原理,公开的技术特征或隐含公开的技术特征等,以合乎逻辑的任何方式进行组合和/或扩展、替换。
实施例1
一种风洞现场实时数据分布式多线程采集架构,包括:
节点服务模块,所述节点服务模块设计为分布式多线程采集,并根据风洞现场数据配置多个节点来实现不同区域、不同系统、不同网络数据的采集;
中心服务模块,所述中心服务模块采用多线程采集控制,根据功能性不同设计对应数据处理模块;
接口服务模块,用于提供配置管理接口及数据代理转发功能。
实施例2
在实施例1的基础上,所述节点服务模块、中心服务模块和接口服务模块之间均通过通过TCP/IP以太网进行通讯。
实施例3
在实施例1的基础上,所述节点服务模块包括驱动接口模块、采集控制模块、数据缓存模块和数据发送模块,通过驱动接口模块、采集控制模块、数据缓存模块和数据发送模块实现不同功能的调用。
实施例4
在实施例1的基础上,所述中心服务模块包括通讯模块、采存控制模块、历史数据模块、实时数据模块和数据发布模块,通过通讯模块、采存控制模块、历史数据模块、实时数据模块和数据发布模块实现中心服务中不同功能的调用。
实施例5
在实施例1的基础上,所述接口服务模块包括管理界面模块和数据转发模块,通过管理界面模块和数据转发模块实现数据接口的可配置和服务控制功能。
实施例6
在实施例3的基础上,所述驱动接口模块,用于将不同协议视作一个驱动来适应多种采集协议;通过定义抽象驱动基类,不同的采集协议实现不同的类,继承该基类,并实现具体函数来达到统一驱动;驱动用针对目标设备的专用协议,生成网络数据请求包,并向目标设备发送请求包,目标设备返回结果数据值;所述采集控制模块,用于实现加载驱动,按配置进行数据获取,响应中心服务的调整控制命令,进行采集过程的控制功能;所述数据缓存模块,用于实现获取数据在本地进行缓存,把采集到的数据分为保存用队列和实时上传两个队列,其中保存用数据队列中的数据被本模块保存到本地缓存数据库中,保证数据上传失败时不会丢失数据;所述数据发送模块,用于实现节点服务采集数据向中心服务的发送,通过实时上传队列同步数据。
实施例7
在实施例4的基础上,所述通讯模块作为中心服务和节点服务共同实现相互通讯的模块,用于完成各模块的内部消息通讯;所述采存控制模块,用于完成对中心服务的统一调度、调控信息计算和备份切换控制,实现中心服务内各模块协调工作;所述历史数据模块,用于实现历史数据的处理及数据库保存;所述实时数据模块,用于实现实时数据的处理及内部保存;所述数据发布模块,用于实现内部实时数据对外发布。
实施例8
在实施例5的基础上,所述管理界面模块,用于以Web的方式实现远程管理界面,供管理用户配置和整体控制;所述数据转发模块,用于一方面实现Web服务器,为管理用户提供通过浏览器访问软件界面途径;另一方面,还提供WebAPI数据转发服务,使用WebAPI访问采集实时数据。
实施例9
在实施例6的基础上,所述采集控制模块还包括主线程模块、数据同步模块、数据保存线程模块、数据采集线程模块、主消息接收线程模块和备消息接收线程模块;所述主线程模块,用于分发收到的各类消息及界面输入、输出处理;所述数据同步模块,用于驱动数据发送模块的工作;所述数据保存线程模块,用于驱动数据缓存模块的工作;所述数据采集线程模块,用于控制驱动接口模块,读取采集源数据,采集按多线程采集方式进行设计,每个线程管理一个目标设备的采集工作;所述主消息接收线程模块,用于驱动通讯基础模块接收从中心服务发来的通讯消息;所述备消息接收线程模块,用于驱动通讯基础模块接收从备份中心服务传来的通讯消息。
实施例10
在实施例7的基础上,所述采存控制模块包括主线程单元、主备切换线程单元、服务侦听线程单元和消息接收线程;所述主线程单元,用于分发收到的各类消息及界面输入、输出处理;所述主备切换线程单元,存在于备份中心服务中,用于检查主中心服务是否在线,在主中心服务故障时,触发备份切换;所述服务侦听线程单元,用于在配置的服务端口侦听并处理从节点服务或备份中心服务来的连接请求;所述消息接收线程单元,用于每个连接节点服务一个线程,用于接收该被连接方发送来的消息。
在本发明的其他实施方式中,还包括如下实施例:
在实施例7的基础上,所述通讯模块基于TCP网络设计,中心服务建立端口,节点服务进行登录连接,然后传递数据。
在实施例7的基础上,所述通讯模块设计为多线程方式,采用一个个消息包的形式进行通讯。
在实施例7的基础上,所述通讯模块定义网络数据缓冲对象、网络数据流对象,以及网络消息对象三种对象来抽象通讯要素,实现网络通讯。
在实施例7的基础上,所述历史数据模块的功能包括导入历史数据文件内容到数据库,以及返回导入结果给节点服务。
在实施例7的基础上,所述实时数据模块,用于把收到的数据缓存于实时数据缓存对象中,调用实时数据缓存对象的相关功能,实现数据的转换和保存。所述数据发布模块依赖于实时数据模块提供的实时采集树,并从该树上查找数据值,然后发布各采集点的数据。所述内部实时数据以MQTT和WebAPI方式对外发布。所述历史数据模块的导入过程采用单独线程处理。所述实时数据模块,通过建立在内存中的实时采集树,来查询目标点,并发送数据至内存中的目标节点中,为后续的数据发布工作做准备。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
根据本发明实施例的一个方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各种可选实现方式中提供的方法。
作为另一方面,本发明实施例还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现上述实施例中所述的方法。
Claims (1)
1.一种风洞现场实时数据分布式多线程采集架构,其特征在于,包括:
节点服务模块,所述节点服务模块设计为分布式多线程采集,并根据风洞现场数据配置多个节点来实现不同区域、不同系统、不同网络数据的采集;所述节点服务模块包括驱动接口模块、采集控制模块、数据缓存模块和数据发送模块,通过驱动接口模块、采集控制模块、数据缓存模块和数据发送模块实现不同功能的调用;所述驱动接口模块,用于将不同协议视作一个驱动来适应多种采集协议;通过定义抽象驱动基类,不同的采集协议实现不同的类,继承该基类,并实现具体函数来达到统一驱动;驱动用针对目标设备的专用协议,生成网络数据请求包,并向目标设备发送请求包,目标设备返回结果数据值;
所述采集控制模块,用于实现加载驱动,按配置进行数据获取,响应中心服务的调整控制命令,进行采集过程的控制功能;
所述数据缓存模块,用于实现获取数据在本地进行缓存,把采集到的数据分为保存用队列和实时上传两个队列,其中保存用数据队列中的数据被本模块保存到本地缓存数据库中,保证数据上传失败时不会丢失数据;
所述数据发送模块,用于实现节点服务采集数据向中心服务的发送,通过实时上传队列同步数据;
所述采集控制模块还包括主线程模块、数据同步模块、数据保存线程模块、数据采集线程模块、主消息接收线程模块和备消息接收线程模块;
所述主线程模块,用于分发收到的各类消息及界面输入、输出处理;
所述数据同步模块,用于驱动数据发送模块的工作;
所述数据保存线程模块,用于驱动数据缓存模块的工作;
所述数据采集线程模块,用于控制驱动接口模块,读取采集源数据,采集按多线程采集方式进行设计,每个线程管理一个目标设备的采集工作;
所述主消息接收线程模块,用于驱动通讯基础模块接收从中心服务发来的通讯消息;
所述备消息接收线程模块,用于驱动通讯基础模块接收从备份中心服务传来的通讯消息;
中心服务模块,所述中心服务模块采用多线程采集控制,根据功能性不同设计对应数据处理模块;所述中心服务模块包括通讯模块、采存控制模块、历史数据模块、实时数据模块和数据发布模块,通过通讯模块、采存控制模块、历史数据模块、实时数据模块和数据发布模块实现中心服务中不同功能的调用;
所述通讯模块作为中心服务和节点服务共同实现相互通讯的模块,用于完成各模块的内部消息通讯;
所述采存控制模块,用于完成对中心服务的统一调度、调控信息计算和备份切换控制,实现中心服务内各模块协调工作;
所述历史数据模块,用于实现历史数据的处理及数据库保存;
所述实时数据模块,用于实现实时数据的处理及内部保存;
所述数据发布模块,用于实现内部实时数据对外发布;
所述采存控制模块包括主线程单元、主备切换线程单元、服务侦听线程单元和消息接收线程;
所述主线程单元,用于分发收到的各类消息及界面输入、输出处理;
所述主备切换线程单元,存在于备份中心服务中,用于检查主中心服务是否在线,在主中心服务故障时,触发备份切换;
所述服务侦听线程单元,用于在配置的服务端口侦听并处理从节点服务或备份中心服务来的连接请求;
所述消息接收线程单元,用于每个连接节点服务一个线程,用于接收该被连接方发送来的消息;
接口服务模块,用于提供配置管理接口及数据代理转发功能;所述接口服务模块包括管理界面模块和数据转发模块,通过管理界面模块和数据转发模块实现数据接口的可配置和服务控制功能;
所述管理界面模块,用于以Web的方式实现远程管理界面,供管理用户配置和整体控制;
所述数据转发模块,用于一方面实现Web服务器,为管理用户提供通过浏览器访问软件界面途径;另一方面,还提供WebAPI数据转发服务,使用WebAPI访问采集实时数据;
所述节点服务模块、中心服务模块和接口服务模块之间均通过通过TCP/IP以太网进行通讯。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310989390.9A CN116743860B (zh) | 2023-08-08 | 2023-08-08 | 一种风洞现场实时数据分布式多线程采集架构 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310989390.9A CN116743860B (zh) | 2023-08-08 | 2023-08-08 | 一种风洞现场实时数据分布式多线程采集架构 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116743860A CN116743860A (zh) | 2023-09-12 |
CN116743860B true CN116743860B (zh) | 2023-10-27 |
Family
ID=87915351
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310989390.9A Active CN116743860B (zh) | 2023-08-08 | 2023-08-08 | 一种风洞现场实时数据分布式多线程采集架构 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116743860B (zh) |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103491190A (zh) * | 2013-09-30 | 2014-01-01 | 国家电网公司 | 一种面向大规模实时并发的充电机监控数据处理方法 |
CN104506373A (zh) * | 2015-01-07 | 2015-04-08 | 国家计算机网络与信息安全管理中心 | 网络信息采集与处理的装置和方法 |
US9043640B1 (en) * | 2005-08-26 | 2015-05-26 | Open Invention Network, LLP | System and method for event-driven live migration of multi-process applications |
CN106534257A (zh) * | 2016-09-29 | 2017-03-22 | 国家电网公司 | 一种多层次集群式架构的多源安全日志采集系统及方法 |
CN106651633A (zh) * | 2016-10-09 | 2017-05-10 | 国网浙江省电力公司信息通信分公司 | 一种基于大数据技术的用电信息采集系统及其采集方法 |
CN106997307A (zh) * | 2017-02-13 | 2017-08-01 | 上海大学 | 一种面向多终端无线通信的Socket线程池设计方法 |
CN107479966A (zh) * | 2017-07-03 | 2017-12-15 | 珠海高凌信息科技股份有限公司 | 一种基于多核心cpu的信令采集方法 |
CN110733038A (zh) * | 2019-09-30 | 2020-01-31 | 浙江工业大学 | 工业机器人远程监控及数据处理系统 |
CN114827140A (zh) * | 2022-04-02 | 2022-07-29 | 中国兵器装备集团自动化研究所有限公司 | 一种用于风洞现场的实时数据集中管控系统 |
CN116170524A (zh) * | 2022-12-26 | 2023-05-26 | 苏州金螳螂文化发展股份有限公司 | 可扩展多线程异步Socket服务器框架系统 |
-
2023
- 2023-08-08 CN CN202310989390.9A patent/CN116743860B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9043640B1 (en) * | 2005-08-26 | 2015-05-26 | Open Invention Network, LLP | System and method for event-driven live migration of multi-process applications |
CN103491190A (zh) * | 2013-09-30 | 2014-01-01 | 国家电网公司 | 一种面向大规模实时并发的充电机监控数据处理方法 |
CN104506373A (zh) * | 2015-01-07 | 2015-04-08 | 国家计算机网络与信息安全管理中心 | 网络信息采集与处理的装置和方法 |
CN106534257A (zh) * | 2016-09-29 | 2017-03-22 | 国家电网公司 | 一种多层次集群式架构的多源安全日志采集系统及方法 |
CN106651633A (zh) * | 2016-10-09 | 2017-05-10 | 国网浙江省电力公司信息通信分公司 | 一种基于大数据技术的用电信息采集系统及其采集方法 |
CN106997307A (zh) * | 2017-02-13 | 2017-08-01 | 上海大学 | 一种面向多终端无线通信的Socket线程池设计方法 |
CN107479966A (zh) * | 2017-07-03 | 2017-12-15 | 珠海高凌信息科技股份有限公司 | 一种基于多核心cpu的信令采集方法 |
CN110733038A (zh) * | 2019-09-30 | 2020-01-31 | 浙江工业大学 | 工业机器人远程监控及数据处理系统 |
CN114827140A (zh) * | 2022-04-02 | 2022-07-29 | 中国兵器装备集团自动化研究所有限公司 | 一种用于风洞现场的实时数据集中管控系统 |
CN116170524A (zh) * | 2022-12-26 | 2023-05-26 | 苏州金螳螂文化发展股份有限公司 | 可扩展多线程异步Socket服务器框架系统 |
Non-Patent Citations (1)
Title |
---|
"高超声速风洞数据采集与监控系统的研究";李良民;《中国优秀硕士学位论文全文数据库 (工程科技Ⅱ辑)》;C031-17 * |
Also Published As
Publication number | Publication date |
---|---|
CN116743860A (zh) | 2023-09-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111277672B (zh) | 一种基于非阻塞输入输出模型的能源物联网数据采集方法 | |
US10613903B1 (en) | Stream processing at scale | |
CN102880475B (zh) | 计算机软件系统中基于云计算的实时事件处理系统及方法 | |
CN108183961A (zh) | 一种基于Redis的分布式缓存方法 | |
US20100106915A1 (en) | Poll based cache event notifications in a distributed cache | |
CN105472042A (zh) | Web端控制的消息中间件系统及其数据传送方法 | |
CN103905537A (zh) | 分布式环境下管理工业实时数据存储的系统 | |
CN106656846A (zh) | 一种sdn体系架构中协调层的构建方法 | |
CN104734915A (zh) | 一种复合多进程多线程的多网络并发动态仿真方法 | |
CN107180082A (zh) | 一种基于多级缓存机制的数据更新系统及方法 | |
US10897402B2 (en) | Statistics increment for multiple publishers | |
CN101707599A (zh) | 故障录波系统中基于dsp的以太网通信方法 | |
CN116743860B (zh) | 一种风洞现场实时数据分布式多线程采集架构 | |
CN103645959A (zh) | 电信实时系统多进程共享内存池交互组件和方法 | |
CN107247631B (zh) | 通用的gpon-olt系统板间通信中间件系统 | |
CN103338156A (zh) | 一种基于线程池的命名管道服务器并发通信方法 | |
CN113423025A (zh) | 一种具有人工智能的数据管理终端 | |
CN105515844A (zh) | 一种提高软件定义网络可靠性的系统 | |
CN110096114B (zh) | 一种管理多个arm服务器节点的系统和方法 | |
CN109302319B (zh) | 报文池分布式集群及其管理方法 | |
CN113157796A (zh) | 一种基于微服务的数采展示系统 | |
CN102902593A (zh) | 基于缓存机制的协议分发处理系统 | |
CN113179228B (zh) | 一种提高交换机堆叠可靠性的方法、装置、设备及介质 | |
CN105550143A (zh) | 一种信息设备工况采集的接口系统 | |
CN112445590A (zh) | 一种计算资源接入及调度系统和方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |