CN113138900B - 一种数据采集处理方法、装置和电子设备 - Google Patents
一种数据采集处理方法、装置和电子设备 Download PDFInfo
- Publication number
- CN113138900B CN113138900B CN202110460748.XA CN202110460748A CN113138900B CN 113138900 B CN113138900 B CN 113138900B CN 202110460748 A CN202110460748 A CN 202110460748A CN 113138900 B CN113138900 B CN 113138900B
- Authority
- CN
- China
- Prior art keywords
- acquisition
- data
- client
- mode
- modes
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/3006—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Quality & Reliability (AREA)
- Computer And Data Communications (AREA)
Abstract
本说明书实施例提供一种数据采集处理方法,通过搭建数据采集系统,采集客户端中部署多种采集模式的数据采集模块,在分布式部署的不同服务器中部署对应不同采集模式的数据处理模块,通过远程控制模块配置各采集客户端的采集模式,采集客户端与对应采集模式的传感器建立连接按照已配置的采集模式将从传感器获取的第一数据发送至对应采集模式的服务器,服务器对数据进行处理。通过配置采集客户端的方式适配多种采集模式的传感器,提高了采集系统的适用性,通过将数据处理模块与数据采集模块分离部署,在采集客户端只部署数据采集模块,能够支持高并发地进行数据采集,提高了接入的传感器数量,进一步提高了系统承载能力。
Description
技术领域
本申请涉及计算机领域,尤其涉及一种数据采集处理方法、装置和电子设备。
背景技术
数据采集服务在很多业务中都经常用到,目前的数据采集,多是前期搭建网络线路,后续便用这个网络线路来进行数据的采集和处理,比如,通过传感器连接网络设备直到连接到服务器,服务器通过执行各种指令来进行数据的获取和处理。
然而,这种方式随着传感设备的增多,承载能力显得捉襟见肘,需要经常重新部署网络硬件,而且目前每个单一的系统多是支持一类采集模式,难以支持多家厂商的多种类型的传感器,适应性较差。
因此,有必要提供一种新的方法,以提高采集系统的适用性和承载力。
发明内容
本说明书实施例提供一种数据采集处理方法、装置和电子设备,用以提高采集系统的适用性和承载力。
本说明书实施例提供一种数据采集处理方法,包括:
搭建数据采集系统,包括:远程控制端、采集客户端和分布式部署的多个服务器,在采集客户端中部署具有多种采集模式的数据采集模块,在不同的服务器中部署对应不同采集模式的数据处理模块;
通过远程控制模块配置各采集客户端的采集模式,所述采集客户端与对应采集模式的传感器建立连接;
采集客户端按照已配置的采集模式,创建数据采集任务,将从传感器获取的第一数据发送至对应的服务器;
接收到所述第一数据的服务器对第一数据进行处理。
可选地,所述创建数据采集任务将从传感器获取的第一数据发送至对应的服务器,包括:
创建多个线程,各线程以并发的运行方式从对应的传感器中获取采样得到的第一数据。
可选地,所述通过远程控制模块配置各采集客户端的采集模式,所述采集客户端与对应采集模式的传感器建立连接,包括:
根据各采集客户端对应的业务模式确定该模式对应的被采集数据属性,根据被采集数据属性配置对应采集客户端的采集模式;
各采集客户端基于为其配置的采集模式进行设备搜索并建立通信连接。
可选地,还包括:
根据采集客户端的区域范围确定其对应的业务模式。
可选地,所述接收到所述第一数据的服务器对第一数据进行处理,包括:
所述服务器根据所述第一数据生成监测页面信息,并将所述监测页面信息返回至对应的采集客户端,是采集客户端生成并展示监测页面。
可选地,还包括:
根据第一数据的属性设置微传感器设置对应的数据上报阈值,各传感器基于数据上报阈值进行筛选,当采集的第一数据高于所述数据上报阈值时向采集客户端发送第一数据。
可选地,还包括:
接收当前客户端的扩展请求,将当前客户端设置为采集客户端并将其采集模式的配置为所述采集客户端预设空间范围内的传感器的采集模式。
可选地,还包括:
根据采集客户端的运行状态为其所连接的传感器切换采集客户端。
可选地,还包括:
根据服务器的运行状态为采集客户端切换同一采集模式的备用服务器。
可选地,所述第一数据包括环境状态数据。
可选地,所述多种采集模式包括多种通信协议。
本说明书实施例还提供一种数据采集处理装置,包括:
系统搭建模块,搭建数据采集系统,包括:远程控制端、采集客户端和分布式部署的多个服务器,在采集客户端中部署具有多种采集模式的数据采集模块,在不同的服务器中部署对应不同采集模式的数据处理模块;
模式配置模块,通过远程控制模块配置各采集客户端的采集模式,所述采集客户端与对应采集模式的传感器建立连接;
采集模块,采集客户端按照已配置的采集模式,创建数据采集任务,将从传感器获取的第一数据发送至对应的服务器;
处理模块,接收到所述第一数据的服务器对第一数据进行处理。
可选地,所述创建数据采集任务将从传感器获取的第一数据发送至对应的服务器,包括:
创建多个线程,各线程以并发的运行方式从对应的传感器中获取采样得到的第一数据。
可选地,所述通过远程控制模块配置各采集客户端的采集模式,所述采集客户端与对应采集模式的传感器建立连接,包括:
根据各采集客户端对应的业务模式确定该模式对应的被采集数据属性,根据被采集数据属性配置对应采集客户端的采集模式;
各采集客户端基于为其配置的采集模式进行设备搜索并建立通信连接。
可选地,还包括:
根据采集客户端的区域范围确定其对应的业务模式。
可选地,所述接收到所述第一数据的服务器对第一数据进行处理,包括:
所述服务器根据所述第一数据生成监测页面信息,并将所述监测页面信息返回至对应的采集客户端,是采集客户端生成并展示监测页面。
可选地,还包括:
根据第一数据的属性设置微传感器设置对应的数据上报阈值,各传感器基于数据上报阈值进行筛选,当采集的第一数据高于所述数据上报阈值时向采集客户端发送第一数据。
可选地,还包括:
接收当前客户端的扩展请求,将当前客户端设置为采集客户端并将其采集模式的配置为所述采集客户端预设空间范围内的传感器的采集模式。
可选地,还包括:
根据采集客户端的运行状态为其所连接的传感器切换采集客户端。
可选地,还包括:
根据服务器的运行状态为采集客户端切换同一采集模式的备用服务器。
可选地,所述第一数据包括环境状态数据。
可选地,所述多种采集模式包括多种通信协议。
本说明书实施例还提供一种电子设备,其中,该电子设备包括:
处理器;以及,
存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行上述任一项方法。
本说明书实施例还提供一种计算机可读存储介质,其中,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被处理器执行时,实现上述任一项方法。
本说明书实施例提供的各种技术方案通过搭建数据采集系统,采集客户端中部署多种采集模式的数据采集模块,在分布式部署的不同服务器中部署对应不同采集模式的数据处理模块,通过远程控制模块配置各采集客户端的采集模式,采集客户端与对应采集模式的传感器建立连接按照已配置的采集模式将从传感器获取的第一数据发送至对应采集模式的服务器,服务器对数据进行处理。通过配置采集客户端的方式适配多种采集模式的传感器,提高了采集系统的适用性,通过将数据处理模块与数据采集模块分离部署,在采集客户端只部署数据采集模块,能够支持高并发地进行数据采集,提高了接入的传感器数量,进一步提高了系统承载能力。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1为本说明书实施例提供的一种数据采集处理方法的原理示意图;
图2为本说明书实施例提供的一种数据采集处理装置的结构示意图;
图3为本说明书实施例提供的一种电子设备的结构示意图;
图4为本说明书实施例提供的一种计算机可读介质的原理示意图。
具体实施方式
现在将参考附图更全面地描述本发明的示例性实施例。然而,示例性实施例能够以多种形式实施,且不应被理解为本发明仅限于在此阐述的实施例。相反,提供这些示例性实施例能够使得本发明更加全面和完整,更加便于将发明构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的元件、组件或部分,因而将省略对它们的重复描述。
在符合本发明的技术构思的前提下,在某个特定的实施例中描述的特征、结构、特性或其他细节不排除可以以合适的方式结合在一个或更多其他的实施例中。
在对于具体实施例的描述中,本发明描述的特征、结构、特性或其他细节是为了使本领域的技术人员对实施例进行充分理解。但是,并不排除本领域技术人员可以实践本发明的技术方案而没有特定特征、结构、特性或其他细节的一个或更多。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
术语“和/或”或者“及/或”包括相关联的列出项目中的任一个或多者的所有组合。
图1为本说明书实施例提供的一种数据采集处理方法的原理示意图,该方法可以包括:
S101:搭建数据采集系统,包括:远程控制端、采集客户端和分布式部署的多个服务器,在采集客户端中部署具有多种采集模式的数据采集模块,在不同的服务器中部署对应不同采集模式的数据处理模块。
在本说明书实施例中,在数据采集系统中,在传感器、服务器之外,我们引入采集客户端,作为采集数据的中转站,这样,可以让数据的采集和梳理功能分离成数据采集模块和数据处理模块,让采集客户端执行简化的数据采集功能,采集客户端直接对接各种采集模式的传感器,并且以通用的协议对接服务器。
在本说明书实施例中,所述多种采集模式可以包括多种通信协议。
通过在采集客户端中部署具有多种采集模式的数据采集模块,使得整个数据采集系统可以支持接入不同通信协议的传感器硬件。
具体实施时,可以让采集客户端支持各类基于MODBUS传输协议的接口。
具体的,采集模式可以包括本地串口采集、多链路数据推送采集和网络交换设备采集。
其中,分布式的服务器,可以具有同一采集模式的主服务器和备用服务器,在特定时刻进行服务器的切换从而实现高可用性。
S102:通过远程控制模块配置各采集客户端的采集模式,所述采集客户端与对应采集模式的传感器建立连接。
在使用时,可以通过远程控制模块生成控制页面,对采集客户端的采集模式进行远程配置。这样,每个采集客户端就能够通过配置的信息与对应采集模式的传感器相适配。
由于通过远程控制模块可以调整采集模式进而调整与采集客户端相连接的传感器,因而灵活性强。
为了提高数据采集系统的扩展灵活性,使接入系统的硬件能够得到灵活地扩展,我们可以允许采集客户端发起扩展请求。
因此,在本说明书实施例中,该方法还可以包括:
接收当前客户端的扩展请求,将当前客户端设置为采集客户端并将其采集模式的配置为所述采集客户端预设空间范围内的传感器的采集模式。
当然,为了使采集客户端以自适应的方式配置采集模式,减少人为操作,我们可以创建采集模式配置指令,通过该指令自动识别每个采集客户端当前适配的采集模式并进行配置。
因此,在本说明书实施例中,所述通过远程控制模块配置各采集客户端的采集模式,所述采集客户端与对应采集模式的传感器建立连接,可以包括:
根据各采集客户端对应的业务模式确定该模式对应的被采集数据属性,根据被采集数据属性配置对应采集客户端的采集模式;
各采集客户端基于为其配置的采集模式进行设备搜索并建立通信连接。
在一种实施方式中,该方法还可以包括:
根据采集客户端的区域范围确定其对应的业务模式。
S103:采集客户端按照已配置的采集模式,创建数据采集任务,将从传感器获取的第一数据发送至对应的服务器。
由于采集客户端只执行简单的采集服务,因而能够支持高并发,这也就为采集客户端同时与多个传感器进行通信提供了可能。
因此,在本说明书实施例中,所述创建数据采集任务将从传感器获取的第一数据发送至对应的服务器,可以包括:
创建多个线程,各线程以并发的运行方式从对应的传感器中获取采样得到的第一数据。
考虑到实际应用中,如果想要进一步扩大系统的覆盖范围,增大接入的硬件数,我们可以对上传的数据进行有条件的上传,针对代表性强的数据进行上传。
因此,在本说明书实施例中,该方法还可以包括:
根据第一数据的属性设置微传感器设置对应的数据上报阈值,各传感器基于数据上报阈值进行筛选,当采集的第一数据高于所述数据上报阈值时向采集客户端发送第一数据。
在本说明书实施例中,所述第一数据可以包括环境状态数据,比如气温,亮度,风速等。
当然,第一数据还可以包括设备的运行状态数据,比如电压、电流、温度等。
S104:接收到所述第一数据的服务器对第一数据进行处理。
通过搭建数据采集系统,采集客户端中部署多种采集模式的数据采集模块,在分布式部署的不同服务器中部署对应不同采集模式的数据处理模块,通过远程控制模块配置各采集客户端的采集模式,采集客户端与对应采集模式的传感器建立连接按照已配置的采集模式将从传感器获取的第一数据发送至对应采集模式的服务器,服务器对数据进行处理。通过配置采集客户端的方式适配多种采集模式的传感器,提高了采集系统的适用性,通过将数据处理模块与数据采集模块分离部署,在采集客户端只部署数据采集模块,能够支持高并发地进行数据采集,提高了接入的传感器数量,进一步提高了系统承载能力。
在本说明书实施例中,所述接收到所述第一数据的服务器对第一数据进行处理,可以包括:
所述服务器根据所述第一数据生成监测页面信息,并将所述监测页面信息返回至对应的采集客户端,是采集客户端生成并展示监测页面。
在本说明书实施例中,还可以包括:
根据采集客户端的运行状态为其所连接的传感器切换采集客户端。
在本说明书实施例中,还可以包括:
根据服务器的运行状态为采集客户端切换同一采集模式的备用服务器。
通过切换硬件,可以在当前线路中的硬件故障时使用备用的硬件支持数据采集上报,具有高可用性。
具体实施时,可以搭建连接冗余的采集客户端和服务器,进行水平扩展。
上述实施例中,可以将不同的业务需求中采集的第一数据发送到不同采集模式的服务器。
在实际应用中,该方式能够最大限度的满足大批量传感器设备进行性能数据采集,数据的准确性高,服务维护成本更低,且可根据传感设备选择使用不同的采集模块,支持各类基于MODBUS传输协议的接口,系统使用网格服务集群,可动态水平扩展增加添加删除采集客户端,降低了运营成本。系统内置数据库且支持扩展各类主流数据库连接访问,核心语言基于JAVA虚拟机,适用于各大主流系统平台上部署或嵌入式系统,因此能在各类公共空间或室内场景使用。
而且,由于可以水平部署或垂直形式部署服务,因而能够根据在线设备数量,调整采集客户端的数量,采集服务端将采集任务交给采集客户端执行,然后采集客户端将结果返回交给数据处理模块处理数据,从而将原来集成在系统里的采集功能拆分成单独的采集程序,让采集程序仅做采集相关的工作,简化了功能。采集的过程由于仅做采集相关的工作,且采用多线程执行,极大的提高了处理能力较快,应用试验时每个采集客户端程序在1分钟内就能对5000个以上设备的数据采集并处理,因而当设备量变大时,只适当增加采集客户端即可。
具体操作时,可以通过浏览器访问授权登录进入远程控制模块的页面,选择性地进行以下操作。
首先,新建站点,设置站点名称用于区域分组。
接着,添加传感器信息,设置传感器设备类型,名称,数据采集方式(本地COM口、网络IP请求、端口数据监听),根据数据采集方式填写COM口或IP地址,串口方式还可填写波特率、数据位、停止位。
然后,编辑通道,进入设备类型展示该设备下可用的通道列表,配置其通道参数(比如,等待超时时间、通道名、通道类型、二进制指令)。
最后,配置通道策略、设置通道断网时的策略事件,当发生断网时或无信号时多久触发警报,警报触发次数达到指定数量发送短信或通知给指定监控管理联系人。
配置警报策略、设置数据阈值警报,数据的属性具体可以有以下类型:状态量、开关量、模拟量,根据数据类型(如模拟量)设置其最低点或最高点时触发的警报,警报事件可调整其发生的周期及规律性并发送对应的监控人员的接受信息。
图2为本说明书实施例提供的一种数据采集处理装置的结构示意图,该装置可以包括:
系统搭建模块201,搭建数据采集系统,包括:远程控制端、采集客户端和分布式部署的多个服务器,在采集客户端中部署具有多种采集模式的数据采集模块,在不同的服务器中部署对应不同采集模式的数据处理模块;
模式配置模块202,通过远程控制模块配置各采集客户端的采集模式,所述采集客户端与对应采集模式的传感器建立连接;
采集模块203,采集客户端按照已配置的采集模式,创建数据采集任务,将从传感器获取的第一数据发送至对应的服务器;
处理模块204,接收到所述第一数据的服务器对第一数据进行处理。
在本说明书实施例中,所述创建数据采集任务将从传感器获取的第一数据发送至对应的服务器,包括:
创建多个线程,各线程以并发的运行方式从对应的传感器中获取采样得到的第一数据。
在本说明书实施例中,所述通过远程控制模块配置各采集客户端的采集模式,所述采集客户端与对应采集模式的传感器建立连接,包括:
根据各采集客户端对应的业务模式确定该模式对应的被采集数据属性,根据被采集数据属性配置对应采集客户端的采集模式;
各采集客户端基于为其配置的采集模式进行设备搜索并建立通信连接。
在本说明书实施例中,还包括:
根据采集客户端的区域范围确定其对应的业务模式。
在本说明书实施例中,所述接收到所述第一数据的服务器对第一数据进行处理,包括:
所述服务器根据所述第一数据生成监测页面信息,并将所述监测页面信息返回至对应的采集客户端,是采集客户端生成并展示监测页面。
在本说明书实施例中,还包括:
根据第一数据的属性设置微传感器设置对应的数据上报阈值,各传感器基于数据上报阈值进行筛选,当采集的第一数据高于所述数据上报阈值时向采集客户端发送第一数据。
在本说明书实施例中,还包括:
接收当前客户端的扩展请求,将当前客户端设置为采集客户端并将其采集模式的配置为所述采集客户端预设空间范围内的传感器的采集模式。
在本说明书实施例中,还包括:
根据采集客户端的运行状态为其所连接的传感器切换采集客户端。
在本说明书实施例中,还包括:
根据服务器的运行状态为采集客户端切换同一采集模式的备用服务器。
在本说明书实施例中,所述第一数据包括环境状态数据。
在本说明书实施例中,所述多种采集模式包括多种通信协议。
该装置通过搭建数据采集系统,采集客户端中部署多种采集模式的数据采集模块,在分布式部署的不同服务器中部署对应不同采集模式的数据处理模块,通过远程控制模块配置各采集客户端的采集模式,采集客户端与对应采集模式的传感器建立连接按照已配置的采集模式将从传感器获取的第一数据发送至对应采集模式的服务器,服务器对数据进行处理。通过配置采集客户端的方式适配多种采集模式的传感器,提高了采集系统的适用性,通过将数据处理模块与数据采集模块分离部署,在采集客户端只部署数据采集模块,能够支持高并发地进行数据采集,提高了接入的传感器数量,进一步提高了系统承载能力。
基于同一发明构思,本说明书实施例还提供一种电子设备。
下面描述本发明的电子设备实施例,该电子设备可以视为对于上述本发明的方法和装置实施例的具体实体实施方式。对于本发明电子设备实施例中描述的细节,应视为对于上述方法或装置实施例的补充;对于在本发明电子设备实施例中未披露的细节,可以参照上述方法或装置实施例来实现。
图3为本说明书实施例提供的一种电子设备的结构示意图。下面参照图3来描述根据本发明该实施例的电子设备300。图3显示的电子设备300仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图3所示,电子设备300以通用计算设备的形式表现。电子设备300的组件可以包括但不限于:至少一个处理单元310、至少一个存储单元320、连接不同系统组件(包括存储单元320和处理单元310)的总线330、显示单元340等。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元310执行,使得所述处理单元310执行本说明书上述处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元310可以执行如图1所示的步骤。
所述存储单元320可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)3201和/或高速缓存存储单元3202,还可以进一步包括只读存储单元(ROM)3203。
所述存储单元320还可以包括具有一组(至少一个)程序模块3205的程序/实用工具3204,这样的程序模块3205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线330可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备300也可以与一个或多个外部设备400(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备300交互的设备通信,和/或与使得该电子设备300能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口350进行。并且,电子设备300还可以通过网络适配器360与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器360可以通过总线330与电子设备300的其它模块通信。应当明白,尽管图3中未示出,可以结合电子设备300使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,本发明描述的示例性实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个计算机可读的存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方法。当所述计算机程序被一个数据处理设备执行时,使得该计算机可读介质能够实现本发明的上述方法,即:如图1所示的方法。
图4为本说明书实施例提供的一种计算机可读介质的原理示意图。
实现图1所示方法的计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
综上所述,本发明可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)等通用数据处理设备来实现根据本发明实施例中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
以上所述的具体实施例,对本发明的目的、技术方案和有益效果进行了进一步详细说明,应理解的是,本发明不与任何特定计算机、虚拟装置或者电子设备固有相关,各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已,并不用于限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (11)
1.一种数据采集处理方法,其特征在于,包括:
搭建数据采集系统,包括:远程控制端、支持各类基于MODBUS传输协议的接口的采集客户端和分布式部署的多个服务器,将数据处理模块与数据采集模块分离部署即在采集客户端中只部署具有多种采集模式的数据采集模块,在不同的服务器中部署对应不同采集模式的数据处理模块;所述采集模式包括本地串口采集、多链路数据推送采集和网络交换设备采集;所述分布式部署的多个服务器包括在特定时刻进行切换的主服务器和备用服务器;
通过远程控制模块配置各采集客户端的采集模式,所述采集客户端与对应采集模式的传感器建立连接,具体包括:创建采集模式配置指令,通过该指令自动识别每个采集客户端当前适配的采集模式并进行配置;
通过配置采集客户端的方式适配多种采集模式的传感器,采集客户端按照已配置的采集模式,创建数据采集任务,将从传感器获取的第一数据发送至对应的服务器,具体包括:创建多个线程,各线程以并发的运行方式从对应的传感器中获取采样得到的第一数据;
接收到所述第一数据的服务器根据所述第一数据生成监测页面信息,并将所述监测页面信息返回至对应的采集客户端,采集客户端生成并展示监测页面;
根据服务器的运行状态为采集客户端切换同一采集模式的备用服务器;
所述方法还包括:根据第一数据的属性设置微传感器设置对应的数据上报阈值,各微传感器基于数据上报阈值进行筛选,当第一数据高于所述数据上报阈值时向采集客户端发送第一数据。
2.根据权利要求1所述的方法,其特征在于,所述通过远程控制模块配置各采集客户端的采集模式,所述采集客户端与对应采集模式的传感器建立连接,包括:
根据各采集客户端对应的业务模式确定该模式对应的被采集数据属性,根据被采集数据属性配置对应采集客户端的采集模式;
各采集客户端基于为其配置的采集模式进行设备搜索并建立通信连接。
3.根据权利要求1所述的方法,其特征在于,还包括:
根据采集客户端的区域范围确定其对应的业务模式。
4.根据权利要求1所述的方法,其特征在于,还包括:
接收当前客户端的扩展请求,将当前客户端设置为采集客户端并将其采集模式的配置为所述采集客户端预设空间范围内的传感器的采集模式。
5.根据权利要求1所述的方法,其特征在于,还包括:根据采集客户端的运行状态为其所连接的传感器切换采集客户端。
6.根据权利要求1所述的方法,其特征在于,还包括:根据服务器的运行状态为采集客户端切换同一采集模式的备用服务器。
7.根据权利要求1所述的方法,其特征在于,所述第一数据包括环境状态数据。
8.根据权利要求1所述的方法,其特征在于,所述多种采集模式包括多种通信协议。
9.一种数据采集处理装置,其特征在于,包括:
系统搭建模块,搭建数据采集系统,包括:远程控制端、支持各类基于MODBUS传输协议的接口的采集客户端和分布式部署的多个服务器,将数据处理模块与数据采集模块分离部署即在采集客户端中只部署具有多种采集模式的数据采集模块,在不同的服务器中部署对应不同采集模式的数据处理模块;所述采集模式包括本地串口采集、多链路数据推送采集和网络交换设备采集;所述分布式部署的多个服务器包括在特定时刻进行切换的主服务器和备用服务器;
模式配置模块,通过远程控制模块配置各采集客户端的采集模式,所述采集客户端与对应采集模式的传感器建立连接,具体包括:创建采集模式配置指令,通过该指令自动识别每个采集客户端当前适配的采集模式并进行配置;
采集模块,通过配置采集客户端的方式适配多种采集模式的传感器,采集客户端按照已配置的采集模式,创建数据采集任务,将从传感器获取的第一数据发送至对应的服务器,具体包括:创建多个线程,各线程以并发的运行方式从对应的传感器中获取采样得到的第一数据;
处理模块,接收到所述第一数据的服务器将所述监测页面信息返回至对应的采集客户端,采集客户端生成并展示监测页面;
根据服务器的运行状态为采集客户端切换同一采集模式的备用服务器;
所述装置还包括:根据第一数据的属性设置微传感器设置对应的数据上报阈值,各微传感器基于数据上报阈值进行筛选,当第一数据高于所述数据上报阈值时向采集客户端发送第一数据,并根据所述第一数据生成监测页面信息。
10.一种电子设备,其中,该电子设备包括:
处理器;以及,
存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行根据权利要求1-8中任一项所述的方法。
11.一种计算机可读存储介质,其中,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被处理器执行时,实现权利要求1-8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110460748.XA CN113138900B (zh) | 2021-04-27 | 2021-04-27 | 一种数据采集处理方法、装置和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110460748.XA CN113138900B (zh) | 2021-04-27 | 2021-04-27 | 一种数据采集处理方法、装置和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113138900A CN113138900A (zh) | 2021-07-20 |
CN113138900B true CN113138900B (zh) | 2023-06-16 |
Family
ID=76816163
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110460748.XA Active CN113138900B (zh) | 2021-04-27 | 2021-04-27 | 一种数据采集处理方法、装置和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113138900B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116233078A (zh) * | 2023-01-17 | 2023-06-06 | 山东锐智科电检测仪器有限公司 | 一种用于无损检测的数据实时传输装置和方法 |
CN116112499B (zh) * | 2023-04-13 | 2023-06-20 | 国能日新科技股份有限公司 | 数据采集系统的构建方法及数据采集方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101322111A (zh) * | 2005-04-07 | 2008-12-10 | 杉桥技术公司 | 每个线程具有多个并发流水线的多线程处理器 |
CN201263162Y (zh) * | 2008-09-28 | 2009-06-24 | 深圳华为通信技术有限公司 | 无线网关 |
CN201733450U (zh) * | 2010-06-30 | 2011-02-02 | 华为终端有限公司 | 无线接入设备 |
CN106161096A (zh) * | 2016-07-15 | 2016-11-23 | 北京奇虎科技有限公司 | 端口配置方法及装置 |
CN107784573A (zh) * | 2017-10-26 | 2018-03-09 | 海闻科技有限公司 | 一种税务管理平台业务系统 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105976588A (zh) * | 2016-05-20 | 2016-09-28 | 清华大学合肥公共安全研究院 | 桥梁分布式监测综合处理系统 |
CN108415908B (zh) * | 2017-02-09 | 2021-12-10 | 腾讯科技(北京)有限公司 | 一种多媒体数据的处理方法及服务器 |
CN108984542A (zh) * | 2017-05-31 | 2018-12-11 | 北京京东尚科信息技术有限公司 | 分布式数据采集方法和系统 |
CN108614478A (zh) * | 2018-04-16 | 2018-10-02 | 深圳市赑玄阁科技有限公司 | 一种远程气象数据监测系统及其方法 |
CN111224817A (zh) * | 2020-04-21 | 2020-06-02 | 重庆鲲量科技有限公司 | 一种分布式微采集系统及其方法 |
CN111597174A (zh) * | 2020-04-24 | 2020-08-28 | 重庆科技学院 | 一种分布式数据统计处理系统、方法、存储介质、终端 |
CN112463338A (zh) * | 2020-12-08 | 2021-03-09 | 中国建设银行股份有限公司 | 公积金业务处理方法、装置、电子设备及介质 |
-
2021
- 2021-04-27 CN CN202110460748.XA patent/CN113138900B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101322111A (zh) * | 2005-04-07 | 2008-12-10 | 杉桥技术公司 | 每个线程具有多个并发流水线的多线程处理器 |
CN201263162Y (zh) * | 2008-09-28 | 2009-06-24 | 深圳华为通信技术有限公司 | 无线网关 |
CN201733450U (zh) * | 2010-06-30 | 2011-02-02 | 华为终端有限公司 | 无线接入设备 |
CN106161096A (zh) * | 2016-07-15 | 2016-11-23 | 北京奇虎科技有限公司 | 端口配置方法及装置 |
CN107784573A (zh) * | 2017-10-26 | 2018-03-09 | 海闻科技有限公司 | 一种税务管理平台业务系统 |
Non-Patent Citations (2)
Title |
---|
周辉.《互联网信息监测系统研究》.2015,正文第84页. * |
肖德宝 等.《网络管理理论与技术》.2009,正文104-108页. * |
Also Published As
Publication number | Publication date |
---|---|
CN113138900A (zh) | 2021-07-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7562247B2 (en) | Providing independent clock failover for scalable blade servers | |
CN113138900B (zh) | 一种数据采集处理方法、装置和电子设备 | |
CN110908879A (zh) | 埋点数据的上报方法、装置、终端和存储介质 | |
CN110320891B (zh) | 轨道车辆制动系统can总线报文维护监控系统及监控方法 | |
CN102819478B (zh) | 一种无代理的数据处理系统监控与管理方法 | |
CN111913818B (zh) | 一种确定服务间依赖关系的方法及相关装置 | |
CN109672722B (zh) | 数据部署方法及装置、计算机存储介质和电子设备 | |
CN111190888A (zh) | 一种管理图数据库集群的方法和装置 | |
CN111046011A (zh) | 日志收集方法、系统、节点、电子设备及可读存储介质 | |
CN104618455A (zh) | 一种通用缓存系统及其方法 | |
CN112468406B (zh) | 流量阈值的确定方法及装置 | |
CN109684038B (zh) | Docker服务容器日志的处理方法、装置和电子设备 | |
CN110717132A (zh) | 全链路监控系统数据收集方法、推送方法及相关设备 | |
EP3961985A1 (en) | Intent-based distributed alarm service | |
CN107463490B (zh) | 一种应用于平台开发中的集群日志集中收集方法 | |
CN114185734B (zh) | 一种监控集群的方法、装置及电子设备 | |
CN112615909B (zh) | 在级联存储服务器集群中存储数据的方法及相关设备 | |
CN116700779A (zh) | 代码动态调整方法、装置、设备、介质和程序产品 | |
CN112685486B (zh) | 数据库集群的数据管理方法、装置、电子设备及存储介质 | |
CN111698109A (zh) | 监控日志的方法和装置 | |
CN113031969B (zh) | 设备部署巡检方法、装置、计算机设备及存储介质 | |
CN104734914A (zh) | 一种用于网络监控的方法、设备与系统 | |
JP7307766B2 (ja) | トラフィック調整方法、装置、電子機器、コンピュータ可読記録媒体及びコンピュータプログラム | |
CN114816914A (zh) | 基于Kubernetes的数据处理方法、设备及介质 | |
CN115022351A (zh) | 一种换电数据的存储方法、装置、系统及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |