CN110516129B - 一种数据处理方法及装置 - Google Patents
一种数据处理方法及装置 Download PDFInfo
- Publication number
- CN110516129B CN110516129B CN201910815231.0A CN201910815231A CN110516129B CN 110516129 B CN110516129 B CN 110516129B CN 201910815231 A CN201910815231 A CN 201910815231A CN 110516129 B CN110516129 B CN 110516129B
- Authority
- CN
- China
- Prior art keywords
- data
- sensor
- marine environment
- environment data
- marine
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/906—Clustering; Classification
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Testing Or Calibration Of Command Recording Devices (AREA)
Abstract
本发明提供一种数据处理方法及装置,获取传感器采集的采集点处的海洋环境数据,采集点为预先确定,对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,预先构建的时序数据库中包括组件信息存储区和数据存储区,该组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,其中,数据存储区包括不同类别对应的存储区。利用构建的具有分布式结构的时序数据库,存储不同类别的海洋环境数据,解决了当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能被用户调用的问题。
Description
技术领域
本发明属于计算机技术领域,具体为涉及一种数据处理方法及装置。
背景技术
随着科学技术的进步,数据信息时代的到来,近几年来信息量快速发展,涉及到的领域非常多,其中,就包括了对海洋的探索。在探索海洋领域的过程中,对获得的海洋环境数据在数据库中进行集中式管理。
但是,以集中式的管理方式管理海洋环境数据,当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能够被用户调用的问题。
发明内容
有鉴于此,本发明的目的在于提供一种数据处理方法及装置,用于解决当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能够被用户调用的问题。技术方案如下:
本发明提供一种数据处理方法,所述方法包括:
获取传感器采集的采集点处的海洋环境数据,所述采集点为预先确定;
对所述海洋环境数据进行处理并分类,获得不同类别的海洋环境数据;
按照不同类别将所述海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,所述预先构建的时序数据库中包括组件信息存储区和数据存储区,所述组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,所述数据存储区包括不同类别的存储区。
优选的,构建时序数据库的过程,包括:
构建用于存储传感器基础信息的传感器表,所述传感器表包括所述传感器的身份标识ID、所述传感器所属的采集点的身份标识ID、所述传感器的名称、所述传感器的工作状态和所述传感器采集的海洋环境数据的数据类别;
构建用于存储采集点基础信息的采集点表,所述采集点表包括所述采集点的身份标识ID、所述采集点的位置信息、所述采集点中的传感器类型;
构建用于存储不同类别的海洋环境数据的数据表,所述数据表包括海洋环境数据类别、海洋深度的环境数据、海洋角度的环境数据、海洋经度和纬度的环境数据。
优选的,构建用于存储不同类别的海洋环境数据表,包括:
构建温盐深CTD表、溶解氧SEB63表、甲烷mets表和单点海流计rcm表。
优选的,所述对所述海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,包括:
对所述传感器采集的海洋环境数据进行数据解压缩处理,并判断解压缩后的数据的有效性,获得有效的第一数据;
将所述第一数据进行数据标准化处理,获得第二数据;
将所述第二数据进行数据排重处理,获得第三数据;
对所述第三数据进行数据质量控制处理,获得经过数据处理后的海洋环境数据;
将所述经过数据处理后的海洋环境数据进行分类,获得不同类别的海洋环境数据。
优选的,若所述海洋环境数据的类别包括温度、盐度、氧气、甲烷和海流速度,所述按照不同类别将所述海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,包括:
确定各个采集点处的深度数据、经度数据和纬度数据;
根据各个传感器采集所述采集点处的温度、盐度、氧气、甲烷和海流速度的时间顺序,分别将采集到的温度数据、盐度数据、氧气含量数据、甲烷含量数据、东西海流速度数据和南北海流速度数据结合所述深度数据、经度数据和纬度数据存储于对应的不同类别的存储区中。
本发明还提供一种数据处理装置,所述装置包括:
获取模块,用于获取传感器采集的采集点处的海洋环境数据,所述采集点为预先确定;
处理模块,用于对所述海洋环境数据进行处理并分类,获得不同类别的海洋环境数据;
存储模块,用于按照不同类别将所述海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,所述预先构建的时序数据库中包括组件信息存储区和数据存储区,所述组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,所述数据存储区包括不同类别的存储区。
优选的,所述存储模块,包括:
第一构建单元,用于构建用于存储传感器基础信息的传感器表,所述传感器表包括所述传感器的身份标识ID、所述传感器所属的采集点的身份标识ID、所述传感器的名称、所述传感器的工作状态和所述传感器采集的海洋环境数据的数据类别;
第二构建单元,用于构建用于存储采集点基础信息的采集点表,所述采集点表包括所述采集点的身份标识ID、所述采集点的位置信息、所述采集点中的传感器类型;
第三构建单元,用于构建用于存储不同类别的海洋环境数据的数据表,所述数据表包括海洋环境数据类别、海洋深度的环境数据、海洋角度的环境数据、海洋经度和纬度的环境数据。
优选的,所述第三构建单元,包括:
构建子单元,用于构建温盐深CTD表、溶解氧SEB63表、甲烷mets表和单点海流计rcm表。
优选的,所述处理模块,包括:
数据解压缩处理单元,用于对所述传感器采集的海洋环境数据进行数据解压缩处理,并判断解压缩后的数据的有效性,获得有效的第一数据;
数据标准化处理单元,用于将所述第一数据进行数据标准化处理,获得第二数据;
数据排重处理单元,用于将所述第二数据进行数据排重处理,获得第三数据;
数据质量控制处理单元,用于对所述第三数据进行数据质量控制处理,获得经过数据处理后的海洋环境数据;
分类单元,用于将所述经过数据处理后的海洋环境数据进行分类,获得不同类别的海洋环境数据。
优选的,所述存储模块,包括:
确定单元,用于确定各个采集点处的深度数据、经度数据和纬度数据;
存储单元,用于根据各个传感器采集所述采集点处的温度、盐度、氧气、甲烷和海流速度的时间顺序,分别将采集到的温度数据、盐度数据、氧气含量数据、甲烷含量数据、东西海流速度数据和南北海流速度数据结合所述深度数据、经度数据和纬度数据存储于对应的不同类别的存储区中。
与现有技术相比,本发明提供的上述技术方案具有如下优点:
获取传感器采集的采集点处的海洋环境数据,其中,采集点为预先确定,对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,其中,预先构建的时序数据库中包括组件信息存储区和数据存储区,该组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,其中,数据存储区包括不同类别对应的存储区。利用构建的具有分布式结构的时序数据库,存储不同类别的海洋环境数据,解决了当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能被用户调用的问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种数据处理方法的流程图;
图2是本发明实施例提供的一种构建时序数据库的流程图;
图3是本发明实施例提供的一种构建用于存储不同类别的海洋环境数据的数据表的流程图;
图4是本发明实施例提供的一种获得不同类别的海洋环境数据的流程图;
图5是本发明实施例提供的一种按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中的流程图;
图6是本发明实施例提供的一种数据处理装置的结构示意图。
具体实施方式
本发明提供了一种数据处理方法及装置,用于解决当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能够被用户调用的问题。
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,示出了本发明实施例提供的一种数据处理方法,该方法包括以下步骤:
S101:获取传感器采集的采集点处的海洋环境数据。
在S101中,采集点在本发明实施例中是预先确定的。
在执行S101的过程中,在预先确定的采集点处存在多个传感器,其中,多个传感器中每个传感器在采集点处采集的海洋环境数据的数据类别不同,即不同类别的传感器,采集对应类别的海洋环境数据。
例如:在一个采集点处,存在多个传感器,其中,包括温度传感器、深度传感器、甲烷传感器和盐度传感器等,温度传感器主要对海洋中采集点处的温度数据进行采集;深度传感器主要对海洋中采集点处的深度数据进行采集;甲烷传感器主要对海洋中采集点处的甲烷含量数据进行采集;盐度传感器主要对海洋采集点处的盐度含量数据进行采集。
需要说明的是,包括但不限于上述例举的温度传感器、深度传感器、甲烷传感器和盐度传感器,具体的可根据实际情况在采集点处布置相应的传感器类型,以便于对相应的海洋环境数据进行采集。
S102:对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据。
在执行S102的过程中,通过传感器在采集点处采集海洋环境数据后,将获得海洋环境数据进行数据处理,获得数据处理后的海洋环境数据。然后对经过数据处理后的海洋环境数据进行分类,获得不同类别的海洋环境数据。
例如:甲烷传感器采集的甲烷含量数据的格式为十六进制的数据,海流传感器采集的海流速度数据的格式为八进制的数据,则需要将这些不同数据格式的海洋环境数据统一转换成十进制,然后对转换成十进制的不同类别的海洋环境数据进行分类。
需要说明的是,经过数据处理后的海洋环境数据,可以从大量的、杂乱无章的和难以理解的海洋环境数据中抽取并推导出有价值和有意义的数据。
S103:按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中。
在S103中,预先构建的时序数据库中包括组件信息存储区和数据存储区,其中,组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,该数据存储区包括不同类别的海洋环境数据对应的存储区。
在执行S103的过程中,根据预先构建的时序数据库中不同的类别的存储区,将经过数据处理以及分类后的海洋环境数据,存储进预先构建的时序数据库相应的存储区中。这样使得时序数据库中,不同类别的存储区存储相应的数据。
需要说明的是,当时序数据库中,某个存储区损坏时,虽然该损坏的存储区中的海洋环境数据不能被用户所调用,但是,其它存储区中的海洋环境数据不被该损坏的存储区所影响,即其它存储区中海洋环境数据被用户调用时不被影响。
例如:预先构建的时序数据库中,存在3个存储区,其中,3个存储区存储的海洋环境数据的类别为:存储区A存储的是甲烷含量数据、存储区B存储的是氧气含量数据和存储区C存储的是海流速度数据。当存储区A损坏时,存储区A中的甲烷含量数据,不能被用户所调用。但是,存储区B中的氧气含量数据和存储区C中的海流速度能被用户所调用。
需要说明的是,预先构建的时序数据库中的各个存储区相互独立。
需要说明的是,构建时序数据库的具体实现过程,如图2所示,主要包括:
S201:构建用于存储传感器基础信息的传感器表。
在执行S201的过程中,通过创建该传感器身份标识ID的表头、传感器所属的采集点的身份标识ID的表头、传感器名称的表头、传感器的工作状态的表头以及传感器采集的海洋环境数据的数据类别的表头,然后根据上述创建的各类表头,形成传感器表。
需要说明的是,在本发明实施例中包括但不限于上述创建的传感器表的各类表头,具体的还需要创建采集点表中的哪些表头,可根据实际情况进行增加,这里不再进行赘述。
S202:构建用于存储采集点基础信息的采集点表。
在执行S202的过程中,通过创建该采集点身份标识ID的表头、采集点的位置信息的表头以及采集点中传感器类型的表头,然后根据上述创建的各类表头,形成采集点表。
需要说明的是,在本发明实施例中包括但不限于上述创建的采集点表的各类表头,具体的还需要创建采集点表中的哪些表头,可根据实际情况进行增加,这里不再进行赘述。
S203:构建用于存储不同类别的海洋环境数据的数据表。
在执行S203的过程中,根据不同类别的海洋环境数据,构建对应类别的数据表。
基于上述本发明实施例公开的S203,构建用于存储不同类别的海洋环境数据的数据表的具体实现过程,如图3所示,主要包括:
S301:构建温盐深CTD表。
在执行S301的过程中,通过创建温度数据、盐度数据和深度数据的表头,其中,温度数据、盐度数据和深度数据共用同一个表头、经度数据和纬度数据的表头,根据上述创建的各类表头,形成温盐深表。
需要说明的是,在本发明实施例中包括但不限于上述创建的温盐深表的各类表头,具体的还需要创建温盐深表中的哪些表头,可根据实际情况进行增加,这里不再进行赘述。
S302:构建溶解氧SEB63表。
在执行S302的过程中,通过创建氧气含量数据的表头、深度数据的表头、经度数据和纬度数据的表头,根据上述创建的各类表头,形成溶解氧SEB63表。
需要说明的是,在本发明实施例中包括但不限于上述创建的溶解氧SEB63表的各类表头,具体的还需要创建溶解氧SEB63表中的哪些表头,可根据实际情况进行增加,这里不再进行赘述。
S303:构建甲烷mets表。
在执行S303的过程中,通过创建甲烷含量数据的表头、深度数据的表头、经度数据和纬度数据的表头,根据上述创建的各类表头,形成甲烷mets表。
需要说明的是,在本发明实施例中包括但不限于上述创建的甲烷mets表的各类表头,具体的还需要创建甲烷mets表中的哪些表头,可根据实际情况进行增加,这里不再进行赘述。
S304:构建单点海流计rcm表。
在执行S304的过程中,通过创建东西海流速度数据的表头、南北海流速度的表头、姿态角数据的表头、深度数据的表头、经度数据和纬度数据的表头,根据上述创建的各类表头,形成单点海流计rcm表。
需要说明的是,在本发明实施例中包括但不限于上述创建的单点海流计rcm表的各类表头,具体的还需要创建单点海流计rcm表中的哪些表头,可根据实际情况进行增加,这里不再进行赘述。
根据上述本发明实施例公开的数据处理方法可知,获取传感器采集的采集点处的海洋环境数据,其中,采集点为预先确定,对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,其中,预先构建的时序数据库中包括组件信息存储区和数据存储区,该组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,其中,数据存储区包括不同类别对应的存储区。利用构建的具有分布式结构的时序数据库,存储不同类别的海洋环境数据,解决了当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能被用户调用的问题。
基于上述本发明实施例图1公开的数据处理方法,图1示出的S102:对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据的具体实现过程,如图4所示,主要包括:
S401:对传感器采集的海洋环境数据进行数据解压缩处理,并判断解压缩后的数据的有效性,获得有效的第一数据。
在执行S401的过程中,由于传感器采集的海洋环境数据,在海洋中采用声学传输,在传输的过程中,受到物理条件的限制传输速率很低。因此,在传输之前对海洋环境数据进行压缩,后端在获得传感器传回来的压缩数据时,要对海洋环境数据进行数据预处理,首先对该压缩包进行解压缩,获得解压缩后的海洋环境数据。
但是,解压缩的过程中,可能会使得海洋环境数据出现乱码,或者压缩的海洋环境数据不能正常使用。因此,还需要对解压缩后的海洋环境数据进行有效性审核,以判断传感器传输回来的海洋环境数据是否是压缩前的海洋环境数据。
S402:将第一数据进行数据标准化处理,获得第二数据。
在执行S402的过程中,对解压缩后的海洋环境数据进行有效性审核后,基于建立的标准化存储格式,对该海洋环境数据的编码格式进行统一,同时对海洋环境数据进行一定的筛选,剔除无用的数据信息,获得数据标准化后的海洋环境数据,即第二数据。
需要说明的是,由于各个传感器的型号不同,采集海洋环境数据可能存在多种编码形式,因此需要对海洋环境数据的编码格式进行统一。
S403:将第二数据进行数据排重处理,获得第三数据。
在执行S403的过程中,对标准化处理后的海洋环境数据,还需要进行数据排重处理,排除重复的数据。具体的,采用程序排重的方式,排除重复的海洋环境数据,对于程序不能排除的海洋环境数据,根据人工剃重的方式,排除重复的海洋环境数据。
S404:对第三数据进行数据质量控制处理,获得经过数据处理后的海洋环境数据。
在执行S404的过程中,由于,传感器采集海洋环境数据的过程中,或海洋环境数据在传输的过程中,海洋环境数据会出现数据缺失和数据错误的情况,针对该情况,需要对数据排重处理后的海洋环境数据,进行数据质量控制处理。具体的,针对错误的海洋环境数据进行修正错误数据处理和剔除明显错误的数据处理。
例如:在一段时间内,由于传感器器出现问题,因此采集的海洋环境数据与实际值有很大的差别,这些与实际值差别很大的海洋环境数据没有任何意义,需要对这些没有意义的数据进行删除。而如果采集的海洋环境数据与实际值差别很小,则根据统计学的方法对数据进行修正。
S405:将经过数据处理后的海洋环境数据进行分类,获得不同类别的海洋环境数据。
根据上述本发明实施例公开的数据处理方法可知,获取传感器采集的采集点处的海洋环境数据,其中,采集点为预先确定,对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,其中,预先构建的时序数据库中包括组件信息存储区和数据存储区,该组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,其中,数据存储区包括不同类别对应的存储区。利用构建的具有分布式结构的时序数据库,存储不同类别的海洋环境数据,解决了当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能被用户调用的问题。
基于上述本发明实施例公开的数据处理方法涉及到的,若海洋环境数据的类别包括温度、盐度、氧气、甲烷和海流速度,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中的具体实现过程,如图5所示,主要包括:
S501:确定各个采集点处的深度数据、经度数据和纬度数据。
在执行S501的过程中,根据特定的设备确定各个采集点处的深度数据、经度数据和纬度数据。
S502:根据各个传感器采集所述采集点处的温度、盐度、氧气、甲烷和海流速度的时间顺序,分别将采集到的温度数据、盐度数据、氧气含量数据、甲烷含量数据、东西海流速度数据和南北海流速度数据结合所述深度数据、经度数据和纬度数据存储于对应的不同类别的存储区中。
在执行S502的过程中,根据存储的时间顺序,将温度数据、盐度数据、深度数据、经度数据和纬度数据,存储在温盐深CTD表中,其中,存储的时间顺序指的是,每次传感器采集海洋环境数据,将海洋环境数据经过数据处理和分类后,存储至时序数据库中对应存储区的时间。
同理,根据存储的时间顺序,将氧气含量数据、深度数据、经度数据和纬度数据,存储在溶解氧SEB63表中。
同理,根据存储的时间顺序,将甲烷含量数据、深度数据、经度数据和纬度数据,存储在甲烷mets表中。
同理,根据存储的时间顺序,将东西海流速度数据、南北海流速度数据、姿态角数据、深度数据、经度数据和纬度数据,存储在单点海流计rcm表中。
根据上述本发明实施例公开的数据处理方法可知,获取传感器采集的采集点处的海洋环境数据,其中,采集点为预先确定,对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,其中,预先构建的时序数据库中包括组件信息存储区和数据存储区,该组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,其中,数据存储区包括不同类别对应的存储区。利用构建的具有分布式结构的时序数据库,存储不同类别的海洋环境数据,解决了当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能被用户调用的问题。
基于上述本发明实施例公开的数据处理方法,本发明实施例还对应公开了一种数据处理装置,如图6所示,为本发明实施例提供的一种数据处理装置的结构示意图,主要包括:获取模块60、处理模块61和存储模块62。
获取模块60,用于获取传感器采集的采集点处的海洋环境数据,所述采集点为预先确定。
处理模块61,用于对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据。
存储模块62,用于按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,预先构建的时序数据库中包括组件信息存储区和数据存储区,组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,数据存储区包括不同类别的存储区。
在本发明实施例中存储模块62的一种可选结构为:存储模块62包括第一构建单元、第二构建单元格第三构建单元。
第一构建单元,用于构建用于存储传感器基础信息的传感器表,传感器表包括传感器的身份标识ID、传感器所属的采集点的身份标识ID、传感器的名称、传感器的工作状态和传感器采集的海洋环境数据的数据类别。
第二构建单元,用于构建用于存储采集点基础信息的采集点表,采集点表包括采集点的身份标识ID、采集点的位置信息、采集点中的传感器类型。
第三构建单元,用于构建用于存储不同类别的海洋环境数据的数据表,数据表包括海洋环境数据类别、海洋深度的环境数据、海洋角度的环境数据、海洋经度和纬度的环境数据。
具体的,第三构建单元包括:构建子单元。
构建子单元,用于构建温盐深CTD表、溶解氧SEB63表、甲烷mets表和单点海流计rcm表。
在本发明实施例中存储模块62的另一种可选结构为:存储模块62还包括:确定单元和存储单元。
确定单元,用于确定各个采集点处的深度数据、经度数据和纬度数据。
存储单元,用于根据各个传感器采集所述采集点处的温度、盐度、氧气、甲烷和海流速度的时间顺序,分别将采集到的温度数据、盐度数据、氧气含量数据、甲烷含量数据、东西海流速度数据和南北海流速度数据结合所述深度数据、经度数据和纬度数据存储于对应的不同类别的存储区中。
在本发明实施例中处理模块61的一种可选结构为:处理模块61包括第一获得单元、第二获得单元、第三获得单元、第四获得单元和第五获得单元。
数据解压缩处理单元,用于对传感器采集的海洋环境数据进行数据解压缩处理,并判断解压缩后的数据的有效性,获得有效的第一数据。
数据标准化处理单元,用于将第一数据进行数据标准化处理,获得第二数据。
数据排重处理单元,用于将第二数据进行数据排重处理,获得第三数据。
数据质量控制处理单元,用于对第三数据进行数据质量控制处理,获得经过数据处理后的海洋环境数据。
分类单元,用于将经过数据处理后的海洋环境数据进行分类,获得不同类别的海洋环境数据。
根据上述本发明实施例公开的数据处理装置可知,获取传感器采集的采集点处的海洋环境数据,其中,采集点为预先确定,对海洋环境数据进行处理并分类,获得不同类别的海洋环境数据,按照不同类别将海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,其中,预先构建的时序数据库中包括组件信息存储区和数据存储区,该组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,其中,数据存储区包括不同类别对应的存储区。利用构建的具有分布式结构的时序数据库,存储不同类别的海洋环境数据,解决了当用于集中式管理海洋环境数据的数据库出现损坏时,会导致出现整个数据库中的海洋环境数据都不能被用户调用的问题。
需要说明的是,本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。对于装置类实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
对所公开的实施例的上述说明,使本领域技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (6)
1.一种数据处理方法,其特征在于,所述方法包括:
获取传感器采集的采集点处的海洋环境数据,所述采集点为预先确定;
对所述传感器采集的海洋环境数据进行数据解压缩处理,并判断解压缩后的数据的有效性,获得有效的第一数据;
将所述第一数据进行数据标准化处理,获得第二数据;
将所述第二数据进行数据排重处理,获得第三数据;
对所述第三数据进行数据质量控制处理,获得经过数据处理后的海洋环境数据;
将所述经过数据处理后的海洋环境数据进行分类,获得不同类别的海洋环境数据;
按照不同类别将所述海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,所述预先构建的时序数据库中包括组件信息存储区和数据存储区,所述组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,所述数据存储区包括不同类别的存储区,所述预先构建的时序数据库中的各个存储区相互独立,以使用户在用于集中式管理海洋环境数据的数据库出现损坏时对海洋环境数据进行调用;
构建时序数据库的过程,包括:
构建用于存储传感器基础信息的传感器表,所述传感器表包括所述传感器的身份标识ID、所述传感器所属的采集点的身份标识ID、所述传感器的名称、所述传感器的工作状态和所述传感器采集的海洋环境数据的数据类别;
构建用于存储采集点基础信息的采集点表,所述采集点表包括所述采集点的身份标识ID、所述采集点的位置信息、所述采集点中的传感器类型;
构建用于存储不同类别的海洋环境数据的数据表,所述数据表包括海洋环境数据类别、海洋深度的环境数据、海洋角度的环境数据、海洋经度和纬度的环境数据。
2.根据权利要求1所述的方法,其特征在于,构建用于存储不同类别的海洋环境数据表,包括:
构建温盐深CTD表、溶解氧SEB63表、甲烷mets表和单点海流计rcm表。
3.根据权利要求1所述的方法,其特征在于,若所述海洋环境数据的类别包括温度、盐度、氧气、甲烷和海流速度,所述按照不同类别将所述海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,包括:
确定各个采集点处的深度数据、经度数据和纬度数据;
根据各个传感器采集所述采集点处的温度、盐度、氧气、甲烷和海流速度的时间顺序,分别将采集到的温度数据、盐度数据、氧气含量数据、甲烷含量数据、东西海流速度数据和南北海流速度数据结合所述深度数据、经度数据和纬度数据存储于对应的不同类别的存储区中。
4.一种数据处理装置,其特征在于,所述装置包括:
获取模块,用于获取传感器采集的采集点处的海洋环境数据,所述采集点为预先确定;
处理模块,用于对所述海洋环境数据进行处理并分类,获得不同类别的海洋环境数据;
存储模块,用于按照不同类别将所述海洋环境数据存储于预先构建的时序数据库中对应不同类别的存储区中,所述预先构建的时序数据库中包括组件信息存储区和数据存储区,所述组件信息存储区包括用于存储传感器基础信息的第一存储区,用于存储采集点基础信息的第二存储区,所述数据存储区包括不同类别的存储区,所述预先构建的时序数据库中的各个存储区相互独立,以使用户在用于集中式管理海洋环境数据的数据库出现损坏时对海洋环境数据进行调用;
所述存储模块,包括:
第一构建单元,用于构建用于存储传感器基础信息的传感器表,所述传感器表包括所述传感器的身份标识ID、所述传感器所属的采集点的身份标识ID、所述传感器的名称、所述传感器的工作状态和所述传感器采集的海洋环境数据的数据类别;
第二构建单元,用于构建用于存储采集点基础信息的采集点表,所述采集点表包括所述采集点的身份标识ID、所述采集点的位置信息、所述采集点中的传感器类型;
第三构建单元,用于构建用于存储不同类别的海洋环境数据的数据表,所述数据表包括海洋环境数据类别、海洋深度的环境数据、海洋角度的环境数据、海洋经度和纬度的环境数据;
所述处理模块,包括:
数据解压缩处理单元,用于对所述传感器采集的海洋环境数据进行数据解压缩处理,并判断解压缩后的数据的有效性,获得有效的第一数据;
数据标准化处理单元,用于将所述第一数据进行数据标准化处理,获得第二数据;
数据排重处理单元,用于将所述第二数据进行数据排重处理,获得第三数据;
数据质量控制处理单元,用于对所述第三数据进行数据质量控制处理,获得经过数据处理后的海洋环境数据;
分类单元,用于将所述经过数据处理后的海洋环境数据进行分类,获得不同类别的海洋环境数据。
5.根据权利要求4所述的装置,其特征在于,所述第三构建单元,包括:
构建子单元,用于构建温盐深CTD表、溶解氧SEB63表、甲烷mets表和单点海流计rcm表。
6.根据权利要求4所述的装置,其特征在于,所述存储模块,包括:
确定单元,用于确定各个采集点处的深度数据、经度数据和纬度数据;存储单元,用于根据各个传感器采集所述采集点处的温度、盐度、氧气、甲烷和海流速度的时间顺序,分别将采集到的温度数据、盐度数据、氧气含量数据、甲烷含量数据、东西海流速度数据和南北海流速度数据结合所述深度数据、经度数据和纬度数据存储于对应的不同类别的存储区中。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910815231.0A CN110516129B (zh) | 2019-08-30 | 2019-08-30 | 一种数据处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910815231.0A CN110516129B (zh) | 2019-08-30 | 2019-08-30 | 一种数据处理方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110516129A CN110516129A (zh) | 2019-11-29 |
CN110516129B true CN110516129B (zh) | 2022-07-01 |
Family
ID=68629570
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910815231.0A Active CN110516129B (zh) | 2019-08-30 | 2019-08-30 | 一种数据处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110516129B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113486126A (zh) * | 2021-07-20 | 2021-10-08 | 西安地球环境创新研究院 | 一种地下水大数据平台 |
CN116225338B (zh) * | 2023-03-13 | 2023-11-14 | 湖北华中电力科技开发有限责任公司 | 基于时序信息与存储信息的数据处理方法及装置 |
CN117691757A (zh) * | 2024-02-04 | 2024-03-12 | 国网山东省电力公司泰安供电公司 | 一种微电网状态监测方法及系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103870542A (zh) * | 2014-02-25 | 2014-06-18 | 中国人民解放军92859部队 | 一种基于地理分片和动态建表的海洋环境数据存储方法 |
US8767063B1 (en) * | 2013-07-26 | 2014-07-01 | Berger Geosciences, LLC | System for monitoring a marine well for shallow-water flow |
CN104252665A (zh) * | 2014-09-16 | 2014-12-31 | 国家海洋信息中心 | 一种海洋环境监测数据管理方法及系统 |
CN106679716A (zh) * | 2016-08-02 | 2017-05-17 | 芜湖航飞科技股份有限公司 | 一种基于北斗系统的海洋环境监测数据传输系统 |
CN107992584A (zh) * | 2017-12-08 | 2018-05-04 | 中国船舶重工集团公司第七二四研究所 | 一种海洋大数据分类解析与网格化存储方法 |
-
2019
- 2019-08-30 CN CN201910815231.0A patent/CN110516129B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8767063B1 (en) * | 2013-07-26 | 2014-07-01 | Berger Geosciences, LLC | System for monitoring a marine well for shallow-water flow |
CN103870542A (zh) * | 2014-02-25 | 2014-06-18 | 中国人民解放军92859部队 | 一种基于地理分片和动态建表的海洋环境数据存储方法 |
CN104252665A (zh) * | 2014-09-16 | 2014-12-31 | 国家海洋信息中心 | 一种海洋环境监测数据管理方法及系统 |
CN106679716A (zh) * | 2016-08-02 | 2017-05-17 | 芜湖航飞科技股份有限公司 | 一种基于北斗系统的海洋环境监测数据传输系统 |
CN107992584A (zh) * | 2017-12-08 | 2018-05-04 | 中国船舶重工集团公司第七二四研究所 | 一种海洋大数据分类解析与网格化存储方法 |
Non-Patent Citations (1)
Title |
---|
海洋环境数据存储技术的研究与实现;赵美珍;《舰船电子工程》;20120930;第104-107页 * |
Also Published As
Publication number | Publication date |
---|---|
CN110516129A (zh) | 2019-11-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110516129B (zh) | 一种数据处理方法及装置 | |
CN107305587A (zh) | 周边信息收集系统以及周边信息获取装置 | |
Warren et al. | The Birmingham Urban Climate Laboratory—A high density, urban meteorological dataset, from 2012–2014 | |
CN109104688A (zh) | 使用聚集技术生成无线网络接入点模型 | |
JP2019512764A (ja) | ユーザ地理的ロケーションのタイプを識別するための方法および装置 | |
CN104462606B (zh) | 一种基于日志数据确定诊断处理措施的方法 | |
CN103178998A (zh) | 一种测控数据传输方法和装置 | |
CN109191408B (zh) | 快速循环地面气象融合方法、装置及服务器 | |
JP2007110682A (ja) | 情報取得装置、情報収集装置、情報取得方法、情報収集方法、プログラム、記憶媒体、及び情報収集システム | |
KR101785679B1 (ko) | SQL 및 NoSQL을 사용한 해양 플랫폼 계측 및 분석 데이터 관리 시스템 | |
CN108287890B (zh) | 数据管理方法及装置 | |
CN117171128A (zh) | 一种基于四水耦合模型的水生生物保护阈值识别方法 | |
JPWO2018087851A1 (ja) | IoTデータ仲介システム | |
CN113157847B (zh) | 森林植物调查数据快速检核方法及装置 | |
Kim | Feature-first add-on for trajectory simplification in lifelog applications | |
CN111611337B (zh) | 终端数据处理系统 | |
CN110955710B (zh) | 一种数据交换作业中脏数据的处理方法及装置 | |
CN110766102B (zh) | 一种确定驻留时长的方法、装置、设备及存储介质 | |
CN110475198B (zh) | 一种城市道路用户轨迹纠偏处理方法及装置 | |
Lyle et al. | A Spatial and Temporal Evaluation of Broad-Scale Yield Predictions Created from Yield Mapping Technology and Landsat Satellite Imagery in the Australian Mediterranean Dryland Cropping Region | |
KR101779813B1 (ko) | 위치 정보와 해당 위치의 물리값을 포함하는 데이터로 데이터베이스를 구축하고 이를 판독하기 위한 방법 및 장치 | |
CN111611336B (zh) | 终端数据处理系统 | |
CN111522678B (zh) | 故障检测方法和装置 | |
CN114584202B (zh) | 一种北斗卫星短报文远程通信的数据采集系统 | |
KR100985700B1 (ko) | 침입감지용 고정형 노드의 가시화 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |