CN115987295A - 基于物联网的农作物监控数据高效处理方法 - Google Patents
基于物联网的农作物监控数据高效处理方法 Download PDFInfo
- Publication number
- CN115987295A CN115987295A CN202310264763.6A CN202310264763A CN115987295A CN 115987295 A CN115987295 A CN 115987295A CN 202310264763 A CN202310264763 A CN 202310264763A CN 115987295 A CN115987295 A CN 115987295A
- Authority
- CN
- China
- Prior art keywords
- dimension
- data
- monitoring data
- current monitoring
- moment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012544 monitoring process Methods 0.000 title claims abstract description 228
- 238000003672 processing method Methods 0.000 title claims abstract description 12
- 238000007906 compression Methods 0.000 claims abstract description 42
- 230000006835 compression Effects 0.000 claims abstract description 36
- 230000007774 longterm Effects 0.000 claims abstract description 36
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 15
- 238000012545 processing Methods 0.000 claims abstract description 14
- 230000008859 change Effects 0.000 claims abstract description 13
- 238000000034 method Methods 0.000 claims description 35
- 238000004364 calculation method Methods 0.000 claims description 14
- 238000004088 simulation Methods 0.000 claims description 10
- 238000012216 screening Methods 0.000 claims 1
- 230000007613 environmental effect Effects 0.000 description 7
- 238000010606 normalization Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000013144 data compression Methods 0.000 description 4
- 239000002689 soil Substances 0.000 description 4
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
Images
Landscapes
- Testing And Monitoring For Control Systems (AREA)
- Telephonic Communication Services (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
本发明涉及数据处理技术领域,提出了基于物联网的农作物监控数据高效处理方法,包括:采集多个维度的当前监控数据及长期与短期历史监控数据;根据多维的长期历史监控数据获取每个维度的若干关联维度,获取趋势分布模型;根据短期历史监控数据及趋势分布模型获取每个维度的当前监控数据中每个时刻下数据的综合差异性,得到其中的有效信息点;根据压缩前后有效信息点的变化获取每个维度的当前监控数据的参考程度,得到初始参考维度,根据初始参考维度及每个维度的若干关联维度获取每个维度的第一参考维度;根据第一参考维度及趋势分布模型,获取拟合权重并压缩。本发明旨在解决利用旋转门算法压缩监控数据会丢失数据趋势信息的问题。
Description
技术领域
本发明涉及数据处理技术领域,具体涉及基于物联网的农作物监控数据高效处理方法。
背景技术
随着科学技术的发展,如何提高农作物产量是农业发展的重中之重,而提高农作物产量的一个关键环节为对农作物的生长环境进行实时监控,因此将物联网与农业结合,通过搭建物联网监控平台,安装布置多种传感器采集农作物生长环境数据,包括温度、湿度、土壤水分以及土壤温度等环境数据,实现对农作物的监控;在现有的对农作物生长环境进行监控时,受到采样频率以及多种传感器数据采集的影响,会造成数据量较大且较为冗余,并且由于网络带宽以及服务器存储空间的影响,需要对采集的监控数据进行压缩处理,保证后续对监控数据高效处理时使用。
由于环境传感器采集的为长时间的序列数据,因此在现有的压缩算法中,往往会使用旋转门压缩算法进行数据压缩;而在传统的旋转门压缩算法中,由于其采用的为有损压缩的原理,会使得传感器采集的数据的部分信息丢失,造成信息丢失的主要原因为在设置一定大小的容差参数后,采用两个数据点之间的直线进行数据序列的代替,会极大的丢失趋势分布信息,因此需要集合多维数据之间的趋势分布关系来对每个维度进行自适应压缩,在保证数据压缩率的同时,保证数据趋势分布信息的完整性。
发明内容
本发明提供基于物联网的农作物监控数据高效处理方法,以解决现有的利用旋转门算法压缩监控数据会丢失数据趋势信息的问题,所采用的技术方案具体如下:
本发明一个实施例提供了基于物联网的农作物监控数据高效处理方法,该方法包括以下步骤:
获取多个维度的当前监控数据及长期与短期历史监控数据;
根据多维的长期历史监控数据获取每个维度的若干关联维度,根据多维的长期历史监控数据获取每个维度与每个关联维度监控数据之间的趋势分布模型;
根据每个维度中每个时刻在短期历史监控数据与当前监控数据的差异获取每个维度的当前监控数据中每个时刻下数据的第一差异性,根据趋势分布模型获取到的每个时刻的预测数据与当前监控数据的差异获取每个维度的当前监控数据中每个时刻下数据的第二差异性,根据第一差异性及第二差异性获取每个维度的当前监控数据中每个时刻下数据的综合差异性,根据综合差异性获取每个维度的当前监控数据中的有效信息点;
根据每个维度的当前监控数据被压缩前后有效信息点的变化获取每个维度的当前监控数据的参考程度,根据参考程度获取初始参考维度,根据初始参考维度及每个维度的若干关联维度获取每个维度的第一参考维度,记录每个维度的第一容差;
根据第一容差获取每个维度及第一参考维度的当前监控数据压缩后的若干数据段,将每个数据段在每个维度的当前监控数据中对应部分的数据记为待拟合数据,将每个数据段在第一参考维度的当前监控数据中对应部分的数据记为拟合参考数据,根据拟合参考数据及趋势分布模型获取每个维度中每个时刻的模拟数据,根据待拟合数据、模拟数据及综合差异性,获取每个维度中每个时刻的拟合权重,结合旋转门算法完成压缩。
可选的,所述根据多维的长期历史监控数据获取每个维度与每个关联维度监控数据之间的趋势分布模型,包括的具体方法为:
获取任意一个维度作为目标维度,获取目标维度的任意一个关联维度作为目标关联维度,将目标维度的长期历史监控数据及目标关联维度的长期历史监控数据中同一时刻的两个数据作为数据点的二维坐标,目标维度的长期历史监控数据为横坐标,目标关联维度的长期历史监控数据为纵坐标,将所有时刻的数据都转换为若干数据点的二维坐标,对所有数据点进行曲线拟合,拟合得到的曲线及曲线公式即为目标维度与目标关联维度监控数据之间的趋势分布模型。
可选的,所述获取每个维度的当前监控数据中每个时刻下数据的第一差异性,包括的具体方法为:
其中,表示第个维度的当前监控数据中第个时刻下的数据的第一差异性,表示短期历史监控数据中的天数,表示第个维度的当前监控数据中第个时刻下的数据,表示第个维度的短期历史监控数据中第天的历史监控数据中第个时刻下的数据。
可选的,所述获取每个维度的当前监控数据中每个时刻下数据的第二差异性,包括的具体方法为:
其中,表示第个维度的当前监控数据中第个时刻下的数据的第二差异性,表示第个维度的关联维度数量,表示第个维度的当前监控数据中第个时刻下的数据,表示第个维度的第个关联维度,通过趋势分布模型得到的第个维度的第个时刻下的预测数据;
所述预测数据的具体计算方法为:获取第个维度与第个关联维度的趋势分布模型,获取第个关联维度的当前监控数据中第个时刻下的数据,根据及趋势分布模型获取预测数据。
可选的,所述根据每个维度的当前监控数据被压缩前后有效信息点的变化获取每个维度的当前监控数据的参考程度,包括的具体方法为:
其中,表示第个维度的当前监控数据的参考程度,表示第个维度的当前监控数据中有效信息点的数量,表示第个维度的当前监控数据中第个有效数据点压缩前的数据,表示第个维度的当前监控数据中第个有效数据点压缩后的数据,表示以自然常数为底的指数函数。
可选的,所述根据初始参考维度及每个维度的若干关联维度获取每个维度的第一参考维度,包括的具体方法为:
获取任意一个维度作为目标维度,初始参考维度组成初始参考维度集合,目标维度的关联维度组成目标维度的关联维度集合,获取初始参考维度集合与关联维度集合中的交集,将交集中的元素记为目标维度的关联参考维度,将所有关联参考维度中与目标维度的皮尔逊相关系数绝对值最大的维度作为目标维度的第一参考维度。
可选的,所述获取每个维度中每个时刻的拟合权重,包括的具体方法为:
其中,表示第个维度的第个数据段中第个时刻的拟合程度,表示第个维度的第个数据段中第个时刻的待拟合数据,表示第个维度的第个数据段中第个时刻的模拟数据,表示第个维度的第个数据段中每个时刻的待拟合数据与模拟数据的差异最大值,表示第个维度的第个数据段中第个时刻在当前监控数据中对应时刻的综合差异性;
获取第个维度的第个数据段中每个时刻的拟合程度,对数据段中所有拟合程度归一化得到数据段中每个时刻的拟合权重。
本发明的有益效果是:本发明根据长期历史监控数据来量化得到多个维度监控数据之间的趋势分布模型,通过短期历史监控数据确定有效信息数据点来获取在旋转门压缩前后数据的变化,进而得到不同维度的参考程度,并确定每个维度的第一参考维度;根据每个维度及第一参考维度的趋势分布模型来计算每个数据段中每个数据点在曲线拟合过程中的拟合权重,进而进行自适应旋转门压缩处理;避免了传统的旋转门压缩算法中采用两个数据点之间的直线进行数据序列的代替,会极大的丢失趋势分布信息,通过采用曲线拟合的方式获取两个数据点之间的数据趋势分布,并获取每个数据点在曲线拟合过程中的拟合权重,实现在保证数据压缩率的同时,保证数据趋势分布信息的完整性,进而实现对物联网中的农作物监控数据的高效处理。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一个实施例所提供的基于物联网的农作物监控数据高效处理方法流程示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参阅图1,其示出了本发明一个实施例所提供的基于物联网的农作物监控数据高效处理方法流程图,该方法包括以下步骤:
步骤S001、采集多个维度的当前监控数据及长期与短期历史监控数据。
本实施例的目的是对当天即当前的多维农作物监控数据通过物联网监控平台进行压缩存储,同时保证压缩过程可以较好地保留监控数据的趋势分布信息;因此首先需要采集多维度的当前监控数据,同时为了更好地量化各个维度数据之间的趋势关系,以确保对于每个维度的当前监控数据的趋势提取准确,还需要获取历史监控数据,包括短期历史监控数据和长期历史监控数据。
具体的,本实施例通过安装各种环境传感器来采集大棚内农作物的环境数据实现监控,所述环境传感器采集到的环境数据包括但不限于大棚内的温度、大棚内的湿度、土壤温度、土壤湿度以及大棚内光照强度等多个维度的环境数据,具体的监控指标实施者可根据实际情况进行设定;为了避免多维度数据之间量纲差异所带来的影响,因此将采集到的每种环境数据都分别在同种数据之间进行线性归一化处理,将每种环境数据的归一化值记为每个维度的监控数据,且每个维度的监控数据的采样频率均相同;将当天的监控数据记为当前监控数据,历史采集到的监控数据记为历史监控数据;长期历史监控数据用于确定任意两个维度的监控数据之间的趋势分布关系,即两个维度的监控数据在趋势变化上的关联性,因此需要获取较长时间的监控数据来较好地量化各维度监控数据的趋势变化关联,本实施例获取当前监控数据之前最近三个月的每个维度的历史监控数据作为每个维度的长期历史监控数据;短期历史监控数据用于对当前监控数据的趋势特征进行量化,则需要较短时间的监控数据来保证与当前监控数据的相似性较大,以确保可以更好地提取当前监控数据独有的趋势特征,本实施例获取当前监控数据之前最近10天的每个维度的历史监控数据作为每个维度的短期监控数据。
至此,获取到了每个维度的当前监控数据,以及长期及短期的历史监控数据。
步骤S002、根据多维的长期历史监控数据获取每个维度的若干关联维度,获取每个维度与每个关联维度监控数据之间的趋势分布模型。
需要说明的是,多维的监控数据之间的趋势变化存在一定关联,例如大棚内光照强度增加,大棚内温度就会上升,相对的大棚内湿度就会降低;因此可以通过各维度长期历史监控数据之间的相关性,获取相关性较大的多维度监控数据之间的关系来构建两两维度监控数据之间的趋势分布模型,根据趋势分布模型参与后续有效信息点及参考维度计算,以此来完成保留趋势特征的压缩存储。
具体的,以任意一个维度作为目标维度,获取每个维度的长期历史监控数据与目标维度的长期历史监控数据的皮尔逊相关系数,对得到的皮尔逊相关系数求绝对值,给出第一预设阈值用于判断长期历史监控数据之间的相关性,本实施例第一预设阈值采用0.6进行计算,若皮尔逊相关系数的绝对值大于等于第一预设阈值,则表明皮尔逊相关系数对应的维度与目标维度的长期历史监控数据之间具有较大的相关性,将该维度记为目标维度的关联维度,获取目标维度的所有关联维度;按照上述方法获取每个维度的所有关联维度;每个维度与对应的关联维度在长期历史监控数据之间均具有较大的相关性,可以参与构建趋势分布模型以此来反映趋势变化的关联性;其中皮尔逊相关系数计算为公知技术,本实施例不再赘述。
进一步的,以任意一个维度作为目标维度,获取目标维度的任意一个关联维度为例,将两个维度的长期历史监控数据中同一时刻的两个数据作为数据点的二维坐标,目标维度的长期历史监控数据为横坐标,关联维度的长期历史监控数据为纵坐标,将所有时刻的数据都转换为若干数据点的二维坐标;通过最小二乘法对所有数据点进行曲线拟合,本实施例拟合的曲线是多项式曲线,多项式的最高次幂设置为5,拟合得到的曲线及曲线公式即为目标维度与关联维度监控数据之间的趋势分布模型;按照上述方法获取每个维度与每个关联维度监控数据之间的趋势分布模型;并且根据上述拟合方法可知:趋势分布模型的输入为每个关联维度的监控数据,该模型的输出为每个关联维度对应维度的预测数据。
至此,获取到了每个维度的所有关联维度,以及每个维度与每个关联维度之间的趋势分布模型,用于参与后续有效信息点及参考维度的计算。
步骤S003、根据每个维度中每个时刻在短期历史监控数据与当前监控数据的差异,以及通过关联维度的趋势分布模型获取到的每个时刻的预测数据与当前监控数据的差异,获取每个维度的当前监控数据中每个时刻下数据的综合差异性,并得到其中的有效信息点。
需要说明的是,为了在压缩过程中保留有效信息,需要提取各维度的当前监控数据中的有效信息点,因此可以通过同一维度的当前监控数据与短期历史监控数据中相同时刻的数据之间的差异性,提取其中差异较大的点;同时通过每个维度的关联维度的当前监控数据以及趋势分布模型获取对于每个维度的预测数据,通过预测数据与当前监控数据的差异同样提取出其中的差异性较大的点;这些数据点不符合趋势分布模型,同时与历史监控数据差异较大的点也不符合对应维度的趋势分布特征,根据这两类差异较大的数据点,进而得到数据点的综合差异性,差异较大的点可能包含了较多重要信息,因此在压缩过程中应尽量保证不损失,以此来保证压缩后的数据不会过多损失当前监控数据中的趋势分布信息。
具体的,以第个维度的当前监控数据为例,获取其中第个时刻下数据的第一差异性的具体计算方法为:
其中,表示短期历史监控数据中的天数,本实施例中采集的短期历史监控数据为当前监控数据之前最近10天的每个维度的历史监控数据,则,表示第个维度的当前监控数据中第个时刻下的数据,表示第个维度的短期历史监控数据中第天的历史监控数据中第个时刻下的数据;通过同一时刻下短期历史监控数据中每天的数据与当前监控数据的差异均值获取数据的第一差异性,差异越大则第一差异性越大,多天差异求均值则减小了某一天的历史监控数据出现差异而对当前监控数据的第一差异性判断造成的影响。
进一步的,以第个维度的当前监控数据及第个维度的第个关联维度的当前监控数据为例,获取其中第个时刻下数据的第二差异性的具体计算方法为:
其中,表示第个维度的关联维度数量,表示第个维度的当前监控数据中第个时刻下的数据,表示第个维度的第个关联维度,通过趋势分布模型得到的第个维度的第个时刻下的预测数据;所述预测数据的具体计算方法为:获取第个维度与第个关联维度的趋势分布模型,获取第个关联维度的当前监控数据中第个时刻下的数据,即表示第个维度的第个关联维度的当前监控数据中第个时刻下的数据,将输入到趋势分布模型中,输出得到第个维度的第个时刻下的预测数据,即;通过预测数据与当前监控数据的差异获取其中与趋势分布模型差异较大的时刻,预测数据与当前监控数据的差异越大,第二差异性越大,多个关联维度的差异求均值则避免后续综合差异性计算时第一差异性及第二差异性存在数据量上的差异而导致计算不准确。
进一步的,以第个维度的当前监控数据中第个时刻下的数据为例,获取其综合差异性的具体计算方法为:
其中,表示第个维度的当前监控数据中第个时刻下的数据的综合差异程度,表示第个维度的当前监控数据中第个时刻下的数据的第一差异性,表示第个维度的当前监控数据中第个时刻下的数据的第二差异性;按照上述方法获取第个维度的当前监控数据中每个时刻下的数据的综合差异程度,对所有综合差异程度进行线性归一化处理,得到的结果记为综合差异性,第个维度的当前监控数据中第个时刻下的数据的综合差异性记为;第一差异性及第二差异性均越大,与历史监控数据或趋势分布模型之间存在越大差异,包含有效信息可能性就越大,综合差异性就越大;按照上述方法获取每个维度的当前监控数据中每个时刻下的数据的综合差异性。
进一步的,给出第二预设阈值用于判断有效信息点,本实施例采用进行计算,当综合差异性大于第二预设阈值时,对应的数据及时刻即为所在维度的当前监控数据中的有效信息点,按照上述方法获取每个维度的当前监控数据中的所有有效信息点。
至此,获取到了每个维度的当前监控数据中的所有有效信息点,有效信息点反映了当前监控数据中的重要信息,压缩过程中应尽量保证不损失,以此来保证压缩后的数据不会过多损失当前监控数据中的趋势分布信息。
步骤S004、根据每个维度的当前监控数据被压缩前后有效信息点的变化获取每个维度的当前监控数据的参考程度,得到初始参考维度,根据初始参考维度及每个维度的若干关联维度获取每个维度的第一参考维度。
需要说明的是,本实施例采用旋转门算法对当前监控数据进行压缩,同时不考虑设置的容差参数方面的优化,因此本实施例根据预设容差对每个维度的当前监控数据先进行一次压缩,通过压缩前后每个维度的有效信息点的变化来获取每个维度的参考程度,根据参考程度获取每个维度自适应的第一参考维度并进行压缩。
具体的,本实施例中对于旋转门算法的预设容差采用0.3进行计算,实施者可根据实际情况进行设置,以第个维度的当前监控数据为例,其参考程度的具体计算方法为:
其中,表示第个维度的当前监控数据中有效信息点的数量,表示第个维度的当前监控数据中第个有效数据点压缩前的数据,表示第个维度的当前监控数据中第个有效数据点压缩后的数据,表示以自然常数为底的指数函数;通过第个维度的当前监控数据压缩前后有效信息点数据之间的差异来量化参考程度,差异均值越大,有效信息点在经旋转门算法压缩前后损失越多,作为其他维度的参考可信度越低,参考程度越小;需要说明的是,本实施例采用函数来进行反比例关系呈现及归一化处理,实施者可根据实际情况选择其他反比例及归一化函数进行计算。
进一步的,按照上述方法获取每个维度的当前监控数据的参考程度,对所有参考程度进行线性归一化处理,给出第三预设阈值用于判断可以参考的维度,本实施例采用进行计算,将参考程度的归一化值大于第三预设阈值的对应维度作为初始参考维度,获取所有初始参考维度及其当前监控数据。
进一步的,以任意一个维度为例,初始参考维度组成初始参考维度集合,该维度的关联维度组成该维度的关联维度集合,获取两个集合中的交集,将交集中的元素记为该维度的关联参考维度,将所有关联参考维度中与该维度的皮尔逊相关系数绝对值最大的维度作为该维度的第一参考维度;所述皮尔逊相关系数绝对值即为步骤S002中通过长期历史监控数据获取到的两个维度之间皮尔逊相关系数绝对值;按照上述方法获取每个维度的第一参考维度;
特殊的,若某个维度的关联维度集合与初始参考维度集合不存在交集,则需要调整预设容差以获取更多的参考维度,本实施例对预设容差每次减小0.05进行计算,根据减小后的预设容差,即容差大小为0.25,对每个维度的当前监控数据再次进行压缩并得到参考程度,第三预设阈值不变获取到新的若干初始参考维度,根据新的初始参考维度集合与关联维度集合求交集,将交集中与该维度的皮尔逊相关系数绝对值最大的维度作为该维度的第一参考维度;若此时的预设容差下仍无法获取某个维度的第一参考维度,则继续减小容差,每次减小0.05,并按照上述方法直到得到该维度的第一参考维度为止,记录下此时的容差大小;将每个维度获取到第一参考维度时对应的容差记为每个维度的第一容差;若容差为0.05时某个维度仍无法得到第一参考维度,则将此时的初始参考维度集合中,与该维度的皮尔逊相关系数绝对值最大的维度作为该维度的第一参考维度,容差0.05即为该维度的第一容差。
此时,获取到的第一参考维度中均为压缩前后有效信息点损失较小的维度,通过第一参考维度结合趋势分布模型可以在压缩过程中较好地保留每个维度的趋势分布特征,减小每个维度的有效信息点的损失。
至此,获取到了每个维度的第一参考维度,用于后续对每个维度的当前监控数据进行压缩,同时最大程度地减小每个维度的当前监控数据中的有效信息点的损失。
步骤S005、根据每个维度的第一参考维度及相应的趋势分布模型,获取每个维度中每个时刻的拟合权重,结合旋转门算法完成压缩。
需要说明的是,获取到每个维度的第一参考维度后,根据每个维度与第一参考维度的趋势分布模型,以及每个维度的当前监控数据压缩后的待拟合数据,获取每个待拟合数据的拟合权重,通过拟合权重进行曲线拟合,将传统旋转门压缩算法中的直线替换为拟合曲线,以提高对于有效信息点的保留程度。
具体的,以第个维度的当前监控数据为例,首先对该维度的当前监控数据根据该维度的第一容差进行旋转门压缩,压缩结果为若干个数据段,且数据段中数据呈线性变化,将每个数据段在该维度的当前监控数据中压缩前部分记为待拟合数据段,待拟合数据段中每个数据记为待拟合数据;获取第个维度的第一参考维度,并得到第一参考维度相应的趋势分布模型,所述趋势分布模型在步骤S002中已经获取,若未获取第个维度的第一参考维度相应的趋势分布模型,则按照步骤S002中趋势分布模型的获取方法进行获取;对第一参考维度的当前监控数据根据第个维度的第一容差进行旋转门压缩,得到的数据段在第一参考维度的当前监控数据中压缩前部分记为拟合参考数据段,拟合参考数据段中每个数据记为拟合参考数据,将拟合参考数据输入到趋势分布模型中,输出得到第个维度中每个时刻的模拟数据,则根据模拟数据与待拟合数据之间的差异获取每个待拟合数据段中每个待拟合数据的拟合权重。
具体的,以第个维度的第个数据段为例,其中第个时刻的拟合权重的计算方法为:
其中,表示第个维度的第个数据段中第个时刻的拟合程度,表示第个维度的第个数据段中第个时刻的待拟合数据,表示第个维度的第个数据段中第个时刻的模拟数据,表示第个维度的第个数据段中每个时刻的待拟合数据与模拟数据的差异最大值,表示第个维度的第个数据段中第个时刻在当前监控数据中对应时刻的综合差异性;所述综合差异性即为第个数据段中第个时刻的待拟合数据所对应的在第个维度的当前监控数据中相应时刻下的综合差异性;按照上述方法获取第个维度的第个数据段中每个时刻的拟合程度,将所有拟合程度通过softmax函数进行归一化,归一化结果记为每个时刻的拟合权重;待拟合数据与模拟数据的差异越大,则在压缩过程中对应时刻损失了有效信息,即压缩前后该时刻附近趋势分布的差异较大,因此需要较大的拟合权重来减小该时刻有效信息的损失;结合压缩前数据的综合差异性,对综合差异性较大的数据在压缩过程赋予较大的拟合权重,以确保这些时刻的数据在压缩前后不会出现较大损失,而保证有效信息不丢失。
进一步的,按照上述方法获取第个维度的每个数据段中每个时刻的拟合权重,通过拟合权重对每个待拟合数据段进行加权最小二乘法拟合,本实施例拟合的曲线是多项式曲线,多项式的最高次幂设置为5;通过拟合的曲线代替传统的直线进行自适应的旋转门压缩,对每个维度的当前监控数据按照上述方法进行压缩;在压缩存储过程中,将每个数据点的拟合曲线方程以及每个维度的第一容差同步存储到物联网中。
至此,本发明根据长期历史监控数据来量化得到多个维度监控数据之间的趋势分布模型,通过短期历史监控数据确定有效信息数据点来获取在旋转门压缩前后数据的变化,进而得到不同维度的参考程度,并确定每个维度的第一参考维度;根据每个维度及第一参考维度的趋势分布模型来计算每个数据段中每个数据点在曲线拟合过程中的拟合权重,进而进行自适应旋转门压缩处理;避免了传统的旋转门压缩算法中采用两个数据点之间的直线进行数据序列的代替,会极大的丢失趋势分布信息,通过采用曲线拟合的方式获取两个数据点之间的数据趋势分布,并获取每个数据点在曲线拟合过程中的拟合权重,实现在保证数据压缩率的同时,保证数据趋势分布信息的完整性,进而实现对物联网中的农作物监控数据的高效处理。
特别需要说明的是,本实施例在步骤S002中获取每个维度的关联维度时,可能存在某个维度与其他所有维度的皮尔逊相关系数的绝对值均不满足第一预设阈值条件,则对于该维度不存在关联维度,该维度不再参与后续综合差异性、有效信息点以及参考程度计算,压缩时直接采用传统的旋转门算法对该维度的当前监控数据进行压缩,采用的容差为本实施例设置的容差,大小为0.3。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (7)
1.基于物联网的农作物监控数据高效处理方法,其特征在于,该方法包括以下步骤:
获取多个维度的当前监控数据及长期与短期历史监控数据;
根据多维的长期历史监控数据获取每个维度的若干关联维度,根据多维的长期历史监控数据获取每个维度与每个关联维度监控数据之间的趋势分布模型;
根据每个维度中每个时刻在短期历史监控数据与当前监控数据的差异获取每个维度的当前监控数据中每个时刻下数据的第一差异性,根据趋势分布模型获取到的每个时刻的预测数据与当前监控数据的差异获取每个维度的当前监控数据中每个时刻下数据的第二差异性,根据第一差异性及第二差异性获取每个维度的当前监控数据中每个时刻下数据的综合差异性,根据综合差异性获取每个维度的当前监控数据中的有效信息点;
根据每个维度的当前监控数据被压缩前后有效信息点的变化获取每个维度的当前监控数据的参考程度,根据参考程度获取初始参考维度,根据初始参考维度及每个维度的若干关联维度获取每个维度的第一参考维度,记录每个维度的第一容差;
根据第一容差获取每个维度及第一参考维度的当前监控数据压缩后的若干数据段,将每个数据段在每个维度的当前监控数据中对应部分的数据记为待拟合数据,将每个数据段在第一参考维度的当前监控数据中对应部分的数据记为拟合参考数据,根据拟合参考数据及趋势分布模型获取每个维度中每个时刻的模拟数据,根据待拟合数据、模拟数据及综合差异性,获取每个维度中每个时刻的拟合权重,结合旋转门算法完成压缩。
2.根据权利要求1所述的基于物联网的农作物监控数据高效处理方法,其特征在于,所述根据多维的长期历史监控数据获取每个维度与每个关联维度监控数据之间的趋势分布模型,包括的具体方法为:
获取任意一个维度作为目标维度,获取目标维度的任意一个关联维度作为目标关联维度,将目标维度的长期历史监控数据及目标关联维度的长期历史监控数据中同一时刻的两个数据作为数据点的二维坐标,目标维度的长期历史监控数据为横坐标,目标关联维度的长期历史监控数据为纵坐标,将所有时刻的数据都转换为若干数据点的二维坐标,对所有数据点进行曲线拟合,拟合得到的曲线及曲线公式即为目标维度与目标关联维度监控数据之间的趋势分布模型。
3.根据权利要求1所述的基于物联网的农作物监控数据高效处理方法,其特征在于,所述获取每个维度的当前监控数据中每个时刻下数据的第一差异性,包括的具体方法为:
其中,表示第个维度的当前监控数据中第个时刻下的数据的第一差异性,表示短期历史监控数据中的天数,表示第个维度的当前监控数据中第个时刻下的数据,表示第个维度的短期历史监控数据中第天的历史监控数据中第个时刻下的数据。
4.根据权利要求1所述的基于物联网的农作物监控数据高效处理方法,其特征在于,所述获取每个维度的当前监控数据中每个时刻下数据的第二差异性,包括的具体方法为:
其中,表示第个维度的当前监控数据中第个时刻下的数据的第二差异性,表示第个维度的关联维度数量,表示第个维度的当前监控数据中第个时刻下的数据,表示第个维度的第个关联维度,通过趋势分布模型得到的第个维度的第个时刻下的预测数据;
所述预测数据的具体计算方法为:获取第个维度与第个关联维度的趋势分布模型,获取第个关联维度的当前监控数据中第个时刻下的数据,根据及趋势分布模型获取预测数据。
5.根据权利要求1所述的基于物联网的农作物监控数据高效处理方法,其特征在于,所述根据每个维度的当前监控数据被压缩前后有效信息点的变化获取每个维度的当前监控数据的参考程度,包括的具体方法为:
其中,表示第个维度的当前监控数据的参考程度,表示第个维度的当前监控数据中有效信息点的数量,表示第个维度的当前监控数据中第个有效数据点压缩前的数据,表示第个维度的当前监控数据中第个有效数据点压缩后的数据,表示以自然常数为底的指数函数。
6.根据权利要求1所述的基于物联网的农作物监控数据高效处理方法,其特征在于,所述根据初始参考维度及每个维度的若干关联维度获取每个维度的第一参考维度,包括的具体方法为:
获取任意一个维度作为目标维度,初始参考维度组成初始参考维度集合,目标维度的关联维度组成目标维度的关联维度集合,获取初始参考维度集合与关联维度集合中的交集,将交集中的元素记为目标维度的关联参考维度,将所有关联参考维度中与目标维度的皮尔逊相关系数绝对值最大的维度作为目标维度的第一参考维度。
7.根据权利要求1所述的基于物联网的农作物监控数据高效处理方法,其特征在于,所述获取每个维度中每个时刻的拟合权重,包括的具体方法为:
其中,表示第个维度的第个数据段中第个时刻的拟合程度,表示第个维度的第个数据段中第个时刻的待拟合数据,表示第个维度的第个数据段中第个时刻的模拟数据,表示第个维度的第个数据段中每个时刻的待拟合数据与模拟数据的差异最大值,表示第个维度的第个数据段中第个时刻在当前监控数据中对应时刻的综合差异性;
获取第个维度的第个数据段中每个时刻的拟合程度,对数据段中所有拟合程度归一化得到数据段中每个时刻的拟合权重。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310264763.6A CN115987295B (zh) | 2023-03-20 | 2023-03-20 | 基于物联网的农作物监控数据高效处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310264763.6A CN115987295B (zh) | 2023-03-20 | 2023-03-20 | 基于物联网的农作物监控数据高效处理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115987295A true CN115987295A (zh) | 2023-04-18 |
CN115987295B CN115987295B (zh) | 2023-05-12 |
Family
ID=85968531
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310264763.6A Active CN115987295B (zh) | 2023-03-20 | 2023-03-20 | 基于物联网的农作物监控数据高效处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115987295B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116155298A (zh) * | 2023-04-20 | 2023-05-23 | 山东水运发展集团有限公司济宁分公司 | 一种基于互联网数据的船闸远程管理系统 |
CN116320043A (zh) * | 2023-05-24 | 2023-06-23 | 深圳龙电华鑫控股集团股份有限公司 | 一种提高多载波通信系统传输效率的方法及系统 |
CN116582596A (zh) * | 2023-07-05 | 2023-08-11 | 佛山市星际云数字科技有限公司 | 数据处理方法、装置和基于物联网的plc数据传输系统 |
CN116697039A (zh) * | 2023-08-07 | 2023-09-05 | 德电北斗电动汽车有限公司 | 一种单级高速变速器的自适应控制方法及系统 |
CN117093879A (zh) * | 2023-10-19 | 2023-11-21 | 无锡尚航数据有限公司 | 一种数据中心智能化运营管理方法及系统 |
CN117148784A (zh) * | 2023-10-27 | 2023-12-01 | 山东山森数控技术有限公司 | 一种多轴多通道数控系统运行故障分析方法 |
CN117807381A (zh) * | 2024-02-23 | 2024-04-02 | 余姚市农业技术推广服务总站 | 一种农业技术推广记录数据智能管理系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113191003A (zh) * | 2021-05-08 | 2021-07-30 | 上海核工程研究设计院有限公司 | 一种核电实时数据趋势拟合算法 |
CN114282443A (zh) * | 2021-12-28 | 2022-04-05 | 浙江大学 | 基于mlp-lstm有监督联合模型的剩余使用寿命预测方法 |
CN115766607A (zh) * | 2022-11-08 | 2023-03-07 | 陕西通信规划设计研究院有限公司 | 一种基于5g物联网的数据压缩传输方法 |
-
2023
- 2023-03-20 CN CN202310264763.6A patent/CN115987295B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113191003A (zh) * | 2021-05-08 | 2021-07-30 | 上海核工程研究设计院有限公司 | 一种核电实时数据趋势拟合算法 |
CN114282443A (zh) * | 2021-12-28 | 2022-04-05 | 浙江大学 | 基于mlp-lstm有监督联合模型的剩余使用寿命预测方法 |
CN115766607A (zh) * | 2022-11-08 | 2023-03-07 | 陕西通信规划设计研究院有限公司 | 一种基于5g物联网的数据压缩传输方法 |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116155298A (zh) * | 2023-04-20 | 2023-05-23 | 山东水运发展集团有限公司济宁分公司 | 一种基于互联网数据的船闸远程管理系统 |
CN116320043A (zh) * | 2023-05-24 | 2023-06-23 | 深圳龙电华鑫控股集团股份有限公司 | 一种提高多载波通信系统传输效率的方法及系统 |
CN116320043B (zh) * | 2023-05-24 | 2023-08-01 | 深圳龙电华鑫控股集团股份有限公司 | 一种提高多载波通信系统传输效率的方法及系统 |
CN116582596B (zh) * | 2023-07-05 | 2023-11-10 | 佛山市星际云数字科技有限公司 | 数据处理方法、装置和基于物联网的plc数据传输系统 |
CN116582596A (zh) * | 2023-07-05 | 2023-08-11 | 佛山市星际云数字科技有限公司 | 数据处理方法、装置和基于物联网的plc数据传输系统 |
CN116697039A (zh) * | 2023-08-07 | 2023-09-05 | 德电北斗电动汽车有限公司 | 一种单级高速变速器的自适应控制方法及系统 |
CN116697039B (zh) * | 2023-08-07 | 2023-09-29 | 德电北斗电动汽车有限公司 | 一种单级高速变速器的自适应控制方法及系统 |
CN117093879A (zh) * | 2023-10-19 | 2023-11-21 | 无锡尚航数据有限公司 | 一种数据中心智能化运营管理方法及系统 |
CN117093879B (zh) * | 2023-10-19 | 2024-01-30 | 无锡尚航数据有限公司 | 一种数据中心智能化运营管理方法及系统 |
CN117148784A (zh) * | 2023-10-27 | 2023-12-01 | 山东山森数控技术有限公司 | 一种多轴多通道数控系统运行故障分析方法 |
CN117148784B (zh) * | 2023-10-27 | 2024-01-26 | 山东山森数控技术有限公司 | 一种多轴多通道数控系统运行故障分析方法 |
CN117807381A (zh) * | 2024-02-23 | 2024-04-02 | 余姚市农业技术推广服务总站 | 一种农业技术推广记录数据智能管理系统 |
CN117807381B (zh) * | 2024-02-23 | 2024-05-24 | 余姚市农业技术推广服务总站 | 一种农业技术推广记录数据智能管理系统 |
Also Published As
Publication number | Publication date |
---|---|
CN115987295B (zh) | 2023-05-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115987295A (zh) | 基于物联网的农作物监控数据高效处理方法 | |
CN109272146B (zh) | 一种基于深度学习模型和bp神经网络校正的洪水预测方法 | |
CN110619385B (zh) | 基于多级剪枝的结构化网络模型压缩加速方法 | |
CN109816221B (zh) | 项目风险决策方法、装置、计算机设备和存储介质 | |
CN111767802B (zh) | 一种对象异常状态的检测方法和装置 | |
CN111583962B (zh) | 一种基于声学分析的羊反刍行为监测方法 | |
CN116760908B (zh) | 基于数字孪生的农业信息优化管理方法及系统 | |
CN109886496B (zh) | 一种基于气象信息的农产量预测方法 | |
CN117332341B (zh) | 基于物联网的飞机轮挡数据智能管理方法及系统 | |
CN113537160B (zh) | 球磨机负荷测量方法、装置、电子设备和介质 | |
CN117073768B (zh) | 肉牛养殖管理系统及其方法 | |
CN110956310A (zh) | 基于特征选取和支持向量的鱼饲料投量预测方法及系统 | |
CN114048790A (zh) | 一种基于耦合双向lstm和卷积结构网络的道路基层应变分析方法 | |
CN115018105A (zh) | 一种冬小麦气象产量预测方法及系统 | |
CN108540136B (zh) | 一种适用于农业传感数据的压缩方法 | |
CN114973024A (zh) | 一种机采棉脱叶效果综合评价指标监测与评价方法及系统 | |
CN117333321A (zh) | 基于机器学习的农业灌溉用水量估算方法、系统及介质 | |
CN115965875A (zh) | 一种农作物病虫害智能监控方法及系统 | |
CN113076309B (zh) | 烟草生丝水分加水量预测系统及方法 | |
CN117787510B (zh) | 基于时序预测分析的农药残留监测过程的优化方法 | |
CN113537645A (zh) | 基于机器学习融合卫星与天气数据的大豆产量预测方法 | |
CN116582597B (zh) | 一种油橄榄育苗环境数据智能监测方法及系统 | |
CN110991685A (zh) | 一种气象温度预测方法 | |
CN117909691B (zh) | 一种海洋工程设计数据的获取系统及方法 | |
CN116974258B (zh) | 基于多维数据的生产过程监测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |