CN111027752B - 一种深度时空特征联合学习的农作物产量估测方法 - Google Patents
一种深度时空特征联合学习的农作物产量估测方法 Download PDFInfo
- Publication number
- CN111027752B CN111027752B CN201911134971.4A CN201911134971A CN111027752B CN 111027752 B CN111027752 B CN 111027752B CN 201911134971 A CN201911134971 A CN 201911134971A CN 111027752 B CN111027752 B CN 111027752B
- Authority
- CN
- China
- Prior art keywords
- yield
- data
- model
- crop
- meteorological
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 41
- 238000013136 deep learning model Methods 0.000 claims abstract description 12
- 238000007781 pre-processing Methods 0.000 claims abstract description 11
- 238000013528 artificial neural network Methods 0.000 claims description 38
- 238000012549 training Methods 0.000 claims description 24
- 230000015654 memory Effects 0.000 claims description 22
- 230000007787 long-term memory Effects 0.000 claims description 15
- 238000012545 processing Methods 0.000 claims description 15
- 230000006403 short-term memory Effects 0.000 claims description 15
- 230000001537 neural effect Effects 0.000 claims description 9
- 230000006870 function Effects 0.000 claims description 7
- 238000005457 optimization Methods 0.000 claims description 6
- 230000004913 activation Effects 0.000 claims description 5
- 230000005540 biological transmission Effects 0.000 claims description 5
- 238000012417 linear regression Methods 0.000 claims description 4
- 239000011159 matrix material Substances 0.000 claims description 4
- 238000010606 normalization Methods 0.000 claims description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 3
- 238000001556 precipitation Methods 0.000 claims description 2
- 238000009331 sowing Methods 0.000 claims 1
- 238000011160 research Methods 0.000 abstract description 5
- 239000010410 layer Substances 0.000 description 46
- 230000008569 process Effects 0.000 description 8
- 240000008042 Zea mays Species 0.000 description 7
- 235000005824 Zea mays ssp. parviglumis Nutrition 0.000 description 7
- 235000002017 Zea mays subsp mays Nutrition 0.000 description 7
- 235000005822 corn Nutrition 0.000 description 7
- 238000012360 testing method Methods 0.000 description 6
- 230000007246 mechanism Effects 0.000 description 5
- 238000009826 distribution Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 210000005036 nerve Anatomy 0.000 description 2
- 238000010899 nucleation Methods 0.000 description 2
- 238000007637 random forest analysis Methods 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 102100033320 Lysosomal Pro-X carboxypeptidase Human genes 0.000 description 1
- 240000007594 Oryza sativa Species 0.000 description 1
- 235000007164 Oryza sativa Nutrition 0.000 description 1
- 241000209140 Triticum Species 0.000 description 1
- 235000021307 Triticum Nutrition 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000012272 crop production Methods 0.000 description 1
- 238000002790 cross-validation Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 108010057284 lysosomal Pro-X carboxypeptidase Proteins 0.000 description 1
- 238000010946 mechanistic model Methods 0.000 description 1
- 230000035790 physiological processes and functions Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 235000009566 rice Nutrition 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/02—Agriculture; Fishing; Forestry; Mining
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01W—METEOROLOGY
- G01W1/00—Meteorology
- G01W1/02—Instruments for indicating weather conditions by measuring two or more variables, e.g. humidity, pressure, temperature, cloud cover or wind speed
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2474—Sequence data queries, e.g. querying versioned data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/29—Geographical information databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
- G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/096—Transfer learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/0985—Hyperparameter optimisation; Meta-learning; Learning-to-learn
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Animal Husbandry (AREA)
- Development Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Operations Research (AREA)
- Primary Health Care (AREA)
- Mining & Mineral Resources (AREA)
- Marine Sciences & Fisheries (AREA)
- Quality & Reliability (AREA)
- Agronomy & Crop Science (AREA)
- Game Theory and Decision Science (AREA)
- Databases & Information Systems (AREA)
- Environmental & Geological Engineering (AREA)
- Atmospheric Sciences (AREA)
- Ecology (AREA)
- Environmental Sciences (AREA)
Abstract
本发明公开了一种深度时空特征联合学习的作物产量估测方法。获取地区的历史作物产量数据和气象数据并进行预处理，对气象数据进行预处理获得气象参数，对产量数据进行预处理获得去趋势产量，分别作为后续作物单产时空特征深度学习模型的输入和输出数据；构建作物单产时空特征深度学习模型，并对模型的超参数进行优化；将气象参数作为输入，将去趋势产量作为输出，形成训练集样本进而训练作物单产时空特征深度学习模型获得模型的参数，将待测作物产量的气象参数输入训练后的模型，输出估测结果，获得农作物产量估测结果。本发明联合了时间特征学习和空间特征学习，在空间差异较大且复杂的研究区域内，本发明的作物产量估测精度更高，稳定性更好。
Description
技术领域
本发明涉及农业气象领域，具体涉及一种深度时空特征联合学习的农作物产量估测方法。
背景技术
构建作物产量估测模型，是当前量化评估作物生长对于气象资源变化的响应的重要研究方法。气象资源对作物的影响存在时间序列上的动态变化和累积效应，理解这些时序特征有利于优化作物生产决策；而气象资源在空间分布上存在空间异质性，进而导致作物生长情况和产量分布在空间上的分布差异，并影响模型的稳定性。如何构建一个深度学习模型对作物生长与气象关联的时序特征与空间特征进行联合学习是目前的技术难点，也是关键的突破口。
当前作物产量估测模型主要依赖于三种途径：(1)生理过程驱动的过程机理模型；(2)统计回归模型；(3)数据驱动的机器学习模型。过程机理模型因其过于参数化和数据要求难以在大空间尺度范围下应用，统计回归模型难以处理数据中的非线性关系和共线性问题，而当前的机器学习方法仅是使用机器学习模型对数据特征进行提取，进行产量估测任务，现有技术中缺少了利用机器学习的作物产量估测方法，更缺少了能够联合利用时空特征学习与空间特征学习进行准确估测的方法。
发明内容
为了解决现有技术中存在的不足，本发明提供了一种深度时空特征联合学习的农作物产量估测方法。
本发明采用如下技术方案，具体步骤如下：
步骤1)：获取地区的历史作物产量数据和气象数据并进行预处理，对气象数据进行预处理获得气象参数，对产量数据进行预处理获得去趋势产量，分别作为后续作物单产时空特征深度学习模型的输入和输出数据；
步骤2)：构建作物单产时空特征深度学习模型，并对模型的超参数进行优化；
步骤3)：将步骤1)获得的气象参数作为输入，将步骤1)获得的去趋势产量作为输出，形成训练集样本进而训练作物单产时空特征深度学习模型，采用Adam优化方法结合反向传播方法训练获得模型的参数，经过多轮训练后得到最优参数，进而获得训练后的模型；
步骤4)：将待测作物产量的气象参数输入训练后的模型，输出预测结果，获得农作物产量估测结果。具体实施中，还与去趋势产量对比，处理获得模型对未知样本的预测效果。
所述的步骤1)中，数据预处理包括：根据历史作物产量数据构建产量-年份一元线性回归方程，对作物产量数据进行去趋势处理，将产量-年份一元线性回归方程拟合得到的残差作为去趋势产量，作为模型输出的真实值；从历史的气象数据中提取时间序列的作物播种至成熟的气象参数并进行归一化处理作为模型输入。
具体实施中可根据历史气象数据，计算玉米生育期内各时刻的气象参数并进行归一化处理作为模型各时刻的输入，在模型训练时进行时序迭代处理。
所述历史气象数据具体包括固定时间段内的日最高温度、日最低温度和日平均温度以及固定时间段内的日降水量。
所述步骤2)中，如图2所示，作物单产时空特征深度学习模型主要由输入层、长短期记忆神经网络层、注意力神经网络层和多任务输出层依次连接构成；
所述的输入层中输入作物生长期间内的气象参数时间序列，并采用min-max归一化处理将各气象参数值域变换为[0，1]；
所述的长短期记忆神经网络层由长短期记忆神经单元组成，每个时刻的气象参数xt输入到各自对应的由三个连续依次连接的长短期记忆神经单元组成的长短期记忆组中，并且所有时刻的气象参数xt所对应的长短期记忆组中第一个长短期记忆神经单元沿时间(长短期记忆神经单元对应的时间)依次传递连接，共享神经网络的参数；所有时刻的气象参数xt所对应的长短期记忆组中第二个长短期记忆神经单元沿时间依次传递连接，共享神经网络的参数；所有时刻的气象参数xt所对应的长短期记忆组中第三个长短期记忆神经单元沿时间依次传递连接，共享神经网络的参数；最后各个时刻的气象参数xt经长短期记忆组处理输出各自的隐层特征ht；
所述的注意力神经网络层采用一层全连接神经网络层，输入长短期记忆神经网络层在各时刻t提取的隐藏特征ht，输出各时刻的注意力值αt，之后根据注意力值αt对整个时间序列的隐藏特征ht按照以下公式进行处理，得到注意力加权的隐藏特征αtht，得到所有时序的注意力加权的隐藏特征合并成一特征向量H：
αt＝softmax(WA*ht+bA)
H＝α1h1+α2h2+…+αtht
其中，WA和bA分表表示注意力神经网络层的可学习的权重矩阵和偏差向量，softmax()是激活函数，将值的范围映射到(0，1)区间内；
所述的多任务输出层根据空间差异构建地理区域特异的输出层，输出对应地理区域r内的作物产量y，处理如以下公式：
y＝Wr*H+br
其中，r表示对应地理区域的索引，wr和br分别表示对应于地理区域r的多任务输出层的可学习的权重矩阵和偏差向量。
长短期记忆神经网络层，用于处理时间序列数据，提取时间特征；
注意力神经网络层，用于量化各时序的重要性，对时间特征进行权值分配；
多任务输出层，用于学习空间特异的特征，输出估测的作物产量值。多任务输出层根据地理区域划分成不同，构地理建区域特异的全连接输出层，无激活函数。
所述步骤2)中，模型超参数优化包括长短期记忆神经网络层的层数、注意力神经网络层数、多任务输出层的层数及任务数目、各层隐藏特征维度和模型训练学习率。在经过交叉验证后，选取最优的模型超参数。
具体实施中，长短期记忆神经网络层层数为3，隐藏特征维度为32；注意力神经网络层结构为一层全连接神经网络，激活函数为softmax；多任务输出层根据研究区域划分成不同任务，构建区域特异的全连接输出层，无激活函数。
所述步骤3)中，将训练集数据输入到模型中，采用Adam方法结合反向传播算法训练获得模型的权重，具体是获得WA、bA、Wr、br的参数，直至训练集损失函数值收敛至最低值。
所述步骤4)中，通过模型输出估测农作物样本的作物产量，例如可以是玉米、小麦、水稻的单位面积产量。
所述步骤4)中，可以输入各地区的气象参数时间序列，通过模型输出估测各地区的作物产量。
本发明基于深度学习方法，从历史气象数据和作物产量数据中学习时间特征和空间特征，提高了大空间尺度下的作物产量估测精度；通过嵌入了注意力机制的长短期记忆神经网络提取数据中的时序特征，进而采用多任务学习方法构建区域特异的输出层来学习各区域的空间特异性特征，并输出估测的作物产量。
本发明的有益效果是：
本发明基于长短期记忆神经网络、注意力机制和多任务学习方法，构建了同时学习作物生长过程中的时序特征和空间特异性特征的深度学习模型框架，实现了时间特征和空间特征的联合学习，提高了模型对作物产量估测的精度和稳定性。嵌入的注意力机制可以可视化模型对时序特征的处理过程，有利于判断关键生长时期以辅助决策。本发明通过多任务学习方法提取各区域特异的空间特征，在研究区域空间差异大的情况下，本发明的作物单产估测精度更高，稳定性更好。
综合来说，本发明联合了时间特征学习和空间特征学习用于实现了农作物产量的估测，在空间差异较大且复杂的研究区域内，本发明的作物产量估测精度更高，稳定性更好。
附图说明
图1为本发明方法的建模流程图；
图2为本发明方法的模型结构示意图；
图3为将实施例的注意力值可视化绘制出的箱体图。
具体实施方式
为更好理解本发明，下面结合实施例对本发明做进一步详细说明，但本发明要求保护的范围并不局限于实施例表示的范围。以下进行的实施例，在Python软件上运行。下面结合附图和实施例对本发明做进一步说明。
本实施例应用于县级玉米产量的定量估测。所选取的研究区域是美国玉米带地区，一共包括11个州的县级数据：Minnesota(MN),Wisconsin(WI),Michigan(MI),Nebraska(NE),Iowa(IA),Illinois(IL),Indiana(IN),Ohio(OH),Kansas(KS),Missouri(MO)和Kentucky(KY)。采用数据为1981-2016年县级玉米产量和气象数据，均来自公开数据集。本实施例所选择的气象指标包括：有效积温指标Growing Degree Days(GDD),高温胁迫指标Killing Degree Days(KDD)和累积降雨量PRCP。每一年一个县的玉米产量及气象指标为一样本，共有34403个样本。根据年份，将1981-2014年的样本作为训练集，共32778个；将2015-2016年的样本作为测试集，共1625个。所有样本中，最小去趋势产量为-7.63吨/公顷，最大去趋势产量为4.13吨/公顷，平均去趋势产量为-0.01吨/公顷，标准差为1.32吨/公顷。
如图1所示步骤，实施例过程如下：
1)将训练集数据输入到模型中。
2)优化模型的超参数，模型的结构如图2所示，具体包括：三层长短期记忆神经网络层、注意力神经网络层和多任务输出层。模型的时序为从播种开始到玉米成熟的20周，三层长短期记忆神经网络的隐藏特征维度设置为32。注意力神经网络层的结构为单层全连接神经网络，以长短期记忆神经网络在各时序所提取的隐藏特征作为输入，输出各时序的注意力值，用于量化表征模型对各时序的关注程度。输出层为三个区域特异的输出层，输出各自区域内样本的估测作物产量值。其中含有的优化过后的超参数包括：长短期记忆网络的层数(3层)和隐藏特征维度(32)、注意力神经网络层数(1层)、多任务输出层的层数(1)和任务数(3)，以及学习率设置为0.00001。
3)模型的超参数优化完毕后，再次使用所有的训练集数据来训练模型的参数。通过反向传播算法在训练集上训练模型的参数，模型训练迭代直至训练集损失函数收敛，从初始化至训练完成共15830轮。
4)模型训练好后，终止训练，保存最优的模型，并在测试集上测试模型的效果。根据测试集各样本的预测值和真实值的RMSE评估模型精度。
5)通过训练集数据训练传统的LASSO模型和Random Forest模型，并在测试集上测试，得到的结果是LASSO模型的RMSE是1.16吨/公顷，Random Forest模型的RMSE是1.07吨/公顷，而通过本发明提出的方法的RMSE是0.87吨/公顷。通过比较可以看出，该方法在作物产量估测的精度上高于传统方法。
6)并且，通过将注意力网络计算得到的注意力值αt可视化，绘制出每个州的注意力值在各时刻的箱体图，如图3所示。可以发现模型提取到了一种时间维度上的特征，且这种特征在各州之间表现一致性。从第1周到第20周，注意力值不断增大，代表模型对后面时刻更加关注。此结果表明嵌入的注意力机制可以可视化模型对时序特征的处理过程，提高模型的可解释性。
Claims (5)
1.一种深度时空特征联合学习的农作物产量估测方法，其特征在于该方法包含如下步骤：
步骤1)：获取地区的历史作物产量数据和气象数据并进行预处理，对气象数据进行预处理获得气象参数，对产量数据进行预处理获得去趋势产量，分别作为后续作物单产时空特征深度学习模型的输入和输出数据；
步骤2)：构建作物单产时空特征深度学习模型，并对模型的超参数进行优化；
步骤3)：将步骤1)获得的气象参数作为输入，将步骤1)获得的去趋势产量作为输出，形成训练集样本进而训练作物单产时空特征深度学习模型，采用Adam优化方法结合反向传播方法训练获得模型的参数，经过多轮训练后得到最优参数，进而获得训练后的模型；
步骤4)：将待测作物产量的气象参数输入训练后的模型，输出预测结果，获得农作物产量估测结果；
所述步骤2)中，作物单产时空特征深度学习模型主要由输入层、长短期记忆神经网络层、注意力神经网络层和多任务输出层依次连接构成；
所述的输入层中输入作物生长期间内的气象参数时间序列，并采用min-max归一化处理将各气象参数值域变换为[0,1]；
所述的长短期记忆神经网络层由长短期记忆神经单元组成，每个时刻的气象参数xt输入到各自对应的由三个连续依次连接的长短期记忆神经单元组成的长短期记忆组中，并且所有时刻的气象参数xt所对应的长短期记忆组中第一个长短期记忆神经单元沿时间依次传递连接，共享神经网络的参数；所有时刻的气象参数xt所对应的长短期记忆组中第二个长短期记忆神经单元沿时间依次传递连接，共享神经网络的参数；所有时刻的气象参数xt所对应的长短期记忆组中第三个长短期记忆神经单元沿时间依次传递连接，共享神经网络的参数；最后各个时刻的气象参数xt经长短期记忆组处理输出各自的隐层特征ht；
所述的注意力神经网络层采用一层全连接神经网络层，输入长短期记忆神经网络层在各时刻t提取的隐藏特征ht，输出各时刻的注意力值αt，之后根据注意力值αt对整个时间序列的隐藏特征ht按照以下公式进行处理，得到注意力加权的隐藏特征αtht，得到所有时序的注意力加权的隐藏特征合并成一特征向量H：
αt＝softmax(WA*ht+bA)
H＝α1h1+α2h2+…+αtht
其中，WA和bA分别 表示注意力神经网络层的可学习的权重矩阵和偏差向量，softmax()是激活函数；
所述的多任务输出层输出对应地理区域r内的作物产量y，处理如以下公式：
y＝Wr*H+br
其中，r表示对应地理区域的索引，wr和br分别表示对应于地理区域r的多任务输出层的可学习的权重矩阵和偏差向量。
2.根据权利要求1所述的一种深度时空特征联合学习的农作物产量估测方法，其特征在于：所述的步骤1)中，数据预处理包括：根据历史作物产量数据构建产量-年份一元线性回归方程，对作物产量数据进行去趋势处理，将产量-年份一元线性回归方程拟合得到的残差作为去趋势产量，作为模型输出的真实值；从历史的气象数据中提取时间序列的作物播种至成熟的气象参数并进行归一化处理作为模型输入。
3.根据权利要求1所述的一种深度时空特征联合学习的农作物产量估测方法，其特征在于：所述历史气象数据具体包括固定时间段内的日最高温度、日最低温度和日平均温度以及固定时间段内的日降水量。
4.根据权利要求1所述的一种深度时空特征联合学习的农作物产量估测方法，其特征在于：所述步骤2)中，模型超参数优化包括长短期记忆神经网络层的层数、注意力神经网络层数、多任务输出层的层数及任务数目、各层隐藏特征维度和模型训练学习率。
5.根据权利要求1所述的一种深度时空特征联合学习的农作物产量估测方法，其特征在于：所述步骤4)中，通过模型输出估测农作物样本的作物产量。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911134971.4A CN111027752B (zh) | 2019-11-19 | 2019-11-19 | 一种深度时空特征联合学习的农作物产量估测方法 |
| US17/777,053 US11741555B2 (en) | 2019-11-19 | 2020-10-29 | Crop yield estimation method based on deep temporal and spatial feature combined learning |
| PCT/CN2020/124870 WO2021098472A1 (zh) | 2019-11-19 | 2020-10-29 | 一种深度时空特征联合学习的农作物产量估测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911134971.4A CN111027752B (zh) | 2019-11-19 | 2019-11-19 | 一种深度时空特征联合学习的农作物产量估测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111027752A CN111027752A (zh) | 2020-04-17 |
| CN111027752B true CN111027752B (zh) | 2022-06-21 |
Family
ID=70200622
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911134971.4A Active CN111027752B (zh) | 2019-11-19 | 2019-11-19 | 一种深度时空特征联合学习的农作物产量估测方法 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US11741555B2 (zh) |
| CN (1) | CN111027752B (zh) |
| WO (1) | WO2021098472A1 (zh) |
Families Citing this family (25)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111027752B (zh) | 2019-11-19 | 2022-06-21 | 浙江大学 | 一种深度时空特征联合学习的农作物产量估测方法 |
| CN112183575A (zh) * | 2020-08-24 | 2021-01-05 | 盐城工学院 | 一种基于区域气象参数预测土豆产量的方法 |
| CN113052433B (zh) * | 2021-02-22 | 2024-02-06 | 中国科学院空天信息创新研究院 | 基于关键时相和农田景观特征参量的作物单产估算方法 |
| CN113255999B (zh) * | 2021-05-25 | 2024-04-12 | 中国农业科学院农业信息研究所 | 基于多模型的农作物产量评估方法、装置、设备及介质 |
| CN113420513B (zh) * | 2021-07-01 | 2023-03-07 | 西北工业大学 | 一种基于深度学习的水下圆柱体扰流分区流场预测方法 |
| CN113836783B (zh) * | 2021-07-16 | 2022-11-18 | 东南大学 | 斜拉桥主梁温致挠度监测基准值的数字回归模型建模方法 |
| CN114925947B (zh) * | 2022-03-04 | 2023-04-07 | 武汉大学 | 一种物候自适应的作物生理指标深度学习估测方法及系统 |
| CN114841400A (zh) * | 2022-03-25 | 2022-08-02 | 哈尔滨工程大学 | 基于多任务时空图卷积的空气质量预测方法 |
| CN114894619B (zh) * | 2022-05-10 | 2024-04-05 | 中南大学 | 基于长短期记忆网络的钢管混凝土柱轴压荷载-应变曲线预测方法 |
| CN114994294B (zh) * | 2022-05-20 | 2023-04-18 | 燕山大学 | 基于注意力与窗口选通机制的水泥熟料游离钙软测量方法 |
| CN114997490B (zh) * | 2022-05-30 | 2024-08-27 | 北京环境特性研究所 | 温度廓线预测模型的构建方法、预测方法、装置及设备 |
| CN114936700B (zh) * | 2022-05-30 | 2024-08-27 | 北京环境特性研究所 | 气溶胶浓度时空分布预测模型的构建方法及预测方法 |
| CN114972684A (zh) * | 2022-06-06 | 2022-08-30 | 中国农业大学 | 作物长势预测方法、装置、设备及介质 |
| CN115237896B (zh) * | 2022-07-12 | 2023-07-11 | 四川大学 | 一种基于深度学习预报空气质量的数据前处理方法及系统 |
| CN115564145B (zh) * | 2022-11-17 | 2023-06-30 | 北京市农林科学院信息技术研究中心 | 基于分布式数据的农作物品种产量预测方法及装置 |
| CN115829162B (zh) * | 2023-01-29 | 2023-05-26 | 北京市农林科学院信息技术研究中心 | 作物产量预测方法、装置、电子设备及介质 |
| CN115860269B (zh) * | 2023-02-20 | 2023-05-16 | 南京信息工程大学 | 一种基于三重注意力机制的农作物产量预测方法 |
| CN117114190B (zh) * | 2023-08-29 | 2024-06-14 | 华中科技大学 | 一种基于混合深度学习的河道径流预测方法及设备 |
| CN116842351B (zh) * | 2023-09-01 | 2023-11-10 | 山东省海洋资源与环境研究院(山东省海洋环境监测中心、山东省水产品质量检验中心) | 滨海湿地碳汇评估模型构建方法、评估方法和电子设备 |
| CN117133129B (zh) * | 2023-10-26 | 2024-01-30 | 山东科技大学 | 一种基于多分量注意力图神经网络的交通速度预测方法 |
| CN117556956B (zh) * | 2023-11-24 | 2024-06-11 | 中国科学院空天信息创新研究院 | 一种水稻单位面积产量估计方法及装置 |
| CN117471575B (zh) * | 2023-12-28 | 2024-03-08 | 河海大学 | 基于bo-lstm神经网络模型的台风浪波高预报方法 |
| CN117575111B (zh) * | 2024-01-16 | 2024-04-12 | 安徽农业大学 | 一种基于迁移学习的农业遥感图像时空序列预测方法 |
| CN117763361B (zh) * | 2024-02-22 | 2024-04-30 | 泰山学院 | 一种基于人工智能的学生成绩预测方法及系统 |
| CN118397297B (zh) * | 2024-06-28 | 2024-09-10 | 杨凌数字农业科技有限公司 | 一种基于机器学习的玉米产量预测方法及系统 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104089911A (zh) * | 2014-06-27 | 2014-10-08 | 桂林电子科技大学 | 基于一元线性回归的光谱模型传递方法 |
| EP3273387A1 (en) * | 2016-07-19 | 2018-01-24 | Siemens Healthcare GmbH | Medical image segmentation with a multi-task neural network system |
| CN109886496A (zh) * | 2019-02-27 | 2019-06-14 | 中南大学 | 一种基于气象信息的农产量预测方法 |
Family Cites Families (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11327475B2 (en) * | 2016-05-09 | 2022-05-10 | Strong Force Iot Portfolio 2016, Llc | Methods and systems for intelligent collection and analysis of vehicle data |
| US20180284735A1 (en) * | 2016-05-09 | 2018-10-04 | StrongForce IoT Portfolio 2016, LLC | Methods and systems for industrial internet of things data collection in a network sensitive upstream oil and gas environment |
| WO2019028269A2 (en) * | 2017-08-02 | 2019-02-07 | Strong Force Iot Portfolio 2016, Llc | METHODS AND SYSTEMS FOR DETECTION IN AN INDUSTRIAL ENVIRONMENT OF COLLECTING INTERNET DATA FROM OBJECTS WITH LARGE DATA SETS |
| WO2018187632A1 (en) * | 2017-04-05 | 2018-10-11 | Carnegie Mellon University | Deep learning methods for estimating density and/or flow of objects, and related methods and software |
| US10678233B2 (en) * | 2017-08-02 | 2020-06-09 | Strong Force Iot Portfolio 2016, Llc | Systems and methods for data collection and data sharing in an industrial environment |
| CN110443420B (zh) | 2019-08-05 | 2023-05-09 | 山东农业大学 | 一种基于机器学习的作物产量预测方法 |
| CN111027752B (zh) | 2019-11-19 | 2022-06-21 | 浙江大学 | 一种深度时空特征联合学习的农作物产量估测方法 |
| US11592594B2 (en) * | 2020-04-13 | 2023-02-28 | X Development Llc | Subsurface lithological model with machine learning |
| US11625627B2 (en) * | 2020-04-21 | 2023-04-11 | Microsoft Technology Licensing, Llc | Predicted forecast offset from remote location sensor |
-
2019
- 2019-11-19 CN CN201911134971.4A patent/CN111027752B/zh active Active
-
2020
- 2020-10-29 US US17/777,053 patent/US11741555B2/en active Active
- 2020-10-29 WO PCT/CN2020/124870 patent/WO2021098472A1/zh active Application Filing
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104089911A (zh) * | 2014-06-27 | 2014-10-08 | 桂林电子科技大学 | 基于一元线性回归的光谱模型传递方法 |
| EP3273387A1 (en) * | 2016-07-19 | 2018-01-24 | Siemens Healthcare GmbH | Medical image segmentation with a multi-task neural network system |
| CN109886496A (zh) * | 2019-02-27 | 2019-06-14 | 中南大学 | 一种基于气象信息的农产量预测方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2021098472A1 (zh) | 2021-05-27 |
| US20220405864A1 (en) | 2022-12-22 |
| US11741555B2 (en) | 2023-08-29 |
| CN111027752A (zh) | 2020-04-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111027752B (zh) | 一种深度时空特征联合学习的农作物产量估测方法 | |
| CN110378435B (zh) | 一种基于卷积神经网络的苹果叶片病害识别的方法 | |
| Ji et al. | Artificial neural networks for rice yield prediction in mountainous regions | |
| Matsumura et al. | Maize yield forecasting by linear regression and artificial neural networks in Jilin, China | |
| CN101480143B (zh) | 一种预测灌区作物单产量的方法 | |
| CN109002917A (zh) | 基于lstm神经网络的粮食总产量多维时间序列预测方法 | |
| CN112288164B (zh) | 一种计及空间相关性和修正数值天气预报的风功率组合预测方法 | |
| CN107704962B (zh) | 一种基于不完整训练数据集的蒸汽流量区间预测方法 | |
| Bagherzadeh et al. | Land suitability modeling by parametric-based neural networks and fuzzy methods for soybean production in a semi-arid region | |
| Çakır et al. | Yield prediction of wheat in south-east region of Turkey by using artificial neural networks | |
| CN113537645B (zh) | 基于机器学习融合卫星与天气数据的大豆产量预测方法 | |
| CN110119086A (zh) | 一种基于anfis神经网络的番茄温室环境参数智能监测装置 | |
| Mariadass et al. | EXtreme gradient boosting (XGBoost) regressor and shapley additive explanation for crop yield prediction in agriculture | |
| CN105184400A (zh) | 一种烟田土壤水分预测方法 | |
| WO2023245399A1 (zh) | 基于土地系统和气候变化耦合的水稻生产潜力模拟方法 | |
| Aubakirova et al. | APPLICATION OF ARTIFICIAL NEURAL NETWORK FOR WHEAT YIELD FORECASTING. | |
| Kalaiarasi et al. | Crop yield prediction using multi-parametric deep neural networks | |
| Yang et al. | Prediction of corn variety yield with attribute-missing data via graph neural network | |
| CN114611804A (zh) | 基于tso-grnn组合模型的玉米产量预测方法 | |
| Geetha et al. | A time-series based yield forecasting model using stacked lstm to predict the yield of paddy in cauvery delta zone in tamilnadu | |
| CN105825347A (zh) | 经济预测模型建立的方法和预测方法 | |
| Ruß et al. | Estimation of neural network parameters for wheat yield prediction | |
| Berger et al. | Combining machine learning and simulation modelling for better predictions of crop yield and farmer income | |
| CN113723707A (zh) | 一种基于深度学习模型的中长期径流趋势预测方法 | |
| CN114692971A (zh) | 一种基于产量差的作物产量预测方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |