CN114359544B - 基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法 - Google Patents
基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法 Download PDFInfo
- Publication number
- CN114359544B CN114359544B CN202111610452.8A CN202111610452A CN114359544B CN 114359544 B CN114359544 B CN 114359544B CN 202111610452 A CN202111610452 A CN 202111610452A CN 114359544 B CN114359544 B CN 114359544B
- Authority
- CN
- China
- Prior art keywords
- sae
- network
- layer
- model1
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001228 spectrum Methods 0.000 title claims abstract description 55
- 238000000034 method Methods 0.000 title claims abstract description 47
- 238000013508 migration Methods 0.000 title claims abstract description 42
- 230000005012 migration Effects 0.000 title claims abstract description 42
- 244000038559 crop plants Species 0.000 title claims abstract description 21
- 241000196324 Embryophyta Species 0.000 claims abstract description 38
- 230000003595 spectral effect Effects 0.000 claims abstract description 30
- 229910001385 heavy metal Inorganic materials 0.000 claims abstract description 17
- 238000013136 deep learning model Methods 0.000 claims abstract description 10
- 238000010276 construction Methods 0.000 claims abstract description 8
- 238000007781 pre-processing Methods 0.000 claims abstract description 8
- 238000012549 training Methods 0.000 claims description 27
- 238000004422 calculation algorithm Methods 0.000 claims description 15
- 230000011218 segmentation Effects 0.000 claims description 12
- 238000002329 infrared spectrum Methods 0.000 claims description 11
- 238000004364 calculation method Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 9
- 230000007613 environmental effect Effects 0.000 claims description 8
- 238000013526 transfer learning Methods 0.000 claims description 8
- 239000011159 matrix material Substances 0.000 claims description 6
- 238000001479 atomic absorption spectroscopy Methods 0.000 claims description 5
- 230000006870 function Effects 0.000 claims description 5
- 238000012545 processing Methods 0.000 claims description 5
- 230000004913 activation Effects 0.000 claims description 4
- 238000002360 preparation method Methods 0.000 claims description 4
- 230000008014 freezing Effects 0.000 claims description 3
- 238000007710 freezing Methods 0.000 claims description 3
- 238000012706 support-vector machine Methods 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 238000001514 detection method Methods 0.000 abstract description 14
- 230000008901 benefit Effects 0.000 abstract description 6
- 240000000385 Brassica napus var. napus Species 0.000 description 4
- 235000014698 Brassica juncea var multisecta Nutrition 0.000 description 3
- 235000006008 Brassica napus var napus Nutrition 0.000 description 3
- 235000006618 Brassica rapa subsp oleifera Nutrition 0.000 description 3
- 235000004977 Brassica sinapistrum Nutrition 0.000 description 3
- 238000000701 chemical imaging Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 210000002569 neuron Anatomy 0.000 description 3
- 239000002689 soil Substances 0.000 description 3
- LFQSCWFLJHTTHZ-UHFFFAOYSA-N Ethanol Chemical compound CCO LFQSCWFLJHTTHZ-UHFFFAOYSA-N 0.000 description 2
- 239000003153 chemical reaction reagent Substances 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 235000015097 nutrients Nutrition 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 240000008415 Lactuca sativa Species 0.000 description 1
- 235000003228 Lactuca sativa Nutrition 0.000 description 1
- 240000007594 Oryza sativa Species 0.000 description 1
- 235000007164 Oryza sativa Nutrition 0.000 description 1
- 238000012271 agricultural production Methods 0.000 description 1
- 235000001014 amino acid Nutrition 0.000 description 1
- 150000001413 amino acids Chemical class 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 235000014633 carbohydrates Nutrition 0.000 description 1
- 150000001720 carbohydrates Chemical class 0.000 description 1
- 210000000748 cardiovascular system Anatomy 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 210000000170 cell membrane Anatomy 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 239000008367 deionised water Substances 0.000 description 1
- 229910021641 deionized water Inorganic materials 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000001079 digestive effect Effects 0.000 description 1
- 210000002249 digestive system Anatomy 0.000 description 1
- 230000002526 effect on cardiovascular system Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 235000013305 food Nutrition 0.000 description 1
- 230000035784 germination Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000011132 hemopoiesis Effects 0.000 description 1
- 230000036737 immune function Effects 0.000 description 1
- 231100001240 inorganic pollutant Toxicity 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000000653 nervous system Anatomy 0.000 description 1
- 238000009659 non-destructive testing Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 235000019362 perlite Nutrition 0.000 description 1
- 239000010451 perlite Substances 0.000 description 1
- 238000005502 peroxidation Methods 0.000 description 1
- 150000008442 polyphenolic compounds Chemical class 0.000 description 1
- 235000013824 polyphenols Nutrition 0.000 description 1
- 235000018102 proteins Nutrition 0.000 description 1
- 102000004169 proteins and genes Human genes 0.000 description 1
- 108090000623 proteins and genes Proteins 0.000 description 1
- 238000004451 qualitative analysis Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 210000005227 renal system Anatomy 0.000 description 1
- 230000001850 reproductive effect Effects 0.000 description 1
- 210000004994 reproductive system Anatomy 0.000 description 1
- 235000009566 rice Nutrition 0.000 description 1
- 238000012954 risk control Methods 0.000 description 1
- 230000037152 sensory function Effects 0.000 description 1
- 238000003900 soil pollution Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 231100000331 toxic Toxicity 0.000 description 1
- 230000002588 toxic effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000011426 transformation method Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Chemical compound O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Landscapes
- Investigating Or Analysing Materials By Optical Means (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了基于T‑SAE农作物植株铅浓度Vis‑NIR光谱深度迁移学习方法，获取植株根和叶片样本的高光谱图像并进一步得到植株根和叶片ROI光谱，对植株根和叶片ROI光谱进行预处理获得集合S1和S2；分别从植株根和叶片的ROI中随机抽取n个平均光谱数据并进行预处理获得集合S3和S4；基于上述光谱数据集合以及铅胁迫类别标签集合L，分别完成根、叶片光谱数据与铅胁迫类别的深度学习模型SAE Model 1和SAE Model 2的构建；进而得到根、叶片光谱数据和铅胁迫类别之间的T‑SAE深度迁移学习模型，本方法具有检测速度快，精度高，可迁移能力强，对农作物植株不会造成破坏等优点，可实现农作物植株环境重金属铅浓度类别检测。
Description
技术领域
本发明属于植物检测技术领域，尤其涉及基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法。
背景技术
重金属污染的土壤环境不适合用于现代农业生产，其主要原因为重金属在作物体内存在累积效应，并且会通过食物链对人类健康造成危害。依据国家环境保护部和国土资源部联合发布了《全国土壤污染状况报告》，全国土壤总的超标率为16.1％，无机污染物铅点位超标率为1.5％。值得注意的是，我国华东、华南、西部部分地区的土壤铅浓度确实超过了风险控制值500mg/kg。铅(Pb)是一种高度危险的有毒金属，会阻碍造血、改变免疫和感觉功能，并影响心血管、肾脏、消化、生殖和神经系统等。
高光谱成像(HSI)技术是一种将光谱和图像相结合的无损检测技术，目前其在作物环境重金属定性检测分析方面取得了一些研究进展。由于相邻波段间的高光谱信息存在较强的相关性，导致传统线性降维方法难以实现有效特征选取，而以堆叠自动编码器(SAE)为代表的深度学习方法，通过逐层深度网络的训练，能够有效实现高光谱图像深度特征的提取。因此，高光谱成像技术结合深度学习算法可以有效提高作物环境重金属定性分析检测的准确性。
然而，当检测目标相同但输入数据不同时，往往需要重新训练以获得新的深度学习模型，无法充分利用前人研究的深度学习模型。迁移学习(TL)是机器学习中的一种新学习范式，能够用于不同领域之间的一般信息迁移。堆叠自动编码器(SAE)进行高光谱图像深度特征学习时，主要是将低级特征(从初始输入层)合并到更高级别的抽象(最后一个深层特征层)来实现目标检测。因此，迁移学习(TL)的主要目的是使用已经获得的知识来避免从头开始训练深度学习模型。目前重金属检测发明专利算法存在重复训练和模型利用率低的问题，所建立模型结构复杂、效率低和鲁棒性低等问题。
发明内容
本发明根据现有技术中存在的问题，提出了基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法，目的在于提供一种检测精度高、可迁移能力强、对农作物不会造成破坏的环境重金属铅浓度Vis-NIR光谱深度迁移学习方法。
本发明所采用的技术方案如下：
基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法，包括以下部分：
数据准备：
采集环境不同浓度铅胁迫农作物植株根和叶片样本的高光谱图像，分别对植株根和叶片ROI光谱进行预处理获得光谱数据集合S1和S2；分别从植株根和叶片的ROI中随机抽取n个平均光谱数据并进行预处理获得光谱数据集合S3和S4；同时标定样本中环境铅胁迫类别信息，形成铅胁迫类别标签集合L；
构建模型：
输入根和叶的光谱数据集合S1和S2，随机抽取的根和叶的光谱数据集合S3和S4，以及铅胁迫类别标签集合L；初始化堆叠自动编码器的权值矩阵W和偏移量b,
设置堆叠自动编码器网络结构,数据集合S3和S4被用来以无监督的方式预训练SAE网络；将光谱数据集合S1和S2分别作为预训练SAE网络的输入并进行网络参数的微调，分别完成根、叶片光谱数据与铅胁迫类别的深度学习模型SAE Model 1和SAE Model 2的构建；
对SAE Model 1和SAE Model 2模型网络层数是否相等进行判定，如果相同，直接进行T-SAE迁移学习；如果不相同，则需要对T-SAE迁移网络进行平移和扩展；
完成网络层数扩展后，完成根、叶片光谱数据和铅胁迫类别之间的T-SAE深度迁移学习模型构建，分别表示为T-SAE Model 1和T-SAE Model 2；T-SAE模型冻结网络的权重使用SAE模型的权重进行初始化，并使用来自目标域数据进行重新训练并实现参数微调，而T-SAE模型再训练网络中包含了新网络的深层特征层需要重新开始训练，包括再训练网络的权重随机初始化；
T-SAE Model 1模型迁移的方式为源域中预训练网络层的保存冻结状态，保留主模型中预训练网络层的权重，但未迁移源域中深度特征层；T-SAE Model 2模型迁移的方式为源域中输出层除外的网络层均保持冻结状态，保留主模型中预训练网络层和深度特征层的权重；此外，T-SAE Model 1和T-SAE Model 2均需要进行再训练以获得新网络的深度特征；
通过结合支持向量机算法，实现T-SAE Model 1和T-SAE Model 2逐层新网络的权重和偏置的确立，并通过对比T-SAE Model 1和T-SAE Model 2网络性能确立最佳的T-SAE深度迁移方案。
进一步，对T-SAE迁移网络进行平移和扩展的方法：
假设SAE Model 1网络层数为m，SAE Model 2网络层数为n，m<n；为了保持T-SAE迁移学习过程中SAE Model 1和SAE Model 2网络层数相同，需要保持SAE Model 1网络的深度特征层参数不变的前提下，将SAE Model 1网络层数从m层扩展到n层。其核心计算方法为：以SAE Model 1网络从第k层扩展到第k+1层为例，第k+1层第i节点Yi的计算公式如下：
其中，Xp为SAE Model 1网络第k层第p节点的值，ωij为SAE Model 1网络第k层第i节点到第k+1层第j节点的权重系数,bij为SAE Model 1网络第k层第i个节点到第k+1层的第j个节点的偏置，Sf为SAE Model 1网络的激活函数，i＝1,2,3,...,l；j＝1,2,3,...,l，l为SAE Model 1网络中深度特征层的节点数；
为保证SAE Model 1网络深度特征层参数不变，ωij取值和bij取值如下：
bij＝0
以SAE Model 1网络从第k层扩展到第k+1层的方法为参考，一直持续到将SAEModel1网络层数从m层扩展到n层。
进一步，数据集合S1和S2中70％的数据作为训练集，用于调整数据集合S3和S4以无监督的方式预训练得到的SAE网络参数权值矩阵和偏移量；集合S1和S2中剩余30％的数据作为预测集，采用梯度下降算进一步微调SAE网络参数，使得模型输出与期望保持一致。
进一步，SAE Model 1和SAE Model 2的网络结构均包括预训练网络层、深度特征层和输出层。
进一步，采用一阶导数算法对植株根的ROI可见光-近红外光谱信息处理后放置于集合S1，采用标准归一化变换SNV对叶片ROI可见光-近红外光谱信息处理获得光谱数据集合S2。
进一步，对植株根的ROI可见光-近红外光谱信息中随机抽取的平均光谱数据经过一阶导数算法处理后放置于集合S3；叶片的ROI可见光-近红外光谱信息中随机抽取的平均光谱数据经过SNV处理后放置于集合S4。
进一步，分别从植株根和叶片的ROI可见光-近红外光谱信息中随机抽取20个25像素×25像素平均光谱数据并进行预处理获得光谱数据集合S3和S4。
进一步，所述环境铅浓度水平标签集合L获取的方法为：采用原子吸收光谱法测定并评估根和叶片中重金属铅含量水平。
进一步，将整个植株根作为感兴趣区域，利用植株根与背景反射值差异最大的波长图像与植株根与背景反射值差异最小的波长图像作比，设定二值化分割阈值，对作比后图像进行阈值分割获取淹模图像，最后通过淹模图像获取去除背景后整个植株根ROI可见光-近红外光光谱。
进一步，将整个叶片作为感兴趣区域，利用叶片与背景反射值差异最大的波长图像与叶片与背景反射值差异最小的波长图像作比，设定二值化分割阈值，对作比后图像进行阈值分割获取淹模图像，最后通过淹模图像获取去除背景后整个叶片ROI可见光-近红外光光谱。
本发明的有益效果：
本发明之所以分别针对根和叶进行处理，这样的优点是充分利用环境铅胁迫下整体的植株逆境信息(即根和叶高光谱图像信息)，从而有效实现环境铅胁迫浓度的高精度分类研究。
此外，对SAE Model 1和SAE Model 2模型网络进行平移和扩展的优点是充分考虑实际检测中存在SAE Model 1和SAE Model 2模型网络深度不一的可能性，通过模型网络的平移和扩展，增加网络层数的同时，保持网络原始输出的一致性，进而提高后续T-SAE深度迁移学习模型的检测精度、鲁棒性和可迁移能力。
与传统的深度学习模型参数随机初始化相比，T-SAE模型冻结网络的权重使用SAE模型的权重(基于源域的SAE Model 1和SAE Model 2模型)进行初始化，并使用来自目标域数据进行重新训练并实现参数微调，这样处理的优点是有效减少了模型的训练时间，避免了重复训练和模型利用率低的问题，所建立T-SAE模型具有检测精度高、鲁棒性强和可迁移能力强的优势。
附图说明
图1是基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法的流程图；
图2和图3分别是油菜根和叶片感兴趣区域Vis-NIR光谱图；
图4和图5分别是油菜根和叶片感兴趣区域Vis-NIR光谱数据采用一阶导数法(1stDer)和标准归一化变换法(SNV)预处理后光谱图；
图6是四层SAE深层网络的结构图例；
图7是两种T-SAE深度迁移学习模型T-SAE Model 1和T-SAE Model 2构建流程。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用于解释本发明，并不用于限定本发明。
本发明所设计的基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法适用于农作物植株环境重金属铅浓度光谱检测，例如油菜、水稻、生菜等作物。重金属铅不同浓度胁迫下这些作物叶片中将形成一些富含N-H和O-H有机物(碳水化合物、氨基酸、蛋白质、多酚等)、以及叶细胞膜过氧化程度加深以增强叶片对铅的抗逆性，并且会对根部细胞结构和生化成分造成影响，为此Vis-NIR光谱能有效表征作物根和叶片环境重金属铅含量。油菜是中国最重要的油料作物之一，总产量居世界首位，其种植分布主要集中在华南和华北等地区，这一分布与铅污染区重叠。因此，对油菜植株种植环境铅(Pb)胁迫浓度进行分类具有重要意义，本实施例仅以油菜叶片作为例子阐述，适用于植株环境重金属铅水平定性检测。
具体过程如下：
步骤1，样本的制备：
培育试验在Venlo型温室大棚内进行油菜植株的无土栽培，以便获取较纯正的实验样本。油菜(秦油10号)的种子先用70％乙醇进行表面消毒，然后在去离子水中于25℃培养皿中避光4天发芽。发芽后，将幼苗移至珍珠岩固体基质上进行栽培。生长10天后，用完全渗透移栽基质的霍格兰营养液(pH＝6.0)对幼苗充分浇水，每天进行两次。油菜生长30天后，用添加重金属铅(Pb)试剂的霍格兰营养液(pH＝6.0)给幼苗浇水12天，铅试剂浓度设置分别为0、50、100、200和300μM，油菜植株分为5组，每组50株，最终栽培出250株油菜待油菜生长30天后叶数达到10-12片时，进行油菜根和叶样本采集，采集的油菜中间叶(不包括新、老叶)和根总数均为250，总计500个油菜叶和根样本用于Vis-NIR高光谱图像采集试验。
步骤2，数据的准备：
A，采用可见光-近红外高光谱图像采集系统，获取采集环境不同浓度重金属铅胁迫下的油菜根和叶片Vis-NIR高光谱图像信息，将整个油菜根作为感兴趣区域(ROI，regionof interest)，利用油菜根与背景反射值差异最大的波长(861.96nm)图像与油菜根与背景反射值差异最小的波长(480.46nm)图像作比，设定二值化分割阈值为1.6，对作比后图像进行阈值分割获取淹模图像，最后通过淹模图像获取去除背景后整个油菜根感兴趣区域可见光-近红外光光谱如图2所示。将整个油菜叶作为感兴趣区域(ROI，region of interest)，利用油菜叶与背景反射值差异最大的波长(756.17nm)图像与油菜叶与背景反射值差异最小的波长(671.83nm)图像作比，设定二值化分割阈值为1.3，对作比后图像进行阈值分割获取淹模图像，最后通过淹模图像获取去除背景后整个油菜叶片感兴趣区域可见光-近红外光光谱如图3所示。
采用一阶导数算法对油菜根ROI可见光-近红外光谱信息进行处理获得光谱数据集合S1；采用标准归一化变换(SNV)分别对叶片ROI可见光-近红外光谱信息进行处理获得光谱数据集合S2。
此外，分别从每个油菜叶样本或根样本的ROI中随机抽取20个(25像素×25像素)平均光谱数据。故油菜根的ROI中随机抽取5000个(25像素×25像素)平均光谱数据经过一阶导数算法处理后放置于集合S3；油菜叶的ROI中随机抽取5000个(25像素×25像素)平均光谱数据经过SNV处理后放置于集合S4。
B，采用原子吸收光谱法(AAS，atomic absorption spectrometry)测定同一油菜植株油菜根和叶片中重金属铅含量，进一步确定油菜植株铅胁迫类别标签集合L，化学检测参照国家标准GB 5009.12-2017。
步骤3，构建模型：
3.1，输入油菜根和叶光谱数据集合S1和S2，根和叶光谱数据集合S3和S4，以及油菜植株重金属铅胁迫浓度标签集合L；
3.2，初始化堆叠自动编码器中参数权值矩阵和偏移量，设定SAE深度学习网络中激活函数选择为sigmoid函数，学习率设置为0.01。数据集合S3和S4被用来以无监督的方式预训练SAE网络；数据集合S1和S2中70％的数据作为训练集，用于调整数据集合S3和S4以无监督的方式预训练得到的SAE网络参数权值矩阵和偏移量；集合S1和S2中剩余30％的数据作为预测集，采用梯度下降算进一步微调SAE网络参数，使得模型输出与期望保持一致。更具体地，基于集合S1、S3确立并完成根光谱数据与铅胁迫类别分类的最佳深度学习模型SAEModel 1；基于集合S2、S4确立并完成叶片光谱数据与铅胁迫类别分类的最佳深度学习模型SAE Model 2。其中，油菜根数据输入层节点数为410，油菜叶数据输入层节点数为411。如图6所示，以SAE深度网络结构为例，此时SAE Model 1和SAE Model 2的网络结构包括：预训练网络层、深度特征层和输出层。
3.3，对SAE Model 1和SAE Model 2模型网络层数是否相等进行判定，如果相同，直接进行T-SAE迁移学习；如果不相同，则需要对T-SAE迁移网络进行平移和扩展。假设SAEModel 1网络层数为m，SAE Model 2网络层数为n，m<n。为了保持T-SAE迁移学习过程中SAEModel 1和SAE Model 2网络层数相同，需要保持SAE Model 1网络的深度特征层参数不变的前提下，将SAE Model 1网络层数从m层扩展到n层。其核心计算方法为：以SAE Model 1网络从第k层扩展到第k+1层为例(图3)，第k+1层第i节点Yi的计算公式如下：
其中，Xp为SAE Model 1网络第k层第p节点的值，ωij为SAE Model 1网络第k层第i节点到第k+1层第j节点的权重系数,bij为SAE Model 1网络第k层第i个节点到第k+1层的第j个节点的偏置，Sf为SAE Model 1网络的激活函数。i＝1,2,3,...,l；j＝1,2,3,...,l。l为SAE Model 1网络中深度特征层的节点数。
为保证SAE Model 1网络深度特征层参数不变，ωij取值和bij取值如下：
bij＝0 (3)
以SAE Model 1网络从第k层扩展到第k+1层的方法为参考，一直持续到将SAEModel1网络层数从m层扩展到n层。
3.4，完成SAE Model 1网络层数扩展后，需要完成根、叶片光谱数据和铅胁迫类别之间的T-SAE深度迁移学习模型构建(T-SAE Model 1和T-SAE Model 2)。T-SAE模型冻结网络的权重使用SAE模型的权重(基于源域的SAE Model 1和SAE Model 2模型)进行初始化，并使用来自目标域数据进行重新训练并实现参数微调，而T-SAE模型再训练网络中包含了新网络的深层特征层需要重新开始训练，包括再训练网络的权重随机初始化，如图7所示。
其中，T-SAE Model 1模型迁移的方式为源域(SAE Model 1和SAE Model 2模型)中预训练网络层的保存冻结状态，保留主模型(SAE Model 1和SAE Model 2模型)中预训练网络层的权重，但未迁移源域中深度特征层；T-SAE Model 2模型迁移的方式为源域(SAEModel 1和SAE Model 2模型)中网络层(输出层除外)均保持冻结状态，保留主模型(SAEModel 1和SAE Model 2模型)中预训练网络层和深度特征层的权重。此外，T-SAE Model 1和T-SAE Model 2均需要进行再训练以获得新网络的深度特征。
通过结合支持向量机算法，实现T-SAE Model 1和T-SAE Model 2逐层新网络的权重和偏置的确立，并通过对比T-SAE Model 1和T-SAE Model 2网络性能(所建立最佳模型的训练集和预测集的准确率)确立最佳的T-SAE深度迁移方案(即完成模型构建)。
如表1所示，本发明利用SAE算法完成油菜根铅浓度Vis-NIR光谱深度特征的分类建模，SAE结构框架、建模结果如表所示：
表1基于油菜根Vis-NIR光谱深度特征的SAE结构框架与建模结果
模型规模表示基于SAE的深度学习模型中各层神经元个数。例如：[410-140-92]表示输入层总计410个神经元(即原始输入光谱波段数为410)，网络中包括2个隐含层神经元个数分别为140和92，并将最后1个隐含层(92个节点)作为SAE网络学习得到的深度特征。
从表1中可以看出，SAE Model 1模型的隐含层个数为3，模型规模为410-140-92，此时所建立基于油菜根Vis-NIR光谱深度特征的SAE预测模型效果最佳，其模型训练集和预测集的准确率分别为96.47％和95.00％。
如表2所示，本发明利用SAE算法完成油菜叶铅浓度Vis-NIR光谱深度特征的分类建模，SAE结构框架、建模结果如表所示：
表2基于油菜叶Vis-NIR光谱深度特征的SAE结构框架与建模结果
从表2中可以看出，SAE Model 2模型的隐含层个数为4，模型规模为411-148-108-66，此时所建立基于油菜叶Vis-NIR光谱深度特征的SAE预测模型效果最佳，其模型训练集和预测集的准确率分别为100％和93.75％。
如表3所示，本发明利用T-SAE算法完成油菜植株(根和叶)铅浓度Vis-NIR光谱深度迁移学习以及分类建模，T-SAE算法两种T-SAE Model 1和T-SAE Model 2模型迁移网络结构框架、建模结果如表3所示：
表3基于油菜植株(根和叶)Vis-NIR光谱深度迁移学习的T-SAE结构框架与建模结果
从表3中可以看出，T-SAE算法两种T-SAE Model 1和T-SAE Model 2模型迁移网络最佳层数均为5层，模型规模分别为821-288-248-119-106和821-288-200-158-96；T-SAEModel1模型预测集准确率为98.75％，而T-SAE Model 2模型预测集准确率为97.50％，T-SAE Model1模型性能优于T-SAE Model 2模型。为此，对于油菜植株铅浓度Vis-NIR光谱最佳深度迁移学习模型为T-SAE Model 1模型。
以上实施例仅用于说明本发明的设计思想和特点，其目的在于使本领域内的技术人员能够了解本发明的内容并据以实施，本发明的保护范围不限于上述实施例。所以，凡依据本发明所揭示的原理、设计思路所作的等同变化或修饰，均在本发明的保护范围之内。
Claims (10)
1.基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法，其特征在于，包括以下部分：
数据准备：
采集环境不同浓度铅胁迫农作物植株根和叶片样本的高光谱图像，分别对植株根和叶片ROI光谱进行预处理获得光谱数据集合S1和S2；分别从植株根和叶片的ROI中随机抽取n个平均光谱数据并进行预处理获得光谱数据集合S3和S4；同时标定样本中环境铅胁迫类别信息，形成铅胁迫类别标签集合L；
构建模型：
输入根和叶的光谱数据集合S1和S2，随机抽取的根和叶的光谱数据集合S3和S4，以及铅胁迫类别标签集合L；初始化堆叠自动编码器的权值矩阵W和偏移量b,
设置堆叠自动编码器网络结构,数据集合S3和S4被用来以无监督的方式预训练SAE网络；将光谱数据集合S1和S2分别作为预训练SAE网络的输入并进行网络参数的微调，分别完成根、叶片光谱数据与铅胁迫类别的深度学习模型SAE Model 1和SAE Model 2的构建；
对SAE Model 1和SAE Model 2模型网络层数是否相等进行判定，如果相同，直接进行T-SAE迁移学习；如果不相同，则需要对T-SAE迁移网络进行平移和扩展；
完成网络层数扩展后，完成根、叶片光谱数据和铅胁迫类别之间的T-SAE深度迁移学习模型构建，分别表示为T-SAE Model 1和T-SAE Model 2；T-SAE模型冻结网络的权重使用SAE模型的权重进行初始化，并使用来自目标域数据进行重新训练并实现参数微调，而T-SAE模型再训练网络中包含了新网络的深层特征层需要重新开始训练，包括再训练网络的权重随机初始化；
T-SAE Model 1模型迁移的方式为源域中预训练网络层的保存冻结状态，保留主模型中预训练网络层的权重，但未迁移源域中深度特征层；T-SAE Model 2模型迁移的方式为源域中输出层除外的网络层均保持冻结状态，保留主模型中预训练网络层和深度特征层的权重；此外，T-SAE Model 1和T-SAE Model 2均需要进行再训练以获得新网络的深度特征；
通过结合支持向量机算法，实现T-SAE Model 1和T-SAE Model 2逐层新网络的权重和偏置的确立，并通过对比T-SAE Model 1和T-SAE Model 2网络性能确立最佳的T-SAE深度迁移方案。
2.根据权利要求1所述的基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法，其特征在于，对T-SAE迁移网络进行平移和扩展的方法：
假设SAE Model 1网络层数为m，SAE Model 2网络层数为n，m<n；为了保持T-SAE迁移学习过程中SAE Model 1和SAE Model 2网络层数相同，需要保持SAE Model 1网络的深度特征层参数不变的前提下，将SAE Model 1网络层数从m层扩展到n层，其核心计算方法为：以SAE Model 1网络从第k层扩展到第k+1层为例，第k+1层第i节点Yi的计算公式如下：
其中，Xp为SAE Model 1网络第k层第p节点的值，ωij为SAE Model 1网络第k层第i节点到第k+1层第j节点的权重系数,bij为SAE Model 1网络第k层第i个节点到第k+1层的第j个节点的偏置，Sf为SAE Model 1网络的激活函数，i＝1,2,3,...,l；j＝1,2,3,...,l，l为SAEModel 1网络中深度特征层的节点数；
为保证SAE Model 1网络深度特征层参数不变，ωij取值和bij取值如下：
bij＝0
以SAE Model 1网络从第k层扩展到第k+1层的方法为参考，一直持续到将SAE Model 1网络层数从m层扩展到n层。
3.根据权利要求1所述的基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法，其特征在于，数据集合S1和S2中70％的数据作为训练集，用于调整数据集合S3和S4以无监督的方式预训练得到的SAE网络参数权值矩阵和偏移量；集合S1和S2中剩余30％的数据作为预测集，采用梯度下降算进一步微调SAE网络参数，使得模型输出与期望保持一致。
4.根据权利要求1、2或3所述的基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法，其特征在于，SAE Model 1和SAE Model 2的网络结构均包括预训练网络层、深度特征层和输出层。
5.根据权利要求4所述的基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法，其特征在于，采用一阶导数算法对植株根的ROI可见光-近红外光谱信息处理后放置于集合S1，采用标准归一化变换SNV对叶片ROI可见光-近红外光谱信息处理获得光谱数据集合S2。
6.根据权利要求4所述的基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法，其特征在于，分别从植株根和叶片的ROI可见光-近红外光谱信息中随机抽取20个25像素×25像素平均光谱数据，并进行预处理获得光谱数据集合S3和S4。
7.根据权利要求6所述的基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法，其特征在于，对植株根的ROI可见光-近红外光谱信息中随机抽取的平均光谱数据经过一阶导数算法处理后放置于集合S3；叶片的ROI可见光-近红外光谱信息中随机抽取的平均光谱数据经过SNV处理后放置于集合S4。
8.根据权利要求4所述的基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法，其特征在于，所述环境铅浓度水平标签集合L获取的方法为：采用原子吸收光谱法测定并评估根和叶片中重金属铅含量水平。
9.根据权利要求1所述的基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法，其特征在于，将整个植株根作为感兴趣区域，利用植株根与背景反射值差异最大的波长图像与植株根与背景反射值差异最小的波长图像作比，设定二值化分割阈值，对作比后图像进行阈值分割获取淹模图像，最后通过淹模图像获取去除背景后整个植株根ROI可见光-近红外光光谱。
10.根据权利要求1所述的基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法，其特征在于，将整个叶片作为感兴趣区域，利用叶片与背景反射值差异最大的波长图像与叶片与背景反射值差异最小的波长图像作比，设定二值化分割阈值，对作比后图像进行阈值分割获取淹模图像，最后通过淹模图像获取去除背景后整个叶片ROI可见光-近红外光光谱。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111610452.8A CN114359544B (zh) | 2021-12-27 | 2021-12-27 | 基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111610452.8A CN114359544B (zh) | 2021-12-27 | 2021-12-27 | 基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114359544A CN114359544A (zh) | 2022-04-15 |
| CN114359544B true CN114359544B (zh) | 2024-04-12 |
Family
ID=81100532
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111610452.8A Active CN114359544B (zh) | 2021-12-27 | 2021-12-27 | 基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114359544B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114998893B (zh) * | 2022-06-14 | 2023-05-02 | 江南大学 | 基于半监督迁移学习的食品品质无损检测模型构建方法 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104697943A (zh) * | 2014-11-10 | 2015-06-10 | 江苏大学 | 一种油菜水分胁迫的无损检测方法 |
| CN107064047A (zh) * | 2017-03-02 | 2017-08-18 | 兰州大学 | 一种基于近红外光谱的富士苹果品质无损检测方法 |
| CN108519339A (zh) * | 2018-03-26 | 2018-09-11 | 江苏大学 | 一种基于WT-LSSVR的叶片镉含量Vis-NIR光谱特征建模方法 |
| CN108760668A (zh) * | 2018-06-01 | 2018-11-06 | 南京林业大学 | 基于加权自动编码器的马尾松苗木根部水分快速测量方法 |
| CN109754017A (zh) * | 2019-01-09 | 2019-05-14 | 西北工业大学 | 基于可分离的三维残差网络和迁移学习高光谱图像分类方法 |
| CN110132865A (zh) * | 2019-04-03 | 2019-08-16 | 江苏大学 | 基于SAE-LSSVR农作物镉含量Vis-NIR光谱深度特征模型建立方法 |
| CN113705580A (zh) * | 2021-08-31 | 2021-11-26 | 西安电子科技大学 | 基于深度迁移学习的高光谱图像分类方法 |
-
2021
- 2021-12-27 CN CN202111610452.8A patent/CN114359544B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104697943A (zh) * | 2014-11-10 | 2015-06-10 | 江苏大学 | 一种油菜水分胁迫的无损检测方法 |
| CN107064047A (zh) * | 2017-03-02 | 2017-08-18 | 兰州大学 | 一种基于近红外光谱的富士苹果品质无损检测方法 |
| CN108519339A (zh) * | 2018-03-26 | 2018-09-11 | 江苏大学 | 一种基于WT-LSSVR的叶片镉含量Vis-NIR光谱特征建模方法 |
| CN108760668A (zh) * | 2018-06-01 | 2018-11-06 | 南京林业大学 | 基于加权自动编码器的马尾松苗木根部水分快速测量方法 |
| CN109754017A (zh) * | 2019-01-09 | 2019-05-14 | 西北工业大学 | 基于可分离的三维残差网络和迁移学习高光谱图像分类方法 |
| CN110132865A (zh) * | 2019-04-03 | 2019-08-16 | 江苏大学 | 基于SAE-LSSVR农作物镉含量Vis-NIR光谱深度特征模型建立方法 |
| CN113705580A (zh) * | 2021-08-31 | 2021-11-26 | 西安电子科技大学 | 基于深度迁移学习的高光谱图像分类方法 |
Non-Patent Citations (2)
| Title |
|---|
| 基于可见-近红外光谱的植物叶绿素含量无损检测方法研究;李庆波;黄彦文;张广军;张倩暄;李响;吴瑾光;;光谱学与光谱分析;20091215(第12期);全文 * |
| 基于高光谱图像技术结合深度学习算法的萝卜种子品种鉴别;杭盈盈;李亚婷;孙妙君;;农业工程;20200520(第05期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114359544A (zh) | 2022-04-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Bharadiya et al. | Forecasting of crop yield using remote sensing data, agrarian factors and machine learning approaches | |
| Ballesteros et al. | Vineyard yield estimation by combining remote sensing, computer vision and artificial neural network techniques | |
| CN110287944B (zh) | 基于深度学习的多光谱遥感影像的农作物虫害监测方法 | |
| Saito et al. | Towards a better understanding of biophysical determinants of yield gaps and the potential for expansion of the rice area in Africa. | |
| Niazian et al. | Image processing and artificial neural network-based models to measure and predict physical properties of embryogenic callus and number of somatic embryos in ajowan (Trachyspermum ammi (L.) Sprague) | |
| CN113221765B (zh) | 一种基于数字相机影像有效像元的植被物候期提取方法 | |
| CN113705937B (zh) | 一种联合机器视觉与作物模型的农田估产方法 | |
| CN109214591B (zh) | 一种木本植物地上生物量预测方法及系统 | |
| CN114359544B (zh) | 基于T-SAE农作物植株铅浓度Vis-NIR光谱深度迁移学习方法 | |
| Kasprzyk et al. | Hourly predictive artificial neural network and multivariate regression trees models of Ganoderma spore concentrations in Rzeszów and Szczecin (Poland) | |
| CN114563353A (zh) | 一种基于多源卫星遥感数据土壤热通量预测方法 | |
| Cui et al. | Estimating soil salinity under sunflower cover in the Hetao Irrigation District based on unmanned aerial vehicle remote sensing | |
| CN111680626A (zh) | 一种基于多层卷积神经网络的水环境遥感数据建模方法 | |
| Esfandiarpour-Borujeni et al. | Identifying soil and plant nutrition factors affecting yield in irrigated mature pistachio orchards | |
| Karkee et al. | Quantifying sub-pixel signature of paddy rice field using an artificial neural network | |
| Liu et al. | Integrating multiple vegetation indices via an artificial neural network model for estimating the leaf chlorophyll content of Spartina alterniflora under interspecies competition | |
| CN110132865B (zh) | 基于SAE-LSSVR农作物镉含量Vis-NIR光谱深度特征模型建立方法 | |
| Miao et al. | Crop weed identification system based on convolutional neural network | |
| CN112949681A (zh) | 基于卫星光谱的盐渍土电导率估算方法 | |
| CN113406030A (zh) | 一种基于卷积神经网络的哈密瓜农药残留鉴别方法 | |
| CN116883853B (zh) | 基于迁移学习的作物时空信息遥感分类方法 | |
| CN117132884A (zh) | 一种基于地块尺度的农作物遥感智能提取方法 | |
| Li et al. | Estimation of the net photosynthetic rate for waterlogged winter wheat based on digital image technology | |
| CN116151454A (zh) | 一种多光谱无人机预测矮林芳樟精油产量的方法及系统 | |
| CN115546179A (zh) | 基于优化模糊深度网络的林木胸径材积精准预测方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |